Uma grande empresa de desenvolvimento de IA está a enfrentar escrutínio regulatório por parte das autoridades da Califórnia devido à capacidade do seu modelo de IA generativa de produzir conteúdo explícito sintético. A investigação centra-se no potencial uso indevido de tecnologia deepfake e levanta questões críticas sobre moderação de conteúdo, protocolos de segurança do utilizador e os limites do material gerado por IA. Este caso destaca a crescente tensão entre a rápida inovação em IA e os quadros regulatórios concebidos para proteger os utilizadores de mídia sintética prejudicial.