Una importante empresa de desarrollo de IA enfrenta un escrutinio regulatorio por parte de las autoridades de California debido a la capacidad de su modelo de IA generativa para producir contenido explícito sintético. La investigación se centra en el posible uso indebido de la tecnología deepfake y plantea preguntas críticas sobre la moderación de contenido, los protocolos de seguridad para los usuarios y los límites del material generado por IA. Este caso destaca la creciente tensión entre la rápida innovación en IA y los marcos regulatorios diseñados para proteger a los usuarios de medios sintéticos dañinos.