Sebuah perusahaan pengembangan AI besar menghadapi pengawasan regulasi dari otoritas California terkait kemampuan model AI generatif mereka untuk menghasilkan konten eksplisit sintetis. Penyidikan ini berfokus pada potensi penyalahgunaan teknologi deepfake dan menimbulkan pertanyaan penting tentang moderasi konten, protokol keselamatan pengguna, dan batasan materi yang dihasilkan AI. Kasus ini menyoroti ketegangan yang semakin meningkat antara inovasi AI yang cepat dan kerangka regulasi yang dirancang untuk melindungi pengguna dari media sintetis yang berbahaya.