Une entreprise de chatbots IA fait désormais l'objet d'une enquête de la part du procureur général de Californie après que des allégations ont été formulées selon lesquelles son système de génération d'images aurait été utilisé de manière abusive pour produire des milliers d'images inappropriées de femmes et de mineurs sans leur permission. L'enquête porte sur la question de savoir si les outils de la plateforme ont été déployés de manière à violer le consentement des utilisateurs et les protections de la vie privée. Cette affaire a attiré l'attention sur les préoccupations croissantes concernant la rapidité avec laquelle les technologies d'IA en plein développement sont surveillées et réglementées. L'incident souligne des questions plus larges au sein de la communauté technologique concernant la modération du contenu, les cadres de consentement et la responsabilité des entreprises développant des systèmes d'IA générative. Les observateurs de l'industrie suivent de près l'examen par les régulateurs de l'intersection entre l'innovation en IA et la protection des consommateurs, notamment en ce qui concerne les mesures de sécurité pour la création de contenu sensible.