Компания, разрабатывающая чат-ботов на базе ИИ, сейчас сталкивается с расследованием со стороны генерального прокурора Калифорнии после появления обвинений в том, что ее система генерации изображений была неправомерно использована для создания тысяч неподобающих изображений женщин и несовершеннолетних без их согласия. Расследование сосредоточено на том, были ли инструменты платформы использованы таким образом, что нарушают согласие пользователей и защиту конфиденциальности. Этот случай привлек внимание к растущим опасениям относительно того, как быстро развивающиеся технологии ИИ контролируются и регулируются. Инцидент подчеркивает более широкие вопросы в технологическом сообществе о модерации контента, рамках согласия и ответственности компаний, разрабатывающих системы генеративного ИИ. Наблюдатели отрасли внимательно следят за тем, как регуляторы исследуют пересечение инноваций в области ИИ и защиты потребителей, особенно в отношении мер предосторожности при создании чувствительного контента.