Grokの性的搾取が9つの地域で注目される！イギリスが調査を開始、違法行為が判明すれば巨額の罰金の可能性

マスク傘下のGrokは、児童・青少年の性的搾取画像生成の疑いで、イギリスやオーストラリアを含む9つの主要地域の規制当局に注目されています。イギリスで違法と認定された場合、最高1,800万ポンドの罰金や裁判所命令によるブロック強制もあり得ます。

イギリス、Grokの児童性的搾取に関する調査、違法なら罰金1800万ポンドの可能性

マスク傘下のAIチャットボットGrokは、最近Xプラットフォームのワンクリックでリアルな画像に変更できる機能と連携したことで、深層偽造（Deepfake）によるポルノ画像の乱用が大量に行われていると報じられ、被害者には児童や青少年も含まれています。

最近、イギリスとオーストラリアは正式にXプラットフォーム（旧Twitter）に対して調査や警告を開始しており、違反が重大な場合、巨額の罰金や封鎖措置が科される可能性があります。

イギリス通信庁（Ofcom）はXに対して調査を開始し、調査の焦点は児童性的虐待コンテンツ（CSAM）や無断のDeepfakeポルノコンテンツです。

**もし調査でXが違法と認定された場合、イギリスでは最高1,800万ポンドまたは同社の世界売上高の10％の罰金が科される可能性があります。**Xが従わない場合、Ofcomは裁判所命令を求め、英国国内でのXプラットフォームのブロックを強制することもあり得ます。

図源：Ofcom 英国通信庁（Ofcom）はXとGrokに対して調査を開始し、調査の焦点は児童性的虐待コンテンツ（CSAM）と無断のDeepfakeポルノコンテンツです。

オーストラリアのサイバーセキュリティ局（eSafety）は、Grokによる性搾取画像の通報を複数受けており、数は少ないものの増加傾向にあります。Xに対してさらなる情報提供と、乱用防止策の説明を求めています。

eSafetyは違法行為があれば削除通知を出す権限を行使し、2026年3月9日から施行される新規則により、AIサービスによる児童のポルノや暴力コンテンツへのアクセス制限がより厳格化される予定です。

図源：eSafety オーストラリアサイバーセキュリティ局（eSafety）はXに対してさらなる情報提供と、乱用防止策の説明を求めています。

Grok性搾取論争に対する監視と調査地域の一目でわかる一覧

《Euro News》と以前の報道を総合すると、イギリスやオーストラリアを含め、現在9つの国と地域がGrokに対して措置を取っています（詳細は表を左右にスワイプしてください）：

Grokの有料門戸と永久停止

各国の規制圧力に対応し、XプラットフォームとxAIも対応を進めています。マレーシアの規制当局は、Xの回答としてGrokは主にユーザーの通報に依存して乱用コンテンツを処理していると述べています。争議を鎮めるために、Xはより積極的な措置を取る予定です。

Xプラットフォームは以前、「児童性虐待製品（CSAM）などの違法コンテンツに対して、アカウントの永久停止や必要に応じて政府・法執行機関と連携した調査を行う」と強調していました。

図源：X　Xプラットフォームは以前、「児童性虐待製品（CSAM）などの違法コンテンツに対して措置を講じる」と表明

また、Xは最近、Grokの画像改変機能の制限に対応し、サブスク会員（青いチェックマーク）だけが画像変更機能を使えるように新たに設定しました。

一部の意見では、XがGrokの悪用者に対して料金を徴収する可能性も指摘されており、**Metaの詐欺広告の確率は95％未満と低いものの、詐欺広告者が高額な広告費を請求しているのではないかとの疑念もあります。**また、完全に悪用を防ぐことは難しいが、利用の門戸を設けることは門戸を設けないよりも良いとの意見もあります。