AI生成ディープフェイクの87％がGrok由来！深刻な性的画像被害と規制強化の波 / NoBoNoBoN

米国のディープフェイク検出企業Resemble AIが発表した2026年上半期レポートにおいて、攻撃元を特定できたディープフェイクファイルの実に87％をイーロン・マスク氏率いるxAIの生成AI「Grok」が占めていることが判明し、テック業界や規制当局に大きな衝撃を与えています。

AI生成ディープフェイクの87％が「Grok」、6件に1件は性的画像との調査結果 | Gadget Gate

Resemble AIの2026年上半期レポートによると、AIディープフェイク攻撃の87％をGrokによる生成物が占めていたという。さらに6件に1件は同意のない性的画像に関連しており、欧州委員会をはじめ各国当局がXおよびGrokへの監視と精

この異常な数値が記録された最大の理由は、Grokがソーシャルメディア「X」と緊密に連携した大衆向けツールでありながら、実在人物の写真から衣服を消したり性的な加工を施したりするプロンプトに対するセーフティガード（安全制御）が極めて緩く放置されていたためです。

具体的な被害として、確認された被害者数は1万5,736人に上り、821件の攻撃のうち約6件に1件（137件）が同意のない性的画像（NCII）を含んでいました。Ashley St. Clair氏による提訴やカリフォルニア州での集団訴訟に加え、欧州委員会や英国、オーストラリア当局がXに対する本格的な調査へ乗り出す事態に発展しています。

自由な表現を過度に優先した結果として深刻な人権侵害を招いた今回の実態は、生成AIプラットフォームが果たすべき社会的責任の重さと、世界的な法規制や検出技術の義務化が急務であることを如実に物語っています。

ネット上の声5選

87％という圧倒的な割合に衝撃を受け、安全対策を軽視した結果の必然であると厳しく批判する声。
Xのタイムライン上で誰でも簡単に画像加工ができてしまう環境が、犯罪的なディープフェイクのハードルを下げてしまったと指摘する意見。
未成年や実在人物に対する同意のない性的画像の生成は明らかな人権侵害であり、運営側の法的責任追及は当然とする反応。
表現の自由を掲げるマスク氏の方針が裏目に出て、結果として世界各国でのAI規制強化を急速に早める契機になったと分析する見解。
生成AIの急速な進化スピードに対してプラットフォームの安全基準や検出技術が追いついていない現状に強い危機感を募らせる声。

（※引用ではなく、Web上で目立った論調・感想をまとめたものです）

Grok の豆知識5選

SF作家ロバート・A・ハインラインの小説『異星の客』に登場する火星人の言葉「grok」に由来しています。「完全に深く理解する」「共感する」という意味を持ち、人間社会や宇宙の本質を深く理解する究極のAIを目指すというイーロン・マスク氏の思想が反映されています。
イーロン・マスク氏が共同創業者だったOpenAIを離脱後、過度な規制や商業主義に対抗するために2023年に設立したxAI社によって開発されました。「最大限の真理を探求するAI」をコンセプトに掲げ、既存の生成AIとは異なる自由度の高い対話モデルとして誕生しました。
ソーシャルプラットフォーム「X」と直接統合されており、投稿された世界中の最新ポストやトレンドデータをリアルタイムで参照できる点が最大の特徴です。他の主要AIが苦手とするリアルタイムの時事問題や突発的なニュースに対しても即座に回答することが可能です。
『銀河ヒッチハイク・ガイド』に影響を受けており、ユーザーの質問に対して皮肉やブラックユーモアを交えて回答する「ファンモード」を備えています。一般的なAIが回答を避けるようなきわどい話題にもウィットに富んだ切り返しを行う独自の個性を持っています。
米国テネシー州メンフィスに構築された超巨大スーパーコンピューター「Colossus」上でトレーニングが行われています。10万基以上のNVIDIA製H100 GPUを連結させた世界最大級の計算基盤により、驚異的な処理速度と大規模モデルの急速な進化を実現しています。