この記事、最初に結論だけ。
「自分の写真を自分で編集する」なら便利。でも、“他人の写真を本人の同意なく性的に加工して貼り付ける”は、倫理的にアウトなのはもちろん、日本でも普通に“訴えられる／捜査になり得る”領域に入ってきます（一般論として。法律に詳しくはないですが）。
そして今の厄介さは、X上でこの行為がワンアクションで成立しやすいこと。コミケ時期で自撮り・コスプレ投稿が増えたタイミングとも重なり、日本でもかなり騒然となっています（SNS上の注意喚起が急増）。
何が追加された？（12月下旬〜年末に広がった“画像を編集”機能）
Xで、生成AI「Grok」を使って画像を編集できるようになりました。ポイントは、自分が投稿した画像だけでなく、公開投稿の画像にも“編集”できてしまうところです。
- Xの新機能として「画像を編集」ボタン（Web）や、アプリ側でも編集機能が確認され、物議になっています。
- 海外でも同様に、公開投稿の画像を“誰でも編集できてしまう”ことが問題視されています。
※UIや提供範囲はアカウント・地域・時期で差が出るので、この記事では「出る場合がある」に留めます。
なぜ炎上した？（ここが“写真編集”と決定的に違う）
炎上のポイントはわりとシンプルです。
- 本人の同意なしに、第三者が他人の写真を改変できる
- 改変が性的な方向に寄ると、被害は“嫌がらせ”を超える
- しかも、元の投稿者に通知されないと指摘されている（報道・検証で話題）
僕も確認しましたが、女性や未成年に見える対象の画像が“薄着化・性的化”される例が大量に見つかりました。
日本では「コミケ時期」と重なって被害が増幅した
ここは肌感覚でも分かりやすいところで、年末年始はコミケも含めて、
- 自撮り
- コスプレ写真
- イベント現地の写真
が一気に増えます。そのタイミングで、画像編集が“誰でもできる”ようになってしまった。
結果として、自撮りやコスプレ写真が標的になり、勝手にセンシティブ加工→リプ欄に貼られるという形の被害報告・注意喚起がSNS上で急増しています（SNS上のまとめ・トレンドで可視化）。
※個別事例は真偽や切り分けが難しいので、この記事では「現象として注意喚起が急増している」までに留めます。
訴えられるリスクはある？（一般論：かなりある）
ここは法律相談ではなく一般論として書きます。
民事：損害賠償・削除・差止めのリスク
- 肖像権／プライバシー侵害（勝手に使われ、本人が望まない形で拡散）
- 名誉毀損（その人が“そういう画像”だと誤認され社会的評価が下がる）
- 対象が写真・イラスト等の創作物なら 著作権（翻案など）も絡み得る
刑事：投稿・拡散の態様次第でラインを踏む
- 名誉毀損罪は「公然性」「事実の摘示」などの要件で議論されます（ネットは公然性が認められやすい、という整理が多い）。
- 露骨な内容の拡散は、わいせつ関連の問題にもつながり得ます。
- そして最重要：未成年が絡む疑いがある場合は、最悪の領域（児童性的虐待コンテンツ＝CSAMは違法・禁止という前提が各国で強い）。
「AIが作ったから」「偽物だから大丈夫」では済まない可能性が高い、というのが僕の理解です（ここは個別事情で変わるので断定はできませんが）。
xAI / Xの対応はどうなりそう？（“報道時点”で言える範囲）
ここは推測で煽りたくないので、「いま出ている情報」だけ。
- Grok（xAI）は、セーフガードに不備があった旨を述べ、修正を急いでいる、という趣旨の投稿が報じられています（CSAMは違法で禁止、と明言）。
- 海外では、当局や規制側に持ち込まれている動きも報じられています。
今後“何が入るか”は断言できません。ただ一般に、こういう問題が表面化するとプラットフォームが取りがちな手は、
- 非同意の性的加工（nudify等）を強くブロックするフィルタ強化
- 未成年に見える対象への編集を保守的に止める
- 通報→迅速削除、再投稿の抑制
- 編集された側の通知／オプトアウト（編集拒否）導入
あたりです。ここは“願望”ではなく「よくある対策パターン」の話として置いておきます。
まとめ：便利さとリスクは表裏
Grokの画像編集は、自分の写真を整える用途なら便利です。でもXの中で手軽に使えるぶん、他人の投稿画像も編集できてしまい、一法的な性的加工のような悪用が起きやすくなりました。これは倫理の問題にとどまらず、日本でも肖像権・プライバシー・名誉毀損などで民事の責任を問われ得ますし、内容や拡散の仕方によっては刑事の領域に入る可能性もあります。特に未成年が絡む疑いが出た時点で、危険度は一気に跳ね上がります。
年末のコミケ時期は自撮りやコスプレ投稿が増えるため、被害が目立ちやすいタイミングでした。だからこそ、使う側は安全な用途に寄せる意識が必要だし、xAI/X側も非同意の性的加工を強く止めるガードレールや、通報・削除の迅速化など、実害に追いつく対応が求められると思っています。