AI技術の進化は、画像生成や映像制作、対話機能など、様々な分野で注目を集め、その活用法は日々広がっています。
しかし、X（旧Twitter）に実装されたAI「Grok」が、一部のユーザーによって悪用され、新たな迷惑行為の温床になっていると問題視されています。Grokは、X上で質問に答えたり、投稿された画像に対して指示を送ることで画像を編集できる機能ですが、この機能が悪用され、多くのコスプレイヤーが、自身の投稿写真のコメント欄で、Grokに悪意のある編集を指示される被害に遭っています。中には、ごく普通の写真を「もっと露出度の高い画像にして」といった、卑劣な要求も見られ、深刻な問題となっています。
コスプレイヤーの雪菜（@nikuyukina2）さんは、この悪質な嫌がらせ行為が横行していると警鐘を鳴らしています。心ないユーザーがリプライ欄でGrokを呼び出し、投稿された写真を勝手に性的・扇情的な内容に改変させているとのこと。注意を促しても、同様の行為を続けるユーザーが後を絶たず、いたちごっこの状態だと訴えています。
▼実際に、リプライ欄でGrokをタグ付けし、衣装の変更を指示するコメントが確認できます。
被害は国内にとどまらず、海外のユーザーからも「水着姿に変えて」といった要求が寄せられています。Grokが実際にその指示通りの画像を生成してしまうため、コスプレイヤーの方々は深刻な精神的苦痛を受けており、注意しても無視されるケースがほとんどで、悪質なハラスメントと化しています。
雪菜さんは、こうした状況が後を絶たないと指摘。「他人の投稿した写真を許可なくGrokで改変する行為は、非常に無礼で、リスペクトに欠ける」と強く非難しており、運営に報告しても被害が止まらない現状を訴えています。
実は、XのAI編集機能については、以前から多くのイラストレーターさんが、自身の作品が無断で改変されるのではないかと懸念を示していました。そして今、その矛先が実在の人物に向けられ、直接的な被害を生み出しているのです。
▼同様の被害は数多く報告されており、リプライ欄にはかなり露骨な要求が並んでいます…。
ネット上でのモラルなき言動が、GrokというAIツールによってさらに悪質化し、新たなハラスメントを生み出しているこの状況。X運営側による早急な対策が求められなければ、ユーザーの不信感と被害は拡大する一方でしょう…。