近年、AI技術の革新には目覚ましいものがあり、画像生成や動画制作、対話型AIに事務作業まで、その活用範囲は広がり続けています。しかしその一方で、さまざまな問題も浮上しています。
全国的にクマによる被害が深刻化するなか、宮城県女川町が昨日（11月26日）、公式Xで「クマの出没情報」を発信。しかし、その直後、情報提供された写真が「生成AIによって作られた偽画像」であったことが判明し、通報自体が誤りだったとしてネット上が騒然となりました。
事の発端は、女川町が26日午後に投稿した注意喚起でした。「25日午後7時ごろ、熊の目撃情報がありました」という文章と共に、暗闇の中を歩くクマの写真が添えられ、住民に注意を呼びかけていました。
しかし、その後の調査で、この写真がAIによって生成された偽物であることが判明。さらに厄介なことに、通報者自身もこの画像が偽物であることを見抜けず、本物だと信じて役場に通報していたのです。善意の市民でさえも、偽の画像や情報に簡単に惑わされてしまうという、AI時代の新たなリスクが浮き彫りになりました。
女川町はその後、謝罪文を投稿。最終的に「今回は誤報でしたが、熊の出没については引き続き高い警戒が必要です。今後も迅速かつ正確な情報提供に努めますので、住民の皆様も引き続き安全にご注意ください」と改めて注意を促しています。
一説によると、この偽画像はとあるグループチャット内で、メンバーの一人が「冗談で作った」ものだったそうです。ところが、それを見た別のメンバーが本物だと信じ込み、誤って通報してしまったとのこと。
この一連の騒動に、多くのネットユーザーからは怒りの声が上がっています。もちろん、安全を最優先しての通報であり、意図的にデマを流す悪質なケースとは異なります。しかし、今回より恐ろしいのは、悪意のない市民ですら真偽の判別がつかず、意図せずして偽情報の拡散者になってしまう可能性があるという点です。「面白半分で社会を混乱させるのはやめてほしい」「国はAIに関する法整備を急ぐべきだ」といった声も聞かれます。
災害時や緊急時における偽情報は、深刻な場合、犯罪に発展することもあります。過去には、2016年の熊本地震の際に「動物園からライオンが逃げた」というデマが拡散された事例がありました。この時、海外の写真を無断で使用して投稿した20代の男性が、偽計業務妨害の疑いで逮捕されています。
そしてこれは、決して他人事ではありません。生成AIが作り出す画像はますます精巧になっており、特に光量が少なかったり、画質が荒かったりする写真の場合、一般人はおろか、行政の担当者でさえも短時間で真偽を判断するのは困難です。
誰もがAIによる偽の画像や動画、情報に触れる可能性があり、そしてうっかり拡散に加担してしまうかもしれない——そんな時代を生きる私たちは、情報とどう向き合い、どう見極めていくべきか、改めて問われています。