AI技術の進化が目覚ましい昨今、画像生成、動画制作、対話AI、文書作成など、様々な分野で活用が進む一方で、それに伴う問題も浮上しています。
先日（3月19日）、米国のサイバーセキュリティ企業Proofpointの日本法人が発表したところによると、日本国内のある企業で、AIが生成した偽の音声を使って社長になりすまし、部下に不正な送金を指示する詐欺事件が発生したとのこと。このニュースは日本中で大きな話題となり、X（旧Twitter）では「社長の偽音声」がトレンド入りする事態に。
▼ 「社長の偽音声」が日本Xのトレンドワードに
報道によると、2024年11月、日本のとある製造業の幹部が電話を受けました。電話口の「社長」は、「緊急の企業買収案件がある。本日中に指定口座へ送金してほしい。後ほど弁護士から連絡がある」と、かなり焦った様子で指示したといいます。着信番号は社長の携帯電話と全く同じ。普段から社長と頻繁にやり取りしている幹部は、その場では全く疑いませんでした。約1時間半後、再び相手から電話があり、「送金はいつ頃になりそうか？」と催促されたそうです。
立て続けの電話に不審を抱いた幹部が、改めて社長本人に連絡を取ったところ、詐欺であることが判明。現在は弁護士を通じて対応を進めているとのことです。
▼ AI音声詐欺の関係図。
しかし、このニュースがXのトレンド入りすると、多くのネットユーザーが『名探偵コナン』の江戸川コナンを連想。「これって、阿笠博士が開発した『蝶ネクタイ型変声機』で色んな人の声真似してるコナンくんじゃん！」「まさかのコナンくん案件www」といったツッコミが殺到しました。なんか、ちょっとだけ親近感湧いちゃった...って人もいるかも？（ないか）
とはいえ、AI技術の悪用によって、人の声を偽装して犯罪に利用されるというのは、やはり恐ろしい話。技術の進歩が、新たな犯罪の温床となる可能性に、多くの人が不安を感じています。