神戶忍者龜AI 近來的革新備受世界關注，不論是生成圖像、影像製作、智慧對話以及文書作業，現在越來越多人嘗試用這樣的新興科技，也出現了不少相關的爭議。
今日 ( 3/19 ) 美國資安公司 Proofpoint 日本分公司公開，日本某企業發生了一起疑似利用 AI 生成的假音聲，假冒社長指示部屬進行非法匯款的詐騙案件。這則新聞也震驚日本民眾，甚至也讓「社長の偽音声」登上 X 熱搜關鍵字。
▼ 「社長の偽音声」登上日本 X 趨勢熱搜關鍵字
根據媒體報導指出，2024 年 11 月，日本某製造企業的一名高層接到來電，電話中的「社長」語氣急促地說：「有一個緊急的企業併購案，請務必今天內將款項匯到指定帳戶，稍後會有律師聯繫你。」來電顯示的號碼與社長的手機號碼完全一致，這名高層與社長平時經常對話，當下並未起疑。約 1 小時半後，對方再次來電，催促：「大概什麼時候可以完成匯款？」。
連續三次致電讓高層起疑，後續聯繫社長成功後確認為詐欺案件交付律師處理，定調為詐欺案件。
▼ AI 語音詐欺關係圖。
不過這則新聞登上 X 趨勢後，卻不少網友想起了《名偵探柯南》的江戶川柯南不就是這樣嗎，利用阿笠博士開發的「蝴蝶結變聲器」到處變成他人的聲音，根本如出一轍阿 www，感覺又沒有...那麼遭了對吧 ( ? )
當然這還是讓人感嘆AI 這種技術被濫用甚至拿來犯罪混淆人們的視聽，也讓人困惑是否科技進步讓更多這種犯罪集團抓到契機來獲利，讓不少人感到恐懼。