ネット詐欺が後を絶たないなか、人工知能（AI）の発展とともに「ディープフェイク」と呼ばれる新たな詐欺手法が登場し、音声クローンツールを使った詐欺が極めて信憑性を帯びるようになっています。そのため、専門家でも真偽の判断が難しくなってきています。FBIやセキュリティ専門家は、すでに一般市民に対して警告を発し、家族や友人同士で「秘密の合言葉」をあらかじめ決めておくことで詐欺から身を守るよう呼びかけています。

『フォーブス』の報道によると、NordVPNのサイバーセキュリティ専門家アドリアナス・ウォーメンホーベン（Adrianus Warmenhoven）氏は、「電話詐欺師は音声クローンツールを使った詐欺をますます多用しており、こうしたソフトウェアは時間とともに、より手頃で高性能になってきています」と述べています。

ウォーメンホーベン氏によれば、よくある手口として「ディープフェイク音声を使って、ターゲットの家族になりすまし、緊急事態を装って金銭や個人情報をだまし取る」というケースが報告されています。

2024年10月に発表された報告書では、驚くべき統計が示されています。アメリカ国内だけで、過去12か月間に電話詐欺の被害者数は5,000万人を超え、被害者1人あたりの平均損害額は452ドルに達しました。

NortonとAvastのサイバーセキュリティ最高技術責任者シギ・ステファンソン（Siggi Stefnisson）氏は、「ディープフェイクはもはや識別が困難になっており、AI技術はますます複雑化していて、専門家ですら本物か偽物かの判別が難しくなってきている」と警鐘を鳴らしています。
 

欧州刑事警察機構とFBIがAI詐欺の脅威を警告

欧州刑事警察機構（ユーロポール）執行部長のキャサリン・デ・ボール（Catherine De Bolle）氏は、「AIは組織犯罪を根本的に変革しており、これまで以上に柔軟で危険なものになっている」と認めています。新技術を迅速に取り入れることで、詐欺の規模は拡大し、発見も困難になりつつあり、詐欺師たちは強力な攻撃手段を手に入れたといいます。

攻撃者は、従来の約2倍の速さで、複雑かつ信憑性の高いメッセージを作成でき、しかも自動的に内容を調整し、繰り返すたびにより本物らしくなっていきます。AIの活用により、犯罪者のコストも下がっているのです。

AI詐欺への対抗策について、デ・ボール氏は「彼らの資金源を断ち、サプライチェーンを破壊し、技術面でも先手を打つことが重要です」と強調しています。
 

FBIによるスマートフォン音声詐欺への対策提案

FBIもこのようなAI詐欺の攻撃に対して市民に警告を発しており、このテーマに特化した公共サービス警報（I-120324-PSA）を発表しています。FBIおよびサイバーセキュリティ専門家アドリアナス・ウォーメンホーベン（Adrianus Warmenhoven）氏は、「たとえ冷たく聞こえても、疑わしい電話は一度切り、家族や親しい友人だけが知っている『秘密の合言葉』をあらかじめ決めておくべきだ」と提案しています。

ウォーメンホーベン氏はさらに、SNSに投稿する内容にも細心の注意を払うよう呼びかけています。

「SNSはサイバー犯罪者にとって最大の公開音声リソースです」と同氏は警告し、誰もが自分の投稿内容に注意を払い、ディープフェイクや音声クローン、その他AIツールによる詐欺のリスクを常に意識すべきだと述べています。

携帯電話ユーザーを狙った複雑かつ危険なAI詐欺のリスクを軽減するために、FBIは「家族や親しい友人を名乗って金銭を要求する電話がかかってきた場合、すぐに通話を終了し、本人に直接連絡して真偽を確認する」ことを強く勧めています。

またFBIは、「親しい人だけが知っている秘密の単語やフレーズをあらかじめ決めておき、それを用いて、どれだけ本物らしく聞こえても、トラブルに巻き込まれたとする発信者の身元を確認する」よう警告しています。なぜなら、ディープフェイク電話はSNSなどに投稿された音声をAIツールで再構成し、詐欺師が入力した内容をターゲットの声で話させることができるからです。

（翻訳編集　里見雨禾）