米商品先物取引委員会（CFTC）と連邦捜査局（FBI）は、犯罪者が生成AI技術を悪用して詐欺行為を行うケースが増加していると警告している。生成AI技術の普及により、偽の画像、音声、動画、ライブストリーミング、SNSプロフィール、金融取引プラットフォームを装った悪意のあるウェブサイトの作成が容易になっている。
FBIによると、生成AIは詐欺師が標的を欺くために必要な時間と労力を削減し、詐欺の信憑性を高めている。この技術は特に恋愛投資詐欺などの手口に活用されており、被害が拡大している傾向にある。
犯罪者はAI生成テキストを使用して、ソーシャルエンジニアリング、スピアフィッシング、恋愛詐欺、投資詐欺などの金融詐欺を実行している。AIツールは言語翻訳を支援し、文法やスペルミスを修正することで、過去なら疑念を抱かせていた要素を排除する。
また、犯罪者はAIを使用して、偽のデートサイトやSNSプロフィール用の現実的な画像を作成している。詐欺計画を支援するために政府や金融機関の文書を偽造し、「実在の人物」であることを「証明」するための説得力のある写真や動画を生成しているケースも報告されている。
音声面では、犯罪者は著名人や個人の関係者を装うためにAI生成音声を使用している。例えば、危機的状況にある親族を装い、即時の金銭的援助やランサムを要求するための短い音声クリップを生成するケースがある。
最新技術ではリアルタイムのビデオチャットも改変可能となっている。犯罪者はスマートフォンアプリやオープンソースソフトウェアを使用して、外見を変えたり、顔の特徴を変更したりできる。
FBIとCFTCは自己防衛策として、画像や動画の歪んだ手や不完全な部分を注意深く観察することや、SNSアカウントのプライバシー設定を厳格にし、知らない人からのメッセージに応答しないことを推奨している。
また、オンラインや電話でのみ知り合った人に暗号資産やその他の資産を送らないこと、家族との間で本人確認用の秘密の言葉やフレーズを作成することも勧めている。
なお、日本の金融庁も同様の問題に関する注意喚起を公開している。「SNSやマッチングアプリを通じた投資勧誘」「著名人を騙るSNS広告による投資詐欺」の相談が多く寄せられているという。
金融庁の報告によれば、日本での詐欺はLINEグループに誘導するケースが多い。グループ内で特定銘柄の投資勧誘が行われ、一時的に利益が出たように見せかける手口が横行しているという。
