ディープフェイク対策｜企業が備える予防・検知・対応の3層

ディープフェイクは、ディープラーニング（AIの学習手法の一つ）と「フェイク」を組み合わせた言葉で、実在しない映像・音声・画像を本物らしく作る技術を指します。総務省の令和6年版 情報通信白書も、ディープフェイクによる情報操作や犯罪利用が世界各国で増加していると指摘しています。偽物を作る技術と見破る技術は、片方が進めばもう片方が追いかける「いたちごっこ」になりやすく、見破るだけの対策には限界があります。

企業にとってのリスクは、大きく3つに分けられます。

• なりすまし詐欺：経営者や取引先の顔・声をまねて、送金や機密情報の提供を指示する
• ブランド毀損：経営者や社員が言っていないことを言わせる偽動画が拡散し、信用が傷つく
• 偽広告：自社の名前・ロゴ・経営者の顔を無断で使った投資勧誘などの広告が出回り、消費者が被害を受ける

背景にあるのは、作るためのコストが劇的に下がったことです。経営者のインタビュー動画や決算説明会の映像、登壇時の音声など、企業がこれまで積極的に公開してきた素材が、そのまま偽物を作る材料になりえます。

ここからは、実際に報道された事例を見ていきます。共通するのは、「顔を見た」「声を聞いた」が本人確認として通用しなくなったことです。

香港：偽のビデオ会議で約2億香港ドルを送金（Arup）

英国の設計・エンジニアリング会社Arupの香港拠点の社員が、英国本社のCFO（最高財務責任者）や同僚が参加しているように見えるビデオ会議に招かれ、指示に従って送金した事件です。参加者は全員ディープフェイクで、送金額は約2億香港ドル（約2,560万米ドル）にのぼりました。香港警察は2024年2月に社名を伏せて事件を公表し、同年5月にArupが自社の被害であることを認めています。報道によれば送金は15回、5つの口座に分けて行われ、犯人は公開されている映像を素材にしたとみられています（CNN、South China Morning Post）。

この事件で重要なのは、社員が最初は不審に思っていたにもかかわらず、知っている顔と声が並ぶ会議を見て安心してしまった点です。ビデオ会議は、メールよりも「本人確認ができている」と感じやすいぶん、かえって危険になりえます。

英国：WPPのCEOを装った会議への誘い出し（未遂）

2024年5月には、世界最大級の広告グループWPPで、CEOの公開写真を使ったメッセージアカウントから幹部がオンライン会議に誘い出され、AIで複製した音声などを使って、新規事業の立ち上げを口実に資金や個人情報を引き出そうとする試みがあったと報じられました。社員の警戒によって未遂に終わったとされています（TechRadar）。

イタリア：CEOの声をまねた電話を「質問」で見破る（Ferrari）

2024年7月には、Ferrariの幹部に、CEOを名乗るメッセージがいつもと違う番号から届き、続く電話ではCEOのアクセントまでまねた音声が使われました。不審に思った幹部が「数日前に薦めてくれた本の題名は？」と尋ねたところ、相手は電話を切ったと報じられています（Fortune（Bloomberg配信））。

国内：ニセ社長詐欺と、なりすまし偽広告

国内では、映像や音声の偽造に限らず、経営者になりすまして社員に送金させる手口が問題になっています。警察庁は2026年2月、経営者を装ったメールで「新しいプロジェクトのため」などとSNSグループを作らせ、口座残高を聞き出したうえで送金を求める「ニセ社長詐欺」について注意を呼びかけました（警察庁「法人を対象とした詐欺（ニセ社長詐欺）に注意！」）。現時点では文字のやり取りが中心ですが、ここに偽の音声や映像が加われば、だまされる確率はさらに上がります。

また、著名人の名前や写真を無断で使った投資勧誘のなりすまし偽広告も大きな問題になりました。2024年5月には、実業家の前澤友作氏が、なりすまし広告をめぐってSNS運営会社を提訴したと報じられています（弁護士ドットコムニュース）。経営者の顔や名前が知られている企業ほど、同じ被害を受ける可能性があります。

ディープフェイクそのものを直接取り締まる包括的な法律は、2026年10月時点で日本にはありません。ただし、関連する制度や行政の取り組みは少しずつ整ってきています（出典：総務省 偽広告への対応要請／総務省 情報流通プラットフォーム対処法／内閣府 AI法の全面施行／総務省 実証事業の成果報告書／警察庁 ニセ社長詐欺）。

海外では、EUのAI法（AI Act）が、ディープフェイクであることを明確に表示する義務などを含む透明性のルールを定めており、このルールは2026年8月2日から適用されています（既存の生成AIシステムの機械可読な表示には2026年12月までの経過措置があると報じられています）。EU域内で広告や動画を配信する企業は、自社が生成AIを使う側として、この表示ルールにも目を配る必要があります。

ディープフェイク対策というと、偽物を見破る検知ツールに目が向きがちです。しかし、前述のとおり、生成技術と検知技術はいたちごっこになりやすい関係です。「見破れなくても被害にならない」予防の層を土台に置き、その上に検知と対応を重ねるのが現実的な設計です。

第1層の「予防」は、だまされても実害にならない仕組みをつくることです。

予防の中心は、送金と情報提供のルールです。技術的な対策より先に、業務の手順で守ることができます。

送金承認フローを「経路」で守る

• 別経路での確認：メール・チャット・ビデオ会議で受けた送金指示は、あらかじめ登録してある電話番号へ折り返すなど、指示を受けたのとは別の経路で本人に確認する
• 複数人承認：一定額以上の送金や、新しい振込先への送金は、複数人の承認を必須にする
• 例外を作らない：「社長の指示なら例外」を許さない。経営者自身がこのルールに従うと宣言しておくと、現場が断りやすくなる

米国のFBIも、米政府高官になりすます手口への注意喚起の中で、相手の身元を自分で調べ、自分が知っている番号へ折り返して確認することや、家族の間で本人確認のための合言葉を決めておくことを勧めています（FBI IC3 注意喚起（2025年5月））。

「赤信号」の言葉を社内で共有する

なりすましの手口には共通点があります。「至急」「内密に」「いつもと違う連絡手段」「新しい口座」「業務で使わないSNSへの誘導」。これらがそろったら、相手が誰であっても手を止める、というルールを全社員に周知します。

公開している素材を見直す

経営者の発信は企業のブランドにとって重要で、すべてを止める必要はありません。ただし、長時間のクリアな音声や正面からの映像は、複製の素材として使われやすくなります。公開の目的に照らして、必要以上に素材を出していないかを一度見直しておくと安心です。

自社名・役員名の定点監視

偽広告やなりすまし動画は、自社の名前や経営者の名前を使って出回ります。SNSの広告ライブラリや動画サイトで、自社名・ブランド名・役員名を定期的に検索する担当を決めておくだけでも、発見までの時間は大きく縮まります。顧客や取引先からの「これは本物ですか？」という問い合わせを受け付ける窓口を用意しておくことも、早期発見につながります。

検知ツールは「補助」として使う

映像や音声が合成されたものかを判定するツールは国内外で開発が進んでおり、総務省も検知技術の開発・実証を支援しています。ただし、新しい生成技術が出るたびに精度は揺らぐため、「ツールが本物と判定したから安全」とは考えないことが重要です。判定結果は、予防の層で決めた確認手順を省略する理由にはなりません。

来歴情報（C2PA）で「本物の目印」をつける

偽物を見破る発想とは逆に、自社の本物に「誰が作り、どう編集したか」の記録をつける方法もあります。C2PAは、デジタルコンテンツの出所と編集履歴をたどれるようにする技術標準で、「Content Credentials（コンテンツ認証情報）」と呼ばれる仕組みを提供しています。運営委員会にはAdobe、Google、Microsoft、OpenAI、Sonyなどが名を連ねています。国内でも、Webの発信者情報を検証できるようにする「オリジネーター・プロファイル」の取り組みが進んでいます。

あわせて、公式サイトに自社の公式SNSアカウントの一覧を掲載し、「当社の役員が個人に投資を勧誘することはありません」といった注意書きを出しておくと、顧客が本物と偽物を見分ける手がかりになります。

偽物を見つけたときに、誰が何をするかが決まっていないと、対応は遅れ、被害は広がります。最低限、次の手順を1枚にまとめておきましょう。

声や肖像の無断利用に関する権利の考え方はAI音声と肖像権・パブリシティ権で詳しく解説しています。

ディープフェイク対策は「守る」話だけではありません。広告や動画制作で生成AIを使う企業は、自社の制作物が意図せず「偽物」と受け取られないように注意する必要があります。

• 実在人物の声・顔は、同意の範囲内で使う：自社の経営者や社員であっても、AIで声や顔を再現する場合は、用途・期間・範囲を書面で合意しておく
• AIで作ったことを適切に表示する：実在の人物が本当に話しているように見える表現は、視聴者の誤解を招きます。EUのように表示を義務づける地域もあります
• 「本物の目印」を自社の発信にもつける：来歴情報を付けられるツールを選ぶと、自社の発信の信頼性を説明しやすくなります
• 実在人物に似たAIモデルに注意する：架空の人物のつもりでも、特定の有名人に似ていれば誤解やトラブルの原因になります

AIで生成した人物を広告に使う際の考え方はAIモデルを使った広告の事例、広告での生成AI活用の全体像は生成AIの広告活用で紹介しています。

• ディープフェイクは、送金詐欺・ブランド毀損・偽広告として企業を直接狙うリスクになった
• 海外では偽のビデオ会議による多額の送金被害が報じられ、国内でもニセ社長詐欺や偽広告への対応が進んでいる
• 対策は予防・検知・対応の3層。土台は、別経路での確認と複数人承認による送金ルール
• 検知ツールは補助。来歴情報や公式アカウント一覧で「本物の目印」をつける発想も有効
• 自社がAIを使う側としては、同意と表示のルールを先に決める

参考にした主な情報源：CNN（Arup事件） ／ Fortune（Ferrari事例） ／ 警察庁「ニセ社長詐欺に注意」 ／ 総務省「なりすまし型偽広告への対応に関する要請」 ／ 総務省「情報流通プラットフォーム対処法」 ／ 総務省「令和6年版 情報通信白書」 ／ 総務省 偽・誤情報対策技術の実証事業 成果報告書 ／ C2PA ／ FBI IC3

※ 本記事は一般的な情報提供であり、法的助言ではありません。個別の案件については弁護士等の専門家にご確認ください。記載は2026年10月時点の情報です。