AIの進化により、ディープフェイク（AIで生成された偽造コンテンツ）による詐欺は今後も増えると予測されています。企業にとって、いまや「信用や資産を失う要因」のひとつです。

本記事では、ディープフェイク技術の現状と実際に起きた被害事例を掲載しているほか、ディープフェイクによる偽造・改ざんを検知し、自社のデジタルコンテンツが「本物」だと証明する方法を解説しています。

そもそもディープフェイクとは？

ディープフェイク（Deepfake）とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語です。人工知能（AI）技術を用いて、実在する人物の顔や声、身振りを驚くほど精巧に合成・改ざんする技術、またはそれによって作られたコンテンツを指します。

元々は高度な映像編集やエンターテインメントの分野で発展した技術ですが、現在ではそのリアルさゆえに、悪意を持った偽情報の拡散や詐欺行為の道具として悪用されるケースが急増し、社会的な脅威となっています。

ディープフェイクを見分けるポイントと対策

ディープフェイクの品質は年々向上しており、人の目や耳だけで偽物だと断定することは難しくなっています。しかし、映像や音声の不自然な点、発信元、依頼内容などを複数の観点から確認することで、なりすましに気づける可能性があります。

特に、送金や機密情報の共有などを求められた場合は、映像や音声が自然に見えても、すぐに対応しないことが重要です。

画像・動画で確認するポイント

ディープフェイクによって生成・加工された画像や動画には、顔の輪郭や口元、背景などに不自然な部分が現れることがあります。

以下のような点が見られる場合は、ディープフェイクの可能性を疑いましょう。

• 口の動きと音声のタイミングが合っていない
• 顔の輪郭や髪、眼鏡の周辺にゆがみやぼやけがある
• 顔の向きが変わった瞬間に映像が乱れる
• 光の当たり方や影の方向が背景と一致していない
• 肌の質感や表情の変化が不自然に見える
• 手や物が顔の前を横切った際に映像が崩れる

ただし、これらの特徴が見られないからといって、本物だと判断できるわけではありません。投稿元が公式アカウントか、同じ内容が企業の公式サイトにも掲載されているかなど、コンテンツの発信元もあわせて確認しましょう。

音声で確認するポイント

音声によるディープフェイクでは、経営者や上司、取引先などの声を再現し、送金や情報開示を求める手口が想定されます。

次のような特徴がある場合は注意が必要です。

• 抑揚や息継ぎ、話す間が不自然である
• 普段とは異なる言葉遣いや呼び方をしている
• 会話の内容に対する返答がかみ合わない
• 「至急」「極秘」など、緊急性や秘密保持を強調している
• 通常の承認手続きを省略するよう求めてくる
• 指定された口座への送金や認証情報の共有を要求してくる

音声そのものだけでなく、依頼内容が通常の業務フローから外れていないかを確認することも重要です。

別の連絡手段で本人に確認する

経営者や取引先を名乗る相手から重要な指示を受けた場合は、その通話やWeb会議の中だけで本人確認を完結させないようにしましょう。

一度連絡を終了し、社内名簿に登録されている電話番号や普段使用している社内チャットなど、別の連絡手段から本人に確認しましょう。相手から提示された電話番号やURLは、攻撃者が用意したものである可能性があるため、使用は避ける必要があります。

送金や契約、機密情報の開示に関する依頼については、本人確認に加えて、複数人による承認を必須にすることも有効です。

見聞きした情報だけでディープフェイクと断定しない

画像・動画・音声に違和感があっても、それだけでディープフェイクだと断定することは困難です。反対に、不自然な点が見つからなくても、精巧に生成されたディープフェイクである可能性があります。

そのため、以下の方法を組み合わせて確認することが重要です。

• 発信元や公開日時を確認する
• 企業の公式サイトや公式SNSと照合する
• 別の連絡手段で本人確認を行う
• 社内の情報セキュリティ部門へ相談する
• 必要に応じてディープフェイク検知ツールを利用する

「映像に本人が映っている」「本人と同じ声が聞こえる」という理由だけで信用せず、発信元・依頼内容・承認経路を含めて総合的に判断しましょう。

ディープフェイクによる企業の
被害事例

ディープフェイクで上司や同僚に成りすまし、多額の損失を生んだ被害事例を紹介します。

親会社CEOの偽装音声で
2,600万円の被害

2019年、イギリスのエネルギー企業が、親会社CEOを名乗るAI音声に騙され、約2,600万円を送金する事件が発生しました。声の調子や話し方が本物そっくりで、被害者は疑うことなく送金を実行。2回目の送金依頼で不審に感じて確認したことで詐欺が判明しました。音声がネットに出回る経営層は、ディープフェイクの標的になりやすいと警鐘が鳴らされています。

CFOと同僚を偽造した映像で
38億円の被害

2024年、香港の多国籍企業で、CFOや同僚を偽装したディープフェイク映像による詐欺が発生。会計担当者は偽のビデオ会議を信じ込み、38億円を送金してしまいました。映像は本物そっくりに作られた偽物で、後に詐欺と判明。信頼関係を逆手に取った巧妙な演出が、企業の重大な財務リスクに直結することを示した事例です。

ディープフェイクが企業に与えるリスクと危険性

自社のディープフェイクが出回ったり、社内が攻撃の標的になったりした場合、広報・法務・セキュリティ担当者は非常に深刻な事態に直面します。企業が備えるべき危険性は、大きく以下の3つの観点に分類されます。

1. セキュリティの脅威（なりすまし詐欺の高度化）

経営層や取引先の「声」や「顔」を完全に模倣したディープフェイクは、サイバー攻撃や金融詐欺の強力な武器になります。従来の「電話の声で本人だと判断する」「Webカメラの映像で確認する」というセキュリティ対策が通用しなくなるため、重要な機密情報の漏洩や、多額の不正送金被害に直面するリスクが極めて高くなります。

2. 偽情報の拡散による社会的影響（ブランド毀損・株価暴落）

「自社の製品に重大な欠陥がある」という偽の検証動画や、「経営陣が差別的な発言をしている」といった偽の音声がSNS等で拡散された場合、その影響は一瞬で広がります。たとえそれが偽物であっても、一度「炎上」してしまえば消費者の信頼を失い、株価の暴落や不買運動など、企業の存続に関わる長期的なダメージ（ブランド価値の失墜）に繋がりかねません。

3. プライバシーリスクと内部統制の崩壊

従業員の顔や声を無断で使用したディープフェイクが作成され、名誉毀損や嫌がらせ（ハラスメント）に悪用されるリスクも存在します。また、従業員が冗談半分や個人的な目的で同僚のフェイクコンテンツを作成・共有した場合、企業としての管理責任やハラスメント防止義務違反を問われ、社内の人間関係の崩壊だけでなく、法的な訴訟問題に発展する危険性もあります。

ディープフェイクに関する法律や規制の現状

ディープフェイクの悪用に対して、法的な規制はどうなっているのでしょうか。実は、技術の進化スピードが速すぎるため、「ディープフェイクの作成・利用そのものを一律で禁止する」という直接的な法律は、日本を含め世界的にまだ発展途上の段階にあります。しかし、悪用の内容や方法に応じて、既存の法律によって厳しく処罰される仕組みが整っています。

悪用した際に問われる主な刑事責任

他人のディープフェイクを無断で作成・公開し、実害を与えた場合は、主に以下の罪に問われる可能性が極めて高いです。

• 名誉毀損罪（刑法230条）：事実または虚偽の内容を公然と示し、本人の社会的評価を低下させた場合。
• 業務妨害罪（刑法233条・234条）：偽の情報を流して企業の業務を妨害したり、問い合わせ対応に追わせるなどの実害を出した場合。
• 著作権法違反：他人の著作物（ドラマやCMの映像、写真など）を無断で素材として利用し、改変して公開した場合。

法規制の課題と企業に求められる防衛策

ディープフェイクをめぐる法規制には、「技術の進化に法律が追いつかない」「海外からの攻撃に対して国内法が適用しにくい」「フェイクの検出自体が難しく法的な証拠集めに時間がかかる」といった多くの課題があります。そのため、トラブルが起きてから法律に頼る（事後対応する）だけでなく、企業側が先手を打って「自社のコンテンツを技術的に保護する防衛策」を講じることが不可欠となっています。

本物である主張を裏付ける
「電子透かし」とは？

電子透かしは、デジタルコンテンツに対して識別情報を埋め込む技術です。

SAMPLEやCONFIDENTIALなど、目に見える文字を識別情報として入れる「可視透かし」と、目に見えない形で出所情報やタイムスタンプを非表示で埋め込む「不可視透かし」があります。

このうち、ディープフェイク対策として注目されているのは「不可視透かし」です。

自社発信のコンテンツが
本物だと証明できる

自社発信のデジタルコンテンツに作成者や編集履歴などの「来歴情報」を埋め込んでおけば、誰が、いつ、どの端末で生成・配信したデータなのかを確認できます。

ディープフェイクが出回った際、「こちらが本物である」という企業の主張を裏づける証拠になるのです。報道機関や映像制作会社、広告代理店、教育・研究機関など、社会的評価の影響が大きい企業にとって、自社ブランドの信頼性を守る有効な手段となります。

識別情報が壊れていれば
「改ざんの証拠」になる

電子透かしは、デジタルコンテンツの内部に壊れにくい目印（識別情報）を埋め込む技術です。そのため、デジタルコンテンツが誰かの手によって不正に編集されたり、一部が切り取られたりすると、本来埋め込まれていた識別情報が壊れたり消失したりします。これが「改ざんの証拠」になるのです。

例えば、自社が公開した動画の一部だけを抜き出し、誤解を招く形でSNSに投稿された場合でも、識別情報が改変されていれば証拠として提示できます。

また、電子透かしには出所や発信時刻などの履歴情報を持たせることができるため、後から第三者に「これはオリジナルだ」と主張されても、電子透かし付きの正規データを提示することで、情報の信頼性を裏付けられるのです。

ディープフェイク対策として
電子透かしが有効な部門と効果

部門	想定シナリオ	電子透かしの導入メリット
広報部門	経営者の偽動画や切り取られた発言が拡散された	「正規の映像」として迅速に反証でき、 企業の信頼を守れる
法務・知財部門	映像教材やコンテンツが勝手に再編集されて配信された	改ざんの有無を技術的に証明でき、 交渉・訴訟の材料にできる
情報セキュリティ部門	社外への流出・共有による情報漏えいリスクに備えたい	コンテンツ使用履歴や出所追跡が可能になり、 内部統制にも貢献

ディープフェイク対策の導入
ステップ

STEP1.
社内のデジタルコンテンツに
電子透かしを導入する

まず最初に取り組むべきは、自社で制作・発信する画像データや動画データなどに「電子透かし」を埋め込むことです。電子透かしは市販ソフトやAPIがあるため、すぐに社内のデジタルコンテンツへ適用できます。

電子透かしを入れると、改ざんや盗用が発生した際に「正規のデータである」ことを証明でき、広報・法務対応を迅速に進める根拠となります。とくにSNSで拡散されやすい画像データや、社外へ提供するデジタルコンテンツから優先的に導入を進めるのが効果的です。

このメディアでは、電子透かしソフトをまとめています。 用途別におすすめのソフトを紹介していますので、ぜひチェックしてみてください。

電子透かしソフト3選を見る

STEP2.
電子透かし付きコンテンツのみ
を扱う運用ルールを整備する

電子透かしを導入したら、次に行うべきは「電子透かしの有無をチェックする運用フロー」の明確化です。単発の対策で終わらず、「電子透かし付きのデータ以外は使わない」というルールを設けることで、継続的な改ざん防止の仕組みが構築されます。

制作物や再利用データの社内配布時に、電子透かし入りであることを確認・記録するだけでも、改ざんリスクを大きく低減することが可能です。

STEP3.
対外発信時はC2PA準拠の
形式でメディア連携を図る

C2PA（Coalition for Content Provenance and Authenticity）とは、コンテンツの出所や来歴を証明するための国際的な技術標準です。Adobe、Microsoft、Intelなどが主導して策定を進めています。

C2PA対応は非常に強力な「コンテンツ認証手段」ですが、社内で完結しない分、導入の難度が上がります。内部体制を整えたうえで、報道・プラットフォーマー連携など社会的影響力が大きいシーンで導入を検討するのが現実的です。

将来的にグローバルで標準化が進むC2PAへの対応を視野に入れておくことで、信頼性の高い企業としての評価を得やすくなり、万一の誤報・フェイク拡散時にも迅速な否定根拠を提供できます。

ディープフェイクの被害が発生した場合の対応

自社や経営者を装ったディープフェイクが公開・拡散された場合は、削除を急ぐだけでなく、証拠の保存や社内共有、正しい情報の発信を並行して進める必要があります。

初動が遅れると、偽情報の拡散や金銭的被害、企業の信用低下につながる可能性があるため、あらかじめ対応する部門や手順を決めておきましょう。

投稿や通信記録を保存する

ディープフェイクと疑われるコンテンツを発見したら、削除申請を行う前に、被害状況が分かる情報を保存します。

• 画像・動画・音声の元データ
• 投稿画面のスクリーンショット
• 投稿先のURLとアカウント名
• 投稿・発見日時
• 閲覧数や共有数、コメントなどの拡散状況
• メール、チャット、通話などの通信記録
• 送金先や取引内容などの関連情報

保存した情報は、プラットフォームへの削除申請や警察への相談、法的対応を行う際の資料として使用できる可能性があります。

ディープフェイクの疑いがあるコンテンツを調査するために、個人のSNSなどで不用意に再投稿すると、かえって拡散を助長するおそれがあります。社内の定められた方法で共有しましょう。

社内の関係部門へ共有する

担当者個人の判断で動くのではなく、情報セキュリティ、広報、法務、経営層などの関係部門へ速やかに情報を共有することが重要です。

不正送金やアカウントへの侵入が疑われる場合は、必要に応じて以下の対応も検討します。

• 送金や取引を一時停止する
• 金融機関や取引先へ連絡する
• 不正利用されたアカウントを停止する
• パスワードや認証情報を変更する
• アクセス履歴や操作ログを確認する

誰が被害状況を確認し、誰が社外への説明や削除申請を行うのかをあらかじめ決めておくと、緊急時にも対応しやすくなります。

プラットフォームへ削除申請する

SNSや動画配信サイトなどにディープフェイクが投稿されている場合は、各プラットフォームの通報・削除申請窓口から対応を依頼します。

申請時には、なりすましや権利侵害が発生していることに加えて、正規コンテンツや公式アカウントなど、偽物であることを説明できる情報を提示します。

複数のアカウントに転載されている場合は、最初の投稿だけでなく、拡散先についても継続的に確認・申請することが必要です。

公式サイトやSNSで正しい情報を発信する

ディープフェイクが広く拡散している場合は、削除申請と並行して、企業の公式サイトや公式SNSから正しい情報を発信します。

発信する際は、次の点を簡潔に伝えます。

• 問題となっている画像・動画・音声は自社が発信したものではないこと
• 偽の情報や指示に従わないよう注意してほしいこと
• 正規情報を確認できる公式の窓口
• 金銭的被害などが発生した場合の連絡先

調査中の段階で断定的な表現を使用すると、後から説明内容を訂正しなければならない可能性があります。確認できている事実と調査中の内容を分けて発信しましょう。

警察や弁護士へ相談する

不正送金、情報漏洩、名誉毀損、著作権侵害などの被害が発生している場合は、警察や弁護士などの専門家へ相談します。

特に金銭を送金してしまった場合は、時間が経過するほど回収が難しくなる可能性があるため、金融機関と警察へ速やかに連絡することが重要です。

被害が落ち着いた後は、どの情報がディープフェイクの作成に使われたのか、本人確認や承認フローに問題がなかったかを振り返ります。その上で、従業員教育、複数人承認、検知ツール、電子透かしなどを組み合わせ、再発防止につなげましょう。

ディープフェイクの技術は
どこまで進んでいるのか？

素人でもディープフェイクを
簡単に生成できる

2025年現在、AIによるディープフェイク技術は急速に進化し、誰もが簡単に、画像・音声・動画データを改ざん・生成できるようになりました。

専門的な知識がなくても、無料・低価格で提供されているアプリやWebサービスを使えば、数分でAI合成映像や音声を作成できるレベルにまで簡略化されています。

例えば、「製品の欠陥」を偽造されたり、実際には起きていない事故・不祥事・不適切発言などのフェイク動画を流されたりする可能性があるのです。

本物かどうか見分けるのは
困難なクオリティ

もはや人の目ではAI製と見抜けないほど、精度の高い動画が出回り始めています。フンボルト大学のピーター・アイザート氏らは、ディープフェイク動画を検出するために、動画に映った人物の「心臓の鼓動」を手がかりにしようとしました。

しかし、実在する人間の顔を基に生成したディープフェイク動画からは、実在する人間とほとんど変わらない脈拍が検出されたのです。この検証結果から、研究論文が発表された2025年4月30日時点では、最新ディープフェイク手法により、心臓の鼓動によって生じる顔色のわずかな変化すら模倣できることがわかっています。

参照元：Frontiers（https://www.frontiersin.org/journals/imaging/articles/10.3389/fimag.2025.1504551/full）

【総括】「うちは本物です」と
言える会社になるために

ディープフェイクの技術が急速に進化している現代において、正しい情報発信だけでは信頼を守れません。本物であることを技術的に証明できる体制を構築して初めて、企業は「誤解」や「改ざん」といった外部からの攻撃に立ち向かうことができます。

電子透かしはそのためのシンプルかつ強力な武器です。炎上後にあわてて反論するのではなく、最初から防御線を張っておきましょう。

このメディアでは、ディープフェイク対策におすすめの電子透かしソフトをまとめていますので、ぜひチェックしてみてください。

電子透かしソフト3選を見る