ディープフェイク対策

AIの進化により、ディープフェイク（AIで生成された偽造コンテンツ）による詐欺は今後も増えると予測されています。企業にとって、いまや「信用や資産を失う要因」のひとつです。

本記事では、ディープフェイク技術の現状と実際に起きた被害事例を掲載しているほか、ディープフェイクによる偽造・改ざんを検知し、自社のデジタルコンテンツが「本物」だと証明する方法を解説しています。

そもそもディープフェイクとは？

ディープフェイク（Deepfake）とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語です。人工知能（AI）技術を用いて、実在する人物の顔や声、身振りを驚くほど精巧に合成・改ざんする技術、またはそれによって作られたコンテンツを指します。

元々は高度な映像編集やエンターテインメントの分野で発展した技術ですが、現在ではそのリアルさゆえに、悪意を持った偽情報の拡散や詐欺行為の道具として悪用されるケースが急増し、社会的な脅威となっています。

ディープフェイクの技術は
どこまで進んでいるのか？

素人でもディープフェイクを
簡単に生成できる

2025年現在、AIによるディープフェイク技術は急速に進化し、誰もが簡単に、画像・音声・動画データを改ざん・生成できるようになりました。

専門的な知識がなくても、無料・低価格で提供されているアプリやWebサービスを使えば、数分でAI合成映像や音声を作成できるレベルにまで簡略化されています。

例えば、「製品の欠陥」を偽造されたり、実際には起きていない事故・不祥事・不適切発言などのフェイク動画を流されたりする可能性があるのです。

本物かどうか見分けるのは
困難なクオリティ

もはや人の目ではAI製と見抜けないほど、精度の高い動画が出回り始めています。フンボルト大学のピーター・アイザート氏らは、ディープフェイク動画を検出するために、動画に映った人物の「心臓の鼓動」を手がかりにしようとしました。

しかし、実在する人間の顔を基に生成したディープフェイク動画からは、実在する人間とほとんど変わらない脈拍が検出されたのです。この検証結果から、研究論文が発表された2025年4月30日時点では、最新ディープフェイク手法により、心臓の鼓動によって生じる顔色のわずかな変化すら模倣できることがわかっています。

ディープフェイクによる企業の
被害事例

ディープフェイクで上司や同僚に成りすまし、多額の損失を生んだ被害事例を紹介します。

親会社CEOの偽装音声で
2,600万円の被害

2019年、イギリスのエネルギー企業が、親会社CEOを名乗るAI音声に騙され、約2,600万円を送金する事件が発生しました。声の調子や話し方が本物そっくりで、被害者は疑うことなく送金を実行。2回目の送金依頼で不審に感じて確認したことで詐欺が判明しました。音声がネットに出回る経営層は、ディープフェイクの標的になりやすいと警鐘が鳴らされています。

CFOと同僚を偽造した映像で
38億円の被害

2024年、香港の多国籍企業で、CFOや同僚を偽装したディープフェイク映像による詐欺が発生。会計担当者は偽のビデオ会議を信じ込み、38億円を送金してしまいました。映像は本物そっくりに作られた偽物で、後に詐欺と判明。信頼関係を逆手に取った巧妙な演出が、企業の重大な財務リスクに直結することを示した事例です。

ディープフェイクが企業に与えるリスクと危険性

自社のディープフェイクが出回ったり、社内が攻撃の標的になったりした場合、広報・法務・セキュリティ担当者は非常に深刻な事態に直面します。企業が備えるべき危険性は、大きく以下の3つの観点に分類されます。

1. セキュリティの脅威（なりすまし詐欺の高度化）

経営層や取引先の「声」や「顔」を完全に模倣したディープフェイクは、サイバー攻撃や金融詐欺の強力な武器になります。従来の「電話の声で本人だと判断する」「Webカメラの映像で確認する」というセキュリティ対策が通用しなくなるため、重要な機密情報の漏洩や、多額の不正送金被害に直面するリスクが極めて高くなります。

2. 偽情報の拡散による社会的影響（ブランド毀損・株価暴落）

「自社の製品に重大な欠陥がある」という偽の検証動画や、「経営陣が差別的な発言をしている」といった偽の音声がSNS等で拡散された場合、その影響は一瞬で広がります。たとえそれが偽物であっても、一度「炎上」してしまえば消費者の信頼を失い、株価の暴落や不買運動など、企業の存続に関わる長期的なダメージ（ブランド価値の失墜）に繋がりかねません。

3. プライバシーリスクと内部統制の崩壊

従業員の顔や声を無断で使用したディープフェイクが作成され、名誉毀損や嫌がらせ（ハラスメント）に悪用されるリスクも存在します。また、従業員が冗談半分や個人的な目的で同僚のフェイクコンテンツを作成・共有した場合、企業としての管理責任やハラスメント防止義務違反を問われ、社内の人間関係の崩壊だけでなく、法的な訴訟問題に発展する危険性もあります。

ディープフェイクに関する法律や規制の現状

ディープフェイクの悪用に対して、法的な規制はどうなっているのでしょうか。実は、技術の進化スピードが速すぎるため、「ディープフェイクの作成・利用そのものを一律で禁止する」という直接的な法律は、日本を含め世界的にまだ発展途上の段階にあります。しかし、悪用の内容や方法に応じて、既存の法律によって厳しく処罰される仕組みが整っています。

悪用した際に問われる主な刑事責任

他人のディープフェイクを無断で作成・公開し、実害を与えた場合は、主に以下の罪に問われる可能性が極めて高いです。

• 名誉毀損罪（刑法230条）：事実または虚偽の内容を公然と示し、本人の社会的評価を低下させた場合。
• 業務妨害罪（刑法233条・234条）：偽の情報を流して企業の業務を妨害したり、問い合わせ対応に追わせるなどの実害を出した場合。
• 著作権法違反：他人の著作物（ドラマやCMの映像、写真など）を無断で素材として利用し、改変して公開した場合。

法規制の課題と企業に求められる防衛策

ディープフェイクをめぐる法規制には、「技術の進化に法律が追いつかない」「海外からの攻撃に対して国内法が適用しにくい」「フェイクの検出自体が難しく法的な証拠集めに時間がかかる」といった多くの課題があります。そのため、トラブルが起きてから法律に頼る（事後対応する）だけでなく、企業側が先手を打って「自社のコンテンツを技術的に保護する防衛策」を講じることが不可欠となっています。

本物である主張を裏付ける
「電子透かし」とは？

電子透かしは、デジタルコンテンツに対して識別情報を埋め込む技術です。

SAMPLEやCONFIDENTIALなど、目に見える文字を識別情報として入れる「可視透かし」と、目に見えない形で出所情報やタイムスタンプを非表示で埋め込む「不可視透かし」があります。

このうち、ディープフェイク対策として注目されているのは「不可視透かし」です。

自社発信のコンテンツが
本物だと証明できる

自社発信のデジタルコンテンツに作成者や編集履歴などの「来歴情報」を埋め込んでおけば、誰が、いつ、どの端末で生成・配信したデータなのかを確認できます。

ディープフェイクが出回った際、「こちらが本物である」という企業の主張を裏づける証拠になるのです。報道機関や映像制作会社、広告代理店、教育・研究機関など、社会的評価の影響が大きい企業にとって、自社ブランドの信頼性を守る有効な手段となります。

識別情報が壊れていれば
「改ざんの証拠」になる

電子透かしは、デジタルコンテンツの内部に壊れにくい目印（識別情報）を埋め込む技術です。そのため、デジタルコンテンツが誰かの手によって不正に編集されたり、一部が切り取られたりすると、本来埋め込まれていた識別情報が壊れたり消失したりします。これが「改ざんの証拠」になるのです。

例えば、自社が公開した動画の一部だけを抜き出し、誤解を招く形でSNSに投稿された場合でも、識別情報が改変されていれば証拠として提示できます。

また、電子透かしには出所や発信時刻などの履歴情報を持たせることができるため、後から第三者に「これはオリジナルだ」と主張されても、電子透かし付きの正規データを提示することで、情報の信頼性を裏付けられるのです。

ディープフェイク対策として
電子透かしが有効な部門と効果