ウクライナのウォロディミル・ゼレンスキー大統領がロシアへの降伏を発表しているように見せかけたディープフェイク動画（偽動画）を敵側が作成している可能性がある──。そんな警告をウクライナ政府の戦略的コミュニケーションセンターが発表したのは、3月2日（米国時間）のことだった。その警告が、どうやら現実のものになったようだ。
FacebookとYouTubeで3月16日に確認された偽動画には、異様に動きのないゼレンスキーが登場し、いつもの口調とは異なる声でウクライナ軍に武器を置くよう呼びかけていた。米国のシンクタンクのアトランティック・カウンシルによると、この動画はTelegramのほかロシアのSNS「VKontakte（フコンタクテ）」にも投稿されたという。テレビ局のUkraine 24によると、ハッカーがこの動画から切り取った静止画を使った同局のウェブサイトを書き換え、番組で流れるテロップにこのフェイクニュースの要約を挿入していた。
Ukraine 24がこのハッキングについて投稿した数分後、ゼレンスキー自身がFacebookに動画を投稿した。ウクライナ人に武器を置くよう呼びかけたことを否定し、偽動画を幼稚な挑発であると断じたのである。
Facebookの運営元であるメタ・プラットフォームズのセキュリティーポリシー部門を統括するナサニエル・グライシャーは、誤解を招く恐れのある操作されたメディアに対するポリシーに違反したとして、このディープフェイク動画を削除したとツイートした。ツイッターの広報担当者が発表したコメントによると、同社はこの動画の動向を追っており、偽の合成メディアを禁止する規則に違反した場合は削除しているという。ユーチューブの広報担当者も、やはりアップロードされた動画を削除したと説明している。
X content
This content can also be viewed on the site it originates from.
この短命に終わった偽動画は、武力紛争において初めて“兵器”として利用されたディープフェイクとなった可能性がある。
だが、誰がどのような動機でこの動画を作成し、拡散したかは明らかになっていない。一方で、今回の偽動画の存在がこれほど素早く認識され削除された流れからは、少なくとも条件が適切な場合には、どうすれば悪意あるディープフェイクに打ち勝てるのかが見えてくる。
ゼレンスキー自身は、政府がディープフェイクによる攻撃に備えていたこともあって、うまく対処することができた。動画が偽物であることを暴いた動画を彼が素早く投稿したことに加えて、Ukraine 24とソーシャルメディアのプラットフォームが迅速に対応したことで、この偽動画がそのまま拡散される事態を防げたのである。
これらは、政治的な意図をもって作成されたディープフェイクと同じくらい新しい脅威に対し、防御する際のお手本となる戦略だ。事前の準備と素早い対応は、2020年の米大統領選向けて国際平和カーネギー基金が公表したディープフェイク対策の中核をなしている。
ゼレンスキーはまた、世界で最も注目度の高い人物のひとりとしての立場と、このディープフェイクの精度の低さからも恩恵を受けていた。ディープフェイク動画のゼレンスキーは顔と体がマッチしていないことで不自然に見え、声も本人とは異なるように聞こえたのである。
ほかの紛争や政治指導者は、これほど幸運ではないかもしない。それにディープフェイクによる混乱に対してもっと脆弱である可能性があると、非営利団体「Witness」でディープフェイク政策に取り組むサム・グレゴリーは指摘する。
ゼレンスキーの知名度は、ウクライナによる2週間前のディープフェイクに対する警告が国際的なニュースで取り上げられる上で役立った。また、ゼレンスキーが16日にとった素早い対応が急速に拡散される際にもひと役買ったのである。
その知名度はまた、動画に対するソーシャルメディア企業の素早い対応を促した可能性もある。メタやユーチューブの広報担当者は動画を検知した方法について明言していないが、ツイッターは不特定の「外部調査報道」としていた。
ディープフェイクの標的となったすべての人がゼレンスキーのように機敏に対応できるわけでも、否定したところで広く信用されるわけでもない。「ウクライナは素早く対応しやすい状況にありました」と、Witnessのグレゴリーは指摘する。「これはほかの事例とは大きく異なります。できの悪いディープフェイクでも、信頼性に対する疑念を生む場合があるからです」
グレゴリーが指しているのは、ミャンマーで21年に公開された偽動画のことである。この動画には拘束されていた前大臣が登場し、ミャンマーの前指導者であるアウン・サン・スー・チーに現金と金塊を渡したと語っているように見せかけたものだった。
クーデターによりアウン・サン・スー・チーを排除した軍事政権は、その映像を利用して彼女の汚職を非難したのである。しかし、この動画では前大臣の顔と声がゆがんでいたことで、多くのジャーナリストや市民が動画が偽物であると言い出すようになったのだ。
技術的な分析でも、この謎は解明されていない。ひとつには動画の精度が低いせいだが、その理由は前大臣や真実をよく知るほかの人たちが、今回のゼレンスキーほど自由に話したり、多くの聴衆に語りかけたりできなかったからだ。いつの日かディープフェイクの自動検知システムが悪意あるなりすましに対抗する上で役立つ可能性があるが、これらはまだ進行中の取り組みである。
ディープフェイクは人々をだます目的というよりも、人々を扇動したり嫌がらせをしたりする目的で広く使われている。そして作成が容易になるにつれ、その傾向はさらに顕著になっている状況だ。
ロシア大統領のウラジーミル・プーチンのディープフェイクもこのほどTwitterで拡散したが、これについては最初から偽物と認定されていた。しかし、ゼレンスキーのディープフェイク動画とそれに伴うハッキングは、新たな問題を顕在化させる可能性がある。動画への素早い対応が成功したことからは、ちょっとした工夫と適切なタイミングによってディープフェイク攻撃を効果のある政治的な兵器にしうる現実も浮き彫りになったからだ。
「これがもし手の込んだ動画であったとして、しかもロシアによるキエフへの進軍がもっとうまくいっていた場合に早い段階で公表されていたら、かなりの混乱を引き起こした可能性があります」と、非営利団体のCNAでロシアの防衛技術の専門家であるサミュエル・ベンデットは言う。ディープフェイク技術が利用しやすくなり、その説得力が増していけば、偽動画の標的となる政治指導者はゼレンスキーで最後ということにはなりそうもない。
（WIRED US/Edit by Daisuke Takimoto）
※『WIRED』によるディープフェイクの関連記事はこちら。ウクライナ侵攻の関連記事はこちら。
毎週のイベントに無料参加できる！
『WIRED』日本版のメンバーシップ会員 募集中！
次の10年を見通すためのインサイト（洞察）が詰まった選りすぐりのロングリード（長編記事）を、週替わりのテーマに合わせてお届けする会員サービス「WIRED SZ メンバーシップ」。毎週開催のイベントに無料で参加可能な刺激に満ちたサービスは、無料トライアルを実施中！詳細はこちら。