ディープフェイク

ディープフェイク（英: deepfake）は、「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語（かばん語）で^[1]、人工知能に基づく画像・映像合成技術を指す。「敵対的生成ネットワーク（GANs）」と呼ばれる機械学習技術を使用して、既存の画像や映像を、ある意図に沿った別の画像または映像に重ね合わせて（スーパーインポーズ）、結合することで生成する^[2]。この意図的な映像の結合により、実際には起こっていない出来事に関する偽の映像が生み出されることとなる。

コラージュ、モンタージュ、光学合成などを用いた、偽物（フェイクコンテント）は旧来より存在していたが、ディープフェイクはAIが関わることで、より現実との判別が困難になっている。

分類[編集]

ディープフェイクを使った偽動画として以下のものがある。

ポルノ[編集]

有名人の顔とポルノビデオを合成することで、実際にはしていない性行為をしているように見せかける偽ポルノ動画が作成されることがある。

詳細は「フェイクポルノ」を参照

政治[編集]

有名な政治家を、ビデオポータルやチャットルームで、事実と異なるかたちで伝えるために使用されている。これは選挙運動で対立候補を陥れるネガティブ・キャンペーン、政権政党への批判、戦時下における扇動などの工作にも使われる。

例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた^[3]^[4]。トランプが中国を訪問していた2017年11月に中国企業のiFlytek（英語版）は流暢な中国語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ^[5]^[6]。

2018年4月、ジョーダン・ピールとJonah Peretti(en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した^[7]。2019年1月、KCPQは、オーバルオフィス（大統領執務室）におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった^[8]。

2022年から始まったロシアのウクライナ侵攻では、当初からディープフェイクとみられる複数の映像が拡散されている^[9] ^[10] ^[11] ^[12]。

2023年、AI技術を駆使しニュース番組の画面に見せかけた上で当時の日本の内閣総理大臣岸田文雄が卑猥な言葉を発してるように見せたディープフェイク動画がSNSで拡散された。^[13]^[14]また、動画は日テレニュース24の番組ロゴを無断使用していたため、日本テレビは「放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできません。フェイク動画について今後も必要に応じて然るべき対応をして参ります」とコメントし動画の一部が自主規制を施した上、地上波で放映された。^[14]

このように政治的な虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る^[15] ^[16]。

アナウンサー[編集]

中国では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており^[17]、政府の重要な会議の報道でも使用された^[18]。この技術はロシアやアラブ首長国連邦の国営メディアでも採用されている^[19]。

風刺[編集]

ハリウッドの名作映画の俳優を別人に入れ替える際にディープフェイクを用いることで、笑いを取るものがある^[20]。コントローラーシフトフェイスというYoutuberは映画「ホーム・アローン」の主演であるマコーレ・カルキンをシルバー・スタローンに入れ替えた動画を作成したり、ダープフェイクスというYoutuberが映画「サウンド・オブ・ミュージック」から「ファイト・クラブ」まで出演者の顔をニコラス・ケイジの顔に替えた映画を集めた「ニコラス・ケイジ・メガ・ミックス」を作成した^[20]。

歴史[編集]

ディープフェイクは、2017年12月に、雑誌Vice（en:Vice (magazine)）の技術と科学の欄で初めて報告され、他のメディアでも広く報道された^[21] ^[22]。

イギリスでは、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている^[23]。米国では、なりすまし、サイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある^[24]。

アメリカ合衆国の一部の州やオーストラリア等の一部の国ではフェイクポルノの温床となっているディープフェイクの製作を規制する法律を設けているところがある^[25]。しかし、どこまでを規制の対象とするかは表現の自由の観点から議論となっている^[25]。

サイバーセキュリティ会社「DeepTrace」の2019年10月の調査によると、過去7か月で1万4,678件のディープフェイク動画が確認され、1年で倍増しており、その96 %がポルノ動画だった^[26]。

声を失った人など向けに開発されてきたディープフェイク音声（英語版）（ボイス・クローニング）であるが、詐欺などに悪用されている^[27]。セキュリティソフトメーカーのマカフィーが2023年5月15日に発表した調査では、調査対象の7,000 人のうち4人に1人の割合で自分もしくは知人が被害に遭遇した経験があるとし、被害者の77 %が騙されて金銭を支払ったと回答した^[28]^[29]。

ソフトウェア[編集]

2018年1月、FakeAppというデスクトップのアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワーク、グラフィックプロセッサのパワー、そして3〜4ギガバイトのストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングのアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。

そのソフトウェアは、グーグルの人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDream（en:DeepDream）のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている^[30] ^[31] ^[32]。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子供をプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した^[33]^[34]。

2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し^[35]^[36]、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった^[37]。

批評[編集]

悪用[編集]

スイスに本社を置く新聞社であるAargauer Zeitung(en:Aargauer Zeitung)は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。しかし、画像やビデオの改ざん自体は、動画編集ソフトウェアや画像編集ソフトウェアの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある^[3]。

標的を絞ったデマやリベンジポルノにディープフェイクを使用することも可能である^[38] ^[39]。

信頼性と信憑性への影響[編集]

ディープフェイクのもう1つの効果は、公開された事物の真偽が簡単には判別できなくなることである。人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報とジャーナリズムの信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである^[3]。

インターネットの反応[編集]

Twitter（現・X）やGfycatなどのいくつかのウェブサイトでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。以前、チャットプラットフォームのDiscordは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている^[40] ^[41]。 Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit（Redditのサブフォーラム）が一時停止されるまで、初期の状態が削除されないまま残っていた^[22] ^[42] ^[43]。2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」を追加した^[24]。

出典[編集]

参考文献[編集]

ニーナ・シック、ナショナルジオグラフィック、片山美佳子『ディープフェイクニセ情報の拡散者たち』日経ナショナルジオグラフィック、2021年。ISBN 9784863135130。
NHKスペシャル取材班『やばいデジタル “現実”が飲み込まれる日』講談社現代新書、2020年。ISBN 9784065219546。