ディープフェイク

出典: フリー百科事典『ウィキペディア(Wikipedia)』
ナビゲーションに移動 検索に移動

ディープフェイク(deepfake)は「深層学習(deep learning)」と「偽物(fake)」を組み合わせた混成語(かばん語)で[1]人工知能にもとづく人物画像合成の技術を指す。「敵対的生成ネットワーク(GANs)」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて(スーパーインポーズ)、結合することで生成される[2]。 既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。

そのような偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる。これらの機能により、有名人のポルノビデオまたはリベンジポルノの偽造作成のため、ディープフェイクが使用される可能性がある[3]。さらに、ディープフェイクは、虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る[4] [5]

ポルノグラフィ[編集]

2017年にインターネット上で、特にRedditでディープフェイクのポルノが初めて現れた[6]、現在ではReddit、TwitterPornhubなどのサイトで禁止されている[7] [8] [9]。2017年秋、"Deepfakes" というハンドルネーム匿名のRedditユーザーがインターネットにいくつかのポルノビデオを投稿した。注目を集めた最初のものは、デイジー・リドリーのディープフェイクだった。それはまた、よく知られたディープフェイクビデオの1つで、いくつかの記事の中でひときわ目立つものであった。ほかのディープフェイクとして、継兄弟と性行為をしているワンダーウーマンを演じた女優のガル・ガドット、また、エマ・ワトソンケイティ・ペリーテイラー・スウィフトスカーレット・ヨハンソンがあった。人工知能を使用して作成された、それらのビデオは本物ではなく、ほどなく偽物であることが暴かれた。

時間が経つにつれて、Redditのコミュニティは偽造ビデオの多くのバグを修正し、偽物と本物のコンテンツを区別することが次第に困難になった。オンラインで容易に入手できる女優の非ポルノの写真やビデオは、ソフトウェアのための訓練データとして使用された。ディープフェイク現象は、2017年12月に、雑誌Viceen:Vice (magazine))の技術と科学の欄で初めて報告され、他のメディアでも広く報道された[10] [11]

2018年12月、頻繁にディープフェイクポルノの対象となっているスカーレット・ヨハンソンが、ワシントン・ポストの取材に対し、以下のように語っている。用意した声明の中で、彼女はこの現象についての懸念を表明し、インターネットを「自分自身を食べる暗黒の巨大なワームホール」と表現している。しかし、それが自分の公共のイメージに影響を及ぼさないこと、そして国によって法律が異なること、インターネット文化の性質(ストライサンド効果)によりディープフェイクを削除するどのような試みも無駄な努力になること、以上の考えから、彼女は、自分のディープフェイクの削除を試みようとはしないと述べた。彼女は、自分自身のような有名人は名声によって保護されているが、一般女性にとっては、不本意なポルノやリベンジポルノの描写によって評判が損なわれる可能性のある深刻な脅威をもたらす、と考えている[12]

英国では、ディープフェイクの製作者を嫌がらせで起訴できるが、ディープフェイクを特定の犯罪に指定することが求められている[13]。米国では、なりすましサイバーストーカー、リベンジポルノのようなさまざまなものが告発される、さらに包括的な法令にしていこうとする動きもある[14]

政治[編集]

ディープフェイクは、有名な政治家を、ビデオポータルチャットルームで、事実と異なるかたちで伝えるために使用されている。例えば、アルゼンチン大統領のマウリシオ・マクリの顔はアドルフ・ヒトラーの顔に、そしてアンゲラ・メルケルの顔はドナルド・トランプの顔に置き換えられた[15][16]。トランプが中国を訪問していた2017年11月に中国企業のiFlytek英語版は流暢な中国語を話して自社とAIを褒めたたえるトランプのディープフェイクを披露して波紋を呼んだ[17][18]。2018年4月、ジョーダン・ピールとJonah Peretti(en:Jonah Peretti)は、ディープフェイクの危険性に関する公共広告として、バラク・オバマを使ったディープフェイクを作成した[19]。2019年1月、KCPQは、オーバルオフィス(大統領執務室)におけるトランプの演説のディープフェイクを放映し、彼の外観と肌の色をあざけった[20]

メディア[編集]

中国では国営メディアの新華社がディープフェイクの技術を用いて実在のアナウンサーから合成した世界初の人工知能ニュースキャスターが開発されており[21]、政府の重要な会議の報道でも使用された[22]。この技術はロシアアラブ首長国連邦の国営メディアでも採用されている[23]

しかし、ディープフェイクは虚偽報道であるフェイクニュースを助長させるとしてアメリカでは問題視されている[24]

ディープフェイクのソフトウェア[編集]

2018年1月、FakeAppというデスクトップアプリケーションが発表された。このアプリケーションでは、ユーザーが顔を入替えた動画を簡単に作成および共有できる。このアプリケーションは、フェイクビデオを生成するために、人工ニューラルネットワークグラフィックプロセッサのパワー、そして3〜4ギガバイトストレージスペースが必要である。詳細な情報については、プログラムは、ビデオシークエンスおよび画像に基づくディープラーニングアルゴリズムを使用して、どの画像アスペクトを交換しなければならないかを学習するため、挿入されるべき人物からの多くの視覚材料を必要とする。

そのソフトウェアは、グーグル人工知能-フレームワークであるTensorFlowを使用する、それは、とりわけコンピュータビジョンのプログラムであるDeepDreamen:DeepDream)のためにすでに使用されていた。有名人はそのような偽のセックスビデオの主な標的となっているが、一般の人々も影響を受けている[25] [26] [27]。2018年8月、カリフォルニア大学バークレー校の研究者は、人工知能を使って子供をプロのダンサーに置き換えることができるフェイクダンスアプリケーションを紹介する論文を発表した[28][29]

2019年8月、中国で1枚の顔写真でディープフェイクを作成できるZAOというアプリケーションが発表されて同年9月にApp Storeの人気ランキングで1位になるもユーザーの同意なしにデータを使用される可能性があるプライバシーポリシーが物議を醸し[30][31]、アメリカでは選挙介入やフェイクニュースに利用される可能性を懸念する声があがった[32]

フィクションにおけるディープフェイク[編集]

ディープフェイクや有名人のフェイクポルノの現象は、 Michael Grothaus(en:Michael Grothaus)による小説「Epiphany Jones」で探求されている[33]。この小説は、文学的なスリラー、社会風刺、であり、セックス、有名人、インターネット対するアメリカの強迫観念についての暗いコメディである、またポルノ中毒者と神と話すことができると考える女との不本意な関係、およびハリウッドエリートへ性的な人身売買を行う業者との交絡を探る内容である。小説の主人公、ジェリー・ドレスデンは、有名人のフェイクポルノへの中毒に苦しんでいる。小説で言及されている特定の有名人の偽物には、 ナタリー・ポートマンスカーレット・ヨハンソンハレ・ベリーアンジェリーナ・ジョリーケイト・ベッキンセールプッシーキャット・ドールズ、が含まれる。さらに、ジュディ・ガーランドオードリー・ヘップバーンといった死亡した有名人の偽物についても小説に記載されている。

批評[編集]

悪用[編集]

スイスに本社を置く新聞社であるAargauer Zeitung(en:Aargauer Zeitung)は、人工知能を使った画像やビデオの操作は、危険な大量のメディアがあふれることになる可能性があると述べている。しかし、画像やビデオの改ざん自体は、動画編集ソフトウェア画像編集ソフトウェアの登場よりもずっと古いものであり、このたびのディープフェイクの場合、新しい側面はそのリアリズムにある[15]

標的を絞ったデマやリベンジポルノにディープフェイクを使用することも可能である[34] [35]

信頼性と信憑性への影響[編集]

ディープフェイクのもう1つの効果は、その内容が標的となった偽物(例えば風刺)なのか本物なのかを区別できなくなることである。人工知能の研究者であるAlex Champandardは、この技術によって今日のものがどれだけ速く改変され得るか、そして問題は技術的なものではなく、情報とジャーナリズムの信頼によって解決されるものであるということを、すべての人が知っておくべきであると述べた。最重要な落とし穴は、描写されているメディアが真実に対応しているかどうかを、もはや判断できなくなる時代に人類が陥る可能性があることである[15]

インターネットの反応[編集]

TwitterやGfycatなどのいくつかのウェブサイトでは、ディープフェイクのコンテンツを削除し、その発行元をブロックすると発表している。以前、チャットプラットフォームのDiscordは、有名人のフェイクポルノビデオのチャットチャンネルをブロックした。ポルノグラフィのウェブサイトの Pornhubもそのようなコンテンツをブロックする予定であるが、その禁止を強制していないと報告されている[36] [37]。 Redditでは、2018年2月7日に「不本意のポルノ」のポリシー違反により、subreddit(Redditのサブフォーラム)が一時停止されるまで、初期の状態が削除されないまま残っていた[11] [38] [39]。2018年9月、グーグルは、誰もが自分の本物あるいは偽物ヌードのブロックを要求でき、その禁止リストに「不本意の合成ポルノ画像」追加した[14]

参考文献[編集]

  1. ^ Brandon, John (2018年2月16日). “Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise” (英語). Fox News. http://www.foxnews.com/tech/2018/02/16/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-rise.html 2018年2月20日閲覧。 
  2. ^ Schwartz, Oscar (2018年11月12日). “You thought fake news was bad? Deep fakes are where truth goes to die” (英語). The Guardian. https://www.theguardian.com/technology/2018/nov/12/deep-fakes-fake-news-truth 2018年11月14日閲覧。 
  3. ^ “What Are Deepfakes & Why the Future of Porn is Terrifying” (英語). Highsnobiety. (2018年2月20日). https://www.highsnobiety.com/p/what-are-deepfakes-ai-porn/ 2018年2月20日閲覧。 
  4. ^ Experts fear face swapping tech could start an international showdown” (英語). The Outline. 2018年2月28日閲覧。
  5. ^ Roose, Kevin (2018年3月4日). “Here Come the Fake Videos, Too” (英語). The New York Times. ISSN 0362-4331. https://www.nytimes.com/2018/03/04/technology/fake-videos-deepfakes.html 2018年3月24日閲覧。 
  6. ^ Roettgers, Janko (2018年2月21日). “Porn Producers Offer to Help Hollywood Take Down Deepfake Videos” (英語). Variety. https://variety.com/2018/digital/news/deepfakes-porn-adult-industry-1202705749/ 2018年2月28日閲覧。 
  7. ^ “It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet” (英語). https://www.theregister.co.uk/2018/02/09/deepfake_ai/ 2018年2月20日閲覧。 
  8. ^ Kharpal, Arjun (2018年2月8日). “Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor”. CNBC. https://www.cnbc.com/2018/02/08/reddit-pornhub-ban-deepfake-porn-videos.html 2018年2月20日閲覧。 
  9. ^ “PornHub, Twitter Ban 'Deepfake' AI-Modified Porn” (英語). PCMAG. https://www.pcmag.com/news/359067/pornhub-twitter-ban-deepfake-ai-modified-porn 2018年2月20日閲覧。 
  10. ^ AI-Assisted Fake Porn Is Here and We’re All Fucked, Motherboard, (2017-12-11), https://motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn 
  11. ^ a b Markus Böhm (2018-02-07), "Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor, Spiegel Online, http://www.spiegel.de/netzwelt/web/deepfakes-online-plattformen-wollen-fake-promi-pornos-loeschen-a-1192170.html 
  12. ^
  13. ^
  14. ^ a b Fake-porn videos are being weaponized to harass and humiliate women: ‘Everybody is a potential target’”. The Washington Post (Harrell). 2019年1月1日閲覧。
  15. ^ a b c Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos”. az Aargauer Zeitung (2018年2月3日). 2019年1月26日閲覧。
  16. ^ Patrick Gensing (2018年2月22日). “Deepfakes: Auf dem Weg in eine alternative Realität?”. 2019年1月26日閲覧。
  17. ^ Thatsmags.com (2017年11月10日). “Here's a Creepy Video of Trump Speaking Chinese via AI”. 2019年9月3日閲覧。
  18. ^ ニューヨーク・タイムズ (2017年12月3日). “China’s A.I. Advances Help Its Tech Industry, and State Security”. 2019年9月3日閲覧。
  19. ^ Romano (2018年4月18日). “Jordan Peele’s simulated Obama PSA is a double-edged warning against fake news”. Vox. 2018年9月10日閲覧。
  20. ^ Swenson (2019年1月11日). “A Seattle TV station aired doctored footage of Trump’s Oval Office speech. The employee has been fired.” (英語). The Washington Post. 2019年1月11日閲覧。
  21. ^ AFPBB (2019年3月6日). “世界初のAIニュースキャスターが中国で誕生、あまりにもリアルで衝撃的な映像が公開中”. 2019年6月24日閲覧。
  22. ^ AFPBB (2019年3月6日). “動画:AIアナ「新小萌」 政協第13期全国委第2回会議報道でデビュー”. 2019年6月24日閲覧。
  23. ^ Asia One (2019年6月14日). “Demand for AI virtual news anchors set to increase”. 2019年6月24日閲覧。
  24. ^ フォーブス (2019年6月18日). “物議醸す「ディープフェイク」技術 その問題と未来”. 2019年6月24日閲覧。
  25. ^ Britta Bauchmüller, "Fake-App": Mit diesem Programm kann jeder im Porno landen – ob er will oder nicht!, Berliner-Kurier.de, https://www.berliner-kurier.de/ratgeber/digital/-fake-app--mit-diesem-programm-kann-jeder-im-porno-landen---ob-er-will-oder-nicht--29578018 
  26. ^ Eike Kühl (2018-01-26), Künstliche Intelligenz: Auf Fake News folgt Fake Porn, Die Zeit, ISSN 0044-2070, http://www.zeit.de/digital/internet/2018-01/kuenstliche-intelligenz-deepfakes-porno-face-swap 
  27. ^ heise online, Deepfakes: Neuronale Netzwerke erschaffen Fake-Porn und Hitler-Parodien, https://www.heise.de/newsticker/meldung/Deepfakes-Neuronale-Netzwerke-erschaffen-Fake-Porn-und-Hitler-Parodien-3951035.html 
  28. ^ Farquhar, Peter (2018年8月27日). “An AI program will soon be here to help your deepfake dancing – just don't call it deepfake” (英語). Business Insider Australia. https://www.businessinsider.com.au/artificial-intelligence-ai-deepfake-dancing-2018-8 2018年8月27日閲覧。 
  29. ^ “Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted”. The Verge. https://www.theverge.com/2018/8/26/17778792/deepfakes-video-dancing-ai-synthesis 2018年8月27日閲覧。 
  30. ^ “China’s Red-Hot Face-Swapping App Provokes Privacy Concern”. ブルームバーグ. (2019年9月2日). https://www.bloomberg.com/news/articles/2019-09-02/china-s-red-hot-face-swapping-app-provokes-privacy-concern 2019年9月3日閲覧。 
  31. ^ “顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に”. GIGAZINE. (2019年9月3日). https://gigazine.net/news/20190903-iphone-deepfake-app-zao/ 2019年9月3日閲覧。 
  32. ^ “中国で人気”偽動画作成アプリ” 米 選挙への影響懸念”. NHK. (2019年9月5日). https://www3.nhk.or.jp/news/html/20190905/k10012064311000.html 2019年9月5日閲覧。 
  33. ^ Chopin. “'Epiphany Jones' book review: Sex crimes and psychosis in darkly funny thriller - NY Daily News”. nydailynews.com. 2018年12月31日閲覧。
  34. ^ Künstliche Intelligenz: Selfies sind eine gute Quelle, Die Zeit, (2018-01-26), ISSN 0044-2070, http://www.zeit.de/digital/internet/2018-01/kuenstliche-intelligenz-deepfakes-porno-face-swap/seite-2 
  35. ^ „Deepfake“ – FakeApp kann Personen in Pornos austauschen – Welche Rechte haben Geschädigte?, WILDE BEUGER SOLMECKE Rechtsanwälte, (2018-02-02), https://www.wbs-law.de/personlichkeitsrecht/deepfake-fakeapp-kann-personen-in-pornos-austauschen-welche-rechte-haben-geschaedigte-76428/ 
  36. ^ “Pornhub hasn't been actively enforcing its deepfake ban” (英語). Engadget. https://www.engadget.com/2018/04/18/pornhub-still-has-many-deepfake-videos/ 2018年4月21日閲覧。 
  37. ^ “Pornhub Banned Deepfake Celebrity Sex Videos, But The Site Is Still Full Of Them” (英語). BuzzFeed. https://www.buzzfeed.com/charliewarzel/pornhub-banned-deepfake-celebrity-sex-videos-but-the-site 2018年4月21日閲覧。 
  38. ^ barbara.wimmer, Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos, https://futurezone.at/digital-life/deepfakes-reddit-loescht-forum-fuer-kuenstlich-generierte-fake-pornos 
  39. ^ Reddit verbannt Deepfake-Pornos” (2018年2月8日). 2019年1月26日閲覧。

関連項目[編集]

外部リンク[編集]