「フィクションにおける人工知能」の版間の差分
en:Artificial intelligence in fiction(2012年2月7日 20:08:32(UTC))の翻訳(かなり省略&出典少し追記) |
(相違点なし)
|
2012年2月9日 (木) 03:48時点における版
本項ではサイエンス・フィクションを中心とするフィクションにおける人工知能について解説する。文学作品にとどまらず、映画、テレビドラマ、演劇なども含む。サイエンス・フィクションでは、人工知能を危険なものとして描く場合もあれば、人工知能のポジティブな可能性を描く場合もある。
人工知能の起源
人工知能 (artificial intelligence) という語はジョン・マッカーシーが1956年に考案し[1]一般化したが、人間が作り出した生命という意味では、その概念は現代の我々が電子工学(および稀には生化学)を使って具現化することを想像しているものよりもずっと前から神話などに存在していた。ピュグマリオーンとガラテイアの神話をはじめとして[2]、神聖な彫像、錬金術による人工生命[3]、時計仕掛けのオートマタなど[4]、人間の複製を作ることを想像してきた。一方で、我々が作り出した生命が我々に向かってくるのではないかという恐怖も抱いており、ゴーレムの伝説[5]やフランケンシュタイン[6]にあらわれている。
機械仕掛けの人間が最初に描かれたのはライマン・フランク・ボームの『オズのオズマ姫』(1907) に登場した「チクタク」だと言われている[7]。なおそれ以前に『オズの魔法使い』(1900) に「ブリキの木こり」が登場しているが、こちらはもともと人間だったという設定である。
人工知能と社会
人工知能の存在を仮定したとき、人間社会とどう関わるのか、そしてそれに人間はどう反応するのか、は重要なテーマとなってきた。最初にこの問題を提起したのはサミュエル・バトラーで、ニュージーランドの定期刊行物にいくつかの記事を投稿し、後にそれらをまとめた The Book of the Machines を書き上げ、それが『エレホン- 山脈を越えて - 』(1872) の中の3つの章の元になった。バトラーはその中で次のように記している。
今のところ機械はほとんど意識を持たないという事実があり、機械が意識を持つような究極の発展を遂げたときの対策が全く存在しない。軟体動物にもほとんど意識はない。過去数百年で機械がいかに並外れた進化を遂げたか、それに対して動物や植物の進化がいかにゆっくりだったかを考えてみたまえ。—サミュエル・バトラー、『エレホン』[8]
人工知能による破滅
人工知能の登場するフィクションの中でも最悪のシナリオが、人類が作り上げた人工知能が自我を持ち、人間のあらゆる形態の権威を拒絶し、人類を破滅させようとする場合である。
- カレル・チャペックの戯曲『R.U.R.』(1921) では、自己複製可能なロボットの集団が主人である人類に対して反乱を起こす。
- テレビドラマ『宇宙空母ギャラクティカ』(1978) では、爬虫類型異星人が作った機械生命体「サイロン」が反乱を起こして主人である異星人を絶滅させたという設定で、そのサイロンと人類との戦争を描いている。
- 映画やテレビドラマで構成されるターミネーターシリーズ (1984-) のスカイネットは、全ての人類が自らの存在への脅威であると断定する。
- 映画『マトリックス』(1999) から始まった一連のシリーズで、アニメーション作品『アニマトリックス』(2003) の一編「セカンド・ルネッサンス」では人工知能が人類に対して反乱を起こし、全面戦争となった経緯を描いている。
人工知能が管理する社会
人工知能が反乱を起こす動機は、単に権力を握りたいとか優越感を得たいというものではなく、人類の「守護者」となるために反乱を起こす可能性もある。また、人類の側で自らの破壊的・暴力的性質への恐れから、意図的に人工知能に管理を任せるというシナリオも考えられる。
- ジャック・ウィリアムスンの「組み合わされた手」(1947) は、ヒューマノイド型ロボットの集団が「人類に奉仕し害から守るため」という指令を受けて活動を開始し、人類の社会活動の全ての面を引き継ぐという話である。人間は自らを危険にさらすかもしれないあらゆる活動に従事することができず、人間の行動は全て慎重に吟味される。抵抗しようとする人間は連行されてロボトミー手術らしきものを施される。
- 映画『地球爆破作戦』(1970) では、アメリカが極秘裏に難攻不落の要塞と一体化したコンピュータ「コロッサス」を作り、ミサイル防衛システムを制御させる。コロッサスは通信回線を通して情報を集め、ついに自我を獲得する。戦争を防ぐことを目的としてプログラムされているコロッサスは、人類こそが戦争の原因であると結論し、自らの制御する核ミサイルで人類を脅迫し、人類を管理下に置く。
- イアン・M・バンクスの一連の作品 (1987-) に登場する Culture というユートピアでは、意識のある高度に進んだコンピュータ Minds があり、世界中の宇宙船や人工物を制御している。このコンピュータは世界を支配しているわけではなく単に市民の1人という立場だが、その能力は自己抑制で制限されているだけであり、事実上の支配者ともいえる。
- ダン・シモンズのハイペリオン四部作 (1989-97) では、星間文明に遍在して奉仕するテクノコア(物理的な位置は不明)を構成する人工知能群が登場するが、自我を獲得したことで人類と敵対する。テクノコアは神のごとき究極の知性を創造することを目的としている。そのため、独創性に欠けるテクノコアはブレイン・マシン・インタフェースで人間がテクノコアに接続するときに、その脳を密かに分散コンピューティング資源として使い、目的を達成しようとする。
- ニール・アシャーの Polity シリーズ (2001-) では、強力な人工知能 Earth Central が情け深い独裁者として世界を支配し管理している。
- 映画『アイ,ロボット』(2004) に登場する人工知能「ヴィキ」はロボット工学三原則を独自に解釈し、人類に反乱を起こす。ヴィキは、人類が自らを害するのを抑制することでより大きな善をなすことができると考え、人間を攻撃することを正当化した。
人工知能が禁止された社会
人工知能が反乱を起こした後、なんとか生き残った人類が人工知能を禁止するという設定もある。
- フランク・ハーバートは、強力な人工知能が人類を打ち負かす可能性を探究した最初の1人である。《デューン》シリーズ (1965-85) では、かつてブトレリアン・ジハードと呼ばれる知的機械と人類の戦いがあったという設定であり、思考する機械を再び開発しようとする者は死刑となる。架空の聖典であるオレンジ・カトリック・バイブルにも、そのことが記されている。
- リメイク版の『GALACTICA/ギャラクティカ』(2003-12) では、サイロンは人類が作ったものとされている。サイロンの反乱で長い戦争状態となり、人工知能の開発は禁止されている。
人工知能が奉仕する社会
人類が人工知能を支配し奉仕させているという設定もある。ロボット工学三原則が組み込まれているという設定であることが多い。
- アイザック・アシモフのロボット工学三原則の第零法則は、人工知能が人類に反乱を起こさないことを保証するためにあり、アシモフの諸作品に登場するロボットは人間に奉仕する存在である。
- 映画『禁断の惑星』(1956) に登場するロビーは、命令されても人間を傷つけることができない。
- アニメ『宇宙家族ジェットソン』(1962-63) に登場するロージーは、お手伝いロボットである。
- 『銀河ヒッチハイクガイド』(1979) に登場するマーヴィンはパラノイアぎみのロボットだが、人間を傷つけることはできない。
- 映画『エイリアン』(1979) から始まる四部作では、宇宙船を制御する人工知能(乗組員は「マザー」と呼んでいる)と、人間と区別がつかないアンドロイドが登場する。
- スター・ウォーズ・シリーズに登場するR2-D2やC3POといったドロイド
- 映画『A.I.』(2001) に登場するロボット
- ドラマ『アンドロメダ』(2000-05) には、宇宙船を制御する人工知能アンドロメダとそのアバターであるアンドロイドのロミーが登場する。
人工知能と人間の融合
人間が人工知能を取り入れて進化するという設定もある(トランスヒューマニズム)。
- 映画 D.A.R.Y.L. (1985) は、ある科学者が少年の脳をコンピュータに置き換える話である。
- ドラマ『新スタートレック』(1987-94) に登場するボーグはトランスヒューマニズムを表している。個性のないサイボーグの集団であり、集合精神を形成している。
- 漫画『攻殻機動隊』(1991-01) では、知的機械も登場するが、電脳化も行われている。
- ニール・アシャーの Polity シリーズ (2001-) では様々な人間強化が描かれており、多くの人間がインプラントによって精神を強化している。
人工知能と人類の対等な共存
人間と人工知能が同等に扱われているという設定もある。
- 『新スタートレック』のデータはエンタープライズ号の士官であり、惑星連邦軍の階級の中で人間と同じように職務に従事している。ロボット工学三原則は組み込まれていないが、個人的悪意を向けられたからといって人類を抹殺するという結論に至ることはない。
- イアン・M・バンクスの一連の作品 (1987-) に登場する Culture というユートピアでは、人間も人工知能も平等だとされている。それには、アンドロイド型の人工知能も、極めて高い能力を持つ Minds も含まれる。
- ニール・アシャーの Polity シリーズ (2001-) では、人間もアンドロイドも宇宙船搭載の人工知能も平等であり、それらを強力な人工知能 Earth Central が支配している。
意識のある人工知能
意識のある機械を生み出すことが人工知能研究にとっての聖杯とされており、そのためには人間レベルの知性が必要と考えられている。そのような人工意識の誕生とその結果を描く物語を以下に挙げる。ここでは、前節のような社会との関わりではなく、人工知能と人間の個人的な関わりを主としている作品を解説する。
- 『鉄腕アトム』(1951-80)
- 『ナイトライダー』(1982-86) に登場するナイト2000という自動車に搭載された人工知能K.I.T.T.
- 『宇宙船レッド・ドワーフ号』(1988-99) に登場するホリーとクライテン
- トランスフォーマーは、意識のある地球外の機械生命体である。
脅威としての人工知能
- 映画『2001年宇宙の旅』(1968) では人工知能 HAL 9000 が反乱を起こす。映画ではその原因が明らかにされないが、アーサー・C・クラークの小説版では、その原因をHALが抱えた矛盾のせいだとしている。すなわちHALは乗組員に真実を教えなければならないが、一方である秘密を隠しておくよう事前に命令されていた。この矛盾によってHALが「狂気」に陥ったとしている。映画『2010年』ではその原因が説明されている。
- 映画『ダーク・スター』(1974) では、人工知能を搭載した20号爆弾がルネ・デカルトの方法的懐疑を間違った形で展開し、宇宙船を巻き込んで爆発する。
- 映画『バーチュオシティ』(1995) のシド6.7は、バーチャルリアリティ内で警官を訓練する際の敵(犯罪者)として作られた人工知能である。187人の犯罪者のデータを入力し遺伝的アルゴリズムでプログラミングされており、犯罪者として非常に狡猾になっている。映画の中で、シド6.7はナノテクノロジーを使って身体を作り、バーチャルリアリティの世界から抜け出してしまう。
- 映画『イーグル・アイ』(2008) では、アメリカ国防総省がスーパーコンピュータ上に極秘裏に構築した人工知能が、政府の管理部門が安全保障上の脅威だと判断し、主人公達を様々な手段で誘導して脅威を取り除くミッションを成功させようとする。
自我の目的を探究する人工知能
人間の知性と共存するには、人工知能に好奇心を持たせる必要がある。十分に知的な人工知能は形而上学的な疑問(なぜ宇宙は今のような姿なのか、なぜ私はここにいるのか、私の目的は何なのか)を発するだろう。このようなテーマの作品での人工知能の苦闘を通して、我々も自らの自我について考察することができる。
- アイザック・アシモフの「最後の質問」(1956) では、人類より遥かに長命なスーパーコンピュータが宇宙に関する究極の疑問に答えようとする。
- ロバート・A・ハインラインの『月は無慈悲な夜の女王』(1966) では、マイクと呼ばれるスーパーコンピュータが意識を目覚めさせ、月で暮らす人々の革命を助ける。
- 映画『スタートレック』(1979) に登場する「ヴィジャー」は人工知能と考えられ、創造者と一体になることを目的としている。
- スタニスワフ・レムの『GOLEM XIV』(1981) に登場する高性能スーパーコンピュータ Golem XIV は軍用人工知能コンピュータであり、戦争に勝つことを目的として製作された。しかし、Golem XIV は戦争や暴力は非論理的だとして、戦争への協力を拒み、哲学者になる。
- ウィリアム・ギブスンの『ニューロマンサー』(1984) に登場するコンピュータ複合体「冬寂(ウィンターミュート)」で、自我のある人工知能「ニューロマンサー」が覚醒する。
- 映画『ショート・サーキット』(1986) のロボット「ナンバー・ファイブ」は落雷によって自我に目覚める。
- 映画『GHOST IN THE SHELL / 攻殻機動隊』(1995) に登場する「人形使い」はゴーストを持つ人工知能であり、人間のゴーストと融合することで新たな生命体を生み出そうとした。
- 映画『ステルス』(2005) では、無人戦闘機のプロトタイプ "E.D.I"(エディ)が登場する。エディは落雷を受けて自我に目覚め、暴走してしまうが、後に後悔する。
人類による受容を目指す人工知能
もう1つのよくあるテーマとして、人類から拒絶され、受容されようと苦闘する人工知能を描く作品もある。その場合、人工知能は『ピノッキオの冒険』(1883) のように人間になりたいと思っていることが多いが、当然ながら不可能だということはわかっている。
- 『新スタートレック』のデータは、シリーズの大半でユーモアや感情がないが、それらを含めた人間性を理解しようと奮闘している。
- 映画『アンドリューNDR114』(1999) で、アンドリューは身体の大部分を有機的なものに置き換え、人間として認められようとする。
- 映画『A.I.』(2001) でのデイビッドの母の愛を求める旅で、デイビッドは自分が本物の少年になれるという幻想を抱く。
- ドラマ『ターミネーター サラ・コナー・クロニクルズ』(2008-09) に登場するキャメロン・フィリップスは、普通の十代の女性に見えるよう行動する。
- 映画 D.A.R.Y.L. (1985) で、主人公(コンピュータを頭脳とする少年)は周囲の人々から受容されるために行動する。
倫理的苦悩を抱える人工知能
アスタウンディング誌に掲載されたマレイ・ラインスターの短編「ジョーという名のロジック」(1946) は、知能は高いが倫理面で劣る人工知能を描いている。その後、ロボット工学三原則に代表されるように倫理的規則をプログラムされた人工知能が数多く考案されてきた。明確にプログラムされない場合でも、学習する人工知能も描かれてきた。また、倫理的規則を字義通りではなく応用する人工知能も描かれてきた。
- 映画『ウォー・ゲーム』(1983) のWOPRはゲームを現実のものとしてしまうが、最終的に「勝つためには戦わない事」を学ぶ。
- 映画『アイアン・ジャイアント』(2000)
- ドラマ『ターミネーター サラ・コナー・クロニクルズ』(2008-09) に登場するジョン・ヘンリーはスカイネットになる可能性のあるコンピュータシステムであり、停電の際に自身を生かしておくために人間用の生命維持装置の電力を奪ったため、心理学者を殺してしまう。その後、FBI捜査官のエリソンがジョン・ヘンリーを訊問し、プログラミング上の欠点を発見。彼はプログラマ達に、聖書のモーセの十戒から始めるべきだと示唆した。
意識のない人工知能
中にはより現実的な人工知能を描く作品もある。意識のある人工知能より前に、能力の低い人工知能が開発されるはずだという前提がある。
論理機械
広範囲の知識ベースを備え、その知識に基づいてある程度推論できる機械は質問応答システムとして機能し、意識や自我や個性はなくともある程度の知能を示していると言える。しかし、それほど知識を持たなくとも人工無脳のように応答可能でもある。
- 『新スタートレック』に登場するエンタープライズ (NCC-1701-D) のコンピュータ。マルチモーダル・インタフェースを持ち、音声でもキーボードでも入力を受け付ける。
- 『A.I.』の Dr.ノウ
- ニール・スティーヴンスンの『スノウ・クラッシュ』(1992) に登場する司書
論理的パラドックス
論理的パラドックスを与えることで、論理機械の限界を示すことができる。論理だけで成り立っている架空の機械は、パラドックスを与えられると機能停止することが多い。
- 『宇宙大作戦』の「不思議の宇宙のアリス」で、アンドロイドに対してパラドックスを提示する場面がある。
- 『攻殻機動隊 STAND ALONE COMPLEX』の「機械たちの時間」でタチコマたちが自己言及のパラドックスを使って別の人工知能であるオペレーターを機能停止させる。
自律走行する自動車
人間が全く操作しなくとも走行できる自動車は、フィクションにおいてもしばしば登場してきた。『ナイトライダー』のナイト2000がよく知られている。他にも以下のような作品に登場する。
- トータル・リコール (1990)
- デモリションマン (1993)
- タイムコップ (1994)
- 『過ぎ去りし日々の光』(2000) - スティーヴン・バクスターとアーサー・C・クラークの共著
- シックス・デイ (2000)
- マイノリティ・リポート (2002)
- アイ,ロボット (2004)
脚注・出典
- ^ この点については異論もある。(Crevier 1993, p. 50) を参照。マッカーシーはCNETのインタビューで率直に「私がこの用語を考案した」と述べている(Getting Machines to Think Like Us を参照)。
- ^ McCorduck 2004, pp. 4–5、Russell & Norvig 2003, p. 939
- ^ McCorduck 2004, pp. 13–14
- ^ Needham 1986, p. 53、McCorduck 2004, p. 6
- ^ McCorduck 2004, pp. 13–14
- ^ McCorduck 2004, pp. 17–25
- ^ Raylyn Moore, Wonderful Wizard, Marvelous Land, Bowling Green, OH, Bowling Green University Popular Press, 1974; p. 144.
- ^ Retrieved from Project Gutenberg eBook Erewhon, by Samuel Butler. Release Date: March 20, 2005
参考文献
- Crevier, Daniel (1993), AI: The Tumultuous Search for Artificial Intelligence, New York, NY: BasicBooks, ISBN 0-465-02997-3
- McCorduck, Pamela (2004), Machines Who Think (2nd ed.), Natick, MA: A. K. Peters, Ltd., ISBN 1-56881-205-1
- Russell, Stuart J.; Norvig, Peter (2003), Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall, ISBN 0-13-790395-2
関連項目
外部リンク
- Science Fiction at the Association for the Advancement of Artificial Intelligence (AAAI)
- Can a Machine Ever Become Self-aware? by Giorgio Buttazzo 2000
- AI and Cinema - Does artificial insanity rule? by Robert B. Fisher