技術的特異点

出典: フリー百科事典『ウィキペディア（Wikipedia）』

これはこのページの過去の版です。Bekkii52 (会話 | 投稿記録) による 2016年3月27日 (日) 04:32 （個人設定で未設定ならUTC）時点の版であり、現在の版とは大きく異なる場合があります。

技術的特異点（ぎじゅつてきとくいてん、英語：Technological Singularity）とは、テクノロジーが急速に変化し、それにより甚大な影響がもたらされ、人間の生活が後戻りできないほどに変容してしまうような、来るべき未来のこと[1]。人工知能が人間の能力を超えることで起こる出来事[2][3]と説明されることも少なくない。　単にシンギュラリティ（Singularity）ともいう。未来研究において、正確かつ信頼できる、人類の技術開発の歴史から推測され得る未来モデルの限界点を指す。

概要

技術的特異点は、汎用人工知能（en:artificial general intelligence　AGI）によって起こる出来事である[4]。あるいは、「強い人工知能」や人間の知能増幅が可能となったとき出現する。フューチャリストらによれば、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンであり、従ってこれまでの人類の傾向に基づいた人類技術の進歩予測は通用しなくなると考えられている。

この概念は、数学者ヴァーナー・ヴィンジと発明者でフューチャリストのレイ・カーツワイルにより初めて提示された。彼らは、意識を解放することで人類の科学技術の進展が生物学的限界を超えて加速すると予言した。意識の解放を実現する方法は、人間の脳を直接コンピュータネットワークに接続し計算能力を高めることだけに限らない。それ以前に、ポストヒューマンやAI（人工知能）の形成する文化が現生人類には理解できないものへと加速度的に変貌していくのである。カーツワイルはこの加速度的変貌がムーアの法則に代表される技術革新の指数関数的傾向に従うと考え、収穫加速の法則(Law of Accelerating Returns)と呼んだ。

特異点を肯定的に捉えその実現のために活動する人々がいる一方、特異点は危険で好ましくなくあってはならないと考える人々もいる。実際に特異点を発生させる方法や、特異点の影響、人類を危険な方向へ導くような特異点をどう避けるかなどが議論されている。

アイディアの歴史

技術的特異点のアイディアは少なくとも19世紀半ばまで遡る。 1847年、Primitive Expounder の編集者である R. Thornton は、当時、四則演算可能な機械式計算機が発明されたことに因んで、冗談半分に次のように書いている[5]。

… そのような機械を使えば、学者は精神を酷使することなくただクランクを回すだけで問題の答を捻り出せてしまう訳で、これが学校にでも持ち込まれたなら、それこそ計算不能なほどの弊害を齎すでしょう。いわんや、そのような機械がおおいに発展し、自らの欠陥を正す方策を思いつくこともないまま、人智の理解を超えた概念を捻り出すようになったとしたら！

1951年、アラン・チューリングは人間を知的能力において凌駕する機械について述べている[6]。

機械が思考する方法がひとたび確立したならば、我らの如きひ弱な力はすぐに追い抜いて行くだろう。… 従って何らかの段階で、丁度サミュエル・バトラーがエレホン(en:Erehwon)の中で描いたように、機械が実権を握ることになると考えねばなるまい。

1958年5月、スタニスワフ・ウラムはジョン・フォン・ノイマンとの会話に言及して次のように書いている[7]。

あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。

1965年、統計家 I. J. Good は、人類を超えた知能による世界への影響を強調し、より特異点に迫るシナリオを描いた。

超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる。

ジェラルド・S・ホーキンズは、著書『宇宙へのマインドステップ』（白揚社、1988年2月。原著は1983年8月）の中で「マインドステップ」の観念を明確にし、方法論または世界観に起きた劇的で不可逆な変化であるとした。彼は、人類史の5つのマインドステップと発生した「新しい世界観」に伴う技術を示した（彫像、筆記、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ……）。曰く、「個々の発明は集合精神を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない。」ホーキンズは経験に基づいてマインドステップの方程式を定量化し、今後のマインドステップの発生時期を明らかにした。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来るとしている。そして技術的観点を超越し次のように推測した。

マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能ではあるが）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれないのだ。

特異点の概念は数学者であり作家でもあるヴァーナー・ヴィンジによって大いに普及した。ヴィンジは1980年代に特異点について語りはじめ、オムニ誌の1983年1月号で初めて印刷物の形で内容を発表した。彼は後に1993年のエッセイ "The Coming Technological Singularity" の中でその概念をまとめた（ここには、よく引用される「30年以内に私達は超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」という一文を含んでいる）。

ヴィンジは、超人間的な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは短期間で大幅な技術の進歩を生み出すと彼は予測している。

超人間的知性の創造

人類を超える知性を創造する方法は、人間の脳の知能増幅と人工知能の2つに分類される。

人間の知能増進の方法として考えられる手法は様々である。バイオテクノロジー、向知性薬（向精神薬の一種）、AIアシスタント、脳とコンピュータを直結するインターフェイス（ブレイン・マシン・インタフェース）、精神転送などがそれである。 劇的に寿命を延ばす技術、人体冷凍保存、分子レベルのナノテクノロジーなどがあれば、より進歩した未来の知能増進医療を受けることができる。さらに増進した知能から得られる技術として不死や人体改造を受けられる可能性も出てくる。

特異点到達に積極的な組織は、その方法として人工知能を選ぶことが最も一般的である。例えば、Singularity Institute（特異点研究所）は、2005年に出版した "Why Artificial Intelligence?" の中で、その選択理由を明らかにしている。

ジョージ・ダイソンは、自著 Darwin Among the Machines の中で、十分に複雑なコンピュータネットワークが群知能を作り出すかもしれず、将来の改良された計算資源によってAI研究者が知性を持つのに十分な大きさのニューラルネットワークを作成することを可能にするかもしれないという考えを示した。精神転送は人工知能を作る別の手段として提案されているもので、新たな知性をプログラミングによって創造するのではなく、既存の人間の知性をデジタル化してコピーすることを意味する。

カーツワイルの収穫加速の法則

人類史上のパラダイムシフトとなった重要な出来事を、15の独立したリストで示した両対数グラフ[8]。

レイ・カーツワイルは、歴史研究の結果、技術的進歩が指数関数的成長パターンにしたがっていると結論付け、特異点が迫っているという説の根拠としている。これを「収穫加速の法則」(The Law of Accelerating Returns)と呼ぶ。彼は集積回路が指数関数的に細密化してきているというムーアの法則を一般化し、集積回路が生まれる遥か以前の技術も同じ法則にしたがっているとした。

彼によれば、ある技術が限界に近づくと、新たな技術が代替するように生まれてくる。パラダイムシフトがますます一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」と予測している（カーツワイル、2001年）。カーツワイルは特異点が21世紀末までに起きると確信しており、その時期を2045年としている（カーツワイル、2005年）。彼が予想しているのは特異点に向けた緩やかな変化であり、ヴィンジらが想定する自己改造する超知性による急激な変化とは異なる。この違いを「ソフトな離陸」(soft takeoff)と「ハードな離陸」(hard takeoff)という用語で表すこともある。

カーツワイルがこの法則を提案する以前、多くの社会学者と人類学者は社会文化の発展を論じる社会理論を構築してきた。ルイス・H・モーガン、レスリー・ホワイト、ゲルハルト・レンスキらは文明の発展の原動力は技術の進歩であるとしている。モーガンのいう社会的発展の三段階は技術的なマイルストーンによって分けられている。ホワイトは特定の発明ではなく、エネルギー制御方法（ホワイトが文化の最重要機能と呼ぶもの）によって文化の度合いを測った。彼のモデルはカルダシェフの文明階梯の考え方を生むこととなった。レンスキはもっと現代的な手法を採用し、社会の保有する情報量を進歩の度合いとした。

1970年代末以降、アルビン・トフラー（未来の衝撃の著者）、ダニエル・ベル、およびジョン・ネイスビッツは、脱工業化社会に関する理論からアプローチしているが、その考え方は特異点近傍や特異点以後の社会の考え方に類似している。彼らは工業化社会の時代が終わりつつあり、サービスと情報が工業と製品に取って代わると考えた。

逆に、Theodore Modis と Jonathan Huebner は技術革新の加速が止まっただけではなく、現在減速していると主張した。John Smart は彼らの結論を批判している[2]。また、カーツワイルが理論構築のために過去の出来事を恣意的に選別したという批判もある。

特異点の妥当性と安全性

多くの特異点論者はナノテクノロジーが人間性に対する最も大きな危険のひとつであると考えている。このため、彼らは人工知能をナノテクノロジーよりも先行させるべきだとする。Foresight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。

友好的人工知能の支持者は、特異点が潜在的に極めて危険であることを認め、人間に対して好意的なAIを設計することでそのリスクを排除しようと考えている。アイザック・アシモフのロボット工学三原則は、人工知能搭載ロボットが人間を傷つけることを抑止しようという意図によるものである。ただし、アシモフの小説では、この法則の抜け穴を扱うことが多い。

ソフトバンク社社長の孫正義は、シンギュラリティ実現の年度を「2018年前後」と予想し、単純労働は人工知能に任せ、人類は好きなことに専念できると好意的に予想した[9][10][11]。

危険性

考えられうる超人間的知性の中には、人類の生存や繁栄と共存できない目的をもつものもあるかもしれない。例えば、知性の発達とともに人間にはない感覚、感情、感性が生まれる可能性がある。AI研究者フーゴ・デ・ガリスは、AIが人類を排除しようとし、人類はそれを止めるだけの力を持たないかもしれないと言う。他によく言われる危険性は、分子ナノテクノロジーや遺伝子工学に関するものである。これらの脅威は特異点支持者と批判者の両方にとって重要な問題である。ビル・ジョイはWIREDで、その問題をテーマとして Why the future does't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学の哲学者ニック・ボストロムは人類の生存に対する特異点の脅威についての論文 Existential Risks（存在のリスク）をまとめた（2002年）。ボストロムは、『Superintelligence: Paths, Dangers, Strategies（超知能：道筋、危険、戦略）』の著者でもある。

スティーブン・ホーキング（宇宙物理学）は、人類の能力を超える人工知能が人類を滅ぼしかねない危険性があり、生物学的進化に制約される人類が人工知能の発達に対抗することは困難だと考えており[12][13]、国連代表部と国際連合地域間犯罪司法研究所が主催した会議でも懸念を表明した[14][15]。この国連の会議では、ニック・ボストロムも、特に人間の能力をはるかに超える人工知能を制御する方法は未解決であり、解決のための研究の必要性を訴えている[16][17]。

ホーキングは、2015年5月12日にロンドンで開催されたツァイトガイスト2015でも、人工知能が「100年以内に人間の文明を終わらせる」可能性を指摘した[18]。ホーキングはまた、2014年でも、マックス・テグマーク（物理学）、フランク・ウィルチェック、スチュワート・ラッセルらとともに、人工知能に関する理解が一般に浸透していない問題を指摘した[19][20]。

ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチは、完全な自律兵器の開発・運用を国際的に禁止するべきだと2015年4月の報告書で要求した[21]。

ネオ・ラッダイトの見方

一部の人々は、先端技術の開発を許すことは危険すぎると主張し、そのような発明をやめさせようと主張している。ユナボマーと呼ばれたアメリカの連続爆弾魔セオドア・カジンスキーは、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方、AIが作られなければ十分な技術革新の後で人類の大部分は家畜同然の状態になるだろうとも主張している。カジンスキーの言葉はビル・ジョイの記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対するだけでなくネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動のように現在の技術を排除しようとはしない。

カジンスキーだけでなく、ジョン・ザーザンやデリック・ジェンセンといった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野性的で妥協の無い自由な生活の損失であるとする。地球解放戦線(ELF)やEarth First!といった環境問題に注力するグループも基本的には特異点を阻止すべきと考えている。

共産主義者は史的唯物論に立っているため、特異点を基本的に容認し、意識の共有に肯定的でAIロボットの反乱を階級の認識と考えている。 一方、特異点によって未来の雇用機会が奪われることを心配する人々がいるが、ラッダイト運動者の恐れは現実とはならず、産業革命以後には職種の成長があった。経済的には特異点後の社会はそれ以前の社会よりも豊かとなる。特異点後の未来では、一人当たりの労働量は減少するが、一人当たりの富は増加する。

技術的特異点に関する誤解

カーツワイルが想定する2045年の技術的特異点を「コンピューターの知性が人間を超えること」とする報道が一部メディアで見られるが、カーツワイルはコンピューターの知性が人間を超える時期を2020年代と予想しており、誤解である。

・人間の知能を模倣するために必要なハードウェアが、スーパーコンピューターでは10年以内に、パーソナル・コンピュータ程度のサイズの装置ではその次の10年以内に得られる。2020年代半ばまでに、人間の知能をモデル化した有効なソフトウェアが開発される。

・ハードとソフトの両方が人間の知能を完全に模倣できるようになれば、2020年代の終わりまでには、コンピューターがチューリングテストに合格できるようになり、コンピュータの知能が生物としての人間の知能と区別がつかなくなるまでになる。

ポスト・ヒューマン誕生 P.40、レイ・カーツワイル著、2005年


カーツワイルが想定する2045年の世界のシナリオは端的に言えば「1000ドルのコンピューターの演算能力がおよそ10ペタFLOPSの人間の脳の100億倍にもなり、技術的特異点に至る知能の土台が十分に生まれているだろう」というもので、コンピューター１台が人間一人あるいは人類全体の知能(100億人分の知能)を超えた瞬間に激変が起きることを意味していない。

フィクションでの描写

フィクションでの特異点の描写は4つに分類される。

  • AIと技術的に増幅された人類（ただし、AIよりも劣っていることが多い）：『HALO』
  • AIと元のままの人類（「ローカルな特異点」と呼ばれることがある）：『マトリックス』、『ターミネーター』のスカイネット
  • 生物学的に進化した人類
  • 技術的に増幅された人類

特異点アイデアを開拓したヴァーナー・ヴィンジの物語に加えて、何人かの他のSF作家は主題が特異点に関係する話を書いている。特筆すべき著者として、ウィリアム・ギブスン、グレッグ・イーガン、グレッグ・ベア、ブルース・スターリングなどが挙げられる。特異点はサイバーパンク小説のテーマのひとつである。再帰的な自己改良を行うAIとしてはウィリアム・ギブスンの『ニューロマンサー』に登場する同名のAIが有名である。アーサー・C・クラークの『幼年期の終り』、アイザック・アシモフの『最後の質問』（短編）、ジョン・W・キャンベルの『最終進化』（短編）なども古典ともいうべき作品ながら技術的特異点を扱っていると言える。ディストピア色が強いものとしては、ハーラン・エリスンの古典的短編『おれには口がない、それでもおれは叫ぶ』がある。日本の作品では、『火の鳥』において政治の一切を電子頭脳が管理する世界が描かれている。『攻殻機動隊』では、ウェットウェアが遍在し人工意識が発生しはじめた世界を描いており、山本弘による『サイバーナイト』のノヴェライズには、人類によって作られた人工知能MICAが、バーサーカーと呼ばれる機械生命体（フレッド・セイバーヘーゲンのバーサーカーシリーズに由来）を取り込み特異点 (作中では「ブレイクスルー」と表現) を越える、というくだりがある。また、山口優による『シンギュラリティ・コンクェスト　女神の誓約』（第11回日本SF新人賞受賞作)は、技術的特異点の克服をテーマにしている。芥川賞作家である円城塔の「Self-Reference ENGINE」はAIが再帰的に進歩を続けた結果大きく変質した後の世界（特異点後の世界）を描いている。長谷敏司の『BEATLESS』では、社会の様々な営みが人工知能群によって自動化され、文明における人間の立ち位置が変化しつつある世界が描かれている。

技術的特異点を扱った初めての短編は、フレドリック・ブラウンが1954年に書いた『回答』であろう。

また近年の潮流としては、ケン・マクラウドらイギリスの新世代作家たちが、「ニュー・スペースオペラ」と呼ばれる「特異点に到着した人類社会」を舞台とした作品群を執筆している。

映画とテレビ

人類よりも賢いAIが登場する映画の最も早い例として『地球爆破作戦』(Colossus: The Forbin Project)がある。1969年の映画であり、米軍のスーパーコンピュータが意識を持つようになって人類に平和を押し付けるという話である。『マトリックス』では、AIが人類を支配し鎮圧した世界が描かれている。『ターミネーター』では、スカイネットと呼ばれるAIが意識を持ち、人類を根絶するために核兵器を使用する。

アニメにもヴィンジとカーツワイルによって提案された特異点関連のテーマがある。『serial experiments lain』では、意識のダウンロードというトピックが扱われている。『バブルガムクライシス TOKYO2040』では、AIが現実を変更する強力な能力を持って出現する。『ゼーガペイン』では特異点後に人類が滅亡した後の世界を舞台としている。

2014年公開の映画『トランセンデンス』はまさに「技術的特異点」という意味の英語表現である。この映画では技術的特異点から先に技術の発展を進めさせないために、人類は全世界の電気エネルギーをシャットダウンする。

関連団体、その他

  • Singularity Institute for Artificial Intelligence
  • Acceleration Studies Foundation
  • Singularity University

脚注

  1. ^ シンギュラリティは近いー人類が生命を超越するとき（レイ・カーツワイル）参考文献と同内容の電子書籍版であるがタイトルは原題に近い訳に変更されている。
  2. ^ 人工知能の研究開発をどう進めるか　技術的特異点（シンギュラリティ）を見据えて（東京大学大学院工学系研究科　堀 浩一）
  3. ^ 人類とICTの未来：シンギュラリティまで30年？：2．シンギュラリティと人工知能の将来（公立はこだて未来大学　松原 仁）
  4. ^ 汎用人工知能が技術的特異点を巻き起こす（電子情報通信学芸誌） 山川　宏 市瀬　龍太郎 井上　智洋 Vol.98 No.3pp.238-243 発行日:2015/03/01 Online ISSN:2188-2355 Print ISSN:0913-5693 種別:オピニオン 専門分野: キーワード:
  5. ^ Thornton, Richard (1847), The Expounder of Primitive Christianity, 4, Ann Arbor, Michigan, p. 281, http://books.google.com/?id=ZM_hAAAAMAAJ&dq=%22Primitive%20Expounder%22%20thornton%201847&pg=PA281#v=onepage&q=thinking%20machine&f=false 
  6. ^ A M Turing, Intelligent Machinery, A Heretical Theory, 1951, reprinted Philosophia Mathematica (1996) 4(3): 256-260 doi:10.1093/philmat/4.3.256 [1]
  7. ^ Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, vol 64, nr 3, part 2, May, 1958, p1-49.
  8. ^ リストはカール・セーガン、ポール・D・ボイヤー、ブリタニカ百科事典、アメリカ自然史博物館、アリゾナ大学他。レイ・カーツワイル編集。
  9. ^ https://softbankworld.com/ SoftBank World 2015（公式サイト）
  10. ^ http://cyclestyle.net/article/2015/08/01/25914.html 孫正義社長「2018年前後にシンギュラリティは訪れる」ソフトバンクワールド2015 その3　（CYCLE）
  11. ^ http://robotstart.info/2015/07/30/news179.html 【総力特集】SoftBank World 2015レポート～その1「基調講演：情報革命で、今日、次の世界へ。」（ロボスタドットインフォ-ロボット情報WEBマガジン-）
  12. ^ 2014年12月３日付　英フィナンシャル・タイムズ紙
  13. ^ http://www.nikkei.com/article/DGXMZO80435640T01C14A2000000/ 日本経済新聞
  14. ^ http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856
  15. ^ https://www.youtube.com/watch?v=W9N_Fsbngh8
  16. ^ http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856
  17. ^ https://www.youtube.com/watch?v=W9N_Fsbngh8
  18. ^ http://www.techtimes.com/articles/53180/20150514/robots-will-overtake-human-intelligence-within-100-years-warns-stephen-hawking.htm　TECH TIMES
  19. ^ http://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html Transcending Complacency on Superintelligent Machines（ハフィントンポスト）
  20. ^ http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856
  21. ^ http://www.techtimes.com/articles/53180/20150514/robots-will-overtake-human-intelligence-within-100-years-warns-stephen-hawking.htm　TECH TIMES

参考文献

関連項目

外部リンク

いずれも英文

「https://ja.wikipedia.org/w/index.php?title=技術的特異点&oldid=59113672」から取得