技術的特異点

技術的特異点（ぎじゅつてきとくいてん、英語：Technological Singularity）、またはシンギュラリティ（Singularity）とは、人工知能が人間の能力を超えることで起こる出来事である。人類が人工知能と融合し、生物学的な思考速度の限界を超越することで、現在の人類からして、人類の進化速度が無限大に到達したように見える瞬間に到達すること。実際に人類の進化速度が無限大になることはないが、進化速度が極めて速く、数学的な特異点と同様に見えるため、このように名付けられた。2010年代以降、一躍有名になったレイ・カーツワイルの予言の影響により、一般層を中心に2045年問題とも呼ばれている。

概要

技術的特異点は、汎用人工知能（en:artificial general intelligence　AGI）、あるいは「強い人工知能」や人間の知能増幅が可能となったときに起こるとされている出来事であり、ひとたび優れた知性が創造された後、再帰的に更に優れた知性が創造され、人間の想像力が及ばない超越的な知性が誕生するという仮説である。フューチャリストらによれば、特異点の後では科学技術の進歩を支配するのは、人類ではなく強い人工知能やポストヒューマンであり、従ってこれまでの人類の傾向に基づいた人類技術の進歩予測は通用しなくなると考えられている。

この概念は、数学者ヴァーナー・ヴィンジと発明者でフューチャリストのレイ・カーツワイルにより初めて提示された。彼らは、意識を解放することで人類の科学技術の進展が生物学的限界を超えて加速すると予言した。意識の解放を実現する方法は、さまざまな方法が提案されている。カーツワイルはこの加速度的変貌がムーアの法則に代表される技術革新の指数関数的傾向に従うと考え、収穫加速の法則（Law of Accelerating Returns）と呼んだ。

技術的特異点が到来する可能性については様々な意見が存在するが、多数の人がこの予測を肯定的に捉え、その実現のために活動している。一方で、技術的特異点は人類にとっては危険であり、回避するべきと考える人々もいる。実際に技術的特異点を発生させる方法や、技術的特異点の社会的影響、人類にとって理想的な形で技術的特異点を迎える方法などが研究されている。

2010年代後半に入り、ディープラーニングの産業応用が進むと同時にマスメディアでも度々取り上げられるようになり、広いとは言い難いが一般層にも認知される概念になった。一般層においては、別名の2045年問題という名称で知られることが多い。

指数関数的な技術進歩のモデルである収穫加速の法則に従い登場する技術が社会に与える影響を考えると、技術的特異点以前の時代においても社会に大きな変化が起きることが予測可能である。特に、PEZY Computing代表の齊藤元章により、2025年頃にプレ・シンギュラリティ（前特異点、社会的特異点）と呼ばれる社会的な大変革が始まることが予測されている。そして、その後は人類の生存に必要な労働の負荷が急速に低減して行き、人類の生活の在り方が根底から覆ると予測されている。例えば、2025年を過ぎた辺りから、超小型核融合炉の実用化によるエネルギーコストの実質的な無料化と、それに伴う衣食住の無料化や、汎用人工知能（AGI）による純粋機械化経済の実現や、現実世界と見分けが付かない程に精緻なVRの実現などが立て続けに起きると予測されている。

主要な論者

レイ・カーツワイル

2005年に著作で特異点は近い The Singularity Is Near と宣言した。2012年以降のディープラーニングの爆発的な普及を契機として、大きな注目を集めるようになった。技術的特異点と呼ばれる概念を提唱した人物であると思われがちだが、技術的特異点という概念自体は1980年代以前からヴァーナー・ヴィンジのSF作品に見ることができる。

現在用いられている意味において、技術的特異点の意味するものは、レイ・カーツワイルによれば、「100兆の極端に遅い結合（シナプス）しかない人間の脳の限界を、人間と機械が統合された文明によって超越する」瞬間のことである。同じくレイ・カーツワイルが提唱する、進化の6つのエポックにおけるエポック5とも同義である。電子計算機の発明以前から同様の主張は行われていたが、2005年にレイ・カーツワイルが発表した、The Singularity Is Near: When Humans Transcend Biology（和書:ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき）において、宇宙の歴史、生命の歴史、科学技術の歴史に基づく、多角的で長大な論証が行われ、初めて明確化された。未来研究においては、人類により発明された科学技術の歴史から推測されうる、未来モデルの適用限界点と定義されている。

一般人からは未だに誤解されていることが多いが、2045年は「汎用人工知能（AGI）が人類史上初めて出現する年」あるいは「汎用人工知能（AGI）が人類史上初めて人間よりも賢くなる年」ではない。レイ・カーツワイルは、そのような出来事は2029年頃に起きると予測している。レイ・カーツワイルは、2045年頃には、1000ドルのコンピューターの演算能力がおよそ10ペタFLOPSの人間の脳の100億倍にもなり、技術的特異点に至る知能の土台が十分に生まれているだろうと予測しており、この時期に人間の能力と社会が根底から覆り変容すると予想している。レイ・カーツワイルは、人類の進化として最も理想的な形で技術的特異点を迎える場合、GNR革命の進行により、人類の知性が機械の知性と完全に融合し、人類がポスト・ヒューマンに進化すると予測している。 ただし、平木敬の予測によれば人間の脳の処理能力はゼタFLOPS級である。

2016年頃からは、IoTや人工知能が本格的に実用化され始めたため、世界中の識者の間で議論が活発化している。技術的特異点が実際に到来するかどうかは別としても、レイ・カーツワイルが提唱した収穫加速の法則自体は実証され続けている。

ヴァーナー・ヴィンジ

ヴィンジは作品の多くで技術的特異点に関する興味を示している。『マイクロチップの魔術師』はまさにその特異点で発生する出来事を描いている。The Peace Warでは「Bobble」によって特異点が先延ばしにされた世界を描き、Marooned in Realtime では少数の人間が地球に訪れようとしていた特異点をなき物にしようとする様を描いている。

ヒューゴ・デ・ガリス

1990年代に遺伝的アルゴリズムの研究で先駆的な業績を挙げ、1994年から2000年まで国際電気通信基礎技術研究所（ATR）の人間情報処理研究所で10億ニューロンの人工脳を開発するための研究計画に参画したヒューゴ・デ・ガリスは人工知能は急激に発展して、シンギュラリティが21世紀の後半に来ると予測する。その時、人工知能は人間の知能の1兆の1兆倍（10の24乗）になると主張している。

アイディア

アイディアの歴史

技術的特異点のアイディアは少なくとも19世紀半ばまで遡る。 1847年、Primitive Expounder の編集者である R. Thornton は、当時、四則演算可能な機械式計算機が発明されたことに因んで、冗談半分に次のように書いている。

… そのような機械を使えば、学者は精神を酷使することなくただクランクを回すだけで問題の答を捻り出せてしまう訳で、これが学校にでも持ち込まれたなら、それこそ計算不能なほどの弊害を齎すでしょう。いわんや、そのような機械がおおいに発展し、自らの欠陥を正す方策を思いつくこともないまま、人智の理解を超えた概念を捻り出すようになったとしたら！

1951年、アラン・チューリングは人間を知的能力において凌駕する機械について述べている。

機械が思考する方法がひとたび確立したならば、我らの如きひ弱な力はすぐに追い抜いて行くだろう。… 従って何らかの段階で、丁度サミュエル・バトラーがエレホン（en:Erehwon）の中で描いたように、機械が実権を握ることになると考えねばなるまい。

1958年5月、スタニスワフ・ウラムはジョン・フォン・ノイマンとの会話に言及して次のように書いている。

あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。

1965年、統計家 I. J. Good は、人類を超えた知能による世界への影響を強調し、より特異点に迫るシナリオを描いた。

超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる。

ジェラルド・S・ホーキンズは、著書『宇宙へのマインドステップ』（白揚社、1988年2月。原著は1983年8月）の中で「マインドステップ」の観念を明確にし、方法論または世界観に起きた劇的で不可逆な変化であるとした。彼は、人類史の5つのマインドステップと発生した「新しい世界観」に伴う技術を示した（彫像、筆記、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ……）。曰く、「個々の発明は集合精神を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない。」ホーキンズは経験に基づいてマインドステップの方程式を定量化し、今後のマインドステップの発生時期を明らかにした。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来るとしている。そして技術的観点を超越し次のように推測した。

マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能ではあるが）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれないのだ。

特異点の概念は数学者であり作家でもあるヴァーナー・ヴィンジによって大いに普及した。ヴィンジは1980年代に特異点について語りはじめ、オムニ誌の1983年1月号で初めて印刷物の形で内容を発表した。彼は後に1993年のエッセイ "The Coming Technological Singularity" の中でその概念をまとめた（ここには、よく引用される「30年以内に私達は超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」という一文を含んでいる）。

ヴィンジは、超人間的な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは短期間で大幅な技術の進歩を生み出すと彼は予測している。

超人間的知性の創造

ヴァーナー・ヴィンジは、考えられうる人類を超える知性を創造する方法として、以下の4つを挙げている。

• 超人間的知性を持ったAIの開発
• 巨大コンピュータネットワークの「目覚め」による超人間的知性の獲得
• ブレイン・マシン・インタフェースによる人間の強化
• バイオテクノロジーによる人間の生物的知性の増強

上記のもの以外に、向知性薬（向精神薬の一種）の利用、AIアシスタント、精神転送などが提案されている。ジョージ・ダイソンは、著書 Darwin Among the Machines の中で、十分に複雑なコンピュータネットワークが群知能を作り出すかもしれず、将来の改良された計算資源によってAI研究者が知性を持つのに十分な大きさのニューラルネットワークを作成することを可能にするかもしれないという考えを示した。精神転送は人工知能を作る別の手段として提案されているもので、新たな知性をプログラミングによって創造するのではなく、既存の人間の知性をデジタル化してコピーすることを意味する。

特異点到達に積極的な組織は、その方法として人工知能を選ぶことが最も一般的である。例えば、Singularity Institute（特異点研究所）は、2005年に出版した "Why Artificial Intelligence?" の中で、その選択理由を明らかにしている。

収穫加速の法則

人類史上のパラダイムシフトとなった重要な出来事を、15の独立したリストで示した両対数グラフ。

レイ・カーツワイルは、歴史研究の結果、技術的進歩が指数関数的成長パターンにしたがっていると結論付け、特異点が迫っているという説の根拠としている。これを「収穫加速の法則」（The Law of Accelerating Returns）と呼ぶ。彼は集積回路が指数関数的に細密化してきているというムーアの法則を一般化し、集積回路が生まれる遥か以前の技術も同じ法則にしたがっているとした。

彼によれば、ある技術が限界に近づくと、新たな技術が代替するように生まれてくる。パラダイムシフトがますます一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」と予測している（カーツワイル、2001年）。カーツワイルは特異点が21世紀末までに起きると確信しており、その時期を2045年としている（カーツワイル、2005年）。彼が予想しているのは特異点に向けた緩やかな変化であり、ヴィンジらが想定する自己改造する超知性による急激な変化とは異なる。この違いを「ソフトな離陸」（soft takeoff）と「ハードな離陸」（hard takeoff）という用語で表すこともある。

カーツワイルがこの法則を提案する以前、多くの社会学者と人類学者は社会文化の発展を論じる社会理論を構築してきた。ルイス・H・モーガン、レスリー・ホワイト、ゲルハルト・レンスキらは文明の発展の原動力は技術の進歩であるとしている。モーガンのいう社会的発展の三段階は技術的なマイルストーンによって分けられている。ホワイトは特定の発明ではなく、エネルギー制御方法（ホワイトが文化の最重要機能と呼ぶもの）によって文化の度合いを測った。彼のモデルはカルダシェフの文明階梯の考え方を生むこととなった。レンスキはもっと現代的な手法を採用し、社会の保有する情報量を進歩の度合いとした。

1970年代末以降、アルビン・トフラー（未来の衝撃の著者）、ダニエル・ベル、およびジョン・ネイスビッツは、脱工業化社会に関する理論からアプローチしているが、その考え方は特異点近傍や特異点以後の社会の考え方に類似している。彼らは工業化社会の時代が終わりつつあり、サービスと情報が工業と製品に取って代わると考えた。

進化の6つのエポック

レイ・カーツワイルは、宇宙における情報の進化は6つの段階を経るとし、「進化の6つのエポック」と名付けている。そして、その一部として収穫加速の法則を述べている。進化の6つのエポックにおいて、エポック5は技術的特異点と同じ意味を持つ。

進化は間接的に作用する。ある能力が生み出され、その能力を用いて次の段階へと発展する。

エポック1　物理と化学

原子構造の情報

エポック2　生物

DNAの情報

エポック3　脳

ニューラル・パターンの情報

エポック4　テクノロジー

ハードウェアとソフトウェアの設計情報

エポック5　テクノロジーと人間の知能の融合（技術的特異点と同義）

生命のあり方（人間の知能も含む）が、人間の築いたテクノロジー（指数関数的に進化する）の基盤に統合される

エポック6　宇宙が覚醒する

宇宙の物質とエネルギーのパターンに、知能プロセスが充満する

プレ・シンギュラリティ（前特異点、社会的特異点）

PEZY Computingを起業し、ノイマン型の次世代スーパーコンピュータや、汎用人工知能（AGI）に向けて最適化された非ノイマン型のニューロ・シナプティック・プロセッシング・ユニット（NSPU）に関する研究開発を行っている齊藤元章は、2014年に発売された自身初の著書「エクサスケールの衝撃」において、1ペタフロップスの性能を持つスーパーコンピュータ「京」の100倍程度の性能（1エクサフロップス）を持つ次世代スーパーコンピュータの実用化と普及により、2025年までにもプレ・シンギュラリティ（社会的特異点）が到来するとの主張を行っている。プレ・シンギュラリティが到来すると、GNR革命が開始され、肉体と技術の融合が始まり、現実を超える体験を提供するVRが実現され、核融合炉の実現により無尽蔵のエネルギーが入手可能になり、衣食住が無償で手に入り、不老不死も実現可能になるとされる。その影響は早ければ2020年から市場に影響してくるようになるという。

現実の技術や、技術を利用する経済活動も、齊藤元章の予測に追随して来ている。2014年に、ロッキードマーチン社の研究チームであるスカンクワークスは、超小型の実用的な核融合炉を10年後（2024年）までに実現すると発表している。テスラモーターズCEOのイーロン・マスクは、2017年に人間の脳と人工知能を接続するインターフェースを研究開発する「ニューラリンク」と言うスタートアップを起業していたことを公表した。2017年の日本の産業界では、プレ・シンギュラリティ以降は機械のみが経営を遂行する純粋機械化経済に移行する（第4次産業革命の到来）として、具体的な施策が行われ始めている。

齊藤元章は、プレ・シンギュラリティが到来すると、それ以前の常識では到底受け止めきれないような多数の異才・奇才・天才の出現により、想像を絶する程に高度な人類文明を築き上げることになると予測している。例えば、プレ・シンギュラリティが到来して、人類が生きるための労働から解放された結果、長い余剰時間を活用し、人類全体として創作活動に従事し始めると予測している。その結果として、各個人が創作で獲得した知識はネット上に集合知として蓄積され、その集合知の全てが各個人にフィードバックされ続けることで、現在の我々が「芸術」と呼ぶ次元を軽々と飛び越えた、はるかに芸術的で独創的な何かや、新しい価値観を創出する可能性も高いだろうと予測している。また、人類文明が直面する問題に関しても、数多くの突き抜けた才能が、プレ・シンギュラリティ以前とは比較にならないほど高度なテクノロジーと集合知を駆使して、解決策を示すことになると予測している。

時期の予測

ヴィンジは、1993年のエッセイにおいて技術的特異点の到来を2005年から2030年の間の時期であると予想した。齊藤元章は2030年よりも前に技術的特異点が訪れる可能性があるとしている。カーツワイルは、コンピューターの知性が人間を超える時期を2020年代と予想している。

・人間の知能を模倣するために必要なハードウェアが、スーパーコンピューターでは10年以内に、パーソナル・コンピュータ程度のサイズの装置ではその次の10年以内に得られる。2020年代半ばまでに、人間の知能をモデル化した有効なソフトウェアが開発される。

・ハードとソフトの両方が人間の知能を完全に模倣できるようになれば、2020年代の終わりまでには、コンピューターがチューリングテストに合格できるようになり、コンピュータの知能が生物としての人間の知能と区別がつかなくなるまでになる。

ポスト・ヒューマン誕生 P.40、レイ・カーツワイル著、2005年

またカーツワイルは、2030年代の始めには、コンピュータの計算能力は現存している全ての人間の生物的な知能の容量と同等に達し、2045年には、1000ドルのコンピューターの演算能力がおよそ10ペタFLOPSの人間の脳の100億倍にもなり、技術的特異点に至る知能の土台が十分に生まれているだろうと予測しており、この時期に人間の能力と社会が根底から覆り変容すると予想している。このカーツワイルの予測時期を取って、技術的特異点は2045年問題とも呼ばれている。

特異点が発生することを予測する他の論者も、21世紀半ばから22世紀半ばにかけて起こると予測していることが多い。しかし、ゴードン・ベルのように技術的特異点の概念自体は認めながらも、実現時期は遠い将来であると考える識者も存在する。

実現に向けた技術開発の動向

人工知能研究は、人間の知性を機械的に再現する方法論を研究しているため、技術的特異点に直接的に繋がる研究であると見ている識者も存在する。

2006年のジェフリー・ヒントンによるディープラーニングの発明により、ニューラルネットワークの深層化に関するブレイクスルーが達成された。続いて、神経科学と機械学習を統合する手法で人間の脳が持つ汎用的な思考能力を再現する、汎用人工知能（AGI）の開発競争が起きている。

人工知能研究の進捗状況

1956年 - 2000年 人工知能研究の開始→2度のブームと冬の時代→インターネットの民間への開放

1956年のダートマス会議により、学術界に人工知能分野が創設された。

1950年代の推論と探索、1980年代のエキスパートシステムと、2度の人工知能ブームが訪れていたが、ブームが起きる度に致命的な理論的限界も指摘されたため、2度のブームは共に終焉し人工知能研究自体が停滞期に入っていた。また、計算機の性能が低く、通信網も貧弱で学習用の十分なデータセットも集まらなかったため、計算資源に関する厳しい制約から、新しいアルゴリズムの検証が遅々として進まず、応用可能な分野も限定されてしまう状況にあった。その時代においても、ディープラーニングの一手法であるCNNの先駆け的な理論である、ネオコグニトロン（1979年発表）やLeNet（1989年発表）等は提案されていたが、ネオコグニトロンは手書き文字認識に限定して利用可能な手法と誤解されるなど、本質的な意味での実用性が顧みられることはなかった。

1995年からインターネットが民間に開放され、民間に普及するとともに通信量も徐々に増加して行った。後にインターネットは人工知能の進歩において重要な役割を果たすことになる。

2000年 - 2012年 インターネットの普及→ディープラーニングの発明→第3次人工知能ブームの発生

電子計算機の発明から半世紀以上経過し、ムーアの法則に従い計算機の性能が加速度的に向上し、インターネットが全世界に普及した2000年代に入り、計算資源に関する制約が急激に緩和され始め、人工知能研究に関する状況は大きく好転し始めた。2000年の制限ボルツマンマシンやコントラスティブ・ダイバージェンスの提案、それを礎とした2006年のオートエンコーダを利用したディープラーニングの発明、2010年以降のインターネットを利用した実用的なビッグデータ収集環境の整備、2012年の物体の認識率を競うILSVRCにおける、GPU利用による大規模ディープラーニング（ジェフリー・ヒントン率いる研究チームがAlex-netで出場した）の大幅な躍進、同年のGoogleによるディープラーニングを用いたYouTube画像からの猫の認識成功の発表により、世界各国において再び人工知能研究に注目が集まり始めた。この社会現象は第3次人工知能ブームと呼ばれる。その後、ディープラーニングの研究の加速と急速な普及を受けて、レイ・カーツワイルが2005年に提唱していた技術的特異点という概念は、急速に世界中の識者の注目を集め始めた。

2012年以降 ディープラーニングの普及→汎用人工知能の開発競争

2012年以降のディープラーニングの研究の加速と急速な普及を受けて、研究開発の現場においては、デミス・ハサビス率いるGoogle DeepMindを筆頭に、Vicarious、IBM Cortical Learning Center、全脳アーキテクチャ、PEZY ComputingにおけるNSPU開発、OpenCog、GoodAI、NNAISENSE、IBM SyNAPSE等、汎用人工知能（AGI）を開発するプロジェクトが数多く立ち上げられている。これらの研究開発の現場では、脳をリバースエンジニアリングして構築された神経科学と機械学習を組み合わせるアプローチが有望とされている。結果として、Hierarchical Temporal Memory（HTM）理論、Complementary Learning Systems （CLS）理論の更新版等、ディープラーニングを超える汎用性を持つ理論が提唱され始めている。従って、少なくとも2010年代後半からは、汎用人工知能の開発を介して、実際に技術的特異点を発生させるための国際的な競争が開始されていると言える。また、機械学習の高速化のために、CPU、GPU、FPGA、TPUを遥かに上回る計算性能を得られる、量子計算機やアナログ計算機の導入も検討され始めている。

上記の研究で実現を目指している汎用人工知能の多くは、脳スキャンの精度の限界と計算量の問題から全脳アーキテクチャ方式に基づいている。全脳アーキテクチャ方式では、生命の脳を構成する各器官を、対応する各機能ユニットとして工学的に再現し、それらを正しく情報統合が行えるように人為的に繋ぎ合わせることで全脳アーキテクチャとし、疑似的な汎用性を実現する。全脳アーキテクチャ方式では、理想的な方式である全脳エミュレーション方式とは異なり、原子・分子レベルでの脳の再現は行わず、現実の生命の脳が持つ、コネクトームのような高次な情報統合を行う機構の再現度が低くなるため、人間的な感性が必要な、創造性の高い仕事（他人を感動させる音楽・映画を作る等）や繊細な作業（職人の勘を働かせた加工作業等）は苦手とされる。従って、全脳アーキテクチャ方式の段階では、脳を近似したモデルによるシミュレーションの域に留まり、完全な汎用性の実現には至らないとされる。人間の脳の規模における原子・分子レベルでの物理シミュレーションには膨大な計算資源が必要となるため、人間を全ての側面で超越する完全な汎用性の実現には数十年単位の時間が必要と考えられている。

批判

否定論からの批判

人工知能の進歩によっては、技術的特異点のような事象は発生しないと考える評論家も存在する。また、技術的特異点の概念は認めつつも、その現実化が不可避であるか、あるいは特異「点」と呼べる特定の一時点が存在するかについては、異なる主張をする識者も存在する。

スティーブン・ピンカーは以下のように述べている。

技術的特異点が到達すると信じる理由は、まったく無い。人間の頭の中で未来の姿を想像できたとしても、それが実現する見込が高いこと、あるいはそもそも実現可能であるということの証明にはならない。ドーム型都市、ジェットパックによる通勤、水中都市、超高層建築や核駆動自動車といったもの、これらは全て私が子供だったころ、未来の想像において当たり前に実現されているはずものだったが、ついに現実にはならなかった。本当に機能するテクノロジーは、人類のあらゆる問題を解決する魔法のランプなどではない。

ロータスデベロップメントの創業者のミッチ・ケイパーは、2029年までにチューリングテストに合格する人工知能が開発されるという予測に反対し、カーツワイルと2万ドルを賭けている。

物理的観点からの批判

あらゆる指数関数的成長は永遠に継続することはできない。化学物質の反応、細胞分裂や生物の個体数など、限定された期間内で指数関数的振る舞いを見せる現象は存在するが、遅かれ早かれ、指数関数的現象は必要な資源基盤（化学物質や食物など）を消耗し、停滞・崩壊する。テクノロジーの発展が、一般的な指数関数的現象と異なると考える理由は無い。つまり、指数関数的成長には指数関数的入力が必要となるが、現実の世界においてはそれは不可能である。一般的に成長現象はシグモイド曲線を取り、急激な成長期と停滞期（崩壊期）が存在することが普通である。

宗教家であり思想史家であるジョン・マイケル・グリアは、テクノロジーの発展は、未来に向かって一直線に進んでいくものではなく、ツリー状に広がっていくものであると述べている。半世紀前の未来予想においては、自家用飛行機や宇宙旅行といった輸送技術の爆発的発達が予想されていたが、その後、輸送技術の進歩は停滞した。その一方で、21世紀現在の情報技術の爆発的発達と普及は、過去においては一般的には予想されていなかった。同様に、近年の情報処理技術の発達もいずれどこかで限界を迎え、現代の人々が全く予想もできなかった新しい技術が発展すると考えられている。

また、どれほど優れた知性であっても、思考のみでは問題を解決できない。つまり、卓越した人工知能であれ知能強化された人間であれ、実世界の現象を観察・実験し、モデルを検証しなければ、現実世界の問題を解決することはできない。しかし、それには思考の時間ではなく、対象物の物理的変化（細胞分裂や素粒子の反応）に要する時間によって限界が定められるため、超越的知性の存在のみによっては特異点と呼べるような変化は起こらないのではないかという批判がある。

社会経済的観点からの批判

物理学的、技術的に可能だとしても、経済、社会、法律的な要請から、普及していない技術も存在する。たとえば、超音速旅客機は1960年代に実用化されたが、採算が取れなかったため、2016年現在商業飛行は実施されていない。同様に、研究室レベルでは汎用人工知能が実現できたとしても、経済合理性の観点から社会に普及せず、特異点をもたらすために必要な超越的知性の総量が不足する可能性がある。

マーティン・フォードは、「トンネルの中の光：オートメーション、テクノロジーの加速と未来の経済」という書籍において 「テクノロジーのパラドックス」を提示している。曰く、技術的特異点の発生前に、ほとんどのルーチンワークが自動化されるだろう、なぜなら、ルーチンワークの自動化に必要な技術は、技術的特異点そのものよりも簡単であるからだ。ルーチンワークの自動化は莫大な失業を引き起し、消費者の有効需要を引き下げ、その結果として技術に対する投資を低下させるだろう。そうなると、技術的特異点の実現は遠ざかることになる。産業革命期のような大規模な産業構造の転換と新産業による失業者の吸収は未だ起きておらず、慢性的な高失業率が続いており、この傾向は短期的には変わる気配を見せていない。

一般的に、技術革新に対する投資の見返りは次第に低下していくことが示されている。Theodore Modis と Jonathan Huebner は技術革新の加速が止まっただけではなく、現在減速していると主張した。John Smart は彼らの結論を批判している[2]。また、カーツワイルが理論構築のために過去の出来事を恣意的に選別したという批判もある。

人工知能研究者からの批判

「モラベックのパラドックス」も参照

弱いAIに関する研究結果が、強いAI（汎用人工知能）にそのまま適用可能であるか否かについては議論がある。

哲学者のヒューバート・ドレイファスや物理学者のロジャー・ペンローズのように、現行の人工知能研究には根本的な欠陥があり、既存の手法を踏襲することによっては強いAIは実現不可能であると考える学者も存在している。

また、認知科学者であるスティーブン・ピンカーは、人工知能やロボットは人工物であるため、生物が進化によって得た本能 --たとえば、闘争本能、繁殖への欲望、支配欲などの本能を持たず、従って人間よりも賢い人工知能が仮に実現したとしても、それが自己複製と自己改善を繰り返して自動的に超越的知性に至ると考えることは誤りであると指摘している。（もちろん、自己複製と自己改善を人工知能にプログラムすることはできるが、人工知能が創造した人工知能にそれが受け継がれる保証はない）

生物学からの批判

カーツワイルは、生物学的な脳機能を理解していないという批判がある。彼は、人間の脳がシミュレーション可能になる時期を人間のゲノムの数から見積っている。しかし、生物のゲノムは半導体のトランジスターと同等とみなすことはできず、脳の構造や成長を無視していると、生物学者のポール・ザカリー・マイヤーズは批判している。

宗教批判的観点からの批判

技術的特異点の概念は、キリスト教終末論から影響を受けていると言われており、評論家や神学者の中には、技術的特異点の概念を信仰と同一視する者も居る。 WIRED誌創刊者のケヴィン・ケリーは、技術的特異点とキリスト教における携挙（ラプチャー “rapture”）との類似性を指摘している。「携挙というのは、キリストが再臨するとき、全ての信者は普通の生活からいきなり空中に持ち上げられて、死を経由せずに天の不死不滅の世界へ導かれることである。この特異な出来事によって、改良された身体、永遠の知恵で満たされた完全な知性ができる。そして、それは「近い将来」に起こることになっている。そのような期待は、技術の携挙、つまり特異点とほとんど同じである」。

科学ジャーナリストのジョン・ホーガン も、技術的特異点を信仰であるとみなしている。

現実を見よう。技術的特異点は、科学的なビジョンというよりは宗教である。SF作家のケン・マクラウドは「コンピューターマニアたちの携挙（the rapture for nerds）」という名前を授けている。つまり、歴史の終末であり、イエスが現れ信仰者を天国へと導き、罪人を後に残していく瞬間である。このような超越的なものを願う理由は、完全に理解可能である。個人としても種としても、我々は致死的に重大な問題に直面している。たとえば、テロ、核拡散、人口過剰、貧困、飢餓、環境破壊、気候変動、資源枯渇やエイズなどである。エンジニアと科学者は、我々がこれらの世界の問題に立ち向かい、解決策を発見することを支援するべきなのであって、技術的特異点のような夢想的、疑似科学的ファンタジーに浸るべきではない。

ジョン・マイケル・グリアも同様の見方をしている。

…技術的特異点の概念全体は、関連する科学分野の専門家から激しく、そして正しく批判されている。けれども、あまり言及されることは無いが、カーツワイルの技術的特異点の物語は科学理論などではない。むしろそれは、ジョン・ダービによる携挙の神学理論を、SFの言葉で書き直した複製である。 技術的特異点は、単にキリストの再臨をテクノロジー的にリメイクしたものに過ぎない。超知性的コンピューターが神の役割を担っているのである。

思想史研究者であるアニー・レイヴィも同様の批判を加えている。

もちろん我々は我々自身の能力を超えた技術を作ってきた。それゆえ、我々は我々の能力を超えた知能を作ることができるだろうし、一部は既に実現されているとさえ言えるだろう。けれども、ひとたび我々の知性を超えた人工知能が実現しさえすれば、ただちに超越者が生み出され、あらゆる問題の最終的解決がもたらされると信じるためは、相当な論理的飛躍を受け入れなければならない。 その表層的なテクノロジー的装いを剥ぎ取ってみれば、中にあるのは古くからある終末論そのものである。すなわち、我々の生きている間に、何らかの超越者が地上に降臨し、全ての現世的問題からの解放と永遠の命をもたらすという信条なのだ。…このような新たな終末論が、近年の経済危機以後、急速に蔓延したのは決して偶然ではない。すなわち、現代の解決不可能な諸問題から眼を背けさせ、来世において救済を授けるという現実逃避としての役割を担っていると言える。

指数関数的観点からの批判

ケヴィン・ケリーは、カーツワイルの示した指数関数的グラフへの批判も示している。

数学的な特異点という概念は幻想である。[中略]世界の主な出来事が指数関数的割合で発生していることを示す、「特異点へのカウントダウン」というグラフを見てみよう。それは数百万年の歴史にわたって、レーザーのようにきれいな直線を描いて突進している。しかし、そのグラフを30年前で止めずに現在まで延ばすと、何か奇妙なことが見えてくる。カーツワイルのファンであり評論家でもあるケヴィン・ドラムは、「ワシントンマンスリー」（Washington Monthly）に書いた記事で、このグラフを30年前で止めずにピンクの部分を追加して、現在まで延長した。驚いたことに、それは今現在が特異点であることを示唆している。さらに不思議なことは、そのグラフに沿ってほとんど全ての時点で、同じ見解が正しいように思われる。もしも、ベンジャミン・フランクリン（昔のカーツワイルみたいな人）が1800年に同じグラフを描いたとしたら、フランクリンのグラフも、そのときの「たった今」の時点で、特異点が発生していることを示すだろう。同じことはラジオの発明のとき、あるいは都市の出現のとき、あるいは歴史のどの時点でも起こるだろう。グラフは直線であって、その「曲率」すなわち増加率はグラフ上のどこでも同じなのだから。[中略]すなわち、指数関数的増加の中にいる限り、時間軸に沿ったどの点においても、特異点は「近い」ということだ。特異点とは、指数関数的増加を過去にさかのぼって観察するときに、いつでも現れる幻影に過ぎない。グラフは宇宙の始まりに向かって、正確に指数関数的増加をさかのぼっているから、これは何百万年にもわたって、特異点はまもなく起ころうとしていることになる！言い換えれば、特異点はいつも近い。今までいつも「近い」ままであったし、将来もいつも「近い」のだ。

認識論的観点からの批判

仮に特異点に入ったとしても、それを認識することは特異点の中では不可能であり、後から振り返ることで認識できるという。

特異点に代表されるような技術の変化は、特異点に代表される（というのは不正確だが）ような変化の「内部」からでは全く認識できないと思う。ある水準から次の水準への転換は、新しい水準にある高い視点から、すなわち、そこに到達した後でしか見ることができない。

神経細胞との比較において、頭脳は特異点のようなものである。低い部分からは見えないし想像もできない。神経細胞の視点から見れば、脳へ通報するための少数の神経細胞から多数の神経細胞への活動は、神経細胞の集合による、ゆっくりとした連続的でなめらかな道程のように見えるだろう。そこには途絶の感覚、携挙の感覚はない。その不連続は逆方向に見たときにのみ知ることができる。

言語は文字と同様に、ある種の特異点である。しかし、その2つへ向かう行程は、その習得者には連続的であって感知できない。友人から聞いたおもしろい話を思い出した。十万年前に原始人たちが、たき火のまわりに座って最後の肉のかけらを口の中で噛みながら、喉の音でおしゃべりしていた。一人がこう言った。

「おい、みんな、俺たちは話しているぞ！」 「話している、ってどういうことだ？おまえ、その骨は食べ終わったのか？」 「俺たちは、お互いに話し合っている！言葉を使っているんだ。わからないのか？」 「また、あのぶどうの何とかを飲み過ぎたんだな。」 「今、俺たちがしていることだよ！」 「何だって？」

組織の次の段階が始まるとき、現在の段階にいる間は新しい段階を把握できない。なぜならば、その認識は新しい段階において起こるはずだからである。全世界的な文化が出現する中で、新しい段階への転換は実際に起こっているが、その変化の途中では認識できない。[中略]従って、私たちは次のようなことを予期することができる。今後数百年にわたって、生命が当たり前のように途切れることなく続いて、決して大変動はなく、その間ずっと新しいものが蓄積する。それはやがて私たちが、ある種の道具を手に入れたことに気づくまで続く。その道具を使って、何か新しい道具が存在することを認識し、さらに、その新しい道具はしばらく前にすでに出現していたことを認識するのである。

私がこのことをエスター・ダイソンに話すと、彼女は、私たちが毎日特異点に近い経験をしていることを指摘した。「それは目覚めである。後から振り返ると何が起こったのか理解できるが、夢の中にいるときには、目が覚めるかどうかわからない……」

今から千年後に、その時点のあらゆる11次元グラフは「特異点が近い」ことを示しているだろう。不死の存在、全世界的意識、その他、私たちが未来に期待することは、全て実現し、実在しているかもしれないが、それでも3006年の対数目盛のグラフは、やはり特異点が近づいていることを示すだろう。特異点は不連続な出来事ではない。それは非常にひずんだエクストロピー（英語: Extropy）的（進化し続ける）世界に織り込まれた連続体である。それは、生命とテクニウム（英語: Technium）がますます速く進化するにつれて、私たちとともに移動する幻影である。

肯定論からの批判

特異点が実現されうる、または不可避であると考える人のなかでも、特異点後に発生する事象が人間に対して危険であると考えて、その実現のための活動を批判するものも居る。 多くの特異点論者はナノテクノロジーが人間性に対する最も大きな危険のひとつであると考えている。このため、彼らは人工知能をナノテクノロジーよりも先行させるべきだとする。Foresight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。

友好的人工知能の支持者は、特異点が潜在的に極めて危険であることを認め、人間に対して好意的なAIを設計することでそのリスクを排除しようと考えている。アイザック・アシモフのロボット工学三原則は、人工知能搭載ロボットが人間を傷つけることを抑止しようという意図によるものである。ただし、アシモフの小説では、この法則の抜け穴を扱うことが多い。

危険性

考えられうる超人間的知性の中には、人類の生存や繁栄と共存できない目的を持つものもあるかもしれないと考えられている。例えば、知性の発達とともに人間にはない感覚、感情、感性が生まれる可能性がある。AI研究者ヒューゴ・デ・ガリスは、AIが人類を排除しようとし、人類はそれを止めるだけの力を持たないかもしれないと言う。他によく言われる危険性は、分子ナノテクノロジーや遺伝子工学に関するものである。これらの脅威は特異点支持者と批判者の両方にとって重要な問題である。ビル・ジョイはWIREDで、その問題をテーマとして Why the future doesn't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学の哲学者ニック・ボストロムは人類の生存に対する特異点の脅威についての論文 Existential Risks（存在のリスク）をまとめた（2002年）。ボストロムは、『Superintelligence: Paths, Dangers, Strategies（超知能：道筋、危険、戦略）』の著者でもある。

スティーブン・ホーキング（宇宙物理学）は、人類の能力を超える人工知能が人類を滅ぼしかねない危険性があり、生物学的進化に制約される人類が人工知能の発達に対抗することは困難だと考えており、国連代表部と国際連合地域間犯罪司法研究所が主催した会議でも懸念を表明した。この国連の会議では、ニック・ボストロムも、特に人間の能力をはるかに超える人工知能を制御する方法は未解決であり、解決のための研究の必要性を訴えている。

ホーキングは、2015年5月12日にロンドンで開催されたツァイトガイスト2015でも、人工知能が「100年以内に人間の文明を終わらせる」可能性を指摘した。ホーキングはまた、2014年でも、マックス・テグマーク（物理学）、フランク・ウィルチェック（ノーベル物理学賞）、スチュワート・ラッセルらとともに、人工知能に関する理解が一般に浸透していない問題を指摘した。

ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチは、完全な自律兵器の開発・運用を国際的に禁止するべきだと2015年4月の報告書で要求した。

ネオ・ラッダイトの見方

一部の人々は、先端技術の開発を許すことは危険すぎると主張し、そのような発明をやめさせようと主張している。ユナボマーと呼ばれたアメリカの連続爆弾魔セオドア・カジンスキーは、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方、AIが作られなければ十分な技術革新の後で人類の大部分は家畜同然の状態になるだろうとも主張している。カジンスキーの言葉はビル・ジョイの記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対するだけでなくネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動のように現在の技術を排除しようとはしない。

カジンスキーだけでなく、ジョン・ザーザンやデリック・ジェンセンといった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野性的で妥協の無い自由な生活の損失であるとする。地球解放戦線（ELF）やEarth First!といった環境問題に注力するグループも基本的には特異点を阻止すべきと考えている。

共産主義者は史的唯物論に立っているため、特異点を基本的に容認し、意識の共有に肯定的でAIロボットの反乱を階級の認識と考えている。 一方、特異点によって未来の雇用機会が奪われることを心配する人々がいるが、ラッダイト運動者の恐れは現実とはならず、産業革命以後には職種の成長があった。経済的には特異点後の社会はそれ以前の社会よりも豊かとなる。特異点後の未来では、一人当たりの労働量は減少するが、一人当たりの富は増加する。マクロ経済学の井上は、技術的失業、中産階級の消滅、雇用を機械に奪われる問題の解決策として、ベーシック・インカムを提唱している。

オバマ米大統領の問題提起

『WIRED』US版の2016年11月号にて、米大統領・バラク・オバマとMITメディアラボ所長の伊藤穰一による対談が企画された。テーマは、AI、自律走行車、サイバーセキュリティー、シンギュラリティである。

伊藤所長は、2016年は人工知能がコンピューター科学を超えて万人に重要となった年であると指摘し、オバマ大統領は、今後コンピューターが多くの仕事を担うようになるにつれ、価値ある仕事に対する適切な対価について議論していくことが必要だと指摘した。

オバマ大統領は、専用AIがあらゆる生活の場に進出したことにより、生産性や効率が格段に向上し、莫大な富と機会を生み出す一方で、特定の職業を消滅させ、格差拡大や賃金低下をもたらす可能性があると指摘した。一般の人は、シンギュラリティではなく、自分の仕事が機械に取られることを心配しているという。また、スキルが不要なサービス業だけでなく、コンピューターが対応可能な高スキルの職業も消える可能性があるという。伊藤所長が一例で挙げたベーシックインカムが妥当で人々に受け入れられるか、今後10 - 20年の間議論が続くと予想している。

研究活動に対する政府の役割としては、研究内容にあまり関与せず、予算で強く支援し、基礎研究と応用研究との対話をうながすことが重要だと指摘した。技術革新による問題の深刻化については、規制強化でなく、特定の人々に不利益をこうむらないような政府の関与であるべきとした。国家安全保障チームは、機械が人類を乗っ取ることではなく、現状のサイバーセキュリティーの延長として、システムへ侵入に対する対策が必要だと指摘した。

フィクションでの描写

フィクションでの特異点の描写は4つに分類される。

• AIと技術的に増幅された人類（ただし、AIよりも劣っていることが多い）：『HALO』
• AIと元のままの人類（「ローカルな特異点」と呼ばれることがある）：『マトリックス』、『ターミネーター』のスカイネット
• 生物学的に進化した人類
• 技術的に増幅された人類

特異点アイデアを開拓したヴァーナー・ヴィンジの物語に加えて、何人かの他のSF作家は主題が特異点に関係する話を書いている。特筆すべき著者として、ウィリアム・ギブスン、グレッグ・イーガン、グレッグ・ベア、ブルース・スターリングなどが挙げられる。特異点はサイバーパンク小説のテーマのひとつである。再帰的な自己改良を行うAIとしてはウィリアム・ギブスンの『ニューロマンサー』に登場する同名のAIが有名である。アーサー・C・クラークの『幼年期の終り』、アイザック・アシモフの『最後の質問』（短編）、ジョン・W・キャンベルの『最終進化』（短編）なども古典ともいうべき作品ながら技術的特異点を扱っていると言える。ディストピア色が強いものとしては、ハーラン・エリスンの古典的短編『おれには口がない、それでもおれは叫ぶ』がある。日本の作品では、『火の鳥』において政治の一切を電子頭脳が管理する世界が描かれている。『攻殻機動隊』では、ウェットウェアが遍在し人工意識が発生しはじめた世界を描いており、山本弘による『サイバーナイト』のノヴェライズには、人類によって作られた人工知能MICAが、バーサーカーと呼ばれる機械生命体（フレッド・セイバーヘーゲンのバーサーカーシリーズに由来）を取り込み特異点（作中では「ブレイクスルー」と表現）を越える、というくだりがある。また、山口優による『シンギュラリティ・コンクェスト　女神の誓約』（第11回日本SF新人賞受賞作）は、技術的特異点の克服をテーマにしている。芥川賞作家である円城塔の「Self-Reference ENGINE」はAIが再帰的に進歩を続けた結果大きく変質した後の世界（特異点後の世界）を描いている。長谷敏司の『BEATLESS』では、社会の様々な営みが人工知能群によって自動化され、文明における人間の立ち位置が変化しつつある世界が描かれている。

技術的特異点を扱った初めての短編は、フレドリック・ブラウンが1954年に書いた『回答』であろう。

また近年の潮流としては、ケン・マクラウドらイギリスの新世代作家たちが、「ニュー・スペースオペラ」と呼ばれる「特異点に到着した人類社会」を舞台とした作品群を執筆している。

映画とテレビ

人類よりも賢いAIが登場する映画の最も早い例である『地球爆破作戦』（1969年）では、アメリカのスパコンがソビエトのスパコンとともに自我に目覚め、人類を支配することによる平和を押し付ける。『ターミネーター』（1984年）では、スカイネットと呼ばれるAIが自我に目覚め、人類を根絶するために核兵器を使用する。『マトリックス』（1999年）では、AIが人類を支配した世界を舞台としている。

アニメにも、ヴィンジとカーツワイルによって提案された特異点関連のテーマを用いた作品がある。『serial experiments lain』（1998年）では、意識のダウンロードというトピックが扱われている。『バブルガムクライシス TOKYO 2040』（1998年）では、AIが現実を変更する強力な能力を持って出現する。『ゼーガペイン』（2006年）では、特異点後に人類が滅亡した後の世界を舞台としている。

映画『トランセンデンス』（2014年）は、まさに「技術的特異点」という意味の英語表現である。この映画では、技術的特異点から先に技術の発展を進めさせないため、人類は全世界の電気エネルギーをシャットダウンする。

参考文献

• レイ・カーツワイル（著） 井上健（監訳） 『ポスト・ヒューマン誕生-コンピュータが人類の知性を超えるとき』 NHK出版 ISBN 978-4-14-081167-2 （"The Singularity is Near:When Humans Transcend Biology"(ISBN 978-0143037880)の邦訳。英語の原題 『（技術的）特異点は近い：人類が生物学（的制約）を超える時』が示すように、この本の中心テーマになっているのは技術的特異点。分厚い本だが、技術的特異点がどういうものなのか、について科学的・技術的そして哲学的な観点まで含めた詳細な解説が書かれている。引用文献の数も多く一冊でかなりの情報量を持つ。）
• ヴァーナー・ヴィンジ（著）, 向井淳訳, 『〈特異点〉とは何か？』, SFマガジン2005年12月号 pp.60〜72, （原文は https://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html ）

関連項目

• 特異点
• シンギュラリティ(en:Singularity) (曖昧さ回避)
• 人工知能 - 強いAIと弱いAI
• ポストヒューマン
• クラークの三法則
• 認知閾
• 終末論法 (en:Doomsday argument)
• 文明の終焉 (en:End of civilization)
• オメガポイント (en:Omega point)
• テクノユートピア主義 (en:Techno-utopianism)
• ティッピングポイント (en:Tipping point)
• シミュレーテッドリアリティ
• ビッグヒストリー

関連団体

• en:Machine Intelligence Research Institute（Singularity Institute for Artificial Intelligence）
• en:Acceleration Studies Foundation
• シンギュラリティ・ユニバーシティ

外部リンク

いずれも英文

• The Singularity Institute for Artificial Intelligence
• The SSEC Machine Intelligence Project
• KurzweilAI.net
• Acceleration Watch
• The SL4 Wiki
• Man-Computer Symbiosis - 1960年に発表された人間とコンピュータの共生の様子を論じた論文である。インターネットの思想の起源である。コンピュータと関係した技術的特異点論の基礎を作ったと考えられる。