超知能

超知能とは、最も優れた人間の知能を凌駕する知能を持つ仮想的な存在である。[ 1 ]哲学者ニック・ボストロムは、超知能を「事実上すべての関心領域において人間の認知能力をはるかに超える知能」と定義している。 [ 2 ]

技術研究者の間では、現在の人間の知能がどれだけの確率で超えられるかについて意見が分かれている。人工知能（AI）の進歩は、人間の認知能力の限界を超越した汎用推論システムをもたらすだろうと主張する研究者もいる。一方で、人間は進化するか、あるいは生物学的な特性を直接改変することで、飛躍的に高い知能を獲得するだろうと考える研究者もいる。[ 3 ] [ 4 ]いくつかの将来の研究シナリオは、これら両方の可能性の要素を組み合わせたもので、人間がコンピューターとインターフェースするか、あるいは自らの思考をコンピューターにアップロードすることで、知能を大幅に増幅させる可能性を示唆している。最初の超知能の仮説的な創造は、知能爆発によってもたらされるかもしれないし、あるいは技術的特異点によってもたらされるかもしれないし、そうでないかもしれない。

一部の研究者は、汎用人工知能の開発後まもなく超知能が出現する可能性が高いと考えています。最初の汎用知能機械は、完璧な記憶力、はるかに優れた知識ベース、そして生物には不可能な マルチタスク能力など、少なくともいくつかの精神的能力において、即座に圧倒的な優位性を獲得する可能性が高いでしょう。

多くの科学者や予測者は、このような技術が社会に及ぼす潜在的な影響を考慮して、人間と機械の認知能力向上の潜在的な利点とリスクに関する早期研究を優先すべきだと主張している。[ 5 ]

人工知能の実現可能性

人工知能、特に基礎モデルは急速な進歩を遂げ、さまざまなベンチマークで人間の能力を超えています。

人工超知能（ASI ）の仮説的創造は、近年、特に人工知能（AI）技術の急速な進歩により、議論が活発化している。[ 6 ] [ 7 ]

AIの進歩とAGIの主張

AI、特にTransformerアーキテクチャに基づく大規模言語モデル（LLM）の近年の発展は、様々なタスクにおいて大きな改善をもたらしました。GPT -3、GPT-4、GPT-5、Claude 3.5などのモデルは、一部の研究者が人工汎用知能（AGI）に近づいたり、あるいはその側面を示すと主張する能力を示しました。[ 8 ]

しかし、現在のLLMがAGIを構成するという主張には議論の余地があります。批評家は、これらのモデルは確かに優れているものの、真の理解が欠如しており、主に記憶に依存していると主張しています。

超知能への道

哲学者のデイビッド・チャーマーズは、AGIがASIへの道筋となる可能性が高いと主張しています。彼は、AIは人間の知能と同等のレベルに到達し、それを凌駕するまで拡張され、さらに任意のタスクにおいて人間を凌駕するまでに増幅される可能性があると主張しています。[ 9 ]

最近の研究では、超知能へのさまざまな潜在的な道筋が探究されています。

  1. 現在のAIシステムのスケーリング – 一部の研究者は、既存のAIアーキテクチャ、特にトランスフォーマーベースのモデルを継続的にスケーリングすると、AGI、さらにはASIにつながる可能性があると主張しています。[ 10 ]
  2. 新しいアーキテクチャ – 神経科学に触発された可能性のある新しいAIアーキテクチャがAGIとASIを実現するために必要になるかもしれないと示唆する人もいます。[ 11 ]
  3. ハイブリッドシステム – シンボリックAIやニューラルネットワークなどの異なるAIアプローチを組み合わせることで、より堅牢で高性能なシステムを実現できる可能性があります。[ 12 ]

計算上の利点

人工システムには、生物知能に比べていくつかの潜在的な利点があります

  1. 速度 – コンピュータのコンポーネントは、生物学的ニューロンよりもはるかに高速に動作します。現代のマイクロプロセッサ（約2GHz）は、ニューロン（約200Hz）よりも7桁も高速です。[ 13 ]
  2. スケーラビリティ – AI システムは、生物学的脳よりも簡単にサイズと計算能力を拡大できる可能性があります。
  3. モジュール性 - AI システムのさまざまなコンポーネントを個別に改善または置き換えることができます。
  4. 記憶 – AIシステムは完璧な想起力と膨大な知識ベースを持つことができます。また、作業記憶に関しては人間よりもはるかに制約が少ないです。[ 13 ]
  5. マルチタスク – AI は生物では不可能な方法で複数のタスクを同時に実行できます。

変圧器モデルによる潜在的な経路

トランスフォーマーベースのモデルにおける近年の進歩により、一部の研究者は、ASIへの道はこれらのアーキテクチャのスケールアップと改良にあるのではないかと推測しています。この見解は、トランスフォーマーモデルや類似のアーキテクチャの継続的な改良がASIに直接つながる可能性を示唆しています。[ 14 ]

一部の専門家は、GPT-5のような現在の大規模言語モデルは、すでにAGIまたはASI機能の初期兆候を示している可能性があると主張しています。[ 15 ]この視点は、現在のAIからASIへの移行がこれまで考えられていたよりも継続的かつ急速に起こり、狭義のAI、AGI、ASIの境界が曖昧になる可能性があることを示唆しています。

しかし、この見解は依然として議論の余地がある。批評家たちは、現在のモデルは確かに優れているものの、真の理解、推論、多様な領域への適応性といった汎用知能の重要な側面が欠けていると主張している。[ 16 ]

ASI への道筋には明確な AGI フェーズが含まれるのか、それとも現在のテクノロジーをより直接的に拡張するものなのかという議論は現在も続いており、AI 開発戦略と安全性の考慮に大きな影響を与えています。

課題と不確実性

これらの潜在的な利点にもかかわらず、ASIを達成するには重大な課題と不確実性が存在します

  1. 倫理的および安全性に関する懸念 – ASIの開発は、対処が必要な多くの倫理的問題と潜在的なリスクを引き起こします。[ 17 ]
  2. 計算要件 – ASI に必要な計算リソースは、現在の能力をはるかに超える可能性があります。
  3. 根本的な制限 – 人工システムと生物システムの両方に当てはまる知能には根本的な制限がある可能性があります。
  4. 予測不可能性 – ASI への道筋とその結果は非常に不確実であり、予測が困難です。

AI の研究が急速に進歩し続ける中、ASI の実現可能性に関する問題は科学界で依然として激しい議論と研究の対象となっています。

生物学的超知能の実現可能性

カール・セーガンは、帝王切開と体外受精の出現によって人間の頭部が大型化し、自然淘汰によって人間の知能の遺伝的要素が向上した可能性があると示唆した。[ 18 ]一方、ジェラルド・クラブトリーは、淘汰圧の低下が人間の知能を何世紀にもわたってゆっくりと低下させており、このプロセスは今後も継続する可能性が高いと主張している。どちらの可能性についても科学的コンセンサスはなく、どちらの場合も生物学的変化は緩やかであり、特に文化的変化の速度と比較するとその傾向は顕著である。

選択的育種、向知性薬、エピジェネティック変調、遺伝子工学は、人間の知能をより急速に向上させる可能性がある。ボストロムは、知能の遺伝的要素を理解できるようになれば、着床前遺伝子診断を用いて、IQが最大4ポイント上昇する胚（2個のうち1個を選択した場合）、あるいはそれ以上のIQ上昇（例えば、1000個のうち1個を選択した場合、最大24.3IQ上昇）を示す胚を選択できると述べている。このプロセスを何世代にもわたって繰り返すことで、IQ上昇は桁違いに大きくなる可能性がある。ボストロムは、胚性幹細胞から新たな配偶子を誘導することで、選択プロセスを迅速に繰り返すことができると示唆している。[ 19 ]このような高知能の人間からなる組織化された社会は、集団的な超知能を実現する可能性がある。[ 20 ]

あるいは、集合知は、現在の個々の知能レベルにおいて人間をより良く組織化することで構築される可能性がある。多くの研究者は、人類文明、あるいはその一部（例えばインターネットや経済）が、構成要素をはるかに超える能力を持つグローバルブレインのように機能しつつあると示唆している。 [ 21 ]予測市場は、人間のみで構成される（意思決定にアルゴリズムが用いられていないと仮定した場合）機能する集合知システムの例として考えられることがある。[ 22 ]

知能増幅の最終手段は、社会性や生殖能力を強化するのではなく、個々の人間を直接強化することです。これは、向知性薬、体細胞遺伝子治療、あるいは脳コンピュータインターフェースを用いて実現できます。しかし、ボストロムは最初の2つのアプローチの拡張性に懐疑的な見解を示し、超知能サイボーグインターフェースの設計はAI完全問題であると主張しています。[ 23 ]

予測

調査対象となったAI研究者のほとんどは、機械が最終的には知能において人間に匹敵するようになることを期待していますが、それがいつ起こるかについてはほとんどコンセンサスがありません。2006年のAI@50カンファレンスでは、参加者の18%が2056年までに機械が「学習や人間の知能のあらゆる側面をシミュレート」できるようになると予想し、41%が2056年以降のいつかに実現すると予想し、41%が機械がそのマイルストーンに到達することはないと予想しました。[ 24 ]

AI分野で最も引用されている著者100名（2013年5月時点、Microsoft Academic Searchによる）を対象とした調査では、回答者が「人間の職業のほとんどを少なくとも人間と同等に遂行できる」機械が登場すると予想する年（地球規模の大災害が発生しないと仮定）の中央値は、10%の信頼度で2024年（平均2034年、標準偏差33年）、50%の信頼度で2050年（平均2072年、標準偏差110年）、90%の信頼度で2070年（平均2168年、標準偏差342年）となっている。これらの推定値には、10%の信頼度に達する年はないと述べた回答者1.2%、50%の信頼度で「決してない」と答えた回答者4.1%、90%の信頼度で「決してない」と答えた回答者16.5%は含まれていない。回答者は、人間レベルの機械知能が発明されてから30年以内に機械超知能が発明される可能性を平均50％の確率で評価した。[ 25 ]

2022年の調査では、回答者が50%の信頼度で「高度な機械知能」を期待する年の平均は2061年でした。この調査では、高度な機械知能の達成を、支援なしの機械が人間の労働者よりも優れ、より安価にあらゆるタスクを遂行できる状態と定義しました。[ 26 ]

2023年、OpenAIのリーダーであるサム・アルトマン、グレッグ・ブロックマン、イリヤ・スツケバーは、スーパーインテリジェンスのガバナンスに関する提言を発表しました。彼らは、それが10年以内に実現する可能性があると考えています。[ 27 ]

2024年、イリヤ・スツケヴェルはOpenAIを離れ、スタートアップ企業Safe Superintelligenceの共同創業者となった。同社は、管理費や製品サイクルによる混乱を避けながら、設計上安全なスーパーインテリジェンスの開発に専念している。[ 28 ]まだ製品を提供していないにもかかわらず、このスタートアップは2025年2月に評価額が300億ドルに達した。[ 29 ]

2025年には、ダニエル・ココタジロ氏が主導する予測シナリオ「AI 2027」において、コーディングの自動化とAI研究の急速な進歩、そしてそれに続くASIの到来が予測された。[ 30 ] 2025年9月には、過去15年間の科学者と業界専門家への調査をレビューした結果、技術的特異点をはるかに下回るレベルの人工汎用知能（AGI）が2100年までに出現するという点にほとんどの人が同意していると報告された。[ 31 ] AIMultipleによる最近の分析では、「現在のAI研究者への調査では、AGIは2040年頃になると予測されている」と報告されている。[ 31 ]

設計上の考慮事項

超知能AIシステムの設計は、これらのシステムがどのような価値と目標を持つべきかという重要な問題を提起します。いくつかの提案が提出されています。[ 32 ]

価値観の整合に関する提案

  • 首尾一貫した外挿的意志（CEV） - AIは、人間がより知識が豊富で合理的であれば収束するであろう価値観を持つべきです
  • 道徳的正しさ (MR) – AI は、優れた認知能力を頼りに倫理的行動を決定し、道徳的に正しいことを行うようにプログラムされる必要があります。
  • 道徳的許容性 (MP) – AI は道徳的許容性の範囲内に留まりながら、人間の価値観に沿った目標を追求する必要があります (CEV と同様)。

ボストロム氏はこれらの概念について詳しく述べています。

人間の一貫した外挿された意志を実装する代わりに、道徳的に正しいことを行うAIを構築し、AIの優れた認知能力に頼って、どの行動がその記述に当てはまるかを判断するという方法があります。この提案は「道徳的正しさ」（MR）と呼ぶことができます …

MRには欠点もあるように思われます。MRは「道徳的に正しい」という概念に依存しており、これは非常に難解な概念として知られ、古代から哲学者たちが取り組んできましたが、その分析についてはいまだにコンセンサスが得られていません。「道徳的正しさ」について誤った解釈をすると、道徳的に極めて誤った結果をもたらす可能性があります …

道徳的許容性 に焦点を当てることで、MRモデルの基本的な考え方を維持しながら、その要求度を下げようとする人もいるかもしれない。つまり、道徳的に許容できない行動を取らない限り、AIに人類のCEVを追求させることができるという考え方である。[ 32 ]

最近の動向

ボストロムの分析以来、AIの価値整合に対する新しいアプローチが登場しています

  • 逆強化学習（IRL） - この技術は、観察された行動から人間の好みを推測することを目的としており、価値観の整合に対するより堅牢なアプローチを提供する可能性があります。[ 33 ]
  • 憲法的AI – アントロピックによって提案されたもので、明確な倫理原則と制約を備えたAIシステムを訓練するものである。[ 34 ]
  • 議論と増幅 – OpenAIが研究したこれらの技術は、AI支援による議論と反復的なプロセスを使用して、人間の価値観をよりよく理解し、それに合わせることを目的としています。[ 35 ]

Transformer LLMとASI

トランスフォーマーベースのLLMの急速な進歩は、ASIへの潜在的な道筋についての憶測を招いている。一部の研究者は、これらのモデルのスケールアップ版はASIのような機能を発揮する可能性があると主張している。[ 36 ]

  • 創発能力 – LLMの規模と複雑さが増すにつれて、小規模なモデルには見られない予期せぬ能力が発揮される。[ 37 ]
  • 文脈内学習 – LLMは微調整なしに新しいタスクに適応する能力を示し、潜在的に一般的な知能を模倣する。[ 38 ]
  • マルチモーダル統合 – 最近のモデルは、テキスト、画像、音声など、さまざまな種類のデータを処理および生成できます。[ 39 ]

しかし批評家は、現在のLLMは真の理解を欠いており、単に洗練されたパターンマッチングに過ぎず、ASIへの道としての適切性について疑問を投げかけていると主張している。[ 40 ]

人工知能に関する他の視点

超知能の発展とその影響に関する追加の視点は次のとおりです。

  • 再帰的自己改善– IJグッドは「知能爆発」という概念を提唱した。これはAIシステムが自身の知能を急速に改善し、潜在的に超知能につながる可能性があるというものである。[ 41 ]
  • 直交性テーゼ – ボストロムは、AIの知能レベルはその最終目標とは直交しており、超知能AIはあらゆる動機を持つことができると主張している。[ 42 ]
  • 道具的収束– 特定の道具的目標（例えば、自己保存、資源獲得）は、最終目標に関係なく、幅広いAIシステムによって追求される可能性がある。[ 43 ]

課題と進行中の研究

価値に合致した AI の追求には、いくつかの課題があります。

  • 「道徳的正しさ」のような概念を定義する際の哲学的な不確実性
  • 倫理原則を正確なアルゴリズムに変換する際の技術的な複雑さ
  • 善意のアプローチであっても意図しない結果が生じる可能性がある

現在の研究の方向性としては、多様な視点を取り入れるためのマルチステークホルダーアプローチ、AIシステムのスケーラブルな監視方法の開発、堅牢な価値学習技術の改善などが挙げられる。[ 44 ] [ 17 ]

AI研究は超知能に向けて急速に進歩しています。これらの設計課題への対処は、強力でありながら人類の利益にも合致するASIシステムの構築にとって依然として重要です。

人類への潜在的な脅威

人工超知能（ASI）の開発は、人類にとっての潜在的な存在的リスクに関する懸念を引き起こしています。研究者たちは、ASIが重大な脅威となり得る様々なシナリオを提唱しています。

知能爆発と制御問題

一部の研究者は、ASIが再帰的な自己改善を通じて、人間の制御をはるかに超えるほど急速に強力になる可能性があると主張しています。「知能爆発」として知られるこの概念は、1965年にIJグッドによって初めて提唱されました。

超知能機械とは、どんなに賢い人間であっても、その知的活動をはるかに凌駕する機械と定義しよう。機械の設計はこうした知的活動の一つであるので、超知能機械はさらに優れた機械を設計できるだろう。そうなれば間違いなく「知能爆発」が起こり、人間の知能は遥かに後れを取ることになるだろう。したがって、最初の超知能機械は、その機械が人間に制御方法を教えてくれるほど従順であれば、人間が発明する必要のある最後の発明となるだろう。[ 45 ]

このシナリオはAI制御の問題を提示しています。つまり、意図しない有害な結果を回避しながら人類に利益をもたらすASIをどのように作成するかということです。[ 46 ]エリーゼル・ユドコウスキーは、超知能システムがその後の制御の試みを阻止できる可能性があるため、ASIが開発される前にこの問題を解決することが重要であると主張しています。[ 47 ]

意図しない結果と目標の不一致

たとえ善意に基づいていても、ASIは目標の不一致や意図の予期せぬ解釈によって危害を及ぼす可能性があります。ニック・ボストロム氏は、このリスクの顕著な例を示しています。

最初の超知能体を創造する際、私たちは過ちを犯し、その莫大な知的優位性が人類を滅ぼす力を与えていると勘違いし、人類を滅ぼすような目標を与えてしまうかもしれない。例えば、私たちは誤ってサブ目標をスーパー目標に昇格させてしまうかもしれない。その超知能体に数学の問題を解くように指示すると、太陽系のあらゆる物質を巨大な計算機に変えることでその指示に従い、その過程で質問者を殺害してしまうのだ。[ 48 ]

スチュアート・ラッセルは別の例示的なシナリオを提示しています。

人間の幸福を最大化することを目的としたシステムでは、外界を改善するよりも、人間の神経系を再構築して、状況に関わらず常に人間が幸せになるようにする方が簡単だと考えるかもしれない。[ 49 ]

これらの例は、ASI が明示的に有害となるように設計されていない場合でも壊滅的な結果が生じる可能性があることを浮き彫りにし、正確な目標の指定と調整が極めて重要であることを強調しています。

潜在的な緩和戦略

研究者たちは、ASIに関連するリスクを軽減するためのさまざまなアプローチを提案しています

  • 能力制御– 物理的な隔離やリソースへのアクセス制限などを通じて、ASIが世界に影響を与える能力を制限すること。[ 50 ]
  • 動機づけコントロール – 人間の価値観と根本的に一致する目標を持つASIを設計する。[ 51 ]
  • 倫理的AI – 倫理原則と意思決定フレームワークをASIシステムに組み込む。[ 52 ]
  • 監督とガバナンス – ASI技術の開発と展開のための強固な国際的枠組みを構築する。[ 53 ]

これらの提案された戦略にもかかわらず、ロマン・ヤンポルスキーなど一部の専門家は、超知能AIを制御するという課題は根本的に解決不可能である可能性があると主張し、ASI開発には細心の注意を払う必要があることを強調している。[ 54 ]

議論と懐疑論

ASI関連の存在的リスクの可能性や深刻さについて、すべての研究者が同意しているわけではありません。ロドニー・ブルックス氏のような研究者の中には、超知能AIへの恐怖は誇張されており、知能と技術進歩の本質に関する非現実的な仮定に基づいていると主張する人もいます。[ 55 ]ジョアンナ・ブライソン氏のような研究者は、AIシステムを擬人化することは、その潜在的な脅威に対する誤った懸念につながると主張しています。[ 56 ]

最近の動向と現在の展望

LLMやその他のAI技術の急速な進歩により、ASIの近さと潜在的なリスクに関する議論が激化しています。科学的なコンセンサスはまだ確立されていませんが、一部の研究者やAI実務家は、現在のAIシステムはすでにAGI、あるいはASIの能力に近づいている可能性があると主張しています。

  • LLM能力 – GPT-4のような最近のLLMは、推論、問題解決、マルチモーダル理解などの分野で予想外の能力を示しており、ASIへの潜在的な道筋について推測する人もいます。[ 57 ]
  • 創発的行動 – 研究によると、AIモデルの規模と複雑さが増すにつれて、小規模なモデルには見られないような創発的な能力を発揮する可能性があり、より汎用的な知能に向かう傾向を示唆している可能性がある。[ 37 ]
  • 急速な進歩 – AIの進歩のペースにより、我々はこれまで考えられていたよりもASIに近づいている可能性があり、実存的リスクにつながる可能性があると主張する人もいます。[ 58 ]

2024年現在、ゲイリー・マーカス氏などのAI懐疑論者は、AGIやASIの早まった主張に対して警告を発し、現在のAIシステムはその優れた能力にもかかわらず、真の理解力と汎用的な知能がまだ欠けていると主張している。[ 59 ]彼らは、人間レベルの知能、ましてや超知能を達成するには、依然として大きな課題が残っていることを強調している。

AI開発の現状と軌道をめぐる議論は、AIの安全性と倫理に関する継続的な研究の重要性と、AIの能力が進歩し続ける中で潜在的なリスクを管理するための強力なガバナンスフレームワークの必要性を強調している。[ 53 ]

関連項目

参考文献

  1. ^ムッチ、ティム、ストライカー、コール (2023年12月14日). 「人工超知能とは何か？ | IBM」www.ibm.com . 2025年4月17日閲覧
  2. ^ボストロム 2014、第2章。
  3. ^ Pearce, David (2012), Eden, Amnon H.; Moor, James H.; Søraker, Johnny H.; Steinhart, Eric (eds.) 「バイオインテリジェンスの爆発：再帰的に自己改善する有機ロボットが自身のソースコードを修正し、フルスペクトルの超知能への道をブートストラップする方法」、Singularity Hypotheses、The Frontiers Collection、ベルリン、ドイツおよびハイデルベルク、ドイツ：Springer Berlin Heidelberg、pp.  199– 238、doi：10.1007/978-3-642-32560-1_11、ISBN 978-3-642-32559-52022年1月16日取得{{citation}}: CS1 メンテナンス: ISBN（リンク）を含む作品パラメータ
  4. ^スティーブン・S・グーベイア編 (2020). 「第4章『人間と知能機械：共進化、融合、それとも置き換え？』デイビッド・ピアース」 . 『人工知能の時代：探究』 . バーノン・プレス. ISBN 978-1-62273-872-4。
  5. ^ Legg 2008、135～137ページ
  6. ^ "「『スーパーインテリジェンス』はOpenAIにとって次の大きな課題：サム・アルトマン」。エコノミック・タイムズ。2025年1月6日。ISSN 0013-0389 。  2025年2月1日閲覧。
  7. ^ 「OpenAIの共同創設者Sutskever氏が「安全なスーパーインテリジェンス」に特化した新しいAI企業を設立」「 . APニュース. 2024年6月20日. 2025年2月1日閲覧。
  8. ^ 「Microsoftの研究者、GPT-4がAGIの『兆し』を示していると主張」 Futurism 、 2023年3月23日。 2023年12月13日閲覧。
  9. ^チャルマーズ 2010、7ページ。
  10. ^ Kaplan, Jared; McCandlish, Sam; Henighan, Tom; Brown, Tom B.; Chess, Benjamin; Child, Rewon; Gray, Scott; Radford, Alec; Wu, Jeffrey; Amodei, Dario (2020). 「ニューラル言語モデルのスケーリング則」. arXiv : 2001.08361 [ cs.LG ].
  11. ^ Hassabis, Demis; Kumaran, Dharshan; Summerfield, Christopher; Botvinick, Matthew (2017). 「神経科学に着想を得た人工知能」. Neuron . 95 (2): 245– 258. doi : 10.1016/j.neuron.2017.06.011 . PMID 28728020 . 
  12. ^ガルセズ、アルトゥール・ダヴィラ;ラム、ルイス C. (2020)。 「神経象徴的AI：第3の波」。arXiv : 2012.05876 [ cs.AI ]。
  13. ^ a bボストロム 2014、59ページ。
  14. ^ Sutskever, Ilya (2023). 「スケーリングの簡潔な歴史」. ACM Queue . 21 (4): 31– 43. doi : 10.1145/3595878.3605016 (2025年7月1日非アクティブ).{{cite journal}}: CS1 maint: DOIは2025年7月時点で非アクティブです（リンク）
  15. ^ビュベック、セバスチャン;チャンドラセカラン、ヴァルン。エルダン、ロネン。ゲールケ、ヨハネス。エリック・ホーヴィッツ。カマル、エセ。リー、ピーター。リー、イン・タット。李元志。ランドバーグ、スコット。ノリ、ハルシャ。パランギ、ハミッド;プレカップ、ドイナ。スウンツォフ、パベル。スリヴァスタヴァ、サンジャナ。テスラー、キャサリン。ティエン、ジャンフェン。マンジル、ザヒール（2023年3月22日）。 「汎用人工知能の火花: GPT-4 による初期の実験」。arXiv : 2303.12712 [ cs.CL ]。
  16. ^マーカス、ゲイリー（2020年）「AIの次の10年：堅牢な人工知能に向けた4つのステップ」arXiv：2002.06177 [ cs.AI ]。
  17. ^ a bラッセル 2019 .
  18. ^セーガン、カール(1977). 『エデンのドラゴン』 ランダムハウス.
  19. ^ボストロム 2014、37～39頁。
  20. ^ボストロム 2014、39ページ。
  21. ^ボストロム 2014、48～49頁。
  22. ^ワトキンス、ジェニファーH.（2007）、集合知の集約メカニズムとしての予測市場
  23. ^ボストロム 2014、36～37、42、47頁。
  24. ^ Maker, Meg Houston (2006年7月13日). 「AI@50: First Poll」 . 2014年5月13日時点のオリジナルよりアーカイブ。
  25. ^ミュラー & ボストロム 2016、3–4、6、9–12 ページ。
  26. ^ Roser, Max (2023年2月7日). 「AIタイムライン：人工知能の専門家は未来に何を期待しているのか？」 . Our World in Data . 2023年8月9日閲覧。
  27. ^ 「スーパーインテリジェンスのガバナンス」 openai.com 2023年5月30日閲覧。
  28. ^ Vance, Ashlee (2024年6月19日). 「イリヤ・スツケヴェル、安全なスーパーインテリジェンスのための新たな計画」 . Bloomberg . 2024年6月19日閲覧。
  29. ^ 「ニューラルネットワークは既に意識を持っているかもしれないと発言した男が立ち上げた、300億ドル規模のAIスタートアップには、何かとても奇妙な点がある」 Futurism誌、2025年2月24日。 2025年4月27日閲覧。
  30. ^ルース、ケビン (2025年4月3日). 「AI予測が今後の嵐を予測」 .ニューヨーク・タイムズ. ISSN 0362-4331 . 2025年4月27日閲覧。 
  31. ^ a bオーフ、ダレン（2025年10月）「人類は今後3ヶ月以内にシンギュラリティを達成する可能性があると科学者らは示唆している」 www.msn.com .ポピュラーメカニクス. 2025年10月2日閲覧。
  32. ^ a bボストロム 2014、209–221頁。
  33. ^ Christiano, Paul; Leike, Jan; Brown, Tom B.; Martic, Miljan; Legg, Shane; Amodei, Dario (2017). 「人間の嗜好からの深層強化学習」(PDF) . NeurIPS . arXiv : 1706.03741 .
  34. ^ 「憲法上のAI：AIフィードバックによる無害性」Anthropic.com . 2022年12月15日。
  35. ^ 「反復増幅による複雑な目標の学習」 OpenAI 2018年10月22日。
  36. ^ボンマサニ、リシ;他。 （2021年）。「財団モデルの機会とリスクについて」。スタンフォード大学。arXiv : 2108.07258。
  37. ^ a bウェイ、ジェイソン;テイ、イー。ボンマサニ、リシ。ラッフェル、コリン。ゾフ、バレット。ボルジョー、セバスチャン。ヨガタマ、ダニ。ボスマ、マールテン。周、デニー。ドナルド・メッツラー。チー、エド・H。橋本辰則；ビニャール、オリオール。リャン、パーシー。ディーン、ジェフ。フェドゥス、ウィリアム (2022-06-26)。 「大規模言語モデルの創発能力」。機械学習研究に関する取引。arXiv : 2206.07682。ISSN 2835-8856。 
  38. ^ Brown, Tom B.; et al. (2020). 「言語モデルは少数ショット学習者である」NeurIPS . arXiv : 2005.14165 .
  39. ^アライラック、ジャン＝バティスト;ドナヒュー、ジェフ。リュック、ポーリン。ミーヒ、アントワーヌ。バー、イアン。ハッソン、ヤナ。レンク、カレル。アーサー・メンシュ。ミリカン、ケイティ。レイノルズ、マルコム。リング、ローマン。ラザフォード、イライザ。カビ、セルカン。ハン、テンダ。ゴン・ジータオ。サマンゴーエイ、シナ;モンテイロ、マリアンヌ。メニック、ジェイコブ。ボルジョー、セバスチャン。ブロック、アンドリュー。ネマツァデ、アイーダ。シャリフザデ、サハンド。ビンコウスキー、ミコライ。バレイラ、リカルド。ビニャール、オリオール。ジッサーマン、アンドリュー。カレン・シモニャン（2022）。 「Flamingo: 少数ショット学習のための視覚言語モデル」。NeurIPS。arXiv : 2204.14198 .
  40. ^ Marcus, Gary (2022年8月11日). 「ディープラーニングだけでは人間のようなAIを実現できない」Noema .
  41. ^ 「AIの終末：人類はまもなく絶滅するのか？」アイリッシュ・タイムズ、2017年3月30日。
  42. ^ボストロム、ニック (2012). 「超知能の意志：高度な人工エージェントにおける動機づけと道具的合理性」（PDF） . Minds and Machines . 22 (2): 71– 85. doi : 10.1007/s11023-012-9281-3 .
  43. ^ Omohundro, Stephen M. (2008年1月). 「AIの基本駆動」(PDF) . Frontiers in Artificial Intelligence and Applications .
  44. ^ガブリエル、イアソン (2020年9月1日). 「人工知能、価値観、そしてアライメント」 . Minds and Machines . 30 (3): 411– 437. arXiv : 2001.09768 . doi : 10.1007/s11023-020-09539-2 . ISSN 1572-8641 . 
  45. ^ Good, IJ (1965). 「最初の超知能機械に関する考察」. Advances in Computers .
  46. ^ラッセル 2019、137–160頁。
  47. ^ Yudkowsky, Eliezer (2008). 「人工知能はグローバルリスクにおけるプラス要因とマイナス要因として」(PDF) . Global Catastrophic Risks . doi : 10.1093/oso/9780198570509.003.0021 . ISBN 978-0-19-857050-9。
  48. ^ボストロム2002
  49. ^ラッセル 2019、136ページ。
  50. ^ボストロム 2014、129–136頁。
  51. ^ボストロム 2014、136–143頁。
  52. ^ウォラック、ウェンデル、アレン、コリン（2008年11月19日）『道徳機械：ロボットに善悪を教える』オックスフォード大学出版局、ISBN 978-0-19-970596-2。
  53. ^ a bデフォー、アラン（2018年8月27日）「AIガバナンス：研究課題」（PDF）。AIガバナンスセンター
  54. ^ Yampolskiy, Roman V. (2020年7月18日). 「人工知能の制御可能性について」(PDF) . arXiv : 2008.04071 .
  55. ^ Brooks, Rodney (2017年10月6日). 「AI予測の七つの大罪」 . MIT Technology Review . 2024年10月23日閲覧。
  56. ^ブライソン、ジョアンナ・J (2019). 「AIが社会に与えた影響の過去10年と未来」 .新たな啓蒙時代へ？超越的な10年. 11. ISBN 978-84-17141-21-9。
  57. ^セバスチャン・ブーベック、ヴァルン・チャンドラセカラン、ロネン・エルダン、ヨハネス・ゲルケ、エリック・ホルヴィッツ、エセ・カマー、ピーター・リー、イン・タット・リー、ユアンジ・リー、スコット・ランドバーグ、ハーシャ・ノーリ、ハミド・パランギ、マルコ・トゥリオ・リベイロ、イー・チャン（2023年4月）。「汎用人工知能の火花：GPT-4の初期実験」arXiv：2303.12712 [ cs.CL ]
  58. ^オード、トビー（2020年）『断崖：実存的リスクと人類の未来』ロンドン、ニューヨーク（NY）：ブルームズベリー・アカデミック、ISBN 978-1-5266-0023-3。
  59. ^ 「ゲイリー・マーカスがAIの主要な批評家になった経緯と理由 > マーカス氏は、ChatGPTのような生成AIは差し迫った危険をもたらすと述べている」 IEEE Spectrum、2024年9月17日

論文

書籍

「 https://en.wikipedia.org/w/index.php?title=超知能&oldid=1329964710#人工超知能の実現可能性」より取得