脆弱世界仮説[ 1 ]または「ブラックボール」仮説[ 2 ]とは、特別な対策を講じない限り、文明は破壊的な技術（ブラックボール）によって破壊される可能性が高いという考えを指します。哲学者ニック・ボストロムは、 2019年に学術誌「グローバル・ポリシー」に最初の論文を発表し[ 3 ] [ 1 ]、その後、共著者のマシュー・ファン・デル・メルウェと共に2022年にAeon誌に掲載された論文でさらに議論されました[ 4 ] 。この仮説は、先端技術の安全性に関する議論で引用されています[ 5 ] [ 6 ]。
背景と定義
ボストロムはこの仮説を壺のアナロジーを用いて説明した。彼は技術発明のプロセスを壺からボールを引き出すことに例え、ボールの色はその影響を表しているとした。白いボールは有益なもので、壺から引き出されるボールの大部分を占める。灰色のボールは、効果が混在または中程度の技術を表す。黒いボールは、それを発明した文明を必然的に破壊する傾向のある仮説上の技術を表す。ボストロムによれば、人類がまだ黒いボールに遭遇していないのは、慎重さや知恵によるものではなく、主に幸運によるものだという。[ 5 ]
ボストロムは、脆弱な世界仮説を「技術開発が続けば、文明が半無政府状態のデフォルト状態から十分に脱却しない限り、ある時点で文明の破滅を極めて起こりやすくする一連の能力が達成される」可能性と定義した。[ 3 ]ただし、特定のケースを除く。[ a ]ここでの「半無政府状態のデフォルト状態」とは、以下の状態を指す。[ 3 ] [ 7 ]
- 予防的な警察活動の能力が限られている。
- 世界的な統治能力が限られている。
- 多様な動機を持つ俳優たち[ b ]
脆弱性の種類
脆弱性を例示するために、ボストロムは分類システムを提案し、技術がどのように間違った方向に進む可能性があるかの例と、差別的技術開発などの政策提言を示した。[ 5 ] [ 3 ]このような脆弱性を伴う技術が開発された場合、生き残るために必要となると思われる解決策（脆弱性の種類に応じて、効果的なグローバルガバナンスまたは予防的な警察活動など）は議論の的となっている。[ 5 ] [ 6 ] [ 8 ]分類には以下が含まれる。[ 3 ] [ 1 ]
- タイプ 0 (「驚くべき奇妙なもの」) : 技術には隠れたリスクがあり、意図せず文明を破壊します。
この仮説的な例として、核爆弾が大気圏に点火できた場合が挙げられます。ロバート・オッペンハイマーが委託した報告書では、トリニティ核実験において核点火は発生しないと予測されていました。しかし、この報告書は、その潜在的な結果を考慮すると、不確実性があるとされています。「この論文の議論から、N + N反応が伝播すると考えるのは不合理であると結論付けられるかもしれません。無制限に伝播する可能性はさらに低いでしょう。しかしながら、議論の複雑さと十分な実験的根拠の欠如を考えると、このテーマに関する更なる研究が強く望まれます。」[ 5 ]
- タイプ 1 (「簡単な核兵器」): 少人数のグループに大量破壊を引き起こす能力を与える技術。
ボストロムが提唱した「簡単な核兵器」の思考実験は、もし核連鎖反応がもっと簡単に発生していたら、例えば「2枚のガラスの間に置かれた金属物体に電流を流す」ことで何が起こっていただろうかという疑問を投げかける。[ 5 ]
- タイプ 2a (「安全な先制攻撃」): 技術には文明を破壊する可能性があり、強力な主体はそれを使用する動機があります。これは、最初に使用することで有利になると思われるため、または共有地の悲劇のシナリオのためです。
- タイプ 2b (「地球温暖化の悪化」): 非常に多くの主体が、わずかに損害を与える行動を取る動機に直面し、それらの行動の複合的な影響として文明の破滅がもたらされます。
緩和
ボストロム氏によると、技術進歩を一時停止することは不可能であり、また望ましいことでもないかもしれない。代替案としては、プラスの影響をもたらすと期待される技術を優先し、壊滅的な影響を与える可能性のある技術を遅らせること、つまり「差別的技術開発」と呼ばれる原則が挙げられる。[ 5 ]
潜在的な解決策は脆弱性の種類によって異なります。タイプ2の脆弱性への対処には、非常に効果的なガバナンスと国際協力が必要となる可能性があります。タイプ1の脆弱性の場合、大量破壊が個人に利用可能になった場合、少なくとも人口のごく一部がそれを利用する可能性があります。[ 5 ]極端なケースでは、文明の破壊を回避するために大規模な監視が必要になる可能性があり、これはメディアで大きく報道されている議論の多い見通しです。[ 9 ] [ 10 ] [ 11 ] [ 12 ] [ 13 ]
潜在的な脆弱性として提案されている技術としては、高度な人工知能、ナノテクノロジー、合成生物学（合成生物学は、強化されたパンデミックを容易に作り出す能力を与える可能性がある）がある。[ 14 ] [ 2 ] [ 15 ] [ 16 ]
脚注
参考文献
- ^ a b cボストロム、ニック（2019年11月）「脆弱な世界仮説」グローバル政策10 （ 4 ）：455-476。doi：10.1111/1758-5899.12718。
- ^ a bビルトン、ニック (2018年11月28日). 「『ブラックボール』仮説：遺伝子編集は核兵器よりも危険か？」『ヴァニティ・フェア』 . 2023年11月7日閲覧。
- ^ a b c d e Katte, Abhijeet (2018年12月25日). 「『世界政府』を樹立すればAI終末は避けられる：ニック・ボストロム」 . Analytics India Magazine . 2023年5月28日閲覧。
- ^ボストロム、ニック、ファン・デル・メルウェ、マシュー (2022). 「私たちの技術はまだ人類を滅ぼすことに成功していない」Aeon .
- ^ a b c d e f g h iパイパー、ケルシー (2018年11月19日). 「技術の進歩により、人類が自らを破壊する可能性はかつてないほど高まっている」 . Vox . 2023年5月28日閲覧。
- ^ a bフィンリー、クリント「人類を滅ぼす可能性のあるテクノロジーとその阻止方法」 Wired誌。ISSN 1059-1028 。2023年11月7日閲覧。
- ^ 「脆弱な世界仮説に関するノート」michaelnotebook.com。
- ^ 「私たち全員を不注意に殺してしまう発明から人類を守る方法」 Inverse 、 2019年4月18日。 2023年11月7日閲覧。
- ^ Houser, Kristin (2019年4月19日). 「教授：完全監視こそが人類を救う唯一の道」 Futurism誌. 2023年5月28日閲覧。
- ^ベンディックス、アリア。「イーロン・マスクに影響を与えたオックスフォード大学の哲学者は、大量監視こそが人類を破滅から救う唯一の方法かもしれないと考えている」。Business Insider 。 2023年5月28日閲覧。
- ^タグガート、ダグニー (2019年4月24日). 「人類を救うには世界政府と監視が必要かもしれない」 . The Organic Prepper . 2023年10月16日閲覧。
- ^ Gheorghe, Ana (2019年4月27日). 「大量監視は人類を絶滅から救う可能性があると教授は主張」 Cherwell . 2023年10月16日閲覧。
- ^ 「私たちの技術はまだ人類を滅ぼすことができていない」 Aeon . 2021年2月12日. 2023年5月28日閲覧。
- ^ウォルシュ、ブライアン（2020年7月15日） 「最初の核爆弾実験がもたらした恐ろしい教訓」Axios。
- ^ Torres, Phil (2019年10月21日). 「全暴力が到来し、世界はまだ準備ができていない」 . Nautilus . 2023年5月29日閲覧。
- ^ 「AI搭載マルウェアは甚大な被害をもたらす可能性を秘めている ― 人工知能は創造性の壺から生まれたブラックボールとなるのか？」 Zvelo 2023年4月26日2023年11月7日閲覧。
外部リンク
- 脆弱な世界仮説
- 文明がいかにして自滅するか ― そしてそれを防ぐ4つの方法―クリス・アンダーソンによるニック・ボストロムのTEDインタビュー
