機械倫理（機械道徳、計算道徳、計算倫理）は、人工知能倫理の一部であり、人工知能（AI）を利用する人工機械（ AIエージェントとも呼ばれる）の道徳的行動の付加または確保に関わる。[1]機械倫理は、工学や技術に関連する他の倫理分野とは異なる。人間によるコンピュータの利用に焦点を当てたコンピュータ倫理と混同すべきではない。また、技術のより壮大な社会的影響に関心を持つ技術哲学とも区別する必要がある。 [2]
コンピュータ倫理学の分野における先駆的な理論家の一人であるジェームズ・H・ムーアは、倫理的ロボットを4種類定義しています。人工知能の哲学、心の哲学、科学哲学、論理学の幅広い研究者であるムーアは、機械を倫理的影響エージェント、暗黙的倫理エージェント、明示的倫理エージェント、そして完全倫理エージェントと定義しています。機械は複数の種類のエージェントになり得ます。[3]
(人工システムと道徳的責任を参照してください。)
21世紀以前、機械の倫理は主にコンピューティングと人工知能（AI）の限界のために、SF小説の主題に過ぎませんでした。「機械倫理」の定義はその後も進化してきましたが、この用語は1987年にミッチェル・ウォルドロップによってAI誌の記事「責任の問題」の中で造られました。
上記の議論から明らかなことの一つは、プログラマが意識的に意図しているか否かに関わらず、知能機械は価値観、前提、そして目的を体現するということです。したがって、コンピュータやロボットがますます知能化していくにつれて、それらの組み込み価値とは何かについて、注意深く明確に考えることが不可欠になります。おそらく私たちに必要なのは、アシモフのロボット工学三原則[4]の精神に則った、機械倫理の理論と実践なのかもしれません。
2004年には、AAAIのエージェント組織：理論と実践に関するワークショップで「機械倫理に向けて」[5]が発表されました。 [6]機械倫理の理論的基礎が提示されました。
2005年秋に開催されたAAAI機械倫理シンポジウムにおいて、研究者たちは初めて自律システムにおける倫理的側面の実装について検討するために会合しました。[7]この新興分野に関する様々な視点は、このシンポジウムから生まれた『機械倫理』[8]という書籍集にまとめられています。
2007年、AI誌は「機械倫理：倫理的知能エージェントの創造」[9]という論文を出版しました。この論文では、機械倫理の重要性、倫理原則を明示的に表現する機械の必要性、そして機械倫理に取り組む人々が直面する課題について議論されています。また、少なくとも限られた領域においては、機械が倫理的判断の例から倫理原則を抽出し、それを自身の行動の指針として用いることが可能であることも実証されました。
2009年、オックスフォード大学出版局は『道徳機械：ロボットに正誤を教える』 [ 10]を出版した。同書は「人工道徳エージェント構築の課題を考察し、人間の意思決定と倫理の本質を深く探究した初の書籍」と宣伝されている。450の文献が引用されており、そのうち約100は機械倫理の主要な問題を扱っている。
2011年、ケンブリッジ大学出版局はマイケル・アンダーソンとスーザン・リー・アンダーソンが編集した機械倫理に関するエッセイ集を出版した。[8]アンダーソン夫妻は2006年にこのテーマでIEEEインテリジェントシステム特集号を編集した人物でもある。[11]このエッセイ集は、機械に倫理原則を追加する際の課題に焦点を当てている。[12]
2014年、アメリカ海軍研究局は、自律型ロボットに適用される機械倫理の問題を研究するために、大学の研究者に5年間で750万ドルの助成金を配分すると発表しました。[13]また、機械倫理を「人類がこれまで直面した最も重要な問題」として提起したニック・ボストロムの『スーパーインテリジェンス：道、危険、戦略』は、ニューヨークタイムズのベストセラー科学書リストで17位にランクインしました。 [14]
2016年、欧州議会はロボットの法的地位について欧州委員会が検討するよう促す文書[15]を公表した。 [16]この文書にはロボットの法的責任に関するセクションが含まれており、ロボットの法的責任は自律性のレベルに比例するべきだと主張している。また、AIロボットがどれだけの仕事を奪う可能性があるかについても議論されている。[17]
2019年、IEEEのProceedingsは、アラン・ウィンフィールド、カティナ・マイケル、ジェレミー・ピット、ヴァネッサ・エヴァースが編集した「機械倫理：倫理的AIと自律システムの設計とガバナンス」の特別号を出版しました。 [18]「この号には、機械が非倫理的な結果を回避するように設計された暗黙の倫理エージェントと、倫理をコード化または学習し、その倫理に基づいて行動を決定する明示的な倫理エージェントに関する論文が掲載されています。」[19]
ボストロムやAI研究者のスチュアート・ラッセルなどの学者は、AIが一般的な知能において人類を上回り「超知能」になった場合、この新しい超知能は強力になり、制御が困難になる可能性があると主張している。マウンテンゴリラの運命が人間の善意にかかっているのと同じように、人類の運命は将来の超知能の行動にかかっているかもしれない。[20]ボストロムとラッセルはそれぞれの著書『Superintelligence』と『Human Compatible』の中で、AIの将来は非常に不確実であるが、人類に対するリスクは現時点で重大な行動を起こす価値があるほど大きいと主張している。
ここでAI制御問題が浮上します。つまり、作成者を支援するインテリジェントエージェントを構築しつつ、作成者に危害を加えるような超知能を誤って構築しないよう、どのように構築するかということです。制御を「最初から」正しく設計しないと、超知能が環境に対する権力を掌握し、人間による制御を妨害する可能性があるという危険性があります。AI制御戦略として考えられるものには、「能力制御」（AIが世界に影響を与える能力を制限する）や「動機制御」（人間の価値観や最適な価値観と一致する目標を持つAIを構築する方法の一つ）などがあります。Future of Humanity Institute、Machine Intelligence Research Institute、Center for Human-Compatible Artificial Intelligence、Future of Life Instituteなど、多くの組織がAI制御問題を研究しています。
AIパラダイム、特にその有効性とバイアスについては議論が続いてきた。ボストロムとエリエゼル・ユドコウスキーは、決定木（ ID3など）がニューラルネットワークや遺伝的アルゴリズムよりも優れていると主張した。その理由は、決定木が透明性と予測可能性という現代の社会規範（例えば先例拘束性）に従うからである。[21]一方、クリス・サントス＝ラングは、いかなる時代の規範も変化を許容するべきであり、これらの特定の規範を完全に満たすことが自然にできないことが、人間が機械よりも犯罪者ハッカーに対して脆弱でなくなるために不可欠であると主張した。[22] [23]
2009年、ローザンヌ連邦工科大学の知能システム研究所で行われた実験で、AIロボットが互いに協力するようにプログラムされ、有毒な資源を避けながら有益な資源を探すというタスクが与えられた。[24]実験中、ロボットはクランにグループ化され、成功したメンバーのデジタル遺伝子コードが次の世代に使用された。これは遺伝的アルゴリズムとして知られる一種のアルゴリズムである。AIが50世代連続した後、あるクランのメンバーは有益な資源と有毒な資源を区別する方法を発見した。次にロボットは、他のロボットから有益な資源を蓄えるために、互いに嘘をつくことを学習した。[24]同じ実験で、同じロボットはまた、無私な行動を学習し、他のロボットに危険を知らせ、他のロボットを救うために命を落とした。[22]機械倫理学者はこの実験の意味を疑問視している。実験では、ロボットの目標は「最終的」になるようにプログラムされていたが、人間の動機は通常、終わりのない学習を必要とする。
2009年、学者や技術専門家が会議に出席し、ロボットやコンピュータの潜在的影響、そしてそれらが自立し、自ら判断できるようになる可能性が及ぼす影響について議論しました。彼らは、コンピュータやロボットがどの程度自律性を獲得し、どの程度それを脅威や危険に利用することができるかについて議論しました。彼らは、一部の機械が、自ら電源を見つけ、武器で攻撃する標的を自ら選択する能力など、様々な形態の半自律性を獲得していることを指摘しました。また、一部のコンピュータウイルスは駆除を逃れ、「ゴキブリの知能」を獲得していることも指摘しました。彼らは、SF小説で描かれるような自己認識はおそらくありそうにないが、他にも潜在的な危険や落とし穴があることを指摘しました。[25]
一部の専門家や学者は、軍事戦闘におけるロボット、特にある程度の自律性を持つロボットの使用に疑問を呈している。[26]米海軍は、軍用ロボットがより複雑になるにつれて、自律的な意思決定能力の影響にもっと注意を払うべきであると示唆する報告書に資金提供した。[27] [28]人工知能振興協会の会長は、この問題に関する研究を委託している。[29]
汎用人工知能（上記で定義した完全な倫理的エージェント）を既存の法的・社会的枠組みに統合する手法に関する予備的な研究が行われており、その法的地位と権利に焦点を当てたアプローチが取られている。[30]
ビッグデータと機械学習 アルゴリズムは、より客観的でデータに基づいた結果をもたらすことが期待され、オンライン広告、信用格付け、刑事判決など多くの業界で人気が高まっているが、社会的不平等と差別を永続させる潜在的な方法であると見なされている。[31] [32] 2015年の調査では、 GoogleのAdSenseで高収入の求人広告が表示される可能性は男性よりも女性の方が低いことがわかった。別の調査では、Amazonの当日配達サービスが黒人居住地域で意図的に利用できないようにされていたことがわかった。GoogleとAmazonはどちらも、これらの結果を単一の問題として切り分けることができず、結果は使用しているブラックボックスアルゴリズムの結果であると述べた。[31]
米国の司法制度は、保釈や判決に関する決定を行う際に、公平性を高め、懲役率を下げるために定量的リスク評価ソフトウェアを使い始めている。これらのツールは、被告人の犯罪歴やその他の属性を分析する。フロリダ州ブロワード郡で逮捕された7,000人を対象とした調査では、郡のリスク評価スコアリングシステムを使用して犯罪を犯すと予測された人のうち、実際に犯罪を犯したのはわずか20％だった。[32] 2016年のProPublicaのレポートでは、最も一般的に使用されているツールの1つであるNorthpointe COMPASシステムによって算出された再犯リスクスコアを分析し、2年間の結果を検討した。レポートによると、高リスクと判断された人のうち、その期間中に追加の犯罪を犯したのはわずか61％だった。レポートではまた、アフリカ系アメリカ人の被告は白人の被告よりも高リスクスコアを与えられる可能性がはるかに高いと指摘している。[32]このような公判前リスク評価は、人工知能の部分的法的能力理論に基づき、アルゴリズム自体に差別的意図がある可能性などの要因により、人種に基づく平等保護の権利を侵害すると主張されている。 [33]
2016年、オバマ政権のビッグデータワーキンググループ（ビッグデータに関する様々な規制枠組みを監督する組織）は、「自動化された意思決定に差別が組み込まれる可能性」について警告し、信用スコアリングなどのアプリケーションに対して「設計段階からの機会均等」を求める報告書を発表した。[34] [35]これらの報告書は、政策立案者、国民、学者の間での議論を促しているが、アルゴリズムシステムに偏見や差別を組み込むことに対する解決策はまだ存在しないことを認識している。
2018年3月、機械学習が人権に与える影響に対する懸念の高まりに対処するため、世界経済フォーラムと世界人権未来評議会は、機械学習における差別的な結果を最も効果的に防止するための詳細な勧告を含むホワイトペーパーを発表しました。 [36]世界経済フォーラムは、国連人権指導原則に基づいて、機械学習における差別的な結果に対処し、防止するための4つの勧告を策定しました。 [36]
2020年1月、ハーバード大学バークマン・クライン・インターネットと社会センターは、AIに関する36の主要な原則に関するメタスタディを発表し、プライバシー、説明責任、安全性とセキュリティ、透明性と説明可能性、公平性と差別の禁止、人間による技術の制御、専門家としての責任、そして人間的価値の促進という8つの主要テーマを特定しました。[37]チューリッヒのスイス連邦工科大学の研究者は、2019年に同様のメタスタディを実施しました。[38]
倫理を計算可能にする、あるいは少なくとも形式化しようとする試みはいくつか行われてきた。アイザック・アシモフのロボット三原則は、通常、人工の道徳的エージェントには適していないと考えられているが、[39]カントの定言命法を使用できるかどうかは研究されてきた。[40]人間の価値は、いくつかの側面で非常に複雑であることが指摘されてきた。 [41]この困難を明示的に克服する方法は、人間の価値を、たとえば学習するなど、何らかのメカニズムを通じて人々から直接受け取ることである。[42] [43] [44]もう1つのアプローチは、現在の倫理的考慮を過去の同様の状況に基づくことである。これは判例研究と呼ばれ、インターネット上の調査を通じて実装できる。過去の100万の決定からのコンセンサスは、民主主義に依存した新しい決定につながるだろう。[9]ブルース・M・マクラーレンは、1990年代半ばの初期に、AIと事例ベース推論技術を用いて倫理的ジレンマを検索・分析するSIROCCOと呼ばれるプログラムを開発しました。[45]しかし、このアプローチは社会の偏見や非倫理的な行動を反映した意思決定につながる可能性があります。このアプローチの悪影響は、人種差別的かつ性的なツイートを繰り返すことを学習したMicrosoftのチャットボットTayに見ることができます。 [46]
ある思考実験では、読者の前に無限の力を持つ精霊ゴーレムが登場します。この精霊は50年後に再び現れると宣言し、即座に行動に移すための明確な道徳観を要求します。この実験の目的は、コンピュータが理解できる倫理観をどのように扱うのが最善かについての議論を喚起することです。[47]
最近の研究では、AIの道徳と制御をより広義に再構築し、フーコー的な主体性としてのAIと、人間あるいは制度との相互対立という問題として捉え、規律装置の中で再構築しようとする試みがなされている。そのためには、具体化された自己ケア、具体化された意図性、想像力、そして反省性といったいくつかの要件を満たす必要がある。これらが相まって、AIが自己行動能力を持つ倫理的主体として出現するための条件となるだろう。[48]
SFでは、映画や小説の中で、知覚力のあるロボットや機械というアイデアが取り上げられてきました。
ニール・ブロムカンプ監督の『チャッピー』（2015年）は、人間の意識をコンピューターに転送できるというシナリオを描いています。[49] アレックス・ガーランド監督の2014年映画『エクス・マキナ』は、人工知能を搭載したアンドロイドが、機械の行動が人間の行動と区別できるかどうかを判定するチューリングテストの一種を受けるという物語です。 『ターミネーター』（1984年）や『マトリックス』（1999年）といった映画にも、機械が人間の主人に反旗を翻すというコンセプトが取り入れられています。
アシモフは1950年代に『われはロボット』でこの問題を考察した。編集者のジョン・W・キャンベル・ジュニアの強い要望により、彼は人工知能システムを統制するロボット工学三原則を提唱した。その後、彼の研究の多くは、この三原則の限界をテストし、どこでそれが破綻するか、あるいは逆説的または予期せぬ動作を生み出すかを調べることに費やされた。彼の研究は、あらゆる状況を十分に予測することはできないことを示唆している。[50] フィリップ・K・ディックの1968年の小説『アンドロイドは電気羊の夢を見るか?』は、人間であることの意味を探究している。終末後の世界を描いたこの物語で、彼は共感が人間だけの特徴であるかどうかを問いかけている。この本は1982年のSF映画『ブレードランナー』の原作となっている。