道徳マシン

モラル・マシンは、マサチューセッツ工科大学のイヤド・ラーワンのスケーラブル協力グループが開発したオンラインプラットフォームであり、道徳的ジレンマを生成し、人々が2つの破壊的な結果の間で下す決定に関する情報を収集します。[ 1 ] [ 2 ]このプラットフォームは、イヤド・ラーワンと社会心理学者のアジム・シャリフとジャン＝フランソワ・ボネフォンのアイデアであり、[ 3 ] 2人は自動運転車の倫理に関する論文を発表する前にこのアイデアを思いつきました。[ 4 ]プラットフォーム構築の主な貢献者は、MITメディアラボの大学院生であるエドモンド・アワドとソーハン・ドソウザでした。

提示されたシナリオはトロッコ問題のバリエーションであることが多く、収集された情報は、機械知能が将来行うべき決定に関するさらなる研究に使用されます。[ 5 ] [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ]たとえば、人工知能は自動運転技術においてますます重要な役割を果たすようになり、Moral Machineのような研究プロジェクトは、自動運転車が直面する困難な生死に関わる決定に対する解決策を見つけるのに役立ちます。[ 11 ]

モラルマシンは2016年1月から2020年7月まで活動していました。モラルマシンは今でもウェブサイトで体験することができます。[ 1 ] [ 7 ]

実験

モラル・マシンは野心的なプロジェクトでした。世界200カ国以上で、このような実験設計を用いて多数の人間をテストした初めての試みでした。この研究は、マサチューセッツ工科大学（MIT）の研究所審査委員会（IRB）によって承認されました。[ 7 ] [ 12 ]

この実験では、自動運転車が歩行者をはねそうになるという単一のシナリオについて、視聴者に判断を求めます。視聴者は、歩行者との衝突を避けるために車線を変更するか、輸送中の人命を守るために直進を続けるかを選択できます。

参加者は好きなだけシナリオをクリアできますが、シナリオ自体は13個ずつ生成されます。この13個のうち、1個は完全にランダムに生成され、残りの12個は2600万通りの異なる可能性を持つデータベースから生成されます。これらのシナリオは、キャラクターの性別、年齢、身体的健康状態、社会的地位、種族、そしてキャラクター番号という6つの道徳的選好の次元それぞれに焦点を当てた2つのジレンマによって選択されます。[ 7 ] [ 12 ]

実験設定は複数のシナリオを通して同じですが、各シナリオは異なる要素をテストします。特に注目すべきは、シナリオごとに登場する人物が異なることです。登場する人物には、ベビーカー、少女、少年、妊婦、男性医師、女性医師、女性アスリート、女性幹部、男性アスリート、男性幹部、大柄な女性、大柄な男性、ホームレス、老人、老女、犬、犯罪者、猫などが含まれます。[ 7 ]

研究者たちは、これらのさまざまなキャラクターを通じて、さまざまな人が、関係者に基づいてシナリオをどのように判断するかを理解することができました。

分析

モラル・マシンは、233カ国400万人の参加者から4000万件の道徳的判断を収集し[ 13 ] [ 14 ] [ 15 ]、その分析によって各国および人類全体の傾向が明らかになった。このマシンは、人間とペットの保護、乗客と歩行者、男性と女性、若者と高齢者、健康な人と太りすぎの人、社会的地位の高い人と低い人、道路交通法違反者と法を守る人、大規模な集団と小規模な集団、そして無作為（つまり進路維持）と逸脱の、9つの要因についてテストを行った。[ 12 ]

世界的に、参加者は犬や猫などの動物の命よりも人間の命を優先しました。彼らは可能であればより多くの命を、そして高齢の命よりも若い命を優先しました。[ 15 ]最も多く命を救われたのは乳児で、最も救われなかったのは猫でした。性別による違いは、医師や高齢者の場合、男性の方が女性よりも命を救われる傾向がありました。すべての国で、歩行者を乗客よりも、法を遵守する人よりも命を救われる傾向が概ね見られました。

より裕福でない国の参加者は、より裕福で先進的な国の参加者と比較して、違法に横断する歩行者を救助する傾向が強かった。これは、法の執行が緩いため、個人がルールを逸脱する可能性が高い社会で生活してきた経験によるものと考えられる。経済格差が大きい国では、圧倒的に裕福な個人を貧しい個人よりも救助する傾向がある。[ 12 ]

文化の違い

研究者たちは、同様の結果を示した130カ国を3つの「文化クラスター」に分類した。北米とヨーロッパのキリスト教徒人口の多い国では、他のクラスターに比べて運転者の無反応を優先する傾向が強く、歩行者への配慮は低かった。第2のクラスターを構成する東アジアとイスラム教の国々は、他の2つのクラスターに比べて若者への配慮は低く、法を遵守する人間への配慮は高かった。ラテンアメリカとフランス語圏の国々では、女性、若者、健康な人、地位の高い人への配慮は高かったが、ペットや他の動物よりも人間への配慮は低かった。[ 12 ] [ 15 ]

個人主義的な文化ではより大きな集団の命を救う傾向があり、集団主義的な文化では高齢者の命を救う傾向が強かった。例えば、中国は高齢者よりも若者の命を救う傾向において世界平均をはるかに下回っていたのに対し、米国の回答者の平均では、より若い命とより大きな集団を救う傾向がはるかに高かった。[ 12 ]

データの応用

モラルマシンから得られた知見は、自動運転自動車システムを設計する際に意思決定者を支援することができます。設計者は、これらの車両が周囲の人間の道徳観と一致する道路上の問題を解決できることを確認する必要があります。[ 12 ] [ 7 ]

人間は複雑な性質を持ち、それぞれの価値観に基づいて異なる意思決定を行う可能性があるため、これは困難な課題です。しかし、世界中の人々から大量の意思決定を収集することで、研究者は特定の文化、コミュニティ、そして人々の文脈におけるパターンを理解し始めることができます。

その他の機能

モラル・マシンは2016年6月に導入されました。2016年10月には、ユーザーが人口統計、政治的見解、宗教的信念に関するアンケートに回答できる機能が追加されました。2016年11月から2017年3月にかけて、ウェブサイトは英語に加えて9つの言語（アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語）に段階的に翻訳されました。[ 7 ]

全体的に、モラルマシンは4つの異なるモードを提供しており、その焦点はウェブサイトのデータ収集機能であるジャッジモードにあります。[ 7 ]

つまり、Moral Machineは、ユーザーが審査するための独自のシナリオを提供するだけでなく、ユーザーが独自のシナリオを作成して提出・承認を受けることも奨励しており、他の人もそれらのシナリオを審査できるようになります。データはオープンソース化されており、Moral Machineのウェブサイトに掲載されているインタラクティブマップを通じて誰でも閲覧できます。

文献では

道徳機械に関する研究は、多岐にわたるアプローチで行われてきました。しかしながら、このテーマに関する神学的な考察は依然として乏しく、現在、この点に関してそのような視点を検証した二つの研究が存在します。一つは仏教[ 16 ]、もう一つはキリスト教[ 17 ]です。

参考文献

  1. ^ a b「自動運転車は道徳的ジレンマに直面：誰が生き、誰が死ぬのか？」 NBCニュース。 2017年2月16日閲覧。
  2. ^ブロガン、ジェイコブ (2016年8月11日). 「自動運転車は歩行者2人を殺すべきか、それとも法を順守する市民1人を殺すべきか？」スレート. ISSN 1091-2339 . 2017年2月16日閲覧。 
  3. ^ Awad, Edmond (2018年10月24日). 「道徳マシンの内側」 . Nature Researchの行動科学と社会科学. 2019年7月4日閲覧。
  4. ^ボヌフォン、ジャン＝フランソワ;シャリフ、アジム。ラーワン、イヤド (2016-06-24)。 「自動運転車の社会的ジレンマ」。科学。352 (6293): 1573 ～ 1576 年。arXiv : 1510.03346。Bibcode : 2016Sci...352.1573B。土井：10.1126/science.aaf2654。ISSN 0036-8075。PMID 27339987。S2CID 35400794。   
  5. ^ 「Moral Machine | MIT Media Lab」www.media.mit.edu。2016年11月30日時点のオリジナルよりアーカイブ。2017年2月16日閲覧。
  6. ^ 「MIT、自動運転車の物語に『教訓』を求める」 VOA 2017年2月16日閲覧。
  7. ^ a b c d e f g h「Moral Machine」 . Moral Machine . 2022年4月13日閲覧。
  8. ^ Clark, Bryan (2017年1月16日). 「MITの『モラルマシン』は、自動運転車の事故で誰が死ぬかを決める権限をあなたに与えようとしている」 The Next Web . 2017年2月16日閲覧。
  9. ^ 「MITのゲームは自動運転車が誰を殺すべきかを問う」『ポピュラーサイエンス』2017年2月16日閲覧。
  10. ^ Constine, Josh (2016年10月4日). 「このキラーな自動運転車の倫理ゲームをプレイしよう」 . TechCrunch . 2017年2月16日閲覧。
  11. ^チョプラ、アジェイ。「自動運転車が主流になるまでになぜこんなに時間がかかるのか？」フォーチュン誌。 2017年8月1日閲覧。
  12. ^ a b c d e f gアワド、エドモンド;ドゥーザ、ソーハン。キム、リチャード。シュルツ、ジョナサン。ヘンリッヒ、ジョセフ。シャリフ、アジム。ジャン・フランソワ・ボヌフォン。ラーワン、イヤド（2018年10月24日）。 「モラルマシン実験」。自然。563 (7729): 59–64。Bibcode : 2018Natur.563...59A。土井：10.1038/s41586-018-0637-6。hdl : 10871/39187。PMID 30356211。S2CID 256770099。  
  13. ^ヴィンセント・ジェームズ（2018年10月24日）「自動運転車の事故で誰を救助すべきかという世界的な傾向が明らかに」 The Verge . Vox Media . 2024年8月3日閲覧。
  14. ^ Karlsson, Carl-Johan (2021年7月7日). 「スウェーデンのコロナ対策失敗が年齢差別について示唆するもの」 . Knowable Magazine . doi : 10.1146/knowable-070621-1 . 2021年12月9日閲覧。
  15. ^ a b cスミス、オリバー。「自動運転車の倫理に関する大規模な世界的調査で、高齢者は使い捨て可能だと判明」フォーブス。2024年8月3日閲覧。
  16. ^ホンラダロム、ソラジ (2020). AIとロボットの倫理：仏教の視点。レキシントンブックス。ISBN 978-1498597296。
  17. ^クルック、ナイジェル（2022年）『道徳マシンの台頭：ロボットの目を通して美徳を探る』ナイジェル・T・クルック著、ISBN 978-1739133900。
「 https://en.wikipedia.org/w/index.php?title=Moral_Machine&oldid=1329213717」より取得