AI安全研究所

AI安全研究所（AISI ）は、最先端の人工知能（AI）モデル（フロンティアAIモデルとも呼ばれる）の安全性を評価し、確保することを目的とした国営機関です。[ 1 ]

2023年には、AIの潜在的な実存的リスクに関する公的な宣言をきっかけに、 AIの安全性が注目を集めるようになりました。 2023年11月のAI安全サミットでは、英国と米国がそれぞれ独自のAI安全研究所（AISI）を設立しました。 2024年5月のAIソウルサミットでは、国際リーダーたちが、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の研究所からなるAI安全研究所のネットワークを形成することに合意しました。[ 2 ] 2025年には、英国のAI安全研究所が「AIセキュリティ研究所」に改名され、米国のAI安全研究所はAI標準イノベーションセンター（CAISI）となりました。

タイムライン

2023年、英国のリシ・スナック首相は「英国を単なる知的拠点ではなく、世界的なAI安全規制の地理的拠点にする」という意向を表明し、AI安全サミットの開催計画を明らかにした。 [ 3 ]スナック首相は、AI企業が「自らの課題を採点することはできない」として、独立した安全性評価の必要性を強調した。[ 4 ]スナック首相は、2023年11月のサミットにおいて、フロンティアAIタスクフォースの発展型として英国AISIが正式に設立され、[ 5 ]米国AISIはNISTの一部として設立された。日本もこれに続き、2024年2月にAI安全研究所を設立した。[ 6 ]

ポリティコは2024年4月、多くのAI企業が評価のための最先端のAIモデルへの展開前アクセスを共有していないと報じた。Metaのグローバルアフェアーズ担当社長ニック・クレッグ氏は、多くのAI企業が英国と米国のAI安全研究所が共通の評価ルールと手順を策定するのを待っていると述べた。[ 7 ]英国と米国の間では、少なくとも1つの共同安全性テストで協力するための合意が2024年4月に締結された。[ 8 ]当初ロンドンに設立された英国AI安全研究所は、2024年5月に多くのAI企業が拠点を置くサンフランシスコにオフィスを開設すると発表した。これは、英国の技術大臣ミシェル・ドネラン氏によると、「AIの安全性に関する新たな国際基準を設定する」計画の一環である。[ 9 ] [ 10 ]

2024年5月に開催されたAIソウルサミットでは、欧州連合（EU）をはじめとする各国が独自のAI安全機関を設立し、国際的なネットワークを形成することに合意した。[ 2 ]

イギリス

英国は2023年4月に、初期予算1億ポンドでフロンティアAIタスクフォースと呼ばれる安全組織を設立した。 [ 11 ] 2023年11月にはAI安全研究所（AI Safety Institute）へと発展し、引き続きイアン・ホガースが率いる。AISIは英国科学技術イノベーション省（SICE）の一部門である。[ 5 ]

英国のAI戦略は、安全性とイノベーションの両立を目指しています。AI法を採択した欧州連合とは異なり、英国はAI分野の成長を阻害する可能性があること、また技術の進歩によって法律が時代遅れになる可能性があることを考慮し、早期の立法化には消極的です。[ 6 ]

同研究所は2024年5月にAIモデルの推論能力や自律性などを評価するAI安全ツール「Inspect」をオープンソース化した。[ 12 ]

2025年2月、英国の機関はAIセキュリティ研究所に改名されました。観測筋は、この名称変更は、研究所がAI応用におけるアルゴリズムのバイアスや言論の自由といった倫理的問題に焦点を当てないことのシグナルであると捉えました。[ 13 ]

アメリカ合衆国

米国AISIは、2023年11月にNISTの一部として設立されました。これは、大統領令14110号が署名された翌日のことでした。[ 14 ] 2024年2月、ジョー・バイデン前大統領の経済政策顧問であるエリザベス・ケリー氏がAISIの所長に任命されました。[ 15 ]

2024年2月、米国政府はGoogle、Anthropic、Microsoftなどの200以上の組織を再編し、米国AI安全研究所コンソーシアム（AISIC）を設立しました。[ 16 ]

2024年3月には1,000万ドルの予算が割り当てられた。[ 17 ]観測筋は、特に米国には多くの大手AI企業が存在することを考慮すると、この投資額は比較的小さいと指摘している。AISIをホストするNIST自体も、慢性的な資金不足で知られている。[ 18 ] [ 6 ]バイデン政権による追加資金の要請は、議会の歳出担当部署によるさらなる予算削減によって阻止された。[ 19 ] [ 18 ]

トランプ大統領の下、 2025年2月にパリで開催されるAIアクションサミットにAI関連機関のメンバーが出席する計画は撤回された。 [ 20 ]米国と英国はサミットの最終声明への署名を拒否した。J・D・ヴァンス米副大統領は、「成長促進型AI政策」を安全よりも優先すべきだと述べた。[ 21 ]

2025年6月、機関名はAI標準イノベーションセンター（CAISI）に変更され、その使命も変化しました。[ 22 ]ハワード・ラトニック商務長官は、「あまりにも長い間、国家安全保障を装って検閲と規制が行われてきました。イノベーターはもはやこれらの標準によって制限されることはありません。CAISIは、急速に発展する商用AIシステムの米国のイノベーションを評価・強化するとともに、それらが国家安全保障基準に適合していることを保証します。」と述べています。 [ 23 ] [ 24 ]米国商務省は、CAISIが米国の利益を国際的に代表し、外国政府による米国の技術に対する煩わしく不必要な規制を防ぐと述べています。CAISIはNIST情報技術研究所と協力関係にあります。[ 24 ]

インド

インド電子情報技術省は、 2024年10月7日にAI安全研究所の設立に関して 、メタ・プラットフォームズ、グーグル、マイクロソフト、IBM、OpenAI、NASSCOM、ブロードバンド・インディア・フォーラム、ソフトウェア・アライアンス、インド工科大学（IIT）、クォンタム・ハブ、デジタル・エンパワーメント財団、アクセス・ナウと協議を行った。AI安全研究所は、規制から標準設定、リスク特定、被害検知へと重点を移すことを決定した。これらはすべて相互運用可能な技術を必要とする。AISIは、初期予算として、IndiaAIミッションの安全と信頼の柱に割り当てられた2億ルピーを支出する可能性がある。将来の資金は、IndiaAIミッションの他の構成要素から提供される可能性がある。[ 25 ] [ 26 ]

ユネスコとMeitYは、 2024年から人工知能の安全性と倫理に関するAI準備状況評価手法に関する協議を開始しました。これは、産業界におけるAIの倫理的かつ責任ある利用を促進することを目的としています。この調査では、特に制度的および規制的能力の強化に向けた取り組みにおいて、政府が関与できる分野が明らかになるでしょう。[ 27 ] [ 28 ]

アシュウィニ・ヴァイシュナウ電子情報技術大臣は、2025年1月30日、AIモデルの倫理的かつ安全な適用を確保するため、IndiaAI安全研究所を設立すると発表した。同研究所は、インドの社会的、経済的、文化的、言語的多様性に基づき、インドのデータセットに基づいた国内研究開発を推進する。学術研究機関や民間パートナーの協力を得て、同研究所はハブ・アンド・スポーク方式を採用し、IndiaAIミッションの「安全と信頼の柱」に沿ったプロジェクトを実施する。[ 29 ] [ 30 ]同研究所は、IITなどの学術機関、テクノロジー企業、ユネスコなどの国際機関との協力を得て、「ハブ・アンド・スポーク」モデルの下で運営されている。[ 31 ]

参照

参考文献

  1. ^ 「安全機関がAIの研究とテストを促進する『国際ネットワーク』を結成」 The Independent 2024年5月21日2024年7月6日閲覧。
  2. ^ a b Desmarais, Anna (2024年5月22日). 「世界のリーダー、AI安全機関のネットワーク立ち上げに合意」 . euronews . 2024年6月15日閲覧。
  3. ^ Browne, Ryan (2023年6月12日). 「ロンドンが次のシリコンバレーを目指す中、英国首相リシ・スナック氏、AI安全規制の拠点として英国を推す」 CNBC . 2024年6月21日閲覧。
  4. ^ 「リシ・スナック：AI企業は『自らの宿題を採点することはできない』「 . BBC . 2023年11月1日. 2024年6月21日閲覧。
  5. ^ a b「AI Safety Instituteの紹介」 GOV.UK 、 2023年11月。 2024年6月15日閲覧。
  6. ^ a b c Henshall, Will (2024年4月1日). 「米国と英国、AIモデルの安全性試験で提携を発表」 . TIME . 2024年7月6日閲覧。
  7. ^ 「リシ・スナック氏はAIを安全にすると約束した。大手IT企業は協力しない」。Politico 。2024年4月26日。2024年6月15日閲覧。
  8. ^ David, Emilia (2024年4月2日). 「米国と英国、安全上の脅威に対するAIモデルのテストで協力」 The Verge . 2024年6月21日閲覧。
  9. ^ Coulter, Martin (2024年5月20日). 「英国のAI安全研究所が米国にオフィスを開設へ」ロイター.
  10. ^ブラウン、ライアン (2024年5月20日). 「英国、規制の欠陥をめぐる監視の中、AI安全研究所をサンフランシスコに拡大」 . CNBC . 2024年6月15日閲覧。
  11. ^ 「英国における次世代の安全なAIの構築と導入を支援する専門家タスクフォースに初期予算1億ポンド」 GOV.UK 2024年7月6日閲覧。
  12. ^ Wodecki, Ben (2024年5月15日). 「AI Safety Institute、AIモデルの安全性テストツールプラットフォームを発表」 . AI Business .
  13. ^ Poireault, Kevin (2025年2月14日). 「英国のAI安全研究所、政府の戦略転換を受けブランドイメージを刷新」 Infosecurity Magazine . 2025年7月23日閲覧。
  14. ^ヘンシャル、ウィル (2023年11月1日). 「バイデンのAIに関する大統領令がここまでしか効かない理由」 . TIME . 2024年7月7日閲覧。
  15. ^ Henshall, Will (2024年2月7日). 「バイデン政権の経済顧問エリザベス・ケリー氏がAI安全性試験機関の責任者に選出」 . TIME . 2024年7月6日閲覧。
  16. ^シェパードソン、デイビッド（2024年2月8日） 「米国、大手AI企業がリスクに対処するため安全コンソーシアムに参加」ロイター通信。
  17. ^ 「シューマー上院多数党院内総務、米国人工知能安全研究所設立のための初の資金提供を発表。この資金は安全性とAIイノベーションのバランスをとるための頭金であり、AIシステムの安全な運用を確保するための開発基準、ツール、テストを支援する」 www.democrats.senate.gov 2024年3月7日 2024年7月6日閲覧。
  18. ^ a bザクルゼフスキー、キャット (2024年3月8日). 「この機関はAIの安全確保を任務としている。しかし、そのオフィスは崩壊しつつある」 .ワシントン・ポスト. ISSN 0190-8286 . 2024年7月6日閲覧。 
  19. ^ 「予算削減が可決された場合、NISTは人員削減を『検討しなければならない』」 FedScoop . 2024年5月24日. 2024年7月6日閲覧。
  20. ^ Dastin, Jeffrey (2025年2月7日). 「独占：トランプ大統領のパリAIサミット代表団にAI安全研究所のスタッフは含まれない、と情報筋が語る」ロイター. 2025年8月29日閲覧。
  21. ^ 「英国と米国、国際AI宣言への署名を拒否」 BBCニュース、2025年2月11日。 2025年8月29日閲覧。
  22. ^ Robertson, Adi (2025年6月4日). 「米国、AI安全研究所から『安全』を削除」 The Verge . 2025年8月25日閲覧。
  23. ^ 「トランプ政権、AI安全研究所の『安全』部門を削減」 NBCニュース、2025年6月4日。 2025年8月25日閲覧。
  24. ^ a b「米国商務長官ハワード・ラトニック氏による米国AI安全研究所のイノベーションと科学推進に資する米国AI標準・イノベーションセンターへの転換に関する声明」米国商務省。2025年6月3日。 2025年8月15日閲覧。パブリックドメインこの記事には、パブリック ドメインであるこのソースからのテキストが組み込まれています。
  25. ^ 「政府、人工知能安全研究所の設立を検討」ヒンドゥスタン・タイムズ2024年10月13日. 2024年11月20日時点のオリジナルよりアーカイブ。 2025年2月17日閲覧。
  26. ^ Jeevanandam, Nivash (2024年10月15日). 「MeitYがIndiaAIミッションの安全と信頼の柱に基づき、インドAI安全研究所設立に関する協議を開催」 IndiaAI . 2025年2月17日閲覧。
  27. ^ 「ユネスコとインド電子情報技術省、人工知能の安全性と倫理に関するマルチステークホルダー協議を主催」。報道情報局。インド政府電子情報技術省。2024年11月16日。 2025年2月19日閲覧。
  28. ^ 「ユネスコとインド電子情報技術省（MeitY）が、インドにおけるAI準備状況評価方法論（RAM）に関するステークホルダー協議を主催」。報道情報局。インド政府電子情報技術省。2025年1月21日。 2025年2月19日閲覧。
  29. ^ 「堅牢でハイエンドな共通コンピューティング施設の整備により、インドは安全でセキュアな独自のAIモデルを手頃な価格でまもなく立ち上げる準備が整った：アシュウィニ・ヴァイシュナウ氏」。インド政府電子情報技術省、報道情報局。2025年1月30日。 2025年2月24日閲覧。
  30. ^ Kumar, Animesh (2025年2月5日). 「インドのAI安全研究所：ダイナミックなAI環境におけるAISIの役割」 Mondaq . 2025年2月24日閲覧。
  31. ^ 「インドAI安全研究所と政策イニシアチブ」。報道情報局。2025年1月30日。
「 https://en.wikipedia.org/w/index.php?title=AI_Safety_Institute&oldid=1323757828」より取得