 | |
| 形成 | 2022 （2022年） |
|---|---|
| 創設者 |
|
| 本部 | サンフランシスコ、カリフォルニア州、米国 |
監督 | ダン・ヘンドリックス |
| Webサイト | 安全な |
AI安全センター（CAIS ）は、サンフランシスコに拠点を置くアメリカの非営利団体で、人工知能（AI）の安全な開発と展開を推進しています。CAISの活動は、AIの技術的安全性とAI倫理に関する研究、アドボカシー活動、そしてAI安全性研究分野の発展支援にまで及びます。[ 1 ] [ 2 ] 2022年にダン・ヘンドリックスとオリバー・チャンによって設立されました。[ 3 ]
2023年5月、CAISはAIの絶滅の危険性に関する声明を発表した。声明には、AIの教授数百人、大手AI企業のリーダー、その他の著名人が署名している。[ 4 ] [ 5 ] [ 6 ] [ 7 ] [ 8 ]
研究
CAISの研究者らは、「壊滅的なAIリスクの概要」を発表し、リスクシナリオとリスク軽減戦略の詳細を解説しています。記述されているリスクには、AIを自律戦闘やパンデミックの工学に利用すること、そしてAIによる欺瞞やハッキング能力などが含まれます。[ 9 ] [ 10 ]カーネギーメロン大学 の研究者と共同で行われた別の研究では、安全対策を回避する大規模言語モデルへの敵対的攻撃を自動的に検出する方法が示され、現在の安全システムの不十分さが浮き彫りになりました。[ 11 ] [ 12 ]
その他の活動
その他の取り組みとしては、AIの安全性研究を支援するためのコンピューティングクラスター、「MLの安全性入門」というオンラインコース、概念的な問題に対処するための哲学教授向けのフェローシップなどがあります。[ 10 ]
AI安全行動基金センターは、カリフォルニア州法案SB1047（最先端人工知能モデルのための安全で安心なイノベーション法案）のスポンサーである。[ 13 ]
2023年、2022年11月に破産した暗号通貨取引所FTXは、同年初めにCAISに寄付した650万ドルの回収を試みた。[ 14 ] [ 15 ]
参照
参考文献
- ^ 「AIは絶滅の危機をもたらす、とテクノロジーリーダーが公開書簡で警告。なぜ警戒が広がっているのか」 USA TODAY 2023年5月31日
- ^ 「私たちの使命 | CAIS」www.safe.ai . 2023年4月13日閲覧。
- ^エドワーズ、ベンジ（2023年5月30日）「OpenAI幹部、新たな公開書簡で人工知能の「絶滅リスク」を警告」Ars Technica
- ^ AI安全センターのヘンドリックス氏によるAIリスクに関する見解、ブルームバーグテクノロジー、2023年5月31日
- ^ケビン・ルース（2023年5月30日）「AIは『絶滅の危険』をはらんでいる、と業界リーダーが警告」ニューヨーク・タイムズISSN 0362-4331 2023年6月3日閲覧。
- ^ 「人工知能が人類絶滅を警告 ― 知っておくべきことすべて」インディペンデント紙2023年5月31日。 2023年6月3日閲覧。
- ^ロマス、ナターシャ (2023年5月30日). 「OpenAIのアルトマン氏と他のAI大手、高度なAIは「絶滅」の危機に瀕しているとの警告を支持」 TechCrunch . 2023年6月3日閲覧。
- ^ Castleman, Terry (2023年5月31日). 「著名なAIリーダーたちが新技術による『絶滅の危機』を警告」ロサンゼルス・タイムズ. 2023年6月3日閲覧。
- ^ Hendrycks, Dan; Mazeika, Mantas; Woodside, Thomas (2023). 「AIの壊滅的リスクの概要」arXiv : 2306.12001 [ cs.CY ].
- ^ a b Scharfenberg, David (2023年7月6日). 「AI安全センターのダン・ヘンドリックス氏は大惨事を防げると期待している」 .ボストン・グローブ. 2023年7月9日閲覧。
- ^ Metz, Cade (2023年7月27日). 「研究者らがChatGPTなどのチャットボットの安全管理に欠陥を指摘」 .ニューヨーク・タイムズ. 2023年7月27日閲覧。
- ^ 「アラインメント言語モデルに対する普遍的かつ移転可能な攻撃」llm-attacks.org . 2023年7月27日閲覧。
- ^ 「ウィーナー上院議員、カリフォルニア州における大規模人工知能システムの安全な開発を保証しAIイノベーションを支援する法案を提出」スコット・ウィーナー上院議員2024年2月8日 . 2024年6月28日閲覧。
- ^ジョナサン・ランドルズ、スティーブン・チャーチ（2023年10月25日）「FTX、AIの安全性に関する有力非営利団体への650万ドルの支払いを調査中」ブルームバーグニュース。
- ^ Ochsner, Evan (2023年10月25日). 「FTX、AI Safety Groupに対し寄付情報の提出を求める召喚状を送付へ」 . Bloomberg Law .