AnthropicのAIスタートアップのCEOであるダリオ・アモデイは、火曜日の声明で、今週パリで開催されたAIアクションサミットを「逃した機会」と呼び、AI業界および政府に「より速く、明確に動くように」と求めました。
アモデイは、「パリで開催されたAIアクションサミットに出席し、フランス政府が世界中からAI企業、研究者、政策立案者を一堂に集める取り組みに感謝しています。しかし、技術が進歩しているペースを考えると、いくつかのテーマに対するより大きな焦点と緊急性が必要です」と述べました。
アモデイのAIアクションサミットに対する批判は、AI企業と規制機関を結集させてAIガバナンスに関する合意に到達しようと試みた一連の会議の最新事例であり、今週初めに複数の学者が同様のことを述べました。一人はTransformerに語り、「米国と英国が署名を拒否した」と述べた会議のコミットメントは、事実上「平板なもの以外に何も含んでいない」と述べました。
会議でのコメントで、米国副大統領JDバンスは、ヨーロッパが推進するAIに関する「巨大で窒息するような」規制を非難しました。バンスはまた、会議のコミットメントに「持続可能」で「包括的」な言葉があることに異議を唱え、「独裁的な検閲」と否定しました。
アモデイは声明で、AIが急速により洗練されており、規制を怠ると壊滅的な結果を招く可能性があると警告しました。
アモデイは、「AIシステムの能力は、世界舞台に登場する高度に知的な人々で構成された新たな状態に類似するものとして捉えるべきです」と述べました。「先進的なAIは、非国家行為者によるAIシステムの誤用から始まる重大な世界的安全保障の危険を示しています... 民主主義社会がAIを主導し、独裁国家がそれを利用して世界的な軍事支配を確立しないようにしなければなりません。」
アモデイは、政府がAIの使用状況を測定し、非常に強力なAIに関する政策を実施し、「誰もが経済的な恩恵を共有することを確保する」ことに焦点を当てるよう、政府に呼びかけました。彼はまた、AIの安全性とセキュリティに関する政府の透明性の向上、およびAIのリスクを評価する計画についても主張しました。
アモデイがパリAIサミットの進行に対する評価は、先週末、OpenAIが発表した声明とは対照的です。OpenAIは、会議が「責任ある利益のためのAIの発展に向けた別の重要な節目になるだろう」と述べています。
Anthropicは過去において、より積極的なAI規制へのオープンさを示してきました。実際、アモデイは以前に同様の発言をしており、無制限なAIは著しく悪い経済的、社会的、および安全保障上の影響を持つ可能性があると警告しています。Anthropicは、総合的かつ激しく論争されたAI規制法案であるカリフォルニア州のSB 1047を暗黙的に支持した数少ないAI企業の1つでした。この法案に反対する立場をとったのは、昨年秋にカリフォルニア州知事ゲイリー・ニューサムによって拒否されました。
これはAnthropicの動機が純粋に慈善活動であるとするものではありません。最近のエッセイでOpenAIのCEOサム・アルトマンと同様に、アモデイは、強力なAIの利点が近い将来に出現した場合、それが広く均等に分配されるようにする具体的な提言をしていません。
パリで開催された人工知能アクションサミットの完全な報道をお読みください。
