ソウルサミットで、国家元首と企業がAIの安全性に取り組む

政府関係者とAI産業の幹部は、急速に進展する分野に基本的な安全対策を適用し、国際的な安全研究ネットワークの設立を決定しました。

イングランドのブレッチリーパークで初めてのAI安全サミットからほぼ6か月が経過し、今週、イギリスと韓国はソウルでAI安全サミットを開催しています。この集まりは、AI技術の出現によって世界が直面する新たな課題と機会を強調しています。

イギリス政府は、10か国と欧州連合の間で、AI安全研究を推進するためにイギリスのAI安全研究所に類似した国際ネットワークを設立する新しい協定を発表しました。このネットワークは、AIの安全性に関する共通理解を促進し、研究、標準、テストと連携させるものです。豪州、カナダ、EU、フランス、ドイツ、イタリア、日本、シンガポール、韓国、英国、米国がこの協定に署名しました。

ソウルでのAIサミット初日に、グローバルリーダーと主要なAI企業が、AIの安全性、イノベーション、そして包摂をテーマにしたバーチャル会議に集まり、英国首相リシ・スナックと韓国大統領ユン・ソクヨルが議長を務めました。

議論の中で、リーダーたちは、国際協力を強化し、AIを活用して世界の重要な課題に取り組み、人権を維持し、デジタル格差を世界的に埋めることを強調したソウル宣言に合意しました。その際に、「人間中心、信頼できる、責任がある」というポイントを重視しています。

「AIは非常にエキサイティングな技術ですが、英国はその潜在能力に取り組むためのグローバルな取り組みを率先しており、昨年、世界で初めてAI安全サミットを開催しました」とスナック英国首相は英国政府声明で述べました。「しかし、その利益を得るためには、安全であることを確認する必要があります。ですから、本日、AI安全研究所のネットワークに関する合意を得られたことを喜ばしく思います。」

先月、英国と米国がAIの研究、安全評価、およびAIの安全性に関するガイダンスに協力するための協力覚書に調印しました。

本日発表された合意は、Amazon、Anthropic、Cohere、Google、IBM、Inflection AI、Meta、Microsoft、Mistral AI、Open AI、Samsung Electronics、Technology Innovation Institute、xAi、Zhipu.aiを含むAIに関与する16社からの世界初のAI安全コミットメントに続きます。このうち、Alibaba、Ant、Tencentがバックアップする中国の企業であるZhipu.aiも含まれています。米国、中国、UAEを含むAI企業は、「リスクを閾値以下に抑えるべく対策が取れない場合は、どのようなモデルやシステムも開発または展開しない」という安全コミットメントに同意しました。

スナック首相は「世界有数のAI企業が、AIの安全性に関する同じコミットメントに同意したのは世界初です。これらのコミットメントにより、世界有数のAI企業が安全なAIを開発するための計画について透明性と説明責任を提供することが保証されます。」と述べました。