英国主催の「AI安全サミット」が、11月1日と2日に開催され、開催地にちなみ「Bletchley Declaration（ブレッチリー宣言）」が発表された。日本、中国、米国を含む29か国が署名。フロンティアAI（注）の安全かつ責任ある開発、機会とリスク、最も重要な課題に対応するための国際的行動の必要性について、世界初の合意に達した。
同宣言では、フロンティアAIの意図的誤用や意図しない制御から実質的なリスクが生じることで認識を共有し、特にサイバーセキュリティ、バイオテクノロジー、偽情報に関して懸念が提示された。さらに、偏見やプライバシー等、フロンティアAI以外のリスクについても言及された。また、十分に理解されていないリスクや能力についての理解を深める必要性があるため、フロンティアAIの安全性に関する科学的研究協力で合意した。G7、OECD、欧州評議会、国連、GPAI（AIに関するグローバル・パートナーシップ）を含む既存の国際的な取組みを補完するもの。
さらに、各国政府とAI企業は、フロンティアAIモデルの安全性テスト計画で合意した。モデルの配備前と配備後にAIの安全性を確保し、特に、国家安全保障、安全、社会的危害等のテストで協力する。これにより、フロンティアAIモデルの安全性に関する責任が、企業のみに課されるのではなく、政府も担うこととなった。政府は、テストやその他の安全性研究のために投資し、評価の結果を他国と共有し、共有基準の策定に向けて取り組む。これに伴い、英国では、11月2日にフロンティアAIモデルのリスクを評価する「AI安全研究所」が発足した。米国政府、シンガポール政府、グーグル・ディープマインド等が提携で合意した。偏見や誤情報等の社会的危害から、人類がAIを完全に制御できなくなるリスク等、あらゆるリスクを調査する。
フロンティアAIの安全性に関する国際協力プロセスとして、韓国で6か月以内にAIに関するミニ・バーチャル・サミットが共同開催され、フランスが1年後の次回AI安全サミットのホスト国となることが決定した。AIリスクに取り組む国際協力が引き続き推進されていく。
（注）英国政府は、多様なタスクをこなし、現在の最先端モデルと同等かそれ以上の能力を持つ、非常に高性能な汎用AIモデルと定義。
英国・政策に関する詳しい情報はこちらへ