最近の国連総会におけるAIをめぐる議論で私の印象に残ったのは、世界のリーダーの60%以上にあたる122カ国が、社会全体にとってのAIの重要性を初めて認識した一方で、安全性テストを実施し共通基準を施行する新たな国際機関の設立を求める共同宣言に賛同したのは、わずか20カ国とEUだけだったことです。
AIの可能性を認識することと、そのリスクには集団で対処しなければならないと認識することの間にあるこの隔たりこそが、テクノロジーイノベーションのスピードが依然として国際的な合意形成を上回り、共有された原則を相互の説明責任へと落とし込む必要があるという、決定的な分断を示しています。
先週開催された第81回国連総会では、AI分野のリーダーたちが安全保障理事会に対し、能力がますます高まるシステムは、いかなる国も単独では管理できないリスクをもたらす可能性があると警告しました。そして、特にテストと重大インシデントの報告について、より一層の国際協力を求めました。
協力が必要であることは明らかです。しかし、それがどのような形であるべきかは、それほど明確ではありません。
各国政府は、国際的な監督の役割と範囲、そしてAIガバナンスと規制の枠組みが実際にどのようなものであるべきかについて、それぞれ異なる見解を持っています。国家安全保障、経済競争、政治的伝統の違いはいずれも、そうした見解に影響を与えています。各国は、特定のリスクに注意を払う必要があるという点では合意できても、誰が基準を策定すべきか、どの情報を共有すべきか、監督を自主的なものとするか義務的なものとするか、そして、もし適用するとすればどのような執行メカニズムを適用すべきかについては、意見が分かれる可能性があります。
こうした違いは現実に存在し、国際的なアプローチが実行可能で信頼されるものになるかどうかに影響します。包括的なグローバルフレームワークの実現は難しいかもしれません。
しかし、唯一の完璧なモデルを探すことによって、実践的な対策の前進を妨げるべきではありません。各国政府は、権限や執行をめぐって意見が一致しない場合でも、他の分野で共通のリスクに協力して取り組んできました。193カ国が参加する化学兵器禁止条約や化学物質の安全性に関する取り組み、核兵器不拡散条約、さらには国連そのものの設立が、国際協力は実現可能であることを示しています。
AIについても同じことができます。各国は、重大インシデントに関する情報共有の方法を改善し、システミックリスクの評価について連携し、独立した科学的専門知識を支援できます。共通の用語と技術的手法があれば、評価を比較し、インシデント報告が何を示しているのかを理解することも容易になります。
こうした取り組みは、すべての国が何を許可または禁止しなければならないかを義務付けるものではありません。しかし、各国政府が新たに生じるリスクをより早く把握し、証拠を共同で評価し、より十分な情報に基づいて意思決定を行ううえで役立つ可能性があります。
AIに関しては、国連の「AIに関する独立国際科学パネル」、国連総会決議A/RES/79/325（AIガバナンスに関するグローバル対話）、グローバル・デジタル・コンパクト、ユネスコの「AIの倫理に関するグローバル・フォーラム」（その基礎となる枠組みは、AI倫理に関する世界初の国際的な基準設定文書です）など、国際協力の最初の事例がすでに見られます。
今こそ前進する必要があります。現実には、AIシステムは急速に変化しており、その評価に必要な情報を常に容易に入手できるとは限りません。実証された能力と推測を区別するのに役立つ独立した研究と信頼できるテストによって、政策立案者は、重要なリスクを捉えつつ過度に制限的な措置を防ぐというバランスを取りながら、妥当な安全策について十分な根拠に基づいた意思決定を行いやすくなります。
AIの安全、セキュアかつ責任ある開発をどのように進めるかについて、共通の理解が必要です。各国の取り組みは不可欠ですが、グローバルな連携も欠かせません。
国連事務総長 アントニオ・グテーレス（Antonio Guterres）
また、実際に誰が議論の場に参加できているのかという点にも、私は繰り返し考えを巡らせています。多くの国は、AIを開発したり、その方向性を形作ったりするためのリソースを持たないままAIの影響を受けることになります。それでも、AIをどのように展開し、どのような安全策を適用するかを決めるうえで、そうした国々も意味のある役割を果たすべきです。また、参加するために必要な専門知識や制度的支援にもアクセスできるべきです。国際的な枠組みは、影響を受ける人々やコミュニティの視点を反映することで、より正当性が高く、より持続可能なものになります。
ここには民間企業にとっての実践的な教訓もあります。安全性、透明性、説明責任に対する期待は、さまざまな法域で変化しています。企業は、自社のシステムがどのように機能するのか、どこで人々や重要なプロセスに影響を与える可能性があるのか、そしてリスクやインシデントをどのように特定し対処するのかを説明できるようにしておく必要があります。そのためには、明確な責任の所在、適切なテストとモニタリング、そして製品、エンジニアリング、法務、プライバシー、セキュリティ、政策の各部門が、最初から製品ライフサイクル全体を通じて連携することが必要です。
国連事務総長 アントニオ・グテーレス（Antonio Guterres）が総会演説で適切に述べたように、「AIの安全、セキュアかつ責任ある開発をどのように進めるかについて、共通の理解が必要です。各国の取り組みは不可欠ですが、グローバルな連携も欠かせません」
国連の会合で、AIをどのようにガバナンスすべきかという問題が解決したわけではありません。しかし、条約の有無にかかわらず、グローバルな協力は今すぐ前進させることができます。インシデントについて分かっていることを共有し、リスクの評価方法について足並みをそろえ、より多くの国を議論の場に招き、実質的な発言権を持ってもらうことです。このレベルの情報共有は、今すぐ始められます。それは条約ではありませんが、少なくとも良い出発点です。
関連コンテンツ
このブログは Box, Inc 公式ブログ（https://blog.box.com/）2025年10月9日付投稿の翻訳です。
著者: Leah Perry, Chief Privacy Officer, Box
原文リンク: https://blog.box.com/ai-and-case-international-cooperation
