チャールズ国王AIサミット、人間の価値観とAIの規模拡大競争を対峙させる
チャールズ3世は、スコットランドで影響力を持つAI関係者およそ30人を集めると報じられており、能力拡大を急ぐ業界に対し、人間の福祉を問いかける場となる。非公開のチャールズ国王AIサミットには、Nvidia CEOのジェンスン・フアン、Google DeepMind創業者のデミス・ハサビス、バチカン顧問のパオロ・ベナンティらが参加する見込みだ。
会合は9月、エアシャー州のダンフリーズ・ハウスで開催される予定である。同地はThe King’s Foundationの本部だ。政府や企業の上級指導者による非公開討議を専門とするThe Ditchley Foundationが会合を主催する。政府閣僚にも招待状が届いたと報じられている。
ただし、王室は期待を慎重に抑えている。王室関係者によると、チャールズ国王は自身の立場を示すことなく、招集し、耳を傾け、議論を促す意向だという。この違いがサミットの中心的な緊張関係を形づくっている。君主は非常に大きな影響力を持つ人々を集められるが、規制を制定したり、企業に方針転換を強制したりはできない。
このイベントは、社会的な懸念が急速に高まるなかで開かれる。英国の議員、宗教指導者、研究者、テクノロジー企業幹部は、AI開発が既存の監督体制を追い越したかを議論している。ダンフリーズ・ハウスの参加者は、インフラのより速い拡大から国際的な統制の強化まで、この懸念に対する相反する答えを代表する。
チャールズ国王AIサミットは政策会議ではなく非公開会合
直近の変化は、英国の君主が正式な政府間交渉の外でAIを議論する、異例に高位な対話経路を設ける点にある。
サミットに関する報道によると、予定される会合にはダンフリーズ・ハウスで約30人が集まる。Nvidiaのジェンスン・フアン、Google DeepMindのデミス・ハサビス、バチカンのAI顧問パオロ・ベナンティらが参加予定者に含まれる。
こうした名前から、議論に求められる幅広さが見えてくる。フアンは先端AI開発を支える計算インフラの多くを供給する企業を率いる。ハサビスは、能力を増し続けるモデルを開発する研究所の一つを率いる。ベナンティは、尊厳、責任、限界を重視する道徳的枠組みを代表する。
閣僚の参加が報じられていることも、別の層を加える。政府関係者は政策権限を持つ一方、企業の指導者はモデル、データセンター、資本を管理している。宗教界や市民社会の参加者は、技術的・商業的な優先事項がより広い社会的価値を反映しているかを問うことができる。
会合の場所も重要だ。ダンフリーズ・ハウスは政府省庁でも、企業キャンパスでも、国際会議場でもない。The King’s Foundationはこの邸宅を教育、研修、遺産、地域プログラムに活用している。その環境は、製品発表ではなく社会的影響に焦点を当てた議論を支える。
Ditchleyの関与は、機密性の高い円卓会議を示唆する。同団体のテクノロジープログラムは、難しい政策課題を検討するために公的機関の関係者、研究者、ビジネスリーダーを定期的に集めている。同財団が公表するテクノロジーの議題には、AI、国家安全保障、仕事、民主主義の強靱性、地政学的競争が含まれる。
非公開性は、参加者がより率直に話す助けになり得る。経営幹部は、一言一句を市場へのシグナルに変えることなく弱点を議論できる。閣僚は、自国政府を拘束する前にアイデアを検討できる。倫理学者は、議論を会議用のスローガンに圧縮せずに前提へ異議を唱えられる。
しかし、機密性には対応する弱点もある。公開議題は発表されていない。完全な招待者名簿は未確認のままで、主催者は宣言や正式報告書を約束していない。参加者が安全性試験、雇用、子ども、軍事システム、国際標準を議論したかどうかを、一般市民は知る機会がないかもしれない。
この隔たりが、この会合を従来型のサミットから分けている。政府主催の会議は通常、声明、約束、交渉文書を生む。チャールズ国王AIサミットは、率直な議論と関係構築を生むために設計されているようだ。
したがって、「サミット」という言葉は慎重に扱う必要がある。このイベントには、主催者と参加予定者ゆえの象徴的な重みがある。しかし、ルールを定めるために必要な制度的な仕組みは、まだ備えていない。
王室自身の表現も、その境界を強調している。報道によれば、チャールズ国王は「招集し、関与し、耳を傾け、議論を促す」。AI戦略を定めたり、選挙で選ばれた公職者に技術の規制方法を指示したりすることは想定されていない。
この自制は英国の憲法構造に沿うものだ。君主は政治的中立を保ち、閣僚の助言に基づいて行動する。チャールズ国王は、ある問題を注目に値するものとして位置づけることはできるが、その後の対応を決めるのは選挙で選ばれた制度である。
それでも、この会合は意義ある介入を意味する。テクノロジー政策において接触の機会は希少であり、対立する立場の指導者を同じ部屋に集める能力は、その後の意思決定を形づくり得る。未解決の問いは、その接触が公共的価値を生むのか、それともエリート層だけの対話にとどまるのかだ。
チャールズ国王がAI安全性に再び取り組む理由
チャールズ国王がAI論争に初めて加わるわけではないが、この会合は彼の役割を儀礼的なメッセージ発信から、継続的な非公開の関与へと移す。
2023年11月、国王はブレッチリー・パークで開かれた英国のAI Safety Summitで演説した。国境を越えるリスクに対応するため、政府、企業、研究者、市民社会が協力するよう促した。
このサミットでは、当初28か国と欧州連合が支持したBletchley Declarationが採択された。この宣言は、AIの潜在的な利益と、最も高性能なシステムが重大な害をもたらす可能性の双方を認めた。
フロンティアAIとは、能力面で最先端に近い汎用モデルを指す。このようなシステムは多くのタスクを実行でき、開発者が公開前に完全には予測できないリスクを生み出す可能性がある。
この宣言は世界的な規制機関を設立したわけではない。試験、透明性、説明責任、国際協力について共通の言葉を築いた。この合意が重要だったのは、署名国に米国、中国、欧州諸国、新興国が含まれていたためだ。
チャールズ国王の録画演説は、世界的な課題に対する彼の確立した姿勢と一致していた。技術的な解決策を提示するのではなく、制度を横断した協力を重視した。また、AIの発展はテクノロジー分野を超え、経済、社会、人間生活に影響すると警告した。
その後、AI政策はより分断されている。政府は先端システムに監督が必要だという点では概ね一致しているものの、執行、国家安全保障、経済競争、規制負担をめぐって意見が分かれている。企業も共通基準を求めながら、モデル公開を競っている。
ダンフリーズ・ハウスでのサミットは、この未解決の問題を改めて取り上げるように見える。技術は進歩を続けている一方、国際ガバナンスは依然として自主的な約束、国内法、評価プログラム、不定期な外交会合に依存している。
チャールズ国王はテクノロジー企業の指導者とも直接的な関係を築いてきた。公務の場でフアンや他の経営幹部と会談している。こうした接点により、計画中の会合は遠くから発せられる一般的な王室の呼びかけ以上の実質を持つ。
彼の立場には、選挙で選ばれた政治家にはしばしば欠ける利点がある。政治指導者は選挙サイクル、党派間の対立、省庁間の交渉の中で行動する。君主は、特定の立法提案を自らのものとせず、政権交代をまたいで注目を維持できる。
この継続性は、あらゆる哲学的な意味でチャールズ国王を中立にするものではない。彼の公的な活動は長年にわたり、管理責任、地域社会、環境への責任、将来世代への義務を重視してきた。こうしたテーマは、AIへの関心を観察者がどう解釈するかに自然と影響する。
ただし、王室が示す「聞く」役割は依然として重要である。報道によれば、国王は個人的な規制政策を発表する予定はない。彼の介入は、技術的能力を道徳的・政治的な精査と向き合わせる場をつくることにある。
この違いは、ベナンティに招待があったと報じられる理由の説明にもなるかもしれない。ベナンティは、テクノロジー倫理についてバチカンに助言するフランシスコ会司祭であり、学者でもある。彼の参加は、AIガバナンスが技術者、投資家、国家安全保障当局者だけの領域だという前提に異議を唱えることになる。
また、このサミットを、より広範な宗教的議論にも結びつける。バチカンの文書は、AIは人間の道具であり、尊厳、説明責任、共通善の基準のもとで機能しなければならないと論じてきた。
こうした議論は技術的進歩を否定するものではない。誰が利益を得るのか、誰がリスクを負うのか、そして効率性が人間の判断を押しのけていないかを問うものだ。これらの問いは、経済・技術変化がもたらす社会的影響に対するチャールズ国王の長年の関心と合致する。
したがって、このサミットは継続性と段階的な強化の両方を表している。チャールズ国王は協力への呼びかけを繰り返しているが、AIシステムの重要な部分を管理する人々との、より小規模で直接的な会合を通じてそれを行っている。
人間の尊厳とAIの規模拡大ビジネスの衝突
サミットの主な対立軸は、人間中心の抑制と、より高速なモデル、より大規模なインフラ、より早期の導入を報いる経済システムの間にある。
フアン、ハサビス、ベナンティは、この対立の中で異なる立場を体現する。彼らの利害が厳密に対立しているわけではないが、所属組織における責任が異なる優先順位を生む。
Nvidiaは、現在のAI拡大の多くを支えるチップとシステムを提供している。より多くの学習と推論、すなわち訓練済みモデルをユーザー向けに実行するプロセスは、追加の計算インフラへの需要を生む。企業や政府が導入を加速させれば、Nvidiaは利益を得る。
Google DeepMindは、モデル層により近い位置で活動している。同社の研究者は科学的進歩を追求し、汎用システムを構築し、安全性を研究している。DeepMindは競争圧力と、評価、アクセス、悪用、制御に関する問題のバランスを取らなければならない。
ベナンティは同じ技術を人間の尊厳という観点から捉える。バチカンのAI倫理に関する文書は、AIは道徳的責任を置き換えるのではなく、人間の主体性を支えるべきだと論じている。
これらの立場は、包括的な声明の中では共存し得る。安全性、尊厳、説明責任に公然と反対する業界リーダーはほとんどいない。対立が表れるのは、これらの原則が導入の遅延、外部監査、特定用途の制限、あるいは機密情報の開示を必要とする場合だ。
非公開サミットは、この隔たりを儀礼的なパネル討論よりも効果的に露わにできる。参加者は、AIが「人類に利益をもたらす」べきだという宣言を超え、安全性と商業上のスピードが分かれたときに企業が何をすべきかを問える。
モデル評価を考えてみよう。開発者は、危険な生物学的知識、サイバー能力、欺瞞、制御喪失についてシステムを試験できる。しかし、評価手法はさまざまであり、外部研究者は最も高性能な未公開モデルにアクセスできないことが多い。
したがって、有意義な議論では誰が試験を定めるのかを扱う必要がある。また、システムが試験に失敗した場合に何が起きるのかも決めなければならない。どの機関も導入を遅らせたり是正措置を求めたりできないなら、試験の価値は限られる。
インフラは、別の緊張関係を生み出す。AIは生産性、研究、防衛、地政学的影響力に関わるため、各国政府は国内の計算能力を求めている。地域社会がエネルギーと水の需要による圧力に直面している場合でも、拡大の制限は経済的な損失に映り得る。
Nvidiaは、その拡大の中心に位置する。同社の参加は、多くのAI構想がハードウェア供給に依存しているため、議論に実務的な価値を与えるだろう。また、抑制を求める声が現在の競争を支える商業的基盤と向き合うことにもなる。
DeepMindは、関連する矛盾を体現している。主要な研究所は深刻なリスクを警告する一方で、より強力なシステムの開発を競っている。規制を原則として支持しながらも、自社の開発を制約したり競合を有利にしたりする規則には異議を唱える可能性がある。
だからこそ、道徳的な言葉だけでは問題を解決できない。「人類」には、自動化に直面する労働者、研究の恩恵を受ける患者、チャットボットと関わる子ども、作品がモデル訓練に使われるクリエイター、合成プロパガンダにさらされる市民が含まれる。
これらの集団は、異なる利益と害を経験する。参加者がそれを具体的な義務に置き換えない限り、人類への一般的な訴えは意見の相違を覆い隠しかねない。
英国議会はすでに、その翻訳に着手している。2026年6月のLords debateでは、AIが人間関係、雇用、真実、教育、公的説明責任に与える影響が検討された。
その討論で議員らは、英国の成人の半数強が生成AIを利用していることを示すOfcomのデータを引用した。16歳から24歳では利用率が79％に達した。利用者の12％は、AIを友人または会話の相手として扱っていると報告された。
こうした数字は、人間中心のガバナンスを具体的なものにする。エンゲージメントを最大化するよう設計されたチャットボットは、孤独感、判断力、感情的依存に影響を及ぼし得る。関連する安全性の問いは、モデルが禁止されたコンテンツを生成するかどうかに限られない。
職場での利用も同様の懸念を生む。AIは、従業員による文書要約、研究分析、知識検索を支援できる。一方で、監視を強化し、職務再設計を加速させ、説明責任を負う人々から不透明なシステムへ意思決定を移すこともある。
ナレッジワーカーにとって最善の対応は、AIを完全に避けることではない。ソース資料、人によるレビュー、組織的な文脈へのアクセスを維持することだ。適切に管理されたAI knowledge baseは、生成された回答への盲目的な依存を促すのではなく、検証を支援できる。
この実務的な層でこそ、サミットで競合する哲学は最終的に交わらなければならない。人間の尊厳には、運用可能な定義が必要だ。インフラ提供者とモデル開発者には、エンジニアリング、展開、説明責任に影響するルールが必要である。
この翻訳がなければ、すべての参加者が同じ価値観を支持しながら、これまでとまったく同じように行動し続けることができてしまう。
王室主催の会合は民主的監督に代わるものではない
会合の威信は確かなものだが、威信は公的ルール、独立した証拠、説明責任ある決定の代わりにはならない。
サミットの非公開形式が、第一の懸念を生む。秘密保持は率直な対話を促すかもしれないが、どの問題に注意が向けられたのかを影響を受ける地域社会が知ることを妨げる。労働者、教育者、クリエイター、子ども、地域社会は、会議室の外に置かれる可能性がある。
報じられた招待客リストも、組織の指導者に偏っているように見える。約30人で真剣な議論はできるが、そのような集団がAIの影響を受けるすべての人々を代表することはできない。誰を選ぶかによって、どのリスクが緊急と見なされ、どのリスクが抽象的なまま残るかが決まる。
経営幹部が主導する会合では、現在の被害への注意が薄れ、破局的な将来のシステムに焦点が当たるかもしれない。現在の被害には、差別的な判断、同意のない画像、信頼できない健康助言、労働者の置き換え、監視、知的財産を巡る紛争が含まれる。
政府高官が主導する議論では、逆の方向に進む可能性がある。国家間競争と安全保障が個人の権利を覆い隠すかもしれない。倫理的な視点は議題を広げられるが、執行権限を持つわけではない。
第二の懸念は、サミットの成果に関わる。公的な宣言、日程表、監視プロセスはいずれも発表されていない。こうした仕組みがなければ、参加者は出席そのものを責任ある行動の証拠として扱うことができる。
その結果は、会場にいる全員に利益をもたらす。企業は倫理的リーダーシップとの結び付きを得る。閣僚は関与しているように見える。王室は懸念を示す。しかし、これらの利益のいずれも、必ずしもより安全なシステムを生み出すわけではない。
政治的な文脈は、このリスクを高める。英国はBletchley Parkで国際的な招集役としての地位を確立したが、宣言には継続的な制度が必要だ。競争上のインセンティブが秘密主義や迅速な公開を後押しするとき、自主的な約束は弱まる。
英国には正式な手段がある。AI Security Instituteは先進的なモデルを評価し、フロンティアリスクを研究している。分野別の規制当局は、既存の権限の範囲で問題に対処できる。議会は義務、執行権限、公的説明責任のための手段を整備できる。
王室主催の会合は、それらの仕組みと並行して動くのではなく、参加者をそれらにつなげるべきだ。非公開の議論は共通基盤を見いだせるが、政府はその基盤を透明な政策へと変換しなければならない。
最近の警告により、問題の重大性は増している。AI研究者による公的な警告を受け、人工超知能への制限を求める要求を70人以上の英国議会議員が支持したと報じられている。人工超知能とは、ほとんどの認知領域で人間の能力を上回る仮説上のシステムを指す。
lawmakers’ interventionは、議論がいかに急速に変化したかを示している。かつて専門家向け会議に限られていた懸念が、現在では主流の政治的要求に影響を与えている。
これらの警告は、自動的に受け入れるのではなく精査に値する。専門家の間では、壊滅的なAIリスクの確率、時期、メカニズムについて意見が分かれている。数値化された絶滅リスクの推定は、測定可能な頻度というより個人的な判断を反映していることが多い。
極端なシナリオだけに焦点を当てることも、政策を歪め得る。政府は仮説上の超知能のための統制を構築する一方で、すでに人々に影響を与えている被害を見落とすかもしれない。逆に、不確実性は、結果が不可逆的になり得る深刻なリスクを無視する正当化にはならない。
サミットは、両方の考えを併せ持たなければならない。参加者は短期的な証拠を検討し、より高性能なシステムに備えるべきだ。不確実性を、安全性の証明または破局の証明として示すことは避けるべきである。
Charlesの憲法上の中立性は、この課題を複雑にする。彼の招集力は、党派的な立場を避けることにも一部依存している。参加者に測定可能な約束を促すことは、開かれた議論を奨励するより政治的に見えるかもしれない。
ここにサミットの中心的なトレードオフがある。国王は中立を保つことで参加者へのアクセスを維持できるが、その結果として会合がほとんど公的説明責任を生まない可能性がある。道徳的な課題をより明確にできる一方で、参加を望む人々の範囲を狭めるかもしれない。
解決策は宮殿だけから生まれるものではない。閣僚、規制当局、研究所、議会が決定に責任を持たなければならない。サミットの価値は、それらの制度がその後に何をするかで判断されるべきだ。
人類への訴えがAIリーダーに求めるべきこと
信頼に足る人間中心のアジェンダは、倫理的懸念を、参加者がDumfries Houseを後にした後にも検証できる責任へと変換しなければならない。
第一の責任は、人間による統制に関するものだ。組織は、AIシステムが実質的なレビューなしに下してはならない決定を特定すべきである。レビュー担当者には、出力に異議を唱えるための権限、時間、十分な情報が必要だ。
自動化されたプロセスの末端に人を配置するだけでは不十分である。従業員が何百もの決定を迅速に承認しなければならない場合や、システムの推論を理解できない場合、人間による監督は儀礼的なものになる。
第二の責任は、証拠に関するものだ。開発者は、先進的なシステムをどのように評価するのか、どのリスクを試験するのか、どのような限界が残るのかを開示すべきである。機微な詳細には保護されたアクセスが必要な場合もあるが、独立した評価者には主張を評価するための十分な情報が必要だ。
この原則は、フロンティアモデルを超えて適用される。学校には学習支援システムに関する証拠が必要だ。病院には臨床的検証が必要だ。雇用主は差別と正確性を検証する必要がある。ユーザーには、チャットボットがもっともらしいが誤った助言を生成し得る場合、明確な警告が必要である。
第三の責任は、説明責任に関するものだ。影響の大きい導入にはすべて、失敗に責任を負う特定可能な組織が存在すべきである。ベンダー、顧客、下請け業者が、誰も責任を負わない状態になるまでサプライチェーン上で責任を押し付け合うことは許されない。
Vaticanのアプローチがここで重要なのは、自律性が人間の責任を取り除くという考え方を退けているためだ。機械は決定を実行できるが、その目的、データ、運用条件、許容可能なエラー率を選ぶのは依然として人間である。
第四の責任は、集中に関するものだ。少数の企業が先進的なモデル、計算インフラ、大規模な配信プラットフォームを支配している。彼らの選択は、立法府が何が変わったのかを理解する前に社会へ影響を与え得る。
この集中は、少数のリーダーが業界の慣行を変えられるため、非公開の関与を有用にする。同時に、それらのリーダーが有意義な市民参加なしに許容可能な安全措置を定義するおそれがあるため、非公開の関与を危険にもする。
第五の責任は、子どもと脆弱なユーザーに関するものだ。AIコンパニオンは、注意、共感、親密さをシミュレートできる。有益な支援を提供するかもしれないが、その事業上のインセンティブは、より健全な結果ではなく、より長いエンゲージメントを優先し得る。
英国議会の討論は、この問題を直接取り上げた。議員らは、子どものための安全策、メンタルヘルスに関する助言、説得的なシステム、シミュレートされた関係が人間的なつながりを弱める可能性について議論した。
したがって、人類への訴えは、モデルが明白に有害なプロンプトを拒否するかどうか以上のことを問うべきだ。製品設計が依存を利用していないか、ユーザーがシステムの性質を理解しているか、保護者が実質的な保護を得られるかを問うべきである。
第六の責任は、労働に関するものだ。組織は、AIが評価、採用、勤務スケジュール、職務への期待を変える際には、労働者に知らせるべきである。従業員には、自動化された判断に異議を申し立て、自らの仕事に影響する決定に参加するための経路が必要だ。
AIは反復的な業務を減らし、専門的な分析を支援できる。一方で、雇用主が節約されたすべての時間を新たな能力と見なす場合、業務負荷を強めることもある。生産性の向上が自動的に仕事の質を改善したり、利益を公正に分配したりするわけではない。
第七の責任は、民主的レジリエンスに関するものだ。生成システムは、説得力のある虚偽コンテンツを作成するコストを下げる。プラットフォームと政府には、出所、インシデント対応、公共コミュニケーション、研究アクセスのための手続きが必要である。
これらの責任は、すべての参加者がAIリスクについて単一の理論を共有することを求めない。異なる道徳的・政治的伝統が支持できる、実務的な検証基準を生み出す。
Huangは、インフラ提供者が安全な開発とエネルギー計画をどう支援するかを論じられる。Hassabisは、モデル評価、アクセス、国際基準を扱える。Benantiは、尊厳が危機にさらされるとき、どの効率性がなお受け入れられないのかを定義するようグループに促せる。
その後、閣僚はどの約束に法律が必要かを説明できる。市民社会の代表者は欠けている声を特定できる。研究者は測定可能なリスクと推測を区別できる。
それは「人類」という言葉に、より具体的な意味を与えるだろう。道徳的な訴えを、設計上の選択、企業の責務、公共機関と結び付けることになる。
サミットの意義を示す3つの兆候
チャールズ国王のAIサミットは、招待客の顔ぶれや写真、会場内で使われた言葉ではなく、その後の実行によって評価されるべきだ。
第1の兆候は、議論について検証可能な公開報告が出されることだ。主催者は秘密の発言まで明かす必要はないが、取り上げられたテーマ、参加した団体、今後の検討が必要な領域は公表できる。
有用な報告であれば、参加者がモデルのテスト、子ども、雇用、インフラ、安全保障、民主的な監督について議論したかどうかを明らかにする。また、政府や規制当局に委ねられた論点も特定するはずだ。
報告がなければ、一般の人々は実質的な意見の相違と儀礼的な会合を区別できない。沈黙は率直な発言を守るかもしれないが、この集まりが参加者の枠を超えて社会に貢献したという主張は弱まる。
第2の兆候は、継続的な国際プロセスに向けた前進だ。Hassabisは高度なAIに関するより強固な国際協調を支持しており、Bletchley Declarationは協力の基盤を築いた。
政府と独立した専門家が参加する作業部会、標準化提案、評価パートナーシップ、あるいは予定されたフォローアップに注目すべきだ。こうした仕組みには、責任分担、期限、既存機関との明確な関係が含まれるべきである。
対話を続けるという曖昧な約束だけでは十分ではない。国際的なAIガバナンスにはすでに多くの宣言がある。欠けているのは、一貫したテスト、情報共有、説明責任、そしてシステムが合意済みのしきい値を超えた際に対応する手順だ。
具体的な協調は、王室が主催する場が分断された政策経路をつなげられるという見方を強める。フォローアップがなければ、このサミットは主に非公開外交として機能したことを示唆するだろう。
第3の兆候は、参加者がそれぞれの組織内で行動を起こすことだ。Nvidia、Google DeepMind、閣僚、その他の出席者は、AIシステムの異なる部分を担っている。それぞれが、世界共通の条約を待たずに変化を起こせる。
開発者は、独立した評価やインシデント報告を拡充できる。インフラ提供者は、安全基準を支援し、環境への影響を開示できる。政府は、監督、研究へのアクセス、高リスクな用途に対する保護を強化できる。
こうした行動は観察可能でなければならない。読者は、公表された評価手法、規制当局のアクセス、安全性に関する開示、労働者保護、若年利用者のための安全策に目を向けるべきだ。
企業の発表には依然として慎重さが必要である。政策は厳格に聞こえても、広範な例外を含んでいる場合がある。安全性の枠組みは原則を公表しても、製品が重要なテストに不合格だったかどうかを明らかにしない可能性がある。
したがって、独立した検証が重要になる。研究者、規制当局、影響を受けるコミュニティは、証拠にアクセスできる必要がある。それがなければ、サミットの人間中心という表現は、評判管理に成り下がるおそれがある。
同じ基準は、破局的リスクに関する主張にも当てはまる。劇的な警告は政治的な注目を集めうるが、リーダーたちは前提と提案する介入策を説明しなければならない。政府は、現在生じている害に関する証拠と並行して、そうした主張を検証すべきだ。
チャールズ国王は、このより広範な対話を持続させる助けになり得る。彼の立場は、技術的な野心をスチュワードシップや将来世代に関する問いと結び付けることを可能にする。しかし、議論に決着をつけることはできない。
最も有用な成果は、責任分担をより明確にすることだろう。企業はシステムを構築し、導入する。規制当局は義務を執行する。立法府は権限を定める。研究者は主張を検証する。市民社会は、意思決定者に直接アクセスできない人々を代表する。
君主はこうした集団を一堂に集められるが、仕事は会場が空になってから始まる。
開発者、企業の購入担当者、ナレッジワーカーにとって、目先の教訓は保証の言葉だけを見ないことだ。システムを裏付ける証拠は何か、誰がその判断に異議を唱えられるのか、そして失敗した場合に何が起きるのかを問うべきである。
チャールズ国王のAIサミットが重要なものとなるのは、指導者たちを共通の懸念から説明責任を伴う行動へと移行させられた場合だ。その行動が現れるまでは、これは公共的な成果が未証明の、重要な対話にとどまる。
