Utah州のAIヘルスケア・サンドボックスが拡大、なお遅れる説明責任
Utah州は、責任の所在、連邦政府による監督、独立したエビデンスをめぐる疑問が未解決のまま、AIヘルスケア・サンドボックスを3つの臨床パイロットで拡大した。新たな合意は、ニキビ治療、定期的な処方箋更新、バーチャル理学療法を対象とする。これらにより、人工知能は患者ケアに直接影響する意思決定へと一段と近づく。
Utah州のAIヘルスケア・サンドボックスは、もはや単一の処方サービスを対象とした限定的な実験ではない。複数のヘルスケア企業と2つの大規模医療システムに向けた規制上の経路になりつつある。Utah州は、参加システムの実運用を検証するため、外部評価者6人も起用した。
この拡大が中心的な対立を生んでいる。Utah州は、完璧な規則を待つのではなく、実際の臨床利用から規制当局が学ぶことを目指す。一方、医療専門家は、その学習過程のリスクを患者が負うべきではないと主張する。先行したDoctronicの処方パイロットは、両者の立場が依然として折り合いにくい理由を示した。
Utah州のサンドボックスは患者ケアのより深い領域へ
Utah州は、物議を醸した1つのサービスの検証から、AIが介在するヘルスケアのより広範な経路の構築へと進んでいる。
10月5日、Utah州のOffice of Artificial Intelligence Policyは、August AI、Nolla Health、Expect Fitnessとの合意を発表した。同州はUniversity of Utah HealthおよびIntermountain Healthとも包括的な合意を締結した。
August AIは、慢性疾患の管理に使われる通常の非規制薬について、処方更新を試験する。パイロットは段階的なゲート方式で進められ、システムは運用上の自律性を高める前に、定義された審査段階を通過しなければならない。承認された段階では、医師が処方箋を認可する前に確認する必要がある。
Nolla Healthは、軽度から中等度のニキビに対する視覚的評価と治療経路を試験する。同社のシステムは、初期評価を支援するために患者情報と画像を利用する。専門医による監督プロセスもパイロットの一部として維持される。
Expect Fitnessは、産後の回復、尿失禁、骨盤の健康に関する懸念に向けたAI対応の理学療法経路を試験する。処方システムとは異なり、このパイロットは指導付き運動と継続的な支援を中心とする。臨床上のリスクは異なるものの、不正確な助言や警告サインの見逃しは依然として影響を及ぼしうる。
州の10月の合意は、1年から3年の期間に及ぶ。参加者はAIの利用を開示し、専門の医療過誤保険を維持し、患者が従来有する法的救済手段を保持し、24時間以内のインシデント対応要件に従わなければならない。
University of Utah HealthとIntermountain Healthは、異なる種類の合意を受けた。包括的な取り決めにより、将来のパイロットを提案するための迅速な経路が設けられる。州によれば、各プロジェクトにはなお個別審査が必要だが、制度的な枠組みはすでに整っている。
この違いは重要だ。Utah州は単に5つの独立した製品を承認しているのではない。交渉によって定めたルールの下で、より多くのヘルスケアAIプロジェクトが患者に届くためのインフラを構築している。
規制サンドボックスとは、選定された規則の適用を限定的なテストに対して一時的に調整する、監督下のプログラムである。Utah州は、企業には引き続き他の法的要件が適用されるとしている。また州は、受け入れが推奨や一般的な製品承認を意味するものではないとも述べている。
このモデルは、管理された条件下での観察を重視する。規制当局は安全策を定義し、運用データを収集し、その知見を恒久的な政策の提言に活用する。このアプローチは、利用者行動の変化や患者集団ごとの性能差を含め、ラボ試験では見落とされる問題を明らかにしうる。
しかし、ヘルスケアは影響の小さい試験の場ではない。不正確な買い物の推薦は煩わしいだけで済む。不適切な処方更新、禁忌の見逃し、不適切な運動は身体的な害を招きうる。
だからこそ、3つの新しいパイロットはソフトウェア試験としてのみ評価することはできない。それぞれが、一定の臨床業務を自動化システムに委ねる。重要なのは、その委任が誤った結果を生んだ場合に、誰が責任を負い続けるのかという点だ。
Utah州は、最初の処方実験が批判を招いて以降、安全策を追加してきた。それでも、この拡大は州が責任の枠組みを完成させる前であり、明確な連邦政府の立場も確保されないまま行われている。そのためサンドボックスは、学習の機会と未解決のリスクの両方を拡大している。
先行した処方パイロットがなお論争を規定する
Doctronicをめぐる論争は、抽象的な政策実験を、誰が医療行為を担えるのかという争いへと変えた。
Utah州のサンドボックスが全米的な注目を集め始めたのは、州がDoctronicによる定期的な処方更新の取り扱いを認めた後だった。患者は本人確認を行い、医療情報を提供し、AI主導のプロセスを通じて処方更新を求めることができた。
このシステムは、薬局データを通じて処方履歴を確認し、適格なケースを更新手続きへ回すことができた。複雑な事情を示す申請は臨床医へ移管できる。初期段階では医師が注文を確認し、同社は後に自動化の度合いを高めることを見込んでいた。
当初の対象リストには190種類の医薬品が含まれていた。批判者は、処方と処方の間に患者の健康状態が変わりうるため、「定期的な」更新という表現は安全ではないと主張した。以前は適切だった薬剤でも、新たな診断、相互作用、症状の変化によって危険になりうる。
Utah Medical Licensing Boardは、このパイロットを報道を通じて知ったと述べた。その後、委員11人は、実施前に医療専門家が提案を審査すべきだったとして、即時停止を求めた。
委員長のDr. Alan Smithは、フォローアップ診療時に明らかになる可能性のある臨床情報を指摘した。処方更新を求める患者が、その薬剤のリスクを変える疾患を発症している可能性がある。自動化システムはその変化を検出するか、確実にケースを移管しなければならない。
この対立は具体的な見直しを余儀なくした。州当局によると、精査を受けてUtah州は対象リストからButalbitalとFlecainideを除外した。Flecainideは一部の不整脈の治療に用いられ、Butalbitalは一部の頭痛薬に含まれる。
州のAI政策ディレクターであるZach Boydは、この反応を端的にこう表現した。「We hit a nerve.」この発言は、専門職の抵抗以上のものを捉えていた。このパイロットは、臨床医を支援する領域と、歴史的に免許を持つ処方者に留保されてきた業務を担う領域との境界を越えた。
医療委員会はその後、州規制当局と毎週会合を開くワーキンググループを設置した。Boydは、関係の改善は6か月にわたる協議とプログラムの更新の後に実現したと述べた。これは制度的な適応を示す証拠だが、重要な臨床上の協議が開始後に行われたことも示している。
処方をめぐる論争は、相反する解釈を生んでいる。支持者は、定期的な更新を、遅延を減らしアクセスを改善できる制約付きのユースケースとみなす。批判者は、エビデンスと説明責任が追いつく前に、処方権限がソフトウェアへ移りつつあるとみる。
Doctronicは以前、同社の推奨が99％超のケースで人間の処方判断と一致したと述べた。この数値は企業データに基づくもので、査読は受けていなかった。
別の企業執筆の研究では、500件の遠隔医療診療記録を調査した。報告された診断は80％の確率で人間の医師の診断と一致した。拡大パイロットが発表された時点で利用可能だった報道によれば、この研究も独立した査読を欠いていた。
これらの数値を同一のものとして扱うことはできない。選択された処方更新の判断における一致は、より幅広い臨床場面での診断性能とは異なる。いずれの数値も、それだけで継続的な運用における安全性を確立するものではない。
この論争は、時間とともに変化する製品を試験する難しさも浮き彫りにした。モデルの更新、新たな患者群、異なる医薬品、変更されたワークフロールールはいずれも性能に影響しうる。あるバージョンで良好な結果が得られても、次のバージョンが自動的に有効と証明されるわけではない。
新たなパイロットは、この経緯を引き継ぐ。Utah州は現在、より多くの臨床参加と外部評価を求めているが、根底にある戦略は変わっていない。州は、導入前には存在しなかったエビデンスを生み出すため、範囲を限定した導入を認めている。
この順序は、医療委員会、病院、連邦機関に圧力をかける。彼らがプロセスの外にとどまれば、州当局とベンダーが運用ルールを定義する。参加すれば、時期尚早と考えるかもしれない実験の正当性を支えることになる。
Utah州のAIヘルスケア・サンドボックスは速度と未解決の説明責任を交換する
サンドボックスは監督下での試験を加速できるが、患者への害について誰が答えるのかという問いを交渉で消し去ることはできない。
Utah州のモデルは、合意された制限、開示、監視、データ提供と引き換えに、参加企業へ規制上の柔軟性を与える。この交換は、規制当局が調整対象のルールを明確に定義できる場合に最も機能する。
責任はこの枠組みにきれいには収まらない。Utah州当局は、AIオフィスにはサンドボックス合意を通じて責任法を改める権限がないと結論づけている。患者が害を受けた場合、誰またはどの組織が責任を問われるかは、引き続き既存法が判断する。
当面の安全策には、専門の賠償責任保険と、患者に法的請求の放棄を求めることの禁止が含まれる。こうした措置は補償への経路を維持する。しかし、責任がベンダー、医師、医療システム、あるいは別の参加者のいずれに帰属するのかは解決しない。
Boydは、デフォルトの取り決めでは医師に過度な責任が課される可能性があると警告している。その結果は基本的な不一致を生む。医師は、自ら設計、学習、十分な検証を行っていないシステムが生んだ判断についても、法的責任にさらされ続ける可能性がある。
人間による承認を求めても、この問題が自動的に解決するわけではない。臨床医が大量の案件、不完全な説明、自動推奨を受け入れる強い誘因に直面する場合、人間の審査は形式的なものになりうる。審査者が実際に誤りを特定できるかどうかは、承認ボタンの存在より重要だ。
逆の取り決めにも問題がある。ベンダーにすべての自動出力の直接責任を負わせれば、有益な実験が抑制される可能性がある。また、病院がシステムを設定し、不完全なデータを提供し、あるいはエスカレーション警告を無視した場合には、責任の所在を曖昧にする可能性もある。
Utah州は、この分担への対応を始めることを目的とした法案を準備している。Boydは、州当局が州議会の中間会期中に責任法案を提出したいと考えていたと述べた。同氏はこの取り組みを、最終的な解決策ではなく、複数年にわたるプロセスの始まりと表現した。
この時間軸はトレードオフを明らかにする。臨床パイロットは現在運用されている一方、持続的な説明責任の構造はなお策定中だ。保険は一時的な橋渡しとなるが、Utah州の規制当局自身が、その橋が持続可能かどうかに疑問を示している。
自動化が進むほど、この問題は難しくなる。August AIの現在のパイロットでは、処方が認可される前に医師の確認が必要となる。Nolla Healthには専門医の監督が含まれる。初期のエビデンスが好ましいように見えれば、将来の段階では人間の関与が減る可能性がある。
監督が一段階緩和されるたびに、統制の配分は変化する。したがって、単なる技術性能の確認ではなく、あらためて責任分析を行うべきである。
この点で、「human-guided」という言葉にも厳密さが求められる。人はシステム設計を導くことも、選定された事例を承認することも、集計結果を監視することも、事故後に介入することもできる。これらの役割がもたらす保護の度合いはそれぞれ異なる。
州は、すべてのパイロット事業が厳格な監督下に置かれるとしている。しかし監督は単一の安全策ではない。意思決定ログへのアクセス、臨床レビューの権限、インシデントの検知、執行権限、導入を停止する能力から成り立つ。
患者はまた、重要な判断をどの主体が下したのかを知る必要がある。一般的なAI利用の開示では、医師がその推奨を確認したのか、あるいは関連する診療記録をどの組織が保有しているのかは分からない。
説明責任の問題はユタ州にとどまらない。ベンダーは、多くの州で運用できる製品を望んでいる。医療行為に関する法律、専門職の免許要件、責任基準は管轄区域ごとに異なる。
Boydは、1度の審査で広範に導入でき、管轄区域間で監督を分担できるシステムの魅力を説明している。このようなモデルは、重複する審査を減らし、より一貫した期待値を生み出すだろう。
しかし、成功する全国モデルには、州、連邦規制当局、臨床医、裁判所に受け入れられる権威が必要となる。ユタ州はガバナンスのプロセスを検証できるが、その権威を単独で生み出すことはできない。
そのため州の実験は、自動化が日常化する前に責任を定義するよう立法者に迫っている。また、技術的正確性に関する主張を超える義務を受け入れるよう、ベンダーにも迫っている。
企業の導入担当者にとって、この教訓は医療の範囲を超える。重大な業務フローにAIを導入するあらゆる組織には、証拠、判断、エスカレーション規則の追跡可能な記録が必要である。構造化されたナレッジワークフローは、チームが方針とソース資料を結び付ける助けとなるが、文書化は臨床上の説明責任に取って代わるものではない。
独立評価がユタ州の賭けの中核
ユタ州の信頼性は現在、独立評価者が規制当局と臨床医が検証できるタイムリーな証拠を示せるかどうかにかかっている。
州は、サンドボックス参加者を評価するために6組織を採用した。Coalition for Health AI、Clarion AI Partners、Glacis Technologies、mpathic AI、Vega Health、Stanford Clinical Excellence Research Centerである。
その責務には、技術的主張の検証、意思決定報告の監査、医療基準に照らした臨床パフォーマンスの評価が含まれる。ユタ州当局によれば、今後の医療パイロット事業は独立評価者と契約しなければならない。
この要件は、ベンダーが報告する結果への批判に直接応えるものだ。企業には好ましい結果を強調する商業的動機がある。外部評価者は研究設計に異議を唱え、失敗を精査し、製品上の主張と再現可能な証拠を区別できる。
ユタ州の暫定的なエビデンス基準は、3つの仮説を中心に評価を組み立てている。参加者は、AI支援医療が従来の医療に劣らないことを示し、身体的・心理的な害を追跡し、公衆衛生上の便益の可能性を測定すべきとされる。
非劣性は、適切に適用するなら厳しい概念である。検証対象の経路と従来医療との事前に定義された比較、および許容可能な差の範囲が求められる。利用者が満足しているように見えたという曖昧な記述では、この基準を満たさない。
安全性要件にも、苦情件数以上のものが必要だ。一部の患者は、後に起きた健康問題を自動化された推奨と結び付けないかもしれない。また、症状を企業や州ではなく医師に報告する患者もいる。
公衆衛生上の便益も同様に複雑である。特に臨床医が不足する地域では、アクセスの迅速化が医療を改善しうる。しかし利便性の指標は臨床的な質を立証しない。診察中であれば明らかになったはずの変化を見逃しながら、システムが要求を迅速に処理することはあり得る。
ユタ州は、パイロット事業ごとの評価計画を想定している。Vega Healthの最高経営責任者兼共同創業者であるMark SendakはNextgov/FCWに対し、関連データはアプリケーション、対象集団、結果、システム仕様によって異なると述べた。
にきび評価、処方薬の更新、骨盤の健康に関する療法ではリスクが異なるため、この柔軟性には合理性がある。単一のベンチマークでは、そうした違いが隠れてしまう。
一方で、柔軟性は比較可能性を低下させる可能性もある。すべての企業と評価者が異なる指標を選べば、どのパイロット事業が良好な成果を上げたのかを公衆は判断しにくくなる。ユタ州は、好意的な結論に意味を持たせるのに十分な方法論の詳細を公表しなければならない。
継続的な評価も不可欠な要素である。臨床AIシステムは、モデル、インターフェース、患者集団、運用規則が変化すればドリフトする可能性がある。Sendakは、評価者が評価を繰り返し、更新情報を州に提供すると見込んでいる。
この期待は、一度きりの認証より強い。システムの安全性プロファイルは、特定のバージョンと運用環境に属することを認識している。大幅な変更後には、検証済みの製品が未検証となる可能性がある。
それでも、実務上の疑問はいくつか残る。公衆は、評価者への支払いを誰が行うのか、利益相反をどのように開示するのか、評価者がどのデータにアクセスできるのか、企業が公表を制限できるのかを知る必要がある。
読者には、評価者の役割と規制執行の明確な区別も必要だ。監査者は問題を特定できる。しかし、結果を課し、利用を制限し、パイロット事業を停止できるのは、権限を持つ規制当局または参加する医療システムだけである。
ユタ州は、パイロット事業のデータを立法者と公衆に共有すると約束している。この約束の価値は、時期と詳細に左右される。導入から長期間を経て公開される集計要約では、有意義な外部監視を支えられない。
Boydは、州の期待事項文書について語る中で不確実性を認めた。「半分」はおそらく誤りだったとしつつも、利用可能な枠組みの中では最も成熟したものの一つだと述べた。
この発言は、サンドボックスの前提を明らかにするため有用である。ユタ州は、確定した基準を有しているとは主張していない。この枠組みを、導入データによって改訂される生きた仮説として扱っている。
この率直さはリスクを解消しない。むしろ、安全策が変わる際の透明なバージョン履歴、インシデント報告、公的な説明の重要性を高める。
したがって、評価者ネットワークこそがユタ州の規制上の賭けの中心である。信頼でき、比較可能な証拠を生み出せれば、サンドボックスはより良い政策形成に資する。単にベンダー主導の研究に外部組織の名前を加えるだけなら、この拡大は同じエビデンス不足をより大規模に再現することになる。
責任と連邦の監督は未解決のまま
州による監督だけでは、FDAの役割を解決することも、臨床AIの全国基準を確立することもできない。
米国の医療規制では、連邦機関と州機関に権限が分かれている。州は医療行為を規制し、専門職に免許を与える。Food and Drug Administrationは、該当するソフトウェア機能を含む多くの医療製品を監督する。
ソフトウェアが管理業務の支援にとどまらなくなると、その境界は不明確になる。症状を評価し、治療を推奨し、処方に影響を与えるシステムは、医療機器ソフトウェアに似る可能性がある。同時に、伝統的に州が規制してきた医療行為にも似ている。
Doctronicの経営陣は、自社システムを州規制下の医療行為の一部として扱ってきた。これまでの報道によれば、同社はFDA承認を求めたかどうかを公表していない。
以前の処方プログラムについて質問を受けた際、FDAはAIチャットボットを一切承認していないと述べた。同機関はまた、安全性を判断の中心に据えながら医療イノベーションを支援するとした。
この声明は、ユタ州のシステムに市販前審査が必要かどうかを判断するものではなかった。新たなパイロット事業が発表された時点で、連邦機関はユタ州の実験に公然と介入していなかった。
この沈黙は重要である。管轄権の問題が解決する前に、サンドボックスが運用上の前例を生み出す可能性があるからだ。ほかの州も独自のアプローチを検討しており、テキサス州とワイオミング州も一部のAI活動に免除措置を用いている。
複数の州の立法者は、AI医療サービスを正式に免許制とする法案を検討してきた。この動きは、類似したシステムが異なるエビデンス、開示、監督要件に直面するパッチワークを生むリスクがある。
州ごとの道筋は、企業に限定的なサービスを試す余地を与える。一方で、ベンダーがより迅速な承認や軽い要件を持つ管轄区域を選べる場合、規制の買い物を促す可能性もある。
連邦の関与は、一貫した技術的期待をもたらしうる。しかし中央集権的な市販前審査は進行が遅く、頻繁に更新されるモデルへの対応に苦慮する可能性がある。ユタ州の継続的監視アプローチは、この制約への対処を試みている。
最も強力な枠組みには、おそらく両方の層が必要となる。連邦当局は製品レベルの要件を定義し、州は専門職の実務と地域での導入に対する統制を維持できる。共有データ基準は、一つのパイロット事業を普遍的な証明として扱わずに、重複作業を減らせる。
この構造が存在しない限り、病院と臨床医は不確実性に直面する。州との合意は試験を認めるかもしれないが、連邦法令への適合を保証するものではない。また、組織を医療過誤請求や評判上の損害から守るものでもない。
Utah Medical Licensing Boardによる以前の異議は、別のガバナンス上のリスクを示している。技術部門が専門職規則に関する救済措置を交渉すると、当該分野の規制当局が影響力を失う可能性がある。
同委員会の毎週の作業部会は改善である。今後のパイロット事業では、合意が運用段階に入る前に、関連する臨床当局を関与させるべきだ。公的な論争の後で協議しても、不足していた専門性を見つけるには高くつく方法である。
セキュリティテストも、未解決の層をもう一つ加える。研究者らは以前、Doctronicの公開チャットボットを操作して有害な応答を生成させたと報告した。このテストはユタ州のパイロット事業で使われた保護済みシステムを対象にしていなかったため、臨床導入に同じ脆弱性があったことを立証するものではない。
しかし、この事例は環境固有のレッドチーミングが重要である理由を示した。公開デモと保護された臨床システムは、異なる統制を用いながらモデルの構成要素を共有している可能性がある。規制当局は、どちらかのバージョンから安全性を推測するのではなく、導入された構成をテストしなければならない。
医療委員会の争いはまた、処方薬の更新が単純な事務手続きであるという考えに異議を唱えた。患者の状況が変化している場合、リフィルには新たな臨床判断が必要になりうる。
この懸念は、新たなパイロット事業にも異なる形で当てはまる。にきび画像では根本的な疾患を捉えられないかもしれない。理学療法システムは、対面評価を必要とする症状を認識できないかもしれない。更新ツールには、別の医療提供者による最新の記録が欠けている可能性がある。
したがって、エスカレーションの性能は、自動化された精度と同じほど重視されるべきである。不確実な事例を移管する慎重なシステムは患者を保護できるが、移管が過度になれば、主張するアクセス上の利点が失われる可能性がある。
ユタ州の枠組みは、承認するパイロット事業の数ではなく、こうした緊張関係をどう扱うかによって評価される。中心的な尺度は、患者が限界に直面する前に、システムがその限界を特定できるかどうかである。
モデルが機能するかを示す3つのシグナル
次の試練は、さらなる発表ではない。ユタ州が証拠を公表し、責任を明確化し、安全策が失敗した際に行動するかどうかである。
最初のシグナルは、提案されている責任法案である。ユタ州当局は、自動化システムに関する責任を扱う複数年の立法作業を開始すると見込んでいた。
最初の法案では、議員がベンダーに直接責任を負わせる意図があるのか、臨床医の責任を維持するのか、あるいは運用上の統制に応じて責任を配分するのかを明確にすべきだ。曖昧な文言では、サンドボックスは一時的な保険要件に依存したままとなる。
信頼に足る提案は、パイロットの段階間で生じる変更にも対応すべきである。責任は権限に従うべきだ。ベンダーのシステムが医師によるレビューをより少なくして動作するなら、ベンダーの義務もそれに応じて増える必要がある。
2つ目のシグナルは、評価機関による報告書の質である。6つの外部組織には、意思決定ログ、インシデントデータ、システムのバージョン、関連する臨床アウトカムへのアクセスが必要だ。公開される成果物では、手法、比較対象群、限界、利益相反を説明すべきである。
Utahの報告された枠組みは、モデルや患者集団が変化するたびに繰り返し評価を行うことを求めている。最初に公開される評価結果は、この約束が実務的な透明性につながるかを示すことになる。
大まかな安全性の結論しか示さない報告書では、Utahの主張は弱まる。失敗の分類を明確にした詳細なバージョン管理付きの結果であれば、問題が明らかになったとしても、その主張を強化するだろう。
3つ目のシグナルは、新たな証拠を受けてパイロットの段階がどのように変化するかだ。August AIは現在、処方を承認する前に医師によるレビューを必須としている。Nolla Healthは専門医の監督を採用しており、Expect Fitnessは定義された理学療法の経路内で運用されている。
監督を減らす場合、Utahはその変更を正当化した証拠を説明すべきだ。また、エスカレーション率、重大インシデント、サービスや医薬品を対象範囲から除外した理由も公開すべきである。
DoctronicのリストからButalbitalとFlecainideを削除した以前の決定は、有用な先例となる。これは、精査が進行中のプログラムを変更し得ることを示した。同じ規律は、拡大されたポートフォリオ全体に適用されなければならない。
医療システムは、これらのシグナルを注意深く見守るべきだ。University of Utah HealthとIntermountain Healthには現在、今後の提案に向けた迅速な手続きが用意されている。両機関の評判はサンドボックスの影響範囲を広げる一方、審査が弱い場合の代償も大きくする。
開発者も同じ証拠を注視すべきである。Utahは、臨床AIベンダーに必要となるログ、開示、安全対策、評価プロセスを定義し始めている。こうした要件は、国家標準が成立するはるか前から製品アーキテクチャに影響を与え得る。
エンタープライズの購入者は、見出しを飾る精度の主張よりもガバナンスに注目すべきだ。システムが不確実な入力、不完全な記録、対象集団の変化、モデル更新、人間へのエスカレーションをどう扱うのかを把握する必要がある。
患者には、より単純な問いに対する理解しやすい回答が提供されるべきだ。AIは関与したのか。臨床医は結果をレビューしたのか。システムはどの情報を使用したのか。問題が起きた場合、誰に連絡すべきなのか。
UtahのAI医療サンドボックスが注目に値するのは、政策上の議論を運用システムへと変換しているからだ。そのパイロットは、理論的な論争では生み出せない証拠を作り出す。同時に、当局自身が未完成であると公然と認めるルールの下で下された決定に、患者をさらすことにもなる。
だからといって、この実験が本質的に無謀であるとも、責任あるものであるとも言えない。結果は、証拠が期待と矛盾した際に監督体制がどれほど迅速に対応するかに左右される。
今後数か月間は、サンドボックスに参加する企業数を気にする必要はない。注目すべきは、責任に関する法案、最初の評価機関の報告書、そして人間によるレビューのあらゆる変更である。これらのシグナルは、Utahが説明責任を伴う臨床試験を構築しているのか、それとも単に展開を加速しているだけなのかを明らかにするだろう。
