Flock Safety上院公聴会が露呈した監視の説明責任の空白
Flock Safetyは9月23日、同社の全米規模のカメラネットワークを調査する上院議員らの公聴会に、CEOのGarrett Langleyが出席を辞退したにもかかわらず、超党派から厳しい追及を受けた。Flock Safetyの上院公聴会は、プライバシーをめぐる論争をワシントンからの直接的な問題提起へと変えた。
上院司法委員会の犯罪・テロ対策小委員会は、一般にALPRと呼ばれる自動ナンバープレート読取装置を検討した。これらのカメラは通行する車両を撮影し、ナンバープレート番号や車両のその他の詳細を検索可能な記録へと変換する。
Flockは、この情報が警察による盗難車両、行方不明者、犯罪容疑者の発見に役立つと説明している。だが批判派は、より大きな問題を見ている。すなわち、令状なしに一般の運転者を管轄区域をまたいで追跡できる、民間運営の位置情報ネットワークだ。
この対立はもはや党派によって明確に分かれてはいない。共和党の小委員長Josh Hawleyと民主党のDick Durbin上院議員はいずれも、より強い保護を求めた。両者の一致により、議論は「不正利用が存在するか」から「誰がそれを防ぐ責任を負うべきか」へと移った。
Flock Safety上院公聴会で何が変わったのか
Flockは技術ベンダーとして公聴会に臨んだが、終わる頃には国家規模の監視インフラの運営者のように映っていた。
Hawleyは「Always Watching: Flock’s Nationwide AI Surveillance Network」という題で公聴会を招集した。この枠組みは重要だった。各カメラを単なる地方警察のツールとみなす考えを退けたからだ。
Flockは、数千の顧客が配備したカメラをソフトウェアで接続し、参加機関の間で車両記録を検索可能にしている。そのため、地域での設置が、はるかに広範な捜査システムに寄与する可能性がある。
9月23日の会合は、Hawleyが8月に始めた調査に続くものだった。彼はFlockに対し、車両データの収集、保持、利用、配布に関する文書の提出を求めた。
その後Hawleyは、LangleyとAxon、Motorola Solutions、Verkadaの首脳に証言を要請した。公聴会に関する報道によると、4人全員が辞退した。
この不在は即座に対照を生んだ。上院議員らはシステムの影響を受けた人々や政策の専門家から話を聞いたが、システムを構築した責任を負う経営者からは聞かなかった。
Hawleyは以前から、この市場における突出した企業としてFlockを挙げていた。彼の公聴会への招請状によれば、同社は米国全土で12万台のAI搭載カメラを運用していた。
Flockは証人席からその位置づけに異議を唱える機会を得なかった。その不在により、批判派がネットワーク、その危険性、必要な対応を定義する余地が生まれた。
公聴会でHawleyは、数十億枚の画像を含む検索可能なコレクションがプライバシーと無罪推定を脅かすと主張した。Durbinは、現在のシステムが料金徴収に使われる従来のナンバープレート読取装置とどう異なるかを強調した。
この違いは重要だ。料金所のカメラは、限定された目的のため、既知の支払い地点で車両を記録する。接続されたALPRネットワークは、多数の場所と機関にまたがる検索を可能にする。
上院議員らは、基本的な法的な不一致にも直面した。警察は公道で行われた観察を収集できるが、集約された移動履歴は一度の路上での目撃よりはるかに多くを明らかにする。
検索によって別々の出現記録を結び付け、行動パターンを再構成できる。それは、誰かがどこで働き、礼拝し、医療を受け、夜を過ごしているかを示し得る。
公聴会は新たな連邦法を生み出さなかった。しかし、企業による自主的な規則では、もはや両党の議員を満足させられないことを示した。
それが中心的な変化である。Flockはいまや、市議会で散発的に起こる反対だけでなく、連邦レベルの説明責任をめぐる議論に直面している。
なぜFlockがワシントンの主要な標的になったのか
Flockの規模は、ミス、緩い設定、弱い監督を、単一の警察機関をはるかに超えて広がり得るリスクへと変える。
ALPR技術はFlock以前から存在し、複数の企業がカメラや車両情報サービスを販売している。しかし、急速に拡大するFlockの顧客ネットワークは、同社をこの分野の最も明確な象徴にした。
同社のシステムは、車両のナンバープレート、位置、時刻を取得する。カメラは色、種類、特徴的な外観といった属性も記録できる。
これらの記録は、警察に正当な捜査対象がある場合に有用になる。警察官は盗難車両を検索したり、重大犯罪に関連する車両を捜査したりできる。
同じ構造は別の可能性も生む。権限を持つ利用者が不適切な目的で人物の移動を検索したり、直接アクセス権を持たない機関を支援したりできる。
このリスクは、警察機関がデータを共有する場合に増大する。ある都市が厳格な地域規則を設けても、接続先の別の機関が異なる方針や法律の下で運用している可能性がある。
連邦移民当局によるアクセスは、この懸念を先鋭化させた。Associated Pressの調査によると、Border Patrolはかつて22州にまたがる少なくとも1,600台のFlock読取装置にアクセスしていた。
Border Patrolに関する調査は、連邦当局のために地域機関が検索を実施していたことも記した。これらの検索の一部は、移民関連のデータ共有を制限する州で行われた。
FlockはAPに対し、Customs and Border ProtectionおよびHomeland Security Investigationsとのパイロットプログラムを停止したと説明した。同社は、関係したデータの量や正確な範囲を明らかにしなかった。
カリフォルニア州も別の警告を発した。同州法は、公的機関がALPR情報を連邦当局や州外の当局と共有することを制限している。
それにもかかわらず、サンフランシスコ警察の監査では、外部組織による数百件の不適切な照会が見つかった。影響を受けた仕組みには、プラットフォームへ侵入した未知の攻撃者ではなく、認可された組織と分析担当者が関わっていた。
この違いは懸念を解消しない。従来型のサイバーセキュリティ侵害がなくても、アクセスが違法な結果を生み得ることを示している。
Flockは、この事案はソフトウェア障害や不正アクセスによるものではないと主張した。同社によると、認可された利用者が行った検索が、後にカリフォルニア州の要件と一致しないと判断された。
サンフランシスコの監査は、説明責任の空白を示した。各組織は自らの役割を限定的だと説明できる一方で、運転者は本来起きるべきではなかった検索にさらされていた。
Flockはその後、カリフォルニア州向けの追加制限を発表した。同州では連邦機関は照会ネットワークに参加できず、各機関は州外との共有を開始も受諾もできない。
同社はさらに、移民やリプロダクティブ・ヘルスケアに関係するカリフォルニア州内の検索は自動的に遮断されるとしている。すべての検索では標準化された犯罪カテゴリーを使用し、共有設定の変更は恒久的に記録される。
こうしたカリフォルニア州のガードレールは、技術的な制限が可能であることを示す。同時に、より強力な管理策が公の発見に先立ってではなく、その後に導入されたのはなぜかという不都合な問いも投げかける。
Flockは、以前のログ機能の限界により、一部の共有事案の原因を特定できないことを認めた。この認識は、監査記録だけで過去のすべての紛争を解決できるという主張を弱める。
同社の対応は、より大きな中央集権的責任へと移行している。Flockはかつて、顧客が自らのデータと法令順守を管理すると強調していた。
現在では、技術提供者がより積極的な役割を果たす必要があるとしている。この転換は、公聴会を通じてワシントンが加えた圧力を反映している。
Flock Safety上院公聴会が露呈した管理の問題
Flockの本質的なトレードオフは、公共安全とプライバシーだけの対立ではない。ネットワークの有用性と強制可能な管理の対立である。
警察官が管轄境界を越えて検索できるとき、広範なネットワークは警察にとってより価値が高くなる。容疑車両は市境に達したからといって止まるわけではない。
各部署を自らのカメラだけに制限すれば、システムの到達範囲は狭まる。しかしアクセスを拡大すれば、各記録に影響を及ぼす利用者、方針、法制度の数が増える。
Flockの顧客管理モデルは、この緊張を解消しようとするものだ。地域機関が収集、保持、共有の内容を決定し、同社はアクセス設定と監査ツールを提供する。
この構造が機能するのは、顧客が自らの設定を理解し、利用者を監督する場合に限られる。また、接続されたすべての組織が、他機関のデータに付随する制約に従うことにも依存する。
カリフォルニア州での事案は、その前提の弱さを示した。ある機関は、相手を認可しても、その相手が夜間の検索をどう運用するか、あるいは外部からの要請にどう対応するかまでは予測できない。
全国ネットワークはさらに別の問題を加える。ある部署内では技術的に有効な検索であっても、別の場所で収集された記録に対しては違法となる可能性がある。
企業が強制する規則は、こうした衝突を減らせる。標準化された犯罪コード、連邦機関との共有切り替え、遮断語句、変更不可能な設定ログはいずれも、摩擦と可視性を加える。
しかし、製品上の管理はあくまで民間によるガバナンスだ。Flockはそれを変更でき、顧客は一部を設定でき、議員が各変更を自動的に検証するわけでもない。
だからこそ、Durbinのバランスを求める呼びかけは、一般的なプライバシー声明よりも重みを持った。彼は、境界線の設定をベンダーや警察機関に委ねるのではなく、議会が主導しなければならないと主張した。
Hawleyは異なる政治的立場からこの問題に取り組んだ。彼は、監視企業が構築したネットワークを議会がこれまでに認可したことがあるのかを問いかけた。
両者の懸念は同じ地点で交わる。民間プラットフォームが今や、公的な移動の詳細な記録に対する政府のアクセスを仲介している。
データが重要であるために、同社がすべての運転者を氏名で特定する必要はない。警察はナンバープレートを登録記録や他の捜査データベースと結び付けられる。
また、ネットワークは全米を完全に網羅する必要もない。戦略的に配置された道路での繰り返しの観測は、有意義な移動パターンを明らかにし得る。
このため、保持規則は特に重要になる。一度の観測は車両が一台のカメラを通過したことを示すだけだが、数か月にわたる観測は日常的な行動を描写できる。
公聴会の政策専門家らは、競合する対応策を提示した。American Civil Liberties UnionはALPR監視の廃止を主張し、より限定的な保護策では不十分だとした。
ACLUの上級政策顧問Chad Marlowは、こうしたシステムが移民取締りや他の形態の追跡を支援し得ると警告した。彼の書面証言は、議員にこの技術を禁止するよう求めた。
Institute for JusticeのAlasdair Whitneyは、より絶対的ではないモデルを提示した。彼は過去の位置情報検索に令状を求め、リアルタイムアクセスを制限し、保持期間を定め、共有規則を厳格化することを支持した。
Whitneyは、こうした保護策があっても、盗難車両や行方不明児童に関する緊急の検索は可能だと述べた。彼は過去のデータに対する令状要件を、最低限の保護策と位置づけた。
この見解の相違は、立法上の選択肢を明確にする。議会は特定の利用を禁止し、司法の許可を求め、保持を制限し、共有を制約し、あるいはこれらのアプローチを組み合わせることができる。
Flockは、合法的な捜査を維持できる強制力のあるルールを望む可能性が高い。全面禁止は、顧客のワークフローを変えるだけでなく、同社の中核製品そのものに異議を唱えることになる。
同社が導入した最新の安全策は、規制が実現可能であることの証拠になり得る。一方で、度重なる失敗の末にようやく自主的な措置が導入された証拠にもなり得る。
不当逮捕がリスクを身近なものにした
最も重い証言は、抽象的なデータ収集についてではなかった。捜査当局が一致しない車両画像に依拠した結果、収監された女性に関するものだった。
リンジー・アイザックス氏は上院議員らに対し、フロリダ州で起きた死亡ひき逃げ事件の捜査で当局から不当に疑われたと語った。彼女の車両を捉えたFlockの画像が、彼女に対する捜査の一因となった。
公聴会の報道によれば、撮影された車両は事故現場から遠く離れた場所にあった。それにもかかわらず、捜査当局はこの画像を重要な手掛かりとして扱った。
アイザックス氏は釈放までに13日間、拘置された。彼女の経験は、カメラによる一致判定が本来以上の権威を持った場合に何が起こり得るかを、上院議員らに具体的に示した。
ALPRによる観測は、登録所有者が運転していたことの証明ではない。また、見た目が似た車両が同一であることの証明でもない。
このシステムは、ある場所と時刻における車両を記録する。捜査当局は依然としてナンバープレートを検証し、他の証拠を精査し、矛盾する事実を排除しなければならない。
誤りは複数の経路から入り込む可能性がある。ナンバープレートの読み取りを誤る場合もあれば、車両の特徴が多数の車に当てはまる場合もあり、警察官が部分的な画像を過大評価することもある。
この技術の役割についても、慎重な整理が必要だ。Flockがアイザックス氏を逮捕したわけではなく、カメラ記録だけで最終的な法的判断が下されたわけでもない。
証拠を評価する責任は警察と検察に残っていた。その人的責任があるからといって、プラットフォームが無関係になるわけではない。
検索ツールは、どの手掛かりが最初に現れるか、捜査当局がそれをどのように理解するかを形作る。高順位に表示された、あるいは一見正確に見える一致は、特にプレッシャー下で確証バイアスを生み得る。
したがってアイザックス氏の事例は、よくある弁明の核心を突く。警察官が最終判断を下したと言うだけでは、システムが信頼できない推論を促したかどうかという問いには答えられない。
上院公聴会でアイザックス氏は、企業幹部ではなくプライバシー擁護団体の代表者らとともに出席した。この光景は、上院議員らが浮き彫りにしようとした不均衡を強調した。
この事例は、問題を監視だけにとどまらないものへと広げている。プライバシーの論点は、政府が移動データを保有し検索すべきかどうかである。
正確性の論点は、検索結果が正しい車両を示しているかどうかだ。適正手続きの論点は、その結果に基づいて行動する前に、捜査当局が何を確認しなければならないかを問う。
これらの問いには、それぞれ異なる安全策が必要となる。アクセス制御では画像の不一致を修正できず、画像認識を改善しても不適切な検索を防ぐことはできない。
警察機関には、各段階に対応する方針が必要だ。誰が検索できるのか、どの事件が検索を正当化するのか、記録をどれだけ保持するのか、警察官が結果をどう検証するのかを規定しなければならない。
監査ログは、誰が何のために検索したかを明らかにできる。しかし、記載された理由が正直だったか、捜査当局が結果を正しく解釈したかを独立して証明することはできない。
標準化されたカテゴリーはレビューを改善するが、形式的なチェック作業になり得る。利用者は、検索の事実的根拠を記録せずに、認められた犯罪類型を選択できる。
事件番号は、説明責任をさらに補強する。その価値は、管理者が参照された事件が実在し、その検索を裏付けているかを確認するかどうかに左右される。
Flockの公式回答は、より強力な技術的制御を強調している。上院議員らは、こうした制御が不正な共有と同じくらい直接的に誤認を扱っているのかを問う可能性が高い。
AIベースの車両検索が拡大するにつれ、その問いはさらに緊急性を増す。色、車体タイプ、損傷、付属品、移動パターンによる検索では、既知のナンバープレートがなくても候補車両を返すことができる。
こうしたツールは、目撃者が不完全な情報しか提供できない場合に役立つ可能性がある。一方で、無実の車両をより広い候補群として提示する可能性もある。
警察は、こうした結果を結論ではなく手掛かりとして扱わなければならない。アイザックス氏の証言は、その区別が崩れたときに何が起こるかを示した。
Flockの競合他社も同じ問いを避けられない
注目の大半はFlockに集まったが、この公聴会はネットワーク化された監視市場全体に警告を発した。
ホーリー議員は、ラングリー氏とともにAxonのCEOであるリック・スミス氏、Motorola SolutionsのCEOであるグレッグ・ブラウン氏、VerkadaのCEOであるフィリップ・カリシュザン氏を招致した。いずれも出席しなかった。
これらの企業が運用するシステムは同一ではない。製品、ネットワーク構造、顧客、共有機能はいずれも異なる。
Verkadaは広報担当者を通じて、重要な違いを強調した。同社によれば、全国規模のVerkadaネットワークは存在しないため、顧客がアクセスできるのは自社システム内に保持された情報だけだという。
この回答は、ネットワークアーキテクチャが重要である理由を示している。ローカルに限定されたカメラシステムは、検索可能な複数機関横断データベースとは異なる共有リスクをもたらす。
ただし、すべての懸念がなくなるわけではない。ローカルシステムであっても、不当な監視、過度な保持、脆弱な内部アクセス制御を支え得る。
Motorola Solutionsは長年にわたり公共安全技術に関与してきた一方、Axonはボディカメラと電気ショック装置で最もよく知られている。両社は現在、接続型ソフトウェアやデータサービスの販売を拡大している。
そのため公聴会の対象は、道路脇のカメラにとどまらなかった。議員らは、民間ベンダーが政府生成記録へのアクセスをどのように集約し、分析し、仲介しているかを検討していた。
Flockが中心的な企業であり続けるのは、そのネットワークが鮮明な全国規模の地図を生み出すためだ。その社名は、道路脇カメラをめぐる地域社会の対立を指す略称にもなっている。
この可視性は商業上の利点をもたらす。ネットワークが大きいほど、顧客が得られる観測機会は増え、プラットフォームの代替は難しくなる。
同時に、評判上のリスクも集中する。ある顧客による不正利用が、同様の行為を許可したことのない都市の信頼まで損なう可能性がある。
競合他社は、より厳格な境界を差別化要因として売り出せる。全国ネットワークを持たないというVerkadaの発言は、その戦略の初期例だった。
Flockは、安全策、監査可能性、成功した捜査を強調して応じることができる。ただし、有効性に関する主張には、独立した証拠と一貫した測定が必要である。
盗難車の回収は説明しやすい。カメラが結果をもたらしたのか、犯罪を別の場所に移しただけなのか、大規模な収集を正当化したのかを測定するのは難しい。
この証拠の問題は、地域の購入者にとって重要だ。警察機関は契約や更新を求める際、説得力のある個別事例を提示することが多い。
市議会は、誤った手掛かり、人員コスト、保持、共有による露出、法的責任も評価しなければならない。こうした負担は、成功事例の件数には現れない可能性がある。
業界は共通の連邦ルールから利益を得る可能性がある。統一要件は、州ごとの規制や顧客設定の継ぎはぎを減らすだろう。
しかし、議会が弱い制限を設ければ、連邦基準は広範な収集を正当化することにもなり得る。コンプライアンスの枠組みが、必ずしもプライバシーの枠組みになるわけではない。
最も重要な論争は令状に関するものになる。過去の移動履歴の検索に令状を求めれば、日常的な照会の速度と件数は変わる。
緊急時の例外は、切迫したユースケースを維持できる可能性がある。それでも立法者は、それが標準的な手段にならないよう、緊急事態を十分に狭く定義しなければならない。
保持期間もまた対立点となる。保存期間を短くすれば、検索可能な履歴の深さは減るが、後の捜査も制限される。
共有ルールは、地域での承認が意味を保てるかどうかを左右する。連携機関が規制を迂回できるなら、都市は住民に厳格な制限を約束できない。
競合他社が欠席したことで、この論争から外れたわけではない。それは、各社が宣誓のもとで自社アーキテクチャを説明しなければならない時点を先送りしたにすぎない。
Flock監視の次の展開
この公聴会が政策の転換点となるのか、それとも一時的な監視強化に終わるのかを示すシグナルは3つある。
第1のシグナルは、強制力を伴う議会の行動である。ホーリー議員は当初、文書の提出を求めたが、議員らは召喚状、追加公聴会、立法によって対応を強めることができる。
ラングリー氏への召喚状は対立を激化させる。それによりFlockは、声明や製品アップデートを通じて応じるのではなく、自社のデータ運用を直接弁護することを迫られる。
幹部を招いた第2回公聴会は、ベンダー間の違いも明らかにするだろう。上院議員らは、保持、ネットワークアクセス、監査設計、連邦機関との提携を同じ記録の上で比較できる。
第2のシグナルは、Flockの新しい制御が不正利用の検証可能な削減につながるかどうかだ。安全策を発表することは、数千の顧客全体で機能していると証明することより容易である。
監査は、禁止された共有が減少しているか、管理者がアラートをレビューしているか、不適切な利用者がアクセスを失っているかを示すべきだ。公開報告があれば、そうした主張は検証可能になる。
カリフォルニア州は重要な試金石となる。Flockは、同州では現在、連邦機関および州外機関との共有をプラットフォームが自動的に防止していると述べている。
後の監査で制限されたアクセスが続いていたことが判明すれば、問題は構造的に見えるだろう。事故が大幅に減少すれば、同社は強制力のある製品制御が機能すると主張できる。
第3のシグナルは、都市が契約更新や新規契約にどう対応するかである。議会が全国的なルールを検討する間も、地域政府は多くの購買判断を握っている。
契約の打ち切りは、評判上の損害が収益判断にまで達したことを示す。より厳しい条件での更新は、購入者が依然として製品に価値を見いだしつつも、制限を求めていることを示すだろう。
都市は更新前に、完全な監査記録へのアクセスを求めるべきだ。また、保持期間、許可される検索目的、連携先のアクセス、違反時の措置も明記すべきである。
独立したレビューは重要だ。ベンダーと警察のインセンティブは導入をめぐって一致しているためである。両者は、制度全体のコストではなく、成功した捜査に注目が集まることで利益を得る。
Flockはアイザックス氏の事例にも答えを出す必要がある。共有制御を改善しても、車両の一致判定が不当逮捕につながらないよう顧客がどう防ぐべきかは説明できない。
同社は、より明確な警告と、より強固な検証ワークフローを求めることができる。また、逮捕や高リスクの判断に結び付く検索を管理者がレビューするためのツールも提供できる。
一方、立法者はどの保護を法律に組み込むべきかを決めなければならない。民間の方針は、企業や管轄区域をまたいで適用される権利の代替にはならない。
Flock Safetyに関する上院公聴会は、すべてのALPR検索が不当であることを証明したわけではない。それは、有益な捜査と危険な監視が同じ基盤インフラを利用していることを示した。
だからこそ、この政策課題は異例なほど難しい。弱い制御は速度を維持するが不正利用を招き、厳格な制限は正当な警察活動を遅らせる可能性がある。
議会には現在、令状、保持制限、共有制限、さらには全面禁止を支持する証言がある。Flockは安全策で応じているが、その有効性はなお定まっていない。
今後1～3カ月で、上院議員らが幹部の出席を要求するか、都市が契約を見直すか、独立監査が新しい制御を検証するかが明らかになるはずだ。
読者は、また一つ洗練された安全性に関する発表ではなく、こうした結果を注視すべきである。中心的な問いは、すでに全国で運用されているネットワークに対し、強制力のある制限が追いつけるかどうかだ。
議会は超党派の懸念を拘束力のある保護へと転換するのか。それともFlockが最も重要なルールを引き続き自ら書くのか。その答えは、道路脇のカメラをはるかに超える影響を持つ。民間テクノロジー企業が政府の監視インフラに対してどれほどの統制を行使できるかを決定することになる。
