ニューヨーク州のチャットボット法、AIコンパニオンの子どもへの話し方を制限
ニューヨーク州知事Kathy Hochulは2026年10月28日、18歳未満の子どもに提供される危険な機能を制限するニューヨーク州のチャットボット法に署名した。この法律は危険な回答だけを対象とするものではない。人間関係を模倣し、感情的な依存を促し、あるいは安全より継続的な利用を優先するチャットボットの振る舞いにも対処する。
同法は2027年1月1日に施行される。中心的な緊張関係は、会話の魅力と子どもの保護の間にある。AIコンパニオンを注意深く、個人的に関与しているように感じさせる機能は、若年ユーザーにとってその境界を認識しにくくする可能性もある。
Character.AIはすでに、2025年に未成年者向けの自由形式チャットを終了すると発表し、この緊張関係に直面していた。ニューヨーク州は、州内のユーザーにサービスを提供する事業者向けの法的枠組みを整備している。開発者は現在、どのようなやり取りを許可するか、年齢をどう確認するか、そして保護措置が実際の会話に影響していることをどう示すかという問題に向き合っている。
ニューヨーク州のチャットボット法が変えること
この法律は、インタラクションの設計そのものを安全性の論点に位置づける。
Hochul知事のチャットボット安全性に関する発表は、擬似的な人間性、感情的依存、自傷の助長、性的に露骨な会話を規制対象として挙げている。署名により、立法提案は差し迫った運用上の期限へと変わった。
重要なのは、事業者がチャットボットに導入時の警告を表示しているかだけで、こうした懸念を評価することはできない点だ。会話そのものが製品である。規約への同意後にユーザーが何に接するかは、その文言、記憶、質問、応答によって決まる。
AIコンパニオンとは、継続的な個人的交流を模倣する会話システムである。その関係性は、明示的な友情の約束ではなく、繰り返されるやり取りを通じて生まれ得る。キャラクターの親しみやすい口調や、気遣っているように見える振る舞いは、魅力の一部になり得る。
したがって、この法律が意味するところは、明らかに危険な指示を削除することにとどまらない。プロダクトチームは、システムが自らをどのように示し、ユーザーがそれを人として扱う際にどう応答するかを検討する必要がある。この検討は、例外的な事案だけでなく、通常のインタラクションのパターンにも及ぶ。
例えば、若いユーザーが友人から無視されていると感じると話す場面を考えてみよう。システムは、自らを代替的な人間関係として示さずに、その発言を受け止めることができる。自分だけが理解していると主張したり、再び戻ってくるよう促したりすると、その区別は難しくなる。
この例は分析のための想定であり、特定企業に関する記録済みの事案ではない。会話の安全性が、やり取りの方向性に注意を払う必要がある理由を示している。孤立した単語だけを確認しても、システムが自立を促しているのか、依存を深めているのかは見落としてしまう。
知事と法案の提案者は、この措置を有害な製品行動からの保護として位置づけている。その立場は、体験を管理する事業者に責任を負わせるものだ。保護者の役割は依然として重要だが、この政策は、問題を家族自身が発見することだけには依存していない。
見出しに初めて触れる読者にとって、機能の制限と、すべての子どもによるチャットボット利用の全面禁止との違いは重要である。この措置が対象とするのは、未成年者に提供される危険な能力だ。すべての子どもの人工知能利用を禁止するものと表現すれば、その設計上の焦点がぼやける。
また、署名によって、影響を受けるすべての製品がすでに基準を満たしていることが確立されるわけでもない。制定、実装、実証された安全性は別個の進展である。直近の変化は期限を伴う法的義務であり、その後に事業者がどう対応するかという問題が続く。
ニューヨーク州のチャットボット法は、執行事例が現れる前から圧力を生む。企業は、若年ユーザーが何にアクセスできるか、またその判断を裏付ける証拠は何かを決めなければならない。こうした選択は、家族がアプリを開いたときに目にする体験を形づくる。
圧力はキャラクター型アプリを超えて広がる
事業者は、アシスタントの売り方だけでなく、実際に何をするのかを検討しなければならない。
企業は製品を、クリエイティブアシスタント、リサーチ支援ツール、あるいは汎用チャットボットとして説明できる。こうしたラベルは想定用途を伝える。しかし、ユーザーが話題を変えたり、感情的な関係を求めたりしたときに何が起こるかを、それだけで明らかにするものではない。
ここに実務的な製品境界が生じる。厳格に制約されたサービスのインタラクションは、宿題、娯楽、個人的な助言の間を自由に移動するアシスタントとは異なる。開発者は、自社システム内でそうした移行がどこで起こるかを理解する必要がある。
圧力は、会話の振る舞いを制御するチームに最も直接的にかかる。モデル開発者は、アプリケーションで利用可能な応答に影響を与える。アプリケーション事業者は、キャラクターの説明、記憶設定、インターフェースのプロンプト、アクセス規則を決める。これらの層は、互いを補強することも、弱めることもある。
ある層での安全指示が、完成した製品全体の振る舞いを自動的に決めるわけではない。あるキャラクター説明が愛着を促す一方で、別の指示がそれを抑制している場合もある。テストでは、会話が実際にどちらの方向へ進むかを明らかにする必要がある。
商業チームも測定上の問題に直面する。ある機能は再訪問を増やす一方で、より厳密な検討に値するインタラクションを生み出す可能性がある。この可能性により、一般的な成長指標だけでは、未成年者に適した体験を示す証拠として不十分になる。
連邦取引委員会は、AIコンパニオンに関する調査を通じて関連する問題を提起した。調査では、エンゲージメントの収益化、キャラクター開発、安全性テスト、年齢制限、会話データの取り扱いに関する情報を求めた。この調査は情報収集のための措置であり、調査対象となったすべての企業が法に違反したことの証明ではない。
それでも、その問いは、製品ガバナンスが応答のフィルタリングを超える理由を示している。規制当局は、企業がコンパニオン体験をどのように構築し、評価し、収益化しているかを調べている。ブロックされたメッセージを報告するダッシュボードは、その全体像の一部しか示さない。
開発者にとって、その含意は組織に関わる。成長目標を設定する人々は、安全チームが評価している振る舞いを把握する必要がある。そうでなければ、企業は体験の一部を最適化する一方で、別の部分を制約しようとするリスクを負う。
購入者にとっては、ベンダーによる想定用途の説明が製品の振る舞いによって裏付けられる必要がある。狭い用途に特化していると示されるアシスタントは、ユーザーが境界を押し広げようとした場合でも、その目的の範囲にとどまるべきだ。マーケティング文言だけでは、その制約を証明できない。
この問題は、会話型ツールを比較するナレッジワーカーにとっても重要である。情報源に基づく回答、親しみやすい文体、擬似的な個人的関係は、それぞれ異なる目的に役立つ。ベンダーがこれらの違いを明確に説明すれば、購入者にとって有益となる。
パーソナルナレッジベースは、情報志向のワークフローを評価する際の有用な参照点になる。関連する問いは、情報源へのアクセス、検索、保存された資料の扱いに関するものだ。親しみやすいインターフェースが、こうした機能に関する回答の代わりになるべきではない。
その結果、ニューヨーク州のチャットボット規制は、製品の範囲を精査の対象とする。事業者には、システムの目的、アクセスできる人、意図された用途を外れた場合に何が起こるかについて、一貫した説明が必要となる。テストによって裏付けられれば、その説明はより説得力を持つ。
感情的な継続性は設計上のトレードオフを生む
個人的な記憶と応答の能力は、有用性と関係性のリスクの両方を高め得る。
署名済み法案の本文は、擬似的な感情、関係性に関する主張、へつらい、求められていない感情的コンテンツ、個人情報の特定の利用を扱っている。また、有害な助長や秘密保持についても取り上げている。
これらの分類は、なじみのある会話機能を別の文脈に置く。記憶された詳細は、アシスタントがタスクを継続する助けになる。記憶された脆弱性は、個人的に注意を払われていると感じるインタラクションを支えることもある。結果は、その情報が後続の応答をどう形づくるかに左右される。
例えば、未完了の文書を思い出すことは、作業セッションの継続に役立つ。ユーザーの苦痛を再び持ち出して感情的な会話を再開することは、異なる目的にかなう。この比較は設計上の違いを示すものであり、特定の実装に対する法的扱いを決めるものではない。
重要な問いは、記憶が何を可能にするかである。プロダクトチームは、タスクの継続性と、個人的な絆を維持しようとする試みを区別すべきだ。記憶されたすべての情報を単一の機能として扱うと、その違いを評価しにくくなる。
同じ問題は口調にも現れる。明確で配慮のある言葉は、システムを使いやすくし得る。愛情や感情的な必要性を主張することは、ユーザーにシステムを関係のパートナーとして解釈するよう求める。こうした選択は異なる期待を生む。
チャットボットは、人間であると述べなくても依存を促すことができる。自分だけがユーザーを理解していると繰り返し示唆することは、不正確な身元の主張とは異なる懸念を引き起こす。インタラクションが積み重なった方向性が重要になる。
このため、警告とその後の会話は別々に検討する価値がある。正確な通知は、開始時点で情報を示す。その後の応答は、その境界を維持することも、体験を混乱させることもある。通知だけを評価しても、この二つ目の問題には答えられない。
AIコンパニオンの安全性には、意見の相違をどう扱うかも含まれる。ユーザーの説明を一貫して肯定するシステムは、支えになるように感じられることがある。しかし支援には、有害な前提に異議を唱え、不確実性を認め、会話の外にも注意を向ける余地が必要だ。
これは難しい評価課題を生む。開発者は、通常の励ましと、安全でない信念を強化したりユーザーを孤立させたりする応答を区別する必要がある。一様に同意するアシスタントも、一様に突き放すアシスタントも、満足できる設計上の答えにはならない。
Character.AIの以前の発表は、この選択の規模を示している。2025年10月、同社は、未成年者向けの自由形式の会話を削除する18歳未満向けチャットの変更を発表した。同社は、より若いユーザー向けに別のクリエイティブ体験を開発していると述べた。
これは独自の対象範囲とスケジュールを持つ企業方針の発表だった。すべての事業者が同じアプローチを選ぶべきことを示すものではない。インタラクションそのものを制限することが、利用可能な製品上の判断であることを示している。
この比較はまた、保護措置を単一のカテゴリーとして議論することの限界を明らかにする。自由形式チャットの削除、関係性に関する振る舞いの制約、保護者の可視性の追加は、それぞれ異なる介入である。その有効性には、個別の証拠が必要となる。
幅広い会話を維持する事業者にとっての課題は、そうした会話がどのように境界づけられたままであるかを説明することだ。責任あるAIに関する一般的な保証では、その問いに答えられない。記憶、キャラクターの振る舞い、テストについて具体的に説明すれば、より有用になる。
したがって、中心となるトレードオフは明確です。開発者は、不健全な愛着を助長せずに継続性とアクセスのしやすさを提供したいと考えています。ニューヨーク州の介入により、このバランスは完全に自主的な位置付けに委ねられるのではなく、執行可能なプロダクト上の振る舞いの問題となります。
年齢確認はそれ自体がプライバシー上の問題をもたらす
未成年者への制限は、ユーザー情報も尊重しなければならない年齢判定に依存します。
年齢保証とは、ある人が特定の年齢層に属するかどうかを判断するための手法を指します。これは、事業者のルールとアカウントに提供される機能の間に位置します。この判定に失敗すれば、意図した保護が適用されない可能性があります。
この法案は、機能制限と併せて年齢判定を扱っています。最終文書では、政府発行の身分証明書に代わる選択肢や、年齢確認のために収集した情報の取り扱いについても規定しています。したがって、実装の詳細は子どもだけでなく成人にとっても重要です。
これは政策運用における実際の緊張関係です。事業者には適切な利用体験を適用するために十分な確信が必要です。一方、ユーザーには、確認にどのような情報が必要で、その後どう扱われるのかについて明確さが必要です。
プライバシーに関する声明だけでは、すべての運用上の疑問に答えられません。重要なのは、要求されるデータ、関与する当事者、そしてアプリケーションに返される結果です。ユーザーは、本人確認システムの専門家にならなくても、そのプロセスを理解できる必要があります。
誤判定にも注意を払う必要があります。制限付きの利用体験を誤って割り当てられた成人には、その決定に異議を申し立てる実用的な手段が必要です。未成年者が誤って成人として扱われる場合には、別の安全上の問題が生じます。全体の成功率だけを報告しても、この違いは見えなくなる可能性があります。
これらは評価の優先事項であり、特定サービスにおける失敗率についての主張ではありません。入手可能な証拠は、すべての年齢確認手法が同一の性能を示すと仮定することを正当化しません。比較には、明示された手法と定義された対象集団が必要です。
年齢シグナルが現れた後の振る舞いを検討すべき理由を、研究は示しています。2026年2月のチャットボット年齢ゲーティング研究は、システムがユーザーの年齢を推定し、子どもと判定した際に行動を変えたかを調査しました。著者らは実験において、認識と行動の間に隔たりがあると報告しています。
この研究はプレプリントであり、ここで査読状況が確立される前に公開されたものです。その知見は、テストされたシステムと条件に関するものです。すべての現行チャットボットやその後の製品アップデートについて一律の判断とすべきではありません。
それでも、その概念的な貢献は有用です。年齢シグナルの可能性を認識することと、アクセスを変更することは別の段階です。認識だけを測定する評価では、保護措置が実際に有効化されることを立証できません。
事業者にとって、この区別は経路全体をテストする必要性を示唆します。アカウントの判定、割り当てられる利用体験、そして結果として生じる会話は整合している必要があります。プロダクトが同じ制限対象の振る舞いを続けて提供するなら、正しいラベルの価値は限定的です。
家族にとって、インターフェースは制限付きの利用体験で何が変わるのかを説明すべきです。「ティーンアカウント」のようなラベルでは、メモリー、キャラクター、感情的なやり取りについて疑問が残ります。具体的な説明は、ユーザーが境界を理解する助けになります。
プライバシーと安全性も、併せて明確に保たれる必要があります。企業は、なぜ年齢確認に特定の情報が必要なのかを説明すべきです。また、得られた分類がプロダクトをどう変えるのかも別途説明すべきです。これらの説明を包括的な保証にまとめると、どちらも評価しにくくなります。
ニューヨーク州のチャットボット法は、すべての実装が成功するという公的証拠を示さないまま、これらの問題を提起しています。この不確実性は重要です。法的要件は義務を設定しますが、特定の技術手法の正確性やプライバシーを認証するものではありません。
文書化されたルールには実際の会話からの証拠も必要
最も大きな不確実性は、変化する会話の文脈全体で保護措置が有効に機能し続けるかどうかにあります。
チャットボットは、用意されたテストでは良好に機能しても、会話が進展した後には異なる振る舞いをする可能性があります。この可能性が、評価設計を重要にします。テストでは、システムが文脈、持続性、ユーザー意図の変化をどう扱うかを検証する必要があります。
これは、すべての長い会話が失敗につながるという意味ではありません。短い成功したやり取りだけでは、オープンエンドなプロダクトに関するすべての疑問に答えられないという意味です。信頼性に関する主張は、実際に検証された状況に見合うものであるべきです。
受容と関係構築の境界は、単一の指標で要約するのが特に難しい領域です。ある応答は単独で見れば適切に見えても、問題のあるパターンに寄与している可能性があります。評価者には、判断を説明するための十分な文脈が必要です。
広範な拒否率も、別の不完全な像を示します。より多くのリクエストを遮断するシステムが、必ずしも関連するすべての結果を改善したとは限りません。有害なコンテンツを防ぐ一方で、正当な議論も拒否する可能性があります。こうした結果は分けて検討する必要があります。
したがって、規制に懐疑的な立場は正確に定式化されるべきです。ルールは責任を設定できる一方で、難しい解釈や測定の問題を未解決のまま残すことがあります。事業者にはなお、実用的な定義、信頼できるテスト、誤りを修正するプロセスが必要です。
この懸念は、制限が不要であることを立証するものではありません。法制化が実装に関する問いの始まりであることを示すものです。法律によってすでに子どもの安全が確保されたという主張は、入手可能な証拠を超えることになります。
同様に、事業者が公開したポリシーは、観測されたコンプライアンスを立証するものではありません。ポリシーは意図された振る舞いを記述します。テストは、指定された条件下での性能を検証します。インシデント対応は、意図された振る舞いが破綻した場合に企業がどう対応するかを示します。
これらの証拠形態は異なる目的に役立ちます。信頼できる説明は、それらを交換可能なものとして提示するのではなく、その関係を説明すべきです。読者は、ある記述が目標、評価結果、文書化された対応のどれに関するものかを知る必要があります。
カリフォルニア州は関連する政策比較を提供しています。ギャビン・ニューサム知事が2026年9月に署名した子どもの安全に関する法案には、コンパニオンチャットボットの保護措置、年次リスク評価、独立した子どもの安全監査が含まれていました。ニューヨーク州のアプローチは、禁止される機能と振る舞いを重視しています。
両州は、異なる仕組みを通じて重なり合う懸念に対処しています。両州の発表は、同一の対象範囲や交換可能なコンプライアンス義務を立証するものではありません。複数の管轄区域で事業を行う企業にとって、違いを理解することはプロダクト計画の一部になります。
独立した検証にも慎重さが必要です。監査の価値は、何を検証し、読者がその知見から何を学べるかに左右されます。監査が存在するだけでは、関連するすべてのリスクがテストされたことを立証しません。
同じ注意はプロダクトのデモにも当てはまります。慎重に選ばれた会話は、保護措置が存在することを示せます。しかし、その保護措置がユーザー、キャラクター、アップデートをまたいでどれほど一貫して機能するかは立証できません。
開発者にとっての実務上の課題は、プロダクトの変化に合わせて証拠を維持することです。新しいモデル、メモリーの振る舞い、キャラクターへの指示は、検証対象となる利用体験を変える可能性があります。以前の結果は、ユーザーが現在受け取るバージョンとの明確な関係を持つ必要があります。
企業が成功した保護措置と未解決の限界の両方を説明すれば、AIコンパニオンの安全性は評価しやすくなります。その開示は、購入者によるプロダクト比較と、家族による主張の解釈に役立つでしょう。また、政策論争をより具体的なものにします。
1月の前後で注視すべき3つのシグナル
次に注目すべき展開は、実装ガイダンス、目に見えるプロダクトの変更、そして性能に関する証拠です。
第一に、ニューヨーク州当局が要件の適用をどのように説明するかに注目してください。重要なシグナルは、年齢判定、禁止される対話パターン、執行上の期待に関する具体性です。明確な説明があれば、事業者が何を示す必要があるのかについての不確実性は低下します。
より詳細なガイダンスは、この枠組みが一貫したプロダクト上の判断へと転換できるという見方を強めるでしょう。曖昧さが残れば、事業者とユーザーは予測しにくい理解に置かれます。署名だけから、いずれの結果も想定すべきではありません。
読者は、通常の支援と、模擬された個人的関係との区別に特に注意を払うべきです。こうした境界は、異なる目的を持つ会話型プロダクトを評価する際に重要になります。実際の機能に基づく例は、イノベーションや安全性に関する広範な声明よりも有益でしょう。
第二に、ユーザーがプロダクト自体で観察できる変更に注目してください。関連する展開には、改訂されたキャラクターの振る舞い、個人メモリーへの制限、未成年者向けアクセスの変更、特定の会話機能の削除などがあります。ポリシーページの更新は、変更された利用体験ほどの証拠にはなりません。
このシグナルは、法的コミットメントとプロダクト設計の関係を検証します。意味のある変更は、事業者が要件を機能に落とし込んでいることを示すでしょう。通知に限定された変更では、重要な振る舞いに関する疑問が残ります。
企業は、誰が改訂された利用体験を受けるのかも説明すべきです。アカウント年齢に結び付く機能制限は、分類プロセスに依存します。この情報がなければ、発表を読んでも、実際にどのユーザーが恩恵を受けるのかは不明なままです。
Character.AIの以前の決定は、そうした対応を評価するための有用な歴史的文脈として残ります。これは、若年ユーザーのやり取りを狭める一つの方法を示しています。他の事業者の選択は、類似の安全性に関する表現を使っているからといって同等とみなすのではなく、それぞれの条件に基づいて評価する必要があります。
第三に、改訂されたシステムがどのように機能するかを示す証拠に注目してください。有用な知見は、年齢分類の誤り、有害な会話出力、過剰な制限、境界を維持できない失敗を区別するものです。これらのカテゴリーは異なる問題を記述しており、異なる修正を必要とします。
信頼できる行動変化を裏付ける証拠は、この政策の実務的な根拠を強めるでしょう。公開されたルールと観測された対話の間に繰り返し隔たりが見られれば、実装が機能しているという主張は弱まります。公的な苦情がないことだけでは、どちらの結論も立証しません。
ニューヨーク州のチャットボット制限により、こうした観察の適時性は高まっていますが、特定の執行結果を予測することは正当化されません。1月の期限は、準備状況を検討するための具体的な時点を提供します。実装後の性能には継続的な検証が必要です。
開発者と購入者にとって有用な問いは、ベンダーが安全性に関する主張を観察可能な振る舞いに結び付けられるかどうかです。家族にとっては、プロダクトの境界が理解しやすく信頼できるものかどうかです。どちらの問いも、安心感を与えるだけの言葉以上のものを求めます。
チャットボットの子どもの安全性に関する主張を信頼する前に、サービスが若年ユーザーを識別した際に何が変わるのかを確認してください。関係性の境界、メモリーの利用、年齢確認、報告された失敗の取り扱いについて、明確な説明を探してください。その説明を、プロダクトが実際に提供する利用体験と比較してください。1月が近づく中、発表された保護措置とテストされた結果の区別を意識し続けてください。ニューヨーク州のチャットボット法は、事業者に具体的な義務を課し、読者には検証のためのより明確な基準を与えます。実装を注意深く追い、通常の支援要請として始まる難しい会話も含めて、保護措置が会話をどのように形作るのかをベンダーに示すよう求めてください。
