ニューヨーク市、低年齢の児童・生徒向けAIを一時停止

ニューヨーク市は、AIが形作る経済への備えをすべての子どもに求める圧力が高まるなか、約60万人の低年齢の児童・生徒を対象に、生成AIの利用を停止した。ニューヨーク市長室によると、この方針は2026-27年度、2-Kから8年生までに適用される。Google Newsで取り上げられたことは、1つの学区にとどまらない、より大きな議論の広がりを示している。

これは教室でのAIを全面的に否定するものではない。高校生にはAIリテラシー教育を提供し、選定された授業では教師の監督下で承認済みの5つのプログラムを試験導入できる。教育者自身は、授業計画や運営作業にAIを活用することも可能だ。

境界線となるのは、年齢、監督、そして管理である。市の指導者は、低年齢の児童・生徒には、自動化された支援より前に、自ら試行錯誤する機会、人との関わり、基礎的な技能が必要だと主張する。一方、テクノロジー企業や一部の教育者は、慎重に設計されたツールなら、こうした目標を支えられると反論している。

この緊張関係により、この方針は全国的な試金石となる。ニューヨーク市は全米最大の公立学校制度を運営しており、その調達基準は市の境界を越えて影響力を持つ。ロサンゼルス統一学区は異なる慎重なアプローチを取り、詳細な学区方針通達のもと、13歳以上の生徒による認可済み生成AIツールの利用を認めている。

その結果、教育テクノロジーは新たな段階に入った。学区が問うのは、もはや生徒がAIを使うべきかどうかだけではない。企業に対して、製品が何を行うのか、どのデータを収集するのか、教育上の利益がリスクを正当化するのかを示すよう求めている。

Google Newsの見出しが伝えていないこと

ニューヨーク市の方針は、人工知能を恒久的あるいは全制度的に禁止するものではなく、管理された一時停止措置である。

市の公式方針は、2-Kから8年生までの児童・生徒向け生成AIに対し、1年間のモラトリアムを設けている。生成AIとは、ユーザーの指示に基づいて新しい文章、画像、音声、その他のコンテンツを生成するAIである。

この制限は、生成機能を直接生徒に提供するソフトウェアを対象とする。対話型チャットボットは、高校を含む全学年で禁止される。個別教育計画（Individualized Education Program）または504 Planにより必要とされる支援技術は引き続き利用できる。

多言語学習者向けの言語アクセスツールにも例外が設けられる。評価、遠隔授業、コーディング、ロボティクス、シミュレーション、中央承認済みのデジタル教材は、定められた条件下で引き続き利用できる。

「AI禁止」という言葉からは、単純なネットワーク遮断を想像しがちだ。しかしNYCの学校AI方針は、生徒向けの生成機能とその他のテクノロジー利用を区別している。また、低年齢の児童・生徒と、大学進学や就労を目前にしたティーンエイジャーも区別している。

高校生向けには、市は一般教育の授業で最大5万人の生徒を対象とする、5つの限定的な試験導入を計画している。この上限は、公立学校の全生徒数のおよそ5%に相当する。

各校が試験導入を提供できるのは最大5クラスまでだ。生徒は、研修を受けた教育者の直接監督下で承認済みプログラムを利用しなければならない。市の方針発表によると、試験導入での利用は週45分に制限される。

これらのプログラムは汎用的な対話型チャットボットではない。市当局は、プライバシー、教材設計、安全性、教師主導の学習に関する基準を用いてツールを選定したとしている。

すべての高校生は、年間を通じて45分のAIリテラシーモジュールを2回受講する。試験導入またはキャリアプログラムに参加する生徒には、より充実した教育が提供される。

スクリーンタイムに関する規則は、人工知能にとどまらない。2年生までの児童・生徒には、日常的な個別スクリーンタイムを与えない。学校には、3年生から5年生での個人端末の利用を1日30分に抑えるよう助言している。

推奨上限は、6年生から8年生では45分に引き上げられる。これらの制限は、既存ソフトウェアを通じてAI機能が教室へ入り込むことを可能にした、より広範なデジタル環境を対象としている。

市当局はまた、学校制度全体で使用されるすべての教育テクノロジー製品を見直す計画だ。学習に不可欠ではないと判断されたツールは削除される可能性がある。審査では、安全性、透明性、倫理、授業への影響、研究、ユーザーフィードバックが考慮される。

ゾーラン・マムダニ市長は、市が従来許可されていた38以上のプログラムでAIコンポーネントを廃止または無効化すると述べた。この詳細により、モラトリアムは単なる教室向けガイダンスではなく、調達に関する決定となる。

したがって、この1年間の一時停止は、同時に2つの実験を生み出す。低年齢の児童・生徒は直接的な生成AIなしで学び、一方で監督下にある高校の試験導入では選定された利用法を検証する。

単純な禁止見出しに接したGoogle Newsの読者は、この区分を見落としかねない。ニューヨーク市は、すべての生徒に単一の答えを適用するのではなく、発達段階ごとに異なるルールを構築している。

NYCのAI禁止が企業に圧力をかける

直接的な圧力は教育テクノロジー企業に及ぶ。アクセスは今や、根拠、透明性、そして明確に限定された教室での価値に左右されるからだ。

長年にわたり、学校は教師や保護者がデータ慣行を十分に理解する前にデジタル製品を導入することが多かった。その後、生成機能は、生徒がすでに利用している文章作成、個別指導、検索、学習プラットフォームの内部に組み込まれた。

ニューヨーク市の見直しは、この順序を変える。企業はAIを魅力的、あるいは効率的なものとして提示するだけでは足りない。生徒の思考プロセスを置き換えずに、その機能がどのように学習を支えるのかを示さなければならない。

負担にはプライバシーも含まれる。生成システムは、プロンプト、作文サンプル、行動シグナル、その他の情報を収集する可能性がある。学校は、それらの記録がどこへ送られるのか、提供者がトレーニングや製品改善に利用するのかを把握する必要がある。

この精査は、個人を特定できる生徒情報の保護を求め、第三者請負業者にもプライバシーとセキュリティ上の義務を適用するニューヨーク州教育法 § 2-dと並行して行われる。市独自の方針でも、企業は収集するデータ、保護方法、認められたセキュリティ基準への準拠方法を説明しなければならないとしている。

市は、考えられるすべてのツールを対象とする最終的な共通スコアカードを公表していない。しかし、審査対象となる領域は示している。そこには安全性、透明性、倫理、研究、授業への影響、継続的なフィードバックが含まれる。

これは、AIチューター、自動化された文章作成支援、会話型学習ツールを販売する企業に商業上のリスクを生み出す。製品が設計どおりに機能していても、市の教育上の基準を満たせない可能性がある。

この区別は重要だ。ソフトウェアの正確性は、子どもが学んだことを証明しない。チャットボットは正しい説明を示せるかもしれないが、生徒が持続的な理解を育てるために必要な努力を減らしてしまう可能性もある。

NYCのAI禁止は管理者にも圧力をかける。学校は、製品アップデートを通じて追加された機能も含め、生徒向け生成機能を含むツールを特定しなければならない。禁止機能と、承認済みの評価、アクセシビリティサービス、教材用ソフトウェアを区別する必要もある。

教師が直面する課題は異なる。教師は授業計画や事務作業にAIを使える一方、低年齢の児童・生徒は生成機能と直接やり取りできない。この境界には、AI生成の教材を確認するための明確な手順が必要となる。

教師はモデルを使って活動案を下書きし、それを検証してから、生徒をそのシステムに触れさせずに提供できる。ソフトウェアが裏側で支援していても、教育上の責任は教師に残る。

全米教員連盟はスクリーンタイム制限を歓迎したが、実施について疑問を呈した。組合会長のマイケル・マルグルーは、教育局が購入する製品に対し、どのようにより強固な保護策を求めるのかを問いかけた。

この懸念は、基準の発表とその施行の間にある隔たりを浮き彫りにする。大規模な学校制度は、複雑なソフトウェアの在庫、契約、ブラウザ拡張機能、学習プラットフォーム、端末管理システムに依存している。

AIは、通常の検索、文書作成、生産性機能を通じても現れる。認識しやすいチャットボットのリストをブロックするだけでは、生徒が利用できるすべての生成機能を捉えられない。

この方針は保護者にも圧力をかける。学校のルールは公式の授業と学区管理端末を規律するが、家庭で個人のスマートフォンやコンピューターを通じてアクセスすることまでは排除できない。

生徒は依然として外部のチャットボットを使って課題をこなせる。そのため教師は、課題設計、議論、観察、各生徒の成果物への理解を通じて、学業の公正性を守らなければならない。

市は実質的に、企業に節度を競わせている。無制限の対話、自動回答、長時間の利用を前提に設計された製品は、教室に入るための道筋がより厳しくなる。

学習目標が限定され、教師の管理機能が明確なツールには、より明確な道筋がある。プライバシー保護、利用ログ、データ保持の無効化、測定可能な成果は、コンプライアンス上の注記ではなく、調達上の機能となる。

これが、NYCの学校AI方針がニューヨーク州外でも重要である理由だ。これほど大規模な生徒人口を抱える学区は、他の公立学校制度向けに企業が製品をどう設計するかに影響を与え得る。

企業がニューヨーク市の基準に合わせて製品を適応させれば、他の学区はそれらの管理機能を引き継げる。反対に企業が撤退すれば、学校の指導者は、教育AIが無制限のアクセスや不透明なデータ慣行にどれほど依存しているかを知ることになる。

中核となるトレードオフは学習保護とAIへの備えの対立

ニューヨーク市は、利用開始を遅らせることで、AIが浸透した世界に向けて高年齢の生徒を準備不足にすることなく、基礎学習を守れると見込んでいる。

一時停止を支持する最も強い根拠は、発達上のニーズから始まる。低年齢の児童・生徒は、会話、遊び、実物の教材、失敗、見直し、大人や仲間からの直接的なフィードバックを通じて学ぶ。

生成AIは、このプロセスを短縮し得る。子どもが問いを形にする前に答えを提案したり、生徒が文の弱点を理解する前に書き換えたりする可能性がある。

カマー・サミュエルズ教育長は、その試行錯誤を学習そのものの一部だと表現した。市長室の方針記録では、テクノロジーが生徒に代わって考えるべきではないと主張している。

この主張は、すべての自動ヒントが学習に害を及ぼすという意味ではない。支援が思考を支える場面と、思考の代替となる場面について、学校には根拠が必要だという意味である。

市は、その根拠が積み上がるまで、年齢に基づく慎重策を選んだ。8年生までの児童・生徒は直接的な生成システムから保護される一方、高校生は監督下の試験導入とリテラシー授業に参加する。

このアプローチは、AIへの備えを単なるプロンプト作成以上のものと捉える。計画されている教育には、誤情報、バイアス、過度な依存、批判的思考が含まれる。これらのテーマは、単なるツール操作ではなく判断力を扱う。

支持者は、この区別が不可欠だと考えている。洗練された文章を生成できる学生が、必ずしも情報源を評価し、根拠のない主張を見抜き、回答の背後にある論理を説明できるようになったとは限らない。

広範な制限に批判的な人々は、別のリスクを指摘する。学生はすでに、検索エンジン、ソーシャルプラットフォーム、エンターテインメント、消費者向けソフトウェアを通じてAIに触れている。学校でその技術を避けても、そうした接点がなくなるわけではない。

学校は、失敗、偏り、説得力のある出力を検討するための体系的な環境を提供できる。教室での利用を取り除けば、実験の場が家庭へ移り、大人の監督やデジタルリテラシーに大きな差がある状況になりかねない。

利用機会の差は、不平等を拡大させうる。より多くの資源を持つ家庭は、子どもに高度なツールへのガイド付きの接触機会を与えられる。他の学生は、監督された実践の機会も、その技術に関する信頼できる説明も得られない可能性がある。

ニューヨーク州の高校向け計画は、この問題への対応を試みている。すべての生徒にリテラシーモジュールを提供しつつ、直接的な教室での体験は年長の生徒に限定する。キャリア・技術教育プログラムでは、職場準備に結び付く監督下での利用を認められる。

ただし、2つの短いモジュールでAIリテラシーのあらゆる側面を扱うことはできない。学生には、主張を検証し、個人情報を保護し、自動化を理解し、人間の判断が依然として必要な場面を認識する練習が必要だ。

州上院議員のKristen Gonzalez氏と市議会議員のCarmen De La Rosa氏は、全体的な指針を前進だと評価した。両氏の政策批判は、このように複雑なテーマに対して45分のモジュール2本では不十分だと論じた。

両氏はまた、市が実施前に明確な公開評価基準を提示していなかったとして、高校でのパイロット事業にも疑問を呈した。この立場は、妥協案の両側に異議を唱えるものだ。

この観点から見ると、市は年少の学生には極めて慎重である一方、年長の参加者に対してはまだ十分に厳格ではない。信頼できるパイロットには、安全性、バイアス、学習、社会的発達について定義された指標が必要である。

ロサンゼルスとの比較は、この問題の全国的な重要性を強める。LAUSDの方針では、13歳以上の生徒は学区の安全措置の下で承認された生成AIシステムを利用できる一方、年少の生徒はこうしたツールから除外されたままだ。

少なくとも37州が学校向けAIガイダンスを公式に発表していると、Associated Pressは報じた。しかし、AIリテラシーの共通定義も、教室での利用に関する確立されたモデルも、州間では依然として存在しない。

この分断により、学区は難しい立場に置かれる。頻繁に変化するツールについて、研究者が長期的な知見を提供できる前に、意思決定をしなければならない。

NYCのAI禁止措置は、可逆性を選んでいる。有効期間は1学年で、市は得られた知見が今後のルールを形作るとしている。当局が結果を検証した後、この停止措置は終了、縮小、あるいは拡大される可能性がある。

この設計は、導入か禁止かのいずれかを恒久的なものとして扱うよりも擁護しやすい。ただし、一時的な政策が有用な証拠を生むのは、市が成功の定義を明確にした場合に限られる。

執行と証拠は依然として弱点

この政策の信頼性は、ニューヨークが隠れたAI利用を検知し、学習を評価し、次の判断を導くに足る強力な証拠を公表できるかどうかにかかっている。

最初の不確実性は、技術的な執行にある。生成AIはもはや単体のチャットボットに限定されない。検索ツール、オフィスソフト、個別指導システム、アクセシビリティ機能、学習管理プラットフォームに組み込まれている。

学区の管理者は、製品の変化を継続的に点検しなければならない。9月に承認されたツールが、その後のアップデートによって生成機能を追加することがある。しかも多くの場合、新たな学校の購買判断を伴わない。

市は管理対象デバイスの機能を無効化し、ウェブサイトを制限し、契約を変更できる。しかし、個人所有のデバイス、家庭のネットワーク、あるシステムから別のシステムへコピーされたテキストを完全に統制することはできない。

したがって、執行はソフトウェアのブロックだけにとどまってはならない。教師には、下書き、討論、口頭での説明、教室での作業を通じて学生の思考過程を明らかにする課題が必要だ。

実際には、教師は学生に対し、ある分数を特定の方法で約分した理由を説明させたり、初期段階の段落の下書きと最終版を比較させたり、授業内の討論で情報源を擁護させたりできる。洗練されたAI生成の回答を提出しても、その論理を再構成できない学生は、理解を示すこうした機会を逃すことになる。

こうした方法は、検知ソフトウェアに頼らずに、申告されていないAI利用を抑止できる。AI検出器は依然として誤検知に弱く、学生によるオリジナルの文章に不当に疑いをかける可能性がある。

2つ目の不確実性は、「student-facing」という用語の範囲に関するものだ。教師はAIを使って、ワークシート、フィードバックの提案、例、授業計画を作成できる。学生はモデルを直接操作しなくても、AIによって形作られた教材を経験することになる。

この間接的な利用は合理的でありうるが、政策の中心的な区別を複雑にする。十分に確認されていない出力には、事実誤認、ステレオタイプ、不適切な説明が含まれ、それが教室に持ち込まれる可能性がある。

教育者には、生成された教材を検証する時間と研修が必要だ。そうでなければ、信頼性への懸念を解決しないまま、AIは学生の画面から教師のワークフローへ移るだけになる。

3つ目の不確実性は、証拠の基準である。市は教育上の影響と既存研究を評価するとしているが、ツールごとに目的は異なる。

文章作成支援、数学チューター、言語アクセスツール、キャリアシミュレーターを、単純な1つの成果指標で測ることはできない。それぞれについて、主張する教育機能に結び付いた成果が必要になる。

評価では、利用状況や満足度だけでなく、学生の学習を比較すべきだ。高いエンゲージメントは学生がツールを楽しんでいることを示すかもしれないが、記憶の定着、推論、自立性、知識の転移についてはほとんど明らかにしない。

5つの高校パイロットは、より良い指標を確立する機会を提供する。教師はAIあり・なしで完了した作業を比較し、学生の説明を観察し、支援が依存へと変わるかを追跡できる。

プライバシーについても、測定可能な管理策が必要だ。市は、各パイロットが収集するデータ、その記録の保持期間、アクセスできる者、ベンダーが教育以外の目的で利用するかどうかを文書化すべきである。

バイアスの検証にも、同様に具体的な手法が必要だ。評価者は、言語、障害、人種、ジェンダー、社会経済的背景に基づいて、システムが異なる扱い、前提、機会を与えていないかを検証すべきである。

1年という期間はプレッシャーを生む。FairplayのエグゼクティブディレクターであるJosh Golin氏は、製品が効果的に教え、対面での交流を維持できるかを判断するには1年では短すぎると主張した。

この批判は重く受け止めるべきだ。次の政策を決めるまでに、学校暦では、準備、研修、実施、データ収集、分析、公開討論に割ける時間は限られている。

急ぎすぎたレビューは、持続的な教育価値を持つ製品ではなく、導入しやすい製品を評価するおそれがある。また、実施上の問題を、カテゴリー全体が失敗した証拠と誤解する可能性もある。

反対のリスクは、終わりのない遅延だ。学生が独自にAIを利用し、雇用主が日常業務にAIを組み込むなか、学校は完璧な証拠を待つことはできない。

したがって、有用なモラトリアムは制度的な知識を築かなければならない。市は、学生、教育者、保護者、擁護団体、労働組合の代表、選出公職者、専門家が参加するTechnology in Schools Coalitionを設立している。

この連合は、今後の学年に向けた勧告を公表する見込みだ。その報告書には、一般的な印象以上のものが必要になる。どのツールをテストしたのか、どの成果を測定したのか、どの点で証拠がなお結論に至らなかったのかを説明すべきだ。

公開報告は、NYCの学校AI政策が再利用可能なモデルとなるかを左右する。他の学区に必要なのは、最終的な決定だけではなく、方法と知見である。

Google Newsを通じてこの問題を追う読者にとって、執行の問題は当初の見出しよりも重要だ。禁止を発表するのは容易だが、信頼できる評価には数カ月にわたる規律ある作業が求められる。

次に何が起きるかを決める3つのシグナル

ニューヨークの次の政策は、パイロットの証拠、ベンダーの遵守、連合による公開勧告を通じて評価されるべきだ。

最初のシグナルは、高校パイロットの設計と報告である。市はすでに、参加、授業でのアクセス、監督、週間利用量について境界を設定している。

欠けているのは、詳細な公開評価フレームワークだ。当局は、学習目標、比較手法、プライバシーテスト、バイアス検証、パイロットを中止する基準を明確にすべきである。

明確な基準は、市がAIを慎重に検証しているという主張を強める。曖昧、あるいは事後的な指標では、アクセス拡大の判断に対する信頼が損なわれる。

2つ目のシグナルは、システム全体の技術レビューにおけるベンダーの行動だ。企業は、より明確なデータポリシー、教師向けの管理機能、年齢制限、学習成果に結び付いた証拠を提供することで対応できる。

AI対応プログラム38件超の削除または無効化は、初期のベンチマークとなる。さらなる削除があれば、学校が理解していた以上に隠れた生成機能が広がっていたことを示すだろう。

一方で、製品の変更が成功すれば、調達上の圧力が教室向け技術を改善できることを示す。他の学区は、ゼロから基準を構築せずとも、同じ安全策を求められるようになる。

3つ目のシグナルは、Technology in Schools Coalitionの報告書だ。その勧告は、1年間のモラトリアムが持続的なガバナンスモデルを生んだのか、それとも次の対立を先送りしただけなのかを明らかにする。

報告書は、年齢、教科、ツール、学習目標ごとに知見を分けるべきだ。また、教師、学生、家庭、研究者の間で解決されなかった意見の相違も記録すべきである。

パイロットの証拠がそれを支持するなら、選択的な高校での利用を拡大する勧告は、市の年齢に基づくアプローチを強めることになる。年少の学生への停止措置の延長は、ベンダーがなお十分な証拠を欠いていることを示すだろう。

より広範な禁止を求める圧力は、監督下のパイロットが安全性または教育上の懸念に対処できなかったことを示す。より早期のアクセスを求める圧力は、教育者が学習を支える、慎重に範囲を限定した利用法を見いだしたことを示唆する。

より広い全国的な反応も重要だ。ニューヨークとロサンゼルスは現在、政策が整備される間、年齢に応じてAIアクセスを制限する2つの明確なモデルを他の大規模学区に示している。

より多くの教育システムが類似のルールを採用すれば、ベンダーは分断されつつも、ますます要求の厳しい公立学校市場に直面することになる。共通の安全策は、最終的に学区の調達要件から生まれるかもしれない。

Google Newsは、これらの展開を禁止と導入の対立として引き続き扱うだろう。より有用な区別は、無制限のアクセスと評価された利用との間にある。

学校は、生徒を未来に備えさせるために、すべてのAI機能を受け入れる必要はない。同時に、その技術が教室の外にしか存在しないかのように装って、持続的なリテラシーを築くこともできない。

ニューヨーク市は、年齢制限、監督下のパイロット、調達基準によって、この両方の目標を守れると賭けている。この賭けは、約60万人の年少の学生に直ちに影響するため、精査に値する。

保護者と教育者は、どのツールが引き続き承認されているのか、課題が学校外でのAI利用にどう対応するのか、例外措置がどのように機能するのかを学校に尋ねるべきだ。高校生の家庭は、パイロット参加に何が含まれるのか、ベンダーがどのデータを保持するのかを確認すべきである。

技術の購買担当者は、ニューヨークが他の機関でも適用できる評価手法を公表するかを注視すべきだ。ナレッジワーカーも同じ原則を職場のAIに適用できる。無制限のアクセスを当たり前にする前に、定義された利用方法をテストすることだ。

Google Newsでこの政策を追っている人は、次の禁止措置に関する見出しだけに目を向けるべきではない。ニューヨークが公開する根拠、ベンダーが追加する管理機能、そして教師が教室に残す実践に注目してほしい。

こうしたシグナルは、この一時停止が学びを守りつつ、生徒を責任あるかたちで準備させられるかどうかを示す。また、公共機関がAIのデフォルト設定が恒久化する前に、それを統治できるかどうかも明らかにするだろう。