Platforma AI policji w Hongkongu personalizuje lekcje bezpieczeństwa narodowego, lecz ogranicza debatę

Hongkońska policja uruchomiła 6 października platformę AI dla uczniów szkół, po raz pierwszy wprowadzając do klas spersonalizowane historie o bezpieczeństwie narodowym. System przekształca definiowane przez rząd lekcje w książeczki z opowiadaniami, krótkie filmy i quizy generowane dla poszczególnych uczniów.

Platforma AI hongkońskiej policji nosi nazwę NSmarties AI Interactive Platform. Policja i Hong Kong Qianfan Technology opracowały ją wokół chińskiego całościowego podejścia do bezpieczeństwa narodowego, które obejmuje 20 dziedzin. W jej inauguracji w Sea View Precious Blood Primary School w Ap Lei Chau uczestniczyło około 700 uczniów.

Zmiana wykracza poza nową stronę internetową dla klas. Hongkong już wymaga nauczania o bezpieczeństwie narodowym w całym systemie szkolnym. NSmarties dodaje generatywną AI, przesuwając część tego kształcenia od stałych materiałów w kierunku spersonalizowanych, interaktywnych treści, których zasady tworzenia pozostają w dużej mierze nieujawnione.

Platforma AI hongkońskiej policji zamienia politykę w spersonalizowane historie

NSmarties zmienia sposób, w jaki przekazy o bezpieczeństwie narodowym trafiają do dzieci, nawet jeśli nie zmienia podstawowego programu nauczania rządu.

Platforma wykorzystuje generatywną AI działającą w czasie rzeczywistym do tworzenia spersonalizowanych książeczek z opowiadaniami i krótkich filmów. Uczniowie mogą również odpowiadać na interaktywne pytania sprawdzające ich wiedzę o koncepcjach bezpieczeństwa narodowego.

Ten format ma znaczenie, ponieważ generatywna AI robi więcej niż tylko wyświetla zatwierdzony tekst. Może przeformułowywać informacje wokół polecenia ucznia, jego zainteresowań lub wybranego scenariusza. Lekcja staje się więc generowaną interakcją, a nie stałą stroną w podręczniku.

Według inauguracji NSmarties urzędnicy przedstawili system jako nowy sposób na udostępnienie złożonych pojęć prawnych i dotyczących bezpieczeństwa. Platforma ma obejmować narracyjne wyjaśnienia komisarza policji Joe Chow oraz sekretarza ds. bezpieczeństwa Chrisa Tanga.

Zaangażowanie wysokich rangą urzędników odpowiedzialnych za bezpieczeństwo nadaje materiałom instytucjonalny głos. Odróżnia też NSmarties od zwykłego oprogramowania klasowego wybieranego przez poszczególnych nauczycieli.

Policja po raz pierwszy zaprezentowała platformę podczas Dnia Edukacji o Bezpieczeństwie Narodowym w kwietniu 2026 roku. Jej październikowe uruchomienie oznaczało przejście od publicznej demonstracji do usługi skierowanej do szkół w nowym roku akademickim.

Ceremonia inauguracji odbyła się w szkole podstawowej, a nie na konferencji technologicznej ani w obiekcie policyjnym. To miejsce jasno wskazywało docelowych odbiorców. NSmarties zaprojektowano tak, aby umieszczać materiały o bezpieczeństwie narodowym tworzone przez policję bezpośrednio w środowisku nauki dzieci.

Urzędnicy poinformowali, że platforma obejmuje 20 dziedzin ujętych w chińskich ramach całościowego bezpieczeństwa narodowego. Dziedziny te wykraczają poza policję i obronność, obejmując między innymi technologię, finanse, kulturę, ekologię, żywność i cyberbezpieczeństwo.

Tak szeroki zakres daje systemowi znaczną swobodę w generowaniu treści. Dziecko może zetknąć się z bezpieczeństwem narodowym poprzez historie o zachowaniu w internecie, ochronie środowiska, tożsamości kulturowej lub nowych technologiach.

Zgłaszane funkcje platformy wpisują się również w szerszy zwrot ku interaktywnej edukacji publicznej. Hongkońska policja wcześniej wykorzystywała quizy, konkursy, pojazdy promocyjne i wydarzenia szkolne do komunikowania pojęć związanych z bezpieczeństwem.

W 2024 roku program międzyresortowy wprowadził do szkół chatbota AI i interaktywne gry dotyczące bezpieczeństwa. Policja organizowała również konkursy o bezpieczeństwie narodowym oraz wydarzenia technologiczne dla uczniów szkół podstawowych i średnich.

NSmarties łączy te pomysły w jedną powtarzalną usługę cyfrową. W przeciwieństwie do odwiedzanej wystawy może pozostawać dostępna po zakończeniu wydarzenia i generować nowe materiały na każdą sesję.

Policja opisuje tę personalizację jako sposób na przekształcenie biernej nauki w aktywne uczestnictwo. Ta obietnica jest wiarygodna na poziomie interfejsu. Dzieci zazwyczaj mają więcej możliwości wyboru w interaktywnej historii niż w drukowanej ulotce.

Wybór w interfejsie nie musi jednak tworzyć wyboru intelektualnego. Platforma może oferować wiele postaci i scenerii historii, jednocześnie utrzymując każdy dopuszczalny wniosek w wąskim zakresie.

To rozróżnienie tworzy główne napięcie wokół NSmarties. Platforma może sprawiać, że lekcje wydają się bardziej osobiste, nie dając uczniom większej swobody kwestionowania ich założeń.

W komunikacie o inauguracji nie wskazano publicznie bazowego modelu językowego. Nie wyjaśniono też, czy nauczyciele mogą przeglądać lub edytować wygenerowane historie, zanim zobaczą je uczniowie.

Żadna szczegółowa publiczna dokumentacja nie opisywała polecenia systemowego, filtrów treści, okresu przechowywania danych ani procesu zgłaszania błędów. Te braki nie dowodzą, że zabezpieczenia nie istnieją. Oznaczają, że obserwatorzy zewnętrzni nie mogą ich ocenić na podstawie materiałów z inauguracji.

Dla szkół takie szczegóły operacyjne są kluczowe, a nie technicznymi przypisami. Generatywny system skierowany do dzieci potrzebuje zasad dotyczących niedokładnych wyników, nieoczekiwanych poleceń, danych osobowych i interakcji odpowiednich do wieku.

NSmarties wprowadza więc jednocześnie dwa produkty. Jeden to widoczne doświadczenie klasowe. Drugi to niewidoczny system zarządzania, który decyduje, co AI może generować i co dzieje się z interakcjami uczniów.

Dlaczego Hongkong rozszerzył edukację o bezpieczeństwie narodowym z wykorzystaniem AI

NSmarties pojawia się, ponieważ edukacja o bezpieczeństwie narodowym jest już osadzona w programie nauczania Hongkongu, a nie dlatego, że policja nagle wkroczyła na otwarty rynek aplikacji edukacyjnych.

Pekin narzucił ustawę o bezpieczeństwie narodowym Hongkongu w czerwcu 2020 roku po masowych protestach z 2019 roku. Ustawa obejmuje secesję, działalność wywrotową, terroryzm i zmowę z siłami zagranicznymi.

Artykuł 10 wymaga od Hongkongu promowania edukacji o bezpieczeństwie narodowym poprzez szkoły, uniwersytety, organizacje społeczne, media i internet. Miasto wydało następnie szczegółowe instrukcje dla szkół podstawowych i średnich.

Biuro Edukacji twierdzi, że szkoły powinny uczyć o bezpieczeństwie narodowym poprzez wiele przedmiotów i działań. Jego podejście wykracza poza odrębne lekcje wiedzy o społeczeństwie, obejmując historię, geografię, naukę, technologię i inne obszary kształcenia.

Rządowe ramy programowe na 2025 rok opisują edukację o bezpieczeństwie narodowym jako odpowiedzialność całej szkoły. Wzywają do nauki w klasach i poza nimi, wspieranej przez kierownictwo szkoły i koordynację międzyprzedmiotową.

Ramy te wskazują, że całościowe podejście obejmuje 20 wzajemnie powiązanych dziedzin. Nakazują też szkołom rozwijanie u uczniów świadomości i poczucia odpowiedzialności za ochronę bezpieczeństwa narodowego.

Szczególną uwagę poświęca się edukacji podstawowej. Ramy określają ją jako etap fundamentowy i zalecają łączenie pojęć bezpieczeństwa z domem, szkołą i codziennym życiem.

Wskazują, że uczniowie szkół podstawowych powinni rozwijać tożsamość narodową, dumę narodową, szacunek dla zasad oraz zrozumienie rozwoju kraju. Szkoły nie muszą omawiać wszystkich 20 dziedzin w latach nauki podstawowej.

NSmarties ściśle odpowiada tej strategii. Spersonalizowane historie mogą umieszczać abstrakcyjne pojęcia w znajomych realiach, a quizy przekształcają program nauczania w mierzalne odpowiedzi.

Rząd już znacząco zainwestował we wdrażanie swoich ram. Biuro Edukacji poinformowało o niemal 800 powiązanych kursach szkoleniowych, które objęły nawet 76 000 nauczycieli.

Poinformowało również o ponad 560 warsztatach dla nauczycieli prowadzonych na miejscu oraz niemal 80 seminariach pogłębiających wiedzę między latami szkolnymi 2021/22 a 2024/25.

Liczby te pokazują, że NSmarties nie jest odosobnionym eksperymentem. Dołącza do dojrzałego programu administracyjnego obejmującego dokumenty programowe, szkolenia nauczycieli, zasoby internetowe, inspekcje i działania szkolne.

AI oferuje temu programowi trzy praktyczne korzyści. Może generować więcej treści, dostosowywać style prezentacji i standaryzować granice, w których odbywa się personalizacja.

Dla urzędników standaryzacja może ograniczać niespójne wyjaśnienia wrażliwych pojęć prawnych. Centralnie skonfigurowana platforma może powtarzać zatwierdzone definicje w różnych szkołach i klasach.

Dla nauczycieli generowane historie mogą skrócić czas przygotowań. Edukatorzy mogliby otrzymywać przykłady dostosowane do wieku bez tworzenia od podstaw każdego filmu, narracji czy quizu.

Dla uczniów system może przekształcać trudny język w konkretne sytuacje. Historia o kradzieży danych może ułatwiać zrozumienie cyberbezpieczeństwa bardziej niż lista definicji prawnych.

Korzyści te wyjaśniają, dlaczego platforma jest atrakcyjna dla administratorów. Nie rozstrzygają jednak, czy generowane doświadczenie edukacyjne wspiera otwarte dociekanie.

Istniejący program nauczania już ogranicza taką możliwość. W wyjaśnieniu z 2021 roku Biuro Edukacji stwierdziło, że bezpieczeństwo narodowe nie powinno być traktowane jako kontrowersyjny temat pozostawiający miejsce na debatę lub kompromis.

Urzędnicy argumentują, że stanowisko to przypomina nauczanie szacunku dla prawa i odpowiedzialności obywatelskiej. Odrzucają twierdzenia, że edukacja o bezpieczeństwie narodowym stanowi indoktrynację.

Krytycy inaczej oceniają te same ramy. Organizacje praw człowieka argumentują, że polityka bezpieczeństwa narodowego ogranicza wolność wypowiedzi, przekształca życie akademickie i zniechęca do podważania oficjalnych narracji.

NSmarties nasila ten spór, ponieważ personalizacja może sprawiać, że stałe stanowisko wydaje się konwersacyjne. System może odpowiadać w formacie przyjaznym dziecku, zachowując jednocześnie centralnie określone założenia.

Najważniejszym pytaniem nie jest więc to, czy AI czyni materiał bardziej angażującym. Niemal na pewno może to zrobić. Pytanie brzmi: jaki rodzaj zaangażowania szkoły mają rozwijać.

Interaktywny quiz może sprawdzać pamięć. Generowana historia może wzmacniać emocjonalną identyfikację. Żadne z nich nie uczy automatycznie porównywania dowodów, rozpoznawania niepewności ani badania konkurencyjnych interpretacji.

Własne polityki Hongkongu dotyczące kompetencji cyfrowych kładą nacisk na ocenę źródeł i odpowiedzialne korzystanie z technologii. NSmarties sprawdzi, czy te zasady odnoszą się w równym stopniu do oficjalnych treści generowanych przez AI.

Spersonalizowane uczenie się spotyka program nauczania bez miejsca na debatę

Główny konflikt dotyczy spersonalizowanego sposobu przekazu i z góry ustalonych wniosków, a nie klas z AI i tradycyjnych podręczników.

Spersonalizowane uczenie się zwykle obiecuje dostosowanie do sytuacji uczniów. System może zmieniać poziom trudności tekstu, przykłady, tempo lub informacje zwrotne na podstawie indywidualnych potrzeb.

Wydaje się, że NSmarties wykorzystuje personalizację w innym celu. Jej deklarowanym zadaniem jest ułatwienie uczniom przyswojenia określonych ram bezpieczeństwa narodowego.

To rozróżnienie nie czyni oprogramowania nieskutecznym. Zmienia standard, według którego należy oceniać jego wartość edukacyjną.

Jeśli sukces oznacza lepsze rozpoznawanie oficjalnych pojęć, generowane historie i quizy mogą działać dobrze. Jeśli sukces obejmuje niezależne rozumowanie, szkoły potrzebują dodatkowej przestrzeni na niezgodę i weryfikację.

Generatywna AI może tworzyć wrażenie eksploracji, ponieważ każda interakcja wydaje się nowa. Uczeń wybiera postać, kontekst lub polecenie, a system tworzy unikalny rezultat.

Personalizacja odbywa się jednak w wyznaczonych granicach. Instrukcje modelu, materiały źródłowe, filtry bezpieczeństwa i blokowane tematy określają, jak daleko może posunąć się rozmowa.

Taka struktura jest powszechna w edukacyjnej AI. Szkoły regularnie ograniczają szkodliwe treści i utrzymują narzędzia w zgodzie z celami lekcji.

NSmarties różni się tym, że jego podstawowy temat jest politycznie i prawnie wrażliwy. Edukacyjne granice platformy są nierozerwalnie związane ze stanowiskiem rządu w sprawie bezpieczeństwa narodowego.

Nauczyciela przedmiotów ścisłych można oceniać na podstawie uznanych równań lub dowodów eksperymentalnych. Opowieść o bezpieczeństwie narodowym może zawierać interpretacje prawne, ramy historyczne i oceny dotyczące obowiązków obywatelskich.

Elementy te wymagają większej przejrzystości w zakresie doboru źródeł. Nauczyciele muszą wiedzieć, na jakich dokumentach opierają się odpowiedzi oraz jak platforma radzi sobie z kwestiami spornymi.

Na przykład system ma podobno wyjaśniać hongkońskie przepisy dotyczące bezpieczeństwa narodowego. Nie jest jasne, czy generowane odpowiedzi rozróżniają ustawę z 2020 roku od uchwalonego lokalnie w 2024 roku Rozporządzenia o Ochronie Bezpieczeństwa Narodowego.

Nie wiadomo także, jak platforma odpowiada na pytania dotyczące krytyki ze strony organizacji międzynarodowych, zagranicznych rządów, dziennikarzy czy grup działających na rzecz praw człowieka.

Pełne ujęcie edukacyjne odróżniałoby oficjalne twierdzenia od zewnętrznej krytyki. Wyjaśniałoby również, które elementy dotyczą prawa, polityki, interpretacji lub argumentacji politycznej.

Władze Hongkongu twierdzą, że ramy bezpieczeństwa przywróciły stabilność po niepokojach z 2019 roku. Utrzymują, że zgodne z prawem prawa i wolności pozostają chronione.

Krytycy twierdzą, że egzekwowanie przepisów zawęziło przestrzeń obywatelską i wywołało efekt mrożący wobec ekspresji politycznej. Ocena sytuacji praw człowieka organizacji Human Rights Watch wskazuje, że system po 2020 roku znacząco ograniczył wolności.

Przedstawienie obu stanowisk nie wymagałoby od klasy poparcia któregokolwiek z nich. Pomogłoby uczniom zrozumieć, dlaczego przepisy te pozostają przedmiotem międzynarodowego sporu.

Jednak naleganie rządu, że bezpieczeństwo narodowe nie podlega debacie, utrudnia taką wyważoną strukturę. Chatbot nie może umożliwiać autentycznego dociekania, jeśli pewne wnioski są instytucjonalnie niedostępne.

Medium zmienia również rolę nauczyciela. W przypadku materiałów drukowanych pedagodzy mogą przejrzeć każdą linijkę przed lekcją i przygotować wokół niej pytania.

Generowanie w czasie rzeczywistym wprowadza treści, które mogą jeszcze nie istnieć, dopóki uczeń nie wejdzie w interakcję z systemem. Nauczyciele mogą nie widzieć każdej odpowiedzi w chwili jej pojawienia się.

Tworzy to wyzwanie związane z nadzorem, nawet gdy treści pozostają politycznie zgodne z założeniami. Modele językowe mogą wymyślać szczegóły, łączyć pojęcia lub tworzyć wyjaśnienia nieodpowiednie dla wieku.

Ściśle ograniczony system może zmniejszyć liczbę takich błędów. Może też ukrywać niepewność, udzielając uczniom pewnych odpowiedzi, które brzmią bardziej autorytatywnie, niż uzasadniają to dowody.

Narracja głosowa wykorzystująca głosy wysokich rangą urzędników może wzmacniać ten efekt autorytetu. Dzieci mogą postrzegać generowane wyjaśnienia jako bezpośrednie wskazówki instytucjonalne, a nie omylny rezultat pracy maszyny.

Szkoły potrzebują zatem wyraźnej edukacji dotyczącej AI i samej platformy. Uczniowie powinni rozumieć, że generowane treści są tworzone przez oprogramowanie i mogą zawierać błędy.

Nauczyciele powinni także móc pokazać uczniom, skąd pochodzi każde kluczowe twierdzenie. Cytaty lub linki do fragmentów źródeł uczyniłyby system bardziej odpowiedzialnym edukacyjnie.

Bez tych zabezpieczeń NSmarties ryzykuje pomylenie zaangażowania ze zrozumieniem. Uczeń może ukończyć dopracowaną historię i zdać quiz, nie ucząc się, jak oceniać twierdzenie.

W tym miejscu ujawnia się szersze znaczenie platformy. Rządy na całym świecie rozważają systemy AI na potrzeby edukacji publicznej, komunikacji obywatelskiej i wskazówek administracyjnych.

NSmarties stanowi wczesny przykład wykorzystania personalizacji AI do promowania definiowanych przez państwo wartości obywatelskich. Jego działanie będzie miało znaczenie poza Hongkongiem, ponieważ model łatwo odtworzyć.

Rząd może dostarczać oficjalne materiały, wyznaczać akceptowalne granice i pozwolić generatywnej AI tworzyć niekończące się, lokalnie dopasowane narracje. Takie podejście łatwiej skaluje się niż ręczne pisanie każdej lekcji.

Centralizuje też wpływ na środowisko informacyjne. Widoczne historie się różnią, ale podstawowe ramy interpretacyjne mogą pozostać spójne w tysiącach interakcji.

Powstały system nie jest ani zwykłym podręcznikiem, ani otwartym chatbotem. To spersonalizowany interfejs polityki publicznej dla dzieci.

Nierozstrzygnięte pytania dotyczą danych, dokładności i nadzoru

Najpilniejszym sprawdzianem będzie to, czy hongkońska policja i szkoły ujawnią, w jaki sposób NSmarties chroni dzieci i zarządza generowanymi treściami.

Materiały premierowe opisują, co uczniowie mogą tworzyć. Zawierają znacznie mniej publicznych szczegółów o tym, co platforma zbiera w trakcie ich tworzenia.

Personalizacja często wymaga pewnych informacji o użytkowniku lub sesji. Mogą one obejmować wybrane imię, grupę wiekową, zainteresowania, polecenia, odpowiedzi w quizach lub historię nauki.

Nie każdy spersonalizowany system tworzy trwały profil. Niektóre mogą generować treści na podstawie tymczasowych wyborów i usuwać interakcję po jej zakończeniu.

Publiczny opis NSmarties nie wskazuje, z jakiego modelu korzysta. Nie określa, czy polecenia opuszczają szkołę, czy dostawcy je zachowują ani czy dane szkolą przyszłe systemy.

Nie wyjaśnia też, czy uczniowie potrzebują indywidualnych kont. Te szczegóły określają skalę ryzyka dla prywatności.

Hongkong dysponuje już wytycznymi istotnymi dla takich pytań. Ramy AI Komisarza ds. Prywatności zachęcają organizacje do określania zasad zarządzania, kontroli ryzyka i obowiązków kierowniczych.

Biuro Edukacji również dostrzegło ten problem. W odpowiedzi dotyczącej polityki AI z 2025 roku podkreśliło prywatność, bezpieczeństwo danych, autentyczność, etykę i nadmierne uzależnienie.

W odpowiedzi stwierdzono, że niemal wszystkie publicznie finansowane szkoły podstawowe i średnie oferowały już rozszerzoną edukację w zakresie programowania lub AI na odpowiednich etapach nauki.

Wskazano również, że rząd wspierał infrastrukturę edukacyjną opartą na AI. Do marca 2025 roku około 400 szkół i 31 000 uczniów dołączyło do powiązanych projektów współpracy.

NSmarties trafia do systemu szkolnego, który już zmierza w kierunku wdrażania AI. Finansowanie przez policję, młoda grupa odbiorców i treści polityczne uzasadniają wyższy próg przejrzystości.

Co najmniej szkoły i rodzice potrzebują jasnej informacji o prywatności napisanej przystępnym językiem. Powinna ona wymieniać zbierane dane, okresy przechowywania, odbiorców oraz procedury usuwania.

Muszą również wiedzieć, czy platforma prowadzi analitykę dotyczącą poszczególnych uczniów. Wyniki quizów mogłyby stać się wrażliwe, gdyby powiązano je z poglądami na bezpieczeństwo narodowe lub postawami obywatelskimi.

Nie ma publicznych dowodów, że NSmarties wykorzystuje takie profilowanie. Brak opublikowanej dokumentacji technicznej pozostawia tę kwestię nierozstrzygniętą.

System potrzebuje także procesu zapewniania dokładności. Bezpieczeństwo narodowe obejmuje prawo, technologię, finanse, kulturę, zdrowie publiczne, ekologię i inne złożone dziedziny.

Żaden pojedynczy model generatywny nie będzie wiarygodnie odpowiadał na każde pytanie. Błędy mogą wynikać z nieaktualnych źródeł, niejednoznacznych poleceń lub zwykłych halucynacji modelu.

Szkoły powinny wiedzieć, kto zatwierdza bazę wiedzy i jak często jest ona aktualizowana. Powinny też wiedzieć, czy system cytuje źródło stojące za każdym generowanym twierdzeniem.

Równie ważny jest kanał zgłaszania problemów. Nauczyciele potrzebują bezpośredniego sposobu zgłaszania niedokładnych, nieodpowiednich lub mylących wyników oraz otrzymywania udokumentowanej odpowiedzi.

Niezależny audyt dodałby kolejną warstwę pewności. Recenzenci mogliby testować platformę za pomocą poleceń odpowiednich dla wieku, poleceń adwersarialnych oraz pytań ujawniających niejednoznaczność faktyczną lub prawną.

Wyniki nie muszą ujawniać konfiguracji wrażliwych z perspektywy bezpieczeństwa. Audytorzy nadal mogliby raportować kategorie błędów, spójność odpowiedzi, mechanizmy ochrony prywatności i praktyki naprawcze.

Dostęp dzieci wymaga szczególnej ostrożności. Wytyczne edukacyjne UNESCO zalecają projektowanie odpowiednie do wieku, ochronę prywatności i limity wieku dla samodzielnych rozmów z systemami generatywnymi.

Wytyczne te odzwierciedlają podstawową rzeczywistość. Młodsi uczniowie często nie potrafią odróżnić płynnej odpowiedzi od zweryfikowanej.

Sam nadzór dorosłych nie rozwiązuje każdego ryzyka. Nauczyciel nadzorujący całą klasę nie może stale sprawdzać każdej spersonalizowanej interakcji.

Platforma powinna zatem ograniczać otwarte wprowadzanie tekstu przez młodszych użytkowników. Powinna także unikać proszenia o osobiste doświadczenia, które dzieci mogą ujawnić bez zrozumienia konsekwencji.

Generowane filmy rodzą kolejne pytania. Jeśli uczniowie mogą tworzyć postacie, głosy lub wizerunki prawdziwych osób, system potrzebuje zasad dotyczących podszywania się i wprowadzających w błąd mediów.

Zgłaszane wykorzystanie głosów urzędników czyni pochodzenie treści szczególnie istotnym. Każdy wygenerowany klip powinien wyraźnie wskazywać, które fragmenty są oficjalnymi nagraniami, a które zostały wytworzone przez maszynę.

Na uwagę zasługuje również dostępność. Szkoły muszą wiedzieć, jak platforma obsługuje uczniów z niepełnosprawnościami, ograniczoną biegłością w czytaniu lub różnymi językami używanymi w domu.

Spersonalizowany system nie powinien tworzyć nierównych doświadczeń tylko dlatego, że niektórzy uczniowie piszą skuteczniejsze polecenia. Ustrukturyzowane opcje i kontrola nauczyciela mogą zmniejszyć tę różnicę.

Platforma potrzebuje także jasnych ograniczeń dotyczących oceniania. Quiz może sprawdzać, czy uczniowie rozpoznają oficjalną terminologię, ale nie powinien być traktowany jako miara lojalności politycznej.

Szkoły powinny ujawnić, czy wyniki wpływają na oceny, rejestry zachowania lub raportowanie administracyjne. Opis premiery nie potwierdził takiego zastosowania.

Wreszcie obowiązki w zakresie zarządzania muszą zostać jasno podzielone między policję, Biuro Edukacji, szkoły i Qianfan Technology.

Rodzice muszą wiedzieć, kto pełni funkcję administratora danych. Nauczyciele muszą wiedzieć, kto obsługuje błędy. Dyrektorzy szkół muszą wiedzieć, kto zatwierdza przyszłe zmiany modelu.

Bez takiego podziału odpowiedzialność może zniknąć między agencjami i dostawcami. Gdy pojawi się problem, każdy uczestnik może wskazywać na innego.

Pytania te nie są argumentami przeciwko edukacyjnej AI. Są minimalnymi warunkami odpowiedzialnej oceny systemu skierowanego do dzieci.

Trzy sygnały pokażą, czym NSmarties stanie się dalej

Znaczenie platformy będzie zależeć od ujawniania informacji, wdrażania jej przez szkoły i dowodów na to, jak dzieci faktycznie jej doświadczają.

Pierwszym sygnałem będzie publiczny dokument techniczny i dotyczący prywatności. Policja lub urzędnicy oświatowi powinni wskazać architekturę modelu, przepływy danych, zasady przechowywania i proces przeglądu.

Taki dokument wzmocniłby twierdzenie, że NSmarties stanowi odpowiedzialną innowację edukacyjną. Dalsze milczenie pogłębiłoby obawy dotyczące rozliczalności.

Drugim sygnałem będzie mierzalne wdrożenie. Urzędnicy oświadczyli, że platforma trafia do szkół, lecz podczas premiery nie przedstawiono pełnego harmonogramu wdrożenia.

Obserwatorzy powinni śledzić, ile szkół korzysta z NSmarties, które grupy wiekowe go otrzymują oraz czy uczestnictwo jest obowiązkowe.

Ograniczony pilotaż prowadzony przez nauczycieli miałby inne konsekwencje niż indywidualny dostęp w całym regionie. Publiczne dane dotyczące wdrożenia wyjaśniłyby rzeczywistą skalę projektu.

Szkoły powinny także ujawnić, jak NSmarties wpisuje się w ich programy nauczania. Sporadyczne działania pod nadzorem rodzą inne pytania edukacyjne niż regularne lekcje lub oceniane zadania.

Trzecim sygnałem będzie jakość niezależnych dowodów z klas. Opisy rządowe podkreślają zaangażowanie, lecz samo zaangażowanie nie może dowodzić uczenia się.

Przydatna ocena mierzyłaby zapamiętywanie faktów, świadomość źródeł, niezależne rozumowanie oraz zdolność uczniów do rozpoznawania błędów wygenerowanych przez AI.

Powinno to również obejmować doświadczenia nauczycieli. Pedagodzy mogą ocenić, czy platforma skraca czas przygotowań, tworzy materiały nadające się do użycia, czy też wymaga ciągłych poprawek.

Rodzice i uczniowie również powinni mieć głos w tej ocenie. Ich opinie mogą ujawnić, czy dzieci rozumieją narzędzie, czują z jego powodu presję lub nieoczekiwanie ujawniają informacje.

Niezależni badacze powinni mieć możliwość analizowania reprezentatywnych wyników. Taki dostęp pozwoliłby porównać odpowiedzi w zależności od promptów, wieku uczniów i kontrowersyjnych tematów.

Kluczowe pytanie nie brzmi, czy NSmarties potrafi stworzyć atrakcyjną historię. Współczesne systemy generatywne potrafią to z łatwością.

Pytanie brzmi, czy personalizacja poszerza zrozumienie, czy jedynie usprawnia przekazywanie z góry ustalonego komunikatu.

Dla władz Hongkongu platforma oferuje skalowalny sposób połączenia polityki bezpieczeństwa narodowego z codziennym życiem szkolnym. Dla krytyków umieszcza perswazyjną technologię w ramach i tak już ograniczonego programu edukacji obywatelskiej.

Obie oceny wskazują na tę samą potrzebę: weryfikowalne dowody dotyczące działania i wpływu.

Dyrektorzy szkół powinni zażądać pisemnych odpowiedzi przed rozszerzeniem dostępu. Rodzice powinni pytać, jakie informacje otrzymuje platforma i czy dzieci mogą zrezygnować z udziału.

Nauczyciele powinni sprawdzać generowane twierdzenia w zestawieniu z dokumentami źródłowymi. Powinni też uczynić sam system elementem edukacji w zakresie AI.

Uczniowie zasługują na zrozumienie, że płynnie sformułowana odpowiedź nie jest tym samym co ustalony fakt. Zasługują również na jasne granice dotyczące sposobu wykorzystywania ich promptów i odpowiedzi w quizach.

Hongkońska policyjna platforma AI jest zatem sprawdzianem przejrzystości instytucjonalnej w takim samym stopniu jak technologii edukacyjnej. Jej następna publikacja dokumentacji ma większe znaczenie niż kolejna demonstracja promocyjna.

Czy urzędnicy opublikują zabezpieczenia, zasady dotyczące źródeł oraz dowody z klas potrzebne do publicznej kontroli? Dopóki tego nie zrobią, NSmarties należy traktować jako system polityczny o istotnych konsekwencjach, a nie jedynie angażującą aplikację szkolną.