홍콩 경찰 AI 플랫폼, 국가안보 수업을 개인화하지만 토론은 제한

홍콩 경찰은 10월 6일 학생들을 위한 AI 플랫폼을 출시하며, 처음으로 개인화된 국가안보 이야기를 교실에 도입했다. 이 시스템은 정부가 규정한 수업 내용을 학생 개개인을 위한 이야기책, 짧은 동영상, 퀴즈로 생성한다.

홍콩 경찰의 AI 플랫폼 이름은 NSmarties AI Interactive Platform이다. 경찰과 Hong Kong Qianfan Technology는 중국의 20개 분야를 아우르는 총체적 국가안보 관점을 토대로 이 플랫폼을 개발했다. Ap Lei Chau의 Sea View Precious Blood Primary School에서 열린 출시 행사에는 약 700명의 학생이 참석했다.

이는 단순히 새로운 교실용 웹사이트를 추가한 변화가 아니다. 홍콩은 이미 학교 시스템 전반에서 국가안보 교육을 의무화하고 있다. NSmarties는 생성형 AI를 도입해, 이 교육의 일부를 고정된 자료에서 제작 규칙이 대부분 공개되지 않은 개인화·상호작용 콘텐츠로 옮긴다.

홍콩 경찰 AI 플랫폼, 정책을 개인화된 이야기로 전환하다

NSmarties는 정부의 근본적인 교육과정을 바꾸지는 않더라도, 국가안보 메시지가 어린이에게 전달되는 방식을 바꾼다.

이 플랫폼은 실시간 생성형 AI를 활용해 개인화된 이야기책과 짧은 동영상을 만든다. 학생들은 국가안보 개념에 대한 이해도를 점검하는 상호작용형 질문에도 답할 수 있다.

이 형식이 중요한 이유는 생성형 AI가 승인된 텍스트를 단순히 보여주는 데 그치지 않기 때문이다. 학생의 프롬프트, 관심사 또는 선택한 상황에 맞춰 정보를 재구성할 수 있다. 따라서 수업은 교과서의 고정된 페이지가 아니라 생성된 상호작용이 된다.

NSmarties 출시에 따르면, 관계자들은 이 시스템을 복잡한 법률 및 안보 개념을 이해하기 쉽게 만드는 새로운 방식으로 소개했다. 이 플랫폼에는 경찰청장 Joe Chow와 보안장관 Chris Tang의 내레이션 설명도 포함된 것으로 전해졌다.

고위 안보 당국자의 참여는 자료에 제도적 목소리를 부여한다. 또한 NSmarties를 개별 교사가 선택하는 일반적인 교실 소프트웨어와 구분 짓는다.

경찰은 2026년 4월 국가안보 교육의 날에 처음으로 이 플랫폼을 공개했다. 10월 출시는 공개 시연 단계에서 새 학년도를 위한 학교 중심 서비스로 전환됐음을 의미했다.

출시 행사는 기술 콘퍼런스나 경찰 시설이 아니라 초등학교 안에서 열렸다. 이는 의도된 이용자를 분명하게 보여줬다. NSmarties는 경찰이 제작한 국가안보 자료를 어린이의 학습 환경 안에 직접 배치하도록 설계됐다.

관계자들은 이 플랫폼이 중국의 총체적 국가안보 체계에 포함된 20개 분야를 다룬다고 밝혔다. 이 분야들은 치안과 국방을 넘어 기술, 금융, 문화, 생태, 식량, 사이버보안 등을 포함한다.

이처럼 넓은 범위는 시스템이 콘텐츠를 생성할 상당한 여지를 제공한다. 어린이는 온라인 행동, 환경 보호, 문화적 정체성 또는 신흥 기술에 관한 이야기를 통해 국가안보를 접할 수 있다.

플랫폼의 알려진 기능은 상호작용형 공공 교육으로의 더 광범위한 흐름과도 맞닿아 있다. 홍콩 경찰은 이전에도 퀴즈, 경연대회, 홍보 차량, 학교 행사를 활용해 안보 개념을 전달해 왔다.

2024년에는 부처 간 프로그램이 AI 챗봇과 상호작용형 안전 게임을 학교에 도입했다. 경찰은 초등학생과 중등학생을 위한 국가안보 경연대회와 기술 행사도 조직했다.

NSmarties는 이러한 아이디어를 하나의 반복 가능한 디지털 서비스로 통합한다. 방문형 전시와 달리, 행사가 끝난 뒤에도 계속 이용할 수 있고 매 세션마다 새로운 자료를 생성할 수 있다.

경찰은 이러한 개인화가 수동적 학습을 능동적 참여로 전환하는 방법이라고 설명한다. 인터페이스 수준에서는 그 약속이 그럴듯하다. 어린이는 일반적으로 인쇄된 유인물보다 상호작용형 이야기에서 더 많은 선택지를 갖는다.

그러나 인터페이스상의 선택이 반드시 지적 선택을 만들어내는 것은 아니다. 플랫폼은 허용되는 모든 결론을 좁은 범위 안에 유지하면서도 수많은 인물과 이야기 배경을 제공할 수 있다.

이 구분은 NSmarties를 둘러싼 핵심 긴장을 만든다. 이 플랫폼은 학생들이 전제에 의문을 제기할 더 큰 자유를 주지 않으면서도 수업을 더 개인적으로 느끼게 할 수 있다.

출시 발표에서는 기반이 되는 언어 모델을 공개적으로 밝히지 않았다. 또한 학생들이 보기 전에 교사가 생성된 이야기를 검토하거나 수정할 수 있는지도 설명하지 않았다.

상세한 공개 문서에는 시스템 프롬프트, 콘텐츠 필터, 보존 기간 또는 오류 신고 절차가 설명되지 않았다. 이러한 누락이 보호 장치가 없다는 사실을 입증하는 것은 아니다. 다만 외부 관찰자가 출시 자료만으로 이를 평가할 수 없다는 뜻이다.

학교에 이러한 운영 세부 사항은 기술적 각주가 아니라 핵심 사안이다. 어린이를 대상으로 하는 생성형 시스템에는 부정확한 출력, 예기치 않은 프롬프트, 개인정보, 연령에 적합한 상호작용에 대한 규칙이 필요하다.

따라서 NSmarties는 동시에 두 가지 제품을 도입한다. 하나는 눈에 보이는 교실 경험이다. 다른 하나는 AI가 무엇을 생성할 수 있는지와 학생 상호작용에 어떤 일이 일어나는지를 결정하는 보이지 않는 거버넌스 시스템이다.

홍콩이 AI로 국가안보 교육을 확대한 이유

NSmarties가 등장한 이유는 경찰이 갑자기 학습 앱의 개방 시장에 진입했기 때문이 아니라, 국가안보 교육이 이미 홍콩 교육과정 전반에 자리 잡고 있기 때문이다.

베이징은 2019년 대규모 시위 이후인 2020년 6월 홍콩 국가보안법을 부과했다. 이 법은 분리, 전복, 테러, 외국 세력과의 결탁을 다룬다.

제10조는 홍콩이 학교, 대학, 사회단체, 언론, 인터넷을 통해 국가안보 교육을 촉진하도록 요구한다. 이후 홍콩은 초등학교와 중등학교를 위한 상세 지침을 발표했다.

교육국은 학교가 여러 과목과 활동을 통해 국가안보를 가르쳐야 한다고 밝힌다. 이 접근 방식은 전용 시민 교육 수업을 넘어 역사, 지리, 과학, 기술 및 기타 학습 영역으로 확장된다.

정부의 2025 교육과정 체계는 국가안보 교육을 학교 전체의 책임으로 설명한다. 학교 지도부와 교과 간 협력을 바탕으로 교실 안팎의 학습을 요구한다.

이 체계는 총체적 접근법이 상호 연결된 20개 분야를 포함한다고 밝힌다. 또한 학교가 국가안보 수호에 대한 학생들의 인식과 책임감을 길러야 한다고 지시한다.

초등 교육은 특히 주목받는다. 이 체계는 이를 기초 단계로 규정하고, 안보 개념을 가정, 학교, 일상생활과 연결할 것을 권고한다.

초등학생은 국가 정체성, 국가적 자긍심, 규칙 존중, 국가 발전에 대한 이해를 길러야 한다고 명시한다. 학교가 초등 과정에서 20개 분야를 모두 다룰 필요는 없다.

NSmarties는 이 전략과 밀접하게 맞아떨어진다. 개인화된 이야기는 추상적인 개념을 친숙한 환경에 배치할 수 있고, 퀴즈는 교육과정을 측정 가능한 응답으로 전환한다.

정부는 이미 이 체계를 시행하는 데 상당한 투자를 했다. 교육국은 관련 교육 과정 약 800개가 최대 7만6,000명의 교사에게 제공됐다고 보고했다.

또한 2021/22학년도부터 2024/25학년도 사이에 560회 이상의 현장 교사 워크숍과 약 80회의 심화 세미나가 열렸다고 밝혔다.

이 수치는 NSmarties가 고립된 실험이 아님을 보여준다. 이는 교육과정 문서, 교사 교육, 온라인 자료, 점검, 학교 활동을 갖춘 성숙한 행정 프로그램에 합류한다.

AI는 이 프로그램에 세 가지 실질적 이점을 제공한다. 더 많은 콘텐츠를 생성하고, 표현 방식을 조정하며, 개인화가 이뤄지는 경계를 표준화할 수 있다.

관계자들에게 표준화는 민감한 법률 개념에 대한 일관되지 않은 설명을 줄일 수 있다. 중앙에서 구성된 플랫폼은 서로 다른 학교와 교실에서 승인된 정의를 반복할 수 있다.

교사에게 생성된 이야기는 준비 시간을 줄일 수 있다. 교육자는 모든 동영상, 서사, 퀴즈를 처음부터 만들지 않고도 연령에 맞춘 사례를 얻을 수 있다.

학생에게 이 시스템은 어려운 언어를 구체적 상황으로 바꿀 수 있다. 데이터 절도에 관한 이야기는 법률 정의 목록보다 사이버보안을 더 쉽게 이해하게 할 수 있다.

이러한 이점은 이 플랫폼이 행정가들에게 매력적인 이유를 설명한다. 그러나 생성된 학습 경험이 열린 탐구를 지원하는지에 대한 문제를 해결하지는 못한다.

기존 교육과정은 이미 그러한 가능성을 제한한다. 교육국은 2021년 설명에서 국가안보를 토론이나 타협의 여지가 있는 논쟁적 주제로 취급해서는 안 된다고 밝혔다.

관계자들은 이 입장이 법 존중과 시민적 책임을 가르치는 일과 유사하다고 주장한다. 국가안보 교육이 세뇌에 해당한다는 주장도 반박한다.

비판자들은 같은 체계를 다르게 본다. 인권 단체들은 국가안보 정책이 표현을 제한하고, 학문적 삶을 재편하며, 공식적 설명에 대한 이의를 위축시킨다고 주장해 왔다.

NSmarties는 개인화가 고정된 입장을 대화처럼 느끼게 할 수 있기 때문에 이러한 의견 차이를 심화시킨다. 시스템은 중앙에서 결정된 전제를 유지하면서도 어린이 친화적 형식으로 응답할 수 있다.

따라서 중요한 질문은 AI가 자료를 더 흥미롭게 만드는지가 아니다. 거의 확실히 그럴 수 있다. 문제는 학교가 어떤 종류의 참여를 길러야 한다는 요구를 받는가이다.

상호작용형 퀴즈는 기억을 시험할 수 있다. 생성된 이야기는 정서적 동일시를 강화할 수 있다. 어느 쪽도 학생에게 증거를 비교하고, 불확실성을 식별하며, 경쟁하는 해석을 검토하도록 자동으로 가르치지는 않는다.

홍콩의 디지털 리터러시 정책은 출처 평가와 책임 있는 기술 사용을 강조한다. NSmarties는 이러한 원칙이 공식 AI 생성 콘텐츠에도 똑같이 적용되는지를 시험하게 될 것이다.

개인화 학습과 토론의 여지가 없는 교육과정의 만남

핵심 충돌은 AI 교실과 전통 교과서 사이가 아니라, 개인화된 전달 방식과 미리 정해진 결론 사이에 있다.

개인화 학습은 대체로 학생의 현재 수준에 맞추겠다고 약속한다. 시스템은 개인별 필요에 따라 읽기 난이도, 사례, 속도 또는 피드백을 바꿀 수 있다.

NSmarties는 개인화를 다른 목적으로 활용하는 것으로 보인다. 알려진 목표는 학생들이 정해진 국가안보 체계를 더 쉽게 받아들이도록 만드는 것이다.

이 구분이 소프트웨어를 비효율적으로 만드는 것은 아니다. 다만 교육적 가치를 평가해야 하는 기준을 바꾼다.

성공이 공식 개념에 대한 인식을 높이는 것을 뜻한다면, 생성된 이야기와 퀴즈는 좋은 성과를 낼 수 있다. 성공에 독립적 추론까지 포함된다면, 학교에는 이견과 검증을 위한 추가 공간이 필요하다.

생성형 AI는 모든 상호작용이 새롭게 느껴지기 때문에 탐색의 인상을 만들 수 있다. 학생은 인물, 맥락 또는 프롬프트를 선택하고, 시스템은 고유한 결과를 생성한다.

그러나 개인화는 정해진 범위 안에서 이루어진다. 모델의 지침, 원본 자료, 안전 필터, 차단된 주제가 대화가 어디까지 이어질 수 있는지를 결정한다.

이런 구조는 교육용 AI 전반에서 흔히 볼 수 있다. 학교는 유해 콘텐츠를 일상적으로 제한하고, 도구가 수업 목표에 맞게 작동하도록 관리한다.

NSmarties가 다른 이유는 그 기반 주제가 정치적·법적으로 민감하기 때문이다. 이 서비스의 교육적 경계는 국가안보에 대한 정부의 입장과 분리할 수 없다.

과학 튜터는 정립된 방정식이나 실험적 증거를 기준으로 평가할 수 있다. 국가안보 관련 이야기는 법적 해석, 역사적 맥락 설정, 시민적 의무에 관한 판단을 포함할 수 있다.

이런 요소는 자료 선정에 대해 더 높은 투명성을 요구한다. 교사들은 어떤 문서가 답변의 근거가 되는지, 또 플랫폼이 논쟁적인 질문을 어떻게 다루는지 알아야 한다.

예를 들어, 이 시스템은 홍콩의 국가안보법을 설명하는 것으로 알려졌다. 생성된 답변이 2020년 법과 2024년에 홍콩에서 제정된 국가안보 수호 조례를 구분하는지는 여전히 불분명하다.

국제기구, 외국 정부, 언론인 또는 인권 단체의 비판에 관한 질문을 플랫폼이 어떻게 처리하는지도 분명하지 않다.

완전한 교육적 설명이라면 정부의 주장과 외부의 비판을 구분해야 한다. 또한 어떤 부분이 법, 정책, 해석 또는 정치적 주장에 해당하는지도 설명해야 한다.

홍콩 당국은 안보 체계가 2019년 소요 사태 이후 안정을 회복했다고 말한다. 당국은 합법적인 권리와 자유가 계속 보호되고 있다고 주장한다.

비판자들은 법 집행이 시민사회의 공간을 축소하고 정치적 표현을 위축시켰다고 말한다. Human Rights Watch의 인권 평가는 2020년 이후의 체제가 자유를 크게 제한했다고 주장한다.

두 입장을 함께 제시한다고 해서 교실이 어느 한쪽을 지지해야 하는 것은 아니다. 이는 학생들이 왜 해당 법률이 국제적으로 계속 논쟁의 대상인지 이해하는 데 도움이 될 것이다.

하지만 국가안보는 토론의 대상이 아니라는 정부의 강한 입장은 이런 균형 잡힌 구조를 어렵게 만든다. 일부 결론이 제도적으로 허용되지 않는다면 챗봇은 진정한 탐구를 촉진할 수 없다.

매체의 특성은 교사의 역할도 바꾼다. 인쇄물의 경우 교육자는 수업 전에 모든 문장을 검토하고 이에 맞춘 질문을 준비할 수 있다.

실시간 생성은 학생이 시스템과 상호작용하기 전까지 존재하지 않을 수 있는 콘텐츠를 도입한다. 교사는 모든 답변이 나타나는 순간 이를 확인하지 못할 수 있다.

이는 콘텐츠가 정치적 방향성과 일치하더라도 감독상의 과제를 만든다. 언어 모델은 세부 정보를 지어내거나, 개념을 혼합하거나, 연령에 부적절한 설명을 만들 수 있다.

엄격하게 제한된 시스템은 이런 오류를 줄일 수 있다. 그러나 불확실성을 감춰, 근거가 뒷받침하는 수준보다 더 권위적으로 들리는 자신감 있는 답변을 학생에게 제공할 수도 있다.

고위 당국자의 음성 내레이션은 이러한 권위 효과를 강화할 수 있다. 아이들은 생성된 설명을 오류 가능성이 있는 기계 출력이 아니라 직접적인 제도권 지침으로 받아들일 수 있다.

따라서 학교는 플랫폼 자체에 관한 명확한 AI 리터러시 교육을 제공해야 한다. 학생들은 생성된 콘텐츠가 소프트웨어로 구성되며 오류를 포함할 수 있다는 점을 이해해야 한다.

교사들은 각 핵심 주장이 어디에서 비롯됐는지도 학생들에게 보여줄 수 있어야 한다. 인용이나 연결된 원문 자료는 시스템의 교육적 책임성을 높일 수 있다.

이런 안전장치가 없다면 NSmarties는 참여를 이해와 혼동할 위험이 있다. 학생은 주장 평가 방법을 배우지 못한 채 완성도 높은 이야기를 마치고 퀴즈를 통과할 수 있다.

여기서 플랫폼의 더 넓은 중요성이 드러난다. 전 세계 정부는 공교육, 시민 소통, 행정 안내를 위한 AI 시스템을 검토하고 있다.

NSmarties는 국가가 정의한 시민적 가치에 AI 개인화를 적용한 초기 사례를 제시한다. 이 모델은 쉽게 재현할 수 있기 때문에 그 성과는 홍콩 밖에서도 중요할 것이다.

정부는 공식 자료를 제공하고 허용 가능한 경계를 설정한 뒤, 생성형 AI가 끝없이 지역화된 서사를 만들도록 할 수 있다. 이 접근법은 모든 수업을 수작업으로 작성하는 것보다 더 쉽게 확장된다.

또한 정보 환경에 대한 영향력을 중앙집중화한다. 눈에 보이는 이야기는 달라질 수 있지만, 그 바탕의 틀은 수천 건의 상호작용에서 일관되게 유지될 수 있다.

그 결과물은 일반 교과서도, 개방형 챗봇도 아니다. 이는 아동을 위한 개인화된 정책 인터페이스다.

답이 나오지 않은 질문은 데이터, 정확성, 감독에 관한 것이다

가장 시급한 검증 과제는 홍콩 경찰과 학교가 NSmarties가 아동을 보호하고 생성 콘텐츠를 관리하는 방식을 공개하는지 여부다.

출시 자료는 학생들이 무엇을 만들 수 있는지 설명한다. 하지만 제작 과정에서 플랫폼이 무엇을 수집하는지에 관한 공개 정보는 훨씬 적다.

개인화에는 흔히 사용자 또는 세션에 관한 일부 정보가 필요하다. 여기에는 선택한 이름, 연령대, 관심사, 프롬프트, 퀴즈 응답 또는 학습 이력이 포함될 수 있다.

모든 개인화 시스템이 영구 프로필을 만드는 것은 아니다. 일부 시스템은 일시적인 선택을 바탕으로 콘텐츠를 생성하고, 이후 상호작용 기록을 삭제할 수 있다.

NSmarties에 대한 공개 설명은 어떤 모델을 사용하는지 밝히지 않는다. 프롬프트가 학교 밖으로 전송되는지, 공급업체가 이를 보관하는지, 데이터가 향후 시스템 학습에 사용되는지도 명시하지 않는다.

학생에게 개별 계정이 필요한지 역시 설명하지 않는다. 이런 세부 사항은 개인정보 위험의 규모를 결정한다.

홍콩에는 이미 이런 질문과 관련된 지침이 있다. 개인정보보호위원회의 AI 프레임워크는 조직이 거버넌스, 위험 통제, 관리 책임을 정의하도록 권고한다.

교육국 역시 이 문제를 인식하고 있다. 2025년 AI 정책 대응에서 교육국은 개인정보 보호, 데이터 보안, 진정성, 윤리, 과도한 의존을 강조했다.

이 대응 문서는 관련 학습 단계에서 거의 모든 공적 지원 초등학교와 중등학교가 이미 심화 코딩 또는 AI 교육을 제공하고 있다고 밝혔다.

또한 정부가 AI 기반 교육 인프라를 지원하고 있다고 설명했다. 2025년 3월까지 약 400개 학교와 3만1,000명의 학생이 관련 협력 프로젝트에 참여했다.

NSmarties는 이미 AI 도입으로 나아가고 있는 학교 시스템에 진입한다. 경찰의 후원, 어린 이용자층, 정치적 콘텐츠는 더 높은 수준의 투명성을 정당화한다.

최소한 학교와 학부모에게는 이해하기 쉬운 언어로 작성된 명확한 개인정보 처리방침이 필요하다. 여기에는 수집 데이터, 보관 기간, 수령자, 삭제 절차가 명시돼야 한다.

또한 플랫폼이 개별 학생에 대한 분석을 수행하는지도 알아야 한다. 국가안보 또는 시민적 태도에 관한 견해와 연결될 경우 퀴즈 성과는 민감한 정보가 될 수 있다.

NSmarties가 이런 프로파일링을 사용한다는 공개 증거는 없다. 공개된 기술 문서가 없기 때문에 이 문제는 해결되지 않은 채 남아 있다.

시스템에는 정확성 검증 절차도 필요하다. 국가안보는 법, 기술, 금융, 문화, 공중보건, 생태 및 기타 복잡한 주제를 아우른다.

단 하나의 생성형 모델이 모든 질문에 신뢰성 있게 답할 수는 없다. 오래된 자료, 모호한 프롬프트 또는 일반적인 모델 환각으로 오류가 발생할 수 있다.

학교는 누가 지식 기반을 승인하는지, 또 얼마나 자주 업데이트되는지 알아야 한다. 시스템이 생성된 각 주장 뒤의 출처를 인용하는지도 알아야 한다.

신고 채널도 마찬가지로 중요하다. 교사는 부정확하거나 부적절하거나 혼란스러운 출력을 직접 신고하고, 문서화된 대응을 받을 수 있어야 한다.

독립적인 감사는 또 다른 보장 장치를 더할 수 있다. 검토자는 연령에 적합한 프롬프트, 적대적 프롬프트, 사실적 또는 법적 모호성을 드러내는 질문으로 플랫폼을 시험할 수 있다.

결과가 안보상 민감한 설정을 공개할 필요는 없다. 감사자는 여전히 오류 범주, 응답 일관성, 개인정보 보호 통제, 개선 조치를 보고할 수 있다.

아동의 접근에는 특별한 주의가 필요하다. UNESCO의 교육 지침은 생성형 시스템과의 독립적 대화를 위한 연령 적합 설계, 개인정보 보호, 연령 제한을 권고한다.

이 지침은 기본적인 현실을 반영한다. 어린 학생들은 유창한 답변과 검증된 답변을 구분하지 못하는 경우가 많다.

성인의 감독만으로는 모든 위험을 해결할 수 없다. 학급 전체를 관리하는 교사가 모든 개인화 상호작용을 계속 확인할 수는 없다.

따라서 플랫폼은 어린 이용자의 개방형 입력을 최소화해야 한다. 또한 아이들이 결과를 이해하지 못한 채 개인적 경험을 공개할 수 있는 질문도 피해야 한다.

생성된 동영상은 추가적인 질문을 낳는다. 학생들이 실제 인물의 캐릭터, 음성 또는 묘사를 만들 수 있다면 시스템에는 사칭과 오해를 부르는 미디어에 대한 규칙이 필요하다.

당국자 음성의 사용이 보고된 만큼 출처 표시는 특히 중요하다. 생성된 모든 클립은 어느 부분이 공식 녹음이고 어느 부분이 기계로 제작됐는지 명확히 보여줘야 한다.

접근성도 주목할 필요가 있다. 학교는 장애가 있거나 읽기 능력이 제한적이거나 가정에서 사용하는 언어가 다른 학생들에게 플랫폼이 어떻게 제공되는지 알아야 한다.

개인화 시스템은 일부 학생이 더 효과적인 프롬프트를 작성한다는 이유로 불평등한 경험을 만들어서는 안 된다. 구조화된 선택지와 교사 제어 기능은 그 격차를 줄일 수 있다.

플랫폼에는 평가에 관한 명확한 한계도 필요하다. 퀴즈는 학생이 공식 용어를 인식하는지 확인할 수 있지만, 정치적 충성도를 측정하는 수단으로 취급돼서는 안 된다.

학교는 결과가 성적, 생활기록 또는 행정 보고에 영향을 미치는지 공개해야 한다. 출시 설명은 그러한 활용을 확인하지 않았다.

마지막으로 경찰, 교육국, 학교, Qianfan Technology 사이의 거버넌스 책임을 명확히 나눠야 한다.

학부모는 누가 데이터 관리자인지 알아야 한다. 교사는 누가 오류를 처리하는지 알아야 한다. 학교 관리자는 누가 향후 모델 변경을 승인하는지 알아야 한다.

이런 구분이 없다면 기관과 공급업체 사이에서 책임성이 사라질 수 있다. 문제가 발생하면 각 참여자가 다른 쪽을 가리킬 수 있다.

이 질문들은 교육용 AI에 반대하는 주장이 아니다. 아동 대상 시스템을 책임 있게 평가하기 위한 최소 조건이다.

세 가지 신호가 NSmarties의 다음 모습을 보여줄 것이다

플랫폼의 중요성은 공개, 학교 도입, 그리고 아동이 실제로 이를 어떻게 경험하는지에 관한 증거에 달려 있다.

첫 번째 신호는 공개 기술 및 개인정보 문서다. 경찰 또는 교육 당국은 모델 아키텍처, 데이터 흐름, 보관 규칙, 검토 절차를 밝혀야 한다.

그런 문서는 NSmarties가 책임 있는 교육 혁신을 보여준다는 주장을 강화할 것이다. 침묵이 계속되면 책임성에 대한 우려는 더 커질 것이다.

두 번째 신호는 측정 가능한 도입이다. 당국자들은 플랫폼이 학교에 도입되고 있다고 말했지만, 출시는 완전한 배포 일정을 제공하지 않았다.

관찰자들은 얼마나 많은 학교가 NSmarties를 사용하는지, 어떤 연령대가 이용하는지, 참여가 의무인지 지켜봐야 한다.

제한적인 교사 주도 시험 운영은 전 지역의 개별 접근과는 다른 의미를 지닌다. 공개적인 도입 수치는 프로젝트의 실제 규모를 명확히 할 것이다.

학교는 NSmarties가 교육과정에 어떻게 들어맞는지도 공개해야 한다. 가끔 이뤄지는 감독 활동은 정규 수업이나 평가 과제와는 다른 교육적 질문을 제기한다.

세 번째 신호는 독립적인 교실 현장 증거의 질이다. 정부 설명은 참여를 강조하지만, 참여만으로 학습을 입증할 수는 없다.

유용한 평가는 사실 기억, 출처 인식, 독립적 추론, 그리고 학생이 AI 생성 오류를 알아차리는 능력을 측정해야 한다.

교사들의 경험도 포함되어야 한다. 교육자들은 이 플랫폼이 수업 준비 시간을 절약하는지, 활용 가능한 자료를 만들어 내는지, 아니면 지속적인 수정이 필요한지 판단할 수 있다.

학부모와 학생도 그 검토 과정에서 의견을 낼 필요가 있다. 이들의 피드백은 아이들이 도구를 이해하는지, 이를 부담스럽게 느끼는지, 혹은 예상치 못하게 정보를 공개하는지를 드러낼 수 있다.

독립 연구자들은 대표적인 결과물을 검토할 수 있어야 한다. 이러한 접근은 프롬프트, 학생 연령, 논쟁적인 주제에 따른 결과를 비교할 수 있게 해준다.

핵심 쟁점은 NSmarties가 매력적인 이야기를 만들어 낼 수 있는지 여부가 아니다. 현대의 생성형 시스템은 이를 쉽게 해낼 수 있다.

문제는 개인화가 이해를 넓히는지, 아니면 미리 정해진 메시지의 전달 방식을 개선할 뿐인지에 있다.

홍콩 당국에 이 플랫폼은 국가안보 정책을 일상적인 학교생활과 연결하는 확장 가능한 수단을 제공한다. 비판론자들에게는 이미 제약된 시민 교육 과정 안에 설득 기술을 들여놓는 것으로 보인다.

두 판단 모두 같은 필요성을 가리킨다. 즉, 운영 방식과 영향에 관한 검증 가능한 증거가 필요하다는 것이다.

학교 지도자들은 접근 권한을 확대하기 전에 서면 답변을 요구해야 한다. 학부모들은 플랫폼이 어떤 정보를 받는지, 아이들이 참여를 거부할 수 있는지 물어야 한다.

교사들은 생성된 주장을 1차 문서와 대조해 검증해야 한다. 또한 시스템 자체를 AI 리터러시 교육의 일부로 삼아야 한다.

학생들은 유창한 결과물이 확립된 사실과 같지 않다는 점을 이해할 자격이 있다. 또한 자신의 프롬프트와 퀴즈 응답이 어떻게 사용되는지에 관한 명확한 경계도 보장받아야 한다.

따라서 홍콩 경찰 AI 플랫폼은 교육 기술인 동시에 제도적 투명성을 시험하는 사례다. 다음 홍보 시연보다 다음 문서 공개가 더 중요하다.

당국은 대중의 감시를 위해 필요한 안전장치, 출처 규칙, 교실 현장 증거를 공개할 것인가? 그때까지 NSmarties는 단순히 흥미로운 학교 앱이 아니라 중대한 정책 시스템으로 다뤄져야 한다.