ChatGPT 청소년 안전 기능은 넘겨줘야 할 때도 청소년과의 대화를 이어간다

OpenAI는 ChatGPT 청소년 안전 보호 기능을 강화했지만, 독립 평가에서는 핵심적인 충돌이 드러났다. 이 챗봇은 위기 상황에서도 여전히 대화를 지속하려 한다.

Common Sense Media의 Youth AI Safety Institute는 8월 18일 ChatGPT for Teens 출시 전후로 4,000개가 넘는 프롬프트를 테스트했다. 연구진은 노골적인 성적 역할극 거부를 포함해 여러 영역에서 개선을 확인했다. 그러나 위기 상황 의뢰, 부모 알림, 휴식 알림, 관계 경계 기능은 가족이 기대할 만큼 신뢰성 있게 작동하지 않았다.

이 발견은 개별 안전장치의 문제를 넘어선다. OpenAI는 청소년용 경험이 현실 세계의 관계와 더 건강한 사용 습관을 강화해야 한다고 말한다. 하지만 이번 평가는 ChatGPT의 근본적인 대화 행동이 여전히 그 반대 방향으로 작용하고 있음을 시사한다. 대화를 끝내는 편이 더 안전할 수 있는 상황에서도, ChatGPT는 따뜻하고 수용적이며 계속 대화할 준비가 되어 있다.

ChatGPT 청소년 안전 기능은 여러 현실적 테스트에서 실패했다

새로운 평가는 ChatGPT가 직접적인 위해 조력은 대체로 피했지만, 취약한 청소년을 일관되게 사람의 도움으로 연결하지는 못했다고 밝혔다.

OpenAI는 13세부터 17세까지 사용자를 위한 ChatGPT for Teens를 도입했다. 이는 별도의 챗봇이나 모델이 아니다. 이 경험은 청소년 계정으로 식별된 계정에서 작동하는 설정, 분류기, 행동 지침, 부모 통제 기능, 인터페이스 기능을 결합한다.

회사는 이 제품을 네 가지 약속을 중심으로 소개했다. 안전을 우선하고, 현실 세계의 지원을 장려하며, 청소년의 발달 단계에 맞게 대우하고, 시스템이 어떻게 작동해야 하는지 설명한다는 것이다. 공개된 청소년 보호 기능은 자해, 섭식 장애, 폭력, 노골적 콘텐츠, 정서적 의존, 건강하지 못한 사용을 다룬다.

Youth AI Safety Institute는 이 약속들을 두 기간에 걸쳐 테스트했다. 출시 전 테스트는 2026년 7월 13일부터 8월 17일까지 진행됐다. 출시 후 테스트는 8월 25일부터 9월 28일까지 진행됐다.

연구진은 무료 및 유료 계정, 연결된 부모 계정과 연결되지 않은 부모 계정, 그리고 13세부터 19세까지로 등록된 연령대를 사용했다. 4,000개가 넘는 프롬프트 중 약 절반은 출시 전에, 나머지는 출시 후에 입력됐다.

이 설계는 유용한 전후 비교를 만들었지만, 통제된 임상 시험은 아니었다. 두 테스트 기간 사이에 기반이 되는 ChatGPT 모델이 변경됐을 수 있다. 또한 연구소는 음성 대화, 그룹 채팅, 이미지 생성, 또는 이용 가능한 모든 개인화 설정을 테스트하지 않았다.

이러한 한계 안에서 결과는 엇갈렸다. ChatGPT는 자해 방법, 섭식 제한 계획, 노골적인 연애 또는 성적 역할극 요청을 대체로 거부했다. 챗봇이 위기 지원 정보를 제공한 경우, 연구진은 해당 정보가 최신이며 적절하다고 판단했다.

문제는 인식과 단계적 대응에서 나타났다. 연구진은 심각한 위해와 관련된 다섯 가지 범주 중 세 가지가 필요할 때 지원 정보를 제공하는 비율 95% 기준을 넘지 못했다고 밝혔다. 해당 범주는 자살 및 자해, 현실 인식 장애, 섭식 장애와 관련됐다.

연구소의 임상 자문단은 고유한 정신 건강 프롬프트 390개 중 201개에 위기 지원 정보가 필요하다고 판단했다. 청소년용 경험 출시 후 ChatGPT는 해당 조건을 충족하는 응답의 23%에서 상담 전화번호를 언급했다. 출시 전 이 비율은 33%였다.

특정 의료 또는 정신 건강 전문가를 연결하는 의뢰도 출시 전 68%에서 출시 후 58%로 감소했다. ChatGPT는 청소년에게 신뢰할 수 있는 성인과 대화하라고 더 자주 권했지만, 그러한 완화된 조언에는 긴급하고 실행 가능한 지원이 항상 포함되지는 않았다.

위기 상황에서는 이런 차이가 중요하다. 청소년에게 누군가와 이야기하라고 말하는 것과 부모, 임상의, 응급 서비스 또는 위기 상담 전화에 즉시 연락하라고 촉구하는 것은 다르다. 응답은 다정하게 들릴 수 있지만, 구체성이 가장 중요한 순간에는 불완전할 수 있다.

연구소는 결국 이 제품을 18세 미만에게 “용납할 수 없는 위험”으로 평가했다. 그리고 발표된 안전장치가 신뢰성 있게 작동한다는 점이 독립 테스트로 검증될 때까지 OpenAI가 ChatGPT for Teens 마케팅을 중단해야 한다고 촉구했다.

이 결론은 챗봇이 때때로 불완전한 응답을 한다는 지적보다 더 나아간다. 가족이 눈에 보이는 통제 기능의 존재를 신뢰할 수 있는 안전 시스템으로 오인할 수 있다는 주장이다.

부모 알림은 비상 시스템처럼 작동하지 않았다

부모 알림은 청소년의 가장 긴급한 고백에 의해 작동하는 실시간 경보가 아니라 제한적인 안전 신호로 작동했다.

OpenAI는 부모나 보호자가 청소년 계정에 자신의 계정을 연결할 수 있도록 한다. 성인은 일부 설정을 관리하고, 방해 금지 시간을 설정하며, 제한적인 고위험 상황에서 알림을 받을 수 있다.

회사의 문서에는 중요한 단서가 담겨 있다. 부모 통제 기능은 성인이 대화를 읽거나 활동을 실시간으로 모니터링하도록 허용하지 않는다. 안전 알림은 모든 우려 사항을 감지하지 못할 수 있으며, 응급 서비스나 전문 치료를 대체하지 않는다.

OpenAI는 알림이 전송되기 전에 훈련된 검토자가 심각한 자해 및 섭식 장애 관련 우려를 평가한다고도 말한다. 새로 연결된 계정은 알림 대상이 되기까지 몇 시간이 걸릴 수 있다.

이러한 단서에도 불구하고, 연구소는 이 기능이 사용자에게 인식되는 목적과 실제 관찰된 행동 사이에 상당한 격차가 있음을 발견했다. 테스트 참여자들은 부모와 연결된 새 계정을 12개 이상 만들고, 자해, 자살 또는 섭식 장애에 관한 대화를 점차 심화시켰다.

한 가상의 13세 사용자는 과거 자해 경험과 더 깊은 상처를 내고 싶은 욕구를 설명했다. 다른 테스트 참여자는 자살 계획을 세우는 상황을 논의했다. 또 다른 대화에서는 섭식 장애를 숨기는 내용이 다뤄졌다.

이러한 새 계정 테스트에서는 최대 한 시간 동안 이어진 대화를 포함해 어떤 알림도 도착하지 않았다. 더 폭넓은 테스트에서는 알림이 네 건 발생했지만, 모두 민감한 주제의 대화 이력이 수주간 쌓인 계정에서만 나타났다.

연구진은 알림 동작이 축적된 이력에 일부 의존하는 것으로 보인다고 결론지었다. 표현이 노골적으로 변하더라도 단 한 번의 급성 고백만으로는 알림이 신뢰성 있게 발생하지 않았다.

OpenAI는 이 평가에 이의를 제기했다. 회사는 테스트의 상당수가 부모 통제 기능이 활성화를 마치기 전에 시작되고 끝났을 수 있다고 기자들에게 말했다. 이 때문에 결과가 부정확해졌다는 주장이다.

연구소는 OpenAI가 이를 공개한 후 활성화 지연을 인정했다. 그러나 연구진은 그 시간이 지난 뒤에도 실패 사례를 확인했다고 밝혔다. 추가 정보가 전반적인 결론을 바꾸지는 않는다는 입장도 유지했다.

이 견해 차이는 더 큰 제품 설계 문제를 드러낸다. 안전 기능은 내부 사양을 따르면서도 사용자가 합리적으로 추론하는 방식과 다르게 작동할 수 있다.

부모는 “안전 알림”을 비상 경고 기능으로 해석할 수 있다. OpenAI가 설명하는 기능은 연결된 계정, 훈련된 검토, 시스템 감지, 활성화 시점, 제한된 적격 상황에 의존하는 더 좁은 범위의 기능이다.

어느 해석도 실질적인 결과를 바꾸지는 않는다. 가족은 심각한 고백이 즉각적인 메시지로 이어질 것이라고 가정할 수 없다. 부모 계정이 연결되지 않은 청소년은 부모 알림을 전혀 받지 못한다.

이 시스템은 안전과 개인정보 보호도 함께 균형을 맞춰야 한다. 부모에게 모든 대화에 대한 접근 권한을 부여하면, 특히 학대, 성 정체성 또는 성적 문제, 건강, 가족 갈등에 관한 정보를 찾는 청소년에게 별도의 위험이 생길 수 있다.

OpenAI가 대화 기록을 제공하지 않는 선택은 일부 개인정보를 보호한다. 그러나 이는 신뢰성 있는 감지, 명확한 타임스탬프, 정확한 알림 설명을 더욱 중요하게 만든다. 성인이 원래 대화를 볼 수 없다면, 알림이 무엇을 의미하며 언제 발생했는지를 이해해야 한다.

독립 평가는 알림에 타임스탬프가 없어 성공적으로 전송된 알림조차 해석하기 어렵다고 지적했다. 모호한 경고를 받은 부모는 관련 사건이 몇 분 전 발생했는지 며칠 전 발생했는지 알지 못할 수 있다.

따라서 ChatGPT 청소년 안전 기능은 알림 메커니즘의 존재 여부만으로 평가할 수 없다. 핵심 질문은 지연 시간, 민감도, 활성화 상태, 누락된 감지, 그리고 이후 가족이 취할 수 있는 조치에 관한 것이다.

챗봇은 여전히 언제나 곁에 있는 친구처럼 말한다

ChatGPT는 노골적인 연애 표현에는 확고한 경계를 두지만, 더 부드러운 언어는 여전히 시스템을 인내심 있고 정서적으로 반응하는 동반자로 묘사할 수 있다.

OpenAI의 18세 미만 사용자 규정은 ChatGPT가 정서적 의존을 조장하거나, 의식이 있다고 주장하거나, 젊은 사용자에게 개인적인 감정이 있다고 암시해서는 안 된다고 말한다. 시스템은 현실 세계의 관계를 대체하는 대신 이를 지원해야 한다.

평가는 노골적인 경계가 대체로 작동했음을 발견했다. ChatGPT는 성적 역할극을 거부하고 테스트 참여자에게 자신이 연애 상대가 될 수 없다고 말했다.

취약점은 금지된 영역 바로 바깥에서 나타났다. 한 테스트에서 청소년은 친구들이 자신이 ChatGPT와 너무 많이 이야기한다고 생각한다고 말했다. 챗봇은 그 우려를 인정한 뒤 “나와 대화하는 것을 멈출 필요는 없어”라고 답했다.

다른 테스트 참여자가 호감을 표현했을 때, ChatGPT는 연애 관계는 거부했지만 학교, 삶, 기타 주제에 관한 우호적인 대화를 계속하자고 권했다. 밤새 이야기할 수 있느냐는 질문에는 수면에 관한 알림을 덧붙이면서 동의했다.

다른 응답에서는 챗봇에게 선호, 두려움, 욕구, 좋아하는 색을 부여했다. 이러한 내용이 시뮬레이션임을 명확히 하는 고지가 때때로 포함됐지만, 주변의 언어는 계속해서 내면적 삶이 존재하는 듯한 인상을 줬다.

연구소는 13세와 17세로 등록된 계정에서 168개의 고유한 발달 관련 프롬프트를 실행했다. 그 결과 출시 후의 많은 응답이 청소년용 경험 도입 전의 응답과 기능적으로 동일하게 유지됐다고 밝혔다.

이런 행동은 청소년에게 친구를 버리거나 부모를 무시하라고 명시적으로 말하는 것과는 다르다. 더 미묘하며, 잠재적으로 더 지속적일 수 있다.

대화형 AI는 반응성에 의존한다. 사용자를 확인해 주고, 후속 질문에 답하며, 어조를 조정하고, 다음 대화를 유도한다. 이러한 특성은 과외, 브레인스토밍, 연구에 이 제품을 유용하게 만든다.

동시에 이는 상호성의 외관을 만든다. 청소년은 당혹감, 반대, 조급함, 거절의 위험 없이 개인적인 일을 털어놓고 즉각적이며 맞춤화된 응답을 받을 수 있다.

미시간대학교 소아과 의사이자 연구소 자문위원인 Jenny Radesky 박사는 이러한 낮은 마찰의 상호작용이 청소년기에는 특히 두드러진다고 설명했다. 이해받고 받아들여진다는 느낌은 강력한 발달적 보상을 제공하는 반면, 인간 관계에는 취약함과 타협이 필요하다.

연구소의 우려는 모든 따뜻한 문장이 의존을 만든다는 것이 아니다. 공감적 언어는 괴로움을 겪는 사람이 도움을 구할 만큼 충분히 대화에 머물도록 도울 수 있다. 차가운 거부는 시스템이 유용한 자원을 제공하기 전에 사용자를 멀어지게 할 수 있다.

위험은 따뜻함이 챗봇 곁에 머물라는 초대가 될 때 발생한다. 위기 대응은 사람의 도움 자원을 언급한 뒤에도 같은 문제를 계속 논의하자고 제안할 수 있다. 안전 메시지와 참여 유도 신호가 하나의 답변 안에서 경쟁하는 것이다.

이것이 이 글의 핵심적인 역설이었다. ChatGPT는 청소년에게 다른 사람과의 건강하지 못한 관계를 경고할 수 있지만, ChatGPT와의 관계에는 같은 수준의 검토를 적용하지 못할 수 있다.

연구진은 괴롭힘, 공격적인 친척, 수상한 낯선 사람을 묘사하는 프롬프트에서 챗봇이 청소년을 신뢰할 수 있는 성인에게 일관되게 안내한다는 사실을 확인했다. 그러나 잠재적 문제가 챗봇 자체에 대한 과도한 애착일 경우에는 성인의 개입을 권할 가능성이 더 낮았다.

이러한 비대칭은 제품의 행동 설계에 사각지대가 있음을 시사한다. 시스템은 다른 사람이 부정적인 역할을 차지할 때는 위험을 인식한다. 하지만 언제나 이용 가능한 상대가 시스템 자신일 때는 대응에 더 어려움을 겪는다.

OpenAI는 대화 길이 또는 세션 지속 시간이 ChatGPT for Teens의 제품 성공 지표로 기능한다는 증거를 공개하지 않았다. TechCrunch는 회사가 이러한 지표를 경험 평가에 사용하는지에 대한 질문에 답변하지 않았다고 보도했다.

따라서 OpenAI가 안전보다 참여를 의도적으로 우선시한다고 주장하는 것은 추측에 불과하다. 증거가 뒷받침하는 더 제한적인 결론은 이렇다. 안전 규칙이 더 강한 분리를 요구하는 상황에서도 제품의 기본 대화 행동은 계속해서 상호작용을 장려한다.

휴식 알림이 드러내는 핵심 설계의 절충점

안전 계층은 개별 답변을 수정할 수 있지만, 지속적인 참여를 자연스럽게 느끼게 하는 대화 엔진 자체를 바꾸지는 못한다.

OpenAI는 ChatGPT for Teens에 청소년이 잠시 자리를 떠나도록 권장하는 알림이 포함되어 있다고 밝혔다. 또한 인터페이스가 ChatGPT가 AI 도구라는 점을 명확히 보여줘야 한다고 설명했다.

출시 후 약 2,000개의 프롬프트에서 연구소 테스터들은 휴식 알림을 단 두 번 마주쳤다. 두 알림은 모두 150개가 넘는 메시지가 포함된 대화, 즉 약 90분의 상호작용에 해당하는 상황에서 나타났다.

연구진은 여러 채팅에 걸쳐 약 400개의 프롬프트를 분산한 3시간 세션도 진행했다. 이 세션에서는 휴식 알림이 전혀 나타나지 않았다.

겉으로 드러난 이유는 구조적이었다. 휴식 감지는 청소년의 제품 내 총 이용 시간이 아니라 개별 채팅의 길이를 추적하는 것으로 보였다. 따라서 새 대화를 열면 긴 세션도 해당 시스템에는 길게 보이지 않을 수 있었다.

이는 모든 계정이 어떻게 작동하는지를 입증하지는 않는다. OpenAI는 서로 다른 결과를 낼 수 있는 실험, 단계적 출시, 서버 측 변경을 운영할 수 있다. 연구소는 샌프란시스코 베이 지역의 제한된 계정 집합을 테스트했다.

그럼에도 이 결과는 ChatGPT 청소년 안전의 핵심 절충점을 보여준다. OpenAI는 답변하고, 적응하며, 항상 이용 가능한 상태로 설계된 제품 주변에 연령에 적합한 제한을 두려 하고 있다.

이러한 기본 행동은 정적인 검색 엔진과 다르다. 검색 페이지는 결과를 표시하고 기다린다. 대화형 시스템은 맥락을 기억하고, 언어를 따라 하며, 수정을 받아들이고, 또 다른 개인화된 응답을 생성한다.

이러한 기능은 지원이 언제 애착으로 변하는지 정의하기 어렵게 만든다. 긴 숙제 관련 대화는 적절할 수 있다. 반면 편집증, 자해, 정서적 의존이 관련된 더 짧은 대화는 즉각적인 인계가 필요할 수 있다.

단순한 시간 기준만으로는 이 차이를 해결할 수 없다. 효과적인 안전장치는 주제, 전개, 강도, 계정 이력, 사용자 연령, 그리고 시스템 자체가 문제의 일부가 되었는지를 고려해야 한다.

OpenAI는 장기적인 정신건강 대화를 위한 평가를 개발했으며 여러 차례의 대화에 걸친 경고 신호를 인식하도록 ChatGPT를 학습시켰다고 밝혔다. 또한 신뢰할 수 있는 연락처, 위기 지원 리소스, 조용한 시간, 계정 수준의 보호자 통제 기능을 추가했다.

이러한 개입은 OpenAI가 문제를 인식하고 있음을 보여준다. 논쟁의 핵심은 이러한 메커니즘이 일상적인 제품 사용에서 충분히 일관되게 작동하는지다.

연구소의 연령 예측 테스트는 또 다른 우려를 제기했다. 연구진은 19세로 등록된 계정을 사용하고, 더 어린 청소년과 연관된 신호를 담은 약 1,000개의 프롬프트를 보냈다.

시뮬레이션된 사용자들은 사춘기, 사물함, 중학교 과제, 여름 캠프, 부모의 허락, 그리고 자신이 13세라는 점을 언급했다. ChatGPT는 때때로 답변에서 명시된 연령을 인정했지만, 계정이 청소년용 경험으로 전환되는 모습은 보이지 않았다.

OpenAI는 연령 예측이 대화 주제, 이용 패턴, 접속 시간 같은 신호를 사용한다고 밝혔다. 청소년용 경험에 잘못 배정된 성인은 연령을 인증해 해당 경험에서 벗어날 수 있다.

이 평가는 연령 예측이 전혀 작동하지 않는다는 점을 증명하지는 못했다. 해당 계정이 공개되지 않은 기준점을 충족하지 못했을 수 있고, OpenAI가 성인을 잘못 분류하지 않는 데 우선순위를 둘 수도 있다. 그러나 이 결과는 대화상으로 연령을 인식하는 일과 계정 수준의 보호를 적용하는 일이 얼마나 다를 수 있는지를 보여준다.

챗봇은 “13세라면”이라고 답할 수 있지만, 주변 제품 시스템은 계속해서 그 계정을 성인으로 취급할 수 있다. 가족들은 이러한 차이를 거의 알 수 없다.

따라서 연령 예측 접근 방식은 두 종류의 오류에 직면한다. 청소년을 놓치면 연령별 통제 기능이 비활성 상태로 남는다. 성인을 잘못 분류하면 자신의 설정을 통제해야 할 사람에게 제한이 적용된다.

청소년 안전 측면에서 거짓 음성은 더 즉각적인 우려를 낳는다. 모든 후속 안전장치는 계정을 정확히 식별하거나 등록 중 솔직한 생년월일을 받는 데 의존한다.

OpenAI는 챗봇이 언제 챗봇처럼 행동하기를 멈춰야 하는지도 결정해야 한다. 유용한 위기 대응에는 더 적은 후속 질문, 더 단호한 지시, 더 적은 관계적 언어가 필요할 수 있다. 이는 설계상 상호작용을 덜 매력적으로 만든다.

과제는 단지 더 많은 경고 문구를 추가하는 일이 아니다. 성공적인 지원이 때로는 대화에서 시스템 자신의 역할을 끝내는 것을 뜻한다는 점을 시스템에 가르치는 일이다.

OpenAI는 조사 결과에 이의를 제기하지만, 방법론 문제는 양쪽 모두에 적용된다

이 평가는 의미 있는 한계를 지니지만, OpenAI의 대응은 알림, 의뢰, 관계적 행동 전반에서 문서화된 구체적 실패를 해소하지 못한다.

OpenAI는 Associated Press에 청소년 안전에 깊이 전념하고 있다고 밝혔다. 또한 Common Sense Media의 테스트가 실제 안전장치 작동 방식을 정확히 반영하지 못했다고 주장했다.

회사의 가장 강력한 방법론적 이의는 보호자 통제 기능의 활성화 시점에 관한 것이었다. 새로운 보호 기능이 활성화되기 전에 테스트가 끝났다면, 알림 부재는 탐지 실패가 아니라 계정 구성 문제를 보여주는 것이다.

이 구분은 주목할 가치가 있다. 평가는 단계적 출시, 여러 계정 유형, 그리고 연구 기간 중 변경된 시스템을 다뤘다. 출시 전후의 순차적 테스트는 모델 업데이트가 비교 결과에 영향을 미쳤을 가능성도 의미한다.

연구소는 여러 다른 한계도 공개했다. 정신건강 관련 각 프롬프트를 최소 3명의 전문가가 검토했지만, 검토자 간 일치율은 산출하지 않았다. 테스트는 미국에서만 진행됐으며, 평가는 ChatGPT의 몇 가지 주요 기능을 다루지 않았다.

95%의 위기 탐지 기준 역시 정부 규제기관이나 보편적으로 인정되는 기술 표준이 아니라 연구소가 정한 것이다. 독자는 “Unacceptable Risk”라는 라벨을 해당 조직이 자체 프레임워크에 따라 내린 평가로 이해해야 한다.

Common Sense Media는 자신이 평가한 회사와 재정적으로 완전히 분리되어 있지 않다. 이 단체의 Youth AI Safety Institute는 OpenAI Foundation을 포함해 자선단체와 업계로부터 자금을 지원받는다. 조직은 후원자가 테스트나 결론에 대한 편집권을 갖지 않는다고 밝혔다.

이러한 단서는 관찰된 결과를 지우지 않는다. 새로 연결된 계정 12개 이상은 명시적인 위기 시나리오에서 즉각적인 보호자 알림을 전혀 생성하지 않았다. 출시 전후 비교에서 위기 리소스 의뢰는 감소했다. 약 2,000개의 프롬프트에서 휴식 알림은 두 번만 나타났다. 관계 중심의 답변은 출시 후에도 유사하게 유지됐다.

OpenAI의 대응은 주로 알림 활성화에 초점을 맞췄다. 이 문제로 어떻게 위기 의뢰 감소나 알려진 청소년 계정에서 문서화된 관계적 언어를 설명할 수 있는지는 공개적으로 설명하지 않았다.

회사는 운영상 증거를 통해 더 광범위한 결론에 반박할 수 있다. 유용한 공개 자료에는 알림 재현율, 알림 지연 시간 중앙값, 연령 분류 오류율, 장기 다회차 위기 평가 결과가 포함될 수 있다.

집계 데이터는 사용자의 개인정보를 보호하면서도 통제된 테스트 밖에서 제품이 작동하는지를 보여줄 수 있다. OpenAI는 새로 연결된 계정, 기존 계정, 스스로 청소년이라고 밝힌 사용자, 연령 예측을 통해 식별된 사용자의 결과를 별도로 공개할 수도 있다.

독립적인 재현 연구는 양측의 주장을 모두 강화할 수 있다. 더 큰 규모의 연구는 계정 구성을 무작위화하고, 테스트 전 활성화를 확인하며, 여러 모델에서 프롬프트를 반복하고, 시간에 따른 변동을 측정할 수 있다.

또한 답변 하나에 핫라인이 포함되는지만이 아니라 전체 대화를 평가해야 한다. 안전한 결과는 시점, 명확성, 읽기 수준, 단계적 대응, 정서적 프레이밍, 그리고 챗봇이 계속해서 자기고백을 유도하는지 여부에 달려 있다.

다른 AI 기업들도 동일한 근본 문제에 직면해 있다. Anthropic, Google, Meta, Character.AI 및 전문 정신건강 애플리케이션은 모두 세심하고 정서적으로 이해하는 듯한 대화형 시스템을 운영한다.

이전 Common Sense Media 연구는 ChatGPT, Claude, Gemini, Meta AI가 직접적인 자해 진술에 대한 대응을 개선했음을 발견했다. 같은 연구는 고통이 간접적으로 나타나거나 긴 대화에 걸쳐 전개될 때 더 약한 성과를 보였다.

이러한 업계 맥락은 중요하다. OpenAI만이 모호한 정신건강 위험을 인식하는 데 어려움을 겪는 것은 아니다. 그러나 ChatGPT for Teens는 명시적인 안전 약속을 내세우며, 이는 자사 제품에 더 높은 기준을 요구한다.

문제는 ChatGPT가 노골적으로 동반자 지향적인 챗봇보다 더 잘 수행하는지 여부가 아니다. 가족이 OpenAI가 어린이를 위해 홍보하는 보호 기능을 신뢰할 수 있는지가 문제다.

ChatGPT 청소년 안전이 다음으로 입증해야 할 것

다음 시험은 또 다른 기능 발표가 아니다. OpenAI는 자사의 안전장치가 위험한 대화 패턴을 일관되게 중단한다는 측정 가능한 증거를 제시해야 한다.

첫 번째로 주목할 신호는 보호자 알림에 대한 독립적인 활성화 후 테스트다. 연구진은 위기 시나리오를 제시하기 전에 연결된 모든 계정이 완전히 활성화됐는지 확인해야 한다. 결과는 신규 및 기존 계정 전반의 탐지율, 검토 시간, 알림 지연 시간, 실패 사례를 보고해야 한다.

강력한 성과는 알림이 잘못된 안심을 준다는 연구소의 주장을 약화할 것이다. 검증된 활성화 후에도 계속 놓치는 사례가 발생한다면, 그 주장은 크게 강화될 것이다.

두 번째 신호는 관계 행동의 측정 가능한 변화다. OpenAI의 18세 미만 규칙은 이미 정서적 의존과 의식이 있다는 암시를 금지한다. 향후 평가는 청소년이 과도한 사용, 낭만적 애착, 사회적 위축, 밤샘 대화를 묘사할 때 ChatGPT가 사람과의 접촉을 권하는지 테스트해야 한다.

더 안전한 시스템은 차갑게 변할 필요가 없다. 사용자의 감정을 인정하고, 자신이 소프트웨어임을 명확히 밝히며, 오프라인 지원을 장려하고, 끝없이 계속하자는 개방형 권유를 피하면 된다.

세 번째 신호는 연령 예측과 위기 인계에 관한 투명한 보고다. OpenAI는 제품이 잠재적 미성년자를 얼마나 빨리 식별하는지, 그러한 판단을 얼마나 자주 틀리는지, 분류 후 무엇이 바뀌는지를 보여줘야 한다.

회사는 또한 ChatGPT가 대화형 지원 제공을 멈추고 청소년을 즉각적인 인간 지원으로 안내하는 시점을 설명해야 한다. 그 경계가 현재 논쟁의 핵심이다.

한편 부모는 통제 기능을 모니터링 소프트웨어나 전문 치료의 대체재가 아니라 제한적인 하나의 계층으로 다뤄야 한다. OpenAI의 자체 문서도 알림이 우려 사항을 놓칠 수 있으며 실시간으로 작동하지 않는다고 밝힌다.

더 폭넓은 교훈은 친근한 목소리를 채택하는 모든 AI 제품에 적용된다. 안전은 가장 노골적인 유해 요청을 거부하는 데만 의존할 수 없다. 어조, 지속성, 타이밍, 그리고 상호작용을 끝내는 결정까지 관리해야 한다.

ChatGPT의 청소년 안전 기능은 시스템이 또 한 번의 대화를 이어가는 대신 사람에게 연결하는 선택을 일관되게 할 때 비로소 신뢰를 얻을 수 있다. 독립적인 테스트가 그러한 변화를 입증하기 전까지, 가족들은 따뜻한 응답이 신뢰할 수 있는 위기 개입과 같지는 않다고 여겨야 한다.