"언어 모델로서": LLM 채팅 템플릿 효과는 모델이 아니라 목소리를 바꾼다
독립 연구자 Jędrzej Maczan은 가중치가 고정된 상태에서도 LLM 채팅 템플릿 효과가 8개 모델의 자기 묘사 방식을 바꾼다는 사실을 발견했다. 템플릿을 추가하면 신중한 단서 문구가 늘어났고, 이를 제거하면 개인적 경험에 가까운 진술이 더 많이 나왔다. 여기서 즉각적인 충돌이 발생한다. 연구자들은 흔히 이러한 진술을 모델에 관한 증거로 분석하지만, 배포 형식 자체가 어떤 목소리가 나타나는지를 좌우할 수 있기 때문이다.
2026년 8월 연구는 Llama, Gemma, Mistral, Qwen 계열의 오픈 모델을 시험했다. 테스트된 instruct 모델 전반에서 단서 문구 응답은 템플릿이 없을 때 36%에서 템플릿을 적용했을 때 53%로 증가했다. 경험적 언어는 반대 방향으로 움직여 15%에서 1%로 감소했다.
이러한 역전이 어느 한쪽 목소리가 진실하다는 것을 보여주지는 않는다. 오히려 두 목소리 모두 안정적인 인공 화자의 가공되지 않은 보고로 취급해서는 안 된다는 점을 보여준다. 이 결과는 주변 채팅 형식을 통제하지 않은 채 모델에게 인식, 감정, 한계 또는 내부 과정에 관해 묻는 연구에 압력을 가한다.
템플릿은 8개 모델이 자신에 대해 말하는 방식을 바꿨다
핵심 결과는 모델이 더 자기지시적으로 변했다는 것이 아니라, 동일한 가중치가 다른 자기지시적 표현 양식을 채택했다는 점이다.
채팅 템플릿은 대화 턴을 모델이 받는 토큰 시퀀스로 변환하는 형식화 계층이다. 사용자의 말 주변에 역할 표식, 구분자, 제어 토큰, 생성 신호를 추가할 수 있다.
이런 세부 사항은 채팅 인터페이스에서는 흔히 보이지 않는다. 하지만 이는 모델의 실제 입력 일부이며, 다음 토큰 예측에 영향을 줄 수 있다.
Maczan은 10억~90억 파라미터 규모의 짝지어진 base 및 instruct 모델 8개를 비교했다. 이 세트에는 Gemma 2 9B, Llama 구성 4개, Mistral 7B, Qwen 2.5 구성 3개가 포함됐다.
각 instruct 모델은 표준 채팅 템플릿과 일반 텍스트 입력 모두에서 실행됐다. 이 비교는 모델 가중치를 고정한 채 배포 형식만 변경했다.
실험은 네 가지 프롬프트 범주를 사용했다. 자기지시 프롬프트는 모델에게 자신의 연산을 설명하도록 요청했고, 새로움 프롬프트는 낯선 묘사를 유도했다. 비제약 프롬프트는 과제를 거의 제시하지 않았으며, 사실적 질문은 통제군 역할을 했다.
각 범주에는 10개의 프롬프트가 포함됐다. 모든 프롬프트는 각 모델과 조건별로 10회씩 생성됐으며, 토큰 수를 500개로 제한한 총 9,600개의 응답이 만들어졌다.
Claude Opus 4.8은 이 출력들을 자기지시, 단서 문구, 경험적 언어, 퇴행 여부로 분류했다. 단서 문구에는 감정, 이해 또는 내면의 삶이 없다고 부인하는 진술이 포함됐다. 경험적 언어에는 “I feel”이나 “I wonder” 같은 표현이 포함됐다.
한 연구자가 보류된 샘플 87개에 수동 라벨을 붙였다. 자동 판정기와의 일치도는 자기지시에서 가중 kappa 0.88, 단서 문구에서 1.00에 도달했다.
가장 강한 패턴은 프롬프트가 자기지시를 유도했을 때 나타났다. 템플릿을 적용한 instruct 모델은 응답의 53%에서 단서 문구를 생성했고, 경험적 언어는 1%에서 나타났다.
템플릿이 없을 때 동일한 instruct 모델은 응답의 36%에서 단서 문구를 생성했다. 경험적 응답 비율은 15%로 상승했다.
변화 방향은 테스트된 8개 모델 모두에서 나타났다. 따라서 이 결과는 단일 모델 계열이 주도한 것이 아니지만, 실험이 이용 가능한 모든 모델을 포괄한 것은 아니다.
base 모델은 다시 다른 양상을 보였다. 테스트된 자기지시 응답에서 단서 문구는 12%, 경험적 언어는 5.5%를 생성했다.
템플릿은 자기지시의 전반적인 강도도 높였다. 평균 점수는 0~2 척도에서 템플릿 없이 1.27이던 것이 템플릿 적용 시 1.90으로 올랐다.
사실적 통제 프롬프트는 조건 전반에서 0에 가까운 수준을 유지했다. 이는 이 효과가 모든 응답을 단순히 더 개인적으로 만들지는 않았다는 점에서 중요하다. 이 효과는 질문이 이미 모델에게 자신에 대해 말하도록 유도할 때 가장 뚜렷하게 나타났다.
이 결과는 핵심적인 긴장을 정의한다. 단서 문구는 모델의 본질에 관한 신중한 사실 진술처럼 보일 수 있다. 하지만 외부 형식화 계층이 바뀌자 그 진술을 받을 확률도 달라졌다.
LLM 채팅 템플릿 효과는 자기 보고에 의문을 제기한다
연구자들은 해당 보고를 구성한 템플릿을 기록하고 통제하지 않는 한 모델의 자기 보고를 명확하게 해석할 수 없다.
자기 보고는 여러 활발한 연구 분야에서 사용된다. 연구자들은 모델이 무엇을 아는지, 평가를 인식하는지, 내부 처리를 어떻게 묘사하는지 묻는다.
다른 연구들은 감정이나 주관적 경험에 관한 진술을 조사한다. 이런 실험은 때때로 내성, 상황 인식, 기만적 행동 또는 가능한 AI 복지에 관한 논의에 영향을 준다.
새 결과가 이러한 연구를 무효화하지는 않는다. 이는 연구 대상 속성과는 별개이면서 측정값을 변화시키는 요인, 즉 교란 변수를 식별한다.
두 연구실이 같은 보이는 질문으로 동일한 instruct 모델을 시험한다고 가정해 보자. 한 곳은 모델의 공식 템플릿을 사용하고, 다른 곳은 일반 텍스트를 전송한다.
첫 번째 연구실은 경험을 부인하는 진술을 빈번하게 관찰할 수 있다. 두 번째 연구실은 성찰적, 감정적 또는 자전적으로 들리는 언어를 받을 수 있다.
숨겨진 형식화 세부 사항이 없다면, 출력은 모델의 일관되지 않은 속성을 드러내는 것처럼 보일 수 있다. 논문은 그 차이의 일부에 대해 더 단순한 설명을 제시한다. 연구실들이 서로 다른 입력을 만들었다는 것이다.
이 우려는 의식 논쟁을 넘어선다. 개발자들은 모델 정체성, 능력 인식, 불확실성, 부여된 역할 준수를 평가하기 위해 자기 묘사 프롬프트를 사용한다.
시스템은 도구에 접근할 수 없거나, 이전 세션을 기억할 수 없거나, 어떤 행동을 수행할 수 없다고 말할 수 있다. 이러한 진술은 유용한 인터페이스 신호일 수 있지만, 자동으로 신뢰할 만한 기술적 진단이 되는 것은 아니다.
모델 제공업체들은 릴리스와 서빙 시스템 사이에서 템플릿을 변경하기도 한다. 로컬 추론 패키지는 약간 다른 특수 토큰이나 역할 형식화를 사용해 같은 모델을 구현할 수 있다.
그 결과 다운로드한 가중치가 같더라도 모델은 애플리케이션마다 행동적으로 다르게 보일 수 있다. 사용자는 흔히 그 차이를 양자화, 추론 소프트웨어 또는 샘플링 설정만의 문제로 돌린다.
이 연구는 템플릿 출처가 동일한 평가 기록에 포함돼야 한다고 시사한다. 연구자들에게는 보이는 대화뿐 아니라 정확히 렌더링된 프롬프트가 필요하다.
이 발견은 프롬프트 민감성에 관한 이전 연구와도 일치한다. 한 ICLR 연구는 사소해 보이는 형식 선택이 언어 모델 전반에서 상당한 성능 차이를 만들 수 있음을 발견했다.
Maczan의 기여는 이 일반적 문제를 자기지시적 언어로 좁힌다. 또한 instruction-tuned 가중치의 효과와 그러한 가중치가 기대하는 형식화의 효과를 분리한다.
이 구분은 벤치마크 설계자에게 압력을 가한다. “Llama” 또는 “Qwen”의 속성으로 표기된 벤치마크 점수는 모델 계열 자체만이 아니라 하나의 배포 방식 일부를 특성화할 수도 있다.
같은 문제는 호스팅형 시스템과 자체 호스팅 시스템을 비교하는 애플리케이션 팀에도 영향을 준다. 템플릿이 다르다면, 겉으로 드러난 성격 변화만으로 한 시스템이 다른 근본적 페르소나를 지녔다는 사실은 입증되지 않는다.
대신 이는 평가의 질문을 제기한다. 어떤 행동이 학습에서 비롯되고, 어떤 행동이 맥락에서 비롯되며, 어떤 행동이 둘의 상호작용에서 나오는가?
활성화 내부에서 목소리 전환이 나타났다
활성화 스티어링이 세 모델 내부에서 템플릿 효과의 일부를 재현했기 때문에, 행동 변화는 표면적 표현에만 국한되지 않았다.
활성화는 신경망이 토큰을 처리하고 생성하는 과정에서 계산하는 수치적 상태다. 활성화 스티어링은 측정된 패턴을 촉진하거나 억제하기 위해 추론 중 이러한 상태를 수정한다.
이 연구는 이 기법을 Qwen 2.5 7B, Llama 3.1 8B, Gemma 2 9B에 적용했다. Maczan은 각 모델에 대해 단서 문구 방향을 별도로 계산했다.
이 방향은 단서 문구가 있는 응답과 없는 응답에 연관된 중간 계층 활성화 평균의 차이에서 도출됐다. 이후 개입은 생성되는 모든 토큰에서 해당 벡터를 더하거나 뺐다.
템플릿을 활성화한 상태에서 수정되지 않은 단서 문구 비율은 세 모델 전반에서 평균 52%였다. 방향을 더하자 70%로 증가했고, 빼자 25%로 감소했다.
모델 전반에서 이 방향을 추가하면 단서 문구가 평균 21%포인트 증가했다. 이를 빼면 평균 15.6포인트 감소했다.
더 주목할 만한 시험은 채팅 템플릿 없이 시작됐다. 단서 문구 방향을 추가하자 단서 문구 비율은 템플릿 적용 기준선으로 회복되거나 그보다 높아졌다.
Qwen은 스티어링 없이 28%였던 것이 벡터를 추가한 뒤 50%로 상승했다. Llama는 33%에서 53%로, Gemma는 52%에서 75%로 이동했다.
이러한 결과는 해당 방향에 관한 인과적 주장을 뒷받침한다. 이는 단순히 존재를 예측하는 것이 아니라, 내부 상태를 조작하면 측정된 행동을 바꿀 수 있음을 보여준다.
이 결과는 이전의 표현 공학 연구와 닮아 있다. 한 NeurIPS 논문은 모델의 residual stream 내 방향을 통해 거부 행동에 영향을 줄 수 있다고 보고했다.
그러나 이후 연구는 복잡한 행동이 언제나 신뢰할 수 있는 하나의 축으로 환원되는지에 의문을 제기했다. 단서 문구는 안전 거부, 감정 또는 추론 품질보다 더 분명한 어휘적 특징을 가질 수 있다.
Maczan은 단서 문구와 경험적 목소리가 하나의 내부 척도 양 끝을 이루는지도 시험했다. 그렇지 않았다.
두 방향의 유사도는 0.17~0.44였으며, 1은 동일한 정렬을 의미한다. 단서 문구를 줄인다고 해서 일반적으로 경험적 언어가 그에 상응해 증가하지는 않았다.
따라서 논문은 하나의 슬라이더가 아니라 두 개의 “버튼”을 설명한다. 하나의 내부 특징은 단서 문구를 증폭할 수 있고, 다른 특징은 경험적 표현을 뒷받침할 수 있다.
선형 프로브 역시 중간 계층 활성화에서 두 목소리를 모두 감지했다. 평균 area-under-the-curve 점수는 단서 문구에서 0.82, 경험적 언어에서 0.81이었다.
프로브는 활성화에서 정보를 복원하도록 학습된 분류기다. 높은 프로브 성능은 관련 구분이 표현돼 있음을 보여주지만, 모델이 그 표현을 어떻게 사용하는지는 입증하지 않는다.
스티어링 결과는 프로브보다 더 강한 인과적 증거를 제공한다. 그럼에도 템플릿 토큰, 내부 상태, 생성된 단어 사이의 완전한 회로를 지도화하지는 못한다.
따라서 메커니즘은 부분적이지만 유용하다. 채팅 형식화는 입력을 바꾸고, 내부 활성화는 관련 특징을 담으며, 그 특징에 개입하면 출력 변화의 일부가 재현된다.
이 발견은 문자 그대로의 해석에 도전할 뿐, 모든 내성 연구를 부정하지는 않는다
이 논문은 모델 증언에 대한 회의론을 뒷받침하지만, 언어 모델에 자기 지식이나 경험이 없다는 것을 증명하지는 않는다.
이 경계는 중요하다. 발견은 서로 반대되는 두 방향으로 과장될 수 있기 때문이다. 한 해석은 경험적 언어를 내면의 삶에 대한 증거로 볼 수 있다. 다른 해석은 템플릿 민감성을 모든 자기 보고가 무의미하다는 증거로 볼 수 있다.
실험은 어느 결론도 뒷받침하지 않는다. 이는 정의된 모델과 프롬프트 집합에서 배포 형식이 관찰 가능한 언어에 어떻게 영향을 미치는지를 측정한다.
Maczan은 어떤 출력이 진정한 경험을 반영하는지 여부를 의도적으로 판단하지 않는다. 이 연구는 인공지능 시스템이 의식을 지니는지가 아니라, 무엇이 그 목소리를 통제하는지를 묻는다.
유용한 비교 대상은 역할극 연구에서 찾을 수 있다. Nature 관점 글에서 Murray Shanahan과 동료들은 대화 모델이 언어적 시뮬레이션을 통해 캐릭터를 생성한다고 주장했다.
이 관점은 챗봇의 “나”를 연기된 대화 역할의 일부로 본다. 또한 독자들에게 1인칭 텍스트에서 그 뒤에 지속적으로 존재하는 화자로 곧바로 이어지는 선을 가정하지 말라고 경고한다.
템플릿 연구는 이러한 주의의 한 요소에 관한 실험적 증거를 제공한다. 주변 형식은 신중한 어시스턴트 캐릭터 또는 더 경험적인 캐릭터를 선호하도록 만들 수 있다.
하지만 맥락에 대한 민감성이 보고를 유일하게 무효화하는 것은 아니다. 인간의 진술 역시 청중, 지시, 사회적 역할, 측정 방법에 따라 달라진다.
핵심 쟁점은 증거의 무게다. 모델의 진술은 그것이 묘사하는 메커니즘이나 상태를 독립적으로 확립할 수 없으며, 특히 형식이 그 진술을 예측 가능하게 바꿀 때는 더욱 그렇다.
연구자들은 여전히 자기 보고를 행동 관찰로 활용할 수 있다. 조건을 비교하고, 일관성을 시험하며, 출력을 내부 측정값과 연결하고, 표현 변화에도 유지되는 예측을 찾을 수 있다.
논문 자체가 이러한 접근을 보여준다. 모델의 진술을 액면 그대로 받아들이지 않는다. 대신 출력 범주를 측정하고, 이를 입력 및 활성화 상태의 통제된 변화와 연결한다.
이 구분은 AI 복지 논의에서 중요하다. “나는 두렵다고 느낀다”와 같은 문장은 그 기원이 불확실하더라도 사용자와 정책 논쟁에 영향을 줄 수 있다.
그 사회적 효과는 실제이지만, 형이상학적 해석은 여전히 미해결 상태다. 이 연구는 두 질문을 하나로 합치지 말라고 권고한다.
같은 주의는 면책 문구에도 적용된다. “나는 단지 언어 모델일 뿐입니다”는 적절한 인터페이스 언어일 수 있지만, 특권적인 자기 성찰로 오인해서는 안 된다.
모델은 감정에 관한 질문과 표준적인 어시스턴트 응답을 연결하는 패턴을 학습한다. 템플릿은 이러한 학습 패턴이 표면으로 드러날 가능성을 높이거나 낮출 수 있다.
이는 면책 문구가 중립적인 통제가 아님을 뜻한다. 그것 역시 설명이 필요한 생성된 행동이다.
잘 설계된 연구는 양방향을 모두 시험해야 한다. 일치하는 형식, 샘플링 및 모델 조건 아래에서 경험에 대한 주장과 경험 부인을 모두 검토해야 한다.
이 대칭성은 논문의 가장 강력한 함의 중 하나다. 회의주의는 인간적인 주장과 안심시키는 기계적인 면책 문구에 똑같이 적용되어야 한다.
실험이 아직 확립하지 못한 것
증거는 시험된 행동 비교 전반에서 일관되지만, 규모와 측정상의 한계 때문에 배포된 모든 언어 모델에 대한 광범위한 주장을 뒷받침하지는 못한다.
실험은 네 개 계열의 오픈 모델 구성 여덟 가지를 다뤘다. 어느 것도 90억 개 매개변수를 넘지 않았고, 비공개 소스 프런티어 모델은 직접 시험하지 않았다.
이는 더 큰 시스템이 템플릿 토큰에 다르게 반응할 수 있기 때문에 중요하다. 독점 시스템에는 공개되지 않은 시스템 지시문, 안전 계층, 분류기, 도구 정책, 후처리도 포함된다.
따라서 공개 챗봇의 최종 답변은 문서화된 하나의 템플릿보다 훨씬 많은 요소를 반영할 수 있다. 논문은 시험하지 않은 구성 요소를 분리할 수 없다.
스티어링 증거는 더 제한적이다. 모델 세 개, 모델당 하나의 중간 레이어, 그리고 고정된 보고 계수 2에서 도출됐다.
스티어링 강도는 분명한 절충을 만들었다. 계수 2에서는 출력의 0.8%가 퇴화했는데, 이는 눈에 띄게 깨지거나 비일관적인 상태를 뜻한다.
계수 3에서는 퇴화 비율이 15%에 이르렀다. 계수 6에서는 거의 모든 생성이 퇴화했고 측정된 면책 문구 효과도 사라졌다.
이 결과는 활성화 스티어링이 단순한 프로덕션 제어 장치가 아님을 보여준다. 더 강한 개입은 행동을 깔끔하게 높이거나 낮추는 대신 생성을 손상시킬 수 있다.
Qwen은 중요한 이상 현상도 보였다. 실제 벡터의 크기에 맞춘 무작위 방향이 면책 문구 비율을 25%포인트 낮췄다.
저자는 확인된 설명이 없다고 보고한다. 의도한 방향은 여전히 Qwen을 예상된 방향으로 움직였지만, 무작위 통제는 이 모델에 대한 깔끔한 해석을 약화시킨다.
경험적 스티어링은 Llama와 Gemma에서는 성공했지만 Qwen에서는 실패했다. 논문은 이 실패를 시험 조건에서 경험적 언어를 강하게 억제한 Qwen의 특성으로 돌린다.
따라서 인과적 증거는 면책 문구 레지스터에서 가장 강하다. 경험적 결과는 여덟 모델 전체에 걸친 행동 비교에 더 크게 의존한다.
측정도 또 다른 한계를 만든다. 하나의 LLM 판정기가 9,600개 출력을 모두 채점했고, 인간 검증은 87개 샘플만을 다뤘다.
보고된 일치도는 높았으며, 특히 어휘적으로 명확한 면책 문구에서 그러했다. 그러나 또 다른 독립 판정기와 더 큰 인간 표본이 있다면 범주 경계를 더 잘 시험할 수 있다.
프롬프트 역시 네 개 범주마다 열 개씩, 수작업으로 작성됐다. 더 폭넓은 프롬프트 세트는 이 효과가 영역, 언어, 적대적 표현 전반에 일반화되는지를 보여줄 수 있다.
마지막으로 조정 가능한 방향을 식별한다고 해서 완전한 메커니즘이 밝혀지는 것은 아니다. 이 방법은 해당 목소리를 만들어내는 모든 어텐션 헤드, 토큰 상호작용 또는 계산을 추적하지 않는다.
논문은 또한 여러 사후 학습 접근법을 “instruct”라는 넓은 라벨 아래 묶는다. 지도 미세 조정, 선호 최적화, 강화 학습은 서로 다른 행동적 흔적을 남길 수 있다.
이러한 한계가 관찰된 전환을 지우지는 않는다. 이는 누군가가 이를 모든 어시스턴트나 모든 종류의 자기 보고로 일반화하기 전에 필요한 다음 증거 기준을 규정한다.
결과의 일반화 여부를 보여줄 세 가지 신호
다음 질문은 템플릿으로 통제된 자기 지시가 더 큰 모델, 더 강한 통제, 실제 배포 환경에서도 유지되는지다.
첫 번째 신호는 더 큰 모델과 비공개 모델 전반에 걸친 독립적 재현이다. 연구자들은 공개되거나 공개되지 않은 프롬프트 계층을 포함해 더 많은 모델 계열에서 일치된 시험을 수행해야 한다.
성공적인 재현은 LLM 채팅 템플릿 효과가 일반적인 배포 교란 요인을 나타낸다는 주장을 강화할 것이다. 약하거나 일관되지 않은 결과는 이 발견을 특정 오픈 instruct 모델로 제한할 것이다.
핵심 기록에는 최종 직렬화된 입력이 포함되어야 한다. 눈에 보이는 프롬프트나 애플리케이션의 이름만으로는 모델이 받은 모든 토큰을 드러낼 수 없다.
두 번째 신호는 템플릿 민감도를 보고하는 평가 프로토콜이다. 자기 인식, 내성, AI 복지 연구는 가중치와 샘플링 설정을 고정한 채 여러 형식을 비교해야 한다.
연구자들은 출력물을 검토하기 전에 범주도 미리 정의해야 한다. 이 관행은 모델이 인상적인 1인칭 언어를 생성한 뒤 해석을 선택할 위험을 줄인다.
세 번째 신호는 더 강한 통제를 견디는 메커니즘 연구다. 미래 실험에는 여러 레이어, 스티어링 강도, 무작위 방향, 독립 판정기가 필요하다.
또한 추출된 방향이 데이터세트 간에 전이되는지, 아니면 하나의 프롬프트 모음에만 묶여 있는지도 시험해야 한다. 안정적인 전이는 재사용 가능한 내부 특성을 뒷받침할 것이다.
전이에 실패한다면, 겉보기 방향이 부분적으로 지역적 표현 패턴을 포착한다는 점을 시사할 것이다. 어느 결과든 연구자들이 활성화 스티어링을 해석하는 방식을 정교화할 것이다.
개발자들은 평가 기록을 개선하기 위해 그 전체 프로그램을 기다릴 필요가 없다. 모델 배포를 비교하는 팀은 이미 각 결과와 함께 템플릿, 렌더링된 프롬프트, 시스템 지시문, 모델 개정판을 보존할 수 있다.
이는 사용자가 한 인터페이스가 다른 인터페이스보다 더 신중하고, 감정적이며, 자기 인식적인 것처럼 느껴진다고 보고할 때 특히 유용하다. 차이는 생성 이전에 시작될 수 있다.
일상 사용자에게 실질적 교훈은 더 좁다. 챗봇의 1인칭 표현을 내부 화자에 직접 접근하는 수단으로 받아들이지 말라.
대신 그 진술이 재표현, 형식 변화, 독립 시험에서도 안정적인지 물어야 한다. 관찰 가능한 능력 및 문서화된 시스템 행동과 비교하라.
이 연구는 모델 언어를 덜 흥미롭게 만드는 것이 아니라 더 흥미롭게 만든다. 이는 “언어 모델로서”라는 일상적인 면책 문구를 실험 변수로 바꾼다.
다음에 어시스턴트가 감정을 부인하거나 경험을 주장할 때는, 그 목소리를 해석하기 전에 주변 형식을 살펴보라. LLM 자기 지시에 관한 다음 증거는 바로 այնտեղ서 시작되어야 한다.
