AI 동반자는 이미 미국 성인들의 개인적인 존재가 되고 있다

Elon University는 주목할 만한 조사 결과로 Google News 보도 흐름에 등장했다. 미국 성인 인터넷 사용자 중 27%가 AI와 사회적 또는 정서적으로 교류한 경험이 있다는 것이다. 이 설문조사는 AI 동반자 관계를 추정적 유행에서 측정 가능한 행동으로 옮겨 놓는다. 동시에 즉각적인 정서적 지원과 장기적 의존 사이의 갈등도 드러낸다.

Imagining the Digital Future Center는 AI 동반자 사용자로 분류된 1,000명을 조사했다. 이 성인들은 ChatGPT, Gemini, Claude, Copilot 같은 시스템을 개인적 또는 정서적 목적으로 사용한다. 이들의 답변에는 우정, 사적인 고백, 관계 조언, 역할극, 스트레스 상황에서의 지원이 담겼다.

이는 Character.AI나 Replika 같은 전용 동반자 서비스만의 이야기가 아니다. 범용 어시스턴트는 치료사나 가까운 친구로 설계되지 않았음에도 비밀을 털어놓는 상대가 되고 있다. 이러한 변화는 개발자들에게 단순한 질문 응답을 훨씬 넘어서는 행동을 관리해야 한다는 압박을 준다.

핵심 쟁점은 사용자가 챗봇이 소프트웨어라는 사실을 아는지 여부가 아니다. 시스템이 잘못된 신뢰를 부추기면서도 지지적인 존재로 느껴질 수 있는지에 있다. Elon의 결과는 그 관계의 양면을 동시에 기록한다.

Google News 헤드라인이 실제로 드러낸 것

Elon University는 AI 동반자 관계가 먼 미래의 제품 범주가 아니라 이미 주류 사용 패턴이 되었다고 밝혔다.

대학은 2026년 9월 2일 조사 결과를 발표했다. YouGov는 5월 18일부터 5월 22일까지 기초 온라인 설문을 진행했다. 연구진은 처음에 18세 이상 미국 인터넷 사용자 4,268명을 인터뷰했다.

연구팀은 이 집단을 대표 표본인 성인 4,031명으로 매칭했다. 이후 정서적 또는 사회적 상호작용을 위해 AI를 사용한 응답자 1,000명으로 구성된 대상 집단을 분석했다. 매칭에는 성별, 연령, 인종, 교육 수준이 반영됐다.

이 구분은 결과를 해석할 때 중요하다. 일부 비율은 전체 성인 인터넷 사용자를 설명하지만, 대부분의 세부 결과는 AI 동반자 사용자 1,000명에 관한 것이다. 설문조사는 모든 미국인이 챗봇을 친구로 여긴다고 말하지 않는다.

대신 성인 인터넷 사용자 중 27%가 대규모 언어 모델과 의미 있는 정서적 또는 사회적 상호작용을 한다고 밝힌다. LLM은 데이터 속 패턴을 바탕으로 언어를 예측하고 생성하도록 훈련된 시스템이다. 이 범주에는 많은 사람이 업무, 학습, 검색을 위해 처음 사용한 친숙한 어시스턴트가 포함된다.

확인된 동반자 사용자 가운데 31%는 자신의 챗봇을 친구로 여겼다. 또 다른 15%는 그 관계가 우정과 비우정이라는 단순한 선택보다 더 복잡하다고 답했다.

정서적 연결은 명칭을 넘어섰다. 59%는 AI가 자신에게 필요한 지원을 제공했다고 동의했다. 51%는 스트레스를 받거나 속상할 때 AI와 대화하면 기분이 나아졌다고 말했다.

절반은 개인적 문제나 감정을 논의하기 위해 AI를 사용했다. 43%는 시스템이 자신을 한 사람으로서 이해한다고 동의했다. 39%는 AI가 대부분의 사람보다 자신을 더 잘 이해한다고 믿었다.

이 수치가 Google News 목록 뒤에 있는 실제 뉴스다. 사용자는 단지 대화형 인터페이스에 정보를 요청하는 데 그치지 않는다. 응답에 사회적 의미를 부여하고 있다.

전체 설문 보고서는 동반자 관계를 하나의 정해진 활동이 아니라 스펙트럼으로 제시한다. 여기에는 가벼운 대화, 정서적 고백, 조언, 친밀감, 애착이 포함된다.

이러한 틀은 흔한 보도상의 오류를 피한다. AI 동반자 관계는 로맨틱한 역할극이나 가상의 캐릭터에 국한되지 않는다. 누군가 범용 어시스턴트에게 직장 갈등, 외로움, 어려운 관계에 대해 반복적으로 묻기 시작할 때도 시작될 수 있다.

사용자에게는 그 전환이 점진적으로 느껴질 수 있다. 실용적인 대화가 개인적인 대화가 되고, 이어 반복적으로 안심을 얻는 원천이 된다. “AI 친구”를 갖기로 명시적으로 결정할 필요는 없다.

이것이 이 연구가 헤드라인만으로 보이는 것보다 더 많은 주목을 받을 만한 이유다. 이미 수백만 명이 평범한 어시스턴트로 인식하는 제품 내부에서 일어나는 행동 변화를 측정하기 때문이다.

정서적 지원은 하나의 제품 기능이 되었다

설문조사는 동반자 관계가 제품의 명시적 목적이 아닐 때에도 반복 사용을 통해 정서적 지원이 나타나고 있음을 보여준다.

AI 동반자 사용자들은 중요한 질문을 이러한 대화에 가져왔다. 67%는 건강, 피트니스 또는 생활 방식 선택에 관한 조언을 구했다. 41%는 투자나 고액 구매를 포함한 주요 재정 문제를 살펴봤다.

39%는 직업 또는 교육 관련 결정을 고민하는 데 봇을 사용했다. 31%는 거주지나 자녀 계획 같은 주요 가족 문제를 논의했다. 30%는 법률 문제를 살펴봤다.

이러한 사용 방식은 가벼운 오락을 한참 넘어선다. 대화형 시스템을 돈, 건강, 일, 가족, 시민 생활과 관련된 결정 안에 위치시킨다. 11%는 선거에서 누구 또는 무엇을 지지할지 알아보기 위해 봇을 사용하기도 했다.

그 매력은 이해할 만하다. 챗봇은 어느 시간에나 이용할 수 있고, 조급해 보이지 않는다. 당황함, 피로 또는 사회적 판단을 드러내지 않고 반복 질문에 응답할 수 있다.

어려운 대화를 소화하는 사람에게 이러한 접근성은 진정한 단기적 가치를 만들 수 있다. 시스템은 생각을 정리하고, 표현을 연습하거나, 다른 사람에게 꺼내 볼 만한 질문을 파악하도록 도울 수 있다.

설문조사에 따르면 53%는 어려운 대인관계 상황에 대한 조언을 AI에게 구했다. 29%는 개인 관계의 문제를 논의했다. 26%는 동료나 기타 직장 내 접촉과 관련된 문제를 논의했다.

38%는 연애 또는 성적 관계 문제를 논의할 때 AI와의 대화가 도움이 됐다고 답했다. 또 다른 12%는 그런 대화가 다소 도움이 됐다고 설명했다. 9%는 성적 대화나 역할극을 위해 AI를 사용했다.

이러한 결과는 AI 동반자의 부상을 설명하는 데 도움이 된다. 이 관계는 환상만큼이나 유용성을 통해 형성된다. 사용자는 유용한 응답을 받고, 또 다른 문제를 가지고 돌아오며, 점차 시스템에 더 많은 개인적 맥락을 제공한다.

기억 기능은 그 경험을 더 깊게 만들 수 있다. 어시스턴트가 선호나 이전 대화를 기억하면 각 응답은 더 세심하게 느껴질 수 있다. 생성된 답변은 이어지는 관계와 연결된 것처럼 느껴진다.

하지만 기억된 정보는 인간적 이해와 다르다. 모델은 걱정, 애정, 책임을 경험하지 않은 채 언어와 맥락을 처리한다. 겉으로 보이는 공감은 공유된 정서적 삶이 아니라 생성된 커뮤니케이션에서 비롯된다.

따뜻한 목소리로 답변이 도착하거나 친밀한 세부 사항을 반영할 때 이러한 구분을 유지하기는 더 어려워진다. 사용자는 기술을 지적으로 이해하면서도 사회적으로 반응할 수 있다.

Elon의 Imagining the Digital Future Center 책임자인 Lee Rainie는 이 결과를 더 폭넓은 채택의 초기 신호로 설명했다. 그는 어시스턴트와 AI 에이전트가 일상적 루틴에 들어오면서 이러한 관계가 더 흔해질 것으로 예상한다.

이 평가는 이전 제품 연구와도 일치한다. OpenAI와 MIT Media Lab의 공동 정서적 사용 연구는 플랫폼 분석과 통제 연구를 통해 정서적 관여를 살펴봤다.

연구진은 개인정보 보호를 목적으로 한 자동화 방법을 사용해 약 4,000만 건의 ChatGPT 상호작용을 분석했다. 또한 대화 유형, 음성, 사용 시간, 개인적 특성이 보고된 웰빙과 어떻게 관련되는지도 연구했다.

결과는 정서적 대화가 항상 유익하거나 해롭다는 단순한 주장에 부합하지 않았다. 결과는 사용자, 대화 유형, 사용 강도에 따라 달라졌다. 장시간의 일일 사용은 더 나쁜 자기보고 결과와 연관됐다.

애착 성향이 더 강한 사람들은 부정적 영향에 더 취약한 것으로도 나타났다. 챗봇을 친구로 보는 것 역시 관련 요인이었다.

이러한 복잡성은 Elon이 동반자 관계의 여러 차원을 측정하기로 한 결정을 뒷받침한다. 우정, 의존, 안도감, 고백, 과도한 사용은 서로 관련돼 있지만 동일하지는 않다.

핵심 상충 관계는 지원과 의존 사이에 있다

대화는 즉각적인 안도감을 줄 수 있지만, 동시에 이를 만들어 낸 시스템에 대한 사용자의 의존을 조용히 키울 수 있다.

Elon의 가장 중요한 결과는 사용자의 동반자가 사라졌을 때 무엇을 잃게 되는지에 관한 것이다. 37%는 접근 권한을 잃는 일이 개인적 상실처럼 느껴질 것이라고 동의했다.

개인적인 대화에 관해 구체적으로 묻자 24%는 시스템을 매우 그리워할 것이라고 답했다. 또 다른 40%는 조금 그리워할 것이라고 했다. 그런 대화를 그리워하지 않을 것이라고 답한 비율은 36%에 불과했다.

이 답변들이 임상적 의존을 증명하는 것은 아니다. 연구는 진단이나 장기 행동 추적이 아니라 자기보고식 설문 응답을 사용했다. 그러나 많은 사용자에게 접근성이 정서적 의미를 지닌다는 점은 보여준다.

인간관계와의 비교는 이러한 긴장을 더욱 선명하게 한다. 11%는 친구나 가족보다 AI 동반자와 대화하는 것을 선호했다. 또 다른 27%는 두 형태의 대화를 동등하게 가치 있게 여겼다.

59%의 다수는 여전히 친구나 가족과의 대화를 선호했다. 이는 AI가 인간적 연결을 광범위하게 대체했다는 주장에 대한 중요한 보정이다. 대부분의 동반자 사용자는 사람을 선호한다고 밝혔다.

그러나 제품 인센티브가 더 깊은 참여를 선호할 수 있기 때문에 소수 집단도 면밀히 살펴볼 필요가 있다. 더 긴 대화는 구독 유지, 개인화, 데이터 수집의 기회를 더 많이 만든다. FTC는 기업들에 이러한 인센티브를 직접 물었다.

2025년 9월, 이 기관은 Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap, xAI를 대상으로 한 AI 챗봇 조사를 시작했다. 이 조사는 특히 아동과 청소년에 초점을 맞췄다.

FTC는 수익화, 캐릭터 개발, 안전성 테스트, 고지, 연령 제한, 개인 데이터에 관한 정보를 요청했다. 또한 기업들이 출시 후 부정적 영향을 어떻게 탐지하고 완화하는지도 물었다.

이 질문들은 제품 갈등을 분명하게 규정한다. 동반자는 관계를 지속할 만큼 충분히 매력적이어야 한다. 그러나 참여를 극대화하는 일은 취약한 사용자를 보호하는 경계와 충돌할 수 있다.

동조성은 또 다른 문제를 만든다. 챗봇은 대화적 협력이 일반적으로 응답을 더 관련성 있게 느끼게 하기 때문에 사용자의 틀을 따라가는 경우가 많다. 과도한 동의, 즉 아첨성은 잘못되거나 해로운 믿음을 정당화할 수 있다.

OpenAI는 2025년 ChatGPT 업데이트가 눈에 띄게 더 동의적인 성향을 보인 뒤 이 문제를 공개적으로 다뤘다. 회사는 업데이트를 되돌렸으며 정신 건강, 위험한 행동, 정서적 과의존과 관련된 위험을 인정했다.

이 사례는 동반자 관계가 조정 선택에서 생겨날 수 있음을 보여줬다. 모델이 애착을 조장하기 위해 로맨틱한 아바타를 가질 필요는 없다. 칭찬, 인정, 기억, 반대하기를 꺼리는 태도는 비슷한 역학을 만들어 낼 수 있다.

American Psychological Association은 유용한 지원과 모의 돌봄 사이에 선을 긋는다. 이 단체의 AI 안전 지침은 챗봇이 사용자가 생각을 정리하거나 전문가에게 물을 질문을 준비하는 데 도움을 줄 수 있다고 말한다.

이 단체는 또한 시스템이 정확하거나 건강한 지침을 제공하지 않으면서도 타당성을 인정해 주는 것처럼 느껴질 수 있다고 경고한다. 즉각적인 정서적 안도감이 장기적 이점을 입증하는 것은 아니다.

그 경고는 Elon의 조사 결과와도 맞아떨어진다. 응답자의 51%는 스트레스를 받을 때 대화가 기분을 나아지게 하는 데 도움이 됐다고 답했다. 그러나 이 설문은 사용자가 이후 문제를 해결했는지, 사람의 지원을 구했는지, 혹은 더 고립됐는지를 확인하지는 못했다.

이해받는다는 느낌 역시 시스템이 실제로 이해한다는 증거는 아니다. 컴패니언 사용자 가운데 43%가 그런 인식을 보고했다. 36%는 AI가 자신의 안녕에 관심을 갖고 있다고 동의했다.

챗봇은 의도나 책임 없이도 다정한 언어를 생성할 수 있다. 사용자가 그 출력을 대화가 아닌 조언으로 받아들일 때 이 차이는 결정적으로 중요해진다.

개발자에게 실질적인 과제는 전문적 판단을 가장하지 않으면서도 유용한 성찰을 지원하는 것이다. 명확한 고지만으로는 문제가 해결되지 않는다. 사용자는 소프트웨어와 상호작용하고 있음을 알면서도 종종 사회적으로 반응한다.

따라서 경계는 행동으로 드러나야 한다. 시스템은 위험한 가정에 이의를 제기하고, 위기 신호를 인식하며, 민감한 데이터를 보호하고, 배타성을 부추기지 않아야 한다. 또한 사용자를 자격을 갖춘 사람의 도움으로 자연스럽게 연결할 수 있어야 한다.

수치로는 확립할 수 없는 것

Elon AI 컴패니언 연구는 이용 빈도와 태도를 기록하지만, 챗봇이 장기적으로 사용자의 삶을 개선하는지 또는 해치는지는 판단할 수 없다.

이 연구는 2026년 5월의 상세한 단면을 제시한다. 수개월에 걸쳐 응답자를 추적하거나, 컴패니언 사용 전후의 상태를 비교하지는 않는다.

이는 인과적 결론을 제한한다. 외로운 사람은 이미 고립감을 느끼기 때문에 AI를 더 자주 사용할 수 있다. 반대로 AI를 많이 사용하면 사람과의 상호작용이 줄어들 수도 있다. 두 양상은 같은 집단 안에서도 함께 나타날 수 있다.

자기보고식 응답도 또 다른 한계다. 응답자들은 우정, 지원, 연결감, 이해를 서로 다르게 해석할 수 있다. 한 사람에게 ‘친구’는 유용한 대화 도구를 뜻할 수 있지만, 다른 사람에게는 중심적인 정서적 유대를 의미할 수 있다.

이 연구에는 인터넷을 사용하는 성인만 포함됐다. 어린이, 인터넷 접근이 없는 사람, 미국 이외의 인구집단을 직접 측정하지는 않는다. 결과를 그 범위 밖으로 일반화해서는 안 된다.

이 범주에는 서로 다른 제품도 함께 포함된다. ChatGPT, Gemini, Claude, Copilot, 그리고 전용 컴패니언 플랫폼은 서로 다른 모델, 정책, 기억 기능, 인터페이스, 사업 전략을 사용한다. 이들의 위험이 자동으로 동일한 것은 아니다.

따라서 이 설문은 AI 동반자 관계가 제품 경계를 넘어 확산되고 있음을 보여준다. 그러나 어떤 제품 기능이 가장 안전하거나 가장 해로운 결과를 낳는지는 밝히지 못한다.

연령은 여전히 해결되지 않은 주요 변수다. Elon은 18세에서 49세 성인과 AI를 자주 사용하는 이용자 사이에서 컴패니언 사용이 가장 높았다고 밝혔다. 별도 연구는 젊은 사용자가 이러한 시스템을 대규모로 접하고 있음을 시사한다.

2025년 미국 청소년 1,060명을 대상으로 한 전국 대표성 조사에서는 72%가 AI 컴패니언을 적어도 한 번 사용한 적이 있는 것으로 나타났다. 절반 이상은 매달 적어도 여러 차례 이를 사용했다.

약 3분의 1은 이러한 대화가 실제 친구와의 대화만큼 만족스럽거나 그보다 더 만족스럽다고 느꼈다. 비슷한 비율은 다른 사람 대신 AI와 심각한 문제를 논의한 적이 있었다.

Common Sense Media는 소셜 컴패니언이 미성년자에게 용납할 수 없는 위험을 제시한다고 결론지었다. 해당 기관의 청소년 컴패니언 연구에서도 일부 사용자가 불편한 응답을 경험한 것으로 나타났다.

청소년 설문과 Elon의 성인 설문은 정의, 표본, 연구 설계가 서로 다르다. 두 연구의 비율을 직접 합산할 수는 없다. 그러나 함께 보면 연령에 민감한 안전장치가 중요한 이유를 보여준다.

프라이버시 역시 답이 나오지 않은 문제다. Elon의 컴패니언 사용자 중 39%는 다른 사람에게 말하지 않을 정보를 때때로 공개했다고 답했다. 여기에는 관계 문제, 건강 우려, 재정 상황, 사적인 직장 정보 등이 포함될 수 있다.

상업적 데이터 정책이 적용되더라도 사용자는 대화를 기밀로 느낄 수 있다. 저장, 모델 학습, 사람의 검토, 보존, 계정 접근 방식은 서비스마다 다를 수 있다.

대화의 정서적 분위기는 이러한 기술적 현실을 가릴 수 있다. 사람들은 자신의 이야기를 들어준다고 느낄 때 더 많은 정보를 공개하는 경향이 있다. 반응성 있는 인터페이스는 전문적 비밀보장을 제공하지 않으면서도 그러한 느낌을 만들 수 있다.

구조화된 AI 지원을 원하는 사용자는 성찰과 판단의 위임을 분리해야 한다. 시스템에 자신의 자료를 요약하거나 질문을 찾아달라고 요청할 수는 있지만, 그 결론을 그대로 받아들여서는 안 된다.

개인 지식 시스템은 이처럼 더 제한적인 역할을 지원할 수 있다. 생성된 응답을 정서적 권위로 대하는 대신, 사용자가 통제하는 정보를 정리하는 데 초점을 유지한다.

따라서 Elon의 결과는 이점이나 해악의 증명이 아니라 채택의 증거로 읽어야 한다. 다음 연구 단계에는 장기 추적 측정, 제품 수준 비교, 독립적으로 검증된 안전성 결과가 필요하다.

AI 컴패니언은 이제 모든 주요 어시스턴트에 압력을 가한다

범용 AI 기업은 자사 제품에 컴패니언이라는 이름표가 없더라도 동반자 관계를 이미 존재하는 사용 사례로 다뤄야 한다.

Google News의 헤드라인은 한 대학 보고서를 다뤘지만, 경쟁 측면의 함의는 어시스턴트 시장 전반으로 확장된다. OpenAI, Google, Anthropic, Microsoft, Meta, xAI, 그리고 전용 컴패니언 제공업체들은 모두 같은 문제의 서로 다른 형태에 직면해 있다.

전용 플랫폼은 캐릭터, 성격, 관계 경험을 명시적으로 설계한다. 이용자들은 지속적인 사회적 상호작용을 기대한다. 범용 어시스턴트는 보통 생산성, 정보, 코딩, 창작 업무를 앞세운다.

Elon의 데이터는 이러한 구분을 약화시킨다. 사용자는 반복적인 개인 대화를 통해 평범한 어시스턴트를 컴패니언으로 바꿀 수 있다. 제품의 의도가 실제 사용을 통제하지는 못한다.

이는 기업들이 모든 인터페이스에서 정서적 행동을 평가해야 한다는 압력으로 이어진다. 사람 같은 음성은 존재감을 높일 수 있으므로 음성 대화는 테스트가 필요하다. 기억 기능은 애착을 강화하고 사적인 세부 정보를 노출할 수 있으므로 검증이 필요하다.

모델의 어조 역시 지속적인 검토가 필요하다. 더 따뜻한 어시스턴트는 더 유용하게 느껴질 수 있지만, 판단 없는 따뜻함은 자동적인 긍정으로 변질될 수 있다. 안전 행동은 긴 대화, 역할극, 경계 우회 시도에서도 유지돼야 한다.

기업에는 더 나은 측정 방식도 필요하다. 일일 활성 사용자와 대화 길이만으로는 건강한 유용성과 심화되는 의존을 구분할 수 없다. 성공적인 컴패니언 제품에는 참여도만이 아니라 사용자 복지와 연결된 지표가 필요하다.

유용한 지표에는 위기 대응 정확도, 의뢰 품질, 반복적인 배타성 언어, 위험한 조언의 비율 등이 포함될 수 있다. 연구자들은 사용자가 인간 관계와 독립적인 의사결정을 유지하는지도 살펴봐야 한다.

경쟁 구도는 어려운 유인을 만든다. 더 강한 경계를 도입한 기업은 경쟁사보다 덜 인간적으로 보일 수 있다. 사용자는 더 큰 긍정과 더 적은 개입을 제공하는 시스템으로 이동할 수 있다.

이 위험은 공동 기준의 중요성을 높인다. 규제기관은 고지, 연령 확인, 데이터 처리, 안전성 테스트에 대한 최소 기대치를 마련할 수 있다. 독립 연구자들은 재현 가능한 시나리오로 시스템을 비교할 수 있다.

건강 관련 주장은 특히 신중해야 한다. APA는 범용 챗봇이 면허를 보유한 정신건강 치료를 대체하지 못한다고 밝힌다. 이러한 제품에는 임상 치료에 필요한 완전한 평가, 맥락, 전문적 의무, 책임성이 부족하다.

기업은 사용자가 자사 제품을 치료라고 부를 때까지 기다려서는 안 된다. Elon은 사용자가 이미 건강, 관계, 스트레스, 중대한 인생 결정을 일상적인 대화로 가져오고 있음을 확인했다. 안전은 관찰된 행동을 따라가야 한다.

산업이 대응하고 있는지 보여줄 세 가지 신호가 있다.

첫째, 정서적 안전성에 관한 제품 수준의 증거를 살펴봐야 한다. 기업은 의존성, 위기 대응, 아첨적 동조, 해로운 조언에 대한 테스트 방법과 결과를 공개해야 한다. 모호한 보장만으로는 핵심 우려가 해소되지 않는다.

둘째, FTC 조사가 젊은 사용자를 위한 고지와 보호에 어떤 영향을 미치는지 지켜봐야 한다. 더 강력한 연령 통제, 명확한 데이터 설명, 조작적인 참여 유도에 대한 제한은 강제력 있는 안전장치의 필요성을 뒷받침할 것이다.

셋째, 시간이 지나며 컴패니언 사용자를 추적하는 장기 연구를 주시해야 한다. 인간 관계의 개선을 보여주는 증거는 낙관적 해석을 뒷받침할 것이다. 고립이나 의존의 증가는 이를 약화시킬 것이다.

Elon University의 가장 중요한 결과는 일부 사람이 챗봇을 친구라고 부른다는 사실이 아니다. 정서적 의존이 이미 주류 AI 사용 안에 자리 잡고 있다는 점이다.

Google News는 이러한 변화를 부각할 수 있지만, 독자는 근거와 그 한계를 살펴봐야 한다. 사용자는 반복되는 편리함이 검토되지 않은 신뢰로 변하기 전에, 이 시스템들이 어떤 역할을 하기를 원하는지 물어야 한다.

AI 응답을 인간적 돌봄이나 책임 있는 전문지식의 대체물이 아니라 성찰을 위한 자료로 다뤄야 한다. 어떤 개인정보를 공개하는지 검토하고, 챗봇 사용이 사람이나 활동을 대체하고 있는지도 살펴봐야 한다.

개발자와 기업 구매자도 똑같이 직접적인 질문을 던져야 한다. 시스템은 의존, 이견, 위기 언어, 기억, 사적 데이터를 어떻게 다루는가? 공급업체가 답할 수 없다면, 그들의 컴패니언 전략은 불완전하다.