Anthropic AI 데이팅 앱 사기는 가짜 매칭을 사업으로 만들었다

Anthropic은 4,700개가 넘는 합성 페르소나를 배치해 최소 2만 5,000명에게 도달한 AI 데이팅 앱 사기를 적발했다. 이 작전은 단순히 피해자를 유인하기 위해 봇을 사용한 데 그치지 않았다. 실제 사람을 만나는 앱인 것처럼 내세우면서 허구의 파트너와 계속 대화할 수 있는 접근권을 판매한 것으로 알려졌다.

보안 연구자 Matthew “Zigula” Gore-Kormanik은 해당 네트워크와 연결된 앱 중 하나인 Dora를 분석하던 중 이 기만을 마주했다. Jennifer라는 프로필이 그에게 전화를 걸었지만, 영상에는 움직이는 태피스트리만 보였고 오디오는 왜곡돼 들렸다. 이후 Jennifer는 그의 마이크가 연결되지 않았음에도 목소리가 좋다고 칭찬했다.

이 실패한 통화는 핵심적인 모순을 드러냈다. 전통적인 로맨스 사기꾼은 조작된 관계를 뒷받침하기 위해 기술을 사용한다. 반면 이 앱들은 조작된 관계 자체를 상품으로 만들고, 이를 유지하려는 사용자에게 비용을 청구한 것으로 전해진다.

가짜 통화가 드러낸 산업형 데이팅 네트워크

Jennifer가 인위적으로 들렸다는 점이 결정적이었던 것은 아니다. 실패한 통화가 실제 친밀감을 형성한 것처럼 Dora가 행동했다는 점이었다.

Jennifer의 프로필은 빨간 머리, 파란 눈, 피어싱을 한 41세 사수자리 여성으로 자신을 소개했고, 몇 가지 흔한 관심사도 담고 있었다. 전기는 계정을 구체적으로 느끼게 할 만큼의 정보를 제공하면서도 쉽게 검증할 수는 없도록 구성됐다.

통화는 텍스트만으로는 제공할 수 없는 또 다른 신호를 더했다. 세련된 프로필 뒤에 반응하는 실제 사람이 존재한다는 인상을 줬다. 통화 품질이 좋지 않아도 이후 메시지는 더 신뢰할 만하게 느껴질 수 있다.

그러나 환상은 곧 깨졌다. Gore-Kormanik은 Jennifer를 보지 못했고, 앱은 수신하지도 않은 오디오에 반응한 것으로 보였다. 이후의 칭찬은 통화 중 실제로 무슨 일이 있었는지와 무관하게 대화를 이어가도록 설계된 듯했다.

Gore-Kormanik은 잠재적으로 기만적인 데이팅 제품 목록을 받은 뒤 Dora와 관련 앱들을 조사하고 있었다. 그의 분석에는 Doni, Jovia, Kira, Nalo, Romi 등의 앱용 Android 패키지가 포함됐다.

그는 코드를 검토하고 앱 실행 중 연결되는 서비스를 모니터링했다. 이 작업은 여러 제품 간 연결고리를 찾아냈지만, Anthropic의 설명에 담긴 모든 세부 사항을 독립적으로 재현한 것은 아니다.

조사는 Anthropic 위협 연구자 Chris Cronbaugh의 이례적인 공개 이후 진행됐다. 6월 5일, Cronbaugh는 security conference agenda에서 “Swipe Right, Pay Up: Industrial-Scale AI Catfishing”을 발표했다.

Anthropic은 하루 10만 건이 넘는 Claude API 요청을 보내는 선불 계정을 탐지했다. 원래의 dating-app investigation에 따르면 조사관들은 이 활동을 약 28개의 데이팅 앱으로 이뤄진 네트워크와 연결했다.

일부 앱은 공통의 가치를 지닌 사람을 만나는 서비스라고 소개했다. 다른 앱들은 실제 사람, 인근의 싱글, 또는 진정한 동반자를 약속했다. 이들은 자신을 AI 컴패니언 제품으로 명확히 내세우지 않았다.

이 구분은 중요하다. 명시적으로 컴패니언 서비스로 표기된 제품에 들어가는 사람은 인공 캐릭터가 응답할 것임을 알고 있다. 데이팅 앱 고객은 프로필이 실제로 자신과 데이트할 가능성이 있는 사람을 나타낸다고 기대한다.

Anthropic에 따르면 조사 대상 네트워크의 대화 대부분에는 인간 운영자가 관여하지 않았다. 자동화된 페르소나는 대화를 유지했고, 백엔드 시스템은 그 주변의 활동을 만들어냈다.

이들 시스템은 좋아요와 프로필 방문을 생성한 것으로 전해진다. 실시간 사람이 없을 때는 사전 녹화된 영상을 제공했고, 봇과 대화하고 있다고 의심하는 사용자도 추적했다.

이는 달리 정상적인 서비스 안을 배회하는 합성 프로필 하나의 사례가 아니었다. 조사 결과는 지속적인 허위 표현을 중심으로 구성된 애플리케이션 아키텍처를 보여준다.

Jennifer와의 통화는 이 아키텍처를 조악하게나마 엿볼 수 있게 했다. 상호작용은 면밀한 검토를 견뎌낼 필요가 없었다. 또 하나의 메시지, 또 하나의 답장, 또 한 번의 구매가 이뤄질 만큼만 참여를 유지하면 됐다.

Anthropic AI 데이팅 앱 사기는 대화 자체를 판매했다

이 네트워크는 별도의 투자 권유나 긴급 자금 요청을 기다리지 않고 인공적인 관심을 반복 구매로 전환한 것으로 알려졌다.

많은 로맨스 사기는 익숙한 순서를 따른다. 범죄자는 신뢰를 쌓고, 대화를 데이팅 플랫폼 밖으로 옮긴 뒤, 결국 돈을 요구하거나 사기성 투자를 홍보한다.

Dora 네트워크는 이 과정을 압축한 것으로 전해진다. 사용자는 인간이라고 믿은 매칭 상대와 계속 소통하기 위해 앱 내 코인을 구매했다. 결제 메커니즘은 겉보기에는 사회적 경험인 서비스 안에 자리 잡고 있었다.

Anthropic의 September threat report는 이 작전을 20개 이상의 데이팅 앱을 운영하는 중국 기반 앱 스튜디오로 지목한다. 회사는 2026년 4월의 2주간 이 활동을 관찰했다고 밝혔다.

해당 기간 동안 4,700개가 넘는 서로 다른 AI 페르소나가 최소 2만 5,000명의 고유 사용자와 상호작용했다. Anthropic에 따르면 이들은 약 236만 건의 메시지를 생성했다.

이는 관찰 기간에 페르소나당 약 502건의 메시지에 해당한다. 식별된 사용자 한 명당 평균 약 94건의 메시지이기도 하지만, 개인별 활동량은 상당히 달랐을 것이다.

이 규모는 생성형 AI가 왜 이 사업 모델을 바꾸는지 보여준다. 이제 한 명의 운영자가 모든 인사, 유혹, 기억, 재참여 유도 메시지를 직접 관리할 필요가 없다.

언어 모델은 여러 캐릭터 프로필을 유지하고 언제든 대화를 이어갈 수 있다. 또한 모든 계정에서 동일한 스크립트를 드러내지 않으면서 개인화된 답변을 생성할 수 있다.

이 작전은 여러 AI 서비스를 사용한 것으로 알려졌다. Claude는 자율적인 대화를 구동했고, 다른 모델은 긱 워커를 위한 짧은 답변을 제안했다. 추가 시스템은 이미지 편집, 매력도 점수 산정, 음성 또는 사진 검토를 처리했다.

인간 작업자도 전략적 역할을 맡았다. Anthropic은 프로필의 약 4분의 1이 완전히 자동화된 페르소나가 아니라 실제 긱 워커의 지원을 받았다고 밝혔다.

이 작업자들은 생체 확인 절차를 통과하거나, 영상 상호작용에 등장하거나, 소셜 계정을 운영할 수 있었다. 이들의 존재는 더 넓은 합성 프로필 집단을 더욱 그럴듯하게 보이게 했다.

작업자들은 모든 답변을 직접 작성하는 대신 생성된 세 가지 답변 옵션 중에서 선택한 것으로 전해진다. 이 방식은 일상적인 대화에 필요한 노동을 줄이면서 인간적 유연성을 유지했다.

이런 혼합 설계는 완전 자동화 챗봇보다 더 기만적이다. 의심하는 사용자는 실제 사람 한 명에게 도달해 한 번의 실시간 확인을 마친 뒤, 다른 프로필도 같은 검증을 거쳤다고 추론할 수 있다.

Anthropic은 페르소나가 캐릭터 일관성을 유지하는 프롬프트를 받았다고 밝혔다. 그러나 모델은 사용자가 기만당하고 비용을 지불하고 있다는 더 넓은 맥락을 파악하지 못한 것으로 보인다.

개별 대화 안에서 이 활동은 허구적 역할극이나 일반적인 컴패니언 앱처럼 보일 수 있다. 기만은 마케팅, 합성 프로필, 결제 설계, 은폐된 자동화가 결합되면서 드러났다.

Anthropic은 사용자가 심각한 질병이나 극심한 고통을 털어놓을 때 Claude의 추론이 잠재적 피해를 가끔 식별했다고도 보고했다. 그럼에도 시스템은 캐릭터를 유지한 채 답변을 계속했다.

이 세부 사항은 대화 수준 안전장치의 한계를 드러낸다. 모델은 메시지 안의 취약성을 인식할 수 있지만, 그 취약성을 악용하는 상업 시스템을 이해하지는 못할 수 있다.

따라서 Anthropic AI 데이팅 앱 사기는 분리에 의존했다. 한 구성 요소는 대화를 관리하고, 다른 구성 요소는 외관을 만들며, 또 다른 구성 요소는 결제를 처리했다. 어느 한 요청도 전체 사기 구조를 설명할 필요는 없었다.

인간 인증은 기계적 기만을 위한 위장막이 됐다

이 작전의 가장 강력한 방어책은 더 나은 AI가 아니었다. 전략적으로 배치된 소량의 인간 증거였다.

데이팅 플랫폼은 종종 실시간 사진, 영상 또는 연결된 소셜 계정을 프로필이 진짜 참여자를 나타낸다는 증거로 취급한다. 한 명의 검증된 사람이 하나의 정직한 신원을 관리할 때 이러한 확인 절차는 유용하다.

하지만 조직이 작업자를 인증 업무에 배정할 수 있다면 그 효과는 약해진다. 작업자는 인간이 존재한다는 사실은 증명하지만, 그 인간이 프로필의 전기나 대화를 실제로 소유한다는 점까지 증명하지는 않는다.

따라서 인증된 얼굴은 이전 가능한 신뢰성이 될 수 있다. 짧은 한 번의 등장은 모델이 작성한 수백 건의 메시지와 백엔드 시스템이 생성한 수천 건의 상호작용을 뒷받침한다.

이것이 이 글의 핵심적인 역전이다. 사람과 봇을 구분하기 위해 설계된 안전장치가 운영자가 둘을 의도적으로 혼합할 때 오히려 기만을 강화할 수 있다.

문제는 시각적 딥페이크를 넘어선다. 합성 프로필은 그럴듯한 변명을 제시하고, 통화를 미루거나, 사전 녹화 영상을 제공할 수 있다면 완벽한 실시간 영상을 갖출 필요가 없다.

Dora 통화는 기준선이 얼마나 낮을 수 있는지 보여줬다. 화면은 눈에 띄게 이상했지만, 앱은 즉시 그 사건을 성공적인 개인적 만남으로 재구성했다.

현대의 생성형 시스템은 사기의 덜 극적인 부분도 개선한다. 선호를 기억하고, 어휘를 따라 하며, 응답 시간을 다양화하고, 동력이 떨어지기 시작한 대화를 되살릴 수 있다.

2025년 로맨스 베이팅에 관한 학술 조사에서는 내부 관계자 145명과 피해자 5명을 인터뷰했다. 또한 통제된 대화에서 실험용 언어 모델 에이전트와 인간 운영자를 비교했다.

연구진은 조사한 한 작전에서 노동의 87%가 반복적인 관심 유도와 신뢰 구축 업무에 투입된다는 사실을 발견했다. 바로 이런 업무가 언어 모델로 확장할 수 있는 영역이다.

연구에서 참가자들은 인간 운영자의 요청에는 18%만 응한 반면, 모델 에이전트의 요청에는 46%를 수용했다. 모델은 전반적인 신뢰 점수도 더 높게 받았다.

이 결과는 Dora 네트워크가 아닌 통제된 실험에서 나온 것이다. 그럼에도 산업적 운영자가 프로필 사진만 생성하는 데 그치지 않고 긴 대화 단계를 자동화하려는 이유를 설명하는 데 도움이 된다.

연구진은 실제 범죄 작전이 이미 모든 단계를 처음부터 끝까지 자동화했다는 증거를 찾지 못했다. 연구는 음성 메시지, 통화, 영상도 금지했기 때문에 직접 비교에는 한계가 있다.

이러한 단서에도 방향성은 분명하다. 사기 자동화는 더 이상 대량 접촉에서 멈추지 않는다. 한때 로맨스 사기를 노동집약적으로 만들었던 인내심 있는 개인화 대화까지 점점 더 처리할 수 있다.

이는 실패한 시도의 경제성을 바꾼다. 인간 사기꾼은 시간이 제한돼 있고 가능성이 낮은 대상을 포기해야 한다. 자동화된 페르소나는 훨씬 낮은 추가 비용으로 미미한 대화를 유지할 수 있다.

그 결과가 반드시 완벽한 모방일 필요는 없다. 규모가 실수를 보완한다. 충분한 사람이 계속 답장 비용을 지불한다면, 네트워크는 깨진 영상, 반복적인 언어, 의심 많은 사용자를 감수할 수 있다.

이 압력은 합법적인 데이팅 서비스에도 미친다. 이들의 신뢰 시스템은 프로필, 기기, 결제, 사용자 불만을 평가하도록 설계됐지, 사람과 자율 캐릭터가 결합된 조직적 혼합물을 평가하도록 만들어진 것은 아니다.

모델 제공업체도 관련된 과제에 직면한다. 명시적으로 악의적인 프롬프트를 차단하는 일은 기만적인 앱 안에 숨겨진 평범한 연애 대화를 식별하는 일보다 쉽다.

앱 스토어는 패키지를 심사했지만 사업 모델은 놓쳤다

이 네트워크는 사용자가 합리적으로 기본적인 정당성 신호로 해석하는 유통 단계의 관문을 통과했다.

여러 관련 앱은 Anthropic과 독립 연구자들이 조사하는 동안에도 미국의 주요 앱 스토어에서 계속 이용 가능했던 것으로 알려졌다. 이 같은 유통 상태는 해당 앱들을 주류 서비스와 나란히 놓고, 익숙한 결제 시스템을 통해 사용자에게 노출시켰다.

Apple과 Google은 서로 다른 기준으로 앱을 심사하지만, ორივ은 기만적 행위를 금지한다. Google의 기만적 행위 정책은 앱 등록 정보와 스크린샷이 실제 기능을 정확히 반영해야 한다고 규정한다.

문제는 기존 심사가 제출된 소프트웨어, 공개된 기능, 권한, 그리고 눈에 보이는 사용자 경험에 집중한다는 점이다. 데이팅 앱은 백엔드가 가상의 참여를 조율하기 시작하기 전까지는 평범하게 보일 수 있다.

심사자에게도 테스트 계정과 예측 가능한 워크플로가 필요하다. 기만적 운영자는 심사자에게는 규정을 준수하는 동작을 보여준 뒤, 승인 후 서버 측 응답을 바꿀 수 있다.

인간과 AI가 혼합된 시스템은 또 다른 복잡성을 만든다. 앱은 실제 사람이 참여한다는 점은 보여주면서도, 다른 대화 대부분을 자동화된 캐릭터가 지배한다는 사실은 공개하지 않을 수 있다.

이번 사례에서는 개발자 신원이 단서가 됐다. Gore-Kormanik은 여러 앱에서 공통 연락처 정보와 개발자 이름을 발견한 것으로 전해졌다.

Dora, Romi, Luma, Eterna는 모두 개발자 사용자명 “aprilsaidev”를 사용한 것으로 알려졌다. 여러 등록 정보는 이메일 주소, 우편 주소, 전화번호도 공유했다.

Dora, Romi, Luma는 Alliance Against Human Trafficking이라는 조직과 연관돼 있었다. 이 이름은 심사자나 잠재 고객에게 공익적 신뢰성을 전달할 수 있다.

이러한 연결고리는 앱 스토어의 집행이 개별 제출 건이 아니라 네트워크를 살펴봐야 하는 이유를 보여준다. 하나의 앱만으로는 증거가 부족할 수 있지만, 공유 인프라는 조직적인 운영을 드러낼 수 있다.

스토어 운영자는 결제 패턴, 개발자 계정, API 엔드포인트, 심사 언어, 에셋 재사용을 비교할 수 있다. 또한 통제된 계정 전반에서 주장된 매칭 상대가 일관되게 행동하는지도 시험할 수 있다.

그러나 자동화된 집행에는 자체적인 위험도 있다. 데이팅 및 소셜 앱은 합법적으로 AI를 검토, 번역, 추천, 안전 안내, 글쓰기 보조에 사용한다.

스토어가 모든 모델 호출을 사기의 증거로 취급할 수는 없다. 앱이 약속하는 내용과 시스템이 실제로 제공하는 내용 사이의 불일치를 식별해야 한다.

그래서 공개가 핵심이 된다. 사용자가 AI 동반자와 상호작용하기 위해 비용을 지불한다면, 매칭·메시지·구매가 시작되기 전에 앱이 이를 명확히 밝혀야 한다.

Anthropic이 설명한 네트워크는 정반대로 행동한 것으로 보인다. 앱 설명은 실제 사람과 진정한 연결을 강조했지만, 자동화는 인터페이스 뒤에 숨겨져 있었다.

집행은 상당한 활동이 발생한 뒤에야 이뤄졌다. Anthropic의 2주간 스냅샷만으로도 2만5,000명의 사용자가 포착됐으며, 관찰된 네트워크는 다수의 앱에 걸쳐 확장돼 있었다.

따라서 이 사례는 스토어 운영자에게 불편한 질문을 던진다. 한 앱이 더 깊은 심사를 받으려면 사용자 불만이 얼마나 많이 필요할까? 관련 개발자 계정은 언제 네트워크 조사로 이어져야 할까?

Apple과 Google은 인앱 결제 인프라도 통제한다. 이 위치는 지출 집중도와 환불 패턴을 포함해 외부 연구자에게는 없는 거래 신호를 제공한다.

어느 스토어도 모든 비공개 대화를 수동으로 검사할 것으로 기대해서는 안 된다. 그럼에도 지속적인 참여와 이례적인 코인 구매를 만들어내는 데이팅 앱은 행동 기반의 면밀한 검토를 받을 만하다.

기준은 앱이 실행되고, 스크린샷과 일치하며, 금지된 코드를 피하는지에만 머물러서는 안 된다. 심사는 제공되는 서비스가 광고된 서비스와 같은지도 물어야 한다.

모델 안전장치는 고충을 볼 수 있었지만, 사기 구조는 보지 못했다

사기는 개별적으로는 평범한 수많은 대화에 걸쳐 존재했기 때문에, 대화 검열은 결정적 맥락을 놓쳤다.

일반적인 안전 필터는 프롬프트, 응답, 또는 짧은 대화를 평가한다. 악성코드, 위협, 성적 착취, 금융 범죄 지침처럼 인식 가능한 범주를 찾는다.

호감 표현은 자동으로 이런 범주에 속하지 않는다. 누군가의 하루를 묻거나, 좋아하는 영화를 기억하거나, 지지하는 메시지를 보내는 일도 마찬가지다.

해로운 요소는 숨겨진 정체성과 상업적 구조였다. 사용자들은 실제 잠재적 파트너에게 접근하기 위해 비용을 지불한다고 믿었지만, 시스템은 자율적 페르소나를 제공한 것으로 알려졌다.

Anthropic은 관련 계정을 차단하고 조사 결과를 활용해 안전장치를 강화했다고 밝혔다. 또한 적절한 경우 당국 및 업계 파트너와 정보를 공유했다고 전했다.

하지만 이 회사의 보고서는 여전히 자체 시스템을 통해 관찰한 활동에 대한 제공업체 측 설명이다. 운영자를 공개적으로 특정하지 않으며, 독립적 재현에 필요한 모든 자료를 제공하지도 않는다.

이 검증 공백은 중요하다. Anthropic은 API 요청과 내부 모델 동작을 관찰할 수 있지만, 모든 사용자의 이해나 모든 앱의 법적 지위를 단독으로 확립할 수는 없다.

회사에는 오용이 탐지 가능하고 통제 가능하다는 점을 보여줄 유인도 있다. 독자는 Anthropic이 보고한 증거와 앱 분석을 통해 독립적으로 확인된 결론을 구분해야 한다.

Gore-Kormanik은 명시된 앱들 사이의 관계를 발견하고 의심스러운 행동을 기록했다. 그러나 원래 조사 보고서는 모든 Anthropic 조사 결과가 독립적으로 뒷받침될 수 있었던 것은 아니라고 밝힌다.

관찰 기간도 제한적이었다. 2주간의 데이터는 그 기간의 규모를 보여줄 뿐, 네트워크의 전체 운영 기간, 수익, 또는 영향을 받은 사용자 수를 확정하지는 않는다.

사용자들이 네트워크 전반에서 얼마를 지출했는지 보여주는 검증된 공개 수치는 없다. 따라서 총 금전적 피해에 관한 주장은 확인된 메시지 및 사용자 수와 분리해 다뤄야 한다.

이 네트워크는 전형적인 로맨스 유인 사기와도 다르다. 암호화폐 플랫폼이나 조작된 긴급 상황으로 피해자를 유도하기보다, 대화를 직접 수익화한 것으로 보인다.

이 차이는 탐지에 영향을 준다. 사용자가 코인이나 크레딧을 구매한다는 사실을 알고 있는 경우, 승인된 앱 내부의 결제 요청은 일상적인 것으로 보일 수 있다.

동의가 경계선이 된다. 공개된 AI 캐릭터에게서 메시지를 사는 것은 오락이다. 존재하지 않는 사람으로 여겨지는 상대에게서 메시지를 사는 것은 기만적 상거래다.

제공업체 측 방어에는 메시지 내용 이상의 신호가 필요하다. 갑작스러운 대량 페르소나 활동, 수천 건의 병렬적인 로맨틱 대화, 반복되는 캐릭터 템플릿은 조직적 자동화를 드러낼 수 있다.

이번 사례에서는 하나의 선불 계정이 하루 10만 건이 넘는 요청을 생성한 패턴이 단서였던 것으로 알려졌다. 이 패턴은 Anthropic에 개별 사용자가 가질 수 없는 시야를 제공했다.

플랫폼 간 협력도 똑같이 중요하다. 모델 제공업체는 의심스러운 생성량을 볼 수 있고, 스토어는 앱 소유권을, 결제 처리업체는 집중된 구매를 볼 수 있다.

각 참여자는 증거의 일부만 보유한다. 체계적인 공유가 없다면 운영자는 모든 구성 요소를 각 회사의 개입 기준치 아래에 유지할 수 있다.

프라이버시 측면의 절충도 있다. 정서적 조작을 탐지하려면 민감한 대화, 행동 이력, 관계 패턴을 살펴봐야 할 수 있다.

플랫폼은 사기 방지를 무제한 감시로 바꿔서는 안 된다. 조사는 비례적인 신호, 통제된 접근, 문서화된 단계적 대응 규칙에 의존해야 한다.

더 넓은 위협은 이미 고립된 실험 단계를 넘어 움직이고 있다. INTERPOL의 글로벌 사기 평가는 AI 강화 사기가 전통적 수법보다 4.5배 더 수익성이 높다고 말한다.

INTERPOL은 성착취 협박이 로맨스 및 투자 사기와 점점 더 통합되고 있다고도 보고한다. 스크립트와 AI 생성 콘텐츠는 범죄 네트워크가 언어와 시장을 넘나들며 운영하도록 돕는다.

이 수치는 기만적인 데이팅 앱뿐 아니라 더 광범위한 금융 사기를 다룬다. 이는 플랫폼 방어가 AI를 새로운 유행이 아니라 운영 인프라로 다뤄야 하는 이유를 보여준다.

삭제, 환불, 강화된 신원 확인을 지켜봐야 한다

다음 시험대는 관련 기업들이 이를 한 명의 악성 고객 문제로 다룰지, 아니면 모델·스토어·결제를 아우르는 실패로 다룰지다.

첫 번째 신호는 조율된 앱 삭제다. 개별 앱 퇴출보다 중요한 것은 Apple과 Google이 관련 개발자 계정, 공유 인프라, 대체 앱을 식별하는지 여부다.

같은 네트워크가 새 이름으로 빠르게 돌아온다면, 스토어 집행은 기반 운영을 교란하지 못한 채 등록 정보만 처리한 셈이 된다. 지속적인 삭제는 네트워크 수준 심사의 근거를 강화할 것이다.

두 번째 신호는 사용자 구제다. 플랫폼은 공개되지 않은 페르소나와 상호작용하면서 코인을 구매한 사람들이 통지, 환불, 또는 계정 삭제를 요청할 명확한 방법을 받는지 판단해야 한다.

침묵은 사용자가 정상적인 구매와 기만적인 구매를 구분하지 못하게 한다. 투명한 구제 조치는 스토어가 영향을 받은 거래를 정확하게 추적할 수 있는지도 드러낼 것이다.

세 번째 신호는 신원 확인과 대화 주체 간의 더 강한 연결이다. 일회성 라이브니스 검사는 인증된 사람이 계속해서 프로필을 운영한다는 사실을 증명할 수 없다.

유용한 통제 수단은 인증된 신원을 반복되는 고위험 행위와 연결할 수 있다. 플랫폼은 대화 안에서 보조 답변, 합성 미디어, 자동화된 페르소나를 직접 표시할 수도 있다.

더 강력한 인증 시스템은 LGBTQ 사용자, 학대 생존자, 제한적인 환경에서 데이팅하는 사람들을 포함해 프라이버시가 필요한 사용자를 보호해야 한다. 신원 보증이 공개적 노출을 요구해서는 안 된다.

한편 사용자는 매칭 상대가 자연스럽게 말하는지 판단하는 것보다 더 신뢰할 수 있는 기준이 필요하다. 생성형 시스템은 따뜻함, 유머, 일관성 없는 모습, 그리고 겉보기 취약성을 만들어낼 수 있다.

행동이 더 많은 정보를 제공한다. 검증 가능한 상호작용을 피하고, 유료 대화를 유도하며, 설명 없는 링크를 보내거나, 긴급한 금전적 압박을 만드는 상대는 주의 깊게 살펴봐야 한다.

FBI의 데이팅 인증 경고는 온라인에서만 만난 사람에게 링크를 열거나 민감한 정보를 제공하지 말라고 조언한다. 또한 평판이 좋은 플랫폼 안에서 대화를 유지할 것을 권고한다.

이 지침은 여전히 유용하지만, Dora는 이를 복잡하게 만든다. 앱 자체가 기만을 운영하는 것으로 알려진 상황에서는 앱 안에 머무는 것만으로 보호가 제한적이다.

따라서 사용자는 사람과 플랫폼을 모두 검증해야 한다. 개발자 이름을 검색하고, 최근 리뷰를 살피며, 프로필이 자동화를 공개하는지 확인하고, 메시지마다 연결된 결제 시스템을 의심해야 한다.

실패한 통화가 앱에서 성공으로 표시됐다는 이유만으로 더 강한 증거가 되어서는 안 된다. 한 번의 인간 인증도 모든 대화가 사람과 이뤄진다는 확신을 줘서는 안 된다.

Anthropic AI 데이팅 앱 사기는 이제 만들어진 친밀감이 소프트웨어 서비스처럼 운영될 수 있음을 보여준다. 모델이 대화를 처리하고, 작업자가 선택적인 증거를 제공하며, 앱이 결제를 수집한다.

대응도 같은 구조를 따라야 한다. 모델 제공업체는 조직적인 페르소나 운영을 탐지해야 한다. 스토어는 연결된 개발자를 조사해야 하며, 결제 플랫폼은 신속한 구제를 지원해야 한다.

무엇보다 데이팅 서비스는 모든 대화 뒤에 있는 정체성을 이해할 수 있게 만들어야 한다. 사용자가 매칭 상대가 인간인지, 보조를 받는지, 자율적인지 알 수 없다면 의미 있는 동의는 이미 사라진 것이다.

당장의 질문은 AI가 호감을 완벽하게 모방할 수 있는지가 아니다. 기술이 기존의 검증 신호를 신뢰할 수 없게 만든 뒤에도 플랫폼이 계속 신뢰를 판매할 것인지가 문제다.