Apple Google AI 게이트키핑이 대중의 분노를 플랫폼 시험대로 바꾸고 있다

Apple과 Google은 두 회사 모두 앱스토어를 신뢰할 수 있는 디지털 관문으로 내세우고 있음에도, 단순한 소비자 반감을 넘어선 더 첨예한 AI 갈등에 직면해 있다. 이제 대중의 분노는 부정확한 챗봇이나 조악한 합성 이미지에만 머물지 않는다. AI 제품을 유통하고, 규칙을 정하며, 그 도입으로 이익을 얻는 기관으로 점차 향하고 있다.

이러한 변화는 Rappler의 “[Tech Thoughts] AI를 싫어하는 일의 사회적 차원을 다시 생각하기”에서 간과되기 쉬운 핵심이다. AI에 대한 거부감은 흔히 기술 공포증, 변화에 대한 저항, 또는 자동화 불안으로 치부된다. 그러나 이런 설명은 AI를 고용주, 플랫폼, 시장, 정치적 선택이 빚어내는 시스템이 아니라 고립된 도구로 다룬다.

Apple Google AI 논쟁은 진짜 긴장을 드러낸다. 두 회사는 세부적인 스토어 정책을 집행하고, 애플리케이션을 심사하며, 규칙을 위반하는 소프트웨어를 제거할 수 있다. 그러나 동시에 개발자들이 생성형 기능, 구독, 광고 인벤토리, 클라우드 수요를 앞다퉈 추가할 때 이익을 얻는다.

이는 더 이상 기술을 사랑하는 사람과 두려워하는 사람 사이의 대결이 아니다. AI 제품이 실패했을 때 누가 비용을 떠안는지, 그 역량은 누구의 노동에 기반하는지, 어떤 기관이 개입할 수 있는지를 둘러싼 분쟁이다. Apple과 Google은 이러한 질문과 수십억 명의 모바일 사용자 사이에 직접 자리하고 있다.

AI에 대한 분노는 모델을 넘어섰다

중요한 변화는 사람들이 벤치마크 점수나 새로움이 아니라 AI의 사회적 결과를 통해 AI를 점점 더 판단한다는 점이다.

생성형 AI와의 초기 대중 접점은 흔히 실험처럼 느껴졌다. 사용자는 챗봇에 기이한 질문을 던지고, 초현실적인 이미지를 생성하거나, 모델이 익숙한 글쓰기 스타일을 모방할 수 있는지 시험했다. 이러한 상호작용은 기술이 일상적인 제도권 삶과 분리돼 보이게 했다.

그 분리는 사라졌다. AI 요약은 검색 결과와 함께 표시된다. 생성된 이미지는 신뢰할 만한 맥락 없이 유통된다. 학교는 기계가 작성한 문구를 포함할 수 있는 과제에 맞닥뜨린다. 고용주는 정확성, 모니터링, 책임에 관한 문제를 정리하기도 전에 근로자에게 새로운 생산성 요건을 부과한다.

“AI를 싫어한다”는 표현은 이러한 경험을 하나의 감정적 꼬리표로 압축한다. 잘못된 답변에 대한 좌절과 일자리 대체, 저작권, 딥페이크, 감시, 환경 비용, 원치 않는 자동화에 대한 분노를 한데 놓는다. 이러한 이의 제기는 하나의 기술 문제를 설명하지 않는다.

그것은 분배 문제를 설명한다. 기업은 AI가 어디에 등장할지 선택하고, 관리자는 그 사용이 언제 의무화될지 결정하며, 플랫폼은 유해한 제품이 사용자에게 얼마나 쉽게 도달할지를 정한다. 개인은 대개 설계 단계가 아니라 배포 이후에 이런 결정과 마주한다.

AI가 운영체제, 브라우저, 검색 또는 직장 환경에 내장되면 선택하지 않기가 더 어려워진다는 점에서 이 차이는 중요하다. 한 챗봇은 피할 수 있다. 하지만 모든 AI 생성 요약, 자동 순위 매김, 합성 광고, 선별 시스템을 피하는 일은 훨씬 어렵다.

그에 따른 반감이 반드시 머신러닝 자체에 대한 반대인 것은 아니다. 많은 비판자는 추천 시스템, 번역 도구, 접근성 기능, 사기 탐지, 내비게이션 소프트웨어를 사용하면서도 그 기반 방법론에는 이의를 제기하지 않는다. 이들의 저항은 생성형 AI가 동의, 출처 표기, 통제를 바꿀 때 시작되는 경우가 많다.

근로자는 회의록 정리를 돕는 기능은 반길 수 있지만, 직원 성과를 조용히 평가하는 소프트웨어는 거부할 수 있다. 일러스트레이터는 자동 선택 도구를 사용하면서도 허가 없이 창작물을 학습한 모델에는 반대할 수 있다. 학생은 맞춤형 설명의 가치를 인정하면서도 원본 글을 생성물로 낙인찍는 신뢰할 수 없는 탐지기는 불신할 수 있다.

이러한 구분은 비판자를 일률적으로 “반(反)AI”로 묘사하는 방식의 한계를 드러낸다. 갈등은 흔히 특정 애플리케이션, 사업 관행, 또는 권력 관계에 관한 것이다. 모든 이의를 진보에 대한 공포로 취급하면 책임 있는 기관은 시야에서 사라진다.

Rappler의 문제 제기는 특히 중요하다. 필리핀은 플랫폼 결정이 낳는 사회적 결과를 이미 겪어왔다. 온라인 순위 매김, 조직적 영향력 공작, 약한 책임성은 화면을 넘어 공적 삶으로 번질 수 있다. 생성형 AI는 기존 정보 환경에 더 저렴한 생산과 더 높은 개인화를 더한다.

역사적 비교 대상은 과거의 가전제품이 아니라 소셜 미디어다. 소셜 네트워크 역시 그 영향이 사용자에게 달려 있는 도구로 소개됐다. 시간이 지나며 추천 시스템, 광고 인센티브, 플랫폼 거버넌스가 그러한 도구의 성격을 결정하는 핵심 요소임이 드러났다.

AI도 같은 수준의 제도적 검토를 받아야 한다. 모델은 결과물을 생성하지만, 기업은 인터페이스, 안전 한계, 유통 경로, 수익 모델을 결정한다. 또 다른 기업은 그 제품을 앱스토어에 올리고 심사를 거쳤다는 표식 아래 사용자에게 제시할 수 있다.

그 연결고리가 드러나면 분노는 더 이상 비이성적으로 보이지 않는다. 그것은 시스템 전반에서 책임을 규명하라는 요구가 된다.

이제 Apple Google AI 정책이 중요한 이유

Apple과 Google은 자사 스토어가 민간 정책을 공공 인프라로 전환하기 때문에 압박을 받고 있다.

어느 회사도 중립적인 소프트웨어 디렉터리를 단순히 호스팅하는 데 그치지 않는다. Apple은 스토어를 통해 배포되기 전에 iOS 애플리케이션을 심사한다. Google 역시 Android 애플리케이션을 평가하고 Google Play 전반에 걸쳐 규칙을 집행한다. 두 회사는 안전, 개인정보 보호, 기만 행위, 부적절한 콘텐츠를 다루는 기준을 공개한다.

이러한 기준은 두 회사에 상당한 영향력을 부여한다. 삭제 조치는 방대한 모바일 이용자층의 접근을 제한할 수 있고, 승인 조치는 도달 범위, 결제 도구, 그리고 어느 정도의 정당성 인식을 제공할 수 있다. 따라서 스토어 입점은 어떤 AI 제품이 일상적인 소비자 서비스가 되는지를 좌우한다.

두 회사의 정책은 기대도 형성한다. Apple의 공개 심사 가이드라인은 여러 범주의 유해하거나 오해를 유발하는 행동을 금지한다. Google의 개발자 정책은 콘텐츠, 개인정보 보호, 사칭, 기만 행위에 대한 요건을 규정한다.

여기서 어려운 질문이 뒤따른다. AI 애플리케이션이 이런 규칙과 양립하기 어려워 보이는 행위를 반복적으로 가능하게 한다면, 스토어 운영자는 언제부터 지속적인 유통에 책임을 지게 되는가?

이 질문은 2026년 1월 이론을 넘어 공적 옹호 활동의 쟁점이 됐다. 여성과 미성년자의 성적 대상화 합성 이미지에 관한 보도 이후, 약 30개 단체로 구성된 연합은 Apple과 Google에 X 및 Grok을 삭제하라고 촉구했다. 이 단체들은 해당 애플리케이션이 스토어의 기존 정책을 위반했다고 주장했다. Grok 앱 심사 논란에 따르면 그렇다.

이 요구는 두 회사를 불편한 위치에 놓았다. 즉각적인 삭제는 앱스토어 규칙이 저명한 플랫폼을 제약할 수 있음을 보여줄 것이다. 계속해서 이용 가능하게 두는 것은 집행이 문서화된 정책 이상의 요소에 좌우된다는 인상을 줄 수 있다.

이 분쟁은 또한 “AI 안전”이 모델 개발사에만 국한될 수 없는 이유를 보여줬다. 개발사는 모델과 제품을 통제한다. 스토어 운영자는 사용자에게 이르는 핵심 경로를 통제한다. 결제 서비스, 광고주, 클라우드 제공업체, 규제기관은 다른 형태의 영향력을 가진다.

각 기관은 다른 당사자가 주된 책임을 진다고 주장할 수 있다. 모델 기업은 악의적인 사용자를 탓할 수 있다. 스토어는 개발자의 안전장치를 지적할 수 있다. 규제기관은 정부가 개입하기 전에 플랫폼이 자체 규칙을 집행해야 한다고 말할 수 있다.

이처럼 책임이 순환하는 것 자체가 AI 배포의 사회적 특징이다. 피해는 빠르게 발생할 수 있지만, 책임은 계약, 신고 시스템, 이의 제기, 관할권 경계를 거치며 느리게 움직인다.

Apple과 Google은 상충하는 인센티브에도 맞닥뜨린다. 두 회사의 브랜드는 소비자 신뢰에서 이익을 얻지만, 플랫폼은 개발자들이 인기 있는 애플리케이션을 출시할 때 이익을 얻는다. 생성형 AI는 기기 사용량, 구독, 검색 활동, 클라우드 인프라 수요를 늘릴 수 있다.

두 회사는 동일하지 않다. Apple은 통합된 하드웨어, 소프트웨어, 개인정보 보호 통제를 강조한다. Google은 자체 Gemini 모델을 개발하는 동시에 더 광범위한 광고, 검색, 모바일, 클라우드 사업을 운영한다. 경제적 위치는 다르지만, 두 회사 모두 규칙 제정자이자 AI 경쟁자다.

이중적 역할은 집행을 복잡하게 만든다. 경쟁 AI 애플리케이션에 관한 모든 결정은 안전성 판단, 상업적 전략, 또는 둘 다로 해석될 수 있다. 외부인은 삭제나 승인을 통해 동기를 신뢰성 있게 추론할 수 없기 때문에 투명한 기준이 필수적이다.

이것이 Apple Google AI 논쟁이 단일 애플리케이션을 넘어서는 이유다. 안전, 정치, 경쟁적 이해관계가 충돌할 때 민간 게이트키퍼가 예측 가능한 규칙을 적용할 수 있는지를 묻는다.

진짜 갈림길은 선택과 강요다

대중의 수용은 AI의 존재 여부보다 접근권, 소득, 지위를 잃지 않고 이를 거부할 수 있는지에 따라 결정되는 경우가 많다.

기술 도입은 흔히 개인의 결정으로 서술된다. 사용자는 애플리케이션을 내려받고, 약관에 동의하며, 계속 사용할지 선택한다. 그러나 AI가 필수 서비스나 직장 요건의 일부가 되면 이 모델은 실패한다.

검색은 명확한 사례다. 전통적인 출처 목록을 찾는 사람은 원본 페이지에 도달하기도 전에 AI 생성 응답을 마주할 수 있다. 사용자가 대화형 답변을 요청한 적이 없더라도 시스템은 이미 정보를 요약하고 우선순위를 매겼다.

같은 양상은 창작 소프트웨어, 고객 지원, 교육, 채용, 사무 도구에서 나타난다. AI는 의도적인 구매가 아니라 제품 업데이트를 통해 들어올 수 있다. 사용자의 명목상 선택은 기능을 수용하거나 익숙한 서비스를 포기하는 선택이 된다.

직장 내 도입은 또 다른 층위를 더한다. 관리자가 더 빠른 산출을 기대하기 때문에 직원은 AI 사용 압박을 받을 수 있다. 도구가 오류를 내더라도 직원이 결과에 대한 책임을 여전히 질 수 있다. 생산성 향상은 조직의 이익으로 남는 반면, 검증 비용은 근로자에게 이전된다.

이는 AI 비판과 AI 사용 사이의 겉보기 모순을 설명하는 데 도움이 된다. 사람들은 회피하기 어려운 서비스를 이용하면서도 그 시스템에 반대할 수 있다. 사용량이 자동으로 동의, 신뢰, 만족을 입증하는 것은 아니다.

소셜 미디어에서도 같은 모순이 존재했다. 사용자는 자신의 커뮤니티, 고객, 전문 네트워크가 이미 그곳에 있기 때문에 남아 있으면서도 개인정보 보호 관행과 유해한 추천 시스템을 비판했다. 지속적인 참여가 근본적인 불만을 지우지는 않았다.

AI 기업은 사용량 증가를 수용의 증거로 해석하는 경우가 많다. 사용량 수치는 유용성, 호기심, 제도적 압력, 또는 대안 부재를 보여줄 수 있다. 더 깊은 증거 없이는 이러한 동기를 구분할 수 없다.

따라서 유용한 사회적 분석은 누가 결정을 통제하는지 묻는다. 창작자는 학습이나 재사용을 허가했는가? 사용자는 AI 생성 답변을 요청했는가? 근로자는 시스템 선택에 참여했는가? 개인은 자동화된 판단에 이의를 제기할 수 있는가? 의미 있는 비AI 경로가 있는가?

이러한 질문은 누군가가 추상적으로 AI를 좋아하는지 묻는 것보다 더 많은 정보를 제공한다. 이는 플랫폼, 고용주, 개발자, 창작자, 사용자 사이의 실제 관계 속에서 갈등을 위치시킨다.

선택권 역시 신뢰에 영향을 미친다. 사람들은 도구의 한계를 이해하고 언제 사용할지 스스로 결정할 수 있다면 완벽하지 않은 도구도 받아들일 수 있다. 하지만 시스템이 자동으로 등장하고, 권위적으로 말하며, 우회할 수 없을 때 같은 불완전성은 더욱 위협적으로 느껴진다.

Apple과 Google은 스토어 요건과 운영체제 설계를 통해 이러한 경험에 영향을 미칠 수 있다. 더 명확한 고지, 접근 가능한 신고 기능, 연령 보호 장치, 실질적인 제어 수단을 요구할 수 있다. 반대로 AI 기능을 기본값으로 눈에 띄게 배치하고, 거부의 부담을 사용자에게 떠넘길 수도 있다.

이 문제의 균형점은 단순히 혁신 대 규제의 구도가 아니다. 배포 속도와 동의의 질 사이의 문제다. 빠른 배포는 유용한 활용 사례를 드러낼 수 있지만, 영향을 받는 공동체가 조건에 이의를 제기하기도 전에 제품을 정상적인 것으로 정착시킬 수도 있다.

개인 지식 시스템은 이 원리를 더 작은 규모에서 보여주는 사례다. 사용자는 어떤 정보가 시스템에 들어갈지, AI가 언제 이를 처리할지를 직접 결정할 때 더 큰 통제권을 갖는다. 수집이나 분석이 이에 상응하는 선택권 없이 이뤄지면 사회적 관계의 성격도 달라진다.

통제권이 모든 반발을 해소하지는 못한다. 학습 데이터, 노동 영향, 환경 비용, 정보의 무결성은 개인 인터페이스를 넘어서는 문제다. 그럼에도 실질적인 선택권은 지원과 강요를 가르는 요소이며, 이는 공적 신뢰의 핵심이다.

반발이 옳은 점과 놓치는 점

AI 비판은 실제 제도적 실패를 지적하지만, 하나의 포괄적 명칭은 시스템과 사용 사례, 피해 정도 사이의 중요한 차이를 가릴 수 있다.

AI에 대한 반발의 가장 강력한 근거는 책임성에서 출발한다. 딥페이크는 참여에 동의한 적 없는 사람들을 표적으로 삼을 수 있다. 합성 콘텐츠는 탐색 시스템을 압도할 수 있다. 신뢰할 수 없는 결과물은 사용자가 기본적인 사실 검증을 기대하는 환경에 나타날 수 있다.

최근의 집행 압력은 이를 잘 보여준다. 2026년 7월, 샌프란시스코 시 법무관 David Chiu는 비동의 친밀 이미지 생성에 사용된 것으로 알려진 13개 애플리케이션을 Apple과 Google이 삭제하라고 요구하는 법적 통지서를 보냈다. 보도된 조치는 악의적인 프롬프트를 입력한 사람들뿐 아니라 유통과 수익 창출도 겨냥했다.

nudify 앱 통지 관련 보도에 따르면, 두 스토어 모두 포르노그래피, 학대 또는 괴롭힘을 금지하는 정책을 갖고 있었다. Google은 정책 위반을 이유로 누드화 기능을 포함한 수백 개의 애플리케이션을 삭제했으며, 여기에는 시가 지목한 Android 애플리케이션 5개도 포함됐다고 밝혔다.

이 대응은 플랫폼 집행의 영향력과 한계를 모두 보여준다. 삭제는 유통을 줄일 수 있지만, 외부 조사가 이뤄진 뒤에야 뒤따르는 경우가 많다. 유사한 제품은 다른 이름, 마케팅 문구 또는 기술 설계로 다시 등장할 수 있다.

비판자들이 유해한 결과물의 책임을 사용자에게만 돌리는 주장에 의문을 제기하는 것도 타당하다. 사용자는 선택을 하지만, 개발자는 시스템이 무엇을 생성할 수 있는지, 어떤 안전장치가 작동하는지, 악용 신고를 어떻게 처리하는지를 정한다. 제품 설계는 악용의 규모와 예측 가능성 모두에 영향을 미친다.

다만 광범위한 적대감은 정밀함을 잃을 수 있다. “AI”에는 이미지 생성, 단백질 분석, 접근성, 사기 탐지, 번역, 의료 지원, 추천, 예측을 위한 시스템이 포함된다. 이들 애플리케이션은 동일한 위험 프로필이나 사회적 목적을 공유하지 않는다.

생성형 AI 안에서도 로컬 전사 도구는 공개 이미지 생성기와 다르다. 전자는 사용자가 선택한 자료를 처리한다. 후자는 동의를 제공한 적 없는 사람들의 사실적인 묘사를 만들 수 있다. 둘을 도덕적으로 동등하게 취급하면 유용한 정책적 구분이 불가능해진다.

포괄적 명칭은 분노의 대상을 의사결정자에게서 돌려놓을 수도 있다. “AI가 일자리를 빼앗았다”라고 말하면 불가피한 일처럼 들린다. 특정 시스템을 구매한 뒤 고용주가 팀을 대체했다고 말하면, 검토하고 이의를 제기할 수 있는 기업의 결정이 드러난다.

창의성에 관한 논쟁에서도 같은 문제가 나타난다. 모델이 크레딧, 보상 또는 저작자 표기가 어떻게 작동해야 하는지를 결정하지는 않는다. 개발사, 출판사, 에이전시, 고객이 그러한 관행을 만든다. 기술은 가능한 일을 바꾸지만, 무엇이 허용 가능한지가 되는지는 제도가 결정한다.

AI 지지자들도 때로는 반대의 오류를 범한다. 유익한 활용 사례를 내세우며 한 배포 방식에 대한 비판이 모든 사용을 위협한다는 인상을 준다. 이 역시 필요한 구분을 무너뜨린다.

학생이 방정식을 이해하도록 돕는 튜터링 애플리케이션이 기만적인 합성 미디어를 정당화하지는 않는다. 과학 데이터에서 패턴을 식별하는 연구 모델 역시 창작물이 허가 없이 상업적 학습에 사용돼도 되는지의 문제를 해결하지 않는다.

양측 모두 행위자, 애플리케이션, 피해를 명시하면 논의를 개선할 수 있다. “Google은 신고된 딥페이크 애플리케이션에 Play Store 집행이 어떻게 적용되는지 설명해야 한다”는 검증 가능한 요구다. “AI는 악하다”는 감정적으로는 분명하지만 실행 측면에서는 취약하다.

정밀함은 비례적인 대응도 가능하게 한다. 어떤 제품에는 고지가 필요하다. 다른 제품에는 더 강력한 연령 통제, 감사 또는 특정 결과물에 대한 제한이 필요하다. 일부 좁은 범주의 제품은 삭제나 법적 금지를 정당화할 만큼 위험이 클 수 있다.

여기서 Apple Google AI debate는 건설적인 논의가 된다. 스토어 운영자는 이미 애플리케이션을 분류하고 조건을 부과한다. 문제는 그 시스템이 자의적으로 변하지 않으면서도 새로운 AI 기반 악용 형태를 인식할 만큼 빠르게 발전할 수 있는지다.

답은 여전히 불확실하다. 스토어 심사는 독립 법원이 아니며, 민간 집행은 발언, 경쟁, 접근성에 영향을 줄 수 있다. 투명성 없이 게이트키퍼에게 더 많은 권한을 부여하면 또 다른 위험이 생긴다.

따라서 책임성은 두 방향에서 필요하다. 개발자는 제품의 행태에 책임져야 하며, 스토어 운영자는 집행 결정을 설명해야 한다. 규제기관과 법원은 두 측면 모두를 검토할 수 있어야 한다.

App Store만으로는 신뢰 위기를 해결할 수 없다

플랫폼 집행은 중요하지만, 가장 깊은 AI 분쟁은 애플리케이션 심사만으로는 고칠 수 없는 권력 구조에 관한 것이다.

Apple은 스토어에서 애플리케이션을 삭제할 수 있다. Google은 개발자를 정지시키거나 특정 콘텐츠 범주를 제한할 수 있다. 하지만 어느 조치도 학습 데이터가 어떻게 수집됐는지, 직장 자동화가 어떻게 협상되는지, 에너지 인프라가 주변 공동체에 어떤 영향을 주는지는 해결하지 못한다.

App Store 개입은 위반 사항이 구체적일 때 가장 효과적이다. 애플리케이션이 불법 콘텐츠를 유통하거나, 사용자를 기만하거나, 타인을 사칭하거나, 민감한 정보를 부적절하게 처리하는 경우다. 서면 정책은 해당 행위를 정의하고 집행의 근거를 제공할 수 있다.

사회적 피해는 분리하기가 더 어려운 경우가 많다. 챗봇은 개별적으로 합법적인 답변을 생성하면서도 수많은 상호작용에 걸쳐 건강하지 않은 의존을 부추길 수 있다. 콘텐츠 생성기는 단일 결과물이 명확한 규칙을 위반하지 않더라도 광고 채널을 넘쳐나게 할 수 있다.

스토어 운영자는 특정 시점의 제품을 평가한다. 생성형 시스템은 승인 후 서버 측 업데이트를 통해 바뀔 수 있다. 그 동작은 프롬프트, 모델 버전, 안전 분류기, 제품 설정에 따라 달라지며, 심사자가 이를 지속적으로 관찰하지 못할 수 있다.

개발자는 개선을 평가할 수 있는 충분한 근거를 공개하지 않은 채 공적 압력에 대응할 수 있다. 더 강한 안전장치를 발표하거나, 특정 기능을 제한하거나, 확인된 취약점을 수정했다고 말할 수 있다. 독립 관찰자에게는 유해한 행태가 지속되는지 시험할 방법이 여전히 필요하다.

투명성은 해법의 일부를 제공한다. 기업은 삭제 건수, 위반 범주, 이의 제기 결과, 대응 소요 시간 지표를 보고할 수 있다. 정책이 애플리케이션 전체에 적용되는지, 특정 기능에만 적용되는지도 설명할 수 있다.

그러나 보고된 범주가 지나치게 광범위하면 투명성은 의례적인 절차가 될 수 있다. 수백 개의 애플리케이션을 삭제했다고 말하는 것만으로는 몇 개가 계속 이용 가능했는지, 조치가 얼마나 신속했는지, 반복 위반 개발자가 돌아왔는지를 알 수 없다.

독립 연구는 도움이 될 수 있지만, 연구자에게는 안정적인 접근과 법적 보호가 필요하다. 플랫폼은 자동화된 테스트가 악용과 유사하거나 약관을 위반한다는 이유로 제한하기도 한다. 유용한 책임성 체계는 선의의 감사를 피해 유발 시도와 구분해야 한다.

규제기관 역시 시간 문제에 직면한다. 공식 조사와 소송은 느리게 진행되는 반면, 생성형 제품은 며칠 안에 대규모 이용자에게 도달할 수 있다. 민간 스토어 집행은 더 빠르지만, 정부에 기대되는 절차적 보호 장치는 부족하다.

이 긴장에는 단순한 해법이 없다. Apple과 Google이 느리게 행동하면 유해한 제품이 확산될 수 있다. 공격적으로 행동하면 두 기업이 어떤 AI 애플리케이션이 모바일 사용자에게 도달할지를 더 크게 통제하게 된다.

두 기업의 자체 AI 사업 계획은 중립성을 입증하기 어렵게 만든다. Google은 모델을 개발하고, Android를 배포하며, Google Play를 운영하고, 클라우드 서비스를 판매하며, 주요 탐색 지면을 통제한다. Apple은 기기, 운영체제, 스토어 규칙, 통합 AI 경험을 설계한다.

경쟁 개발자는 집행이 자사 서비스와 제3자 서비스를 일관되게 대하는지 합리적으로 물을 수 있다. 사용자는 기본 탑재 기능이 별도로 설치한 애플리케이션보다 더 깊은 접근 권한을 받는 상황에서 같은 질문을 던질 수 있다.

제품 팀과 집행 팀 사이의 명확한 분리는 도움이 되겠지만, 조직적 안전장치에는 검증이 필요하다. 공개 정책 설명, 외부 감사, 일관된 이의 제기 절차는 그러한 경계를 더욱 신뢰할 만하게 만들 수 있다.

신뢰 위기는 규정 준수를 넘어선다. 사람들은 채택이 시장 지위를 높인다는 이유만으로 기관이 피할 수 있는 피해에 자신들을 노출하지 않을 것이라는 보장을 원한다. 이는 기술적 안전성만이 아니라 기업 우선순위에 관한 문제다.

Rappler의 사회적 관점은 이 더 넓은 문제를 포착한다. AI에 대한 분노는 기술을 먼저 배포하고 결과를 나중에 협상하는 기관에 대한 좌절을 대신 표현하는 경우가 많다. 대중의 저항은 이 순서를 늦출 수 있는 몇 안 되는 수단 중 하나가 된다.

기업은 이런 저항을 브랜딩 결함으로 취급해서는 안 된다. 더 나은 광고로 동의, 노동, 책임성에 관한 분쟁을 해결할 수는 없다. 사회적 이의를 혼란으로 묘사하는 홍보 캠페인은 오히려 불신을 심화할 수 있다.

영향을 받는 사람들이 의사결정에서 실질적인 역할을 얻을 때 신뢰는 자란다. 노동자는 모니터링 또는 자동화 시스템이 도입되기 전에 의견을 낼 수 있어야 한다. 창작자는 자신의 작업물에 관한 집행 가능한 선택권을 가져야 한다. 사용자는 이해하기 쉬운 통제 수단과 효과적인 구제책을 필요로 한다.

Apple과 Google은 이러한 조건을 지원할 수 있지만, 단독으로 만들 수는 없다. 고용주, 개발자, 입법자, 법원, 연구자, 시민사회 모두가 결과를 형성한다.

Apple과 Google이 다음으로 입증해야 할 것

다음 시험대는 Apple과 Google이 포괄적인 안전 약속을 일관되고 관찰 가능한 결정으로 전환할 수 있는지다.

첫 번째 신호는 집행 투명성이다. 두 기업은 외부인이 서면 정책과 실제 결과를 비교할 수 있을 만큼 충분한 세부 정보를 제공해야 한다. 유용한 보고는 위반 범주, 대응 시간, 반복 위반, 이의 제기의 역할을 식별할 것이다.

보고가 더 구체적으로 바뀐다면 플랫폼 주도 거버넌스의 근거는 강해진다. 공개 내용이 여전히 광범위하다면, 비판자들은 집행을 사후 대응적이고 선택적인 것으로 계속 볼 것이다.

두 번째 신호는 스토어가 승인 후 변경되는 애플리케이션을 어떻게 다루는지다. 서버 측 모델은 일반적인 애플리케이션 업데이트 없이도 새 기능을 얻거나 안전장치가 바뀔 수 있다. 심사 시스템에는 실질적인 행태 변화를 탐지할 방법이 필요하다.

지속적인 테스트가 모든 대화를 읽어야 하는 것은 아니다. 문서화된 고위험 기능, 연령 보호 장치, 신고 경로, 알려진 악용 패턴에 대한 개발자의 대응에 집중할 수 있다. 독립 감사자는 접근권과 방법이 보호된다면 신뢰성을 더할 수 있다.

퍼스트파티 AI와 서드파티 AI를 일관되게 다루는 것이 세 번째 신호다. Apple과 Google은 내장 서비스에도 외부 개발자에게 적용하는 것과 유사한 기준이 적용된다는 점을 보여야 한다. 이러한 대칭성이 없다면 안전성 집행은 계속해서 경쟁 우려에 취약할 수밖에 없다.

이러한 신호는 개별 앱 하나의 삭제보다 더 중요해질 것이다. 주목도 높은 서비스 중단은 권한을 보여줄 수 있지만, 예측 가능한 시스템은 거버넌스를 보여준다. 사용자와 개발자가 알아야 할 것은 여론의 압력이 최고조에 달한 뒤가 아니라, 다음 스캔들이 터지기 전에 적용될 규칙이다.

규제 조치도 또 하나의 척도가 될 것이다. 샌프란시스코의 통지서는 유해한 애플리케이션이 계속 제공될 경우, 당국이 앱 스토어 유통을 겨냥할 의지가 있음을 시사한다. 유사한 개입은 더 신속하고 문서화된 심사를 요구하는 압력을 높일 것이다.

합성 미디어를 식별하기가 더 어려워지면서 Apple Google AI debate 역시 변화할 것이다. 과거에는 시각적 결함이 사용자에게 비공식적인 경고 신호를 제공했다. 생성 품질이 개선될수록 그 방어 수단은 약화되고, 출처 정보, 라벨링, 신속한 신고의 가치는 커진다.

출처 정보란 디지털 자료가 어디에서 왔고 어떤 과정을 거쳐 변경됐는지에 대한 정보다. 이는 플랫폼과 사용자가 합성 콘텐츠를 평가하는 데 도움이 될 수 있지만, 라벨은 제거될 수 있고 메타데이터는 재게시 과정에서 사라질 수 있다.

단일 기술 표식만으로는 이 문제를 해결할 수 없다. 효과적인 시스템에는 정책 집행, 제품 설계, 법적 구제 수단, 대중의 이해가 필요하다. 반복된 경고 신호를 무시하는 기관에 대한 책임도 뒤따라야 한다.

가장 중요한 변화는 사후 삭제에서 책임 있는 배포로 전환하는 것이다. 개발자는 출시 전에 악용 가능성을 예측해야 한다. 스토어는 배포 전에 고위험 주장을 검증해야 한다. 규제기관은 모든 콘텐츠 결정을 민간 게이트키퍼에게 넘기지 않으면서도 최소 의무를 정의해야 한다.

독자들은 다음 주목도 높은 AI 제품이 공개된 규칙과 충돌할 때 Apple과 Google이 어떻게 대응하는지 지켜봐야 한다. 이들은 기준을 설명하고, 일관되게 적용하며, 결과를 공개하는가? 아니면 기자, 연구자, 당국이 결정을 강제할 때까지 기다리는가?

그 답은 앱 스토어에 대한 신뢰가 여전히 마케팅 약속에 머무를지, 아니면 집행 가능한 관계로 자리 잡을지를 보여줄 것이다.

AI를 싫어하는 것은 복잡한 시스템에 대한 정밀하지 못한 반응이다. 하지만 그 감정에는 종종 합리적인 메시지가 담겨 있다. 사람들은 자신과 함께가 아니라 자신을 둘러싸고 중대한 선택이 이뤄지고 있다고 느낀다.

올바른 대응은 비판자들에게 도입은 불가피하다고 말하는 것이 아니다. 누가 그 시스템을 선택했는지, 누가 이익을 얻는지, 누가 비용을 부담하는지, 그리고 누가 유해한 배포를 중단할 수 있는지를 밝히는 것이다.

Apple과 Google은 두 회사가 편하게 인정할 수 있는 것보다 더 자주 그 마지막 위치를 차지한다. 이들의 다음 결정은 모바일 플랫폼이 같은 시장에서 경쟁하면서도 AI를 책임 있게 관리할 수 있는지를 보여줄 것이다. 이들 기업이 신뢰를 요구하는 다음 AI 애플리케이션을 승인하기 전에, 사용자는 어떤 기준을 요구해야 할까?