TRAI AI 통신 보안은 속도를 얻지만, 인간의 감독도 뒤처지지 않아야 한다

TRAI 의장 아닐 쿠마르 라호티는 유해한 결정에는 신속한 인간 개입이 필요하다고 경고하면서도, 9월 14일 통신 네트워크에서 AI의 자율성을 확대하는 방안을 지지했다. 그의 메시지는 TRAI AI 통신 보안 정책이 어려운 균형점에 놓여 있음을 보여준다. 사업자는 네트워크 속도에 맞춰 대응하는 자동화 시스템이 필요하지만, 이러한 시스템이 잘못 판단했을 때 고객에게는 책임을 질 수 있는 인간이 필요하다.

뉴델리에서 열린 CO.AI 2026에서 라호티는 인공지능이 네트워크 관리, 서비스 설계, 위험 식별, 운영 의사결정에 영향을 미칠 수 있다고 말했다. 그는 또한 자동화가 책임 소재를 흐려서는 안 된다고 주장했다. 통신 사업자와 기술 공급업체는 영향이 큰 시스템에 대해 인간의 감독을 유지해야 한다고 그는 말했다.

이 경고가 중요한 이유는 인도가 이미 실험 단계의 통신 AI를 넘어섰기 때문이다. Bharti Airtel, Reliance Jio, Vodafone Idea는 자동화 시스템을 활용해 스팸이나 사기 패턴을 식별하고 있다. TRAI는 사업자들에게 머신 생성 스팸 인텔리전스를 공유하고 집행을 조율하도록 지시하기도 했다.

이제 핵심 경쟁 구도는 AI와 수동 네트워크 관리의 대결이 아니다. 신속한 자동화 조치와 책임 있는 개입의 대결이다. 모든 경보가 인간의 검토를 기다린다면 보안 시스템의 가치는 떨어진다. 그러나 통제되지 않은 자동화는 정당한 발신자, 메시지 발신자, 기업 또는 서비스를 부당하게 제한할 수 있다.

라호티의 입장은 자율 네트워크를 거부하지 않는다. 대신 이를 위한 조건을 제시한다. 통신 AI는 탐지 속도를 높이는 동시에 중대한 오류를 검토할 수 있는 짧고 명확한 경로를 보존해야 한다.

TRAI AI 통신 보안, 권고에서 운영 정책으로 전환

TRAI는 통신 AI를 먼 정책 의제가 아니라 운영 인프라로 다루고 있다.

라호티는 인도 셀룰러 사업자 협회와 영국 고등판무관실이 주최한 포럼인 CO.AI 2026에서 발언했다. 이 프로그램은 자율 네트워크, 보안과 복원력, 시민 및 공공 서비스를 위한 AI 활용에 초점을 맞췄다.

그의 네트워크 자율성 관련 발언을 보도한 기사에 따르면, 라호티는 통신 네트워크를 인도에서 가장 복잡한 인프라 시스템 가운데 하나로 설명했다. 그는 이 부문이 기존 자동화에서 훨씬 높은 자율성을 지닌 네트워크로 발전할 수 있다고 말했다.

기존 자동화는 알려진 상황을 위해 마련된 규칙을 따른다. 더 자율적인 시스템은 네트워크 데이터를 관찰하고, 상황을 평가하며, 조치를 선택하고, 조건 변화에 맞춰 적응한다. 소프트웨어가 고정된 지시를 단순히 실행하는 데 그치지 않고 의사결정에 참여하기 때문에 이 차이는 중요성을 높인다.

그 가능성은 실용적이다. AI 시스템은 수백만 건의 통화, 메시지, 기기, 네트워크 이벤트에 걸친 트래픽 패턴을 검토할 수 있다. 수동으로 경보를 처리하는 팀보다 훨씬 빠르게 이상 징후를 식별할 수 있다. 개별적으로 검토하면 무해해 보이는 신호들을 연관 지을 수도 있다.

보안은 하나의 적용 분야일 뿐이다. 사업자는 AI를 이용해 장비 고장을 예측하고, 용량을 배분하며, 에너지 소비를 줄이고, 유지보수 우선순위를 정할 수 있다. 고객 대상 시스템은 스팸을 분류하고, 지원 요청을 라우팅하거나, 의심스러운 계정 활동을 식별할 수 있다.

이러한 활용 사례에는 한 가지 중요한 공통점이 있다. 예측을 실제 사람에게 영향을 미치는 조치로 전환한다는 점이다. 모델의 출력은 메시지에 경고가 표시될지, 도메인이 차단될지, 모바일 연결이 조사 대상이 될지를 결정할 수 있다.

라호티가 더 높은 자율성과 책임성을 연결한 이유가 여기에 있다. 그의 주장은 AI가 결정을 내리는 일을 멈춰야 한다는 것이 아니었다. 기계가 의사결정에 참여한 뒤에도 책임 소재가 식별 가능해야 한다는 것이었다.

시점 역시 TRAI의 최근 규제 작업을 반영한다. 규제기관은 2026년 2월 27일 사업자 간 공유와 규제 조치를 다루는 스팸 인텔리전스 지침을 발표했다. 이 지침은 AI와 머신러닝 탐지 시스템이 생성한 인텔리전스를 제도화하려는 목적을 담았다.

이 조치는 자동화된 플래그의 영향을 바꾼다. 한 사업자의 네트워크 안에서 생성된 의심 정보가 다른 사업자나 규제기관이 활용하는 공유 인텔리전스가 될 수 있다. 잠재적인 보안 이점은 커지지만, 부정확한 분류 역시 더 멀리 확산될 수 있다.

이전 시스템은 종종 한 가입자에게 경고를 표시했다. 고객은 통화에 응답할지 차단할지를 직접 결정했다. 조율된 프레임워크는 개별 민원이 없어도 선제적 집행을 지원할 수 있다.

이는 중요한 정책 전환이다. AI가 생성한 평가는 규제 조치의 장치에 더 가까이 다가가고 있다. 그렇게 되면 정확성, 문서화, 이의제기, 정정 속도는 공익 요건이 된다.

따라서 라호티의 발언은 기존 배포 프로그램에 거버넌스 층위를 더한다. 문제는 사업자가 AI를 사용할지 여부가 아니다. 이 시스템에 어느 정도의 권한을 부여할지, 자동화된 판단이 실패했을 때 어떤 일이 일어나는지가 문제다.

더 빠른 탐지는 사업자에게 더 큰 압박을 가한다

AI를 유용하게 만드는 바로 그 속도는 잘못된 결정을 포착할 수 있는 시간을 줄이기도 한다.

통신 보안 시스템은 수동 검토만으로는 처리하기에 너무 빠르게 전개되는 이벤트를 처리한다. 사기 캠페인은 기존 조사가 첫 결론에 도달하기도 전에 휴대전화 번호, 메시지 템플릿, 링크, 기기를 바꿔가며 활동할 수 있다.

AI 기반 탐지는 다른 운영 모델을 제공한다. 비정상적인 통화 빈도, 짧은 통화 패턴, 반복되는 목적지, 의심스러운 링크 또는 연관된 기기 집단을 식별할 수 있다. 이후 시스템은 고객에게 경고하거나 사례를 집행 워크플로로 보낼 수 있다.

이 접근 방식은 인도의 주요 통신사에 두 방향의 압박을 가한다. 규제기관과 고객은 스팸 및 사기에 대한 더 빠른 조치를 기대한다. 동시에 정당한 발신자는 중단 없는 접근성과 잘못된 분류에 이의를 제기할 실질적인 방법을 기대한다.

Airtel은 양측을 모두 보여주는 유용한 사례다. 공식 스팸 식별 약관에 따르면, 회사는 행동 패턴, 통화 빈도, 통화 시간, 의심스러운 URL, 기기 식별자 및 250개가 넘는 파생 매개변수를 분석한다.

Airtel은 일치하는 통화나 메시지를 의심 스팸으로 표시한다. 해당 워크플로에서는 최종 차단 선택권을 고객에게 남긴다. 또한 회사는 시스템의 정확성, 가용성 또는 무오류 운영을 보장하지 않는다고 명시한다.

이러한 단서는 법적 문구 이상이다. 이는 확률적 보안의 근본적 한계를 보여준다. 모델은 활동이 알려진 악용 사례와 유사한지를 추정한다. 발신자의 신원, 목적 또는 권한에 관한 완전한 지식을 보유하지는 않는다.

대량의 활동은 사기 조직을 나타낼 수 있다. 그러나 병원, 배송 서비스, 학교, 은행, 긴급 알림 시스템 또는 정부 기관에서 비롯됐을 수도 있다. 맥락은 유해한 트래픽과 정당한 통신을 구분하지만, 모델이 항상 충분한 맥락을 제공받는 것은 아니다.

거짓 음성은 반대의 문제를 만든다. 정교한 공격자는 많은 계정에 활동을 분산하거나, 설정된 임계값 아래에 머물도록 행동을 바꿀 수 있다. 따라서 겉보기에 신중한 모델도 가장 중요한 캠페인을 놓칠 수 있다.

사기 기법이 계속 변화하는 가운데 사업자는 이러한 오류의 균형을 맞춰야 한다. 지나치게 공격적으로 차단하는 필터는 정당한 서비스를 방해한다. 거짓 양성을 피하려는 필터는 고객을 유해한 통화와 링크에 노출시킬 수 있다.

TRAI의 2026년 3월 제안은 규제가 AI 분류를 충분한 증거로 취급하지 않으면서도 이를 활용하기 시작했음을 보여준다. 제안된 민원 임계값에 관한 보도에 따르면, TRAI는 AI 시스템이 이전 10일 동안 번호를 표시한 경우 서로 다른 발신자의 민원 3건 후 조치에 나서는 방안을 제안했다. 기존 기준은 민원 5건이었다.

이 구조는 기계 탐지와 인간의 신고를 결합한다. 알고리즘이 모든 것을 독립적으로 결정하도록 허용하지는 않는다. 그러나 AI 플래그는 추가 증거가 조치를 촉발할 수 있는 속도를 바꾼다.

이 제안은 중요한 통신이 중단될 위험도 다뤘다. 사기범이 하나의 등록된 헤더 또는 메시지 템플릿을 악용할 경우, TRAI는 더 광범위한 트래픽이 정지되기 전에 우선 해당 자산만 정지하는 방안을 제안했다. 발신자에게는 문제를 해결할 24시간이 주어진다.

이처럼 더 좁은 대응은 라호티의 발언 중심에 있는 개입 원칙을 반영한다. 자동화 시스템에는 비례적인 조치가 필요하다. 의심스러운 구성 요소가 조직과 연결된 모든 서비스를 자동으로 중단해서는 안 된다.

사업자가 탐지 시스템을 네트워크 전반에 연결할수록 압박은 커질 것이다. 공유 신호는 어느 한 통신사도 단독으로 보지 못하는 조직적 악용을 드러낼 수 있다. 하지만 수신자가 이를 재평가하는 데 필요한 증거를 확보하지 못하면 잘못된 레이블도 증폭할 수 있다.

따라서 네트워크 전반의 보안에는 위험 점수 교환 이상의 것이 필요하다. 사업자에게는 공통 정의, 타임스탬프, 사유 코드, 증거 기준, 정정 절차가 필요하다. 그렇지 않으면 속도는 향상되지만 책임 소재는 더 찾기 어려워진다.

자율 네트워크에는 실제로 작동하는 인간 개입 권한이 필요하다

권한 있는 검토자가 자동화 조치를 빠르게 이해하고, 중지하고, 되돌릴 수 있을 때에만 인간 감독은 고객을 보호한다.

“Human in the loop”는 안심을 주는 표현으로 자주 쓰이지만, 그것이 실제로 의미를 갖는지는 운영 세부 사항에 달려 있다. 집행 이후 설명되지 않은 위험 점수를 받는 사람은 효과적인 감독을 제공할 수 없다.

실효성 있는 개입 권한은 배포 전에 시작된다. 사업자는 AI 시스템이 단독으로 취할 수 있는 조치, 승인이 필요한 조치, 그리고 여전히 금지되는 조치를 정해야 한다. 경계는 단순히 모델의 평균 정확도가 아니라 잠재적 피해를 반영해야 한다.

영향이 적은 조치에는 더 많은 자동화를 적용할 수 있다. 네트워크 용량을 조정하거나 내부 조사 우선순위를 정하는 일은 일반적으로 즉각적인 피해가 제한적이다. 번호 연결 해제, 도메인 차단 또는 중요 메시지 지연에는 더 높은 기준이 필요하다.

검토자에게도 유용한 증거가 필요하다. “모델 신뢰도: 94%” 같은 경고는 근본적인 판단을 설명하지 못한다. 직원에게는 관련 행동 신호, 최근 이력, 연결된 사건, 결과를 생성한 규칙 또는 모델 버전이 필요하다.

이 증거는 신속하게 도착해야 한다. 라호티가 신속한 개입을 강조한 것은 며칠 뒤에 받아들여진 올바른 이의제기조차 실질적으로는 실패가 될 수 있음을 인식한 것이다. 기업은 고객 전화를 놓칠 수 있고, 소비자는 긴급 상황에서 접근 권한을 잃을 수 있다.

책임 있는 설계 문제에는 세 가지 뚜렷한 시간 범위가 있다.

첫째, 시스템은 수초 또는 수분 내에 의심스러운 행동을 탐지해야 한다. 탐지가 지연되면 악용은 대량 통신 네트워크 전반으로 확산된다.

둘째, 비례적인 대응을 통해 즉각적인 피해를 제한해야 한다. 경고, 임시 보류 또는 표적 제한은 모든 예측이 최종적이라고 가정하지 않으면서 위험을 줄일 수 있다.

셋째, 운영자는 심각한 결과를 초래할 수 있는 의사결정에 대해 신속한 상향 조치 체계를 제공해야 한다. 자격을 갖춘 담당자가 증거를 검토하고, 서비스를 복구하며, 연결된 시스템 전반에 시정 조치를 전파할 수 있어야 한다.

이러한 안전장치는 감사 추적 기록도 남겨야 한다. 중대한 의사결정마다 입력 신호, 선택된 조치, 승인 권한자, 사후 검토에 대한 기록이 필요하다. 감사 가능성은 규제기관이 개별 오류와 체계적 편향 또는 취약한 운영 통제를 구분할 수 있게 한다.

TRAI는 이미 9월 행사 이전에 유사한 원칙을 제시한 바 있다. 2026년 2월 India AI Impact Summit에서 Lahoti는 효율성 향상이 투명성, 책임성, 인간의 감독, 명확히 정의된 가드레일과 함께해야 한다고 말했다. 규제기관의 책임 있는 AI 세션에서는 통신 및 핵심 디지털 인프라의 장애를 다루는 AI 사고 데이터베이스 표준도 논의됐다.

사고 데이터베이스는 통신 AI 거버넌스의 주요 약점을 보완할 수 있다. 운영자는 장애가 일관되게 기록되고 분석될 때에만 시스템을 개선할 수 있다. 흩어진 민원만으로는 여러 네트워크가 같은 실수를 반복하는지 알 수 없다.

보고는 모델 오류와 정책 오류를 분리하는 데도 도움이 된다. 모델이 비정상적인 패턴을 정확히 식별했더라도, 지나치게 광범위한 규칙이 그 관찰을 부당한 연결 해제로 바꿀 수 있다. 이 경우 모델을 수정해도 실제 문제는 해결되지 않는다.

여러 조직이 참여할 경우 책임 소재가 불분명해질 수 있다. 통신사는 네트워크를 운영하고, 벤더는 모델을 공급하며, 다른 당사자는 위협 인텔리전스를 유지할 수 있다. 규제기관은 어떤 주체가 의사결정을 조사하고 되돌릴 수 있는지 알아야 한다.

계약만으로는 충분한 해답이 될 수 없다. 고객은 위험 점수 뒤에 숨은 벤더 연쇄가 아니라 자신의 서비스 제공업체와 상호작용한다. 시스템의 일부를 제3자가 개발했더라도 운영자는 운영상 책임을 져야 한다.

통신 제공업체는 모의 사고를 통해 개입 절차도 시험해야 한다. 실제 장애가 발생했을 때 직원이 의사결정 책임자를 식별하지 못한다면, 문서화된 상향 조치 정책은 거의 보호 기능을 하지 못한다.

가장 유용한 시험은 구체적 결과를 측정하는 방식일 것이다. 책임 있는 시스템을 찾는 데 얼마나 걸리는가? 직원이 의사결정을 재구성할 수 있는가? 유사한 조치를 중단할 수 있는가? 시정 조치는 다른 운영자에게 얼마나 신속히 전달되는가?

이 질문들은 인간의 감독을 윤리적 구호에서 엔지니어링 요구사항으로 바꾼다. 또한 TRAI AI 통신 보안이 탐지율만으로 평가될 수 없는 이유를 보여준다.

AI 보안의 성과에는 실제 증거와 중요한 공백이 함께 존재한다

인도에는 데이터 기반 통신 방어가 효과를 낼 수 있다는 증거가 있지만, 주요 성과 지표만으로는 정당한 사용자가 얼마나 자주 피해를 입는지 알 수 없다.

인도의 통신 사기 대응 규모는 규제기관이 자동화된 탐지를 원하는 이유를 보여준다. 수동 사건 처리는 통신사, 금융기관, 경찰 부서, 결제 시스템, 소비자 신고에서 나오는 정보를 효율적으로 연결할 수 없다.

인도 통신부는 통신 자원의 의심스러운 오용 정보를 안전하게 교환하는 Digital Intelligence Platform을 운영한다. 2026년 2월 정부 업데이트에 따르면 1,200개 이상의 조직이 이 플랫폼에 참여했다.

참여 기관에는 중앙 보안기관, 36개 주와 연방 직할령의 경찰 조직, 은행, 결제 제공업체, 통신사가 포함됐다. 이 시스템은 단일 조직의 관점에 의존하지 않고 양방향 인텔리전스 공유를 지원한다.

정부는 AI와 대규모 분석을 활용해 의심스러운 이동통신 연결을 식별하는 ASTR 시스템이 재검증 실패 이후 880만 건 이상의 연결 해제에 기여했다고 밝혔다. 재검증이 중요한 이유는 시스템의 판단이 유일한 증거가 아니라 검토를 시작하는 계기가 되었기 때문이다.

같은 통신 사기 업데이트는 국제 스푸핑 통화 방지 시스템이 24시간 내 1,350만 건의 통화를 차단했다고 보고했다. 당국은 인도 번호로 표시되는 스푸핑 통화가 2024년 10월 가동 이후 약 99% 감소했다고 밝혔다.

이 수치는 기계 속도의 방어 체계를 뒷받침한다. 스푸핑과 조직적 사기는 통신 시스템의 방대한 규모와 상호 연결 구조를 악용한다. 자동화된 분석은 개별 고객 민원에서는 보이지 않는 패턴을 식별할 수 있다.

그러나 집계된 집행 총계는 몇 가지 거버넌스 질문에 답하지 못한다. 얼마나 많은 정상 연결이 재검증 절차에 들어갔는지 보여주지 않는다. 이의 제기 처리 시간, 복구율, 지역 및 고객 집단별 차이도 측정하지 않는다.

또한 탐지와 후속 행정 절차를 함께 묶는다. 재검증에 실패해 연결이 해제됐다는 사실만으로 AI의 최초 판단이 모든 사례에서 독립적으로 정확했다는 점이 입증되지는 않는다.

통신사가 보고한 성과도 비슷한 한계가 있다. Airtel은 사기 및 스팸 탐지 도구를 출시한 뒤 자사 네트워크의 민원이 감소했다고 말한다. 약관에는 완전한 보호를 보장하지 않는 최선의 노력 기반 서비스로서 식별 및 차단이 설명돼 있다.

두 진술은 모두 사실일 수 있다. 시스템은 전체 피해를 줄이면서도 비용이 큰 개별 오류를 낼 수 있다. 책임 있는 평가는 인구 수준의 결과와 사례 수준의 책임성을 모두 요구한다.

공격자도 적응한다. 통신사가 높은 통화 빈도를 탐지하기 시작하면 악의적 발신자는 트래픽을 더 많은 번호에 분산할 수 있다. 필터가 의심스러운 URL을 살피면 범죄자는 리디렉션, 새로 생성된 도메인, 이미지 또는 피해자를 다른 채널로 옮기는 대화를 사용할 수 있다.

이러한 적대적 환경에서는 영구적인 정확도 주장이 특히 신뢰하기 어렵다. 통신 AI는 새로운 전술에 맞춰 지속적으로 평가돼야 한다. 한 분기에 좋은 성과를 냈던 모델도 공격자 행동이 바뀌면 효과를 잃을 수 있다.

따라서 보안팀은 전체 플래그 수 이상을 추적해야 한다. 유용한 지표에는 플래그된 사례 중 확인된 사기 비율, 민원을 통해 발견된 누락된 악용 사례, 성공한 이의 제기, 복구 시간의 중앙값, 동일 탐지 규칙과 관련된 반복 오류가 포함된다.

독립적인 시험은 이러한 측정을 강화할 수 있다. 운영자에게 민감한 보안 방식을 보호해야 할 정당한 이유는 있지만, 기밀 유지가 규제기관의 성능 및 소비자 피해 검토를 막아서는 안 된다.

회의적인 결론은 명확하다. AI는 지속적인 배치를 정당화할 만큼 충분한 가치를 입증했다. 그러나 공개된 증거만으로는 현 시스템이 속도, 정확성, 구제를 일관되게 균형 있게 제공한다고 결론 내리기에 부족하다.

이러한 불확실성은 Lahoti의 가드레일 요구를 뒷받침한다. 이는 TRAI AI 통신 보안의 필요성을 약화하지 않는다. 오히려 정책이 성공하고 있는지 판단하는 데 필요한 증거를 정의한다.

핵심 쟁점은 자동화된 조치와 책임 있는 조치의 대결이다

통신 보안은 책임성이 모든 대응을 늦춘다면 실패하지만, 자동화된 실수를 아무도 바로잡을 수 없을 때도 실패한다.

AI 벤더들은 흔히 자율성을 성숙도 사다리로 설명한다. 네트워크는 사람이 운용하는 도구에서 시작해 보조 의사결정을 거쳐, 결국 여러 기능을 독립적으로 관리하는 시스템에 도달한다.

통신 보안은 단순한 “자율성이 높을수록 좋다”는 모델에 맞지 않는다. 의사결정마다 결과의 무게가 다르고, 적절한 자동화 수준도 이에 따라 달라진다.

시스템은 고객에게 직접적인 피해를 주지 않고 신호를 자동으로 수집할 수 있다. 제한적인 결과를 수반하는 경보의 우선순위를 정할 수도 있다. 그러나 통신 차단, 서비스 제한, 또는 운영자 간 혐의 공유에는 더 강한 통제가 필요하다.

따라서 올바른 비교는 자율 네트워크와 과거의 수동 시스템 간의 비교가 아니다. 책임 있는 자율성과 불투명한 자율성 간의 비교다.

책임 있는 자율성은 소프트웨어가 정의된 한도 내에서 신속히 행동하도록 한다. 조치가 발생한 이유를 기록하고, 식별 가능한 책임자에게 알리며, 되돌릴 수 있도록 지원한다. 조직은 결과에 대해 계속 책임을 진다.

불투명한 자율성은 처리량에 초점을 맞춘다. 막대한 규모를 처리할 수는 있지만, 명확한 설명을 제공하거나 오류 해결 담당자를 지정하지 못한다. 잘못된 의사결정이 전파될 때 그 속도는 오히려 위험 요소가 된다.

Lahoti의 발언은 통신 운영자와 기술 기업을 이러한 구분에서 책임 있는 편에 둔다. 동시에 그의 발언은 규제기관이 책임성 요건을 구체화해야 한다는 압박을 가한다.

포괄적 원칙만으로는 특정 위험 점수가 차단을 유발할 수 있는지 네트워크 팀에 알려줄 수 없다. 이의 제기를 얼마나 빨리 처리해야 하는지, 사고 보고서를 누가 받아야 하는지도 정할 수 없다.

상세 기준은 고영향 의사결정, 필수 로그, 상향 조치 권한, 허용 가능한 개입 시간을 정의해야 한다. 또한 한 운영자가 분류를 번복한 뒤 공유 인텔리전스를 어떻게 수정해야 하는지도 설명해야 한다.

규제기관 역시 자체적인 균형 과제에 직면한다. 지나치게 규범적인 규칙은 공격과 네트워크 아키텍처가 변함에 따라 구식이 될 수 있다. 모호한 의무는 통신사 간 안전장치의 불일치를 초래할 수 있다.

위험 기반 접근법은 중간 경로를 제공한다. 잠재적 피해가 더 큰 조치에는 더 강한 통제를 적용하면서, 운영자가 기술적 탐지 방식을 업데이트할 수 있도록 한다.

9월 포럼은 국제적 차원도 제시했다. Ben Mellor 영국 고등판무관 대행은 범죄자들이 사기에 AI를 사용하고 있지만, 기관도 같은 기술을 활용해 피해 패턴을 더 일찍 파악할 수 있다고 말했다. COAI와 영국 고등판무관실은 AI, 디지털 연결성, 신뢰, 기술 협력을 포괄하는 양해각서를 체결했다.

사기 네트워크, 기술 공급업체, 통신 트래픽은 한 관할권 안에만 머무르는 경우가 드물기 때문에 국경 간 협력이 중요하다. 운영자는 동일한 규제 체계를 요구하지 않고도 사기 패턴과 사고 대응에 관한 교훈을 교환할 수 있다.

업계 대표들은 더 깊은 AI 도입을 지지했다. Bharti Airtel 임원 Rahul Vatts는 AI와 통신을 연속체로 설명했고, Reliance Jio 임원 Ravi Gandhi는 조직적 사기 방지를 위한 협력을 강조했다. 이들의 입장은 증가하는 트래픽과 위협 규모를 동일한 수준의 수동 검토 인력 증가 없이 관리해야 하는 운영자들의 필요를 반영한다.

그러나 업계의 지지가 모든 배치가 안전하다는 독립적 증거는 아니다. 통신사는 악용을 줄이고 운영을 자동화함으로써 이익을 얻는다. 또한 오류를 평가하는 데 필요한 성능 데이터 상당 부분을 통제한다.

TRAI의 역할은 이러한 인센티브를 소비자 보호와 연결하는 것이다. 규제기관은 유용한 실험을 허용하는 한편, 효율성이 자동화 시스템에 의해 잘못 분류된 사람들에게 숨은 비용을 전가하지 않도록 해야 한다.

이 균형은 Lahoti의 경고를 책임 있는 AI에 대한 일반적 호소보다 더 중요하게 만든다. 이는 이미 핵심 인프라에 내재돼 있고, 이미 고객 경험에 영향을 미치며, 점점 더 규제 조치에 정보를 제공하는 시스템에 관한 문제다.

가드레일의 실체를 보여줄 세 가지 신호

다음 시험대는 TRAI와 운영자가 인간의 감독을 원칙으로 반복하는 대신 측정 가능한 절차로 전환하는지 여부다.

첫 번째 신호는 고영향 자동화 의사결정을 위한 상세한 프레임워크다. TRAI는 어떤 조치에 사전 인간 승인, 즉각적인 통지 또는 신속한 사후 검토가 필요한지 식별해야 한다.

이러한 프레임워크는 위험 수준을 운영 규칙과 연결함으로써 Lahoti의 주장을 강화할 것이다. 그것이 없다면 각 운영자는 책임성을 서로 다르게 해석하게 될 것이다.

가장 중요한 세부 사항은 개입 기한과 의사결정 책임 소재다. 결국 검토하겠다는 약속만으로는 중요한 시기에 자신의 번호가 잘못 제한된 발신자를 보호할 수 없다.

두 번째 신호는 사업자 간 공유 AI 스팸 인텔리전스의 구현이다. TRAI의 2월 지침은 조직적인 캠페인을 더 이르게 식별할 기회를 만들지만, 정정 조치가 의혹 제기만큼 빠르게 전달되는지도 시험한다.

사업자들이 의심스러운 번호 목록만이 아니라 표준화된 사유 코드와 뒷받침 지표를 교환한다는 증거를 지켜봐야 한다. 또한 성공적인 검토 이후 공유 플래그를 제거하거나 갱신하는 절차가 있는지도 확인해야 한다.

신뢰할 수 있는 정정 체계는 조율된 TRAI AI 통신 보안의 필요성을 더욱 뒷받침할 것이다. 통신사 간 불일치가 계속된다면 상호운용성은 거버넌스보다 앞서갔음을 보여줄 것이다.

세 번째 신호는 결과 및 오류 지표의 공개다. 플래그된 통화 수, 연결 해제 건수 또는 차단된 링크 수는 활동을 설명하지만, 공정성이나 정확성을 측정하지는 않는다.

TRAI와 통신사는 확인된 악용 비율, 이의제기 결과, 복구 소요 시간, 주요 AI 관련 사고를 일관된 형식으로 공개해야 한다. 집계 보고는 민감한 보안 기술을 보호하면서도 안전장치가 실제로 작동하는지 보여줄 수 있다.

사고 데이터베이스는 특히 가치가 클 것이다. 모델 드리프트, 불완전한 데이터, 공급업체 변경 또는 과도한 집행 규칙과 관련된 반복적 실패 패턴을 보여줄 수 있다.

이 세 가지 신호는 실용적인 시험 기준을 이룬다. 의사결정 규칙은 사람이 언제 개입해야 하는지 정의한다. 공유 정정 메커니즘은 하나의 오류가 확산되는 것을 막는다. 공개 지표는 시스템이 의도대로 작동하는지 드러낸다.

통신 AI를 개발하는 이들은 거버넌스 요건이 제품 아키텍처를 형성하게 될 것이므로 주목해야 한다. 설명 가능성, 감사 로그, 되돌릴 수 있는 조치, 접근 제어는 배포 후 저렴하게 덧붙일 수 없다.

기업 구매자는 각 자동화된 결정을 누가 책임지는지, 그리고 실수가 어떻게 재구성되는지 공급업체에 물어야 한다. 또한 전체 보안 시스템을 비활성화하지 않고도 사람이 결함 있는 워크플로를 중단할 수 있는지 시험해야 한다.

소비자는 구제 절차에 초점을 맞춰야 한다. 스팸 경고는 유용하지만, 중대한 제한 조치에는 눈에 띄는 이의제기 경로와 예측 가능한 응답 시간이 필요하다.

Lahoti의 입장은 더 자율적인 네트워크의 여지를 남기지만, 책임 없는 자율성은 거부한다. 이는 올바른 방향이지만, 결정적인 작업은 이제부터다.

AI 시스템이 통신 관련 결정을 잘못 내렸을 때 신속한 개입이 효과를 낸다는 증거를 사업자들이 공개할 것인가? 그 답은 인도의 네트워크 자동화가 책임 있는 인프라가 될지, 아니면 더 빠른 집행에 그칠지를 결정할 것이다.