Itaú 생성형 AI, 전사 도입으로 확대…진짜 시험대는 거버넌스

Itaú는 생성형 AI 전략을 제한된 파일럿 단계에서 30만 고객 대상으로 확대했으며, 2026년 중 전체 고객 기반에 도달하는 것을 목표로 하고 있다. Itaú 생성형 AI 프로그램은 이제 대화형 뱅킹 인터페이스인 ia.i와 모델, 데이터, 비용 및 위험을 관리하는 내부 플랫폼 IARA를 결합한다.

이 조합은 챗봇 자체보다 더 중요하다. Itaú는 고객이 계좌, 신용, 카드, 보험, 투자와 관련해 각각의 메뉴를 탐색하는 대신 일상적인 언어를 사용하기를 바란다. 하지만 대화 범위가 넓어질수록 부정확한 답변, 부적절한 추천, 개인정보 보호 실패 또는 무단 실행의 가능성도 커진다.

따라서 이 은행은 두 가지 약속을 동시에 시험하고 있다. 눈에 보이는 약속은 뱅킹이 더 단순하고 개인화될 수 있다는 것이다. 덜 눈에 띄는 약속은 Itaú가 엄격한 규제를 받는 기관 안에서 생성형 모델을 통제할 수 있다는 점이다. Bank of America의 Erica와 JPMorganChase의 내부 LLM Suite는 유용한 참고 사례지만, Itaú는 하나의 아키텍처를 통해 고객 대화, 직원 도구 및 통제된 모델 접근을 연결하려 하고 있다.

Itaú 생성형 AI, 파일럿에서 전사 뱅킹 인터페이스로 확대

변화는 단순히 Itaú가 앱에 또 하나의 어시스턴트를 추가했다는 데 있지 않다. 은행에 접근하는 방식 자체를 대화로 바꾸고 있다.

Itaú는 2024년부터 보다 제한적인 인공지능 기능을 구축한 뒤 2026년 7월 ia.i를 공개적으로 출시했다. 이 인터페이스는 Itaú 앱을 통해 텍스트 또는 음성 요청을 받는다. 고객의 의도를 파악하고 해당 요청을 관련 뱅킹 기능과 연결하도록 설계됐다.

초기 출시는 약 30만 고객에게 제공됐다. Itaú는 9월까지 약 300만 명으로 접근 대상을 확대하고, 이후 연말 전 전체 고객 기반으로 확장할 계획이라고 밝혔다. 은행은 이 후속 단계의 최종 도입률이나 활성 이용자 수를 공개적으로 제공하지 않았다.

고객 대상 출시는 질문 응답과 계좌 탐색을 넘어선다. Itaú는 ia.i가 정보를 제공하고, 명령을 해석하며, 의사결정을 안내하고, 지원되는 거래를 시작할 수 있다고 말한다. 대화에 전문적인 인력 지원이 필요한 경우에는 고객을 전문 상담으로 연결할 수도 있다.

이는 고정형 챗봇과는 다른 경험을 만든다. 스크립트형 어시스턴트는 대개 질문을 미리 준비된 답변이나 제한된 워크플로와 연결한다. 생성형 인터페이스는 다양한 언어를 해석하고, 맥락을 결합하며, 현재 상황에 맞는 답변을 생성할 수 있다.

Itaú는 ia.i가 응답할 때 금융 맥락, 거래 관계 이력, 목표 및 생애 단계를 고려한다고 말한다. 이러한 입력값은 고객이 서로 무관한 메뉴를 오가며 검색하지 않도록 도울 수 있다. 동시에 정확성, 데이터 경계 및 투명성의 중요성을 더욱 높인다.

카드 결제에 관해 묻는 고객은 제한적인 정보 문제를 제시한다. 반면 구매 여력이 있는지 묻는 사람은 더 폭넓은 판단 문제를 제시한다. 시스템은 어떤 데이터가 중요한지, 무엇을 사용할 수 있는지, 그리고 언제 사람의 지원이 필요한지를 판단해야 한다.

이번 출시는 여러 소규모 도입 사례를 따른다. 여기에는 투자 어시스턴트, WhatsApp을 통한 Pix 결제, 소기업용 도구 및 음성 지원 결제 하드웨어가 포함됐다. Itaú가 공통 대화 계층을 시도하기 전에 각 프로젝트는 더 제한된 작업을 시험했다.

이전의 한 투자 기능은 2025년 1만 고객을 대상으로 시작됐다. 이러한 단계적 접근은 Itaú가 훨씬 더 큰 고객 집단을 대상으로 하기 전에 응답, 고객 행동 및 에스컬레이션 경로를 시험할 방법을 제공했다.

이러한 전개는 2026년 발표가 중요한 이유도 설명한다. Itaú는 더 이상 생성형 AI를 고립된 실험으로 제시하지 않는다. 고객이 기존 금융 서비스를 발견하고 이용하는 방식의 일부로 이 기술을 편입하고 있다.

이 전환은 이 글의 핵심 긴장을 만든다. 대화 계층은 유용할 만큼 개방적으로 느껴져야 하지만, 안전하게 운영될 만큼 제약돼 있어야 한다. 인터페이스는 은행의 복잡성을 숨길 수는 있지만, 각 답변이나 거래에 수반되는 의무를 없앨 수는 없다.

ia.i가 단순한 챗봇 출시 이상인 이유

Itaú는 고객이 상품 메뉴가 아니라 의도에서 출발하고, 은행이 올바른 경로를 판단하도록 맡길 것이라는 데 베팅하고 있다.

기존 뱅킹 앱은 기관의 구조에 따라 서비스를 구성한다. 고객은 계좌, 카드, 결제, 대출, 보험 또는 투자를 선택한다. 원하는 작업이 어느 범주에 있는지 알고 있어야 한다.

대화형 인터페이스는 이 순서를 뒤집는다. 고객은 먼저 목표, 문제 또는 질문을 말할 수 있다. 그러면 시스템이 관련 상품, 정보 출처 또는 워크플로를 식별한다.

요청이 상품 경계를 넘나들기 시작하면 이 차이는 결코 작지 않다. 구매를 위해 저축하는 방법에 대한 질문에는 현금흐름, 계좌 잔액, 카드 의무 및 투자 보유 현황이 관련될 수 있다. 유용한 답변에는 언어 생성 이상의 것이 필요하다.

Itaú는 이러한 경험의 기반이 되는 맥락 계층을 Customer DNA라고 부른다. 은행의 AI 도입 사례에 따르면, 이 시스템은 약 7,000만 고객의 금융 맥락을 제공한다. OpenAI 모델은 Itaú의 통제된 환경에서 사용되는 모델 가운데 일부다.

이 규모가 모든 고객이 제약 없는 금융 자문을 받는다는 뜻은 아니다. 이는 Itaú가 대규모 고객 집단 전반에서 서로 다른 경험을 지원하기 위한 맥락 시스템을 구축했다는 의미다. 이용 가능한 데이터와 허용되는 작업은 여전히 구체적인 사용 사례에 따라 달라진다.

Itaú는 고객이 동일한 인터페이스 안에서 기본적인 편의 기능과 더 전문적인 안내 사이를 오갈 수 있다고 말한다. 사용자는 계좌 정보를 요청하고, 지원되는 명령을 실행하거나, 투자 결정을 이해하는 데 도움을 구할 수 있다.

은행은 ia.i가 고객의 언어에 맞춰 조정되며 음성 또는 텍스트로 소통할 수 있다고도 말한다. 이러한 유연성은 정확한 메뉴 이름을 익힐 필요를 줄일 수 있다. 또한 복잡한 앱 탐색에 어려움을 겪는 사람들에게 디지털 뱅킹을 더 쉽게 이용할 수 있게 할 가능성도 있다.

하지만 자연어는 버튼이 피하는 모호성을 가져온다. “내 청구서를 납부해줘”는 여러 의무 중 하나를 뜻할 수 있다. “이 돈을 써도 될까?”는 잔액 확인, 예산 관련 질문 또는 개인 맞춤형 금융 조언 요청을 의미할 수 있다.

시스템은 잘못된 확신을 만들지 않으면서 이러한 모호성을 해소해야 한다. 민감한 작업을 확인하고, 정보와 조언을 구분하며, 고객 데이터가 불완전할 때 확실한 것처럼 보이지 않도록 해야 한다.

Grupo Consumoteca와 함께 진행한 Itaú의 자체 조사에서는 설문에 응한 브라질인 중 80%가 금융 생활을 더 잘 정리하고 싶어 했다고 나타났다. 또한 65%는 지속적인 금융 안내를 제공할 수 있는 기술을 원했다고 답했다. 이는 ia.i 도입에 대한 독립적 측정치가 아니라 회사가 후원한 조사 결과다.

그럼에도 이 설문은 Itaú가 충족하려는 수요를 보여준다. 많은 고객에게는 또 하나의 상품 목록이 필요하지 않다. 자신이 내리려는 결정과 금융 정보를 연결하는 도움이 필요하다.

이 때문에 이 어시스턴트는 전략적으로 중요하다. 대화의 출발점을 통제하는 은행은 고객이 서비스를 찾고, 선택지를 이해하며, 문제를 에스컬레이션하는 방식에 영향을 미칠 수 있다. 충족되지 않은 수요에 관한 가치 있는 신호도 수집할 수 있다.

이러한 장점에는 상응하는 책임이 따른다. 고객은 언제 AI와 상호작용하는지, 추천이 어떻게 만들어지는지, 그리고 언제 사람이 결과를 검토할 수 있는지를 이해해야 한다. 편리한 인터페이스가 중요한 결정에 대한 책임을 흐리게 해서는 안 된다.

지식 근로자에게도 같은 원칙은 은행 업무를 넘어 적용된다. 유용한 AI 지식 베이스에는 권한을 고려한 맥락, 신뢰할 수 있는 검색, 명확한 출처 경계가 필요하다. 유창한 출력만으로는 신뢰가 형성되지 않는다.

IARA, 모델과 자금 사이에 거버넌스를 배치하다

IARA는 모델 접근과 통제되지 않은 모델 사용을 분리한다는 점에서 Itaú 전략의 핵심 메커니즘이다.

IARA는 Itaú의 인공지능 거버넌스 및 오케스트레이션 플랫폼이다. 오케스트레이션은 모든 애플리케이션을 한 공급자에 연결하는 대신, 플랫폼이 작업을 여러 모델과 지원 시스템 사이로 라우팅할 수 있음을 뜻한다.

이 플랫폼은 내부 팀에 여러 모델에 대한 통제된 접근을 제공한다. OpenAI는 모든 워크플로에 내장된 유일한 모델 공급자가 아니라, 이 환경을 통해 제공되는 공급자 중 하나다.

이러한 모델 비종속적 접근은 Itaú에 여러 선택지를 제공한다. 속도가 중요한 일상 작업은 더 저렴한 모델이 처리할 수 있다. 높은 비용과 지연 시간이 정당화되는 까다로운 요청은 더 뛰어난 추론 모델이 처리할 수 있다.

IARA는 Itaú가 이러한 선택 전반에 공통 정책을 적용할 수 있도록 한다. Itaú는 플랫폼이 모델 사용, 응답 정확도, 토큰 소비 및 책임 있는 AI 요건을 모니터링한다고 말한다. 토큰은 언어 모델이 텍스트를 처리할 때 사용하는 단위다.

중앙집중화가 AI 시스템을 자동으로 안전하게 만들지는 않는다. 그러나 접근 제어, 로깅, 모델 평가, 비용 제한 및 정책 집행을 위한 하나의 장소를 만들 수는 있다. 이 계층이 없다면 각 제품 팀은 서로 다른 보호 장치와 데이터 관행을 구축할 수 있다.

Itaú의 법무 부서는 공개된 가장 큰 사례를 제공한다. 은행에 따르면 법무 AI 솔루션은 9,000만 건이 넘는 문서 전반에서 작동하며 매월 200만 건 이상의 작업을 완료한다. 회사는 서로 다른 프로세스 단계에서 20%에서 80%에 이르는 효율성 향상을 보고한다.

이 비율은 넓은 범위를 포괄하며 독립 감사가 아닌 Itaú의 발표에 근거한다. 보편적인 생산성 결과로 간주해서는 안 된다. 법률 문서 읽기는 고객 대상 금융 안내와도 다르다.

그럼에도 이 사례는 오케스트레이션이 중요한 이유를 보여준다. 법률 아카이브 처리에는 문서 권한, 검색, 모델 선택, 추적 가능성 및 출력 모니터링이 필요하다. 모델은 결과의 한 부분만 생성한다.

Itaú는 애플리케이션이 외부 모델에 접근하는 방식을 통제하면서 민감한 정보를 은행의 맥락 안에 유지한다고 말한다. 프롬프트에 고객, 직원, 거래 또는 법률 정보가 포함될 수 있을 때 이러한 경계는 필수적이다.

이 플랫폼은 관측 가능성도 지원한다. 이는 팀이 배포 후 시스템의 행동을 검사할 수 있음을 의미한다. 뱅킹에서 모델이 출시 평가를 통과했다고 해서 모니터링이 끝날 수는 없다. 고객 언어, 사기 패턴, 모델 행동 및 기반 상품은 모두 변화한다.

모델 업데이트는 추론 능력을 개선하는 동시에 거부 행동을 바꿀 수 있다. 수정된 상품 정책은 기존 응답을 부정확하게 만들 수 있다. 새로운 공격 방식은 개발 단계에서는 없었던 취약점을 드러낼 수 있다.

따라서 IARA는 전체 시스템 수명 주기를 관리해야 한다. 여기에는 요청 이전의 데이터 접근, 처리 중의 라우팅, 응답 이후의 검토가 포함된다. 답변이 피해나 혼란을 유발할 때의 사고 조사도 포함된다.

이 아키텍처는 다른 대형 은행들이 취하고 있는 방향과 닮아 있다. JPMorganChase는 직원용 통제된 생성형 AI 환경으로 LLM Suite를 출시했다. 이 회사는 플랫폼이 8개월 안에 20만 명이 넘는 온보딩 사용자를 확보했다고 밝혔다.

Itaú의 전략은 공유 플랫폼이라는 개념을 고객 대화로 확장한다. 고객은 답변을 받자마자 행동으로 옮길 수 있기 때문에, 이는 더 직접적으로 노출된 시험대다. 직원에게는 소비자에게 없는 교육, 내부 문서, 검토 절차가 있는 경우가 많다.

여러 모델을 선택하는 방식도 실질적인 안전장치이지만, 관리 업무를 수반한다. Itaú는 모델의 품질, 비용, 지연 시간, 개인정보 보호 조건, 행동 특성을 지속적으로 비교해야 한다. 공급업체 변경으로 규제 대상 워크플로의 수준이 저하되어서는 안 되며, 그런 문제가 발생하면 감지할 수 있어야 한다.

어떤 거버넌스 플랫폼도 모든 실패를 없앨 수는 없다. 그 가치는 통제를 일관되게 적용하고, 증거를 가시화하며, 개입을 가능하게 하는 데 있다. 이는 모델의 유창함이나 브랜드 평판에 의존하는 것보다 더 신뢰할 만한 기반이다.

경쟁 압력은 더 단순한 뱅킹 인터페이스다

Itaú의 경쟁사들은 모델 품질만으로 경쟁하지 않는다. 고객이 금융 의도를 가장 먼저 표현하는 곳이 되기 위해 경쟁하고 있다.

은행들은 수년간 사기 탐지, 신용 분석, 개인화, 서비스 라우팅에 머신러닝을 사용해 왔다. 대화형 AI는 자동화의 존재 자체가 아니라 표현 계층을 바꾼다.

Bank of America는 가장 명확한 대규모 선례를 제공한다. 이 은행의 가상 비서 Erica는 현재의 생성형 AI 주기 이전인 2018년에 출시됐다. 2025년 8월까지 은행은 30억 건이 넘는 고객 상호작용과 약 5,000만 명의 사용자를 보고했다.

은행의 Erica 사용 데이터는 성숙한 비서 뒤에 있는 엄격한 운영 방식도 보여준다. Bank of America는 Erica가 700개가 넘는 응답으로 구성된 통제된 라이브러리를 사용했으며 7만 5,000회 이상 업데이트를 받았다고 밝혔다.

이 설계는 개방형 생성보다 예측 가능한 결과를 우선시한다. Itaú는 더 폭넓은 생성형 인터페이스를 추구하고 있지만, Erica 사례는 지속적인 유지보수가 왜 중요한지를 보여준다. 금융 비서는 완성된 소프트웨어 기능이 아니라 운영 서비스가 된다.

Nubank 역시 2023년에 제한된 고객 그룹을 대상으로 생성형 신용 비서 테스트를 시작했다. 초기 범위는 신용 한도, 담보 신용, NuPay, 개인 대출에 관한 질문을 포함했다. 제한적 출시는 개인화된 신용 논의로 즉시 진입할 때의 위험을 반영했다.

이러한 접근법은 복잡한 애플리케이션을 보유한 모든 소매은행에 압력을 가한다. 고객이 의도를 직접 표현할 수 있게 되면 메뉴 중심 경험은 비효율적으로 보이기 시작한다. 비교 기준은 기능 수에서 은행이 요청을 얼마나 빠르게 이해하고 완료하는지로 이동한다.

Itaú는 연결할 수 있는 서비스 범위에서 우위를 가진다. 계좌, 카드, 보험, 신용, 결제, 투자가 모두 맥락을 제공할 수 있다. 이러한 폭넓은 범위는 단일 목적 비서보다 더 유용한 안내를 제공할 수 있다.

하지만 갈등도 만들 수 있다. 고객이 다른 상품을 채택하면 은행이 이익을 얻을 수 있다. 고객은 생성된 안내가 표시되지 않은 판매 목적이 아니라 자신의 이익, 자격, 위험 프로필을 반영한다는 확신이 필요하다.

따라서 인터페이스는 교육, 지원, 추천, 홍보 간의 구분을 유지해야 한다. 이 범주들은 서로 다른 기대를 수반한다. 하나의 친근한 대화 안에서 이를 결합하면 경계가 보이지 않기 어려울 수 있다.

생성형 AI는 기술 제공업체에게도 뱅킹 인터페이스에 대한 더 큰 영향력을 제공한다. 모델 공급업체는 언어 및 추론 역량을 제공하고, 은행은 데이터, 워크플로, 규정 준수 규칙, 고객 관계를 제공한다.

Itaú의 멀티모델 아키텍처는 단일 공급업체에 대한 의존도를 낮춘다. 그러나 최첨단 모델, 클라우드 시스템, 전문 인프라는 여전히 은행 외부에서 발전하기 때문에 외부 의존을 없애지는 못한다.

따라서 전략적 경쟁은 Itaú와 OpenAI의 대결, 또는 한 은행과 한 모델 제공업체의 대결이 아니다. 이는 통제된 기관 맥락과 범용 모델 지능의 대결이다. 은행은 자사의 데이터와 거버넌스가 더 안전하고 유용한 경험을 제공한다는 점을 입증해야 한다.

ia.i가 성공하면 경쟁사들은 자사 비서를 여러 상품에 걸쳐 통합해야 한다는 압력을 받게 된다. 지원 질문을 위한 분절된 챗봇은 목표를 해석하고 거래를 완료할 수 있는 인터페이스 옆에서 역량이 떨어져 보일 것이다.

ia.i가 어려움을 겪으면 업계는 신중하게 범위가 제한된 행동을 수행하는 더 협소한 비서를 선호할 수 있다. 은행들은 생성형 AI를 내부적으로 계속 사용하면서 소비자용 도구는 더 결정론적으로 유지할 수 있다.

그 결과가 기술의 실패를 의미하지는 않는다. 이는 고위험 고객 대화에는 문서 요약, 초안 작성 도구, 직원 검색과는 다른 균형이 필요함을 보여줄 것이다.

Itaú의 규모 약속은 규제 현실과 맞닥뜨린다

해결되지 않은 쟁점은 ia.i가 통제된 코호트를 넘어 확장될 때 Itaú가 정확성, 동의, 인간의 책임성을 유지할 수 있는지다.

브라질 금융 시스템은 보안, 소비자 보호, 데이터 처리, 기록 보관, 운영 복원력과 관련한 요건을 부과한다. 생성형 AI는 기존 체계에 불확실한 출력을 더한다.

Banco Central do Brasil은 인공지능을 금융기관 전반의 위험과 영향을 연구해야 하는 영역으로 지목했다. 업데이트된 사이버보안 규정 역시 접근 통제, 추적성, 안전한 통합, 테스트, 인프라 보호를 강조한다.

이러한 요건은 IARA의 명시된 목적과 부합한다. 그러나 Itaú는 ia.i와 관련된 상세한 오류율, 에스컬레이션율, 고객 만족도 결과 또는 사고 내역을 공개적으로 발표하지 않았다. 이용 가능한 사례 연구는 주로 아키텍처와 의도된 이점에 초점을 맞춘다.

이러한 증거 공백은 중요하다. 배포 규모만으로는 품질이 입증되지 않기 때문이다. 시스템은 수백만 개 계정에 도달하면서도 실제 활성 사용은 제한적일 수 있다. 단순 요청은 잘 처리하면서도 이례적이거나 중대한 질문에는 어려움을 겪을 수도 있다.

특히 주목할 위험은 세 가지다.

첫째, 생성된 답변은 근거가 뒷받침하는 수준보다 더 확신에 차게 들릴 수 있다. 뱅킹 환경에서 잘못된 설명은 지출, 대출, 보험, 투자 행동에 영향을 미칠 수 있다.

승인된 정보에서의 검색은 이 위험을 줄일 수 있지만 모호성을 없애지는 못한다. 상품 조건은 바뀌고 고객 상황은 다르며, 모델은 정확한 사실을 부적절한 결론으로 결합할 수 있다.

둘째, 개인화는 개인정보에 의존한다. 브라질 데이터 보호 당국은 프롬프트, 모델 출력, 데이터 공유, 보존, 투명성, 개인정보 재사용과 관련된 위험을 강조해 왔다.

당국의 생성형 AI 레이더는 혁신이 브라질 일반개인정보보호법과 양립할 수 있어야 한다고 강조한다. 또한 사용자가 그 결과를 인식하지 못한 채 자신의 데이터나 다른 사람의 데이터를 프롬프트에 입력할 수 있다고 지적한다.

Itaú에서 거버넌스는 학습 데이터 이상을 포괄해야 한다. 각 상호작용을 위해 수집된 정보, 각 모델로 전송되는 데이터, 그에 따른 응답, 이후 보존되는 모든 기록을 다뤄야 한다.

셋째, 자동화된 지원은 시스템이 기술적으로 안내만 제공하더라도 실제로는 자동화된 결정이 될 수 있다. 고객은 인간 검토를 요청하지 않은 채 확신에 찬 답변을 따를 수 있다.

브라질의 데이터 보호 의제에는 개인 데이터의 전적으로 자동화된 처리에 근거한 결정의 검토를 다루는 LGPD 제20조 관련 작업이 포함된다. Itaú는 대화형 지원, 추천, 고객 이익에 영향을 미치는 결정 사이의 명확한 경계를 유지해야 한다.

인간 에스컬레이션은 중요한 안전장치이지만, 그 설계가 가치를 결정할 것이다. 대화 맥락을 잃는 전환은 불만을 만든다. 오류가 발생한 뒤에만 일어나는 에스컬레이션은 너무 늦을 수 있다.

은행은 프롬프트 인젝션, 사기, 계정 탈취, 사회공학 공격에도 대비해야 한다. 공격자는 기만적인 언어를 통해 비서를 조작하거나, 정보를 추출하거나, 민감한 워크플로를 촉발하려 할 수 있다.

거래에는 여전히 확인 절차가 필요하다. 요청이 자연스럽게 들린다는 이유만으로 대화형 계층이 인증을 약화시켜서는 안 된다. 권한이 불확실한 지점에서 편의성은 멈춰야 한다.

편향도 또 다른 과제다. 모델은 유사한 필요를 서로 다르게 표현하는 고객에게 다른 어조, 가정, 안내를 제시할 수 있다. Itaú는 책임 있는 AI 정책이 편향을 다룬다고 밝히지만, ia.i에 대한 상세한 외부 평가 결과는 공개하지 않았다.

경제적 타당성도 계획에서 아직 입증되지 않은 부분이다. 모델 사용은 특히 대화에 긴 맥락이나 더 깊은 추론이 필요할 때 변동 비용을 만든다. 여러 모델에 작업을 라우팅하면 지출을 통제할 수 있지만, 더 폭넓은 도입은 총 소비량을 늘릴 수 있다.

Itaú가 발표한 직원 관련 기대도 검증이 필요하다. 은행은 AI 도구가 관계 관리자에게 고객 상호작용을 위한 시간을 세 배 더 제공할 수 있다고 예상한다. 서비스는 두 배 더 빨라지고 대화는 최대 세 배 더 효과적이 될 것으로 기대한다.

이는 미래지향적인 회사의 기대치다. “사용 가능한 시간”과 “효과성”이라는 용어는 내부 측정 방식에 따라 달라질 수 있다. 공개 보고는 결국 예상된 이점과 관찰된 결과를 구분해야 한다.

따라서 책임 있는 평가는 두 측면을 가진다. Itaú는 신뢰할 만한 거버넌스 아키텍처와 여러 의미 있는 배포 사례를 공개했다. 그러나 이 아키텍처가 전체 고객 기반에서 작동함을 확인할 만큼 독립적이거나 장기적인 증거는 아직 충분히 제공하지 않았다.

Itaú의 승부가 통할지 결정할 세 가지 신호

다음 단계는 뱅킹 앱 안에 아이콘을 받는 고객 수가 아니라 검증된 행동으로 평가해야 한다.

첫 번째 신호는 폭넓게 제공된 후에도 이어지는 고객 사용이다. Itaú는 활성 사용자, 재사용, 완료된 작업, 이탈, 인간 상담원 전환, 고객 만족도를 공개해야 한다. 자격을 갖춘 고객 30만 명에서 전체 접근으로 확대되는 일은 사람들이 실제 금융 필요를 위해 인터페이스를 신뢰할 때에만 의미가 있다.

두 번째 신호는 정확성과 안전장치에 관한 증거다. 유용한 보고에는 오류 범주, 성공적인 거래 확인, 불만 건수, 응답 수정, 중대한 사고가 포함될 것이다. 또한 IARA가 배포 전후에 서로 다른 모델을 어떻게 평가하는지도 설명해야 한다.

Banco Central 또는 브라질 데이터 보호 당국의 모든 발표는 외부 벤치마크를 더할 것이다. 중앙은행은 이미 금융기관의 AI 위험을 연구하고 있으며, 데이터 당국은 자동화된 결정과 책임 있는 데이터 처리에 관한 지침을 개발하고 있다.

세 번째 신호는 경쟁사들이 자체 비서를 확장하는지 여부다. Bank of America는 제약된 금융 비서가 엄청난 상호작용 규모를 지원할 수 있음을 입증했다. JPMorganChase는 거버넌스가 적용된 내부 플랫폼이 수십만 명의 직원에게 도달할 수 있음을 보여줬다.

Itaú는 이 두 경로를 결합하려 한다. 하나의 통제된 프레임워크 안에서 고객 규모의 대화, 직원 생산성, 맥락적 금융 데이터, 여러 모델 제공업체를 원한다.

성공적인 출시는 생성형 AI가 규제 대상 서비스의 주요 인터페이스가 될 수 있다는 주장을 강화할 것이다. 협소한 질문 중심으로 후퇴한다면 반대 결론을 뒷받침하게 된다. 이는 중대한 고객 행동에는 결정론적 워크플로가 더 안전하게 남는다는 점을 시사할 것이다.

개발자와 기업 구매자는 Itaú가 모델, 오케스트레이션 계층, 뱅킹 시스템, 인간 직원 사이에서 책임을 어떻게 나누는지 지켜봐야 한다. 이 구분은 의료, 보험, 법률 서비스 및 기타 규제 분야에서도 중요해질 것이다.

ia.i가 안내를 제공할 때마다 고객은 더 단순한 질문을 해야 한다. 답변은 그 근거와 한계, 그리고 인간 검토로 연결되는 신뢰할 수 있는 경로를 보여줄 수 있는가?

Itaú의 생성형 AI 전략은 ia.i가 유창한 대화를 이어갈 수 있는지에 따라 결정되지 않을 것입니다. 그 전략의 성패는 은행이 그 대화를 대규모로 정확하고, 책임 있게, 경제적이며, 유용하게 만들 수 있는지에 달려 있습니다.