찾을 수 없는 AI 시스템은 관리할 수 없다

Google News는 공공기관이 직면한 냉정한 현실을 부각했다. AI 거버넌스는 흔히 명확한 AI 표기 없이 정부 조직에 도입된 시스템을 찾아내는 일에서 시작된다.

정책은 민감한 데이터 업로드를 금지하고, 사람의 검토를 요구하며, 책임 있는 사용 원칙을 수립할 수 있다. 하지만 이미 공공 업무에 영향을 미치고 있는 도구, 내장 기능, 공급업체 서비스, 직원들의 실험적 사용을 담당자가 식별하지 못한다면 이러한 통제는 작동하지 않는다.

이러한 가시성 격차는 기관들이 개별 챗봇 시범사업을 넘어서는 가운데 더욱 시급해졌다. 이제 AI는 인허가 플랫폼, 번역 서비스, 문서 시스템, 사기 탐지 도구, 콜센터, 일반 사무용 소프트웨어에까지 탑재되고 있다. 더 이상 혁신과 신중함의 대결이 아니다. 중앙 리더십이 너무 늦게 발견하는 파편화된 사용과, 문서화되고 지속적으로 모니터링되는 도입의 대결이다.

AI 인벤토리에 관한 Google News 헤드라인이 정확히 짚은 점

AI 인벤토리는 또 하나의 행정용 스프레드시트가 아니라 공공 부문 감독의 운영상 출발점이 되고 있다.

Google News를 통해 배포된 헤드라인은 거버넌스의 근본적인 문제를 포착한다. 기관은 위험을 분류하고, 정확성을 시험하고, 책임 소재를 배정하기에 앞서 어떤 시스템이 존재하며 어떻게 사용되는지를 파악해야 한다.

하지만 담당자들이 무엇을 AI 시스템으로 볼지 정의하기 시작하면 이 일은 결코 단순하지 않다. 한 부서는 생성형 챗봇은 신고하면서도 기존 소프트웨어 안의 자동 순위 매기기, 문서 분류, 예측, 전사, 이미지 인식 기능은 간과할 수 있다.

따라서 인벤토리는 AI 계약으로 구매한 제품보다 더 넓은 범위를 포괄해야 한다. 내부 개발 모델, 공급업체 호스팅 서비스, 선택형 소프트웨어 기능, 직원이 선택한 도구, 기존 계약을 통해 승계된 자동화 시스템도 포함해야 한다.

공공기관은 제품뿐 아니라 사용 사례도 문서화해야 한다. 동일한 모델이 내부 메모 초안 작성에 쓰일 수도 있고, 누군가가 정부 혜택을 받을지 추천하는 데 쓰일 수도 있다. 두 활용 사례의 결과는 크게 다르다.

유용한 인벤토리 기록에는 책임 부서, 업무 목적, 영향을 받는 인구 집단, 데이터 범주, 공급업체, 모델 또는 서비스, 결정 권한, 사람의 검토 절차, 현재 배포 상태가 포함된다. 또한 개인이 결과에 이의를 제기할 수 있는지도 기록한다.

이 구분이 중요한 이유는 애플리케이션 목록이 “조직이 승인한 소프트웨어는 무엇인가?”라는 제한적인 질문에만 답하기 때문이다. 거버넌스에는 자동화 분석이 공공 업무를 바꾸거나 주민에게 영향을 미치는 지점에 대한 더 넓은 답이 필요하다.

연방정부의 경험은 이 작업의 규모를 보여준다. 최신 통합 인벤토리를 검토한 2026년 분석에서는 41개 기관에서 보고된 AI 활용 사례가 3,600건 이상으로 나타났으며, 이는 2023년 약 700건과 비교된다. 연방정부 도입 검토는 보고된 도입이 여전히 대형 기관에 집중되어 있음을 확인했다.

이 수치는 빠른 성장을 보여주지만, 모든 배포 사례가 포착되었다는 증거는 아니다. 보고 규칙은 바뀌고, 기관마다 정의를 다르게 해석하며, 직원들은 정식 조달 기록을 남기지 않고 외부 서비스를 사용할 수 있다.

그 결과 두 종류의 가시성 격차가 생긴다. 첫 번째는 중앙 승인이나 검토 없이 사용되는 도구를 뜻하는 섀도우 AI다. 두 번째는 기관이 이미 보유한 제품에 추가된 자동화 기능을 뜻하는 내장형 AI다.

내장 시스템은 특히 추적하기 어려울 수 있다. 공급업체는 일상적인 소프트웨어 업데이트 중 요약 기능을 활성화하거나, 모델 공급업체를 바꾸거나, 자동화 추천 기능을 확장할 수 있다.

연례 설문조사만으로는 이러한 변화를 신뢰성 있게 탐지할 수 없다. 다음 조사가 도착할 때쯤이면 해당 기능은 이미 기밀 기록을 처리했거나 수백 건의 결정에 영향을 미쳤을 수 있다.

따라서 인벤토리에는 업데이트 체계가 필요하다. 조달 이벤트, 계약 갱신, 보안 검토, 소프트웨어 출시, 직원 접근 요청은 모두 새롭거나 변경된 AI 기능을 점검하는 계기가 되어야 한다.

Connecticut은 하나의 공공 모델을 제시한다. 이 주는 승인된 시스템의 연간 인벤토리를 유지하고, 여러 분야가 참여하는 거버넌스 절차를 통해 제안된 사용 사례를 평가한다고 밝힌다. 해당 주 AI 프레임워크는 기술, 법률, 정책, 윤리, 보안 전문성을 검토 과정에 결합한다.

연간 공개는 투명성을 높일 수 있지만, 내부 기록은 공개 일정보다 더 빠르게 움직여야 한다. 주민에게는 안정적인 공개 현황이 필요하고, 관리자는 접근, 테스트, 조달, 사고, 폐기에 관한 일상적 결정을 지원하는 실시간 운영 기록이 필요하다.

이러한 결합은 인벤토리 업무를 인프라로 바꾼다. 공개 문서는 책임성을 뒷받침하고, 내부 시스템은 일상적인 운영 결정을 지원한다.

Google News 독자는 인벤토리 주장을 단순히 더 나은 기록 관리에 대한 요구로 받아들일 수 있다. 그러나 그 함의는 더 엄격하다. 기관은 AI 발견을 초기 제안부터 최종 종료까지 각 시스템을 따라가는 지속적 통제로 다뤄야 한다.

가시성 격차는 조달, 법무, 사업 책임자에게 압박을 가한다

보이지 않는 AI는 도구를 선택한 사람에게서 위험을 떼어내고, 그 결과에 계속 책임을 져야 하는 담당자에게 넘긴다.

최고정보책임자만으로는 이 문제를 해결할 수 없다. 이들은 일반적으로 승인된 인프라, 보안 요건, 전사 계약을 관리한다. 하지만 직원이 여는 모든 웹 서비스나 공급업체가 활성화하는 모든 자동화 기능을 반드시 볼 수 있는 것은 아니다.

조달팀도 비슷한 한계에 직면한다. 입찰 공고에는 인공지능이라는 용어 없이 분석, 워크플로 자동화, 의사결정 지원이 기재될 수 있다. 표준 기술 분류는 검토가 필요한 작동 방식을 가릴 수 있다.

법무팀은 계약서 초안이 작성된 뒤에야 참여하는 경우가 많다. 그 시점에는 기관이 모델 문서, 감사 접근권, 사고 통지, 데이터 제한, 중대한 변경에 대한 사전 통지를 요구할 협상력을 잃었을 수 있다.

사업 책임자들은 또 다른 압박을 받는다. 이들은 워크플로와 영향을 받는 주민을 이해하지만, 공급업체의 기능이 언제 기관의 AI 정의에 해당하는지 알아차리지 못할 수 있다.

따라서 각 집단은 시스템의 일부만 본다. 모든 부서가 다른 곳이 전체 그림을 맡고 있다고 가정할 때 거버넌스는 실패한다.

조달은 배포 전에 공개를 요구할 수 있으므로 가장 실용적인 진입점이다. 공급업체는 어떤 기능이 AI를 사용하는지, 어떤 데이터를 처리하는지, 어떤 제3자가 참여하는지, 구매 후 시스템이 변경되는지를 설명해야 한다.

계약은 업데이트도 다뤄야 한다. 입찰 과정에서 이뤄진 공개는 공급업체가 이후 기반 모델을 교체하거나, 에이전트형 작업을 도입하거나, 새로운 검토 없이 데이터 보존 범위를 확대한다면 가치를 잃는다.

AI 에이전트는 목표를 향해 일련의 작업을 계획하거나 실행할 수 있는 소프트웨어다. 이 시스템은 단순한 추천을 넘어설 수 있으므로 변경 통제가 특히 중요하다.

일반적인 챗봇은 사람이 평가할 텍스트를 반환한다. 에이전트는 기록을 조회하고, 사례를 수정하고, 통지를 보내거나, 다른 절차를 시작할 수 있다. 운영상 위험은 권한, 되돌릴 수 있는지 여부, 영향을 받는 기록 수에 따라 달라진다.

사업 부서는 이러한 결과를 평이한 언어로 설명해야 한다. 모델에 대한 기술적 설명만으로는 오류가 일상적 메모를 지연시키는지, 주거 지원 접근을 막는지를 드러내지 못한다.

Maryland는 단절된 보고 체계를 새로 만드는 대신, 인벤토리 업무를 기존 기술 거버넌스와 연결했다. 공개된 AI 인벤토리 절차는 주 검토 구조 및 기관별 사용 사례 보고와 연계된 목록을 설명한다.

이 통합은 중요하다. 기관들은 이미 조달, 사이버보안, 개인정보 보호, 기록, 공급업체 관리 절차를 운영하고 있다. AI 발견은 별도의 수동 제출을 요구하기보다 이러한 시스템들이 정보를 교환할 때 더 효과적으로 작동한다.

법적 의무도 압박을 더하고 있다. Maryland 법은 주 기관이 사용하는 고위험 시스템에 대해 인벤토리 및 영향 평가 의무를 정한다. 이 일정은 신규 조달과 이전에 취득한 시스템을 구분한다.

그러나 마감일만으로 정확한 인벤토리를 만들 수는 없다. 기관들은 여전히 의무화 이전에 구매됐거나 다른 명칭으로 분류된 기술을 찾아내기 위한, 방어 가능한 방법이 필요하다.

소규모 지방정부는 이 문제의 가장 어려운 형태에 직면한다. 이들은 대규모 관할구역과 동일한 클라우드 서비스를 사용하는 경우가 많지만, 전담 개인정보 보호 책임자, 모델 평가자, AI 조달 전문가는 부족하다.

Governing이 인용한 2026년 Pennsylvania 설문조사에 따르면, 응답한 정부 관계자의 81%는 생성형 AI 정책이 없다고 답했다. 이들 응답자 가운데 62%는 정책이 있으면 가치가 있을 것이라고 동의했다.

정책 부재는 심각하지만, 제한된 역량은 더 큰 제약을 만든다. 소규모 지방자치단체는 직원들이 AI 보조 도구를 쓴다는 사실은 알 수 있어도, 데이터 흐름을 평가하거나 특화된 계약 조항을 협상할 전문성은 없을 수 있다.

공유 서비스가 도움이 될 수 있다. 주정부, 카운티, 협회, 대도시는 공통 정의, 접수 양식, 승인된 사용 패턴, 계약 조항을 공개할 수 있다. 또한 소규모 관할구역에 검토 지원을 제공할 수 있다.

이것이 지역 차원의 책임을 없애는 것은 아니다. 담당자에게 활용 가능한 기준선을 제공하고, 모든 지방자치단체가 동일한 공급업체 조사를 반복할 가능성을 낮춘다.

강제되는 대응은 단순히 기술적인 것이 아니라 조직적인 것이다. 조달 부서는 더 나은 질문을 해야 하고, 법무팀은 지속적인 공개를 확보해야 하며, 보안팀은 접근 권한을 매핑해야 하고, 사업 책임자들은 실제 사용에 책임을 져야 한다.

AI 도입은 정부의 예산 편성 및 계약 절차보다 빠르게 변하기 때문에 이러한 압박은 지속될 것이다. 한 목적에 승인된 시스템이 원래 계약이 만료되기 훨씬 전에 새로운 기능을 갖출 수 있다.

이 부서들을 연결하지 못하는 기관은 불완전한 스냅샷을 통해 관리하게 된다. 공유 기록을 만드는 기관은 흩어진 인식에서 책임 있는 결정으로 나아갈 수 있다.

핵심 갈등은 문서화된 도입과 섀도우 AI의 대결이다

중심 경쟁은 기관이 추적할 수 있는 시스템과 편의성, 기본 설정, 불완전한 공개를 통해 확산되는 AI 사용 사이에서 벌어진다.

섀도우 AI가 항상 고의적인 규정 위반에서 시작되는 것은 아니다. 직원이 익숙한 공개 도구를 사용해 문서를 요약하고, 이메일을 다듬고, 통지를 번역하거나, 스프레드시트를 분석하면서 시작되는 경우가 많다.

즉각적인 이점은 분명하다. 이 도구는 반복 업무를 줄이고 몇 초 안에 결과를 만든다. 하지만 어떤 정보가 기관 밖으로 나갔는지, 그 결과가 결정에 어떤 영향을 미쳤는지를 누군가 묻기 전까지 거버넌스 비용은 보이지 않는다.

모든 공개 서비스를 차단하면 사용은 더 깊은 음지로 밀려날 수 있다. 업무 부담에 직면한 직원들은 보안팀이 관찰할 수 없는 개인 기기, 개인 계정, 또는 제품으로 향할 수 있다.

실용적인 대안은 승인된 도구, 명확한 경계, 교육, 비례적인 모니터링을 결합하는 것이다. 직원들은 어떤 데이터를 시스템에 입력할 수 있는지, 어떤 작업에 사람의 검증이 필요한지, 어떤 결정은 위임할 수 없는지를 알아야 한다.

내장형 AI는 공식 검토 절차를 우회하는 또 다른 경로를 만든다. 기관은 생성형 기능이 포함되기 전에 기록 관리 플랫폼, 오피스 스위트 또는 사건 관리 제품을 승인할 수 있다.

이후 공급업체는 일반적인 업데이트를 통해 요약이나 추천 기능을 추가한다. 사용자는 편리한 버튼을 보게 되지만, 기존 보안 및 개인정보 보호 검토는 이전 제품에 계속 초점을 맞춘다.

이 때문에 제품 기반 인벤토리만으로는 충분하지 않다. 기관에는 중요한 기능이 데이터 사용, 의사결정 권한 또는 오류 노출을 바꿀 때 이를 포착하는 기능 수준의 관점이 필요하다.

공급업체의 공개는 필요하지만, 모든 답을 제공할 수는 없다. 공급업체는 AI 기능을 폭넓게 마케팅하고, 기술적 종속성은 좁게 설명하거나, 모델 변경을 일반적인 서비스 개선으로 취급할 유인이 있다.

정부 고객은 위험에 영향을 미치는 변경에 대해 계약상 통지를 받아야 한다. 또한 직원이 무엇에 접근할 수 있는지 확인할 기술적·행정적 방법도 필요하다.

싱글 사인온 로그는 승인된 서비스에 대한 접근을 드러낼 수 있다. 브라우저 및 네트워크 모니터링은 일부 승인되지 않은 도메인을 식별할 수 있다. 지출 기록, 헬프데스크 티켓, 설문조사, 소프트웨어 인벤토리도 추가적인 신호를 제공할 수 있다.

이러한 방법 중 어느 것도 완전하지는 않다. 기술적 스캔은 서비스를 식별할 수 있지만 그 목적까지 설명하지는 못한다. 직원 인터뷰는 목적을 파악할 수 있지만 간헐적이거나 승인되지 않은 사용은 놓칠 수 있다.

가장 좋은 발견 절차는 증거를 결합한다. 조달 기록, ID 로그, 네트워크 관찰, 공급업체 공개, 프로그램 인터뷰, 개인정보 보호 평가 및 보안 검토를 비교한다.

이 비교는 자동적인 비난이 아니라 질문을 만들어야 한다. 이전에 알려지지 않았던 AI 기능은 저위험이거나 비활성화되어 있거나, 공공 의사결정과 무관할 수 있다. 발견은 분류를 시작하는 단계다.

그다음 분류가 대응 방식을 결정한다. 공개 정보와 함께 사용하는 글쓰기 보조 도구에는 검사, 고용 지원서 또는 복지 청구를 평가하는 시스템과 다른 통제가 필요하다.

고위험은 단순히 기술적으로 고도화되었다는 뜻이 아니다. 오류에 수반되는 결과, 데이터의 민감성, 영향을 받는 집단, 인간이 수정할 기회가 있는지를 설명한다.

이 접근법은 사이버보안의 자산 관리와 닮아 있다. 조직은 존재를 알지 못하는 기기를 패치하거나 모니터링하거나 폐기할 수 없다. AI는 알려진 제품이 이름을 바꾸지 않고도 행동을 바꿀 수 있다는 또 다른 차원을 더한다.

미국 국립표준기술연구소의 AI risk framework는 거버넌스, 맵핑, 측정 및 위험 관리 중심으로 업무를 구성한다. 발견은 이 주기의 모든 부분을 뒷받침한다.

맵핑에는 의도된 사용과 영향을 받는 사람들에 관한 맥락이 필요하다. 측정에는 그 맥락과 연결된 테스트가 필요하다. 관리에는 시스템을 변경, 중단 또는 폐기할 수 있는 책임자가 필요하다.

정적인 인벤토리는 여전히 잘못된 확신을 만들 수 있다. 공무원들은 완전한 스프레드시트를 축하할 수 있지만, 시스템은 처음 검토된 조건에서 멀어질 수 있다.

모델 드리프트는 데이터, 환경 또는 시스템 구성요소가 변화하면서 성능이나 행동이 바뀌는 것을 뜻한다. 기관이 모델을 재학습하지 않더라도 공급업체 업데이트는 유사한 변화를 초래할 수 있다.

지속적인 인벤토리는 끊임없는 수동 검사를 의미하지 않는다. 새로운 데이터 소스, 모델 교체, 사용자 집단 확대, 목적 변경, 사고 또는 시민 민원처럼 재평가가 필요한 사건을 정의하는 것을 뜻한다.

이 글의 핵심적인 균형 문제는 여기에 있다. 쉬운 접근성은 직원의 실험과 서비스 개선을 돕지만, 분산된 도입은 가시성을 약화시킨다. 강력한 중앙 통제는 감독을 개선하지만, 과도한 마찰은 우회 사용을 부추기고 유용한 배포를 늦춘다.

답은 최대한의 제한이 아니다. 직원들이 승인된 경로를 선호할 만큼 빠르고, 중요한 사용 사례에는 면밀한 검토를 제공할 만큼 엄격한 검토 체계다.

이것은 대응 속도 자체가 거버넌스 통제 수단이 된다는 뜻이다. 저위험 요약 도구의 승인이 수개월 걸린다면, 공식 절차는 사람들이 실제로 일하는 방식과 점점 무관해진다.

리더는 결과의 중대성에 따라 검토 경로를 설정해야 한다. 저위험 사용은 표준 조건을 따를 수 있지만, 권리, 자격, 집행, 안전 또는 고용에 영향을 미치는 시스템은 더 깊은 평가를 받아야 한다.

문서화된 도입은 문서화된 경로가 계속 사용 가능할 때에만 성과를 낸다. 그렇지 않으면 인벤토리는 실제로 운영되는 조직이 아니라 리더들이 존재하길 바라는 조직을 기록하게 된다.

AI 인벤토리가 여전히 잘못된 확신을 낳을 수 있는 이유

시스템을 찾는 일은 필요하지만, 인벤토리가 그 시스템의 공정성, 보안성, 정확성 또는 적절한 거버넌스를 증명하는 것은 아니다.

등록부는 규정 준수 산출물이 될 수 있다. 부서는 항목을 제출하고, 중앙 담당자는 목록을 공개하며, 모두가 가장 중요한 일이 끝났다고 가정한다.

항목은 실제 사용을 보여주지 않은 채 승인된 목적만 설명할 수 있다. 공급업체는 식별하지만 하도급업체, 모델 제공업체, 데이터 소스 또는 외부 플러그인은 누락할 수 있다.

또한 자기 보고에 의존할 수도 있다. 직원과 계약자는 인지하지 못한 기능을 공개할 수 없으며, 공급업체도 모든 종속성을 명확한 형식으로 드러내지 않을 수 있다.

정확한 항목도 빠르게 오래된다. 시스템은 내부 문안 작성에서 주민 대상 커뮤니케이션 생성으로 확장될 수 있다. 파일럿은 공식적인 의사결정 시점 없이 일상 업무 흐름이 될 수 있다.

이러한 한계가 인벤토리를 무용하게 만드는 것은 아니다. 발견이 왜 책임 소재, 평가, 모니터링 및 사고 대응과 연결되어야 하는지를 설명할 뿐이다.

목록에 올라간 모든 사용 사례에는 책임 있는 사업 소유자가 있어야 한다. 그 사람은 모든 모델 파라미터를 이해할 필요는 없지만, 시스템을 중단할 목적, 결과 및 조건은 이해해야 한다.

기술적 소유권은 다르다. 정보기술 부서나 공급업체가 플랫폼을 유지할 수 있지만, 프로그램 부서는 출력이 공공 의사결정에 어떻게 반영되는지에 대한 책임을 계속 진다.

따라서 의미 있는 기록은 두 역할을 모두 식별한다. 그렇지 않으면 프로그램 부서는 기술 부서를 탓하고, 기술 부서는 자신들이 도구만 제공했다고 말할 수 있다.

영향 평가는 다음 계층을 제공한다. 영향을 받는 집단, 예측 가능한 피해, 데이터 품질, 테스트, 이의제기 절차, 인간 감독 및 자동화의 대안을 검토한다.

하지만 출시 전에 수행한 평가도 여전히 예측이다. 실제 성능은 사용자 행동, 변화하는 데이터, 운영 압박 및 시스템에 도달하는 사례에 달려 있다.

모니터링은 배포 후 이러한 가정을 검증해야 한다. 기관은 오류 패턴, 재정의, 민원, 처리 결과, 보안 사고 및 관련 집단 간 차이를 추적해야 한다.

공개 투명성은 또 다른 제약을 더한다. 기관은 주민이 중요한 사용 사례를 이해할 수 있을 만큼 충분한 정보를 공개하되, 보안에 민감한 세부사항이나 보호 대상 개인정보를 공개해서는 안 된다.

경제협력개발기구는 공공 신뢰가 정부가 신흥 기술을 책임 있게 규제할 수 있다고 사람들이 믿는지에 부분적으로 달려 있다고 강조했다. 해당 기관의 public trust findings는 거버넌스의 질과 공공 부문 AI에 대한 더 긍정적인 견해를 연결한다.

투명성만으로는 그 신뢰를 얻을 수 없다. 주민들이 나중에 목록에 없는 시스템이 집행, 고용 또는 서비스 접근에 영향을 미쳤다는 사실을 알게 되면 공개 목록은 신뢰를 잃는다.

정확성도 인벤토리 규모보다 중요하다. 모호한 항목 200개를 보유한 관할권이 실제 통제와 연결된 정확하고 최신의 기록 40개를 보유한 관할권보다 반드시 더 잘 관리되는 것은 아니다.

따라서 기관 간 비교는 오해를 낳을 수 있다. 증가하는 건수는 더 빠른 도입, 개선된 보고, 더 넓은 정의 또는 이 세 가지 모두를 의미할 수 있다.

3,600건을 넘는 연방 차원의 보고된 사용 증가에도 같은 주의가 적용된다. 이 수치는 활동과 개선된 가시성을 보여주지만, 기관 전반의 완전성이나 품질을 입증할 수는 없다.

2026년에 발표된 독립 연구는 여러 연방 공개 체계를 검토하고, 정부가 AI를 구축하거나 배포하는 방식을 단일 시스템으로 완전히 설명할 수 없다고 밝혔다. 이 결과는 성숙한 보고 구조조차 관련 정보를 분절시킬 수 있음을 시사한다.

또 다른 위험은 범위 팽창이다. 인벤토리가 모든 기본 자동화 규칙을 포착한다면, 검토자는 사람들에게 실질적인 영향을 미치는 시스템을 놓치면서 결과가 크지 않은 도구에 제한된 주의를 쏟을 수 있다.

정의는 회피를 막을 만큼 넓어야 하지만 위험 등급과 함께 적용되어야 한다. 발견은 넓은 그물을 던져야 하며, 평가 자원은 결과의 중대성을 따라야 한다.

기관은 또한 제도적 기억을 보존해야 한다. 직원 이직, 조직 개편 및 계약 만료는 시스템을 원래의 한계를 이해했던 사람들과 분리할 수 있다.

인벤토리는 의사결정, 테스트 결과, 승인 조건, 사고 및 변경 이력을 보존해야 한다. 새 소유자에게는 제품명과 출시일 이상이 필요하다.

복잡한 AI 지원 업무를 관리하는 모든 조직에서 지식의 연속성은 중요하다. 팀은 정책, 평가, 계약 및 운영 증거를 연결하는 검색 가능한 technical knowledge base를 유지함으로써 이를 개선할 수 있다.

그럼에도 문서화가 판단을 대체해서는 안 된다. 잘 정리된 기록은 검토가 이루어졌다는 점은 보여줄 수 있지만, 검토자가 올바른 질문을 했다는 점까지 증명하지는 못한다.

가장 회의적인 해석에도 주목할 필요가 있다. 인벤토리 프로그램은 관찰되지 않는 사용이 다른 곳에서 계속되는 동안, 눈에 보이는 AI만 통제되고 있는 것처럼 보이게 할 수 있다.

기관은 그 가능성을 검증해야 한다. 중앙 인벤토리를 네트워크 활동, 직원 설문조사, 조달 데이터 및 공급업체 기능 목록과 비교한 뒤, 의미 있는 불일치를 조사할 수 있다.

또한 근로자에게 안전한 보고 채널을 제공해야 한다. 대응이 자동 처벌이 아니라 위험 시정에 초점을 맞출 때, 직원은 실험적 사용을 공개할 가능성이 더 높다.

마지막으로 리더는 총계와 함께 한계도 공개해야 한다. 신뢰할 수 있는 인벤토리는 범위, 보고 방식, 업데이트 날짜, 제외 항목 및 불확실성을 설명한다.

이러한 정직함은 거버넌스를 약화시키지 않는다. 잠정적인 기록이 완전한 지도처럼 오인되는 것을 막는다.

Google News 주기가 지나간 뒤 기관이 주시해야 할 것

다음 시험대는 정부가 인벤토리 발표를 제품과 업무 흐름이 바뀐 뒤에도 정확성을 유지하는 관찰 가능한 통제로 전환하는지 여부다.

첫 번째 신호는 공개 인벤토리의 품질이다. 법률, 행정 정책 및 대중의 기대가 공개를 장려하기 때문에 더 많은 관할권이 목록을 공개할 것이다.

독자는 항목 수를 넘어 살펴봐야 한다. 강력한 기록은 주민이 이해할 수 있는 언어로 사용 사례, 책임 기관, 목적, 상태, 위험 수준 및 인간 검토의 역할을 식별한다.

New York의 인벤토리 지침은 정부 기관 전반에 걸쳐 공통 보고 기대치를 정의하는 주 단위 사례를 제시한다. 해당 inventory guidance는 사용 중인 시스템을 식별하고, 선택된 데이터의 공개 접근성을 지원하는 데 초점을 맞춘다.

공개 기록이 시간이 지나면서 더 구체적이고 비교하기 쉬워진다면, 문서화된 도입 모델은 기반을 다지고 있는 것이다. 목록이 계속 모호하거나 한 번만 공개된다면, 가시성 문제는 지속된다.

두 번째 신호는 조달 언어다. 기관은 공급업체가 AI 기능, 모델 제공업체, 학습 또는 운영 데이터 관행, 업데이트 메커니즘 및 중요한 변경 사항을 식별하도록 요구해야 한다.

정부회계감사원(GAO)은 2026년 4월, 일부 연방 기관이 AI 조달에서 얻은 교훈을 체계적으로 수집하지 않고 있다고 보고했습니다. 조달 평가는 향후 구매를 개선하기 위한 중요한 단계로 공동 학습을 다뤘습니다.

정부가 재사용 가능한 계약 조항과 검토 결과를 마련하는지 주시해야 합니다. 이는 발견 과정이 기관이 기술을 구매하는 방식에 영향을 주고 있음을 보여줄 수 있으며, 단지 사후 설명 방식에만 영향을 미치는 것은 아닙니다.

계약이 시스템 변경 시 기관에 통지와 선택권을 제공하는지도 살펴봐야 합니다. 공급업체가 실질적인 검토 없이 모델을 교체할 수 있다면, 어제의 평가는 무의미해질 수 있습니다.

세 번째 신호는 지속적인 대조 작업의 증거입니다. 기관은 자산 목록을 ID 로그, 보안 도구, 지출 데이터, 소프트웨어 기록, 직원 보고와 비교해야 합니다.

자산 목록이 늘어나는 것이 자동으로 실패를 의미하지는 않습니다. 이는 발견 과정이 개선되고 있음을 나타낼 수 있습니다. 중요한 질문은 새로 확인된 사용 사례에 담당자, 분류, 시정 조치가 부여되는지 여부입니다.

공개 사고 보고서는 또 다른 단서를 제공할 것입니다. AI 관련 문제가 보고되지 않은 기관은 훌륭한 통제 체계를 갖췄을 수도 있지만, 이를 탐지하고 공개할 경로가 부족할 수도 있습니다.

리더는 확인된 피해뿐 아니라 아차 사고도 추적해야 합니다. 기밀 문서가 승인되지 않은 어시스턴트에 업로드된 경우, 공급업체가 이를 보관하지 않았거나 주민에게 부정적 결과가 발생하지 않았더라도 주의가 필요합니다.

Google News의 헤드라인은 곧 또 다른 AI 정책 논쟁으로 바뀔 것입니다. 그러나 운영상의 질문은 그대로여야 합니다. 기관은 업무에 영향을 미치는 시스템을 식별하고, 그 목적을 설명하며, 누가 이를 중단할 수 있는지 보여줄 수 있는가?

공공 부문 직원에게 이 질문은 민감한 정보가 프롬프트에 입력되기 전에 도구 선택의 기준이 되어야 합니다. 기술 구매자에게는 공급업체 교체가 어려워지기 전에 계약의 기준이 되어야 합니다.

주민에게 자산 목록의 품질은 책임 있는 AI 약속이 실제 통제로 전환됐는지 판단할 실질적인 방법을 제공합니다. 공개된 목록이 실제 사용 사례를 포괄하는지, 인간의 책임 소재를 식별하는지, 의미 있는 업데이트를 기록하는지 물어보십시오.

AI를 찾아내는 것만으로는 거버넌스 프로그램 전체가 완성되지 않습니다. 이는 구호가 증거와 맞닿는 지점입니다. 다음 Google News 보도가 실패한 자동화 의사결정을 조명할 때, 가장 많은 것을 말해주는 사실은 관계자들이 피해가 발생하기 전에 그 시스템의 존재를 알고 있었는지 여부일 것입니다.