계약이 결정할 50개 주 AI 소유권 분쟁

Google News는 50개 주에 걸친 첨예한 갈등을 포착했다. 정부는 계약이 시작된 뒤 어떤 일이 벌어지는지 실질적으로 통제하지 못한 채 인공지능을 배포할 수 있다.

질문은 간단해 보인다. 주 정부 기관이 AI 시스템을 사용하기 시작하면, 그 시스템은 누구의 소유가 되는가? 그러나 소유권은 여러 종류의 자산을 뜻할 수 있다. 여기에는 소프트웨어, 모델 가중치, 정부 데이터, 생성된 결과물, 감사 기록, 직원 피드백, 배포 과정에서 이루어진 개선 사항이 포함된다.

주 정부가 이런 자산을 모두 이전 가능한 하나의 패키지로 구매하는 경우는 드물다. 대개는 일부 데이터에 대한 권리를 보유하는 대신, 그 밖의 모든 것에는 제한을 받아들이며 공급업체의 서비스를 라이선스한다. 공급업체가 그 배후의 체계를 통제하더라도, 공공기관은 의사결정에 대한 책임을 계속 질 수 있다.

이 불균형이 핵심 쟁점이다. 주 정부는 더 빠른 서비스, 더 낮은 행정 부담, 더 나은 정보 접근성을 원한다. 공급업체는 지식재산권, 재사용 가능한 모델, 상업적 방법론을 보호하려 한다.

양쪽 입장 모두 정당할 수 있다. 문제는 계약이 주 정부가 검사, 테스트, 이전 또는 재구성할 수 없는 AI 시스템에 대한 책임을 지우는 순간 시작된다.

Google News 헤드라인이 가리키는 계약 문제

정부 AI의 소유권은 대개 배포 전에, 주민 대다수가 결코 보지 못하는 조달 계약 문구 안에서 결정된다.

주 정부는 서버를 구매하고 물리적 장비를 소유할 수 있다. 그러나 대부분의 현대적 AI 계약은 다르게 작동한다. 기관들은 일반적으로 클라우드 구독, 애플리케이션 프로그래밍 인터페이스, 분석 플랫폼 또는 관리형 서비스를 도입한다.

애플리케이션 프로그래밍 인터페이스, 즉 API는 한 시스템이 다른 시스템에 기능을 요청할 수 있게 한다. 기관은 데이터나 지시를 보내고, 공급업체는 기반 모델과 인프라를 운영한다.

이 구조는 운영상의 사용과 법적 소유권을 분리한다. 부서는 매일 AI 보조 도구를 사용할 수 있지만, 모델 가중치, 소스 코드, 학습 과정 또는 지원 인프라를 소유하지는 않을 수 있다.

모델 가중치는 모델의 응답을 형성하는 학습된 수치 매개변수다. 이는 흔히 공급업체가 가장 엄격하게 보호하는 자산 가운데 하나다.

기관은 주민이 제공한 정보를 여전히 소유할 수 있다. 그러나 계약은 공급업체가 그 정보를 보관할 수 있는지, 여기서 임베딩을 생성할 수 있는지, 또는 제품 개발에 사용할 수 있는지를 설명해야 한다.

임베딩은 AI 시스템이 관련 정보를 비교하고 검색하도록 돕는 수치적 표현이다. 원본 문서가 다른 곳에 저장되어 있더라도, 원천 자료의 의미 있는 패턴을 보존할 수 있다.

생성된 자료는 또 다른 층위를 만든다. AI 시스템은 사건 파일을 요약하거나, 복지 신청의 우선순위를 매기거나, 의심스러운 사기를 표시하거나, 점검을 권고할 수 있다. 계약은 기관이 이러한 결과물을 사용 가능한 형태로 내보낼 수 있는지를 규정해야 한다.

접근 권한만으로는 소유권이 되지 않는다. 기관은 대시보드에서 결과를 볼 수 있어도, 기반 기록을 가져올 법적 권리나 기술적 역량은 없을 수 있다.

이 구분은 계약이 만료될 때 결정적으로 중요해진다. 공급업체는 원본 문서를 반환할 수 있지만 프롬프트, 중간 계산, 신뢰도 점수, 모델 버전 또는 인간의 수정 내용은 제외할 수 있다.

그 기록이 없으면 다음 공급업체는 이전 시스템의 작업을 재현할 수 없다. 감사 담당자 역시 과거의 결정이 왜 내려졌는지 파악하기 어렵다.

이는 이론적인 행정 세부 사항이 아니다. Electronic Privacy Information Center는 시장 규모가 7억2,000만 달러를 넘을 가능성이 있는 621건의 AI 계약을 확인했다. 이 연구는 27개 주와 컬럼비아 특별구의 기록을 다뤘다.

EPIC이 파악한 시스템은 교육, 의료, 치안, 공공 복지에 영향을 미쳤다. 이런 환경에서는 불완전한 소유권 조항이 개인의 필수 서비스 접근에 영향을 줄 수 있다.

따라서 계약에는 상세한 자산 지도가 필요하다. 기관의 입력값, 공급업체 자료, 공동으로 생성된 구성, 시스템 출력물, 로그, 평가 및 배포 후 개선 사항을 구분해야 한다.

이 지도는 각 자산을 누가, 어떤 목적으로, 얼마나 오랫동안 사용할 수 있는지도 명시해야 한다. “주 정부가 자사 데이터를 소유한다”는 포괄적 선언만으로는 이런 질문에 답할 수 없다.

주 정부는 백업, 파생 산출물, 하도급업체까지 포괄하는 삭제 조항도 필요하다. 그렇지 않으면 공급업체는 눈에 보이는 데이터베이스만 삭제하고 관련 자료는 서비스 체인 전반에 남겨둘 수 있다.

Google News를 통해 확산된 헤드라인은 전국적 문제를 포착하지만, 결정적 문구는 여전히 지역 단위에 남는다. 모든 조달 부서는 소유권을 다르게 정의할 수 있다.

배포는 주 정부에 완전한 통제 없이 책임을 부여한다

공공기관은 모든 기술 구성 요소가 계약업체에 속하더라도 주민에 대한 책임을 외주화할 수 없다.

정부의 책임성은 공적 기능을 따라간다. AI 시스템이 복지, 고용, 인허가, 교육, 의료 또는 치안에 영향을 미친다면, 주민은 이를 사용하는 기관에 이의를 제기할 것이다.

공급업체가 모델을 설계했을 수 있다. 시스템 통합업체가 이를 기관 데이터베이스에 연결했을 수도 있다. 클라우드 기업이 기록을 저장할 수도 있다. 그러나 결과적으로 나온 결정을 내리고, 전달하거나, 집행하는 것은 여전히 주 정부다.

이러한 분업은 책임성 공백을 만든다. 기관은 법적·정치적 결과를 떠안는 반면, 핵심 증거는 공급업체가 통제하는 시스템 안에 남을 수 있다.

AI를 이용해 검토 대상 신청서의 우선순위를 정하는 복지 기관을 생각해 보자. 지원을 거부당한 주민은 어떤 데이터가 결정에 영향을 미쳤는지, 오류를 어떻게 바로잡을 수 있는지 물을 수 있다.

기관에 필요한 것은 최종 점수만이 아니다. 관련 입력 필드, 적용된 모델 버전, 처리 이력, 의사결정 규칙, 인간 검토 기록이 필요하다.

계약이 현재 대시보드에 대한 접근만 약속한다면, 기관은 이의 제기에 필요한 증거를 확보하지 못할 수 있다. 소프트웨어 업데이트는 조사관이 이전 결정을 검토하기 전에 시스템을 바꿔버릴 수도 있다.

모델 버전 관리는 어떤 시스템 구성이 특정 결과를 만들었는지 기록한다. 이는 전통적인 의사결정에서 정확히 어떤 규정과 사건 파일이 사용됐는지 보존하는 것과 비슷한 역할을 한다.

주 정부의 공공기록법은 또 다른 복잡성을 더한다. 정부 문서는 흔히 공개, 보존, 기록 유지 의무의 대상이 된다. 영업비밀을 내세운 공급업체의 주장은 기술 자료에 대한 접근을 제한할 수 있다.

영업비밀 보호에는 실제 상업적 목적이 있다. 주 정부가 구독 서비스를 구매했다는 이유만으로 모든 독점 모델을 제한 없이 공개할 권리를 얻어서는 안 된다.

그러나 기밀성은 책임성을 대신하는 포괄적 방패가 될 수 없다. 계약은 독점 코드를 누구에게나 공개하지 않으면서도 감사인, 규제기관, 법원, 권한을 부여받은 연구자에게 통제된 접근 권한을 제공할 수 있다.

균형을 이루려면 사전 계획이 필요하다. 기관은 조사 중과 계약 종료 후에도 어떤 자료를 계속 이용할 수 있어야 하는지 정의해야 한다. 또한 해당 자료를 얼마나 오랫동안 보존해야 하는지도 정해야 한다.

Colorado의 AI 소비자법은 고위험 시스템을 사용하는 조직, 즉 배포자에 대한 관심이 커지고 있음을 보여준다. 이 법의 체계는 영향 평가, 위험 관리, 소비자 통지, 특정 중대한 결정에 대한 이의 제기 기회를 요구한다.

이런 의무는 문서화의 중요성을 높인다. 개발자가 성능 데이터나 시스템 한계를 숨긴다면, 배포자는 의미 있는 평가를 수행할 수 없다.

기관이 차별적 결과를 발견할 때도 같은 문제가 발생한다. 기관은 시스템을 테스트하고, 관련 기록을 확보하고, 시정 조치를 요구할 권한이 필요하다.

공급업체의 표준 서비스 계약은 역공학, 벤치마킹 또는 테스트 결과 공개를 제한할 수 있다. 이런 제한은 정부의 감독 의무와 충돌할 수 있다.

주 정부는 배포 전에 테스트 권한을 협상해야 한다. 여기에는 독립 평가, 인구집단별 성능 분석, 보안 검토, 주민 민원으로 촉발된 조사가 포함돼야 한다.

계약은 테스트가 피해를 확인했을 때 어떤 일이 일어나는지도 명시해야 한다. 선택지에는 시정 기한, 사용 중단, 추가적인 인간 검토, 보상, 징벌적 종료 비용 없는 계약 해지가 포함된다.

인간의 감독이 모든 문제를 해결하는 것은 아니다. 직원은 의문을 제기할 충분한 맥락이 없으면 AI 권고를 의미 있게 검토할 수 없다.

점수와 “승인” 버튼만 표시하는 인터페이스는 인간 검토를 형식적인 절차로 바꿀 수 있다. 기관에는 설명, 불확실성 지표, 자동화된 권고를 거부할 권한이 필요하다.

따라서 소프트웨어를 누가 소유하든 주 정부가 공적 책임을 진다. 이 현실은 정부가 요구하는 모든 기술적·계약적 권리를 형성해야 한다.

진짜 대립은 공공 통제와 공급업체 의존이다

핵심 경쟁 구도는 한 주와 다른 주의 대결이 아니라, 공공 통제와 기관이 이전하거나 검사할 수 없는 시스템에 대한 의존의 대결이다.

공급업체는 많은 고객에게 서비스를 제공하기 위해 재사용 가능한 제품이 필요하다. 주 정부마다 별도의 모델, 인프라 스택, 운영 절차를 구축하면 비용이 오르고 배포는 느려질 것이다.

주 정부도 공동 상용 플랫폼의 혜택을 받는다. 성숙한 공급업체는 한 기관이 단독으로 유지하기 어려운 보안팀, 빈번한 업데이트, 전문 엔지니어, 검증된 통합 기능을 제공할 수 있다.

위험은 민간 참여 자체가 아니다. 기술적으로, 법적으로 또는 재정적으로 공급업체 교체가 현실적으로 불가능해질 때 발생하는 공급업체 종속이다.

AI는 사용을 거치며 시스템이 변하기 때문에 이러한 종속을 심화할 수 있다. 기관은 프롬프트, 정책 문서, 업무 흐름, 라벨, 수정 사항, 평가 결과를 추가한다.

이러한 추가 요소는 배포된 서비스의 일부가 될 수 있다. 이를 내보낼 수 없다면 주 정부는 서비스를 떠날 때 축적된 운영 지식을 잃는다.

기존 데이터베이스 이전은 보통 테이블, 파일, 스키마에 초점을 맞춘다. AI 이전에는 임베딩, 검색 설정, 안전 규칙, 프롬프트 템플릿, 평가 세트, 모델별 통합 기능도 필요할 수 있다.

검색 시스템은 모델이 답변을 생성하기 전에 승인된 정보를 검색한다. 그 유용성은 문서 처리, 접근 통제, 순위 설정, 시간이 지나며 수집된 피드백에 좌우된다.

소유권 문구는 이런 구성 요소를 각각 따로 다뤄야 한다. 그렇지 않으면 공급업체는 원본 문서를 반환하면서도 그 문서를 유용하게 만든 구성을 보유할 수 있다.

이 과제는 책을 소유하는 것과 작동하는 목록 체계를 소유하는 것의 차이와 비슷하다. 콘텐츠는 기술적으로 계속 이용 가능하지만, 이를 조직하는 시스템이 사라지면 실질적인 접근은 무너진다.

대규모 문서 컬렉션을 이미 관리하는 팀은 이 차이를 이해한다. 검색 가능한 지식 베이스는 단순한 파일 보유가 아니라 구조, 권한, 검색 품질에 달려 있다.

연방정부도 같은 조달 문제를 다루기 시작했다. 2026년 4월의 GAO 검토는 여러 주요 기관의 AI 도입을 살펴봤다.

선정된 5개 기관의 관계자 모두 데이터 소유권과 지식재산권을 과제로 지목했다. GAO는 이식성, 명확한 라이선스, 가격 투명성, 공급업체 종속 방지 장치의 필요성을 강조했다.

이식성은 단순히 스프레드시트를 다운로드하는 것 이상을 의미한다. 재사용에 필요한 관계와 메타데이터를 포함해, 문서화된 형식으로 상태 데이터를 보존해야 한다.

모델 이식성은 더 어렵다. 독점 모델은 다른 클라우드나 공급업체로 이전되지 않을 수 있다. 이 경우 계약은 해당 모델을 둘러싼, 주 정부가 생성한 계층을 보존해야 한다.

이러한 계층에는 프롬프트, 평가 사례, 비즈니스 규칙, 시스템 지침, 워크플로 정의, 성능 이력이 포함될 수 있다. 이를 유지하면 핵심 모델을 교체하는 비용을 줄일 수 있다.

주 정부는 모든 개선 사항을 공급업체의 자산으로 취급하는 것도 피해야 한다. 한 기관 직원이 수개월에 걸쳐 출력 결과를 수정하고 전문화된 지침을 개발할 수 있다.

공정한 계약은 공급업체의 일반 제품에 대한 개선과 기관을 위해 만들어진 구성 설정을 구분할 수 있다. 공동 개발한 작업물은 양측에 라이선스를 부여할 수도 있다.

데이터 활용에도 이와 비슷한 정밀성이 필요하다. 서비스를 운영하기 위해 사용된 정부 정보가 자동으로 공급업체의 일반 모델을 위한 학습 자료가 되어서는 안 된다.

학습 금지 조항은 실질적인 효력을 갖도록 학습을 충분히 폭넓게 정의해야 한다. 여기에는 미세 조정, 평가, 제품 분석, 합성 데이터 생성, 사람에 의한 검토가 포함되어야 한다.

미세 조정은 추가 사례를 활용해 모델을 적응시키는 방식이다. 공급업체가 파운데이션 모델을 재학습하지 않더라도, 기관과의 상호작용에서 상업적 가치를 얻을 수 있다.

계약은 모호한 제한에만 의존하지 말고 승인된 목적을 명시해야 한다. 데이터가 보안, 서비스 개선, 악용 탐지 또는 신제품 개발을 지원할 수 있는지 구체적으로 규정해야 한다.

하도급업체에도 동일한 경계가 필요하다. 주 정부의 주계약자는 클라우드 호스트, 모델 개발사, 모니터링 기업, 사람 검토 서비스에 의존할 수 있다.

각 참여자는 또 다른 사본, 로그 또는 파생 산출물을 만들 수 있다. 소유권 보호가 표지에 이름이 적힌 공급업체에만 적용된다면 그 보호는 약화된다.

주 정부는 표준 조항과 공동 구매를 통해 대응할 수 있다. 공통 문구는 협상 비용을 줄이고 기관들이 같은 문제를 각각 해결하는 일을 막는다.

다만 표준화는 최소 기준을 정해야지, 사용 사례 간 차이를 지워서는 안 된다. 대민 커뮤니케이션을 위한 글쓰기 보조 도구는 Medicaid 수급 자격에 영향을 미치는 시스템과 다른 위험을 초래한다.

소유권 문제는 결과의 중대성을 따라가야 한다. 고위험 배포에는 더 강력한 감사 접근권, 더 긴 보존 기간, 더 명확한 이의제기 기록, 더 신속한 중단 권한이 필요하다.

50개 주는 서로 다른 속도로 규칙을 마련하고 있다

주별로 얽힌 현황은 완성된 50개의 소유권 체계라기보다, 서로 다른 제도·예산·법률·위험 수용도를 반영한다.

“50개 주, 50가지 방식”이라는 표현은 모든 주가 이미 접근 방식을 확정한 것처럼 보이게 할 수 있다. 그러나 이용 가능한 증거는 그보다 덜 정돈된 모습을 보여준다.

일부 주는 중앙집중식 AI 정책이나 지정된 감독 책임자를 두고 있다. 다른 주는 기존의 개인정보보호, 사이버보안, 조달, 공공기록 규정에 의존한다.

많은 주는 아직 계약 문구를 개발 중이다. National Conference of State Legislatures는 2024년 설문조사에서 응답자의 9%만이 선호하는 AI 조달 조건을 갖추고 있었다고 보고했다.

또 다른 62%는 그러한 문구를 개발 중이었고, 29%는 아직 시작하지 않았다. 이 수치는 성숙한 국가 시스템이 아니라 전환기를 보여준다.

NCSL의 정부 AI 개요 역시 인벤토리, 평가, 직원 지침, 조달 기준에 대한 관심이 커지고 있음을 기록했다.

인벤토리는 기본적인 질문에 답한다. AI는 어디에서 사용되고 있는가? 정부는 파악하지 못한 시스템을 통제할 수 없다.

강력한 중앙 정책이 있더라도 개별 기관이 구매한 도구를 놓칠 수 있다. AI 기능은 새로운 조달 절차 없이 일반적인 소프트웨어 업데이트를 통해 추가될 수도 있다.

고객 서비스 플랫폼은 자동 요약 기능을 추가할 수 있다. 인사 시스템은 지원자 순위 기능을 도입할 수 있다. 사건 관리 제품은 예측 기반 추천 기능을 추가할 수 있다.

주 정부가 “인공지능”이라는 이름의 입찰 공고를 낼 일은 없을 수도 있다. 따라서 AI가 업그레이드, 하도급업체 또는 내장 기능을 통해 유입될 때에도 소유권 및 감독 조건이 적용되어야 한다.

계약은 공급업체가 중요한 AI 기능을 활성화하기 전에 통지하도록 요구해야 한다. 이후 기관에는 이를 평가하거나 거부하거나 추가 보호장치를 협상할 권리가 필요하다.

중요 기능이란 데이터 활용, 의사결정 영향력, 위험 또는 운영 비용을 바꾸는 기능이다. 경미한 인터페이스 개선에는 같은 수준의 검토가 필요하지 않다.

주 정부의 조직 구조 역시 누가 이러한 조건을 부과할 수 있는지에 영향을 미친다. 중앙집중식 기술 부서는 기관 전반에 걸쳐 공동 요구사항을 설정할 수 있다. 분권화된 주는 개별 부서와 조달 담당자에게 의존할 수 있다.

예산 역량도 중요하다. 규모가 큰 주는 전문 변호사, 보안 전문가, 데이터 과학자를 채용할 수 있다. 규모가 작은 관할구역은 공급업체 문서에 더 크게 의존할 수 있다.

이러한 격차는 공유 가능한 공공 자원의 필요성을 강화한다. 모델 조항, 평가 템플릿, 사고 정의는 모든 주에 동일한 정책을 강요하지 않으면서 도움을 줄 수 있다.

National Association of State Procurement Officials는 성공적인 구매를 위해 조달, 기술, 법무, 개인정보보호, 프로그램 팀 간 협업이 필요하다고 말한다. 해당 기관의 조달 지침도 계약 체결 후 모니터링을 강조한다.

어느 한 부서도 전체 위험을 볼 수 없기 때문에 이 같은 범기능적 접근은 필수적이다. 조달 부서는 계약상 영향력을 이해하는 반면, 프로그램 담당자는 지원되는 의사결정을 이해한다.

기술팀은 아키텍처와 이식성을 평가한다. 개인정보보호 담당자는 데이터 활용을 검토한다. 시민권 전문가들은 시스템이 불평등한 결과를 낼 수 있는지 평가한다.

주 정부 변호사는 기록법과 적법절차 요건을 해석한다. 보안팀은 로그, 통합, 모델 접근이 새로운 공격 경로를 만드는지 판단한다.

모든 질문이 늦게 제기되면 절차는 느려진다. 기관이 공급업체의 제안서 제출 전에 소유권 요건을 정하면 더 빨라진다.

명확한 요구사항은 공급업체에도 도움이 될 수 있다. 기업은 요구된 권리를 정확히 가격에 반영하고, 불확실한 협상에 수개월을 쓰는 일을 피할 수 있다.

따라서 현재의 주별 불균일성은 위험인 동시에 시험장이다. 주 정부들은 시범사업, 분쟁, 감사, 계약 갱신을 통해 어떤 조항이 효과적인지 알아가고 있다.

그러나 주민이 그 결과를 감당해야 할 때 실험에는 한계가 있다. 실패한 챗봇은 불편하다. 불투명한 수급 자격 시스템은 식량, 의료 지원 또는 주거 지원을 거부할 수 있다.

주 정부에는 중대한 사용 사례를 위한 공통의 최소 기준이 필요하다. 그 기준에는 추적 가능한 출력, 감사 접근권, 데이터 이식성, 사고 보고, 집행 가능한 종료 권리가 포함되어야 한다.

그 기준 위에서 주 정부는 지역 법률과 제도에 맞게 거버넌스를 조정할 수 있다. 모든 배포에서 증거 없는 책임 공백이 생기지 않도록 보장하는 것이 획일성보다 중요하다.

소유권 문구가 여전히 보장할 수 없는 것

강력한 계약은 영향력을 만들지만, AI 시스템을 정확하고 공정하며 안전하고 이해 가능하게 만들지는 않는다.

주 정부는 생성된 모든 기록을 소유하고도 부실한 시스템을 배포할 수 있다. 이를 평가할 직원을 확보하지 못한 채 소스 코드를 얻을 수도 있다.

기술 역량은 여전히 주요 제약이다. GAO는 연방 조달팀이 데이터 과학자와 사이버보안 전문가를 확보하는 데 어려움을 겪었다고 밝혔다. 주 및 지방 기관은 이보다 더 엄격한 인력 제약에 자주 직면한다.

공급업체 문서는 도움이 될 수 있지만 독립적인 증거는 아니다. 성능 주장은 기관의 대상 인구, 데이터 품질, 업무 흐름, 운영 조건을 활용해 검증해야 한다.

실험실에서 우수한 성능을 보인 모델도 배포 후 실패할 수 있다. 정책은 바뀌고, 주민의 행동은 변화하며, 원천 데이터는 악화되고, 공급업체는 기반 모델을 업데이트한다.

이 과정은 흔히 모델 드리프트라고 불린다. 이는 데이터와 현실 세계 결과 사이의 관계가 변화하면서 성능이 저하되거나 달라지는 현상을 설명한다.

생성형 시스템은 또 다른 형태의 변화를 더한다. 공급업체는 동일한 제품명과 인터페이스를 유지하면서도 파운데이션 모델을 교체할 수 있다.

새 모델은 동일한 프롬프트에 다르게 응답할 수 있다. 버전 기록과 변경 통지가 없다면 기관은 달라진 행동을 업데이트와 연결할 수 없다.

계약은 중요한 변경 사항에 대한 사전 통지를 요구해야 한다. 또한 고위험 운영 환경에서 사용하기 전에 기관이 업데이트를 시험할 시간을 제공해야 한다.

그럼에도 시험에는 한계가 있다. 드문 실패는 벤치마크를 벗어날 수 있고, 사회적 피해는 종합 정확도 점수에 나타나지 않을 수 있다.

전체 정확도는 인구통계 집단 간의 큰 차이를 가릴 수 있다. 또한 오류가 이미 장벽에 직면한 사람들에게 주로 발생하는지도 흐릴 수 있다.

소유권은 이러한 측정 선택을 해결하지 않는다. 기관은 어떤 결과가 중요한지, 어떤 오류율이 허용 가능한지를 결정해야 한다.

공공 투명성은 또 다른 상충관계를 만든다. 주민은 자신에게 영향을 미치는 시스템에 관한 의미 있는 정보를 받을 자격이 있다. 공급업체는 독점적 방법과 보안상 민감한 세부사항을 보호할 합리적 필요가 있다.

소스 코드를 공개하는 것이 항상 필요하거나 충분한 것은 아니다. 더 유용한 공개는 시스템의 목적, 데이터 범주, 의사결정 역할, 알려진 한계, 공급업체, 이의제기 절차를 식별하는 방식일 수 있다.

기관은 영향을 받는 사람들이 시스템의 역할을 이해할 수 있을 만큼의 정보를 공개해야 한다. 독립 검토자에게도 더 심층적인 기술 증거에 대한 통제된 접근이 필요하다.

계약서가 공개적으로 보이지 않는다고 해서 남용이 입증되는 것은 아니다. 마찬가지로 계약이 존재한다고 해서 책임 있는 배포가 증명되는 것도 아니다.

EPIC의 연구는 충분한 공공 의견 수렴 없이 의사결정이 민간 시스템으로 옮겨가는 것에 대한 우려를 제기했다. 이 비판을 모든 계약형 AI 시스템이 불법적이거나 해롭다는 주장으로 일반화해서는 안 된다.

많은 도구는 저위험 행정 업무를 수행한다. 내부 문서를 요약하고, 서비스 요청을 배정하며, 중복 기록을 탐지하거나, 직원이 정책을 찾도록 도울 수 있다.

AI가 사실관계를 판단하고, 사람의 순위를 매기며, 집행을 권고하거나, 공공 서비스 접근에 영향을 미칠 때 위험은 달라진다. 소유권 보호장치는 그러한 영향력에 비례해 강화되어야 한다.

주요 키워드 자체도 주의를 요구한다. Google News에서 본 헤드라인은 발견의 출발점일 뿐, 완전한 증거 기록은 아니다.

뉴스 집계는 복잡한 사안을 하나의 도발적인 질문으로 압축할 수 있다. 독자는 원 보도를 따라가고, 공식 계약서, 법률, 감사 보고서, 기관 정책을 검토해야 한다.

검색 노출도 전국적 합의를 입증하지 않는다. 이용 가능한 증거는 문자 그대로 확정된 50개의 소유권 모델이 아니라 분절된 조달 환경을 뒷받침한다.

가장 방어 가능한 결론은 더 제한적이다. 주 정부들은 서로 다른 법적·행정적 체계 아래 AI를 배포하고 있으며, 많은 소유권 규칙은 여전히 확정되지 않았다.

계약은 그 격차의 일부를 줄일 수 있다. 하지만 유능한 직원, 지속적인 감독, 공공 통지, 유해한 결정을 시정하는 절차를 대체할 수는 없다.

누가 실제로 주 정부 AI를 통제하는지 보여줄 세 가지 신호

통제력은 세련된 제품 시연이 아니라 모델 변경, 공공의 이의 제기, 계약 종료 과정에서 드러난다.

첫 번째 신호는 표준 AI 계약 조항의 확산이다. 주 정부는 정부 데이터, 생성된 출력물, 감사 로그, 학습 제한, 이식성, 삭제를 다루는 문구를 공개하거나 공유해야 한다.

표준 조항은 소유권이 광범위한 정책에서 집행 가능한 조달 요건으로 옮겨갔음을 보여줄 것이다. 이런 조항이 없다면 기관들은 핵심 권리를 계약마다 하나씩 협상해야 한다.

두 번째 신호는 주 정부가 벤더 및 모델 변경을 어떻게 처리하는지다. 기관에는 내장된 AI 기능, 배포된 버전, 업데이트, 책임 공무원을 식별하는 목록이 필요하다.

벤더가 중대한 변경 사항을 사전에 통지하도록 하는 요건을 살펴봐야 한다. 또한 그러한 변경이 주민에게 적용되기 전에 기관이 업데이트를 테스트할 수 있는지도 확인해야 한다.

주 정부가 이러한 전환 과정을 문서화한다면, 공공기관이 계속 통제권을 유지한다는 주장은 더 강해진다. 조용히 이루어지는 변경은 그 주장을 약화시킬 것이다.

세 번째 신호는 갱신 또는 계약 종료 시 발생하는 일이다. 실질적인 종료 가능성 검증은 기관이 기록을 회수하고 핵심 업무 흐름을 다른 곳으로 이전할 수 있는지를 판단해야 한다.

이 검증에는 프롬프트, 구성, 평가, 로그, 문서가 포함돼야 한다. 원본 문서만 내보내는 것으로는 운영 시스템을 재현할 수 없다.

주 정부는 이전 후 삭제 여부도 검증해야 한다. 이 과정은 활성 데이터베이스, 백업, 파생 산출물, 관련 하도급업체까지 포괄해야 한다.

이러한 신호는 주 정부가 “데이터를 소유한다”는 선언보다 더 중요하다. 소유권은 기관이 필요한 것을 점검하고, 관리하고, 이전하고, 보존할 수 있을 때에만 의미를 갖는다.

주민은 공개 AI 목록, 영향 평가, 계약 요약, 이의 제기 절차를 주시해야 한다. 언론인은 이러한 문서를 구매 기록 및 시스템 작동 방식과 비교할 수 있다.

정부 구매 담당자는 계약 체결 전에 벤더에게 이식성을 입증하도록 요구해야 한다. 샘플 내보내기는 누락된 필드와 독점적 의존성이 비용 문제로 커지기 전에 드러낼 수 있다.

기술 팀은 기관이 통제하는 평가 세트를 유지해야 한다. 이는 버전과 제공업체 전반의 성능을 테스트하는 데 쓰이는 대표 사례 모음이다.

프로그램 책임자는 개별 결과를 설명하는 데 필요한 기록을 정의해야 한다. 그러면 법무 팀은 해당 기록을 보존, 공개, 이의 제기 요건과 연결할 수 있다.

벤더에게도 기회가 있다. 신뢰할 수 있는 감사 접근성과 실용적인 종료 방안을 제공하는 기업은 의존성을 기반으로 구축된 제공업체와 차별화할 수 있다.

Google News는 주 정부의 AI 정책, 출시, 분쟁에 관한 기사를 계속 노출할 것이다. 결정적인 증거는 계약서와 운영 기록 안에 계속 남아 있을 것이다.

모든 기관이 다음으로 던져야 할 질문은 실무적이다. 과거의 결과물을 설명하고, 새 모델을 테스트하며, 제도적 기억을 잃지 않고 제공업체를 떠날 수 있는가?

답이 아니오라면, 주 정부는 중요한 방식에서 해당 배포를 통제하지 못하고 있는 것이다. 그저 이를 사용할 허가만 받았을 뿐이다.

공무원, 벤더, 주민은 중대한 영향을 미치는 시스템이 확장되기 전에 더 명확한 답을 요구해야 한다. 다음 Google News 헤드라인 뒤에 있는 계약을 따라가고, 누가 시스템을 감사하고, 이전하고, 중단할 수 있는지 물어야 한다.