미국 상원 AI 위험 법안, 모델 개발사에 경고

미국 상원 협상단은 주요 AI 개발사에 고도화된 모델을 출시하기 전에 알려진 재앙적 위험을 줄이도록 요구하는 전례 없는 의무를 검토하고 있다. 새롭게 논의되는 미국 상원 AI 위험 법안은 당국이 모델의 출시가 지나치게 위험하다고 판단할 경우 연방정부가 개입하는 방안도 담고 있다.

이 제안은 아직 협상 중이며, 법안 전문이나 최종 집행 체계는 공개되지 않았다. 그럼에도 알려진 구조는 중요한 전환을 시사한다. 워싱턴은 자발적 테스트를 넘어 생물학·핵 및 기타 극단적 위협과 관련한 예측 가능한 위험에 대해 개발사에 법적 책임을 부과하려는 움직임을 보이고 있다.

이 변화는 OpenAI, Anthropic, Google을 어려운 선택의 중심에 놓는다. 개발사들은 주마다 달라지는 규제 체계를 대체할 전국 단위의 규칙을 원한다. 그러나 연방 규칙의 통일성은 주의 의무와 모델 출시를 둘러싼 정부 권한을 포함할 경우 훨씬 더 중대한 의미를 갖게 된다.

제안은 AI 개발사에 책임을 부과한다

핵심 변화는 또 다른 자발적 안전 서약이 아니라, 알려진 재앙적 위험에 대응하도록 하는 법적 의무의 도입이다.

초기 보도된 협상에 따르면, 상원 보좌관 두 명은 고도 AI 개발사를 대상으로 한 ‘주의 의무’ 도입안을 설명했다. 주의 의무란 예측 가능한 피해를 방지하기 위해 합리적인 조치를 취해야 하는 법적 의무를 뜻한다.

이 표현이 중요한 이유는 규제의 기본 질문을 바꾸기 때문이다. 당국은 더 이상 기업이 공개한 안전 프레임워크를 따랐는지만 묻지 않게 된다. 대신 알려진 중대한 위험에 충분히 주의를 기울여 제품을 설계·테스트·출시했는지를 물을 수 있다.

이 제안은 보도에 따르면 가장 고도화된 능력을 갖춘 모델에 초점을 맞춘다. 모든 추천 엔진, 업무 보조 도구, 소규모 오픈소스 프로젝트에 같은 의무를 자동으로 적용하지는 않는다.

정확한 기준선은 여전히 정해지지 않았다. 협상단은 어떤 능력, 학습 방식, 배포 조건 또는 위험 지표가 모델을 법 적용 대상에 포함하는지 정의해야 한다.

그 경계는 법안이 좁은 범위에 머물지를 결정할 것이다. 능력 기반 기준은 위험한 활동을 지원할 수 있는 시스템을 겨냥할 수 있다. 반면 느슨한 정의는 재앙적 위협을 일으킬 개연성이 없는 많은 제품까지 포괄할 수 있다.

보도된 사례에는 생물학 무기나 핵무기 설계를 지원하는 AI가 포함된다. 이는 기만적 광고, 편향된 심사, 부정확한 챗봇 답변 등 익숙한 소비자 피해와는 다르다.

이들 위험은 발생 빈도는 낮지만 결과는 매우 클 수 있다. 또한 생물안보, 핵안보, 사이버보안, 고급 모델 평가 등 일반적인 제품 규제기관이 갖추지 못했을 수 있는 전문성이 필요하다.

새롭게 논의되는 미국 상원 AI 위험 법안은 적용 대상 시스템을 검증하고 테스트하는 과정에 정부 전문가를 참여시키는 방안을 담고 있는 것으로 전해진다. Amy Klobuchar 상원의원은 AI 모델이 초래할 수 있는 가장 큰 위험에 대한 초당적 감독을 추진하고 있다고 밝혔다.

Klobuchar는 개발사가 검증과 테스트 과정에서 정부 전문가와 협력하도록 하는 요건도 언급했다. 그의 발언은 입법자들이 제품이 사용자에게 도달한 뒤 제출되는 서류 이상의 조치를 검토하고 있음을 시사한다.

Ted Cruz 상원의원은 생물학 및 핵 위협에 관해 Klobuchar, 상원 다수당 대표 John Thune과 함께 작업하고 있다고 별도로 밝혔다. 상원 상무위원회의 민주당 간사인 Maria Cantwell 상원의원도 더 폭넓은 논의에 참여해 왔다.

상원 상무위원회는 상무부를 관할한다. 상무부에는 연방 AI 안전 연구진이 소속돼 있어, 의회가 이 같은 체계를 마련할 경우 기술 평가의 유력한 중심지가 될 수 있다.

다만 이 제안은 완성된 법안이 아니다. 협상단은 정부의 정확한 권한, 적용 대상 모델 기준, 가능한 구제책, 법원이 적용할 기준을 공개적으로 확정하지 않았다.

이런 세부 사항의 부재는 준수 비용이나 출시 지연에 대한 단정적 결론을 막는다. 동시에 입법 문구가 하나의 집행 모델로 굳어지기 전인 지금 이 사안이 중요한 이유이기도 하다.

미국 상원 AI 위험 법안이 출시 논쟁을 바꾸는 이유

이 제안은 프런티어 모델의 출시는 단지 민간의 제품 결정이 아니라 외부 검토가 필요할 수 있는 안전 결정이라는 관점에서 접근한다.

협상단은 안전하지 않다고 판단된 특정 모델의 출시를 연방정부가 막을 수 있는 권한을 검토하고 있는 것으로 전해진다. 개발사는 이 결정에 연방법원에서 이의를 제기할 수 있어, 기술적 위험을 둘러싼 분쟁에서 판사가 역할을 맡게 된다.

이 구조는 상반된 두 우려에 답하려 한다. 안전 옹호자들은 유난히 위험한 출시를 멈출 수 있는 신뢰할 만한 수단을 원한다. 개발사들은 기관이 자의적이거나 근거가 부족한 결정을 내리는 상황으로부터 보호받아야 한다.

사법 심사는 가능한 견제 장치를 제공하지만, 모든 문제를 해결하지는 못한다. 법원은 여전히 고도로 기술적인 주장을 판단할 법정 기준, 증거 기록, 전문 지식에 대한 접근권을 필요로 한다.

모델 개발사는 자사의 안전장치가 위험한 능력을 수용 가능한 수준 이하로 낮춘다고 주장할 수 있다. 정부는 그러한 통제가 단호한 사용자, 유출된 가중치 또는 변경된 배포 환경에 대해서는 실패한다고 맞설 수 있다.

그때 판사는 평가, 위협 모델, 접근 제한, 사이버보안, 불확실한 예측과 관련된 증거를 다루게 된다. 일부 정보에는 영업비밀이나 국가안보 문제가 포함될 수 있다.

따라서 입증 책임은 정부의 핵심 권한만큼 중요해질 것이다. 의회는 출시 분쟁에서 안전성, 위험성 또는 절차상 오류를 누가 입증해야 하는지 결정해야 한다.

시점 역시 과제다. 제한 없는 모델 가중치가 온라인에 퍼진 뒤 시작되는 법원 절차는 실질적인 통제력을 되돌릴 수 없다. 반대로 너무 이른 절차는 아직 성숙하지 않은 평가를 근거로 유용한 시스템의 출시를 지연시킬 수 있다.

이는 미국 상원 AI 위험 법안의 핵심 설계 문제를 만든다. 개입은 되돌릴 수 없는 출시 전에 이뤄져야 하며, 동시에 정부 조치를 정당화할 만큼 증거가 충분히 강해야 한다.

이 제안은 모델 업데이트에 관한 질문도 제기한다. 개발사들은 이제 서비스를 지속적으로 개선하며, 때로는 완전히 별개의 제품을 출시하지 않고도 도구, 안전장치, 접근 수준 또는 기반 모델 버전을 바꾼다.

입법은 일상적 조정과 재검토가 필요한 변화를 구분해야 한다. 그렇지 않으면 규제기관은 의미 있는 능력 향상을 놓치거나 경미한 제품 개정까지 반복적으로 조사할 수 있다.

OpenAI, Anthropic, Google은 이미 다양한 형태의 내부 테스트를 수행하고 있다. 하지만 각사의 프레임워크는 용어, 기준선, 공개 관행, 평가 실패에 따르는 결과에서 차이를 보인다.

연방 차원의 의무는 일부 관행을 공통의 최소 기준으로 바꿀 수 있다. 또한 심각하지만 불확실한 위험을 확인한 뒤에도 모델을 출시한 이유를 개발사가 문서화하도록 강제할 수 있다.

이 기록은 기업 고객에게 중요할 수 있다. 구매자는 모델 카드, 보안 문서, 계약상 보증을 받는 경우가 많지만, 가장 민감한 출시 전 평가에 대해서는 제한적인 가시성만 갖는다.

정부 테스트가 모델의 안전을 보장하지는 않는다. 그러나 기업이 중대한 위험을 알고 있을 때 또 하나의 검토 경로를 제공하고 더 명확한 책임성을 만들 수 있다.

Cantwell은 연방기관과 국립연구소가 프런티어 시스템의 테스트를 주도해야 한다고 주장해 왔다. 그의 테스트 입장은 사이버보안, 생물방어, 핵안보 분야의 전문성을 강조한다.

이 접근법은 모든 질문을 하나의 범용 규제기관에 맡기는 방식과 다르다. 전문 연구소는 구체적인 위협 경로를 테스트하고, 조정 기관은 절차와 집행을 담당할 수 있다.

어려운 부분은 연구 결과를 방어 가능한 출시 결정으로 전환하는 일이다. 평가는 통제된 조건에서 능력을 식별할 수 있지만, 실제 악용은 접근성, 사용자 역량, 안전장치, 배포 맥락에 따라 달라진다.

감시되는 접근 통제 아래 있는 유능한 모델은 다운로드 가능한 가중치와 다른 위협을 제시한다. 법은 감독을 쉽게 우회할 경로를 만들지 않으면서 그 차이를 다뤄야 한다.

연방 규칙과 주법 우선 적용이 핵심 거래를 이룬다

이 제안의 정치적 거래는 전국적 안전 의무와 주 집행 제한을 결합해, 통일성과 지역 규제 자율성을 맞세운다.

보도된 조치는 연방 프레임워크가 다루는 위험에 관한 일부 법률을 주 정부가 집행하지 못하도록 할 수 있다. 이 조항은 전국적 감독에 대한 업계의 지지를 끌어내는 데 도움이 될 수 있다.

개발사들은 주마다 서로 다른 법 체계로 프런티어 모델, 자동화된 결정, 딥페이크, 개인정보 보호, 챗봇 안전을 규제하면서 복잡성이 커지는 상황에 직면해 있다. 전국 규칙은 상충하는 정의와 보고 의무를 줄일 수 있다.

그러나 연방법 우선 적용은 주와 소비자에게 중요한 문제를 제기한다. 더 강력한 보호 조치를 대체하는 연방법은 새로운 전국 요건을 만든다 해도 감독을 약화시킬 수 있다.

상원은 이미 광범위한 AI 우선 적용에 대한 강한 반발을 경험했다. 2025년 상원의원들은 예산 법안에 포함된 주 AI 규제를 10년간 제한하는 제안 조항을 삭제하는 데 99대 1로 표결했다.

그 유예 조치 표결은 입법자들이 연방 AI 정책을 지지하면서도 주 정부의 조치를 광범위하게 동결하는 방안은 거부할 수 있음을 보여줬다. 현재 협상은 특정 프런티어 모델 위험을 다루기 때문에 더 좁은 범위로 보인다.

좁은 조항이라도 신중한 입안이 필요하다. 의회는 주 정부가 재앙적 위험 의무에 대해서만 권한을 잃는지, 아니면 적용 대상 모델과 접점이 있는 모든 법률에 대해 권한을 잃는지 정의해야 한다.

그 차이는 상당하다. 프런티어 모델 평가에 관한 주 규칙은 제안된 연방 체계와 밀접하다. 반면 개인정보 보호, 고용, 소비자 보호 또는 시민권 법률은 다른 범주의 피해를 다룬다.

우선 적용은 집행 시점에도 영향을 줄 수 있다. 특히 주민들이 즉각적 피해를 신고하거나 신기술이 법적 공백을 드러낼 때, 주 정부는 의회가 전국 입법을 논의하는 동안 행동에 나서는 경우가 많다.

통일성을 지지하는 측은 재앙적 위험 감독에는 단일한 전국 체계가 필요하다고 주장할 수 있다. 생물학 및 핵 위협은 주 경계를 넘고, 국립연구소는 주 정부가 쉽게 재현할 수 없는 전문성을 제공한다.

비판자들은 연방 기준이 때때로 정체된다고 반박할 수 있다. 주 단위의 실험은 약점을 드러내고, 집행 방식을 시험하며, 국가 당국이 낡은 규칙을 갱신하도록 압박할 수 있다.

California는 가장 최근의 분명한 사례를 제공한다. Gavin Newsom 주지사는 2024년 SB 1047이 배포 맥락을 고려하지 않은 채 기본적인 사용 사례까지 규제할 수 있다고 경고한 뒤 거부권을 행사했다.

그의 거부권 메시지는 계산 규모에 크게 연동된 프레임워크를 비판했다. 동시에 심각한 AI 위협에 대한 효과적인 보호의 필요성도 인정했다.

California는 이후 안전 프로토콜 공개와 선도 시스템의 기준선을 포함한 개정 프런티어 AI 법을 제정했다. 이 사례는 기술적·정치적 비판 이후 주 차원의 제안이 어떻게 발전할 수 있는지를 보여준다.

연방 차원의 타협안은 그러한 교훈을 차용할 수 있다. 접근 통제, 배포 환경, 문서화된 위협 경로를 고려하면서도 소수의 고성능 모델을 대상으로 삼을 수 있다.

Cruz의 더 폭넓은 정책 프레임워크는 규제 완화와 테스트 유연성을 선호해 왔다. 그의 AI 정책 프레임워크는 규제 샌드박스와 건강, 안전, 사기 위험에 대한 보호장치를 제안했다.

Klobuchar의 발언은 정부 전문가와의 의무적 협력을 강조한다. 이러한 입장을 결합하려면 극단적 위험에는 엄격한 의무를 부과하는 한편, 일반적인 AI 개발에는 여지를 남겨야 할 가능성이 크다.

따라서 핵심 쟁점은 단순히 정부 대 산업의 대결이 아니다. 이는 연방의 책임과 중복되는 주 규제의 철폐 사이의 절충이다.

개발자는 실질적인 국가 차원의 의무를 수용할 때에만 예측 가능성을 얻는다. 주 정부는 연방의 대안이 구체적이고 집행 가능하며 변화에 적응할 수 있을 때에만 권한을 넘긴다.

이 교환이 법안의 전망을 좌우할 것이다. 광범위한 우선 적용과 결합된 미약한 의무는 주 정부 관계자와 안전 옹호자들의 반발을 부를 것이다.

명확한 경계 없는 강한 의무는 혁신 저해나 규제 포획을 우려하는 의원들의 지지를 잃을 수 있다. 협상가들은 두 요소 모두가 균형에 맞는 것으로 보여야 한다.

가장 어려운 질문들은 여전히 답을 얻지 못했다

주의 의무는 입법자들이 알려진 위험, 합리적인 완화 조치, 그리고 출시 중단에 필요한 증거를 정의할 때에만 작동한다.

“알려진 중대한 위험”은 정확해 보이지만, 각 단어가 법적 불확실성을 만든다. 위험은 측정 가능하지 않더라도 문서화될 수 있고, 어떤 역량은 우려스럽더라도 개연성 있는 재앙적 피해를 입증하지 못할 수 있다.

입법자들은 누구의 지식이 인정되는지 결정해야 한다. 기준은 공개 연구, 기업 내부 테스트, 정부 정보, 사건, 또는 자격을 갖춘 직원의 경고를 고려할 수 있다.

공개 기록만을 근거로 하면 기밀 위협 정보와 독점적 평가를 놓치게 된다. 정부가 독점적으로 통제하는 기록만을 근거로 하면 개발자가 결정에 이의를 제기하기 어려워질 수 있다.

완화의 의미도 마찬가지로 중요하다. 기업은 거부 학습을 추가하거나, 의심스러운 사용을 모니터링하고, 도구를 제한하며, 공개 가중치 배포를 늦추거나, 검증된 고객으로 접근을 제한할 수 있다.

각 통제는 서로 다른 실패 경로에 대응한다. 탈취된 자격 증명, 모델 추출, 파인튜닝, 프롬프트 공격 또는 침해된 인프라에 대해 어느 것도 완전한 보호를 제공하지는 못한다.

법안은 또한 역량과 의도를 구분해야 한다. 범용 모델은 정당한 생물학 연구를 지원할 수 있지만, 악의적 워크플로 내에서는 위험해지는 정보를 제공할 수도 있다.

단순한 주제 차단으로는 이 문제가 해결되지 않는다. 평가자는 시스템이 심각한 피해를 유발하는 데 필요한 전문성, 시간 또는 자원을 의미 있게 줄이는지 시험해야 한다.

오탐도 결과를 초래한다. 위험한 역량을 과장하면 오용을 부추기고, 정부 자원을 낭비하며, 기존 개발자에게 소규모 경쟁사보다 유리한 위치를 제공할 수 있다.

광범위한 테스트, 법률 검토, 보안 인프라가 전제 조건이 되면 규정 준수 체계는 대기업에 유리하게 작용할 수 있다. OpenAI, Anthropic, Google은 소규모 연구소가 감당할 수 없는 요건을 흡수할 수 있다.

적용 대상을 가장 고성능의 모델로 한정하면 이러한 압박은 줄어들지만, 임계값 효과가 발생한다. 임계값에 접근하는 개발자는 규제를 피하기 위해 학습 방식을 바꾸거나, 공개를 늦추거나, 시스템을 분할할 수 있다.

고정된 컴퓨팅 임계값은 비교적 관리하기 쉽지만 빠르게 낡는다. 역량 기반 임계값은 더 잘 적응하지만, 신뢰할 수 있는 평가와 더 많은 규제 판단을 필요로 한다.

유럽연합은 이미 유사한 문제에 직면해 있다. 유럽연합의 규정은 시스템적 위험을 제시하는 것으로 분류된 범용 모델에 평가, 사고 보고, 사이버보안, 위험 완화를 포함한 추가 의무를 부과한다.

유럽위원회의 시스템적 위험 의무는 의회에 실질적인 비교 기준을 제공한다. 또한 입법자들이 광범위한 법정 프레임워크를 승인한 뒤 얼마나 많은 지침이 필요해지는지도 보여 준다.

미국 제안은 한 가지 측면에서 잠재적으로 중요한 차이가 있다. 보도된 협상에는 특정 모델 출시를 대상으로 한 정부 조치의 가능 경로와, 이어지는 연방 법원 소송이 포함된다.

이는 주로 문서화와 행정 벌칙을 중심으로 구성된 규정 준수 체계보다 더 직접적인 충돌을 낳을 수 있다. 따라서 적법 절차가 필수적이다.

또 다른 불확실성은 규제 역량에 관한 것이다. 정부 전문가는 독점 시스템, 변화하는 위협 수법, 그리고 희소한 기술 인재에게 더 높은 보상을 제시하는 업계의 속도를 따라가야 한다.

기관은 안전한 컴퓨팅 접근성과 모델 가중치를 다루기 위한 절차를 필요로 한다. 또한 모든 규제 결정을 대중에게 숨기지 않으면서 기업 비밀을 보호할 권한도 필요하다.

규제 포획은 또 다른 위험이다. 평가 방법을 정의하는 데 필요한 도구와 인력을 가장 큰 개발사만 보유한다면, 연방 기준은 그들이 선호하는 관행을 반영할 수 있다.

독립 연구자, 국립 연구소, 시민사회 단체, 분야별 전문가는 의미 있는 역할을 맡아야 한다. 이들의 참여는 정부 관계자와 모델 기업이 공유하는 가정에 이의를 제기할 수 있다.

기업들 역시 서로 의견이 다를 수 있다. Anthropic은 종종 프런티어 안전 정책을 강조해 온 반면, 다른 개발자들은 잘못 설계된 규정이 경쟁이나 개방형 개발을 저해할 수 있다고 경고해 왔다.

법안 문구가 나오기 전 이러한 차이를 과장해서는 안 된다. 이전 제안에 대한 입장만으로 어떤 기업이 이 정확한 패키지에 대해 취할 입장을 추론해서는 안 된다.

의회는 또한 사고 보고 구조를 마련해야 한다. 출시 전 테스트만으로는 새로운 도구, 더 큰 사용자 집단 또는 적대적 실험을 통해 나타나는 모든 행동을 예측할 수 없다.

의미 있는 의무는 배포 이후에도 지속되어야 한다. 개발자는 심각한 사고를 감지하고, 보호장치를 재평가하며, 당국에 알리고, 증거가 바뀔 때 접근을 제한하는 절차를 갖춰야 한다.

법안은 인증을 영구적 승인으로 취급해서는 안 된다. 출시 당일에는 관리 가능한 것으로 여겨진 모델도 새로운 통합이나 외부 발견 이후 더 위험해질 수 있다.

동시에 규제 당국은 예상치 못한 모든 출력을 재앙적 위험 사례로 전환하지 않아야 한다. 법의 정당성은 그 특별한 개입을 특별한 위협에 연결하는 데 달려 있다.

이러한 미해결 선택은 기술적 각주가 아니다. 이는 제안이 표적화된 안전 법률, 상징적 규정 준수 또는 광범위한 인허가 체계 중 무엇이 될지를 결정한다.

제안이 진전할 수 있는지 보여 줄 세 가지 신호

다음 시험대는 협상가들이 눈에 띄는 개념을 기술적, 정치적, 사법적 검토를 견딜 수 있는 좁은 입법 문구로 전환하는지 여부다.

첫 번째 신호는 실제 법안 문구의 공개다. 독자들은 해당 문구가 적용 대상 모델, 재앙적 위험, 개발자의 인지, 합리적 완화 조치, 정부 권한을 어떻게 정의하는지 살펴봐야 한다.

명확한 역량 또는 위험 임계값은 협상가들이 집중된 프런티어 모델 감독을 추구한다는 근거를 강화할 것이다. 모호한 적용 범위는 예측 불가능한 집행과 일반 애플리케이션에 대한 부담 우려를 키울 것이다.

두 번째 신호는 최종 우선 적용 조항이다. 그 범위는 연방의 통일성이 재앙적 위험 의무에 한정된 보완 장치인지, 아니면 주 AI 법률에 대한 더 광범위한 제한인지를 드러낼 것이다.

프라이버시, 시민권, 소비자, 고용, 선거 보호를 보존하는 문구는 더 좁은 해석을 뒷받침할 것이다. 광범위한 배제는 이전 유예 조치를 무산시킨 정치적 논쟁을 다시 불러올 것이다.

세 번째 신호는 집행 절차다. 의회는 책임 기관, 기술 전문가의 역할, 증거 기준, 시의적절한 사법 심사의 경로를 특정해야 한다.

서면 판단, 안전한 증거 접근, 기한, 항소권을 갖춘 절차는 출시 개입의 신뢰성을 높일 것이다. 구체화되지 않은 행정부 재량은 지지를 약화시키고 즉각적인 법적 도전을 초래할 것이다.

일정도 자체적인 압박을 만든다. Reuters는 하원이 11월 3일 중간선거 전 예정된 회기 주간이 단 한 주뿐이었고, 상원은 세 주를 예상했다고 보도했다.

협상가들이 합의에 이르더라도 이 일정은 법안 제정을 어렵게 만든다. 위원회 심의, 본회의 시간, 하원 통과, 서로 다른 법안 문구의 조정은 모두 정치적 조율을 요구한다.

법안이 신속히 통과하지 못하더라도 근본적인 변화가 사라지는 것은 아니다. 법적 의무와 모델 출시 개입을 둘러싼 초당적 협상은 다음 의회를 위한 기준점을 마련한다.

이 논쟁은 개발자들에게 문서화를 개선해야 할 즉각적인 이유도 제공한다. 중대한 위험을 식별한 기업은 그 위험을 어떻게 테스트하고, 완화 조치를 선택하며, 배포를 모니터링했는지를 보여 주는 기록이 필요하다.

규제가 모델 가용성, 계약상 의무, 감사 증거, 출시 일정에 영향을 줄 수 있으므로 기업 구매자도 이러한 관행을 주시해야 한다. 한 공급업체에 의존하는 팀은 모델 지연 또는 제한에 대비한 비상 계획이 필요하다.

외부 모델을 기반으로 개발하는 개발자 역시 의무가 하류로 전달되는지 추적해야 한다. 파운데이션 모델 기업은 연방 의무를 충족하기 위해 접근 통제, 허용 사용 약관, 로깅 요건 또는 도구 권한을 변경할 수 있다.

지식 근로자들은 더 조용한 결과에 직면한다. 규정이 변화함에 따라 조직은 모델 버전, 정책, 평가, 내부 결정에 관한 신뢰할 수 있는 기록을 필요로 하게 된다.

검색 가능한 AI 지식 베이스는 팀이 그러한 맥락을 보존하는 데 도움이 될 수 있다. 그러나 기록 관리는 기술적 평가나 법률 자문을 대체할 수 없다.

미국 상원의 AI 위험 법안은 제정된 제한이 아니라 협상 중인 제안이다. 그 중요성은 입법자들이 모든 절차적 세부 사항을 확정하기 전에 부여하는 책임에 있다.

워싱턴은 프런티어 모델 제작자가 예측 가능한 재앙적 위험을 줄일 수 있는 집행 가능한 의무를 져야 하는지 검토하고 있다. 또한 정부가 민간의 출시 결정을 언제 중단시킬 수 있는지도 검토하고 있다.

법안 문구, 우선 적용의 경계, 법원 심사 절차를 지켜봐야 한다. 이 세 요소는 의회가 집중된 감독을 설계했는지, 아니면 AI 정책의 또 다른 미해결 전선을 열었을 뿐인지를 보여 줄 것이다.