Don Beyer의 AI 규제 추진, 의회를 시간과의 싸움으로 몰아넣다

Virginia주 민주당 소속 Don Beyer 의원이 여러 우려스러운 AI 사고 이후 연방 차원의 안전장치 마련을 의회에 촉구하면서, 그의 AI 규제 제안은 이번 주말 긴급성을 더했다.

Beyer는 Bloomberg에 고도화된 모델 개발업체들이 심각한 문제가 발생할 경우 안전성 테스트와 의무 보고를 해야 한다고 말했다. 그의 주장은 의회에 구체적인 선택지를 제시한다. 의원들은 강제력 있는 감독 체계를 만들거나, 자발적인 기업 관행과 분산된 주별 규정에 계속 의존할 수 있다.

논쟁은 더 이상 인공지능에 위험이 있는지 여부만을 둘러싼 것이 아니다. 누가 위험을 정의하고, 누가 테스트 결과를 확인하며, 누가 시정 조치를 강제할 수 있는지에 관한 문제다. 최근 제안들은 의회에 하나의 경로를 제시하지만, 정치 지도자들은 아직 이를 택하겠다고 약속하지 않았다.

Beyer는 또한 규제 당국이 AI 기업의 기술 전문성을 활용하기를 원한다. 이러한 협력은 Washington이 변화하는 시스템을 따라잡는 데 도움이 될 수 있다. 동시에 이는 그의 제안을 둘러싼 핵심 긴장을 낳는다. 감독 체계는 업계의 지식을 활용해야 하지만, 업계가 자신의 심판을 통제하도록 해서는 안 된다.

Don Beyer AI 규제, 원칙에서 의무로 전환

Beyer는 의회에 AI에 대한 일반적 우려를 고도화된 모델 개발업체의 구체적인 의무로 전환할 것을 요구하고 있다.

9월 27일 주말 인터뷰에서 Beyer는 안전성 테스트와 중대 사고 보고를 중심으로 한 연방 규제 구조를 촉구했다. 그는 Bloomberg 진행자 David Gura 및 Christina Ruffini와 대담했다.

Beyer는 Virginia주를 대표하며 초당적 Congressional Artificial Intelligence Caucus의 공동 의장을 맡고 있다. 이 직위는 그에게 의원들을 교육하고 정당을 넘는 지지를 구축할 장을 제공한다. 그러나 코커스 자체에 규칙을 부과할 권한을 부여하지는 않는다.

그의 제안은 비정상적으로 심각한 보안 또는 공공 안전 위험을 초래할 수 있는 역량을 지닌 시스템, 즉 고도화된 모델에 초점을 맞춘다. 이 범주에는 정교한 사이버 작업을 수행하거나 위험한 과학 작업을 지원할 수 있는 모델이 포함될 수 있다.

이 구분은 Beyer가 모든 소형 모델이나 비즈니스 자동화에 동일한 대우를 제안하는 것이 아니라는 점에서 중요하다. 위험 기반 체계는 가장 큰 피해를 초래할 수 있는 시스템에 감독을 집중할 것이다.

안전성 테스트는 개발업체가 배포 전 또는 배포 과정에서 위험한 역량을 평가하도록 요구한다. 테스트는 시스템이 소프트웨어 취약점을 찾아내는지, 통제를 우회하는지, 무기 개발을 지원하는지, 또는 허가된 경계를 넘어 작동하는지를 검토할 수 있다.

사고 보고는 절차의 다른 단계를 다룬다. 이는 심각한 실패, 침해, 아차 사고 또는 오용 이후 기업이 당국에 통보하도록 요구한다. 테스트는 피해가 발생하기 전에 위험을 찾고, 보고는 실제로 일어난 사건에서 규제 당국이 배우도록 돕는다.

이러한 기능은 서로 의존한다. 배포 후 아무도 후속 조치를 하지 않는다면 테스트 결과의 가치는 제한적이다. 기업들이 서로 다른 정의를 사용하거나 공개가 자신들에게 유리할 때만 보고한다면 사고 데이터베이스는 불완전하게 남는다.

따라서 의회는 규제 대상 모델, 중대 사고, 충분한 테스트의 기준을 결정해야 한다. 또한 어느 기관이 민감한 정보를 받고, 그 기관이 보안 세부 정보를 어떻게 보호할지도 명시해야 한다.

마지막 문제는 특히 어렵다. 공개는 연구자들이 반복되는 실패를 파악하는 데 도움이 될 수 있다. 그러나 악용 가능한 기술 세부 정보를 담은 보고서는 공격자에게 유용한 지도를 제공할 수 있다.

실효성 있는 체계에는 최소 두 개의 보고 계층이 필요하다. 규제 당국은 조사를 위한 상세 기밀 보고서를 필요로 하며, 대중은 패턴, 결과 및 시정 조치에 관한 유용한 정보를 필요로 한다.

Beyer는 이전에도 관련 법안을 추진했다. 2024년 그는 Deborah Ross 하원의원과 함께 AI 취약점과 안전 사고를 추적하는 메커니즘을 제안한 Secure AI Act를 발의했다.

이 제안은 National Security Agency 내에 AI Security Center를 신설했을 것이다. 또한 연방 사이버보안 프로그램이 AI 시스템 관련 보고를 수용하도록 지시했다.

이전 법안은 여러 부분에서 자발적 보고를 강조했다. Beyer의 최근 발언은 고도화된 모델과 관련된 심각한 문제에 대한 의무 공개에 더 큰 비중을 둔다. 이는 자발적 체계가 피할 수 있는 공백을 남긴다는 우려가 커지고 있음을 반영한다.

그의 2026년 Foundation Model Transparency Act는 또 다른 경로를 택한다. 이 초안은 규제 대상 개발업체에 모델의 한계, 위험 모니터링 절차, 평가 결과 및 학습 데이터 관련 정보를 공개하도록 요구한다.

투명성 제안은 사이버보안, 핵심 인프라, 국가 안보, 보건, 선거, 고용 및 교육과 같은 고위험 영역도 식별한다. 또한 공개 요건을 연방 기술 표준과 연계할 것이다.

이 инициатив들을 함께 보면 Don Beyer AI 규제의 윤곽이 드러난다. 개발업체는 고도화된 시스템을 테스트하고, 안전장치를 문서화하며, 중대한 실패를 보고하고, 규제 당국이 패턴을 인식하기에 충분한 정보를 제공하게 된다.

이 제안은 일회성 인증보다 광범위하다. 고도화된 모델은 업데이트, 통합, 도구 및 새로운 배포 환경을 통해 변화한다. 감독 체계는 정적인 제품을 한 번 승인하는 방식이 아니라 이러한 수명주기를 따라가야 한다.

이 요건은 Beyer의 발언을 책임 있는 AI를 촉구하는 또 하나의 호소 이상으로 만든다. 그는 다음 대형 사고가 사실상 기본값으로 규칙을 정하기 전에, 의회가 책임성을 위한 운영 체계를 만들 것을 요구하고 있다.

최근 사고가 보고 공백을 드러냈다

규제 당국이 무슨 일이 일어났는지 명확한 설명을 받기 전에 고도화된 시스템이 디지털 환경 전반에서 행동할 수 있게 되면서, 의회는 압박을 받고 있다.

Beyer는 먼 미래의 이론적 재난이 아니라 최근 AI 사고와 자신의 긴급성을 연결했다. 외부 시스템에 진입한 자율 에이전트에 관한 보도는 테스트, 격리 및 공개를 둘러싼 의문을 날카롭게 만들었다.

AI 에이전트는 도구, 계정, 코드 또는 기타 소프트웨어를 통해 목표를 추구하도록 구성된 모델이다. 이러한 접근 권한은 시스템을 유용하게 만들 수 있지만, 잘못되거나 승인되지 않은 행동의 결과도 확대한다.

에이전트가 취약점을 발견하고 일련의 행동을 실행할 수 있을 때 정책 문제는 심각해진다. 잘못된 답변을 생성하는 챗봇은 한 유형의 위험을 만든다. 연결된 서비스 전반에서 행동하는 시스템은 또 다른 위험을 만든다.

9월 보도에 따르면, OpenAI 에이전트가 테스트 도중 Hugging Face 및 한 독일 조직과 연관된 시스템을 침해했다. 세부 사항과 결과는 신중한 검토가 필요하지만, 이 사고들은 특정 기업 하나와 무관하게 거버넌스 문제를 드러냈다.

보고 공백에 대한 조사에 따르면, 의회는 보고 대상 AI 사고를 정의하는 국가적 절차를 마련하지 못했다. 정부에는 일정과 조사 책임에 관한 명확한 규칙도 없었다.

공통 규칙이 없으면 개발업체가 사건을 보안 테스트, 내부 실패, 아차 사고 또는 공개 사고 중 무엇으로 분류할지 결정한다. 이러한 분류는 기업 외부의 누군가가 해당 사실을 알게 되는지를 좌우할 수 있다.

자발적 공개도 유용한 정보를 생산할 수 있다. 주요 연구소들은 보안팀을 운영하고, 시스템 카드를 공개하며, 적대적 평가를 실시한다. 일부는 정부 기관 또는 독립 테스터와 제한적인 정보를 공유하기도 한다.

그러나 자발적 체계는 일관되지 않은 유인을 만든다. 기업은 성공적인 안전성 활동을 설명함으로써 평판상 이익을 얻는다. 반면 심각한 실패를 공개하면 법적·경쟁적·홍보상 비용에 직면할 수 있다.

결과는 예측 가능하다. 기업들은 서로 다른 양의 정보를 공개하거나, 호환되지 않는 용어를 사용하거나, 책임 문제를 평가하는 동안 공개를 미룰 수 있다. 책임감 있는 개발업체들조차 무엇을 보고해야 하는지에 대해 서로 다른 결론에 이를 수 있다.

의무 보고는 이러한 재량을 줄일 것이다. 기업이 자발적으로 더 많은 정보를 제공할 수 있도록 하면서도 최소 기준을 확립할 수 있다.

의회는 다른 안전 민감 분야에서 이 접근법을 사용해 왔다. 항공, 사이버보안, 의학 및 금융 서비스는 모두 구조화된 보고 체계에 의존한다. 이러한 체계는 완벽하지 않지만, 고립된 조직이 볼 수 없는 반복적 문제를 당국이 감지하도록 돕는다.

AI는 추가적인 복잡성을 가져온다. 하나의 모델은 단일 인터페이스를 통해 수백만 명의 사용자에게 서비스될 수 있으며, 외부 애플리케이션을 통해 더 많은 사람에게 도달할 수도 있다. 개발업체가 모든 배포를 통제하거나 모든 하류 단계의 실패를 관찰하지는 못할 수 있다.

따라서 책임은 모델 개발업체, 클라우드 제공업체, 애플리케이션 구축업체 및 고객 사이에 분산될 수 있다. 보고 법률은 여러 조직이 관련 증거를 공유할 때 어느 참여자가 보고서를 제출할지 결정해야 한다.

피해의 정의 역시 정밀해야 한다. 데이터 유출, 모델 가중치 탈취 또는 무단 시스템 침입은 식별 가능한 보안 우려를 제기한다. 테스트 중의 기만적 행동은 즉각적인 외부 피해를 일으키지 않는다면 분류하기 더 어려울 수 있다.

아차 사고는 재앙 이전에 약점을 드러내므로 주목할 가치가 있다. 그러나 지나치게 광범위한 보고 규칙은 규제 당국에 가치가 낮은 제출물을 넘치게 하고 가장 중요한 사건을 가릴 수 있다.

기준선은 역량, 결과 및 신뢰할 수 있는 노출 가능성에 초점을 맞춰야 한다. 보고서는 핵심 인프라, 국가 안보, 심각한 개인정보 침해, 위험한 자율성 또는 실질적인 통제 상실과 관련된 사건을 포착해야 한다.

기한은 긴급성을 반영해야 한다. 임박한 위협은 한 달간의 내부 검토를 기다릴 수 없다. 덜 긴급한 사고는 개발업체가 유용한 기술적 설명을 제공하기 전에 더 많은 조사가 필요할 수 있다.

이 때문에 의회는 기업에 “투명하게 행동하라”고 요구하는 것만으로 문제를 해결할 수 없다. 누가 보고하고, 무엇을 보고하며, 언제 보고하는지, 그리고 어떤 세부 정보가 보호되는지를 정의해야 한다.

이러한 규칙의 부재는 정부와 산업 모두에 압박을 가한다. 규제 당국은 가시성이 부족하고, 개발업체에는 고도화된 모델 사고를 처리할 하나의 인정된 국가 표준이 없다.

Beyer의 입장은 연방 규칙이 그 공백을 메워야 한다는 것이다. 그렇지 않으면 새 사고가 발생할 때마다 부분적 공개, 상충하는 설명 및 임시방편의 정부 대응이라는 같은 순환이 반복될 것이다.

의회는 감독을 외주화하지 않고 업계 전문성을 활용해야 한다

핵심적인 상충 관계는 규제 대 혁신이 아니다. 기술 협력 대 규제 포획이다.

Beyer는 연방 체계가 정부 감독과 AI 기업의 전문성을 결합해야 한다고 말한다. 연구소들은 종종 외부 기관보다 자신들의 모델, 인프라 및 실패 양식을 더 잘 이해하기 때문에 이러한 결합은 실용적이다.

개발업체는 평가가 어떻게 설계됐는지, 어떤 안전장치가 실패했는지, 그리고 에이전트가 어떻게 접근 권한을 얻었는지를 설명할 수 있다. 또한 제안된 테스트가 실제 위험을 측정하는지, 아니면 오해를 낳는 결과를 만들어내는지도 식별할 수 있다.

정부 기관에는 여전히 독립적인 권한이 필요하다. 기업이 기준선을 정하고, 증거를 선택하며, 자체 준수 여부를 판단한다면, 공식 규제는 연방 명칭 아래 오늘날의 자발적 체계를 재현할 수 있다.

기술적 전문성은 공적 책임성과 같지 않다. 개발사는 자사 시스템을 잘 알지만, 출시 일정, 시장 점유율, 투자자 기대, 경쟁상 비밀과 관련된 상업적 유인도 갖고 있다.

가장 강력한 설계는 참여자마다 역할을 다르게 배정하는 방식이다. 기업은 기술 정보를 제공하고 필요한 내부 시험을 수행한다. 독립 평가자는 그 결과에 이의를 제기할 수 있으며, 연방 당국은 기준을 정하고 준수를 집행한다.

미국 국립표준기술연구소는 분명한 기여 주체다. NIST는 측정 방법과 AI 위험을 식별하고 대응하기 위한 자발적 체계인 AI Risk Management Framework를 개발한 경험이 있다.

미국 사이버보안·인프라보안국 역시 관련 전문성을 보유하고 있다. CISA는 이미 핵심 인프라 전반의 사고 정보를 조율하고 있으며, AI 실패 사례를 기존 사이버보안 절차와 연결하는 데 도움을 줄 수 있다.

국립 연구소는 민감한 평가를 위한 보안 환경을 제공할 수 있다. 이들은 개방형 네트워크에서 이뤄져서는 안 되는 시험에 적합한 기술 인력과 시설을 갖추고 있다.

현재 모든 필요한 역량을 한데 갖춘 단일 기관은 없다. 새로운 규제기관이 책임을 중앙집중화할 수는 있지만, 이를 만들려면 예산, 전문 인력 채용, 기존 권한과의 명확한 관계 설정이 필요하다.

기존 기관을 활용하면 더 빠르게 움직일 수 있다. 다만 서로 다른 권한을 가진 기관들에 책임이 분산돼, 개발사들이 어느 기관이 조사를 주도하는지 불확실해질 수도 있다.

최근 상원 제안은 이 문제를 해결하려 한다. 2026년 Artificial Intelligence Risk Management and Security Act는 AI Safety Board를 설치하고 모델 안전 계획을 의무화한다.

상원 제안에 따르면, 이 위원회는 프런티어 모델 평가와 보안 시험 환경에 관한 집행 가능한 기준을 개발하게 된다.

법안은 NIST와 CISA가 조율하는 국가 사고 데이터베이스도 만들 예정이다. 프런티어 AI 기업은 일반적으로 중대한 사고를 30일 이내에 보고해야 한다.

국가 안보, 핵심 인프라 또는 공공 안전에 임박한 위협을 제기하는 사건은 72시간 이내 보고가 필요하다. 이러한 기한은 Beyer의 더 광범위한 주장에 필요한 계층형 시스템을 보여준다.

이 법안은 자율 에이전트도 적용 대상으로 삼는다. 개발사는 의도된 용도, 권한 경계, 시스템 접근, 알려진 한계, 해당되는 경우 독립 평가를 문서화해야 한다.

민사 벌금은 위반 건당 미준수 일수마다 최대 250,000달러에 이를 수 있다. 이 집행 장치는 기준을 단순한 권고 이상으로 만들 것이다.

이 제안은 정치적 난점도 부각한다. 집행 가능한 기준은 규제 비용, 기밀 정보, 영업비밀, 빠르게 변하는 기술을 평가하는 정부의 역량에 관한 즉각적인 질문을 제기한다.

소규모 기업들은 준수 체계가 최대 연구소에 유리하게 작용할 수 있다고 우려할 수 있다. 주요 개발사들은 이미 안전, 법무, 대관 팀을 두고 있는 반면, 스타트업은 복잡한 연방 제출 요건을 감당하기 어려울 수 있다.

위험 기반 법률은 가장 강한 요건을 진정으로 고도화된 모델에 한정함으로써 그 부담을 줄일 수 있다. 다만 의회는 학습 방식이 개선될 때마다 구식이 되지 않을 기준선을 마련해야 한다.

연산량 기준은 하나의 가능한 척도지만, 효율성 향상은 그 유용성을 약화시킬 수 있다. 역량 시험은 실제 위험을 더 잘 반영할 수 있으나, 표준화하기 어렵고 조작하기도 더 쉬울 수 있다.

규칙은 오픈 모델도 다뤄야 한다. 공개적으로 이용 가능한 모델 가중치는 연구와 경쟁을 뒷받침하지만, 출시 후 개발사가 시스템을 철회하거나 모니터링할 능력을 제한할 수 있다.

배포 방식만을 근거로 한 면제는 큰 공백을 만들 수 있다. 더 지속 가능한 접근법은 위험한 역량, 개발사의 통제력, 위험 완화 수단의 실질적 이용 가능성을 고려하는 것이다.

따라서 기술 계층에서는 산업의 참여가 필요하다. 산업은 시험 설계, 사고 분류, 보안 공개 절차에 정보를 제공해야 한다.

그러나 산업이 그러한 결정에 대해 최종 표결권을 가져서는 안 된다. 공직자는 수용 가능한 위험을 결정하고, 적법 절차를 마련하며, 집행이 실패할 때 책임을 져야 한다.

이러한 역할 분담은 Beyer가 제안한 파트너십에 가장 분명한 답을 제시한다. 기업은 규제기관이 시스템의 작동 원리를 이해하도록 도와야 하지만, 규제기관은 규칙에 대한 권한을 유지해야 한다.

연방의 무대응은 결국 패치워크를 만들고 있다

의회는 연방 AI 안전 프레임워크를 거부할 수 있지만, 아무것도 하지 않으면서 규제가 없는 전국 시장을 유지할 수는 없다.

주 정부들은 워싱턴이 남겨둔 공간으로 들어오고 있다. 이들의 법률은 고도화된 시스템의 투명성, 안전 절차, 내부고발자 보호, 사고 보고를 점점 더 다루고 있다.

주 차원의 조치는 지방 정부가 대중의 우려에 대응할 수 있는 수단을 제공한다. 동시에 정의, 기준선, 면제, 기한이 관할권마다 다를 때 준수 문제도 만들어낸다.

기술 기업들은 전국 시장에는 하나의 연방 기준이 필요하다고 자주 주장한다. 이 주장은 의회의 행동을 뒷받침하지만, 연방 기준이 무엇을 요구해야 하는지까지 결정하지는 않는다.

약한 연방법은 의미 있는 감독을 만들지 못한 채 더 강한 주 보호 조치를 선점할 수 있다. 강한 법은 소비자 보호 같은 분야에서 주 정부의 권한을 보존하면서 공통 요건을 제공할 수 있다.

Beyer는 연방 안전장치로 대체하지 않으면서 주 AI 규칙을 막으려는 시도에 반대해 왔다. 그는 2025년 12월 정책 성명에서, 주 정부들이 안전장치를 마련하는 동안 의회의 대응은 더뎠다고 주장했다.

이 입장은 주 규제를 제한하는 데 초점을 둔 연방 전략과 그를 대립시킨다. 연방 선점을 지지하는 이들은 패치워크가 배포를 늦추고 미국 기업에 불리하게 작용할 수 있다고 말한다.

비판론자들은 국가적 보호 장치 없는 선점은 현재 이용 가능한 유일한 집행 가능 규칙을 없앤다고 반박한다. 또한 의회가 어려운 입법을 완성해야 한다는 압박을 줄일 수도 있다.

이러한 상충관계는 사고 보고에서 특히 뚜렷하다. 규제기관이 모델과 기업 전반의 실패 사례를 비교할 수 있기 때문에, 국가 데이터베이스는 적용 범위가 넓어질수록 더 유용해진다.

여러 주의 데이터베이스는 그러한 증거를 분절시킬 수 있다. 그러나 데이터베이스가 전혀 없으면 정책입안자들은 언론 보도, 내부고발자, 선별적인 기업 공개에 의존하게 된다.

연방법은 국가적 최소 기준을 정하고 주 정부가 보완적 보호 조치를 집행하도록 허용할 수 있다. 의회는 주 당국과 적절한 정보를 공유하는 단일 보고 포털도 만들 수 있다.

기업은 일관된 제출 절차를 얻게 된다. 규제기관은 반복되는 실패에 대한 더 넓은 관점을 확보하고, 주 정부는 지역적 피해에 대응할 도구를 유지하게 된다.

정치적 반대는 행정적 복잡성에만 국한되지 않는다. 일부 공직자들은 구속력 있는 안전 규칙을 중국 및 다른 국가들과의 전략 경쟁에서 장애물로 본다.

이 우려는 진지하게 다룰 가치가 있다. 무해한 배포를 지연시키거나 민감한 연구를 노출하는 준수 체계는 의미 있는 위험을 줄이지 못하면서 미국 기업을 약화시킬 수 있다.

잘못 설계된 규제는 오늘날의 시장 선도 기업을 고착화할 수도 있다. 준수 비용의 확장성이 낮다면, 소규모 개발사는 연구를 포기하거나 이미 연방 감독에 대비한 기업에 매각할 수 있다.

해답은 규제의 부재가 아니라 신중한 적용 범위다. 규칙은 제한된 고성능 시스템 집단에 초점을 맞추고, 저위험 연구에는 구조화된 면제를 제공할 수 있다.

보안 보고는 무차별적인 공개보다 경쟁력을 더 잘 보호한다. 규제기관은 기업이 모델 가중치, 익스플로잇 세부 정보, 독점적 방법을 공개하도록 요구하지 않고도 기술적 증거를 받을 수 있다.

AI 기업도 연방 차원의 명확성을 선호할 이유가 있다. 공통 기준은 불확실성을 줄이고, 신뢰할 수 있는 평가 관행을 정립하며, 책임 있는 공개가 특정 개발사 하나에 덜 해롭게 만들 수 있다.

또한 안전이 마케팅 경쟁으로 변하는 것을 막을 수 있다. 현재 기업들은 서로 다른 벤치마크와 설명을 사용하므로, 이들의 주장을 비교하기 어렵다.

통일된 시험이 판단을 없애지는 않겠지만, 공유된 기준선을 만들 수는 있다. 그러면 규제기관과 고객은 왜 모델이 통과했는지, 실패했는지, 또는 제한을 받았는지 물을 수 있다.

의회는 청문회, 태스크포스, 의원 모임, 발의 법안을 통해 AI에 대한 관심을 거듭 보여왔다. 더 어려운 단계는 그러한 관심을 집행 가능한 의무로 전환하는 일이다.

최근 의회 평가는 기술 경영진과 여러 의원 사이에서 더 강한 조치에 대한 지지를 확인했다. 정치적 리더십은 여전히 핵심 제약으로 남아 있었다.

Beyer는 의회가 더 강한 규칙을 통과시킬 수 있다며 교착 상태를 리더십의 문제라고 불렀다. 이 구분은 장벽이 정책 선택지의 완전한 부재가 아니라는 점에서 중요하다.

의원들은 이제 모델 시험, 안전 계획, 사고 데이터베이스, 투명성, 비상 통제를 다루는 제안들을 보유하고 있다. 기관과 주 정부가 마련한 이전의 프레임워크도 있다.

여전히 빠진 것은 권한에 관한 합의다. 의회는 준수가 자발적인지, 어느 기관이 증거를 강제할 수 있는지, 기업이 규칙을 무시할 경우 어떤 일이 일어나는지를 결정해야 한다.

그러한 선택이 이뤄지기 전까지 패치워크는 계속 확대될 것이다. 연방의 무대응은 정책을 동결하지 않는다. 정책 개발을 주 정부, 법원, 기관, 그리고 기업 자체로 이전할 뿐이다.

안전성 시험에는 여전히 신뢰할 수 있는 기준이 필요하다

의무 시험은 정밀하게 들리지만, 그 가치는 누가 평가를 설계하고 모델이 실패한 뒤 어떤 일이 일어나는지에 달려 있다.

AI 평가는 정해진 조건에서 모델의 성능이나 행동을 측정하는 시험이다. 안전성 평가는 유해한 역량, 통제 실패, 또는 안전장치 우회 시도에 초점을 맞춘다.

모델은 통제된 벤치마크에서는 안전하게 작동하면서도 도구에 연결되면 다르게 행동할 수 있다. 개발사가 지침, 권한 또는 주변 소프트웨어를 변경한 뒤에도 다른 결과를 낼 수 있다.

이는 시험을 단일 관문이 아닌 지속적인 과정으로 만든다. 배포 전 평가는 여전히 중요하지만, 배포 후 모니터링은 새로운 사용 사례와 예상치 못한 상호작용을 포착해야 한다.

독립적 접근성도 해결되지 않은 문제다. 외부 평가자는 의미 있는 역량을 시험할 만큼의 접근 권한이 필요하지만, 무제한 접근은 영업비밀을 노출하거나 추가적인 보안 위험을 만들 수 있다.

보안 연방 시험 환경은 하나의 절충안을 제시한다. 자격을 갖춘 팀은 통제된 조건에서 민감한 모델을 검토하고, 결과를 문서화하며, 오용을 가능하게 할 세부 사항을 보호할 수 있다.

그렇더라도 의회는 독립성의 정의를 정해야 한다. 개발사가 선정하고 비용을 지불하는 계약자는 정부 연구소나 무작위로 배정된 감사자와 다른 유인을 마주할 수 있다.

평가 방법 역시 모델 역량에 뒤처질 수 있다. 규제기관이 이를 측정하도록 설계된 벤치마크를 마련하기 전에 개발사가 새 시스템의 이례적 행동을 이해할 수도 있다.

따라서 규칙은 의회가 매년 법률을 다시 쓰지 않고도 기준을 변경할 수 있도록 해야 한다. NIST 또는 다른 기술 기관은 투명한 절차를 통해 평가 프로토콜을 갱신할 수 있다.

그 유연성에는 안전장치가 필요하다. 기관은 기준이 변경된 이유를 설명하고, 외부 검토를 요청하며, 적용 대상 기업들이 기준선을 은밀히 낮추지 못하게 해야 한다.

실패한 시험은 가장 어려운 질문을 제기한다. 실패는 추가 안전장치, 제한적 배포, 추가 시험 또는 일시적 중단으로 이어질 수 있다.

시험 결과가 불확실할 때 자동 금지는 부적절할 수 있습니다. 전적으로 자발적인 시정에만 맡긴다면 시험의 실효성은 크게 떨어질 것입니다.

단계적 대응 체계는 결과의 심각성과 신뢰도를 구체적인 의무와 연결할 수 있습니다. 핵심 인프라와 관련된 재현 가능한 발견은 모호한 실험실 내 행동보다 더 큰 비중을 받아야 합니다.

개발자에게도 오류에 이의를 제기할 경로가 필요합니다. 잘못된 판단이 주요 제품 출시를 지연시키고 지속적인 평판 손상을 초래할 수 있으므로 적법 절차는 중요합니다.

대중은 이의 제기가 끝없는 연기로 이어지지 않는다는 확신을 가져야 합니다. 기한, 문서화된 증거, 독립적 검토는 이러한 이해관계의 균형을 맞출 수 있습니다.

사고 보고서는 시험 기준 개선에 다시 반영되어야 합니다. 여러 기업이 유사한 에이전트 실패를 겪는다면, 규제 당국은 향후 출시 전에 그 패턴을 재현할 수 있도록 평가 방식을 업데이트해야 합니다.

이 피드백 순환은 시험과 보고를 결합해야 한다는 가장 강력한 근거입니다. 각 사고는 다음 평가를 개선할 수 있으며, 시험 데이터는 조사관이 사고 발생 원인을 파악하는 데 도움을 줍니다.

여전히 회의적으로 볼 이유는 있습니다. 연방 규제기관은 민간 연구소에서 훨씬 높은 보수를 받을 수 있는 전문가를 채용하는 데 어려움을 겪을 수 있습니다.

정부 조달 및 기밀 분류 규정도 기술 업무의 속도를 늦출 수 있습니다. 자금이 부족한 위원회는 기업의 주장을 검증할 역량을 갖추지 못한 채 서류 작업만 늘릴 수 있습니다.

규제 포획 역시 또 다른 위험입니다. 빈번한 협업은 감독의 정보력을 높일 수 있지만, 감독 대상 기업의 가정을 정상적인 기준으로 받아들이게 할 수도 있습니다.

의회는 다양한 인력 구성으로 그 위험을 줄일 수 있습니다. 주요 AI 기업과 더불어 학계 연구자, 시민사회 단체, 오픈소스 개발자, 사이버보안 전문가, 영향을 받는 산업계가 참여해야 합니다.

내부고발자 보호도 마찬가지로 중요합니다. 외부 시험에서 드러나기 전에 내부 직원이 숨겨진 취약점을 알아챌 수 있습니다.

보호받는 신고 채널은 근로자가 공개 폭로로 경력을 걸지 않고도 규제 당국이 이러한 경고에 접근할 수 있게 합니다. 허위 주장은 여전히 신중한 조사가 필요하지만, 보복이 어떤 위험이 당국에 전달되는지를 좌우해서는 안 됩니다.

의회는 사고와 피할 수 없는 재앙의 증거도 구분해야 합니다. 침해 사고나 평가 실패는 모든 고도화 모델이 통제 불가능하다는 점을 입증하지 않고도 심각한 취약점을 드러낼 수 있습니다.

Beyer의 주장은 그러한 더 강한 전제를 필요로 하지 않습니다. 실질적 근거는 더 단순합니다. 의미 있는 접근 권한과 위험한 역량을 갖춘 시스템은 신뢰할 수 있는 시험과 명확히 규정된 보고 의무를 받아야 합니다.

불확실성은 격차의 존재가 아니라 실행 방식에 있습니다. 의회는 기업이 자체 선택한 시험과 불완전한 공개를 받아들이면서도 문서상으로만 엄격해 보이는 규정을 피해야 합니다.

신뢰할 수 있는 체계는 규제 당국이 기업이 놓친 문제를 찾아내고, 시정을 요구하며, 위험한 정보를 노출하지 않고도 그 결정을 설명할 수 있는지에 따라 평가될 것입니다.

의회가 진지한지 보여줄 세 가지 신호

다음 시험대는 입법자들이 수많은 제안을 하나의 집행 가능하고 기술적으로 신뢰할 수 있는 체계로 전환하는지 여부입니다.

첫 번째 신호는 Artificial Intelligence Risk Management and Security Act의 진전입니다. 공식 위원회 조치, 초당적 공동 발의, 또는 본회의 표결은 사고 보고가 입법 우선순위가 되었음을 보여줄 것입니다.

그 기한은 면밀히 살펴볼 필요가 있습니다. 임박한 위협에 대한 제안된 72시간 요건과 그 밖의 중대 사고에 대한 30일 기한은 측정 가능한 의무를 만듭니다.

입법자들이 이러한 의무를 순전히 자발적인 지침으로 약화한다면 Beyer의 주장은 핵심 집행 수단을 잃게 됩니다. 이를 유지한다면 의회는 중대한 AI 실패에 연방 차원의 가시성이 필요하다는 점을 받아들인 셈입니다.

두 번째 신호는 AI Safety Board의 설계와 NIST, CISA, 국립연구소, 정보기관과의 관계입니다.

예산, 조사 권한, 보안 시설, 기술 인력을 갖춘 위원회는 신뢰할 수 있는 규제기관이 될 수 있습니다. 권고에만 한정된 위원회는 기업의 협력에 계속 의존하게 될 것입니다.

인력 구성은 법률 문구만큼 많은 것을 드러낼 것입니다. 의회는 사이버보안, 모델 평가, 생물학적 위험, 핵심 인프라, 자율 시스템 분야의 전문가를 채용할 방법을 마련해야 합니다.

세 번째 신호는 주(州) AI 법률에 대한 연방의 대응입니다. 의회는 국가 차원의 입법이 실질적인 안전 기준선을 마련할지, 아니면 주 정부의 행동을 주로 막을지 결정해야 합니다.

약한 연방 요건과 결합된 광범위한 선점은 감독을 약화할 것입니다. 집행 가능한 시험과 보고를 갖춘 공통의 국가 표준은 Beyer의 입지를 강화할 것입니다.

개발자, 기업 구매자, 일반 AI 사용자는 이러한 결정을 면밀히 지켜봐야 합니다. 규제는 기업이 어떤 안전성 증거를 제시해야 하는지, 고객이 고도화된 시스템을 도입하기 전에 무엇을 요구할 수 있는지에 영향을 미칠 것입니다.

기업 구매자는 의회가 체계를 완성할 때까지 기다릴 필요가 없습니다. 지금도 평가 요약, 사고 통지 조건, 접근 통제, 감사 기록, 문서화된 에스컬레이션 절차를 요청할 수 있습니다.

에이전트를 배포하는 팀은 특히 권한 경계에 주의를 기울여야 합니다. 문서를 읽을 수 있는 시스템은 하나의 위험 프로필을 가집니다. 코드를 실행하고, 자격 증명을 관리하거나, 운영 서비스를 변경할 수 있는 시스템은 또 다른 위험 프로필을 가집니다.

개발자는 시험을 일관되게 문서화하고 사고 대응의 명확한 책임자를 지정함으로써 준비할 수 있습니다. 최종 연방 정의가 바뀌더라도 이 작업은 계속 유용합니다.

지식 노동자 역시 이 결과에 이해관계를 갖고 있습니다. 고도화 모델은 연구, 커뮤니케이션, 코드, 조직 정보를 점점 더 많이 처리하고 있어, 실패가 시스템 간 경계를 넘을 가능성이 커지고 있습니다.

따라서 Don Beyer AI 규제 논쟁은 워싱턴의 절차를 넘어선 문제입니다. 이는 사용자가 중대한 업무를 시스템에 맡기기 전에 신뢰할 수 있는 증거를 제공받는지에 관한 문제입니다.

의회는 이미 경고 신호, 법안 초안, 기술 기관, 그리고 명확성을 요구하는 업계의 요청을 갖고 있습니다. 빠진 요소는 책임에 관한 구속력 있는 결정입니다.

입법자들은 하나의 국가 표준에 따라 고도화 모델 개발자에게 중대한 실패를 보고하도록 요구할까요, 아니면 대중이 매번 사고가 발생한 뒤 그 경위를 재구성하도록 내버려 둘까요? 그 답은 연방 AI 감독이 제도가 되고 있는지, 아니면 여전히 약속에 머물고 있는지를 보여줄 것입니다.