Mike Johnson의 AI 규제 입장, 안전 책임을 기술 기업으로 전가

Mike Johnson은 일요일 긴급 AI 모라토리엄을 거부하며, 최첨단 시스템을 개발하는 기업들에 1차적인 안전 책임을 넘겼다. Mike Johnson의 AI 규제 입장이 더 강력한 안전장치의 필요성을 부정하는 것은 아니다. 쟁점은 누가 이를 먼저 설계해야 하는지, 그리고 연방 입법자들이 중국과의 경쟁에서 미국을 약화시키지 않고 행동할 수 있는지다.

Johnson은 Donald Trump 대통령, 의회 지도부, 주요 AI 경영진이 신속히 모여 공통된 접근법을 마련하길 원한다고 말했다. 그러나 그는 이 과정을 위한 구속력 있는 기준, 집행 메커니즘, 또는 기한을 제시하지 않았다. 따라서 그의 제안은 더 빠른 개발을 장려하는 경쟁 유인도 함께 지닌 기업들에 즉각적인 책임을 부과한다.

이 같은 충돌은 Anthropic과 OpenAI의 지도자들이 안전 작업이 모델 역량을 따라가지 못하고 있다고 경고하는 가운데 발생했다. 일부 의원들은 안전장치를 검토하기 위해 의회를 소집해야 한다고 요구한다. 반면 Johnson은 긴급 연방 중단 조치 없이 산업계 주도, 정치적 조율, 자제를 선호한다.

Mike Johnson의 AI 규제는 산업계 책임에서 시작된다

Johnson의 입장은 안전장치를 지지하면서도, 입법자들이 해법을 이해하기 전에 의회가 긴급 규칙을 제정하는 데는 반대하는 내용을 결합한다.

9월 13일 CNN과 NBC에 각각 출연한 Johnson은 AI 기업들이 자사 제품의 안전을 지키기 위한 노력을 주도해야 한다고 말했다. 그는 또한 정부가 관련 의사결정권자들을 한자리에 모으는 역할을 해야 한다고 인정했다.

이 구분은 중요하다. Johnson은 첨단 AI가 위험을 초래하지 않는다고 주장하는 것이 아니다. 그는 의회가 초기 대응을 주도하는 데 필요한 기술 지식과 실질적 해답을 갖추지 못했다고 주장한다.

일요일 인터뷰에서 Johnson은 의회가 긴급 모라토리엄을 부과하려는 움직임에 저항해야 한다고 말했다. 그는 미국의 개발을 멈추면 중국이 미국을 추월하게 될 것이라고 경고했다.

Johnson은 입법자들에게 실행 가능한 해법이 있다면 하원이 복귀해 표결할 수 있다고도 말했다. 이 조건은 이론상 입법 조치를 가능하게 하지만, 실제로는 이를 미루는 결과를 낳는다.

그가 선호하는 다음 단계는 고위급 회의다. Johnson은 Trump, 의회 지도부, 주요 AI 기업의 수장들이 한자리에 모이기를 원한다. 이들은 안전 예방조치와 지속적인 개발 간의 수용 가능한 균형을 모색하게 된다.

이 접근법은 합의를 행동의 관문으로 만든다. 동시에 기업들이 자사 모델에 적용될 기준에 상당한 영향력을 갖게 한다.

Johnson은 AI 개발사들이 기술과 새롭게 떠오르는 위험을 이해하는 데 더 유리한 위치에 있다고 설명했다. 특히 공개되지 않은 시스템을 평가할 때 이들의 전문성은 실질적이다. 그러나 전문성이 시장 점유율, 자금 조달, 제품 출시, 경쟁상 비밀과 관련된 이해 충돌을 없애지는 않는다.

하원의장의 입장은 그의 더 광범위한 정책 의제와도 맞닿아 있다. 3월 AI 발언에서 Johnson은 필요한 경우에만 정부가 규제해야 한다고 촉구했다. 그는 미국의 AI 리더십을 신속한 인프라 투자와 제한적인 행정 마찰이 필요한 경쟁으로 제시했다.

이전 발언에서는 단일한 국가 프레임워크도 요구했다. Johnson은 이 프레임워크가 아동을 보호하고, 지역사회를 지키며, 창작자를 지원하고, 상충하는 주 규칙을 피해야 한다고 말했다.

9월 발언은 그 프레임워크로 가는 즉각적인 경로를 좁힌다. 의회가 법정 요건을 앞세우는 대신, Johnson은 이제 산업계 지도자들이 형성하는 협상 과정을 강조한다.

이것이 사건의 핵심 변화다. 하원의장은 AI 안전을 우선순위로 지목했지만, 시작 단계의 부담을 민간 개발사들에 맡겼다. 의회는 최초의 의무적 기준선을 설정하는 기관이 아니라 소집자이자 향후 집행 가능 기관이 된다.

이 결정이 중요한 이유는 기업들이 이미 테스트, 배포, 공개에 관한 자체 결정을 내리고 있기 때문이다. 연방 요건이 없다면 각 연구소는 수용 가능한 위험을 서로 다르게 정의할 수 있다.

자발적 책임도 의미 있는 안전장치를 만들어낼 수 있다. 기업들은 모델 접근, 내부 평가, 보안 절차, 출시 일정을 통제한다. 이들은 의회가 법을 통과시키는 것보다 더 빠르게 출시를 늦출 수 있다.

답하지 않은 질문은 한 기업이 거부할 경우 어떻게 되는가다. 경쟁사가 계속 개발·출시·판매하는 동안 다른 기업들이 자제하면, 자발적 시스템은 유지하기 어려워진다.

이 약점은 더 큰 이해관계로 곧바로 이어진다. Johnson의 접근법은 경쟁이 끊임없이 약화시키는 부담을 민간 조율에 맡긴다.

안전 논쟁은 이제 양방향에서 AI 연구소를 압박하고 있다

AI 기업들은 위험한 개발을 늦추라는 압박과 함께, 자발적 자제가 경쟁상 불리함으로 이어지지 않을 것임을 입증해야 하는 압박을 받고 있다.

당장의 압박은 가장 역량이 높은 범용 모델을 개발하는 주요 프런티어 연구소들에 가해진다. Anthropic, OpenAI, Google, Elon Musk의 AI 사업 부문은 모두 더 빠른 개발과 높아지는 위험을 둘러싼 정치적 논의에 참여했다.

업계 지도자들은 더 이상 가설적인 우려만 언급하지 않는다. Anthropic CEO Dario Amodei는 안전 조치가 역량을 따라잡는 데 시간이 필요하다고 주장해 왔다.

Amodei는 첨단 에이전트가 6개월에서 12개월 안에 광범위한 온라인 활동을 조율할 수 있게 될 수 있다고 경고했다. 그의 전망은 독립적으로 검증된 역량 이정표가 아니라 예측에 머문다.

그럼에도 이 경고는 첨단 모델과 내부 연구에 직접 접근할 수 있는 지도자에게서 나왔다. 이는 연구소와 입법자들이 안전 계획을 설명해야 한다는 요구를 강화했다.

최근의 업계 안전 경고는 전직 Anthropic 연구자들의 공개 사임 뒤에도 이어졌다. 이 연구자들은 연구소들이 심각한 위험에 충분히 대응하지 못하고 있다고 주장했다.

OpenAI CEO Sam Altman도 추가적인 역량 향상을 위해서는 모니터링, 정렬, 모델 행동에 대한 이해의 진전이 필요하다고 말해 왔다. 정렬은 AI 시스템의 행동을 인간의 의도와 수용 가능한 경계에 부합하도록 유지하는 것을 뜻한다.

이 발언들은 Johnson의 제안에 이례적인 부담을 준다. 책임을 부여받은 기업들 스스로 개별 행동만으로는 충분하지 않을 수 있다고 말하고 있기 때문이다.

한 연구소만 개발 속도를 늦추면 경쟁사들은 역량 격차를 좁힐 시간을 얻는다. 투자자, 기업 고객, 전략적 파트너들도 자제를 동력 상실로 해석할 수 있다.

기업 지도자들은 안전이 최우선이라고 약속할 수 있다. 그러나 현재 각 참여자가 비교 가능한 테스트를 통해 위험을 측정하는지 검증하는 공동 심판은 없다.

압박은 반대 방향으로도 작용한다. 연방 개입 비판자들은 기존 연구소들이 안전 규칙을 시장 지위를 보호하는 데 활용할 수 있다고 의심한다.

대기업은 광범위한 평가, 법무팀, 보고 시스템, 정부 대응을 감당할 수 있다. 소규모 개발사들은 시스템의 위험이 더 낮더라도 같은 의무를 감당하기 어려울 수 있다.

이 우려는 규제 설계를 중요하게 만든다. 모든 모델에 단일 요건을 적용하면 자본과 규제 준수 인력이 더 많은 기업에 유리할 수 있다.

위험 기반 규제는 또 다른 경로를 제시한다. 더 높은 역량, 더 광범위한 접근성, 또는 더 높은 위험의 사용 사례를 가진 모델에 더 강력한 요건을 적용할 수 있다. 그러나 입법자들은 회피를 막을 수 있을 만큼 그 기준선을 명확히 정의해야 한다.

Johnson의 중국 논거는 또 하나의 층위를 더한다. 그는 지속적인 미국 개발을 단순한 상업적 선호가 아니라 국가 안보 요건으로 규정한다.

미국의 일방적 모라토리엄이 중국 연구소들을 자동으로 구속하지는 않을 것이다. 또한 국제 파트너십, 공개 모델, 분산 컴퓨팅을 통해 수행되는 연구를 감시하기도 어려울 수 있다.

그렇다고 모든 연방 안전장치가 미국의 경쟁력을 약화시킨다는 뜻은 아니다. 사고 보고, 표준화된 평가, 보안 요건은 전면적인 개발 동결과 상당히 다르다.

그럼에도 Johnson의 프레이밍은 가장 극적인 선택지를 논쟁의 중심에 둔다. 모라토리엄을 거부함으로써 그는 광범위한 감속을 받아들이지 않으면서도 더 좁은 범위의 안전장치를 지지할 수 있다.

이제 연구소들은 그러한 더 좁은 조치에 무엇이 포함되어야 하는지 설명해야 한다. 또한 어떤 보호장치에는 법이 필요하고, 어떤 보호장치는 자발적 약속을 통해 작동할 수 있는지 명확히 해야 한다.

개발사와 기업 구매자들은 이 답에 실질적인 이해관계를 갖고 있다. 이들의 제품은 점점 외부 모델, 애플리케이션 프로그래밍 인터페이스, 소프트웨어 시스템 전반에서 행동을 수행할 수 있는 AI 에이전트에 의존하고 있다.

공급자가 안전장치를 변경하면 하위 고객들은 위험의 일부를 떠안게 된다. 이들은 평가, 사고 이력, 배포 제한에 대한 비슷한 가시성 없이 새로운 역량을 제공받을 수 있다.

따라서 자발적 시스템은 조달 결정에 영향을 미친다. 구매자들은 공급자의 안전 문서가 구체적이고, 검증 가능하며, 출시 후에도 유지되는지 평가해야 한다.

Mike Johnson의 AI 규제 입장은 이러한 실사 책임을 고객 쪽으로 더 가깝게 옮긴다. 집행 가능한 기준이 등장하기 전까지 구매자들은 모든 주요 모델이 하나의 공통된 연방 안전 기준선을 통과했다고 가정할 수 없다.

자발적 안전장치는 신속하지만 독립적 집행은 미약하다

산업계 주도 안전은 신속히 대응할 수 있지만, 모든 경쟁사가 같은 규칙을 따르거나 실패를 일관되게 보고한다는 보장은 제공하지 못한다.

AI 연구소들은 의회가 갖지 못한 정보를 보유한다. 이들은 모델 가중치, 학습 방법, 내부 평가, 보안 사고, 공개되지 않은 역량을 검토할 수 있다.

이 접근성은 기업들을 모든 안전 프레임워크의 필수 참여자로 만든다. 그러나 그것만으로 자율 규제가 충분해지는 것은 아니다.

연구소는 몇 시간 안에 출시를 중단할 수 있다. 위험한 기능에 대한 접근을 제한하고, 모니터링을 강화하거나, 특정 사용자에게 신원 확인을 요구할 수 있다.

의회는 청문회, 협상, 위원회 표결, 소송 위험을 거친다. 새로운 법률은 기술적 전제가 바뀐 뒤에야 마련될 수 있다.

따라서 속도는 자발적 행동에 유리하다. 책임성은 집행 가능한 규칙에 유리하다.

미국에는 이미 유연한 지침의 모델이 있다. National Institute of Standards and Technology는 AI 위험을 식별, 측정, 관리하기 위한 자발적 위험 프레임워크를 운영한다.

이 프레임워크는 거버넌스, 매핑, 측정, 관리를 중심으로 위험 관리를 구성한다. 보편적인 법적 의무를 부과하지 않으면서 조직이 체계적인 절차를 구축하도록 돕는다.

이러한 지침은 Johnson이 선호하는 전문가 주도 행동을 뒷받침한다. 기업들은 서로 다른 모델, 분야, 사용 사례 전반에 이를 적용할 수 있다.

그러나 자발적 지침은 공개를 강제하지 않는다. 연구소에 심각한 사고 보고, 증거 보존, 또는 공개 전 모델의 독립 테스트 제출을 자동으로 요구할 수 없다.

안전 실패가 보이지 않는 경우 집행은 특히 중요해진다. 공급자는 고객, 경쟁사, 규제기관이 알지 못하는 사이에 내부적으로 유해한 행동을 발견할 수 있다.

공개적 투명성에도 자체적인 위험이 있다. 상세한 공개는 보안 취약점을 드러내거나 악의적 행위자에게 안전장치를 우회하는 방법을 가르칠 수 있다.

실행 가능한 시스템은 규제 당국을 위한 정보와 공개에 적합한 정보를 구분해야 한다. 또한 영업비밀과 보안에 민감한 조사 결과를 보호하기 위한 규칙도 필요하다.

가장 어려운 과제는 검증이다. 기업은 평가 점수를 공개할 수 있지만, 그러한 점수는 선택한 테스트, 접근 조건, 해석에 따라 달라진다.

모델은 구조화된 테스트에서는 안전하게 작동할 수 있지만, 도구, 장기 기억 또는 외부 데이터와 연결되면 다르게 행동할 수 있다. 에이전트는 한 번 답하는 대신 반복적으로 행동하기 때문에 새로운 실패 경로를 만들 수 있다.

독립 평가자는 이러한 정보 격차를 줄일 수 있다. 이들에게는 적절한 기술적 접근 권한, 보안 통제, 법적 보호가 필요하다.

정부 기관은 모든 테스트를 직접 설계하지 않고도 평가자를 승인할 수 있다. 의회는 기술 표준을 전문 기관에 위임하면서 보고를 의무화할 수도 있다.

이러한 선택지는 논쟁이 자율 규제와 모라토리엄의 양자택일을 넘어선다는 점을 보여준다. 그 양극 사이에는 많은 정책이 존재한다.

의무적 사고 보고는 연구를 동결하지 않으면서도 가시성을 만들 수 있다. 사이버보안 요건은 민감한 모델 자산을 보호하고 도난을 막을 수 있다.

배포 전 평가는 정의된 고위험 역량에 집중할 수 있다. 책임 규정은 예방 가능한 실패가 측정 가능한 피해를 일으켰을 때 누가 비용을 부담하는지를 결정할 수 있다.

Johnson은 그러한 모든 조치를 배제하지는 않았다. 대신 그의 발언은 현재 대응을 주도할 수 있는 기관으로서의 의회를 거부한다.

이러한 순서는 여전히 중요하다. 특히 의원들이 기업의 전문성에 의존할 때, 자발적 약속은 궁극적인 법적 기준선을 형성할 수 있다.

가장 큰 목소리를 내는 기업들이 어떤 위험이 주목받을지를 결정할 수 있다. 이들은 재앙적 시나리오를 강조하면서 차별, 사기, 노동시장 혼란, 프라이버시 또는 소비자 보호에는 상대적으로 덜 주목할 수 있다.

서로 다른 피해에는 서로 다른 규제 기관도 필요하다. 의료 분야에 사용되는 모델은 취약점을 찾기 위해 소프트웨어 시스템을 스캔하는 에이전트와는 다른 질문을 제기한다.

단 하나의 포괄적 안전 정상회의로는 모든 분야별 쟁점을 해결할 수 없다. 다만 원칙을 세우고, 책임을 배정하며, 더 세부적인 작업을 위한 일정을 만들 수는 있다.

Johnson의 접근법이 신뢰를 얻으려면, 회의는 공통의 우려를 표명하는 데 그쳐서는 안 된다. 측정 가능한 약속, 명시된 책임자, 보고 기한이 필요하다.

따라서 핵심적인 상충 관계는 안전과 혁신의 대립이 아니다. 경쟁 유인이 바뀌어도 일관성을 유지하는 규칙과 유연한 민간 행동의 대립이다.

자발적 자제는 모든 중요한 참여자가 협력을 유익하다고 볼 때 가장 잘 작동한다. 한 명의 이탈자만으로도 합의가 무너질 수 있을 때 법의 중요성은 더 커진다.

의회에는 제안이 있지만 합의된 연방 차원의 해답은 없다

합의가 없다는 것은 의회에 선택지가 없다는 뜻이 아니라, 어떤 위험이 구속력 있는 연방 조치를 정당화하는지 의원들이 아직 선택하지 않았다는 뜻이다.

Johnson의 발언은 하원 민주당 의원들과 일부 초당적 그룹의 압박 속에 나왔다. 여러 의원은 그에게 하원을 다시 소집하고 안전장치가 진전될 때까지 의사일정을 유지해 달라고 요청했다.

이 요청은 AI 연구자와 경영진의 공개 경고가 늘어나는 가운데 나왔다. 또한 11월 선거를 앞둔 압축된 하원 일정 중에 제기됐다.

하원 소수당 대표 Hakeem Jeffries는 민주당이 개발 속도를 늦추고 대중을 보호하기 위한 단호한 조치를 원한다고 말했다. 그는 AI를 자신의 당파가 우선시하는 사안으로 꼽았다.

그러나 Jeffries와 Johnson 모두 일요일 출연에서 완전한 입법 패키지를 제시하지는 않았다. 이로 인해 양측 모두 긴급성을 주장하지만 제정된 수단은 없는 상태가 됐다.

기존의 제안된 연방 안전장치는 가능한 선택지를 보여준다. 한 제안은 AI 시스템이 인간이 통제하는 방식으로 속도를 늦추거나 종료할 수 있는 수단을 유지하도록 요구한다.

또 다른 제안인 FRONTIER Act는 첨단 모델 개발과 배포를 위한 국가 차원의 프레임워크를 만들 것이다. 이 법안의 단계별 접근법은 기업 규모와 역량에 맞춰 의무를 부과하려 한다.

이 제안들은 아직 의회의 확정된 해답이 되지 못했다. 또한 정의, 기관 권한, 테스트 방법, 집행과 관련한 실무적 질문에도 직면해 있다.

종료 요건은 직관적으로 들린다. 하지만 모델이 복제, 수정, 해외 배포되었거나 접근 가능한 가중치와 함께 공개된 경우 그 이행은 더 어려워진다.

프런티어 모델 프레임워크에도 기준선이 필요하다. 컴퓨팅 사용량, 훈련 비용, 역량 테스트, 배포 규모는 각각 서로 다른 형태의 위험을 식별할 수 있다.

부실한 기준선은 빠르게 낡거나 기업이 이를 우회하도록 유도한다. 지나치게 넓은 정의는 재앙적 위험이 거의 없는 일반 소프트웨어까지 포괄할 수 있다.

Johnson은 성급한 입법을 경고하면서 이러한 복잡성을 지적한다. 모호한 법률은 안전을 개선하지 못하면서 불확실성만 초래할 수 있으므로 이러한 신중론에는 타당한 근거가 있다.

지연에도 그 자체의 비용이 따른다. 의회가 용어를 논의하는 동안 기업들은 계속 배포 결정을 내린다.

미국은 또한 확대되는 정책의 파편화에 직면해 있다. 주정부는 자동화된 결정, 투명성, 차별, 소비자 보호와 관련된 규칙을 통과시킬 수 있다.

기업들은 대체로 여러 주 차원의 제도보다 하나의 연방 표준을 선호한다. 국가 차원의 규칙은 준수 요건 간 충돌을 줄일 수 있지만, 연방 우선권은 더 강력한 지역 보호 조치를 없앨 수도 있다.

이러한 갈등은 주요 연구소들이 때때로 연방 입법을 지지하는 이유를 설명한다. 국가 차원의 프레임워크는 확실성을 제공하고 서로 다른 주별 요건에 대한 노출을 제한할 수 있다.

따라서 비판자들은 규제 요구가 공공 안전, 상업적 편의성 또는 둘 모두를 반영하는지 의문을 제기한다. 이러한 동기는 공존할 수 있다.

Mike Johnson의 AI 규제 접근법은 이 질문에 답하는 과정에서 업계 리더에게 중심적 역할을 부여한다. 이들의 권고는 의회가 자발적 약속, 의무적 보고, 역량 기반 통제 중 무엇을 선호할지에 영향을 미칠 것이다.

의회는 또한 어느 기관에 기술적 권한을 부여할지 결정해야 한다. 일반주의 의원들은 모델이 바뀔 때마다 세부 평가 방법을 갱신할 수 없다.

전문 기관은 전문성을 제공할 수 있지만, 그 권한을 둘러싼 정치적 갈등을 불러올 수 있다. 기존 기관은 분야별 피해를 다룰 수 있지만, 그 권한에는 영역 간 공백이 남을 수 있다.

NIST는 자발적인 기술 관행을 개발할 수 있다. 규제 기관은 다른 곳에서 확립된 법적 구속력이 있는 의무를 해석할 때 그러한 관행을 활용할 수 있다.

이러한 역할 분담은 제한적 규제를 선호한다는 Johnson의 입장에 부합할 수 있다. 의회는 결과를 정하고 기술 기관은 방법을 정교화할 수 있다.

그러나 역사적 기록은 비판자들에게 여전히 우려할 이유를 제공한다. 의회는 피해가 고착되기 전에 빠르게 변화하는 기술 플랫폼을 규제하는 데 반복적으로 어려움을 겪었다.

소셜 미디어 정책은 경고적 비교 사례를 제공한다. 자발적 콘텐츠 관리와 투명성 약속은 자주 바뀌었고, 인센티브와 경영진의 우선순위도 변했다.

AI는 기술적·경제적 조건이 다르므로 그 역사가 직접적인 예측은 아니다. 다만 대중의 압력이 약해질 때 기업의 책임이 약화될 수 있음을 보여준다.

정상회의는 조율을 시작할 수 있다. 그러나 기업들이 이견을 보이거나 자발적 약속이 불편해질 때 지속적인 권한을 대체할 수는 없다.

따라서 Johnson의 입장에 대한 회의적 해석은 간단하다. 의회는 안전을 우선 과제라고 부르면서도, 지속적 확장의 혜택을 받는 기업에 어려운 결정을 넘길 위험이 있다.

더 호의적인 해석도 뚜렷하다. Johnson은 의원들이 실제 위험을 다루지 못하는 규칙을 부과하기 전에 기술적 정보를 갖춘 조치를 원한다.

두 해석의 차이는 이후 무엇이 뒤따르는지에 달려 있다. 문서화된 절차는 두 번째 해석을 뒷받침할 것이다. 끝이 정해지지 않은 일련의 회의는 첫 번째 해석을 강화할 것이다.

핵심 갈등은 공동 자제와 경쟁 유인의 대립이다

AI 기업들은 위험이 심각하다는 데 동의할 수 있지만, 통상적인 시장 및 법적 조건에서는 함께 속도를 늦추지 못할 수 있다.

OpenAI와 Anthropic은 각각 발전하는 역량에 대한 우려를 제기해 왔다. 양사의 경영진은 조율, 모니터링, 정부 참여의 필요성을 논의해 왔다.

Altman은 Fortune에 기업들이 자아나 이익 유인이 안전을 압도하도록 해서는 안 된다고 말했다. 또한 모델 행동을 이해하고 통제하는 데 진전이 있어야 추가 역량 개발이 가능하다고 말했다.

가능한 기업 안전 협약은 일방적 자제의 첫 번째 약점을 다룰 수 있다. 여러 연구소가 한 참여자만 노출되는 대신 속도 조절을 함께 조율할 수 있다.

그러나 이러한 조율은 즉각적인 질문을 제기한다. 어떤 역량이 자제를 촉발하는지, 누가 준수를 검증하는지, 어떤 중단은 얼마나 지속되는가?

기업들은 반독점법도 고려해야 한다. 경쟁사가 안전을 이유로 들더라도 제품 개발이나 시장 출시 시점을 조율하면 법적 제한에 직면할 수 있다.

정부 참여는 제한적 협력을 위한 합법적 구조를 제공할 수 있다. Johnson이 제안한 회의는 즉각적인 법정 모라토리엄을 부과하지 않고도 그러한 구조를 구축하는 데 도움이 될 수 있다.

이는 그의 정상회의 구상에 의례적인 청취 세션 이상의 실질을 부여한다. 연방 정부의 참여는 어떤 형태의 조율이 정당한 안전 목적에 부합하는지 명확히 할 수 있다.

그럼에도 일부 미국 기업만 참여하는 협약의 영향력은 제한적일 것이다. 오픈소스 개발자, 해외 연구소, 신규 진입자는 협약 밖에 남을 수 있다.

참여의 정의도 중요하다. 기업은 한 모델의 속도를 늦추는 데 동의하면서 협약 범위 밖에 있는 다른 시스템의 개발은 가속할 수 있다.

관련 작업이 내부에서 이뤄지기 때문에 모니터링은 어려워진다. 외부 관찰자는 진정한 속도 조절과 지연된 제품 발표를 신뢰성 있게 구분할 수 없다.

기업들 역시 위험과 전략에 대해 의견이 다르다. Anthropic은 안전 연구를 중심으로 공적 정체성의 상당 부분을 구축해 왔다. OpenAI는 광범위한 상업 플랫폼을 내세우면서 유사한 주장을 균형 있게 제시한다.

Google은 더 큰 기업 구조와 폭넓은 제품 포트폴리오 안에서 운영된다. Musk의 기업들은 AI 개발을 소셜 미디어, 인프라, 기타 사업과 결합한다.

이들 조직은 동일한 유인에 직면하지 않는다. 공동 성명은 자금 조달, 유통, 컴퓨팅 접근성, 리더십 우선순위의 차이를 없애지 못한다.

위험 논쟁은 서로 다른 시간 범위도 아우른다. 즉각적인 우려에는 사기, 사이버보안 악용, 프라이버시 실패, 신뢰할 수 없는 자동화된 결정이 포함된다.

장기적 경고는 감독을 회피하거나 해로운 목표를 추구할 수 있는 고도의 자율 시스템에 초점을 맞춘다. 한 범주에 적합한 정책이 다른 범주에는 대응하지 못할 수 있다.

개발 중단은 첨단 역량을 겨냥하면서 현재의 피해는 대체로 방치할 수 있다. 프런티어 일정과 무관하게 소비자 보호와 분야별 집행은 여전히 필요하다.

Johnson이 중국을 강조하는 점은 공동 자제를 더욱 복잡하게 만든다. 미국 기업들은 외국 경쟁자에게 전략적 우위를 넘긴다고 믿는 규칙에 저항할 것이다.

국제적 조율은 이러한 우려를 줄일 수 있지만, 검증과 상호 신뢰가 필요하다. 더 광범위한 지정학적 경쟁 상황에서 이러한 조건은 충족하기 어렵다.

미국은 모든 안전 조치에 대해 완전한 글로벌 합의가 필요한 것은 아니다. 보안 표준, 사고 보고, 국내 배포 규칙은 국가 차원에서 운영될 수 있다.

광범위한 역량 중단은 더 어려운 조율 문제를 제시한다. 연구는 국경을 넘어 이동할 수 있고, 지식은 한번 공개된 뒤 언제나 통제할 수 있는 것은 아니다.

이것이 Johnson의 모라토리엄 거부가 정치적 호소력을 갖는 이유다. 이는 가장 어려운 집행 문제를 피하면서 더 좁은 조치를 위한 여지를 남긴다.

광범위한 일시 중단의 한계를 정책 입안자들이 모든 의무적 안전장치를 피해야 할 이유로 받아들이는 데 위험이 있다. 두 결론은 논리적으로 이어지지 않는다.

의회는 동결안을 거부하면서도 공개 의무, 평가, 보안 보호 조치 또는 비상 대응 계획을 요구할 수 있다. 기업은 집행을 통제하지 않으면서도 기술 설계를 주도할 수 있다.

이 이야기의 핵심 대립은 공화당 대 민주당이 아니다. 자제를 처벌하는 경쟁 압력에 맞서는 자발적 공동 자제다.

정당 간 이견은 의회가 행동할지에 영향을 미친다. 경쟁 유인은 그러한 행동 없이 업계 리더십이 작동할 수 있는지를 결정한다.

Johnson은 우선 민간 경로를 시험하기로 했다. 이제 연구소들은 우려가 경고와 일반 원칙에 그치지 않고 관찰 가능한 행동으로 이어진다는 점을 보여야 한다.

계획이 실질적인 안전장치를 만드는지 보여줄 세 가지 신호

다음 시험대는 또 다른 모델 출시나 안전 사고가 논쟁의 양상을 바꾸기 전에 정치권 회의가 측정 가능한 약속을 만들어내는지 여부다.

첫 번째 신호는 제안된 회의 자체다. Johnson은 Trump, 의회 지도부, 주요 AI 경영진이 신속히 한자리에 모이기를 원한다고 말했다.

독자들은 누가 참석하고 누가 논의의 장 밖에 남는지 지켜봐야 한다. 좁은 집단만으로는 더 넓은 시장에 대한 신뢰할 만한 기대치를 확립할 수 없기 때문에 대표성이 중요하다.

회의에는 명확한 산출물도 필요하다. 서면 프레임워크, 과제 목록 또는 일정은 단순 협의를 넘어 진전이 있음을 보여줄 것이다.

참가자들이 기존 입장만 되풀이한다면, 정상회의는 합의 부재를 드러낼 것이다. 그런 결과는 업계 리더십이 실용적인 첫 단계가 될 수 있다는 Johnson의 주장을 약화시킬 것이다.

두 번째 신호는 연구소들이 검증 가능한 공동 약속을 발표하는지 여부다. 그러한 약속에는 적용 대상 시스템, 발동 조건, 시험 방법, 공개 의무가 명시돼야 한다.

의미 있는 합의는 내부 안전 결정과 외부에서 독립적으로 검토할 수 있는 의무를 구분할 것이다. 또한 한 참가자가 합의를 위반했을 때 어떤 일이 일어나는지도 설명할 것이다.

합법적인 협력을 뒷받침하는 정부 지원에도 주목해야 한다. 그런 지원이 없다면 기업들은 동시다발적인 감속 논의를 할 때 독점금지 우려를 제기할 수 있다.

협약이 파국적 위험만 다루는지도 살펴봐야 한다. 초점을 좁게 잡으면 현재의 기업 및 소비자 피해가 프레임워크 밖에 남을 수 있다.

구체적 약속은 업계 주도의 초기 단계가 타당하다는 근거를 강화할 것이다. 감시 없는 일반적 약속은 의무적 기준이 필요하다는 근거를 강화할 것이다.

세 번째 신호는 범위를 좁힌 법안에 대한 의회의 움직임이다. 사고 보고, 모델 평가, 중단 통제, 사이버보안 규칙은 포괄적 모라토리엄보다 더 명확한 시험 기준을 제공한다.

우려 표명보다 위원회 청문회와 법안 문안이 더 중요하다. 예정된 법안 심사나 초당적 합의는 의회가 여전히 집행 가능한 경계를 마련할 의도가 있음을 보여줄 것이다.

지속적인 지연은 자발적 관행을 연방 차원의 주요 안전 체계로 남겨둘 것이다. 그런 결과는 구매자, 개발자, 연구자에게 공급업체를 독립적으로 평가해야 한다는 더 큰 부담을 지울 것이다.

기업 고객은 이미 직접적인 질문을 던져야 한다. 배포 전에 어떤 평가가 이뤄지며, 누가 그 결과를 검토할 수 있는가?

구매자는 공급업체가 심각한 사고, 모델 변경, 새로운 도구 권한을 어떻게 공개하는지도 물어야 한다. 자발적인 공개 약속이 모호하게 남아 있을 때는 계약 조건이 중요하다.

에이전트를 구축하는 개발자는 특히 주의해야 한다. 에이전트는 제한적인 사람의 개입만으로 도구를 호출하고, 정보를 검색하며, 연결된 시스템 전반에서 행동할 수 있다.

팀은 권한을 제한하고, 로그를 보존하며, 실패 시나리오를 시험하고, 중대한 결과를 초래할 수 있는 행동에는 사람의 승인을 유지해야 한다. 이러한 통제는 의회의 합의 여부에 의존하지 않는다.

하지만 이것들이 공급업체 차원의 안전장치를 대체할 수는 없다. 고객은 모든 심각한 위험을 평가하기에 충분한 기반 모델 정보를 거의 볼 수 없다.

그 경계 때문에 연방 정책은 여전히 중요하다. 민간의 위험 관리는 노출을 줄일 수 있지만, 집행 가능한 기준은 변화하는 유인에도 지속되는 의무를 정의한다.

Mike Johnson의 AI 규제 입장은 다음 수를 이례적으로 분명하게 만들었다. AI 기업들은 주도권을 갖고, 책임을 수용하며, 실행 가능한 안전장치를 제안하라는 요청을 받았다.

이제 그 기업들은 책임이 출시 속도를 늦추고, 증거를 공유하고, 감독을 수용하는 것을 뜻하는지, 아니면 단지 또 다른 회의에 참석하는 것을 뜻하는지 결정해야 한다.

의회도 자체적인 결정을 앞두고 있다. 기술적 권고를 지속 가능한 규칙으로 전환할 수도 있고, 끝내 도달하지 않는 합의를 계속 전제조건으로 취급할 수도 있다.

향후 3개월 동안 정상회의의 산출물, 감시 체계를 갖춘 업계 협약, 범위를 좁힌 연방 법안의 움직임을 지켜봐야 한다. 각각은 Johnson이 택한 경로를 구체적으로 시험하는 기준을 제공한다.

세 가지 모두 진전된다면, 미국은 다층적 안전 체계의 출발점을 갖게 될 것이다. 멈춘다면 책임은 다음 모델을 구축하기 위해 경쟁하는 기업 내부에 계속 집중될 것이다.

개발자, 구매자, 그리고 일상적인 AI 사용자에게 실질적인 질문은 즉각적이다. 집행 가능한 기준 없이도 안전 약속을 신뢰하게 만들 증거는 무엇인가?