Jensen Huang의 AI 규제 입장: 새로운 규칙을 거부하고 제품 제작자를 신뢰하다

Jensen Huang은 9월 15일 Salesforce의 Dreamforce 컨퍼런스에서 새로운 AI 규칙을 거부하며, AI 안전을 누가 통제해야 하는지를 둘러싼 직접적인 충돌을 촉발했다. Nvidia CEO는 인공지능이 여전히 인간이 구축한 컴퓨팅 시스템이라고 주장했다. 따라서 기업은 안전한 제품을 엔지니어링하고, 신뢰하지 않는 시스템은 출시하지 않을 수 있다. Jensen Huang의 AI 규제 입장은 시장 규율, 기존 법률, 그리고 제품 제작자의 자율적인 감시에 기반한다.

이 주장은 유난히 첨예한 안전 논쟁 속에서 나왔다. OpenAI, Anthropic 등 주요 AI 기업들은 자율성이 갈수록 높아지는 시스템에 더 강력한 안전장치가 필요하다고 경고해 왔다. 일부 업계 리더들은 독립적 평가, 정부 차원의 조율, 최고 성능 모델의 개발 속도 완화를 지지한다. 반면 Huang은 기업들이 자체적인 확신이 부족할 때만 멈추고 신속히 전진해야 한다고 말했다.

이 구분은 Nvidia가 AI 경쟁을 뒷받침하는 컴퓨팅 인프라의 상당 부분을 공급한다는 점에서 중요하다. 모델 개발이 빨라질수록 가속기, 네트워킹 시스템, 관련 소프트웨어에 대한 수요도 확대된다. 그러나 Huang은 새롭게 부상하는 규제의 더 근본적인 전제에도 이의를 제기하고 있다. AI가 단지 또 하나의 엔지니어링 제품이라면, 특별 AI 법률은 불필요한 장벽을 만들 수 있다. 반대로 그 행동을 예측하기 어렵다면, 기업의 판단에만 맡기는 방식은 심각한 책임성 공백을 남긴다.

Jensen Huang이 AI 규제에 관해 실제로 말한 것

Huang의 주장은 단순한 주장으로 시작한다. AI는 컴퓨팅 시스템에서 작동하는 소프트웨어이므로, AI 안전은 엔지니어링 팀의 몫이라는 것이다.

Dreamforce 무대에서 Huang은 AI가 인간의 통제 밖에서 작동하는 알 수 없는 지능이라는 이미지를 거부했다. 그는 AI를 사람이 만든 복잡한 컴퓨팅 시스템으로 묘사했고, 따라서 일반적인 엔지니어링 절차를 통해 관리할 수 있다고 봤다. 그의 주장은 규제 문제를 익숙한 제품 출시 판단의 문제로 축소한다.

기업은 제품을 시험하고, 그 행동을 연구한 뒤, 출시 준비가 됐는지 판단한다. 기업이 기능이나 안전성에 확신이 없다면 출시해서는 안 된다고 Huang은 말했다. 확신이 충분해지면 기업은 빠르게 움직여야 한다.

Huang은 전체 논쟁을 규정하는 한 문장으로 자신의 입장을 요약했다. “안전은 법적 문제가 아니라 엔지니어링 문제다.” 그의 더 폭넓은 AI 안전 주장 역시 속도와 안전은 양립 가능한 목표로 다뤘다.

이러한 틀은 AI 제품이 피해를 일으킬 수 있다는 점을 부정하지 않는다. 대신 각 시스템을 구축하는 기업에 가장 먼저, 그리고 가장 중요한 안전 판단을 맡긴다. 이후 시장 압력은 신뢰할 수 없는 제품을 제재하고, 기존의 책임법, 소비자 보호법, 산업별 법률은 유해한 결과를 다룬다.

이 접근법은 일반적인 소프트웨어 출시 관리와 닮아 있다. 개발자는 내부 테스트를 수행하고, 접근을 제한하며, 사고를 모니터링하고, 결함을 패치한다. 배포 팀은 단계적 출시를 활용할 수 있는데, 이는 제품을 더 넓게 배포하기 전에 소수의 사용자에게 먼저 제공하는 방식이다. 또한 용납할 수 없는 행동을 발견한 뒤 기능을 비활성화하거나 모델 접근 권한을 철회할 수도 있다.

그러나 고도화된 AI는 이 익숙한 과정을 복잡하게 만든다. 일반 애플리케이션은 대개 개발자가 직접 작성한 규칙을 따른다. 반면 머신러닝 모델은 데이터에서 패턴을 학습하며, 제작자가 명시적으로 지정하지 않은 행동을 만들어낼 수 있다.

이 차이가 AI를 외계 지능으로 만드는 것은 아니다. 다만 테스트를 더 어렵게 만든다. 팀은 수백만 건의 가능한 대화, 도구, 언어, 환경 전반에서 범용 모델이 생성할 수 있는 모든 응답을 수작업으로 열거할 수 없다.

Huang의 해법은 여전히 확신에 기반한다. 개발자는 출시 결정을 뒷받침할 만큼 강력한 평가, 안전 통제, 모니터링 시스템을 구축해야 한다. 이후 시장은 유용하고 신뢰할 수 있는 제품을 제공하는 기업에 보상한다.

해결되지 않은 문제는 누가 그 확신을 측정하느냐다. Huang의 답은 그 측정을 주로 제품 제작자에게 맡긴다. 독립 평가자, 공공기관, 고객, 영향을 받는 공동체에는 이 모델 아래에서 보장된 역할이 없다.

그의 발언은 특정 법안을 하나 반대하는 데 그치지 않았다. 그는 업계에 새로운 법률이나 규제가 필요하지 않다고 말했다. 이 폭넓은 입장은 Nvidia를 범용 및 고위험 AI를 위해 특별히 설계된 정책 체계와 대립시키는 것이다.

이는 Huang을 가장 큰 모델에 제한된 규칙을 원하는 경영진과도 구분한다. 이들 리더가 반드시 AI 개발 중단을 지지하는 것은 아니다. 많은 이들은 어떤 기업도 더 많은 위험을 감수해 우위를 얻지 못하도록 공동의 테스트 요건을 원한다.

따라서 Jensen Huang의 AI 규제 입장은 논쟁의 초점을 바꾼다. 핵심 질문은 더 이상 안전이 중요한가가 아니다. 거의 모든 참여자가 중요하다고 말한다. 쟁점은 경쟁이 속도에 보상할 때, 자발적인 엔지니어링 결정이 충분한 보호를 제공하느냐다.

AI 안전 논쟁이 지금 격화된 이유

다른 AI 리더들이 외부 평가와 조율된 제한으로 움직이는 가운데 Huang이 발언했기에, 그의 새로운 규칙 거부는 특히 큰 의미를 지닌다.

직접적인 배경에는 프런티어 AI 연구자와 경영진이 최근 잇달아 내놓은 경고가 있다. 프런티어 AI란 현재 이용 가능하거나 개발 중인, 가장 성능이 높은 범용 시스템을 뜻한다. 이 시스템들은 다양한 작업을 수행할 수 있으며, 인간의 감독이 점차 줄어드는 상황에서 소프트웨어 도구를 작동할 수도 있다.

OpenAI 수석 과학자 Jakub Pachocki는 최근 연구자들이 완전히 이해하지 못하는 지성으로서의 고도화된 AI를 묘사했다. 그는 외계의 마음 에세이에서 역량이 빠르게 성장하는 만큼 극도의 주의와 더 폭넓은 개입이 필요하다고 주장했다.

Pachocki의 우려는 재귀적 자기 개선에 집중돼 있다. 이는 시스템이 자신의 능력을 활용해 더 유능한 후속 시스템을 설계하는 현상을 뜻한다. OpenAI는 통제되지 않은 순환이 오늘날 실제로 일어나고 있다고 확정하지는 않았다. 연구진은 미래의 시스템이 자신의 개발에 점점 더 기여할 가능성을 경고하고 있다.

Huang은 그러한 우려를 둘러싼 언어를 거부한다. 그는 이 시스템들이 여전히 인간이 설계한 하드웨어, 소프트웨어, 학습 과정, 배포 선택에 의존하므로 AI를 외부적이거나 독립적인 마음으로 묘사하는 것은 오해를 부른다고 본다.

양측은 같은 기술의 실제 특성을 서로 지적한다. AI 시스템은 통제 가능한 인프라 위에서 물리적으로 작동하며, 기업은 접근을 제한할 수 있다. 그러나 개발자는 모든 모델 출력이나 학습된 행동에 대해 완전하고 인간이 읽을 수 있는 설명을 제공하지 못하는 경우가 많다.

Anthropic CEO Dario Amodei가 독립 평가자에게 지속적인 접근 권한을 제공하자고 제안하면서 이견은 더 커졌다. 이 개념 아래에서는 외부 전문가가 일회성 시연을 받는 대신 안전 관행을 지속적으로 들여다볼 수 있다. OpenAI CEO Sam Altman은 이 제안을 지지하고, 고도화된 AI 안전 기준을 위한 연방 차원의 체계를 지지했다.

이 제안들은 집단행동 문제를 인식한다. 추가 테스트를 위해 모델 출시를 늦추는 기업은 고객, 인재, 투자자의 지지를 잃을 수 있다. 더 빨리 출시하려는 경쟁사는 그 혜택을 차지하는 동시에 위험의 일부를 사용자와 사회에 전가할 수 있다.

자발적 자제는 모든 중요한 참여자가 비슷한 유인을 마주할 때 가장 효과적이다. AI 시장에는 그런 보장이 없다. 민간 연구소, 대형 기술 기업, 오픈웨이트 개발자, 국가 지원 프로젝트는 서로 다른 상업적·정치적 압력 아래에서 움직인다.

국제 경쟁은 또 다른 장애물이다. 미국 정책 입안자들은 중국에 기술적 주도권을 빼앗길 것을 우려한다. 기업들 역시 국내 규제가 준수하는 개발자만 묶고 해외 경쟁자에게는 영향을 주지 않을 것을 걱정한다.

Huang은 이 경쟁 현실을 신속한 배포의 근거로 활용한다. 그의 입장은 유용한 AI 도입이 경제와 제도를 강화한다는 것이다. 가상의 위험 때문에 이를 늦추면 생산성 약화와 과학 발전 지연을 포함한 자체 비용이 발생할 수 있다.

7월에 Huang은 Axios에도 정책 입안자들이 공상과학 시나리오가 의사결정을 이끌도록 해서는 안 된다고 말했다. 그의 반-파멸론 입장은 일부 기업이 시장 지위를 보호하는 규제를 지지할 수 있음을 시사했다.

이 비판은 검토할 가치가 있다. 대형 연구소는 소규모 개발자보다 테스트, 문서화, 규정 준수 비용을 더 쉽게 감당할 수 있다. 잘못 설계된 규제는 법률 자원을 경쟁 우위로 전환해 기존 강자를 고착시킬 수 있다.

그렇다고 규제 포획이 모든 규칙에 반대하는 논거가 되는 것은 아니다. 이는 좁은 범위의 의무, 비례적인 준수 방식, 접근 가능한 기준을 마련해야 한다는 논거다. 소수의 지배적 기업이 공적 감독 없이 안전을 정의할 때에도 같은 집중 문제는 적용된다.

시점 역시 정치적 무게를 지닌다. Donald Trump 대통령은 AI 개발 둔화에 강하게 반대했고, 파국적 경고를 음모로 규정했다. 이는 Huang의 엔지니어링 우선 접근법에 행정부 내부의 영향력 있는 청중을 제공한다.

그 결과 이례적인 분열이 나타난다. 여러 프런티어 AI 리더가 더 큰 조율을 요구하는 반면, 주요 인프라 공급업체는 새로운 규제를 거부한다. 이견은 기술자와 외부인 사이의 것이 아니다. AI 산업의 중심부를 가로지른다.

진짜 상충 관계는 기업 통제와 외부 책임성 사이에 있다

엔지니어링은 AI 위험을 줄일 수 있지만, 공급업체가 허용 가능한 위험을 정의하게 두는 것은 그들이 자신의 상업적 유인까지 판단하도록 허용하는 일이기도 하다.

Huang은 한 가지 핵심적인 점에서는 옳다. 법률만으로 모델을 안전하게 만들 수는 없다. 안전은 개발, 테스트, 배포, 사고 대응 전 과정에서 수행되는 기술적 작업에 달려 있다.

엔지니어는 위험한 도구를 제한하고, 적대적 프롬프트를 통해 모델을 테스트하며, 비정상적 활동을 모니터링할 수 있다. 시스템의 실패를 의도적으로 탐색하는 레드 팀 운영은 출시 전에 취약점을 발견할 수 있다. 샌드박스는 AI 에이전트를 민감한 프로덕션 시스템으로부터 격리할 수 있다.

제품 제작자는 규제기관이 쉽게 재현할 수 없는 정보도 보유한다. 이들은 학습 과정, 모델 아키텍처, 내부 평가, 배포 통제를 알고 있다. 이런 세부 사항을 무시하는 외부 규칙은 시대에 뒤처지거나 역효과를 낼 수 있다.

그러나 엔지니어링과 법률은 서로 다른 문제를 해결한다. 엔지니어링은 실패의 확률이나 심각도를 줄인다. 법률은 의무를 부여하고, 최소 기준을 정하며, 공개 요건을 만들고, 피해 발생 이후 누가 책임을 지는지 결정한다.

기업은 유능한 안전 시스템을 구축하면서도 공격적인 출시 일정을 선택할 수 있다. 상업적으로는 합리적으로 보이지만 제품을 선택하지 않은 사람들에게 비용을 전가하는 실패율을 받아들일 수도 있다. 지식재산권이나 평판을 보호하기 위해 공개를 제한할 가능성도 있다.

시장 규율도 유사한 한계를 가진다. 고객은 결함을 발견한 뒤 불량 소비자 제품을 제재할 수 있다. 그러나 실패를 추적하기 어렵거나, 피해가 늦게 나타나거나, 많은 당사자에게 분산될 때 이 과정은 약해진다.

하류 소프트웨어까지 퍼지는 AI 생성 보안 취약점을 생각해 보자. 모델 제공업체, 애플리케이션 개발자, 기업 고객, 인간 운영자는 각각 결과의 일부를 통제할 수 있다. 나중에 피해를 본 사용자는 어떤 결정이 실패를 초래했는지 식별하기 어려울 수 있다.

자동화된 고용, 대출, 보험 또는 의료 의사결정에서도 유사한 문제가 발생한다. 구매자는 시스템을 선택하지만, 그 결과를 경험하는 것은 다른 사람이다. 그 사람은 모델, 평가 결과 또는 결정의 근거가 된 증거에 접근하지 못할 수 있다.

기존 법률은 일부 결과에 대응할 수 있다. 제조물 책임법은 결함 있는 제품을 다룰 수 있고, 개인정보 보호 규정은 데이터 처리를 제한할 수 있으며, 차별금지법은 자동화된 의사결정에 적용될 수 있다. 부문별 규제기관도 의료, 금융, 교통, 핵심 인프라를 감독할 수 있다.

하지만 이러한 시스템은 맥락에 따라 행동이 달라지는 범용 모델을 중심으로 항상 설계된 것은 아니다. 소송 역시 피해가 발생한 뒤에야 제기된다. 법원은 억지력을 만들 수 있지만, 실패가 빠르게 확산될 수 있는 경우 출시 전 테스트를 대체할 수는 없다.

이 때문에 AI 규제 논쟁은 흔히 절차상 의무에 초점을 맞춘다. 정부가 모델 아키텍처를 지시할 필요는 없다. 문서화, 사고 보고, 외부 평가 또는 고위험 배포가 정의된 테스트를 통과했다는 증거를 요구할 수 있다.

Huang의 접근법은 기업의 출시 결정을 핵심 통제 지점으로 본다. 반대 접근법은 시스템이 특정 역량 또는 위험 임계값에 도달할 때 독립적인 점검 단계를 추가한다.

어느 모델도 판단을 없애지는 않는다. 규제기관은 어떤 시스템이 대상인지 결정해야 하고, 평가자는 의미 있는 테스트를 선택해야 한다. 외부 책임성의 장점은 완벽한 예측이 아니라, 상업적 성공이 출시를 형성하는 유일한 강력한 유인이 되지 않게 한다는 데 있다.

기업 구매자에게 이 구분은 오늘날의 조달에 영향을 미친다. 공급업체가 자신의 시스템은 안전하다고 말하는 것은 한 종류의 증거를 제공한다. 상세한 평가 결과, 감사 접근권, 사고 대응 절차, 계약상 책임은 더 강력한 증거를 제공한다.

팀은 모델이 접근할 수 있는 대상, 어떤 결정에 사람의 승인이 필요한지, 실패를 어떻게 조사할지를 문서화해야 한다. 이 기록을 검색 가능한 지식 기반에 유지하면 엔지니어링, 법무, 보안 팀이 동일한 증거를 검토하는 데 도움이 될 수 있다.

이러한 거버넌스 작업은 입법을 기다릴 필요가 없다. 기업은 지금 모델 카드, 테스트 요약, 데이터 처리 세부 정보를 요청할 수 있다. 공급업체가 모델이나 안전 통제를 변경할 때 통지를 요구할 수도 있다.

Huang의 엔지니어링 강조는 그러한 운영 수준에서 유용하다. 그러나 엔지니어링이 감독이 검증해야 할 핵심 활동이 아니라 독립적 감독을 거부하는 이유가 될 때 약점이 드러난다.

유럽은 이미 정반대 모델을 시험하고 있다

유럽연합은 제품 수준의 엔지니어링 의무와 고위험 AI에 대한 집행 가능한 규칙을 결합함으로써 순수한 자율 규제를 거부했다.

EU AI Act는 위험 기반 구조를 사용한다. 모든 시스템에 동일한 의무를 부과하지 않는다. 최소 위험으로 간주되는 애플리케이션은 일반적으로 새로운 요건을 거의 받지 않는 반면, 정의된 고위험 용도에는 더 엄격한 처우가 적용된다.

범용 AI 모델은 또 다른 범주를 차지한다. 공급업체는 투명성 및 저작권 의무를 부담하며, 시스템적 위험과 연관된 모델은 위험 평가와 완화를 거쳐야 한다. 시스템적 위험이란 모델의 높은 역량 또는 광범위한 배포로 인해 피해가 널리 확산될 수 있는 상황을 뜻한다.

이 법의 범용 모델 의무는 2025년 8월부터 적용되기 시작했다. 더 광범위한 거버넌스 및 집행 책임은 2026년 8월에 발효됐다. 유럽 AI Office는 문서를 요청하고, 모델을 평가하며, 시정 조치를 요구하고, 미준수에 대해 제재를 부과할 수 있다.

EU의 AI Act framework는 기업이 법적 의무를 충족하도록 돕기 위해 자발적 행동 강령도 활용한다. 이 혼합 구조는 산업 전문성과 공적 집행을 결합한다는 점에서 중요하다.

이는 엔지니어와 변호사 간의 단순한 대결이 아니다. 유럽 규제기관은 여전히 기술 표준, 기업 문서, 전문가 평가에 의존한다. 기업 역시 위험을 통제하기 위해 사용되는 많은 방법을 선택한다.

차이는 그러한 선택 아래에 놓인 최소 기준에 있다. 공급업체는 적용 대상 시스템이 안전하다는 사적 판단에만 의존할 수 없다. 적용되는 의무를 충족하고 당국이 검토할 수 있는 증거를 제공해야 한다.

비판론자들은 이 체계가 준수 비용과 법적 불확실성을 만든다고 주장한다. 표준은 모델 개발을 따라가지 못할 수 있다. 입법자가 간소화된 요건을 제공하더라도, 소규모 기업은 복잡한 의무를 해석하는 데 필요한 인력이 부족할 수 있다.

이러한 우려는 부실하게 설계된 규제에 대한 Huang의 경고를 뒷받침한다. 측정 가능한 안전보다 문서화를 우선하는 규칙은 준수 연극을 만들 수 있다. 개발자는 가장 중요한 실패를 찾아내지 못한 채 방대한 서류를 만들 수도 있다.

규제는 시장을 분절시킬 수도 있다. 관할권마다 호환되지 않는 테스트, 공개 또는 콘텐츠 라벨링 요건을 부과하면 개발자는 서로 다른 출시 프로세스를 유지해야 한다. 이는 비용을 높이고 소규모 시장에서의 접근성을 낮출 수 있다.

그러나 유럽의 접근법은 AI 규제가 반드시 엔지니어링을 처방해야 한다는 주장을 반박한다. 규제기관은 기술 팀에 구현 세부 사항을 맡기면서도 결과, 보고 의무, 검사 권한을 정의할 수 있다.

이 법은 제품 범주가 중요하다는 점도 인정한다. 스팸 필터는 고용 심사 시스템이나 핵심 인프라를 제어하는 모델과 같은 수준의 이해관계를 만들지 않는다. 위험 기반 규제는 실패의 결과가 더 큰 곳에 감독을 겨냥하려 한다.

Huang은 기존 부문별 규칙이 이미 그런 구조를 제공한다고 답할 수 있다. 병원은 여전히 의료 규제를 받고, 은행은 여전히 금융법의 적용을 받는다. 수평적 AI 법을 추가하면 책임이 중복될 수 있다.

이 반론은 규제기관이 “AI”를 하나의 제품 유형으로 취급할 때 가장 강해진다. 이 기술은 추천 시스템부터 자율 에이전트까지 폭넓다. 광범위한 정의는 안전성을 개선하지 못한 채 일반적인 소프트웨어 기능까지 포괄할 수 있다.

반대 논리는 범용 모델이 부문 경계를 넘는다는 것이다. 하나의 기반 모델이 의료, 금융, 교육, 보안 애플리케이션을 지원할 수 있다. 해당 공급업체는 어느 하나의 규제 산업에서 사업하지 않더라도 하위 단계의 위험에 영향을 미칠 수 있다.

따라서 유럽의 실험은 양측에 모두 증거를 제공할 것이다. 집행 결과는 외부 감독이 의미 있는 위험을 포착하는지 보여줄 수 있다. 준수 부담은 이 체계가 최대 공급업체를 제약하지 못한 채 소규모 기업의 속도만 늦추는지 드러낼 수 있다.

Jensen Huang의 AI 규제 주장에 있어 유럽은 이론적 사례가 아니다. 공적 규칙과 엔지니어링 관행이 공존할 수 있는지에 대한 진행 중인 시험이다. 글로벌 공급업체는 운영의 일부를 표준화하는 경우가 많기 때문에, 그 결과는 EU를 훨씬 넘어 중요해질 것이다.

Nvidia의 입장에는 피할 수 없는 인센티브 문제가 따른다

Nvidia는 AI 안전성 분야에서 기술적 신뢰도를 갖고 있지만, 고객이 더 큰 시스템을 구축하고 더 빠르게 출시할수록 이익을 얻기도 한다.

Nvidia는 이 논쟁에서 독특한 위치를 차지한다. 주로 소비자용 챗봇을 제공하는 기업은 아니다. AI 모델을 훈련하고 실행하는 데 쓰이는 프로세서, 네트워킹 제품, 시스템, 소프트웨어를 판매한다.

이러한 거리는 Huang의 관점을 강화할 수 있다. Nvidia는 클라우드 공급업체, 모델 개발자, 기업, 연구기관, 정부와 협력한다. 단일 모델 연구소보다 더 넓은 시장 전반의 인프라 요구사항을 본다.

이 회사는 소프트웨어 도구, 모델, 에이전트 구성요소, 배포 시스템도 개발한다. Huang은 안전 통제가 챗봇의 가시적 인터페이스 안에만이 아니라 컴퓨팅 스택 전반에 존재해야 한다고 합리적으로 주장할 수 있다.

그러나 Nvidia의 상업적 노출은 명백한 이해충돌을 만든다. 빠른 AI 개발은 컴퓨팅 용량 수요를 견인한다. 더 야심찬 모델에는 훈련 인프라가 필요하고, 더 광범위한 배포는 지속적인 추론 수요를 만든다. 여기서 추론이란 모델 훈련 이후에 사용되는 연산을 뜻한다.

새로운 규제 장벽은 데이터센터, 모델 훈련 또는 기업 도입을 지연시킬 수 있다. 좁게 겨냥된 규칙조차 Nvidia 고객의 불확실성을 높일 수 있다. 따라서 Huang에게는 더 빠른 배포와 예측 가능한 기존 법률을 선호할 강한 이유가 있다.

재정적 인센티브가 기술적 주장을 무효로 만들지는 않는다. 모든 주요 참여자에게는 인센티브가 있다. 프런티어 연구소는 소규모 경쟁자에게 부담을 주는 규칙을 지지할 수 있다. 안전 조직은 관심과 자금을 끄는 위험을 강조할 수 있다. 정부는 권한을 확대하기 위해 안보 주장을 사용할 수 있다.

올바른 대응은 자동적인 기각이 아니라 공개와 독립적 테스트다. Huang의 주장은 OpenAI, Anthropic 및 다른 이해관계자들의 경고에 적용되는 것과 동일한 검증을 받아야 한다.

그의 입장은 오픈 웨이트 모델도 지지한다. 오픈 웨이트는 개발자가 핵심 모델 파라미터를 다운로드하거나 수정할 수 있게 하지만, 라이선스와 지원 코드는 서로 다르다. Huang은 더 폭넓은 접근성을 소수의 독점 연구소가 지배하는 시장에 대한 균형추로 본다.

오픈 모델은 단일 공급업체가 모든 하위 배포를 통제하지 않기 때문에 규제를 복잡하게 만든다. 이들은 투명성, 지역 통제, 연구 접근성을 높일 수 있다. 동시에 웨이트가 유통된 후에는 일부 안전장치를 집행하기 더 어렵게 만들 수도 있다.

모델 배포에 대한 엄격한 규칙은 시장을 폐쇄형 공급업체 중심으로 집중시킬 수 있다. 반대로 역량 있는 오픈 모델을 전적으로 자발적 판단에 맡기면 접근권 철회나 사용 모니터링에 의존하는 통제가 약화될 수 있다.

이 긴장은 “AI 제품 제작자”가 하나의 안정된 범주가 아님을 보여준다. 칩 공급업체, 모델 개발자, 클라우드 호스트, 애플리케이션 공급업체, 기업 배포자는 서로 다른 안전 결정을 내린다. 모든 책임을 제품 제작자에게 부여하면 또 다른 질문이 제기된다. 어떤 제작자인가?

기반 모델 공급업체는 일반적인 역량을 테스트할 수 있지만 모든 하위 맥락을 예측할 수는 없다. 애플리케이션 기업은 사용자를 이해하지만 모델의 훈련 세부 사항을 모를 수 있다. 클라우드 공급업체는 모든 작업을 볼 수 없는 상태에서 인프라를 모니터링할 수 있다.

효과적인 거버넌스는 그 사슬 전반에 책임을 분배해야 한다. 모델 공급업체는 평가와 알려진 한계를 공개할 수 있다. 애플리케이션 개발자는 구체적 용도를 테스트할 수 있다. 배포자는 데이터, 접근권, 사람의 검토를 통제할 수 있다.

그다음 규제기관은 그러한 당사자 간 책임성 공백에 집중할 수 있다. 이 접근법은 모든 AI 시스템을 동일하게 취급하는 것보다 더 정밀하다. 또한 한 기업의 출시 자신감만을 신뢰하는 것보다 더 많은 것을 요구한다.

최근 사건은 자신감만으로는 왜 테스트가 필요한지 보여준다. 경험 많은 엔지니어링 팀을 둔 소프트웨어 기업도 여전히 피해를 주는 결함을 출시한다. 경쟁적 마감일, 불완전한 테스트, 조직의 사일로, 예상치 못한 상호작용은 강한 의도를 무력화할 수 있다.

AI는 프롬프트, 연결된 도구, 검색된 데이터, 사용자 맥락에 따라 행동이 달라지므로 이러한 어려움을 키운다. 에이전트는 테스트 환경에서는 안전하게 작동해도 이메일, 코드 저장소, 결제 시스템 또는 관리 제어에 접근하게 된 뒤 실패할 수 있다.

따라서 Huang에 대한 핵심 비판은 엔지니어가 안전한 시스템을 구축할 수 없다는 것이 아니다. 그들은 반드시 해야 한다. 핵심은 기업이 내부 인센티브가 사회가 선택할 위험 수준을 일관되게 만들어낼 것이라고 보장할 수 없다는 점이다.

독립적 평가는 광범위한 개발 중단을 요구하지 않으면서 하나의 대응책을 제공한다. 평가자는 정의된 위험을 테스트하고, 프로세스를 검토하며, 한계를 보고할 수 있다. 정부는 조정을 위한 법적 보호를 만들고 최소 접근 요건을 설정할 수 있다.

업계 감속 논쟁은 조정이 여전히 얼마나 어려운지 보여준다. 국내 경쟁, 국제적 경쟁, 수익 인센티브는 모두 일방적 자제를 억제한다.

황은 그 압박을 유용한 시장 규율로 본다. 비판자들은 신중함에 비용이 따르기 시작하는 바로 그때 자발적 자제가 실패할 이유라고 본다. 이것이 이 글의 핵심적인 상충 관계이며, 어느 쪽도 수사만으로 이를 해결할 수는 없다.

Jensen Huang의 AI 규제론을 시험할 세 가지 신호

다음 단계는 독립 평가, 규제 집행, 실제 배포 실패에서 나오는 측정 가능한 증거가 결정할 것이다.

첫 번째 신호는 프런티어 연구소들이 독립 평가자에게 지속적인 접근 권한을 부여하는지 여부다. 모델, 시스템 프롬프트, 도구, 배포 설정은 변할 수 있으므로 일회성 벤치마크는 제한적인 보장만 제공한다.

지속적인 접근은 세부 입법을 기다리지 않고도 업계가 신뢰할 수 있는 감독 체계를 만들 수 있는지 시험할 것이다. 또한 평가자가 출시를 지연시킬 수 있는 결과를 찾아냈을 때 선도 기업들이 검증을 받아들이는지도 드러낼 것이다.

여러 연구소가 비교 가능한 수준의 접근을 채택하고 의미 있는 결과를 공개한다면, 기업 주도 안전에 대한 Huang의 주장은 더 강해진다. 기업들이 자발적 조치로도 독립적인 증거를 만들어낼 수 있음을 보여주게 되기 때문이다.

접근이 계속 선별적으로 제공되거나 경쟁적인 출시 기간에 사라진다면, 반대 결론이 따른다. 정책 입안자들은 선택적 약속을 신뢰하는 대신 평가를 의무화할 더 강한 근거를 갖게 될 것이다.

두 번째 신호는 EU AI Office의 초기 집행 기록이다. 당국은 이제 범용 AI 의무, 문서화, 시정 조치, 제재를 포괄하는 권한을 보유하고 있다.

중요한 척도는 조사 건수가 아니다. 집행이 실질적인 위험을 식별하고, 제공업체의 관행을 개선하거나, 고객과 연구자에게 유용한 투명성을 만들어내는지가 핵심이다.

명확하고 기술적으로 정교한 집행은 새 규제가 별다른 가치를 더하지 않는다는 Huang의 주장을 약화시킬 것이다. 이는 법적 권한이 모든 기술적 결정을 지시하지 않으면서도 엔지니어링을 보완할 수 있음을 보여줄 것이다.

혼란스럽거나 순전히 절차적인 집행은 그의 비판을 강화할 것이다. 기업들이 서류 작업에 막대한 비용을 쓰는 동안 안전 결과가 변하지 않는다면, 엔지니어링 우선 진영은 설득력 있는 증거를 얻게 된다.

세 번째 신호는 자율적 행동 또는 고위험 배포와 관련된 다음 중대한 AI 사고다. 결정적인 질문은 탐지, 격리, 공개, 책임에 관한 것이다.

기업이 내부 테스트를 통해 문제를 포착하고 시스템 배포를 보류한다면, 이는 Huang의 신뢰 모델을 뒷받침한다. 모니터링이 배포된 시스템의 사고를 제한하고 제공업체가 유용한 정보를 신속히 공유한다면, 자발적 엔지니어링 역시 지지를 받게 된다.

외부인이 발견한 실패는 다른 이야기를 들려줄 것이다. 피해 당사자가 기록을 확보하지 못하거나, 책임 있는 제공업체를 식별하지 못하거나, 현행법 아래에서 보상을 받지 못하는 사고도 마찬가지다.

대중은 실패 발생 여부뿐 아니라 기업이 어떻게 대응하는지를 지켜봐야 한다. 어떤 복잡한 기술도 결함을 완전히 없앨 수는 없다. 항공, 의료, 사이버보안은 모두 개별 통제가 실패할 수 있기 때문에 다층적 시스템을 사용한다.

AI 거버넌스에도 같은 실용적 초점이 필요하다. 관련된 선택지는 혁신이냐 안전이냐가 아니다. 엔지니어링, 시장 압박, 독립적 검토, 법률 중 어떤 조합이 신뢰할 수 있는 유인을 만드는지가 핵심이다.

개발자는 평가 기준이 제공업체 간 상호운용 가능해지는지 지켜봐야 한다. 기업 구매자는 자신의 배포 환경과 연결된 증거를 요구해야 한다. 지식 노동자는 모델이 언제 행동할 수 있는지, 어떤 정보에 접근할 수 있는지, 그리고 그 결과에 어떻게 이의를 제기할 수 있는지 물어야 한다.

Jensen Huang의 AI 규제 입장은 명확하고 검증 가능한 명제를 제시한다. 기업은 자사 시스템을 가장 잘 이해하고, 시장은 안전하지 않은 제품에 불이익을 주며, 기존 법률은 남은 피해를 다룰 수 있다는 것이다.

그 약점도 마찬가지로 명확하다. 속도를 늦출지 결정하는 기업은 흔히 먼저 움직인 대가를 받는 바로 그 기업들이다. 이들의 확신은 진심일 수 있지만, 사용자나 대중의 위험 감수 수준을 반영하지 않을 수 있다.

Huang은 입법자들이 기술적 안전을 법률에 외주 맡길 수 없다는 점에서 옳다. 비판자들 역시 엔지니어링 결정만으로 누가 위험을 부담하는지, 누가 증거를 검토할 권한을 갖는지가 결정되지는 않는다는 점에서 옳다.

향후 3개월은 연설 이상의 결과를 내놓아야 한다. 평가자 접근, EU 집행, 사고 책임성을 지켜봐야 한다. 이 신호들은 기업 주도 안전이 신뢰를 얻을 수 있는지, 아니면 집행 가능한 외부 검증이 피할 수 없게 되고 있는지를 함께 보여줄 것이다.