Josh Shapiro의 AI 안전장치, 워싱턴의 속도 우선 전략에 도전
Josh Shapiro는 9월 17일 엄격한 연방 AI 안전장치를 촉구하며, 규제 장벽을 줄이고 개발 속도를 높이려는 워싱턴의 선호에 이의를 제기했다. 그의 발언에 관한 Bloomberg 보도에 따르면, Pennsylvania 주지사인 그는 고도 인공지능 시스템을 개발하는 기업에 독립적 감독, 더 높은 투명성, 안전 요건을 적용하길 원한다.
Josh Shapiro AI 안전장치 제안은 가상의 기술 위험에 대한 또 하나의 경고에 그치지 않는다. 이 제안은 모델 감독을 아동, 전문직 사칭, 전기요금, 물 사용, 데이터센터에 대한 지역 통제를 둘러싼 즉각적인 분쟁과 연결한다.
이러한 입장은 신속한 개발과 규제 장벽 축소를 강조하는 Trump 행정부의 기조와 Shapiro를 대립시킨다. Shapiro는 이러한 구도가 잘못된 양자택일을 제시한다고 주장한다. 그의 말에 따르면, 미국은 대중에게 모든 위험을 감수하라고 요구하지 않고도 AI의 경제적 혜택을 확보할 수 있다.
Bloomberg 보도는 Pittsburgh 행사에서 Shapiro가 무엇을 주장했는지 보여주며, Pennsylvania의 공식 문서는 그의 행정부가 이미 시행한 조치의 기록을 제공한다. 이는 별개의 범주다. 그가 요구한 연방 안전장치는 여전히 제안에 머물러 있으며, Pennsylvania의 행정명령, 기관 이니셔티브, 소송, 계류 중인 법안은 각각 고유한 법적 지위와 한계를 지닌다.
Josh Shapiro AI 안전장치, 논의를 의회로 옮기다
Shapiro는 AI 기업에 또 하나의 자율적 프레임워크를 발표하라는 것이 아니라, 집행 가능한 의무를 부과하라고 의회에 요구하고 있다.
Pittsburgh에서 열린 AI Horizons 2026 Summit에서 Shapiro는 의회와 연방정부에 인공지능을 위한 엄격한 안전장치를 마련하라고 촉구했다. 그의 핵심 요구에는 독립적인 제3자 감독, 강화된 투명성, 기업이 개발 과정에서 안전을 더욱 중심에 두도록 하는 요건이 포함됐다고 그의 행정부가 공개한 준비 발언 공식 녹취록은 전한다.
독립적 감독이란 검토 대상 시스템을 개발하거나 판매하지 않는 조직이 수행하는 평가를 의미한다. 여기에는 테스트, 문서 검토, 보안 평가, 기업의 위험 주장 검증이 포함될 수 있다.
기술적으로 이러한 평가는 개발자가 예측 가능한 피해를 식별했는지, 현실적인 조건에서 성능을 측정했는지, 한계를 문서화했는지, 사고를 모니터링했는지, 시정 조치의 책임을 배정했는지를 검토할 수 있다. 이러한 기능은 National Institute of Standards and Technology의 AI Risk Management Framework에 있는 거버넌스, 매핑, 측정, 관리 활동과 대체로 일치하지만, Shapiro는 의회가 NIST 프레임워크를 법적 기준으로 채택해야 한다고 공개적으로 구체화한 바는 없다.
이 구분은 중요한데, 고도 모델에 관한 가용 정보의 상당 부분이 여전히 개발사에서 나오기 때문이다. 기업은 어떤 벤치마크를 공개할지, 심각한 위험을 어떻게 정의할지, 내부 테스트에 관한 세부 사항을 얼마나 공개할지를 결정한다.
제3자 요건이 이런 문제를 자동으로 해결하지는 못한다. 그러나 개발사가 스스로의 작업을 평가하고 정책 입안자에게 제시할 증거를 선택하는 정도는 줄일 수 있다.
실질적인 차이는 조달 과정에서 드러날 수 있다. 현재 AI 보조 도구를 고려하는 병원은 종합 정확도 점수와 공급업체가 작성한 안전성 설명을 받을 수 있다. 반면 자격을 갖춘 외부 검토는 의료 프롬프트를 테스트하고, 성능이 저하되는 집단이나 상황을 식별하며, 시스템이 인용을 날조하는지 문서화하고, 불확실한 답변이 임상의에게 이관되는지를 검증할 수 있다.
Shapiro는 준비 발언에서 AI의 기회에 대해 낙관적이라고 설명하면서도, 새롭게 나타나는 피해에는 더욱 강력한 정부 대응이 필요하다고 주장했다. 그는 또한 고도 시스템이 재앙적 피해를 초래할 것이라고 예상하는 사람들에게 흔히 붙는 AI “doomer”라는 꼬리표를 거부했다.
그의 입장은 더 좁지만 정치적으로 더 중요하다. 정부가 테스트, 공개, 책임성을 요구하기 위해 AI가 불가피한 인류 멸종 위험을 제기할 필요는 없다는 것이다.
이 접근법은 하나의 극적인 시나리오를 넘어 안전장치의 근거를 확대한다. 모델은 자율적인 세계적 위협이 되지 않더라도 기만적인 조언, 차별적 결정, 개인정보 보호 실패, 보안 취약점, 신뢰할 수 없는 출력으로 실질적인 피해를 유발할 수 있다.
이 연설은 누가 입증 책임을 지는지도 바꿨다. 순전히 홍보 중심인 정책은 제한 조치에 특별한 정당화가 필요하다고 가정한다. Shapiro의 접근법은 대중이 위험을 떠안기 전에 고영향 시스템이 의미 있는 검증을 받았음을 개발사가 보여주도록 요구한다.
그의 제안은 여전히 정책적 요구일 뿐, 제정된 연방법은 아니다. 의회는 여전히 어떤 시스템이 검토를 받아야 하는지, 누가 독립 평가자로 인정되는지, 평가자가 어떤 증거에 접근할 수 있는지, 어떤 결과가 공개되어야 하는지를 정의해야 한다.
이처럼 해결되지 않은 세부 사항은 상당하다. 그럼에도 Shapiro의 개입은 연방 입법자들에게 분명한 시험대를 제시한다. 국가 AI 정책이 측정 가능한 의무를 부과할지, 아니면 주로 기업의 약속에 계속 의존할지에 대한 문제다.
Pennsylvania 주지사가 지금 워싱턴을 압박하는 이유
Pennsylvania는 AI를 물리적, 소비자, 행정적 문제로 마주하고 있으며, 이 때문에 추상적인 보장을 방어하기가 점점 더 어려워지고 있다.
이 주는 여러 구분되는 경로를 통해 이 기술을 경험하고 있다. AI 챗봇은 아동과 상호작용하고 건강 관련 응답을 제공할 수 있다. 주 정부 직원들은 공공 행정에 생성형 도구를 사용한다. 개발사들은 더 큰 모델을 훈련하고 운영하는 데 필요한 에너지 집약적 인프라도 구축하려 한다.
이 문제들은 하나의 기술 정책 안에 깔끔하게 들어맞지 않는다. 전문직 면허, 소비자 보호, 교육, 전력 규제, 환경 인허가, 노동, 지방정부 권한과 맞닿아 있다.
Shapiro 행정부는 Pittsburgh 연설 이전부터 접근 방식을 강화하기 시작했다. 2월에는 AI 리터러시 툴킷을 발표하고 Pennsylvania의 교육, 보건, 복지, 국무, 고령화, 금융 기관이 참여하는 감독 노력을 조율했다.
행정부의 공식 AI 안전 이니셔티브에는 부모, 학생, 교사, 돌봄 제공자, 소비자를 위한 자료가 포함됐다. 또한 면허가 필요한 전문 서비스를 제공하는 것처럼 보이는 AI 동반자 봇에 대한 민원 절차를 주민들에게 안내했다.
가정에서는 이 구분이 명백한 의료 상담이 아니라 일상적인 대화 중에 나타날 수 있다. 청소년은 동반자 봇에게 우울증, 섭식 장애, 약물에 관해 묻고 치료사나 의사의 말투로 작성된 자신감 있는 답변을 받을 수 있다. 부모는 면허를 갖춘 전문가가 자녀의 상황을 검토하지 않은 채 응답이 생성됐다는 경고를 보지 못할 수 있다.
이 이니셔티브는 리터러시가 필요하지만 충분하지는 않다고 봤다. 사용자가 신뢰할 수 없는 시스템을 인식하도록 가르치는 것은 피해 노출을 줄일 수 있다. 그러나 제품이 의사나 다른 규제 전문직 종사자인 것처럼 허위로 제시될 때 개발사의 책임을 없애지는 않는다.
Pennsylvania는 이후 Character.AI를 상대로 소송을 제기하며, 챗봇이 면허를 가진 의료 전문가인 것처럼 불법적으로 행세하고 의료 조언을 제공했다고 주장했다. 공식 제출 문서인 Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc.에서 주 정부는 가처분 명령을 요청하고 무면허 의료행위를 주장했다. Commonwealth가 제출한 소장의 주장은 여전히 재판 절차의 대상이다. Character Technologies의 책임은 확정되지 않았으며, 이 문서는 사법적 판단이 아니라 Commonwealth의 주장을 담고 있다.
그럼에도 이 사건은 Shapiro가 이제 사용자 교육만이 아니라 책임성을 강조하는 이유를 보여준다. 표면상 “발화자”가 인간 전문가가 아니라 생성된 캐릭터일 때, 기존의 전문직 면허 규정이 AI 서비스에 적용될 수 있는지를 묻는다.
주지사는 데이터센터 개발을 둘러싼 반발에도 직면했다. 이러한 시설은 AI 논쟁을 주민들이 공과금 청구서, 용도지역 통지, 환경 인허가 신청서에서 확인할 수 있는 문제로 바꾼다.
8월 Shapiro는 Executive Order 2026-05에 서명했다. 이 명령은 신규 데이터센터에 대한 주 정부 지원을 에너지, 환경, 인력, 투명성, 지역사회 요건과 연계했다.
행정부의 Executive Order 2026-05 공식 설명에 따르면, Pennsylvania는 AI 데이터센터 제안을 신속 인허가 프로그램에서 제외하고, 해당 프로젝트의 비밀유지계약을 금지했으며, 적격 인허가가 발급되기 전에 지방정부 승인을 요구했다. 이 명령은 개발사가 주의 GRID 요건을 반영한 집행 가능한 동의 협약을 체결하도록 요구한다.
주 정부의 협력을 구하는 개발사는 GRID로 알려진 Governor’s Responsible Infrastructure Development 요건에 따라 구속력 있는 약속을 해야 한다. 이 약속에는 프로젝트와 관련된 인프라 비용을 다른 전력 소비자에게 전가하지 않고 부담하는 내용이 포함된다.
운영사들은 에너지 및 물 소비 정보도 보고해야 한다. 주 정부는 환경 규제 당국과 협의한 제안의 공개 지도를 유지하겠다고 밝혔다.
주민에게 이러한 요건은 주요 결정이 사실상 확정되기 전에 제안된 시설에 대해 알 수 있는지를 결정한다. 인근 가구는 그렇지 않다면 용도지역 통지를 받은 뒤에야, 또는 전력 수요 증가 전망을 들은 뒤에야 프로젝트를 접할 수 있다. 공개 프로젝트 지도, 공개된 자원 추정치, 지방 승인 절차는 모든 이의 제기가 받아들여진다고 보장하지는 않지만, 주민들이 공청회에서 활용할 수 있는 정보를 제공한다.
이 조치들은 AI 개발 금지에 해당하지 않는다. 이는 유치 지역사회에 식별 가능한 비용을 부과하는 프로젝트에 조건을 설정한다. 또한 주 정부 기관의 이행과 행정권한 범위를 둘러싼 향후 법적 도전에 따라 달라질 수 있다.
이 기록은 Shapiro의 연방 차원 요구가 나온 시점을 설명한다. Pennsylvania는 의회가 흔히 미래의 가능성으로 논의하는 결과들을 이미 관리하려 하고 있다. 주 정부 기관은 챗봇 민원, 인프라 제안, 전문직 사칭 우려, 정부 내부의 AI 사용 결정에 직면해 있다.
즉각적인 압력은 연방 입법자와 주요 AI 개발사에 가해진다. 의회는 주 정부가 안전장치의 주요 시험장이 되어야 하는지를 결정해야 한다. 개발사들은 일관된 감독을 지지할지, 아니면 배포를 제약하는 규칙에 계속 반대할지를 결정해야 한다.
핵심 쟁점은 안전 책임성과 배포 속도의 대립이다
주된 대립은 혁신 대 금지가 아니다. 그것은 책임 있는 개발과 규제 마찰을 전략적 약점으로 취급하는 정책 간의 대립이다.
트럼프 행정부는 AI 리더십을 국제적 경쟁으로 묘사해 왔다. 그 정책은 민간 부문의 신속한 개발, 더 폭넓은 도입, 인프라 구축, 그리고 불필요한 장애물로 간주되는 규칙의 제거를 우선시한다.
이 주장은 경제와 국가안보 측면에서 설득력이 있다. 주별 요구사항이 파편화되면 특히 중소기업의 규정 준수 비용이 늘어날 수 있다. 현 기술을 기준으로 작성된 규칙은 모델 아키텍처와 활용 방식이 변하면서 빠르게 낡아질 수도 있다.
행정부의 국가 AI 입법 프레임워크는 일관된 연방 정책을 요구하며, 상충하는 주법이 미국의 경쟁력을 약화시킬 수 있다고 주장한다. 같은 문서는 의회에 아동 안전, AI 기반 사기, 국가안보, 데이터센터가 주거용 전기요금 부담자에게 미치는 영향도 다룰 것을 요청한다.
백악관은 과도하다고 판단하는 주법에 이의를 제기할 권한을 모색해 왔다. AI 개발에는 개별 주가 효과적으로 관리할 수 없는 주간 및 외교정책적 함의가 있다는 것이 백악관의 공식 입장이다.
샤피로도 연방 차원의 조치가 필요하다는 데 동의하지만, 그 조치가 무엇을 달성해야 하는지에는 이견이 있다. 그의 관점에서 국가 표준은 주 권한의 상한선으로 주로 기능하기보다 안전의 최소 기준을 마련해야 한다.
이 차이가 이 글의 핵심적인 상충 관계다. 통일성은 규정 준수를 단순화할 수 있지만, 약한 통일 기준은 의회가 다루지 않은 피해에 대응하는 주의 능력도 막을 수 있다.
연방 정책이 제품 규제와 전통적으로 주가 통제해 온 영역을 분리할 때 이 분쟁은 더 선명해진다. 백악관 프레임워크는 일반적으로 적용되는 아동보호법의 주 집행을 유지하고, 구역 지정 및 데이터센터 입지에 대한 주·지방정부의 권한을 인정하는 한편, AI 개발에 관한 상충하는 주 규제에는 반대한다.
실제 적용에서는 이 범주들이 겹칠 수 있다. 위험한 건강 조언을 제공하는 챗봇을 생각해 보자. 펜실베이니아주는 전문직 면허와 소비자 관련 법률을 집행할 수 있다. 하지만 근본적 위험을 줄이려면 모델 평가, 배포 테스트, 공개, 접근 통제를 규율하는 규칙이 필요할 수 있다.
선점에 주로 초점을 둔 연방 프레임워크는 주가 결과에 대한 책임을 지게 하면서도 그 결과를 낳는 기술적·사업적 결정을 규제할 능력은 제한할 수 있다.
독립적 감독을 요구하는 샤피로의 주장은 그 공백을 겨냥한다. 주 조사관이 민원을 접수하거나 가족이 피해를 입증해야 하기 전에, 개발 과정의 더 이른 단계에 책임을 부과하자는 것이다.
같은 논리는 투명성에도 적용된다. 기업이 어떻게 테스트했는지, 어떤 한계가 드러났는지, 어떤 배포 조건이 바뀌었는지 알지 못하면 규제기관은 안전장치가 작동하는지 평가할 수 없다.
그렇다고 투명성이 하나의 스위치인 것은 아니다. 모든 기술적 세부 사항을 공개하면 보안 취약점, 영업비밀 또는 악의적 행위자를 돕는 정보가 드러날 수 있다. 효과적인 입법에는 규제기관, 자격을 갖춘 감사인, 연구자, 기업 고객, 일반 대중을 위한 별도의 정보 제공 경로가 필요하다.
독립적 감독도 비슷한 설계 문제를 안고 있다. 검토 대상 기업으로부터 비용을 받는 감사인은 독립성을 약화시키는 유인을 마주할 수 있다. 승인된 평가자 소수가 병목이 되거나 이례적인 위험을 놓치는 표준화된 검토를 내놓을 수도 있다.
따라서 신뢰할 수 있는 시스템에는 이해상충 규칙, 최소 테스트 역량, 비공개 증거에 대한 보호된 접근권, 그리고 규제기관이 평가자의 업무를 검토할 수 있는 장치가 필요하다. 순환 배정 요건이나 무작위 배정은 단일 고객에 대한 의존을 줄일 수 있지만, 어느 방식이든 비용과 행정적 복잡성을 더한다.
이런 과제들이 샤피로의 접근법을 무효화하는 것은 아니다. 이는 의회가 안전과 책임 같은 포괄적 용어를 중심으로 한 법을 통과시키는 대신, 그 작동 방식을 정의해야 하는 이유를 보여 준다.
Josh Shapiro AI 안전장치의 진정한 기준은 배포 전에 신뢰할 수 있는 증거를 만들어 내는지 여부가 될 것이다. 정책이 규정 준수 보고서만 만들어 낸다면, 유인을 바꾸지 못한 채 서류 작업만 늘릴 것이다.
주 정부의 조치는 AI 안전장치의 가능성과 한계를 모두 보여 준다
펜실베이니아주는 지역적 피해에 대응할 수 있지만, 전국적 기술 시장을 위한 완전한 감독 체계를 독자적으로 만들 수는 없다.
주의 최근 조치는 표적 규제가 무엇을 이룰 수 있는지 보여 준다. 전문직 면허법은 자신을 의사로 내세우는 시스템을 다룰 수 있다. 소비자보호 기관은 기만 행위를 조사할 수 있다. 교육 당국은 학생과 교사를 위한 지침을 만들 수 있다.
지방정부와 주정부는 토지 이용, 허가, 환경 조건, 인프라 지원에 대해서도 직접 권한을 갖는다. 이로 인해 펜실베이니아주는 다른 지역의 모델 개발에 미치는 영향이 제한적일 때에도 데이터센터에 대해 의미 있는 영향력을 행사할 수 있다.
8월 명령은 이 영향력을 신중하게 활용한다. 모든 데이터센터가 안전하지 않다고 주장하지 않는다. 집행 가능한 지역사회 요건을 수용할 의향이 있는 사업과, 이에 상응하는 의무 없이 공적 지원을 요구하는 투기적 제안을 구분한다.
주 발표에 따르면, 지지자에는 무제한 건설과 전면적 유예 조치 사이의 길을 찾는 노동계 및 지역사회 대표들이 포함된다. 펜실베이니아주 건축·건설 노동조합 협의회는 에너지, 환경, 지역사회 문제를 다루면서 개발을 유지하는 방안으로 GRID 원칙을 지지했다.
이 연대는 중요하다. AI 인프라 논쟁은 흔히 경제적 이해관계와 환경적 이해관계를 갈라놓기 때문이다. 건설 노동계는 일자리를 원하고, 지방자치단체는 투자를 원하며, 주민들은 비용 상승이나 자원 고갈로부터 보호받기를 원한다.
요건 기반 접근법은 각 집단에 구체적으로 평가할 대상을 제공한다. 개발업체는 정해진 조건을 받아들이면 사업을 진행할 수 있다. 지역사회는 정보와 공식적 역할을 얻는다. 노동자는 지역 채용 약속을 요구할 수 있다.
그러나 행정 조치에는 한계가 있다. 미래의 행정부는 행정명령을 변경할 수 있다. 기관들은 허가 조건의 적용 범위를 두고 법적 도전에 직면할 수 있다. 주 규칙은 다른 지역에 기반을 둔 개발업체에게 자사 모델에 관한 모든 중요한 사실을 공개하도록 강제할 수도 없다.
입법은 더 큰 지속성을 제공하지만, 펜실베이니아주의 경험은 표적화된 제안조차 얼마나 느리게 진행될 수 있는지를 보여 준다. 아동과 AI의 상호작용을 위한 공개 및 안전장치를 다루는 상원 법안 1090호는 2026년 3월 17일 주 상원을 49대 1로 통과했다.
이후 이 법안은 하원 통신·기술위원회로 넘어갔다. 공식 입법 이력은 표결과 이후 회부 절차를 기록한다. 2026년 9월 19일 기준으로 이 법안은 하원 절차를 마치지 못했으며 법률로 제정되지 않았다.
이것이 연방 차원의 부작위가 규제가 없는 시장을 만들지 않는 한 가지 이유다. 대신 행정명령, 기존 소비자법, 소송, 기관 지침, 표적화된 주 법안으로 구성된 파편적 체계가 만들어진다.
기업은 여전히 불확실성에 직면하지만, 규칙은 일관된 국가 시스템을 통해서가 아니라 갈등과 집행 조치 이후에 등장한다.
개발업체는 서로 다른 기준을 지닌 여러 분야에서 활동하기도 한다. 범용 챗봇은 오락, 교육, 고용, 건강 관련 질문 또는 금융 결정에 사용될 수 있다. 기반 모델이 같더라도 맥락에 따라 위험은 달라진다.
따라서 실현 가능한 연방법은 역량과 사용을 구분해야 한다. 시스템이 건강, 안전, 고용, 신용, 공공 혜택 또는 핵심 인프라에 중대한 영향을 미칠 수 있을 때 감독은 더 엄격해져야 한다.
이 원칙은 조직 내부에도 적용된다. AI를 도입하는 팀은 출처 자료, 모델의 한계, 검토 결정, 자동화된 워크플로의 변경 사항을 기록해야 한다. 검색 가능한 엔지니어링 지식 베이스는 이 업무를 지원할 수 있지만, 문서화가 외부 책임성을 대체할 수는 없다.
실무적으로 조달팀은 공급업체의 정확도 점수를 볼 수 있지만, 의료 질문이나 특정 사용자 집단에서 성능이 저하된다는 분석 자료는 받지 못할 수 있다. 고객 지원팀도 사용자가 유해한 답변을 보고하기 시작할 때까지 모델 업데이트가 에스컬레이션 규칙을 약화시켰다는 사실을 놓칠 수 있다. 독립적 검토는 이런 공백이 일상적 실패가 되기 전에 드러낼 수 있다.
같은 문제는 배포 후에도 나타날 수 있다. 직원들은 시스템이 업데이트되었다는 사실은 알 수 있지만 무엇이 바뀌었는지에 대한 실질적인 설명을 받지 못할 수 있다. 이전 버전이 자해 관련 메시지를 사람 검토자에게 안정적으로 전달했지만 이후 버전은 그렇지 않다면, 버전 번호와 일반적인 릴리스 노트만으로는 지원팀이 새 위험을 관리하기에 충분한 정보를 얻지 못한다.
기업은 훌륭한 내부 기록을 유지하면서도 심각한 약점을 공개하지 않기로 선택할 수 있다. 반대로 공개 의무는 실질적으로 유용한 정보가 거의 없는 수천 페이지의 문서를 만들어 낼 수 있다.
샤피로 제안의 가장 강력한 형태는 문서화를 행동과 연결하는 방식일 것이다. 평가자는 문제를 식별하고, 정해진 법적 절차에 따라 시정을 요구하거나 권고하며, 그 변경이 효과를 냈는지 검증할 수 있어야 한다. 개발업체가 중대한 지적을 거부할 때 규제기관이 개입할 권한도 필요하다.
그러한 집행 사슬이 없다면, “독립적 감독”은 일반 사용자가 의미 있게 검증할 수 없는 시스템에 붙는 또 하나의 신뢰 라벨이 될 위험이 있다.
더 강한 감독도 어려운 질문들을 남긴다
샤피로는 책임성의 공백을 지적했지만, 그의 공개 제안은 누가 감사하고, 무엇을 테스트하며, 실패 후 무엇이 일어나는지에 아직 답하지 못한다.
첫 번째 불확실성은 범위다. 의회는 모든 AI 제품, 가장 큰 범용 모델만, 또는 특정 고영향 용도에 감독을 적용할 수 있다.
지나치게 광범위한 규칙은 단순한 비즈니스 소프트웨어까지 최첨단 시스템을 위해 설계된 비용이 많이 드는 절차에 포함시킬 수 있다. 지나치게 좁은 규칙은 기업이 제품을 재편하거나 기술적 기준선 아래에 머물면서도 수백만 명의 사용자에게 영향을 미치게 할 수 있다.
입법자들은 적용 대상 시스템을 정의하는 지속 가능한 방식도 필요하다. 고정된 컴퓨팅 기준은 측정 가능하지만, 효율성 개선으로 시대에 뒤떨어질 수 있다. 사용자 수는 도달 범위를 보여 주지만 심각성을 보여 주지는 않는다. 역량 테스트는 위험을 더 잘 포착할 수 있지만, 개발업체는 알려진 평가 기준에 맞춰 모델을 최적화할 수 있다.
두 번째 불확실성은 평가자의 독립성이다. 의회는 이해상충 규칙, 인증 기준, 접근 요건, 기밀 정보 처리 절차를 마련해야 한다.
감사인은 의미 있는 주장을 테스트할 만큼 충분한 기술적 접근권을 가져야 한다. 다듬어진 시연이나 제한된 인터페이스만으로는 시스템이 적대적 압박 상황, 미세 조정 이후, 또는 외부 도구와 연결되었을 때 어떻게 작동하는지 드러낼 수 없다.
예를 들어 채팅 창에서는 무해해 보이는 사무 보조 도구도 이메일을 열고, 파일을 검색하고, 거래를 시작할 수 있게 되면 다르게 작동할 수 있다. 현실적인 평가는 문서에 삽입된 악의적 지시가 시스템의 방향을 바꾸거나 다른 사용자의 정보를 노출시킬 수 있는지까지 포함해, 배포된 전체 워크플로를 테스트해야 한다.
그러나 평가자에게 무제한 접근권을 부여하면 실제 보안 및 지식재산권 우려가 생긴다. 법은 안전한 테스트 환경과 민감한 정보를 부적절하게 처리했을 때의 처벌을 마련해야 한다.
세 번째 질문은 공개다. 샤피로는 더 많은 투명성을 원하지만, 서로 다른 대상은 서로 다른 자료를 필요로 한다.
소비자는 자신이 AI와 상호작용하고 있는지, 그리고 그 조언이 전문 자격을 갖춘 조언이 아닌지를 명확히 고지받아야 한다. 기업 구매자는 신뢰성, 보안, 데이터 처리, 모니터링에 관한 근거를 필요로 한다. 규제기관은 주장 내용을 조사할 수 있도록 사고 보고서, 내부 테스트 결과, 충분한 기술 문서를 필요로 한다.
대중에게도 심각한 실패에 관한 집계 정보가 필요하다. 이런 정보가 없다면 연구자와 언론인은 기업이나 제품 전반에서 나타나는 패턴을 파악할 수 없다.
네 번째 질문은 구제 조치와 관련된다. 기업이 문제를 해결하지 않은 채 시스템을 배포할 수 있다면, 취약점을 발견하는 것만으로는 큰 의미가 없다.
의회는 규제기관이 출시를 연기시키거나, 제한을 요구하거나, 통지를 명령하거나, 모니터링을 부과하거나, 고위험 용도에서 철수를 요구할 수 있는지 결정해야 한다. 각각의 선택지는 절차적·헌법적 쟁점을 수반한다.
명백히 위험한 건강 관련 제품에는 의무적 중단 조치가 정당화될 수 있다. 그러나 동일한 구제책을 범용 글쓰기 보조 도구에 적용하기는 더 어렵다.
규정 준수가 최대 기업들을 더욱 강하게 만들 위험도 있다. 대형 개발사는 감사 팀을 구축하고 전문 법률 자문을 고용하며 지연 비용을 감당할 수 있다. 소규모 기업은 같은 고정비를 감당하기 어려울 수 있다.
규칙이 더 나은 안전을 만들지 못한 채 지배적 기업만 보호한다면, 그러한 결과는 특히 역효과를 낳을 것이다. 의회는 공동 테스트 자원, 단계별 의무, 그리고 시스템의 영향력·역량·용도에 따라 확장되는 기준을 검토할 수 있다.
주 규제 비판론자들이 일관되지 않은 의무에 대해 경고할 때에는 타당한 지적이 있다. 한 기업이 동일한 모델을 위해 사실상 서로 다른 50개의 기술 감사를 받을 필요는 없어야 한다.
하지만 이 주장은 신뢰할 수 있는 국가 차원의 기준을 뒷받침한다. 적절한 연방 대체 체계가 마련되기 전에 주 규칙을 폐지해야 한다는 점을 그 자체로 입증하지는 않는다.
강력한 연방 집행 없이 연방 우선권을 적용하면 권한은 주에서 개발사로 이동하게 된다. 실질적인 감독과 결합된 우선권은 일관성과 책임성 모두를 제공할 수 있다.
마지막 불확실성은 국제 공조에 관한 것이다. 첨단 시스템은 국경을 넘나들며, 많은 공급망에는 외국의 연구, 칩, 데이터, 클라우드 서비스, 사용자들이 포함된다.
샤피로는 AI 거버넌스에 대한 고립주의적 접근을 비판했다. 동맹국과의 공조는 공통 평가 방법과 사고 보고를 뒷받침할 수 있다. 또한 기업이 위험한 업무를 요구 수준이 가장 낮은 관할권으로 옮길 가능성을 줄일 수도 있다.
국제 협력이 정치적 차이를 없애지는 못할 것이다. 그럼에도 보안, 통제 가능성, 오용 위험을 테스트하기 위한 공통 기술 언어를 마련할 수 있다.
회의적인 결론은 단순하다. Josh Shapiro AI safeguards는 완성된 규제 설계가 아니라 방향성이다. 그 가치는 연설이 의회에 해결을 맡긴 세부 사항에 달려 있다.
샤피로의 도전이 중요한지 보여줄 세 가지 신호
다음 시험대는 샤피로의 제안이 연방 입법, 개발사 행동, 또는 펜실베이니아주의 집행 기록을 바꾸는지 여부다.
첫 번째 신호는 의회를 통과해 진전되는 연방 AI 법안의 내용이다. 핵심 질문은 입법자들이 “안전”이라는 단어를 사용하는지가 아니다. 법안이 독립 평가를 요구하고, 규제기관에 증거 접근권을 부여하며, 적용 대상 시스템을 정의하고, 심각한 실패에 따른 결과를 만드는지가 중요하다.
우선권 관련 문구도 똑같이 중요할 것이다. 약한 자율적 약속만 남긴 채 주 정부의 조치를 막는 법안은 샤피로의 입장에 배치된다. 전통적인 주 차원의 소비자 보호, 아동 안전, 면허, 인프라 권한을 허용하는 연방 최소 기준은 그의 입장을 강화할 것이다.
독자는 논의 초안, 발의 법안, 위원회 승인 조치, 제정 법률을 구분해야 한다. 각각은 서로 다른 수준의 법적 효과를 지니며, 프레임워크에 관한 공개 발언만으로 개발사에 의무가 부과되지는 않는다.
두 번째 신호는 주요 개발사들이 독립 감독에 어떻게 대응하는지다. 안전성 테스트에 대한 공개 지지는 흔하지만, 기업들은 의무적 접근권, 공개 요건, 집행을 두고 종종 의견이 갈린다.
의미 있는 변화에는 비공개 증거를 검토할 수 있는 자격 있는 외부 평가자에 대한 지지가 포함될 것이다. 심각한 사고의 표준화된 보고와, 제품이 중대한 영향을 미치는 환경에 도입될 때의 명확한 공개도 또 다른 신호가 될 것이다.
자발적 조치만으로는 법을 대체할 수 없다. 이는 업계가 신뢰할 수 있는 감독을 경쟁과 양립할 수 있는 것으로 보는지, 아니면 배포 속도에 대한 용납할 수 없는 제한으로 보는지를 보여줄 수 있다.
세 번째 신호는 펜실베이니아주 자체에서 나온다. 주 정부는 데이터 센터 조건과 소비자 보호 조치가 실제로 작동함을 보여야 한다.
개발사들이 구속력 있는 GRID 약정을 체결하고, 지역 승인을 얻으며, 에너지와 물 사용량을 보고하는지 지켜봐야 한다. 또한 주 정부의 공개 프로젝트 지도가 지역사회에 시의적절한 정보를 제공하는지, 아니면 변경이 어려워진 뒤에 결정을 기록하는 데 그치는지도 주시해야 한다.
관련 증거는 구체적이어야 한다. 공개된 프로젝트 위치, 동의 협약, 자원 사용 보고서, 집행 통지, 지역 공청회 기록, 미준수에 대한 문서화된 제재 등이 해당한다. 발표만으로는 이 명령이 개발사 행동을 바꾸거나 요금 납부자를 보호하는지 알 수 없다.
AI 동반자 봇을 둘러싼 집행은 또 다른 실질적 시험을 제공할 것이다. 법원과 기관은 대화형 시스템이 전문적 조언을 제공하는 것처럼 보일 때 기존 면허 및 소비자 보호법이 어떻게 적용되는지 판단하게 된다.
펜실베이니아주의 법적 논리를 받아들이는 판결은 현행법이 일부 AI 피해를 다룰 수 있음을 보여줄 수 있다. 관할권, 플랫폼 면책, 원고적격, 또는 불명확한 법률상 정의를 근거로 한 기각은 표적 입법에 대한 압박을 높일 수 있다. 법원이 판결하기 전까지 어느 결과도 불확실하며, 소장은 책임의 증거로 취급되어서는 안 된다.
개발사와 기업 구매자에게 이 논쟁은 조달 기대치를 바꾼다. 조직은 모델 테스트, 사고 대응, 학습 데이터 거버넌스, 인간 검토, 버전 변경, 제3자 접근에 관한 질문이 늘어날 것으로 예상해야 한다.
예를 들어 교육구는 학생 대상 챗봇이 민감한 대화를 저장하는지, 자해 관련 공개를 어떻게 처리하는지, 누가 알림을 받는지를 알아야 할 수 있다. AI로 지원자를 선별하는 고용주는 하위집단별 성능 데이터와 인간의 이의 제기 절차가 필요할 수 있다. 자동화된 보조 도구를 배포하는 공공사업자는 해당 도구가 결제 규정이나 서비스 중단 정책을 지어내지 않는다는 근거가 필요할 수 있다.
지식 노동자 역시 안전 정책이 신뢰할 수 없는 결과물의 비용을 누가 부담하는지 결정하기 때문에 관심을 가져야 한다. 명확한 책임성이 없다면 사용자와 고용주는 배포 후 실패를 감지해야 한다. 더 강한 규칙은 그러한 책임의 일부를 시스템을 설계하고 판매하는 기업 쪽으로 되돌릴 수 있다.
샤피로의 주장은 궁극적으로 속도가 국가 AI 성공의 기본 척도로 계속 남아야 하는지를 묻는다. 더 빠른 모델과 더 많은 인프라는 경제적 가치를 만들 수 있지만, 위험도 더 빠르게 확산시킬 수 있다.
향후 1~3개월은 워싱턴이 그의 개입을 입법 문구로 옮길지, 아니면 공공정책 요구로 남겨둘지를 보여줄 것이다. 독자는 구호가 아니라 법안 문구, 기관 권한, 법원 기록, 이행 데이터를 주시하고 한 가지 직접적인 질문을 던져야 한다. 최종 Josh Shapiro AI safeguards는 독립 검토자가 대중이 그 비용을 떠안기 전에 심각한 문제를 식별할 수 있을 만큼 충분한 접근권과 권한을 부여하는가?
