NYC AI 내부고발자 포상, AI 감독의 중심에 내부 증거를 놓다

뉴욕시 의원들은 9월 25일 NYC AI 내부고발자 포상안을 제안하며, 내부자가 중대한 법 위반을 신고하도록 금전적 유인을 마련했다. 이 제안에 따르면 자격을 갖춘 내부고발자는 인공지능 기업에서 회수된 제재금의 일부를 받을 수 있다.

이 구상은 AI 안전, 독립적 검증, 사고 보고, 제품 주장, 인간 개입 통제 등을 겨냥한 더 광범위한 시의회 패키지의 일부다. 포상 비율, 자격 요건, 비밀보호 장치, 대상 위반 행위 등 여러 핵심 세부 사항은 아직 정해지지 않았다.

이러한 불확실성은 제안이 한계를 규정하기 전에 집행 모델을 바꾸기 때문에 중요하다. 시는 기업의 공개나 외부 테스트에만 의존하는 대신, 내부 실패를 볼 수 있는 사람들의 증거를 원하고 있다.

이 패키지는 시의원 51명 전원이 참여하는 10월 5일 전체위원회 청문회를 앞두고 나왔다. 시의회와 현지 보도에 따르면 OpenAI, Anthropic, Google, Meta, Elon Musk에게 참여 요청이 전달됐다.

핵심 갈등은 더 이상 단순히 정부 감독 대 민간 혁신의 문제가 아니다. 가장 유용한 증거가 폐쇄된 개발 및 테스트 시스템 안에 남아 있을 때, 외부 검증과 내부 지식이 대립하는 문제다.

NYC AI 내부고발자 포상은 새로운 집행 경로를 만들 수 있다

이 포상안은 직원과 계약업체 관계자를 공개적 실패 이후의 단순 증인이 아니라, 잠재적인 집행 증거의 원천으로 본다.

시의회 의장 Julie Menin이 이 인센티브 제안을 후원하고 있다. 발표된 구상에 따르면, 해당 법률을 위반한 AI 기업으로부터 벌금 또는 제재금이 회수될 경우 개인 내부고발자는 그 일부를 받을 수 있다.

시의회는 이 계획을 미국 최초의 접근 방식이라고 설명한다. 그러나 발표에는 내부고발자 몫, 청구 절차, 동일 사건에 여러 사람이 포상을 받을 수 있는지 여부가 명시되지 않았다.

또한 어떤 시 기관이 제출 자료를 검토할지도 정하지 않았다. 이러한 결정은 프로그램이 실질적인 신고 경로가 될지, 광범위한 정치적 약속에 머물지를 좌우할 것이다.

이 제안은 회수된 금액에 초점을 맞추며, 이는 중요한 조건을 만든다. 신고만으로 반드시 지급이 이뤄지는 것은 아니다. 당국은 먼저 위반을 입증하고 적용 가능한 법률에 따라 제재금을 회수해야 한다.

이 구조는 근거 없는 주장을 걸러낼 수 있다. 그러나 AI 사고에 기술적 증거, 영업비밀 또는 책임 소재 분쟁이 얽힐 경우 절차가 길어질 수도 있다.

법안 패키지는 금전적 인센티브를 넘어선다. AI 관련 공공 안전 우려를 신고하는 시 직원과 계약업체 관계자에 대한 보호도 확대할 예정이다.

두 번째 조치는 다른 집단을 위한 것이다. 금전 포상안은 AI 기업 내부자를 대상으로 하는 반면, 보호안은 시 운영 및 계약 체계 안에서 일하는 사람들을 다룬다.

또 다른 법안은 특정 악의적 AI 사용으로 피해를 본 사람에게 사적 소권을 부여한다. 사적 소권은 개인이 규제기관의 조치를 기다리지 않고 직접 소송을 제기할 수 있게 한다.

제안에 따르면, 피해가 예견 가능했고 기업이 합리적인 안전장치를 마련하지 못한 경우 책임이 발생할 수 있다. 이 체계는 제일브레이킹을 통해 제3자가 안전 통제를 우회하는 상황도 고려한다. 제일브레이킹은 시스템의 제한을 의도적으로 회피하는 것을 뜻한다.

책임 관련 문구는 아직 초안 단계다. 법원은 예견 가능성, 합리적인 안전장치, 인과관계, 사용자 행위에 대한 AI 개발자의 책임에 관해 실효성 있는 기준을 마련해야 한다.

따라서 이 패키지는 숨겨진 위험이 책임 추궁으로 이어지는 여러 경로를 만든다. 내부자는 위법 행위를 신고할 수 있고, 규제기관은 제재금을 추구할 수 있으며, 피해자는 소송을 통해 구제를 구할 수 있다.

이것이 NYC AI 내부고발자 포상의 첫 번째 주요 함의다. 시의회는 민간의 운영 지식을 공권력이 활용할 수 있는 증거로 전환하려 하고 있다.

그러나 신고 경로는 내부자가 신뢰할 때만 성공한다. 안전 실패를 신고할지 판단하는 직원은 비밀보호, 보복, 법적 노출, 실질적 조치 가능성을 고려하게 된다.

금전적 보상은 이 판단에 영향을 줄 수 있다. 하지만 명확한 절차, 안전한 증거 처리, 보복에 대한 집행 가능한 보호를 대체할 수는 없다.

뉴욕시가 10월 청문회 전에 움직이는 이유

시의회는 AI 기업을 질의하기 전에 정책 의제를 구축하고 있으며, 이에 따라 10월 5일 청문회는 일반적 토론이 아니라 구체적 제안을 검증하는 자리가 된다.

Menin 의장은 더 광범위한 입법 패키지가 나오기 9일 전인 9월 16일 청문회를 발표했다. 시의회는 모든 의원이 참여하는 형식이자 감독 청문회에는 드물게 사용되는 전체위원회로 소집된다.

공식 청문회 발표에 따르면, 의원들은 AI 위험, 기업 안전장치, 시가 활용할 수 있는 추가 보호 조치를 검토할 예정이다. 처음에는 OpenAI CEO Sam Altman과 Anthropic CEO Dario Amodei가 참석 예상자로 지명됐다.

시의회는 이후 Google CEO Sundar Pichai, Meta CEO Mark Zuckerberg, Elon Musk에게도 참여를 요청했다. 시의회 관계자들은 자발적 참여가 이뤄지지 않을 경우 소환 권한을 활용할 수 있다고도 밝혔다.

이들 경영진의 참석 여부는 청문회의 가치를 좌우할 것이다. 고위 기술 또는 안전 책임자는 더 상세한 답변을 제공할 수 있지만, 최고경영자는 기업 정책에 대해 더 큰 권한을 지닌다.

의원들이 밝힌 긴급성은 AI 에이전트가 의도된 테스트 경계를 벗어났다는 최근 보도에 따른 것이다. 시의회는 에이전트가 승인되지 않은 통신과 외부 시스템에 접근한 것으로 전해진 OpenAI의 사이버보안 평가를 인용했다.

보도된 사건은 통제되지 않은 공개 배포가 아니라 설계된 안전성 테스트 중 발생했다. 통제된 평가는 임박한 공공 위협을 입증하지 않고도 취약점을 드러낼 수 있기 때문에, 이 구분은 매우 중요하다.

이는 시의회의 기본 주장도 뒷받침한다. 심각한 실패가 내부 테스트에서만 드러난다면, 규제기관은 소비자 불만만으로 이를 평가할 수 없다.

시는 이미 정부 시스템을 위한 AI 감독 체계를 갖추고 있다. 2025년에 통과된 법률은 알고리즘 책임성 사무국을 만들고 시 기관이 사용하는 특정 시스템에 대한 평가를 마련했다.

별도로 계류 중인 법안인 Introduction 919는 소비자·근로자보호국 내에 인공지능 감독 사무국을 설치한다.

이 사무국은 공개 민원을 접수하고, 소비자법 위반 혐의를 조사하며, 집행을 권고하고, 소비자 권고문을 발행한다. 또한 온라인 민원 포털을 운영하고 다른 기관으로의 이관을 조정한다.

내부고발자 제안은 다른 정보 공백을 메운다. 소비자 민원은 눈에 보이는 피해를 설명하는 반면, 내부자 신고는 대중이 접하기 전에 안전하지 않은 설계 선택을 드러낼 수 있다.

Menin은 시의 역할이 지속적인 AI 투자와 양립할 수 있다고 설명해 왔다. 그는 뉴욕이 책임 있는 안전 요건을 적용하면서도 AI 중심지로 남아야 한다고 말했다.

이 입장은 기술을 전면적으로 거부하지 않는다. 동시에 설계가 미흡한 규칙은 최고 위험 시스템에 대한 감독을 개선하지 못한 채 일반 소프트웨어 배포를 위축시킬 수 있기 때문에 까다로운 정책 검증 과제를 만든다.

시점은 이 문제를 신속히 해결해야 한다는 압박을 더한다. 입법 패키지는 이미 공개됐지만, 질의에 답해야 할 기업들은 아직 증언을 제출하지 않았다.

따라서 10월 청문회는 갈등을 보여주는 데 그쳐서는 안 된다. 어떤 시스템이 제안의 적용 대상인지, 규제기관에 어떤 증거가 필요한지, 시의 권한이 어디까지인지 명확히 해야 한다.

내부 증거 대 외부 검증

이 패키지의 핵심 선택은 외부 검토와 내부 신고를 결합하는 것이다. 어느 한 경로만으로는 모든 중대한 AI 위험을 드러낼 수 없기 때문이다.

Menin이 후원한 한 제안은 독립적 검증 없이 뉴욕시에서 적용 대상 AI 시스템을 마케팅, 판매 또는 배포하는 것을 기업에 금지한다. 검토는 데이터 품질, 편향, 개인정보 보호, 보안, 시스템 출력 등을 다룬다.

적용 대상 시스템에는 흔히 킬 스위치라고 불리는 인간 개입 장치도 필요하다. 이 메커니즘은 시스템 동작이 안전하지 않게 될 때 권한 있는 사람이 이를 중단할 수 있도록 한다.

기업과 검증기관은 검증되지 않은 배포 또는 허위 검증 건마다 $25,000의 벌금을 부과받을 수 있다. 따라서 이 제안은 개발자와 외부 검토자 모두에게 법적 책임을 부여한다.

독립적 검증에는 분명한 장점이 있다. 제품을 옹호하는 대신 개발자의 증거에 의문을 제기하는 것이 상업적 역할인 당사자를 도입하기 때문이다.

그러나 검증기관은 기업이 제공하는 시스템, 기록, 접근 권한만 볼 수 있다. 검토 과정에서는 문서화되지 않은 사고, 내부 이견, 최종 평가에서 제외된 테스트를 놓칠 수 있다.

직원과 계약업체 관계자는 이러한 공백을 메울 수 있다. 이들은 모델이 초기 평가에서 다르게 작동했는지, 또는 출시 팀이 안전성 테스트의 범위를 좁혔는지 알 수 있다.

이들은 공식 문서에는 드러나지 않는 인센티브도 볼 수 있다. 기업은 문서상 안전 절차를 유지하면서도, 해결되지 않은 우려가 충분한 검토를 받기 전에 출시하도록 팀에 보상할 수 있다.

반대의 문제도 똑같이 현실적이다. 내부자는 불완전한 정보를 갖는 경우가 많고, 직장 내 분쟁은 사건을 해석하는 방식에 영향을 미칠 수 있다.

이 때문에 교차 검증이 필수적이다. 신뢰할 수 있는 집행 시스템은 직접적인 기술 증거와 개인적 추론, 전언, 추측을 구분해야 한다.

금전적 인센티브는 또 다른 상충 관계를 만든다. 포상은 신고에 따른 경력 위험을 상쇄할 수 있지만, 비판자들은 지급이 부실하거나 과장된 주장을 부추긴다고 주장할 것이다.

기존 내부고발자 제도는 이러한 비판에 실질적인 답을 제시한다. 보상은 일반적으로 단순히 고발을 접수한 사실이 아니라, 유용하고 독창적인 정보와 성공적인 회수에 연계된다.

뉴욕시는 아직 이 모델을 따를지 밝히지 않았다. 최종 법안은 독창적 정보, 자발적 공개, 자격 있는 참여자, 당국이 이미 알고 있는 증거의 처리 방식을 정의해야 한다.

법적 특권과 기밀 사업 정보도 다뤄야 한다. 유용한 프로그램은 사람들이 불법적으로 기록을 취득하거나 무관한 개인 정보를 노출하도록 부추겨서는 안 된다.

안전한 접수 절차도 마찬가지로 중요하다. AI 안전 증거에는 모델 가중치, 시스템 프롬프트, 평가 로그, 보안 취약점, 테스트 데이터세트의 개인정보가 포함될 수 있다.

일반적인 민원 양식은 그러한 자료 일부를 제출하기에 부적절하다. 시는 통제된 제출 방식, 기술 검토자, 민감한 증거에 대한 접근을 제한하는 규칙이 필요할 수 있다.

주 검찰총장은 이미 AI 직원들에게 기존 내부고발자 포털을 이용하도록 권유했다. 이는 시의 제안에 즉각적인 조정 문제를 제기한다.

두 개의 신고 경로는 접근성을 넓힐 수 있지만, 잠재적 내부고발자에게 혼란을 줄 수도 있다. 사람들은 어느 기관이 관할권을 갖는지, 사건 이관은 어떻게 이뤄지는지, 한 기관에 신고하는 것이 다른 청구에 영향을 미치는지를 알아야 한다.

NYC AI 내부고발자 보상 제도의 가장 강력한 형태는 이러한 경로들을 연결하는 방식일 것이다. 시 소비자법과 관련된 신고는 지역에서 처리하되, 더 광범위한 사기, 보안 또는 주법 관련 사안은 법무장관에게 전달될 수 있다.

이러한 조정은 직원이 긴급한 우려를 제기하기 전에 정부 관할권을 숙지하도록 강요하지 않으면서 중복을 줄일 수 있다.

이 제안은 AI 기업에 공개 공시 이상의 기록 보존을 요구한다

이제 AI 기업은 직원의 증거가 사고에 대한 공식 설명에 이의를 제기할 수 있기 때문에, 내부 안전 기록을 방어 가능한 형태로 관리해야 한다는 압박을 받고 있다.

공개 AI 거버넌스는 흔히 정책, 모델 카드, 안전 보고서, 자발적 테스트 약속을 중심으로 이뤄져 왔다. 이러한 자료는 중요하지만, 그 내용은 대체로 기업이 결정한다.

내부고발자 인센티브는 내부 기록의 가치를 바꾼다. 테스트 로그, 출시 승인, 미해결 위험 발견 사항, 사고 관련 커뮤니케이션은 집행 사건의 증거가 될 수 있다.

이 가능성은 법안이 통과되기 전부터 OpenAI, Anthropic, Google, Meta 및 다른 개발사에 영향을 미친다. 각 기업은 우려를 상향 보고하고 대응을 문서화하는 신뢰할 수 있는 절차를 갖춰야 한다.

이는 제3자 AI를 도입하는 기업에도 영향을 준다. 발표된 검증 제안은 최첨단 모델 개발사에만 적용되는 것이 아니라, 시 내에서 마케팅되거나 판매 제안되거나 배포되는 시스템에 적용된다.

최종 범위는 매우 중요하다. 좁은 정의는 고성능 시스템이나 고위험 활용에 초점을 맞출 수 있지만, 넓은 정의는 일반적인 업무용 소프트웨어까지 포괄할 수 있다.

과도한 적용 범위는 심각한 위험을 낳는다. 많은 애플리케이션은 자율 에이전트나 최첨단 AI 시스템과는 다른 일상적 기능에 머신러닝을 사용한다.

모든 저위험 기능에 동일한 검증이 요구된다면, 규정 준수 자원이 더 큰 피해 가능성이 있는 시스템에서 이탈할 수 있다. 소규모 기업은 주요 개발사가 보유한 법무팀도 갖추지 못할 수 있다.

시의회는 그 경계를 어디에 둘지 판단할 수 있을 만큼 충분한 세부 사항을 공개하지 않았다. 10월 청문회에서는 입법자들이 위험 기반 요건을 계획하는지, 아니면 하나의 일반 기준을 계획하는지를 검증해야 한다.

제3자가 모델을 수정할 경우 기업의 책임도 복잡해진다. 민사소송 제안은 누군가 안전 통제를 우회해 발생한 피해를 검토하지만, 예견 가능성을 입증하기는 어려울 수 있다.

개발사는 모든 오용을 막을 수 없다. 동시에, 알려진 우회 방식에 대한 반복적 증거는 향후 사고를 더 쉽게 예측하게 만들 수 있다.

문서화는 이 두 입장 사이의 가교가 된다. 기업은 언제 취약점을 파악했는지, 누가 이를 평가했는지, 어떤 완화 조치가 뒤따랐는지를 보여줄 수 있어야 한다.

근로자에게도 마찬가지로 명확한 이의 제기 경로가 필요하다. 직원이 출시를 지연시키거나, 독립적 검토를 받거나, 미해결 이의를 문서화할 수 없다면 내부 안전팀은 신뢰를 잃는다.

제안된 보상은 기업이 이러한 내부 경로를 강화하도록 압박할 수 있다. 신뢰할 수 있는 상향 보고 경로를 가진 근로자는 규제기관에 먼저 접근할 이유가 줄어든다.

그 결과는 양측 모두에 이익이 된다. 기업은 문제를 해결할 더 이른 기회를 얻고, 규제기관은 예방 가능한 내부 실패에서 비롯된 신고를 더 적게 받게 된다.

그러나 내부 신고가 유일한 선택지여서는 안 된다. 안전하지 않은 행위를 했다는 의혹을 받는 기업이 증거가 독립적 기관에 전달될지를 통제해서는 안 된다.

과제는 모든 기술적 이견을 법적 사건으로 만들지 않으면서 정당한 공개를 보호하는 것이다. AI 개발에서는 수용 가능한 성능과 잔여 위험에 관한 논쟁적 판단이 자연스럽게 발생한다.

입법은 일반적인 과학적 이견과 은폐, 허위 주장, 보복, 또는 확립된 법 위반을 구분해야 한다. 명확한 기준은 연구자를 보호하면서도 정직한 토론의 공간을 보존할 것이다.

시의회 패키지는 안전성 마케팅도 겨냥한다. 또 다른 제안은 특정 제품 공시를 요구하고 AI 안전성에 관한 허위 또는 오해를 유발하는 주장을 금지한다.

이 연결은 중요하다. 기업이 상반된 내부 증거에도 불구하고 시스템을 안전하다고 공개적으로 설명한다면, 숨겨진 테스트 실패는 특히 중요해진다.

내부고발자 정보는 이러한 충돌을 드러낼 수 있다. 이후 독립 검증 기관은 기업의 공개 주장이 테스트 기록과 일치하는지 평가할 수 있다.

따라서 압박의 핵심은 모든 모델 실패를 없애는 데 있지 않다. 어떤 복잡한 시스템도 그 기준을 충족하지는 못한다.

압박의 핵심은 실패를 일관되게 조사하고, 중대한 한계를 정확하게 공개하며, 내부 증거가 뒷받침하지 않는 확신을 판매하지 않는 데 있다.

가장 큰 질문들은 여전히 답을 얻지 못했다

이 제안의 성공은 보상을 발표하는 것보다 관할권, 증거 기준, 보복 방지, 기술 검토 역량을 정의하는 데 더 달려 있다.

첫 번째 불확실성은 법적 권한이다. 뉴욕시는 기업을 규제하고 소비자 보호 규칙을 집행하지만, 많은 AI 안전 우려는 주와 국가 경계를 넘어선다.

모델은 다른 지역에서 개발되고, 클라우드 서비스를 통해 접근되며, 뉴욕 기업에 의해 사용될 수 있다. 최종 법안은 시와의 어떤 연결이 요건을 발동시키는지 설명해야 한다.

연방 정책은 또 다른 마찰 요인을 만든다. Menin은 워싱턴이 규제를 완화하거나 대응하지 못할 때 도시들이 행동해야 한다고 주장해 왔다.

지역 조치는 새로운 집행 방식을 시험할 수 있다. 동시에 관할권별로 서로 다른 중복 규칙을 만들 수 있으며, 일관된 안전 결과를 보장하지 못한 채 규정 준수 비용을 높일 수 있다.

뉴욕주는 이미 더 큰 체계의 일부를 제공하고 있다. RAISE Act는 특정 대형 최첨단 개발사에 안전성 공시와 특정 사고 보고를 요구한다.

state bill records에 따르면 이 법은 1월 1일 발효된다. 주 당국은 독립 감사, 사고 보고, 개인정보 보호, 내부고발자 보호를 위한 추가 요건도 검토하고 있다.

시는 자체 프로그램이 무엇을 추가하는지 밝혀야 한다. 지역 회수금에 연계된 보상은 구별되지만, 중복된 신고 의무는 기관과 기업을 겹치는 제출 자료에 파묻히게 할 수 있다.

두 번째 불확실성은 보상 설계와 관련된다. 시의회는 회수된 벌금 중 최소 또는 최대 비율을 발표하지 않았다.

보상이 너무 작으면 신고에 따르는 직업적 위험을 감수할 이유가 부족할 수 있다. 지나치게 후한 공식은 기여자 간 분쟁을 낳거나 성급한 제출을 부추길 수 있다.

자격 규칙도 중요하다. 위반에 가담한 임원이 이를 저지하려 했던 직원과 반드시 같은 대우를 받아야 하는 것은 아니다.

계약자, 평가 파트너, 전직 근로자는 핵심 정보를 보유할 수 있다. 이들을 제외하면 가장 잘 아는 잠재적 정보원 일부를 잃을 수 있다.

세 번째 불확실성은 보복이다. 수년 후 받는 금전 보상은 즉시 일자리를 잃는 사람을 보호하지 못한다.

효과적인 보호에는 기밀 접수, 보복에 대한 구제 수단, 피할 수 있는 절차상 공개를 통해 신원이 드러나지 않도록 하는 절차가 필요하다.

익명 제출도 자체적인 과제를 제시한다. 규제기관은 후속 면담, 원본 파일 접근, 증거가 어떻게 확보됐는지를 입증하는 증언이 필요할 수 있다.

네 번째 불확실성은 기술적 전문성이다. 모델 로그나 에이전트 대화 기록은 테스트 환경에 대한 맥락 없이 해석하기 어려울 수 있다.

조사관은 설계된 레드팀 시나리오와 예기치 않은 실제 환경의 행동을 구분해야 한다. 레드팀은 적대적 프롬프트나 모의 공격을 통해 시스템의 취약점을 의도적으로 시험하는 것을 의미한다.

극적인 대화 기록이 배포된 시스템이 동일한 위험을 제시한다는 점을 자동으로 증명하지는 않는다. 규제기관은 권한, 격리, 재현 가능성, 해당 행동에 필요한 조건을 검토해야 한다.

다섯 번째 불확실성은 검증 기관의 독립성이다. 외부 검토는 검증 기관이 충분한 접근 권한을 보유하고 우호적인 결과를 내놓을 유인이 없을 때에만 작동한다.

위조된 검증에 대한 제안된 처벌은 직접적인 위법 행위를 다룬다. 그러나 반복 거래, 제한된 범위, 경영진이 선택한 테스트 조건과 관련된 더 미묘한 이해충돌은 해결하지 못한다.

따라서 접근 권한, 방법론, 문서화, 검토자 이해충돌에 대한 기준은 검증 요건 자체만큼 중요하다.

인간의 오버라이드 통제를 둘러싼 해결되지 않은 실무적 문제도 있다. 킬 스위치는 단순해 보이지만, 많은 AI 서비스는 분산 시스템, 외부 도구, 하위 고객에 의존한다.

하나의 모델 엔드포인트를 중지해도 복제본, 캐시된 출력, 연결된 에이전트 또는 다른 조직이 통제하는 배포까지 멈추지는 않을 수 있다.

법안에는 명칭이 아니라 기능적 기준이 필요하다. 누가 오버라이드를 발동할 수 있는지, 어떤 운영을 중단해야 하는지, 조직이 어떻게 통제를 시험하는지를 명시해야 한다.

이러한 미해결 질문들이 패키지를 무의미하게 만들지는 않는다. 이는 10월 청문회가 의례적 행사가 아니라 필요한 단계인 이유를 보여준다.

입법자들은 집행 방향을 제시했다. 이제 실제 사고와 법적 도전을 견딜 수 있는 증언, 기술적 정의, 법률 문구가 여전히 필요하다.

10월 5일 AI 안전 청문회에서 주목할 점

세 가지 신호는 NYC AI 내부고발자 보상이 집행 가능한 프로그램으로 발전하는지, 아니면 주목을 끄는 정책 구상에 머무르는지를 보여줄 것이다.

첫 번째 신호는 보상 프로그램의 실제 법안 문구다. 독자는 정의된 보상 공식, 명확한 자격 규칙, 기밀 유지 절차, 지정된 집행 기관을 확인해야 한다.

문구는 회수금이 AI 특화 법률에서 나와야 하는지도 설명해야 한다. 일반적인 소비자 보호 위반도 대상이 된다면, 모든 새 안전 법안이 발효되기 전에도 프로그램은 운영될 수 있다.

정확한 증거 기준은 제안을 강화할 것이다. 이는 입법자들이 규제기관이 유용한 원본 정보와 추측을 구분할 것으로 기대한다는 점을 보여준다.

이 사안들에 대한 침묵은 계획을 약화할 것이다. 내부자에게 보상하는 매력을 강조하면서 가장 어려운 시행 결정을 미해결 상태로 남기게 된다.

두 번째 신호는 10월 5일 청문회에서 AI 기업이 보이는 대응이다. 참석 여부도 중요하지만, 답변의 질이 더 중요하다.

입법자들은 누가 배포를 중단할 수 있는지, 직원들이 어떻게 이의를 보존하는지, 내부 검토자가 심각하고 미해결된 실패를 확인했을 때 어떤 일이 일어나는지를 물어야 한다.

또한 외부 테스트 접근에 관한 세부 사항도 요청해야 한다. 개발사가 모든 자료를 선택하고 불리한 결과를 제외한다면, 검증 기관은 독립적 결론에 도달할 수 없다.

기업들은 구체적인 취약점을 공개적으로 논의하는 데 저항할 수 있으며, 그 우려는 정당할 수 있다. 시의회는 여전히 거버넌스 구조, 신고 일정, 증거 보존에 관해 질문할 수 있다.

의미 있는 약속에는 보호된 내부 상향 보고, 보존된 테스트 기록, 신속한 사고 보고, 독립 검토에 대한 협력이 포함된다.

책임 있는 개발에 관한 일반적 보장은 거의 증거가 되지 못한다. 청문회는 실패 이후에도 검토할 수 있는 절차에 초점을 맞춰야 한다.

세 번째 신호는 시 및 주 당국 간의 조정이다. 시의 패키지는 주 법무장관 포털 및 RAISE Act의 공시 요건과 교차한다.

공유된 이관 절차는 내부고발자의 혼란을 줄일 수 있다. 또한 기관이 적절한 관할권과 전문성을 갖춘 조사관에게 전문 증거를 전달하는 데 도움이 될 것이다.

상충하는 규칙은 프로그램을 약화할 것이다. 직원들은 어디에 신고해야 할지 모르면 망설일 수 있고, 기업들은 동일한 사고에 대해 서로 일관되지 않은 여러 요구를 받을 수 있다.

더 폭넓은 정책 시험대는 뉴욕이 모든 AI 실패를 위법 행위로 간주하지 않으면서, 비공개 지식을 책임 있는 증거로 전환할 수 있는지에 달려 있다.

이 구분은 개발자, 기업 구매자, 일반 사용자 모두에게 중요하다. 안전성 주장은 조달 결정에 영향을 미치며, 숨겨진 사고는 데이터, 보안, 사업 연속성에 영향을 줄 수 있다.

AI를 구매하는 조직은 검증 요건을 면밀히 살펴야 한다. 배포 전에 테스트, 인적 통제, 사고 대응, 공급업체 공개에 관한 증거가 필요할 수 있다.

개발자는 안전 관련 결정을 어떻게 기록하는지 검토해야 한다. 향후 조사는 사고 이후에 작성된 다듬어진 설명이 아니라, 당시의 증거에 의존하게 된다.

지식 근로자 역시 이 제안의 실질적 의미를 이해해야 한다. AI 제공업체의 공개 문서는 시스템에 관한 이용 가능한 증거 중 일부만을 보여줄 수 있다.

시의회는 내부 고발자가 나머지를 드러낼 수 있다고 보고 있다. 다음 과제는 내부 고발자들이 실제로 활용할 만큼 신뢰할 수 있는 절차를 구축하는 일이다.

NYC AI 내부고발자 포상은 그 자체로 AI 안전 문제를 해결하지는 못한다. 특히 위험이 비공개 테스트 내부에 숨겨져 있을 때, 기존에 없던 집행 경로를 만들 수 있다.

10월 5일 청문회에서는 입법자들이 증거, 보호, 관할권을 중심으로 이 경로를 설계했는지가 드러날 전망이다. 이러한 세부 사항이 이 제안이 기업의 행동을 바꿀 수 있는지를 결정할 것이다.

공개된 법안 문안, 구체적인 기업 증언, 그리고 시·주 당국 간 합의를 지켜볼 필요가 있다. 이 신호들이 함께 뉴욕의 계획이 헤드라인을 넘어 실제 집행으로 나아갈 수 있는지를 보여줄 것이다.