투명성 단체들의 이의 제기로 비공개 상태인 EPA AI 영향 평가

EPA는 기관이 이러한 시스템을 배포하기 전에 위험을 문서화하도록 요구하는 연방 규정에도 불구하고, 고영향 AI 도구에 대한 최종 평가를 공개하지 않았다. 이 거부는 이제 행정 이의 제기와 연방 AI 투명성에 대한 직접적인 시험으로 이어졌다.

PEER로 알려진 Public Employees for Environmental Responsibility와 FIG(Free Information Group)는 2026년 9월 15일 이의 제기를 발표했다. 이들이 3월에 제출한 정보공개법 요청은 7개 화학물질과 관련된 스크리닝 도구를 포함해 화학물질 평가에서의 AI 관련 기록을 요구했다.

EPA는 공개 AI 인벤토리와 최종 영향 평가를 요청에 부합하는 기록으로 확인했다. 그러나 심의 과정 특권을 근거로 평가 자료는 공개하지 않았으며, 요청의 다른 13개 범주에 대해서는 부합하는 기록을 찾지 못했다고 밝혔다.

이 대응은 단일 기록 분쟁보다 큰 충돌을 낳는다. 연방 정책은 신속한 AI 도입을 장려하는 동시에 건강, 안전, 권리에 영향을 미치는 시스템에 추가 통제를 요구한다. EPA AI 영향 평가는 알고리즘 출력이 중요한 기관 의사결정에 들어가기 전에 그러한 통제가 제대로 작동하는지를 보여줘야 한다.

해결되지 않은 질문은 EPA가 AI를 사용하는지 여부가 아니다. 공개 계획과 인벤토리만으로도 사용 사실은 확인된다. 문제는 기관 밖의 사람들이 EPA의 보장을 뒷받침하는 증거를 평가할 수 있는지다.

EPA AI 영향 평가 이의 제기는 최종 기록을 겨냥한다

이의 제기는 평가 공개를 거부한 EPA의 결정과 기록 검색의 명백한 한계 모두에 도전한다.

PEER와 FIG는 2026년 3월 5일 최초 요청을 제출했다. 이들의 이의 제기 발표에 따르면, 요청은 화학물질 평가에서 EPA의 AI 사용과 7개 화학물질을 포함한 스크리닝 업무를 다뤘다.

단체들은 AI 프로젝트의 일반 목록 이상을 요구했다. 도구 선택, 시험, 성능, 안전장치, 그리고 AI가 화학물질 평가에서 수행할 수 있는 역할에 관한 문서를 요청했다.

EPA는 요청에 부합하는 자료를 두 범주에서만 찾았다고 밝혔다. 하나는 기관이 이미 공개하고 있는 2025년 AI Use Case Inventory였다. 다른 하나는 고영향 EPA AI 도구에 대한 최종 영향 평가 자료였다.

이 평가 자료는 공개되지 않았다. EPA는 기관이 결정을 내리기 전에 작성된 내부 커뮤니케이션과 일반적으로 연관되는 보호 장치인 심의 과정 특권을 적용했다.

분쟁은 부분적으로 “최종”이라는 단어에 달려 있다. 최종 평가에는 내부 심의와 연결된 분석, 권고 또는 기타 자료가 포함될 수 있다. 제목만으로 모든 부분이 비공개 대상인지 결정되지는 않는다.

그러나 이 제목은 요청자들에게 명확한 검토 근거를 제공한다. 평가가 완료된 시험, 채택된 통제 장치, 최종 위험 판단 또는 사실관계 확인을 기록한다면, 단체들은 EPA가 이를 전적으로 비밀 심의 자료로 취급해서는 안 된다고 주장한다.

FOIA 분쟁에서는 기관이 면제되는 구절과 합리적으로 분리 가능한 비면제 정보를 구분해야 하는 경우가 많다. 이는 핵심 쟁점이 반드시 전면 공개 또는 완전한 비밀 유지인 것은 아니라는 뜻이다. EPA는 사실적 부분, 요약, 결론 또는 편집본을 공개할 수 있었는지에 관한 질문에 직면할 수 있다.

검색 자체도 또 다른 충돌 지점이다. EPA는 더 광범위한 AI 거버넌스와 화학물질 스크리닝 관행을 다루는 나머지 13개 범주에 부합하는 기록을 찾지 못한 것으로 알려졌다.

그 결과가 기록의 부재나 EPA의 부적절한 검색을 증명하는 것은 아니다. 기관은 요청자가 예상하는 모든 문서를 만들지 않으면서도 프로그램을 공개적으로 논의할 수 있다.

그럼에도 이 간극은 검토할 가치가 있다. EPA는 AI 전략을 공개했고, 거버넌스 기구를 운영하며, 사용 사례를 추적하고, 기관 업무 전반에서 AI 확대를 논의해 왔다. 기록 검색에서 이처럼 적은 세부 정보만 나온다면 기관의 공개 프로그램과 문서 기록 사이에 긴장이 생긴다.

PEER의 사무총장 Tim Whitehouse는 이 사안을 공공 책무성의 관점에서 제기했다. 그는 납세자가 이러한 도구에 자금을 대고 있으며, 그 출력이 건강, 안전, 권리에 영향을 미칠 수 있다고 주장했다.

FIG 파트너 Kevin Bell은 이 도구들을 코드로 표현된 정책이라고 설명했다. 인간이 최종 결정에 공식 서명하더라도 자동화된 권고가 기관의 결과를 형성할 수 있다는 것이 그의 우려다.

이의 제기는 EPA 시스템이 안전하지 않거나 편향됐거나 화학물질 결정을 통제한다는 점을 입증하지 않는다. 이는 외부인이 그러한 가능성을 평가할 수 있도록 기관이 충분한 증거를 공개하도록 요구한다.

이 구분은 중요하다. 공개를 위한 가장 강력한 근거는 사전에 알고리즘 피해를 입증하는 데 의존하지 않는다. 대중이 평가, 안전장치 또는 시험 과정을 검토할 수 없을 때 오류를 식별하기 어렵다는 데 기반한다.

연방 규정은 AI 인벤토리 이상의 것을 요구한다

프로젝트 목록은 AI가 존재한다는 사실을 보여주지만, 영향 평가는 중요한 시스템이 부여된 역할에 적합한지를 보여줘야 한다.

EPA의 공개 AI use inventory는 사용 사례를 폭넓게 정의한다. 여기에는 기관의 임무, 결정, 서비스 또는 공공 혜택을 지원하기 위해 설계·개발·조달·사용되는 시스템이 포함될 수 있다.

기관의 2025년 인벤토리는 처음에는 2026년 2월 10일 공개됐으며, 이후 업데이트됐다. EPA는 일반적인 AI 사용 형태를 종합한 보고서도 공개한다.

인벤토리는 유용한 기준 정보를 제공한다. 프로젝트의 목적, 개발 단계, 기술 범주, 운영 부서, 공급업체 관여, 영향 분류를 식별할 수 있다.

그러나 이는 배포 승인을 위해 사용된 증거를 반드시 드러내지는 않는다. 짧은 설명만으로는 시험 데이터가 실제 운영 조건을 대표했는지, 오류율이 집단별로 달랐는지, 검토자가 프로젝트 팀의 가정에 이의를 제기했는지를 알 수 없다.

OMB Memorandum M-25-21은 이러한 차이를 구분한다. 이는 고영향 AI를 권리나 안전에 중대한 영향을 미치는 결정 또는 조치의 주된 근거로 사용되는 출력을 내는 시스템으로 정의한다.

인간의 관여만으로 시스템이 그 범주에서 자동으로 제외되지는 않는다. 기관은 AI 출력의 실제 기능과 의사결정 과정이 이에 얼마나 크게 의존하는지를 고려해야 한다.

연방 AI 정책에 따라 기관은 고영향 AI 사용 사례를 배포하기 전에 영향 평가를 완료해야 한다. 또한 적절한 경우 시스템 수명주기 전반에 걸쳐 그 평가를 업데이트해야 한다.

요구되는 분석은 광범위하다. 여기에는 의도된 목적, 예상 혜택, 데이터 품질, 모델 역량, 프라이버시 및 시민권에 대한 잠재적 영향, 재평가 절차, 직접 비용, 독립적 검토가 포함된다.

시험은 실험실 성능에만 의존하지 않고 실제 환경의 결과를 예상해야 한다. 기관은 배포 후 성능 저하를 감지하고 대응하기 위한 절차도 필요하다.

이러한 요건은 AI 영향 평가를 인벤토리 항목보다 더 많은 정보를 제공하게 만든다. 평가는 시스템이 주장하는 혜택을 증거, 한계, 감독, 그리고 잔여 위험을 감수할 의사가 있는 식별 가능한 사람과 연결해야 한다.

이 차이가 EPA AI 영향 평가가 이의 제기의 중심이 된 이유를 설명한다. EPA의 공개 인벤토리는 활동을 확인하지만, 고영향 배포에 요구되는 상세 분석을 대체할 수는 없다.

OMB 정책에도 중요한 한계가 있다. 민감한 프로그램 내에서 운영되더라도 모든 AI 지원 워크플로가 고영향에 해당하는 것은 아니다.

과학자들이 논문을 찾도록 돕는 검색 도구는 자문적 성격에 머물 수 있다. 규제상 주의가 필요한 화학물질의 순위를 매기는 모델은 직원들이 그 출력을 어떻게 사용하는지에 따라 더 큰 비중을 가질 수 있다.

따라서 같은 기술도 서로 다른 워크플로에서는 다른 분류를 받을 수 있다. 모델의 마케팅 명칭보다 맥락, 권한, 데이터, 인간의 의존도가 더 중요하다.

이는 합리적 견해 차이의 여지를 만든다. EPA는 도구가 중요한 결정의 주된 근거가 되지 않고 연구를 지원한다고 결론 내릴 수 있다. 비판자들은 직원들이 거의 이탈하지 않기 때문에 같은 순위나 권고가 실질적으로 결정적이라고 볼 수 있다.

영향 평가는 그 경계를 문서화해야 한다. 그 논리에 접근할 수 없다면 외부인은 EPA가 진정으로 자문적인 시스템을 시험했는지, 아니면 그 영향력을 축소하는 좁은 정의를 채택했는지 알 수 없다.

더 빨라진 화학물질 검토는 숨겨진 가정의 대가를 높인다

AI는 EPA가 과학적 증거를 정리하는 데 도움이 될 수 있지만, 스크리닝 선택이 어떤 증거가 주목받는지를 조용히 결정할 때 속도는 위험해진다.

화학물질 평가는 과학자들이 방대하고 불균질한 정보 집합을 처리하도록 요구한다. 연구는 종, 노출 경로, 용량, 결과, 품질, 인체 건강과의 관련성에서 서로 다를 수 있다.

머신러닝과 자연어 처리는 연구 분류, 정보 추출, 관련 기록 식별, 검토 자료 우선순위 지정에 도움을 줄 수 있다. 이러한 기능은 반복 업무를 줄이고 전문가가 늘어나는 증거 기반을 탐색하는 데 도움을 줄 수 있다.

그러나 스크리닝은 중립적이지 않다. 모델의 순위는 검토자가 어떤 연구를 먼저 살펴보는지, 어떤 기록이 더 면밀한 주목을 받는지, 어떤 명백한 공백이 추가 연구를 유발하는지에 영향을 미칠 수 있다.

거짓 양성은 시간을 낭비할 수 있다. 거짓 음성은 위험 평가를 담당하는 전문가에게 관련 증거가 결코 전달되지 않을 수 있기 때문에 더 심각할 수 있다.

위험은 워크플로 설계에 따라 달라진다. 두 번째 검색 채널로 사용되는 모델은 문서를 추가 검토에서 제외하는 데 사용되는 모델과 다른 위험을 만든다.

이 때문에 “AI 지원” 같은 광범위한 표기는 거의 드러내는 바가 없다. 독자는 시스템이 검색, 요약, 순위화, 제외, 예측 또는 권고 중 무엇을 하는지 알아야 한다.

또한 도구를 학습시키거나 평가하는 데 어떤 데이터가 사용됐는지도 알아야 한다. 과학 문헌에는 출판 편향, 일관되지 않은 용어, 불완전한 초록, 수십 년에 걸친 연구 방법의 변화가 포함된다.

화학물질 이름은 추가적인 복잡성을 만든다. 하나의 물질은 여러 이름을 가질 수 있으며, 밀접하게 관련된 화합물도 실질적으로 다른 특성을 가질 수 있다.

EPA의 평가는 이상적으로 이러한 조건을 시스템이 어떻게 처리하는지 설명해야 한다. 또한 검증 표본, 관련 오류 측정치, 인간 검토 절차, 성능이 기대치 아래로 떨어졌을 때의 대응도 기술해야 한다.

이의 제기에서 인용된 공개 증거는 EPA가 최종 화학물질 위험 결정을 AI 시스템에 위임했다는 점을 입증하지 않는다. PEER와 FIG는 기관이 AI 도구가 규제 의사결정에 들어가는지 또는 어떻게 구성되는지를 설명하지 않았다고 말한다.

이 검증 공백은 계속 핵심으로 남아야 한다. 그 역할을 보여주는 증거 없이 실험적 스크리닝 도구를 자동화된 규제기관으로 묘사하는 것은 부정확할 것이다.

인간이 여전히 절차 어딘가에 있다는 이유로 우려를 일축하는 것도 시기상조다. 시스템의 권고를 지나치게 쉽게 수용하는 경향인 자동화 편향은 공식 권한이 직원에게 남아 있더라도 결과에 영향을 미칠 수 있다.

인력과 시간의 압박은 그 위험을 키운다. 검토자가 수천 건의 기록을 다뤄야 할 때 우선순위 목록은 검토의 실질적 형태가 될 수 있다.

AI는 일관성을 개선할 수도 있다. 문서화된 모델은 서로 다른 마감 시한 아래 일하는 팀보다 스크리닝 기준을 더 균일하게 적용할 수 있다.

그 잠재적 이점은 측정 가능한 평가의 필요성을 더욱 뒷받침한다. EPA는 도구가 허용 가능한 수준으로 관련 증거를 찾아내는지, 그리고 인간 검토자가 그 오류를 식별할 수 있는지를 보여줄 수 있어야 한다.

따라서 이 분쟁은 기술과 수작업 검토 간의 단순한 대결이 아니다. 독립적으로 검증할 수 있는 투명한 자동화와 그 영향력을 독립적으로 검토할 수 없는 자동화의 문제다.

EPA 자체 계획은 이 기관이 AI를 단순한 소규모 실험 이상으로 보고 있음을 보여준다. 2027 회계연도 예산 자료는 수만 건의 공개 의견 분류를 포함해 규칙 제정 및 인허가 업무를 지원하는 AI를 설명한다.

예산안은 AI 역량 강화를 위해 2억 220만 달러와 730명의 정규직 환산 인력을 요청했다. 이 수치는 화학물질 스크리닝이나 고영향 도구에만 국한되지 않은 더 광범위한 프로그램을 포괄한다.

그럼에도 이는 왜 지금 거버넌스 기록이 중요한지를 보여준다. 시범 사업에 효과적인 감독 방식이 규칙 제정, 인허가, 집행, 과학적 평가 전반으로 자동 확장되지는 않을 수 있다.

EPA는 통제를 약속하지만 증거는 내부에 남겨둔다

EPA가 공개한 거버넌스 구조는 엄정해 보이지만, 이 구조가 실제 운영 의사결정을 바꾸는지 검증하는 데 필요한 증거는 비공개 평가 자료에 담겨 있다.

EPA의 AI 전략은 세 개의 거버넌스 그룹을 설명한다. Executive AI Governance Board가 방향을 설정하고, AI 소위원회는 정책을 개발하며 사용 사례 목록을 관리한다.

더 폭넓은 실무 커뮤니티는 데이터 과학자와 프로그램 담당자가 피드백과 운영 경험을 교환할 수 있는 장을 제공한다. 이 그룹 자체가 거버넌스 기구는 아니다.

이 전략은 EPA가 미국 국립표준기술연구소의 AI 위험 관리 프레임워크를 반영한다고 밝힌다. 또한 시범 사업, 모니터링, 피드백 주기, 교육, 사이버보안 검토, 법률 자문을 안전장치로 제시한다.

고영향 시스템의 경우 EPA는 가능한 부정적 영향을 해결하기 위한 통제를 AI 소위원회가 감독한다고 설명한다. 이는 연방 AI 거버넌스의 합리적인 구성 요소들이다.

하지만 이 전략은 특정 시스템에 대해 그러한 통제가 어떻게 작동했는지를 보여주지 않는다. 독립 검토자가 미해결 공백을 발견했는지, 테스트가 현실적인 실패 모드를 다뤘는지, 또는 지도부가 기술적 이의 제기에도 위험을 수용했는지 밝힐 수 없다.

그 정보는 프로젝트 수준의 기록에 속한다. 따라서 영향 평가 자료는 EPA의 일반적인 거버넌스 약속이 운영상의 증거와 만나야 하는 지점이다.

법적 면제가 최종적으로 적용되더라도, 이를 비공개로 유지하는 것은 신뢰성 문제를 낳는다. 대중은 가장 유익한 결과물이 공개되지 않은 절차를 신뢰해 달라는 요구를 받고 있다.

EPA는 소스 코드, 보호 대상 개인정보, 사이버보안 세부사항 또는 영업비밀 정보를 공개하지 않고도 그 격차를 줄일 수 있다. 편집된 평가 자료, 평가 요약, 모델 카드, 실패 범주 또는 일반인이 이해할 수 있는 위험 결정 내용을 공개할 수 있다.

또한 특정 시스템이 왜 고영향에 해당하는지 설명할 수 있다. 도구가 건강 또는 안전 관련 결정에 영향을 미친다면, 기관은 그 결정을 식별하고, 출력 결과의 역할과 책임 있는 공무원이 개입하는 지점을 밝혀야 한다.

반대로 EPA는 겉보기에는 민감한 사용 사례가 고영향이 아니라고 판단한 경우에도 이를 설명해야 한다. 이는 해당 시스템이 경미한 행정 지원을 제공하는지, 아니면 중대한 결과를 형성하는지를 분명히 할 것이다.

연방정부 전반의 기록은 불완전한 공개가 EPA만의 문제가 아님을 보여준다. 2026년 Brookings 분석은 기관들이 2025년에 3,600건 이상의 AI 사용 사례를 기록했다고 밝혔다.

고영향 시스템은 전체의 12.3%, 즉 445건의 사용 사례를 차지했다. 그러나 이 분석은 배포된 고영향 사례의 85% 이상에 위험 통제에 관한 필수 공개 정보 일부가 누락돼 있음을 발견했다.

그 인벤토리 조사 결과가 개별 기관이 내부 평가를 수행하지 않았다는 것을 입증하는 것은 아니다. 이는 공공 보고가 중대한 영향을 미치는 AI의 확대 속도를 따라가지 못했음을 보여준다.

같은 분석은 중요한 정책 변화를 지적했다. 이전 지침은 결과를 통제하거나 상당한 영향을 미치는 시스템을 포괄했다. M-25-21은 이제 출력 결과가 의사결정의 주된 근거로 활용되는 시스템에 초점을 맞춘다.

이 표현은 적용 대상 범주를 좁힐 수 있다. AI가 의사결정자에게 제공되는 증거를 실질적으로 형성하더라도, 기관은 AI가 더 광범위한 인간 중심 절차에 정보만 제공한다고 주장할 수 있다.

위험은 책임성 공백이다. 시스템이 업무 흐름을 바꿀 만큼 중요할 수 있으면서도 “주된 근거”에 대한 엄격한 해석의 기준 아래에 머무를 수 있다.

EPA가 최종 평가 자료를 보유하고 있음을 인정한 것은 적어도 일부 도구를 고영향으로 분류했음을 시사한다. 그러나 공개된 답변은 해당 도구의 명칭, 기능 또는 배포 상태를 밝히지 않는다.

이 불확실성은 어느 한쪽의 포괄적인 주장을 막아야 한다. 기록은 신중한 테스트와 절제된 배포를 문서화할 수 있다. 반대로 공백, 미해결 위험 또는 불분명한 책임을 드러낼 수도 있다.

공개가 가치 있는 이유는 바로 두 결과 모두 여전히 가능하기 때문이다.

이의 제기는 EPA AI의 정확성이 아니라 비밀주의를 시험한다

청구인들이 승리하면 가시성은 개선되겠지만, 그것만으로 EPA의 도구가 정확하거나 부적절하게 배포됐다는 점이 입증되지는 않는다.

행정적 FOIA 이의 제기는 기관에 초기 대응을 재검토해 달라고 요청하는 절차다. 검토 기관은 결정을 유지하거나 뒤집거나, 더 광범위한 검색과 추가 공개를 요구할 수 있다.

현재 이의 제기는 여전히 그 단계에 있다. 법원은 EPA가 평가 자료를 부당하게 비공개 처리했다고 판결한 바 없으며, 이의 제기 발표문은 분쟁에 대한 청구인 측의 설명을 제시한다.

EPA는 일부 내부 심의를 보호할 정당한 이해관계를 갖고 있다. 의사결정자에게는 모든 논의를 최종 정책으로 만들지 않으면서 아이디어를 시험하고, 위험을 토론하며, 예비 결론을 기각할 공간이 필요하다.

AI 평가에는 보안에 민감한 설명, 개인정보, 조달 세부사항 또는 기밀 데이터도 포함될 수 있다. 책임 있는 공개 절차는 이러한 이해관계를 고려해야 한다.

더 어려운 질문은 이러한 우려가 최종 문서를 전부 비공개로 유지하는 것을 정당화하는지다. 기관이 안전장치가 존재한다고 공개하면서도 그 안전장치가 어떻게 적용됐는지를 보여주는 모든 증거를 가릴 수 있다면 공적 책임성은 약해진다.

균형 잡힌 공개는 보호가 필요한 부분은 보존하면서 의사결정 기록을 드러낼 수 있다. 유용한 항목에는 도구의 목적, 책임 부서, 배포 상태, 평가 설계, 알려진 한계, 모니터링 일정, 에스컬레이션 절차가 포함될 것이다.

독립 검토는 특히 주목할 가치가 있다. OMB는 개발에 관여하지 않은 검토자가 우려 사항이나 공백을 식별하도록 요구한다.

이 요구사항은 의도적으로 조직 내 긴장을 만든다. 프로젝트 팀은 흔히 예상되는 이점에 집중하는 반면, 독립 검토자는 가정을 시험하고 실패 모드를 살펴봐야 한다.

대중이 이 안전장치가 작동했는지 평가하기 위해 모든 내부 의견을 볼 필요는 없다. 어떤 우려가 제기됐고 책임 있는 공무원이 이를 어떻게 해결했는지 알 수 있을 만큼의 정보가 필요하다.

공개가 형식적인 행위가 될 위험도 있다. 기관은 임계값, 부정적 결과 또는 미해결 이견을 생략한 정제된 요약을 공개할 수 있다.

원시 기술 세부사항은 반대의 문제를 제기한다. 긴 문서가 투명해 보이면서도 시스템의 영향을 받는 사람들에게는 접근하기 어려울 수 있다.

따라서 효과적인 연방 AI 투명성에는 여러 층위가 필요하다. 짧은 요약은 결정과 그 결과를 설명해야 하며, 기술 문서는 전문가 검토를 뒷받침해야 한다.

구조화된 인벤토리 항목은 시간이 지나며 이 자료들을 연결해야 한다. 안정적인 식별자는 연구자들이 시스템이 시범 사업에서 배포로 전환됐는지, 영향 분류가 바뀌었는지, 또는 평가가 업데이트됐는지를 추적하는 데 도움이 될 것이다.

EPA의 공개 인벤토리는 현재 출발점을 제공한다. 요청된 평가 자료는 프로젝트 목록만으로는 제공할 수 없는 위험 증거를 더할 것이다.

정부 전반의 감사 결과는 그러한 연결의 필요성을 강화한다. 미국 정부책임감사원은 선정된 11개 기관에서 보고된 생성형 AI 사용 사례가 2023년 32건에서 2024년 282건으로 증가했다고 밝혔다.

그 연방 AI 검토는 정책 준수, 기술 자원, 예산, 빠르게 변화하는 기술을 반복적인 관리 과제로도 설명했다.

이러한 조사 결과는 분쟁 중인 EPA 도구를 평가하지는 않는다. 기관들이 거버넌스 관행이 성숙하는 속도보다 더 빠르게 시스템을 추가할수록 내부 보장에 의존하기가 더 어려워지는 이유를 보여준다.

이 이의 제기는 AI를 도입하는 기업에도 실질적인 교훈을 제시한다. 인벤토리, 검토 위원회 또는 정책 문서는 배포된 시스템이 명시된 기준을 충족한다는 증거가 되지 않는다.

조직은 각 사용 사례를 데이터, 테스트, 한계, 모니터링, 책임자 및 위험 결정과 연결하는 추적 가능한 증거가 필요하다. 그렇지 않으면 거버넌스는 운영 중인 소프트웨어와 분리된 약속들의 집합이 된다.

EPA는 과학적 평가가 규칙, 노출 한도, 인허가 결정 및 집행 우선순위에 영향을 줄 수 있기 때문에 특히 민감한 위치에 있다. 오류는 지역사회, 노동자, 기업 및 생태계에 영향을 미치는 의사결정으로 전파될 수 있다.

이는 모든 EPA 모델에 공개 소스 코드나 데이터에 대한 무제한 접근이 필요하다는 뜻은 아니다. 출력 결과의 영향이 클수록 검토도 강화돼야 한다는 의미다.

세 가지 신호가 연방 AI 감독의 실효성을 보여줄 것이다

다음 시험대는 EPA가 책임 있는 AI를 지지하는 또 다른 고위 수준의 성명을 발표하는지가 아니라, 의미 있는 증거를 공개하는지다.

첫 번째 신호는 행정 이의 제기에 대한 EPA의 결정이다. 전면적인 번복은 다른 적용 가능한 편집 조치를 전제로 청구인들에게 평가 자료에 대한 접근권을 제공할 것이다.

부분 공개가 더 가능성 높을 수 있다. 그 가치는 편집 후 무엇이 남아 보이는지에 달려 있다.

유용한 답변은 목적, 평가, 한계, 독립 검토 및 모니터링에 관한 사실을 보존할 것이다. 비공개 표시가 대부분을 차지하는 페이지는 핵심 책임성 문제를 미해결 상태로 남길 것이다.

결정은 기록 검색도 다뤄야 한다. EPA는 보호 대상 내용을 노출하지 않고도 어떤 부서, 시스템, 기록 보유자 및 검색어를 검토했는지 설명할 수 있다.

기관이 추가 거버넌스 또는 화학물질 스크리닝 기록을 찾아낸다면, 이는 최초 검색이 불완전했다는 청구인 측 주장을 강화할 것이다. 신중한 검색을 문서화했음에도 아무것도 발견하지 못한다면, 우려는 EPA가 충분한 기록을 만들고 있는지로 옮겨간다.

두 번째 신호는 EPA AI 인벤토리의 다음 개정판이다. 독자들은 새로 식별된 고영향 시스템, 변경된 배포 단계, 안정적인 프로젝트 식별자, 위험 관리 요약에 대한 링크를 주시해야 한다.

EPA의 공개 페이지는 기관이 인벤토리를 지속적으로 관리한다고 밝힌다. 업데이트는 분쟁 중인 시스템이 계속 활성 상태인지, 그리고 화학 평가 프로젝트가 식별 가능한 설명 아래에 나타나는지를 드러낼 수 있다.

분류 변경이 중요할 것이다. 고영향 도구가 더 낮은 위험으로 재분류된다면, 그 운영상 역할과 연결된 명확한 근거가 포함돼야 한다.

반대 경우도 중요하다. 규제 또는 건강 관련 의사결정에 영향을 미치기 시작하는 시범 사업은 더 강력한 테스트, 모니터링 및 공개를 촉발해야 한다.

세 번째 신호는 M-25-21의 정부 전반 집행이다. OMB는 책임성 검토와 연례 인벤토리 보고를 통해 문서를 요청할 수 있다.

결정과 면제에 관한 공개 요약은 연방 AI 규정이 기관의 자체 보고를 넘어 실질적 결과를 낳는지 보여줄 것이다. 시정 조치 없는 반복적 공백은 정책의 신뢰성을 약화시킬 것이다.

의회, 감찰관, 그리고 GAO는 기관들이 배포 전에 요구되는 평가를 수행하는지도 검토할 수 있습니다. 이들의 조사에서는 공개 목록만으로는 완전히 드러나지 않는 기록을 검증할 수 있습니다.

개발자에게 이 사례는 배포 맥락이 모델 설계만큼 중요하다는 점을 보여줍니다. 문서를 분류하는 분류기도 그 순위가 전문가가 검토할 증거를 결정한다면 중요한 영향을 미칠 수 있습니다.

기업 구매자에게는 공급업체의 주장이나 거버넌스 체크리스트에 의존하는 방식의 한계를 보여줍니다. 구매자는 자사의 데이터, 사용자, 의사결정 과정과 연결된 평가 기록을 필요로 합니다.

지식 노동자들이 이 문제에 관심을 가져야 하는 이유는 인간의 검토가 독립적인 판단을 보장하지 않기 때문입니다. 검토자는 자동화된 권고에 이의를 제기할 시간, 권한, 그리고 접근 가능한 증거를 갖춰야 합니다.

따라서 EPA AI 영향 평가를 둘러싼 분쟁은 공공 접근성뿐 아니라 제도적 기억을 시험하는 문제이기도 합니다. 기관은 왜 시스템을 승인했는지, 검토자들이 무엇을 알고 있었는지, 그리고 남은 위험을 누가 수용했는지를 문서화해야 합니다.

이러한 기록이 없다면, 훗날 조사관들은 자동화된 워크플로가 의사결정에 어떤 영향을 미쳤는지 재구성하기 어려울 수 있습니다. 모델 변경, 직원 이직, 분산된 문서화로 맥락이 사라질 때 민간 조직에서도 같은 문제가 나타납니다.

이번 항소가 모든 연방 AI가 신뢰할 수 있는지를 결정하지는 않을 것입니다. 그러나 고영향 분류의 근거가 해당 결정을 내린 기관에만 계속 보이게 될 것인지 여부는 정할 수 있습니다.

항소 결정, 다음 EPA 목록, 그리고 OMB의 집행 기록을 주시해야 합니다. 이러한 신호가 구체적인 증거를 낳는다면 연방 AI 감독은 더 쉽게 검증할 수 있게 될 것입니다. 정책 언어만 나올 경우, 정부의 가장 중대한 시스템들은 여전히 주로 스스로에게만 책임을 지게 될 것입니다.