백악관 AI 바이오보안 정책, 모니터링에서 집행 가능한 연구 통제로 전환

Google News에서 다시 부각된 백악관의 경고는 실제 갈등을 짚고 있지만, 그 기반이 된 연방 정책은 2024년 4월에 나온 것이다. 해당 보고서는 인공지능이 새로운 독소의 생성을 돕거나 감염병의 병원성을 높일 수 있다고 경고했다. 또한 고위험 생명과학 연구 전반에 걸쳐 선별, 모니터링, 신속 대응 관행을 도입할 것을 촉구했다.

이 경고는 여전히 유효하지만, 더 이상 미국 정책의 최신 입장을 보여주지는 않는다. 도널드 트럼프 대통령은 복귀 후 기존의 감독 체계를 대체했다. 2025년 5월 그의 행정명령은 일부 연방 지원 연구를 중단하고, 더 강력한 집행, 감사, 보고, 자금 지원 조건을 요구했다.

이 과정이 핵심 이야기다. 워싱턴의 관심은 AI가 생물학적 위험을 어떻게 바꿀 수 있는지를 묻는 데서, 연구·조달·자금 지원을 보다 직접적으로 통제하는 방향으로 옮겨갔다. 그러나 어느 접근법도 AI 시스템이 일반적인 과학 지원을 넘어 위험한 생물학적 역량을 제공하는 시점을 측정한다는 핵심 문제를 완전히 해결하지는 못한다.

백악관 보고서가 실제로 바꾼 것

2024년 보고서는 AI를 단순한 소프트웨어 안전 문제가 아니라 정부의 생물학적 위협 모델 안에 포함시켰다.

이 보고서는 조 바이든 대통령이 2023년 10월 발표한 안전하고 신뢰할 수 있는 AI 관련 행정명령에서 비롯됐다. 이 명령은 국토안보부에 AI가 화학·생물·방사능·핵 위협을 어떻게 가능하게 할 수 있는지 검토하도록 요구했다.

국토안보부는 에너지부, 백악관 과학기술정책실, 외부 전문가들과 함께 이 작업을 수행했다. 기관들은 행정명령 발표 6개월 뒤인 2024년 4월에 조사 결과를 제출했다.

그 결과물인 AI 위험 보고서는 생물학 AI 도구를 전면 금지한다고 발표하지 않았다. 대신 동일한 역량이 유익한 연구나 의도적인 위해 행위 모두에 사용될 수 있다는 이중용도 문제를 설명했다.

과학자가 단백질 상호작용을 이해하도록 돕는 모델은 신약 개발을 지원할 수 있다. 비슷한 역량은 누군가가 유해한 분자 특성을 식별하거나 생물학적 작용제를 개선하는 데에도 도움이 될 수 있다.

보고서는 오용이 비의도적일 수도, 악의적일 수도 있다고 경고했다. 특히 불충분한 안전장치가 새로운 독소의 생성이나 감염병 병원성 강화로 이어질 가능성을 언급했다.

이 표현은 정책의 초점을 대규모 언어 모델 너머로 확장했다는 점에서 중요했다. 챗봇은 정보를 검색하거나 절차상 문제를 해결할 수 있지만, 특화된 생물학 모델은 분자 및 유전체 데이터와 직접 작동할 수 있다.

이러한 시스템에는 단백질 예측 모델, 서열 설계 도구, 실험실 자동화 소프트웨어, 생물학 데이터베이스로 학습된 모델이 포함된다. 이들의 위험은 공개 챗봇에 입력된 유해 프롬프트만으로 측정할 수 없다.

따라서 보고서는 다층적 대응을 강조했다. 선별은 의심스러운 입력, 요청 또는 조달 활동을 식별한다. 모니터링은 시스템의 작동 방식과 사용자가 이를 활용하는 방식을 살핀다. 신속 대응 절차는 경고 신호가 더 큰 사고로 번지기 전에 처리한다.

보고서는 상당한 이점도 제시했다. AI 지원 발전이 의료, 농업, 에너지, 지속가능성, 바이오 감시, 의료 대응수단 개발에 기여할 것으로 전망했다.

이러한 균형은 이 문서를 단순한 기술 경보와 구분했다. 당국자들은 AI가 생물학 연구에서 빠져야 한다고 주장한 것이 아니다. 안전 관행이 AI를 따라 실험실과 과학적 워크플로에까지 적용돼야 한다고 주장한 것이다.

이 경고는 접근성에 대한 실질적 우려도 반영했다. AI는 복잡한 과학 지식을 더 쉽게 질의하고, 결합하고, 적용할 수 있는 형태로 정리할 수 있다. 이는 정당한 연구자와 악의적 사용자 모두에게 일부 지식 장벽을 낮출 수 있다.

다만 지식은 생물학 작업의 한 부분일 뿐이다. 위험한 작용제를 만들어내려면 재료, 장비, 암묵적인 실험실 지식, 보안 시설, 반복 실험이 필요할 수 있다.

보고서는 챗봇이 독자적으로 팬데믹 병원체를 만들 수 있다고 주장하지 않았다. AI를 모델, 자동화, 생명공학의 발전과 함께 중요성이 커질 잠재적 역량 증폭기로 규정했다.

이 구분은 여전히 중요하다. 정책은 AI 지원 생물학적 위해를 자율 공격의 입증된 연쇄가 아니라 대비가 필요한 심각한 시나리오로 다뤘다.

현재 이 헤드라인을 접하는 Google News 이용자는 이를 역사적인 정책 이정표로 이해해야 한다. 이 보고서는 모니터링의 논리를 확립했지만, 이후 행정부는 그 우려에 대응하는 수단을 바꿨다.

AI 바이오보안 위험을 측정하기 어려운 이유

가장 어려운 정책 질문은 AI가 생물학을 논할 수 있는지가 아니라, 사용자가 대규모 위해를 초래하는 데 실질적인 우위를 제공하는지다.

생물학적 역량 평가는 그 우위를 측정하려 한다. 평가자는 AI 시스템 접근 여부에 따라 사람들이 민감한 과제를 얼마나 수행하는지 비교할 수 있다.

유용한 시험은 여러 요소를 분리해야 한다. 사실 지식, 실험 계획, 문제 해결, 오류 수정, 특수 도구 접근성을 측정해야 한다. 동시에 시험 자체를 통해 위험한 세부 정보가 공개되는 일도 피해야 한다.

이 때문에 AI 바이오보안 평가는 유난히 어렵다. 모델은 필기 생물학 시험에서 좋은 성적을 내면서도 실험실 안에서는 실질적인 도움을 거의 주지 못할 수 있다. 반대로 다른 시스템은 학술적 질문에서 평범한 점수를 받더라도 도구 통합이나 새로운 서열 분석에서는 뛰어날 수 있다.

2024년 백악관 분석은 이러한 불확실성을 인정했다. AI 전문가, 생명과학 연구자, 국가안보 당국자, 공중보건 전문가 간의 더 강력한 평가와 협력을 촉구했다.

이후 연구자들은 시험이 고위험 결과와 연결된 역량에 초점을 맞춰야 한다고 주장했다. 이는 모델이 생물학 지식을 보이는 모든 사례가 아니라 잠재적으로 대규모 위해와 연결된 과제를 뜻한다.

생물학적 평가에 관한 공개 분석은 수십 년간 이어진 이중용도 생명과학 거버넌스에서 교훈을 얻자고 제안했다. 저자들은 평가가 팬데믹 규모의 결과와 연결된 역량을 우선해야 한다고 주장했다.

이 접근법은 잡음을 줄일 수 있다. 모델이 인플루엔자 논문을 요약하는 능력은 위험한 병원체 생산을 도울 수 있다는 사실을 입증하지 않는다. 반대로 일반 벤치마크는 핵심 설계 단계를 개선하는 특화 도구를 놓칠 수 있다.

평가자들은 끊임없이 변하는 목표도 상대해야 한다. 개발자는 모델을 업데이트하고, 외부 도구에 연결하며, 안전 통제를 수정하고, 특화 버전을 출시한다. 주변 시스템이 바뀌면 시험 결과는 금세 오래된 것이 될 수 있다.

접근 조건도 중요하다. 강력한 안전장치가 적용된 공개 챗봇은 로컬에서 제한 없이 작동하는 모델과 다른 위험을 제시한다. 데이터베이스, 시뮬레이션 도구, 자동화 장비에 접근할 수 있는 실험실 에이전트는 또 다른 범주에 속한다.

이 때문에 모니터링은 출시 전 모델 시험 이후에 멈출 수 없다. 조직은 배포 환경, 사용자 권한, 연결된 도구, 의심 활동, 안전장치 우회 시도를 살펴야 한다.

그러나 모니터링은 그 자체의 상충관계도 낳는다. 과학 연구에는 이례적인 질의, 새로운 유기체, 위험한 병원체, 실패한 실험 설계가 자주 포함된다. 연구가 공중보건을 위한 것이라 해도 이런 특성은 악의적 행동과 닮아 보일 수 있다.

지나치게 광범위한 탐지 시스템은 정당한 작업을 차단하거나 기밀 연구를 노출할 수 있다. 취약한 시스템은 유해한 프로젝트를 평범해 보이는 요청들로 나누는 정교한 사용자를 놓칠 수 있다.

잘못된 확신도 또 다른 위험이다. 모델은 명백히 유해한 요청을 거부하면서도, 덜 노골적인 대화 전반에 걸쳐 유용한 조각 정보를 제공할 수 있다. 또한 사용자에게는 설득력 있어 보이지만 부정확한 지침을 내놓을 수도 있다.

물리적 세계는 장벽을 만들지만, 그 장벽이 영구적인 보장은 아니다. 실험실 자동화, 위탁 연구 서비스, 상업적 DNA 합성, 향상된 설계 소프트웨어는 사용자가 달성할 수 있는 범위를 바꿀 수 있다.

핵산 합성 선별은 이 연쇄의 한 부분을 다룬다. 제공업체는 주문을 이행하기 전에 요청된 유전자 서열과 고객 정보를 위험 기준과 대조할 수 있다.

선별은 물리적 거래와 가까운 지점에서 이뤄진다는 점에서 가치가 있다. 그러나 모든 생물학적 물질, 모든 공급업체, 모든 국제 경로를 포괄할 수는 없다. 일관된 기술 표준과 제공업체 참여에도 의존한다.

따라서 2024년 보고서는 심층 방어를 선호했다. 단일 벤치마크, 챗봇 거부, 공급업체 선별 또는 기관 검토만으로는 안전을 보장할 수 없다.

이 모델은 일반적인 제품 규정 준수보다 사이버보안에 가깝다. 방어 측은 여러 계층을 모니터링하고, 위협 변화에 맞춰 통제를 갱신하며, 의지가 확고한 행위자가 빈틈을 찾을 것이라고 가정한다.

이 비유에는 한계가 있다. 생물학 실험은 되돌릴 수 없는 결과를 초래할 수 있으며, 정당한 연구자에게는 소비자 소프트웨어에서는 허용하기 어려워 보일 역량에 대한 접근이 필요할 수 있다.

핵심 과제는 인과관계 파악이다. 규제기관은 어떤 모델 역량, 사용자 행동 또는 조달 사건이 위험을 실질적으로 높였는지 식별해야 한다. 이러한 연결이 없으면 정책은 상징적이거나 과도하게 제한적이 될 수 있다.

Google News가 새로운 규제 시대에 과거 정책을 다시 띄우고 있다

헤드라인의 경고는 남아 있지만, 연방 대응은 협력적 안전장치에서 자금 통제와 집행 가능한 연구 조건으로 옮겨갔다.

대통령 정책은 2025년 1월 이후 바뀌었기 때문에 날짜가 중요하다. 2024년 보고서를 새로운 백악관 발표로 취급하면 이 전환을 가리게 된다.

트럼프 대통령은 복귀 첫날 바이든의 광범위한 AI 행정명령을 폐지했다. 그의 행정부는 연방 정책이 AI 개발의 장벽을 낮추고 미국의 경쟁력을 보호해야 한다고 주장했다.

생물학 연구는 곧 더 제한적인 취급을 받았다. 2025년 5월 5일 트럼프는 위험한 기능획득 연구를 다루는 행정명령에 서명했다.

기능획득은 폭넓은 과학 용어지만, 이 명령은 더 좁은 정책적 정의를 사용했다. 이는 병원성, 전파성, 안정성, 숙주 범위 또는 내성을 높일 수 있는 감염성 작용제나 독소 관련 연구를 포괄했다.

이 명령은 기관들에 지정된 우려 국가의 기관이 수행하는 대상 연구에 대한 연방 자금 지원을 중단하도록 지시했다. 또한 행정부가 감독이 불충분하다고 판단한 다른 지역의 연구도 겨냥했다.

국내 및 연방 지원 연구에 대해서는 더 강력한 독립 감독, 감사, 집행, 공개 투명성을 요구했다. 또한 합성 핵산 조달을 규율하는 개정 규칙도 촉구했다.

보조금 및 계약 조건은 핵심 집행 수단이 됐다. 연구기관은 즉각적인 자금 지원 철회를 맞을 수 있으며, 위반 시 수년간 연방 생명과학 보조금 수혜 자격을 잃을 수 있다.

이 접근법은 누가 압박을 부담하는지를 바꿨다. 2024년 모니터링 모델에서는 AI 개발자, 평가자, 실험실, 정부 기관이 새롭게 등장하는 역량을 이해할 책임을 함께 졌다.

2025년 명령은 자금 지원 기관, 보조금 수혜자, 연구 기관, 종합 제공업체에 더 엄격한 의무를 부과했다. 또한 준수 여부를 연방 지급 결정과 직접 연계했다.

해당 명령의 핵심이 기능 획득 연구에 있더라도, 이 체계 안에서 AI는 여전히 중요하다. 첨단 모델은 실험 설계, 염기서열 분석, 위험 평가, 자동화된 실험실 운영에 영향을 미칠 수 있다.

그러나 새 명령은 이전 AI 보고서가 제기한 모든 질문에 답하지는 않았다. 상용 및 오픈 모델 전반에서 위험한 생물학적 역량을 측정하는 보편적 방법을 마련하지도 않았다.

정책 전환은 민간 자금 연구에 관한 공백도 남겼다. 명령은 연방 자금 지원 밖에서 이뤄지는 위험한 작업을 관리·제한·추적하기 위한 전략을 수립하도록 관계 당국에 지시했다.

이 과제는 근본적인 한계를 인정한 것이다. 연방 보조금 규정은 대학과 연구실에 강력한 영향력을 행사할 수 있지만, 모든 기업, 투자 자금 기반 연구실, 독립 프로젝트를 자동으로 포괄하지는 않는다.

행정부는 개정된 핵산 합성 스크리닝 체계도 요구했다. 생명과학 연구에 자금을 지원하는 기관은 조달 과정에서 업데이트된 규정을 따르는 제공업체를 이용하도록 보장해야 한다.

이 물리적 계층의 통제는 AI 모니터링을 보완할 수 있다. 유해한 모델 출력 자체가 생물학적 물질을 생산하는 것은 아니지만, 스크리닝된 조달 요청은 개입의 기회를 만든다.

그렇다고 그 관계가 자동으로 성립하는 것은 아니다. 염기서열은 단독으로 보면 무해해 보일 수 있고, 정당한 염기서열도 특정 실험 맥락에서는 위험해질 수 있다.

따라서 두 행정부는 아직 해결되지 않은 동일한 목표를 향해 서로 다른 경로를 택한 셈이다.

바이든 행정부 시절의 보고서는 역량 평가, 협업, 자율적 관행, 지속적인 모니터링을 강조했다. 트럼프 행정부의 명령은 적용 대상 연구 범주, 기관 책임성, 조달 규정, 재정적 집행을 강조했다.

어느 한 경로도 다른 경로를 무기한 외면할 수는 없다. 기술적 평가 없는 집행은 실제 AI 지원 위험과 맞지 않는 범주를 표적으로 삼을 수 있다. 집행 가능한 결과가 없는 모니터링은 보고 업무로 전락할 수 있다.

이것이 Google News 헤드라인 이면에 있는 핵심 전환이다. 미국은 AI 지원 생물학적 위해에 대한 우려를 포기한 것이 아니다. 권한의 소재와 기관이 그 우려를 체감하는 방식을 바꿨다.

역량 대 위험은 정책의 핵심 트레이드오프다

AI는 동일한 기저 역량을 통해 방어적 과학과 위험한 실험을 모두 가속할 수 있다.

이는 혁신과 안전 사이의 단순한 대결이 아니다. 생물학적 보안은 병원체 식별, 대응책 설계, 발병 감시, 제조 역량 개선을 포함한 과학적 역량에 의존한다.

단백질 구조를 예측하는 시스템은 백신이나 치료제 연구를 지원할 수 있다. 유전체 모델은 과학자가 변이를 해석하고, 실험을 설계하며, 생물학적 기능을 이해하는 데 도움을 줄 수 있다.

AI는 공공기관이 대규모 감시 데이터를 처리하는 데도 도움을 줄 수 있다. 국토안보부는 화물 스크리닝, 생물감시, 탐지, 긴급 대응 전반의 잠재적 활용 사례를 설명해 왔다.

이러한 방어적 활용에는 유능한 모델과 고품질 데이터가 필요하다. 과학 시스템을 무차별적으로 약화하면 정부가 생물학적 위협을 인식하고 대응하는 능력도 떨어질 수 있다.

동시에 역량은 재분배될 수 있다. 모델은 전통적인 전문 네트워크나 기관의 감독이 없는 사용자에게도 전문가 수준의 지원을 제공할 수 있다.

관련 정책 질문은 그 지원이 결정적인 격차를 해소하는지다. 공개 정보를 요약하는 일은 이전에 드문 전문성이 필요했던 실험 병목을 해결하는 것보다 위험이 적다.

모델은 방법 선택, 실패한 단계의 진단, 여러 분야 정보의 연결을 도울 수 있다. 그럼에도 사용자는 디지털 조언을 물리적 행동으로 옮겨야 한다.

이 조합은 명확한 임계값이 아니라 트레이드오프를 만든다. 규제 당국은 고가치 과학 지원은 유지하면서도 재앙적 오용과 연결된 요청은 차단하려 한다.

상용 개발업체는 신원 통제, 사용 모니터링, 속도 제한, 모델 안전장치, 사고 대응 절차를 적용할 수 있다. 전문 도구를 검증된 연구자로 제한할 수도 있다.

오픈 웨이트 모델은 제공업체가 모든 상호작용을 모니터링하지 못한 채 사용자가 이를 수정하거나 운영할 수 있기 때문에 이 전략을 복잡하게 만든다. 개방적 접근은 독립 연구, 재현성, 경쟁, 방어적 혁신도 뒷받침할 수 있다.

2024년 의회 AI 보고서는 양측을 모두 인정했다. 공개적으로 이용 가능한 시스템은 공공 안전 우려를 초래할 수 있지만 연구와 경쟁을 지원할 수도 있다고 지적했다.

모델 제한만으로는 전문 생물학 소프트웨어를 포괄할 수 없다. 단백질 설계 모델은 최첨단 챗봇처럼 보이지 않을 수 있지만, 좁은 과학 과제에는 더 적절한 지원을 제공할 수 있다.

2024년 백악관 보고서는 생성형 텍스트 시스템뿐 아니라 생명과학 전반의 AI를 논의하며 이 문제를 예상했다. 해당 보고서의 모니터링 권고는 변화하는 기술 경로를 포함할 만큼 폭넓었다.

그러나 폭넓은 적용 범위는 구현 문제를 낳는다. 모든 계산생물학 도구를 포괄하는 정책은 일상적 연구에 상당한 비용을 부과할 것이다. 최대 규모 언어 모델에만 한정된 정책은 가장 관련성 높은 생물학적 역량을 놓칠 수 있다.

위험 등급은 하나의 가능한 경로를 제시한다. 평가 결과가 고영향 생물학 과제에 실질적 지원을 제공한다고 보일 때 시스템에 더 강한 통제를 적용할 수 있다.

이러한 절차에는 신뢰할 수 있는 평가자, 보호된 시험 환경, 신뢰성 있는 벤치마크, 민감한 발견을 처리하는 방법이 필요하다. 무엇이 의미 있는 역량 향상으로 간주되는지에 대한 합의도 필요하다.

국제적 차원은 추가적인 압박을 더한다. 미국 제공업체가 엄격한 통제를 부과하더라도 연구자와 악의적 행위자는 다른 곳에서 개발된 시스템에 접근할 수 있다.

그렇다고 국내 통제가 무의미해지는 것은 아니다. 보안 조치는 비용을 높이고, 탐지를 개선하며, 규범을 확립하고, 가벼운 오용을 줄일 수 있다. 완전한 차단을 약속할 수는 없다.

글로벌 협력 역시 정보 위해를 야기할 수 있다. 정부는 안전장치 우회 지침을 공개하지 않으면서 평가 방법과 경고 신호를 공유해야 한다.

영국의 AI 안전성 평가는 신중한 결론에 도달했다. 생물학적 역량의 증거는 늘고 있었지만, 현실 세계의 영향은 여전히 측정하기 어려웠다.

이 불확실성은 안일함이 아니라 테스트를 뒷받침한다. 또한 추정적 시나리오를 확인된 모델 역량으로 제시해서는 안 된다는 점을 시사한다.

최선의 정책은 증거를 통제와 연결할 것이다. 강력한 제한은 입증된 고영향 역량, 신뢰할 수 있는 위협 경로, 또는 의심스러운 행동에 따라야 한다.

일상적인 과학 지원이 자동으로 동일한 대응을 유발해서는 안 된다. 그렇지 않으면 연구자들은 그에 상응하는 보안 이익 없이 유용한 도구를 피할 수 있다.

정책이 여전히 입증하지 못하는 것

워싱턴은 신뢰할 만한 위험 범주를 식별했지만, 위험한 지원과 일반적인 생물학 연구 사이의 신뢰할 수 있는 경계를 입증하지는 못했다.

첫 번째 불확실성은 현실 세계에서의 역량 향상이다. 통제된 평가는 모델이 참가자가 질문에 답하고, 단계를 계획하며, 시나리오 문제를 해결하는 데 도움을 준다는 점을 보일 수 있다.

그러나 그러한 결과가 참가자가 물질을 확보하고, 신뢰할 수 있는 실험을 수행하며, 탐지를 회피하고, 위해를 가할 수 있음을 항상 입증하는 것은 아니다. 각 전환 단계에는 추가적인 장벽이 존재한다.

반대 문제도 똑같이 심각하다. 외부 데이터베이스를 사용하고, 코드를 작성하며, 실험실 소프트웨어를 운영하거나, 실험 결과를 반복적으로 활용하는 AI 에이전트는 서면 테스트에서 과소평가될 수 있다.

따라서 평가 설계는 전체 시스템을 따라가야 한다. 모델 가중치, 안전 계층, 도구, 사용자 권한, 물리적 접근은 모두 위험 프로필을 바꿀 수 있다.

두 번째 불확실성은 기준선에 관한 것이다. 생물학 정보는 이미 논문, 데이터베이스, 교과서, 프로토콜, 온라인 커뮤니티를 통해 이용 가능하다.

연구자들은 AI가 그러한 자원 이상으로 의미 있는 이점을 더하는지 판단해야 한다. 편의성만으로는 재앙적 역량과 동등하지 않다.

그러나 모델이 정보를 빠르게 결합하거나 사용자의 실패에 맞춰 조언을 조정할 때 편의성은 중요한 결과를 낳을 수 있다. 정책은 원천 사실이 공개돼 있다는 이유만으로 정보 집계와 문제 해결을 경시해서는 안 된다.

세 번째 불확실성은 기관 역량에 관한 것이다. 연방 기관에는 머신러닝, 분자생물학, 생물안전, 정보, 조달, 연구 거버넌스를 이해하는 인력이 필요하다.

이러한 전문 분야가 하나의 부서에 함께 있는 경우는 드물다. 조정은 의사결정을 늦추고, 호환되지 않는 정의를 만들거나, 책임 소재를 불명확하게 할 수 있다.

2024년 보고서는 부문 간 협업을 필수적인 것으로 봤다. 2025년 행정명령은 하향식 권한을 강화했지만, 권한이 자동으로 기술 전문성을 만들어내지는 않는다.

네 번째 불확실성은 투명성이다. 공개 보고는 신뢰를 구축하고 연방 자금이 민감한 작업을 지원하는 지점을 드러낼 수 있다.

지나치게 상세한 정보는 보안 민감 연구, 독점적 방법, 스크리닝 시스템의 취약점을 노출할 수 있다. 정보가 너무 적으면 정부 주장을 독립적으로 평가할 수 없다.

트럼프 행정명령은 국가안보나 정당한 지식재산권을 훼손할 수 있는 공개를 제한함으로써 이 충돌을 인정했다. 이 기준을 일관되게 적용하기는 어려울 것이다.

다섯 번째 불확실성은 연방 자금 지원 밖의 집행에 관한 것이다. 대학은 연방 연구 지원에 크게 의존하므로, 기관은 의미 있는 영향력을 갖는다.

민간 연구실과 해외 기관은 서로 다른 법적·재정적 구조를 통해 운영된다. 국내 보조금 제한은 활동을 제거하는 대신 이전시킬 수 있다.

여섯 번째 불확실성은 정의에 관한 것이다. “위험한 기능 획득 연구”는 더 넓은 AI 지원 생물학적 위험의 범위보다 좁은 활동 집합을 가리킬 수 있다.

AI 시스템은 병원체를 변형하지 않고도 유해한 지원을 제공할 수 있다. 독소 설계, 작전 계획, 은폐, 표적 선택을 지원할 수 있다.

반대로 적용 대상 생물학 연구는 엄격한 격리 조건 아래 백신 개발이나 대비 태세에 기여할 수 있다. 범주 기반 규정은 두 구분을 모두 놓칠 수 있다.

따라서 비판론자들은 과도한 적용과 과소 적용을 동시에 우려한다. 광범위한 규정은 정당한 연구를 위축시킬 수 있고, 좁은 규정은 새로운 AI 지원 경로를 공식 감독 밖에 남길 수 있다.

2025년 명령은 기관 전체에 영향을 줄 수 있는 집행 메커니즘도 사용한다. 심각한 위반은 광범위한 결과를 정당화할 수 있지만, 모호한 기준은 연구자들을 지나치게 조심스럽게 만들 수 있다.

그러한 행동에는 보안 비용이 따른다. 민감한 분야를 피하는 과학자가 늘면 발병 대응, 생물방어, 의료 대응책 개발에 활용할 수 있는 전문성이 줄어들 수 있다.

정부는 위험 신호와 정치적 판단도 구분해야 한다. 우려 국가, 해외 협력, 출판 결정, 자금 분쟁은 더 광범위한 지정학적 정책과 얽힐 수 있다.

독립적인 기술 검토는 이 문제를 줄일 수 있지만, 검토자에게 명확한 권한과 관련 증거에 대한 접근권이 있어야만 한다.

어떤 정책도 최첨단 연구에서 불확실성을 제거할 수는 없다. 실질적인 목표는 역량 변화에 따라 추적 가능하고, 증거에 기반하며, 조정할 수 있는 결정을 내리는 것이다.

따라서 독자들은 두 가지 과장된 결론을 경계해야 한다. 2024년 보고서는 현재 AI 시스템이 팬데믹을 일으킬 수 있음을 입증하지 않았다. 2025년 행정명령도 AI 기반 생물학적 위험을 관리하는 작업을 완결하지 못했다.

두 문서는 더 큰 통제 체계의 일부를 각각 제시한다. 그 효과는 평가의 품질, 제도적 이행, 제공업체의 준수, 국제 공조에 달려 있다.

규칙의 작동 여부를 보여줄 세 가지 신호

다음 단계는 혁신과 안전의 균형에 관한 또 하나의 포괄적 선언이 아니라 기술적 이행으로 평가받게 될 것이다.

첫 번째 신호는 연방 핵산 합성 스크리닝 프레임워크다. 기관들은 제공업체가 고객 확인과 염기서열 검토 전반에 걸쳐 일관되게 적용할 수 있는 기준을 마련해야 한다.

더 강력한 프레임워크는 정당한 연구를 보호하면서 조달 점검을 최신 위협 정보와 연결할 것이다. 도입이 미흡하거나 파편화되면 물리적 공급망 계층은 불균등한 상태로 남게 된다.

기관들이 제공업체의 준수를 어떻게 검증하는지 지켜봐야 한다. 보조금 문구에만 등장하는 규칙은 감사, 보고, 실용적인 기술 지침으로 뒷받침되는 규칙보다 영향력이 작을 것이다.

두 번째 신호는 AI 모델의 생물학적 역량 평가 품질이다. 개발자와 공공 기관은 중대한 결과를 초래할 수 있는 과업에서 실질적인 지원을 측정하는 테스트가 필요하다.

이러한 평가는 도구 접근과 안전장치를 포함한 완전한 시스템을 살펴봐야 한다. 또한 기존 정보 자원을 활용해 AI 지원 성과를 신뢰할 수 있는 기준선과 비교해야 한다.

진전이 반드시 위험한 테스트 세부사항의 공개를 요구하는 것은 아니다. 기관들은 민감한 절차를 공개하지 않고도 평가 범위, 거버넌스, 포괄적 결과, 그에 따른 통제 결정을 공개할 수 있다.

세 번째 신호는 연방 지원 연구를 넘어선 집행이다. 2025년 행정명령은 전통적인 보조금 감독 범위 밖의 위험한 작업을 추적하고 제한하기 위한 전략을 요구했다.

그 신뢰성은 법적 권한, 보고 범위, 민간 연구소와의 공조에 달려 있다. 또한 규칙이 위험한 행위와 일반적인 생명공학 개발을 구분하는지에도 달려 있다.

이러한 신호가 측정 가능하고 위험 기반의 통제로 이어진다면 정책의 근거는 강화될 것이다. 반대로 이행이 모호한 인증, 일관되지 않은 정의, 또는 AI 역량에 대한 검증되지 않은 가정에 의존한다면 그 근거는 약화될 것이다.

개발자와 엔터프라이즈 구매자에게 이 교훈은 생물학을 넘어 확장된다. 중대한 결과를 초래할 수 있는 AI 거버넌스는 점점 모델과 데이터부터 사용자, 도구, 공급업체, 물리적 행동에 이르는 전체 배포 사슬을 따라가고 있다.

연구팀은 중요한 결정의 근거를 보존해야 한다. 검색 가능한 지식 관리 프로세스는 팀이 평가 결과, 정책 업데이트, 승인 사항, 해결되지 않은 위험을 유지하는 데 도움이 될 수 있다.

이 기록은 생물안전성 검토를 대체하지 않는다. 모델, 규제 또는 연결된 도구가 바뀔 때 변화하는 가정을 드러나게 한다.

Google News를 통해 보이는 헤드라인은 실제 위험을 가리키지만, 그 날짜가 의미를 바꾼다. 2024년 백악관 보고서는 AI 생물안보 위험을 위한 모니터링 프레임워크를 도입했다. 2025년 행정명령은 집행 가능한 연구 및 자금 통제에 대한 압박을 강화했다.

남은 질문은 미국이 이 두 접근법을 연결할 수 있는지다. 모니터링은 집행을 이끄는 증거를 만들어야 하며, 집행은 실제 위험을 초래하는 역량과 행위를 겨냥해야 한다.

독자들은 다음의 포괄적 약속이 아니라 기준, 평가, 집행 기록을 지켜봐야 한다. 이러한 메커니즘이 불투명한 상태로 남는다면, 정책이 위험을 막았는지 아니면 단지 다른 곳으로 옮겼는지 누가 알 수 있겠는가?