프랑스의 Paris Call, 국경을 넘는 공동 AI 안전 표준 모색
프랑스는 세 가지 AI 안전 약속을 담은 France's Paris Call을 출범시켰다. 이는 또 하나의 일반적인 원칙 선언보다 공동 테스트, 책임성, 사고 보고를 우선에 둔 것이다. 이 선언은 2026년 11월 9일 서명됐다. 핵심적인 긴장은 실무적이다. 국제 협력에는 비교 가능한 근거가 필요하지만, 이행은 여전히 기관, 개발사, 국가 당국에 달려 있다.
즉각적으로 비교되는 대상은 Seoul AI Summit의 이전 안전 약속이다. 두 이니셔티브 모두 현재 이용 가능하거나 개발 중인 가장 성능이 뛰어난 범용 AI 모델인 프런티어 모델을 다룬다. 이제 문제는 협력이 참여자마다 다르게 설명하는 것이 아니라 외부인이 검토할 수 있는 무언가로 어떻게 전환되는가다.
개발사와 기업 구매자에게 이 차이는 외교적 표현보다 더 중요하다. 서명은 의도의 증거를 제공한다. 평가 보고서, 접근 가능한 신고 채널 또는 중대한 실패에 대한 문서화된 대응은 실천의 증거를 제공한다. 이 선언은 독자가 이후 어떤 종류의 증거가 나오는지 물을 근거를 제공한다.
프랑스의 Paris Call, 세 가지 약속을 중심으로 협력 구성
공식 AI 안전 선언은 공동 평가 및 위험 관리, AI 생태계 전반의 책임, 조기 경보를 포함한 정보 공유를 다룬다. 비민감 평가 결과의 표준화된 공개와 공동 공개 저장소도 구상한다.
명시된 기업 서명자로는 Anthropic, Microsoft, Mistral AI, OpenAI, Hugging Face가 포함된다. 지지자 명단은 계속 열려 있다. Élysée는 페이지 주소에 9월 날짜가 있음에도 게시일을 11월 9일로 표시한다.
변화의 핵심은 완성된 국제 집행 체계가 아니라 안전 근거를 만들어 내기 위한 공동 의제다.
이 차이는 독자가 이 발표를 해석하는 방식에 영향을 줘야 한다. 선언은 이를 충족하는 데 필요한 모든 절차를 제공하지 않고도 기대치를 설정할 수 있다. 따라서 그 중요성은 부분적으로 참여자들이 선언을 중심으로 무엇을 구축하기로 하는지에 달려 있다.
모델 공급업체 중에서 선택하는 기업을 위해 비교 가능한 테스트가 무엇을 의미하는지 생각해 보자. 별도의 보고서는 각각 신중한 테스트를 설명할 수 있지만, 서로 다른 과제, 가정, 실패 정의를 사용할 수 있다. 구매자는 결과 차이가 모델의 차이인지 측정 방식의 차이인지 판단하기 어려울 것이다.
공통 보고 구조는 이러한 차이를 더 쉽게 식별하게 할 수 있다. 그렇다고 모델들이 자동으로 동등하게 안전해지는 것은 아니다. 대신 어떤 결론을 근거가 뒷받침하는지, 어디에서 비교가 여전히 신뢰하기 어려운지를 명확히 할 수 있다.
이는 선언이 이미 입증한 결과가 아니라 분석적 함의다. 이 발표는 참여 개발사들이 동등한 평가를 완료했다고 확립하지 않는다. 또한 서명이 특정 모델이 보편적 안전 기준을 충족한다는 것을 의미하지도 않는다.
같은 구분은 공개 접근에도 적용된다. 문서를 공개하는 일은 독자가 이를 해석할 수 있을 때만 유용하다. 보고서는 무엇을 어떤 조건에서 어떤 한계와 함께 테스트했는지 설명할 수 있을 만큼의 맥락을 제공해야 한다.
언론인과 연구자에게 당장의 과제는 발표와 산출물을 구분하는 것이다. 제안된 저장소, 운영 중인 저장소, 비교 가능한 결과를 담은 저장소는 서로 다른 이행 단계에 해당한다.
정책 입안자에게 과제는 제도적 소유권이다. 누군가는 절차를 유지하고, 분류에 관한 이견을 해결하며, 오래된 근거를 언제 수정해야 하는지 결정해야 한다. 이러한 책임은 선언 자체와 함께 주목할 가치가 있다.
프랑스의 Paris Call은 그러한 검토를 위한 기준점을 제공한다. 참여자들이 향후 행동을 평가받을 수 있는 공동 의제를 제시한다. 그러나 그 행동들을 별도로 검토할 필요를 없애지는 않는다.
개발사들은 서명만으로 답할 수 없는 질문에 직면한다
역사적 기준점은 구체적이다. Seoul 안전 약속은 참여 개발사들에게 심각한 위험을 평가하고 안전 프레임워크를 공개하도록 요청했다. 또한 용인할 수 없는 위험을 정의하는 기준점과 그 기준점에 도달했을 때 대응하는 절차를 요구했다.
극단적인 경우 참여자들은 완화 조치로 위험을 그러한 기준점 아래로 유지할 수 없을 때 시스템을 개발하거나 배포하지 않겠다고 약속했다. 이 약속들은 자발적이었다. 이미 안전 관련 표현을 개발 지속 여부에 관한 결정과 연결했다.
이제 개발사들은 공개한 안전 정책이 실제 출시 결정과 어떤 근거로 연결되는지라는 신뢰성 문제에 직면한다.
이 질문은 경쟁하는 공급업체 전반에 적용된다. OpenAI, Anthropic, Microsoft, Mistral AI는 특정 모델과 배포에 관해 이용 가능한 근거를 통해 평가되어야 한다. 선언에 참여했다는 사실이 그러한 비교를 대체할 수는 없다.
유용한 평가는 명시된 정책과 관찰 가능한 결정 간의 관계를 검토할 것이다. 테스트에서 심각한 우려가 식별되면 개발사는 시스템을 변경하고, 접근을 제한하고, 배포를 연기하거나, 기존 보호 조치가 왜 충분한지 설명하는가?
이는 독자가 찾아야 할 근거의 사례다. 특정 개발사가 이 발표 때문에 그러한 조치를 취했거나 피했다는 주장은 아니다.
기업 고객은 관련된 문제에 직면한다. 구매팀에는 책임 있는 개발에 관한 일반적 보장보다 운영상 선택을 뒷받침하는 정보가 필요하다. AI를 내부 문서에 연결하는 고객은 소프트웨어가 외부 작업을 실행하도록 허용하는 고객과 다른 노출 위험을 가진다.
공급업체의 전반적인 안전 입장은 맥락을 제공할 수 있다. 그러나 고객은 관련된 특정 서비스, 권한, 실패 조건을 여전히 이해해야 한다. 단독으로 평가된 모델은 이를 중심으로 구성된 제품에 관한 모든 질문에 답하지 못한다.
이는 애플리케이션 개발사에도 압박을 가한다. 이들은 어떤 보호 장치가 기반 모델에 속하고 어떤 보호 장치가 자사 애플리케이션에 속하는지 설명할 수 있어야 한다. 그렇지 않으면 문제가 발생했을 때 책임 소재를 찾기 어려워진다.
예시로 회사 기록을 검색하고 응답 초안을 작성하는 보조 도구를 들 수 있다. 모델 공급업체는 생성된 동작을 통제할 수 있지만, 애플리케이션 개발사는 문서 접근을 통제한다. 고객은 어떤 직원이 서비스를 사용할 수 있는지 통제할 수 있다.
중대한 실패에는 각 계층의 선택이 관여할 수 있다. 명확한 문서화는 조사관이 이러한 선택을 재구성하는 데 도움이 된다. 제품이 안전을 의식하는 모델을 사용한다는 광범위한 진술은 훨씬 적은 도움을 제공할 것이다.
지식 팀의 경우 검색 가능한 기술 지식 기반은 공급업체 문서와 내부 결정을 보존하는 데 도움이 될 수 있다. 이는 검토를 지원해야 하지만, 규정 준수 판단으로 오인되어서는 안 된다.
따라서 압박은 분산되어 있다. 개발사에는 방어 가능한 근거가 필요하고, 애플리케이션 구축사에는 명확한 경계가 필요하며, 구매자에게는 공급업체의 주장과 자체 배포 선택을 연결하는 기록이 필요하다.
공동 테스트는 공개와 보안 사이에서 균형을 맞춘다
공통 평가는 까다로운 상충 관계를 도입한다. 독자는 안전 주장을 판단할 충분한 정보가 필요하지만, 상세 공개는 때로 보호 장치를 우회하는 방법을 드러낼 수 있다. 유용한 투명성 정책은 이러한 긴장을 어떻게 다루는지 설명해야 한다.
유럽연합 집행위원회의 AI 실천 강령은 관련 비교 기준을 제공한다. 이 강령의 안전 및 보안 장은 시스템적 위험 의무가 적용되는 고도 범용 모델 제공업체를 다룬다. 시스템적 위험은 개별 상호작용이나 고객을 넘어 광범위하게 영향을 미칠 수 있는 결과를 가진 위험이다.
이 강령은 기반 AI Act 의무 준수를 입증하는 자발적 경로를 제공한다. 이 관계는 규정 준수 도구를 독립적인 외교 선언과 구분한다. 유사한 용어가 이들의 제도적 역할을 상호 교환 가능하게 만들지는 않는다.
비교 가능한 근거에는 공동 방법론과 각 결과가 무엇을 확립하는지에 대한 명확한 한계가 필요하다.
경쟁 개발사들이 자사 모델이 위험한 지원을 생성하려는 시도에 저항했다고 보고한다고 가정해 보자. 독자는 평가자가 동등한 프롬프트, 도구, 접근 권한, 재시도 기회를 사용했는지 알아야 한다. 그렇지 않으면 겉보기에는 유사한 결과가 서로 다른 과제를 설명할 수 있다.
레드팀 테스트, 즉 적대적 테스트를 통해 약점을 드러내려는 의도적 시도는 일반적인 사용이 놓치는 실패를 드러낼 수 있다. 그러나 그 유용성은 여전히 테스트 설계에 달려 있다. 좁은 테스트는 광범위한 안전을 확립하지 않으면서도 좁은 결론을 뒷받침할 수 있다.
적절한 대응은 방법론적 명확성이다. 독자는 테스트된 동작과 시스템에 대해 제시되는 더 넓은 주장 사이를 구분할 수 있어야 한다. 그러한 경계를 생략한 요약은 과도한 해석을 부른다.
이는 실질적인 공개 문제를 만든다. 성공한 모든 공격을 전면 공개하면 다른 이들이 유해한 동작을 재현하는 데 도움이 될 수 있다. 그러나 지나친 비공개는 주장된 개선이 실제로 의미가 있는지를 독립적으로 검토하지 못하게 할 수 있다.
따라서 합리적인 평가 프레임워크는 대상 독자를 구분할 것이다. 공개 요약은 방법과 한계를 설명하고, 적격 검토자는 통제된 절차를 통해 민감한 세부 정보를 받을 수 있다. 이는 이 선언이 이미 확립한 메커니즘이 아니라 하나의 이행 선택지다.
독립성에도 운영상의 의미가 필요하다. 외부 평가자는 여전히 접근 권한, 자금, 공개 허가를 개발사에 의존할 수 있다. 그러한 관계가 작업을 자동으로 무효화하지는 않지만, 독자는 이를 평가할 수 있을 만큼의 정보가 필요하다.
이는 모델 업데이트에도 적용된다. 이전 버전에 관한 근거가 변경된 시스템의 근거가 되어서는 안 된다. 보고서는 실제로 검토된 모델 및 구성과 명확하게 연결되어야 한다.
기업 구매자에게 이는 더 정밀한 조달 질문을 시사한다. 구매하는 서비스를 어떤 평가가 포괄하는지, 의도한 배포 환경에서는 어떤 가정이 더 이상 성립하지 않는지를 물어야 한다.
특히 복잡한 애플리케이션에서는 답이 불완전할 수 있다. 불완전성은 드러나야 한다. 테스트 한계를 솔직하게 설명하는 것은 상상 가능한 모든 사용 사례를 포괄할 만큼 광범위한 보장보다 의사결정에 더 유용하다.
따라서 프랑스의 Paris Call에서 핵심적인 긴장은 측정 가능한 협력과 이행 재량 사이에 있다. 공동 표준은 공개된 근거가 참여자 간 의미 있는 차이를 드러낼 때에만 그 격차를 줄일 수 있다.
기존 AI 법은 다른 책임성 기준선을 설정한다
이 선언은 일부 관련 의무가 이미 존재하는 환경에 들어선다. EU AI Act에 따라 시스템적 위험을 지닌 범용 모델의 적용 대상 제공업체는 평가, 위험 완화, 중대한 사고, 사이버 보안에 관한 의무를 부담한다.
법의 시스템적 위험 의무에는 표준화된 모델 평가와 문서화된 적대적 테스트가 포함된다. 또한 중대한 사고와 가능한 시정 조치에 관한 관련 정보를 추적, 문서화, 보고하도록 요구한다.
이는 적용 대상 제공자에게 법적 의무에 해당합니다. 특정 조직에 적용되는지는 관련 규정과 상황을 분석해야 판단할 수 있습니다. 기업이 국제 성명에 지지를 표명했다고 해서 그 법적 질문에 답이 되는 것은 아닙니다.
이 선언은 협력 이니셔티브로 평가해야 하며, 법적 준수 여부는 별개의 문제로 남습니다.
이 구분이 중요한 이유는 책임성에 여러 의미가 있기 때문입니다. 공적 책임성은 의사결정을 설명하는 것을 의미합니다. 계약상 책임성은 당사자 간의 약속과 관련됩니다. 법적 책임성은 적용되는 의무, 집행 절차, 이용 가능한 구제 수단에 달려 있습니다.
단일 발표가 이 모든 문제를 해결한다고 가정할 수는 없습니다. 독자는 개발자가 책임을 진다고 설명할 때 화자가 어떤 의미를 의도하는지 물어야 합니다. 그렇지 않으면 같은 단어가 매우 다른 기대를 감출 수 있습니다.
AI 서비스를 구매하는 기업에 실질적인 시사점은 명확합니다. 지지 표명은 공급업체 평가에 포함될 수 있지만, 계약상 책임이나 적용 가능한 법적 의무에 대한 검토를 대체해서는 안 됩니다.
국제적 일관성에 관한 주장에도 같은 주의가 필요합니다. 협력은 법률을 통일하지 않고도 관할권 간 소통을 개선할 수 있습니다. 비교 가능한 증거는 당국이 동일한 사건을 이해하는 데 도움이 될 수 있지만, 법적 대응은 서로 다르게 유지될 수 있습니다.
그것이 반드시 실패를 의미하는 것은 아닙니다. 서로 다른 기관은 공유된 기술 정보를 각기 정당한 목적으로 활용할 수 있습니다. 중요한 질문은 참여자들이 공통 절차가 끝나는 지점과 지역별 책임이 시작되는 지점을 이해하고 있는지입니다.
회의적인 관점에서는 중복 이니셔티브가 중복 서류 작업을 낳을 수 있습니다. 개발자는 실제 행동에 대한 증거를 추가하지 않은 채 자신의 입장을 반복하는 여러 문서를 공개할 수 있습니다. 그러면 더 많은 문서는 진전이 이루어진 것 같은 인상만 만들 수 있습니다.
건설적인 대응은 해당 문서들 간의 관계를 검토하는 것입니다. 안전 프레임워크가 위험을 식별하는가? 평가는 그것을 검토하는가? 운영 정책은 결과가 수용 불가능할 때 무엇이 일어나는지 설명하는가?
이 요소들을 연결하면 책임성을 더 쉽게 평가할 수 있습니다. 각 문서가 개별적으로는 상세해 보여도, 서로 분리되어 있다면 불확실성은 계속될 것입니다.
이 분석은 파리 이니셔티브가 결과 없는 서류 작업으로 전락할 것이라고 단정하지 않습니다. 이는 향후 이행 과정에서 다뤄야 할 실패 가능성을 식별합니다.
가장 강력한 증거는 요구사항을 책임 기관 및 문서화된 대응과 연결하는 것입니다. 이 연결은 또 하나의 약속이 존재한다는 사실을 넘어 외부인이 검토할 수 있는 대상을 제공합니다.
사건 보고에는 경고에서 조치로 이어지는 경로가 필요하다
정보가 조치할 수 있는 사람에게 도달할 때 보고는 유용해집니다. 후속 조치 책임을 배정하지 않고 제출 내용을 수집하는 시스템은 기록만 쌓고 근본 문제는 해결되지 않은 채 남길 수 있습니다.
OECD의 사건 보고 프레임워크는 관련된 토대를 제공합니다. 2025년 2월에 공개된 이 프레임워크는 29개 기준을 활용한 공통 접근 방식을 제안합니다. 국가는 각자의 정책과 법체계에 맞춰 대응을 조정하면서도 보고 구조를 공유할 수 있습니다.
이 접근 방식은 정보에 대한 합의가 동일한 기관을 요구하지 않는 이유를 보여 줍니다. 당국의 권한이나 절차가 서로 달라도, 공유된 설명은 국경을 넘는 소통을 지원할 수 있습니다.
운영상의 질문은 경고가 시스템에 들어온 뒤 어떤 일이 일어나는가입니다.
연구자 Kevin Wei와 Lennart Heim은 보고 시스템 설계에 관한 연구에서 이 문제를 검토합니다. 이들의 프레임워크는 보고 주체, 사건 범주, 집행, 익명성, 보고 후 조치 등을 비롯한 여러 차원을 고려합니다.
이 연구는 피해를 일으킬 수 있었지만 실제로는 발생하지 않은 사건인 아차 사고도 검토합니다. 이러한 사건은 더 심각한 실패가 일어나기 전에 경고를 제공할 수 있습니다. 보고 체계가 이를 포착하는지는 설계에 달려 있습니다.
이 연구는 파리 선언보다 앞서 이루어졌으며, 그에 대한 반응으로 제시해서는 안 됩니다. 여기서의 가치는 분석적입니다. 즉, 모든 진지한 보고 이니셔티브가 마주해야 하는 결정을 식별합니다.
애플리케이션이 차단한 무단 행동을 가상의 어시스턴트가 시도한다고 가정해 보겠습니다. 피해가 실제로 발생하지 않았다는 사실만으로는 조사자가 그 시도가 중요한지 판단할 수 없습니다. 조사자에게는 권한, 반복 가능성, 그리고 이를 막은 보호 장치에 대한 맥락이 필요합니다.
보고 절차는 고립된 오류와 더 광범위한 취약성의 증거를 구분하는 데 도움이 되어야 합니다. 이를 위해서는 개인 데이터나 민감한 보안 세부 정보를 불필요하게 노출하지 않으면서 사건을 재구성할 수 있는 충분한 정보가 필요합니다.
수신자도 중요합니다. 애플리케이션 개발자는 통합을 수정해야 할 수 있고, 모델 개발자는 근본 행동을 조사할 수 있습니다. 당국은 더 광범위한 패턴과 관련된 정보가 필요할 수 있습니다.
명확한 전달 절차가 없으면 각 참여자는 다른 조직이 대응을 맡고 있다고 가정할 수 있습니다. 이는 새 선언의 문서화된 결과가 아니라 이행상의 위험입니다.
기밀성은 또 다른 절충을 수반합니다. 제한된 채널은 민감한 문제의 공개를 장려할 수 있지만, 외부인은 보고가 충분한 관심을 받는지 평가하기 어려울 수 있습니다. 절차와 결과에 대한 공개 요약은 이러한 공백을 해소하는 데 도움이 될 수 있습니다.
원시 보고 건수는 해석하기 어렵습니다. 보고가 많아진 것은 문제가 악화되었거나, 참여가 확대되었거나, 탐지가 개선되었음을 반영할 수 있습니다. 보고가 줄어든 것은 개선, 제한된 접근성 또는 공개를 꺼리는 태도를 반영할 수 있습니다.
따라서 독자는 수치와 함께 절차를 검토해야 합니다. 유용한 증거에는 명확한 범주, 식별 가능한 수신자, 그리고 정보가 어떻게 조사나 시정 조치로 이어졌는지에 대한 설명이 포함됩니다.
개발자에게 시사점은 운영 준비입니다. 보고 약속은 직원들이 무엇을 보존해야 하는지, 어디로 보내야 하는지, 누가 다음 단계를 결정하는지를 알 때 신뢰성을 갖게 됩니다.
공개된 평가, 독립적 접근, 보고 절차를 주시하라
향후 몇 달 동안 가장 유용한 신호는 이행에 관한 것입니다. 추가 지지 표명은 이니셔티브의 범위를 보여 줄 수 있지만, 그 절차가 얼마나 잘 작동하는지는 입증할 수 없습니다.
프랑스의 Paris Call은 그 약속을 검토할 수 있게 하는 관찰 가능한 결과물로 평가해야 합니다.
첫째, 비교 가능한 평가 공개를 주시해야 합니다. 의미 있는 보고서는 무엇을 시험했는지, 어떤 방법을 사용했는지, 결론이 어디에서 제한되는지를 식별해야 합니다. 독자가 시험 방식의 차이를 추측하지 않고 결과를 비교할 수 있다면 그 가치는 커질 것입니다.
이 신호는 협력이 공유된 증거를 만들어 내고 있다는 주장을 강화할 것입니다. 방법을 설명하지 않은 채 광범위한 보장만 반복하는 보고서는 핵심 불확실성을 해소하지 못합니다.
독자는 공개 자료가 식별 가능한 모델 버전과 계속 연결되어 있는지도 검토해야 합니다. 사용자가 어떤 증거가 현재 서비스에 적용되는지 알 수 없다면, 계속 늘어나는 아카이브의 가치는 제한적입니다.
둘째, 실효성 있는 독립 평가 체계를 주시해야 합니다. 관련 증거는 접근 권한, 범위, 공개 권리에 관한 것입니다. 이름이 알려진 외부 검토자는 유용한 맥락이지만, 검토 조건이 무엇을 입증할 수 있는지를 결정합니다.
외부인이 중요한 주장에 이의를 제기할 수 있을 만큼 충분한 접근 권한을 얻는다면, 이 신호는 신뢰를 강화할 것입니다. 제한적인 접근 또는 불명확한 공개 제한은 독자가 도출해야 할 결론을 제한합니다.
독립적 작업이 모든 민감한 시스템에 대한 무제한 공개 접근을 의미할 필요는 없습니다. 질문은 그 체계가 제한 사항을 드러내면서도 의미 있는 검증을 지원하는지입니다.
셋째, 정의된 사건 보고 절차를 주시해야 합니다. 독자는 명확한 범주, 지정된 수신자, 후속 조치 책임에 대한 설명을 찾아야 합니다. 연락처 주소만으로는 효과적인 대응 절차가 마련되었다고 볼 수 없습니다.
조직이 경고가 조사와 조치로 어떻게 이어지는지 보여 줄 수 있다면, 이 신호는 이니셔티브를 강화할 것입니다. 모호한 전달 경로나 불분명한 책임 소유는 실질적 조정에 대한 기대를 약화시킬 것입니다.
이 신호들 중 어느 것도 선언이 모든 문제를 즉시 해결할 것을 요구하지 않습니다. 참여자들이 진전과 부족한 점을 드러낼 수 있을 만큼 충분한 절차를 공개할 것을 요구합니다.
기업 고객에게 이 신호들은 공급업체 발표를 걸러내는 유용한 기준을 제공합니다. 지지 표명은 누가 이니셔티브를 지지하는지에 답합니다. 평가 접근성과 보고 절차는 그 지지가 서비스에 어떤 영향을 미치는지에 관한 더 실질적인 질문에 답합니다.
개발자에게 이 신호들은 문서화가 운영 증거가 될 수 있는 지점을 보여 줍니다. 정책은 테스트, 접근 결정 또는 실패 대응을 바꿀 때 의미를 얻습니다. 그 유용성은 이러한 결정과 계속 연결되어야 합니다.
선언을 공급업체의 현재 평가 보고서와 함께 읽은 뒤, 해당 보고서가 답하지 못하는 질문을 식별하십시오. 증거가 어떤 모델 버전을 다루는지, 누가 이를 검토했는지, 중대한 발견 뒤 어떤 대응이 이어지는지 물어보십시오. 배포 결정을 뒷받침하는 문서와 함께 그 답을 보관하십시오. 모델, 애플리케이션 또는 권한이 바뀌면 다시 검토하십시오. 프랑스의 Paris Call은 이러한 검토를 위한 공통 기준을 제공하지만, 이행의 질은 계속 검증 대상입니다. 확대되는 연합과 개선되는 안전 절차를 구분할 수 있을 만큼 향후 평가와 절차를 면밀히 지켜보십시오. 어떤 공개 증거가 특정 배포를 신뢰하기로 한 귀하의 결정을 바꾸겠습니까?



