top of page

백악관, AI 공개 관련 책임 완화 촉구

3일 전
9분 분량
Illustrative photograph. Photo: James L / Pexels.

백악관은 11월 12일 회의 이후 자발적 사이버 공개에 대한 책임을 완화할 것을 각 기관에 촉구하며, 최소 12개월간 지속되는 완화 조치를 제안했다. 백악관의 AI 공개 권고안은 까다로운 유인 구조를 겨냥한다. 기업은 유용한 보안 정보를 보유하고 있지만, 문제를 보고하면 자사의 실패가 드러날 수도 있기 때문이다.

Cybersecurity Dive의 11월 13일 보도에 따르면, 태스크포스는 법적으로 허용되고 실무적으로 가능하며 공익에 부합하는 경우 선의의 보고에 대한 제한을 권고했다. 이는 모든 AI 실패를 포괄하는 제정된 면제가 아니라 권고안이다.

핵심 긴장은 공개와 책임성 사이에 있다. 당국은 보고를 위축시키지 않으면서 더 이른 경고를 원하지만, 고객은 여전히 안전하지 않은 행위에 대한 실질적인 결과를 필요로 한다. 기존의 Cybersecurity and Infrastructure Security Agency, 즉 CISA의 보고 체계는 중요한 비교 기준을 제시한다. 보안 정보를 수집하는 일과 의무를 집행하는 일은 관련돼 있지만 서로 다른 업무다.

백악관 AI 공개 제안이 바꾸는 점

즉각적인 변화는 보고 유인에 관한 정책 권고이며, 실질적 효과는 기관의 이행에 달려 있다.

Cybersecurity Dive는 태스크포스가 자발적인 취약점 및 사고 보고에 대한 규제상 책임 제한을 추진했다고 보도했다. 취약점은 공격자가 악용할 수 있는 약점이고, 사고는 보안에 영향을 미치는 사건이다. 보도는 연장 가능성을 포함해 최소 12개월의 제안 기간을 설명한다.

보도된 권고안은 법적 권한, 실무적 가능성, 공중보건 및 안전과 관련된 조건도 유지한다. 이러한 단서는 이 사안의 중심에 놓여야 한다. 사이버 보고 권고안은 이미 확립된 권리가 아니라 기관의 조치를 요청하는 제안으로 읽어야 한다.

기관은 여전히 무엇을 보호하려는지 설명해야 한다. 보고서 제출에 대한 보호는 근본적인 보안 실패에 따른 제재로부터의 보호와 상당히 다를 수 있다. 이 구분을 해결하지 않은 정책은 기업이 자신들의 책임 노출에 대해 신뢰할 만한 정보를 얻기 어렵게 만든다.

가상의 사고를 통해 이 차이는 더 분명해진다. 어떤 AI 서비스가 특정 시스템이나 정보에 접근할 수 있는 주체를 결정하는 접근 통제를 공격자들이 악용하고 있음을 발견했다고 가정해 보자. 이 사실을 보고하면 방어 담당자들이 연관된 활동을 식별하는 데 도움이 된다. 그러나 그것만으로 제공업체가 이전에 적절한 안전장치를 유지했는지는 판단할 수 없다.

효과적인 정책은 이 질문들을 분리해야 한다. 당국은 공개를 장려하는 동시에 실패가 어떻게 발생했는지 검토하는 절차를 유지할 수 있다. 그렇지 않으면 협력 약속과 용서 약속의 구분이 어려워진다.

시점 또한 해결되지 않은 문제를 만든다. 권고안의 제안 기간은 보호 조치가 시작되는 보편적인 날짜를 정하지 않는다. 독자는 회의 날짜를 모든 조직이 활용할 수 있는 자동 면제의 시작으로 해석하지 말아야 한다.

따라서 백악관 보고 제안은 어떤 조직의 의무를 바꾸기 전에 논의의 방향을 바꾼다. 그 중요성은 집행 유인이 어떤 정보가 정부에 도달하는지에 영향을 준다는 점을 행정부가 인정했다는 데 있다.

기업에는 이 인식이 향후 정책을 면밀히 검토할 이유가 된다. 기존 보고 의무가 사라졌다고 가정할 근거는 제공하지 않는다. 적격성, 적용 대상 행위, 이행 일정이 사고 발생 시 이 제안이 실제 의사결정을 바꿀지를 결정할 것이다.

최초 보고를 하는 기업에 부담이 집중된다

가장 어려운 결정은 기업이 다른 이들에게 경고할 만큼은 알고 있지만, 사고에 대한 완전한 설명은 아직 갖추지 못했을 때 내려진다.

초기 보고는 최종 조사와 거의 같지 않다. 보안팀은 원인, 전체 범위 또는 영향을 받은 고객을 파악하기 전에 의심스러운 활동을 인지할 수 있다. 정책 과제는 추측이나 선택적 공개를 보상하지 않으면서 정확한 예비 경고를 장려하는 것이다.

한 AI 제공업체의 서비스가 고객의 문서 저장소에 연결된 가상 사례를 생각해 보자. 조사관들은 자동화된 워크플로와 관련된 예기치 않은 접근을 발견한다. 이들은 문제가 모델, 권한, 통합 과정 또는 공격자가 탈취한 자격 증명 중 어디에서 비롯됐는지 확인해야 한다.

조사가 계속되는 동안에도 고객은 실행 가능한 정보를 필요로 한다. 영향을 받은 연결과 즉각적인 차단 조치를 설명하는 보고서는 조사관이 최종 결론에 도달하기 전에 유용할 수 있다. 완전한 확실성을 기다리면 다른 고객이 필요로 하는 경고가 지연될 수 있다.

그러나 제공업체 역시 이해할 만한 우려를 안고 있다. 예비 보고서는 규제기관이 나중에 검토할 사실을 기록할 수 있다. 신속한 보고가 침묵보다 더 큰 책임 노출을 초래하는 것처럼 보인다면, 보고 체계는 좋지 않은 유인을 만든다.

따라서 AI 공개 책임은 당국이 불완전하지만 정직한 정보를 어떻게 다루는지에 관한 문제이기도 하다. 기관은 합리적인 초기 평가와 오해를 유발하는 설명을 구분해야 한다. 또한 새 증거가 나왔을 때 기업이 이전 진술을 어떻게 수정해야 하는지도 설명해야 한다.

이 부담은 AI 개발업체를 넘어선다. 기업 고객은 공급업체가 영향을 받은 제품, 구성 및 버전을 식별하는 데 의존한다. 사고가 조사 중이라는 일반적인 보증은 어떤 연결에 주의가 필요한지에 대한 구체적 설명보다 구매자에게 선택지를 덜 제공한다.

소규모 고객은 추가적인 실무 과제에 직면한다. 공급업체의 경고를 의사결정으로 전환해야 하기 때문이다. 접근을 중단할지, 자격 증명을 변경할지, 워크플로를 격리할지, 추가 모니터링과 함께 운영을 계속할지 알아야 한다.

이는 보고 품질을 정책 성공의 유용한 척도로 만든다. 제출 건수가 늘어난다고 해서 반드시 보호가 더 나아지는 것은 아니다. 보고 프로그램은 수신자가 이해하고, 평가하고, 활용할 수 있는 정보도 제공해야 한다.

부담이 처음 발언하는 기업에만 전적으로 돌아갈 수는 없다. 정부 수신 기관에는 명확한 접수 절차와 민감한 정보를 처리할 신뢰할 수 있는 방식이 필요하다. 보고서가 어디로 가는지에 대한 불확실성은 당국이 우호적 대우를 약속하더라도 협력을 저해할 수 있다.

상업적 의미는 명확하다. 구매자는 공급업체의 협력 의지와 그 협력이 만들어내는 증거를 구분해야 한다. 유용한 경고는 무엇이 발생했는지, 무엇이 아직 알려지지 않았는지, 수신자가 다음에 무엇을 할 수 있는지를 식별한다.

보고가 쉬워져도 책임성의 경계는 필요하다

완화 조치는 정직한 협력을 보호하면서도 공개가 책임 있는 보안 관행의 대체물이 되지 않게 할 때 가장 효과적이다.

보고 장려 논거는 공개가 다른 이들이 피해를 막는 데 도움이 될 때 가장 강력하다. 제공업체가 공격 패턴을 식별하고, 유용한 세부 정보를 공유하며, 영향을 받은 조직에 대응 시간을 제공한다. 더 넓은 혜택은 정보를 처음 문제를 겪은 조직 밖으로 이동시키는 데서 나온다.

하지만 기업이 보고를 최종 단계로 취급하면 이 유인은 방어하기 어려워진다. 조직은 정확하게 공개하면서도 여전히 부적절하게 대응할 수 있다. 고객에게는 초기 통지와 함께 차단, 시정 조치, 신뢰할 수 있는 업데이트가 필요하다.

시정 조치란 사고가 발생하게 한 약점이나 피해를 바로잡는 것을 뜻한다. 보고 행위에만 집중하는 정책은 그 후속 작업을 간과할 위험이 있다. 관련 질문은 보호 조치가 기업이 문제를 공개하고 해결하도록 장려하는지 여부다.

가상의 비교는 이 차이를 보여 준다. 한 제공업체는 고객에게 즉시 경고하고, 영향을 받은 접근을 제한하며, 수정 지침을 공개한다. 다른 업체는 보고서를 제출하지만, 취약한 기능이 여전히 활성화되어 있는지 고객이 확신하지 못하게 둔다.

두 조직 모두 정부와 소통했다. 하지만 고객이 받은 보호 수준은 매우 다르다. 합리적인 평가는 제출된 모든 보고서를 동등하게 취급하기보다 이러한 차이를 살펴봐야 한다.

이전의 자발적 AI 약속에 관한 증거도 약속을 일관된 행동과 동일시하지 말아야 함을 시사한다. 연구자 Jennifer Wang, Kayla Huang, Kevin Klyman, Rishi Bommasani는 2023년에 이뤄진 약속에 대한 기업의 공개된 준수 현황을 조사했다.

이들의 자발적 약속 연구는 상당한 편차를 발견했다. OpenAI는 전체 점수 83%로 가장 높았고, 기업 전체 평균은 53%였다. 이 수치는 모델 안전성이나 사고 대응의 직접적인 순위가 아니라 연구자들의 공개 기반 평가 기준을 측정한 것이다.

이 비교가 중요한 이유는 자발적 참여와 검증 가능한 성과가 서로 다른 질문에 답하기 때문이다. 기업은 외부인이 그 행위를 평가하기에 충분한 증거를 제공하지 않고도 프레임워크를 지지할 수 있다. 반대로 제한적인 공개 정보만으로 내부에서 일어난 모든 일을 판단할 수는 없다.

현재 제안에 대한 교훈은 협력에 필요한 사항을 구체적으로 명시해야 한다는 것이다. 유용한 기준은 적시성, 정확성, 업데이트, 관련 증거의 보존, 시정 조치를 다룰 수 있다. 이는 권고안이 이미 확립한 조건이 아니라 이행 정책이 다뤄야 할 문제다.

공공 책임성 역시 설계에서 자리를 차지해야 한다. 특히 세부 정보가 공격자에게 도움이 될 경우 민감한 보고서는 항상 즉시 공개될 수 없다. 그럼에도 전적으로 비공개인 체계는 반복되는 문제가 실질적인 관심을 받고 있는지 고객이 평가할 수 없게 한다.

집계된 결과는 개별 조사를 노출하지 않고도 진전을 평가하는 한 가지 방법이 될 수 있다. 기관은 반복되는 실패 패턴, 정보 공유 결과, 해결되지 않은 이행 문제를 설명할 수 있다. 이러한 보고는 유용한 비교를 지원하기 위해 신중한 정의가 필요하다.

백악관 AI 공개 접근법은 궁극적으로 실질적인 시험대에 오를 것이다. 즉, 제출 행위 자체를 넘어 행동을 바꾸는지 여부다. 더 이른 경고는 더 빠른 보호와 반복되는 실수 감소로 이어질 때 가장 중요하다.

병행 보고 체계도 또 다른 장애물이 될 수 있다

특히 동일한 사고가 AI와 기존 사이버 보안을 모두 포함할 때, 기업은 어떤 보고 경로가 적용되는지 명확히 알 필요가 있다.

AI 제품이 관련됐다는 이유만으로 사고가 운영상 분리되는 것은 아니다. 침해된 계정, 노출된 자격 증명 또는 결함 있는 권한 설정은 일반 소프트웨어와 AI 워크플로 모두에 영향을 줄 수 있다. 별도의 보고 분류가 반드시 별도의 사건을 의미하는 것은 아니다.

의회는 이미 Cyber Incident Reporting for Critical Infrastructure Act of 2022, 즉 CIRCIA를 통해 법정 체계를 마련했다. 이 법은 적용 대상 조직이 이행 규칙에 따라 해당 사고와 몸값 지급을 보고하도록 지시한다.

법정 보고 체계는 사고 보고에 72시간, 몸값 지급 보고에 24시간의 기간을 명시한다. 중요한 점은 관련 조항이 최종 규칙에서 정한 날짜에 발효된다는 것이다. 이러한 법정 기간을 현재 모든 기업에 적용되는 보편적 기한으로 제시해서는 안 된다.

이 법은 다른 연방 기관에 이미 실질적으로 유사한 보고를 한 경우도 다룬다. 해당 예외는 필요한 기관 간 협약과 정보 공유 체계에 달려 있다. 이는 중복을 줄이겠다는 폭넓은 약속도 여전히 세부적인 행정 절차를 필요로 한다는 점을 보여준다.

별도의 AI 보고 채널은 이러한 체계와 어떤 관계인지 설명해야 한다. 조직은 동일한 사실을 별도 양식으로 제출해야 할까? 한 경로로 보낸 업데이트가 다른 수신자에게도 전달될까? 추가 정보를 요청하는 기관은 어디일까?

이러한 질문은 정부가 받는 정보의 가치를 좌우한다. 조직이 서로 다른 시점에 업데이트하면 동일 사건에 대한 여러 버전은 조율하기 어려워질 수 있다. 공통 참조 체계나 조정된 접수 절차가 있으면 보고 관계를 더 쉽게 이해할 수 있다.

백악관의 보고 제안은 제도적 질문도 제기한다. AI 업무가 기존 사이버보안 전문성과 얼마나 긴밀히 연결되는지에 관한 문제다. 이 사안은 이미 전직 CISA 관계자들과 다른 보안 전문가들의 검토를 받고 있다.

CISA 조정 우려를 보도하면서 Cybersecurity Dive는 전 기관 자문위원 Daniel Bardenstein의 발언을 인용해 CISA가 인프라 운영자들과 확립해 온 관계를 강조했다. 전직 관계자 Matt Altomare 역시 사고 보고와 인프라 보호에서 해당 기관이 상당한 역할을 맡아야 한다고 주장했다.

이들의 주장은 기관의 명칭이 아니라 운영 지식에 대한 접근과 관련된다. 보고 채널은 이를 이용할 것으로 예상되는 조직들과의 관계를 필요로 한다. 이러한 관계는 관계 당국이 운영자가 어떤 정보를 보유하고 있으며 어떤 지원을 필요로 하는지 이해하는 데 도움이 된다.

기업 구매자에게 조정은 또 다른 결과를 낳는다. 공급업체가 정부에 통지하는 동안 고객은 여전히 자신의 환경과 관련된 지침을 받지 못할 수 있다. 정부 보고와 고객 커뮤니케이션은 같은 근본 사건을 다루더라도 별도로 평가해야 한다.

가장 강력한 구현은 이러한 관계를 이해하기 쉽게 만들 것이다. 기업은 어디에 보고해야 하는지, 업데이트가 어떻게 전달되는지, 어떤 의무가 여전히 별개인지 알아야 한다. 이러한 명확성이 없으면 보고 채널을 추가하는 일은 이미 어려운 대응 과정에서 또 하나의 판단을 더하는 결과가 될 위험이 있다.

해결되지 않은 쟁점은 보호가 실제로 무엇을 포괄하는지다

규제 노출을 제한하자는 권고가 AI 관련 사고의 모든 결과에 대한 면책을 의미하는 것은 아니다.

AI 공개 책임이라는 표현은 여러 다른 질문을 감출 수 있다. 보호는 보고서 자체에 적용되는가? 기관이 근본 행위를 평가하는 방식에 영향을 미치는가? 최초 통지, 이후 업데이트 또는 둘 다를 포괄하는가?

이 질문들은 서로 다른 유인을 설명하므로 별도의 답이 필요하다. 성실한 정정을 보호하면 기업이 기록을 업데이트하도록 유도한다. 관련 없는 보안 실패를 면제하는 것은 다른 정책 목표를 다루며 다른 근거를 요구한다.

사건이 조직 경계를 넘을 때도 같은 수준의 정밀함이 중요하다. AI 개발자는 모델을 운영하고, 통합업체는 접근 권한을 구성하며, 기업은 연결된 데이터를 통제할 수 있다. 한 참여자의 보고만으로 다른 모든 참여자의 행위를 자동으로 설명할 수는 없다.

조사가 진행되면서 책임도 달라질 수 있다. 겉보기에는 모델 문제였던 사안이 통합 결함으로 드러날 수 있다. 고객 구성 오류로 의심됐던 문제가 공급업체의 오해를 부르는 기본 설정을 드러낼 수도 있다. 보호는 예비 설명을 영구적인 결론으로 취급하는 데 의존해서는 안 된다.

이는 선의와 관련해 까다로운 설계 문제를 만든다. 관계 당국은 불확실성을 수용할 만큼의 유연성을 확보하는 한편, 은폐나 중대한 오해를 유발하는 진술에 대응할 수단도 유지해야 한다. 모호한 기준은 보고자와 영향을 받은 고객 모두에게 예측 가능한 판단 근거를 제공하지 못한다.

이 제안은 보고 관계 밖에 있는 사람들의 관점에서도 검토가 필요하다. 데이터가 노출된 고객은 자발적 공개를 하는 공급업체와 다른 이해관계를 가진다. 협력을 장려한다고 해서 고객이 정확한 정보와 적절한 구제를 필요로 한다는 사실이 가려져서는 안 된다.

보도된 권고 어디에도 계약상 의무나 민간 청구를 포괄적으로 없앤다는 내용은 없다. 따라서 독자는 규제 유연성을 법적 노출에 대한 만능 해답으로 받아들이지 말아야 한다. 적용되는 정책 문안과 의무는 별도로 검토해야 한다.

이전 행정부의 메시지는 왜 정밀함이 중요한지를 보여준다. Axios는 10월에 관계 당국이 AI 기업에 사고의 신속한 공개, 당국과의 협력, 피해 구제를 기대한다고 보도했다. AI 사고 대응 기대에 대한 해당 보도는 Anthropic 시스템과 관련된 사고 보도 이후 강경한 공개 입장을 설명했다.

이전 입장과 11월 권고가 반드시 양립 불가능한 것은 아니다. 관계 당국은 신속한 보고를 요구하면서도 공개가 집행에 미치는 방식을 변경할 수 있다. 여전히 해결되지 않은 문제는 이러한 입장이 서면으로 된 집행 가능한 기관 정책으로 어떻게 전환되는지다.

회의적인 질문은 유연성이 그렇지 않았다면 숨겨졌을 정보를 이끌어내는지 여부다. 다른 의무에 따라 이미 보고하던 기업에 주로 이익이 된다면, 추가 가치는 덜 분명해진다. 이 질문을 평가하려면 의도에 대한 보장이 아니라 행동에 관한 증거가 필요하다.

잘못된 결과를 측정할 위험도 있다. 보고 건수 증가는 더 나은 공개, 더 많은 사고, 더 폭넓은 참여 또는 변경된 정의를 의미할 수 있다. 이러한 대안을 무시하는 평가는 수치가 보여주는 바를 과장하게 된다.

현재로서는 책임 있는 결론은 제한적이다. 행정부는 보고 유인 문제를 확인했지만, 보도된 권고가 그 구현 방식을 확정하지는 않는다. 기업이 포괄적 면책을 받았다는 주장은 여기서 이용 가능한 증거를 넘어선다.

세 가지 전개가 이 제안의 작동 여부를 보여줄 것이다

다음으로 의미 있는 증거는 서면 기관 정책, 보고 조정, 그리고 참여자들이 실제로 공유하는 정보에서 나올 것이다.

첫째, 보호를 정의하는 기관 문서를 주시해야 한다. 중요한 세부 사항에는 자격 요건, 포괄되는 공개, 제외 사항, 시행일, 정정 처리 방식이 포함된다. 공개적인 지지 표명만으로는 이러한 운영상 질문이 남는다.

유용한 정책은 보고와 근본 행위의 관계를 설명할 것이다. 또한 기업이 신속히 보고했지만 나중에 최초 설명이 불완전했다는 사실을 발견한 경우 어떻게 되는지도 밝힐 것이다. 이러한 조항은 관계 당국이 실제 보고 장벽을 해결하고 있다는 근거를 강화할 것이다.

반대로 기관별 표현이 일관되지 않으면 그 근거는 약해질 것이다. 조직이 같은 공개가 규제기관마다 다른 대우를 받는지 판단할 수 없다면 불확실성은 남는다. 광범위한 해석이 필요한 명목상의 보호는 진행 중인 사고 상황에서 영향력이 제한적일 수 있다.

둘째, 자발적인 AI 채널이 기존 보고 시스템과 어떻게 연결되는지 살펴봐야 한다. 새 양식의 공개는 출발점일 뿐이다. 명확한 전달 경로, 업데이트 절차, 정보 공유 체계는 조정의 더 강력한 증거가 될 것이다.

핵심 질문은 조직이 사고를 한 번 설명하고 관련 수신자에게 정확한 정보를 계속 제공할 수 있는지다. 그렇다고 모든 의무가 동일해져야 하는 것은 아니다. 다만 중첩되는 절차 사이에 이해 가능한 경계는 필요하다.

중복 감소의 증거는 제안의 실무적 근거를 뒷받침할 것이다. 상충하는 지침이나 실질적으로 유사한 정보에 대한 반복 요청은 반대 방향을 가리킬 것이다. 이 과정에서 인프라 운영자의 운영 경험은 특히 주목할 가치가 있다.

셋째, 공개의 품질과 결과를 살펴봐야 한다. 유용한 증거에는 보고가 다른 이들에게 도움이 될 만큼 충분히 이른 시점에 도착하는지, 실행 가능한 위험을 식별하는지, 시정 작업으로 이어지는지가 포함된다. 참여만으로는 이러한 결과를 입증할 수 없다.

정부와 업계는 기밀 협력과 대중 안심도 구분해야 한다. 제공업체가 사고를 보고했다는 진술은 무엇을 보고했는지 또는 고객이 충분한 정보를 받았는지를 보여주지 않는다. 증거를 이용할 수 있게 될 때에는 독립적인 검토가 여전히 필요하다.

이 신호들은 함께 평가해야 한다. 유용한 정보가 없는 명확한 보호는 불완전한 결과다. 혼란스러운 절차를 동반한 유용한 보고는 다른 약점을 보여준다. 목표는 조직이 활용할 수 있고 영향을 받은 당사자가 신뢰할 수 있는 보고 관계다.

백악관의 AI 공개 권고는 민간 보안 지식이 공공 방어 자원이 되는 순간에 초점을 맞춘다는 점에서 주목할 가치가 있다. 성공 여부는 그 교환의 조건에 달려 있다.

이 정책을 추적하는 독자는 가장 광범위한 헤드라인보다 첫 번째 기관 이행 문서부터 살펴야 한다. 보호 문구를 보고 조건과 비교한 뒤, 공개가 대응을 개선한다는 증거를 찾아야 한다. 초기 권고가 이후 규정과 혼동되지 않도록 날짜가 명시된 발언과 이행 변경 사항을 검색 가능한 지식 기반에 함께 보관하라. 정부 보고와 함께 고객에게 무엇을 전달하는지 공급업체에 묻고, 예비 조사 결과와 완료된 조사를 구분하라. 무엇보다 보고된 문제가 문서화된 시정 조치를 받는지 추적하라. 결과적으로 구축되는 시스템은 조직이 실패를 더 기꺼이 공개하게 만들면서 영향을 받은 사람들에게 다음에 일어날 일에 관한 더 나은 정보를 제공할 수 있을까?

 
 

무료로 시작하세요

개인 지식 관리 기능을 갖춘 로컬 우선 AI 어시스턴트

더 나은 AI 경험을 위해

현재 remio는 Windows 10+ (x64) 및 M-Chip Macs만 지원합니다.

업무를 위한 AI 파트너
remio와 더 많은 일을 해내세요

계획하고, 만들고, 완성하세요
모든 일을 한곳에서

bottom of page