싱가포르 자율운항 선박 위험, AI와 인간 통제에 대한 경고 촉발

싱가포르는 AI와 자율운항 선박이 해상 보안 위험을 초래할 수 있다고 10월 29일 경고하면서도, 이들의 도입을 지지한다고 밝혔다. 싱가포르 자율운항 선박 위험은 이제 실무적 정책 논쟁의 핵심에 놓여 있다. 해운은 어느 정도의 통제권을 위임해야 하며, 시스템이 실패했을 때 누가 책임을 지는가라는 문제다.

에드윈 통 법무장관 겸 제2내무장관은 유엔 안전보장이사회에서 이 입장을 밝혔다. 그는 피지, 자메이카, 몰타, 싱가포르를 대표해 발언했다. 그의 입장은 혁신을 지지하는 동시에 사이버 공격, 불법적인 선박 통제, 해상 인프라 방해에 대비한 안전장치를 함께 요구했다.

이러한 긴장은 싱가포르 자체 개발 계획에서도 이미 드러난다. 싱가포르 해사청과 항만 운영사 PSA는 자율 컨테이너 운송을 검토하고 있으며, 국제해사기구는 국제 규정을 마련하고 있다. 핵심 쟁점은 운항 자율성과 검증 가능한 인간 통제의 균형이며, 개발사와 선주, 규제기관은 이 목표들이 양립하도록 할 책임이 있다.

싱가포르 자율운항 선박 위험, 더 넓은 보안 논쟁으로 진입

10월 성명은 자율 해운의 지속적 개발을 지지하면서 이를 국제 안보 정책의 틀 안에 위치시킨다.

통 장관은 해상 보안 성명에서 책임성, 투명성, 인간 감독을 촉구했다. 그는 자율 상선에 관한 국제 프레임워크가 마련되고 있는 점도 환영했다.

그의 경고는 여러 유형의 위협을 다뤘다. 여기에는 해저 인프라 공격, 선박 통항 방해, 선내 시스템 교란, 불법 탈취가 포함됐다. 그는 새롭게 확인된 자율운항 선박 공격을 지목한 것이 아니라 잠재적 결과를 설명했다.

이 구분은 제목을 해석하는 데 중요하다. 이 성명은 자율 해운 금지나 해상 AI가 본질적으로 안전하지 않다는 기술적 결론을 발표한 것이 아니다. 이는 외교적 입장을 제시했다. 혁신은 안전장치와 항행권 존중을 병행하며 추진되어야 한다는 것이다.

통 장관은 해상 권리와 책임을 규율하는 조약인 유엔해양법협약도 언급했다. 이 언급은 기술 보안을 선박의 국제 운항을 규정하는 법적 조건과 연결한다.

따라서 즉각적인 변화는 정치적 강조에 있다. 싱가포르는 해상 자율운항을 지지하는 입장 안에서 보안과 책임성을 명시적으로 부각하고 있다. 그에 따른 조달 또는 규제상의 결과는 연설 자체가 아니라 후속 결정에 달려 있다.

기술 공급업체에 이 구분은 정책 신호와 규제 준수 기한을 가르는 기준이 된다. 외교적 경고가 자동으로 새로운 인증 요건을 만들지는 않는다. 다만 구매자와 당국이 향후 평가에 반영할 수 있는 우려를 식별한다.

근본적인 상충 관계는 명확하다. 소프트웨어에 더 많은 권한을 부여하면 지속적인 수동 개입의 필요성을 줄일 수 있다. 동시에 그러한 위임은 소프트웨어가 언제 멈추고, 판단을 유보하거나, 통제권을 되돌려야 하는지를 결정하는 일의 중요성을 높인다.

선박이 계획된 이동을 완료할 수 있는지는 이 문제의 일부에만 답한다. 구매자는 운항자가 시스템 권한의 한계를 이해하고 있다는 확신도 필요하다. 관측 정보가 충돌하거나 상황이 예기치 않게 변할 때 이러한 한계는 특히 중요해진다.

이는 특정 제품의 성능에 관한 주장이 아니라 경고에서 도출되는 분석적 함의다. 공개된 성명은 경쟁 자율운항 시스템에 대한 비교 평가를 제공하지 않는다.

AI 규제를 주시하는 독자에게 이 사건은 소프트웨어가 물리적 이동에 영향을 미칠 때 거버넌스가 어떻게 달라지는지 보여준다. 책임성은 운용 설계의 문제가 된다. 누군가는 책임 있는 의사결정자를 식별하고, 결정을 재구성하며, 가능한 대안을 설명할 수 있어야 한다.

이 요건은 해운 전문가를 넘어 이 경고의 의미를 확장한다. 기업 AI 구매자 역시 소프트웨어에 행동 권한을 부여할 때 유사한 질문에 직면한다. 결과는 다르지만, 위임된 권한과 책임 있는 통제 사이의 관계는 여전히 핵심이다.

항만 실증 사업, 개발사와 운영사에 실무적 압박 가해

싱가포르의 개발 계획은 보안을 완전 무인 선박에 대한 먼 미래의 우려가 아니라 즉각적인 프로젝트 요건으로 만든다.

4월 22일 싱가포르 해사청과 PSA는 자율 피더선 운항을 위한 제안서를 모집했다. 이 선박들은 Tuas와 Pasir Panjang을 포함한 터미널 사이에서 컨테이너를 운송하게 된다.

제안 절차에는 선박을 모니터링하고 개입을 지원하는 육상 시설인 원격운항센터 계획이 포함됐다. 신청자들은 사이버 보안, 항해, 이중화, 인간 인터페이스, 규제 준수를 다루도록 요청받았다.

이는 싱가포르 자율운항 선박 위험을 논의할 구체적인 맥락을 제공한다. 계획된 작업은 자율 선박이 기존 해상 교통 및 운영 절차와 상호작용하는 항만 물류를 포함한다. 이 발표는 개발과 시험의 목표를 설명할 뿐, 정기적인 자율 운항 서비스가 시작됐음을 의미하지는 않는다.

개발사에 압박은 통합에서 비롯된다. 항해 구성 요소는 배정된 과업을 수행할 수 있지만, 운항 시스템의 다른 영역에는 까다로운 문제가 남을 수 있다. 여기에는 누가 이동을 승인하는지, 누가 예외 상황을 처리하는지, 서로 다른 조직이 어떻게 책임을 교환하는지가 포함된다.

운영사에 압박은 개입에 관한 문제다. 원격 감독은 사람이 유용한 정보를 받고 효과적으로 행동할 수단을 가질 때만 도움이 된다. 선박 상태를 보여주는 화면만으로는 어느 조건도 충족됐다고 볼 수 없다.

터미널 간 컨테이너 이송의 예시를 생각해 보자. 자율 시스템이 계획된 이동과 충돌하는 정보를 마주한다. 관련 안전 문제는 충돌을 감지하는지 여부를 넘어선다.

운항자는 불확실성을 이해하고, 가능한 조치를 식별하며, 다음 결정을 어떤 권한이 통제하는지 알아야 한다. 운영 절차가 이러한 책임을 모호하게 남긴다면, 자동화 확대는 대응을 복잡하게 만들 수 있다.

이 시나리오는 싱가포르 피더선 프로그램에서 보고된 사고가 아니라 분석적 사례다. 이는 프로젝트 평가가 고립된 소프트웨어 기능이 아니라 결합된 운항 체계를 검토해야 하는 이유를 보여준다.

이러한 책임이 명확해지면 상업적 평가도 달라진다. 구매자는 동등한 운항 조건을 기준으로 제안서를 비교해야 한다. 그렇지 않으면 좁은 항로를 위해 설계된 시스템이 더 광범위한 자율성을 약속하는 시스템과 직접 비교 가능한 것처럼 보일 수 있다.

공급업체가 서로 다른 역량에 같은 명칭을 사용할 때 이 구분은 특히 중요하다. “자율운항”은 다양한 수준의 독립성을 뜻할 수 있다. 조달 문서에는 시스템이 수행하는 기능과 사람이 맡는 결정에 대한 더 정밀한 설명이 필요하다.

운용 한계를 명확히 밝히는 공급업체는 구매자에게 검증 가능한 기준을 제공한다. 광범위한 독립성 주장은 운항자가 인력 배치, 비상 절차, 일반 선박과의 상호작용을 계획해야 할 때 도움이 덜 된다.

따라서 해당 프로젝트팀의 핵심 과제는 증거다. 기술 역량, 인간의 책임, 항만 절차가 함께 작동함을 보여야 한다. 성공적인 이동은 중요하지만, 배치를 위한 논거 전체를 뒷받침할 수는 없다.

바로 이 지점에서 보안 경고가 상업적으로 중요해진다. 이는 통제 체계를 구매 대상 제품의 일부로 취급해야 한다는 근거를 강화한다.

인간 감독, 자율운항 시스템의 일부가 되다

사람을 육상으로 이동시키는 것은 감독의 위치를 바꾸지만, 그 감독이 계속 효과적이라는 사실을 입증하지는 않는다.

국제해사기구(IMO)는 2026년 5월 비강제적 자율운항 선박 코드를 채택했다. 이 코드는 7월 1일 발효됐으며 관련 화물선에 적용된다.

이 코드는 항해, 연결성, 원격 운항, 사이버 보안 및 기타 안전 문제를 다룬다. IMO는 선장이 승선하지 않은 경우를 포함해 선장이 전반적인 책임을 유지한다고 밝힌다. IMO의 로드맵은 2030년 7월 의무 규정 채택과 2032년 1월 발효를 목표로 한다.

이 조항들은 자율운항 논쟁의 기준점을 제공한다. 동시에 선박을 설계하고 운용하는 조직에는 상당한 구현 과제가 남는다. 공식적인 책임은 실질적인 권한 및 사용 가능한 정보와 연결되어야 한다.

인간 감독은 승인 단계를 추가하면 문제가 해결되는 것처럼 논의되기도 한다. 물리적 운용 환경에서 이 가정은 더 면밀한 검토가 필요하다. 사람의 승인은 상황을 이해하고 결과에 영향을 미칠 수 있을 때만 의미가 있다.

인터페이스는 근본적인 불확실성을 명확히 하지 않은 채 권고 조치를 제시할 수 있다. 절차는 분쟁이 있는 통제 이양 중 누가 통제권을 갖는지 정하지 않은 채 책임을 배정할 수 있다. 조직이 이에 의존하기 전에 두 체계 모두 면밀히 검토해야 한다.

따라서 적절한 분석은 의사결정 경로를 따라간다. 어떤 정보가 운항자에게 도달하는가? 운항자는 어떤 권한을 보유하는가? 사람이 시스템의 권고를 거부하면 무엇이 일어나는가?

이 질문들은 단일 AI 모델의 정확도보다 통제 조직화에 관한 것이다. 유능한 모델도 불명확한 운용 체계 안에 놓일 수 있다. 반대로 책임이 명확히 정의된 경우에는 범위가 제한된 시스템도 유용한 자동화를 제공할 수 있다.

싱가포르는 국방 부문에서 원격 해상 운용의 별도 사례를 보유하고 있다. 싱가포르 국방과학기술청은 원격 감독 선박을 활용한 무인 해상 순찰을 설명한다. DSTA는 운항자가 통합 제어 시스템을 통해 순찰을 계획하고, 선박을 추적하며, 대응할 수 있다고 밝힌다.

이 군사 사례는 상업적 준비 상태를 직접 입증하는 증거가 아니라 맥락을 제공한다. 순찰 임무와 컨테이너 서비스는 운용 요건이 다르다. 한 환경의 증거가 다른 환경의 주장을 자동으로 검증해서는 안 된다.

그럼에도 이 비교는 공통된 설계 문제를 식별하는 데 도움이 된다. 두 접근법 모두 선박이 처리할 업무와 인간 운항자가 처리할 업무를 조직이 결정해야 한다. 이러한 분담의 품질은 선박 개별 역량과 함께 중요하다.

상업 구매자에게 유용한 비교는 대안 제안서 전반의 권한 배분을 검토하는 방식이다. 한 공급업체는 더 많은 결정을 선내에 남길 수 있다. 다른 공급업체는 육상팀에 더 크게 의존할 수 있다.

뒷받침하는 증거 없이는 어느 체계도 자동으로 안전상 우위를 가진다고 볼 수 없다. 관련 시험은 각 체계가 선언된 운용 조건 안에서, 그 조건이 악화될 때를 포함해 어떻게 작동하는지를 다룬다.

이것이 책임 있는 자율운항의 실질적 의미다. 통제권이 소프트웨어, 장비, 사람 사이를 이동하더라도 책임은 계속 이해 가능해야 한다.

연결된 통제, AI 실패의 결과를 바꾸다

핵심 보안 질문은 문제가 발생한 뒤 AI 시스템이 무엇을 승인하고, 영향을 미치며, 통제할 수 있는지에 관한 것이다.

싱가포르 사이버보안청과 FAR.AI는 2025년 10월 에이전틱 AI 보안을 논의하며 관련 우려를 검토했다. 에이전틱 시스템은 지속적인 프롬프트 입력 필요성을 줄인 채 도구를 통해 계획을 세우고 행동할 수 있다.

이들의 논의는 자율성이 추가적인 보안 우려를 낳고, 책임을 개발자·공급업체·사용자 및 기타 참여자에게 분산시킨다는 점을 강조한다. 다만 상업용 선박이 범용 AI 에이전트와 동일한 소프트웨어 아키텍처를 사용한다는 점을 입증하지는 않는다.

여기서의 연결은 분석적이다. 소프트웨어가 정보를 제공하는 단계에서 행동을 수행하는 단계로 옮겨갈수록, 그 권한은 위험의 일부가 된다. 결함 있는 권고와 무단 제어 행위에는 서로 다른 대응이 필요하다.

해양 시스템에서는 이 차이가 구체적으로 드러난다. 자문 도구는 인간 의사결정자에게 가능한 항해상 우려를 알릴 수 있다. 더 큰 권한을 지닌 시스템은 선박의 대응에도 영향을 줄 수 있다.

이들 시스템을 동일한 제품을 제공하는 것처럼 평가하면 중요한 차이를 가리게 된다. 구매자는 소프트웨어가 수행하도록 허용된 범위의 한계, 즉 행동 경계를 이해해야 한다.

그 경계는 조직이 실패를 조사하는 방식에도 영향을 미친다. 오해를 부르는 관측은 정보 품질에 대한 질문을 제기한다. 부적절한 지시는 권한 부여에 대한 질문을 제기한다. 효과 없는 개입은 통제와 복구에 대한 질문을 제기한다.

이 범주들은 겹칠 수 있지만, “AI가 실패했다”는 일반적 주장 속으로 사라져서는 안 된다. 명확한 구분은 조사자가 어떤 가정이 무너졌고 어떤 안전장치를 수정해야 하는지 파악하는 데 도움이 된다.

제품 팀에는 구성 요소 간 의존성을 문서화해야 한다는 압력이 생긴다. 의사결정이 외부 정보에 의존한다면, 운영 사례는 불확실성이 행동 권한에 어떤 영향을 미치는지 설명해야 한다. 권한이 이전된다면, 그 전환은 관련된 사람들이 이해할 수 있어야 한다.

이는 평가를 위한 질문이지, 특정 해양 공급업체의 통제가 불충분하다는 결론은 아니다. 이용 가능한 자료는 상업 시스템에 대한 비교 보안 감사를 제공하지 않는다.

같은 논리는 기업의 AI 구매에도 적용된다. 구매자는 시연에서 눈에 보이는 작업 성과부터 검토하는 경우가 많다. 시스템에 의미 있는 권한이 부여되면, 한계·감독·복구에 관한 근거도 필요하다.

성공적인 시연은 보통 시스템이 의도한 작업을 완료하는 모습을 보여 준다. 운영 배포에 관한 결정에서는 조직이 의도하지 않은 행동을 어떻게 처리하는지도 고려해야 한다. 두 가지는 관련되어 있지만 서로 다른 형태의 근거다.

이러한 근거를 관리하는 팀은 검색 가능한 지식 기반의 도움을 받을 수 있다. 테스트 결과, 공급업체 진술, 운영 절차를 연결해 두면 검토자는 문서화된 역량과 해결되지 않은 가정을 구분하기 쉬워진다.

문서화 자체가 안전을 보장하지는 않는다. 그 가치는 근거를 검토 가능하게 만들고 남은 공백을 드러내는 데 있다. 책임이 조직 간 경계를 넘어갈수록 이러한 가시성은 더욱 중요해진다.

경고는 공격 빈도와 상업적 책임을 여전히 해결하지 못한다

신뢰할 만한 보안 우려가 있다고 해서 공격이 얼마나 자주 발생하는지, 또는 어떤 자율성 아키텍처가 가장 우수한지를 입증하는 것은 아니다.

여기서 검토한 자료는 자율 운항 상업선과 전통적 방식으로 운항되는 상업선의 공격률을 비교해 제시하지 않는다. Tong의 발언 역시 자율 선박에 대한 새롭게 검증된 장악 사례를 특정하지 않는다.

이러한 한계는 분석의 방향을 정해야 한다. 이 경고는 그럴듯한 위협과 안전장치를 검토할 근거는 제공한다. 그러나 자율성이 해운을 더 위험하게 또는 덜 위험하게 만든다는 수치적 주장을 뒷받침할 수는 없다.

싱가포르 국립대학교의 진행 중인 프로젝트는 또 다른 미해결 영역을 보여 준다. 바로 사이버 해적행위와 보험이다. 연구자 Fatıma Özcan의 프로젝트는 원격 장악 위협과 해상보험 체계가 이를 충분히 다루는지를 검토한다.

이 프로젝트는 잠재적 시나리오와 연구 질문을 설명한다. 해당 시나리오를 상업 선단을 상대로 이미 실행된 공격의 기록으로 제시하지는 않는다. 이러한 구분은 유용한 연구 단서가 근거 없는 사건 주장으로 변질되는 것을 막는다.

구매자에게 책임에 대한 불확실성은 기술 성능과는 별개의 문제를 만든다. 시스템이 합의된 운영 목표를 충족하더라도, 분쟁이 발생한 사건의 책임을 계약이 불분명하게 남길 수 있다.

예를 들어 결과가 소프트웨어 결정, 운용자 지시, 또는 잘못된 정보 중 무엇에서 비롯됐는지를 두고 이견이 생길 수 있다. 이를 해결하려면 실제 진행 순서와 적용되는 계약에 관한 근거가 필요하다.

이는 특정 청구에 대한 예측이 아니다. 운영 기록과 계약상 책임이 배포 논의에 포함되어야 하는 이유를 설명한다. 기술적 보증과 상업적 책임성은 서로 다른 질문에 답한다.

회의적인 논지는 반대 방향에서도 적용된다. 자율성이 지나치게 위험하다는 주장은 우려를 자아내는 가정만으로는 충분하지 않다. 기능, 노출, 결과, 그리고 기존 운영과의 비교를 구체적으로 제시해야 한다.

전통적 운항은 정의되지 않은 기준점이 되어서는 안 된다. 구매자가 대안을 비교한다면, 관련 업무·운영 조건·인간의 책임에 대해 일관된 가정이 필요하다.

마찬가지로 자동화가 인적 오류를 없앤다는 주장은 신중한 단서가 필요하다. 운영 모델의 변화는 의사결정을 설계자, 유지보수 담당자, 감독자, 탑재 시스템 사이에 재분배할 수 있다. 이러한 재분배를 평가하려면 조타실에 사람이 없다는 사실을 넘어서는 근거가 필요하다.

가장 방어 가능한 입장은 조건부다. 자율성 제안은 명확히 설명된 용도에 대해, 관련 테스트와 이해 가능한 책임 구조를 바탕으로 신뢰를 얻어야 한다. 이 기준은 열망을 증명으로 바꾸지 않으면서도 유용한 배포를 가능하게 한다.

또한 싱가포르의 자율 선박 위험을 기술에 대한 판정으로 해석하는 일도 피한다. 이용 가능한 근거는 더 강력한 보증을 요구할 근거를 제공한다. 어떤 설계와 운영 모델이 그 요구를 가장 설득력 있게 충족할지는 열어 둔다.

시범 운항이 진행되는 동안 이 불확실성은 계속 드러나 있어야 한다. 이를 정직하게 다루면 개발자에게는 더 명확한 목표가, 구매자에게는 더 강한 비교 기준이 제공된다.

12월 규제 제정과 시범 운항의 근거를 주시하라

다음으로 유용한 신호는 자율 역량에 대한 또 다른 광범위한 약속이 아니라, 운영 근거와 통제 체계의 품질에 관한 것이다.

첫 번째 예정된 신호는 IMO의 2026년 12월 해사안전위원회 회의다. 공개된 로드맵은 비강제 코드 아래에서 경험 축적을 관리하는 프레임워크 작업을 요구한다.

이 과정이 중요한 이유는 실제 사용에서 얻은 교훈이 강제 요건을 마련하는 데 활용되기 때문이다. 근거 축적 프레임워크는 서로 다른 시스템과 운영 조건을 의미 있게 비교할 수 있도록 지원해야 한다.

독자는 결과적으로 마련될 절차가 참여자에게 어떤 문서화를 요구하는지 살펴봐야 한다. 운영 한계, 개입, 예기치 않은 행동을 명확히 다룬다면 실무 경험이 규칙을 개선할 수 있다는 신뢰가 강화될 것이다.

비교 가능한 정보를 거의 만들지 못하는 절차는 구매자와 당국에 더 많은 불확실성을 남길 것이다. 이는 위원회의 결정을 예측하는 것이 아니라 다음 단계를 평가하기 위한 기준이다.

두 번째 신호는 싱가포르의 자율 피더선 이니셔티브에 관한 실질적 업데이트다. 4월 제안 발표는 정의된 활용 사례를 제시한다. 이후 공개 내용이 시범 운항에 수반되는 조건과 책임을 설명한다면 더 많은 정보를 제공할 수 있다.

공급업체 선정 또는 시범 운항 발표는 프로젝트의 진전을 보여 줄 것이다. 그러나 그것만으로 정기 운항 준비가 됐음을 입증하지는 않는다. 독자는 행정적 이정표와 입증된 운영 역량을 구분해야 한다.

선박이 운항할 수 있는 장소, 필요한 감독 수준, 개입 방식에 관한 세부 내용은 업데이트의 유용성을 높일 것이다. 이러한 공개는 프로젝트가 정책상 기대를 검증 가능한 체계로 전환하고 있다는 근거를 강화한다.

제한적인 공개는 실패를 입증하기보다 불확실성을 유지한다. 상업적 개발이 언제나 즉각적인 공개 기술 세부 정보를 만들어 내는 것은 아니다. 올바른 대응은 무엇이 여전히 알려지지 않았는지 밝히는 것이다.

세 번째 신호는 운용자와 공급업체가 비정상 상황에서의 통제에 관한 의미 있는 근거를 공개하는지 여부다. 앞으로 몇 달간 계획된 운항이 무너질 때 책임을 설명하는 테스트 결과나 보증 문서를 살펴봐야 한다.

가장 강력한 자료는 선언된 운영 한계를 관측된 행동과 인간의 대응에 연결할 것이다. 테스트가 실시됐다는 진술은 그 테스트가 무엇을 입증했는지 설명하는 것보다 통찰이 적다.

실효성 있는 개입의 근거는 더 큰 자율성 안에서도 인간 감독이 효과를 유지할 수 있다는 주장을 강화할 것이다. 해결되지 않은 인계의 근거는 권한을 좁히거나 절차를 수정해야 한다는 압력을 높일 것이다.

이러한 신호들은 모든 발표를 결정적 결과로 취급하지 않으면서 이야기를 추적할 실용적인 방법을 함께 제공한다. 규제 제정은 기대를 설정한다. 시범 운항은 특정 용도를 검토한다. 공개된 근거는 독자가 구현이 그러한 기대를 충족하는지 판단하도록 돕는다.

싱가포르의 경고는 기술 구매자에게 위임된 통제를 평가하는 방식을 재검토할 이유도 제공한다. 관련 질문은 소프트웨어가 유용한 작업을 완료하는지에만 그치지 않는다. 조직이 자신이 부여한 권한을 설명하고 관리할 수 있는지도 포함한다.

준비 상태에 대한 광범위한 주장을 받아들이기 전에 이러한 신호를 따라가야 한다. 제안을 검토할 때 어떤 결정이 인간에게 남아 있는지, 운영 한계를 벗어나면 무엇이 발생하는지, 복구를 뒷받침하는 근거가 무엇인지 물어야 한다. 공급업체의 주장은 독립적으로 평가된 결과와 구분하고, 계획된 시범 운항과 정기 상업 운항도 구별해야 한다. 싱가포르 자율 선박 위험과 관련해 가장 유용한 다음 발전은 역량, 책임, 관측된 행동 간의 더 명확한 연결일 것이다. 이러한 연결은 구매자에게 평가할 구체적인 대상을 제공하고, 개발자에게 충족해야 할 정의된 기준을 제공한다. 규칙과 시범 운항이 발전해 갈수록, 어떤 시스템이 자신의 역량만큼이나 한계를 이해하기 쉽게 드러낼 것인가?