Laplace Intelligence 로봇 테스트, 안전 경쟁의 양측에 AI를 배치하다

Laplace Intelligence는 수익을 낸 첫해를 지나 고위험 안전 경쟁에 뛰어들었다. 소프트웨어가 공공 공간에 도달하기 전에 AI 에이전트로 로봇을 공격하는 것이다. Laplace Intelligence의 로봇 테스트 시스템은 도로, 창고 및 기타 물리적 환경의 인터랙티브 시뮬레이션 안에 자동화된 적대자를 배치한다. 이는 날카로운 충돌을 만든다. 자율 기계를 더욱 유능하게 만드는 바로 그 기술이, 그 기계가 어떻게 실패하는지도 드러내야 한다.

University of Michigan에서 분사한 이 회사는 TechCrunch Disrupt의 Startup Battlefield 200에서 20개 스타트업과 경쟁하며 이러한 주장을 제시했다. 이 행사는 10월 13일부터 15일까지 샌프란시스코에서 열린다. Laplace는 초기 고객으로 일본의 주요 자동차 제조업체, Bot Auto, Nvidia를 포함한다고 밝혔다. 그러나 이 신생 기업은 Applied Intuition이 훨씬 더 많은 자본을 조달하고 깊은 업계 관계를 구축한 시뮬레이션 시장에 맞서야 한다.

따라서 Laplace가 판매하는 것은 또 하나의 가상 테스트 환경만이 아니다. 이 회사는 스크립트로 작성된 시나리오와 녹화된 도로 영상만으로는 충분한 예상 밖 행동을 찾아낼 수 없다고 본다. 회사 측 주장에 따르면 AI 에이전트는 위험한 조건을 지속적으로 만들어 내고, 각 시스템의 반응을 관찰하며, 간과된 취약점을 찾을 수 있다. 이 약속은 설득력이 있지만, 합성된 실패가 실제 실패를 예측할 수 있는지에 달려 있다.

Laplace Intelligence 로봇 테스트, 시뮬레이션으로 레드팀을 옮기다

Laplace는 레드팀을 사람이 계획하는 훈련에서 물리적 실패를 자동으로 탐색하는 방식으로 전환하고 있다.

레드팀은 공격자, 사고 또는 이례적 상황이 취약점을 발견하기 전에 시스템을 의도적으로 시험해 약점을 드러내는 것을 뜻한다. 보안 팀은 수년간 이 방식을 사용해 왔다. AI 개발자들도 언어 모델의 안전하지 않거나 예상 밖의 응답을 점검하기 위해 이를 활용한다.

Laplace는 물리적 세계를 인지하고 행동하는 기계에 같은 적대적 개념을 적용한다. 대상은 자율주행 트럭, 창고 로봇 또는 지능형 교통 시스템이 될 수 있다. 이런 환경에서의 실패는 장비를 손상시키고, 운영을 멈추게 하거나, 사람을 위험에 빠뜨릴 수 있다.

회사가 설명한 physical AI testing에 따르면, 이 플랫폼은 고충실도 환경과 취약점을 탐색하는 AI 에이전트를 결합한다. 개발자는 특정 장소를 재구성하고 그 안에 자율 시스템을 배치한 뒤, 언어 프롬프트를 통해 조건을 바꿀 수 있다.

예를 들어 팀은 시뮬레이션 도로에 오후 혼잡을 추가할 수 있다. 다른 차량의 이례적 행동을 도입하거나, 까다로운 횡단 지점에서 보행자 상호작용을 만들 수도 있다. 이후 테스트 에이전트는 자율 시스템을 오류 쪽으로 몰아갈 수 있는 상황을 찾는다.

이는 고정된 안전 테스트 라이브러리와 다르다. 기존 테스트는 정의된 조건에서 차량이 보행자를 위해 정지하는지 확인할 수 있다. 자동화된 적대자는 주행 정책을 무너뜨리는 조합을 찾으며 타이밍, 가시성, 교통 행동 및 도로 형상을 다양하게 바꿀 수 있다.

Laplace CEO 겸 공동 창업자 Howie Sun은 TechCrunch에 이 시스템이 충돌 보고서, 뉴스 보도 및 기타 기록에서 아이디어를 얻을 수 있다고 말했다. 에이전트는 그러한 단서를 코너 케이스, 즉 자율 시스템이 안전하게 처리해야 하는 드문 상황으로 전환할 수 있다.

이 과정은 기본적인 테스트 문제를 다룬다. 심각한 사고는 취약점을 드러내기 때문에 가치가 있지만, 동시에 드물다. 정상 운영 중 충분한 사고가 발생하기를 기다리는 일은 느리고 잠재적으로 위험하다.

Sun은 회사의 Startup Battlefield 참가 약 1년 전에 수석 과학자 Henry Liu와 함께 Laplace를 설립했다. 두 사람은 모두 University of Michigan 출신이며, 그곳에서 적대적 환경을 활용한 자율주행차 테스트에 연구를 집중했다.

이들의 학술 연구는 스타트업의 상업적 제안에 중요한 토대를 마련했다. 2023년 dense reinforcement learning에 관한 연구는 안전에 중요한 주행 조건에 집중하기 위해 지능형 테스트 환경을 활용했다. 강화학습은 행동에 대한 피드백을 통해 에이전트를 훈련하는 방식이다.

연구진은 테스트 과정에서 별일 없는 상황 다수를 제거하고, 더 위험한 상호작용에 계산 자원을 집중했다. 또한 가상 위험 요소를 실제 테스트 트랙의 실차와 결합했다. Nature는 2023년 3월 23일자 표지에 이 연구를 실었다.

이제 Laplace는 이 원칙을 연구 시연을 넘어 확장하려 한다. 이 플랫폼은 적대적 테스트를 지속적이고 인터랙티브하며 소프트웨어를 통해 접근 가능한 방식으로 만드는 것을 목표로 한다. 이 회사의 주목할 만한 움직임은 시뮬레이션만 사용한다는 점이 아니다. 시뮬레이션에 자율적인 상대를 부여하려는 시도다.

Physical AI가 실패의 위험도를 바꾸다

AI 시스템이 교통 속을 이동하고, 화물을 처리하거나, 사람 곁에서 일할 수 있을 때 자동화된 스트레스 테스트의 필요성은 더욱 커진다.

언어 모델은 기계를 직접 움직이지 않고도 잘못된 답을 낼 수 있다. physical AI 시스템은 센서 데이터를 해석하고, 결정을 내리며, 물체가 행동하도록 만든다. 연산과 움직임의 이러한 연결은 오류의 결과를 바꾼다.

자율주행차는 다른 운전자의 의도를 잘못 읽을 수 있다. 창고 로봇은 작업자 주변에서 안전하지 않은 경로를 선택할 수 있다. 지능형 교통 시스템은 여러 도로 이용자에게 한꺼번에 영향을 미치는 부적절한 결정을 내릴 수 있다.

이들 시스템은 개방된 환경에서도 작동한다. 개발자는 주변의 날씨, 조명, 도로 이용자, 물체 또는 인간 행동을 완전히 통제할 수 없다. 사전에 작성된 테스트 계획으로는 관련된 모든 조합을 나타내기 어렵다.

압박은 먼저 자율주행차와 로보틱스 개발자에게 가해진다. 이들은 익숙한 시연을 넘어 시스템이 수용 가능한 방식으로 행동한다는 증거가 필요하다. 고객, 보험사, 규제기관 및 배포 파트너 역시 안전성을 판단할 근거가 필요하다.

이러한 증거는 일반 주행에서 수집하기 어렵다. University of Michigan의 2023년 연구는 자연주의적 조건에서 인간 수준의 안전성을 입증하려면 수억 마일의 주행이 필요할 수 있다고 지적했다. 그 주행의 대부분은 드러나는 사례가 아닌 일상적인 사건으로 채워질 것이다.

이 대학의 최신 연구도 이러한 불균형에 계속 초점을 맞추고 있다. near-miss data를 활용한 2026년 프로젝트는 Mcity에서의 테스트 중 안전성이 90% 향상됐다고 보고했다. 연구진은 이 접근법이 필요한 테스트 주행거리를 99.9% 줄였다고 밝혔다.

이 수치는 Laplace의 상용 플랫폼이 아닌 해당 연구 환경에 적용된다. 그럼에도 개발자들이 더 적은 테스트에서 더 많은 안전 정보를 추출하는 방법을 원하는 이유를 보여준다.

제3자 평가도 또 다른 압박 요인이다. Liu는 자율주행차에 인간 운전자에게 적용되는 운전 능력 시험에 견줄 만한 테스트가 필요하다고 주장해 왔다. 그는 Associated Press에 테스트가 비보호 좌회전과 보행자 양보를 포함한 정의된 행동을 살펴봐야 한다고 말했다.

미국은 대체로 제조사의 자기 인증에 크게 의존해 왔다. 유럽과 중국은 일부 맥락에서 보다 직접적인 제3자 테스트 요건을 마련했다. 신뢰할 수 있는 시뮬레이션 계층은 개발자가 독립 평가를 준비하도록 돕는 동시에, 시스템의 성능 기록을 만드는 데 기여할 수 있다.

하지만 기회는 차량을 넘어선다. 범용 로봇은 증거 기반이 훨씬 더 빈약하다. 자율주행 기업들은 수년간의 도로 기록, 안전 보고서 및 구조화된 시나리오를 축적해 왔다. 유연한 휴머노이드 또는 이동형 로봇 개발자들은 현재 목표로 삼는 업무와 장소를 포괄하는 사례가 더 적다.

여러 창고 작업을 수행하는 로봇은 학습 데이터에 없던 물체, 배치 및 인간 행동을 마주할 수 있다. 작동 환경도 시설이나 교대조에 따라 달라질 수 있다. Sun은 개발자들이 범용 로봇의 엣지 케이스 전체를 아직 알지 못한다고 주장한다.

이 불확실성은 physical AI 테스트를 단순한 연구 문제가 아닌 사업상 필수 요건으로 만든다. 배포 파트너는 로봇이 막힌 통로, 떨어진 물체 또는 예상치 못한 사람의 움직임에 안전하게 대응할 수 있다는 증거를 요구할 수 있다. 보험사는 이러한 주장이 어떻게 평가됐는지 물을 수 있다.

Laplace는 자사의 테스트 기록이 그러한 결정에 활용되는 공동의 증거가 되기를 원한다. 회사는 장기 목표가 고객, 규제기관 및 보험사가 공통된 토대를 신뢰하도록 돕는 것이라고 말한다. 이를 위해서는 사실적인 영상 이상이 필요하다. 반복 가능한 테스트, 이해하기 쉬운 결과, 그리고 현실 세계의 위험과 방어 가능한 연결이 필요하다.

즉각적인 대응은 분명하다. 로보틱스 기업은 배포 전 검증을 확대해야 하며, 기존 시뮬레이션 공급업체는 시나리오 설계의 더 많은 부분을 자동화해야 한다. 경쟁의 핵심 질문은 누가 이러한 수요를 신뢰받는 테스트 표준으로 전환할 수 있는가다.

AI가 AI를 테스트하는 것이 핵심 메커니즘이다

Laplace의 핵심 기술 주장은 적응형 테스트 에이전트가 정적인 시나리오 카탈로그가 놓치는 실패를 찾아낼 수 있다는 것이다.

이 플랫폼은 현실 세계 정보를 바탕으로 재구성한 인터랙티브 시뮬레이션에서 시작한다. TechCrunch는 Laplace가 Nvidia Cosmos의 사후 훈련 버전을 사용한다고 보도했다. 사후 훈련은 초기의 광범위한 훈련 이후 기존 모델을 더 좁은 작업에 맞게 조정하는 과정이다.

Cosmos는 텍스트, 이미지, 비디오 및 기타 입력으로부터 물리적 환경을 생성하거나 예측하는 world foundation models 계열이다. Nvidia는 자사의 world foundation models를 합성 데이터, 정책 테스트 및 로봇 중심 시뮬레이션을 위한 도구라고 설명한다.

Laplace는 생성된 환경이 실제 장소와 일치하도록 지도 데이터와 기타 참조 자료를 추가한다. Google Street View 이미지는 시각적 참조를 제공할 수 있으며, 지도 정보는 규모와 도로 구조를 유지한다. 교통 데이터는 장면 내부의 조건을 수정할 수 있다.

이러한 기반 정보는 시각적으로 설득력 있는 시뮬레이션도 안전 테스트에는 쓸모없을 수 있기 때문에 중요하다. 도로 치수, 물체 위치, 교통 규칙 및 에이전트 행동은 평가 대상 시스템과 관련성을 유지해야 한다. 그렇지 않으면 테스트는 그럴듯한 위험이 아니라 인위적 오류에 대한 반응을 측정하게 된다.

상호작용성 역시 중요하다. 일부 생성형 비디오 모델은 거리를 묘사할 수 있지만, 참여자들 사이의 일관된 반응을 유지하지 못한다. 시뮬레이션 차량이 다른 물체를 통과하거나 명백한 충돌 경로를 무시할 수 있다.

Laplace는 자사의 환경이 참여자들이 서로 반응할 수 있도록 한다고 말한다. TechCrunch가 설명한 시연에서 Sun은 테스트 차량을 마주 오는 교통 흐름 쪽으로 향하게 했다. 다른 시뮬레이션 차량은 수동적으로 남아 있거나 불가능한 겹침을 허용하는 대신 비켜 이동했다.

이 구분은 렌더링된 장면과 테스트 환경을 가른다. 평가 대상 시스템은 자신의 행동을 통해 세계를 바꾼다. 다른 행위자들은 그에 반응해야 하며, 이는 실제 교통 또는 작업장 상호작용과 닮은 피드백 루프를 만든다.

레드팀 에이전트는 그 루프 위에서 작동한다. 그 임무는 단순히 현실적인 도로를 생성하는 것이 아니다. 대상 시스템의 한계에 관한 유용한 정보를 드러내는 변화를 선택해야 한다.

에이전트는 교통 밀도, 가시성, 속도 또는 참여자 행동을 조정할 수 있다. 대상이 망설이는지, 안전 규칙을 위반하는지, 또는 회복 불가능한 상태에 들어가는지를 관찰할 수도 있다. 이후 그 결과를 바탕으로 다음 시나리오를 수정할 수 있다.

이러한 적응형 과정은 Laplace Intelligence 로봇 테스트의 핵심이다. 이 회사는 엔지니어가 모든 실패 가능성을 예상하도록 요구하는 대신, 자동화된 탐색 프로세스를 로봇에 맞서 작동시킨다. 인간이 목표와 제약 조건을 정의하면, 에이전트는 기계의 속도로 조합을 탐색한다.

이 메커니즘은 회사의 학술적 접근법과 닮아 있다. 2023년 Nature 연구에서 AI 테스터는 일반적인 주행에 동일한 노력을 배분하는 대신 위험한 상황에 집중했다. 그 결과, 연구 대상 시나리오 내에서 안전성 평가가 몇 자릿수 규모로 빨라졌다.

Laplace는 이 아이디어를 두 가지 방식으로 확장하고 있다. 첫째, 생성형 월드 모델을 사용해 더 풍부한 환경을 구축하고 수정한다. 둘째, 충돌 보고서 같은 비정형 자료를 실행 가능한 시나리오로 변환하는 테스트 에이전트를 만들고자 한다.

두 번째 단계는 어렵다. 경찰 보고서는 언어, 도표, 측정값, 불완전한 관찰을 통해 사건을 설명한다. 이를 충실한 시뮬레이션으로 옮기려면 타이밍, 가시성, 의도, 물리적 조건에 관한 판단이 필요하다.

출력물은 재현 가능해야 한다. 엔지니어는 대상 모델을 변경한 뒤에도 발견된 실패 사례를 다시 실행할 수 있어야 한다. 새 버전이 문제를 해결했는지, 아니면 단지 다른 시나리오를 받았는지도 알아야 한다.

따라서 유용한 플랫폼에는 버전 관리되는 환경, 안정적인 평가 기준, 상세한 로그가 필요하다. 대상 시스템의 실패와 생성된 세계의 불일치를 구분할 수 있어야 한다. 이런 통제가 없다면 자동화된 시나리오 생성은 통찰보다 잡음을 더 빠르게 만들어낼 수 있다.

AI가 AI를 테스트하는 방식의 장점은 규모와 적응성이다. 약점은 양쪽 모두 틀릴 수 있다는 점이다. 테스트 에이전트는 위험한 상태를 놓치거나, 개연성 없는 상황을 과장하거나, 시뮬레이션 밖으로 전이되지 않는 행동에 보상을 줄 수 있다.

Laplace의 상업적 미래는 이러한 긴장을 어떻게 다루느냐에 달려 있다. 테스트를 더 많이 생성하는 것만으로는 충분하지 않다. 이 플랫폼은 자동화된 적대자가 기존 엔지니어링 워크플로보다 의미 있는 약점을 더 효율적으로 발견한다는 점을 입증해야 한다.

Applied Intuition이 정의하는 상업 경쟁

Laplace는 자금력이 풍부한 시뮬레이션 분야에 도전하는 것이지, 빈 시장에 진입하는 것이 아니다.

Applied Intuition은 가장 분명한 경쟁 기준점이다. 이 회사는 차량과 기타 자율 기계를 위한 시뮬레이션, 검증, 데이터, 임베디드 소프트웨어를 제공한다. 자동차 제조사, 국방 프로그램, 트럭 운송 회사, 장비 제조사와 협력한다.

Applied Intuition은 2025년 기업가치 150억 달러에 6억 달러 규모의 Series F 투자를 발표했다. 이 회사의 vehicle intelligence platform은 수년간의 제품 개발, 인수, 고객 통합, 자본 투자를 반영한다.

이러한 규모는 Applied Intuition에 여러 이점을 제공한다. 대형 고객은 보안 검토, 소프트웨어 지원, 워크플로 통합, 긴 프로그램 주기를 중시한다. 개발 및 검증 팀 전반에서 이미 협력하고 있는 기존 벤더를 선호할 수 있다.

Laplace는 설립 1년 만에 이러한 조직적 기반을 따라잡을 수 없다. 그럼에도 보고된 견인력은 주목할 만하다. Sun은 이 스타트업이 매출을 창출했고, 소폭의 수익을 달성했으며, 일본의 주요 자동차 제조업체와 Bot Auto를 포함한 고객과 계약했다고 말한다.

Sun에 따르면 Nvidia도 고객이다. Laplace, Nvidia, T-Mobile은 San Jose를 위한 무료 스마트시티 파일럿에 참여하고 있다. 이 프로젝트는 고수준 교통 운영에 초점을 맞추며, Laplace에 단일 자율주행차를 넘어선 환경을 제공한다.

이 스타트업은 창고용 휴머노이드 로봇 분야도 모색하고 있다. 이러한 확장은 기록된 데이터가 부족할 때 Laplace의 차별화가 더 뚜렷해진다는 점에서 중요하다. 기존 주행 시뮬레이터는 이미 많은 자동차 개발 수요를 다룬다.

Laplace가 제안하는 진입점은 자동화되고 동적인 레드팀 테스트다. 수동 도구의 수나 기존 통합의 규모가 아니라, 테스트가 어떻게 생성되고 적응되는지를 기반으로 경쟁하려 한다. 회사는 인간 엔지니어가 초기 시나리오 목록을 소진한 뒤에도 AI 에이전트가 계속 탐색할 수 있다고 주장한다.

이는 메커니즘 대 플랫폼의 경쟁이다. Laplace는 학술 연구에 뿌리를 둔 집중형 테스트 방법을 보유하고 있다. Applied Intuition은 폭넓은 상업 플랫폼과 훨씬 더 큰 자원 기반을 갖고 있다.

그 경계는 고정된 상태로 남지 않을 것이다. 기존 벤더는 생성형 시나리오 생성과 에이전트 기반 테스트를 추가할 수 있다. Nvidia 역시 고객이나 경쟁사가 활용할 수 있는 오픈 모델과 시뮬레이션 도구를 제공한다.

Waabi는 또 다른 유용한 비교 대상이다. 이 자율 트럭 회사는 Waabi World라는 AI 중심 시뮬레이터를 중심으로 개발 전략을 구축했다. 모든 개발자에게 중립적인 테스트 계층을 판매하기보다, 시뮬레이션을 활용해 자사의 주행 시스템을 훈련하고 평가한다.

이 차이는 고객에게 여러 선택지를 만든다. 기업은 시뮬레이션을 내부적으로 구축하거나, 광범위한 플랫폼을 구매하거나, 오픈 인프라를 활용하거나, 전문 레드팀 서비스를 구매할 수 있다. 많은 고도화된 개발사는 이러한 경로를 조합할 것이다.

따라서 Laplace는 자사 에이전트가 기존 스택 안에서 추가 가치를 제공한다는 점을 입증해야 한다. 모든 시뮬레이터를 대체하는 일은 비용이 크고 불필요하다. 기존 테스트가 놓친 실패를 찾아내는 것이 더 현실적인 진입점이다.

회사의 현재 계약은 프로젝트 기반인 것으로 알려졌다. 이는 젊은 팀이 고객 문제를 학습하고 초기 매출을 창출하는 데 도움이 될 수 있다. 동시에 성장이 맞춤형 작업에 의존하게 만들 수도 있다.

Laplace는 이러한 활동을 더 많이 반복 매출로 전환하고 싶다고 말한다. 반복 가능한 소프트웨어 제품은 고객에게 지속적인 테스트를 제공하는 동시에 각 계약에 필요한 노동을 줄일 수 있다. 또한 매출이 개별 프로젝트에 덜 의존하게 만든다.

Startup Battlefield는 회사의 인지도를 높일 수 있지만, 가시성이 제품에 관한 질문을 해결해주지는 않는다. 구매자는 시스템이 얼마나 많은 가치 있는 실패를 찾아내는지, 엔지니어가 이를 얼마나 빠르게 재현하는지, 플랫폼이 기존 검증 프로세스에 얼마나 쉽게 들어맞는지를 물을 것이다.

또한 생성된 시나리오와 테스트 결과의 소유권도 물을 것이다. 로보틱스 기업은 실패 데이터를 민감한 지적재산으로 취급한다. 테스트 벤더는 고객이 가장 중대한 약점을 공개하기 전에 신뢰를 얻어야 한다.

Laplace의 소폭 수익성은 유용한 신호를 준다. 일부 고객은 지금 이 작업에 비용을 지불할 의향이 있다. 더 어려운 과제는 이러한 계약이 독점 연구가 뒷받침하는 전문 컨설팅이 아니라 확장 가능한 범주를 나타낸다는 점을 보여주는 것이다.

시뮬레이션 격차는 여전히 가장 어려운 시험이다

Laplace는 가상 세계를 더 적대적으로 만들 수 있지만, 가상 환경에서의 성공이 현실 세계의 안전과 같다고 가정할 수는 없다.

핵심 위험은 시뮬레이션과 현실 간의 격차다. 시뮬레이터는 센서, 물리 법칙, 인간 행동, 환경 변동을 단순화한다. 자율 시스템은 이러한 가정 아래에서 잘 작동하면서도 배포 이후 실패할 수 있다.

생성형 모델은 또 다른 불확실성을 더한다. 다양한 장면을 빠르게 만들 수 있지만, 시각적 사실감이 물리적 정확성을 보장하지는 않는다. 그럴듯해 보이는 보행자 움직임이 생체역학을 위반할 수 있다. 교통 상호작용이 지역 규칙이나 일반적인 인간 행동과 충돌할 수도 있다.

Laplace는 지도, 이미지, 교통 정보를 기반으로 장면을 구축해 이 문제를 줄이려 한다. 상호작용형 에이전트 역시 수동적으로 생성된 영상보다 시뮬레이션의 활용도를 높인다. 그러나 이러한 설계 선택이 물리적 검증의 필요성을 없애지는 않는다.

회사의 학술적 뿌리는 순전히 시각적인 시연보다 더 강한 기반을 제공한다. 2023년 연구에는 시험 트랙에서 가상 위험 요소와 상호작용하는 실제 차량이 포함됐다. 이는 적대적 시뮬레이션이 물리적 실험과 어떻게 연결될 수 있는지를 보여줬다.

그러나 상용 제품은 고객, 센서, 소프트웨어 스택, 운영 도메인 전반에서 작동해야 한다. 고속도로와 도심 주행에 검증된 방법이 작업자 옆에서 물건을 다루는 휴머노이드 로봇에 자동으로 전이되지는 않는다.

각 도메인에는 서로 다른 실패 모드가 있다. 차량은 도로 규칙, 교통 행동, 장거리 인식에 의존한다. 창고 로봇은 접촉력, 불안정한 물체, 좁은 공간, 인간과의 근접 상호작용에 직면한다.

테스트 지표도 다르다. 차량 개발자는 충돌률, 규칙 준수, 개입 빈도를 평가할 수 있다. 창고 운영자는 작업자와의 거리 유지, 작업 완료, 낙하 물체, 안전한 복구를 우선시할 수 있다.

플랫폼은 무엇이 의미 있는 실패인지 알아야 한다. 보상 시스템이 극적인 충돌에만 집중한다면, 미묘하지만 중요한 오류를 간과할 수 있다. 여기에는 불편한 기동, 반복적인 망설임, 차단된 워크플로, 안전하지 않은 대체 행동이 포함된다.

오탐은 또 다른 비용을 만든다. 엔지니어는 끝없이 쏟아지는 인위적 실패를 조사할 수 없다. 에이전트는 개연성, 심각도, 신규성, 재현 가능성을 기준으로 시나리오의 우선순위를 정해야 한다.

미탐은 더 심각하다. 테스트 시스템은 익숙한 위험을 반복적으로 탐색하는 반면, 학습된 가정 밖의 드문 상호작용을 놓칠 수 있다. 자동화된 레드팀 테스트는 탐색 범위를 넓히지만, 어떤 유한한 프로세스도 완전한 안전을 보장하지는 않는다.

Liu는 어떤 주행 테스트도 모든 충돌을 막을 수 없다고 인정했다. 제3자 평가의 목적은 완벽을 인증하는 것이 아니라 최소 역량을 확립하고 근거를 개선하는 데 있다. 이 구분은 Laplace 소프트웨어에 대한 주장에도 적용돼야 한다.

회사는 배포 전에 문제를 발견하고 해결하는 데 도움을 준다고 말한다. 그러나 모든 시뮬레이션 결과가 물리적 AI 도메인 전반의 현장 성능을 예측한다는 점을 공개적으로 입증하지는 않았다. 독자는 더 광범위한 안전성 주장을 이미 완료된 독립적 발견이 아니라 스타트업의 목표로 받아들여야 한다.

규제기관과 보험사는 설득력 있는 월드 모델 시연 이상의 것을 요구할 것이다. 문서화된 방법론, 보정된 지표, 외부 평가자가 재현할 수 있는 결과가 필요하다. 물리적 사고 및 폐쇄형 코스 테스트와의 비교도 요구할 수 있다.

Laplace는 자율성 평가 표준화 움직임의 혜택을 받을 수 있다. 구매자가 일관된 근거를 제시해야 할 때 중립적인 레드팀 계층의 가치는 더 높아진다. 그러나 표준은 확립된 규정 준수 프로그램을 갖춘 대형 벤더에 유리하게 작용할 수도 있다.

고객 집중도는 상업적 위험을 제시한다. 인지도가 있는 여러 기업과의 프로젝트 작업은 유용한 검증이지만, 회사는 매출, 계약 기간, 고객 유지율을 공개하지 않았다. 보고된 수익은 고무적이지만 지속 가능한 규모를 입증하기에는 불충분하다.

경쟁은 회사의 기술적 우위를 약화시킬 수 있다. Applied Intuition은 에이전트형 테스트에 투자할 수 있다. Nvidia 고객은 Cosmos를 직접 후학습할 수 있다. 자율주행차 기업은 독점 데이터를 기반으로 내부 적대적 시뮬레이션 팀을 구축할 수 있다.

Laplace는 연구 우위를 모방하기 어려운 운영 지식으로 전환해야 한다. 여기에는 더 나은 실패 탐색 정책, 신뢰할 수 있는 시나리오 변환, 평가 벤치마크, 현실 세계 전이에 관한 근거가 포함된다.

가장 강력한 증거는 영화 같은 시뮬레이션이 아닐 것이다. 플랫폼이 알려지지 않은 약점을 발견하고, 엔지니어가 이를 물리적으로 재현했으며, 소프트웨어 변경이 다른 문제를 만들지 않고 실패를 막았다는 문서화된 사례일 것이다.

Laplace의 확장 가능성을 보여줄 세 가지 신호

다음 단계는 고객 전환, 현실 세계 검증, 그리고 더 광범위한 시뮬레이션 플랫폼에 맞선 방어 가능한 우위에 달려 있다.

첫 번째 신호는 프로젝트 기반 작업이 반복적인 소프트웨어 매출로 전환되는지 여부다. Laplace는 이미 고객이 비용을 지불하고 있다고 말하며, 회사는 소폭의 수익을 보고한다. 이러한 사실은 회사를 상업적 수요가 없는 연구 프로젝트와 구분한다.

반복 계약은 고객이 소프트웨어 릴리스 전반에 걸쳐 지속적인 레드팀 테스트를 원한다는 점을 보여줄 것이다. 또한 이 제품이 정기적인 엔지니어링 워크플로에 부합한다는 신호가 될 수 있다. 일회성 계약은 각 프로젝트가 맞춤형 지원에 의존할 수 있기 때문에 더 약한 근거가 된다.

계약 수만큼 확장의 질도 중요하다. 자율주행 트럭에서 승용차, 스마트 시티, 창고 로보틱스로의 성장은 Laplace의 더 폭넓은 피지컬 AI 비전을 뒷받침할 것이다. 하나의 좁은 사용 사례 안에서 반복되는 작업도 실행 가능한 사업을 만들 수는 있지만, 회사가 설명하는 더 광범위한 테스트 계층을 구축하지는 못한다.

두 번째 신호는 발견된 가상 환경의 실패와 물리적 결과를 연결하는 공개 증거다. Laplace는 자사의 에이전트가 기존 테스트에서 놓친 취약점을 찾아낸다는 점을 보여주는 사례 연구나 독립 평가가 필요하다. 이러한 결과에는 재현 가능한 시나리오와 명확한 시스템의 전후 행동 변화가 포함돼야 한다.

테스트 트랙, 대학, 보험사 또는 중립적인 안전 기관과의 파트너십은 이러한 증거를 강화할 수 있다. 폐쇄형 코스 실험에서는 AI가 생성한 테스트를 녹화 영상 및 사람이 설계한 시나리오와 비교할 수 있다. 이후 현장 데이터로 어떤 방식이 개입이나 실패를 더 잘 예측하는지 측정할 수 있다.

회사가 시뮬레이션이 물리적 테스트를 대체한다는 점을 입증할 필요는 없다. 더 강력하고 신뢰할 수 있는 주장은 자동화된 레드팀 테스트가 현장 팀이 더 나은 실험을 선택하도록 돕는다는 것이다. 이 주장을 뒷받침하는 증거는 실제 환경 평가의 역할을 유지하면서 시뮬레이션 격차를 좁힐 것이다.

세 번째 신호는 Applied Intuition, Nvidia 및 내부 자율주행 팀의 반응이다. 더 광범위한 플랫폼이 유사한 자동화 적대 테스트 기능을 빠르게 추가한다면, Laplace는 새로움이 아니라 우수한 결과를 보여줘야 한다. 통합 파트너십은 잠재적 경쟁사를 유통 채널로 전환할 수도 있다.

Nvidia는 가장 흥미로운 관계를 보여준다. 보도에 따르면 Laplace는 사후 학습된 Cosmos 모델을 사용하고, Nvidia를 고객으로 명시하며, San Jose 파일럿에서 Nvidia와 협력하고 있다. Nvidia는 또한 다른 개발자가 경쟁 워크플로를 구축하는 데 사용할 수 있는 도구를 제공한다.

이러한 조합은 Laplace의 고객 확보를 도울 수 있는 동시에 플랫폼 의존도를 높인다. 이 스타트업은 월드 모델 위에서 차별화된 테스트 인텔리전스를 확보해야 한다. 그렇지 않으면 기반 플랫폼의 개선으로 현재 구현 방식을 더 쉽게 재현할 수 있게 될 수 있다.

개발자와 엔터프라이즈 구매자는 Laplace가 이 세 가지 신호를 어떻게 보고하는지 주시해야 한다. 매출의 질은 시장이 지속적인 테스트를 필요로 하는지 보여준다. 물리적 검증은 결과가 실제로 중요한지를 보여준다. 경쟁사의 반응은 이 방법이 지속적인 제품 우위를 만드는지를 보여준다.

피지컬 AI를 평가하는 팀은 지금 실질적인 질문을 던져야 한다. 발견된 실패를 정확히 재현할 수 있는가? 그 실패는 그럴듯한 실제 환경 조건에 부합하는가? 엔지니어는 테스트 에이전트가 왜 이를 선택했는지 추적할 수 있는가? 플랫폼은 기존 시뮬레이션 및 릴리스 시스템과 통합되는가?

같은 원칙은 내부 지식에도 적용된다. 사고 보고서, 시뮬레이션 로그, 엔지니어링 의사결정이 흩어진 채로 남아 있으면 안전 관련 발견의 가치는 떨어진다. 검색 가능한 지식 베이스는 문서를 안전의 증거로 취급하지 않으면서도 팀이 반복되는 실패를 연결하도록 도울 수 있다.

Laplace Intelligence의 로봇 테스트는 궁극적으로 비대칭성에 대한 베팅이다. 자율 기계는 셀 수 없이 많은 평범하고 예외적인 상황에서 성공해야 한다. 레드팀 에이전트는 또 한 번의 테스트 주기를 정당화하기 위해 단 하나의 중대한 취약점만 찾아내면 된다.

이러한 논리는 이 회사의 접근 방식을 주목할 가치가 있게 만든다. 이제 결정적인 질문은 측정 가능하다. Laplace는 시뮬레이션 공격을 시뮬레이션 밖에서 더 안전한 행동으로 반복적으로 전환할 수 있는가?