PACMAN AI Framework은 빠르게 움직이지만, 하드웨어 안전 한계가 최종 권한을 유지한다

PACMAN AI framework은 다섯 차례 핵융합 실험에서 20밀리초마다 제어 결정을 내렸지만, 별도의 출력 계층이 하드웨어 안전 한계에 대한 권한을 유지했다. 이러한 분리는 머신러닝 모델이 가열, 플라즈마 밀도, 회전, 불안정성 방지에 실시간으로 영향을 미칠 수 있기 때문에 중요하다.

Princeton Plasma Physics Laboratory와 Princeton University 연구진이 개발한 PACMAN은 Prediction And Control using MAchiNe learning의 약자다. 이 framework은 여러 머신러닝 모델을 San Diego의 DIII-D National Fusion Facility 제어 시스템에 연결한다.

핵심은 AI가 과학 장비를 운용했다는 사실이 아니다. 연구진은 이미 개별 핵융합 제어 문제에 머신러닝을 활용해 왔다. PACMAN은 그 대신 어떤 모델도 장비에 대한 최종 권한을 갖지 못하도록 하면서, 여러 모델을 결합할 수 있는 공통 인프라를 만든다.

이 설계는 두 목표를 정면으로 충돌시킨다. AI는 인간보다 빠르게 대응할 만큼의 자유가 필요하지만, 모델이 낯선 조건에 맞닥뜨렸을 때도 안전 제어는 예측 가능하게 작동해야 한다. PACMAN의 해법은 아키텍처적 분리다. 모델은 행동을 제안하고, 결정론적 제어 로직은 하드웨어가 수용할 수 있는 범위를 결정한다.

이 접근법이 인간의 감독을 없애는 것은 아니다. 연구진은 여전히 실험 목표를 설정하고, 운전 파라미터를 정의하며, 실험 사이에 결과를 검토한다. PACMAN은 핵융합 연구 외의 일상적인 실험실 장비에서 시연된 바도 없다.

그럼에도 이 시험은 AI 기반 자동화를 검토하는 실험실에 구체적인 사례를 제공한다. 가장 안전한 배치는 모델을 완벽하게 신뢰할 수 있게 만드는 것보다, 모델이 틀렸을 때의 결과를 제한하는 데 더 크게 좌우될 수 있다.

PACMAN AI Framework은 여러 모델을 하나의 제어 루프에 연결한다

PACMAN은 개별 머신러닝 실험을 조율된 제어 시스템으로 전환하면서도, 해당 모델들에 tokamak에 대한 무제한 접근 권한을 부여하지 않는다.

이 framework은 Nuclear Fusion에 게재된 동료 심사 논문인 PACMAN control paper에서 소개됐다. 저자들은 US Department of Energy 사용자 시설로 운영되는 tokamak인 DIII-D를 위해 PACMAN을 설계했다.

tokamak은 극도로 높은 온도로 가열된 전하를 띤 기체인 플라즈마를 자기장으로 가둔다. 연구진은 플라즈마를 유용한 운전 범위 안에 유지하기 위해 자석, 가스 주입기, 가열 시스템을 지속적으로 조정한다.

이러한 조정은 까다로운 제어 문제를 만든다. 플라즈마 조건은 밀리초 안에 변할 수 있지만, 상세한 물리 시뮬레이션은 수일 또는 수개월이 걸릴 수 있다. 내년 실험을 계획하는 데 적합한 모델이 현재 shot에서 발생하는 불안정성을 관리할 수는 없다.

PACMAN은 반복 제어 루프로 이러한 시간 불일치를 해결한다. 시스템은 온도, 밀도, 자기 신호 등의 측정값을 수집하고, 입력 오류를 점검한 뒤 공통 형식으로 묶는다.

그런 다음 머신러닝 모델은 각자 맡은 작업과 관련된 측정값을 읽는다. 일부 모델은 플라즈마의 현재 상태를 추정하고, 다른 모델은 미래 사건을 예측하거나 행동을 계산한다.

컨트롤러는 이러한 결과를 제안 명령으로 변환한다. 명령은 가열 출력 변경, gyrotron mirror 이동 또는 이용 가능한 다른 actuator 조정을 수행할 수 있다.

최종 단계는 의도적으로 분리돼 있다. 이 단계는 컨트롤러가 양립할 수 없는 행동을 요청할 때 충돌을 해결하고, 하드웨어 한계를 적용하며, tokamak에는 허용 가능한 명령만 보낸다.

이 출력 단계는 AI 제어의 의미를 바꾼다. 모델은 행동을 권고할 수 있지만, 그 행동을 실행할 무제한 권한을 받지는 않는다.

이 아키텍처는 개별 모델의 독립성도 유지한다. 연구진은 다른 모든 구성 요소를 다시 설계하지 않고도 한 모델을 추가, 제거 또는 교체할 수 있다. PPPL project account에 따르면 첫 번째 모델 설치에는 수개월이 걸린 반면, 두 번째 모델 추가에는 며칠이 걸렸다.

DIII-D에서는 실험 접근 시간이 제한돼 있기 때문에 더 빠른 통합이 중요하다. 수개월의 맞춤형 제어 엔지니어링이 필요한 모델은 시험, 수정, 비교 기회를 줄인다.

PACMAN의 모듈성은 이러한 통합 부담을 줄인다. 또한 실험적 모델 코드와 확립된 장비 제어 기능 사이에 안정적인 경계를 만든다.

다섯 차례 시연은 하나의 좁은 예측 작업을 넘어섰다. PACMAN은 강화학습 컨트롤러가 가열 시스템을 운용하도록 했고, 가장자리 에너지 폭발을 예측했으며, 빠른 입자가 유도한 파동을 제어했다.

또한 연구진이 정의한 목표를 향해 플라즈마 밀도와 회전을 조정했다. 다른 구성에서는 tearing mode를 예측하고, 그 불안정성이 발생하기 전에 플라즈마를 변화시켰다.

tearing mode는 플라즈마의 자기 구조를 바꾸고 핵융합 실험을 종료시킬 수 있는 교란이다. 기존 컨트롤러는 종종 교란이 이미 시작된 뒤에 반응한다.

한 PACMAN 실험에서 모델은 사건을 약 200밀리초 전에 예측했다. 이 시간 창은 억제가 필요해지기 전에 제어 시스템이 플라즈마를 조정할 시간을 제공했다.

이 framework은 DIII-D의 여섯 대 gyrotron도 모두 조율했다. 이 장비들은 플라즈마에 마이크로파 가열을 제공하며, 실험 중 mirror와 출력 수준을 조정할 수 있다.

이 장비들을 조율하려면 시스템이 여러 목표를 동시에 충족해야 했다. 따라서 이 실험은 단일 actuator에 연결된 단일 모델 이상을 시험했다.

결과는 여전히 연구 시연이며, 상용 인증은 아니다. 그러나 통합 AI 제어가 별도의 집행 지점을 유지하면서 물리적 과학 하드웨어에서 작동할 수 있음을 보여준다.

20밀리초는 누가 결정을 내릴 수 있는지를 바꾼다

속도 우위는 실험실이 즉각적인 제어를 위임하도록 압박하지만, 안전 정책의 위임을 정당화하지는 않는다.

PACMAN 공동 수석 저자인 Andy Rothstein에 따르면, 집중한 인간 운영자의 반응 시간은 대체로 초 단위다. 전체 PACMAN 루프는 통상 약 20밀리초 안에 실행되며 실험 내내 반복된다.

이 차이는 단순히 편리함의 문제가 아니다. 유효한 개입이 가능한 동안 컨트롤러가 대응할 수 있는지를 결정한다.

tearing mode는 플라즈마 방전을 끝낼 만큼 빠르게 성장할 수 있다. 운영자가 여러 진단 신호를 해석하고 행동을 선택할 때까지 기다리면, 사용 가능한 대응 시간을 소진할 수 있다.

머신러닝은 이러한 신호를 더 빠르게 평가할 수 있다. 또한 오프라인 과학 분석에 사용되는 느린 시뮬레이션을 실행하지 않고도 플라즈마 거동을 근사할 수 있다.

이는 수동으로 구성된 제어 경로나 분리된 자동화에 의존하는 핵융합 시설에 압박을 만든다. 더 빠른 모델은 운영자가 순간순간 관리할 수 있는 것보다 더 많은 신호와 actuator를 조율할 수 있다.

같은 압박은 다른 과학 환경에서도 나타날 것이다. 자동화 화학, 재료 시험, 현미경, 바이오프로세싱은 모두 소프트웨어 의사결정과 물리 장비를 결합한다.

그러나 속도는 잘못된 명령을 알아차릴 수 있는 시간도 압축한다. 20밀리초마다 반복되는 컨트롤러는 사람이 무엇이 바뀌었는지 이해하기 전에 여러 행동을 실행할 수 있다.

따라서 PACMAN의 속도는 제약 조건과 분리해 평가할 수 없다. 시스템은 인간 설계자가 설정한 경계 안에서만 운전 권한을 얻는다.

이 구분은 목표와 허용의 차이를 닮았다. 연구진은 컨트롤러에 목표 플라즈마 상태에 도달하라고 요청할 수 있다. 하드웨어 규칙은 그 과정에서 어떤 행동이 계속 허용되는지를 결정한다.

PACMAN의 제어 루프는 더 긴 시간 척도에서도 인간의 개입을 유지한다. 물리학자들은 shot 전에 목표를 정의하고, 이후 결과를 검토하며, 후속 실험을 위해 컨트롤러 설정을 조정한다.

따라서 인간은 밀리초 단위의 모든 결정을 승인하려 하지 않으면서도 실험을 관리한다. 이 계층적 시간 모델은 모든 명령 앞에 승인 프롬프트를 두는 것보다 더 현실적인 감독 형태를 제시한다.

이 압박은 모델 개발자만큼 실험실 관리자에게도 가해진다. 관리자는 어떤 결정에 즉각적인 자동화가 필요한지, 어떤 정책이 모델 밖에 남아야 하는지를 식별해야 한다.

또한 누가 그러한 정책을 변경할 수 있는지도 명시해야 한다. 별도 소프트웨어에 존재하는 안전 한계는 일상적인 모델 업데이트가 이를 조용히 다시 쓸 수 있다면 보호 효과가 거의 없다.

이 아키텍처에서는 변경 관리가 핵심이 된다. 팀은 모델, 컨트롤러, 안전 제약, 물리 장비 구성에 대해 서로 구분된 검토 절차를 마련해야 한다.

로그도 같은 분리를 유지해야 한다. 조사자는 모델이 무엇을 예측했는지, 컨트롤러가 무엇을 요청했는지, 출력 단계가 어떤 명령을 허용했는지를 파악할 수 있어야 한다.

예상치 못한 결과가 나온 뒤에는 이 기록이 필수적이다. 기록이 없다면 팀은 모델 오류와 잘못된 센서 데이터, 충돌하는 컨트롤러, actuator 고장을 구분할 수 없다.

PACMAN은 모든 실험실에 적용할 보편적 거버넌스 패키지를 제공하지는 않는다. 다만 자동화가 인간의 반응보다 빨라지기 전에 권한을 분할해야 하는 이유를 보여준다.

모델은 제안하고, 안전 계층이 결정한다

PACMAN의 핵심 절충안은 머신러닝에 최적화의 여지를 주면서도 물리적 한계에 대한 최종 결정권은 부여하지 않는다는 것이다.

머신러닝 시스템은 기존 제어 규칙과 다르게 작동한다. 그 출력은 학습 데이터, 모델 구조, 입력 품질, 운전 중 마주치는 조건에 따라 달라진다.

모델은 문법적으로는 유효하지만 물리적으로는 부적절한 명령을 생성할 수 있다. 너무 빠른 변경을 요청하거나, 이례적인 신호를 잘못 읽거나, 학습 범위를 넘어 외삽할 수 있다.

PACMAN은 모델과 컨트롤러 뒤에 충돌 해결 및 하드웨어 집행 기능을 둔다. 이 위치가 중요한 이유는 제안된 모든 행동이 장비에 도달하기 전에 동일한 경계를 통과해야 하기 때문이다.

모델이 모든 하드웨어 한계를 이해할 필요는 없다. 출력 계층은 확립된 제약을 위반하는 요청을 거부하거나 수정할 수 있다.

이 분리는 모델 교체 과정에서도 안전 제어를 보호한다. 연구진은 actuator 한계를 집행하는 전체 경로를 다시 구축하지 않고도 새 예측기를 검증할 수 있다.

이 원칙은 핵융합을 넘어 적용될 수 있지만, PACMAN의 증거가 이를 입증하는 것은 아니다. 액체 취급 장비에는 고정된 용량 및 이동 제한을 둘 수 있다. 반응기는 독립적인 온도 및 압력 한계를 유지할 수 있다.

로봇 팔은 힘, 속도, 작업 공간의 경계를 유지할 수 있다. 현미경 플랫폼은 stage 이동을 제한하거나 probe와 sample 사이의 위험한 접촉을 방지할 수 있다.

이 사례들은 검증된 PACMAN 배치가 아니라 아키텍처를 설명하기 위한 것이다. 공개된 시연은 DIII-D와 그 플라즈마 제어 시스템에 한정돼 있다.

독립적인 안전 규칙이 안전한 실험실을 보장하는 것도 아니다. 팀은 올바른 한계를 선택하고, 구현을 시험하며, 모델 외부에서 발생하는 실패까지 고려해야 한다.

결함 있는 센서는 실제 물리 조건에서 허용 가능한 명령을 위험하게 만들 수 있다. 네트워크 지연은 명령이 의도한 시점 이후에 도착하게 할 수 있다.

개별적으로는 합리적인 두 컨트롤러도 충돌할 수 있다. 하나는 성능 목표에 도달하기 위해 더 많은 가열을 요청하는 반면, 다른 하나는 불안정성을 피하기 위해 가열을 줄일 수 있다.

PACMAN의 출력 단계는 그러한 요구 사항을 조정할 수 있는 지점을 제공한다. 연구진은 자율 실험실 전반에서 발생할 수 있는 모든 충돌을 해결하지는 않았지만, 조정을 명시적인 시스템 기능으로 만들었다.

이 선택은 모델 출력을 곧바로 명령으로 취급하는 아키텍처와 대조된다. 직접 실행 방식에서는 실험실이 모델의 판단과 그 모델에 입력을 제공하는 모든 상위 구성 요소에 의존하게 된다.

AI 실험실 안전성 연구는 신중함이 필요하다는 점을 뒷받침한다. 2025년 실험실 안전성 벤치마크는 위험 식별과 현실적 시나리오를 대상으로 19개 언어·비전언어 모델을 시험했다.

평가된 모델 가운데 위험 식별 정확도 70%를 넘긴 모델은 없었다. 이 벤치마크에는 객관식 문제 765개와 개방형 과제 3,128개를 포함한 시나리오 404개가 포함됐다.

이 연구는 일반 언어 모델이 실험실 장비를 운용하는 방식이 아니라 특수화된 머신러닝 컨트롤러를 사용하는 PACMAN을 평가하지 않았다. 그럼에도 비교는 더 광범위한 신뢰성 문제를 드러낸다.

구조화된 질문에서의 모델 역량이 개방된 물리적 환경에서의 안전한 성능을 보장하지는 않는다. 한 형식에서의 높은 점수는 제약이 적은 상황에서의 취약한 추론을 가릴 수도 있다.

원자력 현미경을 위한 대규모 언어 모델 에이전트에 관한 별도 연구에서도, 뛰어난 분야별 질의응답 성능이 실험실 운용으로 안정적으로 이어지지는 않는 것으로 나타났다.

연구진은 “sleepwalking”이라고 표현한 지시 이탈 현상을 관찰했다. 멀티에이전트 시스템은 단일 에이전트보다 더 나은 성능을 보였지만, 프롬프트 형식 변화에는 여전히 민감했다.

다시 말해, PACMAN은 언어 모델 에이전트가 아니다. 이 시스템의 모델은 목적에 맞게 설계된 체계 안에서 범위가 제한된 제어 및 예측 작업을 수행한다.

여기서의 핵심은 설계 원칙에 있다. 팀은 익숙한 평가를 통과한 AI 구성 요소도 실패할 수 있다고 가정해야 한다.

모델 외부에 제한을 두면 이러한 가정이 아키텍처로 전환된다. 개발자가 모델이 부적절한 출력을 생성할 수 있는 모든 방식을 예측할 필요도 없다.

이것이 이 글의 핵심적인 전환점이다. 더 자율적인 의사결정이 더 자율적인 안전 권한을 요구하는 것은 아니다.

모델이 더 빠르고 적응력이 높아질수록, 모델이 무시할 수 없는 단순한 집행 계층의 필요성은 더 커진다.

Fusion Control은 검증 사례이지 보편적 증명은 아니다

DIII-D에서 성공한 다섯 건의 실험은 실현 가능성을 입증하지만, 시설 간 이식성이나 일반 실험실 장비 전반의 적용 가능성까지 확립하지는 않는다.

PACMAN의 개발진은 모듈식 설계가 서로 다른 형태, 규모, 장비 구성을 가진 tokamak을 지원할 수 있다고 본다. 그러나 이는 입증된 결과라기보다 개발 목표에 가깝다.

각 핵융합 시설은 자체 진단 장치, 시간 제약, 구동기, 운전 영역, 장비 보호 시스템을 갖고 있다. 공통된 소프트웨어 패턴이 그러한 차이를 없애지는 않는다.

PACMAN을 다른 tokamak으로 옮기려면 팀이 현지 측정값을 프레임워크에 맞게 매핑해야 한다. 모든 구동기 인터페이스와 안전 제약도 검증해야 한다.

모델 자체에도 새로운 학습 데이터가 필요할 수 있다. DIII-D에서 관찰된 플라스마 거동이 다른 장비로 그대로 이전된다고 볼 수는 없다.

DIII-D 결과 역시 신중하게 해석해야 한다. 이 프레임워크는 다섯 가지 서로 다른 실험을 지원했으며, 이는 제어 과제 전반의 폭을 보여 준다. 그러나 예상되는 모든 장비 조건에서의 연속 운전을 설명하지는 않는다.

드문 센서 오류, 컨트롤러 충돌, 익숙하지 않은 플라스마 상태의 조합은 재현하기 어렵다. 하지만 이런 조합이 안전 아키텍처의 신뢰성을 좌우하는 경우가 많다.

연구진은 전문 운영자와 치밀하게 계획된 실험 샷이 있는 연구 시설에서 PACMAN을 시험했다. 일상적인 실험실은 다른 워크플로와 조직적 압박에 직면한다.

운영 환경의 실험실은 교대 근무를 거쳐 반복 절차를 수행할 수 있다. 여러 공급업체의 장비를 결합하고, 원격 접근을 허용하며, 자동화 전문성 수준이 서로 다른 기술자에게 의존할 수도 있다.

이러한 실험실은 유지보수 상태도 다뤄야 한다. 장비는 재보정되거나 일시적으로 우회될 수 있으며, 안전 운용 범위를 바꾸는 교체 부품과 함께 운용될 수도 있다.

PACMAN은 이런 상황에 대한 자동 답변을 제공하지 않는다. 그 기여는 팀이 자신들의 답을 인코딩하고 집행할 수 있는 구조를 제공하는 데 있다.

제한적인 근거는 과장된 결론을 막아야 한다. PACMAN은 범용 AI 에이전트가 임의의 실험실 작업을 안전하게 계획하고 실행할 수 있음을 보여 주지 않았다.

또한 기존의 비상 정지 장치, 보호 장치, 인터록, 격리 장치의 필요성을 없애지도 않았다. 이러한 보호 수단은 소프트웨어 요청과 무관하게 계속 작동해야 한다.

Lab Manager 분석은 PACMAN을 범용 장비 컨트롤러가 아니라 더 폭넓은 자동화와 비교할 수 있는 기준점으로 적절히 다룬다.

이러한 관점은 기업 구매자에게 유용하다. 핵심은 내일 당장 liquid handler나 분석 장비 옆에 PACMAN을 설치할 수 있는지 여부가 아니다.

핵심은 선택한 자동화 플랫폼이 동일한 권한 분리를 유지하는지다. 구매자는 모델 출력이 어디서 명령으로 전환되는지, 그리고 이를 여전히 중단시킬 수 있는 것이 무엇인지 물어야 한다.

새 모델을 독립적으로 검증할 수 있는지도 물어야 한다. 모델 업데이트마다 전체 재인증이 필요한 시스템은 실험 속도를 늦출 것이다.

반대 극단도 똑같이 위험하다. 인터페이스, 타이밍, 실패 동작을 재검토하지 않은 채 모델을 교체하면 모듈성이 보호하려던 안전장치가 약화될 수 있다.

따라서 실험실 책임자에게 이식성은 엔지니어링 및 거버넌스 측면의 주장이다. 이는 각 시설의 장비, 위험 요소, 운영 절차에 맞춰 입증돼야 한다.

PACMAN은 첫 번째 환경에 대한 근거를 제시했다. 다른 실험실은 여전히 각자의 근거를 만들어야 한다.

AI 하드웨어 안전 한계에는 소프트웨어 검사 이상의 것이 필요하다

독립적인 출력 계층은 규칙, 입력, 실패 모드가 독립적으로 검증될 때에만 위험을 줄인다.

“하드웨어 안전 한계”라는 표현은 절대적으로 들리지만, 실제 구현은 소프트웨어와 물리적 구성 요소의 연쇄로 이뤄진다. 각 연결 고리에는 가정이 들어간다.

최대 가열 명령이 올바르게 인코딩될 수 있다. 그러나 그 규칙은 여전히 장비 상태에 대한 정확한 지식과 작동하는 구동기 인터페이스에 의존한다.

안전 한계는 서로 상호작용할 수도 있다. 한 임계값 아래에 머무는 명령도 다른 명령과 결합되거나 장시간 지속되면 위험을 만들 수 있다.

팀은 개별 상한과 하한뿐 아니라 그러한 상호작용까지 포괄하는 테스트가 필요하다. 시스템 반응을 관찰하기 위해 의도적으로 장애를 주입하는 fault injection도 필요하다.

센서 검증에는 특히 주의를 기울여야 한다. PACMAN은 모델이 입력값을 소비하기 전에 오류를 점검하지만, 어떤 검증 방식도 모든 잘못된 판독값을 잡아내지는 못한다.

그럴듯하지만 잘못된 신호는 단순한 범위 검사를 통과할 수 있다. 중복 측정, 일관성 테스트, 물리 모델은 탐지 성능을 높일 수 있다.

타이밍도 비슷한 수준의 검토가 필요하다. 실시간 제어는 명령이 알려진 마감 시간 내에 도착하는 데 의존한다. 지연된 명령은 이전 상태에는 유효했지만 현재 상태에는 안전하지 않을 수 있다.

따라서 시스템에는 마감 시간을 놓친 이후의 동작이 정의돼 있어야 한다. 가능한 대응에는 마지막 안전 설정 유지, 안전 상태로 전환, 다른 시스템에 제어권 이양 등이 있다.

충돌 해결 역시 테스트할 수 있을 만큼 결정적이어야 한다. 두 컨트롤러가 하나의 구동기를 놓고 경쟁한다면, 연구진은 충돌이 발생하기 전에 어느 목표가 우선하는지 알아야 한다.

이 우선순위 구조는 정책이다. 실행 순서, 네트워크 타이밍, 모델 신뢰도 점수에서 우연히 생겨나서는 안 된다.

사이버 보안은 또 하나의 경계다. 공격자가 한계를 바꾸거나 출력 단계를 우회할 수 있다면, 모델이 한계를 무시하지 못하더라도 보호 효과는 제한적이다.

권한은 모델 개발자, 장비 엔지니어, 안전 책임자, 운영자를 구분해야 한다. 핵심 규칙 변경은 검토 가능한 기록을 남겨야 한다.

버전 관리도 마찬가지로 중요하다. 각 실험은 실행에 사용된 모델 버전, 컨트롤러 구성, 안전 규칙 세트, 장비 상태를 기록해야 한다.

이 지점에서 실험실 자동화는 지식 관리와 만난다. 팀에는 실험 의도, 소프트웨어 구성, 관측 데이터, 이후 분석을 연결하는 지속 가능한 연계가 필요하다.

검색 가능한 기술 지식 베이스는 엔지니어가 이러한 관계를 추적하는 데 도움이 될 수 있다. 그러나 이는 정식 제어 시스템 로그나 안전성 검증을 대체할 수 없다.

인간 감독도 구체적이어야 한다. 사람이 “루프 안에” 남아 있다고 말하는 것만으로는 그 사람의 실제 권한이나 대응 가능 시간을 거의 알 수 없다.

PACMAN은 실험 전과 실험 사이에 인간에게 의미 있는 제어권을 부여한다. 연구진은 목표를 설정하고, 매개변수를 정하며, 결과를 검토하고, 이후 실행을 조정한다.

가장 빠른 제어 주기 동안 아키텍처는 사전 승인된 제약에 의존한다. 이는 지속적인 인간 승인보다 감독 제어에 가깝다.

이러한 배치는 실험실 관리에 명확한 책임을 부여한다. 사람은 실험이 시작되기 전에 어떤 선택을 자동화해도 안전한지 결정해야 한다.

자동화를 중단하는 조건도 정의해야 한다. 예를 들어 누락된 센서 데이터, 예상치 못한 장비 상태, 반복되는 명령 거부, 통신 장애 등이 있다.

시스템이 안전하게 멈출 수 있는 능력은 성능 최적화 능력만큼 충분히 시험돼야 한다. 목표에 효율적으로 도달하지만 예측 불가능하게 실패하는 컨트롤러는 물리적 배포에 여전히 부적합하다.

PACMAN의 공개 결과는 성공적인 운용을 보여 줄 뿐, 완전한 보장을 의미하지는 않는다. 이 프로젝트는 해당 아키텍처 패턴의 근거로 평가해야 하며, 그 패턴이 실패할 수 없다는 증거로 보아서는 안 된다.

이 구분은 결과를 약화시키기보다 강화한다. 유용한 안전 엔지니어링은 명시적인 한계와 테스트 가능한 권한 경계에서 시작된다.

PACMAN이 공동 인프라가 되는지 보여 줄 세 가지 신호

다음 단계는 시설 간 배포, 더 긴 운용 근거, 그리고 모듈식 업그레이드가 안전 동작을 유지한다는 증명에 달려 있다.

첫 번째 신호는 다른 tokamak에서의 배포다. PACMAN 개발진은 빌딩 블록 설계가 DIII-D를 넘어 적용될 수 있다고 주장하지만, 다른 시설은 이 주장을 직접 시험하게 된다.

성공적인 이전은 단순히 소프트웨어를 실행하는 것 이상을 요구한다. 프레임워크는 시간 보장성을 잃지 않고 서로 다른 진단 장치, 구동기, 보호 시스템과 연결돼야 한다.

이러한 시연은 PACMAN이 핵융합 연구를 위한 인프라라는 주장을 강화할 것이다. 실패하거나 광범위한 맞춤형 재구축이 필요하다면, 그 유연성 중 얼마나 많은 부분이 DIII-D에 의존하는지 드러날 것이다.

두 번째 신호는 DIII-D에서의 더 폭넓은 운용 근거다. 다섯 건의 실험은 여러 중요한 과제를 다루지만, 신뢰성은 변화하는 조건에서 반복적으로 성능을 내는지에 달려 있다.

향후 보고에서는 프레임워크의 실행 빈도, 안전 계층이 수정하는 제안 명령의 수, 사용 중 나타나는 실패 모드를 밝혀야 한다.

거부된 명령 데이터는 특히 유익할 것이다. 이는 출력 계층이 주로 예방 조치 역할을 하는지, 아니면 부적절한 모델 행동을 정기적으로 막는지를 보여 줄 수 있다.

연구진은 마감 시간 누락, 잘못된 입력 탐지, 컨트롤러 충돌, 안전 상태 전환도 보고해야 한다. 이러한 세부 사항은 안전성 주장을 측정 가능하게 만들 것이다.

세 번째 신호는 업그레이드 과정이다. PACMAN의 가장 강력한 실용적 약속은 연구진이 시스템의 나머지 부분을 흔들지 않고도 모델을 신속하게 추가할 수 있다는 점이다.

그 약속은 팀들이 여러 모델 교체에 대해 독립적인 검증을 문서화할 때 신뢰를 얻을 수 있다. 각 변경 이후에도 안전 동작이 안정적으로 유지된다는 점을 보여야 한다.

명확한 업그레이드 프로토콜은 핵융합을 넘어 중요하다. 연구실에는 인증되었거나 검증된 모든 구성 요소를 다시 열어보지 않고도 더 나은 모델을 도입할 방법이 필요하다.

반대로, 타이밍·데이터 형식·액추에이터 동작을 바꾸는 모델 교체는 숨겨진 결합 관계를 드러낼 수 있다. 이러한 결합은 프레임워크의 모듈성 주장에 약점이 된다.

연구진은 아키텍처가 서로 경쟁하는 목표를 추구하는 모델들을 어떻게 다루는지도 명확히 해야 한다. 더 많은 컨트롤러가 루프에 참여할수록 가열, 안정성, 밀도, 성능을 조율하는 일은 더 어려워진다.

앞선 fusion AI research는 유용한 기준점이 된다. 2024년 Princeton이 이끈 팀은 최대 300밀리초 전에 티어링 불안정성을 예측했다.

이 연구는 특정 불안정성을 예측하고 피하는 데 초점을 맞췄다. PACMAN은 하나의 성공적인 컨트롤러에서 여러 컨트롤러를 위한 공유 환경으로 이야기를 확장한다.

플랫폼이 계속해서 새 모델을 수용한다면 이 차이는 중요해질 것이다. 팀들이 인터페이스, 규칙, 검증 방법을 재사용할 수 있을 때에만 여러 시연의 집합은 인프라가 된다.

연구실 구매 담당자들은 PACMAN의 결과를 일반화하기 전에 이러한 신호를 지켜봐야 한다. 또한 지금부터 자체 자동화 프로젝트에 이 프레임워크의 핵심 질문을 적용해야 한다.

AI의 권고는 어디에서 물리적 명령이 되는가? 어떤 구성 요소가 그 명령을 거부할 수 있으며, 거부에 사용되는 한계값은 누가 통제하는가?

이 질문들에 대한 답이 여전히 모호하다면, 더 유능한 모델을 추가하는 일은 불확실성을 키운다. 경계가 명시적이고 검증 가능하다면, 더 빠른 자동화는 더 쉽게 관리할 수 있다.

PACMAN AI 프레임워크는 모델 지능과 장비 권한을 별개의 속성으로 다룬다는 점에서 신뢰할 만한 설계 방향을 제시한다. 이 분리는 더 많은 시설, 과제, 실패 상황에 걸쳐 검증될 가치가 있다.

AI 연구실 자동화를 평가하는 팀이 취할 즉각적인 조치는 명확하다. 모델 출력에서 물리적 움직임으로 이어지는 모든 경로를 매핑하라. 그런 다음 하드웨어가 작동하기 전에 검토를 거친 독립적 제어 계층이 각 경로를 중단할 수 있는지 확인하라.