BDH-CQ, 순환 잠재 메모리로 토큰 단위 AI 추론에 도전

BDH-CQ는 중간 추론 과정을 한 번도 언어화하지 않고도 1억 5,000만 개 파라미터로 ARC-AGI-1에서 29.5%의 pass@2를 달성했다. Pathway 연구진은 2026년 8월 10일 순환 메모리와 반복적 잠재 연산을 결합한 프리프린트를 통해 이 시스템을 소개했다. 이 결과는 현대 추론 모델을 뒷받침하는 흔한 가정, 즉 더 어려운 문제일수록 더 긴 추론 토큰 생성 흐름이 필요하다는 가정에 도전한다.

보고된 점수가 BDH-CQ를 가장 정확한 ARC 솔버로 만드는 것은 아니다. 이 모델의 의미는 각 테스트 과제를 학습하는 방식과 저자들이 보고한 낮은 연산량에 있다. 추론 중 데모가 내부 메모리를 업데이트하고, 고정된 모델 파라미터는 연속적인 작업 공간 안에서 쿼리를 반복 처리한다.

이 접근법은 특정 기업이나 플래그십 모델이 아니라 토큰 단위 추론을 겨냥한다. Chain-of-thought 시스템은 중간 연산을 언어로 변환한 뒤 그 토큰을 다시 읽어 들인다. BDH-CQ는 이 연산을 내부에 유지함으로써 긴 추론 흔적에 수반되는 지연 시간과 디코딩 오버헤드를 잠재적으로 피한다.

근거는 헤드라인이 시사하는 것보다 제한적이다. 평가는 개방형 언어, 코딩 또는 과학 연구가 아니라 시각적 격자 변환을 다룬다. 중요한 아키텍처 세부 사항도 비공개로 남아 있어 독립적인 재현과 검증을 제한한다.

BDH-CQ는 파라미터를 업데이트하지 않고 과제를 학습한다

BDH-CQ는 데모를 임시 순환 메모리로 전환한 뒤, 그 메모리를 사용해 새로운 쿼리를 해결한다.

Pathway가 이끄는 팀은 8월 프리프린트에서 BDH-CQ를 발표했다. 저자에는 Pathway, Bielik AI, New York University의 연구자들이 포함돼 있다. 논문은 BDH-CQ를 Dragon Hatchling 아키텍처 계열의 확장으로 설명한다.

각 평가 과제는 여러 입력-출력 예시와 답을 요구하는 새로운 입력을 제공한다. BDH-CQ는 이러한 데모를 순차적으로 처리한다. 각 예시는 이후 입력으로 맥락을 전달하는 순환 상태를 변경한다.

이후 모델은 누적된 상태와 함께 쿼리를 인코딩한다. 모델은 연산에 사용되는 연속적인 내부 표현인 고차원 잠재 작업 공간을 반복적으로 변환한다. 디코딩되는 것은 최종 후보 답안뿐이다.

이 과정에서 그래디언트 업데이트는 발생하지 않는다. 모델의 학습된 파라미터는 고정된 채로 유지되며, 제공된 증거에 따라 순환 상태만 바뀐다. 이 구분은 추론 시점 메모리를 일반적인 파인튜닝과 구별한다.

연구진은 평가 과제 식별자와 평가 데모 쌍도 학습에서 제외했다고 밝혔다. 대신 이들의 모델은 ARC 스타일 소스와 비공개로 선별한 예시를 혼합해 학습했다. 공개 소스에는 ARC-AGI-1 학습 데이터, RE-ARC, ConceptARC, ARC-Heavy, ARC-GEN100K가 포함됐다.

이 설정은 많은 소형 ARC 시스템이 각 평가 퍼즐에 직접 적응한다는 점에서 중요하다. 이들은 모델 구성 요소를 최적화하거나, 퍼즐별 식별자를 사용하거나, 증강된 버전 전반에서 투표를 수행한다. BDH-CQ는 데모만으로 변환을 추론한다고 주장한다.

테스트베드는 공개 ARC-AGI-1 평가 분할이었다. ARC 과제는 객체, 대칭, 개수 세기, 위상, 공간 관계를 포함한 변환을 표현하기 위해 작은 색상 격자를 사용한다. 솔버는 소수의 예시로부터 명시되지 않은 규칙을 추론해야 한다.

공개 분할에는 400개 과제가 포함된다. BDH-CQ는 첫 번째 순위 후보에서 97개를 해결했고, 두 후보 중 어느 하나만 정답이어도 인정하는 기준에서는 118개를 해결했다. 이 결과는 각각 24.25% pass@1과 29.5% pass@2에 해당한다.

419개의 개별 테스트 쌍 전반에서 이 모델은 25.78% pass@1과 31.03% pass@2를 기록했다. 모든 필수 테스트 출력이 정확해야 하므로 과제 정확도 기준이 더 엄격하다. 격자 하나만 틀려도 전체 과제는 실패 처리된다.

연구진은 측정된 H200 GPU 시간을 바탕으로 추론 비용을 계산했다. 기본 구성은 과제당 약 0.85 H200 GPU-초를 사용했다. 이들은 이 결과가 기존에 보고된 ARC-AGI-1 비용-정확도 최전선을 넘어선다고 주장한다.

이 효율성 주장이 이번 사건의 핵심 뉴스 가치다. BDH-CQ는 최고 종합 점수를 내는 방식으로 승리하지 않는다. 의미 있는 성능에 이례적으로 적은 추론 연산만 필요로 하는 새로운 운영 지점을 제시한다는 주장이다.

논문은 Bielik AI와 New York University 소속 공동 저자들이 수행한 블랙박스 감사도 보고한다. 이들은 모델 가중치에 접근하지 않고도 29.5% 점수를 재현했다. 이는 배포된 서비스에 대한 유용한 검증을 제공하지만, 외부 기관의 독립 재현과 동등한 것은 아니다.

가장 중요한 점은 이 결과가 메모리, 적응, 추론을 하나의 순환 과정 안에 결합한다는 것이다. 시스템은 퍼즐마다 별도의 옵티마이저를 필요로 하지 않는다. 또한 모든 중간 상태를 문장으로 바꾸지 않아도 된다.

토큰 단위 추론이 압박받는 이유

BDH-CQ는 단순히 벤치마크 정확도가 아니라 chain-of-thought 추론의 연산 형식을 겨냥한다.

대규모 추론 모델은 일반적으로 더 많은 토큰을 생성해 더 많은 연산을 배정한다. 이 토큰들은 부분적 추론을 기록하고, 대안을 시험하며, 이전 실수를 수정할 수 있다. 하지만 내부 작업을 이산적인 어휘로 통과시키도록 강제하기도 한다.

생성되는 모든 추론 토큰에는 또 다른 자기회귀 디코딩 단계가 필요하다. 모델은 은닉 상태를 어휘 확률로 투영하고, 토큰을 선택한 뒤, 그 토큰을 다시 입력으로 소비해야 한다. 따라서 더 긴 흔적은 연산량과 지연 시간을 증가시킨다.

언어적 추론은 사람이 이를 검토할 수 있기 때문에 여전히 유용하다. 또한 도구 호출, 협업, 명시적 검증을 지원할 수 있다. 그러나 중간 상태에 사람의 해석이 필요하지 않다면 언어는 대역폭 제약이 된다.

BDH-CQ는 또 다른 연산 배정 방식을 시험한다. 눈에 보이는 기록을 늘리는 대신, 연속 상태 안에서 순환 변환을 추가한다. 하나의 내부 상태는 각각을 따로 명시하지 않고도 여러 부분적 가능성을 인코딩할 수 있다.

이 차이는 병렬 작업과 직렬 작업의 차이를 닮았다. 언어적 흔적은 보통 각 위치에서 하나의 토큰을 선택한다. 고차원 상태는 여러 활성 특징을 보존하고 함께 변환할 수 있다.

이 아이디어는 BDH-CQ에만 고유한 것은 아니다. Meta의 Coconut 연구는 연속적인 은닉 상태를 Transformer에 다시 입력해 모든 중간 단계를 디코딩하지 않고도 추론할 수 있게 한다. 순환 깊이 모델도 여러 내부 반복에 걸쳐 연산 블록을 재사용한다.

BDH-CQ는 뚜렷한 요소를 더한다. 데모가 순환 과제 메모리를 지속적으로 수정한다는 점이다. 이후 쿼리는 잠재 반복 과정에서 그 메모리를 사용한다. 따라서 시스템은 하나의 아키텍처 안에서 인컨텍스트 적응과 비언어적 추론을 연결한다.

이 연결은 두 가지 확립된 경로에 압박을 가한다. 첫 번째는 예시가 과제를 지정하고 토큰이 작업 공간을 제공하는 일반적인 chain-of-thought다. 두 번째는 소형 솔버가 각 퍼즐에 맞춰 별도로 적응하는 과제별 최적화다.

Pathway의 시스템은 첫 번째 경로의 유연성을 의무적인 서술 없이 유지한다고 주장한다. 또한 두 번째 경로의 소형 연산을 퍼즐별 파라미터 업데이트 없이 유지한다고 주장한다.

ARC에서는 대비가 더 뚜렷해진다. Hierarchical Reasoning Model과 Tiny Recursive Model 시스템은 반복적 잠재 연산을 사용하지만, 이들의 ARC 절차에는 트랜스덕티브 적응이 포함된다. 평가 데모는 각 퍼즐과 연관된 최적화에 참여한다.

BDH-CQ의 저자들은 이전에 보지 못한 과제가 대신 맥락을 통해 입력될 수 있다고 주장한다. 이들은 이 구성을 사람이 예시로부터 규칙을 배운 뒤 전체 추론 체계를 다시 작성하지 않고 적용하는 경우와 비교한다.

이 비유는 제한적으로 받아들여야 한다. 순환 상태 업데이트는 수학적 연산이지 인간과 같은 이해의 증거가 아니다. 논문은 이 설계를 뇌에서 영감을 얻었다고 부르지만, 생물학적 모방을 주장하는 것은 명시적으로 피한다.

기반이 되는 Dragon Hatchling 아키텍처는 희소 양성 활성화, 저랭크 통신, 순환 연상 상태를 사용한다. 공개 아키텍처 리포지터리는 국소적으로 상호작용하는 인공 뉴런과 헤비안 방식의 작업 메모리를 설명한다.

헤비안 메모리는 함께 활성화되는 특징들 사이의 연관을 강화한다. BDH-CQ에서 실질적인 요점은 맥락이 지속적인 내부 상태를 수정할 수 있다는 것이다. 이 상태는 이전의 모든 키와 값을 명시적인 목록으로 늘어놓을 필요가 없다.

이 특성은 언젠가 시각 퍼즐을 넘어 중요해질 수 있다. 긴 추론 흔적은 메모리, 디코더 시간, 통신 대역폭을 소모한다. 순환 상태는 이러한 비용을 통제하면서 정보를 보존하는 또 다른 방법을 제공한다.

하지만 언어를 제거하면 편리한 검토 표면도 사라진다. 은닉 궤적은 효율적이라는 이유만으로 신뢰할 수 없다. 개발자에게는 내부 과정이 안정적인지, 편향됐는지, 조작에 취약한지를 시험할 다른 방법이 필요하다.

따라서 토큰 기반 추론에 대한 압박은 조건부다. BDH-CQ는 가시적 텍스트가 유일한 가능한 연산 작업 공간은 아니라는 점을 보여준다. 은닉 연산이 모든 과제에서 언어를 대체할 수 있음을 보여주는 것은 아니다.

Horizon MachineLearning 토론은 더 깊은 메커니즘을 가리킨다

중요한 메커니즘은 침묵하는 추론만이 아니라, 맥락적 메모리와 활성 추론 작업 공간의 분리다.

널리 공유된 MachineLearning 토론은 이 논문을 부각시키는 데 도움이 됐지만, 근본적인 기술적 주장은 연구 자체에서 나온다. BDH-CQ는 서로 다른 역할을 맡는 두 개의 내부 구조를 유지한다.

순환 맥락 상태는 모델이 데모를 입력받는 동안 변한다. 새롭게 제시된 과제와 관련된 연관을 저장한다. 잠재 추론 작업 공간은 이 예시들이 메모리에 들어간 뒤 시작된다.

쿼리 해결 중 작업 공간은 여러 추론 단계에 걸쳐 변한다. 맥락 상태는 이러한 변환 과정에서도 계속 사용 가능하다. 디코더는 최종 작업 공간을 하나 또는 두 개의 순위가 매겨진 격자 후보로 변환한다.

이 분리는 하나의 벡터가 모든 책임을 떠안는 것을 막는다. 메모리는 데모가 확립한 내용을 담당한다. 작업 공간은 쿼리에 여전히 필요한 연산을 처리한다.

저자들은 메모리 업데이트를 높은 수준에서 설명한다. 새 상태는 이전 상태와 다음 데모에 따라 결정된다. 이 업데이트를 지배하는 학습된 파라미터는 변하지 않는다.

작업 공간도 비슷하게 설명한다. 인코더가 쿼리와 누적 맥락으로부터 이를 초기화한다. 이후 디코더가 답을 만들기 전에 순환 함수가 이를 반복적으로 업데이트한다.

이 설명은 개념을 설명하지만 전체 구현을 밝히지는 않는다. 논문은 정확한 차원, 업데이트 규칙, 내부 시스템 세부 사항이 비공개로 남아 있다고 말한다. 완전한 학습 레시피도 공개하지 않는다.

평가된 제품에는 중심 신경 아키텍처 외의 요소도 포함된다. 입력 변환, 후보 구성, 순위화, 추론 파이프라인을 사용한다. 이러한 주변 구성 요소는 정확도와 연산량 모두에 영향을 미칠 수 있다.

이러한 한계에도 불구하고 통제 실험은 순환 메모리가 실제로 무엇을 유지하는지에 대한 단서를 제공한다. 한 테스트에서는 각 과제 내부에 새로운 색상 매핑을 만들었다. 데모는 여러 색상이 어떻게 바뀌어야 하는지를 정의했다.

BDH-CQ는 동시 바인딩 수가 2개에서 8개로 증가하는 동안 96개의 홀드아웃 출력을 모두 1위에서 해결했다. 이 결과는 맥락적 메모리가 밀도 높은 과제별 매핑을 저장하고 적용할 수 있음을 시사한다.

다른 테스트에서는 시연된 작업의 규모를 달리했다. 경계 전파는 거리 2에서 8까지, 홀드아웃 출력 48개 전체에서 정확하게 유지됐다. 타깃 수가 늘어났을 때에도 모티프 복사는 48개 출력 전체에서 정확성을 유지했다.

이는 기저 작업이 국소적이고 규칙적으로 유지되기 때문에 유리한 사례다. 모델은 복잡한 출력 순서를 재구성하지 않고도 학습한 동작을 확장할 수 있다.

순서화는 다른 곡선을 보였다. 성능은 객체 5개까지 포화 상태에 가깝게 유지됐지만, 더 긴 시퀀스에서 하락했다. 객체 8개에서는 BDH-CQ가 pass@2 기준 홀드아웃 출력 24개 중 단 하나만 해결했다.

오류 양상은 국소적이기보다 광범위했다. 그 길이에서 정확한 차원을 가진 출력은 단 3개였다. 이는 규칙에 대한 불확실성만이 아니라, 순서화된 결과를 구성하는 실행 단계의 병목을 시사한다.

중첩 포함 관계는 다른 방식으로 실패했다. 성능은 깊이 4까지 강세를 유지한 뒤 깊이 5에서 하락했다. 해당 출력은 대체로 정확한 차원을 유지했으며, 최상위 후보의 평균 셀 정확도는 99.9%를 넘었다.

단 하나의 관계적 실수가 종종 실패를 초래했다. 이 양상은 모델이 변환을 거의 완료했지만 하나의 포함 관계 판단을 놓쳤음을 시사한다. 정확 일치 채점은 그러한 출력을 잘못된 것으로 집계한 것이 타당하다.

타깃 복잡도 수준의 시연을 추가하자 결과가 달라졌다. 깊이 5 중첩은 정확한 출력 24개 중 19개에서 24개 전부로 상승했다. 길이 8 순서화는 0개에서 24개 중 13개로 개선됐다.

이 개입은 인컨텍스트 학습 주장을 강화한다. 바이트 수준까지 동일한 테스트 입력도 시연이 필요한 복잡도를 다룰 때 다른 성능을 보였다. 예시는 파라미터 업데이트 없이 모델의 실질적 행동을 바꿨다.

동일한 증거는 한계도 규정한다. BDH-CQ는 시연된 복잡도를 넘어 모든 규칙을 안정적으로 외삽하지는 못한다. 메모리는 변환을 결속할 수 있지만, 작업 공간은 더 큰 규모에서 그 변환을 실행하는 데 여전히 어려움을 겪는다.

추론 노력은 또 다른 예측 가능한 트레이드오프를 보였다. 높은 설정은 29.5% pass@2에 도달했고, 중간 설정은 27%였다. 낮은 노력은 21%에 도달했으며, 저자들은 계산량이 단계적으로 감소했다고 보고했다.

이 관계는 다른 추론 시스템의 테스트 시점 컴퓨팅 스케일링과 닮았다. 더 많은 순환 단계는 정확한 답에 도달할 확률을 높인다. 차이는 추가 노력이 확장되는 트랜스크립트가 아니라 연속 상태 내부에서 발생한다는 점이다.

이 메커니즘은 BDH-CQ를 단순한 압축형 chain-of-thought 실험 이상으로 만든다. 시연으로부터 작업 메모리를 만들고, 그 메모리를 쿼리 계산과 분리하며, 순환 깊이를 통해 노력을 확장한다.

벤치마크 성과는 명확한 실패 모드를 드러낸다

BDH-CQ의 가장 강력한 증거는 맥락 학습이 일관된 규칙 실행을 보장하지는 않는다는 사실도 보여준다.

논문은 시각 작업을 16개 개념군으로 구성한 ConceptARC에서 BDH-CQ를 평가한다. 모델은 의미론적 식별자를 사용했을 때 엄격한 작업 pass@2 59.38%를 기록했다. 식별자를 불투명하게 바꾸고 개념 그룹을 섞은 뒤에는 60%에 도달했다.

이 유사한 점수는 한 가지 명백한 우려를 줄인다. 모델이 의미 있는 작업 이름이나 개념별로 묶인 배치에 의존한 것으로 보이지는 않았다. 두 버전 모두 개별 테스트 쌍 480개 중 374개에서 정확한 결과를 냈다.

그러나 집계 수준의 안정성이 동일한 행동을 뜻하지는 않았다. 두 실행에서 완전한 순위 후보 목록이 일치한 것은 480개 중 276개뿐이었다. 요청 맥락 또는 내부 탐색 행동이 전체 점수 변동 없이 많은 출력을 바꿨다.

더 중요한 점은 테스트 쌍 정확도가 77.92%에 도달한 반면, 엄격한 작업 정확도는 59.38%에 머물렀다는 것이다. 18.54포인트 격차는 한 입력에서의 정답이 모든 입력으로 자주 전이되지 못했음을 보여준다.

ConceptARC 작업 160개 중 52개는 세 개 모두를 해결하지 못한 채 테스트 입력 한 개 또는 두 개에서만 정답을 냈다. 엄격한 규칙 유도 관점에서 보면, 이러한 부분적 성공은 추론된 규칙의 일관된 적용을 입증하지 못한다.

성능은 개념에 따라서도 크게 달랐다. 시스템은 채워진 것과 채워지지 않은 것의 구분을 포함한 작업 10개 중 9개를 해결했다. TopBottom2D 계열에서도 10개 중 9개를 해결했다.

Copy와 Order는 각각 10개 중 2개에 그쳤다. 각 계열에는 작업이 10개뿐이므로, 이 수치만으로 안정적인 순위를 확립할 수는 없다. 그래도 현 시스템이 더 면밀한 압박 테스트를 받아야 할 지점을 드러낸다.

합성은 또 다른 주요 약점을 만들었다. BDH-CQ는 회전과 재배치를 각각 해결한 뒤, 두 작업의 조합도 홀드아웃 출력 72개 전체에서 해결했다. 반사와 재배치의 조합은 72개 중 47개에서 성공했다.

색상 교환은 훨씬 저조했다. 풀링된 모티프 계열 전반에서 독립 작업으로는 72개 출력 중 26개에서만 성공했다. 재배치와 결합했을 때는 72개 전체에서 실패했다.

배치 구조의 영향이 컸다. 모티프가 고정된 배열을 공유할 때 모델은 색상 교환을 더 쉽게 학습했다. 합성이 문제에 들어오기 전부터, 무작위로 섞인 두 계열에서는 성능이 거의 사라졌다.

이 결과는 이 시스템을 단서 없이 추상 연산자를 학습한다고 설명하는 데 주의를 요구한다. 때로는 재사용 가능한 변환을 결속한다. 다른 경우에는 시연 내부의 표현적 규칙성에 성공이 좌우된다.

ARC 자체도 결론의 범위를 제한한다. 그리드에는 사실 회상, 자연어 모호성, 사회적 맥락, 도구 사용, 장문 계획이 포함되지 않는다. 강력한 시각적 귀납이 광범위한 추론 역량을 확립하는 것은 아니다.

논문의 제목은 순환 잠재 추론을 활용한 인컨텍스트 학습을 강조한다. 1억 5,000만 파라미터 시스템이 범용 언어 모델을 대체할 수 있다고 주장하지는 않는다. 전망 부분은 언어 및 수학적 추론을 향후 확장 분야로 제시한다.

재현성은 더 큰 우려로 남는다. 완전한 평가 시스템은 공개되지 않았고, 정확한 메모리 업데이트와 잠재 작업 공간의 세부 사항도 공개되지 않았다. 연구자들은 아직 공개 Dragon Hatchling 리포지터리만으로 핵심 결과를 재현할 수 없다.

보고된 감사는 서비스가 명시된 점수를 반환했다는 점에서 어느 정도 보장을 제공한다. 그러나 평가자는 논문 공동 저자이며 모델 가중치도 보유하지 않았다. 더 강력한 검증은 독립된 평가자들이 고정된 아티팩트를 실행하는 방식일 것이다.

훈련 오염 역시 신중한 표현이 필요하다. 논문에 따르면 연구진은 공개 평가 시연과 작업 식별자를 제외했다. 이들의 비공개 데이터와 전체 체크포인트 선택 과정은 여전히 검토할 수 없다.

불투명 식별자 실험은 좁은 범위의 요청 측면 지름길을 배제한다. 관련 패턴이 전혀 훈련에 들어가지 않았다는 점까지 입증하지는 않는다. 논문 자체도 ConceptARC가 새로운 벤치마크는 아니라고 인정한다.

비용 비교에도 주의가 필요하다. BDH-CQ의 추정치는 가정된 가속기 요율 아래 측정된 하드웨어 시간에서 나온다. 다른 리더보드 항목은 제공업체 가격이나 별도의 하드웨어 추정치를 반영할 수 있다.

이는 도표의 값이 항상 같은 경제적 수량을 측정하지는 않는다는 뜻이다. 모델의 짧은 측정 실행 시간은 여전히 주목할 만하지만, 정확한 우위 규모는 비교 방법론에 달려 있다.

침묵하는 추론은 거버넌스 측면의 트레이드오프를 더한다. 언어적 경로가 존재하지 않으므로 사용자는 중간 경로를 검사할 수 없다. 모든 셀에 정확한 타깃이 있는 ARC에서는 최종 답을 검증할 수 있다.

많은 실제 응용에는 그러한 검증이 없다. 의료 요약, 비즈니스 예측, 연구 종합에는 즉각적인 오라클이 드물다. 숨겨진 추론에는 신뢰도 보정, 일관성 테스트, 외부 증거 확인이 필요하다.

이 문제는 잠재 계산의 가치를 무효화하지는 않는다. 사람이 읽을 수 있는 체인도 기저 결정 이후에 생성된 그럴듯한 설명을 포함할 수 있다. 가시적 추론이 충실성을 보장하지는 않는다.

실용적 요구 사항은 더 나은 평가다. 잠재 시스템에는 메모리, 외삽, 합성, 안정성, 실패 복구를 검증하는 행동 프로브가 필요하다. BDH-CQ의 통제된 실험이 유용한 이유는 바로 이러한 경계를 드러내기 때문이다.

순환 잠재 추론은 비용 논쟁을 바꾼다

BDH-CQ는 모델 크기만이 아니라 추론과 적응의 구조에도 관심을 돌린다.

1억 5,000만 파라미터 모델은 최전선 언어 시스템과 비교하면 작다. 그러나 파라미터 수만으로 보고된 효율성을 완전히 설명할 수는 없다. 이 아키텍처는 반복적인 언어 디코딩과 퍼즐별 최적화도 피한다.

이는 세 가지 서로 다른 계산 예산을 만든다. 훈련은 ARC 스타일 작업을 처리하는 일반적 능력을 구축한다. 시연은 임시 순환 메모리를 업데이트한다. 잠재 반복은 쿼리별 추론 노력을 배분한다.

이 예산을 분리하면 개발자가 더 세밀하게 제어할 수 있다. 시스템은 파라미터를 바꾸지 않고도 더 많은 시연을 처리할 수 있다. 쿼리에 필요할 때만 더 많은 내부 반복을 실행할 수도 있다.

현재의 언어 모델은 흔히 이 기능들을 하나의 토큰 스트림 안에서 결합한다. 프롬프트가 시연을 담고, 어텐션이 맥락을 보존하며, 생성된 토큰이 추론을 확장한다. 그 결과 인터페이스는 단순하지만 계산적으로 직렬적이다.

BDH-CQ는 더 구조화된 분할을 제시한다. 메모리는 맥락의 증거를 기록하고, 순환 깊이는 능동적 탐색을 수행한다. 디코더는 시스템이 외부 답을 필요로 할 때만 등장한다.

이 설계는 활성화가 고정된 네트워크 안에서 일시적 연합을 만드는 fast-weight 메모리와 닮았다. 또한 과거 정보를 순환 상태 안에 요약할 수 있는 선형 어텐션과도 연결된다.

더 깊은 경쟁 문제는 적응에 관한 것이다. 작업별 재귀 솔버는 각 퍼즐의 예시에 맞춰 최적화한 뒤 좋은 성능을 낼 수 있다. 범용 언어 모델은 맥락을 통해 적응하지만, 추론에 많은 토큰을 쓰는 경우가 많다.

BDH-CQ는 장황한 디코딩이나 역전파 최적화 없이 맥락적 적응을 목표로 한다. 절대 정확도가 더 강력한 시스템보다 낮게 남아 있더라도, 이 조합이 기존 방법에 대한 핵심 경쟁력이다.

개발자는 이 결과를 토큰이 시대에 뒤떨어졌다는 증거로 해석해서는 안 된다. 언어는 모델, 사용자, 도구, 감사자 사이의 효과적인 인터페이스로 남는다. 또한 시스템이 불확실성을 전달하고 누락된 정보를 요청할 수 있게 한다.

미래의 아키텍처는 두 모드를 결합할 수 있다. 잠재 순환은 고대역폭 내부 계산을 처리할 수 있다. 선택적 디코딩은 검증, 협업 또는 도구 사용에 언어가 필요할 때 점검 지점을 노출할 수 있다.

BDH-CQ 논문은 이러한 하이브리드를 가리킨다. 잠재 상태와 언어는 서로 다른 기능을 수행할 수 있다고 언급한다. 중간 텍스트는 모든 단계에서 불필요하다는 이유만으로 어디서나 사라질 필요는 없다.

이 접근법은 메모리 설계도 바꿀 수 있다. 기존 장문 맥락 모델은 늘어나는 토큰 이력이나 압축된 캐시를 유지한다. 반면 순환 메모리는 새 증거가 들어올 때 고정 크기 상태를 업데이트한다.

고정 크기 메모리에는 고유한 트레이드오프가 따른다. 압축은 정보를 버리거나, 연합을 병합하거나, 앞선 증거를 덮어쓸 수 있다. 논문의 색상 결속 테스트는 하나의 통제된 범위에서의 용량을 보여줄 뿐, 무제한 보존을 보여주지는 않는다.

따라서 장기 평가에서는 간섭을 검증해야 한다. 연구자들은 시연이 충돌하거나, 서로 다른 순서로 도착하거나, 무관한 예시를 포함할 때 어떤 일이 일어나는지 알아야 한다. 오래된 연합이 얼마나 빨리 감쇠하는지도 측정해야 한다.

보안 테스트도 같은 이유로 중요하다. 추론 입력이 순환 상태를 수정한다면, 악의적인 시연이 이후 답변을 조종할 수 있다. 텍스트 스크래치패드가 상태 전환을 기록하지 않기 때문에 잠재 메모리 공격은 진단하기 더 어려울 수 있다.

엔터프라이즈 활용에는 재설정 경계와 메모리 격리가 필요하다. 임시 작업 상태가 사용자 간 또는 관련 없는 작업 간에 유출되어서는 안 된다. 시스템은 손상된 맥락이 후속 쿼리에 영향을 주기 전에 식별할 방법도 필요하다.

지식 작업의 경우, 그 기본 발상은 여전히 매력적이다. 사람들은 메모를 읽고, 근거를 비교하고, 결론을 내리는 동안의 모든 내적 단계를 좀처럼 서술하지 않는다. 대신 작업 모델을 구축하고 수정한 뒤, 선택한 추론을 전달한다.

knowledge blending을 지원하는 소프트웨어는 이미 맥락 수집과 답변 생성을 연결된 과정으로 다룬다. BDH-CQ는 그 연결을 더 낮은 수준의 아키텍처에서 탐구한다.

이 결과는 제품 측면의 질문도 제기한다. 사용자가 결코 확인하지 않을 읽기 쉬운 체인에 대해 연산 비용을 지불해야 할까? 정확성과 검증 가능성이 중요한 작업에서는 조용한 잠재 반복이 더 나은 균형을 제공할 수 있다.

중요한 결과가 따르는 의사결정에서는 답이 달라진다. 사용자는 인용된 근거, 명시적 가정 또는 검토 가능한 도출 과정을 필요로 할 수 있다. 잠재적 핵심부에는 이러한 요소를 충실하게 전달하는 외부 보고 계층이 필요할 것이다.

따라서 장기적인 경쟁 구도는 숨겨진 사고와 보이는 사고의 대결이 아니다. 경직된 토큰 직렬화와, 각 연산 및 커뮤니케이션 단계에 적합한 표현 방식을 선택하는 시스템 간의 경쟁이다.

BDH-CQ는 이러한 더 폭넓은 설계에 대한 초기 근거를 제시한다. 컴팩트한 ARC 결과는 이 질문을 쉽게 일축하기 어렵게 만든다. 다만 그 한계는 경쟁이 이미 결판났다고 선언하는 것을 막는다.

BDH-CQ의 중요성을 결정할 세 가지 신호

BDH-CQ가 더 큰 주장을 뒷받침하려면, 다음 단계에서 재현성, 더 넓은 도메인, 확장성을 검증해야 한다.

첫 번째 신호는 독립적으로 실행 가능한 아티팩트다. Pathway는 기본 Dragon Hatchling 코드를 공개했지만, 보고된 평가에 사용된 완전한 BDH-CQ 시스템은 공개하지 않았다.

고정된 컨테이너, 모델 체크포인트 또는 호스팅된 평가 프로토콜이 있다면 독립 연구자들이 400개 과제 결과를 재현할 수 있다. 또한 후보 구성과 순위화가 최종 점수에 어떻게 기여하는지도 명확해질 것이다.

독립 평가는 일관된 조건에서 측정된 하드웨어 시간을 비교해야 한다. 신경망 추론을 전처리, 증강, 후보 순위화, 서비스 오버헤드와 분리해야 한다. 비교 가능한 회계 기준은 효율성 주장에 힘을 더하거나 약화할 것이다.

연구자들은 평가 데이터의 제외 경계도 검증해야 한다. 데이터셋 매니페스트, 해시, 체크포인트 선택 절차는 개괄적인 보장보다 더 큰 신뢰를 제공할 것이다. 출처를 감사할 수 있다면 비공개 예시를 반드시 공개할 필요는 없다.

재현성이 입증된다면 BDH-CQ는 ARC 효율성 곡선에서 신뢰할 만한 새로운 지점이 된다. 실패한다면, 이 이야기는 확인되지 않은 시스템 결과를 가진 흥미로운 아키텍처 제안으로 좁혀진다.

두 번째 신호는 시각적 그리드 밖에서의 성능이다. 논문은 언어, 수학, 제약 충족, 더 어려운 ARC 과제를 향후 방향으로 제시한다. 이러한 평가는 아키텍처가 현재의 학습 분포를 넘어 이전될 수 있는지 시험할 것이다.

언어 추론은 다른 요구사항을 만든다. 모델은 모호성, 사실 지식, 긴 출력, 시간에 따라 변하는 지시를 처리해야 한다. 또한 단순히 정확한 그리드를 출력하는 데 그치지 않고 근거를 전달해야 한다.

수학은 문제 구조를 확장하면서도 더 강한 검증을 제공할 수 있다. 형식적 증명, 프로그램 합성, 정리 검증은 전적으로 주관적 평가에 의존하지 않고 잠재 추론을 시험할 수 있다.

ARC-AGI-2도 또 다른 유용한 도전 과제가 될 것이다. 이는 익숙한 과제 패턴을 활용하는 방법에 저항하고, 더 높은 수준의 조합적 일반화를 요구하도록 설계됐다. 여기서 강력한 결과가 나온다면 적응에 관한 더 폭넓은 주장을 뒷받침할 수 있다.

이 도메인에서의 실패가 현재의 발견을 지우지는 않는다. 이는 BDH-CQ가 ARC 스타일의 시각적 변환에 특화되어 있음을 보여줄 것이다. 그 결과 역시 효율적인 솔버 설계에 정보를 제공한다.

세 번째 신호는 투명한 확장성 근거다. 논문은 BDH-CQ가 확장 가능하며 10억~6,000억 개 파라미터 사이의 초기 실험을 언급한다고 주장한다. 그러나 이러한 주장을 평가하기에는 충분한 근거를 제시하지 않는다.

저자들은 이 아키텍처가 훨씬 더 큰 구성도 지원할 수 있다고도 밝힌다. 학습 곡선, 컴퓨팅 예산, 다운스트림 결과가 공개되기 전까지 독자들은 이를 엔지니어링상 전망으로 받아들여야 한다.

확장은 어려운 순서화와 조합 능력을 개선할 수 있다. 동시에 메모리 불안정성, 최적화 문제 또는 수익 체감이 드러날 수도 있다. 현재의 1억5,000만 파라미터 모델로는 어느 결과가 우세한지 답할 수 없다.

특히 유용한 공개 자료는 모델 크기를 과제 정확도, 추론 반복 횟수, 순환 메모리 용량과 함께 그래프로 제시하는 것이다. 이는 더 큰 모델이 추상화를 개선하는지, 아니면 ARC 스타일의 규칙성을 더 많이 암기할 뿐인지를 보여줄 것이다.

연구자들은 추론 노력의 규모가 매끄럽게 확장되는지도 시험해야 한다. 현재의 낮음, 중간, 높음 설정은 정확도 상승을 보이지만, 단 세 지점에 걸친 결과일 뿐이다. 더 세분화된 곡선은 포화와 불안정성을 식별할 수 있다.

이 세 가지 신호는 재현성, 도메인 확장, 확장성 순으로 나와야 한다. 독립 팀이 검토할 수 있는 더 작은 결과가, 더 큰 독점적 주장보다 과학적 가치는 크다.

개발자들은 내내 한 가지 실무적 세부 사항을 지켜봐야 한다. 순환 메모리는 새로운 맥락 격리 및 보안 실패를 만들지 않으면서 적응력을 개선하는가? 효율성만으로는 신뢰할 수 없는 상태 경계를 보완할 수 없다.

현재로서는 BDH-CQ가 집중된 결과를 확립했다. 컴팩트한 순환 시스템은 시연으로부터 시각적 변환을 학습하고, 연속 상태를 통해 추론하며, 낮게 측정된 컴퓨팅으로 경쟁력 있는 ARC 점수를 냈다.

또한 긴 순서화, 일관성 없는 규칙 실행, 특정 조합 연산에서 예측 가능한 방식으로 실패했다. 이러한 실패는 연구를 현실에 붙들어 둔다. 더 풍부한 시연이 도움이 되는 지점과 내부 실행이 여전히 무너지는 지점을 보여준다.

올바른 반응은 일축도 찬사도 아니다. ARC leaderboard를 추적하고, 공개되는 평가 아티팩트를 검토하며, 일관된 회계 기준 아래에서 결과를 비교하라.

그런 다음 모든 추론 모델에 더 날카로운 질문을 던져야 한다. 어떤 단계가 정말 언어를 필요로 하며, 어떤 단계는 오늘날의 아키텍처가 더 나은 작업 공간을 제공하지 못하기 때문에 토큰을 사용할 뿐인가?