p-diff 가중치 생성, AI가 AI를 만든다는 주장에 의문 제기

p-diff 연구진은 노이즈에서 활용 가능한 신경망 파라미터를 생성했다고 보고했지만, 후속 연구는 해당 출력물이 진정으로 새로운 모델을 나타내는지에 의문을 제기했다. 이 논쟁의 배경에는 AI 이미지 생성에 쓰이는 기술로 다른 AI 모델의 가중치를 생성하자는 매력적인 제안이 있다. 따라서 p-diff 가중치 생성을 둘러싼 질문은 생성기가 숫자를 출력할 수 있는지보다 더 까다롭다. 핵심은 그 숫자가 학습 사례를 제공한 모델을 넘어선 유용한 동작을 제공하는지다.

이 기사를 위해 제공된 Reddit 발췌문은 자연어 설명으로 그림을 그리거나 Pong 스타일 게임을 위한 네트워크를 생성하자고 제안한다. 보도 과정에서 원문 게시물을 독립적으로 확인할 수 없었으므로, 작성자·구현 방식·게시일·결과는 검증되지 않은 상태다. 제시된 사례는 확립된 기능이 아니라 제안된 활용 사례로 읽어야 한다.

공개된 연구는 전체 제안을 검증하지는 않지만, 그 기본 아이디어에는 신뢰를 더한다. Google Brain의 HyperNetworks 연구는 한 네트워크가 다른 네트워크의 가중치를 생성하는 초기 방식을 확립했다. 이후 확산 연구가 이 방향을 확장했다. 현재 핵심 긴장은 유용한 특화 능력의 생성과 기존 해법의 재포장 사이에 있으며, 개발자가 기존 학습 워크플로를 대체하기 전에 구분해야 할 차이다.

제안은 검증 가능한 범위를 앞서간다

네트워크 가중치 생성은 문서화된 연구 방향이지만, 문장 하나로 임의의 작동 시스템을 생성하려면 별도의 입증이 필요하다.

제공된 발췌문은 합리적인 관찰에서 출발한다. 이미지와 신경망은 모두 수치 배열을 포함하므로, 숫자를 중심으로 설계된 생성기가 그림에만 국한될 필요는 없다. 노이즈를 추가하는 과정을 되돌리도록 학습된 생성기인 확산 모델은 이미지 픽셀을 넘어선 표현에도 작동할 수 있다. 이는 연구 방향을 열어 주지만, 비유만으로 성능을 보장하지는 않는다.

가중치는 네트워크가 입력을 출력으로 변환하는 방식을 결정하는 학습된 수치 파라미터다. 올바른 차원의 배열을 생성하는 것은 초기 요건일 뿐이다. 성공적인 시스템은 호환되는 아키텍처, 즉 네트워크의 계산 구조 안에서 올바르게 작동하는 파라미터도 생성해야 한다. 수치적 유효성과 유용한 동작은 서로 다른 검증 기준이다.

제안의 그림 사례는 이 간극을 보여 준다. 이미지를 출력하는 네트워크는 움직이는 펜을 제어하는 네트워크와 다르다. 후자에는 정의된 입력, 유효한 이동 출력, 그리고 허용 가능한 동작을 설명하는 제약 조건이 필요하다. 생성된 그림은 그럴듯해 보일 수 있지만, 이러한 제어 요건은 전혀 해결하지 못할 수 있다.

Pong 사례는 또 다른 모호함을 드러낸다. 플레이 가능한 게임을 생성하는 일, 시각적 외형을 생성하는 일, 게임을 플레이하는 컨트롤러를 생성하는 일은 별개의 과제다. 각각 다른 평가가 필요하다. 독자가 그 의미를 판단하려면, 시연은 생성된 가중치가 실제로 어떤 구성 요소를 제공하는지 밝혀야 한다.

새로운 네트워크 구조를 생성하는 것과 사전에 정의된 구조의 파라미터를 생성하는 것 사이에도 차이가 있다. 시스템은 후자에서는 성공하면서 전자는 전혀 하지 않을 수 있다. 둘 다 “AI가 AI를 만든다”라고 보도하면 실험이 실제로 달성한 바가 흐려진다.

Reddit 구현은 검증되지 않았기 때문에, 작동하는 텍스트-투-네트워크 시스템을 작성자에게 귀속할 근거는 없다. 제공된 발췌문은 z.ai의 지원도 언급하지만, 그것만으로 문서화된 제품 기능이나 협업이 입증되지는 않는다. 방어 가능한 보도는 공개된 연구에서 시작해 그 증거가 어디까지 확장되는지를 묻는다.

이러한 틀은 열망을 발표처럼 제시하지 않으면서 제안의 흥미로운 질문을 보존한다. 또한 올바른 비교 기준을 제시한다. 생성된 파라미터가 개발자가 이미 이용할 수 있는 네트워크를 검색·적응·결합하는 방식보다 유용한 무언가를 제공하는지다.

p-diff 가중치 생성은 출력을 바꾸지만, 증명 책임은 바꾸지 않는다

neural parameter diffusion 논문은 데이터를 압축하고 복원하는 네트워크인 오토인코더와 확산 생성기를 결합한 방식을 설명한다. 연구진은 학습된 파라미터를 잠재 표현, 즉 압축된 수치 설명으로 인코딩한다. 생성기는 디코더가 다시 파라미터로 변환하는 표현을 샘플링한다.

논문에 따르면, 생성된 파라미터는 평가한 설정 전반에서 비슷하거나 개선된 성능을 냈다. 저자들은 단순 암기에 반하는 증거도 보고했다. 이는 범용 모델 설계자가 등장했다는 증거가 아니라, 논문의 실험 범위 안에서 나온 결과다.

핵심 변화는 학습된 파라미터가 생성기의 출력이 된다는 점이며, 기능적 평가는 여전히 필수다.

이는 개발상의 질문을 바꾼다. 기존 학습은 사례와 목적 함수를 사용해 대상 모델의 가중치를 조정한다. 반면 가중치 생성은 파라미터 사례 모음에서 학습하고, 별도의 모델을 통해 후보 가중치를 만든다. 후보는 여전히 대상 과제를 충족해야 한다.

이는 잠재적으로 유용한 역할 분담을 만든다. 개발자는 모든 적응을 동일한 최적화 과정으로 처음부터 시작하는 대신, 반복되고 서로 관련된 요청을 처리하는 생성기에 투자할 수 있다. 이는 검증할 가치가 있는 경제적 가설이지, 확산을 채택하면 자동으로 따라오는 결과는 아니다.

생성은 작업을 다른 곳으로 옮길 수 있기 때문에 이 구분이 중요하다. 소스 모델 준비, 생성기 학습, 후보 샘플링, 사용 가능한 결과 선택은 모두 비용 계산에 포함돼야 한다. 짧은 샘플링 단계만으로 전체 워크플로에 필요한 연산이나 인력이 줄었다고 입증되지는 않는다.

관련 이미지 분류기를 유지하는 가상의 팀을 생각해 보자. 생성된 가중치가 새 데이터셋마다 신뢰할 수 있는 출발점을 제공한다면, 이 팀은 적응 방식을 하나 더 얻게 된다. 그러나 그 이점은 생성기의 적용 범위, 후보의 품질, 그리고 검증에 필요한 노력에 달려 있다.

같은 팀은 과제가 크게 달라질 때 어떤 일이 일어나는지도 물어야 한다. 익숙한 모델 계열을 중심으로 학습된 생성기는 가까운 영역에서는 계속 유용할 수 있지만, 다른 영역에서는 거의 도움이 되지 않을 수 있다. 알려진 환경 내에서 성공한 특화 능력을 제한 없는 모델 생성이라고 설명해서는 안 된다.

그러므로 p-diff 가중치 생성에서 핵심 구분은 작동하는 출력과 폭넓게 재사용 가능한 역량 사이에 있다. 후보는 벤치마크를 통과할 수 있지만, 그 접근법이 아키텍처·과제·배포 조건 전반에서 일반화되는지에 답하지는 못한다.

이는 새로움에 대한 주장만큼 편의성에 대한 주장에도 압력을 가한다. 개발자는 생성기가 실제로 어떤 결정을 없애는지 알아야 한다. 아키텍처 선택, 데이터 준비, 후보 선별, 추가 학습이 여전히 필요하다면, 그러한 책임도 설명에서 계속 드러나야 한다.

증명 책임은 제시된 대체 대상에 따라 달라진다. 초기화 도구로 제시되는 생성기는 학습을 완전히 대체하는 도구로 제시되는 생성기와 다른 평가가 필요하다. 명확한 위치 설정은 독자가 연구가 실제로 뒷받침하는 워크플로를 평가할 수 있게 하므로, 제한적인 결과도 더 유용하게 만든다.

Google의 HyperNetworks는 이 아이디어가 새롭지 않은 이유를 보여 준다

Google Brain 연구자 David Ha, Andrew Dai, Quoc Le는 2016년 9월 처음 제출된 논문에서 hypernetwork weight generation을 소개했다. 하이퍼네트워크는 다른 네트워크를 위한 파라미터를 생성하는 신경망이다. 이들의 연구는 시퀀스 모델링 응용을 포함해 합성곱 및 순환 네트워크를 살펴봤다.

이 역사는 현재의 제안을 이해하는 방식을 바꾼다. 한 네트워크가 다른 네트워크의 가중치를 생성한다는 광범위한 개념은 제공된 Reddit 발췌문보다 앞선다. 평가가 필요한 것은 구체적인 생성 방식, 조건부 입력 정보, 그리고 출력의 유용성이다.

경쟁의 핵심은 AI가 AI를 생성한다는 아이디어의 소유권이 아니라, 유용한 파라미터를 더 잘 만드는 방법에 있다.

하이퍼네트워크와 확산 기반 접근법은 출력 범주를 공유하지만, 그렇다고 서로 바꿔 쓸 수 있는 것은 아니다. 학습 절차, 지원하는 모델 구조, 생성 목표는 다를 수 있다. 의미 있는 비교를 위해서는 동일한 대상 과제와 각 방식이 받는 입력에 대한 명확한 설명이 필요하다.

D2NWG는 관련된 연구 방향을 제시한다. 이들의 task-specific weight generation 연구는 ICLR 2025에서 발표됐다. 저자들은 데이터셋 특성, 과제 설명, 아키텍처 사양을 바탕으로 생성에 조건을 부여한다고 설명한다. 이들은 이전에 학습된 모델의 지식을 다른 과제에 재사용하는 전이 학습을 중심으로 접근법을 제시한다.

저자들에 따르면 D2NWG는 사전학습된 파라미터 컬렉션에서 학습함으로써 모델 선택과 저장 문제를 해결한다. 이는 산문으로 원하는 모든 프로그램을 만든다는 주장보다 훨씬 구체적인 제안이다. 조건부 입력 정보와 지원 과제가 독자가 기대해야 할 범위를 정한다.

또 다른 논문인 conditional parameter generation은 LoRA 파라미터에 확산을 적용하는 방식을 연구한다. 저순위 적응의 약자인 LoRA는 더 작은 학습 가능한 행렬을 통해 모델 업데이트를 표현한다. 이는 모든 파라미터를 합성해야 한다고 가정하기보다 적응 구성 요소를 생성한다는 더 좁은 목표를 보여 준다.

이러한 접근법은 근거 없는 상업적 순위에 배치하기보다 연구 경로로 비교해야 한다. 각 실험은 서로 다른 질문에 답하며, 한 환경의 결과가 다른 환경에서 우월성을 자동으로 입증할 수는 없다. 여기에는 보편적인 승자를 지목할 수 있는 검증된 증거가 없다.

개발자에게 이 비교는 주장에 대한 실용적인 위계를 제시한다. 유용한 업데이트를 만드는 일은 전체 모델을 만드는 일과 다르다. 알려진 아키텍처의 가중치를 만드는 일은 아키텍처를 발명하는 일과 다르다. 데이터셋을 조건으로 사용하는 일은 제한 없는 요청을 해석하는 일과 다르다.

제공된 그림 및 게임 사례는 이 위계의 넓은 쪽에 위치한다. 이를 기존 연구와 연결하려면 구현은 학습 사례와 출력 계약을 명시해야 한다. 그렇지 않으면 익숙한 용어가 먼 응용 사례를 점진적 기능처럼 보이게 할 위험이 있다.

따라서 업계의 압력은 방법론에 있다. 광범위한 생성 주장을 내놓는 연구자는 자신의 방법이 무엇을 기여하는지 분리해 보여 주는 비교가 필요하다. 그러한 주장을 평가하는 개발자는 유용한 지름길과 익숙한 적응 작업을 둘러싼 새 인터페이스를 구분할 만큼 충분한 세부 정보를 필요로 한다.

새로운 가중치가 자동으로 새로운 역량을 입증하지는 않는다

가장 강력한 도전은 Boya Zeng, Yida Yin, Zhiqiu Xu, Zhuang Liu의 CVPR 2026 논문 weight generation memorization에서 나온다. 연구진은 Hyper-Representations, G.pt, HyperDiffusion, p-diff를 조사했다. 이들은 출력이 학습 체크포인트, 즉 학습된 모델의 저장 상태를 대체로 복제하거나 보간한다고 보고했다.

그들의 분석은 매개변수 값과 모델 동작을 모두 비교했다. 연구진은 단순한 대안으로도 관찰된 성능의 상당 부분을 설명할 수 있으며, 특히 보간법이 p-diff와 관련성이 높다고 주장했다. 보간법은 기존 매개변수 상태를 결합하는 방식으로, 그 상태들을 넘어서는 별개의 해법을 반드시 만들어내는 것은 아니다.

모델은 서로 다른 수치를 포함하면서도 익숙한 동작을 재현할 수 있으므로, 새로움을 입증하려면 수치적 차이만으로는 부족하다.

이 비판은 p-diff 가중치 생성에 관한 기존 주장에 직접적인 의문을 제기한다. 그렇다고 미래의 모든 매개변수 생성기가 반드시 암기해야 한다는 사실이 입증되는 것은 아니다. 다만 새로움을 어떻게 정의하는지, 평가에 어떤 대안이 포함되는지를 면밀히 검토해야 할 구체적인 이유는 제시한다.

여기에는 귀속 범위의 경계가 있다. D2NWG는 해당 분석에서 검토된 방법 목록에 포함되지 않았다. 이에 상응하는 평가 없이 논문의 결론을 D2NWG에 적용하는 것은 그 적용 범위를 과장하는 일이 된다. 더 넓은 교훈은 평가 설계에 관한 것이며, 보고된 결과는 실제로 검토된 방법들에 귀속된다.

실용적 유용성과 과학적 새로움도 별도로 다뤄야 한다. 기존 모델을 재조합하는 워크플로는 개발자에게 여전히 도움이 될 수 있다. 하지만 유용한 조합이라면 유사한 결과를 얻는 더 단순한 방식과의 비교를 포함해, 조합 자체로서 평가해야 한다.

어떤 생성기가 학습 컬렉션에 있는 모델과 매우 유사한 정확한 분류기를 만든다고 가정해 보자. 그 출력물은 운영상 유효할 수 있지만, 새로운 역량의 증거로는 약할 수 있다. 중요한 후속 질문은 직접 검색 방식이 더 적은 복잡성으로 같은 이점을 제공했을지 여부다.

반대로 출력물이 모든 원본 모델과 다르지만 성능이 낮다고 가정해 보자. 이는 차이는 입증하지만 가치는 입증하지 못한다. 어느 한쪽만을 부각하면 핵심 주장이 의도한 적용 사례가 요구하는 수준보다 쉽게 충족될 수 있으므로, 평가는 두 차원을 모두 필요로 한다.

드로잉 제안은 이 문제를 구체적으로 보여 준다. 생성된 컨트롤러는 학습 컬렉션에서 제외된 지시문이나 조건에서 평가되어야 한다. 익숙한 요청을 제공한 뒤 익숙한 출력을 보여 주는 것만으로는 가장 강한 해석을 해소할 수 없다.

동일한 논리는 제안된 게임 컨트롤러에도 적용된다. 평가는 변경된 시작 조건이나 사전에 정의된 다른 변형 아래에서의 성능을 드러내야 한다. 이러한 테스트는 보기 좋은 시연을 고르기 전에 명시되어야 하며, 그래야 결과가 연출 선택이 아닌 신뢰할 수 있는 동작을 반영한다.

바로 이 지점에서 회의적 분석은 분야를 일축하기보다 도움이 된다. 더 강력한 비교는 광범위한 새로움 주장이 성립하지 않더라도 유용한 적용 사례를 밝혀낼 수 있다. 또한 더 단순한 방법이 이미 요구 사항을 충족하는데도 개발자가 생성기의 복잡성 비용을 지불하는 일을 막을 수 있다.

개발자에게는 완전한 워크플로 비교가 필요하다

이 연구는 대안적 모델 적응 방법을 평가하는 팀에 즉각적인 과제를 던진다. 이들의 결정은 데이터 요구 사항, 테스트 노력, 배포 호환성, 유지보수를 포함한 실제 개발 프로세스와 관련된다. 눈길을 끄는 샘플은 그 과정의 한 부분일 뿐이다.

생성된 가중치는 명확히 정의된 대안보다 전체 워크플로를 개선할 때 채택할 가치가 생긴다.

합리적인 평가는 조직이 이미 해결해야 하는 과제에서 시작한다. 분류 프로젝트라면 학습과 선택 과정에서 제외해 둔 홀드아웃 예제에서 후보를 비교해야 한다는 뜻이다. 컨트롤러라면 명시적으로 정의된 조건에서의 동작을 측정해야 한다는 의미다.

비교에는 공정한 출발점도 필요하다. 생성기가 유용한 사전학습 모델 컬렉션에 접근할 수 있다면, 경쟁 워크플로에도 이를 활용할 공정한 기회를 제공해야 한다. 그렇지 않으면 실험은 기존 자산의 가치를 생성 방식의 가치로 잘못 귀속할 위험이 있다.

후보 선택에는 특히 주의가 필요하다. 많은 출력을 샘플링하고 가장 강한 결과를 보고하는 생성기는 그 자체로 비용이 드는 선택 과정을 활용한다. 독자는 실패한 후보를 어떻게 처리했는지, 어떤 데이터가 선택을 이끌었는지 알아야 한다.

추가 학습 역시 해석을 바꾼다. 생성된 가중치는 이후 최적화를 위한 시작 매개변수 상태인 초기화로서 가치가 있을 수 있다. 이러한 이점은 동일한 후속 학습 예산 아래 다른 초기화 방식과 비교되어야 한다.

배포는 또 다른 층위의 질문을 제기한다. 내보낸 매개변수는 문서화된 아키텍처 및 전처리 절차와 일치해야 한다. 개발자에게는 원래 시연 환경 밖에서도 보고된 대로 동작하는지 검증할 수 있도록, 출력을 불러오는 재현 가능한 방법도 필요하다.

향후 펜 컨트롤러의 경우 이러한 요구 사항은 구체적으로 드러난다. 팀은 움직임 형식, 허용되는 작동 조건, 실패 처리 방식을 정의해야 한다. 성공적인 시각적 예시가 이러한 엔지니어링 의무를 없애 주지는 않는다.

향후 게임 시스템의 경우 팀은 먼저 생성된 구성 요소를 식별해야 한다. 관찰 결과를 바탕으로 행동을 선택하는 규칙을 뜻하는 정책은 게임 전체를 제공하지 않는다. 구성 요소를 정확히 설명해야 평가 결과가 완전한 애플리케이션에 관한 주장으로 확대되는 일을 막을 수 있다.

워크플로가 많은 후보를 생성할 때는 기록 관리가 특히 중요해진다. 팀은 과제 정의, 원본 매개변수 컬렉션, 선택 기준, 평가 결과를 함께 보존해야 한다. 검색 가능한 엔지니어링 지식 기반은 동료들이 특정 후보가 채택된 이유를 추적하는 데 도움이 될 수 있다.

이 모든 것이 테스트 전에 생성을 거부해야 한다는 뜻은 아니다. 헤드라인을 받아들이기 전에 사용 사례를 선택해야 한다는 뜻이다. 좁은 범위에서 재현 가능한 개선은 비교가 정의되지 않은 야심 찬 시연보다 더 설득력 있게 채택을 정당화할 수 있다.

상업적 함의도 마찬가지로 구체적이다. 구매자는 어떤 개발 단계가 사라지고 어떤 단계가 여전히 자신의 책임으로 남는지 공급업체에 물어야 한다. 그 경계가 없으면 겉보기 자동화는 고객이 시연에서 빠진 검증을 떠맡는 전가된 업무가 될 수 있다.

다음 증거는 재현성, 일반화, 비용을 다뤄야 한다

향후 몇 달 동안 유용한 후속 증거는 세 가지 질문을 순서대로 다뤄야 한다. 다른 이들이 시스템을 재현할 수 있는가, 시스템은 일반화되는가, 워크플로를 개선하는가이다. 이는 예정된 출시를 예측하는 것이 아니라 관찰의 우선순위다. 제공된 제안에는 검증된 출시 일정이 수반되지 않는다.

가장 유익한 다음 결과는 재현 가능한 산출물을 낯선 과제와 공정한 노력 산정에 연결하는 것이다.

첫 번째 신호는 주장과 연결된 재현 가능한 구현이다. Reddit 제안의 경우 문서화된 모델 구조, 학습 데이터 설명, 생성 절차, 평가 과정이 포함되어야 한다. 작동하는 산출물은 이 제안이 아이디어를 넘어섰다는 주장을 강화할 것이다.

접근 가능한 시연도 도움이 되지만, 무엇이 생성되었는지를 식별할 수 있을 만큼 충분한 세부 사항을 보여 주어야 한다. 기존 모델이 동작의 대부분을 제공한다면, 그 기여는 계속 드러나야 한다. 살펴볼 수 있는 실험 없이 다듬어진 인터페이스만 제공된다면 검증 공백은 대부분 그대로 남는다.

두 번째 신호는 실제로 제외된 과제나 조건에서의 평가다. 이는 생성기가 학습 예제를 다시 찾는 것 이상을 할 수 있는지 시험하게 된다. 분리는 단순히 파일명이나 저장된 매개변수 배열이 아니라, 주장되는 동작에 적용되어야 한다.

설득력 있는 결과는 생성된 동작을 가장 관련성 높은 학습 모델과도 비교할 것이다. 출력물이 기능적으로 구별되지 않는다면 새로운 역량에 대한 근거는 약해진다. 제외된 조건에서 안정적으로 수행한다면 유용한 일반화에 대한 논거는 강해진다.

세 번째 신호는 더 단순한 대안과의 완전한 비교다. 여기에는 적절한 기존 모델, 전통적인 적응 방식, 매개변수를 결합하는 관련 방법이 포함되어야 한다. 테스트는 샘플링과 함께 생성기 준비, 후보 선택, 후속 학습까지 모두 계산해야 한다.

그러한 산정 아래 생성에 유리한 증거가 나온다면, 출력물이 익숙한 모델과 가까운 상태로 남더라도 실용적 근거는 강화될 것이다. 반대로 비용이 큰 선별 과정에 의존하는 결과라면 이 접근법이 타당한 상황은 좁아질 것이다. 어느 결과든 개발자에게 더 실행 가능한 정보를 제공한다.

현재 p-diff 가중치 생성은 일부 기존 결과의 해석을 두고 논쟁이 있는 실제 연구 분야에 속한다. 제공된 소셜 제안은 임의의 텍스트-투-네트워크 생성을 입증하지 않는다. 그 가치는 모델 개발의 어떤 부분이 학습된 출력으로 바뀔 수 있는지에 관한 질문을 제기한다는 데 있다.

이러한 틀을 채택하기 전에, 방법을 현재 이용 가능한 가장 강력한 비판과 함께 읽고 각 실험이 측정하는 정확한 동작을 파악해야 한다. 생성된 산출물이 자신의 과제를 해결하는지, 더 단순한 대안이 이를 따라잡는지, 전체 워크플로가 재현 가능한지 물어야 한다. 수치적 새로움, 행동적 새로움, 실용적 이점에 관한 기록은 별도로 유지하라. 이러한 구분은 새 매개변수 파일을 새 역량과 혼동하지 않으면서도 유용한 진전을 알아보기 쉽게 만든다. 미래의 텍스트-투-네트워크 시연이 이러한 테스트를 통과한다면, 개발자에게는 워크플로를 바꿀 구체적인 이유가 생길 것이다. 그때까지 현재의 학습 또는 적응 과정을 대체하려면 어떤 증거가 필요할까?