WorldWeaver daje wieloagentowym modelom wideo wspólną pamięć, ale Minecraft to dopiero pierwszy test
- Martin Chen
- 17 godzin temu
- 11 minut(y) czytania
WorldWeaver wprowadza jawną współdzieloną pamięć do dwuagentowego modelu wideo, podważając podejście, w którym świat rekonstruowany jest wyłącznie na podstawie ostatnich klatek. Model, określany również jako W², przechowuje zmieniające się informacje w rejestrach stanu świata podczas generowania zsynchronizowanych widoków z Minecrafta. Wyniki sugerują, że wiarygodne wideo nie wystarcza do stworzenia trwałego, interaktywnego świata.
Praca powstała wśród badaczy z UCLA i Adobe Research. 23 lipca 2026 r. zgłosili oni artykuł WorldWeaver. Jej główny spór ma charakter architektoniczny: trwały współdzielony stan kontra historia obserwacji skompresowana w przesuwanym oknie kontekstu.
To rozróżnienie ma znaczenie, ponieważ wielu agentów nigdy nie widzi dokładnie tej samej sceny. Jeden gracz może przejść za ścianę, podczas gdy drugi nadal buduje na zewnątrz. Model pamiętający jedynie widoczne piksele musi odtworzyć ukryte zmiany, gdy te widoki ponownie się spotkają.
WorldWeaver zamiast tego utrzymuje uczone tokeny, które podsumowują współdzielone środowisko i stan każdego agenta. Aktualizuje je po każdym wygenerowanym fragmencie. Kolejny fragment zależy następnie zarówno od ostatnich klatek, jak i od najnowszego zatwierdzonego stanu.
Raportowane zyski są znaczące w ramach dwuosobowej ewaluacji Minecrafta przeprowadzonej przez badaczy. WorldWeaver osiągnął łączny wynik świata 105.1, wobec 81.0 dla ponownie wytrenowanego modelu bazowego Solaris. Eksperyment pozostaje jednak wąski, oparty na symulatorze i zależny od nadzoru, którego rzeczywiste środowiska rzadko dostarczają.
WorldWeaver przenosi współdzielony stan do wnętrza generatora
Istotną zmianą nie jest kolejne ulepszenie pamięci wideo, lecz oddzielna ścieżka stanu, która utrzymuje się między agentami i kolejnymi krokami generowania.
Strumieniowe autoregresyjne modele dyfuzyjne generują wideo w kolejnych fragmentach. Każdy fragment warunkuje następny za pomocą ostatnich klatek i pamięci podręcznej klucz-wartość, która przechowuje pośrednie informacje uwagi. Taka konstrukcja pozwala utrzymać generowanie pod kontrolą bez ponownego otwierania całej historii.
Ograniczenie ujawnia się, gdy obserwacja znika z tego ostatniego okna. Generator musi ponownie wywnioskować brakującą informację z pikseli, które pozostały. Taka rekonstrukcja może wprowadzać niespójne położenia, stany obiektów, tożsamości lub relacje.
Problem narasta w środowisku wieloagentowym. Każda kamera dostarcza częściowej projekcji jednego bazowego środowiska. Poprawny model musi uzgadniać te projekcje, śledząc jednocześnie zmiany zachodzące poza widokiem konkretnej kamery.
WorldWeaver dodaje rejestry stanu świata — uczone tokeny zarezerwowane dla zmieniającego się stanu środowiska. Znajdują się obok tokenów wizualnych, lecz służą innemu celowi. Rejestr podsumowuje informacje, które powinny przetrwać, gdy pojedyncze klatki opuszczają aktywny kontekst.
W każdym kroku generowania generator odczytuje poprzedni rejestr, ostatnie klatki i bieżące działanie. Następnie zatwierdza zaktualizowany rejestr po utworzeniu nowego fragmentu wizualnego. Ten rejestr warunkuje kolejny fragment.
Proces tworzy naprzemienną sekwencję obserwacji i aktualizacji stanu. Ostatnie klatki dostarczają szczegółowych lokalnych dowodów. Rejestr zapewnia zwięzły mechanizm ciągłości w czasie i między punktami widzenia.
Ta struktura różni się od zwykłego rozszerzania pamięci podręcznej klatek. Większa pamięć podręczna zachowuje więcej obserwacji, ale pozostają one zależne od kamery i zakodowane wizualnie. Model nadal musi wydobywać istotny stan, ilekroć potrzebuje tej informacji.
WorldWeaver wymaga od modelu ciągłego utrzymywania tej abstrakcji. Badacze opisują rejestr jako trwały i dynamicznie aktualizowalny. Każdy agent wnosi dowody do współdzielonej reprezentacji w miarę postępu generowania.
Podejście ogranicza także historię przestarzałych rejestrów. Podczas inferencji system zachowuje początkowy rejestr i najnowszy zatwierdzony rejestr, zamiast gromadzić każdy stan pośredni. To sprawia, że mechanizm przypomina bardziej stan rekurencyjny niż rozrastające się archiwum pamięci.
Przegląd metody projektu pokazuje zsynchronizowane, dwuosobowe generowania Minecrafta. Obaj gracze działają w jednym wygenerowanym środowisku, podczas gdy ukryta reprezentacja śledzi ich pozycje i otaczającą scenę.
Minecraft jest użyteczny, ponieważ środowisko udostępnia precyzyjny stan symulatora. Badacze mogą mierzyć pozycje agentów, prędkość, orientację i dane wejściowe kontrolera. Mogą też rejestrować widok z góry, niedostępny dla żadnego z graczy.
Sygnały te sprawiają, że ukryty stan można badać. Pozwalają zespołowi pytać, czy wygenerowane wideo odpowiada temu samemu bazowemu światu w obu kamerach. Sama jakość pikseli nie może odpowiedzieć na to pytanie.
Wiadomość dotyczy więc w mniejszym stopniu ładniejszych nagrań z Minecrafta. Chodzi o przeniesienie spójności z oczekiwanego efektu ubocznego do nadzorowanego komponentu generowania.
Dlaczego historia klatek staje się obciążeniem dla wielu agentów
Historia obserwacji rejestruje to, co widziały kamery, podczas gdy interaktywny model świata musi zachować to, co pozostaje prawdą po zniknięciu tych obserwacji.
Model wideo z pojedynczą kamerą często może ukryć drobne błędy logiczne. Obiekt może nieznacznie przesunąć się między odległymi klatkami, a sekwencja nadal może wyglądać wiarygodnie. Generowanie wieloagentowe ułatwia ujawnienie tych błędów.
Załóżmy, że Alpha stawia blok, podczas gdy Bravo patrzy w innym kierunku. Późniejszy widok Bravo powinien zawierać ten blok, gdy kamera ponownie się obróci. Działanie Alpha musi zmienić jedno współdzielone środowisko, a nie tylko strumień wideo Alpha.
Załóżmy teraz, że gracze się rozdzielają. Ich historie ostatnich klatek zawierają inny teren, obiekty i ruchy kamer. Gdy ponownie się spotkają, model musi uzgodnić obie historie bez wymyślania sprzecznej geometrii.
Przesuwana wizualna pamięć podręczna słabo wspiera to zadanie. Faworyzuje ostatnie obserwacje i splata stan z wyglądem. Informacje o niewidocznym graczu lub ukrytej strukturze mogą zanikać, gdy nowe klatki zastępują stare.
Jawny stan może zachowywać fakty niezależne od bieżącej kamery. Pozycja, orientacja, pobliski układ i wykonane działania mogą pozostawać dostępne nawet wtedy, gdy źródłowe piksele opuszczą okno.
WorldWeaver nadzoruje swoje rejestry trzema rodzajami celów. Statystyki agentów obejmują pozycję, prędkość i orientację. Widoki z lotu ptaka ograniczają globalny układ, podczas gdy tekst sceny dostarcza semantycznego opisu bieżącego zachowania.
Każdy cel odpowiada na inny tryb porażki. Statystyki agentów pomagają zachować lokalny ruch i tożsamość. Reprezentacje z góry zapewniają obu agentom wspólny geometryczny punkt odniesienia.
Tekst sceny zachęca rejestr do zachowywania znaczących relacji, a nie jedynie niskopoziomowych cech wizualnych. Proces tworzenia podpisów opisany w artykule obejmuje zachowanie każdego gracza, względną pozycję, odległość i kierunek patrzenia.
Adnotacje te wykorzystują zsynchronizowane widoki agentów, klatki z góry i dane wejściowe kontrolera. Dostarczają wyjątkowo bezpośredniej wiedzy o tym, co wydarzyło się w każdym wygenerowanym fragmencie.
Ten nadzór jest ważny, ponieważ cel generowania wideo nie określa, co rejestr powinien pamiętać. Nienadzorowany token może pochłaniać użyteczną informację, nieistotną teksturę albo mieszaninę, która staje się niestabilna podczas generowania.
Badacze stwierdzili, że cele stanu zmieniły zarówno generowanie, jak i interpretowalność. Głowice dekodujące używane wyłącznie w treningu mogą odzyskiwać z rejestru współrzędne agentów, cechy widoku z góry i opisy sceny. Głowice te są usuwane podczas inferencji, więc nie zwiększają pracy dekodowania we wdrożeniu.
W tym miejscu podejście wywiera również presję na istniejące potoki strumieniowe. Wydłużanie okien kontekstu poprawia dostęp do wcześniejszych obserwacji, ale nie tworzy kanonicznego współdzielonego stanu.
Porównanie jest szczególnie istotne dla Solaris, wieloosobowego modelu świata z lutego 2026 r. Solaris wprowadził zsynchronizowane zbieranie danych wieloosobowych i skoordynowane generowanie między widokami graczy.
Solaris zgłosił zbiór danych zawierający 12.64 miliona wieloosobowych klatek. Ustanowił również kategorie ewaluacji obejmujące ruch, pamięć, uziemienie, budowanie i spójność widoków.
WorldWeaver przyjmuje to środowisko i dla porównania ponownie trenuje Solaris na tych samych danych treningowych. Następnie zmienia sposób, w jaki informacje utrzymują się podczas generowania.
Solaris synchronizuje obserwacje przez uwagę między graczami na tokenach wizualnych. WorldWeaver zachowuje tę interakcję, jednocześnie wprowadzając odrębny kanał współdzielonego stanu. Pytanie brzmi, czy jawny stan przetrwa kontekst wizualny bardziej niezawodnie.
Wyniki artykułu przemawiają w tym eksperymencie na korzyść podejścia stanowego. Nie dowodzą jednak, że rejestr tokenów zawsze przewyższa dłuższy kontekst, pamięć zewnętrzną lub ustrukturyzowaną mapę.
Pokazują coś węższego, a zarazem wartościowego. Gdy dwa strumienie wideo muszą opisywać jedno zmieniające się środowisko, jawny nadzór stanu może poprawić mierzalną logiczną spójność.
Rejestry stanu świata zmieniają mechanizm generowania
WorldWeaver oddziela syntezę wizualną od utrzymywania stanu, a następnie trenuje obie ścieżki tak, by przetrwały własne narastające błędy.
Model realizuje trzyetapowy proces treningowy. Pierwszy etap adaptuje wstępnie wytrenowany jednoosobowy model wideo do roli zsynchronizowanego, wieloosobowego nauczyciela. Dwukierunkowa uwaga pozwala temu nauczycielowi obserwować cały klip podczas uczenia się struktury sceny między agentami.
Drugi etap przekształca nauczyciela w generator przyczynowy. Generowanie przyczynowe oznacza, że każde wyjście zależy wyłącznie od informacji dostępnych w danym punkcie sekwencji. Jest to niezbędne dla interaktywnego strumienia, który nie może analizować przyszłych klatek.
W tym etapie tokeny klatek wykorzystują ostatni kontekst wizualny i najnowszy rejestr. Tokeny rejestru odczytują lokalne okno klatek i poprzedni rejestr. Model naprzemiennie przewiduje obserwacje i aktualizuje stan.
Rejestr otrzymuje dodatkowy nadzór na każdym zatwierdzonym kroku. Głowica regresyjna przewiduje statystyki agentów. Inny dekoder przewiduje cechy odpowiadające wyrównanemu widokowi z lotu ptaka.
Głowica tekstowa przewiduje opis sceny. Ogólny cel treningowy łączy te straty stanu ze stratą generowania klatek modelu dyfuzyjnego.
Ten połączony cel tworzy potencjalny konflikt. Generowanie pikseli nagradza szczegółową rekonstrukcję wizualną, podczas gdy modelowanie stanu nagradza zwięzłą i stabilną informację. W przeciwnym razie jeden zestaw wag transformera musiałby spełniać obie role.
WorldWeaver rozwiązuje ten konflikt za pomocą architektury Mixture-of-Transformers. Zapewnia ona tokenom rejestru i tokenom klatek odrębne gałęzie parametrów, zachowując między nimi wspólną uwagę.
To rozdzielenie nie jest równoznaczne z użyciem niezależnych modeli. Tokeny wizualne i tokeny stanu nadal wymieniają informacje w tej samej przeplatanej sekwencji. Każdy typ tokenu otrzymuje jednak wagi dostosowane do swojej roli.
Taka konstrukcja staje się bardziej pomocna, gdy nadzór rejestru jest bogatszy. Artykuł wskazuje, że gęste współdzielone wagi mogą mieć trudności, gdy ta sama ścieżka musi wytwarzać piksele i kodować weryfikowalną semantykę świata.
Trzeci etap rozwiązuje kolejne źródło porażki. Modele często trenują na poprawnych historycznych klatkach, lecz wdrażane są na własnych niedoskonałych wynikach. Drobne błędy kumulują się wtedy, ponieważ każda wygenerowana klatka staje się kontekstem dla następnej.
WorldWeaver adaptuje Self Forcing, metodę treningową, która rozwija model na podstawie jego własnych wygenerowanych wyników. Technika ta wystawia system na warunki wdrożeniowe jeszcze przed inferencją.
W tym przypadku problem obejmuje zarówno dryf klatek, jak i dryf rejestru. Nieprawidłowo wygenerowany widok może uszkodzić kolejną aktualizację stanu. Uszkodzony stan może następnie zniekształcać późniejsze widoki dla każdego agenta.
Model rozwija więc podczas treningu zarówno klatki, jak i zatwierdzone rejestry. Uczy się kontynuować na podstawie historii, którą faktycznie sam wygenerował, a nie wyłącznie na czystych danych referencyjnych.
Harmonogram inferencji wykorzystuje cztery kroki odszumiania. Po odszumieniu każdej klatki model dodaje ją do kroczącej pamięci podręcznej obrazu. Następnie aktualizuje rejestr przed rozpoczęciem kolejnego kroku generowania.
Ten cykl jest głównym mechanizmem opisanym w artykule. WorldWeaver nie tylko pobiera stare obserwacje ani nie dołącza metadanych po generowaniu. Aktualizacja stanu bezpośrednio uczestniczy w pętli autoregresyjnej.
Inne badania podeszły do tego samego problemu z bardziej jawną pamięcią zewnętrzną. MultiGen na przykład rozdziela pamięć, obserwację i dynamikę dla edytowalnych wieloosobowych światów dyfuzyjnych.
Zewnętrzna reprezentacja MultiGen pozwala użytkownikom zmieniać strukturę środowiska. WorldWeaver utrzymuje swój stan wewnątrz generatora w postaci wyuczonych tokenów. Dzięki temu jego pamięć jest zwarta, ale mniej bezpośrednio edytowalna.
To zestawienie ujawnia ważny wybór projektowy. Ustrukturyzowana mapa zewnętrzna zapewnia kontrolę możliwą do inspekcji, ale wymaga od systemu utrzymywania tej reprezentacji. Wewnętrzny rejestr oferuje elastyczność, lecz może ukrywać niejednoznaczny lub błędny stan.
WorldWeaver próbuje znaleźć się pośrodku. Jego rejestry pozostają ukryte podczas inferencji, jednak jawne cele treningowe sprawiają, że ich zawartość jest częściowo odzyskiwalna. System uczy się wewnętrznego stanu, nie rezygnując całkowicie z weryfikacji.
Mechanizm ten sugeruje również zastosowania wykraczające poza syntetyczne gry. Symulator floty robotów mógłby generować oddzielne obserwacje, zachowując jednocześnie wspólne lokalizacje obiektów. Środowiska treningowe mogłyby modelować, jak działanie jednego agenta zmienia to, z czym inni spotykają się później.
Systemy cyfrowych bliźniaków napotykają pokrewny problem, gdy różne czujniki dostarczają niepełnych widoków. Trwały stan może integrować dowody z tych widoków, podczas gdy symulowane środowisko nadal ewoluuje.
WorldWeaver nie testuje jednak tych zastosowań. Jego dowody pochodzą z kontrolowanych sesji Minecraft z dwoma agentami, zsynchronizowanymi działaniami i wyjątkowo łatwo dostępną prawdą referencyjną.
Architektura stawia jasną tezę techniczną. Szersza teza dotycząca zastosowań pozostaje otwarta.
Wyniki się poprawiają, ale luka względem danych z rzeczywistego świata pozostaje
Raportowane wzrosty wspierają modelowanie jawnego stanu, ale nie pokazują, że WorldWeaver potrafi odtwarzać złożony stan bez nadzoru symulatora.
Badacze oceniają ruch, ugruntowanie, pamięć, budowanie i spójność. Korzystają z dokładności modeli wizualno-językowych oraz Fréchet Inception Distance, czyli FID, który porównuje wygenerowane i referencyjne rozkłady wizualne.
Łączą też te pomiary w zbiorczy wynik świata. WorldWeaver osiąga w tej mierze 105.1. Ponownie wytrenowany model Solaris osiąga 81.0, a wariant bazowy oparty na łączeniu klatek — 49.1.
Największe poprawy dokładności pojawiają się w kategoriach wrażliwych na stan. Ugruntowanie wzrasta z 81.3 w Solaris do 93.8 w WorldWeaver. Budowanie zwiększa się z 9.4 do 28.1.
Spójność rośnie z 57.8 do 76.6. Ruch również się poprawia, osiągając 82.8 w porównaniu z 79.7 dla Solaris.
Pamięć wykazuje mniejszą przewagę. WorldWeaver uzyskuje 46.9, podczas gdy Solaris osiąga 43.8. Wariant bazowy łączący klatki uzyskuje 37.5.
Wyniki FID są bardziej mieszane. WorldWeaver poprawia kilka kategorii, w tym ruch i spójność, ale nie prowadzi w każdym porównaniu wizualnym. Jego FID dla pamięci wynosi 64.8, wobec 61.2 dla Solaris.
To rozróżnienie ma znaczenie, ponieważ stan logiczny i jakość wizualna są powiązane, lecz nie tożsame. Model może zachować właściwe zdarzenie, a jednocześnie słabo je wyrenderować. Może też tworzyć atrakcyjne klatki, które przeczą wcześniejszym działaniom.
Lepszy zbiorczy wynik WorldWeaver sugeruje, że rejestr pomaga w realizacji połączonego celu. Nie eliminuje jednak każdego kompromisu jakościowego.
Eksperymenty ablacjne dodatkowo wspierają mechanizm stanu. Badacze zmieniają rodzaje nadzoru i porównują współdzielone gęste wagi z rozdzieloną architekturą transformera.
Wyniki wskazują, że różne cele dotyczące stanu wspierają różne zachowania. Żaden pojedynczy sygnał nie dominuje we wszystkich kategoriach. Połączony nadzór zapewnia najsilniejszą raportowaną konfigurację ogólną.
Eksperyment półnadzorowany dotyczy najbardziej oczywistego problemu skalowania. Zespół utrzymuje zbiór oznaczony na poziomie 1,000 klipów, a następnie dodaje rosnące ilości nieoznaczonego wideo.
Bez nieoznaczonych klipów zbiorczy wynik świata wynosi 63.2. Dodanie 5,000 nieoznaczonych klipów podnosi go do 82.3. Przy 10,000 nieoznaczonych klipów wynik osiąga 90.3.
Wynik ten sugeruje, że mniejszy oznaczony zbiór może zakotwiczać semantykę rejestru, podczas gdy zwykłe wideo poprawia generowanie. Nie eliminuje potrzeby oznaczonego stanu, lecz zmniejsza wymagany jego udział w tym kontrolowanym środowisku.
Pozostaje kilka zastrzeżeń.
Po pierwsze, artykuł jest preprintem arXiv i nie przeszedł jeszcze recenzji naukowej. Jego ramy ewaluacji, zbiorczy wynik oraz wnioski architektoniczne wymagają niezależnej reprodukcji.
Po drugie, model działa w Minecraft. Środowisko ma dyskretne bloki, dostępne wejścia kontrolera, czystą synchronizację i dokładny stan symulatora. Rzeczywiste sceny rzadko oferują równoważne adnotacje.
Robot magazynowy może obserwować odblaskowe powierzchnie, odkształcalne obiekty, ludzi i poruszający się sprzęt. Może nie istnieć wiarygodny widok z góry ani kompletny zapis ukrytych interakcji.
Po trzecie, eksperymenty obejmują dwóch agentów. Dodanie większej liczby perspektyw zwiększa zarówno ilość informacji, jak i konfliktów. Rejestry muszą zachowywać dodatkowe tożsamości, obserwacje i interakcje, nie sprowadzając ich do niejednoznacznego podsumowania.
Po czwarte, sam rejestr może dryfować. Self-forcing wystawia model na jego błędy, lecz nie może zagwarantować odzyskania po fałszywej aktualizacji. Jeden błędny stan może wpływać na wszystkich kolejnych agentów.
Po piąte, raportowany stan jest tylko częściowo interpretowalny. Głowice treningowe dekodują wybrane cele, ale te sondy nie ujawniają wszystkiego, co jest przechowywane w rejestrze. Wysoka dokładność sond nie gwarantuje pełnej ani przyczynowo poprawnej reprezentacji.
Model zależy również od zautomatyzowanych opisów scen. Te podpisy wykorzystują wejścia kontrolera oparte na prawdzie referencyjnej wraz z obserwacjami wizualnymi. Dane ze świata rzeczywistego wymagałyby słabszych, bardziej zaszumionych lub szacowanych etykiet działań.
Autorzy przyznają w artykule centralne ograniczenie. Ich główna poprawa zależy od dodatkowego nadzoru nad stanem, podczas gdy stan w rzeczywistym świecie jest bardziej złożony i często niedostępny.
To przyznanie wyznacza faktyczną granicę tej pracy. WorldWeaver przedstawia wiarygodną architekturę stanu przy silnej obserwowalności. Nie rozwiązał problemu odkrywania stanu w środowiskach, w których prawda jest ukryta.
Co pokaże, czy współdzielony stan da się skalować
Kolejne dowody muszą testować rejestry stanu poza dwuosobowym Minecraft, wyodrębnić ich kompromisy obliczeniowe i mierzyć odzyskiwanie po nieprawidłowych aktualizacjach.
Pierwszym sygnałem jest niezależna reprodukcja na udostępnionym kodzie i konfiguracji ewaluacyjnej. Badacze powinni zweryfikować raportowany wynik świata 105.1 i sprawdzić, czy zyski w kategoriach utrzymują się przy różnych ziarnach losowych.
Reprodukcja powinna również zbadać zbiorczą metrykę. Połączony wynik może wyjaśniać szeroką wydajność, ale może też zacierać kompromisy między dokładnością logiczną a wiernością wizualną.
Drugim sygnałem jest szersze środowisko z niepełnym nadzorem. Przydatne badanie kontynuacyjne zachowałoby zsynchronizowanych agentów, jednocześnie usuwając dokładne mapy z góry lub współrzędne symulatora.
Taki test ujawniłby, czy rejestry potrafią uczyć się stabilnego stanu na podstawie szacowanej geometrii, zaszumionego języka i częściowych zapisów działań. Sukces wzmocniłby argumenty za robotyką i symulacją ucieleśnioną.
Niepowodzenie sugerowałoby, że zyski WorldWeaver zależą bardziej od uprzywilejowanych adnotacji niż od samego projektu rejestru. Taki wynik nadal dostarczyłby wskazówek dla przyszłych systemów, ale zawęziłby praktyczny zasięg architektury.
Trzecim sygnałem jest skalowanie względem liczby agentów i horyzontów. Dwa widoki stanowią ważny punkt wyjścia, jednak współdzielony stan staje się trudniejszy, gdy dodatkowi aktorzy modyfikują to samo środowisko.
Przyszłe ewaluacje powinny śledzić, jak spójność zmienia się przy czterech lub większej liczbie agentów. Powinny również raportować punkt, w którym pojemność rejestru, rozmiar pamięci podręcznej lub skumulowany błąd stają się ograniczeniem.
Dłuższe rozwinięcia wymagają ukierunkowanych testów obciążeniowych. Agent mógłby ukryć obiekt, opuścić obszar i wrócić po tym, jak jego pierwotne klatki opuściły pamięć podręczną. Inny agent mógłby zmodyfikować ten obiekt, podczas gdy pierwszy nadal byłby nieobecny.
Testy te odróżniłyby trwały stan od krótkoterminowego przypominania wizualnego. Ujawniłyby również, czy rejestr aktualizuje niewidoczne relacje, czy jedynie przechowuje skompresowaną niedawną historię.
Badacze powinni także mierzyć zachowanie korekcyjne. Jeśli jeden widok wygeneruje fałszywy obiekt lub lokalizację, późniejsze dowody powinny naprawić współdzielony stan. W przeciwnym razie jawna pamięć może przekształcić lokalną halucynację w zobowiązanie obejmujące cały system.
Systemy pamięci zewnętrznej oferują użyteczne porównanie. Ustrukturyzowane mapy mogą wymuszać geometrię i wspierać bezpośrednią edycję, ale niosą własny ciężar rekonstrukcji. Wyuczone rejestry pozostają elastyczne, lecz trudniej je audytować.
Przekonujący benchmark powinien porównać oba podejścia przy identycznych danych i zasobach obliczeniowych. Powinien obejmować długi kontekst, ukryte rejestry i jawną pamięć zewnętrzną, zamiast traktować jeden wariant bazowy jako rozstrzygający.
Ważne będzie również raportowanie kosztów obliczeniowych. Zgodnie z artykułem głowice nadzoru używane wyłącznie podczas treningu nie dodają pracy podczas inferencji. Jednak tokeny rejestru i rozdzielone wagi transformera nadal wpływają na pamięć, koszt treningu i przepustowość generowania.
Interaktywne systemy działające w czasie rzeczywistym muszą równoważyć te koszty z zyskami w zakresie spójności. Współdzielony stan, który działa zbyt wolno, nie może wspierać responsywnych agentów, gier ani symulacji robotycznych.
WorldWeaver udziela użytecznej odpowiedzi na jedno wąskie pytanie: ostatnie klatki wideo nie są wystarczającą definicją współdzielonego świata. Jego rejestry dają generatorowi jawne miejsce do utrzymywania faktów między widokami.
Trudniejsze pytanie brzmi, czy fakty te można wyuczyć, gdy żaden symulator nie ujawnia odpowiedzi. Twórcy oceniający wieloagentowe modele świata powinni uważnie obserwować tę granicę.
Czy przyszłe systemy zachowają stan po zniknięciu uprzywilejowanych etykiet? Czy potrafią skorygować współdzieloną pamięć, gdy jeden agent wprowadzi błąd? Czy pozostaną spójne, gdy liczba agentów wzrośnie?
Te testy rozstrzygną, czy WorldWeaver wyznacza architekturę nadającą się do ponownego wykorzystania, czy stanowi mocny wynik w Minecraft. Na razie czyni debatę bardziej precyzyjną: model świata musi pamiętać świat, a nie tylko jego najnowsze obrazy.