Badanie detektora halucynacji wskazuje dolną granicę, a nie uniwersalny sygnał

Badacz na r/MachineLearning twierdzi, że wstępnie zarejestrowany detektor osiągnął założony cel w 18 z 20 wdrożeń modeli, zanim pojawił się pierwszy token. Opisany wynik nie ustanawia jednak uniwersalnego detektora halucynacji. Wskazuje raczej na wspólną dolną granicę skuteczności zbudowaną na geometrii wewnętrznej modeli.

To rozróżnienie ma znaczenie. Detektor, który przenosi się między wieloma modelami, może stać się użytecznym sygnałem do kierowania zapytań, nawet jeśli nie potrafi wskazać każdej fałszywej odpowiedzi. Obecne dowody pochodzą jednak z posta społecznościowego opisującego nieopublikowane lub jeszcze niezależnie niezrecenzowane eksperymenty.

Post opisuje też istotne odwrócenie oczekiwań. Dodanie własnej miary pewności modelu nie zwiększyło zakresu wdrożeń poza detektor oparty wyłącznie na geometrii. Te same dwa wdrożenia zakończyły się niepowodzeniem, co sugeruje, że w tym teście pewność i geometria uchwyciły nakładające się informacje.

To ustalenie wywiera presję na dwa dobrze znane podejścia. Jedno traktuje prawdopodobieństwa tokenów jako wygodną miarę faktyczności. Drugie zakłada, że pojedyncza cecha wewnętrzna będzie generalizować się między architekturami, zbiorami danych i typami halucynacji. Opisany eksperyment nie wspiera żadnego z tych oczekiwań w ich najmocniejszej formie.

Wstępnie zarejestrowany test osiągnął próg w 18 z 20 wdrożeń

Główny wynik to warunkowy sukces: jeden detektor oparty na geometrii miał spełnić swój wstępnie zarejestrowany próg zakresu, nie stając się przy tym rozwiązaniem uniwersalnym.

Według oryginalnego posta na MachineLearning, badacz ocenił dwa zadania w dziesięciu modelach językowych. Dało to 20 wdrożeń model-zadanie w pierwszym przebiegu.

Projekt analizował 29 sygnałów wewnętrznych modeli z czterech szerokich rodzin. Obejmowały one wzorce uwagi, ruch w strumieniu rezydualnym, geometrię odczytu i pewność. Następnie selektor wybierał po jednym sygnale dla każdego modelu, zgodnie z zasadami ustalonymi przed powstaniem danych ewaluacyjnych.

Przejście w przód to pełne obliczenie wykonywane przez model dla danego wejścia. Proponowany detektor analizuje to obliczenie, zanim wygenerowany tekst stanie się dostępny. Odróżnia go to od systemów, które weryfikują gotowe odpowiedzi względem dokumentów lub porównują kilka próbkowanych odpowiedzi.

Ograniczenie do etapu przed generowaniem sprawia, że opisany wynik 18 z 20 jest interesujący. Jeśli da się go odtworzyć, detektor mógłby przypisywać ryzyko, zanim aplikacja poświęci czas na wygenerowanie długiej odpowiedzi. Produkt mógłby wtedy uruchomić wyszukiwanie, przekierować zapytanie do innego modelu albo wymagać weryfikacji przez człowieka.

Detektor oparty wyłącznie na geometrii musiał przejść co najmniej 17 wdrożeń zgodnie z wstępnie zarejestrowaną regułą. Post podaje, że przeszedł 18. Wspiera to wąskie twierdzenie, że sygnał wyprowadzony z geometrii może zapewnić szeroki, choć niepełny, zakres działania w badanych warunkach.

Ta liczba nie oznacza, że detektor wychwycił 90 procent halucynacji. Zakres wdrożeń i dokładność wykrywania to różne miary. Przekroczenie progu w 18 wdrożeniach oznacza, że metoda spełniła określone kryterium w tych ustawieniach.

Podstawowy próg, równowaga klas, konstrukcja zbioru danych, proces kalibracji i niepewność dla każdego wdrożenia wpływają na to, jak czytelnicy powinni interpretować tę liczbę. Bez pełnych materiałów eksperymentalnych wyniku nie można przełożyć na produkcyjny wskaźnik błędów.

Wstępna rejestracja wzmacnia projekt badania, ograniczając możliwość zmiany hipotezy po zobaczeniu wyników. Nie potwierdza jednak poprawności etykiet, nie eliminuje błędów implementacyjnych ani nie gwarantuje, że wybrany test reprezentuje rzeczywiste zastosowania.

Post podaje, że procedura została wstępnie zarejestrowana dwukrotnie. Ten szczegół sugeruje, że badacz próbował oddzielić decyzje eksploracyjne od testowania potwierdzającego. Niezależny dostęp do obu rejestracji wyjaśniłby, które cechy, progi, wykluczenia i testy statystyczne zostały ustalone.

Najbardziej odpowiedzialna interpretacja pozostaje więc ograniczona. Podejście oparte wyłącznie na geometrii miało przekroczyć zaplanowany próg w większości badanych wdrożeń. Pozostałe niepowodzenia są ważne, ponieważ wyznaczają granicę tego twierdzenia.

Dlaczego pewność nie rozszerzyła zakresu

Najistotniejszym odwróceniem nie jest to, że pewność wypadła słabo, lecz że miała nie dodać żadnego zakresu poza geometrią.

Pewność modelu często odnosi się do prawdopodobieństw przypisanych możliwym następnym tokenom. Wysoka wartość oznacza, że model zdecydowanie preferuje jedną kontynuację nad alternatywami. Nie dowodzi jednak, że preferowana kontynuacja odpowiada rzeczywistości zewnętrznej.

Eksperyment miał połączyć geometrię z pewnością modelu. Ten łączony detektor również przeszedł 18 z 20 wdrożeń. Pominął te same dwa wdrożenia i nie uratował żadnego.

Wstępnie zarejestrowany próg dla silniejszego twierdzenia wynosił co najmniej 19 wdrożeń. Połączona metoda go nie osiągnęła. Zgodnie z opisaną regułą decyzyjną, teza, że pewność poszerzała zakres, została sfalsyfikowana.

Wynik ten nie pokazuje, że pewność nie zawiera użytecznych informacji. Sugeruje, że jej użyteczna zmienność mogła nakładać się na wybrany sygnał geometryczny w tych zadaniach i modelach. Inny zbiór danych lub metoda kalibracji mogłyby ujawnić informacje komplementarne.

Geometria odnosi się tutaj do mierzalnych relacji przestrzennych między wewnętrznymi reprezentacjami. Reprezentacje te są wektorami kodującymi informacje, gdy model przetwarza polecenie. Ich normy, kąty, kierunki i ruch między warstwami mogą korelować z poprawnością odpowiedzi.

Pewność wyłania się z tej samej sieci bazowej. Jest więc prawdopodobne, że pomiar geometryczny w pobliżu wyjścia modelu już uchwytuje znaczną część informacji wyrażanych przez prawdopodobieństwa tokenów. Opisany w poście wynik zerowego „ratunku” jest zgodny z tym wyjaśnieniem.

Najnowsze badania ostrzegają również, że metryki geometryczne nie są zamienne. Badanie z 2026 roku dotyczące metryk wykrywania geometrycznego wykazało, że różne statystyki reagowały na różne właściwości, w tym poprawność, trafność, spójność, kompletność i pewność.

Badanie zgłosiło także znaczną wrażliwość na przesunięcia domenowe. Sygnał rozdzielający poprawne i niepoprawne odpowiedzi z historii może zachowywać się inaczej w matematyce. Jego autorzy wprowadzili normalizację i odnotowali poprawę w ewaluacji wielodomenowej, podkreślając, jak kalibracja może kształtować wyniki.

Szersza lekcja jest taka, że „halucynacja” łączy kilka mechanizmów błędów. Model może konsekwentnie podawać powszechne błędne przekonanie, zgadywać spośród kilku odpowiedzi, ignorować dostarczone dowody albo popełniać błąd rozumowania. Te błędy nie muszą mieć wspólnego podpisu wewnętrznego.

Pewność pozostaje użyteczna w politykach wstrzymywania odpowiedzi, szczególnie gdy jest skalibrowana względem znanego rozkładu wdrożeniowego. Aplikacje nie powinny jednak traktować surowej pewności jako niezależnego świadka faktyczności tylko dlatego, że łatwo ją uzyskać.

To rozróżnienie wpływa na projektowanie produktów. Próg pewności może identyfikować niepewność, podczas gdy wynik geometrii wskazuje powiązaną niestabilność. Łączenie dwóch skorelowanych sygnałów może tworzyć pozór redundancji, nie dodając nowego źródła dowodów.

Prawdziwie komplementarna warstwa analizowałaby coś innego. Mogłaby porównywać twierdzenia z pobranymi rekordami, testować spójność logiczną, weryfikować cytowania albo sprawdzać, czy wynik narzędzia wspiera odpowiedź. Takie kontrole dotyczą dowodów, a nie wewnętrznego wahania.

Twierdzenie MachineLearning podważa uniwersalne wykrywanie

Wspólna dolna granica jest wartościowa operacyjnie, ale uniwersalny detektor wymaga silniejszych dowodów w różnych zadaniach, modelach i definicjach błędów.

Opisany eksperyment rozpoczął się od ambitnego pytania: czy jedna rodzina sygnałów wewnętrznych może działać wystarczająco szeroko, by wykrywać halucynacje przed generowaniem? Odpowiedź wydaje się twierdząca dla dolnej granicy i przecząca dla uniwersalności.

Nie jest to rozróżnienie semantyczne. Uniwersalny detektor powinien przenosić się bez polegania na korzystnej strukturze zadania, kalibracji właściwej dla konkretnej architektury lub wąskiej definicji błędu. Dwa niepowodzenia na 20 wdrożeń wystarczą, by odrzucić to absolutne twierdzenie.

Wynik nadal ma praktyczną wartość. Systemy produkcyjne rzadko potrzebują jednego wyniku rozstrzygającego każdą kwestię faktyczną. Potrzebują bramki, która niezawodnie identyfikuje wystarczająco wiele ryzykownych przypadków, by uzasadnić droższą ścieżkę weryfikacji.

Rozważmy asystenta przedsiębiorstwa odpowiadającego na pytania o polityki wewnętrzne. Wynik przed generowaniem mógłby skierować ryzykowne polecenie do wyszukiwania, zanim rozpocznie się tworzenie odpowiedzi. Końcowa odpowiedź nadal wymagałaby wsparcia w pobranych dokumentach polityk.

Asystent programistyczny przedstawia inne środowisko. Istotny błąd może dotyczyć wymyślonej metody biblioteki, niezgodnej wersji lub wadliwego rozumowania obejmującego kilka plików. Detektor skalibrowany na krótkich odpowiedziach faktograficznych może nie przenieść się do tego środowiska.

Długie badania tworzą kolejną granicę. Jedna odpowiedź może zawierać dziesiątki twierdzeń, z których część jest poparta dowodami, a pozostałe są fałszywe. Pojedynczy wynik uzyskany przed pierwszym tokenem nie może wskazać, które późniejsze zdanie zawiedzie.

To ograniczenie wyjaśnia, dlaczego zakresu wdrożeń nie należy mylić z weryfikacją na poziomie twierdzeń. Detektor może oceniać, czy trajektoria polecenie-odpowiedź jest ryzykowna. Nie może niezależnie potwierdzić prawdziwości każdego późniejszego twierdzenia.

Powiązane badania wspierają możliwość istnienia wczesnego sygnału. Artykuł z 2026 roku Before the First Token ocenił siedem autoregresyjnych transformerów przy użyciu 552 oznaczonych przykładów z trzech faktograficznych zbiorów danych.

Jego autorzy zgłosili skuteczność sond na poziomie przypadku dla modeli poniżej 400 milionów parametrów. Powyżej około miliarda parametrów zaobserwowali silniejsze sygnały przed generowaniem w niektórych modelach. Wzorzec zależał również od dostrajania instrukcyjnego.

Artykuł wykazał istotny efekt pozycji zero dla Pythia-1.4B i Qwen2.5-7B. Jednak Pythia-6.9B wykazał płaski profil czasowy mimo większej skali. To porównanie przemawia przeciw prostemu regułowaniu opartemu na liczbie parametrów.

Badacze zgłosili również, że sterowanie aktywacją wzdłuż wykrytych kierunków nie korygowało halucynacji. Innymi słowy, sygnał był korelacyjny, a nie przyczynowy. Wykrycie ryzykownego stanu nie oznaczało, że zmiana tego stanu prowadziła do prawdziwej odpowiedzi.

Ta granica powinna kierować interpretacją twierdzenia z Reddita. Wzorzec wewnętrzny może przewidywać wynik, nie reprezentując wyspecjalizowanego obwodu prawdy. Może kodować trudność zadania, znajomość polecenia, możliwość udzielenia odpowiedzi lub inną zmienną skorelowaną z poprawnością.

Uniwersalny detektor musiałby rozdzielić te alternatywy. Powinien zachowywać skuteczność w nowych domenach, formatach poleceń, językach, rodzinach modeli i formach treningu po wstępnym szkoleniu. Powinien także przetrwać celowe próby naruszenia jego założeń.

Zaproszenie w poście do odtworzenia lub zakwestionowania wyniku ma zatem kluczowe znaczenie. Kolejnym etapem nie jest większy nagłówek. Jest nim zestaw testów adwersarialnych zaprojektowany wokół dwóch pominiętych przypadków i ustawień, których pierwotne zadania nie obejmowały.

Istniejące detektory rozwiązują różne części problemu

Dziedzina zmierza ku warstwowemu wykrywaniu, ponieważ geometria wewnętrzna, niepewność semantyczna i zewnętrzna weryfikacja odpowiadają na różne pytania.

Jedno z wpływowych podejść mierzy entropię semantyczną, czyli niepewność dotyczącą znaczeń kilku wygenerowanych odpowiedzi. Jeśli powtarzane odpowiedzi wyrażają różne twierdzenia, model z większym prawdopodobieństwem konfabulował.

Recenzowane badanie dotyczące entropii semantycznej przetestowało rodziny LLaMA, Falcon i Mistral o rozmiarach od 7B do 70B parametrów. Odnotowano stabilne wartości AUROC między 0,78 a 0,81 dla ocenianych rodzin i skal.

AUROC mierzy, jak dobrze wynik klasyfikuje przykłady pozytywne powyżej negatywnych przy różnych progach. Nie określa wskaźnika fałszywych alarmów, którego doświadczy konkretne zastosowanie. Operatorzy nadal muszą wybrać próg zgodny z własnymi kosztami.

Entropia semantyczna wyraźnie różni się od detektora działającego przed generowaniem. Metoda opisana w Nature wykorzystywała dziesięć generacji w głównych eksperymentach na poziomie zdań. Przed pomiarem zróżnicowania grupowała odpowiedzi według znaczenia.

Taka procedura może wykrywać dowolne błędne odpowiedzi, które różnią się między próbkami. Może jednak nie wykryć modelu, który z przekonaniem powtarza to samo fałszywe twierdzenie. Autorzy wyraźnie ograniczyli swoją metodę do konfabulacji, a nie wszystkich zachowań określanych jako halucynacje.

Różni się również koszt. Próbowanie kilku odpowiedzi i porównywanie ich znaczeń wymaga więcej obliczeń niż odczytanie jednego stanu wewnętrznego. Detektor jednoprzejściowy oferuje atrakcyjny wczesny filtr, zwłaszcza gdy większość zapytań jest rutynowa.

Systemy typu black box tworzą kolejne ograniczenie. Twórcy komercyjnych aplikacji często nie mogą analizować map uwagi, strumieni rezydualnych ani ukrytych wektorów. Za pośrednictwem API otrzymują tekst i ewentualnie prawdopodobieństwa tokenów.

Wewnętrzna geometria faworyzuje więc modele z otwartymi wagami, wdrożenia hostowane samodzielnie albo dostawców skłonnych udostępnić odpowiednią telemetrię. Metody oparte na spójności semantycznej mogą działać z tekstowymi wynikami systemów black box, choć wymagają wielokrotnego generowania.

Weryfikacja oparta na wyszukiwaniu stosuje trzecią drogę. Sprawdza, czy odpowiedź jest ugruntowana w dostarczonych dokumentach. Może to wychwycić pewne błędy, gdy istnieją prawidłowe dowody, ale wyszukiwanie wprowadza własne tryby awarii.

Moduł wyszukujący może zwrócić nieaktualną politykę, pominąć istotny fragment albo jako pierwszy umieścić w rankingu wprowadzający w błąd dokument. Model językowy może następnie zacytować źródło, które nie potwierdza jego zdania. Systemy ugruntowania potrzebują kontroli na poziomie twierdzeń, a nie tylko obecności dokumentu.

W przypadkach o wysokiej stawce nadal niezbędna jest weryfikacja przez człowieka. Wynik ryzyka może pomóc ustalać priorytety, lecz recenzenci potrzebują dostępu do oryginalnych dowodów i ścieżki audytu. Przeszukiwalna baza wiedzy może pomóc zespołom zachować ten kontekst źródłowy.

Metody te należy postrzegać jako warstwy, a nie bezpośrednie substytuty. Wewnętrzny detektor pyta, czy obliczenia modelu przypominają przypadki ryzykowne. Entropia semantyczna pyta, czy znaczenia próbek pozostają stabilne. Wyszukiwanie pyta, czy dostępne dowody potwierdzają twierdzenie.

Potok produkcyjny może łączyć wszystkie trzy metody, nie udając, że są niezależne. Wczesny sygnał kieruje zapytania, kontrole semantyczne badają niepewne wyniki, a kontrole dowodowe weryfikują istotne twierdzenia. Recenzenci zajmują się przypadkami, których konsekwencje uzasadniają ten koszt.

Zgłoszona redundancja między pewnością a geometrią wzmacnia tę warstwową perspektywę. Dodanie większej liczby pomiarów z tej samej sieci nie musi oznaczać dodania większej wiedzy. Niezależne dowody muszą zostać wprowadzone gdzieś w systemie.

Luka w weryfikacji wciąż jest duża

Zgłoszona prerejestracja zwiększa wiarygodność, lecz publiczne twierdzenie pozostaje niepełne, dopóki inni nie będą mogli sprawdzić i odtworzyć eksperymentu.

Oryginalny wpis przedstawia podsumowanie wyników, a nie recenzowany zapis. Czytelnicy potrzebują rejestracji, kodu, zbiorów danych, punktów kontrolnych modeli, promptów, etykiet oraz pełnych wyników na poziomie wdrożeń, aby ocenić ustalenia.

Wyrażenie „uczciwy selektor” również wymaga precyzyjnej definicji. Selekcja cech może prowadzić do wycieku informacji, gdy badacze wykorzystują dane ewaluacyjne do wyboru metryk, warstw, znaków, progów lub transformacji. Czysty podział danych musi obejmować każdą decyzję adaptacyjną.

Wybór jednego sygnału na model rodzi drugie pytanie. Rodzina cech może dobrze przenosić się między modelami, podczas gdy wybrana cecha różni się zależnie od modelu. Jest to mniej uniwersalne niż jeden zamrożony detektor działający wszędzie bez zmian.

Selekcja specyficzna dla modelu może nadal być operacyjnie uzasadniona. Zespoły rutynowo kalibrują progi bezpieczeństwa dla każdego wdrożenia. Twierdzenie powinno jednak odróżniać uniwersalną rodzinę cech od uniwersalnego detektora o stałych parametrach.

Dwa nieudane wdrożenia zasługują na więcej uwagi, niż sugeruje łączna liczba. Mogą mieć wspólną architekturę, zadanie, skalę, metodę dostrajania lub rozkład etykiet. Wspólna przyczyna wskazałaby, gdzie proponowana granica przestaje działać.

Znaczenie ma również niepewność dotycząca prawdy referencyjnej. Etykiety halucynacji mogą zależeć od tego, czy zadanie mierzy poprawność faktyczną, wierność kontekstowi, trafność czy spójność logiczną. Detektora nie można interpretować bez znajomości definicji celu.

Słowo „przed” może także ukrywać wybory techniczne. Model przetworzył już cały prompt, zanim wybierze pierwszy token wyjściowy. Jego stan ukryty może zatem kodować trudność promptu, znajomość tematu i prawdopodobną treść odpowiedzi.

Nadal jest to wykrywanie przed generowaniem, ale nie jest to przewidywanie bez pracy modelu. Aplikacje muszą ukończyć przynajmniej etap przetwarzania promptu. W przypadku długich kontekstów etap ten może stanowić istotną część kosztu inferencji.

Eksperyment powinien również podawać częstość występowania klas i przedziały ufności. Sama liczba zaliczeń ukrywa, czy jedno wdrożenie ledwo przekroczyło próg, podczas gdy inne wyraźnie go przewyższyło. Małe zbiory testowe mogą prowadzić do niestabilnych rankingów.

Ataki adaptacyjne stanowią kolejne wyzwanie. Użytkownicy mogą przeformułowywać pytania, wstrzykiwać nieistotny kontekst, żądać określonego stylu odpowiedzi albo wymuszać długie rozumowanie. Detektor skalibrowany na zwykłych promptach może zawieść, gdy zmieni się struktura promptu.

Aktualizacje modeli mogą przesuwać wewnętrzną geometrię, nawet jeśli branding produktu pozostaje taki sam. Kwantyzacja, dostrajanie, adaptery, prompty systemowe i ustawienia inferencji mogą zmieniać mierzony sygnał. Każda zmiana może wymagać ponownej walidacji.

Istnieje również rozróżnienie między modelami badawczymi a hostowanymi systemami frontier. Nie można zakładać, że techniki oparte na stanie wewnętrznym przeniosą się na systemy, których architektura, routing i proces po trenowaniu pozostają nieujawnione.

Najnowsze prace dotyczące przyczyn halucynacji modeli dodają kolejną komplikację. Badanie dotyczące bodźców ewaluacyjnych z 2026 r. argumentowało, że trenowanie predykcji kolejnego tokenu oraz ewaluacje skoncentrowane na dokładności nagradzają zgadywanie zamiast powstrzymywania się od odpowiedzi.

Detektor może oznaczać ryzykowne zgadywanie, lecz nie zmienia bodźca, który je wywołał. Zespoły wdrożeniowe mogą potrzebować reguł punktacji nagradzających odpowiednią odmowę, obok wyszukiwania, weryfikacji i wykrywania ryzyka.

Z tych powodów „18 z 20” powinno rozpoczynać dochodzenie, a nie je kończyć. Użyteczna replikacja zamroziłaby opublikowaną procedurę, przetestowała niewidziane rodziny modeli i ujawniła każde niepowodzenie bez zastępowania pierwotnego progu.

Trzy testy rozstrzygną, czy granica się utrzyma

Twierdzenie staje się istotne, jeśli ta sama granica przetrwa niezależną replikację, przesunięcia rozkładu oraz test routingu w stylu produkcyjnym.

Pierwszym sygnałem, na który warto zwrócić uwagę, jest kompletne wydanie materiałów. Powinno ono obejmować oba zapisy prerejestracji, kod, definicje cech, identyfikatory modeli, dane zadaniowe, etykiety, progi oraz wyniki na poziomie wdrożeń.

Takie wydanie wzmocniłoby twierdzenie, czyniąc decyzje dotyczące wycieku i selekcji audytowalnymi. Brakujące rejestracje lub niepełne wyniki dla poszczególnych modeli osłabiłyby je, zwłaszcza gdyby dostępne były tylko udane konfiguracje.

Drugim sygnałem jest niezależna replikacja na niewidzianych modelach i zadaniach. Najbardziej informacyjne testy obejmowałyby architektury z otwartymi wagami wykluczone z fazy rozwoju, prompty wielojęzyczne, odpowiedzi długiej formy, użycie narzędzi i generowanie oparte na dokumentach.

Replikacja powinna zachować pierwotną procedurę, zanim badacze zaczną cokolwiek dostrajać. Jeśli wydajność spadnie dopiero po przesunięciu domeny, detektor może nadal służyć jako skalibrowana lokalna bramka. Nie potwierdzałby jednak uniwersalnej granicy.

Trzecim sygnałem jest próba routingu powiązana z wynikami operacyjnymi. Badacze powinni mierzyć, czy wczesny wynik ogranicza niepoparte twierdzenia, gdy uruchamia wyszukiwanie, odmowę, ponowne próbkowanie lub weryfikację przez człowieka.

Taka próba wymaga czegoś więcej niż AUROC. Powinna raportować fałszywe alarmy, pominięte błędy, opóźnienia, dodatkowe obliczenia, wolumen weryfikacji oraz poprawność zaakceptowanych odpowiedzi. Te pomiary określają, czy detektor oszczędza zasoby, czy jedynie przenosi błędy.

Najbardziej obiecującym wynikiem nie jest doskonały miernik prawdy. Jest nim tania pierwsza bramka, która wychwytuje stabilny podzbiór ryzykownych promptów przed generowaniem i przekazuje je do rzeczywiście odmiennego mechanizmu weryfikacji.

Zgłoszony wynik dotyczący pewności sprawia, że taki projekt jest pilniejszy. Jeśli pewność i geometria pozostają redundantne, zespoły powinny przestać traktować ich połączenie jako dwa niezależne głosy. Powinny łączyć wynik wewnętrzny z wyszukiwaniem źródeł lub weryfikacją twierdzeń.

Programiści oceniający tę pracę mogą zadać trzy natychmiastowe pytania. Czy detektor zachowuje swój próg na naszych danych? Czy jego pominięcia skupiają się wokół rozpoznawalnego typu awarii? Czy kierowanie oznaczonych promptów poprawia końcową dokładność po uwzględnieniu wszystkich kosztów?

Szersza społeczność uczenia maszynowego powinna próbować obalić proponowaną granicę za pomocą kontrolowanych testów, a nie pojedynczych anegdot. Nieudana replikacja zawęziłaby twierdzenie. Udana ustanowiłaby użyteczny wspólny sygnał, nie udając, że wykrywa każdą halucynację.

To jest rzeczywista wartość zgłoszonego wyniku. Zastępuje poszukiwanie jednego uniwersalnego detektora mierzalną hipotezą: geometria modelu może zapewniać szerokie wczesne ostrzeżenie, podczas gdy prawda wciąż wymaga niezależnych dowodów.