Długotrwałe agenty AI podnoszą koszty, a rachunek wartości jest skomplikowany

Google News zwrócił 2 sierpnia uwagę na dosadne ostrzeżenie dotyczące długotrwałych agentów AI: „Licznik bije”. Nagłówek pojawił się w numerze 1166 biuletynu AI: Reset to Zero. Istota problemu jest jasna. Agenty pracują dłużej, lecz każdy etap planowania, wywołanie narzędzia, ponowna próba i ocena zużywają zasoby.

Ostrzeżenie pojawia się w czasie, gdy czołowe firmy AI zachęcają klientów, by wykraczali poza krótkie rozmowy z chatbotami. Google, Anthropic i OpenAI opisują obecnie agentów, którzy potrafią działać w różnych aplikacjach, zachowywać stan zadania i kontynuować pracę po odejściu użytkownika.

Dłuższe działanie tworzy nową wartość, ale zmienia też pytanie zakupowe. Kupujący muszą mierzyć zrealizowane rezultaty, a nie imponujące demonstracje ani pojedyncze wywołania modelu. Głównym starciem staje się dziś autonomia kontra rozliczalność.

To starcie ma znaczenie, ponieważ zmienia się ekonomiczna jednostka AI. Chatbot generuje odpowiedź, którą człowiek od razu weryfikuje. Agent może natomiast uruchomić kilka procesów, delegować pracę, sprawdzać wyniki i powtarzać nieudane kroki.

Każde dodatkowe działanie tworzy kolejne miejsce, w którym koszty lub błędy mogą się zwielokrotnić. Licznik nie mierzy wyłącznie inteligencji. Rejestruje wszystko, czego system próbował, zanim dostarczył coś użytecznego.

Co faktycznie sygnalizuje nagłówek z Google News

Istotnym wydarzeniem nie jest nagłówek jednego newslettera. Jest nim wejście kosztów operacyjnych agentów do głównego nurtu technologicznych dyskusji.

Google News zagregował materiał AI: Reset to Zero w ramach relacji o modelach AI. To umiejscowienie nie oznacza, że Google poparł argument autora. Google News jest powierzchnią odkrywania i agregacji, a nie pierwotnym wydawcą.

Mimo to agregacja ma znaczenie, ponieważ pokazuje, które pytania wychodzą poza kręgi specjalistów. Zużycie tokenów należało kiedyś głównie do dokumentacji API i paneli inżynierskich. Teraz kształtuje rozmowy o planowaniu zatrudnienia, budżetach na oprogramowanie i zakupach korporacyjnych.

Oddzielny newsletter CO/AI wykorzystał tę samą metaforę licznika w swoim argumencie dotyczącym kosztów. Jego teza głosiła, że subsydiowana inteligencja dobiega końca, gdy wykorzystanie AI staje się widoczne i mierzalne. Tekst przedstawiał rozliczaną AI jako ekonomiczne porównanie z pracą ludzi.

To porównanie jest prowokacyjne, ale może też wprowadzać w błąd. Działający agent nie jest automatycznie odpowiednikiem pracownika. Nie ponosi samodzielnie odpowiedzialności organizacyjnej, nie rozumie każdego niewypowiedzianego ograniczenia ani nie przyjmuje konsekwencji złej decyzji.

Agenty opierają się również na infrastrukturze, którą porównania z pracą ludzką często pomijają. Potrzebują modeli, integracji narzędzi, kontroli tożsamości, dostępu do danych, monitorowania, ocen i ścieżek eskalacji. Rzetelne obliczenie musi uwzględniać te systemy wspierające.

Nagłówek ujmuje zatem tylko pierwszą połowę historii. Tak, licznik bije. Pytanie bez odpowiedzi brzmi, czy mierzy produktywną pracę, nieudane eksplorowanie, powielony wysiłek, czy wszystkie te trzy rzeczy naraz.

To rozróżnienie oddziela użytecznego agenta od kosztownej pętli. System może pozostawać aktywny przez wiele godzin, wytwarzając niewielką trwałą wartość. Inny może wykonać krótką sekwencję zweryfikowanych działań, która eliminuje dni ręcznej koordynacji.

Sam czas trwania nie świadczy o produktywności. Wolumen tokenów nie świadczy o jakości. Nawet ukończone zadanie może być ekonomicznie nieopłacalne, gdy sprawdzanie i naprawianie wyniku pochłania więcej wysiłku, niż oszczędziła automatyzacja.

Google News pomaga ujawnić to napięcie szerszej publiczności. Rozmowa przesuwa się od pytania, czy agenty potrafią wykonywać długie zadania, do pytania, czy organizacje potrafią zarządzać tymi zadaniami w sposób ekonomiczny.

Długotrwałe agenty AI stają się rzeczywistymi procesami pracy

Długotrwałe agenty przechodzą od demonstracji laboratoryjnych do procesów pracy, które zatrzymują się, wznawiają działanie i przekraczają granice organizacji.

Agent Development Kit od Google ilustruje tę zmianę. Opublikowany w maju 2026 r. przewodnik po procesach agentowych opisał procesy, które mogą trwać tygodniami przy zachowaniu stanu.

Przykład dotyczył wdrażania nowych pracowników. Agent wysyła dokumenty, czeka na podpisy, deleguje przygotowanie technologii, śledzi dostawę sprzętu i przygotowuje harmonogram pierwszego dnia.

Nie jest to jedna długa odpowiedź modelu. To trwały proces pracy obejmujący aktywne działania, zapisany stan i okresy bezczynności. Agent musi wiedzieć, co zostało ukończone, co pozostaje zablokowane i które działanie wymaga zatwierdzenia.

Ta architektura zmienia sposób rozumienia kosztów operacyjnych. Agent oczekujący na podpis nie powinien stale zużywać zasobów modelu. Powinien zapisać swój stan, zawiesić wykonanie i wznowić je po zweryfikowanym zdarzeniu.

Źle zaprojektowane agenty mogą postępować odwrotnie. Mogą niepotrzebnie odpytywać systemy, odtwarzać kontekst po każdej przerwie albo wielokrotnie prosić model o interpretację niezmienionych informacji. Takie wzorce zamieniają upływ czasu w możliwe do uniknięcia zużycie.

Ten sam problem występuje w programowaniu. Anthropic opisuje agenty pracujące w wielu oknach kontekstowych, ponieważ istotne projekty programistyczne nie mieszczą się w jednej sesji. Każda nowa sesja wymaga niezawodnego przekazania informacji z poprzedniej.

Badania Anthropic dotyczące długotrwałych agentów wykorzystują inicjalizator oraz przyrostowy proces programowania. Agenty pozostawiają artefakty wyjaśniające ukończoną pracę i prowadzące kolejne sesje.

Te artefakty nie są administracyjną ozdobą. Stanowią mechanizm kontroli ekonomicznej. Jasny rejestr zadań zmniejsza ryzyko, że nowa sesja powtórzy analizę, ponownie otworzy rozstrzygnięte decyzje lub odtworzy już ukończone komponenty.

Długotrwała praca korzysta również z jawnych testów. Agent programistyczny potrzebuje obiektywnego sygnału wskazującego, czy jego zmiana działa. Bez takiego sygnału model może nadal poprawiać właściwą odpowiedź albo z przekonaniem zaakceptować wadliwą.

Innym konkretnym przypadkiem jest obliczeniowa praca naukowa. Anthropic poinformował o projekcie kompilatora, który działał w około 2 000 sesji. Późniejsze wskazówki podkreślały pliki postępu, wyrocznie testowe i ustrukturyzowaną orkiestrację dla wielodniowych zadań badawczych.

Takie przykłady pokazują realne możliwości. Ujawniają również, dlaczego licznik może przyspieszać. Ciągłość wymaga wielokrotnego budowania kontekstu, weryfikacji i koordynacji. Agent płaci operacyjny podatek za zachowanie spójności w czasie.

Ten podatek bywa uzasadniony. Projekt, który w przeciwnym razie wymagałby tygodni pracy specjalistów, może uzasadniać znaczne koszty obliczeń i przeglądu. Rutynowe zadanie administracyjne ma znacznie węższy margines tolerancji.

Określenie „długotrwały agent AI” obejmuje zatem dwa różne wymiary. Jeden to czas trwania, w tym czas spędzony na oczekiwaniu. Drugi to aktywna głębokość obliczeniowa, w tym rozumowanie, użycie narzędzi i ponowne próby.

Nabywcy korporacyjni muszą je rozdzielić. Proces trwający dwa tygodnie może być efektywny, jeśli uruchamia się tylko przy znaczących zdarzeniach. Dziesięciominutowy proces może być marnotrawny, jeśli wpada w niekontrolowaną pętlę.

Dlaczego koszty agentów trudno prosto prognozować

Wydatki na agenty stają się nieprzewidywalne, gdy model sam wybiera swoją ścieżkę, zamiast podążać ustaloną sekwencją.

Tradycyjne oprogramowanie ma stosunkowo stabilne wzorce wykonania. Żądanie trafia do systemu, uruchamia się znany kod, a system zwraca wynik. Inżynierowie mogą szacować zużycie zasobów na podstawie ruchu i danych porównawczych.

Agent zachowuje się inaczej. Planuje, działa, obserwuje i koryguje. Dwa podobne żądania mogą skutkować różną liczbą wywołań modeli, uruchomień narzędzi, zadań delegowanych i etapów walidacji.

Ta zmienność wynika z użytecznej elastyczności. Agent może odzyskać sprawność, gdy zmienia się strona internetowa, baza danych zwraca niepełne informacje albo pierwsza próba zawodzi. Stała automatyzacja często zatrzymuje się w tych samych warunkach.

Elastyczność tworzy także wariancję. Agent może wybrać niewłaściwe narzędzie, błędnie odczytać komunikat o błędzie lub powtórzyć działanie bez zmiany podejścia. Jedna błędna decyzja planistyczna może następnie wpłynąć na każdy dalszy krok.

Google Cloud zwrócił uwagę na te zagrożenia, omawiając obserwowalność dla swojego Agent Development Kit. Jego wskazówki dotyczące monitorowania wskazały pętle, ponowne próby, niepowodzenia przekazywania zadań, nieoczekiwane koszty i problemy z bezpieczeństwem.

Pętla jest szczególnie wymowna. Model może zinterpretować nieudane wywołanie narzędzia jako tymczasowy problem i spróbować ponownie. Jeśli przyczyną jest brak uprawnień, żadna liczba powtórzeń go nie rozwiąże.

Operator będący człowiekiem rozpoznaje ten wzorzec i eskaluje problem. Niedostatecznie ograniczony agent nadal zużywa zasoby, generując więcej danych o niepowodzeniu. Autonomia zamienia drobny problem z konfiguracją w zmienny rachunek operacyjny.

Systemy wieloagentowe wzmacniają ten efekt. Planista deleguje zadanie badaczowi, który przekazuje materiały autorowi, a ten przesyła wynik do ewaluatora. Każde przekazanie może dodać kontekst, opóźnienie i kolejną okazję do nieporozumienia.

Ewaluator może poprawić jakość, ale również zużywa zasoby. Jeśli przekazuje niejasne uwagi, agent produkcyjny może poprawiać cały artefakt zamiast usunąć pojedynczą wadę. Pętla oceny rozszerza się wtedy bez proporcjonalnej poprawy.

Anthropic testował ten kompromis w długotrwałym tworzeniu aplikacji. Jego wieloagentowy mechanizm wykorzystał role planisty, generatora i ewaluatora podczas wielogodzinnej sesji. System stworzył lepszą aplikację niż krótszy samodzielny przebieg.

Anthropic poinformował jednak, że pełniejszy proces był ponad 20 razy droższy. Wyniku tego nie należy traktować jako uniwersalnego wskaźnika. Pokazuje on, jak bardzo orkiestracja może zmienić profil kosztów pojedynczego zadania.

Kluczowym porównaniem nie jest pełny mechanizm kontra pojedynczy agent w oderwaniu od kontekstu. Kupujący muszą porównywać użyteczne rezultaty. Tani przebieg, który tworzy bezużyteczne oprogramowanie, ma niewielką wartość ekonomiczną, podczas gdy kosztowny przebieg może wciąż przewyższać projekt realizowany ręcznie.

Dlatego efektywność liczona na token nie może rozstrzygnąć tej debaty. Bardziej zaawansowany model może zużyć mniej tokenów, ponieważ szybciej odnajduje właściwą ścieżkę. Tańszy model może wymagać dodatkowych ponownych prób, ewaluatorów i napraw wykonywanych przez ludzi.

OpenAI przedstawił tę kwestię w swoich wskazówkach z lipca 2026 r. dotyczących zarządzania inwestycjami w AI. Argumentował, że najniższa cena za token niekoniecznie prowadzi do najniższego kosztu całkowitego.

Ta obserwacja wywiera presję na routery modeli i platformy korporacyjne. Kierowanie każdego kroku do najtańszego modelu może przynieść odwrotny skutek, gdy słabsze decyzje tworzą większe obciążenia w dalszej części procesu.

Odwrotna strategia również marnuje zasoby. Przydzielanie najbardziej zaawansowanego modelu do każdego kroku klasyfikacji, wyszukiwania czy formatowania ignoruje zadania, które mniejsze systemy mogą wykonywać niezawodnie.

Efektywna orkiestracja wymaga routingu dostosowanego do zadania. Złożone planowanie może uzasadniać silniejsze rozumowanie. Deterministyczne przekształcenia mogą w ogóle nie wymagać modelu generatywnego. Działania wysokiego ryzyka wymagają większej weryfikacji niż odwracalne kroki badawcze.

Problem polega na tym, że zespoły muszą projektować te polityki, zanim zgromadzą dużo danych produkcyjnych. Wczesne wdrożenia często opierają się na dokładności benchmarków, jednak benchmarki rzadko odtwarzają rzeczywiste awarie narzędzi, nieaktualne uprawnienia lub niejednoznaczne wewnętrzne instrukcje.

To pozostawia przedsiębiorstwa z luką prognostyczną. Znają koszt pojedynczego wywołania modelu. Nie znają jeszcze stabilnego kosztu zaakceptowanego wyniku biznesowego.

Autonomia kontra rozliczalność to prawdziwe starcie

Długodziałający agenci AI stają się ekonomicznie użyteczni dopiero wtedy, gdy organizacje potrafią powiązać każde działanie z właścicielem, celem, budżetem i wynikiem.

Nagłówek AI: Reset to Zero przedstawia problem jako rosnący licznik. Takie ujęcie staje się praktyczne, gdy zespoły potrafią prześledzić, co wpłynęło na licznik i dlaczego.

Obecny model obserwowalności agentów Google Cloud kładzie nacisk na logi, metryki i ślady. Logi rejestrują zdarzenia i błędy. Metryki podsumowują opóźnienia i wykorzystanie tokenów.

Ślady odtwarzają ścieżkę wykonania. Mogą pokazać, ile wywołań modelu nastąpiło, które narzędzia wybrano i gdzie przepływ pracy się rozgałęził. Ten poziom szczegółowości jest niezbędny do diagnozowania zarówno kosztów, jak i zachowania systemu.

Miesięczna suma nie pozwala wskazać przyczyny marnotrawstwa. Ta sama wartość może oznaczać dziesięć wartościowych analiz albo tysiące błahych ponowień. Łączne wydatki dają kontrolę dopiero po fakcie.

Śledzenie pojedynczych przepływów pracy pozwala zadać lepsze pytanie: Która sekwencja doprowadziła do zaakceptowanego wyniku? Zespoły mogą wtedy porównywać udane, nieudane i porzucone uruchomienia, nie traktując ich wykorzystania zasobów jako równoważnego.

Jednostką ekonomiczną powinien stać się zweryfikowany rezultat. W programowaniu może to być scalona zmiana przechodząca testy. W obsłudze klienta — rozwiązana sprawa, która nie zostaje ponownie otwarta.

W badaniach takim rezultatem może być notatka decyzyjna, której cytowania przechodzą weryfikację. Przy wdrażaniu pracownika — kompletny rekord pracowniczy zarejestrowany wraz ze wszystkimi zatwierdzeniami.

Podejście oparte na rezultatach zmienia też wewnętrzne bodźce. Zespół nagradzany za obniżanie wolumenu tokenów może wdrażać słabsze modele, które wymagają więcej ręcznego poprawiania. Zespół nagradzany wyłącznie za ukończenie zadania może ignorować nadmierne ponowienia.

Użyteczna metryka łączy jakość, koszt i czas. Powinna również uwzględniać ryzyko. Agent wysyłający nieprawidłowe wewnętrzne podsumowanie to coś innego niż agent zatwierdzający płatność lub modyfikujący infrastrukturę produkcyjną.

Autonomia powinna rosnąć tylko tam, gdzie wspierają ją dowody. Zadania o niskim ryzyku mogą tolerować szerszą eksplorację. Działania o istotnych konsekwencjach wymagają granic uprawnień, kroków potwierdzających i, gdy to możliwe, odwracalnego wykonania.

Anthropic definiuje agenta jako model, który sam kieruje własnymi procesami i użyciem narzędzi. Jego ramy zarządzania agentami podkreślają, że zachowanie zależy od modelu, mechanizmu sterującego, narzędzi i środowiska.

Szersze spojrzenie ma znaczenie dla kontroli kosztów. Silny model może nadal marnować zasoby w źle skonfigurowanym mechanizmie sterującym. Właściwy plan może mimo to zawieść, gdy narzędzie zwraca niejasne błędy.

Środowisko określa stawkę. Agent z dostępem tylko do odczytu do zbioru dokumentów może bezpiecznie prowadzić eksplorację. Ten sam agent podłączony do systemów poczty e-mail, finansów i wdrożeń potrzebuje znacznie ściślejszych ograniczeń.

Rozliczalność wymaga również trwałej pamięci. Przepływ pracy powinien zachowywać decyzje, zatwierdzenia, źródła i nierozwiązane zobowiązania. Trwała pamięć wprowadza jednak własne ryzyka, w tym nieaktualne instrukcje i błędnie utrwalone założenia.

Długi kontekst sam w sobie nie rozwiązuje tego problemu. Umieszczenie całej historii w oknie modelu może zwiększać przetwarzanie, jednocześnie utrudniając znalezienie istotnych faktów. Większa ilość zachowanego tekstu nie oznacza lepiej zarządzanego stanu.

Ustrukturyzowana warstwa wiedzy może pomóc oddzielić zweryfikowane decyzje od surowej rozmowy. Dla pracowników wiedzy osobista baza wiedzy może zachować materiały źródłowe bez zmuszania każdego uruchomienia agenta do ponownego czytania wszystkiego.

Agent powinien pobierać tylko to, czego wymaga bieżący krok. Powinien także rejestrować, które źródło wspierało każdą istotną decyzję. Takie podejście zmniejsza obciążenie kontekstu i poprawia możliwość audytu.

Rozliczalność nie jest więc hamulcem dla autonomii. To infrastruktura, która czyni autonomię możliwą do obrony biznesowo. Bez niej dłuższe działanie przede wszystkim powiększa niepewność otaczającą każdy wynik.

Czego licznik nadal nie może powiedzieć kupującym

Dane o wykorzystaniu zasobów mogą ujawnić, dokąd one trafiły, ale nie mogą dowieść, że agent stworzył wartość ani że zasługuje na większe uprawnienia.

Economic Index Anthropic z czerwca 2026 roku pokazuje, jak szybko zmieniają się wzorce użycia. Sesje Claude coraz częściej obejmują długotrwałe zadania realizowane przez Claude Code i Cowork.

Raport wykazał, że bardziej złożone wyniki zwykle zużywają więcej tokenów niż prostsze odpowiedzi. Rozmowy dotyczące tworzenia aplikacji wykorzystywały ponad trzykrotnie więcej tokenów niż mediana rozmów.

Wykazał też związek między wykorzystaniem tokenów a ekonomiczną wartością przypisanych zawodów. Rozmowy powiązane z lepiej opłacaną pracą zwykle obejmowały więcej wyników, większe zaangażowanie użytkownika i nieco bardziej rozbudowane rozumowanie.

Te ustalenia wspierają rozsądną intuicję. Trudniejsza praca często wymaga więcej obliczeń. Ograniczanie użycia bez uwzględnienia złożoności zadania może niszczyć wartość, zamiast poprawiać efektywność.

Korelacja nie jest jednak dowodem produktywności. Rozmowa przypisana do wysoko opłacanego zawodu nie generuje automatycznie pracy o wartości rynkowej tego zawodu.

Model może stworzyć użyteczny szkic, nieprawidłowy artefakt albo wiarygodnie brzmiącą odpowiedź wymagającą weryfikacji eksperta. Zużycie tokenów opisuje aktywność. Nie mierzy, ile odpowiedzialności pozostało po stronie użytkownika.

Sam raport Anthropic zawiera ważną wskazówkę. Użytkownicy pozostawali bardziej zaangażowani w zadania o wyższej wartości, nawet gdy Claude generował więcej wyników. Ten wzorzec bardziej przypomina wspomaganie niż pełne zastępowanie pracy ludzkiej.

To ustalenie komplikuje próby bezpośredniego porównywania stanowiska obsługiwanego przez agenta ze stanowiskiem człowieka. Agent może zwiększać wydajność specjalisty, pozostając jednocześnie zależnym od niego w zakresie kierunku, osądu i rozliczalności.

Najlepsze wdrożenie może zatem utrzymywać głęboki udział człowieka. Ekspert dziedzinowy może definiować kryteria akceptacji, rozpoznawać subtelne błędy i decydować, kiedy dalsza eksploracja przestaje uzasadniać swój koszt.

Dłuższej autonomii nie należy traktować jako bezwarunkowego celu. Lutowe badanie Anthropic wykazało, że najdłuższe sesje Claude Code wydłużyły się z mniej niż 25 minut do ponad 45 minut w ciągu trzech miesięcy.

Niemal dwukrotnie dłuższy czas wskazuje na rosnące możliwości i zaufanie użytkowników. Nie ujawnia jednak, czy każda dodatkowa minuta poprawiała wynik. Dłuższe sesje mogą zawierać zarówno produktywną wytrwałość, jak i nieproduktywne błądzenie.

Występuje też problem selekcji. Użytkownicy mogą przyznawać dłuższe uruchomienia zadaniom z wyraźniejszymi testami, takim jak kompilacja oprogramowania. Praca obejmująca negocjacje, strategię lub niejednoznaczny gust oferuje słabsze sygnały zatrzymania.

Agent z zestawem testów wie, kiedy oprogramowanie zawodzi. Agent przygotowujący dokument strategiczny może nadal wprowadzać zmiany stylistyczne, ponieważ nie ma binarnego wyroczni, która nakazałaby mu się zatrzymać.

Agenci ewaluacyjni oferują jedną odpowiedź, lecz ich osąd może dzielić słabości generatora. Anthropic zauważył, że modele często oceniają własną pracę zbyt hojnie, zwłaszcza w zadaniach subiektywnych.

Rozdzielenie generowania i oceny poprawia projekt systemu. Nie czyni jednak oceny obiektywną. Obaj agenci mogą nadal nagradzać dopracowany język kosztem głębi faktycznej albo zaakceptować to samo ukryte założenie.

Ludzka weryfikacja pozostaje konieczna tam, gdzie błędy niosą istotne konsekwencje. Obciążenie związane z przeglądem musi pojawić się w kalkulacji ekonomicznej. W przeciwnym razie organizacje liczą wynik modelu jako ukończoną pracę, ukrywając nakład pracy potrzebny do jego zweryfikowania.

Bezpieczeństwo dodaje kolejną nieoszacowaną zmienną. Długodziałający agent napotyka więcej dokumentów, wiadomości, stron internetowych i odpowiedzi narzędzi. Każde dodatkowe wejście może zawierać wprowadzające w błąd instrukcje lub próby wstrzyknięcia promptu.

Większy dostęp do narzędzi zwiększa potencjalne szkody. Wymykająca się spod kontroli pętla badawcza marnuje moc obliczeniową. Przejęty agent operacyjny może ujawnić dane, wysyłać wiadomości lub zmieniać systemy, zanim ktokolwiek to zauważy.

Limity kosztów są użytecznymi, ale niepełnymi zabezpieczeniami. Przepływ pracy może wyrządzić poważną szkodę, pozostając w budżecie. Projektowanie uprawnień, potwierdzanie działań i wykrywanie anomalii muszą działać obok kontroli zasobów.

Sam licznik nie potrafi więc odpowiedzieć na najważniejsze pytanie zarządcze. Może pokazać, co agent zużył. Nie potrafi określić, czy organizacja powinna powierzyć temu agentowi więcej pracy.

Na co czytelnicy Google News powinni zwrócić uwagę w następnej kolejności

O kolejnej fazie zdecyduje rozliczanie rezultatów, trwałe wykonywanie zadań i twarde ograniczenia działające podczas rzeczywistych awarii produkcyjnych.

Pierwszym sygnałem będzie to, czy dostawcy ujawnią koszt na zweryfikowany rezultat. Sumy tokenów i liczba wywołań modelu są użytecznymi danymi inżynieryjnymi, ale kupujący potrzebują miar na poziomie przepływu pracy, powiązanych z zaakceptowanymi wynikami.

Platformy powinny rozróżniać udane, nieudane, ponowione i uratowane przez człowieka uruchomienia. Powinny także pokazywać, który model, narzędzie lub odgałęzienie w największym stopniu przyczyniło się do końcowego kosztu.

Jeśli te mechanizmy kontroli staną się standardem, argument stojący za nagłówkiem Google News zyska produktywną siłę. Licznik stanie się narzędziem optymalizacji zamiast lampką ostrzegawczą.

Jeśli dostawcy nadal będą podkreślać szerokie sumy wykorzystania, zespołom korporacyjnym trudno będzie porównywać wdrożenia. Mogą ograniczać dostęp bez rozróżnienia, ponieważ nie potrafią wskazać przepływów pracy tworzących wartość.

Drugim sygnałem będzie przyjęcie wzorców trwałego wykonywania zadań. Architektura wstrzymywania i wznawiania Google stanowi jeden przykład. Agenci powinni utrwalać stan w okresach bezczynności i wznawiać pracę na podstawie zweryfikowanych zdarzeń.

Architektura ta musi również przetrwać awarie. Zrestartowany proces powinien wiedzieć, które działania już nastąpiły. Nie powinien dwa razy wysyłać tej samej wiadomości, ponownie otwierać zamkniętego zgłoszenia ani powtarzać zewnętrznej transakcji.

Rejestry postępu, narzędzia idempotentne i jawne zapisy zatwierdzeń są mniej widoczne niż inteligencja modeli. To one zdecydują, czy długodziałający agenci AI będą mogli działać przez kilka dni bez powodowania operacyjnego zamieszania.

Szersze wykorzystanie tych wzorców wzmocni argument za długotrwałą autonomią. Utrzymujące się awarie i zduplikowane działania go osłabią, niezależnie od poprawy wyników benchmarków.

Trzecim sygnałem będzie pojawienie się egzekwowalnych granic zasobów i uprawnień. Panel raportujący nadmierne zużycie po zakończeniu pracy nie jest twardym limitem.

Zespoły potrzebują mechanizmów, które wstrzymują przepływ pracy, gdy przekracza on oczekiwaną liczbę kroków, powtarza wywołanie narzędzia, zbyt często zmienia plan lub zbliża się do określonego budżetu zasobów.

Wstrzymanie powinno zachować dowody do przeglądu. Operatorzy muszą widzieć ostatni zweryfikowany stan agenta, nierozwiązany cel, ostatnie odpowiedzi narzędzi i powód eskalacji.

Granice uprawnień powinny działać tak samo. Agent może badać zakup, nie dokonując go. Może przygotować e-mail, nie wysyłając go. Może zaproponować wdrożenie, nie modyfikując środowiska produkcyjnego.

Jeśli platformy uczynią te granice prostymi i niezawodnymi, przedsiębiorstwa będą mogły stopniowo przyznawać autonomię. Jeśli mechanizmy kontroli pozostaną niestandardowymi projektami inżynieryjnymi, wdrażanie skoncentruje się w organizacjach dysponujących dużymi zespołami infrastrukturalnymi.

Google News prawdopodobnie będzie publikować więcej historii o agentach zastępujących zadania, pracujących przez wiele godzin i działających w różnych obszarach oprogramowania. Czytelnicy powinni patrzeć dalej niż na czas trwania i pytać, co zatrzymało przepływ pracy.

Czy zakończył się, ponieważ cel został zweryfikowany, ponieważ człowiek zatwierdził wynik, czy dlatego, że wygasł budżet? To zasadniczo różne rezultaty.

Metafora licznika jest użyteczna, ponieważ uwidacznia ukryte zużycie. Jej słabością jest sprowadzanie złożonej pracy do jednej narastającej liczby.

Dojrzały rynek agentów potrzebuje kilku liczników. Jeden powinien śledzić zasoby. Drugi — zaakceptowane rezultaty. Trzeci — ryzyko, interwencje i odwracalność.

Pracownicy umysłowi mogą się przygotować, zachowując materiały źródłowe i decyzje potrzebne agentom, zamiast odtwarzać kontekst przy każdym zadaniu. Przeszukiwalny drugi mózg może sprawić, że takie przekazywanie pracy będzie bardziej selektywne i możliwe do audytu.

Praktyczne pytanie nie brzmi już, czy długodziałający agent AI może nadal pracować. Google News pomogło wyeksponować w debacie publicznej trudniejsze pytanie: czy ktokolwiek potrafi wyjaśnić, co agent osiągnął, zanim licznik się zatrzymał?