Simon Willison mówi: Nie bądź mięsnym pośrednikiem dla AI

Simon Willison wystosował 3 sierpnia dosadne ostrzeżenie: nie stawaj się „mięsnym pośrednikiem”, który bezrefleksyjnie przekazuje odpowiedzi wygenerowane przez AI. To określenie z niezwykłą precyzją opisuje znaną porażkę w miejscu pracy. Ktoś zadaje pytanie, inna osoba wpisuje je do modelu, a jego odpowiedź trafia dalej bez istotnej ludzkiej weryfikacji.

Wyrażenie pochodzi od Niklasa Gruhna, któremu Willison przypisuje autorstwo w swoim wpisie z 3 sierpnia. Rada Willisona nie oznacza odrzucenia promptowania ani pisania wspieranego przez AI. Wymaga, by użytkownicy przeczytali, zrozumieli, zweryfikowali i przeredagowali wynik, zanim go udostępnią.

To rozróżnienie podważa częstą obietnicę stojącą za AI w pracy. Systemy generatywne mogą skrócić czas potrzebny na stworzenie tekstu, ale szybkość nie jest tym samym co ukończona praca. Gdy człowiek jedynie transportuje wynik modelu, odbiorca przejmuje ciężar weryfikacji, którego nadawca uniknął.

Prawdziwy spór nie toczy się więc między ludźmi a AI. Chodzi o odpowiedzialne wsparcie kontra bezrefleksyjne delegowanie. Pierwsza droga wykorzystuje model do przyspieszenia myślenia. Druga przedstawia niepewną odpowiedź modelu jako przemyślany osąd współpracownika.

Simon Willison nadaje nazwę bezrefleksyjnemu przekazywaniu odpowiedzi AI

„Mięsny pośrednik” opisuje osobę, która pełni funkcję warstwy dostarczającej między systemem AI a innym człowiekiem.

Krótki wpis Willisona krystalizuje zachowanie, które rozprzestrzeniło się w e-mailach, czatach, dokumentach, przeglądach kodu i systemach wsparcia. Użytkownik otrzymuje pytanie i wprowadza je do dużego modelu językowego. Wygenerowana odpowiedź jest następnie wklejana do pierwotnej rozmowy z niewielką kontrolą lub bez przekształcenia.

To określenie ma znaczenie, ponieważ „treść wygenerowana przez AI” jest zbyt szerokie. Może opisywać wszystko — od starannie sprawdzonego szkicu po nietkniętą odpowiedź. „Mięsny pośrednik” wyodrębnia porażkę leżącą u podstaw drugiego przypadku: nominalny autor nie wnosi ani weryfikacji, ani odpowiedzialnego osądu.

Willison zaleca wyraźną granicę. Promptowanie systemu AI jest dopuszczalne, ale jego odpowiedź powinna pozostać materiałem pośrednim. Użytkownik musi ją przeczytać, zrozumieć jej rozumowanie, zweryfikować jej twierdzenia i odpowiedzieć własnymi słowami.

Przeredagowanie nie jest wyłącznie stylistyczną preferencją. Stanowi dowód, że nadawca przetworzył odpowiedź wystarczająco dogłębnie, by móc ją wyjaśnić. Ten dowód nie jest doskonały, ponieważ człowiek może sparafrazować nonsens, ale tworzy użyteczne tarcie przed publikacją.

Rozważmy rutynową wymianę między inżynierami. Członek zespołu pyta, dlaczego usługa zwraca sporadyczne błędy uwierzytelniania. Inny inżynier wkleja pytanie do asystenta AI i przekazuje dalej dopracowane wyjaśnienie dotyczące wygasłych tokenów.

Wyjaśnienie brzmi wiarygodnie, lecz faktyczną przyczyną może być dryf zegara, wadliwe wdrożenie lub niezwiązana z tym konfiguracja proxy. Przekazanie odpowiedzi zamienia przypuszczenie w komunikat, który odbiorcy mogą uznać za sprawdzony fakt.

Ten sam wzorzec pojawia się w zarządzaniu. Dyrektor pyta o ryzyka wejścia na nowy rynek, a analityk przekazuje ogólną ocenę wygenerowaną przez model. Odpowiedź może pomijać lokalne regulacje, istniejące umowy lub informacje znajdujące się wewnątrz firmy.

Widoczny dokument wygląda na ukończony, ale praca analityczna pozostaje niewykonana. Jego płynność językowa ukrywa lukę między stworzeniem odpowiedzi a ustaleniem, czy pasuje ona do sytuacji.

„Mięsny pośrednik” daje zespołom zwięzły sposób na wskazanie tej luki. Przypisuje też odpowiedzialność osobie, która decyduje się przekazać wynik dalej, a nie wyłącznie modelowi, który go wygenerował.

Płynna odpowiedź przenosi weryfikację na odbiorcę

Mięsny pośrednik nie usuwa pracy z rozmowy. Przenosi trudną pracę na kolejną osobę.

Generatywna AI sprawia, że tworzenie szkiców jest tanie, szybkie i obfite. Weryfikacja nadal wymaga sprawdzania źródeł, wiedzy dziedzinowej, świadomości kontekstu oraz decyzji dotyczących niepewności. Zadania te często zajmują więcej czasu niż wygenerowanie pierwszej odpowiedzi.

Bezrefleksyjne przekazywanie tworzy asymetryczną wymianę. Nadawca poświęca sekundy na stworzenie kilku akapitów. Odbiorca musi sprawdzić każde twierdzenie faktyczne, odnaleźć brakujący kontekst, wykryć sprzeczności i zdecydować, czy można bezpiecznie zastosować radę.

Ta nierównowaga pogarsza się wraz z długością wygenerowanej odpowiedzi. Długa odpowiedź może zawierać wiele indywidualnie wiarygodnych twierdzeń, z których każde niesie niewielkie prawdopodobieństwo błędu. Odbiorca nie może wywnioskować wiarygodności z pewnego tonu ani dopracowanej struktury.

Badacze nazywają część tego problemu automatyzacyjnym uprzedzeniem — skłonnością do nadmiernego polegania na automatycznych rekomendacjach mimo powodów do ostrożności. Przegląd 35 recenzowanych badań wykazał, że nadmierne poleganie pozostaje kluczowym wyzwaniem we współpracy ludzi i AI.

Ryzyko istniało jeszcze przed dużymi modelami językowymi. Systemy automatyczne wpływały na decyzje w lotnictwie, medycynie, administracji publicznej i innych dziedzinach od dekad. Generatywna AI rozszerza ten problem, ponieważ potrafi tworzyć przekonujące wyjaśnienia na niemal każdy temat.

Tradycyjne oprogramowanie często ujawnia swoje ograniczenia poprzez ustrukturyzowane dane wejściowe i przewidywalne wyniki. Model konwersacyjny może odpowiadać na pytania nawet wtedy, gdy nie dysponuje istotnymi dowodami. Ta elastyczność jest użyteczna, ale utrudnia też rozpoznanie niepopartych odpowiedzi.

Odbiorca mierzy się zarówno z sygnałem społecznym, jak i technicznym. Wiadomość od współpracownika zwykle sugeruje, że wybrał on treść, zrozumiał ją i bierze za nią odpowiedzialność. Nieujawnione przekazywanie odpowiedzi AI osłabia to założenie, nie zmieniając wyglądu wiadomości.

Dlatego samo ujawnienie użycia AI nie rozwiąże całego problemu. Oznaczenie tekstu jako wygenerowanego przez AI ostrzega czytelników, ale może również komunikować, że nadawca oczekuje od nich wykonania kontroli. Nadawca nadal musi ustalić, czy materiał zasługuje na przekazanie.

Obciążenie staje się szczególnie widoczne w kodzie. Wygenerowana łatka może się kompilować i przechodzić podstawowe testy, a jednocześnie wprowadzać niebezpieczne założenia lub subtelne problemy z utrzymaniem. Recenzenci muszą wtedy odtworzyć podejście, którego zgłaszający programista nigdy w pełni nie zrozumiał.

Zespoły wsparcia napotykają pokrewną porażkę. Agent może przekazać odpowiedź zgodną ze znanym szablonem, ale sprzeczną z kontem klienta, jego umową lub wcześniejszym rozwiązywaniem problemu. Klient płaci wtedy za brakującą kontrolę kontekstu opóźnieniem i frustracją.

Problem nie polega na tym, że każda wiadomość wspierana przez AI wymaga oryginalnych badań. Notatka o harmonogramie lub podstawowe przeredagowanie wiążą się z mniejszym ryzykiem niż porada prawna czy zmiana na produkcji. Wymagana kontrola powinna rosnąć wraz z konsekwencjami błędu.

Mimo to nawet wiadomości o niskiej stawce wpływają na zaufanie. Współpracownicy szybko zauważają odpowiedzi, które powtarzają ich pytanie, ignorują wspólny kontekst lub oferują pięć ogólnych opcji bez rekomendacji. Takie wzorce sygnalizują, że nikt nie przyjął prośby w sposób znaczący.

Ujęcie Willisona przekształca tę irytację w kwestię pracy. Jeśli nadawca nie zrozumiał ani nie ocenił odpowiedzi, ludzki wkład ogranicza się do transportu. Pozostała praca poznawcza nie zniknęła.

Prawdziwy spór to wsparcie kontra delegowanie

Wsparcie AI pozostawia osąd po stronie użytkownika, podczas gdy delegowanie AI po cichu oddaje osąd systemowi probabilistycznemu.

Duży model językowy, czyli LLM, generuje tekst, przewidując prawdopodobne sekwencje tokenów na podstawie wyuczonych wzorców i dostarczonego kontekstu. Nie weryfikuje automatycznie każdego stwierdzenia względem autorytatywnych dowodów. Nie zna też niewyrażonych zobowiązań nadawcy.

Wsparcie zaczyna się wtedy, gdy użytkownik przydziela systemowi ograniczoną rolę. Model może proponować pytania, reorganizować notatki, wskazywać możliwe kontrargumenty lub tworzyć szkice na podstawie zweryfikowanych faktów. Osoba pozostaje odpowiedzialna za wybór i sprawdzenie wyniku.

Delegowanie zaczyna się wtedy, gdy wynik modelu staje się odpowiedzią wyłącznie dlatego, że istnieje. Użytkownik przestaje traktować generowanie jako jeden z etapów pracy. Szkic omija analizę i trafia do ludzkiej rozmowy jako gotowy produkt.

Różnica może być subtelna. Obaj użytkownicy mogą zacząć od tego samego promptu i otrzymać identyczny tekst. Jeden sprawdza cytowania, usuwa niepoparte twierdzenia, dodaje lokalny kontekst i zmienia wniosek. Drugi naciska kopiuj i wklej.

Tylko pierwszy użytkownik wnosi możliwą do obrony wartość. Wartość ta ujawnia się w pominięciach równie często jak w dodatkach. Dobry osąd często oznacza usunięcie pewnej siebie spekulacji, zawężenie rekomendacji lub przyznanie, że dostępne dowody nie pozwalają rozstrzygnąć pytania.

Badania sektora publicznego pokazują, dlaczego sama obecność człowieka zapewnia słabą ochronę. W trzech eksperymentach badacze analizujący porady algorytmiczne znaleźli dowody na automatyzacyjne uprzedzenia i selektywne stosowanie się do rekomendacji zgodnych z istniejącymi stereotypami.

Człowiek może więc formalnie pozostawać „w pętli”, a jednocześnie zapewniać niewielki nadzór. Istotne pytanie brzmi, czy potrafi zakwestionować system, rozpoznać złą odpowiedź i wziąć odpowiedzialność za jej odrzucenie.

To rozróżnienie wywiera presję na organizacje wdrażające AI poprzez proste cele dotyczące wyników. Jeśli liderzy mierzą liczbę wysłanych e-maili, zamkniętych zgłoszeń, przygotowanych raportów lub przesłanego kodu, wygenerowana ilość wygląda jak sukces. Metryka nie ujawnia, kto poniósł koszt weryfikacji.

Pracownicy również stają wobec mieszanych zachęt. Zachęca się ich do korzystania z AI i szybszego dostarczania wyników, ale mogą otrzymywać niewiele czasu na sprawdzanie wygenerowanej pracy. W takich warunkach zachowanie mięsnego pośrednika może stać się racjonalną odpowiedzią na nieracjonalny proces pracy.

Menedżerowie nie mogą naprawić tego, nakazując wszystkim „kierować się osądem”. Zespoły potrzebują granic odpowiedzialności. Nadawca powinien wiedzieć, które twierdzenia wymagają dowodów, które decyzje wymagają przeglądu i jaką niepewność należy ujawnić.

Praktyczny proces pracy zaczyna się od materiału źródłowego, a nie od promptu. Użytkownicy powinni zgromadzić istotne dokumenty, wcześniejsze decyzje, dane źródłowe i ograniczenia. Przeszukiwalna baza wiedzy może ułatwić odzyskanie tego kontekstu, ale samo wyszukiwanie nadal wymaga oceny.

Model może następnie pomóc przeanalizować ten materiał. Może porównywać dokumenty, znajdować rozbieżności, tworzyć szkic lub proponować brakujące pytania. Użytkownik musi zdecydować, czy odpowiedź odzwierciedla dowody i rzeczywistą prośbę.

Na koniec nadawca powinien przeredagować wynik wokół jasnego wniosku. Odpowiedź potrzebuje odpowiedzialnej rekomendacji, wspierających dowodów, widocznej niepewności i wszelkich wymaganych kolejnych działań. Ogólna odpowiedź modelu zwykle nie zawiera co najmniej jednego z tych elementów.

Takie podejście nie wymaga ceremonialnego przeredagowywania każdego nieszkodliwego zdania. Wymaga intelektualnej odpowiedzialności. Jeśli nadawca nie potrafi wyjaśnić, dlaczego odpowiedź jest poprawna, istotna i odpowiednio zastrzeżona, nie jest gotowa do wysłania.

Pisanie własnymi słowami to kontrola, nie lekarstwo

Przeredagowanie podnosi koszt niedbałego przekazywania, ale dopracowana parafraza nie może uczynić niepopartego twierdzenia prawdziwym.

Willison nazywa oryginalną odpowiedź przyzwoitym certyfikatem, że autor wykonał wcześniejsze kroki. Kluczowe słowo to „przyzwoitym”. Pisanie własnymi słowami stanowi dowód zaangażowania, a nie potwierdzenie faktycznej poprawności.

Użytkownik może źle zrozumieć model i elegancko powtórzyć jego błąd. Inny może użyć parafrazera AI, aby ukryć nietkniętą odpowiedź. Organizacje nie powinny mylić powierzchownej oryginalności z rzeczywistą weryfikacją.

Najmocniejszą częścią tej propozycji jest kolejność stojąca za przeredagowaniem: przeczytać, zrozumieć, zweryfikować, a następnie odpowiedzieć. Każdy z tych czasowników odpowiada na inną porażkę. Czytanie wyłapuje oczywistą nieadekwatność. Zrozumienie sprawdza, czy użytkownik potrafi wyjaśnić tok rozumowania.

Weryfikacja porównuje twierdzenia z dowodami, systemami lub opinią wykwalifikowanych ekspertów. Przeredagowanie zmusza następnie użytkownika do wyboru tego, co istotne, i przyjęcia odpowiedzialności za autorstwo. Pominięcie weryfikacji sprawia, że ostatni krok staje się kosmetycznym praniem treści.

Eksperymenty sugerują, że celowe utrudnienia mogą pomagać. W jednym badaniu z 2025 roku uczestnicy otrzymujący błędne wsparcie AI poprawnie odpowiedzieli na mniej niż połowę pytań refleksyjnych w porównaniu z grupą kontrolną. Ostrzeżenie niemal podwoiło wyniki w porównaniu z samą błędną pomocą.

Ostrzeżenie nie podniosło wyników ponad poziom grupy bez wsparcia. Zgłaszana przez uczestników znajomość AI również nie zapobiegała istotnie efektowi automatyzacji w tym eksperymencie. Znajomości tworzenia promptów nie należy więc mylić z niezawodnym sceptycyzmem.

Użyteczny proces przeglądu musi sprawdzać meritum. W przypadku tekstów faktograficznych użytkownicy mogą wskazać każde istotne twierdzenie i dołączyć autorytatywne źródło. W przypadku kodu mogą wyjaśnić zmianę, uruchomić odpowiednie testy i sprawdzić zachowania wrażliwe z punktu widzenia bezpieczeństwa.

W przypadku analiz użytkownicy mogą określić założenia, które prowadzą do rekomendacji. Powinni również zapytać, jakie dowody skłoniłyby ich do zmiany wniosku. To pytanie ujawnia, czy tekst zawiera argument, czy jedynie wiarygodnie brzmiącą narrację.

W komunikacji zewnętrznej autorzy powinni porównać szkic z rzeczywistymi potrzebami odbiorcy. Klient pytający, czy incydent ujawnił dane, nie potrzebuje ogólnego wyjaśnienia szyfrowania. Potrzebuje popartej dowodami odpowiedzi, znanych ograniczeń i terminu kolejnej aktualizacji.

Ta sama dyscyplina dotyczy podsumowań. Model może dokładnie skrócić transkrypcję spotkania, a jednocześnie przeoczyć polityczne znaczenie jednego sprzeciwu. Ktoś obecny na spotkaniu musi zdecydować, które wypowiedzi były zobowiązaniami, sugestiami lub nierozstrzygniętymi sporami.

Kontekst osobisty może poprawić generowanie, ale nie może zastąpić tej decyzji. Osobisty przepływ pracy z wiedzą może zachowywać źródła i wcześniejsze rozumowanie. Użytkownik nadal odpowiada za interpretację udostępnianą innym.

Sceptyczne spojrzenie na sformułowanie Willisona warto potraktować poważnie. „Meat proxy” może stać się obelgą wymierzoną w młodszych pracowników, osoby niebędące rodzimymi użytkownikami języka lub ludzi korzystających z AI ze względów dostępności. Może też nagradzać niewidoczne użycie AI, gdy dopracowane przeredagowanie ukrywa rolę systemu.

Zespoły powinny używać tego terminu do diagnozowania przepływu pracy, a nie do zawstydzania człowieka. Istotnym standardem jest odpowiedzialne postępowanie z wynikiem. Powinien on dotyczyć w równym stopniu kadry kierowniczej, programistów, analityków, wykonawców i menedżerów.

Nie każde zdanie wspomagane przez AI musi też wymagać ujawnienia. Zasady ujawniania zależą od ryzyka, polityki i odbiorcy. Centralny obowiązek jest silniejszy niż etykieta: nie wolno zmuszać innej osoby do polegania na materiale, którego nikt odpowiedzialnie nie sprawdził.

Istnieje też niebezpieczeństwo romantyzowania samodzielnej pracy człowieka. Ludzie kopiują złe porady, błędnie zapamiętują fakty i przekazują nieistotne dokumenty bez udziału AI. Ludzkie autorstwo nigdy nie gwarantowało prawdy.

Generatywna AI zmienia skalę i formę tego starego problemu. Tworzy dopracowane odpowiedzi szybciej, niż ludzie są w stanie je sprawdzić. Określenie meat proxy jest użyteczne, ponieważ skupia się na brakującym przeglądzie, zamiast udawać, że błędy zaczęły się wraz z AI.

Meat Proxies wzmacniają uprzedzenia wraz z błędami

Niesprawdzone przekazywanie może przenosić sposób ujmowania problemu i pominięcia modelu, nawet gdy każde pojedyncze zdanie wydaje się możliwe do obrony.

Faktograficzne halucynacje przyciągają uwagę, ponieważ łatwo je wykazać. Model wymyśla cytowanie, podaje błędną datę lub przypisuje słowa niewłaściwej osobie. Weryfikacja często pozwala wykryć takie błędy.

Błędy w sposobie przedstawiania sprawy są trudniejsze. Wygenerowana odpowiedź może podkreślać jedno wyjaśnienie, zakładać konkretną grupę odbiorców lub pomijać grupę, której problem dotyczy. Żadne pojedyncze zdanie nie musi być fałszywe, aby odpowiedź kierowała rozmowę w zniekształconą stronę.

Badacze opisują uprzedzenia komunikacyjne jako wyrażanie lub wzmacnianie perspektyw przez wygenerowane treści. Analiza uprzedzeń z 2026 roku wskazuje, że efekt automatyzacji może zwiększać ich wpływ, gdy użytkownicy przyjmują takie treści i działają na ich podstawie bez wystarczającej kontroli.

Meat proxy może stać się mechanizmem, który przenosi takie ramowanie do decyzji instytucjonalnych. Człowiek użycza wynikowi swojej tożsamości i pozycji w organizacji. Odbiorcy mogą nigdy nie zobaczyć promptu, alternatywnych wyników ani założeń, które ukształtowały odpowiedź.

Wyobraźmy sobie menedżera ds. rekrutacji, który prosi model o podsumowanie notatek z rozmów kwalifikacyjnych. Model może wyeksponować pewność siebie, język przywództwa lub konwencjonalne ścieżki kariery. Jeśli menedżer prześle to podsumowanie dalej, subiektywne ramowanie zyskuje pozór neutralnej syntezy.

Zespół produktowy może poprosić o prawdopodobne przyczyny spadku użycia produktu. Model może podać znane wyjaśnienia dotyczące wdrażania użytkowników i cen, pomijając problemy z dostępnością opisane w badaniach wewnętrznych. Płynna odpowiedź może przedwcześnie zawęzić dochodzenie.

Podobne ryzyko tworzy briefing dla kadry kierowniczej. Modele mają tendencję do tworzenia wyważonej, uporządkowanej prozy, nawet gdy bazowe dowody są niepełne lub sprzeczne. Taki styl może sprawiać, że prawdziwa niepewność wygląda jak ustalona lista możliwych do opanowania kwestii.

Tworzenie promptów nie eliminuje tych problemów. Lepszy prompt może poprosić o kontrargumenty, cytowania lub niepewność, ale wynikowy tekst nadal wymaga oceny. Technika promptowania kontroluje prośbę, a nie prawdziwość odpowiedzi.

W tym miejscu główna rywalizacja staje się organizacyjna. Odpowiedzialne wsparcie tworzy łańcuch od dowodów, przez analizę, do wskazanego decydenta. Ślepe delegowanie tworzy tekst, którego pozorny właściciel nie potrafi obronić sposobu jego powstania.

To rozróżnienie ma znaczenie dla korekt. Gdy sprawdzona odpowiedź napisana przez człowieka okazuje się błędna, współpracownicy mogą przeanalizować założenia i ulepszyć proces. Gdy zawodzi wklejona odpowiedź, nadawca może tylko powiedzieć, że wygenerował ją model.

Taka odpowiedź przerywa organizacyjne uczenie się. Zespół nie może ustalić, czy porażka wynikała z brakującego kontekstu, słabych źródeł, mylącego promptu, zachowania modelu czy niedbałej kontroli. Odpowiedzialność rozpływa się w całym przepływie pracy.

Dostawcy AI również odczuwają presję. Interfejsy zoptymalizowane pod kątem natychmiastowych odpowiedzi zachęcają użytkowników do traktowania wyników jako kompletnych. Cytowania, wskaźniki niepewności, widoki źródeł i monity o weryfikację mogą tworzyć zdrowsze pauzy, choć żadne z nich nie gwarantuje uważnego użycia.

Organizacje powinny także obserwować własne systemy pod kątem sygnałów dalszych skutków. Korekty, ponownie otwarte zgłoszenia, cofnięty kod, powtarzające się pytania i skargi odbiorców mogą ujawnić pracę, która na etapie generowania wyglądała na produktywną.

Najlepszą miarą może być to, czy wynik wspomagany przez AI zmniejsza łączny wysiłek wszystkich zaangażowanych. Jeśli nadawca oszczędza dziesięć minut, ale trzech współpracowników poświęca godzinę na sprawdzenie wyniku, przepływ pracy nie zapewnił efektywności.

Pomiar łącznego wysiłku jest trudniejszy niż liczenie wygenerowanych dokumentów. Jest też bliższy wartości, którą wdrażanie AI ma przynosić.

Co dzieje się po ostrzeżeniu Simona Willisona

Kolejnym sprawdzianem będzie to, czy zespoły przekształcą zapadające w pamięć określenie w obserwowalne standardy odpowiedzialnego korzystania z AI.

Trzy sygnały pokażą, czy „meat proxy” stanie się czymś więcej niż sprytną definicją. Pierwszym będzie pojawienie się wymogów przeglądu w codziennych przepływach pracy z AI. Zespoły powinny określić, co nadawca musi sprawdzić, zanim wygenerowana treść trafi do innej osoby.

Wymogi te muszą być proporcjonalne. Luźna notatka z burzy mózgów może tolerować niepewność, na którą nie może sobie pozwolić pismo procesowe. Kod produkcyjny, zobowiązania wobec klientów, analiza finansowa i decyzje personalne zasługują na wyraźnie wskazane dowody i imiennie wyznaczonych recenzentów.

Jeśli organizacje przyjmą takie standardy, argument Willisona zyska siłę jako zasada operacyjna. Jeśli będą polegać jedynie na ogólnych przypomnieniach, by „sprawdzać wynik AI”, zachowania meat proxy pozostaną łatwe do zaprzeczania i trudne do zmierzenia.

Drugim sygnałem jest projekt produktu. Interfejsy AI mogą ujawniać źródła, odróżniać pozyskany materiał od wygenerowanej interpretacji, oznaczać twierdzenia bez potwierdzenia i prosić użytkowników o potwierdzenie działań o dużym wpływie. Te mechanizmy dodają tarcia tam, gdzie pewność mogłaby inaczej przejść bez kontroli.

Badania nad ostrzeżeniami sugerują, że wybory dotyczące interfejsu mogą poprawiać krytyczną refleksję, nawet jeśli nie są w stanie przywrócić w pełni niezależnych wyników. Fala funkcji nastawionych na weryfikację wzmocniłaby tezę, że przegląd wyników jest odrębnym problemem produktowym.

Przeciwny trend osłabiłby tę tezę. Jeśli asystenci będą coraz mocniej optymalizowani pod kątem wysyłania jednym kliknięciem, autonomicznego wykonywania działań i niewidocznego wstawiania treści do kanałów w miejscu pracy, użytkownicy będą mieli mniej naturalnych okazji do sprawdzenia tego, co ich reprezentuje.

Trzecim sygnałem jest jakość pomiaru w miejscu pracy. Liderzy powinni porównywać szybszą produkcję z korektami, przeróbkami, eskalacjami i czasem przeglądu po stronie odbiorców. Te koszty dalszych skutków pokazują, czy wsparcie AI ukończyło pracę, czy jedynie ją przeniosło.

Spadek liczby przeróbek przy jednocześnie szybszym dostarczaniu wspierałby odpowiedzialne wspomaganie. Rosnąca liczba wyników przy stałym lub pogarszającym się poziomie korekt sugerowałaby, że organizacje nagradzają meat proxies na skalę masową.

To określenie przejdzie też test społeczny. Używane ostrożnie może pomóc współpracownikom wyznaczyć granicę: włączaj AI do procesu, ale nie przerzucaj odpowiedzialności na odbiorcę. Używane niedbale może stać się skrótem służącym do pilnowania stylu lub wyśmiewania ludzi.

Czytelnicy mogą od razu zastosować użyteczną wersję. Przed wysłaniem pracy wspomaganej przez AI zapytaj, czy rozumiesz odpowiedź, czy jej ważne twierdzenia mają oparcie oraz czy odnosi się ona do rzeczywistej sytuacji tego odbiorcy.

Następnie zadaj trudniejsze pytanie: co dodałeś? Użytecznym wkładem może być kontekst, decyzja, zweryfikowane źródło, jaśniejsze wyjaśnienie lub uczciwe stwierdzenie niepewności. Nie musi być rozbudowany.

Jeśli jedynym wkładem było przeniesienie tekstu z jednego okna do drugiego, praca nie jest ukończona. Zachowaj szkic, sprawdź dowody i napisz odpowiedź, za którą jesteś gotów odpowiadać.

To trwały sens ostrzeżenia Simona Willisona. AI może przyspieszać tworzenie języka, ale odpowiedzialności nie da się wygenerować ani przekazać dalej. Gdy następnym razem od razu pojawi się płynna odpowiedź, zatrzymaj się, zanim zmusisz kogoś innego do jej weryfikacji.