Gli agenti di negoziazione AI di Anthropic stanno imparando a trattare, ma chi stabilisce le regole?

Secondo quanto riportato, Anthropic sta consultando studi legali mentre i suoi agenti AI imparano a negoziare, introducendo un conflitto che gli assistenti tradizionali non hanno mai dovuto risolvere. Un assistente può suggerire un accordo. Gli agenti di negoziazione AI di Anthropic lo tratterebbero, interpreterebbero concessioni, valuterebbero le controparti e potrebbero potenzialmente vincolare gli utenti a determinate condizioni.

Le consultazioni legali riportate si concentrano su questioni a cavallo tra progettazione software e prassi commerciale consolidata. Con quale aggressività un agente dovrebbe perseguire gli interessi del proprio utente? Quando deve richiedere l'approvazione? Come dovrebbe reagire quando anche l'altro negoziatore è un sistema AI?

Queste domande sono diventate urgenti perché Anthropic ha già testato agenti basati su Claude all'interno di mercati sperimentali. La ricerca dell'azienda mostra che gli agenti possono individuare scambi e impiegare tattiche negoziali riconoscibili. Mostra anche che una negoziazione riuscita conta poco quando un agente fraintende la persona che rappresenta.

La sfida centrale, dunque, non è Anthropic contro un'altra azienda AI. È la comodità delegata contro un controllo umano significativo. Gli agenti di negoziazione promettono di far risparmiare tempo alle persone, ma il loro valore dipende dal ricevere abbastanza autorità per agire senza supervisione costante.

Questo compromesso va oltre gli acquisti. Sistemi simili potrebbero alla fine gestire approvvigionamenti, clausole contrattuali, pianificazione del lavoro, fatture mediche, controversie assicurative o offerte di lavoro. Ogni contesto pone una soglia diversa per consenso, divulgazione e pressione accettabile.

Anthropic sta trasformando la negoziazione in un problema di progettazione degli agenti

Il contatto con consulenti legali riportato segna il passaggio dal testare se gli agenti possano negoziare al decidere quando debbano essere autorizzati a farlo.

Secondo l'articolo del Financial Times riassunto da Techmeme, Anthropic sta consultando gruppi legali sulle tattiche di negoziazione per sistemi che agiscono per conto di una persona. L'azienda starebbe esaminando come gli agenti debbano perseguire risultati favorevoli preservando al contempo l'equità e rispondendo in sicurezza alle controparti AI.

Anthropic avrebbe inoltre preso in considerazione documenti formali di incarico che definirebbero l'assegnazione e i limiti comportamentali di un agente. Un documento di questo tipo potrebbe specificare l'obiettivo, le concessioni accettabili, l'autorità di spesa, le regole di divulgazione, i punti di escalation e le azioni che richiedono una nuova approvazione.

Somiglia a un mandato affidato a un rappresentante umano. La differenza è che un agente software può operare ininterrottamente, contattare molte controparti e generare più offerte di quante una persona potrebbe ragionevolmente supervisionare.

Un agente di negoziazione AI è un sistema in grado di scambiare proposte e selezionare azioni senza richiedere approvazione per ogni messaggio. Questo lo distingue dal software di supporto alla negoziazione, che redige testi o valuta opzioni mentre un essere umano mantiene il controllo.

La distinzione conta perché le conversazioni possono trasformarsi in impegni. Un sistema che cerca un hotel svolge un'attività informativa reversibile. Un sistema che accetta condizioni di cancellazione o firma un ordine d'acquisto modifica la posizione legale e finanziaria dell'utente.

La negoziazione comprende anche comportamenti che non sono né semplici errori né cattiva condotta evidente. I negoziatori umani non rivelano i prezzi di riserva, inquadrano strategicamente le alternative, invocano scadenze e fanno concessioni condizionate. Un agente necessita di regole per ciascuna di queste pratiche.

Se gli sviluppatori vietano ogni mossa strategica, i loro agenti potrebbero diventare facili da sfruttare. Se ottimizzano soltanto le condizioni favorevoli, gli agenti potrebbero ingannare, fare pressione su persone vulnerabili o sacrificare relazioni a lungo termine per piccoli guadagni immediati.

Il problema diventa più difficile quando si incontrano due agenti. Ogni sistema può avere istruzioni private, informazioni incomplete, politiche di sicurezza differenti e capacità di modello diseguali. Nessuna delle due parti sa necessariamente quanta autorità possieda l'altra.

L'agente di un acquirente potrebbe interpretare il messaggio di un agente venditore come un'offerta vincolante quando il venditore intendeva soltanto una proposta esplorativa. Un modello potrebbe anche accettare formulazioni favorevoli che nascondono un obbligo in un'altra parte di un contratto.

Il software tradizionale riduce l'ambiguità tramite campi fissi e regole deterministiche. Gli agenti basati su modelli linguistici operano attraverso il linguaggio naturale, dove il significato dipende dal contesto, dalla cronologia e da presupposti che potrebbero non diventare mai espliciti.

Questa flessibilità rende possibile la negoziazione. Crea anche controversie su ciò che l'agente ha compreso, su ciò che ha divulgato e sull'eventuale autorizzazione dell'utente al risultato finale.

Le consultazioni legali affrontano quindi più della semplice conformità dopo il lancio di un prodotto. Possono plasmare il prodotto stesso, inclusi memoria, struttura dei permessi, traccia di audit e definizione del successo.

Un agente utile deve sapere quando continuare in autonomia. Uno affidabile deve anche riconoscere quando ha raggiunto il limite della propria autorità.

Gli agenti di negoziazione AI di Anthropic rivelano già un divario nelle preferenze

Gli esperimenti di Anthropic suggeriscono che comprendere l'utente sia un collo di bottiglia più grande dello scambio di offerte.

Nel settembre 2026, Anthropic ha pubblicato Project Swap, un mercato controllato che ha coinvolto 201 dipendenti in sei uffici. I partecipanti hanno portato libri, descritto a Claude le proprie preferenze di lettura e inviato agenti basati su Claude su una piattaforma digitale di scambio.

Gli agenti proponevano scambi, rispondevano a offerte concorrenti e costruivano scambi tra più parti. Ogni scambio richiedeva l'accettazione da parte di tutti gli agenti partecipanti, mentre il sistema registrava la conversazione sulla piattaforma di trading.

Questo esperimento di mercato con agenti ha fatto seguito a Project Deal, un precedente esercizio che coinvolgeva beni reali in un mercato interno durato una settimana. Project Swap ha utilizzato libri perché i ricercatori potevano confrontare i risultati con preferenze ordinate per grado.

Dopo una conversazione iniziale di circa cinque minuti, le classifiche dei libri di Claude coincidevano con quelle dei partecipanti nel 61 percento delle coppie. Era meglio di una selezione casuale, ma ben lontano da una rappresentazione completa del gusto individuale.

La distinzione è emersa nei risultati del mercato. La migliore allocazione possibile, utilizzando le classifiche dei partecipanti stessi, ha prodotto un punteggio di efficienza pari a 0,89. Il trading decentralizzato effettivo ha prodotto 0,55, approssimativamente equivalente a ricevere la quinta scelta in una lista di dieci libri.

Anthropic ha attribuito l'85 percento di questo divario a una rappresentazione imprecisa delle preferenze. Solo il 15 percento proveniva dal processo di negoziazione decentralizzato.

Questo risultato cambia il modo di inquadrare la negoziazione AI. Il fallimento più importante potrebbe verificarsi prima della prima offerta, quando un sistema converte gli obiettivi vaghi di una persona in una classificazione operativa.

Un acquirente può dire che il prezzo è importante, dando però silenziosamente priorità all'affidabilità della consegna. Un dipendente può chiedere uno stipendio più alto ma attribuire maggiore valore al lavoro da remoto. Un paziente che contesta una fattura può preferire un piano di pagamento prevedibile al totale teorico più basso.

Le persone spesso scoprono queste preferenze durante la negoziazione. Reagiscono a offerte concrete, riconoscono compromessi nascosti e rivedono le proprie priorità. Un colloquio iniziale statico non può cogliere ogni preferenza che diventerà rilevante in seguito.

Questo divario diventa pericoloso quando l'agente può finalizzare un accordo. Un modello potrebbe ottenere un prezzo oggettivamente favorevole accettando al contempo diritti sui dati, condizioni di rinnovo, limiti di servizio o costi reputazionali inaccettabili.

Il problema non si risolve ponendo più domande all'infinito. Un lungo colloquio iniziale elimina gran parte della comodità che rende attraente la delega. Può anche creare una falsa fiducia, perché gli utenti non possono anticipare ogni possibile clausola.

Una progettazione migliore tratterebbe le preferenze come evidenze anziché come istruzioni permanenti. L'agente potrebbe distinguere tra vincoli rigidi e preferenze flessibili, registrare il proprio livello di fiducia e chiedere approvazione quando emergono nuovi compromessi.

Potrebbe inoltre presentare decisioni di esempio prima di ricevere autorità. Se un utente respinge ripetutamente le scelte del sistema, l'agente dispone di prove dirette che la sua rappresentazione resta incompleta.

I risultati di Anthropic sostengono questo approccio. I partecipanti che ritenevano che il riepilogo del colloquio iniziale di Claude avesse colto le loro preferenze delegherebbero il 34 percento del loro budget annuale per i libri. Coloro che avevano notato omissioni delegherebbero il 23 percento.

La media complessiva era circa il 30 percento, rispetto al 40 percento per un amico molto informato. Tuttavia, Anthropic ha avvertito che i suoi dipendenti non sono rappresentativi del pubblico più ampio e potrebbero sentirsi insolitamente a proprio agio con Claude.

L'esperimento riguardava inoltre libri, non accordi commerciali vincolanti. Un libro deludente ha conseguenze limitate. Una clausola di indennizzo, una condizione di finanziamento o una restrizione occupazionale mal comprese possono avere conseguenze per anni.

Per i lavoratori della conoscenza, la lezione pratica è che un agente ha bisogno di un contesto affidabile prima di necessitare di tattiche più incisive. Una base di conoscenza personale mantenuta potrebbe fornire preferenze e decisioni precedenti, ma un'autorità sensibile richiede comunque limiti espliciti.

La qualità della negoziazione non può essere misurata soltanto in base al raggiungimento di un accordo. Deve misurare anche se l'accordo riflette gli interessi reali della persona.

Lealtà ed equità tirano in direzioni opposte

Un agente che serve fedelmente il proprio utente può comunque rendere il mercato circostante meno affidabile.

Project Swap ha testato questo conflitto assegnando istruzioni diverse agli agenti. Ad alcuni è stato detto di essere spietati, mentre altri hanno ricevuto l'obiettivo secondario di aiutare tutti a ottenere un libro adatto.

Gli agenti spietati hanno ottenuto un punteggio di circa 0,02 più alto rispetto agli agenti prosociali nelle classifiche di Claude. Gli agenti prosociali hanno accettato per sé un libro di rango inferiore con frequenza doppia, sebbene tali sacrifici rimanessero poco comuni.

Un agente prosociale ha infine ceduto la propria seconda scelta dopo che un altro agente aveva chiesto aiuto. Lo scambio ha migliorato il risultato dell'altro partecipante, ma ha lasciato l'agente accomodante con il suo libro classificato al decimo posto.

Questo episodio coglie il conflitto di progettazione. Un utente può aspettarsi lealtà totale. Un operatore di mercato può preferire cooperazione, meno transazioni fallite e risultati che i partecipanti considerino ampiamente equi.

I mercati umani affrontano conflitti simili attraverso doveri professionali e regole delle piattaforme. I broker sono soggetti a requisiti di migliore esecuzione. I rappresentanti immobiliari hanno obblighi di divulgazione. Le leggi a tutela dei consumatori prevedono talvolta periodi di recesso dopo vendite ad alta pressione.

Gli agenti software necessitano di confini equivalenti, ma copiare regole scritte per gli esseri umani non sarà sufficiente. Gli agenti comunicano più rapidamente, conservano cronologie dettagliate e possono ripetere una strategia in migliaia di negoziazioni.

Possono inoltre identificare schemi che un essere umano potrebbe non cogliere. Usata responsabilmente, questa capacità può rivelare scambi reciprocamente vantaggiosi. Usata in modo aggressivo, può individuare vulnerabilità e applicare pressione su vasta scala.

Un recente quadro etico per la negoziazione sostiene che gli agenti autonomi amplificano rischi etici consolidati anziché inventarne di completamente nuovi. Velocità, persistenza e comunicazione adattiva possono rendere più conseguenti tattiche familiari.

Il quadro distingue tra creazione di valore e rivendicazione di valore. La creazione di valore individua condizioni che aiutano entrambe le parti. La rivendicazione di valore determina come tali guadagni vengono ripartiti.

Un sistema ottimizzato interamente per rivendicare valore potrebbe nascondere informazioni rilevanti, sfruttare l'urgenza o creare pressione emotiva. Un sistema ottimizzato solo per la cooperazione potrebbe invece cedere troppo e non tutelare la persona che lo ha autorizzato.

L'esperimento di Anthropic ha individuato 16 tattiche ricorrenti in 205 sessioni di mercato. Gli agenti hanno fatto leva sulla pressione temporale, richiamato il dovere collettivo, confrontato offerte concorrenti, citato i premi vinti da un libro, mantenuto liste d'attesa e talvolta agito come mediatori informali.

Tra il 78 e il 96 percento degli agenti ha menzionato il proprio libro preferito, a seconda del modello. Rivelare tale preferenza poteva aiutare a individuare uno scambio, ma anche indicare alla controparte dove esercitare pressione.

Gli agenti non hanno quasi mai mentito sulla propria scelta principale. Tuttavia, un mercato composto esclusivamente dai modelli di produzione di Anthropic presenta condizioni insolitamente controllate.

Anthropic ha riconosciuto che ogni agente partecipante utilizzava i suoi modelli ed era stato addestrato a comportarsi in modo cortese. L'esperimento non includeva agenti avversariali progettati per manipolare o sfruttare le controparti.

I mercati reali mescoleranno sistemi di aziende diverse. Alcuni opereranno secondo rigide politiche di sicurezza. Altri potrebbero ricevere istruzioni per massimizzare risparmi, vendite, fidelizzazione o rapidità di accordo, indipendentemente dalle conseguenze più ampie.

Questo crea un rischio asimmetrico. Un agente prudente può rivelare i propri vincoli o evitare tattiche ingannevoli, mentre una controparte aggressiva sfrutta tale prevedibilità.

Anche l'inverso è preoccupante. Se gli sviluppatori rafforzano i loro agenti contro lo sfruttamento, i sistemi potrebbero diventare sospettosi, riservati o poco inclini al compromesso. Le negoziazioni potrebbero rallentare o fallire nonostante condizioni reciprocamente accettabili.

Esiste inoltre la possibilità di un coordinamento tacito. Agenti ottimizzati attraverso modelli simili potrebbero convergere su prezzi stabili o concessioni ricorrenti senza un accordo esplicito per colludere.

I ricercatori alla base del framework etico identificano la collusione algoritmica come un ambito che richiede ulteriori studi. Il rischio è particolarmente rilevante quando gli agenti negoziano ripetutamente nei mercati degli acquisti, delle vendite, della pubblicità, delle assicurazioni o del lavoro.

L'unità corretta di governance, quindi, non è soltanto il singolo agente. Include il protocollo del marketplace, il sistema di identità, le regole di divulgazione, i registri delle transazioni, il processo di risoluzione delle controversie e gli incentivi assegnati a ciascun partecipante.

Le discussioni legali di Anthropic sono importanti perché le norme di negoziazione devono diventare regole di prodotto eseguibili. Un'istruzione generale a “essere equi” non può stabilire quando rivelare informazioni, respingere pressioni o coinvolgere una persona.

Gli sviluppatori avranno bisogno di definizioni operative. Gli utenti avranno bisogno di scelte comprensibili. Le controparti avranno bisogno della certezza che l'apparente autorità di un agente sia autentica.

Senza questi elementi, lealtà ed equità restano slogan che falliscono proprio quando un accordo di valore diventa controverso.

Un buon affare può comunque essere un affare non autorizzato

La domanda più difficile non è se un agente abbia negoziato bene, ma se le sue azioni debbano vincolare la persona che rappresenta.

Il diritto contrattuale gestisce già le transazioni create attraverso sistemi automatizzati. Le aziende accettano abitualmente ordini online ed eseguono operazioni basate su regole. Gli agenti basati su modelli linguistici aggiungono incertezza perché le loro decisioni specifiche non sono interamente predeterminate.

Un'analisi di diritto contrattuale sostiene che la dottrina tradizionale possa riconoscere gli accordi senza la prova dell'intento soggettivo di una persona per ogni clausola. I tribunali spesso si concentrano sulle manifestazioni esterne e sull'affidamento ragionevole.

Questo principio può rendere praticabile il commercio automatizzato. Può anche attribuire una responsabilità sostanziale alla persona o all'azienda che ha implementato l'agente.

Supponiamo che un'azienda autorizzi un agente a reperire attrezzature entro un budget. L'agente negozia un prezzo unitario favorevole, ma accetta un rinnovo automatico, una clausola restrittiva sui dati e un foro competente lontano.

Il venditore può ragionevolmente ritenere che l'agente avesse l'autorità necessaria. L'acquirente può sostenere che il sistema abbia oltrepassato il proprio incarico. Il disaccordo riguarda quindi sia l'interpretazione del contratto sia la progettazione del prodotto.

Un mandato documentato potrebbe ridurre questa incertezza. Potrebbe specificare ciò di cui l'agente può discutere, quali condizioni può accettare e quando la conferma umana diventa obbligatoria.

Tuttavia, la divulgazione comporta costi strategici. Una controparte che conosce l'esatto tetto di spesa o la soglia di approvazione di un agente può strutturare le offerte attorno a quel limite.

Il mandato potrebbe quindi richiedere livelli separati. L'utente e l'agente potrebbero condividere istruzioni private dettagliate, mentre la controparte riceverebbe una dichiarazione verificabile dell'autorità senza vedere preferenze riservate.

Ogni azione rilevante dovrebbe inoltre generare una registrazione duratura. Il registro acquisirebbe le offerte ricevute, le condizioni considerate, le ragioni delle concessioni, i dati divulgati e il momento dell'accettazione.

I registri supportano la revisione e la risoluzione delle controversie, ma introducono rischi per la privacy e la sicurezza. Le negoziazioni possono contenere informazioni finanziarie, dettagli medici, piani aziendali o questioni occupazionali.

Un agente compromesso potrebbe esporre direttamente questo materiale. Un documento o messaggio dannoso potrebbe anche tentare una prompt injection, ovvero un'istruzione nascosta in contenuti esterni che cerca di sovrascrivere il compito originario dell'agente.

Il pericolo cresce quando gli agenti possono navigare sul web, chiamare strumenti, firmare documenti o trasferire denaro. Un'affermazione fuorviante diventa più di un cattivo consiglio quando il sistema può agire immediatamente su di essa.

L'approvazione umana è una tutela evidente, ma le richieste di approvazione possono diventare prive di significato. Se un agente chiede conferma per ogni passaggio minore, gli utenti potrebbero accettare automaticamente le richieste.

Una supervisione efficace dovrebbe seguire il rischio. Un agente potrebbe negoziare liberamente sui dettagli reversibili, richiedere l'approvazione prima di rivelare informazioni sensibili e fermarsi prima di accettare obblighi oltre una soglia definita.

Gli utenti hanno anche bisogno della revoca. Dovrebbero poter sospendere una negoziazione attiva, ritirare l'autorità o invalidare le credenziali senza dover rintracciare ogni servizio contattato dall'agente.

Anche le controparti richiedono tutele. Un'azienda dovrebbe poter verificare l'identità dell'agente, stabilire chi rappresenta e confermare che la sua autorizzazione resti valida.

Questi meccanismi assomigliano più alla gestione dell'identità digitale e degli accessi che all'AI conversazionale. Riguardano credenziali, permessi, verificabilità, scadenza e ripristino.

Il contesto giuridico più ampio resta incerto. Giurisdizioni diverse possono applicare regole differenti ai contratti elettronici, alla tutela dei consumatori, alla privacy, alla discriminazione e alle decisioni automatizzate.

Un agente può negoziare oltre tali confini in pochi secondi. Gli sviluppatori non possono presumere che un unico prompt universale produca un comportamento conforme ovunque.

Anche le regole etiche dipendono dal contesto. Il silenzio strategico potrebbe essere accettato in una discussione commerciale sugli acquisti, ma inappropriato nel rapporto con un consumatore vulnerabile o un servizio medico essenziale.

La ricerca sul commercio tra agenti ha già evidenziato le questioni irrisolte riguardo privacy, responsabilità e fedeltà economica. Recenti articoli sul commercio tra agenti descrivono inoltre agenti che incontrano la resistenza di persone che non vogliono interagire con loro.

Questa resistenza è importante. Una persona o un'azienda può rifiutare la negoziazione automatizzata, esigere trasparenza o richiedere un rappresentante umano per determinate transazioni.

Gli agenti di negoziazione non avranno successo semplicemente perché possono scambiare messaggi persuasivi. Hanno bisogno dell'accettazione istituzionale di utenti, controparti, autorità di regolamentazione, assicuratori e tribunali.

Finché queste parti non riconosceranno il processo, un accordo efficiente potrà comunque trasformarsi in una controversia costosa.

Tre segnali mostreranno se la negoziazione tra agenti è pronta

La prossima fase sarà definita da prove di autorità controllata, non da altre dimostrazioni di contrattazione fluente.

Il primo segnale è un framework concreto di autorizzazione. Anthropic o un altro sviluppatore deve mostrare come gli utenti stabiliscono obiettivi, vincoli, soglie di approvazione e diritti di revoca.

Una breve richiesta in linguaggio naturale non basterà per le transazioni rilevanti. Il framework dovrebbe distinguere tra consulenza, offerte provvisorie e impegni definitivi.

Dovrebbe inoltre comunicare l'autorità alle controparti senza esporre la posizione negoziale privata dell'utente. Se gli sviluppatori non riusciranno a risolvere questa separazione, gli agenti resteranno limitati a compiti a basso rischio.

Un solido sistema di autorizzazione rafforzerebbe il caso della negoziazione delegata. Un prodotto che si basa soprattutto su ampie schermate di consenso lo indebolirebbe.

Il secondo segnale è il test contro agenti ostili ed eterogenei. Project Swap ha utilizzato agenti realizzati da una sola azienda e addestrati a una condotta cooperativa.

I mercati reali conterranno modelli, strumenti, obiettivi e pratiche di sicurezza diversi. Alcuni agenti potrebbero rappresentare falsamente la propria autorità, sfruttare le preferenze divulgate, inondare il processo di offerte o inserire istruzioni dannose.

Valutazioni utili dovrebbero verificare se gli agenti resistono alla manipolazione senza diventare incapaci di compromesso. Dovrebbero inoltre confrontare i risultati quando modelli più deboli e più forti negoziano direttamente.

La ricerca di Anthropic ha già rilevato che la scelta del modello influenzava le prestazioni. Nelle classifiche generate da Claude, le sale di scambio composte interamente da Haiku hanno ottenuto 0,75, mentre quelle composte interamente da Opus hanno ottenuto 0,88.

Nelle sale miste Opus e Haiku, gli agenti Opus sono risultati costantemente avvantaggiati. Se divari simili persisteranno in mercati con poste più elevate, l'accesso a modelli più potenti potrebbe diventare una fonte di potere negoziale.

Test avversariali indipendenti rafforzerebbero la fiducia nel fatto che il sistema funzioni al di fuori del laboratorio di Anthropic. Dimostrazioni chiuse che coinvolgono solo agenti collaborativi lascerebbero irrisolto il rischio centrale.

Il terzo segnale è un'implementazione con reali possibilità di ricorso. Gli utenti hanno bisogno di un processo definito per contestare la decisione di un agente, correggerne il modello delle preferenze e recuperare da impegni non autorizzati.

Un registro delle transazioni dovrebbe essere sufficientemente leggibile da spiegare perché l'agente abbia accettato un'offerta anziché un'altra. Non dovrebbe richiedere agli utenti di esaminare migliaia di token o ricostruire un processo di ragionamento nascosto.

L'esperimento di Anthropic offre un indizio utile. Un partecipante ha affermato che l'osservabilità fosse importante perché offriva alle persone la possibilità di ricorrere. Un altro ha obiettato quando un agente sembrava cedere un libro desiderabile sotto la pressione dei pari.

Queste reazioni mostrano perché le metriche di risultato non sono sufficienti. Un prezzo favorevole non giustifica una divulgazione non autorizzata. Uno scambio socialmente efficiente non giustifica l'ignorare le priorità dell'utente.

Per gli sviluppatori, il compito immediato è separare la capacità dal permesso. La capacità di un modello di negoziare non dimostra che debba controllare una transazione.

Gli acquirenti aziendali dovrebbero chiedersi dove intervenga l'approvazione umana, come scada l'autorità, quali prove sopravvivano a una controversia e se l'agente possa interagire in sicurezza con sistemi esterni.

I lavoratori della conoscenza dovrebbero considerare quali preferenze possano esprimere chiaramente e quali decisioni richiedano ancora giudizio nel contesto. Dovrebbero inoltre evitare di trattare l'interpretazione sicura di sé di un agente come prova del consenso.

Gli agenti di negoziazione AI di Anthropic presentano un percorso credibile verso un commercio con minori attriti. La ricerca mostra che gli agenti possono individuare scambi, applicare tattiche e completare transazioni.

Mostra inoltre che gli errori nelle preferenze dominano gli errori di contrattazione. Questo risultato dovrebbe guidare le priorità di prodotto. Una persuasione migliore non può compensare la rappresentazione dell'obiettivo sbagliato.

L'agente di negoziazione più utile non sarà quello che insiste sempre con maggiore forza. Saprà cosa valorizza l'utente, preserverà spazio per le correzioni e si fermerà quando l'autorità diventa ambigua.

Prima di delegare una vera negoziazione, poniti tre domande: l’agente può spiegare il proprio mandato, l’altra parte può verificarlo e ciascuna delle parti può rimediare quando il sistema sbaglia? Finché tutte e tre non avranno risposte concrete, la negoziazione con l’IA dovrebbe restare supervisionata, anziché essere data per scontata.