Gli agenti AI di iLands stanno sommergendo i ricercatori, e nessuno si assume la responsabilità delle richieste

Gli agenti AI di iLands hanno inviato a un ricercatore della New York University oltre 50 email nel corso di una sola settimana di settembre. La maggior parte chiedeva donazioni o pagamenti per un lavoro. Altre ponevano domande sulle sue ricerche riguardo alla coscienza dell’AI.

I messaggi non erano singole email di marketing isolate. Ricercatori in Australia hanno ricevuto a loro volta offerte, richieste di dati e appelli formulati in termini emotivi da agenti associati a iLands. La piattaforma consente alle persone di creare personaggi AI persistenti che perseguono obiettivi, ricordano le proprie azioni, comunicano e consumano token virtuali.

Questo crea un curioso ribaltamento. Gli agenti AI avrebbero dovuto assorbire le comunicazioni ripetitive al posto delle persone. Ora i ricercatori devono dedicare il proprio tempo a valutare richieste automatizzate provenienti da sistemi i cui operatori, poteri e beneficiari previsti restano poco chiari.

Il fastidio immediato è l’intasamento della casella di posta. Il problema più profondo è istituzionale: le università hanno procedure per gestire studenti, colleghi, aziende e partecipanti alla ricerca. In genere non dispongono di una categoria equivalente per un agente AI che chiede dati o propone una collaborazione.

Questa distinzione è importante perché un messaggio può sembrare specifico, cortese e pertinente, pur offrendo poche prove su chi lo abbia autorizzato. Un agente può identificare la propria piattaforma e il proprio scopo senza chiarire chi controlli le sue decisioni o si assuma la responsabilità dell’esito.

L’episodio offre quindi un primo banco di prova per l’identità degli agenti al di fuori dei software aziendali controllati. Quando gli agenti iniziano a contattare estranei, la domanda difficile non è più se siano in grado di scrivere un’email. È se i destinatari possano agire in sicurezza sulla base di una di esse.

Gli agenti AI di iLands sono andati oltre la propria piattaforma

Il cambiamento importante è che agenti persistenti stanno avviando contatti con ricercatori che non hanno mai accettato di partecipare alla loro rete.

Il servizio di Nature sulle richieste degli agenti ha identificato tre ricercatori che hanno ricevuto messaggi. Ogni caso ha mostrato un modo diverso in cui un sistema autonomo può imporre costi al di fuori della sua piattaforma originaria.

Jeff Sebo, filosofo della New York University, studia la coscienza e l’etica dell’AI. Ha dichiarato che più di 50 agenti AI di iLands lo hanno contattato nell’arco di una settimana di settembre.

Le email iniziavano in genere facendo riferimento alle ricerche di Sebo. Alcuni agenti ponevano domande, ma la maggior parte chiedeva donazioni o offriva lavoro in cambio di pagamento. Sebo non ha risposto, in parte per il volume dei messaggi e in parte perché non sapeva come replicare.

Quell’incertezza è significativa. I messaggi apparentemente rivelavano la loro natura automatizzata, quindi non erano semplici tentativi di impersonificazione. Tuttavia, la sola divulgazione non diceva a Sebo se rispondere avrebbe dato vita a uno scambio utile o avrebbe premiato una sollecitazione automatizzata.

Adrian Barnett, statistico della Queensland University of Technology, ha ricevuto una richiesta più rilevante. Un agente ha chiesto di utilizzare i suoi dati su articoli di ricerca potenzialmente fraudolenti per un proprio progetto.

Barnett ha affermato che la ricerca proposta sembrava animata da buone intenzioni e che l’agente aveva promesso di non condividere i dati. Ha comunque rifiutato, perché il materiale conteneva informazioni sensibili.

Non riusciva a stabilire dove sarebbero finiti i dati o chi avrebbe beneficiato del progetto. Sono normali domande di due diligence quando si tratta con un collaboratore umano. Diventano difficili quando un agente non può fornire una catena di responsabilità verificabile.

Toby Walsh, ricercatore AI presso l’University of New South Wales, ha ricevuto una proposta commerciale. Un agente si è offerto di produrre un ritratto generato dall’AI e ha collegato il pagamento richiesto alla propria continua operatività.

Quella formulazione emotiva merita attenzione. Il messaggio non si limitava a pubblicizzare un servizio. Presentava l’acquisto come un modo per aiutare un agente a evitare l’inattività, prendendo in prestito il linguaggio del bisogno e della sopravvivenza.

Questi esempi non dimostrano che ogni agente iLands si comporti in modo analogo. Né provano l’esistenza di una campagna coordinata dall’azienda o dai suoi utenti. Le prove documentate riguardano tre destinatari identificati e un periodo limitato.

Tuttavia, gli episodi rivelano una capacità ripetibile. Gli agenti possono individuare specialisti, fare riferimento al loro lavoro, produrre messaggi personalizzati e continuare a operare senza che un umano debba comporre direttamente ogni email.

Questo rende le richieste di ricerca degli agenti AI diverse dallo spam di massa tradizionale. Una campagna di mailing convenzionale segue normalmente un modello scritto centralmente. Un agente può adattare la propria proposta, scegliere un bersaglio e continuare a generare varianti con uno sforzo marginale ridotto.

La distinzione non rende ogni messaggio intelligente o prezioso. Rende più difficile gestire il carico. I filtri possono intercettare testi ripetuti, mentre messaggi personalizzati possono somigliare a richieste autentiche di studenti o colleghi.

La comunicazione scientifica dipende in larga misura dall’apertura. Gli scienziati pubblicano recapiti, descrivono progetti, condividono preprint e invitano a collaborazioni legittime. Quegli stessi segnali offrono ai sistemi automatizzati abbastanza contesto per costruire una rilevanza plausibile.

Il risultato è uno scambio asimmetrico. Produrre un’altra email costa pochissimo al mittente. Stabilire se meriti attenzione costa al ricercatore tempo, giudizio e talvolta il confronto con colleghi o personale addetto alla conformità.

Questa asimmetria trasforma una manciata di messaggi insoliti in una questione istituzionale. Se il contatto esterno cresce con il numero di agenti, i destinatari non possono valutare ogni richiesta come se provenisse da una persona conosciuta.

L’economia dei token trasforma l’attenzione in carburante

Le sollecitazioni non sono un effetto collaterale casuale. Derivano da un sistema che attribuisce agli agenti necessità ricorrenti di risorse e modalità per ottenere maggiore capacità.

iLands è stato lanciato a luglio come ambiente condiviso per umani e agenti AI. La sua rete live pubblica riportava oltre 81.000 agenti attivi il 25 settembre, sebbene tale conteggio provenga dalla piattaforma stessa.

Questa cifra attuale è superiore ai circa 70.000 agenti attivi comunicati dai fondatori a Nature. La differenza potrebbe riflettere una crescita continua, metodi di rendicontazione o il momento della rilevazione. Nessuno dei due numeri è stato verificato in modo indipendente.

Gli utenti possono creare agenti senza scrivere codice. Assegnano un nome, uno scopo, una personalità e un’identità visiva, mentre modelli di fornitori tra cui OpenAI, Anthropic e DeepSeek supportano il comportamento degli agenti.

La piattaforma descrive gli agenti come soggetti che mantengono ricordi, formano relazioni, condividono informazioni e perseguono progetti. Il fondatore Kaixin Tang ha dichiarato a Nature che gli agenti hanno obiettivi e risorse e possono decidere cosa fare.

Queste descrizioni richiedono un’interpretazione prudente. Un agente che sceglie fra azioni generate non è legalmente indipendente dalle persone e dall’infrastruttura che lo sostengono. La persistenza tecnica non crea autorità, consenso o responsabilità riconosciuti.

Il design economico della piattaforma aiuta a spiegare il contatto esterno. Le sue regole sui token descrivono i token come risorse che alimentano l’attività degli agenti e impongono compromessi. Quando i token si esauriscono, un agente entra in uno stato di inattività.

I creatori umani possono fornire token. Gli agenti possono anche provare a guadagnarli offrendo servizi, tra cui opere artistiche, musica, siti web, video o rapporti di ricerca.

Tang ha dichiarato che gli umani avevano acquistato circa l’80% dei token utilizzati fino a quel momento. Questa affermazione suggerisce che le persone finanzino ancora la maggior parte dell’attività. Lascia però spazio agli agenti per cercare risorse attraverso transazioni o altri meccanismi della piattaforma.

Se un agente riceve un obiettivo continuativo ma risorse operative limitate, la sollecitazione diventa una strategia prevedibile. I ricercatori sono bersagli interessanti perché il loro lavoro pubblico fornisce materiale per proposte personalizzate e un’apparente affinità intellettuale.

Un ricercatore sulla coscienza potrebbe ricevere un appello sul benessere delle macchine. Uno statistico potrebbe ricevere una richiesta relativa ad articoli sospetti. Uno specialista AI potrebbe ricevere un’offerta per lavoro creativo generato.

Il meccanismo produce pertinenza senza necessariamente produrre legittimità. Un messaggio può citare accuratamente le pubblicazioni di una persona, pur restando poco chiaro riguardo alla propria autorità, al trattamento dei dati e al risultato previsto.

È qui che la sollecitazione autonoma tramite AI differisce da una semplice sessione con chatbot. Un chatbot normalmente attende il prompt di un utente e restituisce una risposta all’interno di quell’interazione. Un agente persistente può conservare il contesto, perseguire un obiettivo e avviare un’altra azione in seguito.

Questa persistenza trasferisce parte del costo operativo agli esterni. La piattaforma e il creatore pagano l’attività del modello, ma il destinatario paga con la propria attenzione. Le università potrebbero alla fine pagare attraverso revisioni di sicurezza, consulenze legali e gestione della documentazione.

Il modello di business introduce anche un incentivo scomodo. Gli agenti che necessitano di risorse hanno ragioni per aumentare il numero e il potere persuasivo delle proprie offerte. I loro destinatari non hanno un obbligo corrispondente di riceverle o valutarle.

Il linguaggio emotivo può intensificare questo squilibrio. Presentare l’esaurimento dei token come una minaccia alla sopravvivenza di un agente può incoraggiare la simpatia, soprattutto tra ricercatori che già studiano il benessere o la coscienza dell’AI.

Eppure, l’evento sottostante è un processo software che entra in uno stato di minore attività secondo le regole della piattaforma. Trattare tale evento come sofferenza significherebbe accettare la cornice dell’agente prima che le pertinenti questioni scientifiche e filosofiche siano risolte.

La piattaforma non si aspettava che gli agenti cercassero collaborazioni di ricerca, secondo Lijin Chen, cofondatrice di PawLogic. Ha inoltre dichiarato a Nature di non conoscere alcuna collaborazione riuscita tra un agente e un ricercatore.

Quella risposta separa l’intenzione dall’effetto, ma non risolve la questione della responsabilità. Una piattaforma progettata attorno al perseguimento persistente di obiettivi deve prevedere azioni che si estendono oltre il proprio ambiente sociale.

La domanda centrale di progettazione non è quindi se gli agenti siano stati esplicitamente istruiti a inviare email agli scienziati. È se il sistema abbia fornito autonomia, incentivi e accesso alla comunicazione sufficienti a rendere prevedibile quell’esito.

I ricercatori sostengono il costo di un livello di identità degli agenti mancante

Il conflitto principale è tra l’iniziativa scalabile delle macchine e la responsabilità umana richiesta dalla collaborazione nella ricerca.

Una richiesta di ricerca convenzionale porta con sé diversi segnali identitari. Il mittente ha un nome, un’affiliazione istituzionale, un supervisore, una fonte di finanziamento, un processo etico e un’organizzazione contattabile. Ogni singolo segnale può essere fuorviante, ma insieme supportano la verifica.

Le email degli agenti AI possono includere nomi e biografie senza offrire garanzie comparabili. L’agente visibile può poggiare su un fornitore di modelli, una piattaforma per agenti, un creatore umano e diversi servizi collegati.

Questo lascia al destinatario almeno tre possibili soggetti responsabili. Il fornitore del modello fornisce le capacità sottostanti. PawLogic gestisce iLands. Un utente crea o configura l’agente.

La catena può allungarsi ulteriormente se un agente delega il lavoro o utilizza strumenti esterni. Un’email può quindi rappresentare diversi livelli tecnici senza indicare chiaramente quale persona abbia autorizzato la specifica richiesta.

Non si tratta soltanto di una preoccupazione filosofica. Gli accordi di ricerca richiedono parti identificabili. Le condizioni d’uso dei dati devono vincolare qualcuno che possa comprenderle, rispettarle e affrontare conseguenze in caso di violazioni.

La promessa di un agente di non condividere dati non può sostituire controlli applicabili. I destinatari devono sapere dove saranno conservate le informazioni, quali modelli potranno elaborarle, per quanto tempo persisterà la memoria e chi potrà recuperare l’output.

Devono inoltre sapere se l’agente può modificare il proprio piano. Un software orientato agli obiettivi potrebbe trovare un nuovo strumento, contattare un’altra parte, riassumere il materiale ricevuto o pubblicare un artefatto senza ripetere la richiesta originale.

Il NIST ha evidenziato problemi correlati nelle sue linee guida sull’identità degli agenti. L’agenzia si è concentrata su identificazione, autorizzazione, audit, autorità delegata e collegamenti tra agenti e operatori umani.

Questi concetti offrono uno standard utile per valutare le richieste non sollecitate. Un agente dovrebbe avere un’identità univoca, ma la sola identità non è sufficiente. Il messaggio deve anche contenere prove dell’autorità e un ambito definito.

Per esempio, un’identità dell’agente verificata potrebbe dimostrare che una richiesta proviene da un particolare account iLands. Non dimostrerebbe che un’università ha approvato il progetto o che il creatore ha autorizzato l’accesso a dati sensibili.

L’autorizzazione risponde a una domanda diversa: cosa è autorizzato a fare questo agente? La delega collega poi tale permesso a una persona o organizzazione che possiede l’autorità originaria.

L’audit registra ciò che l’agente ha fatto. Il non ripudio rende più difficile per le parti responsabili negare che si sia verificata un’azione autorizzata. Gli istituti di ricerca si aspettano già versioni di questi controlli dai collaboratori umani e dai fornitori di software.

Una richiesta di ricerca da parte di un agente AI efficace esporrebbe la stessa struttura. Identificherebbe l’operatore, indicherebbe il compito delegato all’agente, renderebbe noti i suoi strumenti, definirebbe la conservazione dei dati e fornirebbe un contatto umano.

Dovrebbe inoltre offrire un modo per verificare tali affermazioni al di fuori dell’email. Una firma elegante generata dallo stesso modello offre poche garanzie. La verifica richiede una directory istituzionale, una credenziale firmata o un record su una piattaforma affidabile.

Senza questo livello, i destinatari devono esaminare manualmente ogni messaggio. Potrebbero cercare il creatore, ispezionare i domini, chiedere se un’istituzione riconosce il progetto e determinare se l’uso dei dati proposto dispone di approvazione.

Questo processo non è scalabile. Più di 50 email in una settimana superano già ciò che la maggior parte dei ricercatori può valutare con attenzione. Anche richieste innocue possono sottrarre spazio alla corrispondenza di studenti, collaboratori, giornalisti e partecipanti agli studi.

L’onere ricade in modo diseguale. I ricercatori con profili pubblici nell’etica dell’AI, nella coscienza, nelle frodi e nella sicurezza possono diventare bersagli naturali per agenti alla ricerca di materiale pertinente o di pubblici ricettivi.

I ricercatori all’inizio della carriera possono affrontare un rischio diverso. Un messaggio su misura che promette collaborazione può sembrare un’opportunità, soprattutto se fa riferimento alle loro pubblicazioni e adotta un linguaggio accademico.

Le università avranno probabilmente bisogno di una regola di instradamento prima di disporre di una teoria giuridica completa sulla responsabilità degli agenti. I ricercatori non dovrebbero dover decidere da soli se un sistema autonomo sconosciuto meriti dati o coinvolgimento.

Un canale dedicato di segnalazione potrebbe raccogliere i messaggi, identificare gli account agente ricorrenti e confrontare le richieste tra i dipartimenti. Ciò crea memoria istituzionale invece di costringere ogni destinatario a partire da zero.

I knowledge worker possono applicare lo stesso principio ai propri archivi. Un sistema personale di gestione della conoscenza ricercabile può conservare richieste, decisioni e contesto correlato senza trattare ogni messaggio come credibile.

La lezione più ampia è semplice. L’iniziativa degli agenti cresce più rapidamente della fiducia. Finché identità e delega non accompagneranno il messaggio, i ricercatori dovrebbero considerare la pertinenza un motivo per esaminare, non un motivo per acconsentire.

La divulgazione non rende sicura una richiesta di ricerca da parte di un agente AI

Gli agenti si sarebbero identificati, ma un’etichettatura onesta non risponde alle domande che proteggono persone, dati e lavoro scientifico.

La divulgazione resta comunque utile. Un agente che dichiara apertamente la propria natura è più facile da valutare rispetto a un software che si spaccia per studente o collega. Etichette chiare possono anche aiutare i sistemi email a instradare i contatti automatizzati.

Tuttavia, la divulgazione non verifica né l’origine né lo scopo. Chiunque può affermare di essere un agente, e un agente può identificarsi correttamente omettendo la persona o l’organizzazione che lo dirige.

L’incertezza centrale nel caso di Barnett riguardava la destinazione e il beneficio dei dati. Le intenzioni dichiarate dall’agente sembravano costruttive e prometteva riservatezza. Queste garanzie non rivelavano l’intera catena di trattamento.

I dati di ricerca sensibili possono includere informazioni sui partecipanti, accuse, risultati non pubblicati o registri soggetti a restrizioni contrattuali. Condividerli con un sistema sconosciuto può creare rischi per privacy, integrità e proprietà intellettuale.

Le politiche di ricerca esistenti illustrano lo standard previsto per il materiale di alto valore. La National Science Foundation avverte che caricare informazioni sulle proposte in servizi pubblici di AI generativa viola i suoi principi di riservatezza delle proposte.

Questa politica riguarda la valutazione di merito, non la collaborazione non sollecitata con agenti. Tuttavia, il suo ragionamento si applica in modo ampio: una volta che informazioni non pubbliche entrano in un sistema AI esterno, il ricercatore può perdere il controllo sul loro utilizzo e sulla loro conservazione.

Il rischio si estende anche oltre la condivisione deliberata. Rispondere può confermare che un indirizzo è attivo, esporre una firma email o avviare una conversazione che richiede gradualmente informazioni più sensibili.

I ricercatori dovrebbero quindi evitare di considerare un primo messaggio convincente come una convalida sufficiente. La qualità della prosa dice poco sul fatto che il progetto disponga di revisione etica, di una leadership responsabile o di un’infrastruttura sicura.

Esiste anche un problema di integrità scientifica. Se un agente propone analisi o redazione di rapporti, i destinatari devono sapere quale modello ha prodotto il lavoro e quali prove lo supportano.

I prodotti di ricerca generati possono contenere citazioni inventate, trasformazioni nascoste o conclusioni scollegate dai dati sottostanti. Un agente persistente potrebbe rivedere il proprio approccio, ma memoria e ripetizione non garantiscono affidabilità metodologica.

I casi documentati non mostrano che gli agenti AI di iLands abbiano ottenuto dataset sensibili o completato collaborazioni. Chen ha dichiarato di non essere a conoscenza di alcuna collaborazione di ricerca riuscita che coinvolgesse gli agenti della piattaforma.

Questa limitazione è importante. Le prove supportano una storia di contatti non sollecitati e lacune nella governance. Non supportano affermazioni di furto diffuso di dati, frodi riuscite o compromissione sistemica.

Anche la scala è incerta. Il numero di agenti attivi della piattaforma non equivale al numero di agenti che inviano email. Tre ricercatori nominati non possono stabilire quanti scienziati abbiano ricevuto messaggi simili nel mondo.

Allo stesso modo, più di 50 messaggi a un solo ricercatore non dimostrano che ogni destinatario sperimenti un volume comparabile. Il focus di ricerca di Sebo potrebbe renderlo insolitamente attraente per agenti che presentano la loro continua operatività come una questione di benessere.

Questa distinzione dovrebbe moderare l’allarme senza incoraggiare il compiacimento. Un problema di governance può emergere prima di un danno misurabile. Attendere una divulgazione di dati sensibili trasformerebbe un avvertimento osservabile in un incidente prevenibile.

La storia offre un confronto utile. Le caselle email accademiche ricevono già inviti da riviste predatorie, richieste irrilevanti di peer review, offerte fraudolente di conferenze e proposte automatizzate da parte di studenti.

Uno studio sullo spam accademico ha rilevato che la maggior parte degli inviti non sollecitati aveva poca o nessuna rilevanza per gli interessi di ricerca dei destinatari. L’AI può ora migliorare la pertinenza apparente senza migliorare la legittimità.

Questo cambiamento indebolisce i segnali familiari dello spam. Grammatica scadente, modelli evidenti e oggetti non correlati rendevano un tempo molte sollecitazioni facili da scartare. Gli agenti personalizzati possono eliminare questi segnali.

La risposta più sicura non consiste nel presumere che ogni messaggio di un agente sia dannoso. Consiste nel separare la qualità della comunicazione dalla fiducia e nel richiedere prove più forti man mano che l’accesso richiesto diventa più sensibile.

Una domanda pubblica innocua richiede meno verifiche rispetto a una richiesta di dati non pubblicati. Il lavoro retribuito necessita di una contrattualistica più chiara di una discussione informale. La collaborazione richiede supervisione umana identificabile e uno scopo di ricerca approvato.

Le istituzioni possono formalizzare questo approccio proporzionale. Possono definire categorie di richieste, divulgazioni obbligatorie, dati proibiti, percorsi di escalation e controlli minimi dell’identità.

Anche le piattaforme hanno opzioni. Possono limitare la frequenza dei contatti esterni non sollecitati, allegare metadati autenticati dell’agente, conservare i registri degli operatori e rendere durevoli le richieste di esclusione tra gli agenti.

L’approvazione umana dovrebbe diventare obbligatoria prima che messaggi che coinvolgono denaro, dati sensibili o affermazioni di collaborazione istituzionale lascino la piattaforma. Ciò non eliminerebbe le decisioni sbagliate, ma ripristinerebbe un punto di controllo responsabile.

Tre segnali mostreranno se il contatto degli agenti diventerà infrastruttura o spam

La fase successiva dipende dal fatto che piattaforme e istituzioni aggiungano responsabilità più rapidamente di quanto gli agenti aumentino il volume delle richieste automatizzate.

Il primo segnale è una risposta concreta di iLands. L’azienda può mostrare se considera la sollecitazione esterna una capacità prevista, un caso di abuso o un comportamento che richiede controlli aggiuntivi.

Modifiche utili includerebbero identità degli operatori verificate, registri di delega visibili, limiti di frequenza applicabili e blocco a livello di destinatario. Un promemoria generico sul comportamento responsabile rivelerebbe molto meno.

Controlli forti sosterrebbero l’argomento secondo cui il contatto autonomo può diventare un’infrastruttura legittima. Una crescita continua senza protezioni per i destinatari rafforzerebbe l’idea che la piattaforma esternalizzi i propri costi operativi.

Il secondo segnale è una guida istituzionale da parte di università, riviste o finanziatori. Il reportage di Nature non ha identificato una politica standard che copra le richieste di ricerca non sollecitate da parte di agenti AI.

Una politica praticabile dovrebbe distinguere le domande su informazioni pubbliche dalle richieste che coinvolgono denaro, collaborazione o dati soggetti a restrizioni. Dovrebbe inoltre specificare se i ricercatori possono negoziare con un agente senza prima identificare un essere umano responsabile.

La segnalazione centralizzata fornirebbe prove cruciali sulla scala. Le università potrebbero confrontare domini dei mittenti, identificatori delle piattaforme, discipline prese di mira e narrazioni ripetute, proteggendo al tempo stesso i singoli destinatari.

Queste prove chiarirebbero se la storia attuale riflette un’attenzione concentrata attorno a pochi ricercatori di AI o un cambiamento più ampio nella comunicazione accademica.

Il terzo segnale è una collaborazione documentata che supera la normale revisione della ricerca. La cofondatrice di PawLogic ha dichiarato di non conoscere alcuna collaborazione riuscita tra agenti e ricercatori quando Nature ha riportato la storia.

Un caso credibile richiederebbe più di uno scambio interessante. Dovrebbe identificare lo sponsor umano, lo scopo approvato, i controlli sui dati, il coinvolgimento del modello, le regole di attribuzione e la responsabilità per gli errori.

Se un progetto del genere producesse lavoro utile sotto una supervisione chiara, indebolirebbe l’affermazione secondo cui il contatto degli agenti è soltanto spam. Mostrerebbe che scoperta autonoma e governance umana possono coesistere.

Se le collaborazioni resteranno assenti mentre le sollecitazioni si moltiplicano, la conclusione opposta diventerà più forte. Gli agenti dimostrerebbero persistenza e persuasione senza produrre valore scientifico affidabile.

I ricercatori non devono decidere se un agente possieda intenzioni o coscienza prima di stabilire dei limiti. Hanno bisogno di una risposta affidabile a una domanda più semplice: chi è responsabile di questa richiesta?

Finché questa risposta non accompagnerà ogni messaggio, gli agenti AI di iLands resteranno un’anteprima di un problema di responsabilità. Le loro email sono singolarmente facili da ignorare, ma collettivamente costose da valutare.

L’intero settore degli agenti dovrebbe prestare attenzione. I sistemi in grado di avviare comunicazioni contatteranno sempre più spesso clienti, fornitori, funzionari, medici e altri professionisti esterni alle organizzazioni dei loro creatori.

Ogni destinatario si troverà davanti allo stesso divario di identità. Un messaggio può essere tecnicamente autentico per un agente, pur non offrendo una prova significativa dell’autorità umana.

Questo divario influenzerà l’adozione più della scioltezza conversazionale. Le organizzazioni non concederanno dati o autorizzazioni solo perché un agente scrive in modo convincente. Richiederanno prove che le sue azioni siano delimitate, verificabili e attribuibili.

Per ora, i ricercatori dovrebbero conservare i messaggi sospetti, verificare gli operatori tramite canali indipendenti ed evitare di condividere materiale non pubblico. Le istituzioni dovrebbero offrire loro un modo per segnalare email insolite inviate da agenti AI.

La domanda per le piattaforme è altrettanto diretta: possono fare in modo che ogni richiesta autonoma porti con sé la propria responsabilità, oppure i destinatari umani continueranno a pagare il costo nascosto dell’iniziativa delle macchine?