top of page

llm 0.37.2 corregge due percorsi che inviavano chiavi OpenAI ad altri provider

18 minuti fa
Tempo di lettura: 12 min
Illustrative photograph. Photo: Godfrey Atima / Pexels.

llm 0.37.2 di Simon Willison corregge due vulnerabilità di sicurezza che potevano inviare una chiave API OpenAI a un provider diverso. La release dell'11 novembre affronta specifiche configurazioni di endpoint personalizzati segnalate da Daniel de Araujo. Il nodo è semplice: scegliere un altro provider di modelli non dovrebbe trasferire silenziosamente credenziali appartenenti a OpenAI.

LLM, un'applicazione da riga di comando per accedere ai modelli linguistici, supporta servizi che accettano richieste in stile OpenAI. Questa compatibilità consente agli sviluppatori di cambiare provider mantenendo flussi di lavoro familiari. Ma la compatibilità delle richieste e l'autorizzazione a ricevere una credenziale sono decisioni distinte. Questi bug permettevano alla prima di compromettere la seconda.

La pressione immediata ricade su sviluppatori e team che usano endpoint personalizzati, gli indirizzi dei server che ricevono le loro richieste ai modelli. La loro domanda è più circoscritta rispetto a stabilire se LLM sia generalmente sicuro: una configurazione interessata ha inviato una chiave non prevista? Per rispondere occorre separare il comportamento corretto dal software aggiornato da un'eventuale esposizione storica.

Cosa ha effettivamente modificato llm 0.37.2

La release corregge la selezione delle credenziali in specifici percorsi degli endpoint personalizzati, anziché annunciare una compromissione che riguarda tutti gli utenti.

La release di sicurezza di Willison attribuisce a de Araujo l'identificazione di entrambi i problemi. Uno riguardava l'assenza di una chiave specifica del provider. L'altro emergeva quando un modello configurato per un'interfaccia di richiesta passava a un'altra. Entrambi potevano indirizzare una credenziale OpenAI verso un server scelto per un altro scopo.

Il contesto della configurazione è importante. LLM usa extra-openai-models.yaml, un file di impostazioni che descrive modelli aggiuntivi, per connettersi a servizi compatibili con OpenAI. Questi servizi accettano richieste simili all'interfaccia di OpenAI. La loro compatibilità non li rende OpenAI, né li autorizza a ricevere una credenziale di un account OpenAI.

Willison identifica inoltre llm openai endpoint add, introdotto nella versione 0.37, come un modo più recente per gestire questi endpoint. Questa funzione di praticità spiega il contesto attuale del prodotto. Non stabilisce quando sia iniziata nessuna delle due vulnerabilità e i lettori dovrebbero evitare di considerare l'ultimo comando per gli endpoint come l'origine di ogni percorso interessato.

Il record della release identifica la versione corretta. Gli avvisi collegati forniscono confini più utili per valutare l'esposizione. Un numero di release risponde a quale aggiornamento contiene la correzione. I dettagli della configurazione rispondono se un determinato flusso di lavoro ha incontrato il comportamento vulnerabile.

Questa distinzione impedisce due interpretazioni fuorvianti. La prima considera ogni richiesta proveniente da un'installazione meno recente come una credenziale divulgata. La seconda presume che una risposta del modello dall'aspetto normale dimostri un'autenticazione corretta. Nessuna delle due conclusioni deriva dalle divulgazioni. L'instradamento delle credenziali richiede prove proprie, separate dalla qualità o dal successo del testo generato.

La patch cambia inoltre l'interpretazione di un errore di configurazione. L'assenza di una chiave del provider dovrebbe generare un problema di autenticazione visibile. Non dovrebbe reclutare silenziosamente una credenziale disponibile associata a un altro servizio. Il miglioramento importante consiste nel preservare la relazione prevista tra una destinazione e la chiave autorizzata ad accompagnarla.

Per gli sviluppatori che valutano la release, questo è più rilevante di un normale adeguamento di compatibilità. Il comportamento interessato oltrepassava un confine delle credenziali senza richiedere agli utenti di condividere deliberatamente tale credenziale. La correzione merita quindi attenzione anche quando l'attività originale del modello sembrava innocua, come generare una breve risposta da un endpoint di test.

Due percorsi delle credenziali hanno fallito in modi diversi

Gli avvisi descrivono condizioni di errore separate, quindi le versioni interessate e il comportamento di autenticazione devono rimanere distinti.

L'avviso sulla chiave mancante copre le versioni dalla 0.6 fino alle release precedenti alla 0.37.2. Un modello personalizzato specificava api_base, il suo indirizzo di destinazione, e api_key_name, il suo alias della credenziale. Quando la credenziale indicata era assente, la risoluzione poteva ripiegare su OPENAI_API_KEY, una variabile d'ambiente contenente una chiave.

Questo errore trasformava una configurazione incompleta in un trasferimento non intenzionale di credenziali. L'avviso identifica anche un comportamento di precedenza più ampio nelle versioni dalla 0.6 alla 0.7.1, corretto nella 0.8. La riparazione attuale affronta il caso rimanente della chiave mancante. Un alias apparentemente corretto in un file di configurazione non dimostrava che il relativo segreto esistesse.

L'avviso sulla delega delle richieste copre le versioni dalla 0.32a2 fino alle release precedenti alla 0.37.2. Riguarda un modello api_base personalizzato con responses: true, che seleziona l'interfaccia di richiesta Responses. Eseguirlo con -o chat_completions 1 passava a Chat Completions, un'altra interfaccia di richiesta, e poteva ripristinare i valori predefiniti delle credenziali OpenAI.

Nel percorso documentato, la credenziale poteva provenire dall'ambiente o dalla chiave OpenAI memorizzata da LLM. Una chiave specifica del provider configurata e memorizzata evitava la perdita tramite delega descritta in quel caso. Entrambi gli avvisi classificano i rispettivi problemi come Moderate e identificano la 0.37.2 come corretta. Tali valutazioni non stabiliscono quante installazioni abbiano incontrato una delle due condizioni.

La distinzione tecnica è utile perché gli errori mettono in discussione ipotesi diverse. Il caso della chiave mancante chiede cosa accada quando la configurazione indica un segreto che non può essere trovato. Il caso della delega chiede se le regole di autenticazione sopravvivano quando l'esecuzione passa a un altro componente interno. Una risposta corretta a una domanda non risolve l'altra.

Si consideri uno sviluppatore ipotetico che sposta un flusso di lavoro su un altro computer. La configurazione del modello arriva, ma la credenziale del provider no. Nell'ambiente rimane disponibile una credenziale OpenAI funzionante. L'aspettativa di sicurezza è che il segreto del provider mancante blocchi o limiti la richiesta, anziché cambiare quale credenziale dell'account lascia la macchina.

Si consideri ora un flusso di lavoro ipotetico separato che modifica le interfacce di richiesta per adattarsi a un server. La destinazione resta la stessa e l'utente si aspetta che la policy sulle credenziali rimanga stabile. Un cambio interno non dovrebbe reinterpretare silenziosamente una chiave mancante come autorizzazione a usare la credenziale di un altro provider.

Questi esempi spiegano perché una risposta riuscita sia un test di sicurezza inadeguato. L'output generato comunica principalmente all'utente che una richiesta è stata completata. Non rivela ogni decisione di autenticazione presa lungo il percorso. Un prompt innocuo può quindi accompagnare un problema di instradamento delle credenziali senza produrre una risposta palesemente sospetta.

La flessibilità dei provider crea un obbligo di sicurezza separato

La compatibilità con OpenAI descrive il funzionamento delle richieste; non definisce quali credenziali un server debba ricevere.

Il conflitto più ampio è tra il pratico cambio di provider e confini espliciti delle credenziali. Gli sviluppatori traggono vantaggio quando un'applicazione può indirizzare più servizi di modelli attraverso formati di richiesta familiari. L'onere di sicurezza emerge quando questa praticità trasporta impostazioni predefinite ereditate tra destinazioni diverse. Un segreto disponibile diventa pericoloso quando la disponibilità sostituisce l'autorizzazione.

La configurazione dei modelli personalizzati di LLM documenta il supporto del prodotto per endpoint di modelli aggiuntivi. Questa flessibilità è la funzione utile alla base di questo incidente. Eliminare la scelta del provider eviterebbe il particolare problema di instradamento riducendo il prodotto, ma eliminerebbe anche il flusso di lavoro che gli utenti hanno scelto di supportare.

Ollama offre un confronto rilevante perché anche la sua documentazione sulla compatibilità con OpenAI descrive il collegamento di client OpenAI a un altro servizio di modelli. I suoi esempi locali forniscono una chiave segnaposto che il server locale ignora. Il suo esempio cloud diretto seleziona invece una credenziale Ollama. Una sintassi di richiesta simile può quindi accompagnare aspettative di autenticazione differenti.

Questo confronto non stabilisce una vulnerabilità equivalente in Ollama. Illustra perché la compatibilità del provider richieda decisioni separate sulle credenziali. Un client può riutilizzare un formato di richiesta selezionando esplicitamente una destinazione e il suo segreto previsto. La questione di sicurezza riguarda il rapporto tra queste scelte, anziché quale prodotto offra più modelli.

Per uno sviluppatore, cambiare l'indirizzo di un server spesso sembra un adeguamento del trasporto. Per una credenziale, cambia il destinatario. Queste prospettive devono incontrarsi da qualche parte nel comportamento dell'applicazione. Altrimenti, un'impostazione di comodità può alterare il rapporto di fiducia pur sembrando un'ordinaria preferenza di selezione del modello.

Questo è anche il motivo per cui il destinatario previsto conta indipendentemente dal prompt. Un utente potrebbe inviare volontariamente un paragrafo pubblico a un servizio sperimentale. Questa scelta non implica l'autorizzazione a inviare lì una credenziale dell'account. La sensibilità dei contenuti e quella delle credenziali richiedono valutazioni separate, anche quando viaggiano nella stessa richiesta.

Lo stesso ragionamento vale quando la destinazione appartiene all'organizzazione dell'utente. La proprietà interna può rendere un server un luogo appropriato per il traffico dei modelli senza rendere appropriato trasmettere ogni segreto disponibile. Team diversi, pratiche di conservazione e responsabilità operative creano comunque confini che vale la pena preservare.

Per gli acquirenti aziendali, la domanda di valutazione utile diventa concreta: cambiare provider preserva il controllo esplicito sull'autenticazione? Una dimostrazione che scambia i nomi dei modelli e produce buone risposte non può risolvere questa domanda. Gli acquirenti hanno bisogno di prove sul comportamento delle credenziali specifico della destinazione, incluso ciò che accade quando la configurazione prevista è incompleta.

La lezione architetturale è quindi più circoscritta e più attuabile della diffidenza verso i livelli di compatibilità. La flessibilità dei provider rimane utile. Richiede regole di autenticazione che viaggino con la destinazione prevista e sopravvivano ai cambiamenti nella gestione delle richieste. La praticità diventa più sicura quando una decisione mancante resta mancante invece di acquisire un'impostazione predefinita permissiva.

Gli sviluppatori devono separare l'aggiornamento dalla revisione dell'esposizione

L'installazione della correzione affronta il comportamento futuro; comprendere le richieste precedenti richiede una revisione separata del flusso di lavoro interessato.

Per gli utenti che valutano llm 0.37.2, la prima distinzione è tra lo stato del software e gli eventi storici. Un'installazione corretta può impedire di riprodurre una vulnerabilità divulgata. Questo risultato non stabilisce ciò che un'installazione precedente abbia trasmesso. Al contrario, una versione meno recente da sola non stabilisce che sia mai stata eseguita una configurazione vulnerabile.

Una revisione proporzionata inizia dalla configurazione del modello pertinente e dal contesto di esecuzione. Le prove utili collegano una versione del software, una destinazione, una fonte della credenziale e le opzioni utilizzate. Senza questo collegamento, i team rischiano di sostituire una divulgazione specifica con l'ipotesi generale che ogni macchina degli sviluppatori abbia vissuto lo stesso evento.

Il lavoro diventa organizzativo quando lo stesso flusso di lavoro esiste in più luoghi. Un laptop, un processo automatizzato e un ambiente di sviluppo condiviso possono contenere segreti diversi pur usando file di configurazione simili. Trattarli come intercambiabili oscura l'esatta condizione in esame. Il contesto di distribuzione conta quanto il nome visualizzato del modello.

La rotazione delle credenziali affronta un’altra questione: se un segreto esistente debba rimanere utilizzabile dopo una sospetta esposizione. Non sostituisce la correzione del comportamento di instradamento. Una credenziale sostitutiva inserita in un ambiente vulnerabile invariato potrebbe ricreare il problema alla radice. Le decisioni di correzione dovrebbero collegare la riparazione del software alle prove relative alla trasmissione precedente.

Se la revisione accerta una divulgazione involontaria, invalidare la credenziale interessata ne limita l’utilità continuativa. Questa azione dovrebbe rimanere distinta dalle affermazioni di abuso. Un team può rispondere a un segreto divulgato senza sostenere che un’altra parte lo abbia sfruttato. Un linguaggio chiaro favorisce azioni decisive preservando al contempo una registrazione accurata dell’incidente.

I team dovrebbero inoltre evitare di trasformare un’indagine in un ulteriore canale di divulgazione. Le prove necessarie riguardano di solito quale fonte di credenziali abbia selezionato una richiesta e dove essa sia stata inviata. Copiare segreti completi in ticket o note condivise crea ulteriori obblighi di gestione senza necessariamente chiarire l’evento originale.

Un utile resoconto dell’incidente spiega la scoperta, l’ambiente interessato, la correzione e le questioni irrisolte. Conservare questi dettagli in una base di conoscenza tecnica ricercabile può aiutare i colleghi a capire perché un flusso di lavoro è cambiato. Il resoconto dovrebbe preservare il ragionamento e il contesto di configurazione, anziché i valori delle credenziali.

Per i manutentori di strumenti interni, il rilascio offre anche un obiettivo di revisione oltre questo pacchetto. Qualsiasi applicazione che combini destinazioni configurabili con credenziali predefinite merita attenzione a questo confine. Si tratta di un’inferenza tecnica basata sui modelli di errore divulgati, non di una prova che un’altra applicazione condivida queste vulnerabilità.

La priorità immediata resta specifica: identificare i flussi di lavoro LLM interessati, portarli a una versione corretta e valutare un’esposizione credibile. L’estensione dell’indagine dovrebbe seguire le prove. Una questione di sicurezza circoscritta può giustificare azioni attente senza trasformarsi nell’affermazione che ogni client di modelli compatibili richieda una ricostruzione d’emergenza.

Le divulgazioni stabiliscono un bug, non uno sfruttamento diffuso

Un difetto riproducibile nell’instradamento delle credenziali stabilisce un reale fallimento della sicurezza, ma non misura la portata dell’abuso nel mondo reale.

Le divulgazioni giustificano preoccupazione per una trasmissione involontaria nelle condizioni identificate. Non forniscono un conteggio a livello di popolazione degli utenti interessati né dimostrano una campagna coordinata di sfruttamento. Si tratta di tipi diversi di conclusioni. Una riproduzione tecnica può dimostrare un fallimento senza rivelare quanto spesso tale fallimento si sia verificato al di fuori del test.

La domanda scettica riguarda quindi la portata. Quali installazioni possedevano le credenziali pertinenti, utilizzavano la configurazione interessata ed eseguivano il percorso di attivazione? La divulgazione pubblica non può rispondere a questa domanda per ogni utente. I singoli ambienti forniscono prove che un annuncio generale di rilascio non può offrire, incluso se la destinazione fosse esterna, interna o locale.

Rimangono possibili diversi esiti dopo che una credenziale raggiunge un destinatario non previsto. La sola ricezione differisce dalla conservazione, dall’accesso successivo o dall’uso improprio. Ogni affermazione aggiuntiva richiede prove a supporto. Una comunicazione che comprime queste fasi fa sembrare l’incidente più certo, rendendone al contempo più difficili da valutare le implicazioni pratiche.

Anche l’errore opposto merita attenzione. L’assenza di abusi documentati pubblicamente non dimostra che non si sia verificata alcuna trasmissione involontaria. I difetti di instradamento delle credenziali possono essere importanti prima che qualcuno dimostri una perdita finanziaria o attività su un account. La risposta appropriata dipende dal comportamento divulgato e dall’ambiente dell’utente, anziché dall’attesa di un incidente pubblico eclatante.

Anche le classificazioni Moderate richiedono contesto. Un’etichetta di gravità riassume la valutazione di un advisory; non determina la risposta di ogni organizzazione. Una credenziale con ambito limitato in un ambiente di test controllato presenta conseguenze diverse rispetto a un segreto ampiamente autorizzato nell’automazione ordinaria. Il difetto software può essere lo stesso, mentre la posta in gioco operativa differisce.

Anche l’età dell’intervallo di versioni interessate richiede un trattamento attento. Identifica le release software che contengono il comportamento, anziché dimostrare un’esposizione continua per tutto quel periodo. Un utente che ha installato una release interessata ma non ha mai utilizzato il percorso endpoint pertinente si trova in una situazione fattuale diversa da chi lo ha fatto ripetutamente.

Non c’è inoltre motivo di trattare automaticamente come malevolo il provider che riceve una chiave. Un destinatario non previsto può operare legittimamente e ricevere comunque informazioni che non avrebbe mai dovuto ricevere. Il difetto riguarda la decisione del client sulle credenziali. Le accuse relative alla condotta di un destinatario richiedono prove separate.

Né la divulgazione dimostra una violazione del servizio di OpenAI. Il problema descritto risiede in un flusso di lavoro client che indirizza le credenziali verso una destinazione personalizzata. Preservare questa distinzione aiuta i lettori a identificare il confine software responsabile ed evitare di confondere un difetto di integrazione dell’applicazione con un incidente nell’infrastruttura del provider.

Per i lettori, l’interpretazione più solida resta circoscritta: i difetti erano reali, i percorsi interessati erano specifici e la patch è importante. La questione irrisolta è l’esposizione storica in ambienti particolari. Questa impostazione sostiene l’azione senza gonfiare un fallimento di implementazione documentato fino a trasformarlo in un resoconto non supportato di compromissione di massa.

Cosa dovrebbe seguire la patch di sicurezza

Le prossime prove utili riguardano l’adozione, i test sui confini delle credenziali e i risultati delle effettive revisioni dell’esposizione.

Il primo segnale è se i flussi di lavoro interessati passano a software corretto. Nei prossimi mesi, prove significative di adozione includerebbero ambienti di automazione aggiornati e istruzioni di installazione mantenute. Uno sviluppatore che aggiorna un’installazione personale rappresenta un progresso utile, ma non dimostra che sia cambiato anche ogni job pianificato che utilizza lo stesso strumento.

Le prove che gli ambienti interessati rimangono su versioni precedenti indebolirebbero la rassicurazione pratica fornita dal rilascio. Le prove di aggiornamenti completati nei flussi di lavoro identificati la rafforzerebbero. La misura rilevante è la correzione laddove esistevano le condizioni di attivazione, anziché un conteggio generale dei download scollegato dalla configurazione.

Il secondo segnale riguarda il modo in cui i test futuri trattano i confini dell’autenticazione. Un test di regressione, progettato per rilevare il ritorno di un bug precedente, dovrebbe esaminare la selezione delle credenziali oltre all’output di completamento. La questione tecnica è se le regole specifiche per destinazione rimangano stabili quando la configurazione è incompleta o cambia la gestione delle richieste.

Prove più solide mostrerebbero la tenuta di tali confini lungo tutti i percorsi di esecuzione supportati. Un test che verifica soltanto se un prompt riceve una risposta offre minori rassicurazioni. La compatibilità può rimanere intatta mentre l’autenticazione cambia sotto di essa, ed è proprio per questo che un’aspettativa specifica di sicurezza merita un posto esplicito nel lavoro di manutenzione.

Il terzo segnale è qualsiasi resoconto comprovato di esposizione storica. Risultati utili distinguerebbero una trasmissione involontaria dalla conservazione o dall’uso improprio e descriverebbero le condizioni interessate. Tali rapporti renderebbero più nitide le conseguenze pratiche. La loro assenza lascerebbe tali conseguenze incerte, anziché dimostrare che ogni richiesta interessata fosse innocua.

Questi segnali dovrebbero anche plasmare il modo in cui i team comunicano internamente. Un aggiornamento di stato può affermare che le installazioni interessate sono state corrette lasciando aperta la revisione storica. Può segnalare un trasferimento di credenziali confermato senza rivendicare uno sfruttamento. Separare queste conclusioni rende più facile integrare prove successive e impedisce che un’ipotesi iniziale si irrigidisca nella narrazione dell’incidente.

Per gli sviluppatori che realizzano funzionalità di commutazione tra provider, il rilascio pone una domanda di progettazione duratura: cosa accade quando la chiave prevista non è disponibile? La risposta più sicura dovrebbe essere visibile nel comportamento, nella documentazione e nei test. Una sostituzione silenziosa è difficile da riconoscere per gli utenti perché la loro attività principale può continuare ad apparire ordinaria.

Gli acquirenti che valutano flussi di lavoro AI possono porre la stessa domanda senza ispezionare i dettagli di implementazione. Quali credenziali appartengono a quali destinazioni? Cosa cambia quando una richiesta segue un altro percorso supportato? Come comunica l’applicazione una configurazione di autenticazione incompleta? Risposte specifiche offrono più valore di un’ampia promessa di compatibilità.

Considerate llm 0.37.2 come un motivo per esaminare il confine tra selezione del provider e selezione delle credenziali. Se il vostro flusso di lavoro utilizzava un endpoint personalizzato, confrontate le sue opzioni di configurazione ed esecuzione con gli advisory. Stabilite quale versione era in esecuzione e quali fonti di credenziali erano disponibili. Spostate gli ambienti interessati a software corretto, quindi mantenete separata la revisione dell’esposizione storica dal completamento dell’aggiornamento. Laddove le prove stabiliscano una divulgazione involontaria, intervenite sulla credenziale oltre che sull’applicazione. Conservate i risultati in una documentazione che i colleghi possano comprendere senza riprodurre segreti. L’esito utile è un resoconto chiaro di ciò che è cambiato, di ciò che è accaduto e di ciò che rimane ignoto. Il vostro team sa spiegare perché ogni destinazione di modello riceve soltanto la credenziale prevista?

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page