Generally AI – Stagione 2, Episodio 1: IA generativa e creatività
- Aisha Washington
- 1 ora fa
- Tempo di lettura: 7 min
La seconda stagione di Generally AI si apre con una domanda che ormai va ben oltre i laboratori di ricerca: cosa succede alla creatività quando il software può produrre libri, canzoni, campioni, saggi e immagini quasi istantaneamente? I conduttori affrontano l'argomento attraverso esperimenti pratici, metodi di valutazione tecnica ed esempi di media sintetici già in competizione per attirare l'attenzione online.
La loro conversazione rivela due storie diverse che si svolgono contemporaneamente. L'IA generativa può inondare i mercati di materiale usa e getta, ma può anche offrire agli artisti una fonte insolitamente flessibile di idee grezze. Comprendere questa distinzione richiede di guardare oltre la capacità di una macchina di generare qualcosa di plausibile e di chiedersi se il suo risultato sia utile, controllabile, originale e meritevole del tempo di un pubblico umano.
Libri generati dall'IA e l'economia dell'abbondanza
L'episodio inizia con un'indagine olandese sui libri venduti online. Su circa 323.000 titoli esaminati, circa il 2% sembrava essere stato generato dall'IA. La quota stimata era aumentata bruscamente: da circa lo 0,1% prima dell'arrivo di ChatGPT al 4,2% nell'aprile 2024.
Questi numeri illustrano quanto rapidamente cambi l'editoria quando produrre un manoscritto non richiede più mesi di lavoro. I conduttori citano il limite di Amazon di tre libri al giorno per autore. Questa restrizione può frenare i caricamenti su scala industriale, ma rimane comunque un ritmo di produzione straordinario rispetto agli standard della scrittura tradizionale.
La qualità è un'altra preoccupazione. Molti dei presunti libri IA hanno ricevuto valutazioni di due stelle o meno. In un errore particolarmente rivelatore, un cliente avrebbe ricevuto un libro contenente un'istruzione per l'IA anziché la prosa prevista, prova che qualcuno aveva pubblicato il materiale senza nemmeno rivedere il testo finale.
Il problema non è semplicemente l'aumento di libri mediocri. I titoli sintetici a basso costo possono affollare i risultati di ricerca e rendere più difficile trovare opere credibili. Verso la fine dell'episodio, i conduttori descrivono la ricerca di una biografia di Oppenheimer presso un libraio olandese e l'incontro con alternative prodotte dall'IA, invece di vedere in primo piano American Prometheus, l'acclamata biografia associata al film. Li preoccupa particolarmente il fatto che salute, autoaiuto, management e sviluppo personale siano tra le categorie che attirano pubblicazioni generate dall'IA. Gli errori in questi campi possono causare più danni di un romanzo poco ispirato.
Dalle canzoni novelty a un flusso infinito di musica sintetica
La musica IA è progredita notevolmente dalla prima stagione del podcast. I conduttori discutono di Suno e giocano con l'idea di generare canzoni accattivanti e curate a partire da quasi qualsiasi prompt. Un brano a tema gatti dimostra l'attrattiva immediata della tecnologia: è vivace, memorabile e facile da apprezzare senza sapere come sia stato assemblato.
Questa accessibilità consente anche una produzione estrema. L'episodio cita un creatore che pubblica più album a tema gatti su Spotify in un solo giorno. Se tali pratiche diventassero comuni, i servizi di streaming potrebbero alla fine aver bisogno di restrizioni sui caricamenti paragonabili a quelle introdotte dalle piattaforme di libri.
Uno dei conduttori sperimenta l'uso delle canzoni generate come sostituto della musica in streaming convenzionale. All'inizio l'esperienza è divertente, ma la sensibilità pop incessante diventa presto stancante. Questo evidenzia un limite nascosto dalla sorpresa iniziale: la musica può sembrare competente pur continuando a mancare di varietà, misura e di un'identità artistica duratura.
La distinzione è importante. Un generatore capace di produrre una canzone piacevole non sta necessariamente creando un corpus di opere che le persone vorranno riascoltare. La novità cattura l'attenzione una volta; variazioni significative e intenzione artistica la mantengono.
L'IA funziona meglio come materiale creativo, non come prodotto finito
L'episodio diventa più ottimista quando passa dalla produzione automatica di canzoni agli strumenti che i musicisti possono manipolare attivamente. I conduttori discutono una dimostrazione di Google in cui elementi musicali generati dall'IA venivano mixati con loop dal vivo e una performance. Qui la macchina funziona meno come compositore autonomo e più come strumento espandibile.
Questo modello di collaborazione offre una proposta creativa più solida. Un musicista potrebbe generare una trama sonora sconosciuta, isolare un frammento, modificarne il ritmo, combinarlo con un loop esistente e trasformarlo in qualcosa che il sistema originale non avrebbe potuto prevedere. L'essere umano resta responsabile della selezione, della struttura, del gusto e della direzione.
I generatori di campioni IA rendono tangibile questo flusso di lavoro. Un servizio discusso nell'episodio produce brevi clip audio a partire da descrizioni come una melodia funky, una frase di pianoforte o una particolare trama di archi. I suoni risultanti, della durata di due-quattro secondi, possono essere caricati in un campionatore e riorganizzati in beat.
I conduttori paragonano il processo alla ricerca tra infinite casse di dischi. A differenza del tradizionale crate digging, tuttavia, il materiale sorgente può essere richiesto anziché scoperto. Un campionatore Teenage Engineering PO-33 offre una dimostrazione pratica di come clip generate imperfette possano diventare ingredienti di una composizione più ampia.
Questa è una definizione più produttiva della creatività assistita dall'IA: non premere un pulsante per ottenere un artefatto finito, ma usare la generazione per ampliare lo spazio dei materiali disponibili alle decisioni umane.
Perché la generazione audio resiste ancora a una direzione precisa
Gli esperimenti con i campioni espongono anche le debolezze della tecnologia. I risultati sono incoerenti e produrre un suono utilizzabile può richiedere tentativi ripetuti. Una clip può iniziare troppo presto, arrivare con un'introduzione scomoda o contenere più attività di quanto richiesto.
I conduttori descrivono la difficoltà di chiedere un singolo suono pulito. Un prompt per un solo verso d'anatra, per esempio, può produrre diversi versi o una sequenza rumorosa. Il modello sembra desideroso di riempire la durata disponibile invece di rispettare il valore musicale del silenzio.
Alcuni artefatti possono emergere durante il processo di conversione degli output del modello in una forma d'onda audio. La generazione basata su token e la decodifica possono introdurre rumore o ridurre la fedeltà. Tuttavia, l'ostacolo più grande è l'interazione. Un collaboratore umano può comprendere richieste come “rendi il basso più scuro”, “tieni quella nota più a lungo” o “lascia più spazio prima del colpo”. Gli strumenti attuali non supportano con costanza questo tipo di feedback iterativo e musicalmente consapevole.
I conduttori immaginano sistemi in grado di accompagnare una linea di basso con batteria o archi, forse persino all'interno di un pedale per effetti. Uno strumento del genere permetterebbe ai musicisti di improvvisare con una macchina reattiva anziché inviare ripetutamente prompt testuali isolati. L'episodio suggerisce che questa collaborazione in tempo reale rimane più un'aspirazione che un prodotto affidabile.
Strumenti text-to-sample e la questione del copyright
Un'altra applicazione text-to-sample discussa nell'episodio può funzionare come programma autonomo o plug-in, consentendo di trascinare clip generate in strumenti virtuali e kit di batteria. Una versione eseguita localmente scarica un modello di generazione musicale su un MacBook, mostrando come modelli con licenze permissive possano diventare componenti di molti strumenti di produzione diversi.
I campioni generati possono anche offrire un'alternativa all'estrazione di registrazioni da canzoni esistenti. Il campionamento tradizionale può richiedere complesse autorizzazioni sui diritti, soprattutto per i musicisti il cui lavoro dipende fortemente da frammenti presi in prestito. Album come Paul’s Boutique dei Beastie Boys dimostrano quanto il campionamento possa essere creativamente potente, pur richiamando un'epoca con un contesto di licenze molto diverso.
I campioni sintetici non eliminano automaticamente ogni questione legale o etica. Ciononostante, generare nuovo audio sorgente potrebbe ridurre la dipendenza da registrazioni protette da copyright riconoscibili e offrire agli artisti che lavorano con i campioni più materiale da rielaborare.
Misurare la creatività senza un’unica risposta corretta
Il secondo grande tema dell’episodio è la valutazione. Un classificatore convenzionale può essere testato rispetto a etichette note, e un modello di regressione può essere confrontato con valori numerici attesi. La generazione creativa raramente offre un obiettivo così chiaro. Non esiste una canzone, un saggio o un’immagine universalmente corretti per un determinato prompt.
L’addestramento dei modelli linguistici fornisce comunque segnali misurabili. La previsione del token successivo produce un valore di perdita, e le leggi di scala collegano le prestazioni attese alle dimensioni del modello, ai dati di addestramento e al calcolo. Ma una perdita più bassa è solo un indicatore indiretto. Agli utenti interessa in ultima analisi se un modello risponde alle domande, segue le istruzioni, riassume con accuratezza o crea qualcosa di valido.
Benchmark come MMLU verificano la conoscenza attraverso domande con risposte controllabili, mentre le classifiche pubbliche confrontano i modelli su più attività. Questi metodi funzionano al meglio quando il successo può essere valutato oggettivamente. Sono meno risolutivi per la scrittura a risposta aperta.
Le metriche testuali offrono soluzioni parziali. BLEU e ROUGE confrontano il testo generato con testi di riferimento attraverso parole o sequenze di parole sovrapposte, ponendo l’accento su aspetti diversi di precisione e richiamo. Il punteggio basato su BERT confronta invece rappresentazioni semantiche, rendendo possibile riconoscere significati simili espressi con un linguaggio diverso. Anche così, la somiglianza con un riferimento non equivale necessariamente a qualità o creatività.
La generazione di immagini affronta lo stesso dilemma. La Fréchet Inception Distance confronta rappresentazioni statistiche di raccolte di immagini generate e di riferimento. Il punteggio basato su CLIP stima se un’immagine corrisponde al proprio prompt. Entrambi sono utili, ma nessuno dei due cattura pienamente la coerenza visiva, l’originalità o la preferenza umana. Un modello usato come giudice eredita inoltre le proprie debolezze, per esempio la difficoltà nel contare accuratamente gli oggetti.
Preferenza umana, classifiche dei modelli e RLHF
Quando la valutazione oggettiva raggiunge i suoi limiti, i conduttori tornano al giudizio umano. Le persone possono confrontare due risultati fianco a fianco e scegliere quello migliore: l’approccio dell’“optometrista” dell’episodio. Confronti ripetuti possono produrre una classifica in stile Elo anche quando non esiste un punteggio assoluto di qualità.
Lo stesso principio sostiene l’apprendimento per rinforzo dal feedback umano. I valutatori ordinano diverse risposte a un prompt, creando dati di preferenza che possono essere usati per rendere un modello linguistico più utile e meglio allineato all’intento dell’utente.
I ricercatori possono anche chiedere a un modello di valutare un altro modello, riducendo potenzialmente il costo della revisione umana. Ma questo introduce un problema circolare: un giudice automatico può riprodurre pregiudizi, non rilevare errori o premiare le stesse qualità superficiali del modello sottoposto a test. La valutazione automatizzata può ampliare la supervisione, ma non rende superflui gli standard umani.
La conclusione pratica dei conduttori è che l’IA ha successo quando aiuta le persone a realizzare ciò che intendevano fare. Per i sistemi creativi, il test finale non è quindi soltanto la plausibilità tecnica. È se le persone ritengono il risultato prezioso.
L’avvertimento di Clever Hans per l’IA generativa
Una discussione conclusiva sull’intelligenza animale offre un monito pertinente. Clever Hans, un cavallo un tempo ritenuto capace di fare aritmetica, si dimostrò infine rispondere a sottili segnali degli esseri umani nelle vicinanze. Gli osservatori avevano attribuito un ragionamento sofisticato a un comportamento prodotto da un meccanismo diverso.
L’IA generativa comporta un rischio interpretativo simile. Un linguaggio fluente o contenuti multimediali attraenti possono indurre le persone a proiettare intenzione e comprensione sul sistema. Talvolta l’atto più creativo avviene nell’osservatore umano, che attribuisce significato a un risultato ambiguo.
Questo non rende la tecnologia inutile. Chiarisce dove risiede il suo valore. I sistemi generativi possono produrre una quantità sorprendente di materiale, ma sono ancora le persone a stabilire quali frammenti meritino attenzione, come debbano essere sviluppati e cosa significhino in definitiva. Come dimostra l’episodio, l’abbondanza è facile; il giudizio rimane la risorsa creativa scarsa.
