Generally AI – Saison 2, épisode 1 : IA générative et créativité
- Aisha Washington
- il y a 2 heures
- 8 min de lecture
La deuxième saison de Generally AI s’ouvre sur une question qui dépasse désormais largement les laboratoires de recherche : qu’arrive-t-il à la créativité lorsque des logiciels peuvent produire presque instantanément des livres, des chansons, des échantillons, des essais et des images ? Les animateurs abordent le sujet à travers des expérimentations concrètes, des méthodes d’évaluation techniques et des exemples de médias synthétiques qui se disputent déjà l’attention en ligne.
Leur conversation révèle deux histoires différentes qui se déroulent simultanément. L’IA générative peut inonder les places de marché de contenus jetables, mais elle peut aussi offrir aux artistes une source d’idées brutes d’une souplesse inhabituelle. Comprendre cette distinction exige de dépasser la question de savoir si une machine peut générer quelque chose de plausible, pour se demander si son résultat est utile, contrôlable, original et digne du temps d’un public humain.
Les livres générés par IA et l’économie de l’abondance
L’épisode commence par une enquête néerlandaise sur des livres vendus en ligne. Sur environ 323 000 titres examinés, près de 2 % semblaient avoir été générés par IA. La part estimée avait fortement augmenté : d’environ 0,1 % avant l’arrivée de ChatGPT à 4,2 % en avril 2024.
Ces chiffres illustrent la rapidité avec laquelle l’édition évolue lorsque produire un manuscrit ne nécessite plus des mois de travail. Les animateurs évoquent la limite fixée par Amazon à trois livres par auteur et par jour. Cette restriction peut freiner les mises en ligne à l’échelle industrielle, mais elle demeure un rythme de production extraordinaire au regard des normes habituelles de l’écriture.
La qualité constitue une autre préoccupation. Beaucoup des livres soupçonnés d’avoir été générés par IA ont reçu des notes de deux étoiles ou moins. Dans une erreur particulièrement révélatrice, un client aurait reçu un livre contenant une instruction destinée à une IA plutôt que le texte prévu — preuve que quelqu’un avait publié le contenu sans même relire le texte final.
Le problème ne se limite pas à une hausse du nombre de livres médiocres. Des titres synthétiques bon marché peuvent encombrer les résultats de recherche et rendre les œuvres crédibles plus difficiles à trouver. Vers la fin de l’épisode, les animateurs racontent avoir recherché chez un libraire néerlandais une biographie d’Oppenheimer et être tombés sur des alternatives créées par IA, au lieu de voir mis en avant American Prometheus, la biographie saluée par la critique associée au film. Ils sont particulièrement préoccupés par le fait que la santé, le développement personnel, le management et l’épanouissement personnel figurent parmi les catégories qui attirent des publications générées par IA. Les erreurs dans ces domaines peuvent causer davantage de tort qu’un roman sans inspiration.
Des chansons gadgets à un flot infini de musique synthétique
La musique générée par IA a considérablement progressé depuis la première saison du podcast. Les animateurs discutent de Suno et s’amusent avec l’idée de générer des chansons accrocheuses et soignées à partir de presque n’importe quelle consigne. Un morceau sur le thème des chats démontre l’attrait immédiat de la technologie : il est entraînant, mémorable et facile à apprécier sans savoir comment il a été assemblé.
Cette accessibilité permet aussi une production extrême. L’épisode cite un créateur qui a publié plusieurs albums sur le thème des chats sur Spotify en une seule journée. Si de telles pratiques se généralisent, les services de streaming pourraient un jour avoir besoin de restrictions de mise en ligne comparables à celles introduites par les plateformes de livres.
L’un des animateurs expérimente l’utilisation de chansons générées comme substitut à la musique de streaming classique. L’expérience est divertissante au début, mais cette sensibilité pop incessante devient rapidement fatigante. Cela met en lumière une limite masquée par la surprise initiale : la musique peut sembler compétente tout en manquant de variété, de retenue et d’une identité artistique durable.
Cette distinction compte. Un générateur capable de produire une chanson agréable ne crée pas nécessairement un corpus d’œuvres auquel les gens reviendront. La nouveauté attire l’attention une fois ; une variation porteuse de sens et une intention artistique la maintiennent.
L’IA fonctionne mieux comme matériau créatif que comme produit fini
L’épisode devient plus optimiste lorsqu’il passe de la production automatique de chansons à des outils que les musiciens peuvent manipuler activement. Les animateurs discutent d’une démonstration de Google dans laquelle des éléments musicaux générés par IA étaient mixés avec des boucles et une performance en direct. Ici, la machine fonctionne moins comme un compositeur autonome que comme un instrument extensible.
Ce modèle de collaboration offre une proposition créative plus solide. Un musicien peut générer une texture inconnue, isoler un fragment, en modifier le rythme, le combiner avec une boucle existante et le transformer en quelque chose que le système d’origine n’aurait pas pu anticiper. L’humain demeure responsable de la sélection, de la structure, du goût et de la direction.
Les générateurs d’échantillons IA rendent ce flux de travail concret. L’un des services évoqués dans l’épisode produit de courts extraits audio à partir de descriptions telles qu’une mélodie funky, une phrase de piano ou une texture de cordes particulière. Les sons obtenus, de deux à quatre secondes, peuvent être chargés dans un échantillonneur et réorganisés en rythmes.
Les animateurs comparent le processus à la recherche dans une infinité de caisses de disques. Contrairement à la recherche traditionnelle de disques, toutefois, le matériau source peut être demandé plutôt que découvert. Un échantillonneur Teenage Engineering PO-33 offre une démonstration pratique de la façon dont des extraits générés imparfaits peuvent devenir des ingrédients d’une composition plus vaste.
Il s’agit d’une définition plus productive de la créativité assistée par IA : non pas appuyer sur un bouton pour obtenir un artefact fini, mais utiliser la génération pour élargir l’espace des matériaux disponibles aux décisions humaines.
Pourquoi la génération audio résiste encore à une direction précise
Les expérimentations avec les échantillons révèlent aussi les faiblesses de la technologie. Les résultats sont inconstants, et obtenir un son exploitable peut nécessiter des tentatives répétées. Un extrait peut commencer trop tôt, arriver avec une montée maladroite ou contenir davantage d’activité que demandé.
Les animateurs décrivent la difficulté de demander un seul son propre. Une consigne demandant un seul coin-coin de canard, par exemple, peut produire plusieurs coin-coins ou une séquence bruyante. Le modèle semble désireux de remplir toute la durée disponible au lieu de respecter la valeur musicale du silence.
Certains artefacts peuvent apparaître lors du processus de conversion des sorties du modèle en forme d’onde audio. La génération fondée sur des jetons et le décodage peuvent introduire du bruit ou réduire la fidélité. Pourtant, l’obstacle principal est l’interaction. Un collaborateur humain peut comprendre des demandes telles que « rends la basse plus sombre », « tiens cette note plus longtemps » ou « laisse davantage d’espace avant l’impact ». Les outils actuels ne prennent pas systématiquement en charge ce type de retours itératifs, musicalement conscients.
Les animateurs imaginent des systèmes qui pourraient accompagner une ligne de basse avec de la batterie ou des cordes, peut-être même à l’intérieur d’une pédale d’effets. Un tel outil permettrait aux musiciens d’improviser avec une machine réactive plutôt que de soumettre à répétition des consignes textuelles isolées. L’épisode suggère que ce partenariat en temps réel reste davantage une aspiration qu’un produit fiable.
Les outils texte-vers-échantillon et la question du droit d’auteur
Une autre application texte-vers-échantillon évoquée dans l’épisode peut fonctionner comme programme autonome ou comme plug-in, ce qui permet de glisser les extraits générés dans des instruments virtuels et des kits de batterie. Une version exécutée localement télécharge un modèle de génération musicale sur un MacBook, montrant comment des modèles sous licence permissive peuvent devenir des composants de nombreux outils de production différents.
Les échantillons générés peuvent également offrir une alternative à l’extraction d’enregistrements de chansons existantes. L’échantillonnage traditionnel peut exiger des procédures complexes d’autorisation des droits, en particulier pour les musiciens dont le travail dépend fortement de fragments empruntés. Des albums tels que Paul’s Boutique des Beastie Boys démontrent toute la puissance créative de l’échantillonnage, tout en rappelant une époque dont l’environnement de licences était très différent.
Les échantillons synthétiques n’éliminent pas automatiquement toutes les questions juridiques ou éthiques. Néanmoins, générer de nouveaux matériaux audio source pourrait réduire la dépendance à des enregistrements protégés reconnaissables et donner aux artistes travaillant avec des échantillons davantage de matière à remodeler.
Mesurer la créativité sans réponse unique correcte
Le deuxième grand thème de l’épisode est l’évaluation. Un classificateur conventionnel peut être testé à partir d’étiquettes connues, et un modèle de régression peut être comparé à des valeurs numériques attendues. La génération créative offre rarement une cible aussi claire. Il n’existe pas de chanson, d’essai ou d’image universellement corrects pour une invite donnée.
L’entraînement des modèles de langage fournit néanmoins des signaux mesurables. La prédiction du jeton suivant produit une valeur de perte, et les lois d’échelle relient les performances attendues à la taille du modèle, aux données d’entraînement et au calcul. Mais une perte plus faible n’est qu’un indicateur indirect. Les utilisateurs se soucient en fin de compte de savoir si un modèle répond aux questions, suit les instructions, résume avec précision ou crée quelque chose qui en vaut la peine.
Des benchmarks tels que MMLU testent les connaissances au moyen de questions dont les réponses peuvent être vérifiées, tandis que des classements publics comparent les modèles sur de multiples tâches. Ces méthodes fonctionnent le mieux lorsque la réussite peut être évaluée objectivement. Elles sont moins concluantes pour l’écriture ouverte.
Les métriques textuelles offrent des solutions partielles. BLEU et ROUGE comparent le texte généré à des références par le biais de mots ou de séquences de mots qui se chevauchent, en mettant l’accent sur différents aspects de la précision et du rappel. L’évaluation fondée sur BERT compare plutôt des représentations sémantiques, ce qui permet de reconnaître des sens similaires exprimés dans un langage différent. Malgré cela, la ressemblance avec une référence n’équivaut pas nécessairement à la qualité ou à la créativité.
La génération d’images est confrontée au même dilemme. La distance de Fréchet Inception compare les représentations statistiques de collections d’images générées et d’images de référence. L’évaluation fondée sur CLIP estime si une image correspond à son invite. Les deux sont utiles, mais aucun ne capture pleinement la cohérence visuelle, l’originalité ou la préférence humaine. Un modèle utilisé comme juge hérite aussi de ses propres faiblesses — par exemple, la difficulté à compter les objets avec précision.
Préférence humaine, classements de modèles et RLHF
Lorsque l’évaluation objective atteint ses limites, les animateurs reviennent au jugement humain. Les gens peuvent comparer deux résultats côte à côte et choisir le meilleur — l’approche « optométriste » de l’épisode. Des comparaisons répétées peuvent produire un classement de type Elo, même lorsqu’aucun score absolu de qualité n’existe.
Le même principe soutient l’apprentissage par renforcement à partir de retours humains. Des évaluateurs classent plusieurs réponses à une invite, créant des données de préférence qui peuvent être utilisées pour rendre un modèle de langage plus utile et mieux aligné sur l’intention de l’utilisateur.
Les chercheurs peuvent aussi demander à un modèle d’en évaluer un autre, ce qui peut réduire le coût de la révision humaine. Mais cela introduit un problème circulaire : un juge automatique peut reproduire des biais, négliger des erreurs ou récompenser les mêmes qualités superficielles que le modèle testé. L’évaluation automatisée peut étendre la supervision, mais elle ne rend pas les normes humaines inutiles.
La conclusion pratique des animateurs est que l’IA réussit lorsqu’elle aide les personnes à accomplir ce qu’elles avaient l’intention de faire. Pour les systèmes créatifs, le test final n’est donc pas seulement la plausibilité technique. Il s’agit de savoir si les personnes trouvent le résultat précieux.
L’avertissement de Clever Hans pour l’IA générative
Une discussion finale sur l’intelligence animale apporte une mise en garde pertinente. Clever Hans, un cheval autrefois considéré comme capable de faire de l’arithmétique, s’est finalement révélé réagir à des indices subtils fournis par les humains proches de lui. Les observateurs avaient attribué un raisonnement sophistiqué à un comportement produit par un mécanisme différent.
L’IA générative invite à un risque interprétatif similaire. Un langage fluide ou des médias attrayants peuvent amener les gens à projeter une intention et une compréhension sur le système. Parfois, l’acte le plus créatif se produit chez l’observateur humain, qui donne un sens à un résultat ambigu.
Cela ne rend pas la technologie inutile. Cela clarifie où se situe sa valeur. Les systèmes génératifs peuvent produire une quantité étonnante de contenu, mais les personnes déterminent toujours quels fragments méritent de l’attention, comment ils doivent être développés et ce qu’ils signifient en fin de compte. Comme le démontre l’épisode, l’abondance est facile ; le jugement demeure la ressource créative rare.
