Generally AI – Temporada 2, episodio 1: IA generativa y creatividad
- Aisha Washington
- hace 1 día
- 8 min de lectura
La segunda temporada de Generally AI comienza con una pregunta que hoy va mucho más allá de los laboratorios de investigación: ¿Qué ocurre con la creatividad cuando el software puede producir libros, canciones, muestras, ensayos e imágenes casi al instante? Los presentadores abordan el tema mediante experimentos prácticos, métodos de evaluación técnica y ejemplos de medios sintéticos que ya compiten por captar atención en internet.
Su conversación revela dos historias distintas que se desarrollan al mismo tiempo. La IA generativa puede inundar los mercados de material desechable, pero también puede ofrecer a los artistas una fuente inusualmente flexible de ideas en bruto. Comprender esa diferencia exige ir más allá de si una máquina puede generar algo verosímil y preguntarse si su resultado es útil, controlable, original y merece el tiempo de una audiencia humana.
Libros generados por IA y la economía de la abundancia
El episodio comienza con una investigación neerlandesa sobre libros vendidos en línea. De unos 323.000 títulos examinados, alrededor del 2 % parecía haber sido generado por IA. La proporción estimada había aumentado drásticamente: de aproximadamente el 0,1 % antes de la llegada de ChatGPT al 4,2 % en abril de 2024.
Estas cifras ilustran lo rápido que cambia la edición cuando producir un manuscrito ya no exige meses de trabajo. Los presentadores señalan el límite de Amazon de tres libros por autor al día. Esa restricción puede frenar las subidas a escala industrial, pero sigue siendo una tasa de producción extraordinaria según los estándares habituales de escritura.
La calidad es otra preocupación. Muchos de los libros sospechosos de haber sido generados por IA recibieron valoraciones de dos estrellas o menos. En un error especialmente revelador, un cliente recibió supuestamente un libro que contenía una instrucción para IA en lugar de la prosa prevista, prueba de que alguien había publicado el material sin siquiera revisar el texto final.
El problema no es simplemente un aumento de libros mediocres. Los títulos sintéticos baratos pueden saturar los resultados de búsqueda y dificultar que se encuentre trabajo fiable. Hacia el final del episodio, los presentadores describen cómo buscaron una biografía de Oppenheimer en una librería neerlandesa y se encontraron con alternativas creadas por IA en lugar de ver de forma destacada American Prometheus, la aclamada biografía asociada con la película. Les preocupa especialmente que salud, autoayuda, gestión y desarrollo personal estén entre las categorías que atraen publicaciones generadas por IA. Los errores en esos campos pueden causar más daño que una novela sin inspiración.
De las canciones de novedad a un flujo interminable de música sintética
La música creada con IA ha avanzado considerablemente desde la primera temporada del pódcast. Los presentadores hablan de Suno y juegan con la idea de generar canciones pegadizas y pulidas a partir de casi cualquier indicación. Una pista con temática de gatos demuestra el atractivo inmediato de la tecnología: es animada, memorable y fácil de disfrutar sin saber cómo fue creada.
Esa accesibilidad también permite una producción extrema. El episodio cita a un creador que publicó varios álbumes con temática de gatos en Spotify en un solo día. Si esas prácticas se vuelven habituales, los servicios de streaming podrían acabar necesitando restricciones de carga comparables a las introducidas por las plataformas de libros.
Uno de los presentadores experimenta con tratar las canciones generadas como sustituto de la música convencional de streaming. La experiencia es entretenida al principio, pero la implacable sensibilidad pop pronto se vuelve cansada. Esto apunta a una limitación que queda oculta por la sorpresa inicial: la música puede sonar competente y aun así carecer de variedad, contención e identidad artística duradera.
La distinción importa. Un generador capaz de producir una canción agradable no necesariamente está creando una obra a la que la gente volverá. La novedad atrae atención una vez; la variación significativa y la intención artística la sostienen.
La IA funciona mejor como material creativo, no como producto terminado
El episodio se vuelve más optimista cuando pasa de la producción automática de canciones a herramientas que los músicos pueden manipular activamente. Los presentadores comentan una demostración de Google en la que elementos musicales generados por IA se mezclaban con bucles en directo e interpretación. Aquí, la máquina funciona menos como compositora autónoma y más como un instrumento expandible.
Ese modelo de colaboración ofrece una propuesta creativa más sólida. Un músico podría generar una textura desconocida, aislar un fragmento, cambiar su ritmo, combinarlo con un bucle existente y transformarlo en algo que el sistema original no habría podido anticipar. El ser humano sigue siendo responsable de la selección, la estructura, el gusto y la dirección.
Los generadores de muestras con IA hacen tangible este flujo de trabajo. Un servicio tratado en el episodio produce clips de audio cortos a partir de descripciones como una melodía funky, una frase de piano o una textura concreta de cuerdas. Los sonidos resultantes, de dos a cuatro segundos, pueden cargarse en un sampler y reorganizarse en ritmos.
Los presentadores comparan el proceso con buscar entre infinitas cajas de discos. Sin embargo, a diferencia de la búsqueda tradicional de discos, el material de origen puede solicitarse en vez de descubrirse. Un sampler Teenage Engineering PO-33 ofrece una demostración práctica de cómo clips generados imperfectos pueden convertirse en ingredientes de una composición más amplia.
Esta es una definición más productiva de la creatividad asistida por IA: no pulsar un botón para obtener un artefacto terminado, sino utilizar la generación para ampliar el espacio de materiales disponibles para las decisiones humanas.
Por qué la generación de audio sigue resistiéndose a una dirección precisa
Los experimentos con muestras también revelan las debilidades de la tecnología. Los resultados son inconsistentes, y producir un sonido utilizable puede requerir intentos repetidos. Un clip puede empezar demasiado pronto, llegar con una introducción incómoda o contener más actividad de la solicitada.
Los presentadores describen la dificultad de pedir un único sonido limpio. Una indicación para un solo graznido de pato, por ejemplo, puede producir varios graznidos o una secuencia ruidosa. El modelo parece ansioso por llenar la duración disponible en lugar de respetar el valor musical del silencio.
Algunos artefactos pueden surgir durante el proceso de convertir las salidas del modelo en una forma de onda de audio. La generación basada en tokens y la decodificación pueden introducir ruido o reducir la fidelidad. Sin embargo, el obstáculo mayor es la interacción. Un colaborador humano puede comprender peticiones como «haz que el bajo sea más oscuro», «mantén esa nota más tiempo» o «deja más espacio antes del golpe». Las herramientas actuales no admiten de forma consistente ese tipo de retroalimentación iterativa y musicalmente consciente.
Los presentadores imaginan sistemas que pudieran acompañar una línea de bajo con batería o cuerdas, quizá incluso dentro de un pedal de efectos. Una herramienta así permitiría a los músicos improvisar con una máquina receptiva en lugar de enviar repetidamente indicaciones de texto aisladas. El episodio sugiere que esta colaboración en tiempo real sigue siendo más una aspiración que un producto fiable.
Herramientas de texto a muestra y la cuestión del copyright
Otra aplicación de texto a muestra analizada en el episodio puede ejecutarse como programa independiente o como complemento, lo que permite arrastrar los clips generados a instrumentos virtuales y kits de batería. Una versión que se ejecuta localmente descarga un modelo de generación musical en un MacBook, mostrando cómo los modelos con licencias permisivas pueden convertirse en componentes dentro de muchas herramientas de producción diferentes.
Las muestras generadas también pueden ofrecer una alternativa a extraer grabaciones de canciones existentes. El muestreo tradicional puede requerir una compleja autorización de derechos, especialmente para músicos cuyo trabajo depende en gran medida de fragmentos tomados de otras obras. Álbumes como Paul’s Boutique de los Beastie Boys demuestran el poder creativo del muestreo, al tiempo que recuerdan una época cuyo entorno de licencias era muy diferente.
Las muestras sintéticas no eliminan automáticamente todas las cuestiones legales o éticas. Sin embargo, generar nuevo audio de origen podría reducir la dependencia de grabaciones reconocibles protegidas por copyright y proporcionar a los artistas que trabajan con muestras más material para transformar.
Medir la creatividad sin una única respuesta correcta
El segundo gran tema del episodio es la evaluación. Un clasificador convencional puede probarse con etiquetas conocidas, y un modelo de regresión puede compararse con valores numéricos esperados. La generación creativa rara vez ofrece un objetivo tan claro. No existe una canción, un ensayo o una imagen universalmente correctos para una indicación determinada.
El entrenamiento de modelos de lenguaje sigue proporcionando señales medibles. La predicción del siguiente token produce un valor de pérdida, y las leyes de escalado relacionan el rendimiento esperado con el tamaño del modelo, los datos de entrenamiento y la computación. Pero una pérdida menor es solo un indicador indirecto. A los usuarios, en última instancia, les importa si un modelo responde preguntas, sigue instrucciones, resume con precisión o crea algo valioso.
Los benchmarks como MMLU ponen a prueba el conocimiento mediante preguntas con respuestas verificables, mientras que las clasificaciones públicas comparan modelos en múltiples tareas. Estos métodos funcionan mejor cuando el éxito puede puntuarse objetivamente. Son menos concluyentes para la escritura abierta.
Las métricas de texto ofrecen soluciones parciales. BLEU y ROUGE comparan el texto generado con referencias mediante palabras o secuencias de palabras coincidentes, haciendo hincapié en distintos aspectos de la precisión y la recuperación. En cambio, la puntuación basada en BERT compara representaciones semánticas, lo que permite reconocer significados similares expresados en un lenguaje diferente. Aun así, el parecido con una referencia no equivale necesariamente a calidad o creatividad.
La generación de imágenes afronta el mismo dilema. La Distancia de Inception de Fréchet compara representaciones estadísticas de colecciones de imágenes generadas y de referencia. La puntuación basada en CLIP estima si una imagen corresponde a su indicación. Ambas son útiles, pero ninguna captura plenamente la coherencia visual, la originalidad o la preferencia humana. Un modelo utilizado como juez también hereda sus propias debilidades; por ejemplo, la dificultad para contar objetos con precisión.
Preferencia humana, clasificaciones de modelos y RLHF
Cuando la puntuación objetiva llega a sus límites, los presentadores vuelven al juicio humano. Las personas pueden comparar dos resultados lado a lado y elegir el mejor: el enfoque del episodio del «optometrista». Las comparaciones repetidas pueden producir una clasificación al estilo Elo incluso cuando no existe una puntuación absoluta de calidad.
El mismo principio sustenta el aprendizaje por refuerzo a partir de comentarios humanos. Los evaluadores clasifican varias respuestas a una indicación, creando datos de preferencia que pueden utilizarse para hacer que un modelo de lenguaje sea más útil y esté mejor alineado con la intención del usuario.
Los investigadores también pueden pedir a un modelo que evalúe a otro, lo que podría reducir el coste de la revisión humana. Pero esto introduce un problema circular: un juez automático puede reproducir sesgos, pasar por alto errores o premiar las mismas cualidades superficiales que el modelo evaluado. La evaluación automatizada puede ampliar la supervisión, pero no hace innecesarios los estándares humanos.
La conclusión práctica de los presentadores es que la IA tiene éxito cuando ayuda a las personas a lograr lo que se proponían. Para los sistemas creativos, la prueba final, por tanto, no es simplemente la plausibilidad técnica. Es si las personas consideran valioso el resultado.
La advertencia de Clever Hans para la IA generativa
Una discusión final sobre la inteligencia animal aporta una advertencia acertada. Clever Hans, un caballo que en otro tiempo se creyó capaz de hacer aritmética, acabó demostrando que respondía a señales sutiles de humanos cercanos. Los observadores habían atribuido un razonamiento sofisticado a un comportamiento producido mediante un mecanismo diferente.
La IA generativa conlleva un riesgo interpretativo similar. Un lenguaje fluido o contenidos atractivos pueden llevar a las personas a proyectar intención y comprensión sobre el sistema. A veces, el acto más creativo ocurre en el observador humano, que aporta significado a un resultado ambiguo.
Eso no hace inútil a la tecnología. Aclara dónde reside su valor. Los sistemas generativos pueden producir una cantidad asombrosa de material, pero las personas siguen determinando qué fragmentos merecen atención, cómo deben desarrollarse y qué significan en última instancia. Como demuestra el episodio, la abundancia es fácil; el juicio sigue siendo el recurso creativo escaso.
