Generally AI – Temporada 2, Episódio 1: IA Generativa e Criatividade
- Aisha Washington
- há 1 dia
- 8 min de leitura
A segunda temporada de Generally AI começa com uma pergunta que agora vai muito além dos laboratórios de pesquisa: o que acontece com a criatividade quando um software consegue produzir livros, músicas, samples, ensaios e imagens quase instantaneamente? Os apresentadores abordam o tema por meio de experimentos práticos, métodos de avaliação técnica e exemplos de mídia sintética que já disputam atenção online.
A conversa deles revela duas histórias distintas acontecendo ao mesmo tempo. A IA generativa pode inundar marketplaces com material descartável, mas também pode oferecer aos artistas uma fonte extraordinariamente flexível de ideias brutas. Entender essa distinção exige olhar além de uma máquina conseguir gerar algo plausível e perguntar se o resultado é útil, controlável, original e digno do tempo de um público humano.
Livros Gerados por IA e a Economia da Abundância
O episódio começa com uma investigação holandesa sobre livros vendidos online. Dos cerca de 323.000 títulos examinados, aproximadamente 2% pareciam ter sido gerados por IA. A proporção estimada havia crescido acentuadamente: de aproximadamente 0,1% antes da chegada do ChatGPT para 4,2% em abril de 2024.
Esses números ilustram a rapidez com que a publicação muda quando produzir um manuscrito deixa de exigir meses de trabalho. Os apresentadores apontam o limite da Amazon de três livros por autor por dia. Essa restrição pode conter uploads em escala industrial, mas ainda representa uma taxa de produção extraordinária para os padrões comuns de escrita.
A qualidade é outra preocupação. Muitos dos livros suspeitos de terem sido produzidos por IA receberam avaliações de duas estrelas ou menos. Em um erro particularmente revelador, um cliente teria recebido um livro contendo uma instrução para IA em vez da prosa pretendida — evidência de que alguém publicou o material sem sequer revisar o texto final.
O problema não é apenas o aumento de livros medíocres. Títulos sintéticos baratos podem lotar os resultados de busca e dificultar a descoberta de trabalhos confiáveis. Perto do fim do episódio, os apresentadores descrevem a busca por uma biografia de Oppenheimer em uma livraria holandesa e o encontro de alternativas feitas por IA em vez de ver com destaque American Prometheus, a aclamada biografia associada ao filme. Eles se preocupam especialmente com o fato de saúde, autoajuda, gestão e desenvolvimento pessoal estarem entre as categorias que atraem publicações geradas por IA. Erros nesses campos podem causar mais danos do que um romance sem inspiração.
De Canções de Novidade a um Fluxo Infinito de Música Sintética
A música de IA avançou consideravelmente desde a primeira temporada do podcast. Os apresentadores discutem o Suno e brincam com a ideia de gerar músicas cativantes e bem produzidas a partir de quase qualquer prompt. Uma faixa com tema de gatos demonstra o apelo imediato da tecnologia: ela é animada, memorável e fácil de apreciar sem saber como foi montada.
Essa acessibilidade também permite uma produção extrema. O episódio cita um criador que lançou vários álbuns com tema de gatos no Spotify em um único dia. Se essas práticas se tornarem comuns, os serviços de streaming talvez precisem, no futuro, de restrições de upload comparáveis às introduzidas pelas plataformas de livros.
Um dos apresentadores experimenta tratar músicas geradas como substitutas da música convencional de streaming. A experiência é divertida a princípio, mas a sensibilidade pop implacável logo se torna cansativa. Isso aponta para uma limitação escondida pela surpresa inicial: a música pode soar competente e ainda assim carecer de variedade, contenção e uma identidade artística duradoura.
A distinção importa. Um gerador capaz de produzir uma música agradável não está necessariamente criando uma obra à qual as pessoas voltarão. A novidade conquista atenção uma vez; a variação significativa e a intenção artística a sustentam.
A IA Funciona Melhor como Material Criativo, Não como Produto Final
O episódio se torna mais otimista quando passa da produção automática de músicas para ferramentas que os músicos podem manipular ativamente. Os apresentadores discutem uma demonstração do Google em que elementos musicais gerados por IA foram misturados a loops ao vivo e performance. Aqui, a máquina funciona menos como uma compositora autônoma e mais como um instrumento expansível.
Esse modelo de colaboração oferece uma proposta criativa mais forte. Um músico poderia gerar uma textura desconhecida, isolar um fragmento, alterar seu ritmo, combiná-lo com um loop existente e transformá-lo em algo que o sistema original não poderia ter antecipado. O ser humano continua responsável pela seleção, estrutura, gosto e direção.
Geradores de samples com IA tornam esse fluxo de trabalho palpável. Um serviço discutido no episódio produz clipes curtos de áudio a partir de descrições como uma melodia funky, uma frase de piano ou uma textura específica de cordas. Os sons resultantes, de dois a quatro segundos, podem ser carregados em um sampler e reorganizados em batidas.
Os apresentadores comparam o processo a procurar em infinitas caixas de discos. Diferentemente da busca tradicional em caixas de discos, porém, o material de origem pode ser solicitado em vez de descoberto. Um sampler Teenage Engineering PO-33 oferece uma demonstração prática de como clipes gerados imperfeitos podem se tornar ingredientes de uma composição maior.
Esta é uma definição mais produtiva de criatividade assistida por IA: não apertar um botão para obter um artefato finalizado, mas usar a geração para ampliar o espaço de materiais disponíveis para decisões humanas.
Por Que a Geração de Áudio Ainda Resiste a uma Direção Precisa
Os experimentos com samples também expõem as fraquezas da tecnologia. Os resultados são inconsistentes, e produzir um som utilizável pode exigir repetidas tentativas. Um clipe pode começar cedo demais, chegar com uma introdução estranha ou conter mais atividade do que foi solicitado.
Os apresentadores descrevem a dificuldade de pedir um único som limpo. Um prompt para um único grasnado de pato, por exemplo, pode produzir vários grasnados ou uma sequência ruidosa. O modelo parece ansioso para preencher a duração disponível, em vez de respeitar o valor musical do silêncio.
Alguns artefatos podem surgir durante o processo de conversão das saídas do modelo em uma forma de onda de áudio. A geração baseada em tokens e a decodificação podem introduzir ruído ou reduzir a fidelidade. Ainda assim, o maior obstáculo é a interação. Um colaborador humano consegue entender pedidos como “deixe o baixo mais escuro”, “segure essa nota por mais tempo” ou “deixe mais espaço antes do ataque”. As ferramentas atuais não oferecem suporte consistente a esse tipo de feedback iterativo e musicalmente consciente.
Os apresentadores imaginam sistemas que poderiam acompanhar uma linha de baixo com bateria ou cordas, talvez até dentro de um pedal de efeitos. Essa ferramenta permitiria que músicos improvisassem com uma máquina responsiva, em vez de enviar repetidamente prompts de texto isolados. O episódio sugere que essa parceria em tempo real continua sendo mais uma aspiração do que um produto confiável.
Ferramentas de Texto para Sample e a Questão dos Direitos Autorais
Outro aplicativo de texto para sample discutido no episódio pode funcionar como programa independente ou plug-in, permitindo que clipes gerados sejam arrastados para instrumentos virtuais e kits de bateria. Uma versão executada localmente baixa um modelo de geração musical para um MacBook, mostrando como modelos com licenças permissivas podem se tornar componentes dentro de muitas ferramentas de produção diferentes.
Samples gerados também podem oferecer uma alternativa à extração de gravações de músicas existentes. A prática tradicional de sampling pode exigir uma complexa liberação de direitos, especialmente para músicos cujo trabalho depende fortemente de fragmentos emprestados. Álbuns como Paul’s Boutique, dos Beastie Boys, demonstram o poder criativo do sampling, ao mesmo tempo que lembram uma era cujo ambiente de licenciamento era muito diferente.
Samples sintéticos não eliminam automaticamente todas as questões legais ou éticas. Ainda assim, gerar novo áudio-fonte poderia reduzir a dependência de gravações protegidas por direitos autorais e facilmente reconhecíveis, além de oferecer aos artistas que trabalham com samples mais material para remodelar.
Medindo a Criatividade Sem Uma Única Resposta Correta
O segundo grande tema do episódio é a avaliação. Um classificador convencional pode ser testado com base em rótulos conhecidos, e um modelo de regressão pode ser comparado a valores numéricos esperados. A geração criativa raramente oferece um alvo tão claro. Não existe uma música, ensaio ou imagem universalmente correta para um determinado prompt.
O treinamento de modelos de linguagem ainda fornece sinais mensuráveis. A previsão do próximo token produz um valor de perda, e as leis de escala relacionam o desempenho esperado ao tamanho do modelo, aos dados de treinamento e à computação. Mas uma perda menor é apenas um indicador indireto. Em última instância, os usuários se importam se um modelo responde a perguntas, segue instruções, resume com precisão ou cria algo que valha a pena.
Benchmarks como o MMLU testam conhecimento por meio de perguntas com respostas verificáveis, enquanto rankings públicos comparam modelos em várias tarefas. Esses métodos funcionam melhor quando o sucesso pode ser pontuado objetivamente. Eles são menos conclusivos para a escrita aberta.
As métricas de texto oferecem soluções parciais. BLEU e ROUGE comparam o texto gerado com referências por meio de palavras ou sequências de palavras sobrepostas, enfatizando diferentes aspectos de precisão e recall. A pontuação baseada em BERT, por sua vez, compara representações semânticas, tornando possível reconhecer significados semelhantes expressos em linguagens diferentes. Ainda assim, a semelhança com uma referência não equivale necessariamente a qualidade ou criatividade.
A geração de imagens enfrenta o mesmo dilema. A Distância de Inception de Fréchet compara representações estatísticas de coleções de imagens geradas e de imagens de referência. A pontuação baseada em CLIP estima se uma imagem corresponde ao seu prompt. Ambas são úteis, mas nenhuma captura plenamente a coerência visual, a originalidade ou a preferência humana. Um modelo usado como juiz também herda suas próprias fraquezas — por exemplo, a dificuldade de contar objetos com precisão.
Preferência Humana, Rankings de Modelos e RLHF
Quando a pontuação objetiva chega aos seus limites, os apresentadores voltam ao julgamento humano. As pessoas podem comparar duas saídas lado a lado e escolher a melhor — a abordagem de “optometrista” do episódio. Comparações repetidas podem produzir um ranking no estilo Elo mesmo quando não existe uma pontuação absoluta de qualidade.
O mesmo princípio sustenta o aprendizado por reforço a partir de feedback humano. Avaliadores classificam várias respostas a um prompt, criando dados de preferência que podem ser usados para tornar um modelo de linguagem mais útil e mais alinhado à intenção do usuário.
Pesquisadores também podem pedir a um modelo que avalie outro, potencialmente reduzindo o custo da revisão humana. Mas isso introduz um problema circular: um juiz de máquina pode reproduzir vieses, deixar passar erros ou recompensar as mesmas qualidades superficiais do modelo que está sendo testado. A avaliação automatizada pode ampliar a supervisão, mas não torna os padrões humanos desnecessários.
A conclusão prática dos apresentadores é que a IA tem sucesso quando ajuda as pessoas a realizar o que pretendiam. Para sistemas criativos, o teste final, portanto, não é apenas a plausibilidade técnica. É se as pessoas consideram o resultado valioso.
O Alerta de Clever Hans para a IA Generativa
Uma discussão final sobre inteligência animal oferece uma advertência apropriada. Clever Hans, um cavalo que certa vez se acreditou ser capaz de fazer aritmética, acabou sendo identificado como alguém que respondia a sinais sutis de humanos próximos. Os observadores haviam atribuído um raciocínio sofisticado a um comportamento produzido por um mecanismo diferente.
A IA generativa convida a um risco interpretativo semelhante. Linguagem fluente ou mídias atraentes podem levar as pessoas a projetar intenção e compreensão no sistema. Às vezes, o ato mais criativo ocorre no observador humano, que atribui significado a uma saída ambígua.
Isso não torna a tecnologia inútil. Isso esclarece onde está seu valor. Sistemas generativos podem produzir uma quantidade impressionante de material, mas as pessoas ainda determinam quais fragmentos merecem atenção, como devem ser desenvolvidos e o que, em última instância, significam. Como o episódio demonstra, a abundância é fácil; o julgamento continua sendo o recurso criativo escasso.
