Generally AI – Staffel 2, Folge 1: Generative KI und Kreativität
- Aisha Washington
- vor 1 Tag
- 7 Min. Lesezeit
Die zweite Staffel von Generally AI beginnt mit einer Frage, die inzwischen weit über Forschungslabore hinausreicht: Was passiert mit Kreativität, wenn Software nahezu sofort Bücher, Songs, Samples, Essays und Bilder erzeugen kann? Die Hosts nähern sich dem Thema anhand praktischer Experimente, technischer Bewertungsmethoden und Beispielen synthetischer Medien, die online bereits um Aufmerksamkeit konkurrieren.
Ihr Gespräch zeigt, dass sich gleichzeitig zwei unterschiedliche Entwicklungen abspielen. Generative KI kann Marktplätze mit Wegwerfmaterial überschwemmen, sie kann Künstlerinnen und Künstlern aber auch eine ungewöhnlich flexible Quelle für Rohideen bieten. Um diesen Unterschied zu verstehen, muss man über die Frage hinausgehen, ob eine Maschine etwas Plausibles erzeugen kann, und fragen, ob ihre Ergebnisse nützlich, steuerbar, originell und die Zeit eines menschlichen Publikums wert sind.
KI-generierte Bücher und die Ökonomie des Überflusses
Die Folge beginnt mit einer niederländischen Untersuchung zu online verkauften Büchern. Von etwa 323.000 untersuchten Titeln schienen rund 2 % KI-generiert zu sein. Der geschätzte Anteil war stark gestiegen: von ungefähr 0,1 % vor dem Erscheinen von ChatGPT auf 4,2 % im April 2024.
Diese Zahlen verdeutlichen, wie schnell sich das Verlagswesen verändert, wenn die Erstellung eines Manuskripts nicht mehr monatelange Arbeit erfordert. Die Hosts verweisen auf Amazons Limit von drei Büchern pro Autorin oder Autor und Tag. Diese Beschränkung mag Uploads im industriellen Maßstab bremsen, doch nach gewöhnlichen Maßstäben des Schreibens ist sie weiterhin eine außergewöhnliche Produktionsrate.
Auch die Qualität ist ein Thema. Viele der mutmaßlichen KI-Bücher erhielten Bewertungen von zwei Sternen oder weniger. In einem besonders aufschlussreichen Fehler erhielt ein Kunde Berichten zufolge ein Buch, das statt des vorgesehenen Prosatexts eine KI-Anweisung enthielt – ein Beleg dafür, dass jemand das Material veröffentlicht hatte, ohne den endgültigen Text überhaupt zu prüfen.
Das Problem ist nicht bloß eine Zunahme mittelmäßiger Bücher. Günstige synthetische Titel können Suchergebnisse überfüllen und glaubwürdige Werke schwerer auffindbar machen. Gegen Ende der Folge beschreiben die Hosts, wie sie bei einem niederländischen Buchhändler nach einer Oppenheimer-Biografie suchten und auf KI-erstellte Alternativen stießen, statt American Prometheus, die mit dem Film verbundene und gefeierte Biografie, prominent angezeigt zu bekommen. Besonders beunruhigt sie, dass Gesundheit, Selbsthilfe, Management und persönliche Entwicklung zu den Kategorien gehören, die KI-generierte Veröffentlichungen anziehen. Fehler in diesen Bereichen können mehr Schaden anrichten als ein uninspirierter Roman.
Von Neuheitssongs zu einem endlosen Strom synthetischer Musik
KI-Musik hat sich seit der ersten Staffel des Podcasts erheblich weiterentwickelt. Die Hosts sprechen über Suno und spielen mit der Idee, eingängige, professionell klingende Songs zu nahezu jedem Prompt zu erzeugen. Ein Track mit Katzen-Thema demonstriert den unmittelbaren Reiz der Technologie: Er ist schwungvoll, einprägsam und lässt sich leicht genießen, ohne zu wissen, wie er zusammengesetzt wurde.
Diese Zugänglichkeit ermöglicht auch extreme Mengen an Output. Die Folge nennt einen Creator, der an einem einzigen Tag mehrere Alben mit Katzen-Thema auf Spotify veröffentlicht. Wenn solche Praktiken üblich werden, könnten Streamingdienste irgendwann Upload-Beschränkungen benötigen, die mit den von Buchplattformen eingeführten vergleichbar sind.
Ein Host experimentiert damit, generierte Songs als Ersatz für herkömmliche Streaming-Musik zu behandeln. Zunächst ist das Erlebnis unterhaltsam, doch die unerbittliche Pop-Sensibilität wird bald ermüdend. Das weist auf eine Einschränkung hin, die von der anfänglichen Überraschung verdeckt wird: Musik kann kompetent klingen und dennoch Bandbreite, Zurückhaltung und eine dauerhafte künstlerische Identität vermissen lassen.
Dieser Unterschied ist wichtig. Ein Generator, der einen angenehmen Song erzeugen kann, schafft nicht unbedingt ein Werk, zu dem Menschen zurückkehren werden. Neuheit gewinnt einmal Aufmerksamkeit; bedeutungsvolle Variation und künstlerische Absicht erhalten sie.
KI funktioniert am besten als kreatives Material, nicht als fertiges Produkt
Die Folge wird optimistischer, als sie sich von automatischer Songproduktion Werkzeugen zuwendet, die Musikerinnen und Musiker aktiv bearbeiten können. Die Hosts besprechen eine Google-Demonstration, in der KI-generierte musikalische Elemente mit Live-Loops und Performance gemischt wurden. Hier funktioniert die Maschine weniger wie eine autonome Komponistin und mehr wie ein erweiterbares Instrument.
Dieses Modell der Zusammenarbeit bietet ein überzeugenderes kreatives Potenzial. Eine Musikerin oder ein Musiker könnte eine ungewohnte Textur erzeugen, ein Fragment isolieren, seinen Rhythmus verändern, es mit einem bestehenden Loop kombinieren und in etwas verwandeln, das das ursprüngliche System nicht hätte vorhersehen können. Der Mensch bleibt für Auswahl, Struktur, Geschmack und Richtung verantwortlich.
KI-Sample-Generatoren machen diesen Workflow greifbar. Ein in der Folge besprochener Dienst erzeugt kurze Audioclips aus Beschreibungen wie einer funkigen Melodie, einer Klavierphrase oder einer bestimmten Streichertextur. Die entstehenden zwei- bis viersekündigen Sounds können in einen Sampler geladen und zu Beats neu angeordnet werden.
Die Hosts vergleichen den Prozess mit der Suche in unendlich vielen Plattenkisten. Anders als beim traditionellen Diggen in Plattenkisten kann das Ausgangsmaterial jedoch angefordert statt entdeckt werden. Ein Teenage Engineering PO-33 Sampler liefert eine anschauliche Demonstration dafür, wie unvollkommene generierte Clips zu Bestandteilen einer größeren Komposition werden können.
Dies ist eine produktivere Definition KI-unterstützter Kreativität: nicht einen Knopf für ein fertiges Artefakt zu drücken, sondern Generierung zu nutzen, um den Raum der Materialien für menschliche Entscheidungen zu erweitern.
Warum die Audiogenerierung sich weiterhin präziser Steuerung widersetzt
Die Sample-Experimente legen auch die Schwächen der Technologie offen. Die Ergebnisse sind uneinheitlich, und das Erzeugen eines brauchbaren Sounds kann wiederholte Versuche erfordern. Ein Clip kann zu früh beginnen, mit einem unbeholfenen Aufbau einsetzen oder mehr Aktivität enthalten als gewünscht.
Die Hosts beschreiben die Schwierigkeit, nach einem einzelnen klaren Sound zu fragen. Ein Prompt für ein einzelnes Entenquaken kann beispielsweise mehrere Quaks oder eine geräuschvolle Sequenz hervorbringen. Das Modell scheint darauf bedacht zu sein, die verfügbare Dauer zu füllen, statt den musikalischen Wert von Stille zu respektieren.
Manche Artefakte können während der Umwandlung von Modellausgaben in eine Audiowellenform entstehen. Token-basierte Generierung und Dekodierung können Rauschen einführen oder die Klangtreue verringern. Das größere Hindernis ist jedoch die Interaktion. Ein menschlicher Mitwirkender kann Anweisungen wie „Mach den Bass dunkler“, „Halte diesen Ton länger“ oder „Lass vor dem Einsatz mehr Raum“ verstehen. Aktuelle Werkzeuge unterstützen diese Art von iterativem, musikalisch bewusstem Feedback nicht zuverlässig.
Die Hosts stellen sich Systeme vor, die eine Basslinie mit Schlagzeug oder Streichern begleiten könnten, vielleicht sogar innerhalb eines Effektpedals. Ein solches Werkzeug würde es Musikerinnen und Musikern ermöglichen, mit einer reagierenden Maschine zu jammen, statt wiederholt isolierte Textprompts einzureichen. Die Folge legt nahe, dass diese Echtzeit-Partnerschaft bislang eher ein Wunschbild als ein verlässliches Produkt bleibt.
Text-zu-Sample-Werkzeuge und die Urheberrechtsfrage
Eine weitere in der Folge besprochene Text-zu-Sample-Anwendung kann als eigenständiges Programm oder Plug-in laufen und ermöglicht es, generierte Clips in virtuelle Instrumente und Drum-Kits zu ziehen. Eine lokal ausgeführte Version lädt ein Musikgenerierungsmodell auf ein MacBook herunter und zeigt, wie permissiv lizenzierte Modelle zu Komponenten in vielen unterschiedlichen Produktionswerkzeugen werden können.
Generierte Samples können auch eine Alternative zum Extrahieren von Aufnahmen aus bestehenden Songs bieten. Traditionelles Sampling kann komplizierte Rechteklärungen erfordern, insbesondere für Musikerinnen und Musiker, deren Arbeit stark auf übernommenen Fragmenten beruht. Alben wie Paul’s Boutique der Beastie Boys zeigen, wie kreativ kraftvoll Sampling sein kann, und erinnern zugleich an eine Zeit, deren Lizenzumfeld sehr anders war.
Synthetische Samples beseitigen nicht automatisch jede rechtliche oder ethische Frage. Dennoch könnte die Erzeugung neuer Quellaudios die Abhängigkeit von wiedererkennbaren urheberrechtlich geschützten Aufnahmen verringern und samplebasierten Künstlerinnen und Künstlern mehr Material zum Umgestalten geben.
Kreativität ohne eine einzige richtige Antwort messen
Das zweite große Thema der Episode ist die Bewertung. Ein klassischer Klassifikator kann anhand bekannter Labels getestet werden, und ein Regressionsmodell lässt sich mit erwarteten Zahlenwerten vergleichen. Kreative Generierung bietet nur selten ein so klares Ziel. Zu einem bestimmten Prompt gibt es kein universell richtiges Lied, keinen universell richtigen Essay und kein universell richtiges Bild.
Das Training von Sprachmodellen liefert dennoch messbare Signale. Die Vorhersage des nächsten Tokens erzeugt einen Loss-Wert, und Skalierungsgesetze setzen die erwartete Leistung in Beziehung zu Modellgröße, Trainingsdaten und Rechenaufwand. Ein niedrigerer Loss ist jedoch nur ein Näherungswert. Nutzerinnen und Nutzer interessiert letztlich, ob ein Modell Fragen beantwortet, Anweisungen befolgt, präzise zusammenfasst oder etwas Wertvolles schafft.
Benchmarks wie MMLU prüfen Wissen anhand von Fragen mit überprüfbaren Antworten, während öffentliche Bestenlisten Modelle über mehrere Aufgaben hinweg vergleichen. Diese Methoden funktionieren am besten, wenn Erfolg objektiv bewertet werden kann. Für offene Schreibaufgaben sind sie weniger aussagekräftig.
Textmetriken bieten Teillösungen. BLEU und ROUGE vergleichen generierten Text anhand überlappender Wörter oder Wortfolgen mit Referenzen und gewichten dabei unterschiedliche Aspekte von Präzision und Recall. BERT-basierte Bewertungen vergleichen stattdessen semantische Repräsentationen und können dadurch ähnliche Bedeutungen erkennen, die in unterschiedlicher Sprache ausgedrückt werden. Dennoch bedeutet Ähnlichkeit mit einer Referenz nicht zwangsläufig Qualität oder Kreativität.
Bei der Bildgenerierung besteht dasselbe Dilemma. Die Fréchet Inception Distance vergleicht statistische Repräsentationen von Sammlungen generierter Bilder und Referenzbilder. CLIP-basierte Bewertungen schätzen ein, ob ein Bild zu seinem Prompt passt. Beide sind nützlich, erfassen jedoch weder visuelle Kohärenz, Originalität noch menschliche Präferenz vollständig. Ein als Jury eingesetztes Modell übernimmt zudem seine eigenen Schwächen – etwa Schwierigkeiten beim korrekten Zählen von Objekten.
Menschliche Präferenz, Modellrankings und RLHF
Wenn objektive Bewertung an ihre Grenzen stößt, wenden sich die Gastgeber wieder dem menschlichen Urteil zu. Menschen können zwei Ergebnisse nebeneinander vergleichen und das bessere auswählen – der „Optometrist“-Ansatz der Episode. Wiederholte Vergleiche können ein Elo-ähnliches Ranking hervorbringen, selbst wenn keine absolute Qualitätsbewertung existiert.
Dasselbe Prinzip liegt Reinforcement Learning from Human Feedback zugrunde. Bewertende ordnen mehrere Antworten auf einen Prompt nach ihrer Qualität und erzeugen so Präferenzdaten, mit denen ein Sprachmodell hilfreicher gemacht und besser an die Absicht der Nutzenden angepasst werden kann.
Forschende können auch ein Modell bitten, ein anderes zu bewerten, wodurch sich die Kosten menschlicher Überprüfung möglicherweise senken lassen. Das führt jedoch zu einem zirkulären Problem: Eine maschinelle Jury kann Verzerrungen reproduzieren, Fehler übersehen oder dieselben oberflächlichen Eigenschaften belohnen wie das getestete Modell. Automatisierte Bewertung kann Aufsicht skalieren, macht menschliche Maßstäbe jedoch nicht überflüssig.
Die praktische Schlussfolgerung der Gastgeber lautet: KI ist erfolgreich, wenn sie Menschen dabei hilft, das zu erreichen, was sie beabsichtigt haben. Für kreative Systeme ist der abschließende Test daher nicht bloß technische Plausibilität. Entscheidend ist, ob Menschen das Ergebnis als wertvoll empfinden.
Die Warnung von Clever Hans für generative KI
Eine abschließende Diskussion über tierische Intelligenz liefert eine passende Warnung. Clever Hans, ein Pferd, das einst für rechenfähig gehalten wurde, reagierte, wie sich später herausstellte, auf subtile Signale von Menschen in seiner Nähe. Beobachtende hatten einem Verhalten, das durch einen anderen Mechanismus entstand, anspruchsvolles Denken zugeschrieben.
Generative KI birgt ein ähnliches Interpretationsrisiko. Flüssige Sprache oder ansprechende Medien können Menschen dazu verleiten, dem System Absicht und Verständnis zuzuschreiben. Manchmal findet der kreativste Akt bei den menschlichen Betrachtenden statt, die einem mehrdeutigen Ergebnis Bedeutung verleihen.
Das macht die Technologie nicht nutzlos. Es verdeutlicht, worin ihr Wert liegt. Generative Systeme können eine erstaunliche Menge an Material erzeugen, doch Menschen entscheiden weiterhin, welche Fragmente Aufmerksamkeit verdienen, wie sie weiterentwickelt werden sollten und was sie letztlich bedeuten. Wie die Episode zeigt, ist Fülle leicht zu erzeugen; Urteilsvermögen bleibt die knappe kreative Ressource.
