Generally AI – Sezon 2, Odcinek 1: Generatywna AI i kreatywność
- Aisha Washington
- 3 godziny temu
- 6 minut(y) czytania
Drugi sezon Generally AI rozpoczyna się pytaniem, które dziś wykracza daleko poza laboratoria badawcze: Co dzieje się z kreatywnością, gdy oprogramowanie potrafi niemal natychmiast tworzyć książki, piosenki, sample, eseje i obrazy? Prowadzący podchodzą do tematu poprzez praktyczne eksperymenty, techniczne metody oceny oraz przykłady syntetycznych mediów, które już konkurują o uwagę w internecie.
Ich rozmowa ujawnia dwie różne historie, które rozwijają się jednocześnie. Generatywna AI może zalać platformy sprzedażowe materiałami jednorazowego użytku, ale może też dać artystom niezwykle elastyczne źródło surowych pomysłów. Zrozumienie tej różnicy wymaga spojrzenia dalej niż na to, czy maszyna potrafi wygenerować coś wiarygodnego, i zadania pytania, czy jej wynik jest użyteczny, kontrolowalny, oryginalny i wart czasu ludzkiej publiczności.
Książki generowane przez AI i ekonomia obfitości
Odcinek rozpoczyna się od holenderskiego dochodzenia dotyczącego książek sprzedawanych online. Spośród około 323 000 zbadanych tytułów około 2% wyglądało na wygenerowane przez AI. Szacowany udział gwałtownie wzrósł: z około 0,1% przed pojawieniem się ChatGPT do 4,2% w kwietniu 2024 roku.
Liczby te pokazują, jak szybko zmienia się wydawnictwo, gdy stworzenie rękopisu nie wymaga już miesięcy pracy. Prowadzący wskazują na limit Amazona wynoszący trzy książki dziennie na autora. To ograniczenie może powstrzymywać publikacje na skalę przemysłową, jednak według zwykłych standardów pisarskich nadal oznacza niezwykłe tempo produkcji.
Kolejnym problemem jest jakość. Wiele podejrzewanych książek AI otrzymało oceny na poziomie dwóch gwiazdek lub niższym. W jednym szczególnie wymownym przypadku klient miał rzekomo otrzymać książkę zawierającą instrukcję dla AI zamiast zamierzonej prozy — dowód, że ktoś opublikował materiał, nawet nie sprawdzając końcowego tekstu.
Problemem nie jest jedynie wzrost liczby przeciętnych książek. Tanie syntetyczne tytuły mogą zaśmiecać wyniki wyszukiwania i utrudniać znalezienie wiarygodnych prac. Pod koniec odcinka prowadzący opisują wyszukiwanie biografii Oppenheimera u holenderskiego księgarza i natrafienie na alternatywy stworzone przez AI zamiast wyraźnie eksponowanej American Prometheus, uznanej biografii powiązanej z filmem. Szczególnie niepokoi ich fakt, że do kategorii przyciągających publikacje generowane przez AI należą zdrowie, samopomoc, zarządzanie i rozwój osobisty. Błędy w tych dziedzinach mogą wyrządzić więcej szkody niż pozbawiona polotu powieść.
Od piosenek dla żartu do niekończącego się strumienia syntetycznej muzyki
Muzyka AI znacznie rozwinęła się od pierwszego sezonu podcastu. Prowadzący omawiają Suno i bawią się pomysłem generowania chwytliwych, dopracowanych piosenek na niemal każdy temat. Utwór o kotach pokazuje natychmiastową atrakcyjność technologii: jest energiczny, wpada w ucho i łatwo go polubić, nie wiedząc, jak został złożony.
Ta dostępność umożliwia także produkcję na skrajną skalę. Odcinek przywołuje twórcę, który w ciągu jednego dnia wydał na Spotify wiele albumów o kotach. Jeśli takie praktyki staną się powszechne, serwisy streamingowe mogą ostatecznie potrzebować ograniczeń przesyłania treści porównywalnych z tymi wprowadzonymi przez platformy książkowe.
Jeden z prowadzących eksperymentuje z traktowaniem generowanych piosenek jako substytutu tradycyjnej muzyki streamingowej. Początkowo doświadczenie jest rozrywkowe, lecz nieustępliwa popowa wrażliwość szybko staje się męcząca. Wskazuje to na ograniczenie ukryte przez początkowe zaskoczenie: muzyka może brzmieć kompetentnie, a jednocześnie wciąż nie mieć różnorodności, powściągliwości i trwałej tożsamości artystycznej.
To rozróżnienie ma znaczenie. Generator zdolny stworzyć przyjemną piosenkę nie musi koniecznie tworzyć dorobku, do którego ludzie będą wracać. Nowość przyciąga uwagę raz; znacząca różnorodność i artystyczna intencja ją podtrzymują.
AI najlepiej sprawdza się jako materiał twórczy, a nie gotowy produkt
Odcinek staje się bardziej optymistyczny, gdy przechodzi od automatycznej produkcji piosenek do narzędzi, którymi muzycy mogą aktywnie manipulować. Prowadzący omawiają demonstrację Google, w której elementy muzyczne wygenerowane przez AI zostały połączone z granymi na żywo loopami i występem. W tym przypadku maszyna działa mniej jak autonomiczny kompozytor, a bardziej jak rozbudowywalny instrument.
Ten model współpracy oferuje mocniejszą propozycję twórczą. Muzyk może wygenerować nieznaną teksturę, wyizolować fragment, zmienić jego rytm, połączyć go z istniejącym loopem i przekształcić w coś, czego pierwotny system nie był w stanie przewidzieć. Człowiek nadal odpowiada za wybór, strukturę, smak i kierunek.
Generatory sampli AI czynią ten proces namacalnym. Jedna z usług omawianych w odcinku tworzy krótkie klipy audio na podstawie opisów, takich jak funkowa melodia, fraza fortepianowa lub określona tekstura smyczkowa. Powstałe dwu- do czterosekundowe dźwięki można załadować do samplera i przearanżować w beaty.
Prowadzący porównują ten proces do przeszukiwania nieskończenie wielu skrzynek z płytami. W przeciwieństwie do tradycyjnego crate digginu materiał źródłowy można jednak zamówić, a nie tylko odkryć. Sampler Teenage Engineering PO-33 zapewnia praktyczną demonstrację tego, jak niedoskonałe wygenerowane klipy mogą stać się składnikami większej kompozycji.
To bardziej produktywna definicja kreatywności wspomaganej przez AI: nie naciskanie przycisku w celu uzyskania gotowego dzieła, lecz używanie generowania do poszerzania przestrzeni materiałów dostępnych dla ludzkich decyzji.
Dlaczego generowanie audio wciąż opiera się precyzyjnemu sterowaniu
Eksperymenty z samplami ujawniają również słabości tej technologii. Wyniki są niespójne, a stworzenie użytecznego dźwięku może wymagać wielu prób. Klip może zaczynać się zbyt wcześnie, zawierać niezręczne narastanie albo więcej aktywności, niż wynikało z prośby.
Prowadzący opisują trudność w poproszeniu o jeden czysty dźwięk. Na przykład prompt o jedno kwaknięcie kaczki może dać kilka kwaknięć albo hałaśliwą sekwencję. Model wydaje się chętny do wypełniania dostępnego czasu trwania zamiast szanować muzyczną wartość ciszy.
Niektóre artefakty mogą powstawać podczas procesu przekształcania wyników modelu w falę dźwiękową. Generowanie oparte na tokenach i dekodowanie mogą wprowadzać szum lub obniżać wierność dźwięku. Jednak większą przeszkodą jest interakcja. Ludzki współpracownik potrafi zrozumieć prośby takie jak „spraw, by bas był ciemniejszy”, „przytrzymaj tę nutę dłużej” lub „zostaw więcej przestrzeni przed uderzeniem”. Obecne narzędzia nie wspierają konsekwentnie takiego iteracyjnego, świadomego muzycznie sprzężenia zwrotnego.
Prowadzący wyobrażają sobie systemy, które mogłyby akompaniować linii basu bębnami lub smyczkami, być może nawet wewnątrz pedału efektowego. Takie narzędzie pozwoliłoby muzykom jamować z responsywną maszyną zamiast wielokrotnie wysyłać odizolowane prompty tekstowe. Odcinek sugeruje, że to partnerstwo w czasie rzeczywistym pozostaje bardziej aspiracją niż niezawodnym produktem.
Narzędzia text-to-sample i kwestia praw autorskich
Inna aplikacja text-to-sample omawiana w odcinku może działać jako samodzielny program lub wtyczka, pozwalając przeciągać wygenerowane klipy do wirtualnych instrumentów i zestawów perkusyjnych. Wersja działająca lokalnie pobiera model generowania muzyki na MacBooka, pokazując, jak modele o liberalnych licencjach mogą stać się komponentami wielu różnych narzędzi produkcyjnych.
Generowane sample mogą również stanowić alternatywę dla wyodrębniania nagrań z istniejących piosenek. Tradycyjny sampling może wymagać skomplikowanego uzyskiwania praw, zwłaszcza dla muzyków, których twórczość silnie opiera się na zapożyczonych fragmentach. Albumy takie jak Paul’s Boutique Beastie Boys pokazują, jak twórczo potężny może być sampling, a zarazem przypominają o epoce, w której środowisko licencyjne było zupełnie inne.
Syntetyczne sample nie eliminują automatycznie wszystkich kwestii prawnych ani etycznych. Niemniej generowanie nowego materiału źródłowego audio mogłoby ograniczyć zależność od rozpoznawalnych nagrań chronionych prawem autorskim i dać artystom opierającym się na samplach więcej materiału do przekształcania.
Mierzenie kreatywności bez jednej poprawnej odpowiedzi
Drugim głównym tematem odcinka jest ewaluacja. Konwencjonalny klasyfikator można testować względem znanych etykiet, a model regresyjny porównywać z oczekiwanymi wartościami liczbowymi. Twórcze generowanie rzadko oferuje tak wyraźny cel. Nie istnieje uniwersalnie poprawna piosenka, esej ani obraz dla danego polecenia.
Trenowanie modeli językowych nadal dostarcza mierzalnych sygnałów. Przewidywanie kolejnego tokenu generuje wartość straty, a prawa skalowania wiążą oczekiwaną wydajność z rozmiarem modelu, danymi treningowymi i mocą obliczeniową. Niższa strata jest jednak jedynie wskaźnikiem zastępczym. Użytkowników ostatecznie obchodzi, czy model odpowiada na pytania, wykonuje instrukcje, trafnie streszcza lub tworzy coś wartościowego.
Benchmarki takie jak MMLU sprawdzają wiedzę za pomocą pytań z możliwymi do zweryfikowania odpowiedziami, a publiczne rankingi porównują modele w wielu zadaniach. Metody te działają najlepiej wtedy, gdy sukces można ocenić obiektywnie. Są mniej rozstrzygające w przypadku otwartego pisania.
Metryki tekstowe oferują częściowe rozwiązania. BLEU i ROUGE porównują wygenerowany tekst z materiałami referencyjnymi poprzez nakładające się słowa lub sekwencje słów, podkreślając różne aspekty precyzji i kompletności. Punktacja oparta na BERT porównuje natomiast reprezentacje semantyczne, dzięki czemu można rozpoznać podobne znaczenia wyrażone innym językiem. Mimo to podobieństwo do materiału referencyjnego nie musi oznaczać jakości ani kreatywności.
Generowanie obrazów staje przed tym samym dylematem. Fréchet Inception Distance porównuje statystyczne reprezentacje zbiorów wygenerowanych obrazów i obrazów referencyjnych. Punktacja oparta na CLIP szacuje, czy obraz odpowiada swojemu poleceniu. Obie metody są użyteczne, lecz żadna nie oddaje w pełni spójności wizualnej, oryginalności ani ludzkich preferencji. Model wykorzystywany jako sędzia dziedziczy też własne słabości — na przykład trudność w dokładnym liczeniu obiektów.
Ludzkie preferencje, rankingi modeli i RLHF
Gdy obiektywna ocena osiąga swoje granice, prowadzący wracają do ludzkiego osądu. Ludzie mogą porównać dwa wyniki obok siebie i wybrać lepszy — zgodnie z podejściem „optometrysty” z odcinka. Powtarzane porównania mogą stworzyć ranking w stylu Elo, nawet jeśli nie istnieje bezwzględna ocena jakości.
Ta sama zasada wspiera uczenie ze wzmocnieniem na podstawie informacji zwrotnych od ludzi. Ewaluatorzy szeregują kilka odpowiedzi na polecenie, tworząc dane o preferencjach, które można wykorzystać, aby model językowy był bardziej pomocny i lepiej dostosowany do intencji użytkownika.
Badacze mogą również poprosić jeden model o ocenę drugiego, potencjalnie zmniejszając koszt ludzkiego przeglądu. Wprowadza to jednak problem kolisty: maszynowy sędzia może powielać uprzedzenia, przeoczać błędy lub nagradzać te same powierzchowne cechy co testowany model. Zautomatyzowana ewaluacja może skalować nadzór, ale nie sprawia, że ludzkie standardy stają się zbędne.
Praktyczny wniosek prowadzących jest taki, że AI odnosi sukces, gdy pomaga ludziom osiągnąć to, co zamierzali. W przypadku systemów kreatywnych ostateczny test nie polega więc wyłącznie na technicznej wiarygodności. Chodzi o to, czy ludzie uznają rezultat za wartościowy.
Ostrzeżenie Clever Hansa dla generatywnej AI
Końcowa dyskusja o inteligencji zwierząt stanowi trafne ostrzeżenie. Clever Hans, koń, którego niegdyś uważano za zdolnego do wykonywania działań arytmetycznych, okazał się ostatecznie reagować na subtelne sygnały pobliskich ludzi. Obserwatorzy przypisywali wyrafinowane rozumowanie zachowaniu powstającemu w wyniku innego mechanizmu.
Generatywna AI wiąże się z podobnym ryzykiem interpretacyjnym. Płynny język lub atrakcyjne media mogą skłaniać ludzi do przypisywania systemowi intencji i rozumienia. Czasem najbardziej kreatywny akt zachodzi po stronie ludzkiego obserwatora, który nadaje znaczenie niejednoznacznemu wynikowi.
Nie czyni to technologii bezużyteczną. Wyjaśnia, gdzie leży jej wartość. Systemy generatywne mogą wytwarzać zdumiewającą ilość materiału, ale to ludzie nadal decydują, które fragmenty zasługują na uwagę, jak należy je rozwijać i co ostatecznie znaczą. Jak pokazuje odcinek, obfitość jest łatwa; osąd pozostaje rzadkim zasobem kreatywnym.
