Zola Jesus: O AI i Przywileju Krzemowego Faszyzmu

25 listopada 2019, Patreon
tłumaczenie: Joanna Kaniewska (dziewiętnaście czwartych)
korekta: Iza Ryżek (rozpiszsie.pl)

Przedmowa: piszę w szczerej intencji stworzenia dialogu o potencjalnych zagrożeniach ze strony technologii dla współczesnego życia oraz dla muzyki. Nie jestem pisarką, a pod wieloma względami ten tekst to wstępniak. Piszę go w dobrej wierze, mając nadzieję wyjaśnić moje wpisy na Twitterze o AI. [Stanowiły one część dyskusji z Grimes i po paru tygodniach zostały usunięte. Jednakże tłumaczony tekst całkowicie się broni jako dzieło samodzielne – 19/4]

Piszę ten tekst na MacBooku, w aplikacji Google Docs. Czy cieszy mnie, że dorzucam swoją cegiełkę do całych ścian danych, które zostały zebrane przez te firmy na mój temat? Nie. Czy to powstrzymuje mnie przed korzystaniem z nich i przekazywaniem im informacji? Nie.

Czemu?

Po prostu niełatwo odrzucić łatwość i wydajność współczesnych technologii. Miałam poczucie, jakbym dziesiątki lat korzystała z połączenia przez modem, a potem, pewnego dnia, coś się po prostu zmieniło. W jednej chwili technologia komputerowo-telefoniczna stała się tak przystępna, że przestała wymagać wysiłku. Używam odcisku palca, by odblokować telefon. Proszę telefon, by odpisał za mnie na wiadomości, gdy prowadzę samochód. Korzystam z zabawnych filtrów, które pokazują mi, jak wyglądałabym po operacji nosa. Wiem, że kosztem tych wszystkich rzeczy jest moja prywatność. Ale trudno jest przestać, gdy tak bardzo ułatwiają życie.

Łatwiej zwyczajnie udawać, że są niegroźne, że mogę ich swobodnie używać dzięki dobrej woli developerów. Bez żadnych zobowiązań.

Mam do siebie o to żal, ale wydaje mi się, że wielu innych czuje to samo. Gdybyśmy mogli, wolelibyśmy zignorować wewnętrzny głos mówiący „w tym musi być jakiś haczyk”. Ponieważ, oczywiście, jest w tym haczyk.

Nie wiem wprawdzie za dużo o naukowych podstawach AI, ale lubię myśleć o warunkach socjologicznych, jakie ona stwarza.

Najpierw muszę zamknąć jedną kwestię:

Na Twitterze użyłam wyrażenia „przywilej Krzemowego Faszyzmu”. To mocne wyrażenie. Przykro mi, że jest tendencyjne. Uważam jednak, że trafnie podsumowuje pewną współczesną perspektywę i nie wycofuję się z tych słów. Co roku wykładniczo rośnie ilość miejsc pracy związanych z nowymi technologiami. Często powstają one w dobrze płacących, szybko rozwijających się i ambitnych otoczeniach, które stawiają na innowację, ewolucję, wzrost i niestrudzoną pracę. Wiele z tych stanowisk pracuje nad technologiami, których nie da się nawet jeszcze wdrożyć. Naprawdę nowatorskimi sprawami. To rodzi pewną atmosferę w branży. Ludzie, którzy pracują w Dolinie Krzemowej lub tkwią po uszy w technice, często otrzymują wysokie pensje i są kwaterowani tak, by nie mieli kontaktu z innymi klasami [społecznymi – 19/4].Z natury mają idealistyczne podejście do obietnic i przyszłości technologii. Nacisk na wizjonerski idealizm powstaje poprzez nadawanie obecnych i przyszłych technologiach miana przełomowych i prekursorskich. Każdy chce zostać następnym Apple’em lub Facebookiem. Wszyscy z branży chcą zapisać się w historii jako twórcy Lepszego Jutra.

Ta utopijna ekscytacja przyszłością przywodzi mi na myśl Włoski Futuryzm. Futuryzm był dwudziestowiecznym włoskim ruchem, który bardzo szybko stał się twarzą faszyzmu. To, jak obecnie podkreślamy nieuchronność innowacji, przypomina nieco powtórkę futuryzmu. Rozmyślamy nad tym, jak AI przejmie kontrolę nad naszym życiem, czy nam się to podoba czy nie. Dyskutujemy, jak sztuczna inteligencja objawi nam piękno i doskonałość dotychczas nieznane człowiekowi. AI obiecuje ludzkości rozkwit, przemianę w oświecony, fuzyjny gatunek; gdy nasza świadomość zleje się w jedno z naszymi maszynami, a cała wiedza świata uniesie się i zastygnie w kwitnącej spirali perfekcji. To jest coś Rewelacyjnego. Gdy nadejdzie jutro, nasze życie nie będzie już takie samo.

A zatem dajmy technologom przestrzeń i środki, i bierzmy się do pracy! Z drogi! Żadnych pytań! Czas jest najważniejszy. Oni robią to dla NAS.

Ślepy idealizm pochodzi od grupy ludzi wierzących, że są odpowiedzialni za rozwój ludzkości, a każdy, kto stanie im na drodze, musi po prostu zawierzyć ich geniuszowi i pozwolić im robić swoje. Dla mnie to przypomina… faszyzm. Zagrożenie jest jeszcze większe, gdy spoczywa w rękach uprzywilejowanej oligarchii ekstremalnie wpływowych i zamożnych ludzi. Kompleks Boga to prawdziwy problem, zwłaszcza w przypadku i tak potężnych jednostek, które szybko tracą umiejętność rozumienia ludzi pozbawionych takiej władzy. Nie ma granic dla tego, co mogą osiągnąć i zyskać w swoim życiu. Kto by nie chciał być tym, co zmieni świat i poczuć się jak uber-mensch [sic!] odpowiedzialny za przyspieszenie ludzkiej ewolucji? Zyskać wpływy i bogactwa, które tylko wzmocnią czyjąś rolę w świecie? Jest to kuszące.

To wszystko stanowi według mnie wielkie zagrożenie, gdyż społeczeństwo często jest zmuszone wierzyć w każdą narrację kontrolowaną przez tych ludzi. Mówi się nam, że pracują nad czymś ważnym, a my nie powinniśmy poddawać tego w wątpliwość. Że wiedzą, co jest dla ludzkości najlepsze. Ale chwila. Chwila. Od kiedy to ludzie okazują podobny altruizm? Pod powierzchnią zawsze kryje się coś więcej. Nigdy nic dobrego nie powstało bez skutków ubocznych. Technika z pewnością nie jest tu żadnym wyjątkiem. Przy wszystkich jej cudach i całym wkładzie w ludzkie życie, jest to również metoda kontroli i manipulowania opinią publiczną. Wniknęła w nasze życie niemal bez śladu, w tak wielkim stopniu, że już nawet nie wiemy, czy działa na naszą korzyść czy niekorzyść. Po prostu mamy skorzystać z tej śmiesznej aplikacji, która porówna nasze twarze do renesansowych obrazów lub celebrytów.

Sztuczna inteligencja zapewnia nam obecnie między innymi zabawne filtry na zdjęcia, rozpoznawanie mowy, uczenie maszynowe. Codziennie wchodzimy w interakcje z AI i to za naszą zgodą. Ale jest ona też wykorzystywana do wykrywania i zatrzymywania prześladowanych grup społecznych, kolekcjonowania danych oraz profili konsumentów, którzy nie wyrazili na to zgody, podsłuchiwania rozmów w celu profilowania reklam, a nawet do wywierania wpływu na wybory. Trudno powiedzieć, czemu jeszcze może służyć wprowadzenie sztucznej inteligencji, ale jestem pewna, że to nie koniec listy. (Nie mówiąc już o tym, że farmy serwerów to pożeracze energii, a nagminne zachowania „prośrodowiskowych” wizjonerów też wcale mu nie pomagają).

Przemysł technologiczny działa w wolnorynkowym kapitalizmie, niezwiązany zbyt wieloma (o ile w ogóle jakimiś) regulacjami. Jest to całkowicie nowy przemysł, który szybko rośnie i ciągle ewoluuje, trudno więc określić, co w nim służy dobru ludzkości, a co służy dobru kapitalistycznych przedsiębiorstw stojących za technologiami. O ile firma nie działa z założenia jako organizacja non-profit o niezwykle uregulowanych próbach prawdziwie altruistycznych działań… zawsze istnieje ryzyko, że ktoś nam wciska kit. Wszystko to jest tak nowe, że brak nam języka by zapytać o możliwe konsekwencje lub o to, czy naprawdę jest to nam potrzebne.

A jest jeszcze też sztuka: enigmatyczne wytwory, które mają cieszyć ludzi i pomóc im dotrzeć do głębi siebie. AI była już wykorzystywana w kontekstach muzycznych, na przykład na ostatniej płycie Holly Herndorn, Proto lub na nowym albumie Yacht, Chain Tripping. Używano jej na wiele zadziwiających i pięknych sposobów. Muzyczka Grimes stwierdziła, że sztuczna inteligencja ma potencjał, by zniszczyć sztukę ludzkości i tworzyć dzieła o perfekcji, której nie dorówna żaden ludzki twórca. Obecnie pracuje nawet nad stworzeniem awatara AI, który miałby ją zastąpić w przestrzeni online.

To podejście, jak sądzę, wymaga zbadania. Jestem wdzięczna Grimes za to, że udało jej się rozpocząć kilka dobrych dyskusji dotyczących przyszłości sztucznej inteligencji w muzyce, ale z perspektywy muzyczki jej słowa wywołały we mnie wiele przemyśleń. Nie jestem bowiem pewna, czy zgadzam się z tym, co ma do powiedzenia. Sądzę też, że zignorowała wielkie, oczywiste pytanie: jak właściwie wpływa na nas sztuka?

Myślę, że sztuczna inteligencja naprawdę może pomagać ludziom w tworzeniu pięknych dzieł. Na albumie Proto Hendorn miesza chór ludzkich głosów z chórem AI. To uosobienie doliny niesamowitości. Brzmi równocześnie ludzko i kompletnie nie-ludzko. Jest w tym coś magicznego, zwłaszcza w kontekście jej kompozycji. Działa to naprawdę dobrze. Ale korzystanie ze sztucznej inteligencji wiąże się też z podkreślaniem obcego brzmienia wypluwanych przez nią dźwięków. Jej tonacje, melodie i harmonie nie brzmią jak coś, co stworzyłby człowiek sam z siebie. Jest to fascynujące, ale też nieco groteskowe. Osobiście nie jestem w stanie wczuć się w wygenerowaną przez AI muzykę tak, jak bym mogła, gdyby był w niej autentyczny element ludzki. Wydaje mi się raczej całkowicie pozbawiona człowieczeństwa. Fajnie brzmi, ale niekoniecznie ma w sobie to, czego szukam podczas słuchania muzyki.

Jak więc sztuczna inteligencja miałaby zniszczyć sztukę? Dobre pytanie! Myślę, że najpierw musielibyśmy całkowicie oddzielić się od naszego człowieczeństwa jako przeżywania ekspresji. Zwykle, gdy słucham muzyki, postrzegam ją jako interpretację potencjału zawartego w szerokim zakresie ludzkich doświadczeń. Wszelkie bóle, lęki, rozpacze, radości, miłości, ekstazy, zamotania… Wszystko to zapakowane w dzieło, które mogę przeżywać, by poczuć się mniej samotna w mojej człowieczej wędrówce. Jak AI mogłoby zrobić to lepiej? A gdyby faktycznie mogłoby zrobić to lepiej, czy miałoby to w ogóle znaczenie? Czyż nie jest tak, że tak często sztuka wyraża uniwersalność tego, co czujemy i czego nie rozumiemy? Jeśli zamiast tego daje nam coś niezwiązanego z człowieczeństwem, czy będziemy ją doceniać, tak jak doceniamy bezbronność oraz intymność życia? Nawet jeśli AI udoskonaliłaby algorytmiczny KONCEPT sztuki, czy ta sztuka nie byłaby mimo wszystko pusta? Byłaby wyłącznie symulacją przeżycia. Nie stałby za nią nikt, z kim można by było nawiązać więź i poczuć się człowiekiem. Byłaby jak używanie kodów w grze. Tanie zwycięstwo.

W związku z tym mam poczucie, że radykalna wizja sztucznej inteligencji niszczącego ludzką sztukę wymusza na nas zmianę podejścia do roli sztuki: czemu służy i co nam daje. Już teraz można by pomyśleć, że AI przeszła do mainstreamu. Jesteśmy zalewani piosenkami, które są przekuwane i przerabiane na śmierć, by mogły walczyć o uwagę w algorytmicznym morzu identycznych piosenek. Five Seconds of Summer nie porusza mnie bardziej, niż zrobiłoby to AI, która stworzyłaby piosenkę w ich stylu. Niech Bóg broni, by choć jeden promień światła dostał się do piosenki, która aż się prosi o bycie tworem AI. Przynajmniej ze sztuczną inteligencją nie ma szans na porażkę. Wszystko jest perfekcyjne. Wszystko odnosi sukces. Ryzyko jest znikome.

Ale czy to sztuka? Czy raczej to muzak? I czy nie powinno być tu różnicy? Czyż nie będziemy wciąż pragnąć surowych, niechlujnych, poplątanych wypraw w głąb ludzkich sukcesów i porażek? Nie będziemy zwracać się ku sztuce, gdy poczujemy potrzebę bycia zrozumianymi przez naszych braci? Czy AI mogłoby to wszystko odtworzyć tak wiernie, że brak autentyczności przestanie nas obchodzić? Przemyślmy to razem, zanim zostaniemy pozbawieni wyboru wyciągania własnych wniosków.

Co więcej, choć technologia w wielu aspektach zdemokratyzowała tworzenie muzyki, to również całkowicie pozbawiła wolnych artystów możliwości czerpania zysków i utrzymywania się z muzyki. Łatwo jest nam ją tworzyć, ale potem jesteśmy zmuszani, by oddawać ją serwisom streamingowym po okrutnie zaniżonych cenach. Jeśli nie zegniemy karków i nie wejdziemy w służalczą relację z tymi serwisami, albo jeśli nie mamy kontraktu z wytwórniami, które płacą payole*, by zapewnić nam widoczność… Nie mamy innego wyjścia, niż po prostu rozdawać muzykę. Tworzyć ją za darmo, rozdawać za darmo. Dla samego twórcy nie ma to większej wartości.

Czy tak jest lepiej? O tym też warto pomyśleć. Teraz bowiem wkraczamy w erę, w której zostanie profesjonalnym muzykiem bez tworzenia muzyki wedle kaprysów technologicznych start upów oraz ich algorytmów staje się coraz bardziej niemożliwe. To nie jest dla nas korzystny układ. Za to wydaje się bardzo korzystny dla serwisów streamingowych. To one zgarniają teraz całą władzę i całe zyski, tak jak kiedyś robiły to wytwórnie płytowe. Artyści znowu mają przesrane.

Co się stanie z trasami koncertowymi? To ostatni bastion niezależnych zarobków dla artysty. Może bez problemu wziąć kilka efektów, mikrofon i pojechać w małą trasę, która może okazać się zyskowna. To pomaga zrekompensować straty wywołane streamingiem i daje nam szansę na głoszenie naszej sztuki w szczery, wiążący sposób, który pogłębia naszą relację z muzyką i z publicznością. Czy firmy technologiczne znowu nas zmuszą na poziomie hierarchii do podporządkowania się lub zaciągnięcia u nich długu? Czy wejdą w posiadanie technologii AI, którą będziemy musieli wypożyczać lub kupować po zaporowych kosztach? Nie wyobrażam sobie, by taka technologia pozostała wyjątkiem od aparatu konsumenckiego przymusu.

Jeśli wszystko zostanie zautomatyzowane i kierowane przez sztuczną inteligencję, po co chodzić na koncerty pozbawione ryzyka porażki lub komplikacji? Czy nadal identyfikowalibyśmy się z surowością w nas samych, gdyby nie sztuka, w której możemy się przejrzeć? Czy wciąż czulibyśmy się rozczarowani naszą pierwotną niedoskonałością? Czy w ogóle chodzilibyśmy na koncerty, wiedząc, że przy takim poziomie kontroli nie będzie w nim miejsca na oddech i na życie? Po co? Po co się zbierać, jeśli nie po to, by uczcić dzikość ludzkiej natury?

Zawsze pożądałam sztuki, która odzwierciedla brzydsze aspekty człowieczeństwa. Odnajdywanie piękna w ludzkich porażkach ma w sobie coś niezwykle inspirującego. Ból pomaga osiągnąć mądrość. Szalona radość pomaga odnaleźć miłość. Czy my w ogóle szukamy doskonałości w sztuce? Nie sądzę, byśmy powinni tego wymagać. W sztuce nie chodzi o optymalizację. Nie chodzi o sprawność techniczną. Nie chodzi o osiągnięcie doskonałości. Chodzi o dążenie do niej. O piękno odnalezione poprzez blizny i o błogość idącą w parze z zagubieniem w życiu. Nie sądzę, by AI mogło je zreplikować bez jednoczesnego usuwania jego źródła.

Bez wątpienia można używać AI jako narzędzia do zwiększania dźwiękowego potencjału muzyki, ale nie wierzę, by sztuczna inteligencja mogła w pełni zastąpić tworzoną przez ludzi sztukę, tak jak twierdzi Grimes. Być może mam w sobie zbyt wiele miłości dla intymnych więzi ze sztuką i być może inni ludzie wcale tego nie potrzebują. Ale istnieje pewne wspólne doświadczenie dla całej ludzkości. Wszyscy dążymy do sukcesu i wszyscy prędzej czy później ponosimy porażkę. Właśnie przyjmowanie tych porażek sprawia, że życie jest tak kurewsko piękne.

Myślę, że to kluczowy moment, by przyjrzeć się używanym przez nas technologiom i rozważyć, czy korzystamy z nich, bo faktycznie służą ludzkości, czy też tylko tak nam wmówiono. Postęp jest niezbędny dla prosperujących gatunków, ale może następować na różne sposoby i w różnych kierunkach. Nie mamy pewności, że nasza ścieżka jest bezdyskusyjnie najlepsza dla wszystkich, a nie tylko dla nielicznych wybranych. Przyszłość nie musi być taka, jak nam mówią tylko dlatego, że tak mówią. Możemy sami zdecydować i wybrać, jak rozwiniemy technologię oraz w jaki sposób pozwolimy jej działać. Postulowanie nieuchronności całkowitego przejęcia przez AI kontroli nad ludzkością jest niebezpieczne i wymaga gruntownego przemyślenia, co ten postulat oznacza na poziomie etycznym i jakie środki mamy my jako ludzie, by temu zapobiec.

Na koniec zostawiam pytania dla nas wszystkich:

Czy technologia poprawia jakość naszego życia?

Czy zwiększa naszą zdolność do empatii i miłości?

Czy wzmacnia pojedynczą jednostkę w takim samym stopniu jak grupę?

Czy wspiera korzystanie z naszych praw?

Kto za nią stoi i jak może na niej z skorzystać?

______________

*Payola – płacenie przez wytwórnię łapówek stacjom radiowym, DJ-om, etc. w zamian za puszczanie muzyki konkretnych artystów. Praktyka charakterystyczna dla rynku muzycznego USA, zwalczana na różne sposoby i powracająca na tyle samo różnych sposobów. [19/4]

ZJ wyraziła zgodę na publikację. Pamiętajcie, że jeśli chcecie opublikować tłumaczenie w Internecie, zgodnie z polskim (i nie tylko) prawem o dziełach zależnych musicie mieć zgodę autora/rki, nawet jeśli nie czerpiecie z tego zysków. Wyjątkiem są dzieła z domeny publicznej.

Reklama

2 uwagi do wpisu “Zola Jesus: O AI i Przywileju Krzemowego Faszyzmu

Skomentuj

Wprowadź swoje dane lub kliknij jedną z tych ikon, aby się zalogować:

Logo WordPress.com

Komentujesz korzystając z konta WordPress.com. Wyloguj /  Zmień )

Zdjęcie z Twittera

Komentujesz korzystając z konta Twitter. Wyloguj /  Zmień )

Zdjęcie na Facebooku

Komentujesz korzystając z konta Facebook. Wyloguj /  Zmień )

Połączenie z %s