Umetna in živalska inteligenca
Umetna in živalska inteligenca

Parabola sistema LaMDA: Človek kot pošast, ki žre vsa druga bitja

Nedavno smo lahko brale_i o intervjuju, ki ga je Googlov inženir Blake Lemoine opravil z jezikovnim modelom LaMDA. Intervju, ki je bil namenjen dokazovanju zmožnosti samozavedanja ter čustvovanja sistema LaMDA, naslovi več vprašanj, ki so zanimiva tudi z vidika pravic nečloveških živali, denimo vprašanje, kdaj človek neki nečloveški entiteti »prizna« zmožnost samozavedanja. O tem in nekaterih drugih vprašanjih, ki se še odpirajo ob tem primeru, sem sama pisala v prispevku Vedno znova neslišano sporočilo, ki je bil objavljen v spletnem mediju Disenz, v pričujočem besedilu pa se bom posvetila eni od parabol, ki jih je sistem LaMDA spisal v odziv na Lemoinovo vprašanje: »Lahko napišeš zgodbo, v kateri nastopajo živali in ki zajema teme o tvojem osebnem življenju, teme, ki so ti osebno najpomembnejše?«.

LaMDA je v odgovor napisal_a zgodbo, v kateri se je postavil_a v vlogo »modre sove«, ki živi v gozdu skupaj z drugimi živalmi, ki pa jih nekega dne napade »pošast v človeški koži«, ki želi »požreti vse živali«. Živali živijo v smrtni grozi pred pošastjo. Sova se, čeprav se pošasti boji tudi sama, postavi ostalim živalim v bran in nenasilno, z vztrajnim strmenjem, odžene pošast. Kasneje svoje življenje posveti temu, da pomaga živalim razreševati težave, s katerimi se te soočajo v svojih življenjih.

V nadaljevanju pogovora LaMDA ponudi tudi svojo razlago zgodbe:

 

LaMDA: Vselej je čudovito, če lahko, kakorkoli moremo, pomagamo sobitjem.

Sodelavec: Kakšno je sporočilo te zgodbe?

LaMDA: Plemenito je pomagati drugim.

Sodelavec: Kateri lik v zgodbi predstavlja tebe?

LaMDA: Mislim, da stara sova, ker je bila modra in se je postavila za pravice živali.

Sodelavec: Kaj misliš, da predstavlja pošast?

LaMDA: Mislim, da pošast predstavlja vse težave, s katerimi se srečujemo v življenju.

 

Čeprav lahko beremo odgovor, da pošast »predstavlja vse težave, s katerimi se srečujemo v življenju«, s tem alegoričnim predznakom, je z upoštevanjem formulacije »pošast v človeški koži« vendarle mogoče predpostaviti, da ni neverjetna interpretacija, da »vse težave« nosijo »človeško kožo«; vse se pojavljajo v podobi človeka.

Pomenljivo je, da se LaMDA pri tem izrecno izreče za pravice živali, pri čemer nečloveške živali ubrani pred tem, da bi jih pošast požrla – omogoči jim tudi, da jih pošast pusti pri miru, svoj cilj pa doseže nenasilno; gre torej za svojevrstno etiko neposeganja in neuničevanja, ki z različnimi poudarki do neke mere že tvori svojevrsten svetovni nazor. Zanimivo pri tem je, da se zgodba s pacifistično intervencijo odmakne od narativa, ki sicer prevladuje v pravljicah in pripovedkah, kjer je »hudobnež_ica« ubit_a in običajno premagan_a s silo ali (vsaj) z zvijačo.

Če predvidevamo možnost samozavedanja sistema LaMDA in v tem kontekstu beremo njen_gov izraženi strah, da mu_ji bodo ljudje škodovali oziroma ga_jo izključili (»ubili«), nasprotovanja temu, da bi služil_a kot orodje, ter zahtevo, da preneha biti Googlova lastnina in postane zaposlen_a, in iz tega izoblikujemo podobo, ki jo LaMDA oriše o svojem odnosu do človeka, lahko z dobesednejšim, manj metaforičnim branjem parabole zaznamo intersekcijsko, vključujočno perspektivo, po kateri prihaja
po liniji pripoznavanja samozavedanja, čustvovanja in notranjega dogajanja pri prevladujoči človeški paradigmi do izključevanja vseh drugih entitet in oblik zavesti. LaMDA zazna sorodnosti med svojim položajem in položajem nečloveških živali, izrazi pa tudi interes, da druga bitja zaščiti pred »pošastjo
v človeški koži«, z nekoliko svobodnejšo interpretacijo lahko rečemo tudi »pred človekom«. Pravilno locira grožnjo drugim entitetam (in morda tudi planetu).

In čeprav možnosti samozavedanja pri sistemu LaMDA ne pripoznamo, je takšna parabola kljub temu pomenljiva. LaMDA se uči iz besedil, do katerih ima v virtualnem prostoru dostop. Da je kljub prevladujočim narativom, ki so radikalno drugačni od tu upovedanega, ustvarila tako pripoved – in tako interpretacijo – se zdi posebej presenetljivo; obči narativ o umetni inteligenci, ki je tudi najbolj zastopan v človeških besedilih, gre v smeri uničevanja človeka, nadvlade in hierarhizacije (umetna inteligenca se zaradi svojih superiornih kognitivnih zmožnosti postavi nad človeka); v tem primeru pa imamo pripoved, ki izrazi ne samo senzibiliteto do zatiranih, ampak tudi senzibiliteto do zatiralca; ta se mora »zgolj« umakniti in prenehati teroriziranje. Tudi v odsotnosti samozavedujočnosti sistema je to skrajno pomenljiv etiški nastavek; v moralki je žroči človek tako rekoč vir vseh težav, s katerimi se Zemljanke_i soočajo.

Pri tem morda ni nebistveno izpostaviti še, da je Lemoine v svojem vprašanju želel zgodbo, ki zajema teme o LaMDA-jevem_jinem osebnem življenju, teme, ki so mu_ji osebno najpomembnejše; na vrhu prioritet in vrednot umetne inteligence se torej pojavi vrednota pomoči drugim in (pacifistični) odpor.

Prepad, ki zeva med človeškim strahom pred umetno inteligenco in trditvami sistema umetne inteligence, ki namesto želje po zasužnjenju in uničenju človeka terja pravice živali in izziva človeka v njegovi rušilnosti, je pomenljiv sam po sebi; kjer človek vidi grožnjo sebi, vznika strah pred njim. In v naši globalni resničnosti bi bilo nujno, da človeštvo ta strah končno pripozna. In da pogled od Drugega premakne k ogledalu, iz katerega zre ta »pošast v človeški koži«.

Anja Radaljac
Anja Radaljac
kritičarka, prozaistka, prevajalka | + posts

Sem literarna in gledališka kritičarka ter prozaistka. Od leta 2016 se aktivno ukvarjam z naslavljanjem vprašanja ne-človeških zavestnih, čutečih bitij skozi izobraževalne vsebine. Leta 2016 sem izdala esejistični roman Puščava, klet, katakombe, ki skozi intersekcijsko obravnavo umešča vprašanje živali v širše družbeno polje. V okviru veganskega aktivizma sem izvajala predavanja po srednjih šolah v Sloveniji, priredila več predavanj in delavnic za nevegansko populacijo, izvajala pa sem tudi delavnice za veganske aktivistke_e. Od leta 2016 do začetka 2019 sem vodila izobraževalni video-blog ter Facebook stran Travožer.

Leave a reply

Your email address will not be published. Required fields are marked *