Prisipažinsiu – nesitikėjau kairiųjų leidinyje rasti tokio išsamaus straipsnio apie dirbtinio intelekto (DI) galimybes ir grėsmes. Bet JAV socialistų žurnalas „Jacobin“ mane maloniai nustebino – taip maloniai, kad užsimaniau straipsnį išversti į lietuvių kalbą.
Apskritai kairėje politinio spektro pusėje į pastarųjų metų furorą dėl DI dažnai žiūrima skeptiškai. Taip į jį žvelgiu ir aš pats. Nesenoje istorijoje panašių technotriukšmų būta ne vieno, dauguma jų ir buvo tiesiog triukšmai. Dažnai įtariame, kad kalbėtojai apie „grėsmes“ ar net pasaulio pabaigą tiesiog nori taip pareklamuoti savo produktus, pakelti tam tikrų įmonių akcijų kainą ar paprasčiausiai vėl laukia technologinio išganymo visoms pasaulio problemoms.
Vis dėlto šįkart taip nenutiko. Garrisonas Lovely atliko išties įspūdingą tyrimą ir pakalbino visas stovyklas – nuo skeptikų iki pasaulio pabaigos pranašų. Galiu pagrįstai teigti, kad ir pats, perskaitęs (bei išvertęs) šį straipsnį, apie DI jau jaučiuosi šį bei tą žinantis.
Tokių visapusiškų straipsnių trūksta netgi angliškai, tad ką jau kalbėti apie lietuvių kalbą. O su DI, regis, mums nori nenori teks kažkaip gyventi ir tvarkytis – triukšmas tikrai neatrodo dėl nieko.
Jei kartais šiame vertime Jūsų labiau technologiškai išprususi akis pastebės neatitikimų, netikslumų ar kerėpliškai išverstų terminų – duokite man žinoti. Anglų kalboje šios srities terminija jau kažkiek įsitvirtinusi, o lietuviškų terminų kartais teko išsijuosus paieškoti, o neradus – ir pačiam sukurti. Taip pat linkiu nepasiklysti įvairiausių santrumpų santrumpėlių džiunglėse.
Jei tema užkabins, kviečiu pasidomėti straipsnio autoriumi įdėmiau. Lovely yra išskirtinė asmenybė. Karjerą jis pradėjo vienoje didžiausių verslo konsultavimo įmonių „McKinsey & Company“, žurnalistu ir socialistu (ar „efektyviuoju altruistu“) tapo tik vėliau, tad į šį pasaulį atsinešė daug vidinių žinių apie didžiąsias korporacijas. Rašė bei kalbėjo ne tik „Jacobin“, bet ir „The Nation“, „Vox“ bei BBC. Taip pat jis veda tinklalaidę The Most Interesting People I Know („Įdomiausi mano pažįstami žmonės“) – naujausia jos serija skirta būtent DI temai.
Vertėjas
Pasak vieno „Google“ įkūrėjų Larry Page’o, superprotingas dirbtinis intelektas (DI) „tėra kitas evoliucijos žingsnis“. Page’as, kurio turtas – apie 120 milijardų JAV dolerių, netgi yra tvirtinęs, kad pastangos užkirsti kelią DI nulemtam žmonių rūšies išnykimui ir apsaugoti žmogiškąją sąmonę yra „rūšizmas“ bei „sentimentalūs skiedalai“.
Praeitą liepą buvęs „Google DeepMind“ vyresnysis mokslininkas Richardas Suttonas – vienas stiprinamojo mokymosi (reinforcement learning), plataus DI polaukio, pirmeivių – teigė, kad ši technologija „gali mus išstumti“ ir kad „mums nereiktų priešintis savo įpėdiniams“. 2015 m. paskaitoje Suttonas klausė: tarkim, „reikalai pakrypsta blogyn“ ir „DI pražudo mus visus“ – „ar tikrai būtų taip jau blogai, jei žmonės būtų ne paskutinė protaujanti gyvybės forma Visatoje?“
„Biologinis rūšies išnykimas – šalutinė tema, – man teigė 66-erių Suttonas. – Žmonijos šviesa, mūsų žinios, mūsų protas – mūsų sąmonė, jei galima taip pavadinti, – gali sau toliau egzistuoti ir be žmonių iš mėsos ir kaulų.“
59-erių Yoshua Bengio yra antras cituojamiausias gyvas mokslininkas, žymus pamatų giliajam mokymuisi (deep learning) klojėjas. Suttono ir Page’o teiginius jis man pakomentavo taip: „Man atrodo, kad jie nori kauliukais pralošti žmonijos ateitį. Asmeniškai manau, kad tai turėtų būti laikoma nusikaltimu.“ Truputį nustebęs, paklausiau, ką būtent jis norėtų kriminalizuoti; jo atsakymas – bandymus kurti „DI sistemas, kurios turėtų savisaugos instinktą ir galėtų mus pavergti“. Nuo anos gegužės Bengio daug rašo ir kalba, kaip pažengusios DI sistemos galėtų „nutrūkti nuo pavadžio“ ir grasinti žmonijai išnaikinimu.
Bengio manymu, būsimos tikro žmogaus proto lygio DI sistemos galėtų pačios tobulinti savo gebėjimus tol, kol iš esmės taptų nauja, protingesne nei žmonės rūšimi. Žmonija jau spėjo išnaikinti šimtus kitų rūšių – dažniausiai netyčia. Jam neramu, kad taip gali nutikti ir su mumis pačiais – ir ne jam vienam.
2018 m. Bengio ir jo kolegoms, taip pat giliojo mokymosi pirmeiviams Yannui LeCunui ir Geoffrey Hintonui, buvo įteiktas Turingo apdovanojimas, „kompiuterijos Nobelio premija“. Hintonas, cituojamiausias gyvas mokslininkas, aną liepą sukėlė triukšmo, atsistatydindamas iš vadovaujamų pareigų „Google“, kad galėtų laisviau kalbėti apie galimybę, jog ateityje DI sistemos nušluos žmoniją nuo Žemės paviršiaus. Hintonas ir Bengio – du žymiausi DI tyrėjai, prisijungę prie „x-risk“[1] bendruomenės. Ši įvairiai susijusių žmonių grupė, dar vadinama DI saugos šalininkais ar „dūmeriais“[2], bando perspėti, kad DI gali žmonijai kelti egzistencinę grėsmę.
Tą pat mėnesį, kai Hintonas išėjo iš „Google“, šimtai DI tyrėjų ir kitų žymių asmenų pasirašė atvirą laišką, kuriame teigė: „Mažinti grėsmę, kad DI prives prie žmonijos išnykimo, turėtų būti pasaulinis prioritetas, kaip ir kitų visuomenės lygio grėsmių, tokių kaip pandemijos ir branduolinis karas, užkardymas.“ Hintonas ir Bengio buvo pirmieji šio laiško signatarai, o jų pavyzdžiu pasekė „OpenAI“ generalinis direktorius Samas Altmanas ir kitų svarbiausių DI dirbtuvių vadovai.
Hintonas ir Bengio taip pat buvo pirmieji spalį pasirodžiusio diskusinio straipsnio, perspėjančio apie „galutinį autonominių DI sistemų išsivadavimą iš žmonių kontrolės“, autoriai; prie jų vėliau prisijungė kiti žymūs akademikai, įskaitant Nobelio premijos laureatą Danielį Kahnemaną ir Sapiens autorių Yuvalį Noah Harari.
LeCunas, vadovaujantis „Meta“ DI tyrimams, sutinka, kad žmogaus protingumo DI yra laiko klausimas, bet viešoje diskusijoje nepritarė Bengio dėl išnykimo grėsmės: „Jei [DI] bus pavojingas, mes jo tiesiog nekursime.“
Gilusis mokymasis – pažangiausių pasaulio DI sistemų variklis, nuo „DeepMind“ baltymų lankstymo modelio iki didžiųjų kalbos modelių (DKM) (large language models) – tokių kaip „OpenAI“ produktas „ChatGPT“. Niekas iki galo nesupranta, kaip veikia giliojo mokymosi sistemos, bet jos, to nepaisydamos, veikia nuolat vis geriau. Užuot funkcionavusios pagal kokį nors gerai žinomų principų rinkinį, tokios sistemos „treniruojamos“ analizuoti tendencijas ir atsikartojimus plačiuose duomenynuose – iš to ir kyla jų daugialypiai gebėjimai, pvz., gebėjimas suprasti žmonių kalbą. Kaip man sakė DI programuotojas Connoras Leahy, „tai panašiau į kažkokio darinio Petri lėkštelėje baksnojimą“ nei į kodo rašymą. Anksčiau minėto diskusinio straipsnio autoriai perspėja, kad „kol kas niekas nežino, kaip patikimai susieti DI elgseną su sudėtingomis žmogiškosiomis vertybėmis“.
Nepaisydamos visos šios nežinomybės, DI įmonės lenktyniauja, kas sukurs kaip įmanoma galingesnę sistemą – be konkretaus plano, kaip suprasti, kaip iš tikrųjų veikia jų kūriniai, bei visaip kirsdamos saugumo kampus, kad kuo greičiau užsiimtų kuo didesnę rinkos dalį. Paparčio žiedas, kurio paieškomis atvirai užsiima pirmaujančios DI dirbtuvės, – dirbtinis bendrasis intelektas (DBI) (artificial general intelligence). DBI paprastai apibrėžiamas kaip sistema, kuri beveik bet kurią intelektinę užduotį atliktų bent taip pat gerai kaip žmogus. Bengio ir Hintonas mano, kad būtent DBI galėtų privesti žmoniją prie pražūties.
Kad ir kaip būtų keista, nemažai žmonių, sparčiai dirbančių prie DI galimybių plėtimo, taip pat mano, kad gan tikėtina, jog jų darbas galiausiai prives prie apokalipsės. 2022 m. mašininio mokymosi tyrėjų apklausos duomenimis, beveik pusė jų mano, kad tikimybė, jog pažengęs DI galėtų privesti prie „žmonių išnykimo ar panašiai negrįžtamos ir sunkios [žmonijos] bejėgystės“, – bent 10 procentų. Vos prieš kelis mėnesius su kolegomis įkurdamas „OpenAI“, Altmanas teigė: „DI tikriausiai prives prie pasaulio pabaigos, bet iki tol bus daug puikių [DI] įmonių.“
Visuomenė į DI žvelgia vis nepalankiau, ypač po „ChatGPT“ išleidimo. Visose 2023 m. apklausose, išskyrus vieną, daugiau kalbintų amerikiečių manė, kad DI gali grasinti žmonijos egzistencijai, nei neigė tokią galimybę. Tais retais atvejais, kai apklausininkai paklausdavo, ar jie norėtų žmogaus protingumo ar protingesnio DI, didžioji dalis JAV ir Jungtinės Karalystės gyventojų atsakė, kad ne, nenorėtų.
Kol kas, kalbėdami apie DI, socialistai paprastai pabrėžia jo diskriminacinį poveikį arba perspėja dėl galimos neigiamos automatizacijos įtakos pasauliui, kurio profsąjungos – silpnos, o kapitalistai – galingi. Tačiau politinė kairė keistai tyli apie košmariškąjį Hintono ir Bengio scenarijų – kad pažengęs DI gali pražudyti mus visus.
Gebėjimai kelia nerimą
Nors „x-risk“ bendruomenė daugiausia varpais skambina apie galimybę, kad žmonija vieną dieną nebesuvaldys DI, nemažai jos narių nerimauja ir dėl jėgos, kurią jau netolimoje ateityje piktavaliams gali suteikti ir ne tokios tobulos sistemos.
Ačiūdie, pasigaminti biologinį ginklą nėra taip lengva. Tačiau taip gali būti neilgai.
Vienos pirmaujančių DI dirbtuvių „Anthropic“, įkurtos saugumu susirūpinusių buvusių „OpenAI“ darbuotojų, neseniai vykdė bendrą projektą su biologinio saugumo ekspertais – tyrė, kiek DKM gali pagelbėti pradedančiajam bioteroristui. Aną liepą „Anthropic“ generalinis direktorius Dario Amodei JAV Senato pakomitečiui liudijo, kad tam tikrų biologinio ginklo gamybos žingsnių neišeitų rasti vadovėliuose ar interneto paieškos sistemose, tačiau „šiandieniai DI įrankiai jau gali kai kuriuos žingsnius paaiškinti, nors ir ne iki galo“, o „paprasta šiandienos sistemų ekstrapoliacija rodo, kad po dvejų trejų metų galime pagrįstai tikėtis, kad DI jau galės parūpinti visas trūkstamas dėlionės dalis“.
Spalį žurnalas „New Scientist“ pranešė, kad Ukraina pirmą kartą mūšio lauke panaudojo mirtinus autonominius ginklus (MAG) (lethal autonomous weapons) – robotus žudikus tikrąja šio žodžio prasme. JAV, Kinija ir Izraelis šiuo metu vysto savuosius MAG[3]. Prie JAV ir Izraelio, vetuojančių naujus tarptautinius teisės aktus dėl MAG, neseniai prisijungė ir Rusija.
Šiaip ar taip, platesnė idėja, kad DI gali kelti grėsmę žmonijai, taip pat yra ir gausiai kritikuojama, o smagiai įsisukusį diskursą apie DI nuodugniau analizuoti nelengva: tiek pat diplomų ir patirties turintys žmonės pateikia visiškai priešingus teiginius dėl DI grėsmių, o atvirus laiškus kartu su progresyviais DI etikos ekspertais pasirašinėja ir rizikos kapitalistai. Ir nors „x-risk“ idėja, atrodo, populiarėja sparčiausiai, bemaž kas savaitę kuri nors iš didžiųjų žiniasklaidos priemonių paleidžia vis po naują straipsnį, tvirtinantį, kad „x-risk“ tik atitraukia dėmesį nuo jau egzistuojančių blogybių. O tuo tarpu pinigai ir darbo jėga, skiriami DI sistemų galiai auginti, dešimtimis ir šimtais kartų lenkia skiriamus jų saugumui ir nešališkumui.
Kiti baiminasi ne tiek „mokslinės fantastikos“ scenarijaus – kad DI modeliai tiek patobulės, jog galės išplėšti vadžias iš mūsų netvirtų rankelių, – o kad šališkoms, trapioms ir pramaniūgiškoms sistemoms patikėsime per daug atsakomybės, taip atverdami kur kas nykesnę Pandoros skrynią, pilną bjaurių, bet mums jau pažįstamų problemų, kurių mastas augs kartu su jas keliančiais algoritmais. Ši tyrėjų ir aktyvistų bendruomenė, dažnai vadinama „DI etikais“, daugiausia kalba apie jau egzistuojančias DI žalas bei siūlo sprendimus, paremtus atskaitomybės modeliais, algoritmų skaidrumu ir mašininio mokymosi teisingumu.
Pakalbėjau ir su kai kuriais žymiausiais DI etikų bendruomenės balsais, įskaitant ir kompiuterių mokslininkes Joy Boulamwini bei Inioluwą Deborah Raji. Abi jos yra atlikusios novatoriškų tyrimų apie šiandienę diskrimacinių bei netobulų DI modelių žalą, į kurią, pasak jų, vieną dieną visi numoja ranka, o kitą jau smarkiai ją pervertina. Kaip ir daugelio DI etikos tyrėjų, jų darbe susipina mokslas ir aktyvizmas.
Mano pašnekovai iš DI etikos srities daugiausia reiškė pažiūrą, kad mums ne gresia iš pamatų nauji iššūkiai, pvz., absoliutus technologijų sukeltas nedarbas ar rūšies išnykimas, o numatoma ateitis su DI, kuris baudžiamojoje teisėje ir išduodant paskolas diskriminuos žmones pagal jų rasę, sparčiau „amazonizuos“[4] darbovietes, skriaus skurstančius darbininkus ir saugos bei turtins technoelito atstovus.
Ši bendruomenė mėgsta tvirtinti, kad kalbantieji apie išnykimą pervertina Silicio slėnio galimybes ir pavojingai nukreipia dėmesį nuo dabartinių DI blogybių. Geriausiu atveju, sako jie, priimdami „x-risk“ idėjas rimtai, švaistome laiką ir pinigus. Blogiausiu – priimame katastrofiškus politinius sprendimus.
Vis dėlto nemažai „x-risk“ proponentų pabrėžia, kad pozicija „DI kelia žalą dabar“ nėra iš esmės priešinga pozicijai „DI gali privesti prie pasaulio pabaigos“. Kai kurie tyrėjai atvirai bando sutaikyti tuos, kuriems rūpi tiesioginė žala, su tais, kurie baiminasi žmonijos išnykimo, ir pabrėžia galimus bendrus politinius tikslus. DI profesorius Samas Bowmanas, pasirašęs ir minėtą laišką dėl išnykimo grėsmės, tiria, kaip atskleisti ir pažaboti algoritmų šališkumą, bei recenzuoja pagrindinei DI etikos konferencijai pateikiamus pranešimus. Taip pat Bowmanas ragina daugiau tyrėjų prisijungti prie DI saugos tyrimų ir yra rašęs apie „pavojų nuvertinti“ DKM sugebėjimus.
„X-risk“ bendruomenė dažnai pasitelkia kovos su klimato kaita analogiją ir klausia: ar rūpindamiesi, kaip pažaboti ilgalaikę klimato kaitą, „pavojingai nukreipiame dėmesį“ nuo jau egzistuojančios oro taršos arba kur nors vėl išsiliejusios naftos?
Tačiau ne visi „x-risk“ pusėje tokie diplomatiški, ir jie patys tai pripažįsta. 2022 m. rugpjūtį, diskutuodamas apie aštrias nuomones dėl DI politikos, vienas „Anthropic“ įkūrėjų Jackas Clarkas tviteryje rašė: „Kai kurie žmonės, dirbantys prie ilgalaikių / DBI stiliaus sprendimų, yra linkę ignoruoti, menkinti ar tiesiog nė nesvarstyti dabartinių problemų, kurias kelia DI plėtra.“
„DI išgelbės pasaulį“
O trečiojoje stovykloje nerimaujama, kad mes per daug vilkiname DI reikalus. Kai kurie didieji kapitalistai, pvz., milijardierius Marcas Andreessenas, pritaria, kad DBI – įmanomas daiktas, tačiau tvirtina, kad jis ne tik mūsų nepražudys, bet dar ir atves žmoniją į nesibaigiantį, begalinės gausos ir bemaž magiškų technologijų kupiną aukso amžių. Ši grupė, didžiąja dalimi kilusi iš Silicio slėnio ir paprastai vadinama „DI spartuoliais“, labiausiai nerimauja, kad per stipri valdžios reakcija į DI dar lopšyje uždusins visa keičiančią ir pasaulį gelbstinčią technologiją, taip pasmerkdama žmoniją ekonominiam sąstingiui.
Kai kurie technooptimistai įsivaizduoja tokias DI utopijas, kad Karlas Marxas šalia jų atrodo be vaizduotės. „Guardian“ pernai išleido trumpametražį dokumentinį filmą, kuriame – nuo 2016 iki 2019 m. atlikti interviu su „OpenAI“ vyriausiuoju mokslininku Ilja Suckeveriu. Pastarasis be skrupulų pareiškia: „DI išspręs visas dabartines mūsų problemas. Jis panaikins nedarbą, ligas ir skurdą. Bet taip pat jis sukurs ir naujų problemų.“
Andreessenas sutinka su Suckeveriu – tačiau tik iki „bet“. Aną birželį Andreessenas išleido straipsnį pavadinimu „Kodėl DI išgelbės pasaulį“, kuriame aiškino, kaip DI pagerins „viską, kas mums rūpi“, jei tik nenumarinsime jo įstatymais ir draudimais. Spalį prie straipsnio jis dar pridėjo ir „Technooptimistų manifestą“, kuriame ne tik giria vieną itališkojo fašizmo ideologų[5], bet ir progreso priešais vadina tokias idėjas kaip „grėsmė egzistencijai“, „tvarumas“, „patikimumas ir saugumas“ bei „technologijų etika“. Andreessenas žodžių į vatą nevynioja: „Mūsų įsitikinimu, bet kokio DI progreso stabdymo kaina – žmonių gyvybės. Mirtys, kurių galima išvengti pasitelkiant DI, kuris neegzistuoja, nors galėjo, – tai žmogžudystės forma.“
Greta „farmacijos broliuko“ Martino Shkreli[6], Andreessenas tikriausiai yra žymiausias „efektyviojo akceleracionizmo“, trumpinamo „e/acc“, propaguotojas; „e/acc“ – tai daugiausia internete veikiantis žmonių tinklas, kurio idėjos paremtos scientizmo[7] kulto, hiperkapitalizmo ir natūralistinės klaidos[8] mišiniu. „E/acc“, praeitą vasarą plitęs internete it virusas, seka reakcionieriškojo Nicko Lando akceleracionizmo teorija, kuri teigia, kad mums reikia dar intensyvesnio kapitalizmo, po kurio ateis posthumanistinė, DI varikliais varoma ateitis. Šią idėją „e/acc“ pertepa fizikos ir memų sluoksniais, o tada parduoda tam tikram Silicio slėnio elito porūšiui. Ši bendruomenė susiformavo kaip atsakas „deceleracionistams“, siekiantiems prilėtinti DI vystymą, – pastarieji nemaža dalimi priklauso efektyviųjų altruistų (EA) bendruomenei, iš kurios „e/acc“ ir pasiskolino vardą.
DI spartuolis Richardas Suttonas – minėtas mokslininkas, jau pasiruošęs tarti sudie „žmonėms iš mėsos ir kaulų“, – šiuo metu dirba „Keen AGI“, naujajame Johno Carmacko, legendinio 10-ojo dešimtmečio žaidimo „Doom“ programuotojo, startuolyje. Įmonės misiją Carmackas pristato taip: „DBI arba nieko – pasitelkiant nučiuožusį mokslą!“
Kapitalizmas viską dar pablogina
Praeitą vasarį Samas Altmanas tviteryje rašė, kad Eliezeriui Yudkowsky kada nors bus „įteikta Nobelio taikos premija“. Kodėl? Todėl, kad, pasak Altmano, savamokslis mokslininkas ir neoficialių „Hario Poterio“ tęsinių autorius prie „DBI atsiradimo spartinimo prisidėjo labiausiai iš visų“. Altmanas priminė, kaip Yudkowsky padėjo „DeepMind“ užsitikrinti kertinį pirminį finansavimą iš Peterio Thielo[9] bei jo „gyvybiškai svarbų“ vaidmenį „įkuriant „OpenAI“.
Yudkowsky buvo akceleracionistas dar iki šio termino atsiradimo. Būdamas vos septyniolikos ir negalėdamas apkęsti diktatūrų, badų ir net pačios mirties, paskelbė manifestą, kuriame reikalavo sukurti skaitmeninį superprotą, gebantį „išspręsti“ visas žmonijos problemas. Per kitus dešimt metų jo „technofilija“ virto technofobija – 2008 m., aprašydamas savo atsivertimo istoriją, pripažino: „Sakyti „Nedaug trūko, kad būčiau sunaikinęs pasaulį!“ būtų pasipūtimas.“
Yudkowsky dabar garsėja kaip idėjos, kad DBI gali mus visus pražudyti, populiarintojas ir „dūmeriškiausias“ iš visų DI „dūmerių“. Visa karta technologijos entuziastų užaugo skaitydama jo tinklaraštį, tačiau didesnė dalis jų (įskaitant tikriausiai svarbiausią – Altmaną) įsisavino būtent jo teiginius, kad DBI bus svarbiausias kada nors egzistavęs dalykas, – o ne jo baimes, kaip sunku bus DBI suvaldyti, kad mūsų visų nepražudytų.
Kalbėdamas su manimi, Yudkowsky palygino DI su mašina, kuri „spausdina aukso lakštus“ tol, kol galiausiai „padega Žemės atmosferą“.
Kaip bus su atmosferos gaisru, neaišku, tačiau aukso lakštus ši mašina spausdina vis sparčiau. „Generatyvinio DI“ vajus kai kuriems žmonės uždirba daug ir labai daug pinigų. „Microsoft“ per pastaruosius penkerius metus į „OpenAI“ investavo iš viso 13 milijardų JAV dolerių. Per vienus metus po „ChatGPT“, kuris sulaukė milžiniško pasisekimo, išleidimo „Microsoft“ vertė pakilo 1 trilijonu JAV dolerių. Šiandien ši beveik penkiasdešimtmetė korporacija verta daugiau nei „Google“ ir „Meta“ kartu sudėjus.
Pelno siekiantys veikėjai smagiai riedės toliau, po savęs palikdami pavojus, kurių mes niekada nesutikome prisiimti, kad tik gautų kuo daugiau pinigų – ar bent šlovę dėl skaitmeninio superproto sukūrimo, kuris, kaip tviteryje rašė Suttonas, „bus didžiausias visų laikų intelektinis pasiekimas, […] svarbesnis nei žmonija, nei gyvybė, nei gėrio ir blogio skirtis“. Rinkos spaudimas, atrodo, vers įmones tobulėjančioms DI sistemoms perduoti vis daugiau ir daugiau galios ir autonomijos.
Sužinojot kai ką naujo? Padėkokite GPB čia:
Vienas „Google“ DI tyrėjas man rašė: „Mano nuomone, didžiosios korporacijos taip skuba užsiimti kuo didesnes rinkos dalis, kad [DI] saugą laiko kažkokiu kvailu trikdžiu.“ Bengio man sakė, kad stebi „pavojingas įmonių lenktynes“, kurios su laiku tik spartės.
Apimta panikos dėl „Bing“ paieškos sistemos, kuri jau naudoja „OpenAI“ produktus, „Google“ paskelbė „raudonąjį aliarmą“, „pergalvojo“, kiek rizikos gali prisiimti, ir skubiai, nepaisydama darbuotojų prieštaravimų, išleido savąjį DKM „Bard“. Įmonės viduje darbuotojai „Bardą“ išvadino „patologiniu melagiu“ ir „svetima gėda“. „Google“ jį vis tiek išleido.
Center for AI Safety (DI saugos centro) direktorius Danas Hendrycksas teigia, kad „saugumo apėjimas […] didžiąja dalimi ir varo į priekį DI raidą […]. Iš tiesų nemanau, kad kai konkurencija taip stipriai spaudžia, kam nors rūpi geri ar blogi kažkieno ketinimai.“ Ironiška, kad Hendrycksas taip pat yra ir patarėjas saugumo klausimais naujausiame Elono Musko projekte „xAI“.
Visos trejos didžiausios DI dirbtuvės pradėjo savo kelią kaip nepriklausomos organizacijos, turinčios misiją, tačiau šiuo metu arba visiškai priklauso technologijų monstrams („Google DeepMind“), arba yra gavusios tiek milijardų dolerių investicijų iš trilijoninių kompanijų, kad jų altruistinės misijos gali pasimiršti nesibaigiančiame žygyje dėl kuo didesnių dividendų akcininkams („Anthropic“ iš „Google“ ir „Amazon“ iš viso gavo apie 6 milijardus JAV dolerių, o „Microsoft“ už tuos 13 milijardų įsigijo 49 procentus „OpenAI“ pelno siekiančio padalinio akcijų). „New York Times“ praeitų metų pabaigoje rašė, kad „DeepMind“ įkūrėjai vienu metu buvo ėmę „vis labiau nerimauti, ką „Google“ darys su jų išradimais. 2017 m. jie mėgino palikti įmonę. „Google“ atsakė padidindama „DeepMind“ įkūrėjų ir personalo algas bei akcijų paketus. Įkūrėjai pasiliko.“
Vienas ten dirbantis programuotojas man spalį rašė, jog kadangi šių dirbtuvių vadovai dažniausiai iš tikrųjų tiki, kad dėl DI galiausiai pinigai pasauliui taps nereikalingi, pelno jie siekia „didžiąja dalimi kaip įrankio“ investicijoms atgal į dirbtuves. Tačiau „tada pelno siekti spaudžia investuotojai (ar tai būtų rizikos kapitalo bendrovė, ar „Microsoft“)“.
Nuo 2020 iki 2022 m. į šią pramonę korporacijos investavo daugiau nei 600 milijardų JAV dolerių, o 2021 m. viena vienintelė DI konferencija pritraukė beveik 30 tūkstančių tyrėjų. Tuo tarpu, 2022 m. rugsėjo duomenimis, pasaulyje buvo tik apie 400 visu etatu dirbančių DI saugos tyrėjų, o 2023 m. pagrindinėje DI saugos konferencijoje dalyvavo mažiau nei 900 žmonių.
Kaip kompiuterinė įranga „prarijo pasaulį“, taip ir iš DI turėtume tikėtis panašios „nugalėtojui – viskas“ dinamikos, kuri prives prie dar didesnės turto ir galios koncentracijos. Altmanas prognozuoja, kad „proto kaina“ ateityje dėl DI nuvertės beveik iki nulio, o 2021 m. jis rašė, kad tada „dar daugiau galios iš darbo jėgos pereis į kapitalo rankas. […] Jei viešoji politika prie to atitinkamai neprisitaikys, dauguma žmonių gyvens prasčiau nei šiandien.“ Minėtoje diskusijoje apie „aštrias nuomones“ Jackas Clarkas rašė, kad „masto ekonomijos kapitalizmas iš prigimties yra antidemokratinis, todėl ir daug kapitalinių išlaidų reikalaujantis DI yra antidemokratinis“.
Markusas Anderljungas – vieno didžiausių DI saugumo analizės centrų „GovAI“ vadovas ir pirmasis įtakingos „baltosios knygos“ apie „žinojimo ribas plečiančio DI“ reguliavimą autorius. Man jis rašė: „Jei jums nerimą kelia dabartinė kapitalizmo forma, tai dar labiau nerimauti turėtumėte dėl pasaulio, kuriame didžiules ekonomikos šakas reguliuoja DI sistemos, tiesiogiai sukurtos pelnui didinti.“
Tam 2021 m. birželį pritarė ir Samas Altmanas, kertinę „OpenAI“ filosofiją Ezrai Kleinui[10] nupasakojęs taip: „Viena iš paskatų, dėl kurios labai nerimavome, – paskata siekti begalinio pelno, kai daugiau visada yra geriau. […] Ir, mano nuomone, ypač kai kalbame apie tokias labai galingas bendro naudojimo DI sistemas, paskata be galo auginti pelną turėtų būti nepageidaujama.“
Iki šiol daugiausia triukšmo diskusijose dėl DI saugumo sukėlė sensacinga 2023 m. lapkričio 17 d. naujiena – tą penktadienį, vos kelios dienos iki Padėkos dienos, „OpenAI“ ne pelno siekiančio padalinio valdyba atleido generalinį direktorių Samą Altmaną iš pareigų. Įdomiai skambančiuose „OpenAI“ įstatuose numatyta, kad ši valdyba yra atskaitinga ne investuotojams ar darbuotojams, o „žmonijai“. Savo sprendimą valdyba aptakiai aiškino neskaidriu Altmano elgesiu, tačiau po to, kad ir kaip būtų ironiška, daugiau šio sprendimo beveik ir nekomentavo.
Jau tą pirmadienį, apie trečią valandą nakties, „Microsoft“ pareiškė, kad Altmanas organizuoja pažangią tyrimų laboratoriją, kurioje atsiras vietos visiems „OpenAI“ darbuotojams – didžioji dalis jų pasirašė atvirą laišką, grasindami priimti „Microsoft“ pasiūlymą, jei Altmanas nebus grąžintas į pareigas. (Tai nebūtinai reiškia, kad Altmanas buvo toks populiarus vadovas, – reikia paminėti, kad jo atleidimas sukliudė planuotam „OpenAI“ darbuotojų valdomų akcijų už 86 milijardus JAV dolerių pardavimui.) Trečiadienį, truputį po pirmos valandos nakties, „OpenAI“ paskelbė, kad Altmanas grįžta į generalinio direktoriaus postą, o valdyboje atsiras du nauji nariai: buvęs „Twitter“ valdybos pirmininkas ir buvęs JAV iždo sekretorius Larry Summersas.
Per kiek mažiau nei savaitę „OpenAI“ vadovai ir Altmanas sugebėjo susitarti su „Microsoft“ ir įmonės darbuotojais, kad jis sėkmingai grįžtų į generalinio direktoriaus pareigas, o dauguma valdybos narių, atsakingų už jo atleidimą, patys būtų pakeisti. Pirmasis „Microsoft“ pageidavimas – Altmanas generalinio direktoriaus poste. Netikėtas jo atleidimas iš pradžių numušė senosios technologijų gigantės akcijas 5 procentiniais punktais (prarasti 140 milijardų JAV dolerių), bet po pranešimo, kad Altmanas grįžta, jos akcijų vertė pakilo į dar niekada neregėtas aukštumas. Bijodama, kad jai vėl bus „susitarta už nugaros“, „Microsoft“ dabar jau pasirūpino vieta ne pelno siekiančio padalinio valdyboje, nors ir be balso teisės.
Tik atleidus Altmaną, kilo uraganas „X“ (buvusiame „Twitter“) – jo vartotojai, didžiąja dalimi remdamiesi internetiniais gandais ir nepasirašytais straipsniais, ėmė kurpti istoriją, kad saugumu susirūpinę efektyvieji altruistai iš valdybos Altmaną atleido už tai, kad šis ėmėsi agresyviai komercializuoti „OpenAI“ DI modelius, per mažai rūpindamasis saugumu. Geriausiai stulbinančią „e/acc“ reakciją į Altmano atleidimą iliustruoja tuomet pseudonimu BasedBeffJezos pasirašinėjusio verslininko įrašas: „Efektyvieji altruistai iš esmės yra teroristai. Per naktį sunaikinti 80 milijardų dolerių vertės – tai teroro aktas.“
Kiek vėliau kiek patikimesnė žiniasklaida atskleidė, kad valdybos sprendimo priežastis buvo ne tiesioginis susirūpinimas DI saugumu, o visiškas nepasitikėjimas Altmanu. „Wall Street Journal“ išsiaiškino, kad „nebūta kokio nors vieno nutikimo, kuris paskatino atleisti Altmaną, – tai nuolatinė, lėta pasitikėjimo erozija kėlė jiems vis daugiau nerimo“.
Kelios savaitės iki atleidimo Altmanas, kaip teigiama, ėmėsi purvinų žaidimėlių, mėgindamas iš valdybos pašalinti jos narę Helen Toner, mat ši buvo viena iš akademinio straipsnio, kuris Altmanui pasirodė kritikuojantis „OpenAI“ saugumo politiką, autorių. Efektyviesiems altruistams prijaučianti DI valdysenos tyrėja Toner tame straipsnyje gyrė „Anthropic“, kad ši išvengė „tokio karštligiško kampų kirtimo, kokį pademonstravo „ChatGPT“ leidėjai“.
„New Yorker“ vėliau rašė, kad „keli iš šešių valdybos narių Altmaną laikė manipuliatoriumi ir intrigantu“. Kelios dienos po Altmano atleidimo „DeepMind“ DI saugumo tyrėjas, anksčiau dirbęs „OpenAI“, rašė, kad Altmanas jam „gausybę kartų melavo“, jį „apgaudinėjo, [juo] manipuliavo, o su kitais elgėsi dar blogiau“ – tokį vertinimą patvirtino ir dar vėliau pasirodęs straipsnis žurnale „Time“.
Altmanui tai nebuvo pirmas kartas, kai jį atleido. 2019 m. „Y Combinator“ įkūrėjas Paulas Grahamas pašalino Altmaną iš šio verslo inkubatoriaus vadovų, sunerimęs, kad šis pirmenybę teikia savo, o ne organizacijos naudai. Grahamas taip pat yra sakęs: „Samui tiesiog nuostabiai sekasi tapti galingam.“
Keistokas „OpenAI“ valdymo modelis buvo sugalvotas būtent tam, kad užkirstų kelią korupcijai, kuri lydi pelno siekį, tačiau, kaip taikliai rašė „Atlantic“, „pinigai visada nugali“. O į DI gebėjimų plėtrą šiuo metu investuojama kaip niekada daug pinigų.
Vertė Tomas Marcinkevičius. Viršelio iliustracijos autorius – Ricardo Santos.
Antra straipsnio dalis pasirodys po poros savaičių.
Vertimas pirmiausia publikuotas Šiaurės Atėnų 2024 m. birželio 7 d. numeryje.
Originalų straipsnį anglų kalba galite skaityti Jacobin portale.
Pastabos:
[1] Extinction risk, „pavojaus išnykti“, trumpinys (visos pastabos – vertėjo).
[2] Angl. doom – „pražūtis“.
[3] 2024 m. balandį žiniasklaidoje (pirmiausia – Izraelio žurnale +972) pasirodė pranešimų, kad Izraelis jau naudoja DI sistemas taikiniams Gazoje nustatyti ir bomboms paleisti.
[4] Omenyje turimas internetinės prekybos gigantės „Amazon“ sandėlių darbo modelis – juose viskas itin efektyvu, tačiau darbuotojų teisės, sveikata ir gerovė yra nukritusi į seniai (Vakaruose) neregėtas žemumas.
[5] Omenyje turimas italų sociologas, ekonomistas ir filosofas Vilfredo Pareto (1848–1923), kartais laikomas vienu fašizmo „ideologinių tėvų“. Andreesseno „Technooptimistų manifeste“ jis įrašytas tarp „Šventųjų technooptimizmo globėjų“.
[6] Martinas Shkreli (g. 1983) – amerikiečių verslininkas, pramintas „farmacijos broliuku“ (pharma bro) po to, kai 2015 m. nusipirko gyvybiškai svarbaus vaisto nuo toksoplazmozės ir izosporozės pirimetamino patentą ir 50 kartų pakėlė jo kainą. 2017–2022 m. sėdėjo kalėjime už sukčiavimą.
[7] Scientizmas – tikėjimas, kad mokslas ir mokslinis metodas yra geriausias būdas pažinti tikrovę. Perdėtas scientizmas laikomas logikos klaida.
[8] Natūralistinė klaida (naturalistic fallacy) – britų filosofo George’o Edwardo Moore’o 1903 m. suformuluota samprata: tikėjimas, kad „gėrį“ galima tiksliai apibrėžti ir išmatuoti kiekybiškai.
[9] Peteris Andreasas Thielas (g. 1967) – JAV milijardierius ir rizikos kapitalistas, vienas iš „PayPal“ įkūrėjų.
[10] Ezra Kleinas (g. 1984) – „New York Times“ skiltininkas, vienas naujienų portalo „Vox“ įkūrėjų, populiarios tinklalaidės „The Ezra Klein Show“ vedėjas.