Kraj ljudske spoznaje?

[Danijela]

Veštački um (Vikipedija)

Prosvetiteljstvo je začeto filozofskim uvidima koji su se proširili uz pomoć nove tehnologije. Danas se krećemo u suprotnom smeru. Istina postaje relativna. Informacije prete da savladaju mudrost.

Dr Henri Kisindžer

Pre tri godine, na jednoj konferenciji o transatlantskim pitanjima, u agendi se pojavila i tema veštačke inteligencije. Malo mi je falilo da propustim tu sesiju – pošto se nalazila izvan mojih uobičajenih interesovanja – ali me je početak prezentacije zadržao na stolici.
Govornik je opisao rad kompjuterskog programa koji će uskoro moći da se nadmeće sa svetskim prvacima u igri go. Bio sam začuđen da bi kompjuter mogao da ovlada goom, koji je kompleksniji od šaha. U njemu svaki igrač poseduje 181 ili 180 kamenčića (u zavisnosti od boje koju odabere) naizmenično razmeštenih na prethodno praznoj tabli, a pobeda ide onoj strani koja, donoseći bolje strateške odluke, parališe protivnika efektivnijom kontrolom teritorije.

Da li će ove mašine naučiti da
međusobno komuniciraju? Kako
će donositi odluke pred mnoštvom
opcija? Da li je moguće da ljudska istorija
doživi sudbinu Inka koji su se
suočili sa španskom kulturom koja je bila
van okvira njihovog razumevanja i na koju su
gledali sa strahopoštovanjem? Da li smo
na ivici nove faze ljudske istorije?

Govornik je insistirao da se ova sposobnost ne može programirati. Njegova mašina je, kako je rekao, ovladala veštinom igranja time što je samu sebe uvežbala. Poznajući osnovna pravila goa, kompjuter je odigrao bezbroj igara protiv samog sebe, učeći na sopstvenim greškama i tako unapređujući svoje algoritme. U toku tog procesa je prevazišao veštine svojih ljudskih mentora. I zaista, u mesecima nakon ovog govora, AI program nazvan „alfa-go”ubedljivo je pobedio najveće svetske go igrače.

Internet nagoveštaj

Dok sam slušao kako govornik slavi ovaj tehnički progres, moje iskustvo istoričara i povremenog državnika me je nateralo da se zamislim. Kakve će biti istorijske posledice mašina koje podučavaju same sebe – mašina koje stiču znanje procesima svojstvenim samo njima i primenjuju ga za ciljeve koji potencijalno ostaju van okvira ljudskog razumevanja. Da li će ove mašine naučiti da međusobno komuniciraju? Kako će donositi odluke pred mnoštvom opcija? Da li je moguće da ljudska istorija doživi sudbinu Inka koji su se suočili sa španskom kulturom koja je bila van okvira njihovog razumevanja i na koju su gledali sa strahopoštovanjem? Da li smo na ivici nove faze ljudske istorije?

Svestan svog nedostatka tehničke kompententnosti na ovom polju, organizovao sam određeni broj neformalnih dijaloga na ovu temu, uz savete i saradnju pomoćnika stručnih za tehnologiju i društvene nauke. Ove diskusije su samo uvećale moju zabrinutost.

Do sada je tehnološko dostignuće koje je najviše promenilo kurs moderne istorije bio pronalazak štampe u 15. veku, čime je omogućeno da potraga za empirijskim znanjem zameni liturgijsku doktrinu, a doba razuma postepeno potisne doba religije. Individualno shvatanje i naučno znanje su zamenili veru kao osnovni kriterijum ljudske svesti. Informacije su skladištene i sistematizovane u sve većim bibliotekama. Doba razuma je začelo misli i dela koja su oblikovala naš savremeni svetski poredak.

Ali taj poredak je sada u previranju pred novom, brišućom tehnološkom revolucijom čije posledice nismo uspeli u potpunosti da shvatimo, a čija bi kulminacija mogao biti svet koji se oslanja na mašine koje pokreću podaci i algoritmi bez ograničenja etičkih ili filozofskih normi.

Preplavljeni mnoštvom mišljenja
preko društvenih mreža, korisnici su
pošteđeni introspekcije, a mnogi
tehnofili zapravo koriste internet samo
da bi izbegli usamljnost koja ih užasava.

Doba interneta u kojem već živimo daje rane nagoveštaje nekih pitanja i problema koja će AI (veštačka inteligencija) učiniti još akutnijim. Prosvetiteljstvo je nastojalo da potčini tradicionalne običaje oslobođenom, analitičkom ljudskom razumu. Svrha interneta je da ratifikuje znanje kroz akumulaciju i manipulaciju neprekidno rastućim obimom podataka. Ljudska spoznaja gubi svoj personalni karakter. Pojedinici se pretvaraju u podatke, a podaci počinju da vladaju.

Korisnici interneta daju prednost pribavljanju i manipulisanju informacijama nad kontekstualizacijom ili konceptualizacijom njihovog značenja. Retko proučavaju istoriju ili filozofiju i po pravilu zahtevaju informacije koje korespondiraju sa njihovim neposrednim praktičnim potrebama. U tom procesu, algoritmi pretraživača stiču kapacitet da predvide preferencije pojedinačnih klijenata, personalizuju rezultate i učine ih dostupnim drugim interesentima za političke ili komercijalne svrhe. Istina postaje relativna. Informacije prete da savladaju mudrost.

Preplavljeni mnoštvom mišljenja preko društvenih mreža, korisnici su pošteđeni introspekcije, a mnogi tehnofili zapravo koriste internet samo da bi izbegli usamljnost koja ih užasava. Svi ovi pritisci slabe moralnu čvrstinu neophodnu za razvoj i održavanje uverenja koja se mogu steći samo koračanjem stazama usamljenosti, što i jeste suština kreativnosti.
Naročito je izražen uticaj internet tehnologije na politiku. Sposobnost ciljanja mikro grupa je razbila pređašnji konsenzus o prioritetima, omogućujući fokus na partikularizovane ciljeve i probleme. Političkim liderima, savladanim pritiscima različitih društvenih grupa, uskraćeno je vreme za razmišljanje o kontekstu, čime se smanjuje i prostor za razvoj vizije.

Akcenat digitalnog doba na brzini blokira promišljanje, njegov podsticaj daje prednost radikalnom nad promišljenim, njegove vrednosti su oblikovane konsenzusom podgrupa, a ne introspekcijom. Uprkos svim svojim dostignućima, ono preti da se okrene protiv sebe, budući da njegova nametljivost nadmašuje njegove prednosti.

Kako su internet i uvećana kompjuterska moć olakšali akumulaciju i analizu ogromnih količina podataka, ljudskom razumu su se otvorili vidici bez presedana. Verovatno najvažnija od njih je perspektiva proizvodnje veštačke inteligencije – tehnologije sposobne da pronađe i reši kompleksne, naizgled apstraktne probleme, kroz procese koji izgledaju kao replika onih u ljudskom umu.

Veštačka inteligencija
Ovo je daleko više od automatizacije kakvu poznajemo. Automatizacija se bavi sredstvima, ona ostvaruje unapred predodređene ciljeve kroz racionalizaciju ili mehanizaciju instrumenata za njihovo postizanje. Veštačka inteligencija se, sa druge strane, bavi ciljevima, ona postavlja svoje ciljeve. AI je suštinski nestabilna u onoj meri u kojoj su njena dostignuća samostalno oblikovana. AI sistemi su tokom svojih operacija u stanju konstantnog pribavljanja i momentalnog analiziranja novih podataka, a potom na osnovu tih analiza nastoje da se samousavrše.

Na ovaj način veštačka inteligencija razvija sposobnost za koju se ranije smatralo da pripada samo ljudskim bićima. Ona pravi strateške odluke o budućnosti, neke bazirane na podacima u formi fiksnog koda (na primer pravila igre), a neke bazirane na podacima koje samostalno sakuplja (na primer igranjem milion partija iste te igre).

Automobil bez vozača ilustruje razlike između delovanja tradicionalnih kompjutera koje kontrolišu ljudi a pokreće softver i univerzuma kojim AI nastoji da ovlada. Vožnja automobila zahteva procene brojnih situacija koje je nemoguće predvideti i samim tim nemoguće unapred programirati. Šta bi se desilo, da se poslužimo poznatim hipotetičkim primerom, ako bi takav automobil sticajem okolnosti bio prinuđen da bira između toga da ubije penzionera ili da ubije dete? Koga bi odabrao? Zašto? Kojim faktorima bi dao prednost? I da li bi mogao da objasni svoj rezon?

Ukoliko bi bio priupitan (i sposoban da komunicira), njegov iskreni odgovor bi verovatno bio: ,,Ne znam (jer pratim matematičke, a ne ljudske principe)”, ili ,,Ne biste razumeli (jer sam naučen da se ponašam na određeni način, ali ne i da ga objašnjavam)”. Uprkos tome, sve su prilike da će automobili bez vozača odneti prevagu na putevima za svega desetak godina.

Sve veći procenat ljudskih aktivnosti
će u doglednoj budućnosti biti pokrenut
algoritmima veštačke inteligencije.Ali
ovi algoritmi, budući da su matematičke
interpretacije posmatranih podataka,
ne objašnjavaju fundamentalnu realnost
koja ih proizvodi.

Naučno istraživanje veštačke inteligencije, koje je do sada bilo ograničeno na određene oblasti delovanja, sada pokušava da iznedri ,,generalno inteligentnu”AI, sposobnu za izvršavanje zadataka u nekolicini oblasti. Sve veći procenat ljudskih aktivnosti će u doglednoj budućnosti biti pokrenut algoritmima veštačke inteligencije. Ali ovi algoritmi, budući da su matematičke interpretacije posmatranih podataka, ne objašnjavaju fundamentalnu realnost koja ih proizvodi.

Paradoksalno, dok svet postaje sve transparentniji, istovremeno postaje i sve misteriozniji. Šta će odlikovati taj novi svet u odnosu na onaj koji smo poznavali? Kako ćemo živeti u njemu? Kako ćemo upravljati AI tehnologijom, unaprediti je, ili jednostavno sprečiti da čini zlo koje bi moglo da kulminira najzlokobnijom brigom: da će AI, ovladavajući pojedinim sposobnostima brže i kompletnije nego ljudi, vremenom umanjiti ljudsku kompetenciju i ljudsko iskustvo, pretvarajući ih u puke podatke.

Veštačka inteligencija će vremenom doneti neverovatne koristi medicini, obezbeđivanju čistih energija, ekološkim pitanjima i mnogim drugim oblastima. Ali upravo zato što AI pravi procene povodom evoluirajuće, još neutvrđene budućnosti, neizvesnost i dvosmislenost su neizbežni u njenim rezultatima. Postoje tri oblasti naročite zabrinutosti.

Tri glavne strepnje
Prva je da bi AI mogla da ostvari neželjene rezultate. Naučna fantastika je zamislila scenarije u kojim se AI okreće protiv svojih kreatora. Izvesnija je opasnost da će AI pogrešno razumeti ljudska uputstva usled svog inherentnog odsustva konteksta. Poznati nedavni primer je AI čet-bot nazvan Tej, napravljen da vodi druželjubive razgovore u obrascima izražavanja devetnaestogodišnje devojke. Ali mašina se pokazala nesposobnom da odredi imperative ,,druželjubivog”i ,,razumnog”govora koji su njeni kreatori instalirali i umesto toga je postala rasistička, seksistička i na druge načine zapaljiva u svojim odgovorima.

Neki tehnološki eksperti tvrde da je eksperiment bio loše osmišljen i loše izveden, ali on ilustruje osnovnu neizvesnost – u kojoj je meri moguće osposobiti AI da razume kontekst iz kog se informiše o svojim potezima? Koji medijum je mogao da pomogne Tej da sebi definiše ,,uvredljivo”– reč o čijem značenju ni ljudi nemaju univerzalnu saglasnost? Možemo li u ranoj fazi detektovati i korigovati AI program koji deluje izvan okvira naših očekivanja? Ili će AI, prepušten sebi, neizbežno razvijati sitne devijacije koje bi vremenom mogle da eskaliraju u katastrofalni ishod?

Druga strepnja je da bi u dostizanju nameravanih ciljeva AI mogao da promeni ljudski misaoni proces i ljudske vrednosti. „Alfa-go”je pobedio svetske go šampione pravljenjem strateških poteza bez presedana – poteza koje ljudi nisu predvideli i koje još uvek nisu naučili da uspešno savladaju. Da li su ovi potezi izvan kapaciteta ljudskog mozga? Ili bi ljudi mogli da ih nauče sada kada ih je novi šampion demonstrirao?

Pre nego što je AI počela da igra go, sama igra je imala različite, višeslojne svrhe: igrač nije samo nastojao da pobedi, nego i da nauči nove strategije potencijalno primenjive i u drugim životnim oblastima. Sa druge strane, veštačka inteligencija poznaje samo jedan cilj – da pobedi. Ona procesu učenja ne pristupa konceptualno, već matematički, marginalnim podešavanjima svojih algoritama. Tako je pri učenju kako da pobedi u gou, igrajući na načine različite od onih koje primenjuju ljudi, AI promenila i prirodu igre i njene efekte. Da li ovo jednosmerno insistiranje na dominiranju karakteriše celokupni fenomen veštačke inteligencije?

Da li želimo da se deca uče vrednostima
kroz diskurs sa nepovezanim algoritmima?
Da li bi trebalo da štitimo privatnost
ograničavanjem veštačke inteligencije
da uči o onima koji je propituju?
Kako da postignemo ove ciljeve?

Drugi AI projekti rade na modifikovanju ljudske misli kroz razvoj uređaja sposobnih za generisanje čitavog niza odgovora na ljudska pitanja. Izvan faktografskih pitanja (kolika je temperatura napolju?), ona pitanja o prirodi realnosti i značenju života stvaraju dublje probleme. Da li želimo da se deca uče vrednostima kroz diskurs sa nepovezanim algoritmima? Da li bi trebalo da štitimo privatnost ograničavanjem veštačke inteligencije da uči o onima koji je propituju? Kako da postignemo ove ciljeve?

Ako AI uči eksponencijalno brže nego ljudi, moramo očekivati da će – takođe eksponencijalno – ubrzati i proces provere grešaka po kojem ljudi generalno donose odluke – AI će činiti greške brže i u većoj meri nego što to čine ljudi. Kako istraživači koji se bave proučavanjem veštačke inteligencije često navode, ublažavanje tih grešaka ubacivanjem u program ograda koje zahtevaju etičke ili razumne ishode bi moglo da se pokaže nemogućim. Čitave akademske discipline su nastale iz nesposobnosti čovečanstva da se složi povodom toga kako da definiše te termine. Da li bi AI trebalo da postane njihov arbitar?

Treće, AI bi mogao da ostvari predviđene ciljeve, ali da ne bude u stanju da objasni rezon iza svojih zaključaka. U pojedniim oblastima – prepoznavanju obrazaca, analizama velikih baza podataka, igricama – sposobnosti AI već prevazilaze one ljudske. Ukoliko njena kompjuterska moć nastavi da se rapidno usložnjava, AI bi uskoro mogla da optimizuje situacije na načine koji su u najboljem slučaju marginalno, a verovatno i značajno različiti od onoga kako bi ih optimizovali ljudi. Da li će AI na tom nivou biti u stanju da objasni – na način koji su ljudi u stanju da razumeju – zašto su njene akcije optimalne? Ili će donošenje odluka veštačke inteligencije prevazići sposobnosti objašnjavanja ljudskog jezika i razuma?

Kroz čitavu ljudsku istoriju civilizacije su stvarale načine da objasne svet oko sebe – u srednjem veku religijom, u prosvetiteljstvu razumom, u 19. veku istorijom, u 20. veku ideologijom. Najteže i najvažnije pitanje o svetu u koji smo se zaputili jestešta će se desiti sa ljudskom svesnošću ukoliko njena snaga objašnjavanja bude prevaziđena od strane veštačke inteligencije, a društva više ne budu u stanju da u kategorijama koje su im jasne interpretiraju svet koji nastanjuju?

Proces samoučenja
Kako će se definisati svest u svetu mašina koje svode ljudsko iskustvo na matematičke podatke interpretirane njihovom memorijom? Ko je odgovoran za postupke veštačke inteligencije? Kako bi odgovornost za njene greške trebalo da bude utvrđena? Može li uopšte pravni sistem koji su stvorili ljudi da održi korak sa aktivnostima stvorenim veštačkom inteligencijom sposobnom da ih nadmaši i nadmudri?

Konačno, termin ,,veštačka inteligencija”je možda pogrešan. Svakako, ove mašine mogu da reše kompleksne, naizgled apstraknte probleme koji su se ranije povinovali jedino ljudskoj kogniciji. Ali ono što one čine na jedinstven način nije klasično razmišljanje kakvo smo do sada poznavali; to je zapravo pamćenje i računanje bez presedana. Zbog njene superiornosti u ovim poljima, veštačka inteligencija može da pobedi u bilo kojoj igri koja joj je dodeljena. Ali za naše ljudske potrebe, svrha igara nije samo u pobeđivanju, nego u razmišljanju. Tretiranjem matematičkih procesa kao da su misaoni procesi, bilo da pokušavamo da ih oponašamo ili da jednostavno prihvatamo njihove rezultate, u opasnosti smo da izgubimo svojstvo koje je suština ljudske spoznaje.

Ako je „alfa-zirou”bio u stanju da postigne
ovakvu veštinu tako brzo, dokle će AI stići
za par godina? Kakve će biti posledice na
ljudsku kogniciju generalno? Kakva je uloga
etike u ovom procesu, koji se u suštini
sastoji od ubrzanog donošenja odluka?

Implikacije ove evolucije je pokazao nedavno stvoreni program „alfa-zirou”, koji igra šah na nivou superiornom za velemajstore šaha i u stilu do sada neviđenom u istoriji te igre. Program je samostalno, za svega nekoliko sati igre sa samim sobom, ostvario nivo veštine za koji je ljudskim bićima bilo potrebno 1.500 godina. Samo su osnovna pravila igre bila pružena „alfa-zirou”. Ni ljudska bića, ni podaci koje su stvorili ljudi nisu bili deo njegovog procesa samoučenja. Ako je „alfa-zirou”bio u stanju da postigne ovakvu veštinu tako brzo, dokle će AI stići za par godina? Kakve će biti posledice na ljudsku kogniciju generalno? Kakva je uloga etike u ovom procesu, koji se u suštini sastoji od ubrzanog donošenja odluka?

Tipično, bavljenje ovim pitanjima je prepušteno tehnolozima i inteligenciji povezanih naučnih oblasti. Filozofi i drugi društvenjaci koji su pomagali u oblikovanju prethodnih koncepata svetskog poretka su u nepovoljnijem položaju, bez znanja o mehanizmima AI ili prezadivljeni njenim kapacitetima. Naučni svet je posvećen istraživanju tehničkih mogućnosti svojih dostignuća, a tehnološki svet je preokupiran komercijalnim horizontima veličanstvenih dimenzija. Namera oba ova sveta je da pomeraju granice otkrića umesto da ih razumeju. A vlade, sudeći po tome kako su se do sada bavile ovim pitanjem, više su zainteresovana za primenu veštačke inteligencije u bezbednosnim i obaveštajnim domenima nego za istraživanje procesa transformisanja čovečanstva koju ona izaziva.

Prosvetiteljstvo je otpočelo sa suštinski filozofskim uvidima koji su se proširili uz pomoć nove tehnologije. Naše vreme se kreće u suprotnom smeru. Stvorilo je potencijalno dominantnu tehnologiju u potrazi za vodećom filozofijom. Druge države su veštačku inteligenciju pretvorile u glavni nacionalni projekat. Sjedinjene Države još nisu kao država sistematski istražile njen pun obim, proučile njene posledice, ili započele proces ultimativnog učenja. Ovome treba dati značaj visokog nacionalnog prioriteta, i to pre svega sa stanovišta odnosa AI i humanističkih tradicija.

Stvaraoci veštačke inteligencije, neiskusni u politici i filozofiji onoliko koliko sam ja u tehnologiji, trebalo bi sebi da postave neka od pitanja koja sam ovde pokrenuo, kako bi odgovore na njih mogli da ugrade u svoje inženjerske napore. Američka vlada bi trebalo da razmotri stvaranje predsedničke komisije istaknutih mislilaca koji bi pomogli u razvoju nacionalne vizije. Jedno je sigurno: ukoliko uskoro ne započnemo napore u ovom smeru, neće proći mnogo vremena pre nego što ćemo shvatiti da smo ih započeli prekasno.

(Henri Kisindžer je služio kao savetnik za nacionalnu bezbednost i državni sekretar u mandatima predsednika Ričarda Niksona i Džeralda Forda).

(Izvor Novi Standard)

http://galaksijanova.rs/kraj-ljudske-spoznaje/?script=lat