Binarni moralni kod – Da li čovečanstvo sanja električne ovce?

[nishizawa]

Kada pričamo o ljudskom ponašanju, moralu i etici kao posledici nekog verovanja šta je to dobro ili loše i da li je takvo ponašanje korisno ili efektivno, moramo naglasiti da je proučavanje morala uglavnom generalno gledano u celini kao moral grupe, društva ili kulture. Moral je odjek onoga što društvo radi. Različita društva poseduju različite moralne kodove, ali šta se dešava kada je taj kod binaran?

To nas vraća u godinu 1942. kada se u martovskom izdanju “Astounding Science Fiction”almanaha pojavila priča “Runaround”. Ona je bitna iz razloga koji će kasnije definisati naš odnos prema naprednoj tehnologiji, posebno u polju koje se bavi razvijanjem veštačke inteligencije. Uvod u set binarnog moralnog koda počeo je sa tri rečenice koje su sumirane nazivom: “Tri zakona robotike”

1. Robot ne sme da povredi ljudsko biće, niti da, uzdržavanjem od delanja, dopusti da ljudsko biće bude povređeno.

2. Robot mora da izvršava naređenja koja mu daju ljudska bića, osim ako se to ne kosi sa Prvim zakonom.

3. Robot mora da vodi računa o svom opstanku, osim ako se to ne kosi sa Prvim i Drugim zakonom.

Tri zakona su toliko često citirana da su postali nešto što će garantovano biti ugrađeno u robote onog trenutka kada oni postanu toliko kompleksni da će nam takva vrsta“osiguranja” biti potrebna. Pominjanje ovih zakona možemo videti u svakoj fusnoti istorije razvoja robotike.

Frankenštajn kompleks

Animozitet, antagonizacija, strah pa čak i mržnja su emocije koje “krase” naš odnos prema mogućnosti da će jednoga dana roboti postati svesni samih sebe i zatražiti da budu jednaki sa ljudima. Homo Sapiens – poslednji u nizu svog roda Homo – u svom tehnološkom napretku može da se “pohvali” svojom apsolutnom svetskom dominacijom. Uspinjanje ovog roda vezujemo za razvoj kognitivnih sposobnosti koje su omogućile da se ovaj sisar izdvoji iz čitavog životinjskog sveta, a to je mogućnost da projektuje svoje ideje na svet oko sebe. Uslovljen prirodnim pojavama, na taj način mogao je da adaptira svoje ponašanje i strategiju preživljavanja. Rezultat toga je civilizacija onakva kakvu je poznajemo. Spuštanje na Mesec i lansiranje nebrojenih misija prema drugim planetama našeg Sunčevog sistema postavilo je nove granice za ovog uspešnog hominida. Kako naša tehnologija nije još uvek u mogućnosti da parira našim projekcijama, Isak Asimov se potrudio da nam dočara kako će se taj proces dalje odvijati. No, treba pogledati prvo pozitivne strane tehnologije.

Prva u nizu je bio-tehnologija i vezuje se za humanost i medicinu. Hendikepirani ljudi je politički korektan termin za ljude koji nisu dovoljno funkcionalni da izvršavaju svakodnevne aktivnosti jer su tu mogućnost izgubili usled nekih nesrećnih okolnosti. Kako bi ih osposobili razvila se čitava tehnologija i protetička industrija u cilju omogućivanja takvim ljudima da prožive normalno svoj život bez velikih smetnji. Ali zašto se zaustaviti samo na tome? Zašto ne bi, ukoliko to tehnologija dozvoljava, ti ljudi dobili nadljudske sposobnosti? Ko ne bi zaista voleo da bude jači, brži ili pametniji? (X-men, Hulk, Spiderman anyone?) Da li se razbijanjem ljudskih limita uz pomoć tehnologije zaista gube granice čovečnosti? Iako je tehnologija još u povoju, već postoje debate na ovu temu koja nosi naziv transhumanizam. I dok se argumenti za i protiv nižu, savremena literatura i filmovi tiltuju priču prema argumentu koji kaže da je transhumanizam posledica distopijskog društva i navode da je sjajan primer za to film Gattaca, u čijoj je viziji budućnosti sve je predodređeno genetičkim determinizmom i klasnim društvom (The brave new world) koji nas lišavaju slobodne volje. Zar nismo krenuli već u tom pravcu?

Transhumanisti nam govore kako je bitno isključivo zadržati esenciju ljudstva, i ukoliko se osoba oseća tako pripadaće svom rodu. Ono što ovde predstavlja problem je pitanje: šta je to što nas čini ljudima? Sa druge strane, nadograđivanje ljudskih sposobnosti ima potencijal da poveća ljudski životni vek i efikasnost pomažući nam da ostvarimo više životne ciljeve. Kada je transplatacija prvi put prezentovana smatrala se neprirodnom, ali je danas itekako prihvatljiva u društvu. Iako postoji mnogo opasnosti ili mana u transhumanističkom pogledu na svet, itekako je nešto što treba uzeti u obzir. Na kraju krajeva, sve se svodi na lični izbor. Da li će nas modifikacije učiniti boljim je studija o čijim efektima ćemo čitati u budućnosti. Za sada, nauka nas čini “boljim” i to na mnogo načina.

Prelazni oblici – Primo Posthuman – Cyborgs

Tradicionalna definicija kiborga kaže da kiborg podrazumeva simbiozu organskih i veštačkih (elektronskih, mahaničkih ili robotskih) delova. Tako svako ko ima pejsmejker ili bilo kakav veštački deo unutar svog tela ulazi u definiciju, uprkos tome što je tehnologija još uvek poprilično rudimentarna. Sinteza kiborga u literaturi upućuje striktno na ne tako veliku distinkciju između čoveka i mašine što za posledicu ima moralne i etičke implikacije vezane za empatiju, ljubav, slobodnu volju, moralnost, ali i za religijsko stanovište da je čovek stvoren po božijem liku (što je iz nekog nepoznatog razloga jako uznemirujuće).

Ukoliko duboko analiziramo sve ove aspekte, videćemo da je u osnovi jedina razlika u tome kako i koliko određena ideologija, religija, ili filozofska škola percepira progres tehnologije kroz razvoj nauke. Kao i svaka nova granica i ova pomera razumevanje nas samih, ali takođe i potrebu da čovek ne bude jedina poznata inteligencija u univerzumu.

Pozitronski mozak

Centralna razlika koja nas je svetlosnom brzinom uspostavila kao dominantan oblik života na planeti Zemlji proizvodi “pozitronski mozak”. Sledeći stadijum evolucije, koji sada biva premešten iz hemijskog bazena u silicijumski binarni bazen, utemeljen je na principu tri zakona robotike. Asimov, iako nesvesno, uzima pozitronski mozak kao centralni ključ za ta tri zakona koji će se toliko nebrojeno puta citirati. Nazvan “Asimovim snom” – pozitronski mozak nije moguće materijalizovati ukoliko se u njegovom stvaranju ne primeni specijalna vrsta psihologije, a sam Asimov nije imao konkretan odgovor kako on radi – samo je naveo da su platina i iridijum njegove kompontente. Sam naziv Asimov je preuzeo zato što mu je trebala jaka “naučna reč” (u to vreme pozitron je tek otkriven), koja u sebi nosi malo simbolično značenje: po svom svojstvu sam pozitron (čestica) naelektrisana je suprotno od elektrona (svi znamo da u ljudskom mozgu postoje neuroni koji ispaljuju električne impulse) i predstavlja njegovu sliku u ogledalu.

“Mržnja prema nečemu što je savršenije od nas samih.”

Šta je to što je Asimov hteo da nam prenese? U svom preobimnom opusu hteo je da nam dočara viziju onoga što čovečanstvo može da postigne zahvaljujući poduhvatu ljudskog duha. Serijal Roboti – Zadužbina itekako govori o nama samima i našem odnosu prema spoznaji, znanju, životu, kulturi i civilizaciji. Pre svega govori o našim slabostima i kako možemo da ih prevaziđemo. Zajedno. Prava misterija (tako ju je predstavio Asimov) se sastoji u kooperaciji /partnerstvu čoveka i mašine. Nosioci radnje, Zemljanin privatni detektiv Elijah Baley i robot Daneel Olivav (najnapredniji model robota proizveden na svemirskoj planeti Aurori), kroz prizmu dojlovskog odnosa Šerloka Holmsa i Dr. Votsona sa primesama najboljih misterija i krimića u književnosti, opisuju i smanjuju granicu jaza između ljudskih predrasuda.

Osećaj koji je ostao dok sam prolazio kroz svaku knjigu reflektovao se samo u tri proste oznake koje koristimo u periodnom sistemu elemenata, a koje kada se ukombinuju daju ideologiju SiFeC (Silicijum, Gvožđe, Ugljenik). Naravno, uvek postoji opasnost da deca čovečanstva imaju svoj plan i da se sve ovo desilo jednom i da će se desiti ponovo.

Autor: Aca Todorović

http://frenzyspark.com/2012/06/10/binarni-moralni-kod-da-li-covecanstvo-sanja-elektricne-ovce/

[ivona]

tema je fenomenalna,a sam tekst otvara toliko pitanja da bi svako zasluzilo makar po jednu temu.Ono sto je fascinantno je da je Asimova buducnost prakticno tu,nama ispred nosa,a mi cutimo pred mostovima koji mogu odvesti napred ili u nepovrat.Gattaca je ponudila rešenje,iliti stav,naspram progresa tehnologije ''ljudski duh se ne moze klonirati i on je taj koji nas odvodi medju zvezde'' koje se i meni čini prihvatljivim,ipak ne mogu a da ne vidim i neverovatne strane tehnologije koja bukvalno ljudima omogućava život kakav žele da žive i za koji nisu ni znali da može da postoji.Cela problematika se sastoji u tome sto linearni progres naucno-tehnoloskih dostignuća ne prati i kulturnoduhovni razvoj covecanstva sto je samo po sebi dovoljno da ukaze gde smo i gde idemo...

[obi-wan]

Jedna od omiljenih literatura...

[Милан Меденица :)]

одлична тема која испитује да ли сух долази из боце или је нераздвојив део боце

[R.Žiskar]

Хм, градити претпоставке о будућности на основу СФ романа је, па да кажемо на најопширнији начин, незахвално. Иако имамо примере из прошлости који су претпоставили нешто што се касније, принципијелно остварило, ипак је мало тешко за очекивати да се у машину унесу апстрактна размишљања каква човек поседује.

Имитација - да. Одлична имитација - да, наравно. Али изједначење? Не веру_ем.

Ево, узмимо само једно осећање, осећање страха. Да ли би се човек бојао било чега ако зна да може да буде поново направљен? Да зна да је неуништив у основи? И какав би онда однос имао према другим људима, према околлини, према развоју?

[Crveni Baron]

Sama ideja kako ce covek moci da stvori vestacku inteligenciju je identicna ideji da ce jednog dana turbo dizel motori biti ta inteligencija. Razlike izmedju motora i kompjutera tu nema. Podjednako su "glupi", cak je kompjuter i gluplji rekao bih.

[ivona]

mislim da scena iz blade runner toliko dobro i transparentno objasnjava razliku izmedju coveka i masine da ponekad umetnosti treba prepustiti ulogu tumacenja i onoga sto smo sada i sto cemo biti uvek.

http://www.youtube.com/watch?v=a_saUN4j7Gw

[Милан Меденица :)]

Хм, градити претпоставке о будућности на основу СФ романа је, па да кажемо на најопширнији начин, незахвално. Иако имамо примере из прошлости који су претпоставили нешто што се касније, принципијелно остварило, ипак је мало тешко за очекивати да се у машину унесу апстрактна размишљања каква човек поседује.

Имитација - да. Одлична имитација - да, наравно. Али изједначење? Не веру_ем.

Ево, узмимо само једно осећање, осећање страха. Да ли би се човек бојао било чега ако зна да може да буде поново направљен? Да зна да је неуништив у основи? И какав би онда однос имао према другим људима, према околлини, према развоју?

није поента изједначавање већ философска рапсрава о граници и разлици.

друго, страх је само инстинкт (реакција) уграђен да би се заштитио од повређивања или самоповређивања тако да се робот може програмирати за исто.

[Милан Меденица :)]

mislim da scena iz blade runner toliko dobro i transparentno objasnjava razliku izmedju coveka i masine da ponekad umetnosti treba prepustiti ulogu tumacenja i onoga sto smo sada i sto cemo biti uvek.

http://www.youtube.com/watch?v=a_saUN4j7Gw

напротив, цела сцена служи овоме:

In interview with Dan Jolin, Hauer said that these final lines showed that Batty wanted to "make his mark on existence ... the robot in the final scene, by dying, shows Deckard what a real man is made of."

http://en.wikipedia.org/wiki/Tears_in_rain_soliloquy

[Милан Меденица :)]

Sama ideja kako ce covek moci da stvori vestacku inteligenciju je identicna ideji da ce jednog dana turbo dizel motori biti ta inteligencija. Razlike izmedju motora i kompjutera tu nema. Podjednako su "glupi", cak je kompjuter i gluplji rekao bih.

вештачка интелигенција је већ створена само је питање колико ће бити програмирана да учи ... мотор је ограничен механиком, а један вештачки мозак ће бити ограничен - чиме?

само инвентивношћу човека или скупа људи који га буду правили - машта је граница.

друго је питање шта је човек а шта машина, и где је граница.

[Justin Waters]

Хм, градити претпоставке о будућности на основу СФ романа је, па да кажемо на најопширнији начин, незахвално. Иако имамо примере из прошлости који су претпоставили нешто што се касније, принципијелно остварило, ипак је мало тешко за очекивати да се у машину унесу апстрактна размишљања каква човек поседује.

Имитација - да. Одлична имитација - да, наравно. Али изједначење? Не веру_ем.

Ево, узмимо само једно осећање, осећање страха. Да ли би се човек бојао било чега ако зна да може да буде поново направљен? Да зна да је неуништив у основи? И какав би онда однос имао према другим људима, према околлини, према развоју?

Рецимо да је то све могуће постићи. Ствар је само што то више не би био човјек, већ друга врста хуманоида. То човјечанство треба да одлучи, треба ли му то или не. Гдје су границе прогреса и сазнавању природе и манипулацији истом?

[Милан Меденица :)]

То више није човек. То је надчовек.

Какав однос треба да има према другим људима? Онакав однос какав добар владар треба да има према својим поданицима.

fmqmtx fmqmtx fmqmtx fmqmtx fmqmtx

[Милан Меденица :)]

Рецимо да је то све могуће постићи. Ствар је само што то више не би био човјек, већ друга врста хуманоида. То човјечанство треба да одлучи, треба ли му то или не. Гдје су границе прогреса и сазнавању природе и манипулацији истом?

http://en.wikipedia.org/wiki/Android_%28robot%29

[Sir Oliver]

mislim da scena iz blade runner toliko dobro i transparentno objasnjava razliku izmedju coveka i masine da ponekad umetnosti treba prepustiti ulogu tumacenja i onoga sto smo sada i sto cemo biti uvek.

http://www.youtube.com/watch?v=a_saUN4j7Gw

ovde i nema razlike, ova mašina je u potpunosti "očovečena"

Filip. K. Dik je pisao u stvari antropološke studije, pokušavajući da odgovori na pitanje gde su granice ljudskosti.