Opasnosti veštačke inteligencije

[RYLAH]

Колико год да је АИ супериоран у брзини решавања проблема, и даље не постоји интуитиван АИ. У том смислу, АИ је и даље на нивоу идиота који уме да размишља у задатим и постављеним оквирима (if then else), али није способан да доноси одлуке које су квалитативно другачије (рецимо, у примеру са Гугловим аутомобилом, ауто не може да одлучи да не оде на посао него у природу кад је нерадан дан). Тога су се делом дотакли и у Матриксу, где се види да машина, чак и тако савршена као што је Матрикс, може да изгуби све јер није способна да прекрши сопствена правила, чак и по цену свог опстанка, док човек може јер је у стању да увиди корист од тога, и јер не размишља у тим оквирима.

У том смислу, док се не измисли нека револуционарно другачија технологија, где ће АИ моћи да размишља изван if then else матрице, и даље ће остати идиот који уме много брзо да решава својих пар радњи (или пар стотина, или пар стотина хиљада, свеједно).

[Иван ♪♫]

Broj potpisnika pisma u kome istraživači iz oblasti veštačke inteligencije pozivaju na zabranu autonomnog oružja je dostigao 16.000, a samo u prva tri dana potpisalo ga je 15.000 ljudi.

 

 

Ja vidim opasnost u psihologiji ovakvog ratovanja, jer kada akcija nije direktna čovekova savest je slabija. Npr., eksperiment, ostaviš pare na vidljivom mestu i slabo ko će da uzme, ali ako staviš kolače ljudi već uzimaju bez osećaja da kradu (Dan Ariely). Radi se o tome da kada nemoralno delo nije direktno, onda i savest slabije radi, moral je maglovit, i ljudi nemaju toliko jak osećaj da su učinili nešto loše. Primer je piraterija softvera i muzike, to svi rade, a ne razmišljaju i nisu svesni koliki trud ulazi u kreaciju toga, i da kreator očekuje naknadu za rad i dobro koje ti je dao, tj. koje si mu uzeo.

 

Slično tome, oni koji kroje dešavanja na krupnom planu, koji i onako nemaju previše savesti, još manje će je imati kad, umesto ljudi, u žarište budu slali mašine.

 

 

 

 

Jedan takav primer među mnogima je Guglov autonomni automobil: može da mu se zada cilj visokog nivoa (‘odvezi me do kancelarije’), on može da napravi plan kako da taj cilj ostvari, da oseti gde treba da koristi kompjutersku vidljivost i radar, da započne sa ispunjavanjem tog plana, uoči  trenutak kada se plan više ne može realizovati (možda recimo naiđe na radove na putu), da napravi novi plan i postupi po njemu, da napravi manevar izbegavanja kada mu drugi auto preseče put i na kraju da prepozna kada je uspešno ispunio neke od ciljeva.”

 

 

Inače, ovo i nije baš sve toliko novo, to je tehnologija nastala još u prošlom veku, i dokumentovana je po knjigama. Ne sve, naravno, gugl i druge kompanije, razvijaju ovo dalje i pokušavaju da naprave nešto pouzdano i bezbedno što će moći da funkcioniše među ljudima, a da nikoga ne povredi i ne napravi štetu. Sad, pričam uopšteno, nisam se previše interesovao za Gugl auto.

Pretpostavljam da Gugl koristi svoje mape i mapu puteva, i problem se svodi na pretragu grafa, a realno ništa drugo i nije moglo biti primenjeno za ovakav problem. Vidi kad je Dajkstra smislio svoj algoritam, pedesetih i u modifikovanoj (i što bi rekao Radovan 3., aproksimativnoj) verziji se primenjuje u igrama uveliko.

Sad šta Gugl tačno koristi i dokle su doveli tehnologiju i šta su sve novo smislili, mi naravno još ne možemo znati, ali jedva čekam da znanje ,,pređe u narod".

 

I tako bliže i tako dalje, sve u svemu, mašine su samo pomoćno sredstvo. Najveća opasnost je od nedostatka savesti, ljubavi. I zato jedini način da se čovečanstvo učini boljim mestom jeste prosvećivanje ljudi, zato ja toliko volim hrišćanstvo, jer prepoznaje i bavi se pravim i suštinskim stvarima.

Što kaće starac Pajsije: što više zagrebeš u hrišćanstvo sve više miriše

[Deja Vu]

Колико год да је АИ супериоран у брзини решавања проблема, и даље не постоји интуитиван АИ. У том смислу, АИ је и даље на нивоу идиота који уме да размишља у задатим и постављеним оквирима (if then else), али није способан да доноси одлуке које су квалитативно другачије (рецимо, у примеру са Гугловим аутомобилом, ауто не може да одлучи да не оде на посао него у природу кад је нерадан дан). Тога су се делом дотакли и у Матриксу, где се види да машина, чак и тако савршена као што је Матрикс, може да изгуби све јер није способна да прекрши сопствена правила, чак и по цену свог опстанка, док човек може јер је у стању да увиди корист од тога, и јер не размишља у тим оквирима.

У том смислу, док се не измисли нека револуционарно другачија технологија, где ће АИ моћи да размишља изван if then else матрице, и даље ће остати идиот који уме много брзо да решава својих пар радњи (или пар стотина, или пар стотина хиљада, свеједно).

 

Samo sto je AI takva da je autonomna u "razmisljanju" tj. prevazilazi te if else, while, do, for i slicne petlje i funkcije zadate od strane coveka, pa tako AI moze sama da kreira sopstvene programe i pise skripte za izvrsavanje nekih radnji bez da tu covek intervenise. U tome je caka, zato se zove vestacka inteligencija, jer radi i ''razmislja" isto kao covek cak daleko bolje, vodi racuna o svim tim situacijama kada je nesto korisno/stetno za nju ili nekog drugog pa na osnova toga pravi proracune i izvrsava odredjene radnje. 

 

Jedina razlika je sto AI nema svest iako neki od tih teoreticara sto se bave AI kazu da ce problem nastati ako ona dobije tu svest i postane svesna same sebe, ali to je zasad domen fantazije jer jos niko nije dao odgovor na pitanje sta je svest i kako nastaje. 

 

Naravno, inteligencija nije isto sto i svest, pa verovatno ovi teoreticari mesaju ta dva pa se plase da se jednog dana AI probudi. 

[Иван ♪♫]

Naravno, inteligencija nije isto sto i svest, pa verovatno ovi teoreticari mesaju ta dva pa se plase da se jednog dana AI probudi.

a zamisli da se izmodelira nervni sistem, čisto softverski, po ugledu na prirodu, koji bi učio i razvijao se na neki način, da li bi to nazivali živim? Moze se napraviti i da se samoreprodukuje. Pa cak i ako bi neko to proglasio samosvesnim po bilo kojoj definiciji. Jesu li životinje svesne? Biljke? Bakterije, virusi?!?! Ili treba da ima dušu da bi bilo živo?

Interesantna mi je ova misao. U suštini zavisi kako ko shvata život... tj da li veruje samo u ovaj svet i ono što vidi i opipava, u puku kauzalnost, ili veruje u Život, pa je onda i sama materija od Života, Boga... interesantno mi je ovo

[Иван ♪♫]

u stvari ovo je ništa drugo do gađanje pojmovima, od toga kako neko shvata život zavisiće i njegov odnos prema svemu što ga okružuje, i prema samom sebi

[Deja Vu]

a zamisli da se izmodelira nervni sistem, čisto softverski, po ugledu na prirodu, koji bi učio i razvijao se na neki način, da li bi to nazivali živim?

 

Pa ako bi recimo takav nervni sistem podrazumevao zive celije (sto nije nemoguce zbog razvijanja biotehnologije, nanotehnologije i slicnog) onda bi smo ga mogli nazvati zivim, u smislu da takva AI ima telo, krv, kosti, mozak. Ako bi takav nervni sistem imao nekakvo mehanicko telo kao sto sada imaju racunari zasnovano na tranzistorima i integralnim kolima, onda ne. Dakle kriterijum za bioloski zivot bi u ovom slucaju bilo nesto sto ima zive celije. 

 

 

Jesu li životinje svesne? Biljke? Bakterije, virusi?!?!

 

To ne znamo. Zivotinje deluju kao da imaju, a ovo ostalo deluje manje. Ako si fizikalista, onda je svest iluzija nastala usled procesa u mozgu, ali je fizikalizam problematican zbog redukcionizma. Ako si dualista, onda ces npr. kao Dejvid Čalmers reci da i zivotinje i bilje i bakterije pa cak i atomi i elektroni imaju nekakvu svest tj. da je svest fundament u univerzumu poput prostora, vremena, energije itd. 

 

Zapravo, mi ne znamo da li drugi ljudi imaju svest. Ja ne znam jel ti imas svest ili si bot koji je programiran negde da na moje: Ti nemas svest, odgovara sa: Ja imam svest. Isto vazi sa tvoje pozicije, ne znas jesam li ja svestan. No, to uzimamo kao nesto ocigledno zato sto smo gotovo isti i imamo skoro ista ponasanja. Samo svest nije isto sto i ponasanje, pa tako i AI moze da se ponasa kao covek a da nema svest. Znaci jedino u sta smo sigurno jeste da mi sami imamo svest, a da je ostalo pod znakom pitanja. 

[RYLAH]

Samo sto je AI takva da je autonomna u "razmisljanju" tj. prevazilazi te if else, while, do, for i slicne petlje i funkcije zadate od strane coveka, pa tako AI moze sama da kreira sopstvene programe i pise skripte za izvrsavanje nekih radnji bez da tu covek intervenise. U tome je caka, zato se zove vestacka inteligencija, jer radi i ''razmislja" isto kao covek cak daleko bolje, vodi racuna o svim tim situacijama kada je nesto korisno/stetno za nju ili nekog drugog pa na osnova toga pravi proracune i izvrsava odredjene radnje. 

 

Jedina razlika je sto AI nema svest iako neki od tih teoreticara sto se bave AI kazu da ce problem nastati ako ona dobije tu svest i postane svesna same sebe, ali to je zasad domen fantazije jer jos niko nije dao odgovor na pitanje sta je svest i kako nastaje. 

 

Naravno, inteligencija nije isto sto i svest, pa verovatno ovi teoreticari mesaju ta dva pa se plase da se jednog dana AI probudi.

Јесте, али и кад ствара сопствене програме, и даље се, макар за сад, креће у постављеним оквирима. Другим речима, неће да направи програм који одскаче од параметара који су задати том надпрограму. За сад се АИ сматра супериорном јер уме брзо да учи, и много брже него мозак да обрађује податке, али и даље није аутономна у доношењу одлука. Опет наводим пример Гугл аутомобила - неће да "одлучи" да те одвезе негде где му ниси задао задатак, може само да изабере како ће на најбољи начин да испуни постављени задатак, колико год да га гледаш као "интрлигентан" производ.

Појавио се скоро један филм, Chappie. Није неки квалитет за Оскара, али покушава да предвиђа трендове. По том филму, што није далеко од реалности, права и неспутана АИ ће постојати тек када се људска свест на неки начин повеже са машином, односно кад се аплодује у машину (занемарићемо онај део филма у ком се свест првог робота "буди" сама од себе као треш елемент).

[Ћириличар]

Jedina razlika je sto AI nema svest iako neki od tih teoreticara sto se bave AI kazu da ce problem nastati ako ona dobije tu svest i postane svesna same sebe, ali to je zasad domen fantazije jer jos niko nije dao odgovor na pitanje sta je svest i kako nastaje. 

Постоје двије опције за које знам:

1. свијест долази са душом

2. свијест долази на одређеном нивоу интелигенције

 

Уколико свијест долази од душе, онда је једина могућност за постојање аутономне вјештачке интелигенције спајање човјека и машине. Значи киборзи. Али, уколико свијест настаје као резултат достизања одређеног нивоа интелигенције ( засад искључујем остале могуће факторе ) онда је веома лако рећи да је могућ сценарио свјесног робота.

 

Али свијест није исто што и аутономно размишљање. Свијест може бити ограничена, недовољно јака да би се могло самостално размишљати. Код дјеце су забиљежени различити нивои свијести - када почиње препознавати лица, када гласове, када постаје свјесно простора око себе итд. И дјеца не почињу размишљати сама све док не напуне неколико година. Значи свијест је предуслов за самостално размишљање.

 

Radi se o tome da kada nemoralno delo nije direktno, onda i savest slabije radi, moral je maglovit, i ljudi nemaju toliko jak osećaj da su učinili nešto loše. Primer je piraterija softvera i muzike, to svi rade, a ne razmišljaju i nisu svesni koliki trud ulazi u kreaciju toga, i da kreator očekuje naknadu za rad i dobro koje ti je dao, tj. koje si mu uzeo.

 

Као веома искусан гусар, морам реаговати   Постоји и друга страна медаље. Сви ти велики постављачи материјала на piratebay у описиам фајлова или у текстуалним документима пишу "Ако вам се свиђа, подржите ауторе и купите игру/филм/програм". Постоји и та свијест, па се на пиратерију гледа као на позајмљивање своје копије игре или филма. Знам сам да бих радо куповао све што сам илегално скидао, али авај, немам од чега ( читај, студентарија ), немам ни гдје.

 

И натраг на тему. Ето, ово је било једно морално-економско-правно питање. Веома је комплексно и јасно је да ниједна страна није потпуно у праву као и да су сви у неку руку у праву. Рјешавање оваквих питања је својствено само људима и док се машина не оспособи да сама "размишља" и рјешава овакве ствари, неће проћи тест. Доста менталних процеса улази у рјешавање нечега оваквог, као и предиспозиције појединца који му приступа, а аз све то је потребан висок ниво свијести.

[Ћириличар]

Јесте, али и кад ствара сопствене програме, и даље се, макар за сад, креће у постављеним оквирима.

Да ли је могуће написати програм за превазилажење тог оквира, питање је. 

[Guest]

Ako ćemo da radimo AI po principu rezolucije i valjanog zaključivanja, dobićemo nešto što mulja sa simbolima, rešava neke probleme bolje od ljudi, kao Deep Blue, ali je i dalje beskorisno za ono što meni treba.

Prava samosvest i nadljudska inteligencija se mogu dobiti jedino simulacijom nervnog sistema. Naravno da bih voleo da prebacim svoj um na emulator i tako dobijem besmrtnost i telo koje je daleko moćnije od bilo kakvog organskog smeća, mada ne isključujem mogućnost da se i ceo proces neurulacije može simulirati i da bi i takav nervni sistem mogao da razvije samosvest i nadljudsku inteligenciju u nekom trenutku. Tim pre što bi ti neuroni bili nekakve optimizovane strukture podataka, pa ne bi podlegali ograničenjima kojima podleže fizički mozak.

 

Mislim da je trenutno najveći problem nepogodna arhitektura procesora. I sada se ja igram sa fann bibliotekom, uskoro ću da napišem svoju implementaciju neuronske mreže, ali daleko od toga da će to da bude Skynet. Trebaju mi ogrnomni procesorski resursi da bih sa x86 ili Sparc arhitekturom nešto uradio.

Jedna od ideja bi bila da ceo nervni sistem radi distribuirano, preko mreže, ali ne znam kako bi uticalo to što bi lokalne sinapse bile za red veličine brže od onih koje idu preko mreže. Dobio bih mozak koji je izdeljen na segmente koji bi međusobno sporo komunicirali i pojma nemam kako bi se to prilagodilo da nekako funkcioniše.

 

Mogao bih da projektujem neku novu, hibrindu arhitekturu koja bi u osnovi bila X86, ali sa posebnim registrima i instrukcijama za rad sa neuronskim mrežama i posebnim kompajlerom koji bi koristio taj dodatak arhitekturi. Kratkoročno, to bi radilo, ali bih svejedno u nekom trenutku morao da projektujem potpuno novu arhitekturu, a to bi značilo novi kernel, novi kompajleri, novi kontroleri periferije...

 

Mnogo posla za kratko vreme, a i bilo bi skupo da se prave čipovi specijalno po mojoj narudžbini. Srećom, u budućnosti će stepen itegracije da poraste, cene da padnu, a i ja ću moći da finansiram nove procesore, pa stiže Skynet.

[Ћириличар]

Ako ćemo da radimo AI po principu rezolucije i valjanog zaključivanja, dobićemo nešto što mulja sa simbolima, rešava neke probleme bolje od ljudi, kao Deep Blue, ali je i dalje beskorisno za ono što meni treba.

Prava samosvest i nadljudska inteligencija se mogu dobiti jedino simulacijom nervnog sistema. Naravno da bih voleo da prebacim svoj um na emulator i tako dobijem besmrtnost i telo koje je daleko moćnije od bilo kakvog organskog smeća, mada ne isključujem mogućnost da se i ceo proces neurulacije može simulirati i da bi i takav nervni sistem mogao da razvije samosvest i nadljudsku inteligenciju u nekom trenutku. Tim pre što bi ti neuroni bili nekakve optimizovane strukture podataka, pa ne bi podlegali ograničenjima kojima podleže fizički mozak.

 

Mislim da je trenutno najveći problem nepogodna arhitektura procesora. I sada se ja igram sa fann bibliotekom, uskoro ću da napišem svoju implementaciju neuronske mreže, ali daleko od toga da će to da bude Skynet. Trebaju mi ogrnomni procesorski resursi da bih sa x86 ili Sparc arhitekturom nešto uradio.

Jedna od ideja bi bila da ceo nervni sistem radi distribuirano, preko mreže, ali ne znam kako bi uticalo to što bi lokalne sinapse bile za red veličine brže od onih koje idu preko mreže. Dobio bih mozak koji je izdeljen na segmente koji bi međusobno sporo komunicirali i pojma nemam kako bi se to prilagodilo da nekako funkcioniše.

 

Mogao bih da projektujem neku novu, hibrindu arhitekturu koja bi u osnovi bila X86, ali sa posebnim registrima i instrukcijama za rad sa neuronskim mrežama i posebnim kompajlerom koji bi koristio taj dodatak arhitekturi. Kratkoročno, to bi radilo, ali bih svejedno u nekom trenutku morao da projektujem potpuno novu arhitekturu, a to bi značilo novi kernel, novi kompajleri, novi kontroleri periferije...

 

Mnogo posla za kratko vreme, a i bilo bi skupo da se prave čipovi specijalno po mojoj narudžbini. Srećom, u budućnosti će stepen itegracije da poraste, cene da padnu, a i ja ću moći da finansiram nove procesore, pa stiže Skynet.

Правићу се да сам све разумио 

[Иван ♪♫]

Pa ako bi recimo takav nervni sistem podrazumevao zive celije (sto nije nemoguce zbog razvijanja biotehnologije, nanotehnologije i slicnog) onda bi smo ga mogli nazvati zivim, u smislu da takva AI ima telo, krv, kosti, mozak. Ako bi takav nervni sistem imao nekakvo mehanicko telo kao sto sada imaju racunari zasnovano na tranzistorima i integralnim kolima, onda ne. Dakle kriterijum za bioloski zivot bi u ovom slucaju bilo nesto sto ima zive celije. 

 

 

Priroda je puna organskih materija pa nije sve živo. Zar mora imati telo (ćelije) da bi se smatralo živim? Mi hrišćani verujemo u život mimo tela. Zato kažem zavisi kako ko veruje.

Ako ja sad postavim pitanje šta znači da je ćelija živa, opet ćemo doći do redukcionizma (da li razmenjuje materije, umnožava se i sl.)

Suprotno tome, da li smemo da se usudimo da kažemo da je samo ono što je svesno = živo? 

Interesantna tema baš  

[Иван ♪♫]

Као веома искусан гусар, морам реаговати   Постоји и друга страна медаље. Сви ти велики постављачи материјала на piratebay у описиам фајлова или у текстуалним документима пишу "Ако вам се свиђа, подржите ауторе и купите игру/филм/програм". Постоји и та свијест, па се на пиратерију гледа као на позајмљивање своје копије игре или филма. Знам сам да бих радо куповао све што сам илегално скидао, али авај, немам од чега ( читај, студентарија ), немам ни гдје.  

 

sa ovim se ne slažem, khm!  Šta bilo ko ima od tapšanja po ramenu i podrške od strane onoga od koga trpi štetu?! A i to ,,Ako vam se sviđa..." je licemerno, uzima i daje tuđe za džabe, a kaže idite, kupite, pomozite mu

muzičari su sirotinja, praktično prose, nezavisni naročito, daju svoju muziku za džabe i mole za podršku (kupovinu) i zahvaljuju do neba. Razlog je, osim piraterije i prosto navike ljudi da sve imaju na izvolte sada i odmah, i taj što je tržište prezasićeno. Poenta je da je nemoralno uzimati sirotinji. Zato mnogi jednostavno moraju da imaju dnevni posao, a muzikom se bave u slobodno vreme. Ovi što se vrte na radiju prođu dobro, jer PRO udruženja (performance rights organizations, koja skupljaju autorski dinar, tj. naknadu za javno izvođenje) im plaćaju. Kod nas je to SOKOJ, i bilo je skoro u novinama to su neke sume znaš kakve, za ove najpopularnije. A sve se to skupi iz kafića, restorana, frizerskih salona itd. Pa opet, čak i ako neko ima, zašto da mu uzmeš što ti on sam ne daje? Inače, tu su najčešće u pitanju izdavači, autori verovatno nemaju prava raspolaganja nad master recording-om (zvučni zapis kod nas valjda)

 

ima ovde negde tema, pa možemo tamo  mene mrzi da je tražim  

[Иван ♪♫]

Јесте, али и кад ствара сопствене програме, и даље се, макар за сад, креће у постављеним оквирима.

upravo tako, AI se projektuje za određeni cilj, i dok ne postigne dovoljnu efikasnost kalibriše se i unapređuje, ali uvek u unapred zadatom cilju, nema svoju volju

nego jedno zapažanje, i mozak se možda kreće u određenim okvirima? Mislim, nisam baš najpozvaniji da pričam o mozgu, nego koliko znam. On tako radi, pamti stimulus i uči formirajući sinapse, nešto je tako lepo, nešto ružno, sve u zavisnosti od pređašnjeg iskustva

mislim da je prava reč: volja. Nema volju. Da li je uopšte dovoljno da nešto ima svest da bi imalo volju? U prirodi prvo idu osećanja, nešto što možemo shvatiti kao volju, pa tek onda inteligencija. Šta znam, sad sam već otišao predaleko

Да ли је могуће написати програм за превазилажење тог оквира, питање је.

da uradi nešto neočekivano ili da bude kreativno? Ili je to isto? Ili da ima volju? Šta je volja?

Neočekivano se stalno događa kroz greške u razvoju sistema, bagove , dok ga ne napraviš da radi kako treba iznenadi te sto puta

a šta znači kreativno, jer kreativno ima veze samo u okviru naše ljudske estetike ili koristi

uh, mnogo pitanja

lično verujem u Život, a ne u puku kauzalnost, i prema tome da se suština života ne može matematički modelovati (staviti u uzročno posledični svet), već samo njegove manifestacije (života)

[RYLAH]

Врло је могуће да се и мозак креће у одређеним оквирима, али су ти оквири далеко шири од компјутера. Проблем (не)постојања слободне воље јесте евидентан као ствар за дебату, али је самосвест неупитна. Критичко мишљење, искакање из шаблона, рад против властитих рационалних интерса, рад зарад вишег циља с тим да је тај циљ формулисан а не задат... и још много других ствари, чак и да слободна воља не постоји, у многоме нас разликују од "вештачке интелигенције", макар ове која данас постоји, чија је једина предност у томе што је невероватно унапређен дигитрон.