Opasnosti veštačke inteligencije

[GeniusAtWork]

 

 

Pet veoma pametnih ljudi koji veruju da bi veštačka inteligencija mogla dovesti do apokalipse

 

 

’Kraj ljudske rase’

 

Na listi scenarija o kraju sveta koji bi doveli do uništenja ljudske rase, superpametni roboti ubice su ono što najčešće ljudima padne na pamet. A i u naučnim krugovima sve veći broj stručnjaka za veštačku inteligenciju se slažu da će ljudi na kraju stvoriti veštačku inteligenciju koja će nas prevazići u mogućnosti razmišljanja. Ovaj trenutak, koji se naziva singularitet, bi mogao da stvori utopijsko društvo u kome bi roboti automatizovano obavljali uobičajene poslove, a ljudi bi se odmarali u obilju resursa. Ili bi moglo doći do toga da veštačka inteligencija, ili AI, istrebi sva bića koje smatra suparnicima u kontroli nad planetom - to jest nas. Stiven Hoking je odavno smatrao ovu drugu mogućnost za verovatniju, i ovaj stav je ponovio u nedavnom intervjuu za BBC. Evo šta kažu Hoking i drugi veoma pametni ljudi koji se slažu da bi veštačka inteligencija zaista mogla biti kraj čovečanstva.

 

Stiven Hoking

 

„Razvoj potpune veštačke inteligencije bi mogao da znači kraj ljudske rase“, izjavio je za BBC ovaj svetski poznati fizičar. „Ona bi samostalno zaživela i redizajnirala samu sebe po geometrijskoj progresiji. Ljudi, koji su ograničeni sporom biološkom evolucijom, ne bi mogli da održe korak i bili bi prevaziđeni“. Hoking već duže vremena zagovara ovu apokaliptičnu viziju. U svojoj majskoj kolumni, u odgovoru na Transedence - naučno-fantastični film o singularitetu u kome igra Džoni Dep - Hoking kritikuje istraživače što nisu više učinili da zaštite ljude od rizika veštačke inteligencije. „Ako bi nam nadmoćna vanzemaljska civilizacija poslala poruku koja glasi ’Stižemo za par decenija’, da li bismo jednostavno odgovorili ’OK, pozovite nas kad stignete - ostavićemo upaljena svetla’? Verovatno ne, ali upravo to je manje-više ono što se sada dešava sa veštačkom inteligencijom“ kaže on.

 

Ilon Mask

 

Poznat po po svojim poslovanjima u oblasti vrhunske tehnologije, kao što su kompanije Tesla i SpaceX,  Mask nije ljubitelj veštačke inteligencije. Na konferenciji održanoj u oktobru na MIT-u, Mask je uporedio napredak u razvoju veštačke inteligencije sa „prizivanjem demona“ i nazvao ga najvećom egzistencijalnom pretnjom ljudskoj rasi. Takođe je napisao na tviteru da bi veštačka inteligencija mogla biti opasnija od nuklearnog oružja. Mask je pozvao na donošenje nacionalnih ili međunarodnih pravila koja bi regulisala razvoj veštačke inteligencije.

 

Nik Bostrom

 

Ovaj švedski filozof je direktor Instituta Za Budućnost Čovečanstva pri Oksfordskom Univerzitetu, gde je proveo puno vremena razmišljajući o mogućim ishodima singulariteta. U svojoj novoj knjizi Superintelligence, Bostrom tvrdi da kada jednom mašine nadmaše ljudski intelekt, one se mogu mobilisati i odlučiti da istrebe ljude izuzetno brzo koristeći veliki broj strategija koje bi im bile na raspolaganju (upotrebljavajući nevidljive patogene, regrutacijom ljudi za svoje ciljeve ili jednostavno upotrebom grube sile). Svet budućnosti bi mogao da postane čak još više tehnički napredan i složen, ali nas ne bi bilo u njemu da ga iskusimo. "Društvo puno ekonomskih čuda i fenomenalne tehnologije bez ikoga ko bi od toga imao koristi", piše on. "To bi bilo kao Diznilend bez dece".

 

Džejms Barat

 

Barat je pisac i snimatelj dokumentaraca koji je intervjuisao mnoge istraživače veštačke inteligencije i filozofe da bi dobio materijal za svoju novu knjigu ’Naš zadnji izum: veštačka inteligencija i kraj ere ljudi’ On tvrdi da je u suštini inteligentnih bića nagon ka gomilanju resursa i ostvarivanju ciljeva, što bi neizbežno načinilo superpametne oblike veštačke inteligencije ljudskim suparnicima, pošto su ljudi najveći sakupljači resursa koji su ikada živeli na Zemlji. To znači da bi čak i mašina čiji bi jedini zadatak bio da igra šah ili da ispunjava neke druge proste obaveze, mogla da dobije neke čudne ideje ako bi bila dovoljno pametna. „Bez pažljivih i jasnih instrukcija koje bi ublažile moguće posledice, sistem koji poseduje svest o sebi, koji radi na svom poboljšavanju i koji teži ka ispunjavanju ciljeva bi mogao da pribegne metodama koje se nama čine neverovatnim da bi ispunio svoje ciljeve“, piše on u svojoj knjizi.

 

Vernon Vindži

 

Matematičar i pisac fantastike, za njega se veruje da je prvi skovao izraz ’singularitet’ da bi opisao trenutak promene u kome mašine postaju pametnije od ljudi. On smatra singularitet neizbežnim, čak i ako budu donešena međunarodna pravila koja bi kontrolisala razvoj veštačke inteligencije."Prednost koju bi svaki napredni sistem za automatsko izvršavanje zadataka imao u bilo kom obliku kompeticije – ekonomskom, vojnom, čak i umetničkom – bi bila toliko ubedljiva, da bi donošenje zakona ili uredbi koje bi trebalo da zabrane takve sisteme jedino dovelo do toga da bi ih se neko drugi prvi dočepao”, tvrdi on u svom eseju iz 1993. A šta će se desiti kada stignemo do singulariteta? “Fizičko uništenje ljudske rase je jedna od mogućnosti”, piše on.

 

 

 

Izvor

 

fotka

 

 

(Ja sam preveo, pošto mi je tematika vrlo zanimljiva )

 

 

[Crveni Baron]

Budalesanje.

[Deja Vu]

Zasto bi superpametni skoro pa svesni (iako je ovo problematicno) roboti hteli da uniste ljudsku rasu? Sto bi neko ko je pametniji od nas hteo da nas istrebi?

 

Ako bi ti roboti bili toliko inteligentni, trebali bi da se vode nekakvom utilitaristickom logikom. Znaci "razmisljali" bi tipa: Aha, ovi ljudi prave/ne prave stetu planeti. Ako prave stetu -> kontrolisanje ili istrebljenje ljudske vrste. Ako ne prave stetu -> sve ok. 

 

Naravno, pitanje je da li bi ti roboti bili svesni, sto je problematicno, ima onaj paradoks kineske sobe. Tako da jedina opasnost moze doci zbog ovog prvog (kada bi kroz neke proracune dosli do zakljucka da smo takva gamad da nas treba unistiti) ili ako ljudi zloupotrebe tu tehnologiju, jer ima ludaka i raznih terorista koji bi to sigurno uradili. 

 

Ovi ljudi kao da superinteligenciju vezuju za zlo i cim je neko pametniji od nas, on ce da nas satre. Cim je neko razvijeniji od nas, ima da nas satre. 

[Дидим]

Да ли би вештачка интелигенција била заинтересована за овај наш физички свет и тиме нам представљала конкуренцију?

 

На пример, обично се под вештачком интелигенцијом мисли на интелигентне роботе, тј. неку врсту механичких људи. Али шта ако вештачка бића буду интелигентни програми који ће постојати на хард-дисковима и желети да се тамо размножавају и стварају своју "цивилизацију"? А у будућности буде толико много умрежених рачунара са милионима и милионима слободних гигабајта где ће ти програми моћи да се размножавају и наснимавају да никог не угрозе, само нпр. да су довољно интелигентни да нас спрече да их обришемо и да су у стању да "беже" тако што ће се копирати и кретати од једног умреженог система на други?

[Deja Vu]

Да ли би вештачка интелигенција била заинтересована за овај наш физички свет и тиме нам представљала конкуренцију?

 

На пример, обично се под вештачком интелигенцијом мисли на интелигентне роботе, тј. неку врсту механичких људи. Али шта ако вештачка бића буду интелигентни програми који ће постојати на хард-дисковима и желети да се тамо размножавају и стварају своју "цивилизацију"? А у будућности буде толико много умрежених рачунара са милионима и милионима слободних гигабајта где ће ти програми моћи да се размножавају и наснимавају да никог не угрозе, само нпр. да су довољно интелигентни да нас спрече да их обришемо и да су у стању да "беже" тако што ће се копирати и кретати од једног умреженог система на други?

 

Tacno tako, uopste ne moraju da imaju fizicka tela i osvajaju fizicke resurse. Ako uzmemo u obzir to da mi osvajamo zemaljske resurse najvise zbog potrebe za energijom, AI uopste nece imati potrebe za tim jer ce njegov izvor biti npr. Sunce ili neki drugi resurs za koji nije potrebno izvrisiti okupaciju, a koji bi oni sigurno iskoristili jer su jel te supeinteligentni. Zbog toga nemaju potrebe da diraju ljude. 

[Pancakes]

Na skali rizika i opasnosti postoji daleko više prijetnji po čovječanstvo od vještačke inteligencije a to je radikalno unapređenje ljudske inteligencije, a kroz nju korišćenje napredne i moćne tehnologije u zlonamjerne svrhe.Ljudska aktivnost u sprezi sa moćnom tehnologijom je najveći okidač, jer tu je dovoljno da se nađe samo jedna neuračunljiva grupa ljudi sa dovoljnim resursima koji bi koštale života na milione ljudi.

[Arsenija]

Да ли би вештачка интелигенција била заинтересована за овај наш физички свет и тиме нам представљала конкуренцију? На пример, обично се под вештачком интелигенцијом мисли на интелигентне роботе, тј. неку врсту механичких људи. Али шта ако вештачка бића буду интелигентни програми који ће постојати на хард-дисковима и желети да се тамо размножавају и стварају своју "цивилизацију"? А у будућности буде толико много умрежених рачунара са милионима и милионима слободних гигабајта где ће ти програми моћи да се размножавају и наснимавају да никог не угрозе, само нпр. да су довољно интелигентни да нас спрече да их обришемо и да су у стању да "беже" тако што ће се копирати и кретати од једног умреженог система на други?

 

Sve je moguce.

Ali ,ja u to ne verujem.

Ljudi nisu toliko glupi da stvore robota koji moze da ih unisti,a koje ne mogu da kontorlisu ili uniste.

Ali zli i ambiciozni ljudi ce i to zloupotrebiti ...mozda ce stvoriti neke sifrovane robote kojima ce samo oni da komaduju i to ce biti njihova vojska...

Eto,tako je to zamisljam....

[GeniusAtWork]

Dobro je, izgleda da smo bezbedni još barem 30-40 leta: Link

 

 

[Arsenija]

Dobro je, izgleda da smo bezbedni još barem 30-40 leta: Link

 

Ne zelim da umrem mlada.

P.s. Kaze jedna  Baba- na jesen punim 90godina i polako pocinjem da starim...     ...

[Pancakes]

za sad nuklearni rat, biotehnološko naoružanje, terorizam i uvjek aktuelni totalitarizam   

 

zaista živimo u interesantnom svijetu.

[Снежана]

 па пре ће нас уништити природна глупост него вештачка интелигенција

[Zero]

Pa, ovi "neznabošci" znaju bolje od nas, "hrišćana" da suva inteligencija bez trunčice ljubavi (može biti) jednako zlo. Sad, ta svest i samosvesnost mi uvek ostaje pod znakom pitanja za bilo šta stvoreno od strane čoveka... Potrebno je više od informacije, sposobnosti i dobre volje da se stvori nešto što sutradan može imati potencijal da postane neko... Nekako sam uvek razmišljao u pravcu onoga što Deja Vu kaže, da će neka atipična forma veštački stvorenog stroja (da li u vidu softvera ili u fizičkoj formi) da možda u nekoj meri pobrljavi naš sistem, npr. komunikacije ili ko zna čega, ali teško da će biti u globalu biti tako uspešno, ako iza toga ne stoji čovečija ruka. Bar neko moje mišljenje...

[Ћириличар]

Увијек постоји та могућност да вјештачка интелигенција доспије на такав ниво развијености, да може самостално доносити закључке, како ја то видим. Сад, како би се онда носила са вриједносним судовима, који су надасве субјективни?

 

Ето, баш око тога да ли смо штеточине на овој планети? Ако се узме вриједносни суд да је недирнута природа циљ и мјерило овог питања, онда се може доћи до одговора да јесмо штеточине. Али то не доводи аутоматски до одлуке да нас истријебе. Можда ће В.И. то само декларативно закључити? А ако оде корак даље и донесе одлуку да нас истријеби, на крају ће се морати окренути и против себе тако да се или ограничи од ширења на рачун природе, или да се уништи. 

 

А шта ако се узме вриједносни суд да су људи мјерило свега, јер је за природу небитно колико има пластике или токсина ( све је то природно такође, обрађено али природно )? Онда се може доћи до потпуно другачијег одговора.

 

Мене више занима да ли би В.И. развила свијест и осјећаје попут похлепе, сопственог интереса ( што повлачи и развијање идентитета )? Наравно, човјек може у програму написати шта је потребно да се В.И. самоидентификује, али да ли би она ту способност могла развити сама?

[Кратос]

Ако се узме вриједносни суд да је недирнута природа циљ и мјерило

 

Onda ta veštačka inteligencija neće da dira ni čoveka pošto je deo prirode i kao takav po algoritmu mora da bude netaknut.

 

Мене више занима да ли би В.И. развила свијест и осјећаје попут похлепе, сопственог интереса ( што повлачи и развијање идентитета )? Наравно, човјек може у програму написати шта је потребно да се В.И. самоидентификује, али да ли би она ту способност могла развити сама?

 

Misliš da bez pohlepe i sopstvenog interesa nema identiteta?U svakom slučaju način na koji će ta ,,inteligencija,, da misli zavisi isključivo od čoveka tako da opasnosti nema.ona može da se kreće samo u okvirima nekog algoritma koji gle čuda opet određuje čovek. :bendoff:  

[Zero]

 

Naravno, pitanje je da li bi ti roboti bili svesni, sto je problematicno, ima onaj paradoks kineske sobe. Tako da jedina opasnost moze doci zbog ovog prvog (kada bi kroz neke proracune dosli do zakljucka da smo takva gamad da nas treba unistiti) ili ako ljudi zloupotrebe tu tehnologiju, jer ima ludaka i raznih terorista koji bi to sigurno uradili. 

Što se tiče kineske sobe, reko da podelim link (ako je to to), zanimljiv zaključak: Кинеска соба

 

 

Misliš da bez pohlepe i sopstvenog interesa nema identiteta?U svakom slučaju način na koji će ta ,,inteligencija,, da misli zavisi isključivo od čoveka tako da opasnosti nema.ona može da se kreće samo u okvirima nekog algoritma koji gle čuda opet određuje čovek. :bendoff:  

 

Sad, nešto razmišljam, ako je veštačka, onda je simulirana, tj. opet zavisi koliko smo mi dobro odradili posao da je simuliramo... Mozak je čudna stvar, jako zanimljiva, imamo različite vidove inteligencije, sve je to nekako isprepletano kao crevce gore unutra, tako da pitanje je koji se sve to procesi dešavaju... Nije nam sve poznato, tako da ne možemo sve ni da rekreiramo. Ako ne možemo sve da pokrijemo i rekreiramo, kako da očekujemo da će ta "inteligentna" mašina tek na osnovu algoritama jednog ili par vidova inteligencije "shvatiti" u kom pravcu da se kreće i da napreduje? Svaka čast za ovo kretanje u određenim okvirima, zagolicaste me