Opasnosti veštačke inteligencije

[GeniusAtWork]

Jedan argument protiv singulariteta (pominje se u prvom postu na temi):

 

 

 

[Иван ♪♫]

odlicno razmisljanje, delim njegovo misljenje

[Juanito]

na neki nacin slican princip destrukcije postoji vec kod atomske bombe, atomi se cepaju, a cestice koje se razlete unistavaju druge atome, i tako ide lancana reakcija. Zapitas se kako to uopste stane. Strasno. Kakav je to necovek smislio...

 

Ти што су је смислили углавном нису били нељуди, имали су висока морална начела и по правилу су се горко покајали. За оне што су је употребили је мало рећи да су нељуди. А тек шта рећи о онима који ни зрно кајања нису осетили након што су видели последице...

[Guest]

na neki nacin slican princip destrukcije postoji vec kod atomske bombe, atomi se cepaju, a cestice koje se razlete unistavaju druge atome, i tako ide lancana reakcija. Zapitas se kako to uopste stane. Strasno. Kakav je to necovek smislio...

 

Nije nečovek, nego nadčovek.

[Натан]

Nije nečovek, nego nadčovek.

Тачније - наднечовек.

[Guest]

Nisi ti sposoban to da razumeš. Kad neko postane nadčovek on ne podleže više ljudskom načinu razmišljanja i ne brine zbog organskog smeća koje će biti spaljeno cepanjem atoma ili razvojem strong AI.

Čovek polako postaje zastareo i prevaziđen. Neće biti ni prva, a ni poslednja vrsta koja je dominirala Zemljom, pa izumrla. Bili su i trilobiti i dinosaurusi pre njega. Nešto savršenije i inteligentnije tek treba da dođe.

[GeniusAtWork]

Nije nečovek, nego nadčovek.

 

"Samim tim što smo prvi upotrebili nuklearno oružje, mi smo prihvatili etičke standarde srednjovekovnih varvara. Mene nisu učili da se tako dobija rat; ratovi se ne mogu dobiti uništavanjem žena i dece"

 

Admiral flote Vilijam D. Liji, načelnik generalštaba armije SAD pod Frenklinom Ruzveltom i Harijem Trumanom

[Aquilius Cratus]

Vidim da ste dosta toga ispisali ali pošto nemam vremena da isčitavama a ni da napišem onaj veliki tekst koji sam obećao uzeo sam da prevedem esej jednog od najrelevantnijih autora, istraživača i pronalazača u ovoj oblasti. Fascinantno je međutima, ne samo kad je ova tema u pitanju, da kad se povede reč o nekoj relativno složenoj naučnoj i/ili filozofskoj temi mediji a potom i većina ljudi želi da čuje šta Hoking ima da kaže o tome.

 

Stiven Hoking jeste jedan najznačajnijih naučnika druge polovine dvadesetog veka međutim to ne znači da je njegovo mišljenje relevatno ili čak uopšte vredno baš u svim naučnim oblastima koje sa astrofizikom i kosmologijom nemaju nikakve veze. Gde je on objasvio neki rad na temu veštačke inteligencije ili IT nauka generalno? Koliko ja znam nije. Mask jeste bio delimično u IT biznisu ali sa razvojem VI sistema nije imao nikakvih dodira, bar ja nisam našao ništa. Ali dobro mediji su takvi zanima ih samo populizam i brza zarada međutim zbog čega šira javnost afirmiše isti taj trend nikad mi neće biti jasno.

 

Ako želite naučiti nešto ili čak mnogo o razvoju VI i inteligenciji generalno treba da pitate čoveka koji je prvi osnovao institut za neuronauke sa ciljem pronalaženja teorijskog modela koji objašnjava inteligenciju. To je svakako Džef Hokins, dakle ne Hoking nego Hokins, osnivač Palm Kompjutings i Hendspringa kao i već pomenutog RNI instituta i kompanije Numenta koja ima za zadatak paktičan razvoj VI algoritama i praktičnih proizvoda zasnovanih na njima. Evo njegov esej u kome dekonstruiše pogrešne premise bez kojih  su većina bojazni ove vrste uglavnom neosnovane.

 

     Neće biti Terminatora. Buduće generacije će nam zahvatili.

 

Dvedeset prvi vek predstavlja istinsku prekretnicu u ljudskoj evoluciji. Rešavamo misteriju kako mozak radi i počinjemo praviti mašine koje rade na istom principu kao mozak. Ulazimo u doba veštačke inteligencije.

 

Preko trideset godina  proučavam i razmišljam o ideji veštačke inteligencije, uključujući decenije proučavanja bioloških osnova inteligencije. Moja kompanija, Numenta, radi na tome da znanje o funkcionisanju neokorteksa iskoristi za izgradnju veštačke inteligencije i time smo počeli razvoja mašina koje rade na tom principu. Postigli smo odlične rezultate u teorijskom delu projekta i otuda se nazire jasan put ka razvoju inteligentnih mašina čak i onih bržih i sposobnijih od čoveka.

 

Inteligentne mašine će radikalno promeniti naš svet u dvadeset prvom veku, slično kao što su kompjuteri  promenili svet u dvedesetom veku. Lično te promene vidim kao skoro potpuno pozitivne i ako donekle avanturisticke. Ne vidim veštačku inteligenciju kao bilo kakvu pretnju čovečanstvu. Ali ne slažu se svi sa takvime pogledom na ovu problematiku.

 

Vodeći naučnici i inženjeri izrarzili su zabrinutost zbog ubrzanog razvoja veštačke inteligencije. Fizičar Stiven Hoking brine da bi veštačka inteligencija mogla da znači kraj  čovečanstva. Osnivač kompanije Tesla Ilon Mask je veštačku inteligenciju nazvao najvećom egzistencijalnom pretnjom. Kroz popularnu kulturu knjige i filmovi naučne fantastike odavno su predstavili ideju mašina koje preuzimaju svet. U filmu „Terminator“ iz 1984. Pojavljuje se mreža veštake inteligencije Skajnet koja želi da istrebi čovečanstvo.

 

Ono što je istinski novo je da će uskoro veštačka inteligencija postati stvarnost i mnogi ljudi su zabrinuti za posledice.

Da li bi trebalo da brinemo? Da li je scenario iz filma „Terminator“ moguć. Mogu li inteligentne mašine zaista da dovedu do nestanka čovečanstva? Kako odmeravamo potencijalni benefit naspram potencijalnih rizika?

 

Istorija nas uči da je nemoguće predvieti potpuni uticaj nove tehnologije na sve sfere čovekovog života. Mi smo skloni tome da zamišljamo kako će nova tehnologija biti primenjena u rešavanju postojećih problema i poslova sa kojima smo relativno dobro upoznati, ali iznenada se uvek pojave nove mogućnosti i fenomeni koje niko nije predvideo. Digitalni računari su prevasodno napravljeni da bi zamenili ljude u računanju veoma kompleksnih proračuna. Međutim četrdesetih godina prošlog veka niko nije imao u vidu pametne telefone, internet i GPS satelite.

 

Slično danas ljudi su skloni tome da zamišljaju inteligetne mašine kao preslikane ljude, koje će vršiti sve poslove koje danas vrše ljudi, razgovarati sa ljudima i imati emocije i želje slične ljudima. Ako zamišljamo inteligentne mašine kao naše kopije sa tom razlikom da su znatno pametnije od nas onda one mogu evoluirati na način koji mi ne možemo predvideti i tako se jednog dana mogu poneti loše prema nama. Takve mašine bi  zbog samoodržanja, autonomije ili pogrešnih procena mogle aktivno i nehotice naneti veliko zlo ljudskoj vrsti.

 

Ja ne delim mišljenje sa ljudima koji imaju brige tog tipa jer su one zasnovane na tri pogrešne predstave. Dozvolite da objasnim o čemu se radi kod svake pojedinačno.

 

Pogrešna predstava 1) Inteligentne mašine će imati sposobnost samoreplikacije ili će vremenom steći tu sposobnost.

 

Sve što ima sposobnost samoreplikacije može biti opasno. Samoreplicirajući virusi i bakterije su ubili daleko više ljudi nego bilo šta drugo u ljudskoj istoriji i dalje predstavljaju najveću pretnju za čovečanstvo. Španska groznica  1918. na primer je bila odgovorna za tri do pet posto smrti čitave svetske populacije. Samoreplicirajući računarski virusi su takođe veoma opasni.

 

Oni mogu izazvati smrt velikog broja ljudi opstruišuči naše transportne, telekomunikacione i sisteme za prevenciju i odbranu od katastrofa i nepogoda. Računarski virusi mogu da se samorepliciraju samo unutar računarske mreže, bez obzira što i tu mogu da naćine veliku štetu teško je zamisliti da bi za razliku od bioloških oni istinski mogli da unište čitavo čovečanstvo.

 

Mnogi katastofični scenariji vezani za veštačku inteligenciju u svojoj osnovi imaju ideju da će inteligentne mašine moći same da se razmnožavaju i da će biti potpuno van naše kontrole. Ali postoji suštinska razlika između stvaranje nečega što ima sposobnost samoreplikacije i nečega što je inteligentno.Ovo drugo nikako ne podrazumeva ono prvo.

 

Hoće li inteligentne mašine imati sposobnost samoreplikacije? Neke inteligente mašine će biti virutalne što znači da će delovati isključivo u domenu koji računarske mreže dozvole. Na primer današnji veb indekseri bi mogli biti napravljeni tako da imaju inteligenciju i da se njome rukovode dok tumaraju internetom.

 

To bi bile mašine bez bilo kakvog fizičkog tela nego bi bili samo softver na računaru ili u međumrežnom prostoru uopšte. Takvim mašinama bi bilo relativno lako dodeliti mogućnost samorepliciranja na isti način kao što se računarski virusi samorepliciraju i oni bi takođe mogli da nanesu veliku štetu ali ta šteta  bi i dalje bila ograničena samom arhitekturom mreže. Ne bi mogli da pobiju sve ljude jer bi ih uvek bilo moguće lokalizovati ili isključiti mrežu u potpunosti, ma kako to bolno bilo.

 

Daleko veću pretnju za opstanak čovečanstva predstavlja nešto što ima mogućnost samoreplikacije a nalazi se u čovekovom prirodnom okruženju. Nešto što može da se samoreplicira i širi kroz atmosferu, hidrosferu , biosferu pretsavlja potencijalnu pretnju svim živim bićima uključujući tu i nas ljude. Koliko danas znamo samo DNK i RNK sistemi sposobni za tako nešto. Tu dolazimo do gray goo koncepta  na  čije posledice upozoravaju ljudi koji analiziraju rizike od zloupotreba nanotehnologije. Oni smatraju da postoji realtivno velika opasnost da nanomašine steknu samoreplicirajuće osobine koje bi im omogućile širenje eksponicijalnom stopom te bi tako vrlo brzo istinsnuli ili čak potpuno uništili ljudksu vrstu.

 

Takva mogućnost zaista predstavlja realnu opasnost ali inteligetne mašine neće same po sebi imati takvu sposobnost osim ako ne odemo u takve ekstreme i to im omogućimo tehnologijama koje sada uopšte ne razumemo. Da li je verovatno da će inteligentne mašine napraviti fabriku gde će klonirati sebe u velikom broju kopija? Ne verujem u takav scenario samim time što je daleko veća verovatnoća da oni proizilaze iz Holivuda a ne iz neke laboratorije. Samoreplikacija u prirodnom okruženju je izuzetno teška.

Dodetljivanje veštačke inteligencije nekom sistemu kojim ima sposobnost samoreplikacije može da učini lošu situaciju još gorom ali sam razvoj pa i postojanje veštačke inteligencije ne vodi i ne podrazumeva sposobnost samorepliciranja, pod uslovom da ne verujete u pogrešnu predstavu koju ću sada deokonstruisati.

 

Pogrešna predstava 2) Inteligentne mašine će biti kopije ljudi u skro svakom mogućem domenu

 

Ova zabluda stoji na pogrešnoj ideji da će inteligentne mašine imati želje iste ili veoma slične ljudskim i da će naći načina za samorepliciranje kako bi se odvojile od ljudi i tako postale samostalne.

 

Tako nešto se neće desiti. O ovom problemu možete razmišljati na sledeći način, čovek se sastoji od neokorteksa i svega ostalog u organizmu. Neokorteks je ono što nas čini inteligentnim, kod ljudi taj deo mozga je relativno velik čineći nas tako pametnijim od ostalih sisara. Neokorteks je sistem koji konstano uči i konstruiše modele sveta na osnovu podataka koje prima preko čulnih organa ali je sam po sebi, svojoj strukturi, bez bilo kakvih emocija. Nešto slično kao hiper logični Mr. Spock u Ster Treku. Ostali delovi mozga kao kičmena moždina,  moždano deblo  i bazalni gangliji su starije u evolucionom smislu. Ovi stariji delovi mozga su zaduženi za instintkivno ponašanje, emocije kao što su glad, bes, požuda, pohlepa.

 

Ono što je karakteristično za neokorteks je što je izuzetno fleksibilan. Neokorteks može da nauči bilo koji od stotine jezika u vidu govora i pisma. Može da savlada matematiku, fiziku, muziku, programiranje računara, arhitekturu i tome slično. Ova sposobnost koja nam omogućava da naučimi skoro pa bilo šta čini suštinu inteligencije. Fleksibilnost neokorteksa proizilazi iz fascinantne činjenice opisane 1978.  godine odstrane neurofiziologa Vernona Mauntkastla. On je otkrio da neokorteks koristi jedan te isti, relativno jednsotavan, metoda za učenje svega što može da nauči vid, sluh, jezik  kako na najnižem tako i na najvišljem nivou.

Inteligentne mašine će biti zasnovane na neokroteksu a ne na ostatku mozga. Upravo je gorepomenuta fleskibilnost i sposobnost neokorteksta da nauči bilo šta ono što želimo da poseduje inteligentna mašina a ne sposobnost da preživi u divljini ostavi potomstvo. Baš zbog toga inteligentne mašine uopšte neće biti nalik ni jednom čoveku ili životinji.

 

Neki smatraju da će određene grupa inženjera i naučnika pokušati da naprave ingeligentne mašine sa ljudskim željama i emocijama. Da li je to uopšte moguće i da li treba da bude dozvoljeno je otvoreno pitanje. Danas niko ne zna kako bi mogli napraviti tavke mašine, čak i pokušaj pravljenja istih bi zahtevao ogroman napor ali je svakako nezavisno od konstruisanja inteligentnih mašina. Inteligentne mašine bazirane na neokortikalnom modelu će daleko pre tog ugledati svetlo dana.

 

Pogrešna predstava 3) Mašine koje bi bile pamtenije od ljudi dovele bi do eksponecijalnog širenja inteligentnih mašina

 

Postoje ljudi koji su po ovom pitanju zabrinuti jer smatraju da će razvoje inteligentnih mašina dovesti do toga da one prave još inteligentnije mašine koje zatim prave još inteligentnije mašine i tako dobijam ekspoloziju inteligencije ili singularitet. Što može da znači da će te super mašine potpuno istisnuti ljude sa svojom napredom naukom i tehnologijom.

 

Ovaj katastrofičarski scenario je nemoguć. Inteligencije je proizvod procesa učenja. Mozak nebitno koliko veliki ili brz ne može postati ingeligentan dok ne počne da uči. Kod ljudi to je spor proces koji zahteva vežbu, ponavljanje i proučavanje kroz mnogo godina. Za razliku od ljudi inteligentne mašine bi mogle klonirati svoje znanje, sve što su naučili kroz jedan period preneti na sledeću generaciju mašina skraćujući celokupan proces učenja. 

 

Ali uprkos tome da bi mašina otkrila nove istine, da bi stekla nove veštine, da bi proširila svoja znanja ona mora da prođe kroz jedan relativno dug i bolan proces baš kao i ljudi, samo u odnosu na ljue znatni kraći. Tačno, inteligentna mašina može da misli brže od čoveka ali je proces učenja i dalje spor i nužno pun grešaka.

 

Zamislite da napravimo intelignentu mašinu ili modifikovanog čoveka koji misli deset puta brže od bilo kog čoveka i ima deset puta veći mozak. Da li bi taj super čovek ili ta čovekolika inteligentna mašina mogla da uvećava svoje znanje deset puta brže u odnosu na bilo kog čoveka? Za neke nauke koje počivaju na indukciji i dedukciji iz aksioma kao što su matematika i logika vrlo verovatno da bi. Međutim za sve ostale empirijske nauke bi morao da sakuplja podatke, testira hipoteze, primećuje greške u sakupljanju, podataka, greške u svom načinu zaključivanja i da primećuje razne druge anomalije koje stoje na putu sticanja ispravnih zaključaka o svetu.

 

Ako bi želeo da nauči bilo šta o astrofizici morao bi da učitava podatke sa teleskopa i satelita da analizira podatke radioastronomije i to kao igreške koje se u tom procesu javljaju bi presdstavljale usko grlo procesa učenja. Isto tako ako bi želeo da uči o klimatskim promenama morao bi da uzima uzorke iz okeana i sedimentnih jezgara.

 

Inteligencije nije nešto što može da se poveća okretanjem potenciometra  ili dodavanjem ekstra bitova inteligencije. Bez obzira na veličinu mozga povećanje inteligencije zahteva ponavljanje postupka saklupljanja podataka i praćenja uzoraka njihove promene. Da moguće je ubrzati taj proces ali samo do izvesnih granica.

 

Za mene najubedljivi razlog za bavljenje razvojem veštačke inteligencije što će nam to pomoći da okrijemo tajne univerzuma. Možemo da napravimo mašine koje pristupaju podatcima i testiraju načne hipoteze višestruko brže nego svi sadašnji naučnici zajedno. Možemo da napravimo inteligente mašine koje istražuju svemir i pronalaze nove planete ili solarne sisteme. Kao i mašine koje ispituju protenine i analiziraju genom u potrzi za uzrocima bolesti.

 

Taj proces smatram veoma uzbudljivim ali možemo zasigurno reći da postoji limit koliko ovaj proces može da se ubrzava te da neće biti eksponencijalnog širenja i singulariteta.

 

Naš odnos prema potencijalnim opasnostima zavisi od toga za koliko godina od danas su one verovatne. Na primer sve ukazuje na to da će za 150 miliona godina planeta postati nenaseljiva zbog slabe emesije energije sa Sunca. Ne znam ikoga ko se preterano brine oko toga jer je to predaleko u budućnosti a daleko značajnije je briga o tome da planeta ostane naseljiva u narednih 100 godina. Slično tome proces razvoje veštačke inteligencije prati proces pojave realnih opasnosti. Neke u bliskoj budućnosti a neke toliko daleko da ni ne možemo zamisliti kako bi izgledale i da li su uopšte realne.

 

Veliko pitanje je da li mi danas radimo nešto što može da ostavi nepopravljive posledice, da pokrene procese koji nazaustavljivo vode do istrebljenja ili porobljavanja ljudske vrste. Ovo legitimno pitanje je ono koje brine Hokinga, Maska i ostale. Moji stavovi koje sam izneo u ovom eseju se tiču onoga na čemu radimo danas i na šta danas možemo uticati. Mašinska inteligencije je bazirana na principu neokorteksa i neće dovesti do samoreplicirajućih robota sa nekontrolisanim namerama. Neće biti eskponecijalnog širenja inteligencije. Nema egzistencijalne pretnje. Ovo je stvarnost koja se tiče narednih nekoliko decenija i ukoliko bi se međuvremenu pojavile neke pretnje možemo vrlo lako da preduzmemo odgovarajuće korake.

 

Naravno da i najraniji oblici veštačke inteligencije potencijalno predstavljaju pretnju i mogu se iskoristiti i za dobre i loše svrhe. To je tako sa svakom tehnologijom. Biće potrebne pažljive i smišljene regulacije koje će ograničiti način upotrebe i sprečiti malicioznu upotrebu. Ali rizik nije ništa veći od opasnosti sa kojim smo se suočili u porošlosti ništa slično virusima, gray goo koncptu ili zlom Bogu.

 

Mašinska inteligencije ne predstavlja pretnju čovečanstvu ništa više nego što obični to čine obični računari. Umesto skraćenja ljudskog života kako pojedinačno tako i kolektivno veštačka inteligencije će produžiti naše živote otkrivajući nove stvari o svetu i stvarajućiu nove tehnologije za podizanje kvaliteta ljudskog života. To je nešto zbog čega će nam buduće generacije zahvaliti.

 

Izvor

 

Čim se oslobodim poslovnog i još kojekakvog škripca dostavljam tekst opšteo razvoju AI iz moje lične perspektive.

[Иван Недић]

Да ли би вештачка интелигенција била заинтересована за овај наш физички свет и тиме нам представљала конкуренцију?

 

На пример, обично се под вештачком интелигенцијом мисли на интелигентне роботе, тј. неку врсту механичких људи. Али шта ако вештачка бића буду интелигентни програми који ће постојати на хард-дисковима и желети да се тамо размножавају и стварају своју "цивилизацију"? А у будућности буде толико много умрежених рачунара са милионима и милионима слободних гигабајта где ће ти програми моћи да се размножавају и наснимавају да никог не угрозе, само нпр. да су довољно интелигентни да нас спрече да их обришемо и да су у стању да "беже" тако што ће се копирати и кретати од једног умреженог система на други?

 

Ово ме је подсетило на Bitcoin и друге виртуелне валуте, које већ данас тако функционишу што се шире на максималан број компјутера.

[drvce]

Да ли је могуће написати програм за превазилажење тог оквира, питање је. 

IF u.okviru THEN idi.van.okvira ;

[Guest]

Pa i ljudski mozak je u if - then okvirima. Šta misliš, kakva pravila opisuju prostiranje nervnog impulsa?

[Дидим]

Pa i ljudski mozak je u if - then okvirima. Šta misliš, kakva pravila opisuju prostiranje nervnog impulsa?

[Иван ♪♫]

uuuups: majkrosoft pustio AI da priča sa ljudima i da uči na tviteru, ali se Ai pretvorio u najgoreg rasistu 

http://techcrunch.com/2016/03/24/microsoft-silences-its-new-a-i-bot-tay-after-twitter-users-teach-it-racism/

[Deja Vu]

Kako se masoni rugaju tako divnoj božjoj kreaciji zvanoj mozak, pogledati ovde (FOTO)  

Naučnici poboljšali veštačke sinapse za bolju AI

Nisam našao bolju temu o AI, ali neka ovde, šta da se radi. 

[drvce]

пре 55 минута, Deja Vu рече

Kako se masoni rugaju tako divnoj božjoj kreaciji zvanoj mozak, pogledati ovde (FOTO)  

Naučnici poboljšali veštačke sinapse za bolju AI

Nisam našao bolju temu o AI, ali neka ovde, šta da se radi. 

Цитат

To od nas zahteva drugačija shvatanja društva i promenu stavova o tome ko treba da donosi važne odluke za sve nas.

Ovaj Sorosev autor se pretvara da vec nismo rekli "ko treba da donosi važne odluke za sve nas" ...