Opasnosti veštačke inteligencije

[Кратос]

Mi imamo različite vidove inteligencije ali veštačka ne može da ih ima.Njena može biti samo matematičko-logička,semanttička i sl.Emocionalna joj je nedostupna.A u njoj se ispoljava sloboda.A tu nema nikakavih algoritama inače bi Bog napravio robota od samoga starta.Ta sloboda je i blagoslov i prokletstvo.Čak i matematika koju V.I. koristi ili će koristiti je apsolutno ljudski produkt.Al možda doživimo sudbinu Jahvea pa se kreacija pobuni protiv kreatora al bi morali onda da stavimo nešto zabranjeno u njen algoritam pa čim to zabranjeno zaželi bi bo prvi čin samoosvešćenja.

[Zero]

Mi imamo različite vidove inteligencije ali veštačka ne može da ih ima.Njena može biti samo matematičko-logička,sematntička i sl.Emocionalna joj je nedostupna.A u njoj se ispoljava sloboda.A tu nema nikakavih algoritama inače bi Bog napravio robota od samoga starta.Ta sloboda je i blagoslov i prokletstvo.Čak i matematika koju V.I. koristi ili će koristiti je apsolutno ljudski produkt.Al možda doživimo sudbinu Jahvea pa se kreacija pobuni protiv kreatora al bi morali onda da stavimo nešto zabranjeno u njen algoritam pa čim to zabranjeno zaželi bi bo prvi čin samoosvešćenja.

S tim što bi to zabranjeno bilo opet deo tog algoritma... Jedna velika if-then-else zavrzlama   

Šalu na stranu, svestan si kad shvatiš da si ličnost, a ličnost si kad voliš (što reče Dostojevski "ličnost sam kad volim i kad me vole"), jer je čovek biće ljubavi, a ne samo suva inteligencija... Imamo i nju, koristimo je za dobro, al malko i švrljamo van puta...

[Aquilius Cratus]

[Ћириличар]

Onda ta veštačka inteligencija neće da dira ni čoveka pošto je deo prirode i kao takav po algoritmu mora da bude netaknut.

Исто тако може ићи логиком да се паразити морају одстранити, а паразити су сви они који уништавају пожељни циљ. Ето, опет вриједносни субјективни суд. Стварно, како ли би се В.И. носила са тим? 

 

Misliš da bez pohlepe i sopstvenog interesa nema identiteta?U svakom slučaju način na koji će ta ,,inteligencija,, da misli zavisi isključivo od čoveka tako da opasnosti nema.ona može da se kreće samo u okvirima nekog algoritma koji gle čuda opet određuje čovek.

Не, него мислим да су сопствени интерес и похлепа могући само док постоји идентитет. Значи обрнут правац мисли :bleh: 

Ах, то да, али да ли је могуће да В.И. дође до тог нивоа развијености да се сама може даље развијати, и онда тако сама доћи до свијести и идентитета ( што се мени, као лаику додуше, чини веома могућим ) и доносити вриједносне судове ( али ово ми је већ упитно :.mislise. ).

 

Mi imamo različite vidove inteligencije ali veštačka ne može da ih ima.Njena može biti samo matematičko-logička,semanttička i sl.Emocionalna joj je nedostupna.A u njoj se ispoljava sloboda

С обзиром да су емоције већином биолошко-хемијске реакције

[Ненад Р.]

Ја бих волео да ми неко одговори само на једно питање , а то је :

Како може да буде паметнија машина од људи који су ту машину створили ?

[Ћириличар]

Ја бих волео да ми неко одговори само на једно питање , а то је :

Како може да буде паметнија машина од људи који су ту машину створили ?

Зависи у ком смислу паметнија? 

 

Ако мислиш на то колико информација може запамтити, ту су људи далеко надмоћнији. Једини је проблем што ми заборављамо, а машине не.

 

Ако мислиш на интелигенцију, тј. на брзину и квалитет процесуирања података, људи су ту надмоћнији јер могу свјесно контролисати сами тај процес и квалитетније закључке донијети и могу знати шта подаци значе. Машине с друге стране су надмоћније јер много брже све процесуирају и много тачније.

 

Ако мислиш на интелигенцију у смислу да је то способност прилагођавања, људи су ту надмоћнији опет.

 

Али теоретски, машина може бити паметнија од човјека у свим овим пољима, само када човјек у програм стави све факторе који утичу на његове менталне процесе. А то је мало вјероватно да ћемо икад све знати.

[Дидим]

Ја бих волео да ми неко одговори само на једно питање , а то је :

Како може да буде паметнија машина од људи који су ту машину створили ?

 

Још увек не може јер још не знамо 100% како функционише наша памет. Ако бисмо то знали, могуће би било направити механизам који би радио исто што и људски мозак, само брже, квалитетније и са много више информација.

[Иван ♪♫]

možda bi AI gledao kako da pobegne

[Иван ♪♫]

Ја бих волео да ми неко одговори само на једно питање , а то је :

Како може да буде паметнија машина од људи који су ту машину створили ?

masina vec brze racuna, npr., pa mozemo uslovno reci da je u tom segmentu pametnija. Takodje, ima neuporedivo veću radnu memoriju i moze baratati sa vise informacija. Zbog brzine pristupa i obrade podataka masina moze doneti „informisaniju" odluku od coveka. Vec je poznato da tzv. ekspertski sistemi daju bolje dijagnoze od lekara na osnovu simptoma, i isprobano je u praksi.

Ali sve to masina radi po nekoj logici i zakonitostima koje je napisao covek, pa i samo obucavanje i prikupljanje informacija. Ipak ta logika je kompleksna i postaje nemoguce coveku da predvidi ishod vec se nekad stvari svode na isprobavanje i kalibraciju AI-a.

U sustini, masine i AI su tu da nas zamene na tupavim poslovima: prljavim, dosadnim i opasnim

a nama ostaje sve vise vremena za ono u cemu smo najbolji - kreativnost

[Pancakes]

 

U ovom filmu su istrazeni i malo spektakutalno dotaknute mogucnosti A.I.

[Ћириличар]

[Aquilius Cratus]

Ја бих волео да ми неко одговори само на једно питање , а то је :

Како може да буде паметнија машина од људи који су ту машину створили ?

 

Tako sto pravi mnogo bolja, preciznija, predvidjanja na daleko vecem broju koraka nego sto moze bilo koji covek ili vise ljudi  istovremeno. Naprimer ako covek moze da napravi neko predivdjanje na 16 koraka koje u 84% slucajeva biva tacno masina moze da napravi predvidjanje na 32 koraka koje u 92% slucajeva biva tacno, itd.

 

Ako stignem danas ako ne sutra pisem jedan malo gusci tekst o tome kako, generalno, ljudski mozak pravi predvidjanja i kako to masina moze da kvantifikje i na kraju u potpunosti simulira.

[GeniusAtWork]

Jedan tekst o opasnosti (zlo)upotrebe VI u vojne svrhe sa tehnologijom koja postoji danas, bez čekanja na singularitet ili strong AI...

 

 

 

16.000 potpisa podrške peticiji protiv autonomnog ratovanja

 

Zajednica istraživača veštačke inteligencije se okupila u dosada neviđenom broju oko zajedničkog cilja: poziva na zabranu oružja koje bi kontrolisala veštačka inteligencija.

 

(Autonomno oružje = oružje pod isključivom kontrolom veštačke inteligencije, bez upliva ljudi u odlučivanju)

 

Broj potpisnika pisma u kome istraživači iz oblasti veštačke inteligencije pozivaju na zabranu autonomnog oružja je dostigao 16.000, a samo u prva tri dana potpisalo ga je 15.000 ljudi.

 

 U pismu se navodi “Razvoj veštačke inteligencije je dostigao nivo gde je njena upotreba – praktično, ako ne i legalno - u vojne svrhe sada samo pitanje godine”. Među potpisnicima su vlasnik kompanije Tesla, Ilon Mask; jedan od osnivača Epla, Stiv Vozniak; izvršni direktor Guglovog sektora za razvoj veštačke inteligencije, Demis Hasabis; i profesor Stiven Hoking. Dosada ga je potpisalo 2.000 stručnjaka i više od 14.000 osoba van ove struke.

 

Dalje se upozorava: “Ulozi su veliki…autonomno oružje se smatra za treću najveću revoluciju u istoriji ratovanja, posle baruta i nuklearnog oružja. Pravac u kome ide ova tehnologija je očigledan: autonomna oružja današnjice će postati novi kalašnjikovi sutrašnjice. Ključno pitanje pred čovečanstvom danas je da li da otpočne trku u ovom naoružanju ili da je zaustavi pre nego što uopšte i počne.”

 

Pismo je prvi put objavljeno u Buenos Ajresu ovog vikenda i Tobi Volš, jedan od istraživača koji su učestvovali u njegovom sastavljanju, kaže da je se inicijativa došla isključivo iz razgovora među članovima zajednice. Međutim, uprkos velikoj podršci Volš naglašava da ovaj stav nipošto nije stav čitave VI zajednice. “Ovo nisu crno-bele stvari. Ima argumenata za obe strane u ovoj raspravi. Moje je mišljenje, kao i hiljada mojih kolega, da balans u argumentima teži ka zabrani pre nego što se nađemo u novoj trci u naoružanju.”

 

U stvari, Volš priznaje da “postoji nekoliko argumenata protiv zabrane” . On kaže: “Na primer, takvi roboti će biti precizniji i moći će da svedu ljudske žrtve na minimum. Drugi argument je da ne bismo trebali da rizikujemo ljudske živote tamo gde roboti mogu da ih zamene. Ipak, mislim da takvi argumenti imaju manju težinu od straha od trke u naoružanju i od mogućnosti da ova oružja padnu u ruke teroristima i sličnim organizacijama.”

 

Ali on tvrdi da podsticaj za zabranu nije samo hipotetičan i da postoje roboti već danas “koji imaju mogućnosti za izgradnju autonomnog oružja.”

 

Jedan takav primer među mnogima je Guglov autonomni automobil: može da mu se zada cilj visokog nivoa (‘odvezi me do kancelarije’), on može da napravi plan kako da taj cilj ostvari, da oseti gde treba da koristi kompjutersku vidljivost i radar, da započne sa ispunjavanjem tog plana, uoči  trenutak kada se plan više ne može realizovati (možda recimo naiđe na radove na putu), da napravi novi plan i postupi po njemu, da napravi manevar izbegavanja kada mu drugi auto preseče put i na kraju da prepozna kada je uspešno ispunio neke od ciljeva.”

 

“Ovo su u suštini sposobnosti koje su vam potrebne da biste napravili autonomno oružje koje može da pronađe, locira, prati i nišani. Naravno, teroristi nemaju ni sredstva ni mogućnosti da danas naprave vozilo poput Guglovog. Ali neće proteći dugo pre nego što tehnologija postane jeftinija, dostupnija i omogući pravljenje manjih robota. Tako je uvek bilo u svetu kompjutera, roboti ubice kojih se ja najviše bojim su mali. Zamislite roj ili jato sastavljeno od destina ili stotina robota. Teško ćete se odbraniti od takvih protivnika. A mali roboti će biti jeftiniji i lakši za kopiranje."

 

Naravno, čak i ako VI ne bude dobila direktnu dozvolu za ubistvo, to ne znači da ipak neće biti etičkih problema u budućnosti. “Ne smemo zaboraviti mnoge druge izazove i važne etičke odluke u svetu VI“, kaže Volš. “Da se vratimo na onaj primer automobila: šta će se desiti kada takav auto bude morao da donese odluku o životu ili smrti kada dođe u situaciju da prema njemu ide neko drugo vozilo koje je prešlo u suprotnu traku?”

 

Na konferenciji UN održanoj u aprilu koja se bavila budućnošću oružja, uključujući tu i robote ubice, Velika Britanija je bila protiv zabrane razvoja autonomnog naoružanja, i pored apela mnogih udruženja, uključujući i Kampanju za zaustavljanje robota ubica.

 

(Original je ovde)

[Guest]

Biće mi zadovoljstvo da se ukjučim u razvoj terminatora. Možda pre toga uspem da razvijem virus koji će imati neuronsku mrežu i koji će koristiti zaražene kompove kao deo svog nervnog sistema, ali još moram da smislim šta ću sa sporim sinapsama preko TCP/IP veza.

Bilo kako bilo, Rajovic Industries neće poštovati ničije zabrane.

[GeniusAtWork]

Biće mi zadovoljstvo da se ukjučim u razvoj terminatora.

 

 

Nažalost, strong AI je još daleko. Ali jednog lepog dana...