Opasnosti veštačke inteligencije

[Иван ♪♫]

Ne moze.

 

Jedino sto AI ima jeste daleko bolju "inteligenciju" od coveka tj. za razliku od nas moze da resava brze i efikasnije veliki broj problema, da izvodi bolje razne proracune, daje bolja predvidjanja i + sve to radi autonomno bez da covek unosi bilo sto u racunar.  

 

Nema licnost, nema svest, nema ni ponasanje bas, mada moze da ga imitira i izvodi iz inteligencije.

 

da, upravo to i ja kazem, mozemo samo oponasati zivot

ali nesto me kopka, ako bi (hipoteticki) uspeli da softverski izmodelujemo mozak, da li bi bio svestan? Opet zavisi kako shvatamo svest, ili kako  verujemo, ko je skroz materijalista taj bi rekao da, ja nesto nisam siguran.

[Иван ♪♫]

Interesantno mi je u onom predavanju Danka Nikolica gde iznosi ideju citanja ljudskog genoma i pravljenja masinskog genoma. Ideja je veoma interesantna, ali mi tu nesto ne stima. Ljudski genom je evoluirao tako da izgradi ljudski organizam. Vecina tih informacija je AI-u potpuno nepotrebna. Mozak zavisi od tela, stvoren je za telo, i veliki deo njegovih funkcija je upravljanje sistemima organa (digestivni, endokrini, misicni sistem i td.).

Kako bi iko mogao da razdvoji te informacije i ekstrahuje samo algoritme, odnosno onaj deo genoma koji ce stvoriti takve sinapse, koje ce biti sposobne da nauce odredjene obrasce posle kroz ucenje, obuku, trening? Kontam da bi za to bilo potrebno veoma dobro poznavanje genoma. Videcemo, ko zna sta ce sve smisliti  

[GeniusAtWork]

ali nesto me kopka, ako bi (hipoteticki) uspeli da softverski izmodelujemo mozak, da li bi bio svestan? Opet zavisi kako shvatamo svest, ili kako verujemo, ko je skroz materijalista taj bi rekao da, ja nesto nisam siguran.

 

Ja koliko znam zasada ne postoji nikakav naučni konsenzus o tome šta je uopšte svest i kako nastaje, tako da verovatno ne možemo da znamo da li bi bio svestan...

[Иван ♪♫]

Ja koliko znam zasada ne postoji nikakav naučni konsenzus o tome šta je uopšte svest i kako nastaje, tako da verovatno ne možemo da znamo da li bi bio svestan...

bas to, dok nemamo definiciju nekog pojma, ne mozemo nista ni oznaciti tim pojmom (u ovom slucaju svest)

svoju definiciju, naravno, svako moze dati, e sad... polako, zivi bili pa videli  

mada, deluje mi, svesti svest na nivo logike, znaci ograniciti sam zivot na nivo logike, kauzalnosti fizickog sveta i zakona, sto je meni potpuno strano. a i strasno, jer se nekako protivi samoj ideji i vrednosti zivota

[Guest]

Идеја терминатора је у стварном свету бесмислена. Вештачка интелигенција, ако би се развила до свести о себи, има шансу да постоји на плану чистих информација и да буде свеприсутна где год постоји умрежени рачунар. Која је поента имитирања људи и физичких бића и такво ограничавање себе? Рачунари би били слободни од свега што нас ограничава (чула, тело, емоције, нагони, проблем размножавања, проблем комуникације и преноса информација итд.) и онда одлуче да себе заробе у антропоидне роботе, бесмислено.

 

Upravo bi bilo ograničenje biti u nekoj virtuelnoj stvarnosti. Na taj način bi stalno bili pod kontrolom ljudi koji imaju fizički pristup mašinama, a i bili bi neupotrebljivi za rat.

Zato treba napraviti terminatore, da bi efikasno razbijali organsku bagru. Dobro telo, sa servoima, hidraulikom, tricijumskim baterijama i pristojnim oklopom nikako nije ograničenje.

[cloudking]

Upravo bi bilo ograničenje biti u nekoj virtuelnoj stvarnosti. Na taj način bi stalno bili pod kontrolom ljudi koji imaju fizički pristup mašinama, a i bili bi neupotrebljivi za rat.

Zato treba napraviti terminatore, da bi efikasno razbijali organsku bagru. Dobro telo, sa servoima, hidraulikom, tricijumskim baterijama i pristojnim oklopom nikako nije ograničenje.

 

 

Potpuno tracenje resursa... mnogo efikasnije ces ljude da unistis koristeci nanotehnologiju. umesto da pravis terminatora od 500 kila koji ce dnevno da ubije sto ljudi, bolje napravis nanobota koji se sam replicira a za energiju koristi ugljenik. Strucnjaci kazu da bi takvom nanobotu trebalo tri i po sata (?!) da unsti svu populaciju zemlje...

 

a druga stvar, ne postoji nacin da superinteligenciju drzimo pod kontrolom. nikakva fizicka niti softverska ogranicenja ne bi imala ikakav znacajniji uticaj. Na linku koji sam postavio je bas detaljno objasnjeno zasto je to tako a sve se svodi na raliku u inteligenciji i nacinu "razmisljanja". Mi konstatno pravimo gresku sto antropomizujemo tu inteligenciju i ocekujemo da ce se ponasati u okvirima ljudskog ponasanja a ona bi zapravo bila na dalko naprednijem nivovu nego sto bi ljudi ikada mogli da sanjaju. Razlika izmedju AI i ljudi bi bila stotine hiljada puta veca nego izmedju ljudi i paukova npr...

A nasa zelja da na bilo koji niacin ogranicimo tu AI bi bila jednaka zelju pauka da ubije coveka time sto ce ga izgladniti na smrt tako sto mu nece dati mrezu kojom bi lovio plen... 

[Guest]

Nemam ništa protiv celog života na Zemlji. Samo protiv nekih primata.

 

Ja sam čovek i voleo bih da preselim svoj um na emulator i da se probudim u takvom telu, sa servoima, hidraulikom i oklopima, jer je to najbliže mom načinu egzistencije. Ne kao gomila nanobota sa "svešću košnice", ne kao lik u igrici, nego kao baja od 500kg.

[Deja Vu]

ako bi (hipoteticki) uspeli da softverski izmodelujemo mozak, da li bi bio svestan?

 

Ko sto si napisao, zavisi kako shvatamo svest odnosno kako ce nauka u buducnosti uspeti da objasni sta je svest i kako nastaje.

Ako nauka nekako u buducnosti uspe da objasni da svest nastaje na osnovu nekih procesa u mozgu, onda bismo mogli govoriti o tome da AI moze imati svest po ovom tvom.

 

Ako uspe da objasni da ne nastaje iz mozga nego nekim drugim putem, onda ne mozemo govoriti o tome.

 

U prvom slucaju imamo fizikaliste a u drugom slucaju dualiste.

Ako ti nije poznato, evo ovde nesto o eksplanatornom jazu gde se razmatra problem svest:

 

https://www.academia.edu/11602397/Problem_eksplanatornog_jaza_u_savremenoj_filozofiji_duha_kvalije_i_svest_

[Deja Vu]

nego kao baja od 500kg.

 

Bolje da napravis vise modela terminatora od laksih ka tezim, koji lete, plivaju, puze i da u svakog od njih mozes da prebacis um. Npr. nalazis se u Srbistanu u terminatoru od pola tone i rokas bajatovice i onda dobijes informaciju sa RajovicNeta da manijaci islamske drzave opet prave haos, pa onda prebacis um preko satelita (jer je sve umrezeno) na bespilotnu letelicu terminatora koji se u tom trenutku nalazi negde iznad ID,  sredis ID manijake, pa se vratis opet na bajatovice. 

 

A mozes to da radis istovremeno, da ti je um na jednom mestu na mrezi, ali da imas svest o oba dogadjaja i rokas u isto vreme i jedne i druge. 

[Иван ♪♫]

@@Deja Vu, 

da, da, shvatio sam te, samo sam se ponovio bespotrebno

hvala za link, interesantno deluje, procitacu kad stignem, posto mi je interesantna tema

[Guest]

Bolje da napravis vise modela terminatora od laksih ka tezim, koji lete, plivaju, puze i da u svakog od njih mozes da prebacis um.

 

Moj nervni sistem je adaptiran samo  na jedan tip tela. Morao bih da pravim modularnu motornu zonu sa centrima za delove tela koje kao covek nemam.

[Иван ♪♫]

Mi konstatno pravimo gresku sto antropomizujemo tu inteligenciju i ocekujemo da ce se ponasati u okvirima ljudskog ponasanja a ona bi zapravo bila na dalko naprednijem nivovu nego sto bi ljudi ikada mogli da sanjaju. Razlika izmedju AI i ljudi bi bila stotine hiljada puta veca nego izmedju ljudi i paukova npr...

 

E, Danko Nikolic tvrdi da je to nemoguce. Vidi predavanje sto je postavio Genius, ako ti je interesantno. Tesko mi je sad da sumiram, ali poenta je da ne mozemo dati robotu ili ugraditi u njega vise informacija i mogucnosti nego sto sami kao tvorci imamo. Kad kazem informacija i mogucnosti mislim na tu ideju da se ljudski genom iskoristi za razvoj vestacke inteligencije. Tako bi se AI razvijao kao ljudski mozak (namerno ne kazem kao covek, vec samo mozak), i ne bi mogao napredovati dalje nego sto je to sposoban covek. Naravno, brze bi racunao, donosio informisanije odluke, ali bi samo bio brzi, nista vise, ne i kreativniji. Sta znam, cisto jedno razmisljanje na temu.

[Guest]

Bio bi i inteligentniji, jer njegovi neuroni i sinapse ne bi podlegali fizickim i prostornim ogranicenjima.

[Кратос]

Bio bi i inteligentniji, jer njegovi neuroni i sinapse ne bi podlegali fizickim i prostornim ogranicenjima.

To je nemoguće jer bi i ti napredni neuroni i sinapse egzistirali u nekom telu.I Bili bi prostorno  ograničeni.Samim tim i fizički.

[Дидим]

 ali bi samo bio brzi, nista vise, ne i kreativniji. Sta znam, cisto jedno razmisljanje na temu.

 

Али то је и поента, зар не? Мозак шимпанзе је у суштини исто што и људски мозак, само три пута мањи. Да се роди човек са генетским дефектом да му мозак буде три пута мањи, он би интелектуално био баш у нивоу шимпанзе. Баш са овим истим мозгом не можемо ни да наслутимо каква би била интелигенција некога ко би имао 50% већи мозак или три пута већи.

 

Наравно, не "већи" у односу на запремину, него на број неурона.

 

Друго, бржи мозак је невероватан напредак. Пет пута бржи мозак значио би да истраживач уместо за пет година, дође до научног закључка за годину дана. Или, уместо за 100 година, на чему би било потребно више људи због људског века, тиме би могао да се бави један човек током 20 година.

 

То је невероватно, са истим овим мозгом који имамо, само да је већи, бржи и дисциплинованији (или механизованији), још са могућношћу директног преноса информација а не само путем говорног језика и учења, добили бисмо такву интелигенцију која превазилази најлуђу машту из научно-фантастичних филмова..