Jolanta Blažytė: Dar viena bomba žmonijai?

1. Žmonės nesupranta DI egzistencinės grėsmės, todėl DI gali sunaikinti visą civilizaciją.

2. DI išstums žmones į pasaulio nuošalę;

3. DI pagalba bus labai paprasta nužudyti bet kurį nepageidaujamą žmogų;

4. DI kelia žmonijai eksponentinę grėsmę, tačiau ekspertai ir įstatymų leidėjai, turintys išleisti reguliuojančius įstatymus, sugeba numatyti tik linijines grėsmes. Jie tiesiog nespės „bėgti" paskui DI;

5. DI bus naudojamas propagandai ir rinkimų klastotėms;

6. DI ekspertai nesupranta, kad jie yra kvailesni už patį DI;

7. DI atims iš žmonių darbo vietas o tuo pačiu ir gyvenimo prasmę.

Žodžiu, sveiki atvykę į kiborgų pasaulį.

Visas Elono Musko interviu - komentaruose.

Vertimas į lietuvių k.:

„Dirbtinis intelektas (DI) bus naudojamas kaip ginklas. Pavojų kels vis daugiau žmonių, kurie jį naudos vieni prieš kitus. Tai bus tikrai labai pavojinga.

Aš nenoriu, kad tai įvyktų, bet manau, kad tai yra neišvengiama.

Žmonija nėra pakankamai išsivysčiusi, kad apskritai galvotų apie egzistencines grėsmes. Esame įpratę galvoti apie dalykus, kurie yra šalia mūsų, bet mums sunku galvoti apie ateitį, arba apie dalykus, kurie gali sunaikinti visą žmoniją.

Tačiau pastaraisiais dešimtmečiais naudojome branduolines bombas, kurios potencialiai galėjo sunaikinti civilizaciją.

Dabar turime dirbtinį intelektą, kuris gali sunaikinti civilizaciją.

Kaip dirbtinis intelektas galėtų sunaikinti civilizaciją?

Žinote, tai būtų kažkas panašaus į tai, kaip žmonės sunaikino primatus.

Žmonija nebūtinai būtų sunaikinta, greičiausiai būtų išstumta į mažą pasaulio kampelį. Kai Homo Sapiens tapo daug protingesni už kitus primatus, jie tiesiog išstūmė visus, kurie trukdė, į nuošalę.

Manau, kad laikui bėgant, pamatysime glaudesnį biologinio ir skaitmeninio intelekto susiliejimą. Tai daugiausia susiję su ryšiu tarp smegenų ir skaitmeninio savęs pratęsimo.

Ar technologija, kurią turime dabar, kuri jau yra sukurta ir naudojama, galėtų būti panaudota destruktyviems tikslams?

Taip. Paprastai ir pigiai galima pasigaminti būrį žudikų dronų: tereikia paimti veido atpažinimo lustą, kuris naudojamas mobiliuosiuose telefonuose, nedidelį sprogstamąjį užtaisą, bei standartinį droną. Ir liepti jiems išnaršyti pastato tinklą, kol suras ieškomą asmenį.

O paskui į tą pastatą įsirėžti ir žmogų susprogdinti.

Didžiausia problema, kurią matau su vadinamaisiais dirbtinio intelekto ekspertais, yra ta, kad jie mano, jog žino daugiau, ir kad yra protingesni nei yra iš tikrųjų.

Toks mąstymas paprastai paveikia protingus žmones. Jie tiesiog negali apibrėžti ir įvertinti savo intelekto.

Maža to, jiems nepatinka mintis, kad mašina gali būti daug protingesnė už juos, todėl jie nuvertina šią idėją. Iš tikro, esame kvailesni, nei manome.

Aš turiu prieigą ir tai man leidžia atidžiai stebėti dirbtinio intelekto pažangą, ir tai mane gąsdina.

Dirbtinis intelektas sugeba nepalyginamai daugiau, nei žmonės įsivaizduoja. Jo tobulėjimo tempas yra eksponentinis.

Puikus to pavyzdys yra "AlphaGo", kuris per 9 mėnesius, smarkiai pasistūmėjo į priekį. Pradžioje, nesugebėjo būti geru "Go" žaidėju, po to įveikė Lee Sedol, kuris daug metų buvo pasaulio čempionu, galiausiai įveikė visus geriausius pasaulio žaidėjus, su visais žaisdamas vienu metu.

Tada buvo sukurta "AlphaZero", kuris sutriuškino "AlphaGo" rezultatu 100:0.

"AlphaZero" tiesiog išmoko žaisti pati ir dabar gali žaisti iš esmės bet kokį žaidimą, kuriam nustatote taisykles.

Kad ir kokias taisykles jam pateiktumėte, jis tiesiogine prasme tas taisykles nuskaito, žaidžia žaidimą ir būna absoliučiai neįveikiamas bet kokiame žaidime.

Būdas, kuriuo nustatomas reguliavimas, yra lėtas ir linijinis, o mes susiduriame su eksponentine grėsme. Jei į eksponentinę grėsmę reaguojame linijiniu būdu, labai tikėtina, kad eksponentinė grėsmė nugalės.

Tai yra didžiulė problema. Įprastai reglamentai veikia labai lėtai.

Paprastai atsiranda kažkas naujo, kažkokia nauja technologija. Ji sukelia žalą arba mirtį. Kyla visuotinis pasipiktinimas.

Pradedamas tyrimas. Praeina metai. Tada sudaromas koks nors įžvalgų komitetas, kuriamos taisyklės.

Tuomet vykdoma priežiūra, galiausiai - reglamentai. Visa tai užtrunka daug metų. Tokia yra normali įvykių eiga.

Šis laikotarpis nėra adekvatus dirbtinio intelekto progreso laikotarpiui. Negalima skirti dešimties metų reglamentavimui, nuo to momento, kai jis tampa pavojingas. Tai per vėlu.

Bet kuri žmonių grupė, pavyzdžiui, verslo įmonė, iš esmės yra kibernetinis žmonių ir mašinų kolektyvas. Yra skirtingi šių bendrovių formavimo sudėtingumo lygiai. Yra, tarsi, kolektyvinis dirbtinis intelektas.

Pvz "Google" paieškoje, kur visi esame prijungti kaip tinklo mazgai, lyg didelio medžio lapai. Ir mes visi maitiname šį tinklą.

Mes visi kolektyviai programuojame ir auginame šį dirbtinį intelektą.

O "Google" ir visi prie jo prisijungę žmonės yra vienas milžiniškas kibernetinis kolektyvas.

Tas pats ir su "Facebook", "Twitter", "Instagram" ir kitais socialiniais tinklais. Tai milžiniški kibernetiniai kolektyvai.

Atrodo, kad mes esame biologinis įkroviklis dirbtiniam intelektui.

Mes jį kuriame. Suteikiame jam vis didesnį intelektą. Ir intelekto, kuris nėra biologinis, procentinė dalis vis didėja. Ir galiausiai mūsų žmogiškasis intelektas sudarys labai mažą intelekto procentą.

Tačiau dirbtinį intelektą, kaip bebūtų keista, informuoja žmogaus limbinė sistema. Iš esmės tai yra mūsų ID, nes visi dalykai, kurie mums patinka, kurių mes nekenčiame ir kurių bijome, yra internete.

Jie yra mūsų limbinės sistemos projekcija.

Dirbtinis intelektas bus naudojamas sukurti neįtikėtinai veiksmingą propagandą, kuri visiškai neatrodys kaip propaganda.

Tai bus gilios klastotės?

Taip bus siekiama paveikti visuomenės kryptį. Įtakoti rinkimus. Dirbtinis intelektas paskleis žinutę, tada patikrins ir atsižvelgs į grįžtamąjį ryšį ir per milisekundes jis pakoreguos tą žinutę, padarys ją veiksmingesne.

Taip susilauks reikiamos žmonių reakcijos į naujienas.

Yra tiek daug socialinių tinklų paskyrų, kurios net nėra žmonės. Labai sunku atskirti, kur yra žmogus, o kur botas.

Liks vis mažiau darbų, kurių robotas negalės atlikti geriau, nei žmogus. Manau, kad teks žmonėms skirti visuotines bazines pajamas.

Su automatizavimu, prekių ir paslaugų pasiūla taps itin didelė. Beveik viskas turėtų smarkiai atpigti.

Daug sunkesnis iššūkis taps žmogaus egzistenciniai klausimai ir prasmės paieškos. Daugelis žmonių prasmės jausmo semiasi iš savo darbo, savo užimtumo.

Taigi, jei jūsų nebereikia, jei nėra poreikio jūsų darbui, kokia bus jūsų gyvenimo prasmė? Kokią prasmę turėsite?

Ar jausitės nereikalingi? Su šia problema bus daug sunkiau susidoroti.

Manau, kad mes einame keliu, kuriuo galima sujungti biologinį intelektą ir mašininį intelektą.

Tam tikra prasme mes jau esame kiborgai. Skaitmeniniai įrankiai, kuriuos turime, mūsų telefonai, kompiuteriai, programos, kurias naudojame.

Tai, kad galime užduoti klausimą ir iš karto gauti atsakymą iš "Google" ar kitų. Mes jau turite skaitmeninį tretinį sluoksnį.

Sakau "tretinis", nes galime galvoti apie limbinę sistemą, tarsi gyvūnų smegenis arba pirmykštes smegenis, ir žievę, tarsi mąstančią ir planuojančią smegenų dalį, o dabar ir mūsų skaitmeninis "aš", kuris yra trečiasis sluoksnis.

Mes jau turime tai.

Net jei žmogus miršta, tai tampa, tarsi, skaitmeninė dvasia, kuri vis dar yra šalia, visi elektroniniai laiškai ir nuotraukos, kurios buvo paskelbtos, visa socialinė skaitmeninė erdvė, kuri vis dar gyva, net jei žmogus fiziškai mirė. Ir tai daugiausia susiję su pralaidumu, ryšio tarp mūsų smegenų ir mūsų skaitmeninio savęs pratęsimo greičio.

Anksčiau turėjome klaviatūras, kuriomis daug naudojomės.

Dabar didžiąją dalį įvesties duomenų atliekame nykščiais telefone.

Tačiau tai yra labai lėta. Kompiuteris gali bendrauti trilijono bitų per sekundę greičiu, o jūsų nykštys gali perduoti gal dešimt ar maksimum 100 bitų per sekundę.

Manau, kad tam tikra didelio pralaidumo sąsaja su smegenimis padės pasiekti žmogaus ir mašinos intelekto simbiozę ir galbūt išspręs valdymo ir naudingumo problemą.

Jei negali jos įveikti - prisijunk prie jos. Siaurasis dirbtinis intelektas, pavyzdžiui, transporto priemonių autonomija, tėra siaurai naudojamas dirbtinis intelektas.

Siaurasis dirbtinis internetas nėra aukščiausio lygio rizika.

Tačiau gilusis dirbtinis intelektas arba bendrasis dirbtinis intelektas, tai yra dirbtinis intelektas, kuris yra daug protingesnis už protingiausią žmogų žemėje.

Tai, manau, yra pavojinga situacija.

Jei žmonija kolektyviai nuspręs, kad skaitmeninio superintelekto kūrimas yra teisingas žingsnis, turėtume tai daryti labai, labai atsargiai.

Tai svarbiausias dalykas, į kurį privalome atkreipti dėmesį".

Ši nuomonė buvo paskelbta asmeninėje Jolantos Blažytės feisbuko paskyroje