Enesetäiendav tehisintellekt (AI) võib tulevikus soovi korral inimesi orjastada või tappa. Seda rääkis teadlane Amnon Eden, kes usub, et vabamõtlemise ja ülimalt intelligentse teadvuse kujunemisega seotud riskid on väga suured ning „kui te ei tegele tehisintellekti juhtimise probleemidega juba praeguses etapis, arengut, siis ei pruugi homme lihtsalt tulla. " Inglise väljaande Express andmetel on inimkond Amnon Edeni sõnul täna kuulsa filmieepose "Terminaator" süžee elluviimisel "tagasipöördumispunktis".
Väärib märkimist, et dr Amnon Eden on projektijuht, kelle peamine eesmärk on analüüsida AI võimalikke laastavaid mõjusid. Ilma tehisintellekti loomise tagajärgedest õigesti aru saamata võib selle areng ähvardada katastroofiga, usub teadlane. Praegu on meie ühiskond teadusringkondades käimasolevast arutelust tehisintellekti võimaliku mõju analüüsi kohta halvasti informeeritud. "Tuleval 2016. aastal peab võimalike riskide analüüs oluliselt laiemalt levima nii ettevõtete ja valitsuste, poliitikute kui ka otsuste tegemise eest vastutavate inimeste mõtlemises," ütleb Eden.
Teadlane on kindel, et ulmest, mis kirjeldab inimkonna hävitamist robotite poolt, võib peagi saada meie ühine probleem, kuna tehisintellekti loomise protsess on kontrolli alt väljunud. Näiteks otsustas Elon Musk ettevõtja Sam Altmani toel luua uue miljardi dollari suuruse mittetulundusühingu, mis arendab avatud lähtekoodiga tehisintellekti, mis peaks ületama inimmõistust. Samal ajal paigutab Ameerika miljardär Elon Musk ise tehisintellekti "meie eksistentsi suurimate ohtude" hulka. Steve Wozniak, kes oli Apple'i asutaja, ütles mullu märtsis, et „tulevik tundub inimestele hirmuäratav ja väga ohtlik … lõpuks saabub päev, mil arvutid mõtlevad kiiremini kui meie ja nad vabanevad aeglastest inimestest. et ettevõtted saaksid tõhusamalt töötada."
Väärib märkimist, et paljud teadlased näevad AI -st tulenevat ohtu. Kümned tuntud teadlased, investorid ja ettevõtjad, kelle tegevus on ühel või teisel moel seotud tehisintellekti arendamisega, on allkirjastanud avatud kirja, milles kutsutakse üles rohkem tähelepanu pöörama töö ohutuse ja sotsiaalse kasulikkuse küsimusele. tehisintellekti valdkond. Sellele dokumendile allakirjutanute seas on astrofüüsik Stephen Hawking ning Tesla ja SpaceXi asutaja Elon Musk. Kiri koos saatedokumendiga, mille koostas Elu Tuleviku Instituut (FLI), kirjutati keset kasvavat muret tehisintellekti mõju pärast tööturule ja isegi kogu inimkonna pikaajalise ellujäämise pärast. keskkond, kus robotite ja masinate võimalused kasvavad peaaegu kontrollimatult.
Teadlased mõistavad tõsiasja, et tehisintellekti potentsiaal on tänapäeval väga suur, mistõttu on vaja täielikult uurida selle optimaalse kasutamise võimalusi meie jaoks, et vältida sellega kaasnevaid lõkse, märgitakse FLI kirjas. On hädavajalik, et inimese loodud tehisintellekti süsteemid teeksid täpselt seda, mida me tahame. Väärib märkimist, et Elu Tuleviku Instituudi asutasid alles eelmisel aastal mitmed entusiastid, kelle hulgas oli ka Skype'i looja Jaan Tallinn, et „minimeerida inimkonnaga seotud riske” ja stimuleerida teadusuuringuid „optimistliku visiooniga”. tulevikust”. Esiteks räägime siin riskidest, mis on tingitud tehisintellekti ja robootika arengust. FLI nõuandekomisjoni kuuluvad Musk ja Hawking koos tunnustatud näitleja Morgan Freemani ja teiste tuntud inimestega. Elon Muski sõnul on tehisintellekti kontrollimatu arendamine potentsiaalselt ohtlikum kui tuumarelv.
Kuulus Briti astrofüüsik Stephen Hawking püüdis 2015. aasta lõpus selgitada oma keeldumist tehisintellekti tehnoloogiatest. Tema arvates vaatavad superintelligentsed masinad aja jooksul inimesi tarbekaupade või sipelgatena, mis lihtsalt segavad nende ülesannete lahendamist. Redditi portaali kasutajatega vesteldes märkis Stephen Hawking, et ta ei usu, et sellised superintelligentsed masinad oleksid "kurjad olendid", kes tahavad oma intellektuaalse üleoleku tõttu hävitada kogu inimkonna. Tõenäoliselt on võimalik rääkida sellest, et nad lihtsalt ei märka inimkonda.
„Meedia moonutab mu sõnu viimasel ajal pidevalt. Peamine risk AI arendamisel ei ole masinate pahatahtlikkus, vaid nende pädevus. Superintelligentne tehisintellekt teeb suurepärast tööd, kuid kui see ja meie eesmärgid ei lange kokku, on inimkonnal väga tõsiseid probleeme,”selgitab kuulus teadlane. Näitena tõi Hawking välja hüpoteetilise olukorra, kus ülivõimas tehisintellekt vastutab uue hüdroelektrijaama tammi käitamise või ehitamise eest. Sellise masina puhul on esmatähtis see, kui palju energiat usaldatud süsteem genereerib, ja inimeste saatusel pole tähtsust. “Meid on vähe, kes trambivad viha pärast sipelgapesasid ja astuvad sipelgate peale, aga kujutagem ette olukorda - teie juhite võimsat hüdroelektrijaama, mis toodab elektrit. Kui teil on vaja veetaset tõsta ja teie tegevuse tulemusena ujutatakse üks sipelgapesa üle, siis tõenäoliselt ei häiri teid uppuvate putukate probleemid. Ärgem pangem inimesi sipelgate asemele,”ütles teadlane.
Teine potentsiaalne probleem tehisintellekti edasiarendamiseks võib Hawkingi sõnul olla "masinate omanike türannia" - sissetulekute lõhe kiire kasv rikaste inimeste vahel, kes suudavad tootmise monopoliseerida intelligentsetest masinatest ja ülejäänud maailma elanikkonnast. Stephen Hawking teeb ettepaneku lahendada need võimalikud probleemid järgmisel viisil - aeglustada tehisintellekti arendamise protsessi ja minna üle mitte „universaalse“, vaid kõrgelt spetsialiseerunud tehisintellekti arendamisele, mis suudab lahendada vaid väga piiratud hulga probleeme.
Lisaks Hawkingile ja Muskile kirjutasid kirjale alla Nobeli preemia laureaat ja MIT -i füüsikaprofessor Frank Wilczek, masinaintelligentsuse uurimisinstituudi (MIRI) tegevdirektor Luc Mühlhauser, samuti paljud spetsialistid suurtest IT -ettevõtetest: Google, Microsoft ja IBM, samuti ettevõtjad, kes asutasid AI ettevõtted Vicarious ja DeepMind. Kirja autorid märgivad, et nende eesmärk ei ole avalikkust hirmutada, vaid plaanivad esile tuua nii positiivseid kui ka negatiivseid aspekte, mis on seotud tehisintellekti loomisega. "Praegu nõustuvad kõik, et tehisintellekti valdkonna teadusuuringud edenevad pidevalt ja tehisintellekti mõju tänapäeva inimühiskonnale ainult suureneb," öeldakse kirjas, "inimestele avanevad võimalused on tohutud, kõik, mida kaasaegne tsivilisatsioon pakub. on pakkuda luure. isik. Me ei suuda ennustada, mida suudame saavutada, kui tehisintellekti abil saab inimeste intelligentsust korrutada, kuid vaesusest ja haigustest vabanemise probleem pole enam lõputult raske.”
Kaasaegsesse ellu on juba kaasatud arvukalt arenguid tehisintellekti valdkonnas, sealhulgas pildi- ja kõnetuvastussüsteemid, mehitamata sõidukid ja palju muud. Silicon Valley vaatlejate hinnangul rakendatakse selles piirkonnas praegu üle 150 idufirma. Samal ajal meelitavad selle valdkonna arengud üha rohkem investeeringuid ning üha enam ettevõtteid nagu Google arendab oma projekte tehisintellekti alusel. Seetõttu usuvad kirja autorid, et on saabunud aeg pöörata suuremat tähelepanu kõikidele täheldatud buumi võimalikele tagajärgedele inimelu majanduslikule, sotsiaalsele ja õiguslikule küljele.
Seisukohta, et tehisintellekt võib inimestele ohtu kujutada, jagab Oxfordi ülikooli professor Nick Bostrom, kes on tuntud oma töö eest antropilisel põhimõttel. See spetsialist usub, et tehisintellekt on jõudnud punkti, millele järgneb selle kokkusobimatus inimestega. Nick Bostrom rõhutab, et erinevalt geenitehnoloogiast ja kliimamuutustest, mille kontrollimiseks eraldavad valitsused piisavalt rahalisi vahendeid, "ei tehta midagi tehisintellekti arengu kontrollimiseks". Professori sõnul tegeletakse praegu tehisintellektiga "täitmist vajava õigusliku vaakumi poliitikaga". Isegi sellised tehnoloogiad nagu isesõitvad autod, mis tunduvad kahjutud ja kasulikud, tekitavad mitmeid küsimusi. Näiteks kas selline auto peab sõitjate päästmiseks tegema hädapidurduse ja kes vastutab mehitamata sõiduki põhjustatud õnnetuse korral?
Arutades võimalikke riske, märkis Nick Bostrom, et "arvuti ei suuda kindlaks teha kasu ja kahju inimestele" ja "tal pole vähimatki ettekujutust inimmoraalist". Lisaks võivad arvutite enesetäiendustsüklid toimuda sellise kiirusega, mida inimene lihtsalt ei suuda jälgida, ja ka sellega ei saa peaaegu midagi teha, ütleb teadlane. "Arengufaasis, kui arvutid saavad ise mõelda, ei saa keegi kindlalt ennustada, kas see toob kaasa kaose või parandab oluliselt meie maailma," ütles Nick Bostrom, tuues näiteks lihtsa võimaliku lahenduse arvutile - sulgemine riikides, kus on külm kliima küte, et parandada inimeste tervist ja suurendada nende vastupidavust, mis "võib tehisintellekti pea peale tulla".
Lisaks tõstatab Bostrom ka inimese aju kiibistamise probleemi, et suurendada meie biointelligentsust. „Selline protseduur võib paljuski olla kasulik, kui kõiki protsesse kontrollitakse, kuid mis juhtub, kui implanteeritud kiip suudab ennast ümber programmeerida? Milliste tagajärgedeni see võib viia - kas üliinimese tekkimiseni või arvuti väljanägemiseni, mis näeb välja ainult nagu inimene? - küsib professor. See, kuidas arvutid inimeste probleeme lahendavad, on meie omast väga erinev. Näiteks males arvestab inimese aju ainult kitsaid käike, valides nende hulgast parima variandi. Arvuti omakorda kaalub kõiki võimalikke käike, valides parima. Samas ei oota arvuti oma vastast mängus ärritama ega üllatama. Erinevalt inimesest võib arvuti malet mängides arvuti kavalust ja peent liigutust teha ainult juhuslikult. Tehisintellekt oskab arvutada parimal viisil - kõrvaldada viga mis tahes süsteemist, eemaldades sealt „inimfaktori“, kuid erinevalt inimesest ei ole robot valmis tegema vägitegusid, mis päästaksid inimeste elu.
Muuhulgas kujutab nutimasinate arvu kasv uue tööstusrevolutsiooni etappi. See omakorda tähendab, et lähitulevikus ootavad inimkonda paratamatud sotsiaalsed muutused. Aja jooksul saab tööst palju kõrgelt kvalifitseeritud spetsialiste, sest peaaegu kõik lihtsad ülesanded saavad hakkama robotite ja muude mehhanismidega. Teadlased usuvad, et tehisintellekt "vajab silma ja silma", et meie planeet ei muutuks koomiksiplaneediks "Zhelezyaka", kus asustasid robotid.
Tootmisprotsesside üha suurema automatiseerimise osas on tulevik juba saabunud. Maailma Majandusfoorum (WEF) tutvustas oma aruannet, mille kohaselt viib automatiseerimine selleni, et aastaks 2020 kaotab töö enam kui 5 miljonit erinevates valdkondades töötavat inimest. See on robotite ja robotsüsteemide mõju meie elule. Aruande koostamiseks kasutasid WEF -i töötajad andmeid 13,5 miljoni töötaja kohta üle maailma. Nende sõnul kaob 2020. aastaks kogu vajadus enam kui 7 miljoni töökoha järele, samas kui oodatav tööhõive kasv teistes tööstusharudes ulatub veidi üle 2 miljoni töökoha.
