Виталик Бутерин «әлемдік үстемдікке» қарсы: алыптарды сынау және ымыра іздеу
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллекттің болашағы туралы пікірталасқа қайта араласып, бұл жолы ірі ЖИ компанияларын қатаң сынға алды. Оның басты хабары: адамзат екі шектен тыс нанымсыз сценарийдің арасында қалып қойды және олардың ешқайсысы жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды.
Бұл пікірлерге «ЖИ 2040» болжамды сценарийі төңірегіндегі талқылау себеп болды. Бұл сценарий ASI-дің 2040 жылға қарай, оны толығымен тоқтату үшін орасан зор күш жұмсалмаса, кез келген жағдайда пайда болатынын болжайды. Бутерин бұл сценарийді сынаушылардың да, өз кезегінде, суперинтеллектке көшу тегіс және ауыртпалықсыз өтеді деп сеніп, кем емес нанымсыздық танытатынын атап өтеді. Оның пікірінше, екі жақ та «өзара үйлеспейтін дүниетанымдарға тұйықталған»: біреулері жылдам прогрестің сөзсіздігіне сенсе, екіншілері адамзаттың оны үйлестіріп басқара алу қабілетіне сенеді. Виталик өзі белгісіздікті мойындайды: біз шын мәнінде осы әлемдердің қайсысында өмір сүріп жатқанымызды түсінбейді.
Биліктің шоғырлануы басты қауіп ретінде
Бутеринді ерекше алаңдататын жекелеген ЖИ алыптарының риторикасы, оны ол «екінші дәрежелі нанымсыздық» деп атайды. Оны «ашық код – бұл жаман, ал жақсы нәтиже – біздің жігіттеріміз әлемдік үстемдікке ие болатын нәтиже» деген көзқарас алаңдатады. Ethereum негізін қалаушының пікірінше, «қалыпты» әлемде мұндай мәлімдемелер бір мезгілде барлық саяси дабыл қоңырауларын қамтуы керек еді. Ол суперинтеллекттің өзін биліктің орасан зор шоғырлану қаупі ретінде қарастырады.
Дәл осы себепті Бутерин d/acc платформасы тұжырымдамасын ілгерілетуде. Бұл тұжырымдама формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуға бағытталған. Бұл тәсілдің құндылығы – ол болашақтың кез келген сценарийінде – ASI-дің жылдам да, баяу дамуында да пайдалы.
Өзара тиімді келісімді іздеу
Бутериннің негізгі идеясы екі жаққа да қолайлы ымыраға келуді іздеу болып табылады. Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады. Мысал ретінде ол суперпандемияларды, жұмыссыздық деңгейінің 25%-дан жоғары болуын немесе автономды қарудың пайда болуын атайды. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар дамуды баяулатуды немесе үзіліс жасауды байыпты қарастыруға келіседі.
«Ұтыс келісім – бұл екі жақ та өздерінің қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын келісім», – деп атап көрсетеді Бутерин.
Ол сондай-ақ технологиялық алыптардың басшыларына тікелей жүгініп, егер Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге қайта құратынын айтты. Алайда ол бұл идеяның да нанымсыз болуы мүмкін екенін бірден мойындады.
Сарапшының пікірі: Бутериннің ұстанымы – техно-оптимизм немесе дүрбелең пессимизмі үстемдік ететін ортада ASI мәселесіне ұтымды көзқарастың сирек кездесетін жағдайы. Оның триггерлер туралы ұсынысы – біз суперинтеллектке қаншалықты жылдам қозғалсақ та, жұмыс істей алатын адамзат үшін «қауіпсіздік торын» құру әрекеті. Мәселе тек ЖИ алыптары жалпы игілік үшін өздерінің амбицияларын ерікті түрде шектеуге дайын ба, жоқ па, соған байланысты.