Бутерин жасанды интеллекттің «әлемдік үстемдігіне» қарсы: алыптарды сынау және ымыра іздеу
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларын қатты сынға алды. Оның пікірінше, кейбір ЖИ алыптарының риторикасы ашық «әлемдік үстемдік» туралы армандармен шектесіп, жасанды суперинтеллектке (ASI) көшуді қауіпсіз басқарудың нақты жоспарын ұсынбайды.
Бутериннің мәлімдемесіне «ЖИ 2040» болжамды сценарийі және оның сыншылары айналасындағы пікірталас себеп болды. Жағдайды талдағанымдай, Ethereum жасаушысы түбегейлі мәселені көреді: пікірталастың екі жағы да жасанды интеллекттің даму қарқынына қатысты «өзара үйлеспейтін дүниетанымдарда» тұрып қалған.
Екі есе надандық: болашақтың екі сценарийі
Бутерин «ЖИ 2040» сценарийі 2040 жылға қарай суперинтеллекттің пайда болуын, оны толық тоқтату үшін алып күш салуды қоспағанда, кез келген жағдайда дерлік болжайтынын атап өтеді. Оның байқауынша, сыншылар мұндай болжамды адамзаттың үйлестіру қабілетін бағалауда надандық деп атайды. Алайда, талдаушы атап өткендей, олардың өздері ASI-ге көшу тегіс және әдепкі бойынша өтеді деп болжап, өз надандықтарын байқамайды.
Негізінен, Бутериннің айтуынша, адамзат «надан» және «екі есе надан» сценарийлерінің арасында таңдау алдында тұрып қалған. Сыншылардың ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы. Бірақ суперинтеллект 2030 жылға дейін мүмкін болатын әлемде, оның сенімі бойынша, бұл сынға төтеп бере алмайды. Виталик өзі белгісіздікті мойындайды: егер ол сценарийлердің кем дегенде біреуіне сенімді болса, тиісті лагерьге қосылар еді.
Биліктің шоғырлануы басты қауіп ретінде
Бутериннің ЖИ компанияларының өз риторикасын сынауы ерекше назар аударуға тұрарлық. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікті бақылауға алған кездегі» деген көзқарас алаңдатады. Менің ойымша, бұл өте қауіпті сигнал. Қалыпты әлемде мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қосуы керек. Бутерин суперинтеллекттің өзін биліктің шоғырлануының орасан зор қаупі ретінде қарастырады.
Дәл осы себепті ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де пайдалы. Айта кету керек, Бутерин «ЖИ 2040» жоспарының ашық кодқа мейірімді болып, тіпті оны тағайындағанын оң бағалады.
Ымыра іздеу: үзіліс үшін триггерлер
Бутерин өз ұстанымының негізгі элементі ретінде екі жақ үшін де қолайлы келісімді іздеуді санайды. Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады. Мысал ретінде ол суперпандемияларды, 25%-дан жоғары жұмыссыздық деңгейін немесе автономды қарудың пайда болуын атайды.
Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар баяулатуды немесе үзілісті байыпты қарастыруға алдын ала келіседі. Оның идеясы бойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар керісінше күтеді.
Технологиялық алыптардың басшыларына жүгіне отырып, Бутерин Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге қайта құратынын болжады. Алайда, оның өзі бұл идеяның да надандық екенін мойындайды.
Сарапшының пікірі: Бутериннің ұстанымы — бұл ЖИ-дің экзистенциалды қауіптеріне ұтымды көзқарастың сирек мысалы. Оның «триггерлер» туралы ұсынысы — бұл техникалық шешім емес, жаһандық консенсустың негізі бола алатын саяси механизм. Криптоқауымдастық бұл логикаға назар аударуы керек, өйткені орталықсыздандыру және формальды верификация — дәл осындай келісімдердің ашықтығы мен сенімділігін қамтамасыз ете алатын құралдар.