Бутерин жасанды интеллекттің «әлемдік үстемдігіне» қарсы: Ethereum негізін қалаушының ұстанымын талдау
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларын қатты сынға алды. Оның пікірінше, олардың көпшілігі «әлемдік үстемдік» туралы армандайды және жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды. Бутерин адамзаттың екі өте нақты сценарийдің арасында таңдау алдында тұрғанын атап өтеді.
Талқылауға түрткі болған «ЖИ 2040» болжамды сценарийі, ол кез келген жағдайда 2040 жылға қарай суперинтеллекттің пайда болуын болжайды. Бутериннің пікірінше, бұдан тек ЖИ дамуын толығымен тоқтатуға бағытталған алып күш-жігер ғана алып тастайды. Бұл сценарийді сынаушылар, өз кезегінде, оны адамдардың үйлестіру қабілетін бағалауда нақты деп атайды. Алайда, Бутериннің өзі атап өткендей, бұл сыншылар да ASI-ге көшу әдепкі бойынша тегіс өтеді деп ойлауда бірдей нақты.
Аналитиктің пікірінше, негізгі мәселе — кейбір ЖИ алыптарының «ашық код — жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікке ие болған кезде» деген әңгімені алға тартатын риторикасы. Бутерин мұндай тәсілді қауіпті ғана емес, саяси тұрғыдан алаңдатарлық деп санайды. Ол суперинтеллекттің өзін биліктің орасан зор шоғырлану қаупі ретінде қарастырады.
Осыған қарсы Бутерин d/acc — орталықсыздандырылған жеделдету тұжырымдамасын алға тартады. Ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты және қоғамдық эпистемологияны дамытуды қамтиды. Бұл тұжырымдаманың құндылығы — ол болашақтың қай сценарийі жүзеге асса да (ЖИ-дің жылдам немесе баяу дамуымен) пайдалы.
Ымыра ретінде Бутерин «елеулі оқиғалардың» басталғанын білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады: мысалы, жұмыссыздық деңгейі 25%-дан жоғары, автономды қарудың немесе суперпандемияның пайда болуы. Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар ЖИ дамуын бәсеңдету немесе үзіліс жасау мүмкіндігін байыпты қарастыруы керек. Оның ойынша, бұл скептиктер мен оптимистерге консенсусқа келуге мүмкіндік береді: біріншілері триггерлердің іске қосылмауына үміттенеді, екіншілері олардың іске қосылуына үміттенеді, және екі тарап та келісімдерді сақтауға мүдделі болады.
Сарапшының пікірі: Бутериннің ұстанымы — бұл жай философиялық пікірталас емес. Бұл ЖИ дәуірінде биліктің шоғырлану қаупіне прагматикалық көзқарас. Оның триггерлер туралы ұсынысы — бұл Кремний алқабының ультра-оптимистерін де, олардың сыншыларын да біріктіре алатын тәуекелдерді басқару механизмін құру әрекеті. Алайда, Бутериннің өзі мойындағандай, Илон Маск немесе Марк Цукерберг өз платформаларын өзара тиімді келісімдерді іздеуге ерікті түрде қайта құрады деген идея да нақты болуы мүмкін. Дегенмен, ASI басқарудың формальды механизмдерінің қажеттілігі туралы мәселенің өзі қойылуы — бүкіл индустрия үшін маңызды қадам.