Ethereum негізін қалаушы Виталик Бутерин жасанды интеллектті дамытуға қатысты өзінің принципті ұстанымын тағы да білдірді. Бұл жолы оның сыны ірі ЖИ компанияларына бағытталған, олардың амбициялары, оның пікірінше, ашық «әлемдік үстемдік» туралы армандармен шектеседі. Талқылау орталығында «ЖИ 2040» сценарийі тұр, ол Бутериннің пікірінше, жасанды суперинтеллектке (ASI) көшуді басқарудағы «аңғал» және «шаршыдағы аңғал» тәсіл арасындағы таңдауды білдіреді.
Менің талдауым бойынша, даудың мәні ЖИ қарқыны мен тәуекелдерін қабылдаудағы түбегейлі алшақтыққа саяды. «ЖИ 2040» сценарийі ASI 2040 жылға қарай кез келген жағдайда дерлік шындыққа айналады деп болжайды, егер адамзат оны толығымен тоқтату үшін алып күш жұмсамаса. Бутериннің байқауынша, бұл сценарийдің сыншылары оны адамдардың үйлестіру қабілетіне аңғал сенім артты деп айыптайды. Бірақ әзірлеушінің өзі: олар ASI-ге көшу әдепкі бойынша тегіс және жанжалсыз өтеді деп ойлауда аңғал, деп қарсы шығады.
Бутерин сыншылардың ұстанымы ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы екенін атап көрсетеді. Алайда ASI 2030 жылға дейін мүмкін болатын әлемде бұл сын тексеруден өтпейді. Виталик өзі белгісіздікке мойындайды: ол осы әлемдердің қайсысында өмір сүріп жатқанымызды сенімді түрде айта алмайды. Егер ол кем дегенде бір сценарийге сенімді болса, ол тиісті лагерьге қосылар еді. Бұл мойындау нарық үшін маңызды сигнал: тіпті саланың жетекші санасы да болашақтың бірыңғай көзқарасына ие емес.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутеринді әсіресе OpenAI және басқалар сияқты алыптардың риторикасы алаңдатады. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікті бақылауға алған кезде» деген көзқарас абыржытады. Оның пікірінше, «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл қағуларды бір уақытта қамтуы керек. Ол суперинтеллектің өзін биліктің шоғырлануының орасан зор тәуекелі ретінде қарастырады.
Дәл осы себепті Бутерин дәйекті түрде d/acc (defensive acceleration) платформасын ілгерілетеді. Бұл тұжырымдама формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтиды. Бұл бағыттардың құндылығы олардың болашақтың екі сценарийінде де — ЖИ-дің жылдам да, баяу дамуында да пайдалы болуында. Виталик «ЖИ 2040» жоспарының ашық кодқа мейірімді бола бастағанын және тіпті оны қолдануды тағайындайтынын оң бағалағаны айтарлықтай.
Ымыра іздеу
Бутерин өз стратегиясының негізгі элементі ретінде екі тарап үшін де қолайлы мәміле іздеуді көреді. Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады. Мысал ретінде ол суперпандемияларды, 25%-дан жоғары жұмыссыздық деңгейін немесе автономды қарудың пайда болуын атайды.
Егер келісілген мерзімде осындай триггерлердің жеткілікті саны іске қосылса, тараптар дамуды бәсеңдету немесе үзіліс жасау мүмкіндігін байыпты түрде қарастыруға алдын ала келіседі. Идея мынада: сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше күтеді. Бутерин тіпті технологиялық алыптардың басшыларына жүгініп, егер ол Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді мәмілелерді іздеуге қайта құрар еді деп мәлімдеді. Дегенмен, ол бұл идеяның да аңғал екенін мойындайды.
Менің талдауым: Бутериннің ұстанымы — бұл мәні бойынша, ASI тәуекелдерін басқаруды орталықсыздандыруға шақыру. Криптовалюталар мен блокчейн басқарудың баламалы модельдерін ұсынатын әлемде оның ЖИ алыптарын сынауы — бұл жай философиялық пікірталас емес, бөлінген биліктің негізгі принциптерін қорғау. Нарық d/acc дамуын мұқият қадағалауы керек, өйткені дәл осы технологиялар крипто-әлем мен ЖИ-дің қауіпсіз дамуы арасындағы көпір бола алады.