Бутерин жасанды интеллект диктатурасына қарсы: неліктен «әлемдік үстемдік» туралы армандар адамзат үшін қауіпті
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллекттің болашағы туралы пікірталасқа қайта араласып, бұл жолы сала алыптарын қатаң сынға алды. Оның басты тезисі: адамзат екі «аңғал» сценарийдің арасында қалып қойған және олардың ешқайсысы жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды.
Бұл мәлімдемеге «ИИ 2040» сценарийі төңірегіндегі дау себеп болды. Бұл сценарий бойынша, егер адамзат оны тоқтату үшін алып күш жұмсамаса, кез келген жағдайда 2040 жылға қарай ASI-дің пайда болуы сөзсіз. Бутериннің пікірінше, сыншылар бұл болжамды аңғал деп атайды, адамдардың үйлесімді әрекет ету қабілетін асыра бағалайды. Бірақ олардың өздері, Виталик атап өткендей, басқа шеткі жаққа ауып, суперинтеллектке көшу тегіс және ауыртпалықсыз өтеді деп аңғал сенеді.
Ethereum жасаушысының дабыл қағуы
Бутеринді әсіресе кейбір ірі ИИ компанияларының риторикасы алаңдатады. Оны «ашық код — жаман, ал жақсы нәтиже — біздің жігіттердің әлемдік үстемдікті бақылауы» деген ұстаным қорқытады. Аналитиктің пікірінше, кез келген «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қосуы керек. Ол суперинтеллекттің өзін биліктің орасан зор шоғырлану қаупі ретінде қарастырады.
Дәл осы себепті Бутерин d/acc тұжырымдамасын — формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияға төзімділікті және қоғамдық эпистемологияны біріктіретін платформаны алға тартады. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де (ASI-дің жылдам келуімен де, онсыз да) пайдалы.
Ымыра іздеу: адамзат үшін триггерлер
Бутерин шешімді екі тарапқа да қолайлы келісім табу деп санайды. Ол алдын ала «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын келісуді ұсынады — мысалы, суперпандемия, 25%-дан жоғары жұмыссыздық немесе автономды қарудың пайда болуы. Егер осындай триггерлердің жеткілікті саны іске қосылса, тараптар ИИ дамуын баяулату немесе тоқтата тұруды байыпты қарастыруға міндеттенеді.
Виталик тіпті техноалыптардың көшбасшыларына жүгінді: егер ол Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге бейімдеген болар еді. Дегенмен, ол бұл идеяның да аңғал болуы мүмкін екенін мойындайды.
Сарапшының пікірі: Бутериннің ұстанымы — бұл жай сын емес, екі полюсті лагерь арасында көпір салу әрекеті. Криптовалюта нарығы, негізінен орталықсыздандыру мен ашықтық қағидаттарына құрылған, ИИ монополияларының қолында биліктің шоғырлану қаупіне ерекше сезімтал. Ол ұсынған «триггерлер» — бұл, шын мәнінде, бүкіл адамзат үшін смарт-келісімшарт жасау әрекеті, бұл бір мезгілде данышпандық та, утопиялық та көрінеді. Алайда технологиялық алыптар үлкен деректер массивтерін бақылайтын әлемде мұндай тетіктерсіз біз суперинтеллект емес, супердиктатура алу қаупіне ұшыраймыз.