Ethereum негізін қалаушы Виталик Бутерин тағы да өткір мәселе көтеріп, жасанды суперинтеллектке (ASI) көшудің бірде-бір нақты сценарийін көрмейтінін мәлімдеді. Оның айтуынша, адамзат ИИ болашағына екі шеткі көзқарастың арасында қалып қойған: «аңғал» және «шаршы дәрежедегі аңғал».
Себеп — «ИИ 2040» сценарийінің төңірегіндегі пікірталас. Бұл сценарий суперинтеллекттің 2040 жылға қарай, оны толық тоқтатуға бағытталған алып күштерді қоспағанда, кез келген жағдайда пайда болатынын болжайды. Бутериннің байқауынша, бұл сценарийді сынаушылар оны адамдардың үйлесімді әрекет ету қабілетін бағалауда аңғал деп атайды. Алайда Ethereum әзірлеушісінің өзі айнадағы мәселені көрсетеді: қарсыластар ASI-ге көшу тегіс және ауыртпалықсыз өтеді деп бірдей аңғалдықпен сенеді.
Билік, ашық код және дабыл сигналдары
Бутеринді әсіресе ірі ИИ компанияларының риторикасы алаңдатады. Оны «ашық код — жаман, ал жақсы нәтиже — біздің жігіттердің әлемдік үстемдікті бақылауға алуы» деген формулаға саятын ұстаным абыржытады. Ethereum негізін қалаушының пікірінше, «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл сигналдарын бір уақытта қосуы керек. Ол суперинтеллекттің өзін биліктің орасан зор шоғырлану қаупі ретінде қарастырады.
Дәл осы себепті Бутерин d/acc платформасын ілгерілетеді. Бұл платформа формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияға төзімділікті және қоғамдық эпистемологияны дамытуға бағытталған. Бұл бағыттың құндылығы — ол оқиғалардың кез келген даму сценарийінде, яғни ASI-дің жылдам да, баяу да келуінде пайдалы. Айта кетейік, ол «ИИ 2040» сценарийінің өзін ашық кодқа достық қатынасы үшін оң бағалады.
Ымыра іздеу: триггерлер мен үзілістер
Тұйықтан шығу жолы ретінде Бутерин «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады. Мысалдар қатарында — суперпандемиялар, жұмыссыздық деңгейінің 25%-дан жоғары болуы немесе автономды қарудың пайда болуы. Егер келісілген мерзімге дейін осындай триггерлердің жеткілікті саны іске қосылса, тараптар дамуды баяулатуды немесе үзіліс жасауды байыпты түрде қарастыруға міндеттенеді. Идея мынада: сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше.
Бутерин сондай-ақ технологиялық алыптардың басшыларына жүгініп, егер ол Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеу үшін қайта құратынын айтты. Дегенмен, ол бұл идеяның аңғалдығын өзі де мойындайды.
Менің талдауым: Бутериннің ұстанымы — криптоиндустрия көшбасшысы жай сын ғана емес, тәуекелдерді басқарудың нақты механизмін ұсынатын сирек жағдай. Триггерлер мен үзілістер идеясы — бұл, мәні бойынша, смарт-келісімшарттар мен орталықсыздандырылған басқару қағидаттарын ИИ-дің жаһандық мәселесіне қолдану әрекеті. Бұл екі тараптың да қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын «келісімге» айналуы мүмкін. Әзірге біз классикалық тұйықты көріп отырмыз: тараптардың ешқайсысы жеңілдік жасауға дайын емес, ал ставкалар күн сайын өсіп келеді.