Виталик Бутерин «аңғал» AI сценарийлеріне қарсы: алыптарды сынау және ымыра іздеу
Ethereum негізін қалаушы Виталик Бутерин жасанды интеллект индустриясының ірі ойыншыларына қатаң сын айтып, криптоқауымдастықтың назарын қайтадан өзіне аударды. Оның басты хабары: адамзат дамудың екі бірдей аңғал сценарийінің — «аңғал» және «шаршы дәрежедегі аңғал» — арасында қалып қойған. Ал олардың ешқайсысы жасанды суперинтеллектке (ASI) көшуді басқарудың нақты жоспарын ұсынбайды.
«ЖИ 2040» айналасындағы дау
Талқылауға түрткі болған «ЖИ 2040» деп аталатын болжамды сценарий, ол суперинтеллекттің 2040 жылға қарай кез келген жағдайда пайда болуын болжайды — оны толығымен бұғаттау үшін алып күш жұмсалған жағдайды қоспағанда. Бутериннің байқауынша, бұл сценарийді сынаушылар оны адамдардың үйлестіру қабілетін бағалауда аңғал деп атайды. Алайда Ethereum әзірлеушісінің өзі мұнда парадокс көреді: қарсыластар ASI-ге көшу тегіс және қақтығыссыз өтеді деп болжау арқылы өздерінің аңғалдығын байқамайды.
Бутерин сыншылардың ұстанымы тек ЖИ «қарапайым технология» болып қалатын әлемде ғана мағыналы екенін атап көрсетеді. Бірақ суперинтеллект 2030 жылға дейін мүмкін болатын әлемде, оның сөзімен айтқанда, бұл ұстаным ешқандай сынға төтеп бере алмайды. Виталик өзі белгісіздік мойындайды: егер ол сценарийлердің кем дегенде біреуіне сенімді болса, тиісті лагерьге қосылар еді. Әзірге ол адамзат қай әлемде өмір сүріп жатқанын түсінбейді.
Биліктің шоғырлануына қатысты алаңдаушылық
Бутеринді жекелей алаңдататын нәрсе — кейбір ЖИ алыптарының риторикасы. Оны «ашық код — бұл жаман, ал жақсы нәтиже — біздің жігіттер әлемдік үстемдікті бақылауға алған кездегі нәтиже» деген көзқарас алаңдатады. Оның пікірінше, «қалыпты» әлемде мұндай мәлімдемелер барлық саяси дабыл қағу сигналдарын бір уақытта қосуы керек.
Бутерин суперинтеллекттің өзін биліктің шоғырлануының үлкен қаупі ретінде қарастырады. Дәл осы себепті ол формальды верификацияны, криптографияны, қорғалған ашық жабдықты, пандемияларға төзімділікті және қоғамдық эпистемологияны дамытуды қамтитын d/acc платформасын ілгерілетеді. Бұл бағыттардың құндылығы — олар болашақтың екі сценарийінде де (ЖИ-дің жылдам да, баяу дамуында да) пайдалы.
Ымыра іздеу
Ethereum әзірлеушісі үшін басты мәселе — екі тарап үшін де қолайлы келісім табу. «Ұтысты келісім — бұл екі тараптың да өздерінің қазіргі сенімдеріне сүйене отырып, әртүрлі себептермен болса да, қабылдайтын келісім», — деп атап өтті Бутерин.
Ол «байыпты нәрсе болып жатқанын» білдіретін триггерлер жиынтығын алдын ала келісуді ұсынады. Мысал ретінде ол суперпандемияларды, 25%-дан жоғары жұмыссыздық деңгейін немесе автономды қарудың пайда болуын атайды. Егер мұндай триггерлердің жеткілікті саны келісілген мерзімде іске қосылса, тараптар баяулатуды немесе үзілісті байыпты қарастыруға алдын ала келіседі. Оның идеясы бойынша, сыншылар мұны триггерлер іске қосылмайды деп күтіп қабылдайды, ал алаңдаушылар — керісінше күтіп.
Бутерин сондай-ақ технологиялық алыптардың басшыларына жүгініп, егер ол Илон Маск немесе Марк Цукербергтің орнында болса, әлеуметтік платформаларды осындай өзара тиімді келісімдерді іздеуге бейімдейтінін айтты. Дегенмен, ол бұл идеяның да аңғал екенін мойындады.
Cryptalist аналитикасы: Бутериннің ұстанымы — криптоиндустрия үшін сирек кездесетін, ЖИ-дің болашағына прагматикалық көзқарастың үлгісі. Ол децентрализация утопиясына да, «машиналар көтерілісі» алдындағы үрейге де бой алдырмай, нақты тәуекелдерді басқару механизмін — жаһандық консенсустың негізі бола алатын триггерлік жүйені ұсынады. Егер ЖИ алыптары бұл тәсілді елемейтін болса, адамзат не олардың «аңғал» оптимизмінің, не соншалықты аңғал қорқыныштың кепіліне айналу қаупіне тап болады.