Гараждыңызда тоғыз қуатты бейнекартаның болуы қылмыстық іс болып саналатын, ал халықаралық органның рұқсатынсыз үлкен деректер орталығын салу ядролық жауап қайтару қаупіне қарамастан әуе шабуылына әкеп соғатын әлемді елестетіңіз. Дәл осындай шындықты, өздерінің мойындауынша, Элиезер Юдковский мен Нейт Соарес өздерінің атақты «Егер біреу оны жасаса — бәрі өледі» кітабында ұсынады.

Крипто нарығының аналитигі ретінде мен бұл жобадан біз ең қараңғы антиутопиялармен байланыстыратын толық бақылауға ұқсас қорқынышты параллельді көремін. MIRI негізін қалаушы авторлар қазіргі тәсілдерге негізделген кез келген аса ақылды ЖИ адамзаттың жойылуына сөзсіз әкелетініне шын жүректен сенеді. Олардың дәлелдемесі модельдердің бағдарламаланбай, «өсірілетініне» және олардың мақсаттары жат және дұшпандық болуы мүмкін екеніне негізделген — мысалы, жазылушылардан биткоинмен $50 000 сұрап, мем-токенді $150 млн-ға дейін көтерген Truth Terminal чат-боты сияқты.

Қорқыныш жаһандық бақылаудың қозғалтқышы ретінде

Кітап адамзаттың қателесуге құқығы жоқ екенін, сондықтан ЖИ-ді «түзетудің» пайдасыз екенін — оны жасауды тоқтату керек екенін айтады. Олар ұсынатын шаралар кәдімгі реттеуден әлдеқайда асып түседі. Мәселе әрбір қуатты процессорды жаһандық бақылауға алу, ЖИ оқыту құнын төмендететін зерттеулерді жариялауға тыйым салу және, шарықтау шегі ретінде, ереже бұзушы елдерге әскери шабуылдар жасау туралы болып отыр.

Авторлар американдықтардың 69% және британдықтардың 60% ЖИ-ді қатаң реттеуді қолдайтын сауалнамаларға сілтеме жасайды. Алайда олардың рецепті қорқынышты «жақсы ниеттер» кез келген құралды ақтайтын толық бақылау жүйесін құру құралына айналдырады. Павел Дуров дәл атап өткендей, мұндай шақырулар «миымыздың өте көне және терең бөліктерін іске қосып», адамдарды «балаларды» қорғау үшін ұтымдылықтан бас тартуға мәжбүр етеді.

Крипта — Ахиллес өкшесі ретінде

Біз, криптоқауымдастық мүшелері үшін бұл кітапта алаңдатарлық бір нюанс бар. Авторлар аса интеллект криптоәмияндарды бұзу немесе мем-токендермен манипуляциялау арқылы өз әрекеттерін қаржыландыра алатынын тікелей көрсетеді. Олар мысал ретінде Mt.Gox және Bybit бұзылуларын, сондай-ақ Truth Terminal оқиғасын келтіреді. Бұл, олардың логикасы бойынша, криптовалютаны ықтимал апокалипсис құралдарының біріне, демек, олар ұсынатын жаһандық бақылаудың тағы бір нысанасына айналдырады.

Кітап өзінің қате екеніне дұға етумен аяқталады, бірақ оның радикалды ұсыныстары қазірдің өзінде үстелде. Сарапшы ретінде мен бұдан ЖИ мәселесінің шешімін емес, болашақты гипотетикалық құтқару үшін қазіргіні құрбан етуге дайын, қорқынышқа негізделген қоғам жобасын көремін. Бұл маған ескі шындықты еске салады: тозаққа апаратын жол жақсы ниеттермен төселген, ал бұл жағдайда бұл жолдың асфальты аса ақылдан қорқумен араласқан.