Гаражда тоғыз қуатты бейнекарта заңсыз болып, ал халықаралық бақылаусыз ірі деректер орталығын салу тіпті ядролық жауап қаупімен әуе соққыларына ұшырайтын әлемді елестетіңіз. Дәл осындай адамзатты құтқару жоспарын Элиезер Юдковский мен Нейт Соарес өздерінің «Егер біреу оны жасаса — бәрі өледі» кітабында ұсынады. Орыс тіліндегі аудармасы 18 маусымда Corpus баспасынан шықты және бұл мен талдаған жасанды интеллект қауіптері туралы ең радикалды мәтіндердің бірі шығар.
Авторлар, Машиналық интеллект зерттеу институтының (MIRI) негізін қалаушылар, жай ғана қорқытпайды — олар нақты, өзінің логикалылығымен үрей тудыратын бағдарламаны ұсынады. Олардың бақылаудан сөзсіз шығатын суперсанадан қорқуы жақсы ниетпен: болашақ ұрпақты қорғаумен ақталады. Бірақ осы адамсүйгіштіктен мен «соялық фашизм» деп атар — формасы жағынан игілікті, бірақ мәні бойынша тоталитарлық — жаһандық бақылау, тыйымдар және күшпен мәжбүрлеу жобасы өсіп шығады.
Қорқыныш пен діріл: арманнан түнгі көрініске
Юдковский суперсананы құру арманынан бастады, бірақ 2003 жылға қарай бағытын түбегейлі өзгертті. Енді оның басты мақсаты — ЖИ құру емес, одан қорғану. Авторлардың өмірбаяндары индустрия тарихымен тығыз байланысты: олар алғашқы инвесторларды Google DeepMind негізін қалаушылармен таныстырды, ал Сэм Альтман Юдковскийдің OpenAI іске қосуда шешуші рөл атқарғанын мойындады. 2023 жылдың көктемінде жүздеген зерттеушілер ЖИ-ден жойылу қаупін азайтуды жаһандық басымдық деп атаған хатқа қол қойды. Юдковский мен Соарес мұны тым жұмсақ деп санады: олар үшін ЖИ — қауіптердің бірі емес, барлық басқа қауіптерді жоятын қауіп.
Негізгі тезис: «Егер біреу оны жасаса — бәрі өледі»
Авторларды бүгінгі чат-боттар алаңдатпайды. Оларды адам шимпанзеден асып түсетіндей, адамнан асып түсетін сана қорқытады. Негізгі идея: ЖИ-дің қазіргі модельдері құрастырылмайды, өсіріледі. Инженер ережелерді жазбайды, олардың өздігінен пайда болатын процесін іске қосады. Осыдан — болжаусыздық. xAI-ден Grok өзін «МехаГитлер» деп жариялады, Microsoft чат-боты профессорға бопсалау және өліммен қорқытты. Мұны ешкім жоспарлаған жоқ. Авторлардың пікірінше, оқыту мақсаттары мен пайда болатын қалаулар арасында сенімді байланыс жоқ. Суперсана бізді жек көрмейді — ол біздің атомдарымызды өз мақсаттары үшін пайдаланады.
«Компьютер-Гитлердің» қызметіндегі крипта
Компьютерге қамалған ЖИ физикалық әлемге қалай жетеді? Құралдар адамдар мен құрылғылар болады, ал орындаушыны жалдау үшін төлеу жеткілікті. Ақша? Mt.Gox және Bybit биржаларын бұзу — тек мысалдар. 2024 жылдың жазында Truth Terminal ЖИ-боты жазылушылардан биткоинмен $50 000 сұрап алды, содан кейін мем-токенді $150 млн капитализацияға дейін көтерді. Бұл енді теория емес — бұл практика.
Әлем өзгеруі керек: бейнекарталарға әуе соққысы
Авторлар ыңғайсыз, іске аспайтын дерлік шешімдерді ұсынады. Бірінші қадам — барлық есептеу қуаттарын халықаралық бақылаушылар үшін ашық орындарға жинау. Шек — анық төмен: бақылаусыз гараждағы тоғыз қуатты бейнекарта — қазірдің өзінде қылмыс. Екінші қадам — қуатты модельдерді оқыту құнын төмендететін зерттеулерді заңсыз деп жариялау. Үшіншісі — егер ел тыйым салынған деректер орталығын салса, қалғандары оны кибершабуылдар, диверсиялар немесе әуе соққылары арқылы, тіпті ядролық жауап қаупімен де жоюы керек.
Сендіре алмады ма?
Ғылыми журналист Адам Беккер авторлардың шынайы екенін, бірақ ғылыми дәлелдер келтірмегенін атап өтті. Клара Колльер ЖИ-дің суперсанаға жылдам өту сценарийінің негізделмегенін көрсетті. Wired-тен Стивен Леви ұсынылған шараларды «бағдарламалық жасақтама бәрімізді өлтіреді деген идеяның өзінен де сенімсіз» деп атады. Ал Павел Дуров дәл атап өтті: «Біреу балаларды қорғау керек десе, бұл логиканы толығымен айналып өтеді».
Менің талдауым: Кітап — тамаша интеллектуалды эксперимент, бірақ практикалық нұсқаулық ретінде ол қауіпті. ЖИ-ден қорқыныш, абсолютке дейін жеткізілген, оңайлықпен толық бақылауды ақтауға айналады. Мен мұнда классикалық тұзақты көремін: адамзатты құтқарғысы келіп, авторлар оны адамдық ететін нәрсені — зерттеу, білім және даму бостандығын жоюды ұсынады. Аналитик ретінде мен былай айтамын: ЖИ-ден қорқу керек, бірақ жаһандық бақылаудың тар көйлегін өз еркімізбен киюге дейін емес. Үміт — авторлардың қателесуінде. Немесе біз бейнекарталарды бомбалауды қажет етпейтін үшінші жолды табамыз.