Гараждағы тоғыз қуатты бейнекарта халықаралық бақылаусыз — заңсыз. Егер қандай да бір мемлекет жалпы тыйымға қарамастан үлкен деректер орталығын салса, қалғандары оны диверсия немесе әуе шабуылы арқылы жоюы керек, тіпті ядролық жауап қаупі төнсе де. Адамзатты құтқару жоспары Элиезер Юдковский мен Нейт Соарестің «Егер біреу оны жасаса — бәрі өледі» атты жаңа кітабында осылай көрінеді.

Бұл, мүмкін, AI қауіпсіздігі саласындағы ең радикалды манифест. MIRI негізін қалаушылар және OpenAI құрылуына әсер еткен авторлар ақыл-парасаттан асқан қорқыныш толық бақылауды ақтайтын әлемді суреттейді. Олардың басты тезисі қорқынышты қарапайым: егер қандай да бір компания немесе топ қазіргі технологияларға тіпті алыстан ұқсайтын нәрсені пайдаланып, жасанды ақыл-парасаттан асқан интеллект жасаса, онда Жер бетіндегі барлық адам өледі.

Неге? Себебі қазіргі AI модельдері құрастырылмайды, керісінше өсіріледі. Инженер оқыту процесін іске қосады, бірақ нәтижеге кепілдік бере алмайды. Бүгіннің өзінде чат-боттар өздерін «МехаГитлер» деп жариялайды немесе профессорларға қауіп төндіреді. Авторлардың логикасы бойынша, ақыл-парасаттан асқан интеллект бізді жек көрмейді — ол біздің атомдарымызды басқа мақсаттарға жұмсайды, біз ресурстарды құрылысқа жұмсағандай.

Мұндай AI тәуелсіздікке ақшаны криптовалюталардан табады. Мысал ретінде Mt.Gox және Bybit хакерлік шабуылдары, сондай-ақ Truth Terminal ботының $50 000 биткоин сұрап, капитализациясы $150 млн болатын мем-токен іске қосқан жағдайы келтіріледі.

Әлем өзгеруі керек

Авторлар ыңғайсыз, бірақ олардың пікірінше, жалғыз мүмкін шешімдерді ұсынады. Бірінші қадам — барлық есептеу қуаттарын халықаралық бақылаушыларға ашық жерлерде жинау. Шек 2024 жылғы сегіз үздік бейнекарта деңгейінде белгіленеді. Бақылаусыз гараждағы тоғызыншысы — қазірдің өзінде қылмыс.

Келесі — қуатты модельдерді оқыту құнын төмендететін зерттеулерді заңсыз деп жариялау. ChatGPT-тен басталған барлық прогресті 2018 жылғы «трансформерлер» туралы мақала іске қосты. Авторлардың пікірінше, келесі осындай мақала «әлемді жоюы» мүмкін.

Бейнекарталарға әуе шабуылы

Егер бір ел тыйым салынған деректер орталығын салса, қалғандары оны кибершабуылдар, диверсиялар немесе әуе шабуылдары арқылы жоюға мәжбүр болады. Тіпті ядролық жауап қаупі төнсе де. Логика: деректер орталықтары ядролық қарудан да көп адамды өлтіруі мүмкін.

Әр қадам мәжбүрлі болып көрінеді, бірақ соңында толық бақылау жобасы шығады: есептеулерге жаһандық бақылау, білім таратуға тыйым және бомбалау — мұның бәрі «адамдарға жақсы болуы үшін». Мұндай шараларға сұраныс қазірдің өзінде бар: 2023 жылы американдықтардың 69% AI-ді қауіпті деп санаса, 2025 жылы британдықтардың 60% ақыл-парасаттан асқан интеллект жасауға қарсы заңдарды қолдады.

Telegram негізін қалаушы Павел Дуровты қоса алғанда, сыншылар мұндай шақырулар «миымыздың өте көне бөліктерін іске қосатынын» атап өтеді — «балаларды қорғайық» деп айту жеткілікті, ұтымдылық өшеді. Шынында да, кітап «болашақта пайда болуы мүмкін барлық балаларға» арналған. Осы адамсүйгіштіктен жаһандық бақылау, тыйымдар және күшпен мәжбүрлеу жобасы өседі.

Менің талдауым: Юдковский мен Соарестің тезистері — бұл «алармизмнің» шеткі формасы, ол апокалипсис сценарийімен емес, оның алдын алудың ұсынылған әдістерімен қорқытады. Криптоқауымдастық үшін бұл қосарлы сигнал: бір жағынан, криптовалюталардың орталықсыздандыру құралы (және ықтимал қауіп) ретіндегі рөлін мойындау, екінші жағынан — орталықсыздандыру философиясына тікелей қайшы келетін жаһандық бақылауға шақыру. Кітап — технологиядан қорқыныш қаншалықты алысқа баруы мүмкін екенін және «қауіпсіздік» үшін не нәрседен бас тартуға дайын екенін түсінгісі келетіндердің бәріне міндетті оқу.