Жасанды интеллект салдарынан адамзаттың жойылу сценарийі — бұл фантастика емес, сарапшылар 10–30% деп бағалайтын нақты қауіп. Алайда енді бізде «А жоспары» — авторлардың пікірінше, тек жарысты бәсеңдетіп қана қоймай, адамның суперинтеллектті бақылауын сақтай алатын жол картасы бар.
AI 2040: Plan A құжатын 2024 жылдың сәуірінде қауіпсіздік мәселелері бойынша түбегейлі келіспеушіліктерге байланысты компаниядан кеткен OpenAI-дің бұрынғы зерттеушісі Дэниел Кокотайло ұсынды. 2025 жылы ол осы амбициялық сценарийді дайындаған AI Futures Project жобасын құрды.
«А жоспары» жарысты қалай тоқтатуы керек
Негізгі идея — 2029 жылы жасалуы тиіс АҚШ пен Қытай арасындағы халықаралық келісім. Авторлардың болжауынша, онсыз ЖИ әзірлемелерін автоматтандыру 2030 жылы жүзеге асады, бұл бақыланбайтын жарылыс тәрізді өсуге әкеледі.
Оның орнына елдер нейрондық желілерді тек үздік адам сарапшыларының деңгейіне дейін дамытуға міндеттенеді. 2035 жылға қарай адам бақылауын сақтау үшін әзірлемелерге толық үзіліс енгізіледі. Тек 2040 жылы ғана «тоқтату краны» алынып, ЖИ суперинтеллект деңгейіне жетеді — бірақ қауіпсіз, тексерілетін ортада.
Жоспар төрт принципке негізделген: қауіпсіздік зерттеулеріне уақыт ұту, әзірлемелердің толық ашықтығы, ЖИ-ді компаниялар мен елдер арасында орталықсыздандыру, сондай-ақ барлық процестердің қайтымдылығын сақтау.
Верификация және өзара жою
Тараптар бір-біріне сенім артуы үшін авторлар физикалық верификацияны қолдануды ұсынады. Ірі деректер орталықтары ғарыштан көрінеді — оларды жасыру мүмкін емес. Бірінші қадам: елдер ЖИ-чиптерін сатып алуды жария түрде мәлімдейді. Содан кейін нысандардағы датчиктермен бақыланатын жаңа оқыту өткізулеріне уақытша үзіліс енгізіледі.
Ең радикалды элемент — «есептеу қуаттарын өзара кепілдендірілген жою». Ядролық тежеу логикасы бойынша Қытайдың жаңа деректер орталықтарын Канадада, ал АҚШ нысандарын Моңғолияда салу ұсынылады. Қақтығыс жағдайында қабылдаушы ел қуаттарды басып алуға тырысады, ал иесі оларды жауға бермеу үшін жояды.
Экономика және әлеуметтік салдарлар
Есептеулер таңқалдырады: әлемдік есептеу қуаттары 2026 жылғы 20 млн H100-эквивалентінен 2034 жылға қарай 60 млрд-қа дейін өседі. АҚШ ЖІӨ-нің нақты өсімі 2030-жылдардың жекелеген кезеңдерінде әдеттегі 3%-ке қарсы жылына 50%-ке жетеді.
Алайда автоматтандыру жұмыспен қамтуды 2027 жылғы 62%-дан 2040 жылға қарай 12%-ке дейін төмендетеді. Өтемақы ретінде «азаматтық дивидендтер» — есептеулер мен роботтарға лицензиялардан мемлекеттік кірістерден әрбір ересек американдыққа төлемдер ұсынылады. Болжамдар: 2032 жылы бір адамға $45 000, 2035 жылға қарай $1 млн, ал 2039 жылға қарай $10 млн.
Баламалы сценарийлер
Авторлар төрт резервтік жолды қарастырды. В жоспары — АҚШ коалиция құрып, кибершабуылдарға дейін Қытайға қысым жасайды. С жоспары — келісуге әрекет, бірақ бизнес қысымымен үзіліс тез алынып, олигархияға әкеледі. D жоспары — минималды реттеу және соғыс қаупімен жарыс. S жоспары — толық мерзімсіз тоқтату, ол ыдырап, жарысты аз бақыланатын жағдайларға қайтарады.
Менің сараптамам: «А жоспары» ғылыми фантастика сияқты естіледі, бірақ оның логикасы кемел. Мәселе мынада: ол бұрын-соңды болмаған жаһандық сенім мен үйлестіруді талап етеді — дәл қазір бізге жетіспейтін нәрсе. Геосаяси шиеленіс өсіп, ЖИ-ден түсетін пайда триллиондармен есептелетін әлемде 2040 жылға дейін ерікті үзіліс жасау мүмкіндігі нөлге ұмтылады. Дегенмен, сұрақтың өзі — «қалай жеделдету емес, қалай аман қалу» — индустрия үшін маңызды қадам болып табылады.