Бұрын бақыланбайтын жасанды интеллект салдарынан адамзаттың жойылуын болжаған сарапшылар тобы күтпеген құтқару сценарийін ұсынды. «AI 2040: Plan A» деп аталатын құжатты OpenAI-дің бұрынғы зерттеушісі Дэниел Кокотайло негізін қалаған AI Futures Project жобасы жариялады.

Кокотайло 2024 жылдың сәуірінде OpenAI-ден ЖИ қауіпсіздігі мәселелері бойынша түбегейлі келіспеушіліктерге байланысты кетті. 2025 жылы-ақ ол өзінің аналитикалық орталығын іске қосты. Оның алдыңғы «AI 2027» баяндамасы қараңғы суретті салды: АҚШ пен Қытай арасындағы суперинтеллект саласындағы қарулану жаávырысы, жойылу ықтималдығы 10%-дан 30%-ға дейін. Енді сарапшылар осы тәуекелдерді түбегейлі төмендете алатын нақты қадамдар жиынтығын ұсынады.

Бұл қалай жұмыс істеуі керек

«А жоспарының» негізгі идеясы — Вашингтон мен Бейжің арасындағы халықаралық келісім, ол 2029 жылы жасалуы керек. Онсыз, айтылғандай, ЖИ әзірлеудің толық автоматтандырылуы 2030 жылы болады. Оның орнына елдер нейрондық желілерді біртіндеп, тек үздік адам сарапшыларының деңгейіне дейін дамытуға келіседі. 2035 жылға қарай жүйелерге адам бақылауын сақтау үшін міндетті үзіліс енгізіледі. Тек 2040 жылға қарай шектеулер алынып, ЖИ суперинтеллект деңгейіне шығады.

Жоспар төрт принципке негізделген:

  • Қауіпсіздік зерттеулеріне уақыт ұту;
  • Барлық ЖИ әзірлемелерінің толық ашықтығы;
  • Есептеу қуаттарын әртүрлі компаниялар мен елдер арасында бөлу;
  • Процестің қайтымдылығын сақтау.

Сенімді қамтамасыз ету үшін ғарыштан верификациялауды пайдалану ұсынылады: ірі деректер орталықтары спутниктерден көрінеді. Бірінші қадам — чиптерді сатып алу туралы жария декларациялар. Содан кейін датчиктермен бақыланатын оқытуға уақытша үзіліс енгізіледі. Сенім расталғаннан кейін шектеулер алынады, бірақ толық ашықтық сақталады.

Жоспардың ең радикалды бөлігі — ядролық паритет логикасын еске түсіретін тежеу механизмі. Қытайдың жаңа деректер орталықтарын Канадада, ал АҚШ нысандарын Моңғолияда салу ұсынылады. Келісім бұзылған жағдайда қабылдаушы ел қуаттарды басып алуға тырысады, ал иесі оларды жауға бермеу үшін жояды.

Экономика және әлеуметтік салдарлар

Есептеулер бойынша, әлемдік есептеу қуаттары 2026 жылы 20 млн H100-эквивалентінен 2034 жылға қарай 60 млрд-қа дейін өседі. АҚШ-тың нақты ЖІӨ өсімі 2030-жылдардың кейбір кезеңдерінде жылына 50%-ға жетуі мүмкін. Алайда автоматтандыру жұмыспен қамтудың апатты төмендеуіне әкеледі: 2027 жылы 62%-дан 2040 жылға қарай 12%-ға дейін. Мұны «азаматтық дивидендтер» — есептеулер мен роботтарды лицензиялаудан мемлекеттік кірістерден төлемдер арқылы өтеу ұсынылады. Болжамдар әсерлі: 2032 жылы бір адамға $45 000, 2035 жылға қарай $1 млн және 2039 жылға қарай $10 млн.

Баламалы сценарийлер

Сарапшылар сонымен қатар оқиғалардың дамуының тағы төрт жолын модельдеді:

  • В жоспары: АҚШ коалиция құрып, Қытайға қысым көрсетеді, тіпті кибершабуылдарға дейін барады. Финал — бақылауды жоғалту немесе соғыс.
  • С жоспары: Келісуге әрекет, бірақ компаниялардың қысымымен үзіліс тез алынады. Тәуекел — суперинтеллект иелерінің мәңгілік олигархиясы.
  • D жоспары: Минималды реттеу және жарыс. Тәуекелдер — бақылауды жоғалту, биліктің шоғырлануы және үшінші дүниежүзілік соғыс.
  • S жоспары: Толық мерзімсіз тоқтату. Басты қауіп — келісімнің сөзсіз бұзылуы және жарыстың хаоста қайта басталуы.

Менің талдауым: «А жоспары» — бұл, әрине, көбісі елемеуді жөн көретін мәселеге жүйелі көзқарастың амбициялық әрекеті. Алайда оны жүзеге асыру ғаламдық сенім мен үйлестірудің бұрын-соңды болмаған деңгейін талап етеді, бұл қазіргі геосаяси жағдайда өте екіталай көрінеді. «Есептеу қуаттарын өзара кепілдендірілген жою» механизмі — бұл ядролық қарумен қызықты, бірақ қорқынышты ұқсастық, ол сенімді шешім ұсынудан гөрі тепе-теңдіктің осалдығын атап көрсетеді. Нарық бұл болжамдарды елемеуі мүмкін, бірақ байыпты инвесторлар мен реттеушілер үшін бұл әлеуетті тәуекелдердің тереңдігі туралы маңызды сигнал.