OpenAI компаниясының бұрынғы зерттеушісі Дэниел Кокотайло, 2024 жылдың сәуірінде қауіпсіздік мәселелері бойынша келіспеушіліктерге байланысты компаниядан кеткен, әлемді суперинтеллект қаупінен құтқарудың жаңа амбициялық сценарийін ұсынды. AI 2040: Plan A деп аталатын құжат 2040 жылға дейін жасанды интеллект жарысын тежеп, апаттық нәтиже қаупін азайтуы тиіс халықаралық келісімді ұсынады.
Жоспардың мәні: 2040 жылға дейінгі үзіліс
Негізгі идея — 2029 жылы АҚШ пен Қытай арасында суперинтеллектті жедел дамытудан бас тарту туралы келісім жасау. Оның орнына елдер нейрондық желілерді біртіндеп, ең үздік адам сарапшыларының деңгейіне дейін дамытады. 2035 жылға қарай даму толығымен тоқтатылады, адамның жүйелерді бақылауын сақтау үшін. Тек 2040 жылы ғана үзіліс алынып, ЖИ суперинтеллект деңгейіне жетеді. Бұл қауіпсіздік зерттеулеріне уақыт береді және есептеулер бойынша 2030 жылы болар еді, әзірлемелерді автоматтандырудың алдын алады.
Төрт принцип және верификация механизмі
Жоспар төрт тірекке сүйенеді: қауіпсіздік үшін уақыт ұту, әзірлемелердің толық ашықтығы, ЖИ-ді әртүрлі елдер мен компаниялар арасында бөлу, сондай-ақ процестің қайтымдылығын сақтау. Сенімді қамтамасыз ету үшін спутниктік верификацияны пайдалану ұсынылады — ірі деректер орталықтары ғарыштан көрінеді. Бірінші қадам: елдер чиптерді сатып алуды жария түрде мәлімдейді, содан кейін модельдерді оқытуға уақытша үзіліс енгізіледі, ол датчиктермен расталады. Сенім расталғаннан кейін шектеулер алынып тасталады, бірақ зерттеулер толығымен ашық болып қалады.
Келісімнің бұзылуынан «өзара кепілдендірілген есептеу қуаттарын жою» қорғайды — ядролық тежеуге ұқсас. Қытайдың жаңа деректер орталықтарын Канадада, ал АҚШ нысандарын Моңғолияда салу ұсынылады, осылайша қақтығыс жағдайында оларды жауға беруден гөрі жою оңайырақ болады.
Экономикалық салдарлар: ЖІӨ өсімі және азаматтық дивидендтер
Есептеулер көрсеткендей, әлемдік есептеу қуаттары 2026 жылы 20 млн H100-эквиваленттен 2034 жылға қарай 60 млрд-қа дейін өседі. АҚШ-тың нақты ЖІӨ өсімі 2030-жылдардың кейбір кезеңдерінде жылына 50% жетуі мүмкін, бірақ жұмыспен қамту 2027 жылы 62%-дан 2040 жылға қарай 12%-ға дейін төмендейді. Өтемақы ретінде «азаматтық дивидендтер» енгізу ұсынылады — есептеулер мен роботтарды лицензиялаудан мемлекеттік кірістерден төлемдер. Болжамдар таңқалдырады: 2032 жылға қарай дивиденд бір адамға $45 000, 2035 жылға қарай $1 млн, ал 2039 жылға қарай $10 млн құрайды.
Баламалы сценарийлер: соғыстан олигархияға дейін
Авторлар Plan A-ны оқиғалардың дамуының төрт басқа жолына қарсы қойды. План B — АҚШ коалиция құрып, Қытайға кибершабуылдарға дейін қысым көрсетеді, бұл соғысқа әкеледі. План C — келісуге әрекет, бірақ компаниялардың қысымымен үзіліс алынып тасталады, бұл тұрақты олигархияға қауіп төндіреді. План D — минималды реттеу және жарыс, бақылауды жоғалтуға және үшінші дүниежүзілік соғысқа әкеледі. План S — толық мерзімсіз тоқтату, ол ыдырап, хаоста жарысты қайта бастау қаупі бар.
Аналитик ретіндегі менің пікірім: Ұсынылған сценарий утопиялық болып көрінеді, әсіресе «өзара кепілдендірілген жою» және одақтастар аумағында деректер орталықтарын салу бөлігінде. Алайда ол өте маңызды мәселені көтереді: адамзат суперинтеллект жарысынан өз еркімен бас тарта ала ма, ставкалар соншалықты жоғары болғанда? Жоспардың шынайылығы күмән тудырады, бірақ мәселенің өзі — елемеуге болмайтын сигнал.