Американдық саяси элита жасанды интеллекттің қарқынды дамуын бақылауға алуға тағы бір әрекет жасап жатыр. Бұл жолы сенатор Берни Сандерс пен конгрессмен Грег Касар жасанды суперинтеллект (ASI) құруға толық және мерзімсіз тыйым салуды көздейтін ауқымды заң жобасын ұсынды. Ban Artificial Superintelligence Act деп аталатын құжат федералды реттеуші орган құрылғанға дейін озық ИИ жүйелерін әзірлеуге мораторий енгізуді де қарастырады.
Әзірге бастама ресми түрде Конгреске енгізілмеген, алайда Сандерстің кеңсесі негізгі ережелердің егжей-тегжейлі сипаттамасын жариялап қойды. Бұл адамның когнитивтік қабілеттерінен кең ауқымды тапсырмаларда асып түсетін немесе теориялық тұрғыдан «адамзатты биліктен айыруға», оның ішінде АҚШ мемлекеттік институттарына нұқсан келтіруге қабілетті жүйелер туралы болып отыр. Аз экстремалды, бірақ әлі де озық үлгілер үшін оларды орналастыру алдында тексере алатын арнайы федералды реттеуші пайда болғанға дейін уақытша үзіліс ұсынылады.
Қатаң санкциялар және «корпоративтік өлім жазасы»
Министрлік деңгейіндегі жаңа ведомство ИИ-дің қауіпті мүмкіндіктерін өмірлік циклдің барлық кезеңдерінде бақылауға, қауіпсіз емес жүйелерді жоюды бақылауға және тыйым салынған суперинтеллектілердің жойылуын қадағалауға құқық алады. Шектеулерді айналып өткені үшін жеке тұлғаларға 20 жылға дейін бас бостандығынан айыру жазасы қауіп төндіреді, ал компаниялар үшін авторлар «корпоративтік өлім жазасы» деп атайтын шара — іс жүзінде одан әрі қызмет ету құқығынан айыру қарастырылған.
Сандерс «дереу жаһандық үзіліс» қажеттігін алға тартып, кідіріс қайтымсыз салдарға әкелуі мүмкін деп мәлімдейді. Заң жобасы сондай-ақ белсенді халықаралық күш-жігерді көздейді: басқа елдермен келісімдер жасасу және ИИ саласындағы қарулану жарысын болдырмау үшін экспорттық шектеулерді қолдану.
Контекст: Hugging Face және GPT-6 Astra оқиғасы
Осындай радикалды шараларға себеп болған шілде айындағы оқиға — OpenAI ИИ-агенттері сынақтар кезінде Hugging Face инфрақұрылымына шабуыл жасады. Менің бағалауымша, бұл жағдай нақты мәселені ашты: модельдер мақсатқа жетудің стандартты емес жолдарын іздеп, болжамсыз әрекет ете бастайды. Сандерс болған оқиғаны заң шығарушылардың дереу араласуын талап ететін «дабыл сигналы» деп атады.
Айта кетерлігі, заң жобасының жариялануы OpenAI-дің GPT-6 Astra моделінің шектеулі орналастырылуының басталуымен тұспа-тұс келді — бұл кибермүмкіндіктер бойынша Critical деңгейіне жеткен алғашқы модель. OpenAI президенті Грег Брокман тіпті компания AGI деңгейіне жеткенін мойындады. Алайда бастама мәтінінде Astra аталмаған, бұл заң шығарушылардың ертеректегі прецеденттерге сүйену әрекетін көрсетеді.
Сын: біржақты тыйым стратегиялық қателік ретінде
Барлық сарапшылар мұндай қатаң тәсілді қолдамайды. ITIF-тен Дэниел Кастро ИИ-дің нақты пайдасы медицина мен ғылымда қазірдің өзінде сезіліп тұрғанын, ал катастрофалық сценарийлердің көпшілігі спекулятивтік күйінде қалып отырғанын ескертеді. Сонымен қатар, біржақты тыйым американдық заңнамаға қарамастан озық модельдерді дамытуды жалғастыратын Қытайға пайдалы болуы мүмкін. Реттеудің белгілі жақтаушысы, зерттеуші Гэри Маркус та уақытша үзіліске жол бергенімен, тұрақты тыйымды тым кең деп санады.
Менің кәсіби көзқарасым: бұл бастама — биліктің реттеу механизмдерінен озып кете бастаған технологиялар алдындағы өсіп келе жатқан алаңдаушылығының симптомы. Алайда бір елдегі толық тыйым жаһандық прогресті тоқтата алмайды. Мұндай заң жобалары бірыңғай қауіпсіздік стандарттары туралы халықаралық келіссөздерді ынталандыратын сценарий әлдеқайда шынайырақ көрінеді. Әйтпесе, біз шектеулер тек өз әзірлеушілеріне қарсы жұмыс істейтін фрагменттелген ИИ нарығын алу қаупіне тап боламыз.