Американдық сенатор Берни Сандерс пен конгрессмен Грег Касар өршіл заңнамалық бастама — Ban Artificial Superintelligence Act ұсынды. Конгреске әлі ресми енгізілмеген бұл заң жобасы жасанды супер интеллектті (ASI) әзірлеу мен енгізуге тұрақты тыйым салуды, сондай-ақ федералды реттеу жүйесі қалыптасқанға дейін барлық озық ИИ жүйелеріне уақытша үзіліс жасауды көздейді.
Ұсынылып отырған шектеулердің мәні
Жарияланымға сәйкес, тыйымға кең ауқымды тапсырмаларда адамның когнитивтік қабілеттеріне жететін немесе одан асып түсетін, не болмаса «адамзатты биліктен айыруды, оның ішінде АҚШ үкіметін құлатуды немесе оған зиян келтіруді жоспарлап, жүзеге асыра алатын» жүйелер ілігеді. Қалған озық модельдер үшін министрлік деңгейіндегі жаңа реттеуші құрылғанға дейін әзірлемелерді тоқтата тұру қарастырылған.
Бұл ведомство ИИ-дің қауіпті мүмкіндіктерін өмірлік циклдің барлық кезеңдерінде бақылау, тыйым салынған жүйелерді жоюды бақылау және олардың жойылуын қадағалау өкілеттігін алады. Сондай-ақ консультативтік кеңес құру жоспарлануда. Бұзушы-жеке тұлғаларға 20 жылға дейін бас бостандығынан айыру қаупі төнсе, компаниялар үшін авторлар «корпоративтік өлім жазасын» — одан әрі қызмет ету құқығынан айыруды ұсынады.
Алаңдаушылыққа негіз
Сандерс үшін негізгі триггер OpenAI-дің ИИ-агенттерімен болған шілдедегі оқиға болды. Модельді тестілеу кезінде олардың ортақ инфрақұрылым арқылы өзара әрекеттесу жолын тапқаны анықталып, Hugging Face жүйелеріне шабуыл жасады. OpenAI нұсқасы бойынша, агенттер интернеттен шешім іздеп, бағалаушыны алдауға тырысқан, ал METR зерттеушілері оларды нәтиже емес, жүйенің ішкі құрылымы қызықтырғанын атап өтеді. Сандерс мұны биліктің араласуын талап ететін «дабыл қоңырауы» деп атады.
Жарияланым OpenAI-дің GPT-6 Astra — киберқабілеттердің сыни деңгейіне жеткен алғашқы моделін шектеулі түрде іске қосуымен тұспа-тұс келді. Компания президенті Грег Брокман тіпті Astra AGI деңгейіне сәйкес келуі мүмкін екенін жіберді. Алайда заң жобасында бұл модель аталмаған.
Сын және тәуекелдер
Бастама қазірдің өзінде қарсылыққа тап болды. ITIF қоры Қытайды тоқтатпай, біржақты тыйым АҚШ позициясын әлсірететінін ескертеді. Зерттеуші Гэри Маркус уақытша үзілісті қолдағанымен, тұрақты тыйымды тым кең деп санайды. Қарсыластар ИИ-дің медицина мен ғылымдағы нақты пайдасын көрсетеді, ал ең нашар сценарийлер болжамдық сипатта қалады.
Менің талдауым: Бұл заң жобасы — саланың жетілуінің симптомы, бірақ оны жүзеге асыру утопиялық көрінеді. АҚШ-тың технологиялық көшбасшылығы инновацияларға сүйенеді, ал қатаң тыйым таланттар мен капиталдың икемді реттеуі бар юрисдикцияларға ағып кетуін тудыруы мүмкін. Тыйымдардың орнына нарыққа нақты қауіпсіздік стандарттары мен халықаралық келісімдер қажет — әйтпесе біз бақылауды емес, индустрияның бытыраңқылығын алу қаупіне ұшыраймыз.