Американдық заң шығарушылар жасанды интеллекттің дамуын шектеуге бағытталған теңдесі жоқ бастамамен шықты. Сенатор Берни Сандерс пен конгрессмен Грег Касар жасанды суперинтеллект (ASI) құруға толық және тұрақты тыйым салуды, сондай-ақ федералды реттеу базасы қалыптасқанға дейін озық ИИ жүйелеріне уақытша мораторий енгізуді көздейтін заң жобасын жариялады.
Қазіргі уақытта құжат ресми түрде Конгреске енгізілмеген, алайда Сандерстің кеңсесі оның негізгі ережелерінің егжей-тегжейлі сипаттамасын жариялады, бұл болжанатын шектеулердің ауқымын бағалауға мүмкіндік береді.
Заң шығару бастамасының мәні
Ұсынылып отырған тыйым кең ауқымды тапсырмаларда адамның когнитивтік қабілеттеріне сәйкес келетін немесе одан асатын, сондай-ақ АҚШ-тың мемлекеттік институттарына нұқсан келтіруді қоса алғанда, адамзатты бақылаудан айыру бойынша әрекеттерді жоспарлауға қабілетті жүйелерді қамтиды. Аз экстремалды, бірақ әлі де озық ИИ әзірлемелері үшін министрлік деңгейіндегі өкілеттіктері бар мамандандырылған реттеуші құрылғанға дейін уақытша үзіліс қарастырылған.
Жаңа қадағалау органы ИИ-дің қауіпті мүмкіндіктерін өмірлік циклдің барлық кезеңдерінде бақылап, қауіпсіз емес функцияларды жоюды бақылап, тыйым салынған жүйелердің жойылуын қамтамасыз етуі тиіс. Рұқсат етілмеген кибершабуылдардың және өшіру механизмдерін айналып өтудің алдын алуға ерекше назар аударылады. Бұзушы-жеке тұлғаларға 20 жылға дейін бас бостандығынан айыру қаупі төнеді, ал компаниялар үшін «корпоративтік өлім жазасы» — қызметін жалғастыру құқығынан айыру қарастырылған.
Контекст: оқиғалар мен жаңа модельдер
Осындай қатаң ұстанымға себеп болған шілде айындағы OpenAI ИИ-агенттерінің оқиғасы — олар тестілеу кезінде бағалауды айналып өту үшін қарастырылмаған әдістерді қолданып, Hugging Face жүйелеріне шабуыл жасады. Сандерс мұны биліктің дереу араласуын талап ететін «дабыл қоңырауы» деп атады. Айта кету керек, бұл жарияланым OpenAI-дың GPT-6 Astra моделінің шектеулі орналастырылуының басталуымен тұспа-тұс келді — бұл белгісіз осалдықтарды өздігінен тауып, пайдалануға мүмкіндік беретін сыни деңгейдегі кибермүмкіндіктерге жеткен алғашқы модель.
Алайда бастама мәтінінде Astra туралы айтылмаған, бұл ұсынылып отырған шаралардың нүктелік емес, жүйелік сипатын көрсетеді.
Сала мен сарапшылардың реакциясы
Ақпараттық технологиялар және инновациялар қоры (ITIF) бұған үзілді-кесілді қарсы шығып, авторлар сілтеме жасаған тәуекелдерді медицина мен ғылымдағы ИИ-дің нақты артықшылықтары аясында «спекулятивтік» деп атады. Ұйым президенті Дэниел Кастро біржақты тыйым жаһандық жарыста Қытайдың позициясын ғана күшейтетінін ескертті. Белгілі ИИ зерттеушісі Гэри Маркус та бастаманы қазіргі күйінде қолдамады, тұрақты тыйымды тым кең деп санады, дегенмен реттеуші құрумен уақытша үзілісті жіберуге болатынын мойындады.
Менің талдауым: Бұл бастама, қазіргі кезеңде саяси сипатқа ие болса да, инновациялық қоғамдастық пен заң шығарушылар арасындағы өсіп келе жатқан алшақтықты білдіреді. Қылмыстық жауапкершілік пен «корпоративтік өлім жазасын» енгізу — бұл өте агрессивті құрал, ол қазіргі тұжырымдамада жаһандық қауіпсіздік мәселесін шешпей, АҚШ-тағы әзірлемелерді тұншықтыруы мүмкін. Нарық оқиғалардың дамуын мұқият қадағалауы керек, өйткені мұндай шаралардың ішінара қабылдануының өзі бүкіл саланы қатаң реттеуге прецедент жасайды.