ИИ үшін рухани бақылау: Ресейде модельдерді «дәстүрлі құндылықтарға» міндетті тексеру енгізілуде
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. «Егеменді» немесе «ұлттық» модель мәртебесіне үміткер әзірлеушілер жақын арада тек заңнамаға техникалық сәйкестікті ғана емес, сонымен қатар дәстүрлі рухани-адамгершілік құндылықтарға адалдықты да растауға міндетті болады. Бұл рәсім аккредиттелген сынақ зертханаларында өтеді, ал оның параметрлері туралы пікірталастар шілде айының соңы мен тамыз айының басында «Цифрлық экономика» АҰ алаңында жүргізілді.
Жаңа тексеру жүйесі қалай жұмыс істейді
26 шілдеден бастап ЖИ туралы негіздемелік заң күшіне енді, бірақ ойынның негізгі ережелері әлі де заңға тәуелді актілерде нақтылануы тиіс. Қазіргі уақытта ірі фундаментальды модельдер үшін екі ресми мәртебе — егеменді және ұлттық — енгізу талқылануда. Олардың бірін алу үшін әзірлеуші заңнамаға және құндылық бағдарларына сәйкестікке сараптамадан өтуге міндетті.
Айта кету керек, құндылықтардың нақты тізімі бар жеке акт әзірге жасау жоспарланбайды — тізім президенттің № 809 жарлығында бекітілген. Оның орнына бизнеспен бірлесіп арнайы бенчмарктар әзірленетін болады: модельдерді тексеруге арналған тест жиынтықтары. Рәсім келесідей болады: әзірлеуші архитектура мен сұраныстарды сүзу механизмдерінің сипаттамасымен өтінім береді, содан кейін зертхана модельдің жауаптарын бенчмарктар бойынша тексереді және оны промпт-инъекцияларға — зиянды нұсқаулар кіріс деректерінде жасырылатын «ЖИ-ді бұзуға» төзімділігін сынайды.
Оң қорытынды цифрландыру жөніндегі комиссияға жіберіледі, және дәл осы қорытынды мемлекеттік қолдау мен мемлекеттік сатып алулардағы преференцияларға қол жеткізуді ашады. Бұл ретте нарықтағы барлық модельдерді тексеруді ешкім жоспарламайды — мәселе тек жоғары мәртебеге үміткерлер туралы болып отыр. Енгізудің алғашқы салалары білім беру және мемлекеттік қызметтер болады.
Үкімді кім шығарады
Бір уәкілетті ұйымның орнына бірнеше аккредиттелген зертханалар желісін құру шешілді. Схема екі кезеңде құрылады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше сынайды, содан кейін аккредиттелген зертхана қорытындыларды бағалайды және жүйенің тұрақтылығын іріктеп тексере алады. Соңғы сөз Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелерге қауіпсіздік талаптары ФСБ және ФСТЭК-пен келісілетін болады.
Алайда сарапшылар елеулі тәуекелдерді көрсетіп отыр. «Авандо» ЖИ-экожүйесінің бизнес-архитекторы Алексей Борщов әділ атап өткендей: азаматтық, әділеттілік және тарихи жады сияқты санаттарды техникалық тапсырмаға тікелей аудару мүмкін емес. Жалғыз жұмыс істейтін нұсқа — процедуралық тәсіл: есептің бірыңғай форматы, арандатушы сұраныстар жиынтығы және нәтижелердің қайталануы. «Пропозитум» бюросының басқарушы серіктесі Дмитрий Галанцев критерийлердің «бағалаушылығы» туралы ескертеді, бұл іріктеп қолдануға әкелуі мүмкін, және сертификаттардың қолданылу мерзімдері мен қорытындылардың жария тізілімін енгізуді ұсынады.
Менің көзқарасым: бұл бүкіл индустрия үшін маңызды прецедент. «Руханиятты» бенчмарктар түрінде формализациялау — өте күрделі міндет, және нарық заңның өзін емес, оның құқық қолдану практикасын күтеді. Егер критерийлер анық болмаса, біз реттеу құралын емес, әкімшілік қысым құралын алу қаупіне тап боламыз. Рәсімнің ашықтығы мен нақты әдіснама — осы жаңа шындықтағы хаосты болдырмаудың жалғыз жолы.