ИИ үшін рухани скрининг: Ресей модельдерді дәстүрлі құндылықтарға міндетті тексеруден өткізуді енгізеді
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. «Егеменді» немесе «ұлттық» модель мәртебесіне үміткер әзірлеушілер өз өнімдерінің тек заңнамаға ғана емес, сонымен қатар белгілі бір «дәстүрлі рухани-адамгершілік құндылықтарға» сәйкестігін растауға міндетті болады. Шілде айының соңы – тамыз айының басында «Цифрлық экономика» АҰ алаңында белсенді талқыланған бұл рәсім саланың барлық ірі ойыншылары үшін ойын ережелерін түбегейлі өзгертеді.
Ресми түрде ЖИ туралы заң 26 шілдеде күшіне енді, алайда ол рамкалық сипатқа ие. Негізгі тетіктер, соның ішінде атышулы «руханилыққа» тексеру, қазір келісудің соңғы кезеңінен өтіп жатқан заңға тәуелді актілерде жазылатын болады.
Жаңа жүйе қалай жұмыс істейді?
Менің аналитикалық зерттеуім көрсеткендей, реттеуші екі деңгейлі сертификаттау жүйесін құруға ұмтылуда. Заң ірі фундаменталды модельдер үшін екі арнайы мәртебе енгізеді — «егеменді» және «ұлттық». Олардың бірін алу үшін әзірлеуші өз ЖИ-інің дәстүрлі құндылықтарға қайшы келмейтінін дәлелдеуі керек.
Айта кетерлігі, құндылықтар тізімі бар жеке акт жазу жоспарланбайды — тізім президенттің № 809 жарлығында бекітілген. Оның орнына бизнеспен бірлесіп модельдерді бағалауға арналған арнайы бенчмарктер — тест жиынтықтары әзірленетін болады.
Рәсім келесідей болады: әзірлеуші аккредиттелген зертханаға өтінім, архитектура сипаттамасы және сұраныстарды сүзу тетіктері туралы деректерді ұсынады. Әрі қарай сарапшылар модельдің бенчмарктердегі жауаптарын тексереді және оны промпт-инъекцияларға — зиянды нұсқаулық кіріс деректерінде жасырылатын «ЖИ-ді бұзу» деп аталатын әрекеттерге төзімділігін сынайды.
Сарапшылардың оң қорытындысы мемлекеттік преференцияларға, соның ішінде мемлекеттік сатып алуларға басым қолжетімділікке жолдама болады. Бұл ретте нарықтағы барлық модельдер емес, тек жоғары мәртебеге үміткерлер ғана тексерілетін болады. Менің деректерім бойынша, енгізудің алғашқы салалары білім беру және мемлекеттік қызметтер болады.
Кім үкім шығарады?
Негізгі мәселе — сараптама жүргізу құқығына кім ие болады. IT-компаниялар бұл бір тағайындалған ұйым емес, мемлекеттік органның тексеруінен өткен бірнеше зертхана болатынына келісті. Схема екі қадаммен құрылады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше сынайды, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және модельдің төзімділігін іріктеп тексере алады.
Мәртебе туралы түпкілікті шешім Цифрлық даму министрлігінде қалады. Мемлекеттік жүйелерге қойылатын қауіпсіздік талаптарын ФСБ және ФСТЭК тексеретін болады. Тексеруші рөліне РҒА Жүйелік бағдарламалау институты да үміткер бола алады.
Алайда бұл бастаманың елеулі жасырын қауіптері бар. «Авандок» экожүйесінің ЖИ-жобаларының бизнес-архитекторы Алексей Борщов дұрыс атап өткендей: азаматтық, әділеттілік және тарихи жады сияқты абстрактілі категорияларды техникалық тапсырмаға тікелей аудару мүмкін емес. Жалғыз мүмкін болатын ортақ белгі — процедуралық: есептің бірыңғай форматы, арандатушы сұраныстар жиынтығы және нәтиженің қайталану мүмкіндігі.
«Пропозитум» адвокаттық бюросының басқарушы серіктесі Дмитрий Галанцев басты тәуекел — критерийлердің «бағалаушылығы» туралы ескертеді, бұл іріктеп қолдануға жол ашады. Ол неғұрлым тұрақты схеманы ұсынады: аккредиттейтін құрылым, бірнеше бәсекелес зертхана және саладан тыс апелляциялық алқа, қосымша қорытындылардың ашық тізілімі және сертификаттардың қолданылу мерзімдері.
Менің үкімім: бұл бастама — регуляториканың технологияны игеруге тырысуының жарқын мысалы. Бір жағынан, ЖИ сертификаттаудың ашық жүйесін құру — қауіпсіздік үшін дұрыс бағыттағы қадам. Екінші жағынан, алгоритмнің «руханилығын» бенчмарктер арқылы өлшеу әрекеті бюрократиялық оксюморон болып көрінеді, ол не формальды көзқарасқа, не нарыққа қысым жасаудың жаңа құралын құруға әкелуі мүмкін. Инвесторлар мен әзірлеушілер заңға тәуелді актілердің соңғы редакциясын мұқият қадағалауы керек — дәл сол жерде бұл жүйенің жұмыс істейтін тетікке айналатыны немесе тағы бір безендіру болатыны шешіледі.