ИИ-ге арналған рухани тест: Ресейдегі мемлекеттік сатып алуларға тек «адамгершілікті» модельдер қол жеткізе алады
Ресейдің жасанды интеллект нарығы теңдесі жоқ эксперименттің табалдырығында тұр: іргелі модельдерді әзірлеушілер тек заңға техникалық сәйкестікті ғана емес, сонымен қатар «дәстүрлі рухани-адамгершілік құндылықтарға» адалдықты да растауға міндетті болады. Шілде айының соңы мен тамыз айының басында «Цифрлық экономика» АҰ алаңында белсенді талқыланған бұл бастама саланың барлық қатысушылары үшін ойын ережелерін түбегейлі өзгертеді.
Ресми түрде ИИ туралы заң 26 шілдеде күшіне енгенімен, ол рамкалық сипатқа ие. Енді негізгі талаптарды заңға сәйкес актілерде нақтылау қажет, және дәл осы жерде басты интрига өрбиді. Мәселе ірі модельдер үшін екі арнайы мәртебе — «егеменді» және «ұлттық» мәртебелерін енгізу туралы болып отыр. Олардың кез келгенін алу мемлекеттік сатып алулардағы артықшылықтарды қоса алғанда, мемлекеттік преференцияларға жол ашады.
Тексеру механизмі: бенчмарктардан промпт-инъекцияларға дейін
Құндылықтар тізімі бар жеке акт әзірге жасау жоспарланбайды — бұл тізім президенттің № 809 жарлығында бекітілген. Оның орнына бизнеспен бірлесіп модельдерді бағалауға арналған арнайы бенчмарктар — тест жиынтықтары әзірленетін болады. Рәсім екі кезеңнен тұрады: әзірлеуші архитектура мен фильтрация механизмдерінің сипаттамасымен өтінім береді, содан кейін аккредиттелген зертхана модельдің жауаптарын тексереді және промпт-инъекциялар — яғни, кіріс деректеріндегі зиянды нұсқаулар арқылы ИИ-ді бұзу арқылы ішкі шектеулерді айналып өтуге тырысады.
Сарапшылардың қорытындысы цифрландыру жөніндегі үкіметтік комиссияға жіберіледі, және тек оң шешім мемлекеттік қолдауға қол жеткізуді ашады. Маңызды нюанс: нарықтағы барлық модельдер емес, тек егеменді немесе ұлттық мәртебеге үміткерлер ғана тексерілетін болады. Енгізудің алғашқы салалары білім беру және мемлекеттік қызметтер болады.
Бұл құрылымның бәрі менде күрделі сұрақтар туғызады. «Руханиятты» техникалық тест түрінде формализациялау — орындалуы мүмкін емес дерлік міндет. ИИ жобаларының бизнес-архитекторлары әділ атап өткендей: азаматтық немесе тарихи жады сияқты категориялар тікелей техникалық тапсырмаға аударылмайды. Жалғыз мүмкін тәсіл — процедуралық: есептердің бірыңғай форматы және нәтижелердің қайталануы. Бірақ мұнда басты қауіп жатыр — критерийлердің «бағалаушылығы», бұл таңдамалы қолдануға негіз жасайды.
Сонымен қатар, жүйенің өзі орталықтандырылмаған болады: мемлекеттік органда тексеруден өткен бірнеше бәсекелес зертханалар қорытынды бере алады. Түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелердің қауіпсіздігін ФСБ және ФСТЭК бақылайды. Ірі әзірлеушілерде тыйым салынған сұраныстарды блоктау құралдары қазірдің өзінде бар, сондықтан ведомство нарықтық әзірлемелерге сүйенуді жоспарлап отыр.
Тексеруші рөліне ықтимал үміткерлер ретінде РҒА Жүйелік бағдарламалау институтын атайды. Алайда заңға сәйкес актілер пакеті әлі ведомствоаралық келісуден өтіп жатыр, және түпкілікті құрылым туралы айту әлі ерте. Заңгерлер субъективизм қауіптерін азайту үшін сертификаттардың қолданылу мерзімдерін және қорытындылардың жария тізілімін енгізуді ұсынып отыр.
Менің қорытындым: бастама өршіл, бірақ оның табысы бағалаудың шынайы объективті және қайталанатын процедураларын жасау мүмкіндігіне тікелей байланысты. Онсыз «рухани фильтр» құндылықтарды қорғау құралынан нарыққа әкімшілік қысым механизміне айналу қаупі бар, бұл сайып келгенде саланың инновациялық дамуына соққы береді.