Ресейдегі ИИ-модельдер мемлекеттік сатып алуларға қол жеткізу үшін «дәстүрлі құндылықтарға» тексеруден өтеді
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. «Егеменді» немесе «ұлттық» модель мәртебесіне үміткер әзірлеушілер жақын арада тек заңнамаға техникалық сәйкестікті ғана емес, сонымен қатар дәстүрлі рухани-адамгершілік құндылықтарға адалдықты да растауға міндетті болады. Бұл рәсім тәуелсіз сынақ зертханаларының желісі арқылы өтеді, ал негізгі параметрлер шілде айының соңында «Цифрлық экономика» АҰ алаңында талқыланды.
26 шілдеде ЖИ туралы негіздемелік заң күшіне енуімен реттеудің жаңа дәуірі басталды. Алайда базалық акт — бұл айсбергтің тек ұшы ғана: ойынның егжей-тегжейлі ережелері заңға тәуелді актілерде жазылуы тиіс, және дәл қазір негізгі жұмыс сол жерде қайнап жатыр.
Тексеру механикасы: бенчмарктардан промпт-инъекцияларға дейін
Заңнама ірі фундаменталды модельдер үшін екі арнайы мәртебе енгізеді — егеменді және ұлттық. Олардың бірін алу үшін әзірлеуші өз туындысының заңды бұзбайтынын және дәстүрлі құндылықтарға қайшы келмейтінін дәлелдеуге міндетті. Бұл ретте құндылықтар тізімі бар жеке акт жоспарланбайды — оның орнына тізім президенттің № 809 жарлығында бекітілген.
Абстрактілі декларациялардың орнына бизнес пен реттеушілер нақты бенчмарктар — модельдерді бағалауға арналған тест жиынтықтарын дайындауда. Рәсім былай болады: әзірлеуші зертханаға өтінім, архитектура сипаттамасы және сұраныстарды сүзу механизмдері туралы деректерді жібереді. Әрі қарай сарапшылар модельдің жауаптарын бенчмарктарға сәйкестігін тексереді және, әсіресе маңыздысы, оны промпт-инъекцияларға — кіріс деректерінде зиянды нұсқауларды жасыру арқылы ЖИ-ді «бұзу» әрекеттеріне төзімділігін тексереді.
Қорытынды қорытынды цифрландыру жөніндегі комиссияға жіберіледі. Оң шешім мемлекеттік қолдауға, оның ішінде мемлекеттік сатып алулардағы преференцияларға қол жеткізуді ашады. Бұл нарықтағы барлық модельдерді толық тексеру туралы емес — тек жоғары мәртебеге үміткерлер туралы ғана. Алғашқы енгізу салалары ретінде білім беру және мемлекеттік қызметтер аталды.
Төреші кім болады?
Сараптаманы бір емес, бірнеше аккредиттелген зертхана жүргізе алады, олар мемлекеттік органда тексеруден өтеді. Схема екі сатылы құрылады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше тексереді, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және модельдің тұрақтылығын іріктеп тексере алады. Түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздікті ФСБ және ФСТЭК бақылайды.
Дегенмен, жасырын қауіптер айқын. «Авандок» экожүйесінің ЖИ жобаларының бизнес-архитекторы Алексей Борщов әділ атап өткендей: азаматтық, әділеттілік және тарихи жады сияқты санаттар техникалық тапсырмаға аударуға қиын. Жалғыз мүмкін консенсус — процедуралық: есептің бірыңғай форматы, арандатушы сұраныстар жиынтығы және нәтиженің қайталануы.
«Пропозитум» адвокаттық бюросының басқарушы серіктесі Дмитрий Галанцев негізгі тәуекелді критерийлердің «бағалаушылығында» көреді, бұл іріктеп қолдануға әкелуі мүмкін. Ол аккредиттеуші құрылымы, бірнеше бәсекелес зертханалары және апелляциялық алқасы бар жұмыс схемасын ұсынады. Сондай-ақ сертификаттардың қолданылу мерзімдерін және қорытындылардың жария тізілімін енгізу талқылануда.
Менің көзқарасым: бұл этикалық және дүниетанымдық санаттарды алгоритмдік тестілерде формализациялауға тырысатын тарихи прецедент. Нарықты қиын бейімделу кезеңі күтіп тұр, бірақ ұзақ мерзімді перспективада бұл құндылық бағдарларын технологиялық стекке ендіру бойынша бірегей экспериментке айналуы мүмкін. Мәселе тек бенчмарктардың қаншалықты объективті болатынында және процедураның адал ойыншыларды іріктеу құралына айналмайтынында.