ИИ-модельдер руханилыққа тексеруден өтетін болады: мемлекеттік сатып алуға қол жеткізу артықшылыққа айналады
Ресейдің жасанды интеллект әзірлеушілері жаңа кедергіге тап болады: олардың модельдері тек заңнамаға ғана емес, сонымен қатар дәстүрлі рухани-адамгершілік құндылықтарға сәйкестігін растауы керек. Рәсім тәуелсіз сынақ зертханаларында жүргізіледі деп жоспарлануда. Бұл бастама шілде айының соңы – тамыз айының басында «Цифрлық экономика» АҰ алаңында белсенді талқыланды.
Тексеру қалай ұйымдастырылады
26 шілдеде күшіне енген ИИ туралы федералдық заң рамкалық сипатқа ие. Негізгі ережелер, мен болжағандай, заңға тәуелді актілермен бекітіледі. Заң ірі фундаменталды модельдер үшін екі арнайы мәртебе енгізеді — «егеменді» және «ұлттық». Олардың бірін алу үшін әзірлеуші өз өнімінің құқық нормалары мен дәстүрлі құндылықтарға сәйкестігін дәлелдеуге міндетті.
Құндылықтар тізімі бар жеке құжат әзірге жоспарланбайды — тізім президенттің № 809 жарлығында бекітілген. Оның орнына бизнес реттеушілермен бірлесіп арнайы бенчмарктер — модельдерді бағалауға арналған тест жиынтықтарын әзірлейді. Рәсім келесідей болады: әзірлеуші зертханаға өтінім береді, архитектура сипаттамасы мен сұраныстарды сүзу механизмдері туралы деректерді қоса тіркейді. Әрі қарай сарапшылар модельдің жауаптарын бенчмарктер бойынша тексереді және оны промпт-инъекцияларға — зиянды нұсқаулық кіріс деректерге жасырылатын ИИ-ді «бұзуға» төзімділігін сынайды.
Сәйкестік туралы қорытынды цифрландыру жөніндегі үкіметтік комиссияға жіберіледі. Оң шешім мемлекеттік қолдауға, оның ішінде мемлекеттік сатып алулардағы преференцияларға қол жеткізуді ашады.
Атап өту маңызды: нарықтағы барлық модельдерді тексеруді ешкім жоспарлап отырған жоқ. Мәселе тек егеменді немесе ұлттық мәртебеге үміткер әзірлемелер туралы болып отыр. Енгізудің алғашқы салалары білім беру және мемлекеттік қызметтер болады.
Шешімді кім шығарады
Схема екі деңгейлі жүйені болжайды. Алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше сынайды. Содан кейін аккредиттелген зертхана оның қорытындыларын бағалайды және модельдің тұрақтылығын іріктеп тексере алады. Мәртебе туралы түпкілікті шешім Цифрлық даму министрлігінде қалады. Мемлекеттік ақпараттық жүйелерге қойылатын қауіпсіздік талаптарын ФСБ және ФСТЭК бақылайды. Ірі әзірлеушілердің тыйым салынған сұраныстарды бұғаттау құралдары қазірдің өзінде бар, сондықтан ведомство нарықтық тәжірибеге сүйенуді күтеді.
Салалық сарапшылар дәстүрлі құндылықтарды мазмұндық тұрғыда түсіндіру — күрделі міндет екеніне келіседі. Азаматтық, әділеттілік және тарихи жады техникалық тапсырмаға тікелей аударылмайды. Тек процедуралық тәсіл шынайы: бірыңғай есеп форматы, арандатушы сұраныстар жиынтығы және нәтиженің қайталануы. Негізгі тәуекел — критерийлердің «бағалаушылығы», бұл іріктеп қолдануға әкелуі мүмкін. Аккредиттейтін құрылым, бірнеше бәсекелес зертханалар және саладан тыс апелляциялық алқа бар схема жұмысқа жарамды болып көрінеді. Сондай-ақ сертификаттардың қолданылу мерзімдерін және қорытындылардың ашық тізілімін енгізу ұсынылады.
Менің талдауым: Бұл ИИ-реттеуді формалдыдан мазмұндыға айналдыратын маңызды қадам. Алайда «руханилықтың» нақты, өлшенетін метрикалары болмаса, жүйе бюрократиялық сауда-саттық құралына айналу қаупі бар. Нарыққа ашық бенчмарктер мен тәуелсіз зертханалар қажет, әйтпесе инновациялар көлеңкеге кетеді, ал мәртебелерді тек адал ойыншылар ғана алады. Уақыт көрсетеді, бұл бастама басқа юрисдикциялар үшін үлгі бола ала ма, әлде бірегей эксперимент болып қала ма.