ИИ үшін рухани скрининг: Ресейде модельдерді дәстүрлі құндылықтарға міндетті тексеру енгізілуде
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. 26 шілдеден бастап ЖИ туралы негіздемелік заң күшіне енді, енді ол нақты мазмұнға ие болып келеді. «Цифрлық экономика» АНО алаңында кәсіби қауымдастықта белсенді талқыланып жатқан басты жаңашылдық — «егеменді» немесе «ұлттық» мәртебесіне үміткер іргелі модельдер үшін міндетті сертификаттауды енгізу. Бұл жай техникалық аудит емес, заңнамаға және, одан да қызығы, дәстүрлі рухани-адамгершілік құндылықтарға сәйкестікті тексеру туралы болып отыр.
Жаңа жүйе қалай жұмыс істейді?
Механика келесідей көрінеді. Мемлекеттік қолдау мен мемлекеттік сатып алудағы преференцияларға қол жеткізгісі келетін әзірлеуші аккредиттелген сынақ зертханасына жүгінуі тиіс. Онда құжаттар пакеті ұсынылады: өтініш, модель архитектурасы және сұраныстарды сүзу механизмдерінің сипаттамасы. Өз кезегінде зертхана арнайы бенчмарктар бойынша бірқатар сынақтар жүргізеді, тек жауаптардың дұрыстығын ғана емес, сонымен қатар промпт-инъекцияларға — кіріс деректерінде жасырылған зиянды нұсқаулармен ЖИ-ді бұзу әрекеттеріне төзімділікті тексереді.
Маңызды нюанс: тексерудің негізіне алынатын құндылықтардың бірыңғай тізімі әзірге жоқ. Оның орнына бизнеспен бірлесіп тестілік тапсырмалар жиынтығын әзірлеу шешілді. Қорытындыны арнайы цифрландыру комиссиясы шығарады, және дәл осы оң қорытынды мемлекеттік тапсырыстарға жолдама болады. Бұл ретте барлығын емес, тек жоғары мәртебеге үміткер модельдерді ғана тексеру жоспарлануда. Алғашқы енгізу салалары білім беру және мемлекеттік қызметтер болады.
Қорытындыны кім шығарады?
Ұйымдастыру схемасы да қызықты. Бір монополиялық орталықтың орнына мемлекеттік органнан тексеруден өткен бірнеше зертхана сараптама жүргізе алады. Екі сатылы жүйе болжанады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше сынайды, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және тұрақтылықты іріктеп тексере алады. Мәртебе туралы түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздік мәселелерін ФСБ мен ФСТЭК бақылайды.
Салада негізделген алаңдаушылықтар айтылып жатыр. «Авандок» ЖИ-экожүйесінің бизнес-архитекторы Алексей Борщов азаматтық немесе тарихи жады сияқты категорияларды техникалық тапсырмаға аудару өте қиын екенін дұрыс атап өтеді. Ал «Пропозитум» адвокаттық бюросының басқарушы серіктесі Дмитрий Галанцев критерийлердің «бағалаушылық» тәуекелі туралы ескертеді, бұл іріктеп қолдануға әкелуі мүмкін. Ол аккредиттейтін құрылымды, бірнеше бәсекелес зертхананы және апелляциялық алқаны, сондай-ақ қорытындылардың жария тізілімін және сертификаттардың қолданылу мерзімдерін енгізуді ұсынады.
Аналитик пікірі: Бұл ЖИ реттеуді таза техникалық жазықтықтан идеологиялық жазықтыққа шығаратын маңызды қадам. Нарық үшін бұл қос сын: бір жағынан, мемлекеттік секторға кіруге нақты кедергі пайда болады, екінші жағынан, «руханилықты» түсіндірудегі жоғары дәрежедегі белгісіздік инновацияларды тежей алады. Бастаманың табысы бағалау процедурасының қаншалықты ашық және қайталанатын болатынына тікелей байланысты болады. Әйтпесе, біз қауіпсіздік құралын емес, нарықты қолмен басқару механизмін алу қаупіне ұшыраймыз.