ИИ үшін рухани скрининг: Ресейде модельдерді дәстүрлі құндылықтарға міндетті тексеру енгізілуде
Ресейдің жасанды интеллект нарығы тектоникалық өзгерістер табалдырығында тұр. Бұл тек техникалық реттеу туралы емес, суверенді немесе ұлттық мәртебеге үміткер ЖИ модельдері үшін «рухани-адамгершілік сараптаманы» енгізу туралы болып отыр. Шілде айының соңында «Цифрлық экономика» АНО алаңында белсенді талқыланған бұл бастама мемлекеттік тапсырыстар мен преференцияларға қол жеткізгісі келетін әзірлеушілер үшін ойын ережелерін түбегейлі өзгертеді.
Жаңа тексеру жүйесі қалай жұмыс істейді?
26 шілдеде күшіне енген ЖИ туралы заң рамкалық сипатқа ие, сондықтан негізгі тетіктерді заңға тәуелді актілерде белгілеу қажет болады. Өз моделіне жоғары мәртебе алуға үміткер әзірлеуші оның тек заңнамаға ғана емес, сонымен қатар белгілі бір «дәстүрлі құндылықтарға» сәйкестігін дәлелдеуі тиіс. Бұл құндылықтардың тізімі бар жеке құжат жоспарланбағаны айта қаларлық — олар президенттің № 809 жарлығында бекітілген деп болжанады.
Формальды тізімнің орнына реттеушілер бизнеспен бірлесіп арнайы бенчмарктерді — модельдерді тексеруге арналған тест жиынтықтарын әзірлейді. Процедура екі кезеңнен тұрады: алдымен әзірлеуші модельді жалпы тәуекелге бағытталған әдістеме бойынша өз бетінше тексереді, содан кейін аккредиттелген зертхана бұл қорытындыларды бағалайды және жүйенің тұрақтылығын іріктеп тексере алады, оның ішінде промпт-инъекциялар арқылы бұзу әрекеттерін де қамтиды.
Сәйкестік туралы қорытынды қорытынды қаулы үкіметтік цифрландыру комиссиясына жіберіледі. Дәл осы оң қорытынды мемлекеттік қолдау мен мемлекеттік сатып алулардағы артықшылықтарға «алтын билет» болады. Сонымен қатар, нарықтағы барлық модельдерді ешкім тексермейтіні атап өтіледі — тек стратегиялық мәртебеге үміткерлер ғана. Алғашқы енгізу салалары білім беру және мемлекеттік қызметтер болады.
Руханият мәселелерінде кім төреші болады?
Негізгі мәселе — бұл үкімді кім шығарады. Схема бірыңғай тағайындалған орталықты емес, аккредиттелген зертханалар пулын құруды көздейді. Оларға қойылатын талаптар бизнеспен бірлесіп әзірленеді. Мәртебе бойынша түпкілікті шешім Цифрлық даму министрлігінде қалады, ал мемлекеттік жүйелер үшін қауіпсіздікті ФСБ және ФСТЭК тексереді.
Кәсіби қауымдастықта негізделген алаңдаушылықтар айтылуда. «Авандок» экожүйесінің ЖИ жобаларының бизнес-архитекторы Алексей Борщов «азаматтық» немесе «тарихи жады» сияқты категориялардың техникалық тапсырмаға аударылуы қиын екенін әділ атап өтеді. Ал «Пропозитум» адвокаттық бюросының басқарушы серіктесі Дмитрий Галанцев критерийлердің «бағалаушылық» тәуекелі туралы ескертеді, бұл іріктеп қолдануға әкелуі мүмкін.
Менің талдауым: Бұл реттеуші логика технологиялық шындықтан озып тұрған классикалық жағдай. «Руханиятты» бенчмарктер түрінде формализациялау — күрделі міндет және ол не формальды көзқарасқа, не жасырын бақылау құралын жасауға әкелуі мүмкін. Нарық үшін бұл шығындардың өсуі мен кіру кедергілерінің күшеюін білдіреді, бұл ұзақ мерзімді перспективада инновацияларды тежеуі мүмкін. Алайда контентті сүзу құралдары бар ірі ойыншылар үшін бұл өз позицияларын нығайту мүмкіндігі.