2025 жылдың 15 шілдесінен бастап Қытайда адамның жеке басын имитациялайтын және тұрақты эмоционалдық өзара әрекеттесуді қолдайтын жасанды интеллект негізіндегі қызметтерді реттейтін уақытша шаралар күшіне енеді. Бұл қадам ByteDance және Alibaba сияқты алыптардың өздерінің флагмандық өнімдерінде — Doubao және Qwen — пайдаланушының ЖИ-агенттерінің функцияларын өшіруіне әкелді.
10 сәуірде Қытайдың Киберкеңістік әкімшілігі, Мемлекеттік даму және реформалар комитеті, Өнеркәсіп және ақпараттандыру министрлігі, Қоғамдық қауіпсіздік министрлігі және Мемлекеттік нарықты реттеу басқармасы бірлесіп қабылдаған құжат ЖИ көмегімен адамның жеке басының ерекшеліктерін, ойлау стилін және қарым-қатынас мәнерін қайта жаңғыртатын, мәтін, сурет, аудио немесе бейне арқылы эмоционалдық қолдауды қамтамасыз ететін қызметтерге қатаң ережелер енгізеді. Айта кету керек, регламент стандартты қолдау жүйелеріне, сұрақ-жауап жүйелеріне, жұмыс көмекшілеріне, сондай-ақ білім беру және ғылыми құралдарға, егер олар тұрақты эмоционалдық өзара әрекеттесуді көздемесе, әсер етпейді.
Жаңа ережелердің негізгі талаптары
Мұндай қызметтерді жеткізушілер пайдаланушыға оның адаммен емес, ЖИ-мен әрекеттесетіні туралы нақты ескертуге міндетті. Егер жүйе шамадан тыс тәуелділік немесе әдеттену белгілерін анықтаса, ол қосымша хабарландырулар көрсетуі керек. Екі сағаттан астам үздіксіз пайдалану кезінде қызмет сессия уақыты туралы еске салуға міндетті. Регламент сонымен қатар ыңғайлы шығу механизмін талап етеді: егер пайдаланушы интерфейс, дауыстық команда немесе кілт сөз арқылы өзара әрекеттесуді аяқтауды сұраса, қызмет дереу тоқтап, адамды ұстап қалуға тырыспауы керек.
Дағдарыстық жағдайларға ерекше назар аударылады. Егер құрал пайдаланушыда күшті эмоционалдық реакцияларды, өзіне-өзі зиян келтіру белгілерін, суицидтік ниеттерді, өмір мен денсаулыққа қауіп төндіретін жағдайларды немесе елеулі қаржылық шығындарды анықтаса, жеткізуші араласу шараларын қабылдауға, оның ішінде пайдаланушыға көмектесуге және қамқоршыға немесе төтенше жағдай байланысына хабарласуға міндетті. Кәмелетке толмағандарға туыстарды немесе серіктестерді қоса алғанда, виртуалды жақын қарым-қатынас нысандарын ұсынуға қатаң тыйым салынады. 14 жасқа толмаған пайдаланушылар үшін «адамға ұқсас» ЖИ-өзара әрекеттесудің кез келген басқа түрлері ата-аналардың немесе қамқоршылардың келісімін талап етеді.
Қауіпсіздік және жауапкершілік
Компаниялар жаңа «адамға ұқсас» ЖИ-қызметін іске қосу, мұндай функцияларды қосу немесе технологияны елеулі түрде өзгерту кезінде қауіпсіздікті бағалаудан өтуге міндетті. Дәл осындай міндет қызмет 1 миллион тіркелген пайдаланушыға немесе айына 100 000 белсенді клиентке жеткенде туындайды. Қауіпсіздікті бағалау туралы есеп провинциялық киберкеңістікті реттеу органына берілуі керек. Билік органдары ұлттық қауіпсіздікке, қоғамдық мүдделерге немесе пайдаланушыларды қорғауға қауіп төнетінін көрсе, бағалауды талап ете алады.
Бұзушылықтар үшін ескертулер, қызмет жұмысын түзету талаптары, пайдаланушыларды тіркеуді тоқтата тұру немесе жекелеген функцияларды бұғаттау қарастырылған. Сондай-ақ 100 000 юаньға (шамамен $14 730) дейін және өмір мен денсаулыққа зиян келтірілген жағдайда 200 000 юаньға ($29 459) дейін айыппұл салу мүмкін.
Нарықтың реакциясы: Doubao және Qwen функцияларды өшіреді
Doubao ЖИ-көмекшісі 15 шілдеден бастап «өнімді түзетуге» байланысты ЖИ-агенттер функциясын өшіреді. 15 қазаннан кейін байланысты деректер ByteDance құпиялылық саясатына сәйкес өңделеді және қосымшада қарау немесе қалпына келтіру үшін қолжетімсіз болады. Alibaba Cloud компаниясының Qwen 10 шілдеде «адамға ұқсас интерактивті агенттерді» және пайдаланушылар жасаған агент функцияларын өшіреді, ал 15 шілдеде кеңірек агенттік қызметтердің жұмысын тоқтатады. Клиенттер параметрлерге және бұрынғы әңгімелерге қол жеткізу мүмкіндігінен айырылады. Бұған дейін Tencent Yuanbao-дан ұқсас функцияны алып тастаған болатын. Бұл шешімдер Weibo-да қызу талқылауға себеп болды, онда пайдаланушылардың бір бөлігі агенттермен ұзақ мерзімді қарым-қатынасты жоғалтуды теріс қабылдады.
Құқық қолдану тәжірибесі: Шанхайдағы тазарту
Жаңа ережелерге дайындық алдын ала басталды. 26 маусымда Шанхай киберкеңістік басқармасы ЖИ-қосымшаларындағы бұзушылықтарға қарсы «Цинлан» науқанының бірінші кезеңі туралы хабарлады. Сәуір айының соңынан бастап реттеуші және 17 платформа 4,87 миллионнан астам заңсыз және зиянды контент бірлігін жойды немесе бұғаттады, 18 000-нан астам бұзушы аккаунттарды өңдеді және платформалардан 14 000-нан астам сәйкес келмейтін ЖИ-агенттерді алып тастады. Ведомство 100-ге жуық негізгі платформаға түсіндіру жұмыстарын жүргізіп, кәмелетке толмағандардың жасын тексеруді күшейтуді, эмоционалдық тәуелділік пен тұтынушылық қысымның алдын алуды талап етті.
Сарапшы ретінде мен мұны логикалық, бірақ өте қатаң қадам деп санаймын. Қытай іс жүзінде ЖИ-агенттерге эмоционалдық байланыс тек технологиялық тренд емес, әлеуетті әлеуметтік қауіп екенін мойындайды. Бұл шаралар жаһандық реттеу үшін прецедент жасайды және басқа елдерге, оның ішінде АҚШ пен ЕО-ға ұқсас шектеулер туралы ойлануға тура келеді. Миллиардтаған долларға бағаланатын ЖИ-серіктестер нарығы енді елеулі кедергілерге тап болады, бұл оның өсуін бәсеңдетуі мүмкін, бірақ оны қауіпсіз етуі ықтимал.