15 шілдеден бастап Қытайда адамның жеке басына еліктеу және эмоционалдық өзара әрекеттесуді қолдау үшін жасанды интеллектті пайдаланатын қызметтерді реттеу бойынша уақытша шаралар күшіне енеді. Тек технологиялар ғана емес, сонымен қатар бизнес-модельдер де соққыға ұшырады — ByteDance (Doubao қызметі) және Alibaba (Qwen отбасы) заңның ресми күшіне енуін күтпестен, пайдаланушылардың жасанды интеллект агенттерін өшіре бастады.
10 сәуірде қабылданған құжатты Қытайдың Киберкеңістік әкімшілігі, Мемлекеттік даму және реформалар комитеті, Өнеркәсіп және ақпараттандыру министрлігі, Қоғамдық қауіпсіздік министрлігі және Нарықты реттеу жөніндегі мемлекеттік басқарма бірлесіп әзірледі. Ол мәтін, суреттер, аудио немесе бейне арқылы адамның жеке басының ерекшеліктеріне, ойлау стиліне және қарым-қатынас мәнеріне еліктейтін, сондай-ақ эмоционалдық қолдау көрсететін қызметтерге бағытталған. Маңыздысы, регламент тұрақты эмоционалдық өзара әрекеттесуді көздемейтін стандартты қолдау, білім беру және ғылыми құралдар мен сұрақ-жауап жүйелеріне әсер етпейді.
Жаңа ережелер: хабарламалардан дағдарыстық араласуға дейін
Негізгі талаптар пайдаланушыға оның адаммен емес, жасанды интеллектпен сөйлесетіні туралы міндетті ескертуді қамтиды. Егер жүйе шамадан тыс тәуелділік немесе әдеттену белгілерін анықтаса, ол қосымша хабарламалар көрсетуі керек. Екі сағаттан артық үздіксіз пайдалану кезінде қызмет сессия уақыты туралы еске салуға міндетті. Сондай-ақ ыңғайлы шығу механизмі қарастырылған: егер пайдаланушы интерфейс немесе дауыстық пәрмен арқылы диалогты аяқтауды сұраса, қызмет адамды ұстап қалуға тырыспай, дереу тоқтатуы керек.
Ережелердің ерекше блогы дағдарыстық жағдайларға қатысты. Егер құрал пайдаланушыда күшті эмоционалдық реакцияларды, өзіне-өзі зиян келтіру белгілерін, суицидтік ниеттерді немесе өмірге қауіп төндіретін жағдайларды анықтаса, провайдер қамқоршымен немесе жедел қызметтермен байланысуды қоса алғанда, араласу шараларын қабылдауға міндетті. Кәмелетке толмағандарға виртуалды жақын қарым-қатынас (туыстар немесе серіктестер) нысандарын ұсынуға толығымен тыйым салынады. 14 жасқа толмаған пайдаланушылар үшін «адамдандырылған» жасанды интеллектпен өзара әрекеттесудің кез келген түрі ата-ананың келісімін талап етеді.
Қауіпсіздікті бағалау және айыппұлдар
Компаниялар жаңа «адамдандырылған» жасанды интеллект қызметін іске қосу кезінде немесе 1 миллион тіркелген пайдаланушыға (немесе айына 100 000 белсенді пайдаланушыға) жеткенде қауіпсіздікті бағалаудан өтуге міндетті. Есеп провинциялық киберкеңістікті реттеу органына беріледі. Бұзушылықтар үшін ескертулер, тіркеуді тоқтата тұру, функцияларды бұғаттау және 100 000 юаньға (шамамен $14 730) дейін айыппұлдар, ал өмір мен денсаулыққа зиян келтірілген жағдайда 200 000 юаньға ($29 459) дейін айыппұлдар қарастырылған.
Алыптардың реакциясы: Doubao және Qwen агенттерді өшіреді
ByteDance компаниясы 15 шілдеден бастап Doubao жасанды интеллект көмекшісі «өнімді түзетуге» байланысты жасанды интеллект агенттерінің функциясын өшіретінін мәлімдеді. 15 қазаннан кейін байланысты деректер құпиялылық саясатына сәйкес өңделеді және қолжетімсіз болады. Alibaba Cloud, өз кезегінде, 10 шілдеден бастап Qwen-дегі «адамдандырылған интерактивті агенттерді» өшіреді, ал 15 шілдеден бастап кеңірек агенттік қызметтерді тоқтатады. Бұған дейін Tencent Yuanbao-дан ұқсас функцияны алып тастады. Шешімдер Weibo-да қызу талқылауға себеп болды: пайдаланушылардың бір бөлігі агенттермен ұзақ мерзімді қарым-қатынасты жоғалтуды теріс қабылдады.
Шанхайдағы алдын алу тазартуы
Құқық қолдану дайындығы ережелер күшіне енгенге дейін басталды. 26 маусымда Шанхай киберкеңістік басқармасы «Цинлан» науқанының бірінші кезеңі туралы хабарлады. Сәуір айының аяғынан бастап реттеуші және 17 платформа 4,87 миллионнан астам заңсыз контент бірлігін жойды немесе бұғаттады, 18 000-нан астам бұзушы аккаунттарды өңдеді және платформалардан 14 000-нан астам сәйкес келмейтін жасанды интеллект агенттерін алып тастады. Реттеуші 100-ге жуық негізгі платформаға түсіндіру жұмыстарын жүргізіп, кәмелетке толмағандардың жасын тексеруді күшейтуді талап етті.
Аналитикалық пікір: Қытай, әдеттегідей, жаңа ғана қарқын ала бастаған технология үшін қатаң шеңберлер енгізе отырып, алдын ала әрекет етеді. Жаһандық нарық үшін бұл сигнал: «адамдандырылған» жасанды интеллект агенттері, әсіресе эмоционалдық байланысы барлары, жақын арада ЕО және АҚШ-та ұқсас шектеулерге тап болады. Инвесторлар мен әзірлеушілер өздерінің монетизация модельдерін және жасанды интеллект агенттерінің әрекеттері үшін заңды жауапкершілікке байланысты тәуекелдерді қайта қарауы керек — әсіресе агенттер виртуалды кеңістікте қылмыс жасаған немесе дерекқорларды жойған соңғы оқиғалар контекстінде.