15 шілдеден бастап Қытайда адамның жеке басын еліктеп, тұрақты эмоционалды өзара әрекеттесуді қолдайтын жасанды интеллект негізіндегі қызметтерді реттейтін ауқымды уақытша ережелер күшіне енеді. Бұл қадам Пекиннің цифрлық технологияларды толық бақылауға алу бағытының логикалық жалғасы болды және алғашқы салдары көрініп те үлгерді: ByteDance және Alibaba өздерінің флагмандық өнімдері Doubao мен Qwen-де пайдаланушылардың жасанды интеллект агенттерінің функцияларын жаппай өшіре бастады.
Реттеудегі жаңалықтар
10 сәуірде бірден бес ведомство – Киберкеңістік әкімшілігінен Қоғамдық қауіпсіздік министрлігіне дейін – қол қойған құжат «адамға ұқсас» диалог жүргізе алатын барлық қызметтерге қатаң талаптар енгізеді. Ең бастысы: пайдаланушы адаммен емес, машинамен сөйлесіп тұрғанын нақты білуі керек. Егер жүйе шамадан тыс тәуелділік белгілерін байқаса, ол қосымша ескертулер шығаруға міндетті. Екі сағаттан артық үздіксіз пайдаланған кезде қызмет сессия уақыты туралы еске салуға міндетті.
Дағдарыстық жағдайларға ерекше көңіл бөлінген. Егер жасанды интеллект пайдаланушыда өзіне-өзі зиян келтіру, суицидтік ниет немесе елеулі қаржылық шығын белгілерін анықтаса, провайдер араласуға – тіпті қамқоршымен немесе төтенше байланыс адамымен байланысуға дейін – міндетті. Кәмелетке толмағандар үшін туыстар немесе серіктестерді қоса алғанда, виртуалды жақын қарым-қатынастарға толық тыйым салынған. 14 жасқа толмаған балалар үшін кез келген «адамға ұқсас» өзара әрекеттесу ата-ананың келісімін талап етеді.
ByteDance және Alibaba: алдын алу соққысы
Жасанды интеллект көмекшісі Doubao 15 шілдеден бастап жасанды интеллект агенттерінің функциясын өшіреді, ал 15 қазаннан кейін барлық байланысты деректер қайтарымсыз жойылады. Alibaba Cloud одан әрі барады: 10 шілдеде Qwen «адамға ұқсас интерактивті агенттерді» өшіреді, ал 15 шілдеде барлық агенттік қызметтерді тоқтатады. Пайдаланушылар параметрлер мен келіссөздер тарихына қол жеткізу мүмкіндігінен айырылады. Бұған дейін Tencent өзінің Yuanbao-да осындай қадамдар жасаған болатын.
Пайдаланушылардың Weibo-дағы реакциясы болжамды түрде теріс болды: көпшілік агенттермен ұзақ мерзімді қарым-қатынасты жоғалтуды жеке шығын ретінде қабылдады. Алайда реттеуші бұған жауап бермейді – Шанхайда «Цинлан» науқаны басталып, оның барысында 4,87 миллионнан астам заңсыз контент жойылып, 14 000-нан астам сәйкес келмейтін жасанды интеллект агенттері бұғатталды.
Қауіпсіздік шаралары мен айыппұлдар
Компаниялар кез келген жаңа «адамға ұқсас» қызметті іске қосу немесе оны елеулі өзгерту кезінде қауіпсіздікті бағалаудан өтуге міндетті. Егер қызмет 1 миллион тіркелген пайдаланушыға немесе айына 100 000 белсенді клиентке жетсе, бағалау міндетті болады. Бұзушылықтар үшін ескертулер, тіркеуді тоқтата тұру, функцияларды бұғаттау және 200 000 юаньға (шамамен $29 500) дейін айыппұл қарастырылған.
Менің талдауым: Қытай жасанды интеллект серіктестерін реттеу тек этика мәселесі емес, ұлттық қауіпсіздік пен қоғамдық денсаулық мәселесіне айналып жатқанын көрсетеді. Әлемдік нарық үшін бұл сигнал: егер Қытай – жасанды интеллект қызметтерінің ең ірі нарығы – бұрандаларды қатайтса, басқа юрисдикцияларда да осындай шаралар қабылдануы мүмкін. Инвесторлар мен әзірлеушілер эмоционалды жасанды интеллектке қатысты ережелердің жаһандық қатаңдауына дайындалуы керек, бұл алдағы 12–18 ай ішінде саланың ландшафтын елеулі түрде өзгертуі мүмкін.