Қытай жасанды интеллект саласындағы реттеуді түбегейлі қатайтуға дайындалуда. 15 шілдеден бастап Киберкеңістік әкімшілігі мен Өнеркәсіп министрлігін қоса алғанда, бес негізгі ведомство әзірлеген уақытша шаралар күшіне енеді. Жаңа регламент ЖИ көмегімен адамның жеке басын, ойлау стилін имитациялайтын және тұрақты эмоционалдық өзара әрекеттесуді қолдайтын қызметтерге бағытталған. Бұл нарыққа тікелей сигнал: бақыланбайтын «виртуалды достар» мен «цифрлық серіктестер» дәуірі аяқталуға жақын.
Нақты не өзгереді?
Ережелер реттеуге тек тікелей, дауыстық және бейне интерфейстерді қоса алғанда, тілдесу елесін жасайтын жүйелер ғана жататынын нақты анықтайды. Эмоционалды байланысты көздемейтін жұмыс, білім беру немесе техникалық қолдау құралдары әрекет аймағынан тыс қалады. Негізгі талаптар: пайдаланушыны адаммен емес, ЖИ-мен сөйлесетіні туралы міндетті түрде хабардар ету; екі сағаттан ұзақ сеанстарды уақытты еске салумен бұғаттау; және, әсіресе маңыздысы, шығудың қарапайым механизмі — қызмет пайдаланушыны ұстап қалуға құқығы жоқ.
Кәмелетке толмағандарды қорғау және дағдарыстық араласу
Жеке және, менің ойымша, ең маңызды блок кәмелетке толмағандарға қатысты. Оларға «виртуалды жақындар» — туыстар немесе серіктестер функцияларын ұсынуға толық тыйым салынады. 14 жасқа дейінгі балалар үшін адамдандырылған ЖИ-мен кез келген өзара әрекеттесу ата-ананың келісімін талап етеді. Сонымен қатар, жүйе суицидтік ниеттердің, өзіне-өзі зиян келтірудің немесе күшті эмоционалдық реакциялардың белгілерін анықтауға және қамқоршыға немесе жедел қызметтерге хабарласып, дереу араласуға міндетті. Бұл жай реттеу емес, технологияның психологиялық әсерін бақылауға алу әрекеті.
Алыптардың реакциясы: ByteDance және Alibaba функцияларды тоқтатады
Ірі ойыншылар бейімделуді бастап кетті. ByteDance компаниясының Doubao ЖИ-көмекшісі 15 шілдеден бастап пайдаланушының ЖИ-агенттері функциясын өшіреді, ал сөйлесу тарихын қоса алғанда, барлық деректер 15 қазанға дейін қайтарымсыз жойылады. Alibaba Cloud өз кезегінде 10 шілдеден бастап Qwen-дегі «адамдандырылған интерактивті агенттердің» жұмысын тоқтатады, ал 15 шілдеге қарай барлық агенттік қызметті толығымен жабады. Tencent те Yuanbao-дан ұқсас функцияны алып тастады. Әлеуметтік желілердегі пайдаланушылардың реакциясы, күтілгендей, теріс — көпшілік ұзақ мерзімді «виртуалды қарым-қатынастардың» жоғалуын жеке шығын ретінде қабылдайды.
Құқық қолдану және айыппұлдар
Enforcement-ке дайындық алдын ала басталды. Шанхайда «Цинлан» науқаны аясында 4,87 миллионнан астам заңсыз контент бірлігі жойылып, 14 000-нан астам сәйкес келмейтін ЖИ-агенттер алынып тасталды. Жаңа ережелерді бұзғаны үшін ескертулер, функцияларды бұғаттау, пайдаланушыларды тіркеуді тоқтата тұру, сондай-ақ айыппұлдар — стандартты бұзушылықтар үшін 100 000 юаньға дейін (шамамен $14 730) және өмір мен денсаулыққа зиян келтірілген жағдайда 200 000 юаньға дейін ($29 459) қарастырылған. Сонымен қатар, 1 миллион тіркелген пайдаланушыға немесе айына 100 000 белсенді клиентке жеткен кез келген қызмет міндетті қауіпсіздік бағалауынан өтуге тиіс.
Менің пікірім: Қытай технологиялық прогресс этикалық және құқықтық шеңберлерден тыс өмір сүре алмайтынын тағы бір рет көрсетіп отыр. Бұл прецедент, ең алдымен, басқа юрисдикциялармен де қабылданады, бұл ұзақ мерзімді перспективада «эмоционалды» ЖИ-өнімдерінің дамуын жаһандық баяулатуға әкеледі, бірақ сонымен бірге қауіпсіз шешімдерге деген сенімді арттырады. Нарық өз басымдықтарын қайта қарауға мәжбүр болады: «максималды тартудан» «жауапкершілікті өзара әрекеттесуге».