TikTok дипфейк детекторын сынақтан өткізуде: платформа блогерлерді жасанды интеллект көшірмелерінен қалай қорғайды
TikTok әлеуметтік платформасы жаңа қауіпсіздік құралын — Likeness Detection сынақтан өткізуді бастайды. Бұл міндетті емес механизм жасанды интеллект көмегімен жасалған және авторының келісімінсіз оның бет-бейнесін пайдаланатын контентті анықтауға арналған. Қазіргі уақытта функция АҚШ-тағы авторлардың шектеулі тобына қолжетімді.
Құрал келесідей жұмыс істейді: жүйе платформаны белгілі бір блогердің бет-бейнесі бейнеленген, ЖИ көмегімен жасалған бейнелер мен суреттерге автоматты түрде сканерлейді. Мұндай контент анықталған кезде автор хабарлама алады және дипфейк немесе жалған аккаунтқа шағым бере алады.
Верификация процедурасы
Функцияны іске қосу үшін Jumio қызметі арқылы жеке басты қатаң тексеруден өту қажет. Процесс екі кезеңнен тұрады: нақты уақыттағы селфи және жеке куәлікті сканерлеу. Бұл жүйенің автордың биометриялық деректерін желіде таралатын контентпен дәл сәйкестендіруі үшін қажет.
Құпиялылық саясатын атап өту маңызды: компания пайдаланушылардың құжаттарының көшірмелерін сақтамайтынын мәлімдейді. Биометриялық деректер тек сәйкестіктерді іздеу үшін пайдаланылады және үшінші тұлғаларға берілмейді. Бұл құпия ақпараттың ағып кету қаупін азайтады, дегенмен биометриялық үлгілерді ұзақ мерзімді сақтау туралы сұрақтар туындатады.
Сарапшылардың пікірі: TikTok-тың бұл қадамы — әлеуметтік желілердегі дипфейктердің күрт өсуіне уақытылы жауап. Алайда құралдың тиімділігі шағымдарды өңдеу жылдамдығына және тану алгоритмдерінің дәлдігіне байланысты болады. ЖИ генерациясы шынайылыққа жақындаған сайын, пассивті анықтау қаскүнемдердің белсенділігінен қалып қоюы мүмкін. Платформаға жүктеу кезеңінде барлық синтетикалық контентті таңбалауды қоса алғанда, проактивті шараларды енгізу қажет болады.