Қысқа бейнелер платформасы TikTok дипфейктерге қарсы күресте маңызды қадам жасайды. Қазіргі уақытта компания Likeness Detection деп аталатын жаңа құралды сынақтан өткізуде — ол АҚШ-тағы авторлардың шектеулі тобына қолжетімді. Бұл қосымша қызмет нақты бір автордың бет-бейнесі қолданылған, жасанды интеллектпен жасалған контентті автоматты түрде анықтауға арналған.
Жұмыс механизмі келесідей. Егер алгоритм ЖИ арқылы жасалған және автордың бет ерекшеліктерін қамтитын бейне немесе суретті тапса, платформа оған дипфейкке немесе жалған аккаунтқа шағым беру мүмкіндігін ұсынады. Алайда бұл функцияны іске қосу үшін Jumio үшінші тарап қызметі арқылы қатаң жеке басты растаудан өту қажет. Рәсім нақты уақыттағы селфи мен жеке куәлікті сканерлеуді қамтиды.
Компания мәлімдеген құпиялылық саясатын атап өту маңызды. TikTok жүктелген құжаттардың көшірмелерін сақтамайтынын, ал биометриялық деректер тек платформадағы контентпен сәйкестіктерді іздеу үшін ғана қолданылатынын мәлімдейді. Бұл жеке деректердің ағып кетуіне қатысты өсіп келе жатқан алаңдаушылық жағдайында өте маңызды.
Сарапшының аналитикалық көзқарасы
Бұл қадам — генеративті ЖИ дәуіріндегі модерация саясатының логикалық дамуы. Алайда, менің ойымша, Likeness Detection тиімділігі тану алгоритмдерінің жұмыс сапасына және авторлардың күрделі верификация рәсімінен өтуге дайындығына тікелей байланысты болады. Әзірге бұл тек нүктелік сынақ, ал шешімді миллиондаған пайдаланушыларға кеңейту орасан зор есептеу ресурстарын қажет етеді. Дегенмен, бұл әлеуметтік медиа платформасының ЖИ-контентті жай ғана белгілеу емес, бет-бейнені ұрлаудан қорғауға бағытталған құралды енгізген алғашқы маңызды прецеденті.