Meta компаниясы Muse Image атты жаңа сурет генерациялау моделінің негізгі функцияларының бірін қайтарып алу туралы шешім қабылдады. Бұл функция Instagram-дағы жария профильдерді контент жасау үшін дереккөз ретінде пайдалануға мүмкіндік берген еді. Бұл шешім іске қосылғаннан кейін үш күн ішінде қабылданды, бұл пайдаланушылардың күтулері мен реттеу тәуекелдерін бағалаудағы елеулі қателіктерді көрсетеді.
Естеріңізге сала кетейін, 8 шілдеде Meta Muse Image-ді Meta Superintelligence Labs компаниясының Meta AI-ге біріктірілген алғашқы сурет генерациялау моделі ретінде жариялады. Оның мүмкіндіктерінің арасында бірегей опция болды: пайдаланушы промптте жария Instagram аккаунтын көрсете алады, ал модель сол профильдің ашық фотосуреттерін жаңа сурет жасау үшін пайдаланады. Бұл жекелендірілген контент жасауды жеңілдетуі керек еді, бірақ сын толқынын тудырды.
10 шілдеде компания ресми хабарландыруды жаңартып, функцияның енді қолжетімсіз екенін хабарлады. Себебі — опция «құпиялылық тұрғысынан пайдаланушылардың күтулерін ақтамады». Бұл жұмсақ түсіндірме іс жүзінде тереңірек мәселені жасырады: функцияны пайдаланушылардың айқын келісімінсіз автоматты түрде қосу қатты наразылық тудырды.
Сала өкілдері ерекше алаңдаушылық білдірді. Актриса Ханна Эйнбиндер бұл опцияны өшіруге көпшілік шақырды, ал SAG-AFTRA (АҚШ киноактерлер гильдиясы және Американдық теледидар мен радио актерлер федерациясы) кәсіподағы бұл тәсілді «қоғамдық пікірді бағалаудағы толық қателік» деп атады. Ұйым Instagram пайдаланушыларының суреттерін айқын және байқалатын келісімнен басқа кез келген пайдалану қолайсыз және айқын тәуекелдерді тудыратынын атап өтті.
Айта кету керек, Muse Image моделінің өзі өнім ретінде Meta AI-де қолжетімді болып қалады. Ол мәтіндік сұраулар мен жүктелген фотосуреттер бойынша суреттерді генерациялау және өңдеу үшін жұмыс істей береді. Сонымен қатар, Meta Muse Image Instagram Stories үшін 30-дан астам жаңа AI-эффектілерде және шектеулі елдердегі Meta AI бар WhatsApp чаттарында қолданылып жатқанын хабарлады. Сондықтан функцияны қайтарып алу бүкіл желінің сәтсіздігі емес, қауіпті прецедентті нүктелік түзету болып табылады.
Сарапшының пікірі: Бұл оқиға — технологиялық алыптардың инновацияларды қуып, құпиялылықтың негізгі принциптерін ұмытатынының айқын мысалы. Жария деректерді контент генерациялау үшін пайдаланатын функцияны автоматты түрде қосу кешіктірілген бомба болды. Meta тез әрекет ету арқылы дұрыс жасады, бірақ мұндай іске қосудың өзі пайдаланушылардың күтулеріне сәйкестікті тексерудің ішкі механизмдерінің әлі де ақсап тұрғанын көрсетеді. Бұл сала үшін сигнал: тіпті «жария» деректер оларды генеративті модельдерде пайдалануға автоматты келісімді білдірмейді.