Meta компаниясы Muse Image атты жаңа сурет генерациялау моделінің негізгі функцияларының бірін – Instagram-дағы жария профильдерді контент жасау үшін дереккөз ретінде пайдалану мүмкіндігін күтпеген жерден өшірді. Бұл шешім іске қосылғаннан кейін небәрі үш күн өткен соң қабылданды, бұл пайдаланушылардың күтулерін бағалауда елеулі қателіктер болғанын көрсетеді.
Естеріңізге сала кетейін, 8 шілдеде Meta Muse Image-ды Meta Superintelligence Labs компаниясының Meta AI-ге біріктірілген флагмандық сурет генерациялау моделі ретінде таныстырды. Басты «ерекшелігі» промптқа Instagram-дағы жария аккаунтқа сілтеме қосу мүмкіндігі болды, осылайша нейрондық желі жаңа сурет жасау үшін ашық фотосуреттерді пайдаланатын еді. Алайда 72 сағаттан кейін компания бұл функцияны өшіретінін жариялап, оны «пайдаланушылардың жекелік мәселелері бойынша күтулерін ақтамағанымен» түсіндірді.
Мәселе тереңірек болып шықты. Muse Image бұл опцияның әдепкі бойынша автоматты түрде қосылуына байланысты қатаң сынға ұшырады. Актриса Ханна Эйнбиндер пайдаланушыларды функцияны өшіруге шақырды, ал SAG-AFTRA кәсіподағы бұл тәсілді «қоғамдық пікірді бағалаудағы толық қателік» деп атады. Ұйым кез келген суреттерді айқын және байқалатын келісімсіз пайдалану қолайсыз және айқын қауіптер тудыратынын атап өтті.
Muse Image өнімінің өзі Meta AI-де мәтіндік сұраулар мен жүктелген фотосуреттер бойынша суреттерді генерациялау және өңдеу үшін қолжетімді болып қалады. Сонымен қатар, модель Instagram Stories үшін 30-дан астам жаңа AI-эффектілерде және шектеулі елдердегі Meta AI бар WhatsApp чаттарында қолданылуда. Бұл Meta технологиядан бас тартпай, тек оны қолдану векторын түзетіп жатқанын көрсетеді.
Менің сараптамалық көзқарасым: Бұл оқиға – технологиялық алыптардың инновациялар мен жекелік арасында тепе-теңдікті сақтауға тырысуының классикалық мысалы. Muse Image креаторлар үшін қуатты құрал бола алар еді, бірақ айқын келісімсіз жария профильдерді автоматты түрде сканерлеу – қызыл сызық. Meta тез әрекет етті, бірақ мұндай функцияны тиісті тексерусіз іске қосу фактісінің өзі тіпті жетілген компанияларда да AI этикасы мәселелері енгізу жылдамдығына қарағанда екінші кезекте қалатынын көрсетеді. Индустрия бұл сабақты есте сақтауы керек: пайдаланушылардың сенімі кез келген технологиялық ерекшеліктен қымбат.