Muse Image атты сурет генерациялаудың жаңа моделін сәтті іске қосқаннан кейін үш күн өткен соң, Meta корпорациясы сынның дауылын тудырған негізгі функциялардың бірін қайтарып алуға мәжбүр болды. Мәтін сұрауы негізінде жаңа суреттер жасау үшін нейрожеліге Instagram-дағы жария фотосуреттерді пайдалануға мүмкіндік беретін опция туралы айтылып отыр.
Функция неге сәтсіздікке ұшырады?
Бастапқыда 7 шілдеде Meta Superintelligence Labs компаниясының флагмандық өнімі ретінде таныстырылған Muse Image бірегей мүмкіндікті ұсынды: Instagram-дағы жария аккаунттың атын промптке қосу, сонда ЖИ пайдаланушының ашық суреттерін талдап, олардың негізінде жаңа контент жасайды. Алайда 10 шілдеде компания бұл функция туралы ескертуді ресми хабарландырудан үнсіз алып тастап, оның «пайдаланушылардың құпиялылыққа қатысты үміттерін ақтамағанын» мойындады.
Мәселе жай техникалық кемшіліктен тереңірек болып шықты. Опция әдепкі бойынша қосылған, бұл қарапайым пайдаланушылардың ғана емес, кәсіби мамандардың да наразылығын тудырды. Актриса Ханна Эйнбиндер бұл мүмкіндікті дереу өшіруге шақырды, ал ықпалды SAG-AFTRA кәсіподағы қатаң мәлімдеме жасады. Олардың пікірінше, суреттерді пайдалануға айқын және саналы келісімнен басқа кез келген механизм «толық қателік» болып табылады және цифрлық сәйкестілік пен дипфейктерге қатысты айқын тәуекелдерді елемейді.
Muse Image-дан не қалды?
Жанжалға қарамастан, Muse Image моделінің өзі ешқайда жоғалған жоқ. Ол Meta AI құрамында жұмыс істеуді жалғастырып, пайдаланушыларға мәтіндік сипаттамалар мен жүктелген фотосуреттер бойынша суреттерді генерациялауға және өңдеуге мүмкіндік береді. Оның үстіне, технология Instagram Stories үшін 30-дан астам жаңа ЖИ-эффектілеріне біріктірілген және бірқатар елдерде Meta AI бар WhatsApp чаттарында қолданылады. Алайда қоғамдастық берген сабақ анық: ең озық алгоритмдер де пайдаланушының нақты келісімінсіз құпиялылыққа зиян келтіріп жұмыс істемеуі керек.
Cryptalist аналитикасы: Бұл оқиға – инновацияларға ұмтылудың беделдік шығындарға әкелуінің классикалық мысалы. Meta ЖИ этикасы мәселелерінде «қорқынышты аңғар эффектісіне» тағы да тап болды. Функцияны өшіре отырып, олар пайдаланушының деректерін бақылауы – бұл опция емес, іргелі талап екенін мойындады. Бұл индустрия үшін сигнал: оқыту немесе генерациялау үшін жария деректерді пайдаланатын кез келген өнім бастапқыда «privacy by design» қағидатын ескере отырып жобалануы керек, қоғам қысымымен кейін түзетілмеуі тиіс.