Google корпорациясы Google Earth-ке интеграцияланған Nano Banana моделіне негізделген ИИ-сурет генераторын шұғыл түрде өшіруге мәжбүр болды. Құрал 24 сағаттан аз уақыт жұмыс істеді — функционалдың мұндай жылдам қысқартылуы іске қосу кезеңінде контентті модерациялауда елеулі қателіктер болғанын көрсетеді.

Жаңашылдықтың мәні пайдаланушылардың мәтіндік сұрау арқылы картада кез келген нысандарды немесе оқиғаларды «сызып бітіре» алатындығында болды. Алайда жұмыстың алғашқы сағаттарында-ақ механизм ашық деструктивті контенттің көзіне айналды. Желіде Лос-Анджелестегі жарылыс шұңқыры мен су басқан АҚШ Капитолийін бейнелейтін генерацияланған суреттер лезде тарады. Бұл жай техникалық ақау емес, мұндай фейктердің вирустық әлеуетін ескере отырып, ақпараттық қауіпсіздікке тікелей қауіп.

Кәсіби қоғамдастықтың реакциясы да көрсеткіш. Ашық деректер зерттеушісі Хенк ван Эсс тестілеу барысында оның сұраулары, соның ішінде Мексика шекарасындағы босқындар көріністерін генерациялау және Ирандағы ядролық нысанның суреттерін жасау ешқандай блоктауға тап болмағанын анықтады. Бұл сүзу жүйелерінің мүлдем болмағанын немесе тіпті анық сезімтал тақырыптарды да танымайтындай үстіртін бапталғанын көрсетеді.

Әзірлеушілер құралдың жойылуын пайдаланушылардың сервис ережелерін бұзатын ИИ жасаған суреттерді жариялағанымен түсіндірді. Алайда мұндай тұжырым мәселені жұмсарту әрекеті сияқты көрінеді — мәселе пайдаланушылардың мінез-құлқында емес, осалдықтарға тиісті тексерусіз шығарылған өнімнің өзінің қауіпсіздік архитектурасында.

Менің бағам: Бұл оқиға — генеративті модельдерді жаппай өнімдерге енгізу жарысының тиісті бақылау механизмдерін әзірлеуден жиі озып кететінін тағы бір еске салу. Өзін ИИ саласындағы жауапты көшбасшы ретінде ұсынатын Google үшін мұндай сәтсіздік әсіресе бедел тұрғысынан ауыр. Нарық пен реттеушілер мұндай жағдайларды барған сайын мұқият қадағалап отыр, ал релиздегі асығыстық тек техникалық қана емес, заңдық салдарларға да әкелуі мүмкін.