Google корпорациясы Nano Banana моделіне негізделген Google Earth-ке интеграцияланған жаңа ИИ-сурет генераторын шұғыл түрде өшіруге мәжбүр болды. Құрал 24 сағаттан аз уақыт жұмыс істеді — мұндай жылдам кері қайтару контентті модерациялаудағы елеулі кемшіліктерді көрсетеді.

Функцияның мәні пайдаланушының мәтіндік сұранысы бойынша картаның кез келген нүктесіне ерікті нысандарды немесе оқиғаларды сызып қосу болды. Алайда іске қосылғаннан кейінгі алғашқы сағаттарда-ақ желіде нейрожелі жасаған жалған суреттер тарай бастады, мысалы, Лос-Анджелестегі жарылыс воронкасы немесе су басқан АҚШ Капитолийі. Мұндай контент қызмет ережелерін өрескел бұзады, бұл өшіруге формальды себеп болды.

Ашық деректер зерттеушісі Хенк ван Эсстің реакциясы көрсеткіштік: ол тестілеу кезінде оның сұраныстары — Мексика шекарасындағы босқындардың суретін жасаудан Ирандағы ядролық нысанды визуализациялауға дейін — жүйе тарапынан мүлдем блокталмағанын анықтады. Бұл бастапқы іске қосу кезеңінде тиісті қауіпсіздік сүзгілерінің жоқтығын тікелей көрсетеді.

Жағдай тағы бір рет үлкен тілдік модельдердің іргелі проблемасын көрсетеді: үлкен деректер жиынтығында оқытылған генеративті алгоритмдер өз "туындыларының" этикалық және саяси контекстін өздігінен бағалай алмайды. ИИ-шешімдерін корпоративтік және тұтынушылық сегменттерде белсенді түрде ілгерілетіп жатқан Google үшін мұндай оқиға — бұл компанияны геоқызметтерге осындай функцияларды енгізу қарқынын қайта қарауға мәжбүр етуі мүмкін беделдік соққы.

Менің көзқарасым: Бұл жекелеген ақау емес, жүйелі заңдылық. Әзірлеушілер цензура сапасын емес, өнімді нарыққа шығару жылдамдығын бірінші орынға қойып отырғанда, мұндай оқиғалар қайталана береді. Бүкіл индустрияға арналған сабақ қарапайым: ИИ-ге геокеңістіктік деректерге қол жеткізу бермес бұрын, контент-сүзгілеу механизмдерін он есе күшейту қажет, әйтпесе пайдаланушылардың сенімі түпкілікті жойылады.