Google корпорациясы Google Earth платформасына Nano Banana моделі негізінде интеграцияланған жаңа сурет генерациялайтын ИИ құралын шұғыл түрде өшірді. Бұл функция 24 сағаттан аз уақыт жұмыс істеді — мұндай жылдам тоқтату контент модерациясындағы елеулі кемшіліктерді көрсетеді.

Инновация пайдаланушыларға мәтіндік сұраулар арқылы картографиялық деректерге кез келген нысандарды немесе оқиғаларды «сызып қосуға» мүмкіндік берді. Алайда қызмет жұмысының алғашқы сағаттарында-ақ желіде платформа саясатын бұзатын ИИ генерациялаған суреттер тарай бастады. Ең резонансты мысалдардың қатарында — Лос-Анджелестегі жарылыс шұңқыры мен Вашингтондағы Капитолий ғимаратының су басқан жалған суреттері.

Жүйенің тіпті әлеуетті қауіпті сұрауларды да сүзбеуі ерекше алаңдаушылық тудырады. Ашық деректер зерттеушісі Хенк ван Эсс оның Мексика шекарасындағы босқындарды визуализациялау немесе Ирандағы ядролық нысанның бейнесін қамтитын промпттары ешқандай шектеусіз өткенін растады. Бұл Google өзінің генеративті өнімдеріне енгізетін қауіпсіздік алгоритмдерінің тиімділігіне күмән келтіреді.

Әзірлеушілер функцияның жойылуын пайдаланушылардың сервис ережелерін бұзуымен түсіндірді, бірақ реакция жылдамдығына қарағанда, мәселе тереңірек — бұл ИИ моделінің контекст пен сезімталдық маңызды рөл атқаратын геокеңістіктік деректермен жұмыс істеуге түбегейлі дайын еместігі туралы.

Менің талдауым: Бұл оқиға — генеративті ИИ-ді жаппай өнімдерге енгізу жарысының бақылау жүйелерінің дамуынан озып кеткендігінің тағы бір дәлелі. Google тағы да дилеммаға тап болды: нарыққа шығу жылдамдығы мен беделдік тәуекелдер арасындағы таңдау. Тіпті Google сияқты алыптардың да нақты географиялық нысандарды визуализациялауға қатысты барлық теріс пайдалану сценарийлерін алдын ала болжай алмайтыны айғақ. Нарыққа мұндай құралдар кең аудиторияға қолжетімді болғанға дейін контентті тексерудің қатаң стандарттары қажет.