Google корпорациясы Google Earth-ке интеграцияланған Nano Banana моделіне негізделген ИИ-сурет генераторын шұғыл түрде өшіруге мәжбүр болды. Құрал бір тәуліктен аз уақыт жұмыс істеді — нейрожелі ешқандай шектеусіз жасаған ашық қауіпті контентке қауымдастықтың реакциясы соншалықты жылдам болды.

Функционал пайдаланушыларға картадағы кез келген нысандарды немесе оқиғаларды мәтіндік сипаттама бойынша «сызып бітіруге» мүмкіндік берді. Алайда жұмыстың алғашқы сағаттарында-ақ желіге Лос-Анджелестегі жарылыс салдары мен АҚШ Капитолийінің су астында қалған бейнесін бейнелейтін генерацияланған суреттер тарап кетті. Бұл жай ғана зиянсыз артефактілер емес — мұндай жалған ақпарат дүрбелең тудыруы немесе дезинформациялық науқандарда қолданылуы мүмкін.

Жүйенің ең сезімтал сұраныстарды да сүзгіден өткізбеуі ерекше алаңдаушылық тудырады. Ашық деректер зерттеушісі Хенк ван Эсс көпшілік алдында растады: оның промпттары, соның ішінде Мексика шекарасындағы босқындардың немесе Ирандағы ядролық нысандардың суреттерін генерациялау, ешбір ескертусіз немесе бұғаттаусыз өтті. Бұл Google-дің зиянды контентке қарсы күрес жөніндегі меншікті саясатын тікелей бұзу болып табылады.

Әзірлеушілер құралдың жойылуын пайдаланушылардың сервис ережелерін жаппай бұзуымен түсіндірді. Алайда, менің ойымша, мәселе тереңірек: компания геокеңістіктік контекстегі генеративті модельдерге байланысты тәуекелдерді анық жете бағаламады. Нейрожелі нақты координаттарға қол жеткізгенде, қиял мен «деректі» куәлік арасындағы шекара апатты түрде тез жойылады.

Бұл оқиға — тиісті бақылаусыз ИИ-ді асығыс енгізу беделге соққы болуы мүмкін екендігінің жарқын мысалы. Google мұндай қуатты құралды ашық қолжетімділікке шығармас бұрын, алдымен модерация механизмдерін жабық пайдаланушылар тобында сынап көруі керек еді. Әйтпесе, біз мұндай сәтсіздіктерді қайта-қайта байқаймыз — тек Google сияқты алыптарда ғана емес.