Жылдам іске қосу және сол сияқты жылдам өшіру — Google компаниясының Google Earth-ке енгізген Nano Banana моделіне негізделген ИИ-сурет генераторының тарихын осылай сипаттауға болады. Құрал әзірлеушілер оны өшіруге мәжбүр болғанға дейін 24 сағаттан аз өмір сүрді. Себеп қарапайым және сонымен бірге көрсеткіш: пайдаланушылар бірден сервис ережелерін бұзудың жолын тауып, картографиялық өнімді ашық түрде жалған ақпарат тарататын контент жасау алаңына айналдырды.
Функцияның мәні мәтіндік сұраныс бойынша кез келген нүктені немесе оқиғаны тікелей картаға «сызып қою» болатын. Бұл гипотетикалық сценарийлерді визуализациялауға арналған ыңғайлы креативті құрал сияқты естілді. Алайда шындық әлдеқайда зиянсыз болып шықты. Іске қосылғаннан кейін бірнеше сағат ішінде әлеуметтік желілерде нейрожелі жасаған, мысалы, Лос-Анджелестегі жарылыстан пайда болған алып кратер немесе су басқан АҚШ Капитолийін бейнелейтін суреттер тарады.
Жүйенің тіпті негізгі сұраныс модерациясын да жеңе алмауы ерекше алаңдаушылық тудырады. Ашық деректер зерттеушісі Хенк ван Эсс өз сынақтары барысында оның промпттары, оның ішінде Мексика шекарасындағы босқындардың немесе Ирандағы ядролық нысанның суреттерін жасау сұраныстары ешқандай блоктаусыз өткенін анықтады. Бұл Nano Banana-дағы контентті сүзу механизмдерінің мүлдем болмағанын немесе өте үстіртінше бапталғанын тікелей көрсетеді.
Кәсіби талдау тұрғысынан бұл оқиға — жай техникалық ақау емес, жүйелік проблеманың белгісі. Google тағы да генеративті ИИ-ді жаппай өнімдерге енгізуге тырысуда, бірақ асығыстық беделдік тәуекелдерге әкеледі. Объективті деректер көзі ретінде қабылданатын картографиялық сервистерге келгенде, шындықты визуализациялаумен кез келген манипуляция әсіресе қауіпті. Апаттардың немесе әскери нысандардың жалған суреттері дүрбелең тудыруы немесе насихат үшін пайдаланылуы мүмкін.
Менің үкімім: Google функцияны кері қайтарып, дұрыс жасады, бірақ мұндай іске қосудың өзі ішкі сапа бақылау процестеріне сұрақ туғызады. Инновацияларды қуғанда пайдаланушылар алдындағы негізгі жауапкершілікті ұмытпау керек. Бүкіл индустрия үшін сабақ айқын: геокеңістіктік өнімдердегі генеративті ИИ тек техникалық іске асыруды ғана емес, сонымен қатар этикалық және құқықтық шектеулерді терең пысықтауды талап етеді. Әйтпесе, біз ақпараттандыратын емес, манипуляциялайтын құрал алу қаупіне тап боламыз.