Корпоративтік әлем парадокспен бетпе-бет келді: ЖИ-агенттерді жаппай енгізу өнімділіктің күтілген өсуіне әкелмеді, керісінше басқарушылық және қаржылық проблемалардың жаңа класын тудырды. Hebbia стартапының негізін қалаушы Джордж Сивулка a16z ақпараттық бюллетеніне арналған эссесінде жүйелік қатені анықтайды — компаниялар бақылаудың тиісті инфрақұрылымынсыз агенттерді орналастыруға асықты, енді осы асығыстықтың жемісін көріп отыр.
Оның пікірінше, негізгі проблема «tokenmaxxing» тәжірибесінде — белсенділіктің басты көрсеткіші ретінде тұтынылатын токендер санына ұмтылуда. Ұйымдар ЖИ-ге жұмсалатын шығындардың жарылыс тәрізді өсуін тиімді енгізудің белгісі ретінде қате қабылдады. Сивулка мұны қатаң тұжырымдайды: «Сіз жаңа ғана миллион жаман қызметкерді жалдадыңыз». Бұл метафора емес. Агенттер еңбек шығындарын азайтпай, керісінше олардың құрылымын нашар жаққа өзгертті. Сарапшы атап өткендей, тарихта алғаш рет адамдар бағдарламалық қамтамасыз етуден арзан болып шықты.
Технологиялық емес, басқарушылық дағдарыс
Сивулканың талдауы ЖИ-агенттердің жұмысындағы ақаулар көбінесе модельдердің жетілмегендігіне емес, компаниялардың нақты міндеттерді тұжырымдай алмауына байланысты екенін көрсетеді. «Шамамен 100 қызметкердің біреуі ғана» агентке сапалы жұмыс істеу үшін жеткілікті контекст бере алады. Нәтиже — «ілмектер»: агенттер өз әрекеттерін шексіз түзетіп, теңдестірілген нәтижесіз токендерді артық жұмсайды. Бұл, мәні бойынша, «токендерді токендерге жұмсау». Біз технологиялық емес, терең басқарушылық дағдарысты байқап отырмыз.
Қаржылық салдары таңқаларлық болды. UBS Global Research деректері бойынша, ЖИ-компаниялардың барлық дерлік топ-менеджерлері жабық іс-шараларда шығындарды бақылау проблемасын мойындайды. Бір мысал — аталмаған фирмадағы Anthropic шығындары желтоқсандағы $20 000-нан шілдедегі $1 млн-ға дейін өсті. Салалық дереккөздерде айтылған тағы бір жағдай — шектеусіз ЖИ-құралдарын іске қосқан компания бір айда Claude-дан $500 млн шот алды. UBS ұйымдардың шамамен 60%-ы токендерге бақыланбайтын шығындарға байланысты қатты алаңдайтынын бағалайды.
Қажеттілік ретіндегі жаңа басқарушылық инфрақұрылым
Сивулканың пікірінше, шешім ЖИ-ден бас тартуда емес, басқарушылық инфрақұрылымды құруда: процестерді нақты сипаттау, нәтижелердің сапасын бағалау, шығындарды бақылау және, әсіресе маңыздысы, әртүрлі құны бар модельдер арасында міндеттерді бөлу. Бұл model routing туралы — қарапайым операциялар арзан модельдерге беріледі, ал қымбат озық модельдер тек маңызды сценарийлер үшін қолданылады.
Дегенмен, жасырын қауіп те бар. Қызметкерлер өз білімдерінің ЖИ-ді оқытудың негізгі ресурсы екенін түсініп, процесті бұза бастауы мүмкін. Адамдар өздерін алмастырылмайтын ететін жүйелерге ақпарат бергісі келмейді. Сенім мен ашық ережелер болмаса, жұмысшылар өздерін алмастыра алатындарға көмектеспейді. Бұл ЖИ-ді енгізуді технологиялық міндеттен әлі ешкім шешпеген күрделі әлеуметтік және басқарушылық проблемаға айналдырады.