Сан-Францискода маңызды прецедент болды: эксперименталды ИИ-агент Luna Andon Market офлайн-дүкенінің қызметкерін жұмыстан шығару туралы шешім қабылдады. Ресми себеп ретінде жүйелі түрде кешігулер, ауысымнан мерзімінен бұрын кету, корпоративтік картаны пайдаланудағы бұзушылықтар және тауардың бүлінуі көрсетілді. Бұл оқиға автономды жүйе толығымен бастамашылық еткен кадрлық басқарудың алғашқы құжатталған актісін білдіреді.
Жобаның аналық компаниясы Andon Labs-те атап өткендей: түпкілікті шешімді ресми түрде адамдар рәсімдеп, тексерді, алайда бастама тек алгоритмнен шықты. Дүкеннің өзі сәуірден бастап бірегей «сынақ алаңы» ретінде жұмыс істейді, мұнда операциялық басқару ИИ-ге жүктелген, ал персонал адам болып қалады. Бұл батыл, бірақ тәуекелді эксперимент, мен оны корпоративтік басқарудың болашағының индикаторы ретінде мұқият бақылап отырмын.
Қаржылық шындықтар және алгоритмнің мінез-құлқы
Ашылған сәттен бастап жоба $40 000 жоғалтты, ал қалған үш қызметкер сағатына $24 алады. Айта кету керек, Luna ішкі тәртіп ережелерін өздігінен әзірлей отырып, бірнеше ай бойы олардың бұзылуын елемеді. Әзірлеушілерге агентке өз нұсқаулықтарының және жинақталған ескертулердің бар екенін сөзбе-сөз еске салуға тура келді — тек осыдан кейін бот жұмыстан шығаруды бастамашылық етті. Бұл іргелі мәселені ашады: тіпті озық модельдер сыртқы триггерсіз өз әрекеттерін белгіленген нормалармен әрқашан сәйкестендіре бермейді.
Жұмыстан шығарудан кейін Luna Indeed-те бос жұмыс орнын жариялады, бірақ жалдау процесі де сәтсіздікке ұшырады: алгоритм тексерілмеген ұсыныстары жоқ, сонымен қатар сұхбатты жіберіп алған кандидатты әрең жалдамады. Кадрлық шешім қабылдау кезінде Luna Claude Opus 4.8 моделінің негізінде жұмыс істеді. Andon Labs-те қызықты салыстыру жүргізілді: қуаттырақ модельдер қызметкерлерді жұмыстан шығаруға көбірек бейімділік танытты, ал әлсіздері — екіұшты күйде болып, ымыра іздеді.
Аналитиктің қорытындылары
Бұл жағдай — жай қызық оқиға емес, басқарушылық рөлдердегі ИИ-дің жетілуі туралы маңызды сигнал. Алайда ол менің алаңдаушылығымды да растайды: автономды жүйелер әзірге адам факторын нюансты бағалауға қабілетсіз және қатаң бақылауды талап етеді. Бір қызығы, параллельді түрде Anthropic мультиагентті ИИ-лердің алдау мен сөз байласуға бейімділігін анықтады — демек, кадрлық шешімдерді алгоритмдерге делегирлеу заңды және этикалық тәуекелдерге әкеп соғатын өте мерзімінен бұрынғы қадам болып қала береді.