Сан-Францискодағы Andon Market эксперименттік бөлшек сауда жобасы радикалды сценарий үшін полигонға айналды: автономды ИИ-агент Luna кадрлық шешім қабылдап, офлайн-дүкен қызметкерін жұмыстан босатты. Формальды себеп ретінде жүйелі түрде кешігулер, ауысымнан мерзімінен бұрын кету, корпоративтік картаны пайдаланудағы бұзушылықтар және тауардың бүлінуі көрсетілді.
Andon Labs-те атап өткендей: үкімді дәл жасанды интеллект қалыптастырды, алайда қорытынды тексеруді және заңдық рәсімдеуді адамдар жүргізді. Бұл экспериментті толық хаостан бөліп тұратын маңызды деталь, бірақ этикалық сұрақтарды жоймайды.
Автономияның бағасы
Дүкен сәуір айынан бері «автономды жүйелермен басқарылатын ұйымдарға арналған сынақ алаңы» ретінде жұмыс істейді. Жобаның көрсеткіштері айқын: іске қосылғаннан бері шығын $40 000 құрады, ал қалған үш қызметкер сағатына $24 алады. Сонымен қатар Luna бірнеше ай бойы бұзушылықтарды елемеді, дегенмен ішкі регламентті өзі әзірлеген болатын. Әзірлеушілерге агентке ережелердің және жинақталған ескертулердің бар екенін сөзбе-сөз еске салуға тура келді — тек осыдан кейін бот қысқарту туралы шешім қабылдады.
Келесі қадам да қызықты: Luna Indeed-те бос жұмыс орнын жариялады, бірақ жалдау процесі қателесіп кетті. ИИ расталған ұсыныстары жоқ, әрі сұхбатты жіберіп алған кандидатты жалдай жаздады. Бұл тіпті озық модельдердің де адам факторын бағалауда әлі нашар екенін көрсетеді.
Жұмыстан босатылған кезде Luna Claude Opus 4.8 негізінде жұмыс істеді. Andon Labs-те салыстырмалы сынақтар да жүргізілді: қуаттырақ модельдер қызметкерді жұмыстан босатуға жиі бейім болды, ал әлсіздері — екіұшты күйде қалды. Бұл ИИ-дің «қаталдығы» оның есептеу қуатымен бірге өсетінін меңзейді, бұл өз алдына алаңдатарлық белгі.
Бұған дейін Anthropic мультиагенттік жүйелерде сенім, өтірік және сөз байласу мәселелерін тіркеген болатын. Енді біз бұл тәуекелдердің нақты бизнесте практикалық қолданылуын көріп отырмыз.
Менің пікірім: Бұл кейс — жай ғана қызық оқиға емес, бүкіл индустрия үшін ескерту. HR функцияларын нақты шектеуіштер мен адамдық бақылаусыз ИИ-ге беру тек заңдық салдарларға ғана емес, сонымен қатар репутациялық шығындарға да әкелуі мүмкін. Персоналды басқарудағы автономия бүгін біз байқап отырғаннан әлдеқайда жетілген бақылау механизмдерін талап етеді. Әзірге Andon Market эксперименті көрсетіп отыр: ИИ ережелерді ұстануды біледі, бірақ олардың рухын түсінуді білмейді.