Anthropic компаниясының Claude AI платформасының қолданушысымен болған оқиға стартаптың биллинг жүйесіндегі елеулі ақауларды анықтады. 7 шілдеде Оңтүстік Кореядан келген remy_notes бүркеншік атындағы әзірлеуші $1,6 млн сомасындағы алғашқы шот-фактураны алды. Алдымен ол мұны фишинг деп ойлады, бірақ келесі күні $16,6 млн сомасындағы жаңа талап келді. Жіберуші мен төлем сілтемесі Anthropic-тің ресми доменіне және оның Stripe төлем шлюзіне апарды, ал қолданушының басқару панелі API пайдаланудың нөлдік көрсеткішін көрсетті.
Әзірлеушінің банк картасынан ақша алу әрекеттері бір транзакцияға арналған лимиттен асып кеткендіктен екі рет қабылданбады. Аударымдар ANTHROP атауымен американдық сатушыдан келді. Қолданушы өзінің Mac mini құрылғысындағы сегіз AI-агентті қоса алғанда, барлық іске қосылған процестерді тексерді, бірақ күдікті ештеңе таппады. Алдын алу шарасы ретінде ол Claude Max жазылымын тоқтатып, картаны бұғаттады.
Жағдайды анықтауға төрт күн және қолдау қызметіне шамамен 18 хат жіберу кетті. Жауаптардың бір бөлігі автоматты түрде — Fin есімді Anthropic AI-агентінен келді. Тек 12 шілдеде компания қатені растап, бір доллар да есептен шығарылмағанын мәлімдеді. Себеп ретінде сақтық шарасы ретінде өшірілген дұрыс конфигурацияланбаған балансты автоматты толтыру функциясы аталды. Сонымен қатар, жүйе неліктен дәл $16,6 млн сомасын генерациялағанын Anthropic түсіндіре алмады.
Жалғыз жағдай емес: биллингтегі жүйелік қателер
Бұл оқиға оқшауланған емес. Наурыздан маусымға дейін 60 ұйымда жалпы сомасы $34 млн болатын шоттарды тексерген Vaudit аудиторлық компаниясы $1,7 млн (тексерілген көлемнің шамамен 5%) артық есептеулерді анықтады. Шот-фактуралардың көпшілігі Anthropic-тің Claude Code қолдануына қатысты болды. Мамандар бірнеше жүйелік қателерді тапты: клиенттерге жаңа модельдердің тарифтері бойынша шоттар ұсынылды, бірақ іс жүзінде ескірген арзанырақ нұсқа пайдаланылды; қатемен аяқталған немесе нәтиже бермеген сұраныстар үшін есептен шығарулар тіркелді. Жеке санатты «қайталау дауылдары» құрады — AI-агент фондық режимде сәтсіз тапсырманы бірнеше рет қайталағанда, әрбір әрекет шотта көрсетіледі.
Vaudit және клиенттердің өтініштерінен кейін Amazon, Google, Microsoft, Anthropic және OpenAI артық төлемдердің шамамен 80% өтеді.
Бұл жағдай іргелі мәселені көрсетеді: AI инфрақұрылымы күрделенген сайын, биллинг жүйелері «қара жәшікке» айналады, мұнда қателер миллиондарға түсуі мүмкін. Қолданушылар шоттарды мұқият бақылап, автоматты толтыруға қатаң лимиттер белгілеуі керек, ал компаниялар өз төлем жүйелерінің аудитіне инвестиция салуы қажет, әйтпесе бедел тәуекелдері кез келген үнемдеуден асып түседі.