Оңтүстік Кореялық remy_notes бүркеншік атындағы әзірлеуші ЖИ-стартапы Anthropic-тің биллинг жүйесіндегі өрескел қателіктің құрбаны болды. Claude-тің тегін тарифінде жүріп, ол астрономиялық сомаға — $16,6 млн-ға шот алды. Ол Threads әлеуметтік желісінде хабарлаған бұл оқиға 7 шілдеде $1,6 млн-ға бірінші инвойстан басталды.
Бастапқыда бағдарламашы фишинг деп күдіктенді, бірақ келесі күні төлемді талап ететін екінші хат келді — бұл жолы $16,6 млн-ға. Сілтемелер мен жіберушінің деректері Anthropic-тің ресми доменіне және оның Stripe төлем жүйесіне апарды. Сонымен қатар, remy_notes басқару панелі API пайдалануды нөлдік көрсетті, ал аккаунтта тарифтелетін кілттер болмады.
8 шілдеде банк бір транзакцияға арналған лимиттен асатын есептен шығару әрекеттерін екі рет қабылдамаған кезде жағдай ушықты. Төлемдер ANTHROP атауымен американдық сатушыдан келді. Пайдаланушы өзінің Mac mini-дегі барлық процестерді, соның ішінде сегіз ЖИ-агентін мұқият тексерді, бірақ ақауды түсіндіре алатын ештеңе таппады. Алдын алу шарасы ретінде ол Claude Max жазылымын тоқтатып, картаны бұғаттады.
Жағдайды анықтауға төрт күн және қолдау қызметіне шамамен 18 хат кетті. Жауаптардың бір бөлігі автоматты түрде — Anthropic-тің Fin есімді ЖИ-агентінен келді. Тек 12 шілдеде компания қатені растап, себебін балансты автоматты толықтыру функциясының дұрыс конфигурацияланбауы деп атады. Anthropic бір доллар да есептен шығарылмағанын мәлімдеп, сақтық шарасы ретінде бұл функцияны өшірді. Олар әзірлеушінің картасын бұғаттауды сәтсіз есептен шығару әрекеттерімен байланыстырып, аккаунтқа кіру бұзылмағанын атап өтті. Алайда жүйенің неліктен дәл $16,6 млн-ды генерациялағанын қолдау қызметі түсіндіре алмады.
Жалғыз жағдай емес: биллингтің жүйелік қателері
Бұл оқиға — айсбергтің ұшы ғана. Бұрын Vaudit аудиторлық компаниясы Anthropic және OpenAI корпоративтік клиенттері тарапынан жаппай артық төлемдерді анықтаған болатын. Наурыздан маусымға дейін олар 60 ұйымда жалпы сомасы $34 млн болатын шоттарды тексерді. Инвойстардың көп бөлігі Anthropic-тің Claude Code-ын пайдалануға қатысты болды. Мамандар шамамен $1,7 млн сомасында артық есептеулерді анықтады — бұл тексерілген көлемнің шамамен 5%-ы.
Vaudit бірнеше жүйелік қателерді атап көрсетті. Клиенттерге жаңа модельдердің тарифтері бойынша шоттар ұсынылды, бірақ іс жүзінде арзанырақ ескі нұсқа пайдаланылды. Қатемен аяқталған немесе нәтиже бермеген сұраулар үшін есептен шығарулар тіркелді. Жеке санатты «қайталау дауылдары» құрады — ЖИ-агент фондық режимде сәтсіз тапсырманы бірнеше рет қайталағанда, әрбір әрекет шотта көрсетіледі. Vaudit пен клиенттердің өтініштерінен кейін компаниялар қаражатты қайтара бастады — Amazon, Google, Microsoft, Anthropic және OpenAI артық төлемдердің шамамен 80%-ын өтеді.
Аналитик ретіндегі менің пікірім: Мұндай қателер ЖИ-қызметтерінің инфрақұрылымына деген сенімді әлсіретеді. Мұндай компаниялардағы автоматты төлем және биллинг жүйелері мінсіз болуы керек, әсіресе шағын елдің ЖІӨ-мен салыстыруға болатын сомалар туралы сөз болғанда. remy_notes оқиғасы — жай ғана курьез емес, бұл Anthropic-тің шығыстарды бақылаудың ішкі алгоритмдері елеулі жетілдіруді қажет ететіні туралы сигнал. Егер компания $16,6 млн шоттың генерациясын түсіндіре алмаса, онда оның биллинг жүйесі — кез келген пайдаланушыға соққы бере алатын «қара жәшік».