2025 жылдың шілде айының басында озық жасанды интеллект модельдерін әзірлеуші Anthropic компаниясы биллинг жүйесінде елеулі ақауға тап болды. Қателік Оңтүстік Кореядан шыққан тегін тарифті пайдаланушыға астрономиялық сомаға — $16,6 млн астам шот ұсынылуына әкелді. ЖИ-қызметтерінің биллингіндегі жүйелік проблемаларды ашқан бұл оқиға ерекше назар аударуға тұрарлық.
remy_notes бүркеншік атымен жұмыс істейтін әзірлеуші өз аккаунтына төлем картасын тіркемеген және API пайдаланбаған болатын, алайда ол Anthropic-тен хабарландырулар ала бастады. Бірінші шот $1,67 млн сомасында 7 шілдеде келді. Келесі күні сома он есеге өсіп, $16 627 739-ға жетті. Барлық хабарландырулар Anthropic-тің ресми доменінен Stripe төлем қызметі арқылы келді, бұл фишинг нұсқасын жоққа шығарды.
Бұл қалай болды
Пайдаланушының жеке кабинетінде API-ге бірде-бір сұраныс болмаған, ақылы кілттер жасалмаған. Әзірлеуші өз скрипттері мен ЖИ-агенттерін мұқият тексерді, бірақ есептеу себептерін таппады. Карта лимитінің асып кетуіне байланысты банк екі рет есептен шығару әрекетін қабылдамаған соң, ақырында оны бұғаттаған кезде мәселе одан әрі ушықты. Қолдау қызметіне жағдайды шешу үшін төрт күн және шамамен 18 хат қажет болды.
Ресми ұстаным және жасырын тәуекелдер
Anthropic қатені мойындап, ақша есептен шығарылмағанын мәлімдеді. Себеп ретінде өшірілген автопополнение кредит функциясының параметрлеріндегі ақау аталды. Алайда компания автопополнение сомасының мұндай абсурдты мәндерге қалай жеткенін түсіндірмеді. Бұл ішкі бақылау жүйелерінің сенімділігіне күмән тудырады.
Бұл жалғыз жағдай емес. ЖИ-шығындарын аудиттеуге маманданған Vaudit стартапы Panasonic, HP және Honda компанияларын қоса алғанда, 60 ірі клиент үшін $34 млн шоттарды тексерді. Нәтижелер жалпы соманың шамамен 5% құрайтын $1,7 млн шамасындағы артық төлемдерді көрсетті. Ең сыни қателіктер дәл ЖИ-шешімдерінің биллингіне келеді.
Менің талдауым: ЖИ-қызметтерінің нарығы экспоненциалды түрде өсуде, бірақ биллинг инфрақұрылымы одан анық артта қалып отыр. Бұл оқиға жай ғана өкінішті қателік емес, автоматты есептеу жүйелері түбегейлі басқа қорғау механизмдерін қажет ететінінің сигналы. Пайдаланушылар, әсіресе корпоративтік, төлемдердің тұрақты аудитін енгізіп, операцияларға қатаң лимиттер орнатуы керек. Әйтпесе, кездейсоқ ақау нақты қаржылық апатқа әкелуі мүмкін.