Танымал Claude моделінің әзірлеушісі Anthropic компаниясы ыңғайсыз оқиғаның ортасында қалды. Төлем жүйесіндегі ақау салдарынан Оңтүстік Кореядан келген тегін тарифті пайдаланушы астрономиялық сомаға — $16,6 миллионнан астам шот алды. Жағдайдың ушығуына зардап шеккен адамның банк картасын байланыстырмағаны және API арқылы ешқандай операция жасамағаны себеп болды.
«Елес» шоттың хронологиясы
Шілде айының басында remy_notes бүркеншік атымен әзірлеуші Threads-те Anthropic-тен келген хаттардың скриншоттарын жариялады. Бірінші хабарлама 7 шілдеде $1 669 875 сомасына келді. Бір тәуліктен аз уақыт ішінде сома он есеге өсіп, $16 627 739-ға жетті. Сонымен қатар, пайдаланушының жеке кабинетінде API пайдалану нөлдік деңгейде қалды, ақылы кілттер болмады, ал карта байланыстырылмаған еді.
Алдымен remy_notes бұл фишинг деп шешті. Алайда хаттар Anthropic-тің ресми доменінен Stripe төлем қызметі арқылы келді. Банк 8 шілдеде екі рет есептен шығару әрекетін қабылдамады, себебі сомалар карта лимитінен асып кетті. Бірақ бірнеше сәтсіз әрекеттен кейін негізгі карта бәрібір бұғатталды.
Anthropic-тің ресми реакциясы
Компания қатені мойындап, ақшаның іс жүзінде есептен шығарылмағанын мәлімдеді. Ақаудың себебі несиені автоматты толықтыру параметрлеріндегі ақау деп аталды. Бұл функция «қауіпсіздік үшін» өшірілді. Сонымен қатар, Anthropic автоматты толықтыру сомасының неліктен осындай абсурдты мәндерге жеткенін түсіндірмеді.
Жағдайды шешу төрт күнге созылды. Шоттың жойылғаны туралы жазбаша растама алу үшін әзірлеушіге шамамен 18 хат жіберуге тура келді, оларға тек автоматты жауаптар келді.
Мәселе көрінгеннен кеңірек
Бұл жалғыз жағдай емес. Vaudit стартапы 60 ірі клиент үшін AI-қызметтеріне $34 млн шоттарды тексеріп, шамамен $1,7 млн — жалпы соманың шамамен 5% — артық төлемдерді анықтады. Ең үлкен қателер AI негізіндегі шешімдердің биллингіне тиесілі. Зардап шеккендердің қатарында Panasonic, HP және Honda бар.
Менің пікірім: Бұл оқиға AI-компаниялардың биллинг инфрақұрылымындағы сыни осалдықты көрсетеді. Клиенттер «елес» шоттарға тап болу қаупіне ұшырап, қолдау қызметі мәселені шешуге күндер жұмсаған кезде, қызметке деген сенім әлсірейді. Барлық AI-платформа пайдаланушыларына төлем панельдерін үнемі тексеріп, автоматты толықтыруға қатаң лимиттер орнатуды ұсынамын. Конфигурациядағы бір қате сізге жүйкеңізді ғана емес, банк картасының бұғатталуын да әкелуі мүмкін.