Танымал Claude моделінің әзірлеушісі Anthropic компаниясы биллинг жүйесіндегі өрескел ақауға байланысты жанжалдың ортасында қалды. Оңтүстік Кореядан келген тегін тарифті пайдаланушы $16,6 млн астрономиялық сомаға шот алды. Айта кетерлігі, remy_notes бүркеншік атындағы әзірлеуші ақылы API кілттерін пайдаланбаған ғана емес, тіпті аккаунтқа банк картасын да тіркемеген.
Оқиға 7 шілдеде басталды, сол күні пайдаланушының пошта жәшігіне $1,67 млн сомасындағы алғашқы хабарландыру келді. Келесі күні сома он есеге өсіп, $16,6 млн-ға жетті. Осы уақыт бойы әзірлеуші жүйеде ешқандай әрекет жасамаған: оның дашборды API пайдаланудың нөлдік көрсеткішін көрсеткен, ал ақылы кілттер болмаған. Дегенмен, хаттар Stripe төлем қызметі арқылы Anthropic-тің ресми доменінен келген, бұл фишинг туралы нұсқаны жоққа шығарған.
Банктің реакциясы және төрт күндік хат алмасу
Пайдаланушының банкі 8 шілдеде ақшаны есептен шығару әрекеттерін екі рет қабылдамады, себебі сомалар карта лимитінен асып кеткен. Алайда бірнеше сәтсіз әрекеттен кейін негізгі карта бұғатталды. Шоттардың жойылғаны туралы жазбаша растау алу үшін әзірлеушіге төрт күн және Anthropic қолдау қызметіне шамамен 18 хат жіберу қажет болды. Нақты жауаптың орнына ол тек автоматты жауап хаттар алды.
Anthropic қатені мойындап, оны несиені автоматты толықтыру функциясының параметрлеріндегі ақаумен түсіндірді. Компания ақшаның іс жүзінде есептен шығарылмағанын және функцияның өзі мұндай оқиғалардың алдын алу үшін өшірілгенін мәлімдеді. Алайда Anthropic өкілдері автоматты толықтыру сомасының неліктен осындай абсурдтық мәндерге жеткенін нақты түсіндіре алмады. Пайдаланушы корей уақыты бойынша дүйсенбінің соңына дейін мерзімі бар ультиматум қоюға мәжбүр болды.
Жүйелік мәселе: ИИ компанияларының биллинг қателері
Бұл оқиға жалғыз емес. Vaudit стартапы Panasonic, HP және Honda сияқты 60 ірі клиент үшін ИИ қызметтеріне $34 млн шоттарды аудиттен өткізді. Нәтижелер жалпы соманың шамамен 5% құрайтын $1,7 млн шамасындағы артық төлемдерді көрсетті. Ең үлкен қателер дәл жасанды интеллект негізіндегі шешімдердің биллингіне тиесілі. Бұл мәселенің жүйелік сипатта екенін және бүкіл салаға әсер ететінін көрсетеді.
Менің сараптамалық пікірім: Бұл оқиға ИИ саласындағы автоматтандырылған биллинг жүйелерінің апатты салдарлармен ақау беруінің айқын мысалы болып табылады. Нарыққа шұғыл түрде шығындарды бақылау мен шектеудің анағұрлым ашық тетіктері қажет, әсіресе тегін тарифтерді пайдаланушылар үшін. Anthropic сияқты компаниялар қатаң қауіпсіздік және хабарландыру хаттамаларын енгізбейінше, мұндай «елес шоттар» салаға деген сенімді әлсірете береді. Пайдаланушыларға төлем панельдерін үнемі тексеріп, банктен келген кез келген күдікті хабарландыруға жедел әрекет етуді әдетке айналдыру ұсынылады.