Оңтүстік Кореялық әзірлеуші, remy_notes бүркеншік атымен танымал, Anthropic төлем жүйесіндегі өрескел ақауға тап болды. Ол API-ді пайдаланбаса, төлем картасын байламаса және тегін тарифте қалса да, оның сервистегі шоты астрономиялық $16,6 млн-ға жетті. Threads-те жарияланған бұл оқиға әлеуметтік желілерді тез аралап, AI алыптарының төлем шешімдеріндегі жүйелік проблемаларды ашты.
«Елес» шот қалай он есе өсті
Бірінші шот $1 669 875 сомасына 7 шілдеде келді. Бір тәуліктен аз уақыт ішінде жүйе жаңа шотты — $16 627 739 сомасына ұсынды. Таңқаларлығы, осы уақыт бойы пайдаланушы ешқандай әрекет жасамаған. remy_notes скрипттері мен AI агенттерін тексеру есептен шығару себептерін анықтаған жоқ. Хаттар Anthropic-тің ресми доменінен Stripe арқылы келді, бұл фишингті жоққа шығарды.
Пайдаланушының банкі 8 шілдеде екі есептен шығару әрекетін қабылдамады, себебі сомалар карта лимитінен асып кетті. Алайда бірнеше қайталау әрекетінен кейін негізгі карта бұғатталды. Мәселені шешуге төрт күн және қолдау қызметіне шамамен 18 хат кетті — нақты жауаптың орнына remy_notes тек автоматты жауап хаттар алды.
Anthropic-тің ресми ұстанымы және мәселенің ауқымы
Anthropic қатені мойындап, оны автопополнение кредит параметрлеріндегі ақаумен түсіндірді. Функция қауіпсіздік мақсатында өшірілді. Алайда компания автопополнение сомасының неліктен осындай абсурдты мәнге жеткенін түсіндірмеді.
Бұл оқиға — айсбергтің ұшы ғана. Vaudit стартапы 60 ірі клиент үшін AI қызметтеріне $34 млн шоттарды тексеріп, шамамен $1,7 млн (жалпы соманың шамамен 5%) артық төлемдерді анықтады. Зардап шеккендер қатарында — Panasonic, HP және Honda. Ең үлкен қателіктер дәл AI шешімдерінің биллингіне келеді.
Менің сараптамалық қорытындым: Anthropic-тегі оқиға — бүкіл сала үшін дабыл қоңырауы. Тиісті бақылаусыз төлемдерді автоматтандыру пайдаланушылар үшін апатты салдарға әкелуі мүмкін. Төлем панельдерін үнемі тексеріп, банк хабарламаларын қадағалап, күдікті есептен шығаруларға жауап беріңіз. Ақаулар нормаға айналған AI әлемінде сақтық — сіздің жалғыз қорғанысыңыз.