2025 жылдың шілде айының басында жасанды интеллект саласындағы автоматтандырылған төлем жүйелеріне көпшіліктің көзқарасын өзгертуге мәжбүр еткен оқиға болды. remy_notes бүркеншік атымен жұмыс істейтін оңтүстіккореялық әзірлеуші Anthropic компаниясының тегін тарифтік жоспарын пайдаланып, компаниядан $16,6 млн астрономиялық сомаға шот алды. Ол API арқылы ешқандай операция жасамағанына, банк картасын байламағанына және токендер жасамағанына қарамастан.
«Елес» шоттың хронологиясы
Бірінші шот $1,67 млн сомасына 7 шілдеде келді. Бір тәуліктен кейін сома он есеге өсіп, $16 627 739-ға жетті. Әзірлеуші өзінің скрипттері мен ИИ-агенттерін тексерді, бірақ есептен шығаруға ешқандай себеп таппады. Банк есептен шығару әрекеттерін екі рет қабылдамады, себебі сомалар карта лимитінен асып кетті, бірақ бірнеше сәтсіз транзакциядан кейін карта бұғатталды. Мәселені шешу төрт күнге созылды және қолдау қызметіне тек автоматты жауаптар жіберетін 18-ге жуық хат жіберуді қажет етті.
Anthropic компаниясының ресми ұстанымы және кеңірек мәселе
Компания қатені мойындап, оны автоматты түрде несие толтыру параметрлеріндегі ақаумен түсіндірді. Функция қазірдің өзінде өшірілген. Дегенмен, негізгі сұрақ жауапсыз қалды: неге автоматты толтыру сомасы осындай абсурдты мәндерге жетті? Деректердің ағып кетуі немесе қызметке үшінші тараптың қол жеткізуі анықталған жоқ.
Бұл оқиға — айсбергтің ұшы ғана. Vaudit стартапы Panasonic, HP және Honda сияқты 60 ірі клиент үшін ИИ-қызметтеріне $34 млн сомасындағы шоттарды аудиттен өткізді. Нәтижелер таңқаларлық: артық төлемдер шамамен $1,7 млн (жалпы соманың шамамен 5%) құрады. Қателердің басым көпшілігі жасанды интеллект негізіндегі шешімдердің биллингіне тиесілі.
Қорытындылар мен ұсыныстар
Бұл оқиға ірі AI-провайдерлердің төлем механизмдеріндегі жүйелік осалдықты ашады. Пайдаланушыларға ескерту: төлем панельдерін үнемі тексеріп, банк хабарландыруларын қадағалап, күдікті есептен шығаруларға жедел әрекет етіңіз. Уақытында шара қолданбасаңыз, кездейсоқ ақау елеулі қаржылық мәселеге айналуы мүмкін.
Сарапшы пікірі: Anthropic оқиғасы — жекелеген баг емес, AI жаппай енгізілген дәуірдегі биллинг жүйелерінің күрделену симптомы. Компаниялар модельдерді дамытуға назар аударған кезде, төлемдердің қауіпсіздігі мен ашықтығы екінші жоспарда қалады. Егер аудит пен пайдаланушы бақылауының қатаң стандарттары енгізілмесе, бұл бүкіл сала үшін «баяу әрекет ететін бомбаға» айналуы мүмкін.