Anthropic жүйесіндегі ақау: Оңтүстік Кореядан келген пайдаланушыға тегін тариф үшін $16,6 млн шот-фактура жіберілді
Жасанды интеллект әзірлеушісі Anthropic компаниясының биллинг жүйесінде елеулі оқиға орын алды. Қателік салдарынан Оңтүстік Кореядан келген тегін тариф қолданушысына API пайдаланбағанына және төлем картасын байламағанына қарамастан, $16,6 миллионнан астам сомаға шот қойылды.
Әлеуметтік желілерде кеңінен таралған бұл оқиға 7 шілдеде басталды, remy_notes бүркеншік атымен жүретін қолданушы $1 669 875 сомасындағы алғашқы шотты алды. Келесі күні сома он есеге өсіп, $16 627 739-ға жетті. Сонымен қатар, әзірлеуші ешқандай операция жасамаған, ал оның жеке кабинетінде API пайдалану нөлдік көрсетілген.
Жағдайдың анық абсурдтығына қарамастан, шоттар Anthropic-тің ресми доменінен Stripe төлем қызметі арқылы келген. Қолданушының банкі бірнеше сәтсіз есептен шығару әрекетінен кейін оның картасын бұғаттады. Әзірлеушіге шоттардың жойылғаны туралы жазбаша растама алу үшін төрт күн және шамамен 18 хат қажет болды. Жедел шешімнің орнына ол автоматты жауаптар алды.
Мәселенің түбірі: автопополнение ақауы
Anthropic қателікті мойындап, оны кредитті автоматты толтыру функциясының параметрлеріндегі ақаумен түсіндірді. Компания ақша есептен шығарылмағанын мәлімдеп, қауіпсіздік мақсатында бұл функцияны өшірді. Дегенмен, параметрлердегі ақау қалайша мұндай абсурдты сомалардың қалыптасуына әкелді деген сұрақ ашық күйінде қалып отыр. Бұл AI-өнімдеріне арналған биллинг шешімдерінің архитектурасындағы іргелі проблемаларды көрсетеді.
Айта кету керек, бұл жалғыз жағдай емес. Vaudit стартапы Panasonic, HP және Honda сияқты 60 ірі клиент үшін AI-қызметтеріне $34 миллиондық шоттарды аудиттен өткізді. Нәтижелер жалпы соманың шамамен 5% құрайтын $1,7 миллион шамасындағы артық төлемдерді көрсетті. Ең үлкен қателіктер дәл AI-шешімдерінің биллингіне тиесілі.
Менің сараптамалық талдауым: Бұл оқиға бүкіл сала үшін дабыл қағу сигналы болып табылады. AI-қызметтері бизнес-процестердің ажырамас бөлігіне айналған сайын, олардың төлем жүйелерінің ашықтығы мен сенімділігі өте маңызды болады. Жеке әзірлеушілерден бастап корпоративтік клиенттерге дейінгі қолданушылар төлем панельдерін үнемі тексеріп, банк хабарландыруларын мұқият қадағалауы керек. Кездейсоқ ақау, егер оған тез және сауатты әрекет етпесе, елеулі қаржылық проблемаға айналуы мүмкін.