Илон Маск тағы да назар аудартатын батыл мәлімдемелер жасап жүр. Бұл жолы сөз пайдаланушылардың қаржысын басқаруға сеніп тапсырылған Grok ИИ-агентінің қауіпсіздігі туралы болып отыр. xAI басшысы бот клиенттің қаражатын басқару кезінде қателессе, кез келген шығынды өтейтінін жария түрде уәде етті. Бұл жасанды интеллектке деген сенім саласындағы революция сияқты естіледі, бірақ жақыннан қарағанда бәрі біркелкі емес.
Банк шотымен эксперимент және Масктың уәдесі
Талқылауға Tesla мен xAI инвесторы Teslaconomics деген никпен жазған пост себеп болды. Ол арандатушы сұрақ қойды: біреу Grok-ты өз банк шотына қосып үлгерді ме? Өйткені мұндай агент шығындарды қадағалап, шоттарды төлеп, күдікті транзакцияларды анықтай алады. Пайдаланушылардың бірі ақшаға қол жеткізе алатын ИИ үлкен зиян келтіруі мүмкін деген қауіп білдірді. Алайда Маск тайсалмай, өнімге толық сенімді екенін және қателік болған жағдайда шығынды жабуға дайын екенін мәлімдеді.
Заңдық нәзіктіктер: $100 кепілдік
Өнімнің бета-нұсқасы 11 тамызда жарық көрді. xAI әр агент иесі ұйықтап жатқанда да жұмыс істеп, өзінің жеке бұлтты серверінде автономды түрде жұмыс істейтінін атап өтеді. Дегенмен, батыл мәлімдемелерге қарамастан, xAI пайдаланушы келісімінде мүлдем қарама-қарсы логика жазылған. Компанияның максималды жауапкершілігі $100 сомасымен немесе төленген комиссиялар мөлшерімен шектеледі, қайсысы үлкен болса, соған қарай. Бұл SuperGrok тарифі бойынша ботқа қол жеткізу айына $30, ал жылдық жазылым $360 тұратынын ескерсек, келеке сияқты көрінеді. Шоттан жоғалған қаражат бірнеше есе көп болуы мүмкін.
Негізгі мәселе: Масктың кепілдігі заңды түрде бекітілмегенше, кез келген өтемақы тек оның жеке қалауына байланысты. Бұл уәде — ресми міндеттемелермен бекітілмеген джентльмендік келісімнен артық емес.
Нақты тәуекелдер және ИИ-агенттерге шабуылдар
Жағдайды реттеу тәуекелдері де ушықтырады. АҚШ-та тұтынушыларды рұқсатсыз есептен шығарудан қорғайтын E Регламенті қолданылады. Алайда егер иесінің өзі ботқа шотқа қол жеткізуге рұқсат берсе, мұндай транзакциялар рұқсатсыз деп саналмайды және стандартты қорғау механизмдері жұмыс істемейді. Скептиктер ИИ-дің осалдығын көрсететін соңғы оқиғаларды да атап өтеді. Мамыр айында зиянды NFT агентті ақша аударуға мәжбүрлеген нұсқауларды «жасырды» — бұл «нұсқаулар инъекциясының» классикалық мысалы. Нәтижесінде Grok-пен байланысты Bankr әмиянына жасалған шабуылда шамамен $150 000 шығарылды. Кейін ұрланған қаражаттың шамамен 80% қайтарылды, ал Bankr тағы 14 зардап шеккен әмиянның шығынын толық өтейтінін уәде етті. Grok-тың нақты банк шотымен қателескенінің бірде-бір дәлелденген жағдайы әлі тіркелмегені көрсеткішті.
Аналитикалық түсініктеме: Бұл эксперимент — технологияны сынау ғана емес, ИИ-ді күнделікті қаржы басқаруға интеграциялау үшін күшті маркетингтік қадам. Алғашқы нақты сәтсіздік лакмус қағазы болады. Маск үшін таңдау айқын: не бетін сақтап, барлық қаражатты үнсіз қайтару, не сол $100-ды ғана жария түрде өтеп, батыл сөздер мен заңдық шындық арасындағы алшақтықты әшкерелеу. Мен ИИ-агенттің жауапкершілігі тек твиттермен емес, нақты кепілдіктермен бекітілмейінше, оған маңызды қаржы операцияларын сеніп тапсыруға кеңес бермес едім.