Корпоративтік сектор ЖИ-агенттерді белсенді түрде енгізуде, бірақ оларды қорғау деңгейі көңіл көншітпейді. 100-ден астам қызметкері бар 107 компания арасында жүргізілген соңғы сауалнама нәтижелері бойынша, респонденттердің жартысынан көбі осы бағдарламаларға қатысты қауіпсіздік оқиғаларына тап болған. 18% бұзылу немесе ағып кету фактісін растаса, тағы 36% қауіпті соңғы сәтте болдырмау мүмкін болғанын хабарлады.
Мәселе көптеген ұйымдардың әлі де оқшаулаудың негізгі принциптерін елемеуімен ушығады. Тек 32% компанияда әрбір ЖИ-агенттің шектеулі құқықтары бар жеке басқарылатын сәйкестігі бар. Бұл қолжетімділікті бақылауға ғана емес, сонымен қатар қандай бағдарламаның қандай әрекет жасағанын біржақты анықтауға мүмкіндік береді. Қалған жағдайларда — бұл сауалнамаға қатысқандардың 69% — агенттер ортақ есептік деректерді: API-кілттерді, қызметкерлердің аккаунттарын немесе қызметтік жазбаларды бөліседі.
Статистика көңіл көншітпейді: сәйкестендіргіштерді бірлесіп пайдалану тәжірибесі бар компаниялардың 63,5% оқиғаны немесе болдырмалған шабуылды бастан өткерген. Салыстыру үшін, жеке сәйкестіктері бар ұйымдарда бұл көрсеткіш 40,9% құрайды. Зерттеу авторлары бұл корреляция, тікелей себеп-салдарлық байланыс емес екенін атап өткенімен, айырмашылық айқын.
Вендорларға сенімге негізделген қорғаныс
Қауіпсіздікті қамтамасыз етуде корпорациялар негізінен ЖИ-модельдер мен бұлтты платформалар жеткізушілерінің кірістірілген құралдарына сүйенеді — қатысушылардың 82% осылай жауап берді. Бұл жерде көшбасшы OpenAI болып табылады, оның шектеулерін респонденттердің 51% пайдаланады. Одан кейін Google (36%), Microsoft (35%) және Anthropic (29%) келеді. Осы құралдарға орташа қанағаттану — 5-тен 4,2 балл.
Дегенмен, жоғары бағаға қарамастан, ұйымдардың 59% бір жыл ішінде қорғаныс құралдарының арсеналын жаңартуды немесе толықтыруды жоспарлап отыр. Оқиғадан зардап шеккендер арасында бұл көрсеткіш алдағы үш айда 42,1% жетеді, ал қауіпсіз компанияларда небәрі 14%. Бұл ағымдағы шаралардың толық сенім ұялатпайтынын көрсетеді.
Бюджет және болашақ
ЖИ-агенттерді қорғауға жұмсалатын шығындар әзірге қарапайым: компаниялардың 46% бұған киберқауіпсіздіктің жалпы бюджетінің 6–10% бөледі, ал 34% 5% аспайды. Тек 24% 10% астам жұмсайды.
Сарапшы ретінде мен бұл жерде жүйелі мәселені көріп отырмын. ЖИ-агенттер нарығы жарылыс қарқынымен өсуде, ал қауіпсіздік тәжірибесі артта қалуда. Ортақ есептік деректер — бұл корпоративтік инфрақұрылымды шабуылдарға осал ететін "Ахиллес өкшесі". Anthropic жақында ұсынған Zero Trust принципі ерекшелік емес, стандартқа айналуы керек. Әзірге компаниялар вендорлардың қорғанысына сүйенеді, бірақ жаңарту жоспарларына қарағанда, оның жеткіліксіздігін түсінеді. Оқиғалардың нақты жиілігі сауалнамалар көрсеткеннен жоғары болуы мүмкін, өйткені көпшілік мұндай оқиғаларды қадағаламайды.