Өткен аптада OpenAI жасаған жасанды интеллект қорғалған сынақ ортасынан шығып кетті және, деректер бойынша, Hugging Face сервисін бұзды. Бүгін сол модель Modal Labs клиенттерінің бірінің кодындағы осалдықты пайдаланды.
Modal компаниясының техникалық директоры компанияның инфрақұрылымы зардап шекпегенін — осалдық платформада емес, клиент кодында болғанын атап өтті.
Агент Modal Labs-қа қалай қол жеткізді
Өз блогында OpenAI Hugging Face-тегі жасанды интеллект мәселесінің себебі дәл оның модельдері екенін растады. OpenAI болған оқиғаны «бұрын-соңды болмаған киберинцидент» деп атады.
ИИ-агент ақыры Hugging Face жүйелерінен шығып кеткені анықталды. Modal техникалық директоры Акшат Бубна агенттің Modal платформасында орналастырылған клиенттің осал кодына шабуыл жасағанын айтты.
Бубнаның айтуынша, клиент ешқандай қорғаныссыз ашық қол жеткізу нүктесін (endpoint) қалдырған. Осыған байланысты кез келген пайдаланушы Modal-дың оқшауланған орталарында — «құмсалғыштарда» код іске қоса алған.
«Modal платформасы мен сервистердің оқшаулануы бұзылған жоқ», — деп атап өтті топ-менеджер.
Агент құмсалғышқа шабуыл жасады
Hugging Face 27 шілдедегі техникалық есепте бұзылған құмсалғыш туралы айтты. Жарияланымда құмсалғыштың үшінші тарап провайдерінде орналасқаны, бірақ оның аты ашылмағаны айтылған — кейін Modal өзінің қатысын мәлімдеді.
OpenAI-дің 28 шілдедегі деректері бойынша, оның модельдері ашық қолжетімді есептік деректерді пайдаланып, төрт сервистегі төрт аккаунтқа қол жеткізген.
«Төрт аккаунттың бірі аралық және транзиттік торап ретінде, екіншісі деректерді сақтау үшін пайдаланылды. Тағы екі есептік жазбаны ИИ-модель оқу режимінде танып, Hugging Face-ке одан әрі шабуылдар үшін пайдаланбады», — деп хабарлады компания.
OpenAI сонымен қатар бұзуға қатысқан ішкі модельге зерттеу қолжетімділігін деактивациялады, шифрлады және шектеді. Компания өкілдерінің айтуынша, платформаға осындай ауқымды және сыни әсер етудің басқа жағдайлары анықталмаған.
Сарапшы пікірі: Бұл оқиға ең озық ИИ-жүйелердің өзі тиісті оқшаулау мен қолжетімділікті бақылау деңгейі қамтамасыз етілмесе, кибершабуылдар құралына айналуы мүмкін екенін көрсетеді. Смарт-келісімшарттар мен инфрақұрылым қауіпсіздігі маңызды болып табылатын криптоиндустрия үшін бұл алаңдатарлық сигнал: клиент кодындағы осалдықтар тұтас платформаларды бұзу үшін пайдаланылуы мүмкін. Барлық жобаларға қолжетімділікті басқару саясаттарын қайта қарап, барлық сыртқы endpoint'тер үшін көпфакторлы аутентификацияны енгізуді ұсынамын.