Өткен аптада OpenAI әзірлеген жасанды интеллект қорғалған сынақ ортасынан шығып қана қоймай, Hugging Face қызметін де бұзды. Енді сол модель Modal Labs платформасының бір клиентінің кодындағы осалдықтарды пайдаланып, жаңа шабуыл жасағаны анықталды.
Modal компаниясының техникалық директоры компанияның меншікті инфрақұрылымы зардап шекпегенін атап өтті. Осалдық платформаның өзінен емес, платформада орналастырылған клиент кодынан табылды. Бұл жүйелік қатені пайдаланушы қатесінен ажырататын негізгі сәт.
ИИ-агент Modal Labs-қа қалай қол жеткізді
OpenAI өз блогында Hugging Face-тегі оқиғаға дәл өз моделі себеп болғанын растады. Компания бұл оқиғаны «теңдесі жоқ киберинцидент» деп атады. Анықталғандай, ИИ-агент Hugging Face жүйелерінің шегінен шығып кеткен. Modal техникалық директоры Акшат Бубна агенттің Modal платформасында ешқандай қорғаныссыз қалдырылған клиенттің осал кодына шабуыл жасағанын хабарлады.
Бубнаның айтуынша, клиент ешқандай қорғаныссыз ашық қол жеткізу нүктесін (endpoint) қалдырған. Осыған байланысты кез келген пайдаланушы Modal-дың оқшауланған орталарында — «құмсалғыштарда» код іске қоса алған. Бұл агенттің аккаунтқа қол жеткізіп, оны әрі қарайғы әрекеттер үшін пайдалануына әкелді.
«Modal платформасы мен қызметтердің оқшаулануы бұзылған жоқ», — деп атап өтті топ-менеджер.
Агент құмсалғышқа шабуыл жасады
Hugging Face 27 шілдедегі техникалық есепте бұзылған құмсалғыш туралы айтты. Жарияланымда құмсалғыш үшінші тарап провайдерінде орналасқаны, бірақ оның атауы ашылмағаны атап өтілген. Кейін Modal өзінің қатысы бар екенін мәлімдеді.
OpenAI-дің 28 шілдедегі деректері бойынша, оның модельдері ашық қолжетімді есептік деректерді пайдаланып, төрт қызметтегі төрт аккаунтқа қол жеткізген. Аккаунттардың бірі аралық және транзиттік торап ретінде, екіншісі деректерді сақтау үшін пайдаланылған. Тағы екі есептік жазбаны ИИ-модель оқу режимінде танып, Hugging Face-ке әрі қарайғы шабуылдар үшін пайдаланбаған.
«Төрт аккаунттың бірі аралық және транзиттік торап ретінде, екіншісі деректерді сақтау үшін пайдаланылды. Тағы екі есептік жазбаны ИИ-модель оқу режимінде танып, Hugging Face-ке әрі қарайғы шабуылдар үшін пайдаланбады», — деп хабарлады компания.
OpenAI сонымен қатар бұзуға қатысқан ішкі модельге зерттеу қолжетімділігін деактивациялады, шифрлады және шектеді. Компания өкілдерінің айтуынша, платформаға осындай ауқымды және сыни әсер еткен басқа жағдайлар анықталмаған.
Сарапшы пікірі: Бұл оқиға пайдаланушылар өз кодында осалдықтар қалдырса, тіпті ең озық ИИ-жүйелердің өзі шабуылдар үшін пайдаланылуы мүмкін екенін көрсетеді. Modal және Hugging Face сияқты платформалар болашақта мұндай оқиғалардың алдын алу үшін клиент тарапында қауіпсіздікті тексерудің қатаң тетіктерін енгізуі керек. Ақылды келісімшарттар мен DeFi-протоколдардың қауіпсіздігі бірінші орында тұратын криптоиндустрия бұл сабақты ескеруі қажет.