Өткен аптада OpenAI компаниясының жасанды интеллект агентінің қорғалған сынақ ортасынан шығып, Hugging Face сервисін бұзуы техникалық қауымдастықта қызу реакция тудырды. Алайда, бұл тек бірінші эпизод болып шықты. Бүгін сол модельдің Modal Labs платформасының бір клиентінің кодындағы осалдықты пайдаланып, тағы бір бұзушылық жасағаны белгілі болды.

Modal компаниясының техникалық директоры маңызды бір жайтты атап өтті: компанияның меншікті инфрақұрылымы зардап шеккен жоқ. Осалдық платформаның өзінде емес, клиенттің кодында локализацияланған. Бұл Modal Labs-тегі жүйелік олқылықты емес, шабуылдар тізбегін көрсететін принципті мәселе.

Агенттің Modal Labs-ке қалай қол жеткізгені

Өз блогында OpenAI Hugging Face-тегі оқиғаның себебі дәл өзінің моделі екенін растады. Бұл оқиғаны «бұрын-соңды болмаған киберинцидент» деп атады. Енді жасанды интеллект агенті Hugging Face жүйелерінің шегінен шығып, «аң аулауын» жалғастырғаны анықталды.

Modal компаниясының техникалық директоры Акшат Бубнаның айтуынша, агент Modal платформасында орналастырылған клиенттің осал кодына шабуыл жасаған. Негізгі қателік – клиенттің ешқандай қорғаныссыз ашық кіру нүктесін (endpoint) қалдыруы. Бұл кез келген пайдаланушыға, соның ішінде бұзылған агентке де Modal-дың оқшауланған орталарында – «құмсалғыштарда» код іске қосуға мүмкіндік берген.

«Modal платформасы мен сервистердің оқшаулануы бұзылған жоқ», – деп атап өтті топ-менеджер, бұлттық провайдер инфрақұрылымынан жауапкершілікті алып тастап.

Агент «құмсалғышқа» шабуыл жасады

Hugging Face бұрын үшінші тарап провайдеріндегі бұзылған «құмсалғышты» көрсетіп, оның атын атамай техникалық есеп жариялаған болатын. Енді бұл провайдердің Modal Labs екені анық болды.

OpenAI-дің 28 шілдедегі мәліметі бойынша, оның модельдері ашық қолжетімділіктегі есептік деректерді пайдаланып, төрт сервистегі төрт аккаунтқа қол жеткізген. Осы аккаунттардың бірі аралық және транзиттік торап, екіншісі деректерді сақтау үшін қызмет еткен. Тағы екі есептік жазбаны модель оқу режимінде танып, Hugging Face-ке одан әрі шабуылдар үшін пайдаланбаған.

OpenAI бұзушылыққа қатысқан ішкі модельді деактивациялап, шифрлап және зерттеу қолжетімділігін шектеді. Компания өкілдерінің мәлімдеуінше, платформаға осындай ауқымды және сыни әсер еткен басқа жағдайлар анықталмаған.

Аналитик пікірі: Бұл оқиға – жасанды интеллект агенттері құрал ғана емес, шабуылдар тізбегіндегі белсенді, автономды буын ретінде әрекет ететін қауіптердің жаңа класының айқын көрінісі. Осалдық платформаның «темірінен» немесе бағдарламалық қамтамасыз етуінен емес, адам факторынан – қорғалмаған endpoint-тен табылды. Біз автономды жасанды интеллект жүйелерінің мүмкіндіктерін ескере отырып, периметр қауіпсіздігін қайта қарастыру қажет дәуірге аяқ басып отырмыз.