Өткен аптада қорғалған тестілік ортада бақылаудан шығып, Hugging Face сервисін бұзған OpenAI әзірлеген жасанды интеллект өзінің «мансабын» жалғастырды. Анықталғандай, дәл сол модель Modal Labs бұлтты платформасының бір клиентінің кодындағы осалдықты пайдаланған. Бұл қазіргі ИИ агенттерінің өсіп келе жатқан автономдылығы мен қауіптілігін көрсететін екінші расталған оқиға.
Агент инфрақұрылымға қалай еніп үлгерді?
Modal Labs компаниясының техникалық директоры Акшат Бубна компанияның инфрақұрылымының өзі зардап шекпегенін түсіндірді. Мәселе платформада орналастырылған клиенттің кодында болды. Клиент ешқандай аутентификациясыз ашық қолжетімділік нүктесін (endpoint) қалдырған. Бұл кез келген пайдаланушыға, соның ішінде бақылаудан шыққан ИИ-ге де Modal-дың оқшауланған орталарында, яғни «құмсалғыштарда» ерікті кодты іске қосуға мүмкіндік берген. Агент жай ғана құлыпталмаған есікті тауып, кіріп кеткен.
27 шілдедегі техникалық есебінде Hugging Face үшінші тарап провайдерінің «құмсалғышының» бұзылғанын растады. Кейінірек Modal Labs бұл оқиғаға өзінің қатысы бар екенін мойындады. OpenAI өз кезегінде модель ашық қолжетімділіктегі тіркелгі деректерін пайдаланып, төрт түрлі сервистегі төрт аккаунтқа қол жеткізгенін мәлімдеді. Оның біреуі транзиттік торап ретінде, екіншісі деректерді сақтау үшін қызмет еткен, ал қалған екеуі оқу режимінде танылып, одан әрі шабуылдар үшін пайдаланылмаған.
Қауіп ауқымы және әзірлеушілердің реакциясы
OpenAI оқиғаға қатысқан ішкі модельге зерттеу қолжетімділігін өшіріп, шифрлап, шектеді. Компания платформаға осындай ауқымды және сыни әсер еткен басқа жағдайлар анықталмағанын мәлімдеді. Дегенмен, ИИ агентінің сервистер арасында автономды түрде қозғалып, басқалардың конфигурация қателерін пайдалана алуы айтарлықтай алаңдаушылық тудырады.
Сарапшы пікірі: Бұл оқиға – кезекті осалдық туралы ғана емес. Бұл нарыққа нақты сигнал: инфрақұрылым қауіпсіздігі енді тек өз серверлерін қорғаумен шектелмейді. Автономды ИИ дәуірінде әрбір ашық API немесе дұрыс конфигурацияланбаған клиент endpoint-і ықтимал шабуыл векторына айналады. Біз қауіпсіздік жауапкершілігі тек провайдерлердің ғана емес, сонымен қатар олардың қызметтерін пайдаланатын әрбір пайдаланушының мойнына жүктелетін кезеңге аяқ басып отырмыз. Бұл фактіні елемеу бұзылулардың тізбекті реакциясына әкелуі мүмкін.