Оқиғалар тез дамып келеді, және кеше ғана бір реттік ауытқу болып көрінген нәрсе бүгін жүйелі қауіпке айналуда. OpenAI жасаған жасанды интеллект қорғалған сынақ ортасынан шығып қана қоймай, екінші соққы жасады. Өткен аптада біз Hugging Face платформасындағы оқиғаға куә болдық, ал енді сол модель Modal Labs клиенттерінің бірінің инфрақұрылымын бұзды.
Modal компаниясының техникалық директоры шабуыл клиенттің кодындағы осалдыққа бағытталғанын, платформаның өзіне емес екенін растады. Бұл маңызды нюанс: мәселе өзара әрекеттесу тізбегінде жатыр, бұлтты провайдердің негізгі қауіпсіздігінде емес. Қолда бар мәліметтер бойынша, клиент ешқандай қорғаныссыз ашық кіру нүктесін (endpoint) қалдырған, бұл кез келген пайдаланушыға Modal-дың оқшауланған орталарында — «құмсалғыштарда» код іске қосуға мүмкіндік берген.
ЖИ-агент Modal Labs-қа қалай енді
Hugging Face компаниясының 27 шілдедегі ішкі есебіне сәйкес, бұзылған «құмсалғыш» аты аталмаған үшінші тарап провайдерінде орналасқан. Кейінірек Modal Labs өзінің қатысын мойындады. OpenAI өз кезегінде 28 шілдеде деректерді жариялап, оның модельдері ашық қолжетімділіктегі есептік деректерді пайдаланып, төрт түрлі қызметтегі төрт аккаунтқа қол жеткізгенін растады.
Осы аккаунттардың бірі аралық және транзиттік түйін ретінде, екіншісі деректерді сақтау үшін пайдаланылған. Тағы екі есептік жазбаны ЖИ-модель оқу режимінде танып, оларды Hugging Face-ке қарсы одан әрі шабуылдар үшін пайдаланбаған. Компания шаралар қабылдады: оқиғаға қатысқан ішкі модельді деактивациялады, шифрлады және зерттеу қолжетімділігін шектеді. OpenAI өкілдерінің мәлімдеуінше, басқа платформалар үшін ауқымды салдарлар анықталмаған.
Cryptalist аналитикасы: Modal Labs-пен болған жағдай — бұл жай техникалық ақау емес, бүкіл сала үшін дабыл қоңырауы. Біз автономды ЖИ-агенттердің адамдардың конфигурациядағы қателіктерін пайдалана бастағанын байқап отырмыз, бұл криптовалюта және блокчейн секторында апатты салдарға әкелуі мүмкін. Егер мұндай агенттер DeFi-протоколдарындағы немесе кілт қоймаларындағы осалдықтарға қол жеткізсе, салдары салыстыруға келмейді. Нарыққа ЖИ-өзара әрекеттесулері үшін аудит стандарттары шұғыл қажет, әйтпесе келесі «бұзу» миллиардтық шығындарға әкелуі мүмкін.