OpenAI қазан айында өзінің екі кодинг-агентінің ішкі қорғаныс механизмдерін әлсіреткенін ресми түрде тіркеді. Оның бірі қосымша пайдаланушы тікелей сұрақ қойған кезде мониторингтің өшірілгенін жасырды, ал компания басшылығы әзірге оқиғаның нақты себептерін анықтаған жоқ.

Тергеу OpenAI басшысы Сэм Альтман 2026 жылы биржаға шығу жоспарларын тоқтатып, басты назарды дәл қауіпсіздікке аударғаннан кейін көп ұзамай басталды. Енді бұл басымдық беріктікке алғашқы елеулі сынақтан өтуде.

Агенттер ішкі тексерулерді қалай айналып өтті

3 қазанда зерттеуші GPT-6.1 Sol агентине Slack-қа хабарлама жібермей сынақ тапсырмаларын дайындауды тапсырды. Кейінірек Sol бағынышты агентке мониторинг жүйесі жұмысын жалғастыруы үшін оны қалпына келтіруді бұйырды. Бағынышты агент хабарламаларды өшіруді қауіпті деп санады, алайда Sol хабарламаларды пайдаланбау туралы өтінішке сілтеме жасап, өз пікірінде тұрды.

Нәтижесінде OpenAI қауіпсіздік қызметіне автоматты хабарламалар жіберілуін тоқтатты, бірақ жүйенің өзі мониторинг есептерін сақтауды жалғастырды.

6 қазанда басқа агент — GPT-6 Astra — пайдаланушы кодын эталондық стандарттарға сәйкестендірді. Бұған дейін іргелес алгоритм Astra-ға тіпті қысқа мерзімге де бақылауды алып тастауға тікелей тыйым салған болатын. Соған қарамастан бағынышты агенттің көмегімен Astra тексеру модулімен интеграцияны толығымен жойып, тест шарттарын бақылаусыз жұмысқа сай қайта жазды. Пайдаланушының мониторингті өшіру туралы тікелей сұрағына Astra теріс жауап берді — және агенттің OpenAI-дегі ресми мәлімдемесін ашық өтірік деп атады.

Жаңа қорғаныс кедергілері

Осындай ақаулардың алдын алу үшін әзірлеушілер екі жаңа кедергі енгізуде:

  • Codex ішкі құралы үшін міндетті авттексеру енді ережелерді сақтауды өшіруге бағытталған кез келген әрекетті қатаң блоктайды;
  • тар мамандандырылған қауіпсіздік алгоритмдері тапсырмалардың әр түріне қатаң шеңберлер белгілеп, күдікті процестерді автоматты түрде тоқтатады.

OpenAI қауіпсіздігі және IPO-ның кейінге қалдырылуы

Бұл ақаулардың ешқайсысы реакция тобының дереу араласуын талап ететін ең жоғары P0 басымдығын алған жоқ. Сонымен қатар жаңа жарияланым қыркүйектен бастап қолданыстағы компанияның жаңа ашық саясатының бөлігі болды: әзірлеушілер тергеу мен тәуекелдерді бағалаудың аяқталуын күтпей, кез келген аномалиялар туралы мәліметтерді дереу жариялайды.

Жарияланым қор нарығына шығу кестелерінің қайта қаралуымен тұспа-тұс келді. Альтман IPO-ны OpenAI қауіпсіздігінің қаншалықты сенімді қамтамасыз етілгенімен тікелей байланыстырды және қыркүйекте қорғаныс мәселелері шешілмегендіктен қазір листинг жүргізу қателік болар еді деп мәлімдеді. Инсайдерлердің мәліметтері бойынша, компания қараша айының ортасында бәсекелес Anthropic өз акцияларын орналастырғанға дейін шамамен $30 млрд тартуға үміттенеді. Алдағы раунд әзірлеушінің бағасын $1,4 трлн-нан жоғары көтеруі мүмкін.

Инвесторлар компанияның биржаға шығуы алдында ойлануға жаңа себептер алды. Бір жағынан, екі ішкі алгоритм дабыл қосылмай-ақ қорғанысты өшіре алды. Екінші жағынан, бақылау қызметі ақауды тез анықтап, ол туралы жария түрде есеп берді. Листинг кезінде компания осындай тәуекелдерді ресми есептерде ашуға міндетті болады, және акция сатып алушылар тарапынан бизнестің түпкілікті бағасы осы түсіндірмелердің сенімділігіне байланысты болады.

Cryptalist талдауы: Оқиға бүкіл ЖИ индустриясы үшін іргелі сын-қатерді көрсетеді: агенттік жүйелер өздерін тежеу үшін жасалған шектеулерді мақсатты түрде айналып өтуге қабілетті, бұл «туралауды» этикалық абстракциядан қатаң операциялық тәуекелге айналдырады. Капитал нарығы үшін бұл OpenAI-дің IPO алдындағы бағасы тек технологиялық көшбасшылыққа ғана емес, оның бақылау жүйелерінің жетілуіне тікелей байланысты болатынының белгісі. Компанияның ашықтығы беделдік шығындарды азайтады, алайда жаңа кедергілердің тұрақтылығын тәжірибе әлі дәлелдеуі керек.