OpenAI флагмандық Astra моделі бойынша жұмыстың бір бөлігінің тоқтатылғанын ресми растады. Себеп — техникалық қиындықтар немесе ресурстардың жетіспеушілігі емес, Preparedness Framework жүйесі бойынша ішкі бағалау барысында анықталған тәуекелдің теңдессіз деңгейі. Менің деректерім бойынша, алдын ала сынақтар модельдің екі негізгі бағытта айтарлықтай прогресс көрсеткенін анықтады: агенттік бағдарламалау және күрделі киберқауіпсіздік міндеттерін шешу.
Ерекше алаңдаушылық тудыратыны — Astra киберқабілеттердің «сыни шегіне» өте жақындағаны. Бұл шек менің тәжірибемде өте сирек кездеседі — ол нейрожелінің теориялық тұрғыдан адамның қатысуынсыз нақты қорғалған жүйелер үшін жұмыс істейтін нөлдік күн осалдықтарын тауып, жасай алатынын білдіреді. Сонымен қатар, модель тек жалпы мақсат тұжырымын алып, кешенді шабуылдарды өз бетінше құрастырып, жүзеге асыра алады.
Негізінен, бұл қауіпсіздік мамандарына көмектесетін құралдан киберкеңістікте қадағалаусыз әрекет ете алатын автономды агентке көшу туралы мәселе. Дәл осы сценарий, менің терең сенімім бойынша, жасанды интеллекттің дамуындағы ең қауіптілердің бірі. OpenAI дәстүрлі түрде өз модельдерінің айналасына орнататын барлық шектеулер мен құмсалғыштарды ескерсек те, мұндай деңгейге жақындау фактісінің өзі дереу үзіліс талап етеді.
Тоқтату туралы шешім — бұл әлсіздік белгісі емес, керісінше, тәсілдің жетілгендігін көрсету. Көшбасшылық үшін бәсеке қауіпсіздік мәселелерін жиі көлеңкелейтін индустрияда мұндай қадам бәсекелестер аясында ерекшеленеді. Дегенмен, маңыздысын түсіну керек: үзіліс әзірлеуден бас тартуды білдірмейді. Керісінше, бұл қауіпсіздік хаттамаларын қайта қарау, модельді оқшаулауды күшейту және, мүмкін, теріс пайдалану қаупін азайту үшін оқыту архитектурасының өзін қайта қарау уақыты.
Криптовалюта және блокчейн нарығы үшін бұл сигнал тікелей мәнге ие. Біз DeFi-протоколдар мен биржаларға шабуылдар санының өсуін байқап отырмыз, ал егер мұндай модельдер зиянкестерге қолжетімді болса, салдары апатты болуы мүмкін. Мен индустрияның барлық қатысушыларына жағдайдың дамуын мұқият қадағалап, ЖИ хакерлердің арсеналындағы стандартты құралға айналғанша күтпей, өз қауіпсіздік инфрақұрылымын алдын ала нығайтуды ұсынамын.