Пентагон жасырын түрде ЖИ доктринасын жаңартты: мақсаттарды таңдаудың автономды жүйелері шындыққа айналуда
АҚШ Қорғаныс министрлігі жаңартылған әскери доктринаны бекітті, ол жауынгерлік операцияларда жасанды интеллекттің рөлін айтарлықтай кеңейтеді. Сәуірде қол қойылған құжаттың құпиялылық грифі жоқ, алайда ол көпшілікке әдейі жарияланбады. Бұл кездейсоқ емес — ішіндегі тұжырымдар ұрыс даласындағы машиналардың автономиясына қарай тыныш, бірақ шешуші қадам ретінде көрінеді.
ЖИ-дің жаңа рөлі: бақылаушыдан бастамашыға дейін
Негізгі өзгеріс — доктринада алғаш рет «ЖИ адам мониторингі кезінде әрекеттерді бастайтын жауынгерлік жүйелер» жазылған. Бұрын нейрожелілер тек деректерді талдауға көмектессе, енді олар оператордың бақылауымен болса да, процестерді іске қосу құқығына ие болады. Бұл түбегейлі өзгеріс: алгоритмдер жай «кеңесшілер» болудан қалып, жауынгерлік циклдің белсенді қатысушыларына айналады.
Жылдамдық этикаға қарсы
Құжатта заманауи қақтығыстардың жылдамдығы мен қарсыластардың ЖИ саласындағы прогрессі АҚШ-ты «толық автономды жүйелер» жасауға мәжбүрлеуі мүмкін екені тікелей айтылған. Мақсат — «датчиктен нысананы жоюға дейінгі» циклді қысқарту және операция қарқынын арттыру. Негізінде, Пентагон мойындайды: адамның реакциясы тар жолға айналып, жаудан қалыспау үшін алгоритмдер шешімдердің бір бөлігін өз мойнына алуы керек.
Барлау деректерін жинау және «қара жәшік» қаупі
Жаңа доктрина ЖИ-ге барлау деректерін белсендірек өңдеуді — әртүрлі платформалардан ақпаратты жылдам салыстырып, шайқастың толық бейнесін құруды тапсырады. Қолбасшыларға талдау, шешім қабылдау және тәуекелдерді басқару үшін нейрожелілерді кеңірек пайдалану ұсынылады. Сонымен қатар, Пентагонның өзі алгоритмдерге шамадан тыс тәуелділік қаупі туралы ескертіп, мұны «елеулі моральдық және заңды дилеммалар» деп атайды. Құжатқа қосымшада автоматтандыру адамның ойлауы мен белсенді коммуникациясын алмастырмайтыны ерекше атап өтілген.
Ресми ұстаным: бақылау адамда қалады
Пентагон өкілі ведомство адамның маңызды операциялық шешімдерден әрқашан хабардар болуын қадағалайтынын және департаменттің ЖИ-технологиялары нысаналарды автономды түрде таңдауға немесе соққы жасауға мүмкіндік бермейтінін мәлімдеді. Алайда іс жүзінде «мониторинг» пен «автономия» арасындағы шек жіңішкере түсуде.
Сол күні министрлік ұрысты басқару жүйелері мен нысаналарды таңдауды түрлендіру үшін «ЖИ-агенттер желісін» іске қосу туралы хабарлады. Бас цифрлық технологиялар маманы Кэмерон Стэнли желі командирлерге әрбір шешімнің орталығында адамның пайымын сақтай отырып, сапалы ақпаратқа жылдамырақ қол жеткізуге мүмкіндік беретінін атап өтті. Бірақ тарих көрсеткендей, жауынгерлік әрекеттерді автоматтандырудағы әрбір қадам — бір күні алгоритм басатын «түймеге» жақындау.
Контекст: енгізудің өсуі және халықаралық алаңдаушылық
Естеріңізге сала кетейін, маусымда Пентагон қызметкерлер арасында ЖИ енгізудің 1775%-ға өскені туралы есеп берген болатын. Бұл жай сан емес — бұл әскери ведомствоның болашақ қақтығыстардың негізгі құралы ретінде алгоритмдерге сүйенетінінің белгісі. Сонымен қатар, 2023 жылы БҰҰ Бас хатшысы Антониу Гутерриш өлімге әкелетін автономды жүйелерге тыйым салуға шақырып, оларды «саяси тұрғыдан қолайсыз» және «моральдық тұрғыдан жиіркенішті» деп атаған еді.
Аналитик ретінде менің пікірім: Бұл құжат — жай кезекті бюрократиялық қағаз емес. Ол әскери салада ЖИ-көмекшіден ЖИ-бастамашыға көшуді заңдастырады. Әзірге «мониторинг» туралы айтылып жатыр, бірақ қару-жарақ жарысы жағдайында бұл мониторинг тез арада автономияға айналады. Қорғаныс ЖИ-шешімдерінің нарығы жарылыс тәрізді өсуді күтеді, бірақ онымен бірге біз әлі бағалай алмайтын жаңа тәуекелдер де пайда болады. Криптоиндустрия үшін бұл жанама сигнал: егер мемлекет алгоритмдерге нысаналарды таңдауды сеніп тапсырса, онда автономды басқаруы бар DeFi-протоколдары да ерте ме, кеш пе өз қауіпсіздігін сапалы жаңа деңгейде дәлелдеуге мәжбүр болады.