Пентагон ИИ-дің жауынгерлік қолданылуын ресми түрде кеңейтеді: жаңа доктрина соғыс ережелерін өзгертеді
АҚШ Қорғаныс министрлігі әскери операцияларда, соның ішінде ұрыс даласында нысаналарды таңдауда жасанды интеллекттің рөлін айтарлықтай кеңейтетін жаңартылған доктринаны бекітті. Сәуір айында қол қойылған құжаттың құпиялылық грифі жоқ, алайда әлі күнге дейін көпшілікке жарияланбады.
Негізгі жаңалық — «адам мониторингі кезінде ЖИ әрекеттерді бастайтын жауынгерлік жүйелер» тұжырымдамасын заңдастыру. Бұл алгоритмдер тек деректерді талдауға көмектесіп, шешім қабылдамайтын бұрынғы тәсілдерден түбегейлі ауытқу болып табылады.
Жылдамдық моральға қарсы: соғыстың жаңа шындығы
Құжатта тікелей көрсетілгендей: қарсыластардың ЖИ саласындағы қарқынды прогрессі және қазіргі қақтығыстардың жеделдеуі АҚШ-ты «толық автономды жүйелер» құруға мәжбүрлеуі мүмкін. Негізгі мақсат — «датчиктен нысананы жоюға дейінгі» циклді қысқарту және операциялар жылдамдығын бірнеше есе арттыру.
Доктрина барлау деректерін өңдеу, әртүрлі платформалардан ақпаратты салыстыру және бірыңғай операциялық көрініс құру үшін нейрожелілерді белсендірек пайдалануды тапсырады. Қолбасшыларға алгоритмдерге талдау, шешім қабылдау және тәуекелдерді басқару міндеттерін жүктеу ұсынылады.
Айта кетерлігі, құжатта «азаматтық тұрғындарға келтірілген зиянды азайту» туралы ережелер бар. Алайда, сарапшылар атап өткендей, бұл нақты қорғау механизмінен гөрі сөзсіз этикалық және құқықтық салдарларды жұмсарту әрекеті сияқты естіледі.
Ілмектегі адам: кепілдік пе, әлде иллюзия ма?
Пентагон алгоритмдерге шамадан тыс тәуелділік «ауыр моральдық және құқықтық дилеммаларға» әкелетінін атап көрсетеді. Доктринаға қосымшада автоматтандыру адамның ойлауы мен белсенді коммуникациясын алмастырмайтыны ерекше айтылған.
Ведомствоның ресми өкілі департаменттің ЖИ-технологиялары «нысаналарды автономды түрде таңдауға немесе оларға соққы беруге мүмкіндік бермейтінін», ал командирлер әрбір шешім үшін жауапты болып қалатынын мәлімдеді. Алайда «мониторинг кезінде әрекеттерді бастайды» деген тұжырымдама интерпретацияға орын қалдырады — әсіресе ұрыс жылдамдығы адам реакциясының мүмкіндіктерінен асып түсетін жағдайларда.
Айта кету керек, сол күні Қорғаныс министрлігі ұрысты басқару жүйелері мен нысаналарды таңдауды түрлендіру үшін «агенттер желісін» іске қосу туралы хабарлады. Пентагонның цифрлық технологиялар жөніндегі бас маманы Кэмерон Стэнли мұны «әрбір шешімнің ортасында адамның пайымын сақтай отырып, командирлерге сапалы ақпаратқа жылдамырақ қол жеткізуді қамтамасыз ететін үйлесімді ЖИ-агенттер желісін құру» деп атады.
Жаһандық контекст және қорытындылар
Естеріңізге сала кетейін, 2023 жылы БҰҰ Бас хатшысы Антониу Гутерриш өлімге әкелетін автономды қару жүйелерін толық тыйым салуға шақырып, оларды «саяси тұрғыдан қолайсыз» және «моральдық тұрғыдан жиіркенішті» деп атаған болатын. Осы уақытта Пентагон қызметкерлер арасында ЖИ енгізудің 1775%-ға өскені туралы есеп берді.
Менің талдауым: Бұл жай ғана доктринаны жаңарту емес — бұл соғыс жүргізу парадигмасындағы түбегейлі өзгеріс. Әлем алгоритмдер тек көмектесіп қана қоймай, «адамның бақылауымен» шешімдер қабылдайтын дәуірге аяқ басуда. Мәселе тек нақты ұрыста ставкалар секундтармен өлшенетін кезде бұл бақылаудың қаншалықты тез формальдылыққа айналатынында. Криптоқауымдастық бұл процестерді мұқият бақылауы керек: бүгін әскери салада сыналып жатқан технологиялар ертең децентрализацияланған басқару және қауіпсіздік жүйелерінің негізіне айналуы мүмкін.