Пентагон жасырын түрде ЖИ доктринасын жаңартты: автономды жүйелер мен нысаналарды таңдауға баса назар аударылды
АҚШ Қорғаныс министрлігі әскери операцияларда жасанды интеллектті қолданудың жаңартылған доктринасын бекітті, ол оның рөлін ұрыс даласында нысаналарды таңдауға дейін кеңейтеді. Сәуір айында қол қойылған құжаттың құпиялылық грифі жоқ, алайда оның мазмұны кең жұртшылық үшін жарияланбады. Жаңа тұжырымдамаға сәйкес, бұл «ЖИ адам бақылауы кезінде әрекеттерді бастайтын жауынгерлік жүйелер» туралы болып отыр.
Соғыс жылдамдығы жаңа ережелерді белгілейді
Доктринаның негізгі хабары — технологиялық прогресс қарқынында қарсыластардан озып кету қажеттілігі. Құжатта қазіргі қақтығыстардың жылдамдығы мен ықтимал қарсыластардағы ЖИ дамуы АҚШ-тан «толық автономды жүйелерді» құруды талап етуі мүмкін екендігі тікелей көрсетілген. Негізгі мақсат — «датчиктен нысананы жоюға дейінгі» циклді қысқарту және операциялар қарқынын арттыру. Бұл нейрондық желілер тек барлау деректерін талдап қана қоймай, шешім қабылдау процесіне белсенді әсер ететінін білдіреді.
Пентагон ақпаратты өңдеуде ЖИ міндеттерін кеңейтеді: жүйелер бірнеше платформадан алынған деректерді жылдамырақ салыстырып, ұрыстың тұтас бейнесін жасауы керек. Қолбасшыларға тәуекелдерді талдау және басқару үшін алгоритмдерді белсендірек қолдану ұсынылады. Сонымен қатар, құжатта «азаматтық тұрғындарға келтірілген зиянды азайту» туралы ережелер бар, бұл этикалық бақылауды сақтау әрекетін көрсетеді.
Этикалық дилеммалар және адам факторы
Алайда ведомство медальдың екінші жағы туралы да ескертеді. Мәтінде алгоритмдерге шамадан тыс тәуелділікпен байланысты «елеулі моральдық және құқықтық дилеммалар» туралы тікелей айтылған. Қосымшада атап көрсетілгендей: автоматтандыру адамның ойлауы мен белсенді коммуникациясын алмастырмайды. Пентагонның ресми өкілі «адам әрқашан маңызды операциялық шешімдерден хабардар болуы керек» және ЖИ нысаналарды автономды түрде таңдауға немесе соққы беруге мүмкіндік бермейді деп мәлімдеді. Бұл қолбасшылардың әрбір шешім үшін жауапты болып қалатынына кепілдік береді.
Бір қызығы, Bloomberg ақпаратының таралған күні ведомство «ұрысты басқару жүйелері мен нысаналарды таңдауды түрлендіру үшін агенттер желісін іске қосу» туралы пресс-релиз жариялады. Бас цифрлық технологиялар маманы Кэмерон Стэнли қолбасшыларға әрбір шешімнің орталығында адамның пайымдауын сақтай отырып, сапалы ақпаратқа жылдамырақ қол жеткізуді қамтамасыз ететін «үйлесімді ЖИ-агенттер желісі» құрылып жатқанын атап өтті. Бұл БҰҰ-ның 2023 жылы «саяси тұрғыдан қолайсыз» деп аталған өлімге әкелетін автономды жүйелерге тыйым салу туралы шақыруларын еске салады.
Менің талдауым: Пентагон анық шекарада тепе-теңдікті сақтап тұр. Бір жағынан, қазіргі соғыстардың жылдамдығы автономияны талап етсе, екінші жағынан, алгоритмдердің «қара жәшігінен» қорқу адамды тізбекте сақтауға мәжбүр етеді. Бірақ «толық автономды жүйелер» тұжырымдамасы — бұл қызыл сызық. Егер АҚШ шынымен осыған барса, біз ЖИ жай құрал емес, ұрыс даласында дербес ойыншы болатын жаңа қару-жарақ жарысының куәгері боламыз. Әскери технологиялар нарығы қазірдің өзінде реакция жасап отыр: ЖИ саласындағы қорғаныс стартаптарының акциялары соңғы аптада 15-20%-ға өсті. Осы трендті бақылаңыз.