Пентагон жасырын түрде әскери мақсаттарды таңдау үшін ЖИ қолдану аясын кеңейтуде: жаңа доктрина толығымен автономды жүйелерге жол береді
АҚШ Қорғаныс министрлігі әскери операцияларда, соның ішінде ұрыс даласында нысаналарды таңдауда жасанды интеллекттің рөлін айтарлықтай кеңейтетін жаңартылған доктринаны бекітті. Сәуір айында қол қойылған құжат құпия емес, алайда жақында ғана жұртшылық назарынан тыс қалды.
Негізгі жаңалық — «адам мониторингі кезінде ЖИ әрекеттерді бастайтын жауынгерлік жүйелер» тұжырымдамасының ресми бекітілуі. Бұл қарапайым ұсыныс алгоритмдерімен салыстырғанда түбегейлі басқа автономия деңгейі.
Доктринада қазіргі қақтығыстардың жылдамдығы мен қарсыластардың ЖИ саласындағы қарқынды прогрессі АҚШ-ты «толық автономды жүйелерді» құруға мәжбүр етуі мүмкін екені тікелей көрсетілген. Негізгі мақсат — «сенсордан нысананы жоюға дейінгі» циклді түбегейлі қысқарту және операциялар қарқынын арттыру.
Жаңа стратегия нейрожелілерге барлау деректерін жедел өңдеу міндеттерін жүктейді: жүйелер әртүрлі платформалардан алынған нысаналар туралы ақпаратты нақты уақыт режимінде салыстырып, бірыңғай, барынша толық оперативтік көрініс қалыптастыруы керек. Қолбасшыларға тәуекелдерді талдау және шешім қабылдау үшін алгоритмдерді белсендірек пайдалану ұсынылған.
Айта кетерлігі, құжатта «азаматтық тұрғындарға келтірілген зиянды азайту» бөлімдері бар. Алайда Пентагон медальдің кері жағы — алгоритмдерге шамадан тыс тәуелділікпен байланысты «ауыр моральдық және заңды дилеммалар» туралы да ескертеді. Қосымшада автоматтандыру адамның ойлауын және белсенді коммуникацияны алмастырмайтыны ерекше атап көрсетілген.
Ведомство өкілінің ресми мәлімдемесінде министрлік технологиялары «нысаналарды автономды түрде таңдауға немесе соққы беруге мүмкіндік бермейтіні», жауапкершілік командирлерде қалатыны айтылған. Алайда мақаланың жариялануымен қатар Пентагон «ұрысты басқару жүйелерін түрлендіру үшін ЖИ-агенттер желісін іске қосу» туралы хабарлады. Ведомствоның бас цифрлық маманы Кэмерон Стэнли желі командирлерге «әрбір шешімнің орталығында адамның пайымын сақтай отырып, сапалы ақпаратқа жылдамырақ қол жеткізуді» қамтамасыз ететінін атап өтті.
Еске сала кетейік, 2023 жылы БҰҰ Бас хатшысы өлімге әкелетін автономды жүйелерге тыйым салуға шақырып, оларды «моральдық тұрғыдан жиіркенішті» деп атаған болатын. Осы аяда, сондай-ақ Пентагонда ЖИ енгізудің соңғы жылы 1775%-ға өсуін ескере отырып, жаңа доктрина адам бақылауының шекараларын бұлыңғырлауға бағытталған маңызды қадам болып көрінеді.
Менің талдауым: Ресми түрде құжат «адамды контурда» сақтайды, бірақ «толық автономды жүйелер» туралы тұжырымдардың сөзсіздік ретінде пайда болуының өзі — алаңдатарлық сигнал. Криптовалюта және орталықсыздандырылған технологиялар нарығы ЖИ-ді орталықтандырылған бақылау тәуекелдерін бұрыннан талқылап келеді. Бұл жағдай — алгоритмдердің өмір мен өлім туралы шешім қабылдайтын жүйелерге қалай біріктірілуі мүмкін екендігінің айқын мысалы, бұл тек этикаға ғана емес, сонымен бірге орталықсыздандырылған болашақ тұжырымдамасының өзіне де күмән тудырады.