Пентагон үнсіз түрде мақсаттарды таңдау үшін жасанды интеллектіні заңдастырды: жаңа доктрина соғыс ережелерін өзгертеді
АҚШ Қорғаныс министрлігі сәуір айында әскери операцияларда жасанды интеллектті қолданудың жаңартылған доктринасын бекітті. Құпия емес, бірақ ашық қолжетімділікке жарияланбаған бұл құжат ЖИ-дің ұрыс даласындағы рөлін түбегейлі кеңейтеді.
Негізгі өзгеріс — «ЖИ адам мониторингі кезінде әрекеттерді бастайтын жауынгерлік жүйелердің» ресми түрде мойындалуы. Бұл доктринаның алдыңғы нұсқаларымен салыстырғанда түбегейлі басқа автономия деңгейі. Іс жүзінде алгоритмдер процестерді іске қосу құқығын алады, ал адам тек бақылаушы болып қалады.
Құжатта қазіргі қақтығыстардың жылдамдығы мен қарсыластардың ЖИ саласындағы прогрессі АҚШ-ты «толық автономды жүйелерді» құруға мәжбүрлеуі мүмкін екендігі тікелей айтылған. Негізгі мақсат — «датчиктен нысананы жоюға дейінгі» циклді қысқарту және операциялар қарқынын жеделдету. Нейрожелілерге енді барлау деректерін өңдеу ғана емес, сонымен қатар ұрыстың тұтас бейнесін құру үшін оларды кросс-платформалық салыстыру, сондай-ақ шешімдер қабылдауға және тәуекелдерді басқаруға көмектесу тапсырылады.
Айта кетерлігі, доктринада «азаматтық халыққа келтірілген залалды азайту» туралы бөлімдер бар. Алайда Пентагон медальдің екінші жағын да мойындайды: алгоритмдерге шамадан тыс тәуелділік «елеулі моральдық және құқықтық дилеммаларды» тудырады. Құжатқа қосымшада автоматтандыру адамның ойлауы мен коммуникациясын алмастырмайтыны ерекше атап көрсетілген.
Ведомствоның ресми өкілі адам әрқашан маңызды операциялық шешімдерден хабардар болатынын, ал ЖИ технологиялары нысаналарды автономды түрде таңдауға немесе соққы жасауға мүмкіндік бермейтінін мәлімдеді. Алайда «адам мониторингі кезінде» деген тұжырымдама түсіндіруге орын қалдырады.
Доктринаның жариялануымен уақыт бойынша сәйкес келе, Пентагон ұрысты басқару үшін «ЖИ-агенттер желісін» іске қосу туралы хабарлады. Бас цифрлық технологиялар маманы Кэмерон Стэнли атап өткендей, бұл желі командирлерге сапалы ақпаратқа жылдамырақ қол жеткізуді қамтамасыз етеді, әрбір шешімнің ортасында адамның пайымдауын сақтайды.
Естеріңізге сала кетейін, 2023 жылы БҰҰ Бас хатшысы Антониу Гутерриш өлімге әкелетін автономды жүйелерді «саяси тұрғыдан қолайсыз» деп атаған болатын, ал маусымда Пентагон қызметкерлер арасында ЖИ енгізудің 1775%-ға өскені туралы есеп берді.
Менің пікірім: Нарық әлі өзгеріс ауқымын түсінбеді. Нысананы көрсетуде ЖИ-ді заңдастыру — бұл жай бюрократиялық акт емес, бүкіл қорғаныс tech-индустриясына берілген сигнал. Біз компьютерлік көру алгоритмдері мен нақты уақыт жүйелеріне сұраныстың жарылысын, сондай-ақ БҰҰ тарапынан реттеудің сөзсіз қатаңдауын көреміз. Инвесторлар әскери сектор үшін қорғалған ЖИ шешімдерін әзірлейтін компанияларға назар аударуы керек — бұл алдағы 5 жылда жаңа мейнстримге айналады.