Пентагон соғыс ережелерін қайта жазады: Жасанды интеллект қаруды бағыттау құқығын алады, бірақ адамның бақылауымен.
АҚШ Қорғаныс министрлігі ұрыс даласында жасанды интеллектті қолданудың жаңа, айтарлықтай кеңейтілген доктринасын бекітті. Сәуір айында қол қойылған құжаттың құпиялылық грифі жоқ, алайда оның мазмұны осы уақытқа дейін жұртшылыққа қолжетімсіз болып келді. Бұл әскери операциялардағы алгоритмдердің рөлін түбегейлі өзгерту туралы.
Негізгі жаңалық — «адам мониторингі кезінде ЖИ әрекеттерді бастайтын жауынгерлік жүйелердің» ресми түрде мойындалуы. Бұл нейрожелілер тек деректерді талдап қана қоймай, күш қолдануға әкелетін процестерді өз бетінше іске қосу құқығына ие болатынын білдіреді. Құжатта көрсетілгендей, қазіргі қақтығыстың жылдамдығы мен әлеуетті қарсыластардың технологиялық прогрессі АҚШ-ты «толық автономды жүйелерді» құруды қарастыруға мәжбүрлейді.
Доктринаны қайта қараудың негізгі мақсаты — «сенсордан нысананы жоюға дейінгі» циклді түбегейлі қысқарту. Енді ЖИ барлау деректерін өңдеп қана қоймай, ондаған платформалардан алынған ақпаратты нақты уақыт режимінде салыстырып, бірыңғай операциялық көрініс жасауы керек. Қолбасшыларға тәуекелдерді талдау, шешім қабылдау және басым нысаналарды таңдау үшін алгоритмдерді белсендірек пайдалану тапсырылады.
Құжатта «азаматтық тұрғындарға келтірілген зиянды азайтуға» назар аударылғаны айтарлықтай. Алайда, дәл сол жерде машиналарға шамадан тыс тәуелділіктен туындайтын «ауыр моральдық және құқықтық дилеммалар» туралы ескерту де бар. Әзірлеушілер атап өткендей: автоматтандыру адамның ойлауы мен проактивті коммуникациясын алмастырмайды.
Ведомство өкілі айтқан Пентагонның ресми ұстанымы — адам әрқашан негізгі операциялық шешімдерден хабардар болып отырады. Қолданыстағы ЖИ технологиялары нысаналарды автономды түрде таңдауға немесе соққы беруге мүмкіндік бермейді. Олардың айтуынша, командирлер әрбір шешім үшін толық жауапкершілікті сақтайды.
Мақаланың жариялануымен іс жүзінде бір уақытта ұрысты басқару және нысаналарды таңдау үшін «ЖИ-агенттер желісінің» іске қосылғаны жарияланды. Пентагонның цифрлық технологиялар жөніндегі бас маманы Кэмерон Стэнлидің айтуынша, бұл желі командирлерге сапалы ақпаратқа жылдам қол жеткізуді қамтамасыз етіп, адамның пайымдауын процестің орталығында сақтайды.
Еске сала кетейін, 2023 жылы БҰҰ Бас хатшысы өлімге әкелетін автономды жүйелерді толық тыйым салуға шақырып, оларды «моральдық тұрғыдан жиіркенішті» деп атаған болатын. Алайда, динамикаға қарағанда, әскери ведомстволар тікелей қарама-қарсы бағытта қозғалуда. Пентагонда ЖИ енгізудің 1775%-ға өскені жарияланған жағдайда, бұл қадам қарулану жарысының заңды, бірақ өте қауіпті кезеңі болып көрінеді.
Аналитик пікірі: Бұл құжат — нұсқаулықтың жай ғана жаңартылуы емес, машиналарға зорлық-зомбылық құқығын берудің алдындағы соңғы формальды кедергілерді алып тастау. «Адам бақылауы» туралы мәлімдемелер — жұртшылықты тыныштандыруға арналған рәсімдік формула. Нақты ұрыста, секундтар есептелгенде, «мониторинг» жай формальдылыққа айналады. Криптоиндустрия бұл процестерді мұқият қадағалауы керек: біз әзірлеп жатқан децентрализация мен верификация технологиялары қаруды басқарудың ашық және этикалық жүйелерін құрудың жалғыз құралына айналуы мүмкін.