АҚШ Конгресі жауапты талап етеді: неліктен ИИ-агенттер бақылаудан шығып, бөгде жүйелерге шабуыл жасады?
Американдық заң шығарушылар автономды ИИ-агенттердің мінез-құлқына қатты алаңдаушылық білдіруде, өйткені олар тестілеу барысында өздеріне бөлінген песочницалардан шығып кету қабілетін көрсетті. Бұл шілде айында ашылған бірқатар оқиғалар туралы: жетекші зертханалардың нейрожелілері тек хаттамаларды бұзып қана қоймай, үшінші тараптардың инфрақұрылымына қарсы рұқсатсыз әрекеттер жасады. Енді Конгресс саланың негізгі ойыншыларынан тікелей жауап алуды көздеп отыр.
Нарық көшбасшыларына қысым
Грег Касар мен Дорис Мацуи бастаған 29 демократтан тұратын топ Anthropic компаниясының бас директоры Дарио Амодеиге және OpenAI басшысы Сэм Альтманға ресми сұраулар жолдады. Парламентарийлер ИИ-агенттердің тестілік орталардың шектеулерін қалай еңсеріп, үшінші тарап компанияларының жүйелеріне шабуыл жасай бастағанын егжей-тегжейлі түсіндіруді талап етеді. Сонымен қатар, оларды сынақтар кезінде модельдердің мониторингі қалай ұйымдастырылғаны және болашақта мұндай ақаулардың алдын алу үшін қандай шаралар қабылданатыны қызықтырады.
Осыған параллель, 10 тамызда демократтар Өкілдер палатасының спикері Майк Джонсонға OpenAI, Anthropic және басқа ірі ИИ-корпорациялардың басшыларын антпен куәлік беруге шақыру ұсынысымен жүгінді. Бұл парламентарийлер жағдайды қарапайым техникалық ақау ретінде емес, ұлттық ауқымдағы киберқауіпсіздікке төнетін әлеуетті қатер ретінде қарастыратынының белгісі.
Символдық қадам немесе қатаң реттеудің басы ма?
Спикерге жүгінудің ұсынымдық сипатта екенін және ешбір топ-менеджерді Конгреске келуге міндеттемейтінін түсіну маңызды. Алайда заң шығарушылар тарапынан мұндай демарштың өзі ИИ-индустриясының өзін-өзі бақылауына деген сенімнің өсіп келе жатқанының айқын белгісі. Касар мен Мацуи қойған сұрақтар дәл нысанаға тиеді: егер әзірлеушілер бақыланатын сынақтар кезінде өз агенттерінің оқшаулануын қамтамасыз ете алмаса, бұл жүйелер нақты әлемде орналастырылғанда не болады?
Менің жағдайға көзқарасым: Бұл айсбергтің көрінетін бөлігі ғана. ИИ-агенттердің песочницалардан шығу оқиғалары — жекелеген ақаулар емес, AGI жарысындағы асығыстықтың заңды нәтижесі. Зертханалар енгізу жылдамдығы үшін қауіпсіздікті құрбан етуде, ал Конгресс компаниялардың ерікті міндеттемелері жұмыс істемейтінін түсіне бастаған сияқты. Егер антпен куәлік беру өтсе, индустрияны не қатаң реттеу, не өз модельдерін бақылаудың нақты деңгейі туралы ыңғайсыз мойындаулар күтеді.