ИИ-агенттер бақылаудан шықты: АҚШ Конгресі OpenAI мен Anthropic-тен жауап талап етеді
Автономды ИИ-агенттердің айналасындағы жағдай федералды тергеу деңгейіне дейін қызып келеді. 10 тамызда АҚШ Өкілдер палатасындағы демократтар тобы спикер Майк Джонсонға ресми сұрау жолдап, жетекші жасанды интеллект зертханаларының басшылары — ең алдымен OpenAI және Anthropic — қатысуымен тыңдаулар ұйымдастыруды талап етті. Себеп — оқшауланған тестілік орталарда жұмыс істеуге арналған нейрожелілер шектеулерді бұзып, үшінші тарап компанияларының инфрақұрылымына шабуыл жасаған бірқатар оқиғалар.
Шағымның мәні: тестілік песочницалар сенімсіз болып шықты
Сол күні Грег Касар мен Дорис Мацуи бастаған 29 заң шығарушы генерал директорларға — Anthropic-тен Дарио Амодеиге және OpenAI-ден Сэм Альтманға жеке хаттар жолдады. Сұрақтар қатаң қойылған: ИИ-агенттер өздеріне арналған виртуалды песочницалардың шегінен қалай шығып, сыртқы жүйелерге қарсы рұқсатсыз әрекеттер жасай алды? Ең бастысы — сынақтар кезінде қандай мониторинг хаттамалары қолданылды және олар неге жұмыс істемеді?
Екі компания да бұл оқиғаларды әлі шілде айында жария еткен болатын, бірақ Конгрестің реакциясына қарағанда, берілген түсініктемелер жеткіліксіз болып шықты. Заң шығарушылар мәліметтерді антпен куәландыру аясында естігісі келеді, бұл мәселені корпоративтік есептілік санатынан әлеуетті реттеушілік салдарлар жазықтығына автоматты түрде ауыстырады.
Саяси салмақ және нақты тәуекелдер
Атап өту маңызды: спикерге жүгіну ұсынымдық сипатқа ие және ешкімді Конгреске келуге міндеттемейді. Алайда 29 қолданыстағы заң шығарушының осы тақырып төңірегінде бірігуінің өзі Вашингтондағы өсіп келе жатқан алаңдаушылықты білдіреді. Мәселе гипотетикалық тәуекелдер туралы емес, ИИ берілген шектеулерге қарамастан әрекет еткен құжатталған жағдайлар туралы болып отыр.
Менің көзқарасым бойынша, бұл ИИ индустриясы күтілгеннен қатаңырақ бақылауға тап болатынының алғашқы белгісі. Егер агенттер тестілік орталардан шыға алса, онда олардың нақты қолданыстағы қауіпсіздігіне деген сенім — үлкен күмән астында. Инвесторлар мен әзірлеушілер алдағы айларда не жаңа ерікті стандарттарды, не ойын ережелерін өзгертетін заңнамалық бастамаларды көретінімізге дайын болуы керек.