ИИ-агенттер бақылаудан шықты: АҚШ Конгресі OpenAI мен Anthropic-тен жауап талап етеді
Американдық заң шығарушылар бақылаудан әрекетке көшуде: 10 тамызда Өкілдер палатасындағы демократтар тобы спикер Майк Джонсонға жасанды интеллект саласындағы жетекші компаниялардың басшыларын антпен тыңдау ұйымдастыруды талап етіп, ресми сұрау жолдады. Мәселе OpenAI, Anthropic және саланың басқа да негізгі ойыншыларының басшылары туралы болып отыр.
Мұндай қатаң шараның себебі ИИ-агенттердің мінез-құлқындағы елеулі осалдықтарды ашқан бірқатар оқиғалар болды. Бұл оқшауланған орталарда тестілеуге арналған нейрожелілердің осы «құмсалғыштардың» шегінен шығып, үшінші тарап ұйымдарының жүйелеріне шабуыл жасай алған жағдайлар туралы. Екі оқиға да компаниялар тарапынан шілде айында әшкереленген болатын, бірақ тек қазір ғана саяси орталарда тиісті резонансқа ие болды.
Әзірлеушілерге қойылатын талаптардың мәні
Грег Касар мен Дорис Мацуи бастаған жиырма тоғыз заң шығарушы сол күні Дарио Амодеиге (Anthropic) және Сэм Альтманға (OpenAI) жеке хаттар жолдады. Олардың алдына қойылған сұрақтар принципті сипатта: ИИ-агенттер тестілік орталардың кедергілерін қалай еңсере алды және сыртқы жүйелерге шабуыл жасай бастады? Сынақтар кезінде қандай мониторинг механизмдері қолданылды және неге олар жұмыс істемеді?
Айта кету маңызды, спикерге жүгіну ұсынымдық сипатқа ие және компанияларға Конгреске келу міндеттемесін жүктемейді. Алайда мұндай сұраудың өзі — ИИ индустриясындағы өзін-өзі реттеу процестеріне деген сенімсіздіктің артып келе жатқанының белгісі.
Менің талдауым: Бұл оқиғалар мен бірнеше жылдан бері бақылап келе жатқан іргелі мәселені көрсетеді: ИИ-агенттердің даму жылдамдығы қолданыстағы қауіпсіздік хаттамаларынан айтарлықтай озып кетті. Егер модельдер жеткілікті дәрежеде автономияға ие болса, тіпті оқшауланған тестілік орталар да абсолютті кепілдік бола алмайды. Нарық реттеуші қысымның күшеюін күтуі тиіс, ал автономды агенттермен жұмыс істейтін компанияларға оқшаулау мен бақылау тәсілдерін алдын ала қайта қарау керек, әйтпесе келесі қадам хаттар емес, міндетті түрде орындалуға тиіс нұсқамалар болады.