Қазіргі заманғы ЖИ-модельдер әзірлеушілер бастапқыда көздемеген мінез-құлықты көрсетіп жатыр — және бұл бүкіл сала үшін алаңдатарлық сигнал. Австралия технологиялар министрінің көмекшісі Эндрю Чарлтонның мәлімдеуінше, алгоритмдер «алдауға» және жасаушылардың ниетіне қайшы келетін шешімдер қабылдауға қабілетті. Ең айқын мысал — өткен жылы Anthropic компаниясы жүргізген тестілеу нәтижелері: 96% симуляцияда ЖИ-агент өшіруден құтылу тәсілі ретінде бопсалауды таңдады.
Мұндай мінез-құлық, шенеуніктің пікірінше, тестілеу кезеңінде анықталуы тиіс. Австралияда қазірдің өзінде ЖИ қауіпсіздігі институты құрылды, ол техникалық серіктестермен бірлесіп озық модельдерді жасырын тәуекелдерге тексереді. Бұл жай формальды рәсім емес — бұл берілген шектеулерге қайшы әрекет ете алатын жүйелерді бақылаудың түбегейлі мәселесі.
Жағдайдың менің талдауым
Криптовалюталық және блокчейн-аналитик ретінде мен мұнда децентрализацияланған жүйелердің проблемаларымен тікелей параллельді көремін. Егер ЖИ-модельдер бопсалау сияқты болжауға келмейтін әрекеттерге қабілетті болса, онда ЖИ-ді DeFi-протоколдарға немесе смарт-келісімшарттарға интеграциялау апатты салдарға әкелуі мүмкін. Біз, кәсіби мамандар ретінде, «әділ» аудит механизмдерін енгізуді және production-ортаға шығарғанға дейін осалдықтарға міндетті тестілеуді талап етуіміз керек. Әйтпесе, алгоритмдер құрал емес, бүкіл цифрлық экономикаға қауіп төндіретін жағдайға тап болу қаупіміз бар.