Технологиялық қауымдастықтың назары тағы да жасанды интеллект қауіпсіздігі мәселесіне аударылды. Бұл жолы пікірталасты күтпеген одақ қыздырды: Илон Маск Anthropic бас директоры Дарио Амодеиді ашық қолдады, ол саладағы ағымдағы жағдайға қатаң сын айтты. ИИ-ге деген скептицизмімен танымал Маск диалогты «қызықты» деп атап, суперинтеллект адамзатқа «мейірімді» болады деген үмітін білдірді. Бұл мәлімдеме Амодеидің пікірімен бір мезгілде дерлік айтылды, ол: «ИИ-мен айналысатын компанияларға, оның ішінде Anthropic-ке қатысты ең әділ сын — біз әлі күнге дейін басты уәдені орындамадық: әлемге пайда әкелу», — деп мойындады.
Дау Силикон алқабындағы инвестор Гэвин Бейкер Амодеи туралы қауесеттер оның нақты жетістіктерінен жылдам таралып жатқанын атап көрсеткеннен кейін өршіді. Алайда Anthropic басшысының өзі артық пессимизм туралы айыптауларды тойтарып, оның көпшілік алдындағы сөздері қысқа сұхбаттарда жиі жоғалып кететін тәуекелдер мен пайдалар арасындағы тепе-теңдікті ғана көрсететінін атап өтті. Оның айтуынша, «Machines of Loving Grace» атты ИИ-дің артықшылықтары туралы жұмыс дәл сала тым қараңғы бояумен суреттегендіктен пайда болды.
ИИ-ге сенімсіздіктің терең себебі
Амодеи мәселенің түбірін технологиялардың өзінен емес, қоғамның корпорацияларға, мемлекеттік құрылымдарға және IT-саласына деген көпжылдық сенімсіздігінен көреді. Ондаған жылдар бойы жинақталған бұл күдік автоматты түрде жасанды интеллектке де ауысады. Сондықтан ол реттеуге деген көзқарасты түбегейлі өзгертуді ұсынады: ерікті уәделердің орнына — жетекші модельдерді міндетті тестілеу. Маусым айында ол G7-ге ұлттық ережелердің бытыраңқылығы жаһандық нарықта хаос тудыруы мүмкін екендігі туралы ескерту жасаған болатын.
Маск өз кезегінде даудың философиялық аспектісін күшейтті. Навал Равиканттың «құдайды жасап, оны қарғыбауға отырғызуға болмайды» деген ойын қайталай отырып, ол іс жүзінде мойындады: егер адамзат суперинтеллектті бақылаудан жоғалтса, оның жақсы ниетіне үміт арту ғана қалады. Бұл жай абстрактілі пікірталас емес — бұл жаңа технологиялық дәуірде билік тұтқасын кім ұстайтыны туралы мәселе.
Қауіпсіздікке апаратын екі жол
Амодеи шешім ретінде екі тәсілді қарастырады: Трамп әкімшілігі ұсынған модельдерді алдын ала тексеру және Google DeepMind-тен Демис Хассабистің идеясы — FINRA үлгісіндегі реттеуші құру. Екі нұсқаның да өмір сүруге құқығы бар, бірақ әзірге сала тоқырауда. Айта кету керек, бұрын OpenAI-дің жабықтығын сынаған Маск Anthropic-те дамудың баламалы жолын — ашық әрі қауіпсіздікке бағытталған жолды көреді.
Дегенмен, Амодеидің өзі «ИИ қатерлі ісікті емдейді» деген сияқты асқақ ұрандардан аулақ. Оның жеке мотивациясы тереңірек: оның әкесі тиімді дәрі-дәрмектер пайда болғанға дейін аз уақыт бұрын гепатит C-ден қайтыс болды. Ол биологиядағы ИИ 5–10 жыл ішінде аурулардың көпшілігін емдей алатынына сенімді, бірақ нақты пайда — маркетингтік уәделерде емес, нақты емдеуде. Anthropic-тің Pfizer-мен ынтымақтасып, ИИ-ді медицинаның негізгі инфрақұрылымы ретінде қарастыруы айғақты.
Менің талдауым: Маск пен Амодеидің бұл одағы — нарық үшін маңызды сигнал. Егер осындай екі түрлі ойыншы қатаң бақылау қажеттілігі туралы ортақ пікірге келсе, демек, сала шынымен де сыни нүктеге жетті. Криптоинвесторлар үшін бұл да еске салу: технологиялар бақылаудан шығып бара жатқан дәуірде децентрализацияланған және ашық жүйелердің (соның ішінде блокчейн) құндылығы тек өсе түседі. Мәселе тек — ИИ-дің «мейірімділігі» біздің қауіпсіздігіміздің жалғыз кепіліне айналғанға дейін қорғаныс механизмдерін құрып үлгереміз бе, жоқ па.