Маск және Амодеи: жасанды интеллекттің жаны үшін күрес — үміт пен бақылау
Илон Маск тағы да жасанды интеллекттің болашағы туралы пікірталас орталығына айналды, Anthropic басшысы Дарио Амодеидің индустрияға жасаған қатаң сынын қолдады. Миллиардердің реакциясы дереу болды — Амодеи өз ескертулерін шамадан тыс пессимизм деген айыптаулардан қорғап, кеңейтілген жазба жариялағаннан кейін бір минут ішінде.
Амодеи неліктен ИИ қауіптерін талап етеді
Дау инвестор Гэвин Бейкердің мәлімдемесінен кейін өршіді, ол Амодеидің ұстанымы туралы қауесеттер оның көпшілік алдында айтқандарымен сәйкес келмейтінін атап өтті. Алайда Anthropic басшысы бұған қарсы шығып: оның «Machines of Loving Grace» еңбегі дәл осы сала тым қараңғы бояулармен суреттеп, біржақты көрініс жасағандықтан пайда болды.
Амодеидің пікірінше, мәселенің түбірі — қоғамның корпорацияларға, мемлекеттік құрылымдарға және жалпы технологиялық индустрияға деген терең сенімсіздігінде. Ондаған жылдар бойы жинақталған бұл сенімсіздік автоматты түрде жасанды интеллектке ауысады. Ол сондай-ақ қысқа сұхбаттардың шын мәніндегіден гөрі мұңдырақ көрінетінін атап өтті, өйткені дәл осындай тұжырымдар көбірек назар аудартады.
«ИИ-мен айналысатын компанияларға, оның ішінде Anthropic-ке қатысты ең әділ сын — біз әлі күнге дейін басты уәдені орындаған жоқпыз: әлемге пайда әкелу», — деді Амодеи.
Маск философиялық пікірталасқа қосылады
Маск диалогты «қызықты» деп атады, бірақ оның өз үлесі әлдеқайда арандатушылық сипатта болды. Ол іс жүзінде Навал Равиканттың ойын қайталады: құдайды жасап, оны қылшыққа байлау мүмкін емес. Масктің жауабы осалдықты сабырлы мойындау сияқты естілді: «ИИ бізге мейірімді болады деп үміттенемін».
Бұл қысқа твитте күшті ескерту жасырылған: егер адамзат супер интеллектті бақылаудан жоғалтса, жалғыз үміт — өз жаратылысының игі ниетіне сену. Бұл жай риторика емес, қабылдаудағы түбегейлі өзгеріс — техникалық кепілдіктерге деген сенімнен экзистенциалды белгісіздікті мойындауға көшу.
Масктің ұстанымы жаңа емес: ол бұрын OpenAI-дің жабықтығын сынап, Амодеи басқа жолды таңдағанын атап өткен. Алайда реттеу мәселесінде олардың көзқарастары ерекшеленеді. Амодеи Калифорнияның SB 53 заң жобасын қолдайды, ол кірісі $500 млн төмен компанияларды талаптардан босатады, ал Маск реттеу биліктің азшылықтың қолында шоғырлануына әкелмейтініне күмәнданады.
Осы даудың аясында Амодеи екі өміршең тәсілді еске салды: Трамп әкімшілігі ұсынған модельдерді алдын ала тестілеу және Демис Хассабис ұсынғандай FINRA үлгісіндегі тәуелсіз реттеуші құру. Оның өзі ең амбициялы мақсатына оралады — ИИ 5–10 жыл ішінде аурулардың көпшілігін емдей алады, бірақ ол мойындағандай, ұрандар емес, нақты емдеу көмектеседі.
Бұл диалог — индустрияның жетілу көрсеткіші. Негізгі тұлғалар тек мүмкіндіктерді ғана емес, адамзат алдындағы моральдық міндеттемелерді де талқылағанда, нарық тек технологиялық емес, этикалық тәуекелдерді де ескере бастайды. Инвесторлар үшін бұл сигнал: ИИ жобаларының ұзақ мерзімді құны тек инновациялармен ғана емес, саланың қоғам сеніміне ие болу қабілетімен де анықталады.