Tesla және SpaceX басшысы Илон Маск жасанды интеллекттің болашағы туралы пікірталасқа күтпеген жерден қосылып, Anthropic компаниясының бас директоры Дарио Амодеиді қолдады. Маск Амодеи өз ұстанымын шамадан тыс пессимизм туралы айыптаулардан қорғап, толыққанды мәлімдеме жасағаннан кейін бірден дерлік жауап жариялады. Миллиардердің реакциясы — «Қызықты диалог» — Кремний алқабының ең ықпалды тұлғалары да суперинтеллекттің дамуына байланысты тәуекелдерге деген көзқарастарын қайта қарай бастағанының белгісі болды.
Амодеи неліктен тәуекелдерді алға тартады?
Дау инвестор Гэвин Бейкердің сынынан кейін өршіді. Ол Амодеидің мәлімдемелерінің жүйелілігіне күмән келтіріп, оның жағдайды тым асыра көрсетіп жатқанын айтты. Алайда Амодеи өз ұстанымының бір жақты емес екенін қарсы ұсынды. Ол өзінің «Machines of Loving Grace» эссесі ИИ-дің артықшылықтарына арналғанын, ал қысқа сұхбаттардағы мұңды болжамдар — аудиторияның назарын аударатын айсбергтің тек ұшы ғана екенін атап өтті.
Амодеидің пікірінше, басты мәселе — қоғамның технологиялық корпорациялар мен мемлекеттік институттарға деген терең сенімсіздігі. Ондаған жылдар бойы жинақталған бұл сенімсіздік автоматты түрде ИИ-ге де ауысады. Дәл осы себепті ол ерікті уәделердің орнына жетекші модельдерді міндетті түрде тестілеуді талап етеді, сондай-ақ ұлттық деңгейдегі реттеудің бытыраңқылығы қаупі туралы ескертіп, G7-ге жүгінеді.
«ИИ-мен айналысатын компанияларға, оның ішінде Anthropic-ке қатысты ең әділ сын — біз әлі күнге дейін басты уәдені орындамадық: әлемге пайда әкелу», — деді Амодеи.
Маск және «мейірімді» ИИ философиясы
Маск Амодеимен жай келісіп қана қоймай, даудың философиялық аспектісін тереңдетті. Ол Навал Равиканттың ойын дерлік сөзбе-сөз қайталады: «Құдайды жасап, оны шылдырға отырғызуға болмайды». Оның ұстамды мойындауында — «ИИ бізге мейірімді болады деп үміттенемін» — алаңдатарлық ескерту жасырынған: егер адамзат суперинтеллектті бақылаудан жоғалтса, бізге оның игі ниетіне сену ғана қалады.
Масктың Anthropic-ке бұрыннан жанашырлық танытатыны қызықты, ол OpenAI-дің тұйықтығын сынайды. Ол Амодеидің көзқарасынан дамудың балама жолын көреді. Алайда пікірталас келіспеушіліктерді де анықтады: Амодеи Калифорнияның SB 53 заңын қолдайды, ал Маск оны әлеуетті қауіпті деп санайды, себебі ол ірі ойыншылардың қолында биліктің шоғырлануына әкеліп, кірісі $500 млн-нан төмен компанияларды талаптардан босатуы мүмкін.
Амодеи өз кезегінде екі жолды ұсынады: не Трамп әкімшілігі ұсынғандай модельдерді алдын ала тестілеу, не FINRA үлгісіндегі тәуелсіз реттеуші құру. Бірақ ең бастысы — ол өзінің амбициялық мақсатына оралады: ИИ 5–10 жыл ішінде аурулардың көпшілігін жеңе алады. Бұл мақсат ол үшін жеке: оның әкесі гепатит C-ден қайтыс болған. Дегенмен ол дауыс көтеретін ұрандардан аулақ, нақты құндылықты уәделер емес, емдеудің нақты нәтижелері беретінін түсінеді.
Менің талдауым: Нарық әлі толық түсінбейді, Маск пен Амодеи арасындағы пікірталас — бұл екі технократтың жай дауы емес. Бұл парадигманың ауысуының белгісі: шексіз оптимизмнен тәуекелдерді прагматикалық басқаруға көшу. Криптоиндустрия үшін, ол жиі ИИ-жобалармен қиылысады, бұл реттеудің алдағы қатаңдауы туралы сигнал. Өз қауіпсіздігі мен ашықтығын дәлелдей алмайтын жобаларға қиын болады. Инвесторлар технологиялардың хайпына ғана емес, олардың болашақ нормативтік талаптарға сәйкестігіне де мұқият қарауы керек.