Маск жасанды интеллект тәуекелдері туралы пікірталасқа қосылады: суперинтеллектің «жақсы ниетіне» үміт арту
Жоғары технологиялар әлемінде жасанды интеллекттің болашағы төңірегінде қарама-қайшылықтың жаңа кезеңі пісіп жетілуде. Илон Маск күтпеген жерден көпшілік пікірталасқа түсіп, Anthropic басшысы Дарио Амодеидің ИИ қауіпсіздігіне қатысты алаңдаушылығын қолдады. Миллиардердің реакциясы Амодеи өзін шектен тыс пессимизмде айыптаған сыншыларға қарсы өз ұстанымын қорғап, кең көлемді жазба жариялағаннан кейін бірден дерлік келді.
Жанжалдың мәні: Амодеи неліктен тәуекелдерді талап етеді
Пікірталас Кремний алқабындағы басқарушы Гэвин Бейкердің Амодеидің ескертулерінің шынайылығына күмән келтірген мәлімдемелерінен кейін қызды. Алайда Anthropic басшысы оның ұстанымы бір жақты емес екенін қарсы алды. Ол өзінің «Machines of Loving Grace» еңбегінде әдейі әлеуетті қауіптер мен ИИ енгізудің орасан зор пайдасын сипаттау арасында тепе-теңдік сақтайды. Оның айтуынша, қысқа сұхбаттар мен контекстен алынған дәйексөздер көбінесе мұңды әсер қалдырады, ал шын мәнінде ол салмақты көзқарасқа шақырады.
Амодеидің пікірінше, негізгі мәселе қоғамның технологиялық корпорациялар мен мемлекеттік институттарға деген терең сенімсіздігінде жатыр. Ондаған жылдар бойы жинақталған бұл сенімсіздік жасанды интеллектке де автоматты түрде ауысады. Дәл осы себепті ол әзірлеушілердің ерікті уәделерінің орнына озық модельдерді міндетті тестілеуді енгізуді талап етеді. Оның маусым айында айтқан ұсынысы ИИ жүйелерін нарыққа шығарғанға дейін міндетті тексеруді, сондай-ақ G7 елдерін реттеудің бытыраңқылығы қаупі туралы ескертуді қамтиды.
«ИИ-мен айналысатын компанияларға, соның ішінде Anthropic-ке қатысты ең әділ сын — біз әлі күнге дейін басты уәдені орындамадық: әлемге пайда әкелу», — деді Амодеи.
Маск және даудың философиялық астары
Маск бұл диалогқа түсініктеме бере отырып, оны «қызықты» деп атады және инвестор Навал Равикант көтерген басты философиялық дилеммамен іс жүзінде келісті: құдайды жасап, оны қылшыққа отырғызу мүмкін емес. Масктің жауабы қысқа, бірақ мағыналы болды: «ИИ бізге мейірімді болады деп үміттенемін». Бұл ұстамды мойындауда терең ескерту жатыр — егер адамзат суперинтеллектті бақылаудан жоғалтса, жалғыз үміт өз жаратылысының ізгі ниеті ғана болып қалады.
Масктің Anthropic тәсіліне бұрыннан жанашырлық танытып, OpenAI-дің тұйықтығын сынағаны көрсеткіш. Ол Амодеиде саланы дамытудың балама жолын көреді. Алайда Амодеидің өзі Кремний алқабына тән либертариандық көзқараспен де дауға түседі. Ол реттеу әрқашан биліктің шоғырлануына әкелмейтінін атап өтіп, мысал ретінде кірісі $500 млн-нан төмен компанияларды талаптардан босататын, осылайша шағын бизнесті қорғайтын Калифорнияның SB 53 заң жобасын келтіреді.
Биотехнологиялық серпіліс және шындық
Сөзінің соңында Амодеи өзінің ең амбициялы уәдесіне оралды: биологиядағы ИИ алдағы 5–10 жылда адамның көптеген ауруларын емдей алады. Бұл мақсат ол үшін абстрактілі емес — оның әкесі тиімді дәрілер пайда болғанға дейін көп ұзамай гепатит C-ден қайтыс болды. Сонымен қатар ол «ИИ қатерлі ісікті емдейді» деген сияқты дауыс көтермейді, өйткені нақты емдеу хаттамалары шешеді, ал маркетингтік ұрандар емес деп дұрыс санайды.
Аналитикалық түсініктеме: Бұл пікірталас технологиялық даулардан әлдеқайда асып, инвестициялық климатқа тікелей әсер етеді. Реттеушілер мен Anthropic және Pfizer сияқты алыптар болашақтың келбетін анықтап жатқанда, криптовалюта және жоғары технологиялық активтер нарығы әрбір сигналға сезімтал жауап береді. Менің түсінігімше, Масктің қазіргі риторикасы — бұл жай ғана әріптесін қолдау емес, институционалдық инвесторларға арналған маркер: ИИ қауіпсіздігі опция емес, бүкіл цифрлық экономиканың тұрақты өсуінің міндетті шартына айналуда.