Маск ИИ-дің болашағы туралы пікірталасқа қосылады: ізгі ниетке үміт немесе есептелген тәуекел?
Жасанды интеллект қауіпсіздігі туралы пікірталас толқыны Кремний алқабын тағы да шарпыды, және бұл жолы саланың ең дауысты екі өкілі оқиға ортасында қалды. Илон Маск күтпеген жерден Anthropic бас директоры Дарио Амодеидің ұстанымын қолдады, ал соңғысы ЖИ дамуын бағалаудағы шамадан тыс пессимизмі үшін соңғы кездері сынға ұшырап жүр. Менің технологиялық трендтер саласындағы тәжірибем бұл одақ тәуекелдерді қабылдаудағы маңызды өзгерістің белгісі болуы мүмкін екенін көрсетеді.
Алармизм айыптауларынан қорғану
Амодеи өз болжамдарын тым мұңды деп санайтын инвесторлар мен әріптестерінің алдында ақталуға мәжбүр болды. Ол өз ұстанымының бір жақты емес екенін қарсы уәж ретінде айтады: оның «Machines of Loving Grace» эссесінде тек қауіп-қатерлер туралы ғана емес, сонымен қатар орасан зор пайдалар туралы да сөз қозғалады. Мәселе мынада, қысқа сұхбаттар мен сөз сөйлеулер контекстен жұлып алынып, катастрофизм туралы жалған әсер қалдырады. Оның айтуынша, сенімсіздіктің терең себебі қоғамның технологиялық корпорациялар мен мемлекеттік институттарға деген көпжылдық скептицизмінде жатыр, ол автоматты түрде ЖИ-ге де проекцияланады.
Бұл сенімсіздік реттеуші күн тәртібіне тікелей әсер етеді. Амодеи ерікті уәделердің орнына озық модельдерді міндетті тестілеуді ұсынған болатын, сондай-ақ ұлттық ережелердің бытыраңқылығы қаупі туралы G7-ге ескерткен еді. Ол өз саласына қатысты сынның әділдігін мойындайды: «Біз әлі күнге дейін басты уәдені — әлемге пайда әкелуді орындаған жоқпыз».
Даудың философиялық астары
Маск Амодеидің тредін түсіндірме бере отырып, диалогты «қызықты» деп атады және инвестор Навал Равиканттың негізгі тезисін іс жүзінде қолдады: құдайды жасап, оны қылшыққа байлау мүмкін емес. Масктің жауабы қысқа әрі нұсқалы болды: «ЖИ бізге мейірімді болады деп үміттенемін». Бұл ұстамды мойындауда алаңдаушылық сезіледі: егер адамзат суперинтеллектті бақылаудан жоғалтса, жалғыз үміт — машинаның игі ниеті ғана қалады.
Масктің Anthropic жағына бірінші рет шығып отырғаны жоқ екендігі айғақ. Ол OpenAI-дің жабықтығын бірнеше рет сынға алып, Амодеидің басқа жолды таңдағанын атап өткен. Сонымен қатар Амодеидің өзі Кремний алқабына тән реттеу әрқашан биліктің шоғырлануына әкеледі деген пікірмен дауласады. Мысалы, Anthropic қолдайтын Калифорнияның SB 53 заң жобасы, керісінше, кірісі $500 млн-нан төмен шағын компанияларды артық талаптардан босатады.
Балама ретінде Амодеи екі тәсілді қарастырады: Трамп әкімшілігі ұсынған модельдерді шығарылғанға дейін тексеру және Google DeepMind-тен Демис Хассабистің идеясы — FINRA үлгісіндегі реттеуші құру. Ақырында, ол өзінің ең амбициялы мақсатына — көптеген ауруларды 5-10 жыл ішінде емдей алатын биологиядағы ЖИ-ге оралады. Ол үшін бұл бос ұран емес, жеке тарих: оның әкесі дәрі-дәрмек әлі болмаған кезде С гепатитінен қайтыс болған.
Менің талдауым: Маск пен Амодеи сияқты тұлғалардың ЖИ-дің «игі ниетін» ашық талқылауы пікірталастың жетілгендігін көрсетеді. Нарық әлі реттеуші тәуекелдердің AI-компаниялар құнына әсер ететін басты факторға айналуы мүмкін екенін толық түсінбейді. Инвесторларға бұл пікірталастарды мұқият бақылаған жөн — олар тек этикалық нормаларды ғана емес, бүкіл сала экономикасын ондаған жылдар бойы анықтайды.