Надежда на добрый ИИ: Маск қосылды Амодеи пікірталасына тәуекелдер мен реттеу туралы
Технологиялық қауымдастықтың назары тағы да жасанды интеллект қауіпсіздігі мәселесіне аударылды. Илон Маск күтпеген жерден Anthropic компаниясының бас директоры Дарио Амодеиді оның ЖИ дамуына байланысты тәуекелдер туралы соңғы жария мәлімдемесін қолдады. Маск Амодеи «Қызықты диалог» деген пікір қалдырғаннан кейін бірден дерлік жауап жариялады, өз болжамдарын шамадан тыс пессимизм деп айыптаудан қорғады.
Неліктен Амодеи ЖИ тәуекелдерін талап етеді?
Пікірталасты инвестор Гэвин Бейкер қоздырды, ол Амодеи туралы қауесеттердің тез таралатынын атап өтті, себебі оның жария сөздері нақты ұстанымымен сирек сәйкес келмейді. Амодеидің өзі тек қауіптер туралы айтады деген айыптауларды жоққа шығарды. Оның айтуынша, компанияның екі негізгі эссесі тәуекелдер мен пайдалар арасында назарды тең бөледі. Қысқа сұхбаттар, ол түсіндіргендей, көбінесе көңілсіз көрінеді, өйткені мұндай форматтар көбірек клик жинайды, бірақ толық көріністі көрсетпейді.
Амодеи сенімсіздіктің терең себебін де атады: қарапайым адамдар корпорацияларға, мемлекеттік құрылымдарға және IT-индустрияға сенбейді. Бұл сенімсіздік автоматты түрде жасанды интеллектке де ауысады, ондаған жылдар бойы жинақталады. Дәл осы себепті маусым айында ол ерікті уәделердің орнына жетекші модельдерді міндетті тестілеуді ұсынды, ал бірнеше күннен кейін G7-ге бытыраңқы ұлттық ережелердің қауіптілігі туралы ескертумен жүгінді.
«ЖИ-мен айналысатын компанияларға, оның ішінде Anthropic-ке қатысты ең әділ сын — біз әлі күнге дейін басты уәдені орындамадық: әлемге пайда әкелу», — деді Амодеи.
Маск және «мейірімді» ЖИ философиясы
Маск диалогты қызықты деп атап, даудың күрделілігін атап өтті. Реттеуден басқа, талқылау философиялық мәселелерді де қозғады. Навал Равикант оларды былай тұжырымдады: құдайды жасап, оны қылшыққа отырғызу мүмкін емес. Маск бұл ойды бірдей дерлік қайталады: «ЖИ бізге мейірімді болады деп үміттенемін». Оның ұстамды мойындауында ескерту естіледі: егер адамдар суперинтеллектті бақылаудан жоғалтса, қоғамға өз жаратылысының игі ниетіне ғана сену қалады.
Бұған дейін Маск OpenAI-дің жабықтығын сынап, Амодеи басқа жолды таңдағанын атап өткен болатын. Айта кету керек, Anthropic басшысы Кремний алқабына тән көзқараспен де дауласып, реттеу әрқашан биліктің шоғырлануына әкелмейтінін көрсетті. Anthropic қолдайтын Калифорнияның SB 53 ЖИ қауіпсіздігі туралы заңы кірісі $500 млн төмен компанияларды талаптардан босатады.
Амодеи дұрыс деп санайтын екі тәсілді атады. Біріншісін Трамп әкімшілігі ұсынды — озық модельдерді шығаруға дейін тексеру. Екіншісін Google DeepMind басшысы Демис Хассабис ұсынды — FINRA үлгісінде реттеуші құру. Соңында Амодеи өзінің ең жарқын уәдесіне оралды: биологиядағы ЖИ бес-он жыл ішінде адам ауруларының көпшілігін емдей алады. Anthropic пен Pfizer-де ЖИ-ді медицинадағы негізгі инфрақұрылым деп санайды, ал басшының өзі бұл мақсатты жеке тарихымен байланыстырды — оның әкесі тиімді дәрілер пайда болғанға дейін көп ұзамай гепатит C-ден қайтыс болды.
Менің пікірім: ЖИ қауіпсіздігі туралы пікірталастың технология жазықтығынан сенім мен философия жазықтығына көбірек ауысуы көрсеткіш. Нарық үшін бұл маңызды сигнал: реттеуші белгісіздік ЖИ-ге байланысты жобалар үшін басты тәуекел факторы болып қала береді, ал инвесторлар тек техникалық көрсеткіштерді ғана емес, ірі ойыншылардың айналасындағы саяси контекстті де ескеруі керек.