Илон Маск пікірталасқа қосылады: АИ қауіптері туралы — Амодеяны қолдау және философиялық астары
Tesla және SpaceX бас директоры Илон Маск күтпеген жерден индустриядағы жасанды интеллект қауіпсіздігі туралы пікірталасқа қосылып, Anthropic басшысы Дарио Амодеиді қолдады. Маск ИИ-дің адамдарға «мейірімді» болуына үміт білдіретін хабарлама жариялап, Амодеидің әлеуетті қауіптер туралы соңғы ескертулерімен нақты түрде пікірлес екенін білдірді.
Талқылауға себеп болған — Масктің Амодеидің өз болжамдарын шамадан тыс пессимизм деп айыптаулардан қорғаған постының астына жазған «Қызықты диалог» деген пікірі. Кремний алқабындағы инвестор Гэвин Бейкер пікірталасты бастап, Амодеи туралы қауесеттер оның жария мәлімдемелерімен сәйкес келгендіктен тез таралып жатқанын атап өтті.
Амодеи неліктен ИИ тәуекелдерін ерекше атап көрсетеді
Амодеи сынға жауап беріп, оның ИИ артықшылықтары туралы «Machines of Loving Grace» эссесі дәл осы сала тым қараңғы бояумен суреттеп жатқандықтан пайда болғанын мәлімдеді. Ол өзінің екі негізгі эссесі тәуекелдер мен пайдаларға назарды тең бөлетінін, ал қысқа сұхбаттар кликбейт-форматқа байланысты көбінесе мұңды көрінетінін атап өтті.
Оның айтуынша, терең себеп — қоғамның корпорациялар мен IT-индустрияға деген сенімсіздігі, ол ондаған жылдар бойы жинақталып, енді жасанды интеллектке ауысып жатыр. Бұл сенімсіздік реттеуге де әсер етеді: Амодеи маусым айында ерікті уәделердің орнына жетекші модельдерді міндетті тестілеуді ұсынып, G7-ді әртүрлі ұлттық ережелердің қауіптілігі туралы ескерткен болатын.
«ИИ-мен айналысатын компанияларға, оның ішінде Anthropic-ке қарсы ең әділ сын — біз әлі күнге дейін басты уәдені орындамадық: әлемге пайда әкелу», — деді Амодеи.
Маск ИИ-дің жақсы ниеті туралы дауға араласады
Маск диалогты қызықты деп атап, даудың күрделілігіне назар аударды. Реттеуден басқа, философиялық мәселелер де талқылануда. Навал Равикант оларды былай тұжырымдады: «құдайды жасап, оны қылшыққа отырғызу мүмкін емес». Маск бұл ойды дерлік дәлме-дәл қайталады: «ИИ бізге мейірімді болады деп үміттенемін». Оның ұстамды мойындауында ескерту естіледі: егер адамдар суперинтеллектті бақылаудан жоғалтса, өз жаратылысының жақсы ниетіне ғана сену қалады.
Маск бұған дейін де Anthropic-ті қолдап, OpenAI-дің жабықтығын сынап, Амодеи басқа жолды таңдағанын атап өткен. Айта кету керек, Амодеи Кремний алқабына тән көзқараспен де дауласты: оның айтуынша, реттеу әрқашан биліктің шоғырлануына әкелмейді. Anthropic қолдайтын Калифорнияның SB 53 ИИ қауіпсіздігі туралы заңы кірісі $500 млн төмен компанияларды талаптардан босатады.
Амодеи өзі дұрыс деп санайтын екі тәсілді атады: біріншісін Трамп әкімшілігі ұсынды — шығарылғанға дейін озық модельдерді тексеру; екіншісін Google DeepMind басшысы Демис Хассабис ұсынды — FINRA үлгісінде реттеуші құру.
Өзінің ең атақты уәдесіне оралып, Амодеи ИИ биологияда адамның көптеген ауруларын 5–50 жыл ішінде емдей алатынын мәлімдеді. Anthropic пен Pfizer-де медицинадағы ИИ-ді қазірдің өзінде негізгі инфрақұрылым деп санайды. Ол бұл мақсатты жеке тарихымен байланыстырды: оның әкесі тиімді дәрілер пайда болғанға дейін аз уақыт бұрын гепатит C-ден қайтыс болған. Сонымен қатар, Амодеи «ИИ қатерлі ісікті емдейді» деген сияқты атақты ұрандардан аулақ жүреді — оның пікірінше, көмектесетін — емнің өзі, ал ұрандар емес.
Менің талдауым: Бұл пікірталас көрсеткіш: Маск пен Амодеи сияқты әртүрлі тұлғалар да басты мәселеде келіседі — ИИ-ді бақылау онжылдықтың негізгі проблемасы болып қалады. ИИ технологиялары DeFi мен аналитикаға белсенді түрде еніп жатқан криптоиндустрия үшін бұл сигнал: реттеу сөзсіз, және жобалар тек енгізу жылдамдығы туралы емес, қауіпсіздік пен ашықтық туралы алдын ала ойлауы керек.