Илон Маск пікірталасқа қосылады: Anthropic басшысын қолдап, суперинтеллекттің «жақсы ниеті» туралы ескертеді
Технологиялық қауымдастықтың назарында тағы да жасанды интеллект қауіпсіздігі мәселесі тұр. Илон Маск, ИИ-ге деген екіұшты ұстанымымен танымал, Anthropic бас директоры Дарио Амодеидің соңғы мәлімдемелерін күтпеген жерден қолдап, технологиялардың болашақ дамуы туралы созылған дауға салмақты дәлел қосты.
Тәуекелдер мен пайдалар туралы диалог
Пікірталасқа себеп болған — Амодеидің көпшілік алдында сөйлеген сөзі, онда ол сарапшылар тарапынан жиі айтылатын күңгірт болжамдарды теңгеруге тырысты. Инвестор Гэвин Бейкер пікірталасты бастап, Anthropic басшысының «алармист» ретіндегі беделі мүлдем әділ емес екенін атап өтті. Амодеидің өзі ИИ-дің тәуекелдері мен артықшылықтарына арналған эсселерінің негативке «клик жинайтын» қысқа сұхбаттарда жиі бұрмаланатынын түсіндірді.
Амодеидің сынға жауап ретінде дамытқан негізгі ойы — қоғамның технологиялық корпорациялар мен мемлекеттік институттарға деген терең сенімсіздігінде. Ондаған жылдар бойы жинақталған бұл сенімсіздік тікелей жасанды интеллектке проекцияланады. Дәл осы себепті ол жетекші модельдерді міндетті түрде тестілеуді жақтайды, әзірлеушілердің ерікті уәделерін емес, және осы саладағы бытыраңқы ұлттық ережелердің қаупі туралы ескертеді.
Масктің ұстанымы: «мейірімділікке» үміт
Маск Амодеидің тредіне жауап бере отырып, диалогты «қызықты» деп атады және Навал Равиканттың ойын іс жүзінде сөзбе-сөз қайталады: құдайды жасап, оны шылбырға отырғызу мүмкін емес. Масктің жауабында ұстамды мойындау естілді: «ИИ бізге мейірімді болады деп үміттенемін». Бұл мәлімдеме — жай ретвит емес, тіпті ең ықпалды технологиялық көшбасшылардың да мойындауының белгісі: егер адамзат суперинтеллектті бақылаудан жоғалтса, жалғыз үміт — оның өзінің «жақсы ниеті» қалады.
Айта кету керек, Масктің Anthropic-ті қолдауы кездейсоқ емес. Ол бұрын OpenAI-ді жабықтығы үшін сынап, Амодеидің басқа жолды таңдағанын атап өткен еді. Алайда оның реттеуге деген көзқарастары ерекшеленеді: Маск Anthropic қолдайтын Калифорниядағы SB 53 заң жобасы сияқты бастамаларға күмәнмен қарап, ірі корпорациялар үшін ықтимал кемшіліктерді көрсетеді.
Жағдайға менің көзқарасым
Бұл көпшілік алдындағы пікір алмасу — нарық үшін маңызды белгі. Маск сияқты тұлғалар экзистенциалды тәуекелдерді ашық талқылай бастағанда, бұл пікірталастың техникалық жазықтықтан саяси жазықтыққа ауысқанын көрсетеді. Технологияға инвестиция салушылар үшін бұл ИИ-ді реттеудің сөзсіз екенін және қазірдің өзінде билікпен диалог құрып жатқан компаниялар (Anthropic сияқты) ұзақ мерзімді перспективада тиімдірек жағдайда болуы мүмкін екенін білдіреді. Мәселе тек индустрияның инновациялар мен қауіпсіздік арасындағы тепе-теңдікті таба алатынында, әрі толық бюрократизацияға жол бермейтінінде.