Маск және Амодеи: ИИ жаны үшін шайқас па, әлде жай ғана дауыстап айтылған сөздер ме?
Жоғары технологиялар әлемінде тамаша дауыл пісіп жетілуде. Мәселе биткоин бағамында емес, жасанды интеллектке деген сенімнің іргелі мәселесінде. Мен Илон Маск пен Anthropic компаниясының бас директоры Дарио Амодеи арасындағы пікірталастың өршуін мұқият бақылап отырмын және айта кетуім керек, бұл диалог қарапайым корпоративтік даулардан әлдеқайда асып түседі.
Бәрі инвестор Гэвин Бейкердің Амодеидің мұңды болжамдарына назар аударуынан басталды. Алайда Anthropic басшысының өзі шектен тыс пессимизм туралы айыптауларға қарсы шығып, оның ИИ әлеуеті туралы эссесі, соның ішінде "Machines of Loving Grace" атты жұмысы суретті теңгерімдеуге арналғанын мәлімдеді. Ол қысқа сұхбаттардың жиі қараңғы көрінетінін атап өтті, өйткені дәл осындай тұжырымдар аудиторияның назарын аударады. Бұл циниктік, бірақ өзінше адал.
Сенімсіздіктің түбірі және Масктің ұстанымы
Амодеи терең мәселені көреді: қоғам ондаған жылдар бойы корпорациялар мен технологиялық алыптарға сенбейді. Бұл сенімсіздік автоматты түрде ИИ-ге проекцияланады. Сондықтан ол ерікті уәделерге емес, озық модельдерді міндетті тестілеуге шақырады. Ол тіпті G7-ге шашыраңқы ұлттық реттеулердің қауіптілігі туралы ескерту жасады, бұл хаос тудыруы мүмкін.
Міне, осы жерде Маск ойынға кіреді. Амодеидің постына жауап бере отырып, ол диалогты "қызықты" деп атады және ең бастысы, Навал Равиканттың ойын сөзбе-сөз қайталады: "Құдайды жасап, оны қарғыбауға отырғызу мүмкін емес". Масктің жауабы қысқа болды: "ИИ бізге мейірімді болады деп үміттенемін". Бұл қысқа твитте орасан зор ескерту жатыр — егер біз суперинтеллектті бақылаудан жоғалтсақ, бізге оның мейіріміне сену ғана қалады.
Реттеу vs. Шындық
Масктің бұрын OpenAI-ді жабықтығы үшін сынағанын, бірақ Anthropic жолын қолдайтынын көрсететін жайт. Алайда ол реттеуге де күмәнмен қарайды, Калифорнияның SB 53 заң жобасын көрсетеді. Амодеи өз кезегінде екі тәсілде шығуды көреді: не модельдерді алдын ала тексеру (Трамп әкімшілігінің идеясы), не Google DeepMind-тен Демис Хассабистің ұсынысы бойынша қаржылық FINRA үлгісіндегі реттеуші құру.
Менің ойымша, бұл дау — жай пиар емес. Бұл индустрияның ИИ қарулану жарысы тым алысқа кеткенін түсінгенінің белгісі. Сала көшбасшылары философия туралы дауласып жатқанда, криптовалюта мен технология нарығы белгісіздіктен дірілдеп тұр. Инвесторларға токендердің бағасына емес, алдағы айларда қандай ойын ережелері қабылданатынына мұқият қарау керек. Бұдан тек ИИ-дің ғана емес, бүкіл цифрлық экономиканың болашағы тәуелді.