Anthropic басшысы мойындады: ИИ-индустриясы уәделерін орындамады, және бұл сенім дағдарысының түп-тамыры
Жасанды интеллект индустриясына қойылатын басты талап — сингулярлықтан немесе машиналар көтерілісінен қорқу емес, жоғары деңгейдегі уәделердің орындалмауы. Мұндай мәлімдемені Anthropic компаниясының бас директоры Дарио Амодеи жасап, қоғамның технологияға деген салқындығын ондаған жылдар бойы жинақталған терең, жүйелі сенім дағдарысымен байланыстырды.
Пікірталасқа себеп инвестор Гэвин Бейкердің посты болды, ол Амодеиді тым мұңды риторика үшін сынады. Бейкердің пікірінше, әлемдегі ең маңызды ашық компаниялардың бірі мәртебесіне дайындалып жатқан стартап басшысы үнін оңтайлыраққа өзгертуі керек. Амодеи X-тегі жазбалар сериясымен толық жауап беріп, маркетингтік айлалармен мәселені енді шешу мүмкін еместігін атап өтті.
Даудың мәні: не маңызды — сөз бе, іс пе?
Амодеи өзінің технологияның қауіптеріне де, артықшылықтарына да бірдей көңіл бөлетінін алға тартады. Оң күн тәртібінің мысалы ретінде ол Machines of Loving Grace эссесін еске салды, онда қуатты ЖИ-дің медицина мен экономика үшін әлеуеті сипатталған. Алайда оның жауабының басты тезисі — саланың өз кінәсін мойындау.
«Менің ойымша, негізінде түбегейлі сенім дағдарысы жатыр. Қарапайым адамдар компанияларға, үкіметтерге немесе технологиялық индустрияға сенбейді және әрқашан біз оларды алдаудың қандай да бір жаңа тәсілін ойлап тауып жатырмыз деп күдіктенеді».
Оның айтуынша, Anthropic және оған ұқсас компанияларға қойылатын ең әділ сын — қауіпсіздік туралы әңгімелер емес, нақты нәтижелердің болмауы. «Бұл толығымен біздің кінәміз. Бізді хабарламалар мен маркетинг үшін емес, дәл осы үшін сынау керек», — деп жазды Амодеи.
«Тек бір нәрсе жұмыс істейді — ракты шынымен емдеу»
Anthropic басшысы денсаулық сақтаудағы ЖИ-революция туралы уәделер клишеге айналып, алдау ретінде қабылданатынын санайды. Жағдайды тек іспен түзетуге болады. Ол биология мен медицинадағы жұмысты күшейтетінін жариялап, алдағы жылдары «керемет нәтижелерге» уәде берді, дегенмен егжей-тегжейін нақтыламады.
Алайда бәрі бұл көзқараспен келіспейді. Белгілі зерттеуші Янн ЛеКун жауап ретінде он жыл бойы жалғыз дұрыс жолды — ашық және қолжетімді технологияларды насихаттап келе жатқанын мәлімдеді. Оның ұқсастығы бойынша, ЖИ баспа станогы немесе интернет сияқты адам интеллектін күшейтеді, демек, бізге жүйелердің шоғырлануы емес, әртүрлілігі қажет. Ол сондай-ақ Марк Цукербергтің ұстанымына сілтеме жасады, ол ЖИ-дің төтенше билік орталықтандыруын талап ететіндей қауіпті екендігі туралы идеяның өзін проблемалы деп санайды.
Бұл тәсіл Anthropic саясатына тікелей қайшы келеді, ол ашық модельдерді толық тыйым салуды қолдамаса да, жүйелердің мүмкіндіктері артқан сайын қауіпсіздік талаптарын күшейтуді талап етеді.
Жеке көзқарасты OpenAI-дың GTM-маманы Энджел Бродин білдірді. Ол фармацевтика саласын еске салды: медицинадағы нақты серпілістер оны сенім деңгейінің төмендігінен құтқармайды. Оның пікірінше, ЖИ-ге деген қатынас тек технологияларға ғана емес, сонымен қатар баға белгілеуге, ашықтыққа және экономикалық пайданы бөлуге байланысты болады.
Менің талдауым: Амодеи индустрия күтулерді қыздырып жібергеніне сөзсіз дұрыс. Бірақ оның «ракты емдеу жеткілікті» деген тезисі мәселені жеңілдетеді. Сенім — бұл тек ғылыми жеңістерді ғана емес, сонымен қатар енгізу этикасын, әлеуметтік жауапкершілікті және билікпен бөлісуге дайындықты қамтитын кешенді өнім. ЖИ-алыптары қауіптер туралы дауласып жатқанда, қоғам сөзді емес, технологияны барлығына — тек акционерлерге ғана емес — қауіпсіз және пайдалы ететін нақты ойын ережелерін күтеді.