ИИ-компанияларға қойылатын ең негізді талап — бұл асқақ уәделер мен нақты нәтижелер арасындағы сәйкессіздік. Мұндай мәлімдемені Anthropic компаниясының бас директоры Дарио Амодеи жасап, технологияның қоғам тарапынан теріс қабылдануын ондаған жылдар бойы жинақталған терең сенім дағдарысымен байланыстырды.
Пікірталасқа себеп болған — инвестор Гэвин Бейкердің посты, ол Амодеиді шамадан тыс пессимистік риторика үшін сынап, оған үнді оңға өзгертуді ұсынды. Бейкердің пікірінше, Anthropic басшысы ИИ-ді реттеу туралы «дауды ұтылып қалды» және технологияның пайдасын белсенді түрде насихаттауы керек, әсіресе компанияның ашық нарыққа шығуы қарсаңында.
Жанжалдың мәні: маркетинг пен шындық
Амодеи X-тегі посттар сериясымен жауап беріп, әдетте әлеуметтік желілерден аулақ жүретінін, бірақ бұл жерде принципті мәселе туралы сөз болып тұрғанын атап өтті. Ол ИИ-дің қауіптеріне де, артықшылықтарына да бірдей көңіл бөлетінін айтып, технологияның медицина мен экономикадағы әлеуетіне арналған Machines of Loving Grace эссесін еске салды. Алайда оның жауабының басты тезисі — жүйелік проблеманы мойындау.
«Негізінде — түбегейлі сенім дағдарысы жатыр. Адамдар компанияларға да, үкіметтерге де, технологиялық индустрияға да сенбейді, біз оларды алдаудың жаңа жолдарын іздеп жүрміз деп күдіктенеді», — деді Амодеи. Сонымен қатар ол бұл жағдайға жауапкершілікті өз мойнына алды: «Бұл толығымен біздің кінәміз. Бізді маркетингтік айлалар үшін емес, орындалмаған уәделер үшін сынау керек».
«Тек бір нәрсе жұмыс істейді — ракты шынымен емдеу»
Anthropic басшысы жаңа жарнамалық науқан қоғамның көзқарасын өзгертпейтінін атап өтті. ИИ ракты жеңеді деген мәлімдемелер клишеге айналып, алдау ретінде қабылданады. Сенімді қалпына келтірудің жалғыз жолы — өлшенетін жетістіктерді көрсету. Амодеи биология мен медицинадағы жұмысты күшейтетінін жариялап, алдағы жылдары «керемет нәтижелерге» уәде берді, бірақ нақты мәліметтерсіз.
Оның ұстанымымен бәрі келіскен жоқ. ИИ-зерттеуші Янн ЛеКун шамамен он жыл бойы жалғыз жол — ашық және кең қолжетімді технологиялар деп талап етіп келеді. Оның айтуынша, ИИ, баспа станогы мен интернет сияқты, адам интеллектін күшейтіп, білімге қолжетімділікті кеңейтеді. «Бізге әртүрлі ИИ қажет, дәл сол себепті бізге әртүрлі баспасөз қажет», — деп жазды ол, сонымен қатар Марк Цукербергтің қауіпті ИИ билікті шоғырландыруды талап етеді деген идеясы проблемалы деген ұстанымын қолдады.
Бұл тәсіл Anthropic саясатымен сәйкес келмейді, ол ашық модельдерді толық тыйым салуға шақырмайды, бірақ олардың мүмкіндіктері өскен сайын қауіпсіздік талаптарын күшейтуді талап етеді. Өз кезегінде, OpenAI-дің GTM-маманы Энджел Бродин фармацевтиканы нақты жетістіктері бар, бірақ қоғамдық сенімнің төмендігінен зардап шегетін саланың мысалы ретінде көрсетті. Оның пікірінше, ИИ-ге деген көзқарас тек нәтижелерге ғана емес, сонымен қатар баға белгілеуге, ашықтыққа және экономикалық пайданың бөлінуіне де байланысты болады.
Менің талдауым: Амодеидің мәлімдемесі — хайппен қызған индустриядағы адал өзін-өзі сынаудың сирек кездесетін жағдайы. Алайда медицинадағы «нақты нәтижелерге» ставка жасау — бұл нарық пен инвесторлардың күткенімен сәйкес келмеуі мүмкін ұзақ мерзімді ойын. ИИ қарапайым адамдардың нақты, сезілетін проблемаларын шешпейінше, сенім дағдарысы одан әрі күшейе түседі — және бұл жерде ашықтық жақтастары дұрыс айтады: мөлдірлік пен қолжетімділік болашақ серпілістер туралы уәделерден гөрі беделді қалпына келтірудің тезірек және тиімдірек құралы бола алады.