Әзірлеушілер мен инвесторлар қауымдастығында жасанды интеллект жақын айларда-ақ бақылаудан шығып кетуі мүмкін деген пікірталас өршуде. Сарапшылардың бір бөлігі жаппай жұмыстан шығарулар мен кибершабуылдарды күтсе, енді біреулері ақылды құрылғыларды дереу интернеттен ажыратуға шақырады.
Осы алаңдаушылық аясында ЖИ модельдерінің дамуы жақында тежеліп қалады деп санайтын скептиктердің дауыстары да естілуде.
Күрт секіріс сценарийі
Ең қаралы болжамды FlockCover негізін қалаушы және Neuralink, Anduril және Anthropic компанияларына инвестор Эд Леон Клингер айтты. Ол бірнеше айдан кейін-ақ ЖИ өзіне жаңартуларды өз бетінше жасай бастауы мүмкін екенін, оның үстіне бұл соншалықты жылдам болатынын болжады, адамдар одан бақылауды жоғалтады.
Бұл сценарийде оң жақтары да бар: Клингер математика, дәрі-дәрмек әзірлеу және өндіріс салаларында серпілістерді, сондай-ақ үздік роботтар мен ұшатын автомобильдердің жасалуын күтеді. Алайда оның пікірінше, бұның бағасы қымбат болады. Қазір компьютерде орындалатын жұмыстың барлығы дерлік бір түнде автоматтандырылады. Оның айтуынша, бұдан кейін мыналар орын алады:
- жаппай қысқартулар және тұтас кәсіптердің жойылуы;
- теңсіздіктің өсуі, наразылықтар мен тонаушылық;
- энергия желілеріне, әуежайларға, биолабораторияларға және көлікке кибершабуылдар;
- электр жарықтарының өшуі, вирустардың өршуі және локауттар.
Клингердің айтуынша, мұның бәрі соншалықты жылдам болады, қарапайым адам жай ғана абдырап қалады. Ол мұндай сценарийді бір уақытта болған жүз COVID пандемиясына теңеді, бірақ ешкімді қорқытпауға тырысатынын айтты.
Қауіпті ақылды құрылғылар
Алаңдатарлық ескертуді dark.bio негізін қалаушы, Ethereum желісінің клиенттерінің бірі Go Ethereum әзірлеуін он жыл басқарған Петер Силадьи да жариялады. Ол ақылды құрылғылары бар барлық адамдарға оларды дереу интернеттен ажыратуға кеңес берді: желілік кабельді суырып алып, гаджетті Wi-Fi-дан алып тастау, ал бұл мүмкін болмаса — лақтырып тастау.
«Дауыл жақындап келеді, және қорқынышты болады», — деп жазды Силадьи.
Нақты не болуы керектігін ол түсіндірмеді. Әзірлеуші тек интернет заттары — желіге қосылған техника саласындағы ондаған жылдық немқұрайлылық үшін төлеу уақыты келгенін қосты.
Скептиктер тоқырауды күтеді
Әзірлеуші Дмитрий Коваников, керісінше, ЖИ модельдері жақында платоға шығады деп болжады. Себебі — оқыту деректерінде. Соңғы жылдары пайдалы білім аз пайда болды, ал модельдерді ЖИ өзі жазған мәтіндермен оқытса, олар тек нашарлай түседі. Сонымен қатар ЖИ салдарынан адамдардың жаңа білім жасауға себептері азайды.
Коваников прогресс мүлдем тоқтайды деп санамайды: ЖИ сирек қателесіп, тар міндеттерді жақсырақ шешетін болады. Бірақ оның болжамы бойынша, негізгі күш-жігер модельдердің өзіне емес, оларды қолданудың жаңа тәсілдерін іздеуге жұмсалады. Мысал ретінде ол корпоративтік сегментте бәсекелестерін ығыстыруға тырысып жатқан Anthropic пен OpenAI-ді келтірді.
Егер скептиктер дұрыс болса, модельдерді шексіз жетілдіруге ставка ақталмауы мүмкін, ал қазірдің өзінде бар ЖИ-ден табыс табуды үйренген компаниялар ұтысқа шығады. Егер Клингер дұрыс болса, нарықтар инфрақұрылым ақаулары мен тұтас салалардың күйреуін бастан өткеруге тура келеді.
Cryptalist талдауы: ЖИ нарығы «технологиялық сингулярлық» және «мүмкіндіктер платосы» туралы нарративтер капитал бағалауына тікелей әсер ететін фазаға енуде. Криптосектор үшін негізгі тәуекел — ЖИ-дің өзі емес, қосылған инфрақұрылымның осалдығы және кибершабуылдардың өсуі, бұл орталықтандырылмаған және ақауларға төзімді шешімдерге сұранысты күшейтеді. Инвесторлар стратегияларында екі сценарийді де ескеріп, модельдердің шексіз өсуіне спекулятивті ставкалардан гөрі нақты экономикасы бар жобаларға басымдық беруі керек.