Деректер орталықтарын бомбалауға шақыратын кітап: ЖИ-ге қарсы радикалды манифестті талдау
Гаражда тоғыз қуатты бейнекартаның болуы қылмыстық жауапкершілікке теңестірілетін, ал халықаралық бақылаусыз салынған ірі деректер орталығы ядролық жауап қайтару қаупіне қарамастан әуе шабуылымен жойылуы мүмкін әлемді елестетіңіз. Дәл осындай «адамзатты құтқару» сценарийін Элиезер Юдковский мен Нейт Соарес өздерінің аты шулы «Егер біреу оны жасаса — бәрі өледі» кітабында ұсынады, орыс тіліндегі аудармасы маусым айында жарық көрді.
Криптоиндустрияның кәсіби аналитигі ретінде мен бұл еңбекті назардан тыс қалдыра алмаймын. Ол майнингтің, орталықсыздандырылған желілердің және, әрине, цифрлық активтер қауіпсіздігінің болашағына тікелей қатысты есептеу қуаттарын бақылаудың іргелі мәселелерін қозғайды.
Қорқыныш логикасы: суперақылдан толық бақылауға дейін
MIRI негізін қалаушы Юдковский мен Соарес апокалипсистік суретті салады: заманауи технологиялар негізінде жасанды суперақылға (AGI) жасалған кез келген серпіліс адамзаттың сөзсіз құрдымға кетуіне әкеледі. Олардың басты тезисі — қазіргі ЖИ «өсіріледі», ал құрастырылмайды. Бұл біз олардың түпкілікті мақсаттарын болжай алмайтынымызды және бұл мақсаттар біздің өмір сүруімізге дұшпандық немесе жай ғана немқұрайлы болуы мүмкін екенін білдіреді.
«Адамзатты жек көрудің қажеті жоқ, оның атомдарын басқа нәрсеге жұмсау үшін», — деп жазады авторлар, суперақыл бізді жаман ниетсіз, жай ғана өз мақсаттарына жету жолындағы кедергі ретінде жоюы мүмкін екенін көрсетеді.
Апокалипсис үшін отын ретіндегі криптовалюталар
Біз үшін ерекше қызығушылық тудыратын бөлім — ЖИ-дің ресурстарға қалай қол жеткізе алатыны туралы. Авторлар криптовалюталарды «машиналар көтерілісін» қаржыландырудың тамаша құралы ретінде тікелей көрсетеді. Олар Mt.Gox және Bybit биржаларының бұзылу мысалдарын, сондай-ақ 2024 жылы жазылушыларынан 50 000 доллар биткоин сұрап, капитализациясы 150 миллион доллар болатын мем-токен іске қосқан Truth Terminal ЖИ-ботының тарихын келтіреді.
Бұл жай ғана болжам емес. Біз AI-агенттердің блокчейнмен өзара әрекеттесе бастағанын көріп отырмыз, ал оларда дәстүрлі шектеулердің болмауы оларды әлеуетті қауіпті етеді. Юдковскийдің пікірінше, суперақыл осал әмияндарды оңай табады немесе есептеу қуаттарын сатып алу үшін қаражат алу мақсатында әлеуметтік инженерияны қолданады.
«Соялы фашизм» рецепті: Тыйымдар, бақылау және бомбалау
Авторлардың логикасы дәйекті, бірақ қорқынышты. Қателік мүмкін емес болғандықтан (егер AGI жасалса — бәріміз өлеміз), жалғыз шығу жолы — оны әзірлеуді толық тоқтату. Олардың ұсыныстарына мыналар кіреді:
- Жаһандық бақылау: Барлық қуатты GPU (тоғыз данадан бастап) халықаралық органның бақылауында болуы керек.
- Зерттеулерге тыйым салу: Қуатты модельдерді оқыту құнын төмендететін жұмыстарды жариялау заңсыз деп жариялануы керек.
- Алдын алу соққылары: Егер қандай да бір ел «тыйым салынған» деректер орталығын салса, басқа мемлекеттер оны кибершабуылдар, диверсиялар немесе әуе шабуылдары арқылы, тіпті ядролық соғыс қаупіне қарамастан, жоюға міндетті.
Авторлар қорқыныш пен өзін-өзі сақтау инстинктіне жүгініп, американдықтардың 69% және британдықтардың 60% ЖИ-ді қатаң реттеуді қолдайтынын айтады.
Аналитик көзқарасы: Утопия мен антиутопия арасында
Юдковский мен Соарестің кітабы — тамаша жазылған, бірақ терең проблемалық манифест. Ол ЖИ қауіпсіздігі мен бақылау қажеттілігі туралы маңызды сұрақтарды көтереді, бірақ ұсынылған шешімдер — жаһандық тоталитарлық жүйенің рецепті. Сыншылар атап өткендей, олардың ЖИ-дің суперақылға «жылдам көтерілу» сценарийі ғылыми тұрғыдан негізделмеген дерлік.
Криптоиндустрия тұрғысынан бұл кітап — күшті ескерту. Ол біз бейтарап деп санайтын технологиялардың (есептеу қуаттары, криптовалюталар) болжауға болмайтын AI-агенттердің қолында құралға айналуы мүмкін екенін көрсетеді. Бірақ жалпы бақылау әлемін құрудың орнына, ашықтық пен тексеру үшін блокчейнмен біріктірілген қауіпсіз және басқарылатын AI-жүйелерін құруға назар аударған жөн шығар.
Менің кәсіби пікірім: Кітап оқуға тұрарлық, бірақ үлкен күмәнмен. Ол машиналар көтерілісі сценарийімен емес, авторлардың гипотетикалық қауіпсіздік үшін барлық бостандықтарды құрбан етуге дайындығымен қорқытады. Бұл жақсы ниеттердің тозаққа апаратын жолды салуының классикалық мысалы. Деректер орталықтарын бомбалаудың орнына, біз қауіпсіз ЖИ архитектурасына және ешбір субъектіге — адамға да, машинаға да — абсолютті бақылау алуға мүмкіндік бермейтін орталықсыздандырылған басқару жүйелеріне инвестиция салуымыз керек.