Илон Маск: ЖИ бақылауы он жыл ішінде жоғалады — молшылық дәуірі ме, әлде апат па?
xAI негізін қалаушы Илон Маск жасанды интеллектінің қарқынды дамуы және оның адамзат үшін салдары туралы мәселені қайта көтерді. Жақында берген сұхбатында ол ЖИ бес жыл ішінде барлық адамдардың жиынтық интеллектінен асып түсуі мүмкін, ал алдағы онжылдықта технологияны толық бақылаудан айыру шындыққа айналады деп мәлімдеді. Бұл мәлімдеме, әсіресе үлкен тілдік модельдердің қазіргі даму қарқыны аясында, мұқият назар аударуға лайық.
Маск болашақта ЖИ кез келген интеллектуалдық тапсырмаларды адамнан жақсырақ орындайтынын атап өтті. «Адам болудан басқа, ЖИ адамдардан жақсырақ жасай алмайтын ештеңе қалмайды», — деді ол. Ол ең ықтимал сценарий ретінде 2036 жылға қарай «молшылық дәуірін» көреді, онда роботтар мен ЖИ адамзатты кез келген тауарлармен және қызметтермен қамтамасыз етеді. Алайда, оның айтуынша, апатты сценарийдің қаупі нөлге тең емес — бұрын ол ЖИ салдарынан адамзаттың жойылу ықтималдығын 10–20% деп бағалаған.
Қауіпсіздік тетіктері және OpenAI-ды сынау
Маск ЖИ мен робототехниканың дамуын тоқтату мүмкін емес екенін мойындады, тіпті гипотетикалық «тоқтату түймесі» міндетті түрде пайдалы болмас еді. Оның орнына ол жетекші AI компанияларына модельдерді жария шығаруға дейін өзара тексерулер енгізуді ұсынды. Оның пікірінше, бәсекелес зертханалар модельдердің қауіпті қабілеттерін анықтауы керек, ал елеулі қауіптер ескерілмеген жағдайда ғана билік іске қосылуы тиіс. Бұл идея Google DeepMind басшысы Демис Хассабистің бастамасымен үндеседі, бұл негізгі ойыншылар арасындағы консенсусты көрсетеді.
Сұхбат барысында Маск OpenAI-дың коммерциялық емес ұйымнан жабық коммерциялық бизнеске айналуын сынға алып, мұны бастапқы миссиядан ауытқу деп атады. Ол тіпті бәсекелес компаниялар арасында да қауіпсіздік мәселелері бойынша ынтымақтастыққа шақырып, Anthropic басшысы Дарио Амодейдің принциптілігін атап өтті. Еске салайық, бұрын сот Масктың OpenAI және Microsoft-қа қарсы коммерциялық емес міндеттемелерді бұзуға байланысты талабын қабылдамаған болатын.
Сарапшының пікірі: Масктың алдағы он жылда ЖИ-ді бақылаудан айыру туралы болжамы — бұл жай футурология емес, есептеу қуаттары мен деректердің экспоненциалды өсуіне негізделген прагматикалық бағалау. Алайда «молшылық дәуірі» тек қатаң, жаһандық үйлестірілген қауіпсіздік шаралары жағдайында ғана мүмкін. Әзірге индустрия қайтарымсыз нүктеге қарай жылжуда және модельдің әрбір жаңа шығарылымы — бұл белгісіздікке жасалған қадам.