Жасанды интеллект бес жыл ішінде адамзаттың жиынтық интеллектінен асып түсуі мүмкін, ал адамдардың бұл технологияны толық бақылаудан айырылуы — онжылдықтың ғана мәселесі. Мұндай болжамды xAI негізін қалаушы Илон Маск жақында берген сұхбатында айтты.
Маск ЖИ-дің болашақта кез келген интеллектуалдық тапсырманы адамнан жақсы орындай алатынын атап өтті. «ЖИ адамнан жақсы істей алмайтын ештеңе қалмайды, мүмкін, адам болудан басқасы», — деді ол. Миллиардер оқиғалардың ең ықтимал сценарийі ретінде 2036 жылға қарай келетін «молшылық дәуірін» атайды, бұл кезде ЖИ мен роботтардың арқасында адамдар шексіз дерлік тауарлар мен қызметтерге қол жеткізеді.
Сонымен қатар Маск апатты нәтиженің қаупі нөлге тең емес екенін мойындайды. Бұрын ол ЖИ-дің салдарынан адамзаттың жойылу ықтималдығын 10–20% деп бағалаған. Алайда әзірлемені баяулатуға тырысудың орнына, ол жетекші ЖИ компанияларына модельдерді жария шығаруға дейін өзара тексеру тәжірибесін енгізуді ұсынады. Оның ойынша, бәсекелес зертханалар модельдердің қауіпті қабілеттерін анықтауы керек, ал елеулі тәуекелдер ескерілмеген жағдайда ғана реттеушілер іске қосылуы тиіс.
OpenAI трансформациясының сыны
Сол сұхбатта Маск OpenAI-дің коммерциялық емес ұйымнан коммерциялық құрылымға айналуын қатты сынға алды. Оның айтуынша, жоба бастапқыда «бүкіл әлем үшін» ашық ЖИ компаниясы ретінде құрылған, бірақ соңында жабық бизнеске айналды. Anthropic басшысы Дарио Амодейге қатысты Маск жұмсақ сөйлеп, оны «принципті адам» деп атады, бірақ қауіпсіздік мәселелері бойынша тіпті бәсекелестер арасында ынтымақтастық қажеттігін атап өтті.
Менің талдауым: Масктың болжамдары, алаңдатарлық болғанымен, индустрия алдында тұрған нақты дилемманы көрсетеді. «Молшылық дәуірі» идеясы тартымды естіледі, бірақ ол Масктың өзі «нөлдік емес» деп бағалайтын тәуекелмен тығыз байланысты. Ол ұсынған өзара тексеру механизмі — бұл мемлекеттік реттеудің орнына нарықтық бақылау тетіктерін енгізу әрекеті. Алайда мұндай модельдің тиімділігі күмәнді болып қалады, әсіресе ЖИ саласындағы бәсеке күн сайын күшейіп жатқанын ескерсек. Орталықсыздандыруға негізделген криптовалюта нарығы бұл пікірталастан көп нәрсе үйрене алады: инновациялар мен қауіпсіздік арасындағы тепе-теңдік — әрқашан ымыра, және оның бағасы тым жоғары болуы мүмкін.