Жасанды интеллектіні жаһандық реттеу — бұл енді таңдау мәселесі емес, институттардың өмір сүру мәселесі. БҰҰ Бас хатшысы Антониу Гутерриш ЖИ басқару жөніндегі жаһандық диалогта осындай хабарламамен сөз сөйледі. Оның ұстанымы өте қатаң: әлем «жоспарсыз және келісімсіз қоғамдарға экспериментке» қарай жылжуда және әмбебап ережелерді құруды кейінге қалдыруға болмайды.
ЖИ енгізу қарқыны шынымен де қорқынышты. Гутерриш атап өткендей, интернетке миллиард пайдаланушыны тарту үшін 15 жыл қажет болды. ЖИ бұл міндетті екі жылда орындады. ChatGPT екі айдың ішінде 100 миллион пайдаланушыға жетті. Бұл жай статистика емес — бұл технологиялардың күнделікті өмірге енуіндегі түбегейлі өзгеріс, ойлау және бақылау кезеңдерін айналып өту.
«Адамзаттың болашағын вайб-кодтауға болмайды»
Сөздің негізгі метафорасы — «вайб-кодинг», яғни олардың механизмдерін түсінбестен ЖИ шешімдерін пассивті қабылдау. Гутерриш атап өтті: қазіргі жүйелер енді жай командаларды күтіп қана қоймайды — олар код жазады, онлайн әрекет етеді және адамның бақылауы азайған сайын шешімдер қабылдайды. Атқарушы машиналарды басқару үшін құрылған біздің институттарымыз шешуші машиналарға дайын емес.
Үш негізгі тәуекелге ерекше назар аударылды: ЖИ таралу жылдамдығы, есептеу қуаттары мен деректердің бірнеше корпорациялар мен елдердің қолында шоғырлануы, сондай-ақ ақпараттық ортаның нашарлауы.
Балаларды қорғау және өлімге әкелетін жүйелерге тыйым салу
Басымдықтардың бірі — кәмелетке толмағандарды қорғау. Гутерриш компанияларды AI Child Safety Pledge — тәуелсіз тестілеусіз балаларға қолжетімді ЖИ жүйелерін іске қоспау міндеттемесін қабылдауға шақырды. Сондай-ақ ол кәмелетке толмағандардың сексуалдандырылған бейнелерін жасауға нөлдік төзімділікті және дағдарыстық жағдайларда нақты адамдық қолдауды міндетті түрде қосуды талап етті. «Ешбір бала реттелмеген ЖИ үшін тәжірибелік қоян болмауы керек», — деді ол.
Тағы бір өткір мәселе — автономды қару жүйелері. Гутерриш оларды тікелей «өлтіруші роботтар» деп атады және адамның бақылауынсыз нысаналарды таңдап, жоюға қабілетті жүйелерге толық халықаралық-құқықтық тыйым салуға шақырды. Оның айтуынша, мұндай технологиялар «моральдық тұрғыдан жиіркенішті» және «саяси тұрғыдан қолайсыз». Мемлекеттер қазірдің өзінде келіссөздер жүргізуде, бірақ әрекет ету үшін трагедияны күту — рұқсат етілмейтін сән-салтанат.
Жаһандық қор және ашықтық
Дамушы елдер үшін Гутерриш жаһандық қор мен ЖИ әлеуетімен алмасу желісін құруды жариялады. Мақсат — цифрлық алшақтықтың даму және егемендік алшақтығына айналуына жол бермеу. 20-дан астам ел осы желі үшін орталықтарды ұсынды.
Энергия тұтыну мәселесі бөлек атап өтілді: деректер орталықтары қазірдің өзінде көптеген елдерге қарағанда көбірек электр энергиясын тұтынады, ал 2030 жылға қарай бұл көрсеткіш бойынша бес мемлекеттен басқасының барлығынан озып кетуі мүмкін. Бұл саладағы ашықтық маңызды факторға айналады.
Аналитик ретіндегі менің пікірім: БҰҰ ұстанымы — бұл нарыққа сигнал. Инвесторлар мен әзірлеушілер ЖИ реттеудегі «сұр аймақтар» тез жойылатынына дайын болуы керек. Бұл әсіресе автономды агенттерге, балаларға арналған контент жасауға және әскери қолдануға байланысты жобаларға қатысты. Қытай ЖИ-компаньондарды реттеу бойынша уақытша шараларды енгізіп жатыр және бұл жаһандық толқынның басы ғана. Әзірлеу кезеңінде комплаенсті біріктірмейтін ойыншылар нарықтан тыс қалу қаупіне ұшырайды.