БҰҰ Бас хатшысы қатаң ескерту жасады: жасанды интеллект бақылаудан шығып кетті, ал қолданыстағы басқару институттары бұған дайын емес. Ол озық ЖИ жүйелері үшін жаһандық ережелерді дереу енгізуге шақырып, әсіресе балаларды қорғау қажеттілігін және автономды өлтіруші қаруға тыйым салуды ерекше атап өтті.

«ЖИ бақыланбайтын жылдамдықпен дамып жатыр», — деді БҰҰ басшысы, болып жатқан оқиғаны «жоспарсыз және келісімсіз қоғамдарға жасалған эксперимент» деп атады. Оның бағалауынша, интернетке бір миллиард пайдаланушыны тарту үшін 15 жыл қажет болса, ЖИ бұған екі жылда қол жеткізді. Ал ChatGPT екі айдың ішінде 100 миллион пайдаланушы жинады — бұл бұрын-соңды болмаған қарқын.

Сарапшының пікірінше, негізгі мәселе қазіргі жүйелердің жай ғана бұйрықтарды орындап қоймай, код жазуы, шешім қабылдауы және адамның бақылауы минималды болған кезде желіде әрекет етуінде. «Біздің институттарымыз бұйрықтарды орындайтын машиналарды басқару үшін құрылған. Олар шешім қабылдайтын машиналарға дайын емес», — деп атап өтті ол.

«Вайб-кодинг» болашаққа қауіп ретінде

«Вайб-кодинг» метафорасына ерекше мән берілді — бұл жүйе механизмдер мен салдарларды түсінбей жұмыс істейтін пассивті тәсіл. «Біз шындықты вайб-кодтай алмаймыз. Біз адамзаттың болашағын вайб-кодтай алмаймыз», — деді Гутерриш, елдерге саналы басқару мен пассивті дрейф арасында таңдау жасауды ұсынып.

Балаларды қорғау: үш принцип

Бас басымдықтардың бірі ретінде балаларды реттелмеген ЖИ-ден қорғау аталды. Үш негізгі принцип ұсынылды:

  1. Арнайы тестілеу мен тәуелсіз қадағалаусыз балаларға қолжетімді ЖИ жүйелерін іске қосуға тыйым салу.
  2. Кәмелетке толмағандардың сексуалдандырылған бейнелерін генерациялауға нөлдік төзімділік — мұндай материалдарды міндетті түрде анықтау, жою және хабарлау.
  3. Дағдарыс жағдайындағы баланы чат-ботпен жалғыз қалдыруға жол бермеу: ауыр жағдай белгілері анықталған кезде жүйе тоқтап, нақты адамдық қолдауды қосуы керек.
«Бірде-бір бала реттелмеген ЖИ-дің тәжірибелік қояны болмауы керек», — деп қорытындылады БҰҰ басшысы.

«Өлтіруші роботтарға» тыйым салу

ЖИ-дің әскери қолданылуы да назар орталығында болды. Гутерриш халықаралық құқықпен өлтіруші автономды қару жүйелеріне — адамның бақылауынсыз нысаналарды таңдап, жоя алатын машиналарға тыйым салуға шақырды. «Оларды кім екенімен атайық: өлтіруші роботтар», — деді ол, мұндай жүйелерді «моральдық тұрғыдан жиіркенішті» және «саяси тұрғыдан қолайсыз» деп атап.

Цифрлық алшақтық және энергия тұтыну

Цифрлық теңсіздік мәселесі бөлек көтерілді. БҰҰ басшысы дамушы елдерге жоғары өнімді есептеулерге, ашық деректер мен модельдерге қол жеткізуге көмектесуі тиіс ЖИ үшін жаһандық қор құру бойынша ұсыныстар жариялады. Ол сондай-ақ деректер орталықтары қазірдің өзінде көптеген елдерге қарағанда көбірек электр энергиясын тұтынатынын, ал 2030 жылға қарай бес мемлекеттен басқасының барлығынан энергия тұтыну бойынша асып кетуі мүмкін екенін атап өтті.

Менің пікірім: БҰҰ-ның шақырулары — елемеуге болмайтын сигнал, бірақ шындық мынада: ЖИ-ді жаһандық реттеу орасан зор саяси және экономикалық кедергілерге тап болады. Жетекші державалар стандарттар туралы дауласып жатқанда, технология жеделдеуді жалғастыруда және әрбір кешіктірілген күн тәуекелдерді, әсіресе халықтың ең осал топтары үшін арттырады. Криптовалюта және блокчейн нарығы, өз кезегінде, ЖИ басқарудың орталықтандырылмаған модельдерін сынау алаңына айналуы мүмкін, бірақ бұл мүлдем басқа деңгейдегі үйлестіруді қажет етеді.