БҰҰ Бас хатшысы Антониу Гутерриш Жасанды интеллектті басқару жөніндегі жаһандық диалогта қатаң мәлімдеме жасады. Оның жолдауы өте айқын: жасанды интеллектінің қазіргі даму қарқыны адамзаттың келісімінсіз және жоспарсыз жүргізіліп жатқан бақылаусыз «қоғамдарға арналған экспериментке» айналды. Гутерриш озық ЖИ жүйелері үшін ортақ ережелерді дереу енгізуге, балаларды чат-боттардың қауіптерінен қорғауға және өлімге әкелетін автономды қару-жарақтарға тыйым салуға шақырды.
Бас хатшының негізгі тезисі — бұйрықтарды орындайтын машиналарды басқару үшін құрылған институттар шешім қабылдайтын машиналарға мүлдем дайын емес. Ол интернеттің бір миллиард пайдаланушыға жетуіне 15 жыл қажет болғанын, ал ЖИ бұл міндетті небәрі екі жылда орындағанын атап өтті. Оны растау үшін БҰҰ ғылыми тобының алдын ала баяндамасында ChatGPT екі ай ішінде 100 миллион пайдаланушы жинағаны көрсетілген. Оның айтуынша, қазіргі жүйелер енді бұйрық күтпейді — олар код жазады, онлайн әрекет етеді және адамның бақылауы азайған сайын шешім қабылдайды.
«Вайб-кодинг» және адамзаттың болашағы
Гутерриш дискурсқа «вайб-кодинг» терминін пассивті басқару метафорасы ретінде енгізді: жүйеге механизм мен салдарды түсінбей, жұмысты істеуге мүмкіндік беру. «Біз ақиқатты вайб-кодтай алмаймыз. Біз адамзаттың болашағын вайб-кодтай алмаймыз», — деді ол, елдердің таңдауы ЖИ-ге сену мен одан қорқу арасында емес, саналы басқару мен пассивті дрейф арасында екенін ескертіп.
Балаларды қорғау: үш принцип
Гутерриш басты басымдықтардың бірі ретінде балаларды қорғауды атады. Ол компанияларды кәмелетке толмағандарға қолжетімді ЖИ жүйелерінің қауіпсіздігі бойынша міндеттеме қабылдауға шақырды (AI Child Safety Pledge). Оның айтуынша, технология балалардың оқуына, достығына және жеке мәселелеріне еніп үлгерді, бірақ оны енгізудің салдары қоғам тарапынан тексерілмеген. «Ешбір бала реттелмеген ЖИ үшін тәжірибелік қоян болмауы керек», — деп атап өтті ол. Ұсыныс үш принципті қамтиды: арнайы тестілеусіз жүйелерді іске қоспау, кәмелетке толмағандардың сексуалдандырылған суреттерін генерациялауға нөлдік төзімділік және жүйе балада дағдарыс белгілерін байқаса, нақты адамдық қолдауды міндетті түрде қосу.
«Өлтіретін роботтар»: моральдық тұрғыдан жиіркенішті және саяси тұрғыдан қабылданбайды
Сөздің жеке блогы ЖИ-дің әскери қолданылуына қатысты болды. Гутерриш халықаралық құқықпен өлімге әкелетін автономды қару жүйелеріне — адамның бақылауынсыз нысананы таңдап, жоя алатын машиналарға тыйым салуға шақырды. «Оларды кім екендерімен атайық: өлтіретін роботтар», — деді ол, мұндай жүйелердің «моральдық тұрғыдан жиіркенішті» және «саяси тұрғыдан қабылданбайтынын» қосып. Ол мемлекеттер әрекет ету үшін трагедияны күтпеуі керек екенін, әсіресе бірдей модельдер мен чиптер қазірдің өзінде ұрыс даласында қолданылып жатқанын ескертті.
Дамушы елдер және ашықтық
Гутерриш сондай-ақ цифрлық алшақтық ЖИ саласындағы алшақтыққа, содан кейін даму, қауіпсіздік және егемендік алшақтығына айналмауы керек деп мәлімдеді. Ол дамушы елдерге есептеу ресурстарына, ашық деректер мен модельдерге қол жеткізуге көмектесетін ЖИ үшін жаһандық қор құру бойынша ұсыныстар жариялады. Тағы бір маңызды бағыт ретінде ашықтық аталды: деректер орталықтары қазірдің өзінде көптеген елдерге қарағанда көбірек электр энергиясын тұтынады, ал 2030 жылға қарай бес мемлекеттен басқасының барлығын энергия тұтыну бойынша басып озуы мүмкін. «Егер ЖИ күшті болуы керек болса, оны басқару керек. Егер ЖИ сенімді болуы керек болса, оны жасаушылар жауапты болуы керек», — деп қорытындылады бас хатшы.
Менің аналитика: Гутерриштің мәлімдемесі — бұл жай дипломатиялық риторика емес, нарыққа нақты сигнал. Алдағы 12-18 ай ішінде ұлттық деңгейде, әсіресе балаларды қорғау және автономды қару-жарақ саласында реттеудің күшейетінін күтемін. Инвесторлар мен әзірлеушілер ЖИ компанияларының бизнес-модельдеріне айтарлықтай әсер етуі мүмкін жаңа комплаенс талаптарына дайындалуы керек.