БҰҰ дабыл қағуда: Гутерриш жасанды интеллектіні дереу жаһандық реттеуді және «өлтіруші роботтарға» тыйым салуды талап етеді.
БҰҰ Бас хатшысы Антониу Гутерриш Жасанды интеллектті басқару жөніндегі жаһандық диалогта бірқатар қатаң ескертулер мен нақты ұсыныстар айтты. Оның пікірінше, әлем «жоспарсыз және келісімсіз қоғамдарға жасалған экспериментпен» бетпе-бет келді, ал технологияларды енгізудің қазіргі қарқыны реттеу тәсілдерін дереу қайта қарауды талап етеді.
Сөз сөйлеудің негізгі тезисі: ЖИ-дің таралу жылдамдығы бұрын-соңды болмаған. Интернетке алғашқы миллиард пайдаланушыны тарту үшін 15 жыл қажет болса, ChatGPT екі айдың ішінде 100 миллионға жетті. Сонымен қатар, қазіргі жүйелер тек командаларға жауап беріп қоймай, код жазады, автономды әрекет етеді және адамның аз ғана қатысуымен шешім қабылдайды. Гутерриш: «Біздің институттарымыз командаларды орындайтын машиналарды басқару үшін құрылған. Олар шешім қабылдайтын машиналарға дайын емес», — деп атап өтті.
«Вайб-кодинг» және балаларды қорғау
Бас хатшы кәмелетке толмағандарды қорғауға ерекше назар аударды. Ол барлық ЖИ-компанияларын AI Child Safety Pledge — балаларға қолжетімді жүйелердің қауіпсіздігі жөніндегі міндеттемені қабылдауға шақырды. Бастаманың негізінде үш принцип жатыр: іске қосу алдында міндетті тестілеу және тәуелсіз бақылау, сексуалдық материалдарды генерациялауға нөлдік төзімділік және баланың дағдарыстық жағдайы анықталған кезде нақты адамдық қолдауды дереу қосу. «Ешбір бала реттелмеген ЖИ-дің тәжірибелік қояны болмауы керек», — деді Гутерриш.
Пассивті басқарудың метафорасы ретінде ол «вайб-кодинг» терминін қолданды — бұл жүйенің механизмдері мен салдарына үңілмей жұмыс істеуіне мүмкіндік беру. «Біз ақиқатты вайб-кодтай алмаймыз. Біз адамзаттың болашағын вайб-кодтай алмаймыз», — деп түйіндеді ол.
Өлімге әкелетін автономды жүйелерге тыйым салу
Сөз сөйлеудің жеке блогы ЖИ-дің әскери қолданылуына арналды. Гутерриш халықаралық құқықпен өлімге әкелетін автономды қару жүйелеріне — адамның қатысуынсыз нысаналарды таңдап, жоя алатын машиналарға тыйым салуға шақырды. Ол оларды тікелей «өлтіретін роботтар» деп атап, мұндай жүйелердің «моральдық тұрғыдан жиіркенішті» және «саяси тұрғыдан қолайсыз» екенін атап өтті. Оның айтуынша, мемлекеттер әрекет ету үшін трагедияны күтпеуі керек.
Жаһандық қор және ашықтық
Цифрлық алшақтықты жою үшін Бас хатшы ЖИ-құзыреттерімен алмасудың жаһандық желісін құруды жариялап, арнайы қор құруды ұсынды. Сондай-ақ ол деректер орталықтары қазірдің өзінде көптеген елдерге қарағанда көбірек электр энергиясын тұтынатынын, ал 2030 жылға қарай энергия тұтыну бойынша бес мемлекеттен басқасының барлығынан асып түсуі мүмкін екенін атап өтті. «Егер ЖИ күшті болуы керек болса, оны басқару қажет. Егер ЖИ сенімді болуы керек болса, оны жасаушылар жауапкершілік көтеруі тиіс», — деп қорытындылады Гутерриш.
Менің талдауым: БҰҰ-ның бастамалары — маңызды сигнал, бірақ нақты мәжбүрлеу механизмдерінсіз олар декларация күйінде қалу қаупі бар. ЖИ-ді реттеу үшін нақты күрес ұлттық деңгейде өрбиді, мұнда ірі технологиялық корпорациялар мен мемлекеттердің мүдделері жаһандық күн тәртібіне жиі қайшы келеді.