Крипто әлеміндегі жаңалықтар

Жүк көлігінің жүргізушісін елестетіп көріңіз, оны ЖИ тынымсыз бақылап отырады: ол бағытты айтып, әрбір қозғалысты тіркеп, регламенттен кез келген ауытқу үшін айыппұл салады. Бұл жүйеде адам енді көлікті басқармайды — көлік адамды басқарады, оны алгоритмнің биологиялық қосымшасына айналдырады.

Кентавр мифінің инверсиясы

Мен өз талдауымда егжей-тегжейлі қарастыратын тұжырымдама Кори Доктороудың «ЖИ-ден кейінгі өмірге арналған кері кентавр жолбасшысы» кітабына барып тіреледі. Автор адам мен технологияның өзара әрекеттесуінің қатаң дихотомиясын ұсынып, оны екі модельге бөледі.

Классикалық кентавр — бұл симбиоз, мұнда адам «бас» болып қалады, шешім қабылдайды, ал машина «дене» ретінде бұйрықтарды орындайды. Мысал ретінде велосипед, есту аппараты немесе редактордағы автоматты толтыру қызметін келтіруге болады. Мұнда технология — адамның мүмкіндіктерін күшейтетін құрал.

Кері кентавр — толық инверсия: «адам денесіндегі механикалық бас». Бұл модельде адам машинаға адамдық емес, машиналық қарқынмен қызмет ететін көмекші рөліне дейін төмендетіледі. Бұл термин Гарри Каспаровтан алынған, ол 1997 жылы Deep Blue-ден жеңілгеннен кейін адам мен ЖИ бір команда болып өнер көрсететін «жетілдірілген шахмат» форматын ұсынған болатын. Алайда, белгілі болғандай, мұндай одақ өзімен бірге қауіп-қатерлерді де алып жүреді, олар технологиялардың дамуымен барған сайын айқындала түсуде.

Кері кентаврларды қай жерде кездестіреміз

Ең жарқын мысалдар — алгоритмдер қол еңбегін бақылайтын салаларда. Бұл жеткізу жүргізушілері туралы, олардың фургондары ЖИ камераларымен толтырылған, олар жүргізушінің телефонға алаңдамағанын немесе ән салмағанын бақылайды (бұл корпоративтік жарғыда тыйым салынған). Алгоритм тек бағытты белгілеп қана қоймайды, сонымен қатар Доктороудың сөзімен айтқанда, «адамнан тыс төзімділікті талап ететін» уақыт нормативтерін белгілейді. Жүргізушілер кестеге сәйкес келу үшін тамақ пен дәретхана үзілістерін құрбан етуге мәжбүр, машина еркінің орындаушысына айналады.

Бағдарламалық қамтамасыз етуді әзірлеу саласында да осындай жағдай қалыптасуда. GitHub Copilot сияқты құралдар бағынудың жаңа түрін жасайды: бағдарламашыларды «мүмкін емес көлемдегі код шығаруға» мәжбүрлейді, оларды жасаушылардан тек тексеріп, түзететін бақылаушыларға айналдырады. Тапсырмалардың қарқыны мен көлемі адамның мүмкіндіктерімен емес, ЖИ өнімділігімен анықталады.

«Циклдегі адам» (human-in-the-loop) санаты ерекше бөлінеді. Заңгерлік және медициналық кеңселерде ЖИ шешім жобасын жасайды, ал сарапшы оны «адамнан тыс жылдамдықпен» тексеріп, бекітуге міндетті. Сонымен қатар ол алгоритм қателіктері үшін толық жауапкершілік алады. Мұндай қызметкер «үйкелісті сіңіріп, бірдеңе дұрыс болмаған кезде жауапкершілікті өз мойнына алады». Бұл шығармашылық құрамдас бөлігі жоқ, бірақ тұрақты стресс пен күтпегендікпен байланысты жұмыс.

Бағыну экономикасы

Кері кентаврлардың таралуы — экономикалық ынталандырулардың жүйелі салдары. Жұмыс беруші «көңілді арифметиканы» көреді: он қызметкерді ЖИ құралдарымен үшеуімен ауыстыруға болады. Үнемдеу тиімділіктің өсуі есебінен емес, қалғандарға жүктемені қайта бөлу және оларға тәуекелдерді аудару есебінен қол жеткізіледі. Технологияларды енгізу туралы шешім қабылдайтындардың өздері ешқашан кері кентаврға айналмайды. Олар үшін ЖИ — бағыну емес, басқару құралы. Дәл осы себепті ЖИ енгізу төменгі деңгейлерде қарсылыққа, ал жоғарғы деңгейлерде ынта-жігерге тап болады.

Мен бұл жүйеде көретін негізгі парадокс — верификация. Егер ЖИ-дің әрбір нәтижесі адамның тексеруін талап етсе, мұндай еңбектің құны тапсырманы өз бетінше орындаумен салыстыруға болатындай болуы мүмкін. Үнемдеу тек тексеру шығындары қызметкерге аударылғанда ғана пайда болады, бұл оны қосымша ақысыз тезірек және ұзағырақ жұмыс істеуге мәжбүрлейді. Дәл осы сәтте кері кентавр пайда көзіне айналады.

Әлеуметтік салдарлар мен болжамдар

Кері кентаврға айналу «біздің адамгершілігімізден бас тартуға» әкеледі. Адамдар автономияны, шығармашылық бастаманы жоғалтады және алгоритмдік бұйрықтардың орындаушысына айналады. ЖИ қателіктері үшін жауапкершілік, созылмалы стресс және тез күйіп-жану — мұндай модельдің сөзсіз серіктері. ЖИ-дің пайдалылығын қабылдау оны қолданудың еріктілігіне тікелей байланысты: жақтаушылар оны қашан қолдануды өздері шешеді, ал қарсыластар бұйрыққа бағынуға мәжбүр.

Доктороу $1,4 трлн деп бағаланатын ЖИ көпіршігі сөзсіз жарылып, артында тек «пайдалы қалдық» — жергілікті тапсырмаларға арналған арзан ашық модельдер қалады деп болжайды. Алайда ол болашақ алдын ала анықталмағанын атап көрсетеді. Жеке қарсылық, сыни ойлау және биліктің бөлінуін ескеретін реттеуші бастамалар бізді технология адамға қызмет ететін, керісінше емес, «кентавр» моделіне қайтара алады.

Менің көзқарасым: кері кентавр тұжырымдамасы — бұл жай философиялық метафора емес, еңбек нарығындағы қазіргі үрдістің нақты сипаттамасы. Негізгі мәселе ЖИ адамды алмастыра ала ма екендігінде емес, осы симбиоздың шарттарын кім бақылайтынында. Егер біз экономикалық ынталандыруларды қайта қарастырмасақ, адамдар машиналарға қызмет ету үшін жұмыс істейтін қоғам құру қаупі бар, керісінше емес.