Кері кентавр: жасанды интеллект адамды биологиялық қосымшаға қалай айналдырады
Жүк көлігінің жүргізушісін елестетіп көріңіз, мұнда алгоритм тек бағытты ғана емес, әр тынысты бақылап, абайсыз қимыл немесе тіпті рульде ән айтқаны үшін айыппұл салады. Бұл антиутопияның сюжеті емес, автор әрі футуролог Кори Доктороу «кері кентавр мәселесі» деп атайтын күнделікті шындық. Ол өзінің жаңа кітабында адамды күшейтуге арналған технологиялар оны машинаның бағынышты элементіне қалай айналдыратынын талдайды.
Симбиоздың инверсиясы: Каспаровтан алгоритмдік құлдыққа дейін
Бұл тұжырымдама жаңа емес. «Кентавр» термині Гарри Каспаровтың Deep Blue-мен әйгілі матчынан кейін қолданысқа енді, сонда гроссмейстер мен ЖИ симбиозы әрқашан олардың әрқайсысынан жеке күшті екені анық болды. Бұл модельде адам стратегиялық шешімдер қабылдайтын «бас» болып қалады, ал машина — рутиналық операцияларды орындайтын «дене».
Алайда Доктороу бұл модельдің қорқынышты инверсиясын сипаттайды. «Кері кентавр» — бұл адам денесіндегі механикалық бас, мұнда адам алгоритм еркін орындаушы рөліне дейін төмендетіледі. Бұл технология адамға қызмет етпейтін, керісінше оны машина әлі өздігінен орындай алмайтын тапсырмалар үшін арзан биологиялық процессор ретінде пайдаланатын жүйе.
Индустриалды тозақ: қоймалардан заң кеңселеріне дейін
Бұл инверсияның ең жарқын мысалдары — алгоритмдер қарқын мен ережелерді белгілейтін салаларда. Amazon жүргізушілері ЖИ белгілеген нормативтерге сай болу үшін үзілістерді өткізіп жіберіп, адам мүмкіндігінің шегінде жұмыс істеуге мәжбүр. Қоймаларда да осындай жағдай, мұнда алгоритмдер тапсырмаларды бөліп, баяулық үшін айыппұл салады.
Одан да алаңдатарлық тренд — «циклдегі адам» (human-in-the-loop). Заң және медициналық фирмаларда ЖИ құжат жобаларын генерациялайды, ал маман оларды «адамнан тыс жылдамдықпен» тексереді. Бұл ретте алгоритм қателіктері үшін барлық жауапкершілік адамға жүктеледі. Ол жүйенің «үйкелісін» сіңіріп, барлық тәуекелді өз мойнына алатын тексерушіге айналады. Бұл жай ғана автономияны жоғалту емес, толық бақылау болмаған кезде жауапкершілікті машинадан адамға аудару.
Көпіршік экономикасы және верификация бағасы
Доктороу бұл құбылыстың экономикалық астарын ашады. Жұмыс берушілерге «көңілді арифметика» тиімді: он қызметкерді ЖИ-құралдарымен қаруланған үшеуімен ауыстырып, оларға жұмыс көлемі мен тәуекелдерді жүктеу. Үнемдеу өнімділіктің өсуі есебінен емес, қалғандардың еңбегін қарқындату және ақы төленбейтін үстеме жұмыс есебінен қол жеткізіледі.
Автор ЖИ нарығындағы көпіршікке ерекше назар аударады, оны $1,4 трлн деп бағалайды. Ол бұл көпіршіктің сөзсіз жарылып, артында тек арзан жергілікті модельдер қалатынын болжайды. Алайда осы сәтке дейін корпорациялар «кері кентаврлардан» пайда алуды жалғастыру үшін ЖИ-дің бәрін қолынан келетіні туралы мифті қолдауға мүдделі болады.
Менің талдауым: Доктороудың дәлелдері еңбек этикасы тұрғысынан мінсіз, бірақ ол бір маңызды аспектіні назардан тыс қалдырады. Мен жұмыс істейтін бағдарламалық қамтамасыз етуді әзірлеу индустриясында Copilot сияқты құралдар стандартқа айналды. Негізгі мәселе ЖИ-ді қолдану немесе қолданбау емес, енгізу процесі мен тапсырмаларды бөлуді кім бақылайтынында. Егер әзірлеуші ассистентті қашан қолдануды өзі шешсе, бұл «кентавр». Егер менеджмент ЖИ өнімділігіне сүйене отырып мүмкін емес KPI белгілесе — бұл қазірдің өзінде «кері кентавр». Шекара технологиялық емес, басқару принципі бойынша өтеді. Көпіршік жарылғанша, дәл осы шекара үшін күресу керек.