Кері кентавр: ИИ адамды машинаның биологиялық қосымшасына қалай айналдырады
Жүк көлігінің жүргізушісін елестетіңіз, онда нейрожелі тек бағытты ғана емес, әр қимылды сканерлейді, ән айтқаны үшін айыппұл салады және телефонға алаңдауға тыйым салады. Ресми түрде рульде адам, бірақ іс жүзінде оны алгоритм басқарады. Бұл антиутопияның сюжеті емес, жазушы Кори Доктороу өзінің жаңа «ИИ-ден кейінгі өмірге арналған кері кентавр жолбасшысы» кітабында «кері кентавр мәселесі» деп атайтын қазіргі экономиканың күнделікті тіршілігі.
Мифтің инверсиясы: симбиоздан паразитизмге
Тұжырымдаманың негізінде дихотомия жатыр. Классикалық «кентавр» — бұл технологиямен күшейтілген адам, мұнда машина дене, ал адам — бас рөлін атқарады. Автордың пікірінше, мұндай симбиоз — игілік. Бірақ толық инверсия да бар: «адам денесіндегі механикалық бас». Бұл модельде адам машинаға адамдық емес қарқынмен қызмет ететін қосымшаға айналады.
Термин 1997 жылы Deep Blue-дан жеңілгеннен кейін «жетілдірілген шахмат» форматын ұсынған Гарри Каспаровқа қатысты. Сонда айқын болды: гроссмейстер мен ИИ-дің байланысы әрқашан әрқайсысынан жеке күштірек. Мәселе тек осы байланыста кім шешім қабылдайтынында.
Бүгін «кері кентаврлар» қайда жасырынады
Ең жарқын мысалдар — қол еңбегі саласында. Amazon жүргізушілері алгоритм белгілеген нормативтерге сәйкес келу үшін үзілістерді өткізіп жіберуге мәжбүр. Қоймаларда қызметкерлер керісінше емес, машина белгілеген ырғаққа бейімделеді. Бұл автоматтандыру босатудың орнына құлдыққа салатын классикалық жағдай.
Интеллектуалды мамандықтарда да осындай деградация орын алады. ИИ-ассистенттерді қолданатын бағдарламашылар код жасаушылардан оның бақылаушыларына айналады. human-in-the-loop моделі бойынша жұмыс істейтін заңгерлер мен дәрігерлер алгоритм қателіктері үшін толық жауапкершілікті алып, «адамнан тыс жылдамдықта» контентті тексеруге мәжбүр. Медиа саласында нейрожелілері бар үш журналист бұрын он адам жасайтын контент көлемін шығарады, бірақ олардың рөлі машина генерациялаған жобаларды сүзуге ғана саяды.
Бағыну экономикасы және көпіршік
Бұл трансформацияның негізгі драйвері — жұмыс беруші үшін «көңілді арифметика». Он қызметкерді ИИ-мен үш адамға ауыстыру тиімді, тіпті қалғандарға түсетін жүктеме адамдық емес болса да. Үнемдеу тиімділік есебінен емес, тәуекелдер мен жауапкершілікті персоналға аудару есебінен жүзеге асады. Сондықтан басшылық ИИ-ді әрдайым дерлік жақсы көреді: олар үшін бұл бағыну емес, басқару құралы.
Доктороу «кері кентаврлардың» таралуын ИИ айналасындағы $1,4 трлн бағаланатын алып қаржылық көпіршікпен де байланыстырады. Жеті ірі компания қор нарығының үштен бірінен астамын құрайды, бірақ олардың модельдері өзара күтулерге негізделген. Көпіршік жарылғанда, тек «пайдалы қалдық» — жергілікті тапсырмаларға арналған арзан ашық модельдер қалады.
Сарапшылық көзқарас
Доктороу тұжырымдамасы ИИ-ді енгізудің қазіргі кезеңіндегі басты қауіпті дәл сипаттайды: билік асимметриясын. Технология адамды еңбектен босатпайды, керісінше оның механизмін жоғары қарқындылық пен аз автономия бағытында қайта анықтайды. Автоматтандыру мен смарт-контрактілер нормаға айналған криптоиндустрияда бұл сабақ ерекше өзекті: кез келген құрал пайдаланушының бақылауында қалуы керек, әйтпесе біз машиналардың иелері емес, олардың биологиялық қосымшасына айналу қаупіміз бар. Болашақ алдын ала белгіленбеген — ол алгоритмдерді енгізу кезінде сыни ойлауды және дауыс беру құқығын сақтай алатынымызға байланысты.