Индустрияда жасанды интеллектті персоналды басқаруда қолдану этикасына көлеңке түсіретін жаңа үлкен жанжал пісіп жетілуде. Meta компаниясының 26 қазіргі және бұрынғы қызметкері Калифорнияның Солтүстік округінің федералды сотына ұжымдық талап-арыз беріп, компания жұмыстан шығарылатын үміткерлерді іріктеу үшін ЖИ жүйелерін заңсыз пайдаланғанын мәлімдеді. Қуғын-сүргіннен қорыққандықтан анонимді түрде әрекет ететін талапкерлер алгоритмдер декреттік, отбасылық немесе медициналық демалыста болған адамдарды, сондай-ақ мүгедектігі бар қызметкерлерді пропорционалды емес жиі «жоюға» ұшыратқанын айтады.
Бұл Meta компаниясы штаттың шамамен 10% - 8000-ға жуық адамды қысқартуды жоспарлап отырған ауқымды қайта құрылымдау туралы болып отыр. Жұмыстан босату туралы хабарламалар 20 мамырда жіберілді, ал көпшілігі үшін нақты еңбек қатынастарын тоқтату 22 шілдеге жоспарланған. Талапкерлердің негізгі дәлелі: қысқарту тізімі басшылардың салмақты шешімдері негізінде емес, ішкі ЖИ құралдарының жиынтығы негізінде құрылған.
«Цифрлық гильотина» қалай жұмыс істеді?
Талапкерлердің нұсқасы бойынша, Meta алгоритмдердің тұтас арсеналын пайдаланды: корпоративтік көмекші Metamate, «екінші ми» агенттері деп аталатындар, ЖИ-токендерін пайдалану деректері, өнімділіктің автоматтандырылған рейтингтері және корпоративтік құрылғылардағы әрекеттер туралы ақпарат. Бұл көрсеткіштер орындалған жұмыс көлемін, белсенділікті, кодтағы коммиттер санын және жылдық бағалау нәтижелерін ескерді. Мәселе мынада: бала күтіміне байланысты демалыста, ауруханада немесе декреттік демалыста жүрген қызметкерлер жұмыс істеп жүрген әріптестерімен бірдей бұл көрсеткіштерді жинақтай алмады.
Талапкерлер атап өтеді: Meta бағалауды заңды болмау кезеңдерін ескере отырып түзетпеді және нәтижелерді жеке тексеруді жүргізбеді. Талапкерлердің бірі – босану алдында мақұлданған демалыста болған ғалым, бала туылғанға дейін екі күн бұрын жұмыстан босату туралы хабарлама алды. Басқа қызметкер жарақатқа байланысты үзіліс салдарынан оның рейтингі төмендетілгенін мәлімдеді. Медициналық демалыста болған менеджер жоқтың 16-шы күнінде-ақ жұмыстан босату тізіміне енгізілді.
Meta ұстанымы және талапкерлердің талаптары
Meta өкілі барлық кадрлық шешімдерді адамдар қабылдайды, ЖИ емес деп мәлімдеп, шағымдарды негізсіз деп атады. Алайда талапкерлер керісінше талап етіп, жүкті әйелдер мен мүгедектерді кемсітуге тыйым салатын заңдарға сілтеме жасайды. Олар іс қаралғанға дейін жұмыстан босатуды уақытша тоқтатуды, жалақыны, медициналық сақтандыруды және акцияларға құқықтарды сақтауды талап етеді. Сондай-ақ олар қолданылған ЖИ құралдарына тәуелсіз аудит жүргізуге қол жеткізгісі келеді. Адвокаттар ескертеді: жұмыстан босату аяқталғаннан кейін салдарлар қайтымсыз болады – қызметкерлер жүктілік, босанғаннан кейін қалпына келу және емделу кезінде сақтандырудан, ал кейбір жағдайларда иммиграциялық мәртебеден айырылады.
Бұл талап-арыз – айсбергтің ұшы ғана. Бұрын Meta корпоративтік құрылғыларға ЖИ-агенттерін оқыту үшін пернетақта басуларды, тінтуір қозғалыстарын және экран мазмұнын жаза алатын Model Capability Initiative жүйесін орнатқаны белгілі болды. Жаппай наразылықтан кейін (петицияға 1600-ден астам қызметкер қол қойды) Марк Цукерберг бағдарламаны тоқтатты, бірақ жағымсыз әсер қалды.
Менің талдауым: Бұл оқиға – бүкіл индустрия үшін дабыл қоңырауы. Технологиялық алыптар жауапкершілікті алгоритмдерге аудара отырып, жаппай қысқартулар сияқты «ыңғайсыз» шешімдерді автоматтандыруға жиі тырысады. Алайда эмпатиядан және адамдық жағдайларды түсінуден айырылған математикалық модель сөзсіз кемсіту құралына айналады. Егер сот Meta-ны кінәлі деп таныса, бұл бүкіл әлем бойынша HR-да ЖИ енгізу тәсілдерін қайта қарауға мәжбүр ететін прецедент жасайды.