OpenAI бас этика маманынан айырылды: бұл индустрия үшін нені білдіреді
Жасанды интеллект әлемінде саладағы көпшілік назардан тыс қалдыруы мүмкін маңызды кадрлық оқиға болды. OpenAI-дағы жасанды интеллект этикасы бағытының жетекшісі қызметін атқарған Хлоя Бакалар компанияны тағайындалғаннан кейін бірнеше ай өткен соң, шілде айында тастап кетті. Бұл жай ғана кезекті кадрлық ауысым емес, ірі тілдік модельдерді әзірлеу экожүйесі үшін алаңдатарлық сигнал.
Менің деректерім бойынша, Бакалар компаниядағы осы саладағы жалғыз штаттық маман болған. Оның үстіне, оған алмастырушы ешқашан табылмады. Бұл қазір OpenAI-да — ЖИ саласындағы ең ықпалды ұйымдардың бірінде — әзірлеудің этикалық аспектілерімен айналысатын жеке сарапшының жоқтығын білдіреді. Оның орнына компания этика мәселелері жеке қызметкердің немесе команданың жауапкершілік аймағы емес, тікелей модельдерді құру процесіне интеграцияланған деп мәлімдейді.
Мұндай тәсіл менде күрделі сұрақтар туғызады. Бір жағынан, этикалық принциптерді орталықсыздандыру прогрессивті болып көрінуі мүмкін — әрбір инженер мен зерттеуші өз жұмысының салдары үшін жауапкершілік алады. Екінші жағынан, тәжірибеде бұл көбінесе жауапкершіліктің жуылуына және жүйелі бақылаудың болмауына әкеледі. Әсіресе қазірдің өзінде бүкіл әлем бойынша миллиондаған пайдаланушыларға әсер ететін ChatGPT сияқты қуатты құралдар туралы сөз болғанда.
Бұл нарық үшін нені білдіреді?
OpenAI-дан жалғыз этикалық сарапшының кетуі — бұл жай ғана ішкі кадрлық ауыстыру емес. Бұл саланың жетекші компанияларының өзінде ЖИ қауіпсіздігі мен этикасы мәселелері әзірлеу жылдамдығы мен коммерциялық табысқа қарағанда екінші кезекте қалатынының белгісі. Бүкіл әлемдегі реттеушілер жіберіп алғанды қуып жетуге және жауапты ЖИ үшін шеңбер құруға тырысып жатқан жағдайда, мұндай шешімдер технологияға деген сенімге ұзақ мерзімді салдарлар әкелуі мүмкін.
Менің кәсіби бағалауым: OpenAI-да жеке этика маманының болмауы — бұл болашақта компанияға қымбатқа түсуі мүмкін стратегиялық қателік. Anthropic немесе Google DeepMind сияқты бәсекелестер осындай бағыттарға белсенді инвестиция салып жатқанда, OpenAI, әсіресе ЕО мен АҚШ-тағы қатаңдап келе жатқан реттеу алдында осал жағдайда қалу қаупіне ұшырайды. Алдағы жылдары этикалық стандарттар жай «жағымды қосымша» емес, ЖИ нарығындағы бәсекеге қабілеттіліктің негізгі факторына айналады.