Жасанды интеллект әлемінде тыныш, бірақ маңызды оқиға болды: ChatGPT-тің жасаушысы OpenAI компаниясы жалғыз штаттағы этика маманынан айырылды. Осы бағытты басқарған Хлоя Бакалар компанияда бір жылдан аз жұмыс істеп, шілде айында кетті. Бұл жай ғана кадрлық ауыстыру емес — бұл ИИ енгізудің салдары үшін жауапкершілік мәселелеріне жиі тап болып жатқан бүкіл сала үшін дабыл қағу белгісі.
Бакалар жай менеджер емес еді — ол тұтас бір департаментті білдіретін. OpenAI оған алмастырушы таппады, енді компанияда этикалық сараптама жеке функция ретінде іс жүзінде жоқ. Әзірлеушінің ресми ұстанымы бұлыңғыр естіледі: этика бір қызметкердің немесе команданың жауапкершілік аймағы емес, ол модельдерді жасау процесіне тікелей енгізілген. Алайда іс жүзінде бұл құрылымдық вакуумды жасыру әрекеті сияқты көрінеді.
Жағдай тек бақылаушыларды ғана емес, кәсіби қоғамдастықты да алаңдатады. Бүкіл әлемдегі реттеушілер алгоритмдердің ашықтығына қойылатын талаптарды күшейтіп, жұртшылық ИИ-дің біржақтылығы мен қауіпсіздігі туралы түсініктеме талап етіп жатқан кезде, OpenAI ішкі сыншы бола алатын жеке дауысты іс жүзінде жояды. Бұл этикалық тәуекелдердің жобалау кезеңінде емес, фактіден кейін қарастырылуына әкелуі мүмкін.
Этика — сән-салтанат па, әлде қажеттілік пе?
Бакалардың отставкасы — технологиялық алыптардағы кеңірек үрдістің симптомы: даму жылдамдығын арттыру үшін «бейіндік емес» рөлдерді қысқарту. Бірақ қателіктері орны толмас салдарға әкелуі мүмкін ИИ жағдайында мұндай тәсіл қауіпті. Миллиондаған адамның өміріне әсер ететін технологияларды жасайтын компания этикалық сараптаманы елемеу сән-салтанатына жол бере алмайды.
Менің талдауым: Бакалардың кетуі — бұл жай бір қызметкердің жоғалуы емес, OpenAI-дегі басымдықтардың өзгеруі туралы сигнал. ИИ нарығында көшбасшылық үшін бәсекеде этикалық ойлар жиі екінші орынға ығысады, бұл алаңдатарлық прецедент. Егер сала көшбасшысы ішкі бақылау механизмдерін бұзса, қалған ойыншыларға мұндай инвестициялардың қажеттілігін негіздеу одан сайын қиын болады. Бұл алдағы айларда біз көретін ауқымды өзгерістердің басы ғана болуы мүмкін.