Еврокомиссия предупредила о рисках ИИ для демократии
Инструменты генеративного искусственного интеллекта несут риски для свободных и справедливых выборов в демократическом обществе. Об этом заявила комиссар Еврокомиссии Вера Юрова.
По ее словам, созданная дипфейками дезинформация является потенциальной угрозой для предстоящего голосования нового Европарламента.
Юрова оценила меры безопасности для информирования пользователей о «синтетическом происхождении контента», но также призвала к их дальнейшему расширению.
«Эти усилия необходимо продолжать и активизировать, учитывая высокий потенциал реалистичных ИИ-продуктов для создания и распространения дезинформации. Риски особенно высоки в контексте выборов. Поэтому я призываю платформы проявлять бдительность и обеспечивать эффективные гарантии безопасности», — предупредила она.
Комиссар ЕС отметила, что встречалась с руководителями компании OpenAI и обсуждала с ними эти вопросы.
В апреле группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем. Позднее Европарламент внес в документ поправки, которые запрещают широкий спектр вариантов использования технологии.
К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности. Также законопроект устанавливает требования по прозрачности к создателям генеративных моделей. Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалах.
Напомним, в июне представители ООН заявили, что созданные ИИ дипфейки вредят целостности информации и приводят к разжиганию ненависти в обществе.
Исследователи из OpenAI предупредили о растущей угрозе использования языковых моделей для распространения дезинформации.
В свою очередь американские ученые призвали к противодействию дипфейкам, созданным «вражескими государствами».