Глава Anthropic призвал ИИ-компании проверять безопасность нейросетей
CEO Anthropic Дарио Амодеи призвал другие ИИ-компании проводить обязательное тестирование безопасности нейросетей перед их публичным выпуском. Об этом пишет Bloomberg.
«Я думаю, что мы должны сделать тестирование обязательным, но также важно быть очень осторожными в том, как это делать», — сказал он.
По словам главы ИИ-стартапа, существует ряд добровольно принятых правил безопасности, с которыми согласились крупные фирмы. Однако необходимы более четкие стандарты.
«Нет ничего, что позволило бы проверить или убедиться следованию правилам со стороны компании. Они просто сказали, что будут это делать», — подчеркнул он.
Амодеи добавил, что стартапы пошли на соблюдение ряда стандартов под влиянием общественности и работников, но в конечном итоге этого окажется недостаточно. В то же время требования к тестированиям должны оставаться «гибкими», чтобы учитывать темпы изменения технологий.
В ноябре Anthropic открыла свои ИИ-продукты разведывательным и оборонным агентствам США. Ранее Meta пошла на аналогичный шаг.
Напомним, в том же месяце Амодеи заявил, что искусственный интеллект достигнет человеческого уровня в 2026 году.