Новая инициатива по регулированию ИИ
Компания Anthropic выступила с предложением к властям США по внедрению законодательной базы, направленной на обеспечение безопасности передовых технологий искусственного интеллекта. По данным источников, знакомых с ситуацией, проект документа уже передан на рассмотрение американским законодателям.
Критерии опасности и полномочия регуляторов
Согласно предложенному тексту, власти получат право ограничивать запуск или эксплуатацию нейросетей в случаях, когда модель несет прогнозируемую угрозу критического масштаба. К подобным рискам относятся потенциальный ущерб экономике на сумму свыше 1 млрд долларов, а также угроза гибели или серьезного травмирования более 50 человек.
По информации источников, данные риски должны быть напрямую связаны с:
- разработкой биологических угроз;
- взломом систем защиты ИИ;
- организацией масштабных кибератак.
Обязанности разработчиков и надзор
Законопроект предполагает внедрение жестких стандартов для создателей ИИ. В частности:
«Разработчики будут обязаны проводить всестороннее тестирование систем, публиковать отчеты о проверках и подвергаться независимой экспертизе», — отмечается в документе.
Эксперты, аккредитованные при Министерстве торговли США, должны будут уведомлять ведомство о выявлении критических уязвимостей в течение 72 часов с момента завершения тестирования.
Судебный контроль
Ключевым аспектом инициативы является разграничение полномочий. Только Министерство торговли США будет иметь право обращаться к федеральному судье с ходатайством о временной приостановке работы конкретной модели. Иные государственные структуры, согласно текущей редакции законопроекта, не наделяются аналогичными правами по блокировке ИИ-систем.