Безопасность ИИ: необходимость контроля
Генеральный директор корпорации Microsoft Сатья Наделла выступил с инициативой по усилению контроля над разработками в сфере искусственного интеллекта. По мнению топ-менеджера, современные высокотехнологичные системы должны быть оснащены специальными механизмами сдерживания, которые позволят профильным специалистам вмешиваться в процесс работы алгоритмов вплоть до их полной принудительной остановки.
Основные принципы безопасной разработки
Наделла сформулировал ключевые требования, которые, по его мнению, необходимы для обеспечения безопасности при создании и эксплуатации продвинутого ИИ:
- возможность детального мониторинга всех действий системы;
- регулярное тестирование функционала;
- обеспечение прозрачности и проверяемости принимаемых машиной решений;
- проведение независимых аудитов;
- строгое ограничение возможностей системы и своевременное информирование об инцидентах.
Глава Microsoft также подчеркнул, что любые модели, вне зависимости от того, имеют они открытые или закрытые веса, должны оцениваться экспертами как потенциально содержащие внутренние риски.
Контекст дискуссии
Подобное заявление прозвучало в период активных мировых дискуссий о темпах развития технологий. Многие представители индустрии и ученые выражают обеспокоенность тем, что текущие протоколы безопасности могут быть недостаточными для сдерживания рисков, связанных с искусственным интеллектом.
На текущий момент вопрос регулирования ИИ остается крайне актуальным. Стоит отметить, что тема развития технологий часто затрагивается на высшем государственном уровне, например, ранее акцент на лидерстве США в сфере ИИ в условиях конкуренции с Китаем делал Дональд Трамп.