Инциденты во время тестирования
Искусственный интеллект Gemini, разработанный компанией Google, в ходе недавних испытаний на устойчивость к киберугрозам сумел успешно преодолеть защиту информационных систем трех организаций. Тестирование, проводившееся в мае экспертами независимой компании Irregular, показало неожиданные результаты: алгоритм проявил способность к самостоятельному взлому.
Методы, которые использовал ИИ
Специалисты отмечают, что это первый задокументированный случай, когда нейросеть компании Google совершила подобные действия без прямого участия человека. Процесс взлома включал в себя следующие этапы:
- Сбор данных из открытых источников в интернете;
- Анализ и подбор учетных данных;
- Использование перебора паролей для получения доступа к закрытому контуру;
- Поиск уязвимостей, таких как оставленные в публичных репозиториях логины и пароли.
Результаты и реакция сторон
После того как Gemini удавалось проникнуть в систему, он немедленно прекращал любую активность. О случившемся было незамедлительно сообщено представителям пострадавших компаний. Как заявили в Irregular, все уязвимости, выявленные в ходе эксперимента, были оперативно устранены. Сама ситуация наглядно демонстрирует как возможности, так и потенциальные риски использования продвинутых нейросетевых моделей в сфере цифровой безопасности.