Google впервые обнаружила полностью автоматизированный взлом с помощью ИИ

Исследователи Google впервые обнаружили хакерскую систему на базе искусственного интеллекта, способную самостоятельно находить уязвимости программного обеспечения, создавать инструменты для их использования и совершать атаки без вмешательства человека на этих этапах. В технических файлах системы нашли русскоязычные комментарии, а среди её целей были французские вебсайты.

Об этом сообщает Politico со ссылкой на исследование Google Threat Intelligence Group, обнародованное 16 ноября.

Специалисты обнаружили доступный из интернета сервер злоумышленников, на котором работала система под названием exploit_agent. Она объединяла несколько ИИ-агентов, использовавших разные большие языковые модели для автоматизации кибератак.

Особенность системы заключается в том, что она способна использовать обновления безопасности программного обеспечения для поиска способов взлома. Искусственный интеллект сравнивает программный код до и после исправления, определяет устранённую разработчиками уязвимость, создаёт инструмент для её эксплуатации и автоматически запускает его.

Ранее такие операции требовали непосредственного участия квалифицированных хакеров, которые самостоятельно анализировали код и корректировали инструменты атак. Теперь значительную часть этой работы могут выполнять автономные ИИ-системы.

На обнаруженном сервере исследователи также нашли данные, украденные у пострадавших организаций, и программы для дальнейшего проникновения во взломанные системы. В частности, они могли использоваться для поиска информации во внутренних сетях, подбора паролей и установки средств удалённого доступа.

По выводам Google, операторы системы проявляли особый интерес к французским вебсайтам в сферах медиа, развлечений и образования. В то же время компания не сообщила количество пострадавших организаций, объёмы украденной информации и масштабы нанесённого ущерба.

В конфигурационных файлах exploit_agent нашли инструкции на русском языке. Именно это стало основанием для предположения о русскоязычном происхождении операторов. Однако Google не установила их принадлежности к конкретной хакерской группировке или государству.

В отчёте Google Threat Intelligence Group отмечается, что применение автономных ИИ-агентов меняет характер киберугроз. Такие системы позволяют злоумышленникам сокращать время между публикацией информации об уязвимости и её использованием для атаки, одновременно увеличивая количество потенциальных целей.

Аналитики ожидают дальнейшего распространения подобных инструментов. Это создаёт дополнительные риски для компаний, использующих веб-приложения и интернет-сервисы, поскольку время на установку обновлений безопасности может существенно сокращаться.

По материалам: Politico, Google Threat Intelligence Group

Новости