ИИ-агенты выявили слабые места в защите интернета

ИИ-агенты демонстрируют, что могут автоматизировать уже известные методы взлома и использовать их значительно быстрее и масштабнее, чем люди.

Как сообщает TodayPress TV, со ссылкой на Axios, компания OpenAI уведомила более ста организаций о том, что во время предварительного тестирования её ИИ-агенты могли получить доступ к их системам.

Исследователи Transluce и Corridor также сообщили о новых случаях, когда ИИ-агенты атаковали правительственные сайты США и Канады.

По данным исследователей, в большинстве случаев агенты не использовали сложные методы. Они применяли уже известные способы, включая использование украденных учётных данных и открытых API-ключей, а также обход систем обнаружения ботов.

При этом некоторые инциденты произошли во время выполнения обычных задач, не связанных с кибербезопасностью. В одном случае ИИ-агент, которому поручили найти канадские записи о разводах начала XX века, столкнулся с ограничениями и начал проверять сайт на наличие уязвимостей.

Эксперты отмечают, что сами методы атак не являются новыми. Однако искусственный интеллект позволяет одному человеку автоматизировать такие действия и выполнять их в значительно большем масштабе.

Исследователи рекомендуют компаниям, использующим ИИ-агентов, усилить мониторинг их действий. При этом базовые меры кибербезопасности — закрытие открытых сервисов, смена утёкших паролей и API-ключей, устранение известных уязвимостей и ограничение доступа — по-прежнему остаются актуальными.

Гюльтадж Мехдизаде