xaker

«Контекстные бомбы» снижают эффективность атак с применением ИИ

  • пятница, 23 октября 2026 г. в 00:00:20
https://xakep.ru/2026/10/22/context-bombs/
Исследователи из компании Tracebit разработали новый способ защиты от атак автономных ИИ-агентов и предложили использовать так называемые «контекстные бомбы» (context bombs). Идея заключается в том, что атакующий агент автоматически находит при изучении цели скрытые промпты-ловушки, которые сбивают ИИ с курса, направляют к фальшивым целям и заставляют тратить время и токены впустую.