https://xakep.ru/2023/08/02/adversarial-attacks-on-aligned-language-models/
Группа ученых разработала метод атак на большие языковые модели (LLM), который позволяет обойти средства защиты в ChatGPT, Bard и Claude, вынуждая ИИ выполнять вредоносные промпты (запросы).