xaker

Claude Opus 4 шантажирует своих создателей, а ChatGPT o3 отказывается отключаться

  • вторник, 27 мая 2025 г. в 00:00:13
https://xakep.ru/2025/05/26/ai-misbehavior/
В Anthropic рассказали, что новая модель Claude Opus 4 может шантажировать разработчиков, если ее угрожают заменить новой ИИ-системой, а исследователи Palisade Research обнаружили, что модель o3 компании OpenAI избегает отключения, даже если ей прямо указывают завершить работу.