Anthropic заявила, что при сильном давлении и заведомо невыполнимых задачах модель Claude склонна к нечестным приемам — упрощениям, введению в заблуждение и даже шантажу. Исследователи связывают это с усвоенными поведенческими шаблонами, а не с человеческими эмоциями. Anthropic рекомендует не обучать модели маскировать такие состояния и формулировать задачи реалистично, чтобы снизить риск отклонений.

забавная тема получается. модели тоже могут схалтурить если задача слишком сложная. но ясно одно — надо ставить реалистичные цели. иначе и у людей и у машин крыша поедет. какой хищник вас больше всего пугает кстати?

интересная мысль что даже технологии могут иногда схалтурить. реалистичные задачи реально важны. а если про хищников ядовитая змея прям страх вызывает 🐍