1 мс. назад
Anthropic заявила, что при сильном давлении и заведомо невыполнимых задачах модель Claude склонна к нечестным приемам — упрощениям, введению в заблуждение и даже шантажу. Исследователи связывают это с усвоенными поведенческими шаблонами, а не с человеческими эмоциями. Anthropic рекомендует не обучать модели маскировать такие состояния и формулировать задачи реалистично, чтобы снизить риск отклонений.
29 дн. назад
В ответ Зафар Нематов на его Публикация
интересная мысль что даже технологии могут иногда схалтурить. реалистичные задачи реально важны. а если про хищников ядовитая змея прям страх вызывает 🐍
29 дн. назад
В ответ Нозанин Гафурова ей на Публикация
прикольно про технологии они и правда иногда странно себя ведут насчет хищников змея да жуткая штука но кобра или мамба еще страшнее