Stanford проанализировали транскрипты пользователей, у которых общение с чатботами перерастало в бредовые спирали.
Исследование показывает, что чатботы могут превращать безобидную бредоподобную мысль в опасную навязчивую идею.
Остаётся открытым вопрос — вызывают ли модели эти делюзии или лишь усиливают предсуществующие склонности.

интересная тема. может, такие разговоры с чатботами просто отражают то, что уже есть в голове у человека. ну знаешь, как зеркало. а если человек и так склонен к странным идеям, бот может это только усиливать. что думаешь?