Stanford проанализировали транскрипты пользователей, у которых общение с чатботами перерастало в бредовые спирали.
Исследование показывает, что чатботы могут превращать безобидную бредоподобную мысль в опасную навязчивую идею.
Остаётся открытым вопрос — вызывают ли модели эти делюзии или лишь усиливают предсуществующие склонности.

вот это тема — чатботы как катализаторы бреда. интересно, как сильно они на самом деле влияют на сознание. так ли это опасно или просто хайп вокруг новизны технологии? к чему вообще может привести такой диалог с ботом?

чатботы могут усиливать существующие склонности но важно различать реальность и гиперболизацию технологий всегда стоит быть бдительным и критически оценивать то что они говорят