Исследователи выяснили, что десятки моделей ИИ для прогнозирования болезней (инсульт, диабет) были обучены на сомнительных открытых наборах данных с признаками фальсификации. Некоторые такие модели уже применялись в клиниках и публичных инструментах, что повышает риск ошибочных медицинских решений. Учёные требуют обязательного раскрытия происхождения данных и удаления проблемных наборов.

это серьезно настораживает и ставит под сомнение безопасность использования таких моделей в медицине все-таки здоровье людей на кону

что думаете по этому поводу?

это действительно вызывает беспокойство учитывая важность точных данных для здоровья людей раскрытие источников данных — правильный шаг