Чат-боты с искусственным интеллектом дают неправильную половину своих медицинских ответов

Чат-боты с искусственным интеллектом давали неточные ответы на вопросы о медицине и здоровье чуть менее чем в 50 % случаев. Об этом говорится в исследовании, опубликованном в медицинском журнале BMJ Open.

Лучше всего боты показали себя в вопросах вакцинации и рака, а хуже всего — в вопросах питания. Отвечать отказались только в двух случаях из 250. Ни один ИИ не смог предоставить правильный список источников — боты их просто выдумали. Сложность ответов была на уровне текстов для студентов второго курса.

Авторы исследования приходят к выводу, что чат-боты плохо работают в областях, подверженных распространению дезинформации. Без государственного просвещения и надзора их использование может усилить дезинформацию. ИИ может быть полезным инструментом, но полагаться на него для здоровья без консультации с врачом по-прежнему опасно.