Искусственный интеллект давал опасные рекомендации больным раком

Суперкомпьютер IBM Watson, который после ряда экспертиз получил похвалу за эффективный подбор способов лечения раковых заболеваний, все же может допускать ошибки. К такому выводу пришли медицинские эксперты, проанализировав данные о рекомендациях пациентам. Оказалось, что машина ошибается достаточно регулярно, и иногда эти ошибки могут быть фатальными для больного.

В качестве одного из примеров приводят ситуацию с 65-летним мужчиной, которому ИИ назначил препарат, способный в некоторых случаях вызвать неконтролируемое кровотечение. У пациента в диагностической карте был указан этот момент, однако искусственный интеллект к сведению информацию не принял.

Проблема, считают эксперты, в том, что инженеры-врачи, ответственные за обучение ИИ, «скормили» ему информацию о гипотетических пациентах, а не реальных случаях. В итоге некоторые специалисты, не сдерживаясь в обратной связи с IBM, называли суперкомпьютер «куском **** [фекалий]».

Несмотря на все сложности, рекомендации ИИ продолжают применять на практике, хоть врачи и не используют их без оглядки. А в IBM прекрасно осведомлены, что систему необходимо дорабатывать.