Науковці Оксфордського університету виявили, що чат-боти на основі штучного інтелекту надають неточні та суперечливі рекомендації щодо здоров'я, які загрожують безпеці пацієнтів. Дослідження підкреслює, що нездатність моделей правильно інтерпретувати неповну інформацію від користувачів робить самодіагностику через ШІ вкрай ризикованою. Про це пише УНН.
Деталі
Експеримент за участю 1300 осіб показав, що результати взаємодії з ШІ критично залежать від формулювання запитань. Користувачам пропонували оцінити симптоми, як-от сильний головний біль або виснаження, проте чат-боти часто видавали перелік діагнозів, з-поміж яких людині доводилося вибирати навмання. Доктор Адам Махді, старший автор дослідження, зазначив у коментарі для BBC: "Коли штучний інтелект перерахував три можливі умови, людям залишали здогадуватися, яка з них може підійти. Саме тоді все й розвалиться".
Антидепресанти без міфів: що це за ліки, кому вони справді потрібні і чому їх не варто боятися09.02.26, 17:20 • 16050 переглядiв
Провідна лікарка дослідження доктор Ребекка Пейн назвала практику консультування з ШІ "небезпечною". Вона пояснила, що користувачі зазвичай діляться інформацією поступово і можуть пропускати ключові деталі, які професійний медик виявив би під час очного огляду. У підсумку люди, які використовували ШІ, отримували суміш корисних і шкідливих порад, що ускладнювало прийняття рішення про необхідність візиту до сімейного лікаря чи невідкладної допомоги.
Упередженість алгоритмів та перспективи галузі
Окрім технічних помилок, фахівці вказують на системні недоліки технології. Докторка Ембер В. Чайлдс із Єльського університету наголосила, що ШІ навчається на медичних даних, які вже містять десятилітні упередження.
Чат-бот є настільки ж хорошим діагностом, наскільки хорошими є досвідчені клініцисти, що також не ідеально
– додала вона.
Це створює додатковий ризик повторення помилок, закладених у сучасну медичну практику.
Комп’ютерні окуляри: реальний захист чи вдалий маркетинг06.02.26, 18:00 • 51606 переглядiв
Попри критику, експерти бачать потенціал у спеціалізованих моделях. Доктор Берталан Меско зауважив, що нові версії чат-ботів від OpenAI та Anthropic, розроблені саме для сфери охорони здоров'я, можуть показати кращі результати. Проте ключовою умовою безпеки залишається впровадження чітких національних правил, регуляторних бар’єрів та офіційних медичних рекомендацій для вдосконалення таких систем.
Психоделік 5-MeO-DMT відтворює стан глибокої медитації: результати нейробіологічного дослідження06.02.26, 12:25 • 2496 переглядiв