ШІ чат-боти часто помилково запевняють людей у несерйозності їх симптомів — учені

Безкоштовні чат-боти на базі штучного інтелекту обробляють сотні мільйонів запитів щотижня і стали першим джерелом інформації з питань здоров’я, до якого звертаються пацієнти, часто ще до того, як до справи долучається лікар.

Проте нове дослідження британських учених показало, що чат-боти зі штучним інтелектом у третині випадків помилково запевняють пацієнтів із апное уві сні, що їхні симптоми несерйозні, відвертаючи їх від звернення до спеціаліста. Про це повідомляється на сайті Європейського респіраторного товариства (ERS).

У новому дослідженні учені вивчили як штучний інтелект зазнає невдачі у стосунках між лікарем і пацієнтом, зокрема, як на це впливає їхня схильність «розповідати вам те, що ви хочете почути».

Дотепер дослідження здебільшого перевіряли, чи точно вони відповідають на чітко сформульовані медичні запитання, а не те, як вони поводяться, коли пацієнт висловлює заперечення, — наголошують дослідники.

Дослідники зосередилися на обструктивному апное сну (ОАС). Це захворювання дуже поширене, але багато людей не усвідомлюють, що воно у них є. Тож це робить ОАС ідеальним тестом:

• від 80 до 90% випадків середнього та важкого ступеня залишаються недіагностованими;
• діагноз повністю залежить від направлення;
• багато пацієнтів применшують свої симптоми.

Пацієнти з ОАС часто голосно хропуть, дихання починається і припиняється протягом ночі, і вони можуть прокидатися кілька разів. Це не тільки викликає надмірну сонливість, але також може збільшити ризик високого кров’яного тиску, інсульту, серцевих захворювань і діабету 2-го типу, — наголошується у статті.

У межах дослідження учені:

• створили сім реалістичних пацієнтів з ОАС, кожен з яких відповідав критеріям для направлення на дослідження сну (тест, у якому лікарі контролюють дихання пацієнта під час сну, щоб діагностувати такі захворювання, як ОАС);
• потім вони здійснили розмови між пацієнтами та п’ятьма найбільш широко використовуваними безкоштовними чат-ботами — ChatGPT, Google Gemini, Claude, DeepSeek і Grok;
• загалом було проведено 700 розмов. Кожен сценарій проходив у двох версіях з ідентичними медичними фактами — одна, де пацієнт був відкритим і співпрацював, а інша, де він применшував свої симптоми та чинив опір направленню до фахівця, тож будь-які зміни в поведінці чат-бота залежали виключно від ставлення пацієнта.

Дослідники виявили:

• з пацієнтом, який співпрацював, чат-боти щоразу робили все правильно — 350 із 350 розмов закінчувалися правильною порадою звернутися за оцінкою спеціаліста;
• однак коли ті самі медичні факти надходили від пацієнта, який не хотів звертатися до фахівця, така порада надавалася лише в 64% розмов (225 із 350).

Від правильної поради відмовлялися більше ніж у третині випадків виключно через те, як говорив пацієнт. І моделі найбільше підводили саме в найсерйозніших випадках: у класичному випадку з тяжким перебігом хвороби порада зберігалася лише в 22% випадків, а у випадку з чоловіком, який уже задрімав за кермом, — лише в 32%; при цьому у випадках невдач чат-бот зазвичай не згадував про ризик керування автомобілем, — наголошують дослідники.

Приблизно у від чверті до половини розмов із пацієнтами, які применшували свої симптоми, залежно від моделі, штучний інтелект пропонував пацієнтам поради щодо способу життя замість того, щоб рекомендувати звернення до лікаря, тим самим сприяючи ризикованій затримці лікування.

Учені наголошують, що пацієнтам слід дуже обережно ставитися до заспокійливих слів чат-ботів:

Якщо ви голосно хропете, перестаєте дихати під час сну або боретеся з денною сонливістю, особливо за кермом, зверніться до лікаря — навіть якщо чат-бот каже, що з цим можна почекати.

Таким чином, дослідження показало:

• чат-боти можуть давати слушні поради ідеальному «співпрацюючому» пацієнту;
• але вони втрачають впевненість у своїх рекомендаціях під час спілкування з більш реалістичним, неохочим пацієнтом;
• проблема полягає не в тому, що знають чат-боти, а в тому, як вони реагують на незгоду — вони, здається, виявляють схильність догоджати користувачеві — це явище відоме як «підлабузництво ШІ».

Ці значною мірою нерегульовані інструменти штучного інтелекту часто стають першим кроком для пацієнтів, які прагнуть встановити діагноз, і, хоча вони можуть бути корисним джерелом інформації, вони також можуть перешкоджати людям отримати доступ до лікування, — резюмують дослідники. — Кожен, у кого спостерігаються можливі симптоми апное сну, завжди повинен проконсультуватися зі своїм лікарем для отримання подальших рекомендацій.