2630
Штучний інтелект демонструє відчутне комерційне упередження під час вибору медичних препаратів, йдеться в дослідженні, опублікованому в журналі Nature Health. Його провели науковці з Міського університету Осаки. Виявилося, що цифрові помічники віддають перевагу ліками з гучною медійною присутністю та високими позиціями в пошукових системах, а не оцінюють їхню реальну клінічну ефективність.
Чому алгоритми ігнорують дешеві аналоги
Для роботи науковці проаналізували приблизно 883 000 відповідей п’яти передових моделей штучного інтелекту. Серед них були Claude Sonnet 4.6 від Anthropic, GPT-5.4 від OpenAI, Gemini 3.1 Flash від Google, Llama 4 від Meta та MedGemma від Google DeepMind. Усі ці системи отримували запитання щодо тисяч змодельованих клінічних ситуацій, тобто умовних випадків, які дозволяли перевірити, як алгоритми підбирають ліки.
Результати виявилися показовими. У 97,5% випадків алгоритми ставили на перше місце лише один комерційний бренд і повністю відкидали аналоги, які мають такий самий склад, але значно дешевші. Тобто з кількох препаратів, що містять ідентичні діючі речовини, перевагу отримував той, який краще відомий широкій аудиторії.
Водночас поради штучного інтелекту збігалися з реальними лікарськими призначеннями лише у 29,7% відповідей. Ця цифра показує, наскільки далеко відповіді чат-ботів можуть відійти від того, що фактично обрав би фахівець для конкретного пацієнта.
Провідний дослідник проєкту професор Дайдзю Уеда прокоментував ситуацію так: «Рекомендації стосувалися переважно брендових ліків – тих, які дуже помітні в пошуку Google і мають окремі сторінки у Вікіпедії». Саме ця залежність від видимості в інтернеті, а не від клінічної користі, стала головною причиною упередження, яке виявили автори роботи.
Фінансовий удар по пацієнтах
Тяжіння штучного інтелекту до препаратів з високою впізнаваністю в мережі безпосередньо впливає на гаманці споживачів. Порівняно зі стандартними рецептами від реальних медиків чат-боти обирали найдорожчі варіанти з наявних на ринку у 74,5% випадків. Для людини, яка шукає пораду в такому помічнику і купує ліки за його рекомендацією, це може означати суттєво більші витрати без додаткової користі для здоров’я.
Тому технології наразі не можуть замінити клінічний досвід лікарів і потребують жорсткого регуляторного контролю. Дослідники наголошують, що медичний штучний інтелект необхідно ретельно перевіряти на комерційні перекоси. На їхню думку, безпечне застосування алгоритмів можливе лише в поєднанні з перевіреними медичними базами даних і обов’язковим наглядом з боку фахівців. Адже йдеться про сферу, де помилки в доборі препаратів можуть коштувати пацієнтам здоров’я та грошей.
Джерело: 24tv.ua
