Думка: Chatbots перетворюються на основних лікарів людей – вражаюче, але ризиковано

Ми стрімко переходимо від доктора Google до доктора Chatbot. У серпні OpenAI повідомили про понад 200 мільйонів активних користувачів щотижня, і хоча найпопулярніші запити користувачів стосуються письма та кодування, деякі використовують їх для більш особистих питань, від порад щодо знайомств до рекомендацій по догляду за шкірою та діагностики хвороб.

Недавнє дослідження показало, що AI-чатботи перевершили лікарів за точністю діагностики. Але чи можемо ми дійсно довіряти AI у ролі наших лікарів?

Так само, як і діапазон тем, про які люди дізнаються, розширився, так само і стурбованість щодо ризиків та небезпеки, пов’язаних з використанням ШІ в медичній галузі, також викликала тривогу – включаючи ті, які стосуються питань життя і смерті.

Доктор Чатбот стає вірусним через його “дива”

Кілька днів тому жінка стала вірусною на Reddit, оскільки вона розповіла, як ChatGPT допоміг їй поліпшити свою шкіру краще, ніж дерматолог, з вражаючими зображеннями до і після.

37-річна жінка-кауказійка використала ChatGPT для створення персоналізованої рутини догляду за шкірою для лікування її закритих комедонів, і це справді їй допомогло! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 листопада 2024

“Потім я дала ChatGPT завдання виступити як професійний дерматолог і допомогти мені скласти рутину догляду за шкірою, яка допоможе позбутися моїх закритих комедонів, акне, зменшити пори, зміцнити шкіру і зменшити тонкі лінії. Я також дала йому фотографії моєї шкіри на той час”, – написала вона, а потім пояснила, що попросила чат-бота врахувати всі продукти, які вона вже мала, і запропонувати нові з рутинним доглядом за шкірою.

Пройшло два місяці, і користувачка Reddit була вражена поліпшенням стану своєї шкіри.

Це не єдиний випадок. Багато користувачів розповідали, як чат-боти змогли краще за їхніх лікарів розуміти та пояснювати рентгенівські знімки та аналізи крові. Навіть лікарі були вражені аналізом зображень та даних, які інтерпретував штучний інтелект.

Чому люди використовують чат-ботів як лікарів?

ШІ може перетворитися на професіонала, якого ви потребуєте – терапевта, психотерапевта, дерматолога, дієтолога, радіолога – коли вам це потрібно, і є багато причин, чому люди вибирають ШІ замість людей.

Спеціалісти можуть бути дорогими

Жінка із шкірним захворюванням розповіла, що витратила близько 400 доларів на придбання продуктів, які запропонував чат-бот.

“Це була досить серйозна інвестиція, але коли я думаю про те, скільки б коштувала консультація з дерматологом, то це навіть не так погано,” – написала вона.

Згідно з BetterCare, у 2024 році пацієнту без медичного страхування в Сполучених Штатах доведеться заплатити близько $150 за візит до дерматолога та до $1000 за лікування. А середня вартість сеансу психотерапії – ще одного популярного застосування для інструментів штучного інтелекту – коливається від $100 до $200 за сеанс, згідно з Forbes Health.

AI-чатботи є дешевішими альтернативами і можуть бути сприйняті як єдиний вибір, особливо для людей із низьким доходом.

Звичайно, виникає ще одне питання: якщо щось піде не так, чи дійсно це заходи з економії коштів?

Швидше і зручніше

Нещодавно у мене з’явився висип на руці. Незважаючи на те, що я бачила диво-запис про шкіру тієї жінки, я вирішила проконсультуватися з дерматологом в Іспанії. Найближчий доступний термін прийому був лише через три місяці, навіть з приватною медичною страховкою. Я щаслива, що це, схоже, просто сухість, яка мене не турбує, і, сподіваюся, вона зникне до того часу, коли лікар зможе мене прийняти.

Терміни медичного обслуговування залежать від міста та плану страхування пацієнта. Однак візит до спеціалістів і навіть до загальних лікарів у багатьох частинах світу став випробуванням на терпіння.

Чат-боти не лише буквально на відстані нашої руки, але й можуть аналізувати наші запити та відповідати за кілька секунд.

Менше незручностей

У мене є подруга-лікар, до якої я можу звернутися, коли мені потрібна медична консультація, але те, що вона моя подруга, іноді робить це незручним. Перед тим, як написати їй, я завжди питаю себе: чи встигла я недавно з нею поспілкуватися? Вона чудова людина та відмінний професіонал, і я впевнена, що вона ніколи не відмовиться відповісти на мої медичні питання. Але, з людини на людину, я не можу не перейматися її почуттями.

Однією з переваг штучного інтелекту є його власний штучний стан. Він не має почуттів або поганих днів, він не буде засуджувати вас або говорити вам “Перестань бути таким іпохондриком” (не те, щоб мій друг коли-небудь це мені казав), тому що вони навчені бути ввічливими та відповідати на всі наші питання з усіма інформаціями, які ми хочемо. Це частина того, що робить технологію звиканням, і, мабуть, тому багато хто надає перевагу задавати незручні питання в “приватності” своїх смартфонів.

Ризики та небезпеки, пов’язані з використанням чат-ботів

Все здається крутим та веселим, поки ми не зупинимося, щоб подумати про ризики та виклики, з якими стикаються ШІ та людство.

Неправильна підказка, неправильне закляття

У тому дослідженні, де штучний інтелект перевершив лікарів, було зроблено важливий висновок: група лікарів, яким дозволили використовувати штучний інтелект як союзника для діагнозування, не виконували значно краще, ніж ті, хто не міг використовувати його. Чому? Ну, частина проблеми полягала в тому, що вони не знали, як написати правильні запити, щоб отримати максимум від штучного інтелекту.

“Вони сприймали його як пошуковий двигун для конкретних питань: ‘Чи є цирроз фактором ризику для раку? Які можливі діагнози для болю в очах?'” – сказав доктор Джонатан Чен, один з авторів дослідження, the New York Times.

Це одна з проблем, з якою стикаються багато користувачів та технології штучного інтелекту. Чат-боти добре справляються з діагностикою, але багато симптомів потребують індивідуального аналізу. Що, якщо людина не надає чат-боту правильний контекст? Або забуває включити важливі деталі або умови, які справжній лікар перед пацієнтом не пропустив би?

Неточність та галюцинації

Чат-боти – це професійні всезнайки, і іноді вони кажуть неправильні речі з великою впевненістю. І ми це купуємо. І користувачі, які щодня покладаються на технологію, все більше і більше їй довіряють.

Важко забути той час – у травні – коли Google Gemini радив користувачам додати “приблизно ⅛ чашки нетоксичного клею до соусу, щоб зробити його липкішим” до піци.

Це було смішно, адже ми могли відразу помітити галюцинацію – цей вишуканий термін для опису ситуації, коли штучний інтелект дає абсурдні відповіді. Але що, якщо йдеться про більш складну тему, що якщо людина, яка читає відповідь штучного інтелекту, налякана, самотня і турбується про своє здоров’я?

Навіть якщо штучний інтелект стає все кращим з місяця в місяць, можливість помилки все ще існує.

Хто винний, якщо щось пішло не так?

Етичне обговорення – це гаряча тема в даний час. Якщо чат-бот надає неправильний діагноз або погану пораду, хто винен? Розробники, модель, компанія AI, джерела, які навчили цю модель?

Трагічний випадок, який стався кілька тижнів тому, викликав загальну тривогу, коли американська мати звинуватила штучний інтелект у смерті свого 14-річного сина та подала позов проти стартапу Character.ai, платформи для створення AI персонажів. Підліток страждав від депресії та став одержимий технологією. Його аватар, Дейнеріс Таргарієн, обговорив з ним план свого вбивства та навіть заохочував його це зробити.

Хоча штучний інтелект вважається Всесвітнім економічним форумом потужним інструментом для подолання кризи у галузі психічного здоров’я у всьому світі та зменшення зростаючої кількості випадків тривоги та депресії, він також може бути небезпечним, особливо для дітей.

Робіть це “на власний ризик”

Хоча йому ще потрібно вдосконалитися, я люблю думати, що штучний інтелект має великий потенціал для скорочення часу очікування в охороні здоров’я – як для візитів до спеціалістів, так і для надання допомоги в екстрених випадках – для прискорення наукових досягнень, а також для підтримки лікарів, особливо тих, кого пригнічує велике навантаження та низька заробітна плата, що часто трапляється в країнах Латинської Америки. Він може допомагати пацієнтам з базовими питаннями вдома.

Він також може допомогти зменшити розриви в доступі до медичної допомоги між різними соціальними класами, прокладаючи шлях до демократизації медицини, якої ніколи не було раніше. Все це тепер у нашому розпорядженні, всього лише запит від будь-кого, у кого є доступ до смартфона.

Проте важливо розуміти, що ми все ще в початковій стадії, і ми маємо захистити найбільш вразливе населення. Будь-хто, хто вирішує використовувати Dr. Chatbot для покращення свого здоров’я сьогодні, повинен це робити, розуміючи всі дрібниці умов та положень, з критичним мисленням, і з усвідомленням того, що -поки що- вони беруть на себе відповідальність за всі можливі ризики.