Запитали ChatGPT про свій висновок МРТ? Що штучний інтелект уміє, а де помиляється — погляд радіолога

Ви вчинили абсолютно логічно. Текст написаний для лікаря, а стосується вас; поруч немає кому пояснити, а інструмент, який відповідає миттєво і не втомлюється від запитань, — під рукою. Проблема не в тому, що ви звернулися до штучного інтелекту. Проблема в тому, що в цього інструмента є цілком конкретні межі, про які він сам вас не попереджає.

Що штучний інтелект справді робить добре

Не варто вдавати, ніби користі немає. З кількома речами мовна модель справляється добре.

• Спрощує формулювання. «Осередкові зміни білої речовини судинного ґенезу» вона перекладе мовою, зрозумілою пацієнту, — і це чесна допомога.
• Пояснює загальне значення терміна. Що таке «інтенсивність сигналу», «контрастне підсилення», «артефакт», «без динаміки» — тут відповідь зазвичай правильна, бо це словникові поняття.
• Допомагає скласти питання до лікаря. Найкорисніший сценарій із усіх: попросити не діагноз, а список із пʼяти запитань, які варто поставити на прийомі.
• Знімає відчуття повної безпорадності. Коли чекати треба тиждень, можливість хоч трохи зрозуміти самому — це не дрібниця.

Але далі починається інше.

Головна межа: модель читає текст, а не ваші знімки

Це найважливіше речення в усьому матеріалі. Чат-бот бачить лише текст висновку — він не бачить самого дослідження.

Висновок — це стислий переказ. Рентгенолог переглядає сотні, а іноді тисячі зображень і формулює з них кілька абзаців. У ці абзаци не потрапляє майже нічого з того, на чому ґрунтувалося рішення: як саме виглядає структура, наскільки чіткі її межі, чи не є «зміна» просто артефактом руху, чи достатньої якості було саме дослідження.

Модель не має доступу ні до чого з цього. Вона також:

• не порівнює з вашими попередніми обстеженнями — а саме динаміка часто вирішує все: те, що не змінилося за три роки, і те, що зʼявилося за три місяці, — це різні історії;
• не знає ваших скарг: що болить, як довго, за яких обставин;
• не знає вашого анамнезу — перенесених операцій, травм, хронічних хвороб, ліків, які ви приймаєте;
• не бачить ваших аналізів.

Тобто вона працює з десятою частиною картини — і робить це впевнено.

Чому з цього виходять систематичні помилки

Помилки штучного інтелекту в цій темі не випадкові. Вони передбачувані й повторюються.

Категоризація за спеціалізованими шкалами ненадійна

Багато що в радіології описується стандартизованими системами: BI-RADS у мамографії, LI-RADS у печінці та інші. Це не просто слова — від категорії залежить тактика: спостерігати, повторити через пів року чи діяти зараз.

Саме тут точність мовних моделей виявляється низькою. За опублікованими даними, точність ChatGPT у категоризації за LI-RADS становила 44–53% — приблизно рівень підкидання монети. Для інструмента, від якого людина чекає визначеності, це погана арифметика.

Модель схильна пропонувати найгірший сценарій

Мовна модель відповідає тим, що найчастіше трапляється в текстах поруч із вашим формулюванням. А в медичних текстах слово «утворення» набагато частіше сусідить із серйозними діагнозами, ніж із фразою «варіант норми», — просто тому, що про рідкісне і тяжке пишуть багато, а про буденне не пишуть узагалі. Тому «не виключено» зʼявляється у відповіді легко, а слово, яке вас налякало, могло не мати жодного стосунку до вашого випадку.

Ймовірне і рідкісне звучать однаково

Лікар мислить категоріями частоти: у людини вашого віку з такою картиною це майже завжди одне й те саме, а страшний варіант трапляється в одиничних випадках. Модель перелічує можливості, не зважуючи їх. Формально вона не бреше. Практично — показує список, у якому найімовірніше і найстрашніше стоять поруч, як рівні.

Упевнений тон не залежить від правильності

Мовна модель не вміє звучати невпевнено там, де помиляється. Вона однаково спокійно і складно формулює і тоді, коли має рацію, і тоді, коли ні. У живого лікаря сумнів чути — і це важлива інформація, яку чат-бот вам не дасть.

Як користуватися штучним інтелектом безпечно

Ідеться не про «не гугліть», а про те, щоб користуватися інструментом за призначенням.

1. Питайте про значення слова, а не про прогноз. «Що означає термін X?» — хороше питання. «Чи є в мене рак?», «Чи потрібна операція?», «Скільки це небезпечно саме для мене?» — питання, на які ця програма відповісти не може, хоча відповість. 2. Не ухвалюйте рішень за відповіддю чат-бота. Ні скасовувати прийом, бо «ШІ сказав, що це дрібниця», ні починати щось приймати, бо «ШІ сказав, що це серйозно». 3. Використайте відповідь як чернетку питань. Найкращий результат нічного діалогу з ботом — не висновок, а короткий список того, що спитати на прийомі. 4. Бережіть свої медичні дані. Приберіть із тексту прізвище, дату народження, номер картки, назву закладу. Не завантажуйте знімки й документи у випадкові сайти та «безкоштовні розшифровщики»: ви не знаєте, де ці дані зберігаються, хто має до них доступ і чи не стануть вони частиною чужої бази.

Чого штучний інтелект зробити не може — і що робить лікар

Єдине, що по-справжньому закриває питання, — переглянути самі зображення. Це і є робота лікаря-рентгенолога.

Я відкриваю ваше дослідження заново, дивлюся всі серії, а не текст про них, зіставляю побачене з вашими скаргами та попередніми знімками, якщо вони є, і формулюю власний висновок: що там справді видно і наскільки це терміново. Що з цим робити далі — рішення, яке ви ухвалюєте разом зі своїм лікуючим лікарем.

Друга думка має сенс не лише через тривогу. За даними досліджень, під час повторного прочитання нейро-МРТ розбіжності з первинним висновком трапляються приблизно у 30% випадків, і 12–13% із них суттєві — тобто такі, що змінюють тактику. Це не про «спіймати когось на помилці». Це про складність самої роботи й про цінність незалежного погляду.

Другу думку варто отримати, якщо:

• у висновку є слово, якого ви не розумієте, а прийом ще нескоро;
• ви готуєтеся до операції або до серйозного лікування;
• два лікарі кажуть різне;
• дослідження зроблено в динаміці і треба зрозуміти, чи справді щось змінилося;
• вам потрібен висновок англійською для лікаря за кордоном.