Розроблена в Лозанні структура документує дані, код та оцінки, щоб зробити використання мовних моделей в охороні здоров'я більш перевіреним.

Охорона здоров'я є однією з галузей, де впровадженняштучний інтелект та великі дані Це відбувається з більшою обережністю не через брак інтересу, а тому, що помилка має прямі наслідки для людей. Моделі великих мов вже використовуються або тестуються для підтримки роботи лікарів: вони можуть допомогти в постановці діагнозу, узагальненні клінічної документації, пропонуванні пріоритетів або прийнятті рішень у відділеннях невідкладної допомоги. Однак критичним моментом залишається можливість перевірки. Якщо система видає рекомендацію, не надаючи доступ до своїх даних, методів та критеріїв навчання, незалежний контроль стає крихким.

Саме в цей момент він втручається МедітронФО, оголошенийПолітехнічний університет ЛозанниЗа даними Університету Во, це перший повністю відкритий фреймворк для будівництва лікарі з великою мовною моделлюАкцент робиться не лише на доступності кінцевої моделі, а й на всьому ланцюжку розробки: даних, коді, процедурах навчання, документації та оцінках. У регульованій, чутливій та професійно відповідальній галузі ця різниця не є незначною.

Проєкт народився у Лабораторія інтелектуальних технологій глобальної охорони здоров'я та гуманітарного реагування, відомий як СВІТЛО, у Школі комп'ютерних та комунікаційних наук EPFL. Технічною основою є відкрита модель, яка вже використовується Meditron, випущена у 2023 році, але представлена ​​зараз еволюція має на меті зробити весь метод побудови більш прозорим. Заявлена ​​мета полягає в тому, щоб забезпечити «медикалізацію» базових відкритих моделей, тобто їх адаптацію до сфери охорони здоров'я за допомогою клінічних знань, задокументованих наборів даних та спеціальних процедур валідації.

Чому відкриття важить більше, ніж просто реліз моделі

У термінології штучного інтелекту слово «відкритий» часто використовується непослідовно. Модель може надавати ваги, але залишати набори даних, кроки фільтрації, варіанти навчання або протоколи оцінювання непрозорими. Для клінічного використання ця часткова відкритість створює проблему аудиту: лікарні, дослідники, органи влади та медична спільнота можуть бачити результати, але не завжди можуть реконструювати, як вони були отримані.

МедітронФО спроби подолати цю прогалину. Цей фреймворк був застосований до повністю відкритих базових моделей, включаючи В'яз, ЄвроLLM e ВІДЧИНЕНО, швейцарська модель, розроблена EPFL та ETH Zurich у рамках Швейцарської ініціативи зі штучного інтелекту. Цей крок є важливим, оскільки він зміщує фокус з ізольованої продуктивності на відстеження розвиткуУ медицині знання шляху, який система проходить до реакції, може бути таким же важливим, як і вимірювання точності самої реакції.

Ксав'є Таймер-Лієнхард, докторант, який очолює Meditron у LiGHT, підсумовує принцип за допомогою прямого порівняння клінічного навчання та модельного навчання.

«Ми ніколи не довірятимемо лікарю, чию підготовку неможливо перевірити: той самий стандарт має застосовуватися до штучного інтелекту в охороні здоров’я».

Це твердження уточнює аспект, який часто ігнорується в дебатах щодо генеративних систем: надійність не збігається з наявністю ефективного інтерфейсу. Натомість вона вимагає документації, відтворюваності та можливості контролю. Це питання також стосується безпека та конфіденційність, оскільки моделі охорони здоров’я обробляють знання та дані, які можуть межувати з конфіденційною інформацією, навіть якщо вони безпосередньо не містять ідентифікованих медичних записів.

Відкритий компонент сам по собі не усуває ризик упередженості, помилок або неправильного використання. Однак він зменшує одну з головних перешкод для незалежного аналізу. Іншими словами, він не гарантує автоматично клінічної безпеки, але робить роботу з перевірки, порівняння та вдосконалення більш конкретною.

Клініцисти, залучені до будівництва, а не лише до остаточного тестування

Відмінною особливістю проєкту є залучення медичних працівників з найперших етапів. За даними EPFL, MeditronFO було розроблено разом із клініцистами, які брали участь у відборі даних, валідації результатів та виявленні потенційних критичних проблем. Такий підхід знижує ризик розробки формально складних інструментів, які погано узгоджуються з повсякденною практикою.

Валідація також проходить через ПЕРЕМІСТИТИ, абревіатура від Massive Open Online Validation and Evaluations (Масова відкрита онлайн-валідація та оцінка), середовище, за допомогою якого клініцисти беруть участь в оцінці та постійному вдосконаленні моделей. Для технології, розробленої для взаємодії з реальною медициною, це вирішальний момент: завдання полягає не просто в тому, щоб правильно відповісти на запитання, а в тому, щоб зробити це в умовах, подібних до тих, у яких працює лікар, з обмеженнями в часі, неповною інформацією та операційними обов'язками.

Ця структура поєднує загальнодоступні медичні набори даних із синтетичними даними, перевіреними клініцистами, отриманими з медичних обстежень, рекомендацій та реальних випадків пацієнтів. Джерело EPFL також вказує на використання набору клінічних наборів даних, курованих експертами, зібраних з понад 46 000 клінічних рекомендаційЦе важливі дані, оскільки вони показують масштаб документації, яка використовується для спеціалізації моделей, але їх слід читати разом з питанням якості: в охороні здоров'я кількості включених знань недостатньо, якщо вона не супроводжується відбором, оглядом та контекстуалізацією.

Мері-Енн Гартлі, лікар і директор ,СВІТЛО пов'язує конкурентоспроможність моделей з активною роллю клініцистів та громад.

«Наші результати показують, що конкурентоспроможні медичні моделі можна побудувати за активної участі клініцистів та громад».

Цей зсув має організаційні наслідки. Медичний ШІ не представлений як інструмент, що застосовується до системи охорони здоров'я ззовні, а як програмна архітектура, яку потрібно розробляти разом із тими, хто знайомий з процедурами, повторюваними помилками, інституційними обмеженнями та відмінностями між контекстами. Для медичних технологічних компаній, університетських центрів та лікарень урок очевидний: перехід від центру ricerca і sviluppo Клінічна практика вимагає управління, а не лише обчислювальної потужності.

Технічні результати та роль високої обчислювальної потужності Швейцарії

Щодо продуктивності, EPFL повідомляє, що кожна модель MeditronFO перевершила відповідну базову модель. Найкращий результат, зазначений у прес-релізі, стосується Апертус-70Б-МедітронФО, що покращило результати медичних тестів 6,6 процентних пункти порівняно з базовою моделлю. Дані слід інтерпретувати з обережністю: бенчмарки корисні для порівняння технічних конфігурацій, але вони не замінюють клінічних оцінок у реальних умовах.

Промислова актуальність цієї справи також полягає в інфраструктурі, яка її підтримує. Розробку MeditronFO підтримували Швейцарська ініціатива зі штучного інтелекту, співпраця між EPFL, ETH Zurich та CSCS, Швейцарський національний центр суперкомп'ютерів. Згідно з веб-сайтом ініціативи, програму було запущено у грудні 2023 року, і в ній взяли участь понад 10 мільйонів годин роботи графічного процесора на суперкомп'ютері Alps, яким керує CSCS, та за фінансування від 20 мільйонів швейцарських франків Федеральним політехнічним доменом.

Ці цифри показують, чому конкуренція у сфері штучного інтелекту в охороні здоров'я полягає не лише в алгоритмах та наборах даних. Вона вимагає обчислювальної потужності, розподіленої експертизи, інфраструктури оцінки та критичної маси досліджень. Сама Швейцарська ініціатива зі штучного інтелекту стверджує, що отримує користь від внеску понад 800 дослідники, включені 70 професорів зосередилися на штучному інтелектіз більш ніж десяти академічних установ у ШвейцаріяУ цьому кварталі, штат Іллінойс суперкомп'ютер це не простий технічний прискорювач, а складова наукового суверенітету.

Зв'язок з Apertus також підкріплює цю інтерпретацію. На веб-сайті проєкту його описують як повністю відкриту базову модель для суверенного штучного інтелекту, розроблену Швейцарською ініціативою зі штучного інтелекту разом з EPFL, ETH Zurich та CSCS. Apertus стверджує про відкритість своїх ваг, даних, коду, методів та принципів вирівнювання. MeditronFO використовує цю базову модель як одну з моделей для спеціалізації в медичній галузі, демонструючи, як підхід до відкритості, спрямований на розвиток, може генерувати більш керовані вертикальні програми.

Від експериментів до палат, випробувальний полігон у Танзанії

Наступним кроком буде не просто порівняння нових моделей. За даними EPFL, команда готує клінічні випробування на кількох сайтах, від Швейцарія все Танзанія, щоб оцінити, як лікарі використовують штучний інтелект у реальних медичних умовах. У рамках випробувань буде відстежено, чи дотримуються клініцисти згенерованих рекомендацій, чи відхиляють їх, і як ці рішення впливають на догляд за пацієнтами.

Багаторічний проект, згаданий EPFL, під назвою МЕДИЧНЕ ВИКОРИСТАННЯ, також має на меті зрозуміти, чи може штучний інтелект допомогти покращити якість медичної допомоги, зменшивши кількість непотрібних процедур та втручань. Це делікатна сфера: система підтримки рішень може бути корисною, якщо вона покращує якість доступної інформації, але вона може стати проблематичною, якщо вона впроваджує автоматизацію або заохочує надмірну довіру до алгоритмічних рекомендацій.

Гартлі конкретно закликає до необхідності вимірювати ефект у шляхах лікування, а не лише в технічних тестах.

«Важливо отримувати реальний зворотний зв’язок, заснований на результатах лікування пацієнтів».

Клінічний ШІ буде більш надійним, коли його можна буде перевірити

Для сектору охорони здоров'я MeditronFO пропонує чіткий напрямок: клінічний ШІ буде більш надійним, коли його зможуть перевіряти, адаптувати та оцінювати незалежні спільноти. Для бізнесу це означає, що власницькі моделі доведеться відповідати зростаючим очікуванням прозорості. Для установ питання стосується здатності визначати правила, які розрізняють формальну та фактичну відкритість.

Нереалістично вважати, що всі медичні системи базуються на навчання за допомогою машини e глибоке навчання стати повністю відкритими. Однак цілком імовірно, що охорона здоров'я вимагатиме вищих стандартів документації, аудиту та підзвітності, особливо коли штучний інтелект входить у сфери прийняття рішень. У цьому сенсі MeditronFO не слід розглядати просто як нову модель, а як експеримент у технічному управлінні: він робить видимим те, що часто залишається прихованим за згенерованою відповіддю.

Отже, ключове питання полягає не в абстрактній обіцянці потужнішого штучного інтелекту. Йдеться про тип інфраструктури, яку системи охорони здоров'я, університети та регулятори мають намір прийняти. Якщо моделі стануть частиною клінічної практики, довіра має ґрунтуватися на перевірених елементах: походження даних, незалежні аудити, прозоро виміряна продуктивність та ідентифікована людська відповідальність. MeditronFO ставить ці елементи в центр обговорення, залишаючи клінічному випробуванню оцінку їхньої операційної життєздатності.

Відкриті вихідні коди Meditron: аудитовані робочі процеси штучного інтелекту для клінічних ступенів магістра права (LLM)

Ось три ідеї, які можуть вас зацікавити:

Від EPFL нова мультимодальна модель для більш гнучкого ШІ
Apertus — це швейцарський «відкритий штучний інтелект» для прозорішого майбутнього.
Передовий центр охорони здоров'я в Женеві, повністю заснований на штучному інтелекті