XAI v MedTech

(Ferdinand Biere) (říjen 5, 2020)

Digitalizace ve zdravotnictví

„Proces zpětného sledování řetězy infekcí se často stále prováděly perem a papírem. “

Globální pandemie COVID-19 odhalila neúčinnost v mnoha, ne-li ve většině průmyslových odvětvích.

Navzdory skutečnosti, že Německo zvládl situaci s relativním úspěchem, byli jsme konfrontováni s krutou realitou, že status quo nemusí vždy vést do světlé budoucnosti. To platí i v oblasti zdravotní péče.

Jasné příklady výše zmíněných neefektivních procesů lze vidět v částech německého systému veřejné zdravotní péče. Doposud nebylo nutné zvyšovat účinnost při zvládání ohnisek, protože nikdy nedošlo k více než několika desítkám případů současně. To se změnilo na začátku roku, kdy globální komunita čelila novému viru SARS-CoV-2. Proces sledování zpětných řetězců infekcí se často stále prováděl perem a papírem a poté se faxem přenášel mezi regionálními správními úřady. Jedním ze způsobů řešení problému rychle rostoucího počtu infekcí bylo najmout více zaměstnanců, ale ukázalo se to jako obtížný úkol.

Podobně jako ve výše uvedeném případě v sektoru zdravotnictví existovalo mnohem více případů byrokratické nebo zdlouhavé opakující se práce a ne všechny lze digitalizovat tak snadno, jako jsme to udělali s quarano v předchozím scénáři. Umělá inteligence, konkrétně hluboké učení spojené s cenovou deflací výpočetní síly, má nyní více než kdy dříve potenciál automatizovat úkoly s vysokou inherentní složitostí.

Projekt rakoviny IBM je skvělým příkladem toho: ( https://www.research.ibm.com/cancer/ ), kde již roky pracují na aplikaci algoritmů rozpoznávání obrazu na onkologická data. Dalším významným příkladem úspěšného zavedení AI do praxe v medicíně je ADA ( https://ada.com/de/ ), pohodlná aplikace pro smartphone

Šíření relevance po vrstvách

Boční Poznámka: Vysvětlitelná umělá inteligence, zkráceně XAI, je zastřešením metod a technik, jejichž cílem je, jak název napovídá, demystifikovat vnitřní fungování modelů strojového učení. To pomáhá například snížit riziko náhodných předsudků nebo chyb, ke kterým může dojít při použití modelu ve výrobě.

Šíření relevance po vrstvách je nová metoda v rámci Explainable Artificial Intelligence (XAI) ), který v podstatě obrací matematiku odpovědnou za vytváření předpovědí, a proto umožňuje pochopit důvody, které stojí za rozhodovacím procesem Neuronových sítí.

Naproti tomu se „tradiční“ algoritmy Deep Learning označují jako černá skříňka . To znamená, že kromě predikce nejsou vráceny žádné další informace a při aplikaci systému v reálném světě je nutná slepá důvěra. V jiných méně kritických odvětvích to nepředstavuje tak bezprostřední hrozbu. Ve zdravotnictví se však zmeškaná chyba může ukázat jako fatální.

Přehled šíření relevance po vrstvách . Převzato z Layer-wise Relevance Propagation for Deep Neural Network Architectures od Binder et al.

Praktický příklad

Uveďte příklad toho, jak toto vysvětlitelnost může vypadat jako v terénu, lze si představit scénář, kdy je třeba číst mnoho vícestránkových lékařských dokumentů a na základě obsažených informací je třeba činit informovaná rozhodnutí. Z hlediska strojového učení by se to označovalo jako problém zpracování přirozeného jazyka (NLP). Společnost XAI by zavedla do řešení inteligentní zvýraznění, které umožňuje lékařským odborníkům nebo jiným odborníkům na doménu okamžitě odhalit chyby a ručně zasáhnout, přičemž bude stále využívat vynikající rychlost zpracování nabízenou automatizovaným systémem. To je mimo jiné právě teď jeden z našich hlavních projektů. Náš tým odborníků na AI v DeepMetis v současné době pracuje na ověření technické proveditelnosti šíření relevance po vrstvách v kontextu dolování dat pro lékařské studie. Další informace o našem výzkumu budou zveřejněny v budoucnu.

Náš koncept aplikuje LRP na data NLP .

Cesta vpřed

Přidání vysvětlitelnosti do strojového učení nabízí obrovský potenciál pro průmyslová odvětví, kde jsou klíčové jistota a ověření – zejména když život závisí na rozhodnutí. V současné době stále více organizací úspěšně zkoumá XAI v medicíně a zdravotní péči. My v DeepMetis věříme, že vysvětlitelné modely mají obrovský potenciál zmírnit nebo alespoň snížit rizika, která představují neprůhledné modely strojového učení ve všech doménách a průmyslových odvětvích.

Pokud se chcete dozvědět více o naší práci v DeepMetis podívejte se na náš blog ( https://deepmetis.com/blog ) nebo nás kontaktujte: [email protected]

Ferdinand je vysoký -tech R & D nadšenec a jeden ze spoluzakladatelů v DeepMetis ( www.deepmetis.com ), výzkumná společnost zaměřená na dopady AI a Quantum Computing se sídlem v Berlíně. Je také spoluiniciátorem a předsedou společnosti quarano ( www.quarano.de ), nevládní organizace poskytující software, který digitalizuje procesy ve veřejném zdravotnictví, v ve světle krize COVID-19.