XAI in MedTech (Polski)

(Ferdinand Biere) (październik 5, 2020)

Digitalizacja w służbie zdrowia

„Proces śledzenia wstecz łańcuchy infekcji często były nadal wykonywane przy użyciu pióra i papieru ”

Globalna pandemia COVID-19 ujawniła nieefektywność w wielu, jeśli nie w większości branż.

Pomimo faktu, że Niemcy poradził sobie z tą sytuacją ze względnym sukcesem, stanęliśmy wobec trudnej rzeczywistości, że status quo nie zawsze może prowadzić do świetlanej przyszłości. Dotyczy to również sektora opieki zdrowotnej.

Wyraźne przykłady wyżej wymienionych nieefektywnych procesów można zobaczyć w niektórych częściach niemieckiego publicznego systemu opieki zdrowotnej. Do tej pory nie było potrzeby zwiększania efektywności zarządzania epidemiami, ponieważ nigdy nie było więcej niż kilkadziesiąt przypadków jednocześnie. Zmieniło się to na początku roku, kiedy globalna społeczność stanęła przed nowym wirusem SARS-CoV-2. Proces śledzenia wstecznego łańcucha infekcji często był nadal wykonywany za pomocą pióra i papieru, a następnie przesyłany faksem między regionalnymi placówkami służby zdrowia. Jednym ze sposobów rozwiązania problemu szybko rosnącej liczby infekcji było zatrudnienie większej liczby pracowników, ale okazało się to trudnym zadaniem.

Podobnie jak w wyżej wymienionym przypadku, w sektorze opieki zdrowotnej istniało o wiele więcej przypadków biurokratycznej lub żmudnej, powtarzalnej pracy i nie wszystkie z nich można zdigitalizować tak łatwo, jak w przypadku quarano w poprzednim scenariuszu. Sztuczna inteligencja, szczególnie głębokie uczenie w połączeniu z obniżeniem cen mocy obliczeniowej, teraz bardziej niż kiedykolwiek wcześniej ma potencjał automatyzacji zadań o dużej wrodzonej złożoności.

Projekt raka IBM jest doskonałym tego przykładem: ( https://www.research.ibm.com/cancer/ ), gdzie od lat pracują nad zastosowaniem algorytmów rozpoznawania obrazu na danych onkologicznych. Innym ważnym przykładem pomyślnego zastosowania sztucznej inteligencji w medycynie jest ADA ( https://ada.com/de/ ), wygodna aplikacja na smartfony

Propagacja trafności według warstw

Strona Uwaga: Sztuczna inteligencja do wyjaśnienia, w skrócie XAI, to zbiór metod i technik, które mają na celu, jak sama nazwa wskazuje, zdemistyfikowanie wewnętrznego działania modeli uczenia maszynowego. Pomaga to na przykład zmniejszyć ryzyko przypadkowych odchyleń lub błędów występujących, gdy model jest używany w produkcji.

Warstwowa propagacja trafności jest nową techniką w ramach wyjaśniającej sztucznej inteligencji (XAI ), co w zasadzie odwraca matematykę odpowiedzialną za przewidywanie, a tym samym pozwala zrozumieć uzasadnienie procesu podejmowania decyzji w sieciach neuronowych.

W przeciwieństwie do „tradycyjnych” algorytmów uczenia głębokiego określa się je jako modele czarnej skrzynki . Oznacza to, że poza prognozą nie są zwracane żadne dalsze informacje, a zastosowanie systemu w świecie rzeczywistym wymaga ślepego zaufania. W innych mniej krytycznych branżach nie stanowi to tak bezpośredniego zagrożenia. Jednak w służbie zdrowia pominięty błąd może okazać się fatalny.

Omówienie propagacji trafności warstwowej . Zaczerpnięte z Layer-wise Relevance Propagation for Deep Neural Network Architectures by Binder i in.

Praktyczny przykład

Aby podać przykład, jak to Możliwość wyjaśnienia może wyglądać jak w terenie, można sobie wyobrazić scenariusz, w którym trzeba przeczytać wiele wielostronicowych dokumentów medycznych i podejmować świadome decyzje na podstawie zawartych w nich informacji. W terminologii uczenia maszynowego byłoby to określane jako problem przetwarzania języka naturalnego (NLP). XAI wprowadziłoby inteligentne podświetlanie do rozwiązania, które umożliwia lekarzom lub innym ekspertom w danej dziedzinie natychmiastowe wykrywanie błędów i interwencję ręczną, jednocześnie korzystając z najwyższej szybkości przetwarzania oferowanej przez zautomatyzowany system. To między innymi jeden z naszych głównych projektów w tej chwili. Nasz zespół ekspertów AI w DeepMetis pracuje obecnie nad weryfikacją technicznej wykonalności propagacji istotności warstw w kontekście eksploracji danych do badań medycznych. Więcej informacji na temat naszych badań zostanie opublikowanych w przyszłości.

Nasza koncepcja dotyczy LRP na danych NLP .

Droga naprzód

Dodanie możliwości wyjaśnienia do uczenia maszynowego daje ogromny potencjał branżom, w których pewność i weryfikacja są kluczowe – zwłaszcza gdy życie zależy od podjętej decyzji. Obecnie coraz więcej organizacji z powodzeniem bada XAI w medycynie i opiece zdrowotnej. W DeepMetis wierzymy, że możliwe do wyjaśnienia modele mają ogromny potencjał, aby złagodzić lub przynajmniej zmniejszyć ryzyko związane z nieprzejrzystymi modelami uczenia maszynowego we wszystkich dziedzinach i branżach.

Jeśli chcesz dowiedzieć się więcej o naszej pracy w DeepMetis zapraszamy na naszego bloga ( https://deepmetis.com/blog ) lub skontaktuj się z nami: [email protected]

Ferdinand to wysoki -tech R & entuzjasta D i jeden ze współzałożycieli DeepMetis ( www.deepmetis.com ), ukierunkowana na wpływ firma badawcza zajmująca się sztuczną inteligencją i obliczeniami kwantowymi z siedzibą w Berlinie. Jest także współinicjatorem i prezesem quarano ( www.quarano.de ), organizacji pozarządowej dostarczającej oprogramowanie, które digitalizuje procesy w publicznym sektorze opieki zdrowotnej w światło kryzysu COVID-19.