MedTechのXAI

フェルディナンドビエール)(10月5、2020)

ヘルスケアのデジタル化

「トレースバックのプロセス感染の連鎖は依然としてペンと紙で行われることが多かった」

世界的なCOVID-19のパンデミックにより、ほとんどではないにしても多くの業界で非効率性が明らかになりました。

ドイツが比較的成功を収めて状況に対処してきましたが、現状が常に明るい未来につながるとは限らないという厳しい現実に直面しました。これは医療分野にも当てはまります。

前述の非効率的なプロセスの明確な例は、ドイツの公的医療制度の一部に見られます。これまで、同時に数十件を超えるケースが発生したことはなかったため、アウトブレイクの管理効率を高める必要はありませんでした。これは、グローバルコミュニティが新しいSARS-CoV-2-ウイルスに直面した年の初めに変わりました。感染の連鎖を追跡するプロセスは、依然としてペンと紙で行われ、その後、地域の医療管理事務所間でファックスで送信されました。感染数の急増という問題を解決する1つの方法は、スタッフを増やすことでしたが、これは困難な作業でした。

上記の場合と同様に、医療部門には官僚的または退屈な反復作業のインスタンスがさらに多く存在し、前のシナリオのquarano 。人工知能、特にディープラーニングと計算能力の価格低下を組み合わせることで、これまで以上に、固有の複雑性が高いタスクを自動化できる可能性があります。

IBMがんプロジェクトは、その好例です:( https://www.research.ibm.com/cancer/ )、腫瘍学データに画像認識アルゴリズムを適用することに長年取り組んできました。 AIを医学で成功裏に実践するもう1つの顕著な例は、便利なスマートフォンアプリであるADA( https://ada.com/de/ )です。

レイヤーごとの関連性の伝播

サイド注:説明可能な人工知能(略してXAI)は、名前が示すように、機械学習モデルの内部動作をわかりやすく説明することを目的とした方法と手法の包括的なものです。これは、たとえば、モデルが本番環境で使用されるときに偶発的なバイアスやエラーが発生するリスクを軽減するのに役立ちます。

レイヤーごとの関連性の伝播は、Explainable Artificial Intelligence(XAI)内の新しい手法です。 )、これは基本的に予測を行う責任のある数学を逆転させ、したがって神経ネットワークの意思決定プロセスの背後にある理由の理解を可能にします。

対照的に、「従来の」ディープラーニングアルゴリズムはブラックボックスモデル。これは、予測以外にそれ以上の情報が返されないことを意味し、現実の世界でシステムを適用する場合は白紙委任信託が必要です。他のそれほど重要ではない業界では、これはそのような差し迫った脅威を引き起こしません。ただし、ヘルスケアでは、エラーを見逃すと致命的となる可能性があります。

レイヤーごとの関連性の伝播の概要。 バインダーらによるディープニューラルネットワークアーキテクチャのレイヤーごとの関連性の伝播

実際の例

この方法の例を示す説明可能性は現場のように見える可能性があり、多くの複数ページの医療文書を読む必要があり、含まれる情報に基づいて情報に基づいた決定を行う必要があるシナリオを想像できます。機械学習の用語では、これは自然言語処理(NLP)問題と呼ばれます。 XAIは、ソリューションにスマートハイライトを導入します。これにより、医療専門家やその他の分野の専門家は、自動システムが提供する優れた処理速度を活用しながら、エラーを即座に発見して手動で介入できます。これは、とりわけ、現在の私たちの主要なプロジェクトの1つです。 DeepMetisのAI専門家チームは、現在、医学研究のためのデータマイニングのコンテキストで、レイヤーごとの関連性伝播の技術的実現可能性の検証に取り組んでいます。私たちの研究に関する詳細は、将来公開される予定です。

私たちのコンセプトは、NLPデータにLRPを適用します。

今後の方向性

機械学習に説明性を追加することで、確実性と検証が重要な業界、特に人生が決定に依存している業界に大きな可能性をもたらします。現在、ますます多くの組織が医学とヘルスケアにおけるXAIの調査に成功しています。 DeepMetisでは、説明可能なモデルが、すべてのドメインと業界にわたる不透明な機械学習モデルによって課せられるリスクを軽減、または少なくとも軽減する大きな可能性を秘めていると信じています。

詳細を知りたい場合DeepMetisでの作業については、ブログをご覧ください( https://deepmetis.com/blog )またはお問い合わせください: [email protected]

フェルディナンドは高いです-tech R & D愛好家であり、DeepMetisの共同創設者の1人( www.deepmetis.com )、ベルリンを拠点とするインパクト主導のAIおよび量子コンピューティングの調査会社。彼はまた、公的医療部門のプロセスをデジタル化するソフトウェアを提供するNGOであるquarano( www.quarano.de )の共同イニシエーター兼会長でもあります。 COVID-19危機の光。