Wenn Mensch und Künstliche Intelligenz gemeinsam Diagnosen stellen

Angenommen, eine Software stellt die Diagnose einer schweren Krankheit wie beispielsweise Krebs, ohne die Entscheidung n?her zu erkl?ren. Vertrauen Menschen in dieser Situation dem Urteilsverm?gen einer Maschine? ?Maschinelle Lernverfahren helfen bei der Diagnose. Sind ihre Entscheidungen jedoch nicht nachvollziehbar für ?rzte und Patienten, sind die Ergebnisse mit Vorsicht zu genie?en und dürfen in vielen sicherheitskritischen Kontexten wie der Medizin auch nicht verwendet werden“, sagt Dr. Ute Schmid, Professorin für Angewandte Informatik, insbesondere Kognitive Systeme, an der Universit?t Bamberg. Seit September 2018 beteiligt sich ihre Forschergruppe an einem interdisziplin?ren und institutionsübergreifenden Projekt, das automatisierte Diagnosen anhand einiger Beispiele transparent machen soll. Der sogenannte ?Transparente Begleiter für Medizinische Anwendungen“ besteht aus zwei Prototypen: Ein Modell erkennt auf Videos Schmerz von Patienten, die ihr Empfinden selbst nicht mitteilen k?nnen, und erkl?rt die Einordnung. Ein weiterer Prototyp, der gerade entsteht, diagnostiziert nachvollziehbar Darmkrebs auf Basis von Bilddaten aus der Mikroskopie.

System lernt, Symptome zu erkennen und Diagnosen zu erkl?ren

Damit die Software sowohl eine Krankheit erkennen als auch die Entscheidung begründen kann, kombiniert das Forscherteam unterschiedliche informatische Methoden miteinander. Mithilfe von tiefen neuronalen Netzen (?Deep Learning“) k?nnen gro?e Mengen an Bildern klassifiziert werden. Allerdings geben solche Verfahren keine Auskunft darüber, wie sie zu der Entscheidung gelangt sind. Weitere Verfahren sehen in das tiefe neuronale Netz hinein und machen entscheidende Merkmale für den Menschen greifbar. Sie heben in den Bildern zum Beispiel auff?llige Stellen in dem betroffenen Darmgewebe hervor oder erkl?ren durch Texte, warum ein bestimmter Ausschnitt der Gewebestruktur unter dem Mikroskop als krankhaft klassifiziert wurde.

An der Entwicklung des ?Transparenten Begleiters für Medizinische Anwendungen“ sind verschiedene Forschergruppen beteiligt. Das Fraunhofer-Institut für Integrierte Schaltungen IIS aus Erlangen und das Fraunhofer Heinrich-Hertz Institut HHI aus Berlin erstellen ein Software-Programm mithilfe von ?Deep Learning“-Verfahren. Für die jeweiligen Anwendungsf?lle wird die Expertise des Pathologischen Instituts der Universit?t Erlangen unter Zusammenarbeit mit Prof. Dr. Arndt Hartmann sowie die Expertise der Professur für Physiologische 188bet亚洲体育备用_188体育平台-投注*官网 Bamberg, geleitet durch den Schmerzforscher Prof. Dr. Stefan Lautenbacher, einbezogen. ?Das Forschungsprojekt erfordert Wissen auf unterschiedlichen Gebieten“, schildert PD Dr.-Ing. Thomas Wittenberg vom Fraunhofer IIS, der das Gesamtprojekt koordiniert. ?Dank der interdisziplin?ren Zusammenarbeit ist es uns m?glich, Begleiter für verschiedene medizinische Experten zu entwickeln, die wichtige Kriterien wie Transparenz und Erkl?rbarkeit erfüllen und dabei gute Diagnose-Ergebnisse liefern.“

Transparente Begleiter unterstützen medizinische Arbeit

Hauptaufgabe des Bamberger Teams ist es, diejenige Komponente zu programmieren, die die Entscheidung der tiefen neuronalen Netze verst?ndlich erkl?rt. Die Forschenden nutzen insbesondere eine sogenannte ?Induktive Logische Programmierung“. Ihr Ziel ist, dass das System beispielsweise nicht nur meldet, eine Person empfinde Schmerzen. Zus?tzlich zeigt es auf einem Monitor an, warum es zu dieser Einsch?tzung kommt. Ein Text führt die Gründe auf: Die Augenbrauen der Person sind gesenkt, die Wangen erh?ht, die Augenlider zusammengezogen. Auf dem Bild werden die Gesichtspartien, die für die Entscheidung ausschlaggebend waren, durch Einf?rbungen und Pfeile markiert. Das System sch?tzt auch ab, wie sicher es sich mit der Diagnose ist.

?Die behandelnden Mediziner entscheiden, ob sie die Einsch?tzung teilen“, sagt Bettina Finzel, wissenschaftliche Mitarbeiterin an der Universit?t Bamberg. ?Sie k?nnen die Algorithmen beeinflussen, indem sie Erg?nzungen und Korrekturen im System vornehmen. Dadurch lernt die Software st?ndig dazu und bezieht das wertvolle Wissen der Experten mit ein.“ Letztlich bleibt die Verantwortung beim Menschen, der von den Transparenten Begleitern unterstützt, nicht ersetzt wird. Au?erdem k?nnten Mediziner mithilfe der Transparenten Begleiter in Zukunft aus- und weitergebildet werden. Das Bundesministerium für Bildung und Forschung f?rdert das Projekt bis August 2021 mit insgesamt 1,3 Millionen Euro. Davon gehen rund 290.000 Euro an die Universit?t Bamberg.

Weitere Informationen unter: www.uni-bamberg.de/en/cogsys/research/projects/bmbf-project-trameexco

Bild ?Schmid_Finzel“(2.0 MB): So ?hnlich wird eine neue Software aussehen, die Ute Schmid (l.) und Bettina Finzel mitentwickeln, um ?rzte beim Diagnostizieren zu unterstützen.*
Quelle: Patricia Achter/Universit?t Bamberg

Bild ?Mikroskopie“(1.6 MB): Mikroskopische Bilder des menschlichen Dickdarms veranschaulichen die Funktionsweise des neuen Systems.*
Quelle: Virtuelle Mikroskopie der Universit?t des Saarlandes (https://mikroskopie-uds.de/)

*Das im Prototypen gezeigte Bildmaterial stammt von der virtuellen Mikroskopie der Universit?t des Saarlandes. Es dient nur der Veranschaulichung und wird nicht im Rahmen des Projekts verarbeitet. Die verwendeten Bilder zeigen ausschlie?lich gesundes Gewebe.

Weitere Informationen für Medienvertreterinnen und Medienvertreter:

188bet亚洲体育备用_188体育平台-投注*官网 für inhaltliche Rückfragen:
Prof. Dr. Ute Schmid
Professur für Angewandte Informatik, insbesondere Kognitive Systeme
Tel.: 0951/863-2860
ute.schmid(at)uni-bamberg.de

Medienkontakt:
Patricia Achter
188bet亚洲体育备用_188体育平台-投注*官网referentin
Tel.: 0951/863-1146
patricia.achter(at)uni-bamberg.de