Unsere Ankunft im Zeitalter 4.0

Wir haben kürzlich unter dem Eindruck der Trumpschen Kürzungen in der Forschung über das Verhältnis von Forschung und Öffentlichkeit diskutiert. Anlass war der „March for Science“. Hier ist nun ein konkretes Beispiel für das, was Forschung für die Menschheit konkret leisten kann: der Artikel „Software im Weißen Kittel“ der Netzaktivisten Anke und Daniel Domscheit-Berg, der im FR7 vom 29. April veröffentlicht worden ist. Der Text ist online nicht verfügbar, da die Inhalte des FR7 nur im Print veröffentlicht werden, aber ich habe einen Scan gemacht, den Sie HIER abrufen können. Es geht um die Möglichkeiten, die sich in der Medizin mit dem Einsatz künstlicher Intelligenz ergeben, genauer: um die Verbesserung und Erweiterung der Diagnostik.

Das Argument lässt sich nicht von der Hand weisen, dass das Wissen der Forscher – beispielsweise im Bereich Medizin – längst Dimensionen angenommen hat, die einen einzelnen Kopf überfordern. Darum gibt es Spezialisten. Doch auch die stoßen mitunter an Grenzen, zum Beispiel wenn es um sehr seltene Krankheiten geht. Oder sie machen schlicht Fehler. Kann passieren, sie sind ja nur Menschen. Im Fall der seltenen Krankheiten kann eine fortschrittliche Diagnostik gewiss dazu beitragen, diese Krankheiten schneller zu erkennen und somit Leben zu retten. Das wäre durchaus ein Grund, die Erforschung und Weiterentwicklung künstlicher Intelligenz, die unter anderem dazu befähigt ist, aktiv zu lernen, rasch voranzutreiben.

Allerdings gilt für diese Technologie wie für jede Technologie, dass sie sich auch in anderen Zusammenhängen einsetzen lässt. Missbrauch ist nicht auszuschließen. Vielleicht nutzt die NSA längst eine solche Technologie? Hier liegt der Knackpunkt, das ist die Crux bei der Sache: Was geschieht mit den Daten? Im Medizin-Beispiel den Daten der Patienten? Denn deren massenhaften Daten bilden die Basis, auf der die Software lernt. Rechtfertigt eine höhere Wahrscheinlichkeit, dass irgendwo auf diesem Planeten jemandes Leben gerettet werden kann, weil ich zugestimmt habe, dass meine Daten über meine spezielle Krankheit einem globalem Medizin-Datenpool hinzugefügt werden – rechtfertigt diese höhere Wahrscheinlichkeit die Unsicherheit, dass ich nicht weiß, was mit meinen Daten möglicherweise außerdem noch gemacht wird?

Gerade im Bereich Künstliche Intelligenz (KI) legen Forschung und Entwicklung derzeit ein beachtliches Tempo an den Tag, und zwar ohne die Menschen mitzunehmen, um deren Unterstützung kürzlich beim „March for Science“ geworben wurde. Es geht darum, schnell Erfolge vorzuweisen, weil so viele Unternehmen und Forschergruppen auf diesem Feld unterwegs sind, und es geht um viel Geld. Warum aber brauchen wir KIs? Das wird den Menschen nicht so recht erklärt. Der Artikel der Domscheit-Bergs liefert hier einen Beitrag. Wer weiß, vielleicht brauchen wir diese Art von Wissenschafts- und Technikbegeisterung tatsächlich. Der geniale Physiker Stephen Hawking hat im November 2016 eine Prognose veröffentlicht, die er kürzlich relativierte. Nach einem Bericht von Spiegel Online und einer BBC-Dokumentation glaubt er inzwischen, dass die Erde nur noch für 100 Jahre – vorher waren es 1000 – bewohnbar sein werde. Was sich seit November 2016 verändert hat? Die USA haben Trump. Hawking empfiehlt der Menschheit die Auswanderung in den Weltraum und den Bau von Kolonien auf dem Mars.

Muss man so pessimistisch sein? Nun, wenn man es ist, dann ist es auf jeden Fall gerechtfertigt, kräftig zu forschen und zu entwickeln. Und dann spielt auch das Daten-Argument nicht nur keine Rolle mehr, sondern verkehrt sich geradezu in sein Gegenteil, denn dann gehören meine Daten zur Basis, auf der die künftige Menschheit auf dem Mars oder wo auch immer ihre Existenz aufbaut. Ich werde durch meine Daten ewig leben. Auch wenn ich es nicht erleben werde.

fr-balkenLeserbriefe

Hermann Roth aus Frankfurt meint:

„Ich würde die Begeisterung von Anke und Daniel Domscheit-Berg über die Möglichkeiten der „künstlichen Intelligenz“ im Gesundheitswesen gerne teilen und sehe durchaus Chancen und Anwendungsmöglichkeiten digitaler Technik, die sowohl für Ärzte als auch für Patienten spürbare Fortschritte und bessere Behandlungsoptionen eröffnen können. Leider sind die beiden „notorischen Netzaktivisten“ aber in ihrer euphorischen Beschreibung der schönen neuen Gesundheitsindustrie recht unkritisch und bestenfalls naiv.
Christian Schlüter hatte sich kürzlich in der FR sehr kritisch mit der inflationären Verbreitung des Begriffes der „künstlichen Intelligenz“ (KI) auseinandergesetzt und deutlich gemacht, dass dieser Begriff „Ähnlichkeit vortäuscht, wo eigentlich nichts Menschliches mehr ist“ und letztlich „das Denken als Datenverarbeitung und als Rechenvorgang neu bestimmt“. Er beschreibt die künstliche Intelligenz als „reduktionistisches Setting“, das riesige Datenmengen verarbeiten kann.
Die Verarbeitung riesiger Datenmengen kann in der Bilderkennung, in der Analyse von Messwerten und bei komplexen Diagnosefragen also sehr hilfreich sein und Ärzte und Patienten entscheidend unterstützen. Dennoch tauchen in der Praxis wichtige Fragen auf, die von A. und D. Domscheit-Berg weder erkannt noch diskutiert werden. So schreibt der Sachverständigenrat für Verbraucherfragen (Gigerenzer, Schlegel-Matthies, Wagner 2016): „Ob Big Data bezüglich Gesundheit und Wohlbefinden außerhalb des gängigen Forschungsparadigmas Nutzen bringt ist, im Moment rein hypothetisch bis zweifelhaft.“
Besonders kritisch wird, neben der Frage der Qualität bestimmter Daten, die Gefahr gesehen, dass „eine anhand von zahlreich vorhandenen Daten basierte Diagnose gegebenenfalls nicht mehr hinterfragt wird und damit ein Großteil an Faktoren wie soziale Beziehungen und subjektive Wahrnehmung nicht enthalten sind, obwohl diese einen starken Einfluss auf Gesundheit und Krankheitsverlauf haben können.“ Ärzte behandeln keine Daten, sondern Menschen und unser menschliches Leben, unsere Gesundheit und unsere Krankheiten sind so komplex, dass sie letztlich nicht auf reine Datensätze zu reduzieren sind. Bessere Diagnosemöglichkeiten können nützlich sein, aber gleichzeitig besteht die Gefahr der „Überdiagnose“, die zu einer „Überbehandlung“ mit nutzlosen, überflüssigen Operationen und anderen Behandlungen führt.
A. und D. Domscheit-Berg blenden zudem völlig aus, dass sich hinter „Big Data“ und „KI“ mächtige Konzern- und Profitinteressen verbergen. So verfügt z.B. der Alphabet Konzern (u.a. Google) über ein weitgeflochtenes Netz aus angekauften Unternehmen und Kooperationspartnern aus dem Gesundheitssektor, führenden Pharmaunternehmen und relevanten Forschungseinrichtungen. Wohin diese Entwicklung führen kann, wird deutlich an Partnerschaften wie der von Alphabet mit dem französischen Pharmaunternehmen Sanofi, mit dem gemeinsam Patientendaten von Diabetes-Patienten ausgewertet werden sollen. Unsere Daten sind letztlich der zentrale Bestandteil des Geschäftsmodells dieser Firmen und die Verwertungsmöglichkeiten kaum noch kontrollierbar.
Möglicherweise kann die Digitalisierung im Gesundheitswesen für einzelne Menschen das Gesundheitsrisiko reduzieren, global gesehen wären aber soziale Verbesserungen, bessere Lebensbedingungen und die Bekämpfung von Armut und extremer sozialer Ungleichheit viel wichtiger, denn nach wie vor ist Armut laut WHO das größte Gesundheitsrisiko. Hier wäre statt künstlicher Intelligenz mehr menschliche Intelligenz, Solidarität und Humanität gefragt. Dafür gibt es aber noch keine App.“

Rudolf Brinschwitz aus Rodgau:

„Wenn ich den Artikel lese, dann kommen mir erhebliche Bedenken, ob wir schon im Zeitalter 4.0 angekommen sind. Offensichtlich haben bestimmte Berufsgruppen Hemmungen, ihr Wissen durch die Verknüpfung mit „anderen“ Informationen zu erweitern. Vor ca. 5 Jahren habe ich erlebt, dass eine Arztpraxis auf dem Niveau der 50er Jahre funktionierte und Bestrebungen, dies zu ändern mit den Worten „das haben wir schon immer so gemacht“ auf Verbesserungsvorschläge reagierte.
Ich selbst habe in einem Industrie-Unternehmen gearbeitet, dass sich nach Beendigung der „Watergate-Affäre“ das IT-Programm zulegte, das seinerzeit zur Aufklärung derselben benutzt wurde. Wir haben damit unseren Kundendienst ausgestattet und so erreicht, dass unsere Garantiekosten erheblich gesenkt werden konnten. Ereignisse wurden mit allen Details eingegeben und zeigten damit mögliche Parallelen zu anderen Objekten auf und ermöglichten dadurch präventive Maßnahmen.
Hat der Rest der Nation die vergangenen Jahrzehnte verschlafen und soll jetzt wachgerüttelt werden? Jetzt erwischt es die „Weißkittel“, denn die sitzen auf ihrer Einbildung, der Nabel des Wissens zu sein. Es ist wohl eher ein grundsätzliches Problem, dass die Vernetzung von Wissen dem Zeitalter der Postkutschen zuzurechnen ist und nicht unserem Jahrhundert. Siehe die aktuellen innerdeutschen Probleme auf verschiedenen Gebieten.
Wenn wir so weiter machen, dann ist es aus mit unserer Führungsrolle in der „globalisierten“ Weltgemeinschaft.“

7 Kommentare

  1. So wie ich den Artikel verstanden habe, wird in großen Datenmengen gesucht, ob schon mal jemand anderes die gleichen Symptome hatte. Das ist eigentlich nur ein Vergleichen von Daten, was schon die ersten Computer zur Zeit der Lochkarten konnten. Nur sind sie heute auf Grund der technischen Fortschritte sehr viel schneller und die Suchalgorithmen sind effizienter geworden. Mit künstlicher Intelligenz hat das m. E. erstmal nicht sehr viel bis gar nichts zu tun.
    Die abgrundtief pessimistischen Äusserungen des St. Hawking haben ihre Ursache wohl eher in seiner schrecklichen Krankheit als in seinem (zweifelhaftem) Genie.

  2. Ralf Rath sagt:

    Bedenkt man, dass das Beste an der Lebenswelt des Einzelnen von Natur aus gegeben ist und nicht erst noch von Menschenhand erschaffen werden muss, böte es sich zuvörderst an, sich von dem dadurch Vorgefundenen einen Begriff zu machen, um die Frage beantworten zu können, was seit jeher das Konstituens menschlicher Existenz ist. Erst daran anschließend lässt sich untersuchen, ob gegenwärtig Gefahren vorherrschen, die einen Verlust von solch unersetzlichen Gegebenheiten bedeuten. Zumindest die Industriesoziologie liefert hier zentral längst den theoretisch angeleitet und empirisch kontrolliert erhobenen Befund einer allem Handeln stets fehlenden Unmittelbarkeit und einer infolge dessen schon immer ausgeschlossenen Determinierung lebendiger Arbeit. Würden also zunehmend weniger deshalb ohnehin von vornherein aussichtslose Unterfangen begonnen, darin einen potenziellen Störfaktor zu erkennen, den es durch restriktive Arbeitsgestaltung möglichst weitgehend zu kanalisieren und zu kontrollieren gilt, vergeudeten in hochentwickelten Industriegesellschaften die privatwirtschaftlich geführten Unternehmen keinerlei zu allen Zeiten immer nur sehr eng begrenzt verfügbare Ressourcen. Die Prognose von Herrn Hawking ist demnach nicht voraussetzungslos. Wechselt das Rationalisierungsparadigma von (Industrie-)Arbeit, bestehen begründete Aussichten darauf, sich die Kolonisierung etwa des Planeten Mars rundweg sparen zu können, weil dafür die Dringlichkeit entfallen ist. Welche gesellschaftliche Funktion künstliche Intelligenz (KI) dabei hat, kommt darauf an, ob sie den weltweit sich unabhängig davon vollziehenden Prozess einer notwendigen Änderung eingespielter Wahrnehmungs- und Denkweisen konterkariert oder nicht. Dient KI kontrafaktischen Umtrieben, sind ihre Nutzer ein Fall für den ausschließlich für Offizialdelikte zuständigen Staatsanwalt.

  3. Frank Wohlgemuth sagt:

    @ Henning Flessner

    Wenn ich Ihren Vergleich richtig verstehe, haben Sie es nicht richtig verstanden. 😉

    Das hier vorgestellte System ist die moderne Forme eines Expertensystems, in dem nicht, wie in alten Lochkarten- und FORTRAN-Zeiten, irgendeine Datei in voreingestellten Algorithmen sequentiell oder nach Sortierkriterien durchsucht wird. Der einfachste Fall, die relationale Datenbank, war zu Lochkartenzeiten gerade theoretisch in der Entstehung, in LISP-Umgebungen gab es zwar bereits baumartige Strukturen und die Äquivalenz von Programm und Daten (um keine Missverständnisse aufkommen zu lassen: das hat gerade nichts mit der Von-Neumann-Architektur der Hardware zu tun), so dass zumindest theoretisch die Grundlagen für einfache Expertensysteme existierten. Aber das was da heute abläuft ist doch ein bisschen komplexer. (sorry für das Kauderwelsch)

    Künstliche Intelligenz ist für viele ein Schlagwort, informatisch gesehen ist es einfach ein Forschungsgebiet, zu dem die hier beschriebene Software schon deshalb gehört, weil sie selbstlernend ist, d.h. jeder Programmlauf verändert auch gleichzeitig die Voraussetzungen des nächsten Laufes, die Ergebnisse sind – wie beim menschlichen Denken – nur noch bedingt reproduzierbar.

    Zu den vorgestellten Programmen direkt: Es besteht bei ihnen keine Notwendigkeit, eine externe Identität (=Person) mit dem neuen Datensatz zu verknüpfen, so dass der einzelne Patient normalerweise keine zu ihm führenden persönlichen Daten im System hinterlässt. In Sachen Datensicherheit sind derartige Programme deshalb erheblich unkritischer zu sehen, als die vielen Daten, die wir regelmäßig aus Bequemlichkeit in kommerzielle Netze einspeisen, seien es soziale Netze, sei es unser Einkaufsverhalten im Internet oder der bargeldlose Einkauf im Supermarkt. Das sind die Aktionen, bei denen der gläserne Mensch entsteht.

    Was Hawking angeht: Sein Pessimismus ist nicht unrealistisch. Mein eigenes Bild für unsere Situation, ich komme aus der Biologie: Wir befinden uns in der Situation eines Schlittschuhläufers, der über eine dünne Eisschicht einen Strom quert. Er sieht vor sich einen Riss durch das Eis laufen und kann nicht sicher sagen, ob es bis zum anderen Ufer trägt.

    Das für unsere Entscheidungsfindung dumme an dynamischen Systemen wie der Biosphäre ist, dass sie verändernde Einflüsse oft puffern, so dass es regelmäßig zu spät ist, die Wirkungen dieser Einflüsse wieder rückgängig zu machen, wenn wir sie erkennen.

    Allerdings bin ich nicht ganz so pessimistisch wie Hawking, die beiden Kinder, die ich habe, wurden absichtlich gezeugt. Vielleicht wäre es auch für Hawking gut, sich die Vorträge des leider kürzlich gestorbenen Hans Rosling anzuhören, z.B.:
    https://www.ted.com/talks/hans_rosling_shows_the_best_stats_you_ve_ever_seen
    (leider in Englisch)

  4. Ralf Rath sagt:

    Mir sei zu meinem Kommentar vom 8. Mai um 16:28h noch die Anmerkung gestattet, dass der je individuelle Genius, der imstande ist, das von Herrn Hawking extrapolierte Problem zu lösen, ohne eine dementsprechend leistungsfähige Arbeitsorganisation sich erwiesenermaßen nicht entfalten kann. Genügt daher Künstliche Intelligenz nicht den Anforderungen „innovativer Arbeitspolitik“ (Baethge, M.: Rückblick in die Zukunft, in: FR v. 28.02.2017, S. 14), die erst die erforderliche Kreativität zumindest in den Wissenschaften ermöglicht, sind die Ziele schneller mit Papier und Bleistift zu erreichen als etwa im Wege eines Rechnerlaufs beispielsweise des selbstlernenden Systems namens „Watson“ von IBM.

  5. @Frank Wohlgemuth
    Ich habe mich in den letzten 40 Jahren auch immer nebenbei mit Software beschäftigt. Dabei habe ich festgestellt, wie man die meisten Menschen mit verhältnismässig trivialen Programmen faszinieren kann (und ihnen unverschämt viel Geld aus der Tasche locken kann). Ich habe daher eine große Skepsis in dieser Richtung entwickelt.
    Hawking: In November hatte die Menschheit noch 1000 Jahre, jetzt sind es noch 100. Im Dezember werden es dann vermutlich nur noch 10 Jahre sein. Es ist besser, man hüllt den Mantel des Schweigens über diese Aussagen.

  6. Frank Wohlgemuth sagt:

    @ Henning Flessner (wieder etwas lang, aber ich hoffe, der Inhalt wiegt es auf)

    Meine Zeit in der Informatik beträgt es erst 33 Jahre, aber hauptsächlich in der Entwicklung, am Anfang von Auswertungen innerhalb der Biologie. Im Prinzip gebe ich Ihnen recht mit Ihrer Skepsis, ich kann mich noch gut daran erinnern, dass es mich belustigt hat, als ich in den 90ern in einem Zeugnis stehen hatte, meine Arbeit sei der künstlichen Intelligenz zuzurechnen – KI war damals Mode, es ging um eine Datenbank zur Verkehrswegeoptimierung, und ich hatte ein Konzept entwickelt, aus einer statistischen Auswertung des tatsächlichen Transportgeschehens eine automatische Datenbankkorrektur zu machen – dabei war weder die Statistik trivial noch die Korrektur der baumförmigen Entscheidungsstrukturen. Das war aber deshalb keine künstliche Intelligenz, weil hier ein Programm lief, das nach vorgegebener, konstanter Strategie Daten untersuchte, um andere Daten zu ändern. Zur künstlichen Intelligenz könnte soetwas werden, wenn die geänderten Daten zu einer zu einer Änderung der Strategie des Programmes führen würden, wenn wir also soetwas wie eine Rekursion im Prozess hätten.

    Moderne Expertensystem haben soetwas. Was man mit dieser Technik anstellen kann, darüber gab es im letzten Jahr eine schöne Meldung: Es gibt inzwischen ein Programm, das Go spielt.
    http://www.sueddeutsche.de/wissen/kuenstliche-intelligenz-mensch-unterliegt-maschine-computer-gewinnt-das-komplexeste-spiel-der-welt-1.2904384
    Während die alten Schachprogramme mit den Schachfähigkeiten ihrer Programmierer spielten, spielt AlphaGo mit einer Strategie, die seine Programmierer nicht einmal kennen. Solchen Programmen sollte man den Titel künstliche Intelligenz dann auch gönnen.

    Um noch einmal direkt auf Diagnosesysteme einzugehen: Das sind nicht einfach eine Maschinen, in die man Patientendaten eintrichtert und ein Ergebnis zu bekommen, an das man glauben muss, sondern ein Systeme, die das Gespräch Patient – Arzt lenken, indem sie gezielt Fragen generieren, die zu einer sichereren Diagnose führen könnten, und das in einer Reihenfolge, die sich aus Wahrscheinlichkeiten und Informationsgewinn bestimmt. Am Ende kommt dann regelmäßig auch keine einzelne eindeutige Diagnose, sondern eine oder mehrere Diagnosen mit Wahrscheinlichkeitsangaben. Da ist der Arzt im Zweifelsfall gefordert, sich weiter Hilfe zu holen.

    Natürlich kann ein derartiges System die Kompetenz des Arztes teilweise ersetzen, sowie ein SAP System große Teile der Kompetenz der Sachbearbeiter übernimmt, aber da der Arzt kein Sachbearbeiter einer Firma ist, und sein Kompetenzniveau einer politischen Unterscheidung unterliegt, ist das nicht zwangsläufig. Derer Arzt ist hier auch nicht ausgeschaltet, sondern – genauso wie die Maschine – permanent im „Lernmodus“, und er wird darauf aufmerksam gemacht, wenn seine „Standarddiagnose“ nicht so richtig passt.

    Denn das wird bei der Kritik gern übersehen: Bis auf Fachärzte, die es sich leiten können, auf die Kassenzulassung zu verzichten, besteht das Problem der normalen Arztpraxis darin, dass der Arzt keine Zeit hat. Er ist im Bestreben, ökonomisch zu arbeiten, immer versucht, den „Normalfall“ zu erkennen. Das Besondere übersieht er ohne Hilfe leicht. Dazu kommt, dass Ärzte bereits im Vorweg falsch selektiert sind: Das Medizinstudium erreichen die, die am besten lernen können, sehr häufig sind das die mit den Kommunikationsdefiziten, also die, die nachher nicht mit Patienten umgehen können.

  7. @Frank Wohlgemuth
    Mir fallen dazu zwei Erlebnisse aus meiner Schulzeit in den 70er Jahren ein. Wir hatten einen Physiklehrer, der bereits über 60 war und uns Boolsche Algebra beigebracht hat. Er sagte damals zu uns: «Jungs, ‘n Computer ist ein Idiot mit Spezialbegabung.» Das hat sich eigentlich bisher nicht richtig geändert. Wenn das Go-Programm wirklich intelligent wäre, würde es merken, dass ich mit ihm Halma spiele und es gerade verliert. 😊
    Ich hatte einen extrem intelligenten Mitschüler, der immer versuchte, im allerletzten Moment ins Klassenzimmer zu kommen. Damit konnte er vermeiden, mit anderen zu sprechen. Einmal dürfen sie raten, welchen Beruf er ergriffen hat.