Die neuronale Maschine Mensch und ihr Hang, sich zu überkommen

Hat jemand von Ihnen schon mal den Namen Skynet gehört? Er steht für den worst case der Entwicklung in der Beziehung zwischen Mensch und Maschine. In den „Terminator“-Filmen hat die künstliche Intelligenz Skynet die Macht übernommen und die Menschheit praktisch ausradiert. Ein paar Überlebende versuchen, die Apokalypse rückgängig zu machen, indem sie in die Vergangenheit reisen. Dieser Teil der Story ist klassische Science Fiction, denn Zeitreisen sind uns (bislang und sicher noch lange) technisch nicht möglich. Aber wie ist es um das Verhältnis von Mensch und Maschine bestellt? Ist das intakt? Verstehen wir Menschen, was wir da tun, indem wir den Maschinen immer mehr Macht geben? Wenn ich mir manche Zeitgenoss:innen auf unseren Straßen so ansehe, bekomme ich Zweifel. Viele von denen scheinen nicht einmal ihr Smartphone zu verstehen – oder sind im Versuch, es zu verstehen, so absorbiert, dass sie ihre Umwelt nicht mehr wahrnehmen. Dann sieht man sie verzweifelt ihre Touchscreens wischen. Und auch die Tatsache, dass die Maschine – also das Smartphone – die Aufmerksamkeit oft sogleich in dem Moment bekommt, in dem sie sie einfordert, zeugt nicht gerade von mündigen Nutzerinnen und Nutzern.

KIDer Mensch ist nicht imstande, den Phänomenen intellektuell zu folgen, die er erschafft. Das hat schon Stanley Kubrick in „2001 – Odyssee im Weltraum“ meisterhaft dargestellt: Seine Astronauten um David Bowman verstanden nicht, dass die künstliche Intelligenz HAL 9000, die ihr Raumschiff steuert, zunehmend zur Gefahr für sie wird. Für sie ist die KI eine Art Dienstleister, so wie der namenlose Computer auf der Enterprise der „Star-Trek“-Serie. Doch HAL 9000 hat Bewusstsein entwickelt. Er ist eine Persönlichkeit geworden. Eine echte künstliche Intelligenz. Da möchte man mit Mr. Spock sagen: Faszinierend. Nicht wahr?

Von der Erlangung von Bewusstsein sind die KIs, um die es heutzutage geht, weit entfernt. Und doch gewinnen sie immer mehr Einfluss auf unser Leben. Und über sie die im Hintergrund wirkenden Tech-Konzerne, die mit Hilfe der KIs Daten sammeln. Dieses Datensammeln ist fürs erste das vorrangige Problem, denn es gefährdet unsere Demokratie. Daten sind das Gold der Zukunft, so heißt es im Silicon Valley. Mit anderen Worten: Es steht eine Revolution an. Schon wieder. Die Frequenz und die Wucht der technologischen Neuerungen steigert sich. Die industrielle Revolution war noch ein lange Jahre währender Prozess, doch schon sie überrollte zahllose Menschen und veränderte aller Leben. Da wurde menschliche Muskelkraft durch die Kraft der Maschinen ersetzt. Die Revolution 2.0 – man sagt auch „digitale Revolution“ dazu – ging bereits wesentlich schneller. Sie versprach die Demokratisierung der Welt und frei zugängliches Wissen für alle via Internet. Es gab tatsächlich Entwicklungen hin zur Demokratie: Die Arabellion wäre ohne die digitalen Netzwerke nicht denkbar gewesen. Und wie frei Wissen heutzutage zugänglich ist, das wissen nicht nur wir Journalisten. Zugleich sind die Möglichkeiten für Manipulation und Agitation gewachsen. Die neurechte Bewegung hat ihre Chance ergriffen und nutzt diese Möglichkeiten, und der vielzitierte „mündige Bürger“ – nebst der gewiss ebenso „mündigen Bürgerin“ – zeigt sich vor allem als eines: als überfordert. Schon die kritische Bewertung der Quellen, aus denen sie ihre Informationen beziehen, ist manchen nicht möglich. Was im Netz steht, steht geschrieben.

Künstliche Intelligenz wird bald überall sein. Sie wird uns verkauft werden unter dem Etikett, unser Leben zu vereinfachen. Autonomes Fahren sei als anschauliches Beispiel genannt. Wobei „autonom“ hier im Grunde bedeutet: dem Menschen aus der Hand genommen. Es ist also nicht die Autonomie des Menschen gemeint. Angeblich kann die vernetzte Maschine einen Wagen sicherer durch den Verkehr steuern, weil sie eine schier unfassbare Zahl von Daten über andere Verkehrsteilnehmer auswerten kann. Sie trifft dann Entscheidungen für die Wageninsassen. Die können zwar eingreifen, wenn sie wollen, aber die meisten werden bequem sein und der Maschine die Kontrolle überlassen. In der Folge wird der Mensch das Autofahren verlernen. Und so wird es auch mit anderen Kulturtechniken sein – bis hinein in den privaten Haushalt, wo Alexa, Siri und ihresgleichen schon heute alles übernehmen können, wenn man sie damit beauftragt. Smart, nicht wahr?

Wo führt das hin? In die Entmündigung des Menschen? Wie ich schon sagte – mit der Mündigkeit ist es schon jetzt oft nicht weit her. Also in die ungebremste Manipulation der Menschen durch jene, die via KI in den Besitz von unzähligen Daten über uns kommen? Die Freiheit, die uns qua Internet versprochen wurde, wäre dann die Freiheit der Mächtigen, über unser Urteil zu bestimmen, unsere Stimmungslage, ach, sagen wir es global: unser Leben. Dazu braucht es keine KI, die sich ihrer selbst bewusst geworden ist wie Skynet oder HAL 9000 – oder Pioneer in meinem neuen Roman „McWeir – Virenkrieg V“, der in Kürze als gedrucktes Buch erscheint. Dazu braucht es nur die Macht der Daten und den Willen, sie zu missbrauchen. Dahinter stecken keine Maschinen, sondern Menschen.

Die folgenden Zuschriften äußern sich zu diesem Thema, das in der FR durch den Artikel „Mensch oder Maschine?“ aufgegriffen wurde.

fr-debatteDie neuronale Maschine Mensch

Die ignorante, letztlich selbstverachtende Weltsicht vieler Menschen, die im Bereich KI arbeiten, ist aktuell und auch schon in den Anfängen der sogenannten Künstlichen Intelligenz offenkundig. Es begann in Aussagen wie: Der Mensch ist ein „informationsverarbeitendes System“ unter anderen, der Mensch ist eine „neuronale Maschine“ (Dartmouth Konferenz 1956; hier wurde der Begriff Artifical Intelligenz geprägt). Gesteigert wurde die Weltsicht z.B. deutlich durch die nahezu faschistoide Aussage des teilnehmenden KI-Pioniers Marvin Minsky „Das Gehirn ist per Zufall eine Maschine aus Fleisch.“ Wobei er im Englischen von „meat-machine“ (meat = totes Fleisch) sprach, noch nicht mal von lebendigem Fleisch = flesh.
Vor wenigen Wochen hat bei einem populären Vortrag zum Stand der KI-Forschung ein junger Wissenschaftler aus dem Bereich KI zunächst vom ganzheitlichen Ansatz seiner Forschungen berichtet, einer Arbeitsgruppe, der z.B. auch Soziologen angehörten. Auf nahezu völlig ausgeblendete moralische, ethische Fragestellungen zur KI angesprochen hat er im Wesentlichen nur dargelegt, das sei nicht sein Ansatz. Ihn interessiere die Technik von Bilderkennung.
Die Entwicklung zeigt verschärft offenkundig die Diagnose von Günther Anders in seinem Buch „Die Antiquiertheit des Menschen“ aus den 1950igern Jahren „Die Technik ist nun zum Subjekt der Geschichte geworden, mit der wir nur noch „mitgeschichtlich“ sind. … “ . Anders folgerte: “… und so trottet schließlich als letzter Hintermann, als verschämtester Nachzügler, noch heute behängt mit seinen folkloristischen Lumpen, und gleich schlecht synchronisiert mit allen seinen Vordermännern – im weitesten Abstande hinter allen, der menschliche Leib nach.“
Der Berücksichtigung von Erkenntnissen von Geisteswissenschaftlern der letzten 60 Jahre werden wir in der Ethik, der Technikfolgenabschätzung für eine menschengerechtes Leben im Einklang mit der Natur nicht gerecht. Während Joseph Weizenbaum – Computerwissenschaftler – schon vor Jahren zu bedenken gab: „Wir sollten gelernt haben, dass die Nebenwirkung von Dingen, die wir in die Welt setzen, viel umfassender sind als die Erfindungen selbst.“ versuchen Politiker wie Christian Lindner mit Parolen wie: „Digital first. Bedenken second. Denken wir neu.“ Wählerstimmen zu erhalten.
Wer kann die Größenwahnvorstellungen von KI-lern mit ihren Auswirkungen auf unsere Leben durch alltäglich wirksame Programme der Datenerfassung und Auswertung stoppen, die umfänglichen „Verwüstungen“ durch der KI zugeordnete Systeme (dabei braucht man nicht mal militärische Anwendungen zu betrachten)?
Können nur Viren, denen noch nicht mal der Status Leben zugestanden wird, uns vor uns selber schützen und uns zur Beachtung der elementaren Grundlagen unserer Existenz jenseits von technologischem und wirtschaftlichem Wachsen zwingen? Die Hoffnungen auf die Politiker sind nicht sehr groß. Fehlt es ihnen an Kompetenz, sind sie großteils Technik verblendet oder korrumpiert?

Wilmar Steup, Pohlheim

fr-debatteAlexa, übernehmen Sie!

Die Autoren des Buches „Prinzip Mensch“ warnen vor der Macht der Digitalkonzerne und rufen dringend dazu auf „die verschütteten Quellen des Menschlichen wieder in Erinnerung zu rufen“, um den irreversiblen Bedrohungen von Demokratie und Gesellschaft zu begegnen.
Das ist der Punkt! Wie weit soll diese Technologieentwicklung noch gehen? „Heute bestimmen einige Tausend Ingenieure darüber, was im Internet passiert“. (P. Nemitz und M. Pfeffer). Die digitale Revolution sei auf dem Weg, den Menschen auch noch das Denken abzunehmen. Trotz aller kritischen Einwände in den letzten Jahren, trotz aller Warnungen selbst aus der Internetbranche, geht der Digitalisierungsprozess munter weiter und gerade durch die Corona-Zeit wird diese Technologie immer bedeutsamer dargestellt. Es ist wie eine Goldgräbermentalität, die aus dem Geist des Silicon Valley das Internet, denkende Maschine zur marktbestimmenden Entdeckung unseres postmodernen Lebens macht. Die Freiheitsversprechungen der ersten digitalen Revolution – die Befreiung des Individuums aus der Vormundschaft von Politik und Konzernen, sind nichts weiter als ein großes verführerisches Papperlapapp und eine Verballhornung wirklicher aufklärerischer Philosophien (à la Kant, Hegel u.a.).
Von was befreit uns Künstliche Intelligenz eigentlich? Vielleicht von der Last des Selberdenkens, des letzten Restes von Mündigkeit? Die schöne neue Welt (in Garagen entstanden) der unbegrenzten Möglichkeiten, mit Ansprüchen und Machtvorstellungen, der Verheißung vom nächsten großen Schritt der Evolution und dem Ziel, das Internet vollends um den Globus zu spannen.
Künstliche Intelligenz. Maschinen besser als Menschen!? Was soll das, dieser unbedingte Glaube an Machbarkeit? Leider sind wir in weitem Maße bereits so programmiert, dem gehorsam zu folgen. Bereits heute leben wir in einer Überforderungsgesellschaft durch Geschwindigkeit, Mobilität, Entfremdung und Leistungsdruck. Es bleiben immer mehr Menschen auf der Strecke. Doch setzen wir dem Ganzen immer noch eins drauf. Zu den Verlierern zählen u.a. auch die Autoritätsgläubigen und Mitläufer.
Wenn der letzte Rest an menschlicher Kreativität, Mitgestaltungskraft, Selbständigkeit, Eigenverantwortung der Maschine geopfert wird, dann wird es in der weiteren Zerstörung und Irrationalität der Ohnmächtigen und Verwirrten enden. Alexa, übernehmen Sie!
Der Traum von der Nachahmung des natürlichen Lebens in künstliche Intelligenz ist bereits in der Antike ein Menschheitswunsch gewesen (Dädalus, Prometheus). Aber wo ist die Grenze zwischen Mensch und Roboter? Was ist mit den Gefühlen, der Empathie oder der Intuition? Kann das eine Maschine auch erlernen? Was ist mit der Sterblichkeit? Unaufhaltsam sucht der Mensch nach dem ewigen Leben, spielt Gott. Niemitz/Pfeffer sprechen Gotteswahn und erinnern an das Tröstliche des Menschen: seine Stärken und Schwächen. In Niklas Maak’s Roman „Technophoria“ werden wir von Robotern aufgefressen und die Geräte wie Smartphone verschlucken uns einfach.
Dieser Umbau der Welt und der Preis, den wir dafür zahlen, wer will das wirklich wissen?“ Das Internet der Dinge dringt in unseren privaten Alltag hinein und verändert grundsätzlich unser Verhältnis zu den Gegenständen unseres Alltags, unsere Realitätsvorstellungen, ganz zu schweigen von den Unmöglichkeiten, dem Wust der Daten noch zu entrinnen oder Privatheit und Öffentlichkeit noch voneinander trennen zu können. Selbst Sisyphos würde heute mit seinem Stein den Berg nicht mehr bezwingen.“

Jürgen Malyssek, Wiesbaden

fr-debatte

Ein Kommentar

  1. Dieser Artikel ist gut gedacht, aber schlecht gemacht. Über weite Strecken ist die Ablehnung der aktuellen Entwicklungen gut nachvollziehbar, allerdings werden halb verstandene Begriffe durcheinander gewirbelt. Vor allem wird nicht zwischen starker und schwacher KI unterschieden, was fatale Folgen für politische Schussfolgerungen hat.
    Starke KI soll den menschliche Geist nachbilden, sie entspringt den trockenen Träumen von Kurzweil, Minsky oder aktuell Steven Pinker. Dem steht entgegen, dass der Mensch strukturell vollkommen verschieden ist von Computern. Rechner arbeiten digital im Trockenen, basierend auf mathematisch nachvollziehbaren Algorithmen, der Mensch existiert analog im Flüssigen und ist letztlich nicht berechenbar. Vielleicht mag es zukünftig Maschinen geben, die weitgehend menschliches Verhalten simulieren können. Aber sie sind sicherlich keine künstlichen Menschen und beherbergen keine menschliche Intelligenz. Alle Fachleute sind sich einig, dass wir davon noch meilenweit entfernt sind.
    Was aktuell unsere persönliche Freiheit auf vielfältige Weise bedroht, ist das maschinelle Lernen, die sogenannte schwache KI. Sie basiert auf Auswertung von Big-Data mit Hilfe ausgefeilter, hoch komplexer statistischer Methoden. Sie ist Programmierung durch Ingenieure, häufig unter Vorgaben von Konzernen oder staatlicher Stellen. Die Ergebnisse und Verfahrensweisen sind häufig durch die in diesem Artikel beschriebene Kommerzialisierung bestimmt.
    Der Mythos „Mensch gegen Maschine“ ist falsch und ihn in den Vordergrund zu stellen wird dem Problem nicht gerecht. Es geht nicht um die Macht abstrakter Computer, es geht um die aktuelle Machtverteilung in der Nutzung von informationstechnischen Strukturen.
    Der Traum eines Internets, in dem sich virtuell Menschen treffen, um Wissen und Meinungen auszutauschen, ist der kommerziellen Ausbeutung durch Google, facebook, Microsoft gewichen. Die Frage ist, wie können Menschen sich diesen Raum wieder erobern.
    Ganz im Hier und Jetzt heißt das: Open-Data zum Verwaltungsprinzip zu machen, so wie die Datenschützer-Rhein-Main für die Stadt Frankfurt eine Informationsfreiheitssatzung fordern. Es geht darum, dass bei Videokonferenzen darauf geachtet wird, datenschutzrechtlich bedenkliche Anwendungen wie Zoom oder Teams zu vermeiden und statt dessen jit.si oder BigBlueButton zu verwenden. In allen staatlichen Stellen sollte, wie dies bereits in Schleswig-Holstein geschieht, grundsätzlich Open-Source-Software eingesetzt werden, insbesondere die Schulen sollten aus dem Würgegriff von Microsoft befreit werden.
    Diese konkreten Ansatzpunkte gilt es in den Vordergrund zu stellen und nicht einen allgemeinen Kampf gegen Windmühlen-Kis auszufechten.