Gesellschaftliche Mensch-KI-Verhältnisse

Der thematische Schwerpunkt widmet sich dem Verhältnis von Mensch und Technik unter Bedingungen maschinellen Lernens und Künstlicher Intelligenz. Die Frage nach dem KI-getriebenen Wandel des Mensch-Technik-Verhältnisses liegt quer zum Projekt KIMeGe, da es den Kristallisationspunkt der Frage nach dem Akteursstatus und der Handlungsträgerschaft „intelligenter“ Technik und damit auch der Frage danach, was den Menschen gegenüber und in Kollaboration mit KI auszeichnet, darstellt. Um das theoretisch wie empirisch sehr weit bestimmbare Mensch-Technik-Verhältnis im Vorhaben näher zu spezifizieren, wird der Fokus auf die Frage nach den in diesem Verhältnis aufgehobenen Möglichkeiten und Grenzen des (wechselseitigen) Lernens und der vorherrschenden Menschen- und Technikbilder in der KI-Diskussion gelegt.

Menschenund Technikbilder in der KIDiskussion

Prof. Dr. Arne Manzeschke

Prof. Dr. Arne Manzeschke

Professor für Anthropologie und Ethik für Gesundheitsberufe, Leiter der Fachstelle für Ethik und Anthropologie im Gesundheitswesen | Evangelische Hochschule Nürnberg

Arne Manzeschke ist Professor für Anthropologie und Ethik für Gesundheitsberufe und Leiter der Fachstelle für Ethik und Anthropologie im Gesundheitswesen an der Evangelischen Hochschule Nürnberg. Ausbildung zum und Arbeit als Programmierer; Studium der Theologie und Philosophie in München, Tübingen und Erlangen; 1995 Promotion zum Dr. theol., Pfarrdienst; 2007 Habilitation und Venia Legendi für das Fach Systematische Theologie/Ethik; seit 2007 Forschung zu Mensch-Technik-Verhältnissen, ihrer ethischen und anthropologischen Reflexion und Gestaltung. Stellv. Vorsitzender der Bayerischen Ethikkommission für Präimplantationsdiagnostik seit 2015; Präsident der Societas Ethica, der Europäischen Forschungsgesellschaft für Ethik, seit 2018; Sprecher des Fachausschusses Medizintechnik und Gesellschaft der Deutschen Gesellschaft für Biomedizinische Technik (DGBMT) seit 2020. Forschungsschwerpunkte sind Technik-, Medizin- und Wirtschaftsethik und ihre anthropologischen Grundlagen.

Kontakt: Prof. Dr. theol. habil. Arne Manzeschke, Evangelische Hochschule Nürnberg, Anthropologie und Ethik für Gesundheitsberufe, Bärenschanzstr. 4, 90429 Nürnberg, E-Mail , Telefon +49 911 – 27253-864

Web: http://www.evhn.de/ | http://www.feag-elkb.de

Dr. Bruno Gransche

Dr. Bruno Gransche

Philosoph und Zukunftsforscher | Institut für Technikzukünfte, KIT

Bruno Gransche ist Philosoph und Zukunftsforscher mit den Schwerpunkten Technikphilosophie, Ethik, Hermeneutik, Phänomenologie, Wissenschaftstheorie, Foresight/ Future Studies. Er arbeitet seit 2020 am Institut für Technikzukünfte ITZ – Department Philosophie – des Karlsruher Institut für Technologie KIT und ist Fellow am Fraunhofer Institut für System- und Innovationsforschung ISI in Karlsruhe, wo er von 2009 – 2016 als Philosoph und Zukunftsforscher im Bereich Foresight mit Schwerpunkt auf Emerging Technologies und soziotechnischer Wandel arbeitete. Gransche erforscht Grundlagen, Bedarfe, Voraussetzungen und Zukunftsmöglichkeiten im Entstehen befindlicher Mensch-Technik-Verhältnisse, speziell bezüglich autonomer Alltagsassistenzsysteme/KI. Studium der Philosophie und italienischen Literaturwissenschaft an den Universitäten von Heidelberg und Bologna bis 2009; Promotion in Philosophie an der Universität Heidelberg 2013.

Kontakt: Dr. Bruno Gransche, Karlsruher Institut Technologie KIT, Institut für Technikzukünfte ITZ, Department Philosophie, Douglasstr. 24, 76133 Karlsruhe, E-Mail , Telefon +49 721 608 48835

Web: www.brunogransche.de

KI und das Reflexionswesen Mensch

KI wird als eine technisch-kulturelle Entäußerung des Menschen verstanden, in der dieser mit seinem technischen Wirken »in seiner Richtung nach außen, immer zugleich ein Selbstbekenntnis und in ihm ein Medium der Selbsterkenntnis« (Cassirer) artikuliert. Als solche steht diese Artikulation im Kontext von Welt- und Menschenbildern, die ihrerseits Symbolisierungen, Sinnkonstruktionen und damit Orientierungen bieten. Im Rahmen der Expertise wird »KI« (wie auch »Technik« und »Mensch«) als ein Inbegriff der Technikvorstellungen aufgefasst, in dem heterogene Elemente unter einem (praktischen) Interesse zusammengefasst werden. Diese Inbegriffe (z.B. KI als übermächtige Vernunft; der Mensch als Mängelwesen; Technik als Entfremdung) werden als transzendentale Reflexionsbegriffe verstanden. Das heißt, in diesen Begriffen werden Vorstellungen orientiert, d.h. etwa praktische Welt-Verhältnisse, die der Mensch hinsichtlich einer Disponibilität als Technische, einer Nicht-Disponibilität als Natürliche und einer bedingten Disponibilität als Kultürliche einnimmt. Praktisch sind diese transzendentalen Reflexionsbegriffe, weil sie nach den Bedingungen der Möglichkeit von Handlung(en) fragen – im Gegensatz zu den theoretischen transzendentalen Reflexionsbegriffen, wie sie Kant eingeführt hat.

Das Projekt sieht in einem ersten Schritt eine Ausgangssichtung von einschlägiger Literatur aus dem Feld der Menschen- und Technikbilder vor; hier werden die enthaltenen Inbegriffe mit Bezug zu KI extrahiert. Dieses erste begriffliche Register dient im zweiten Schritt zur umfangreichen Recherche in:

  • wissenschaftlichen Publikationen
  • Videos und TED-Talks zu KI
  • Publikationen mit einem breiten populärwissenschaftlichen Ansatz

Im dritten Schritt werden diese Funde historisch kontextualisiert und topologisch systematisiert. Dies geschieht einerseits anhand einer Verhältnisorientierung im Raster »Mensch«, »Maschine«, »Tier«, »Gott« und bezogen auf die höherstufigen Reflexionsbegriffe »Natur«, »Kultur«, »Technik«. Im vierten Schritt werden die Funde einer Schwerpunktanalyse unterzogen und auf ihre Orientierungskraft hin reflektiert. Der fünfte Schritt beinhaltet die Erstellung der jeweiligen Ergebnisformate/Publikationen.

Maschinelles und menschliches Lernen

Dr. Irmhild Rogalla

Dr. Irmhild Rogalla

Fachliche Leiterin | Institut für soziale Teilhabe, Hochschule Bremen; Wissenschaftliche Leiterin | Institut für praktische Interdisziplinarität

Dr. Irmhild Rogalla ist fachliche Leiterin des Instituts für Digitale Teilhabe der HS Bremen und wissenschaftliche Leiterin des Instituts für praktische Interdisziplinarität (Institut PI). Das Institut PI forscht, entwickelt und berät zum Thema Digitalisierung und Arbeit,

* zu Entwicklungs- und Innovationsprozessen ‚in‘ der IT, insbesondere durch Technikfolgenabschätzung.

* zu Anwendungs- und Einsatzbereich ‚von‘ IT, insbesondere in High-Tech-Bereichen (Internet of Things, Cyberphysische Systeme, Data Science und Analytics).

* zur Gestaltung soziotechnischer Systeme ‚mit‘ IT, insbesondere von Arbeitsprozessen und Kompetenzentwicklung.

Kontakt: Institut PI, Am Lindenberg 18B, 28759 Bremen, E-Mail 

Menschliches Lernen und „Machine Learning“ – (Un)vergleichbar?

Im Mensch-Technik-Verhältnis von natürlicher und künstlicher Intelligenz spielt Lernen eine besondere Rolle: Zum einen hängen natürliche Intelligenz und Lernen eng zusammen, zum anderen spielen Lernprozesse in der Interaktion zwischen Mensch und Maschine bzw. „KI“ eine große Rolle. Die geplante Expertise untersucht beides.

Zunächst werden grundlegende Fragen zu menschlichem Lernen und „Machine Learning“ getrennt aber vergleichend untersucht:

  • Wer lernt was auf welche Weise wie und womit?
  • Wer lehrt in welcher Umgebung und unter welchen Bedingungen? Was sind Lernanlässe, Lernziele sowie engere und weitere Lernkontexte?
  • Aber auch: Was wird von wem unter ‚lernen‘ verstanden, welche Wortbedeutungen, Begriffsverständnisse oder Theorien liegen dem zugrunde?

Unterschiedliche Formen menschlichen Lernens werden entlang des Lebenslaufs und aus der Perspektive der evolutionären Entwicklung des Menschen betrachtet. So lassen sich typische Formen von Lernen, wie z.B. die Ausprägung von Reflexen, das Trainieren motorischer oder kognitiver Fähigkeiten, der Sprach- oder Wissenserwerb unterscheiden. Aus einem Überblick über wesentliche Lerntheorien – von einfachen Black-Box-Modellen des Behaviorismus bis hin zum umfassenden Spiralmodell der evolutionären Erkenntnistheorie – ergeben sich wesentliche Begriffe, Kategorien und Merkmal zur Beschreibung von Lernprozessen, die die Grundlage für alles weitere bilden.

Bei modernem Machine Learning lassen sich zwei Phasen deutlich unterscheiden: Das „Trainieren“ der Algorithmen bzw. Modelle und ihre darauf folgende Anwendung. In der Trainingsphase wird das jeweilige Modell dazu gebracht, die entscheidenden Merkmale – beispielsweise einer Katze – zu erkennen und die für das Erkennen notwendigen Parameter zu konfigurieren. In der Anwendungsphase wird das Modell genutzt, teilweise werden die Parameter noch weiter optimiert. „Machine Learning“ bedeutet also im Wesentlichen, dass das System bzw. Modell (die „Künstliche Intelligenz“) nicht nur vorgegebenen starren Regeln und Abläufen folgt, sondern diese innerhalb bestimmter Grenzen selbst festlegt und verändert. Die Kennzeichnung als ‚lernen‘ ist diesen Veränderungs- bzw. Optimierungsansätzen geschuldet, mit denen sich KI-Algorithmen von herkömmlichen, normalerweise in der Programmierung verwendeten Algorithmen unterscheiden. „Machine Learning“ geht also mit einem beschränkten, technische Verständnis von ‚Lernen‘ einher, welches mit der großen Vielfalt menschlicher Lern- und Entwicklungsformen kaum zu vergleichen ist.

Dies wird noch deutlicher, wenn Lernkontexte und Interaktionen mit berücksichtigt werden: Menschen lernen durch ständige Iterationen von Handeln und Lernen, Lernen und Handeln in Interaktionen mit ganz unterschiedlichen Interaktionspartnern, seien es andere Menschen, Dinge oder auch Ideen. Menschen, egal ob Babys oder Senioren, lernen permanent, überwiegend ohne es zu merken. „Machine Learning“ hingegen setzt voraus, dass Menschen die Maschine, also den Computer samt Infrastruktur bauen, ihn programmieren, mit (aufbereiteten) Daten füttern und ihn ‚trainieren‘. Eine Maschine kann nicht von sich aus handeln oder lernen. „Machine Learning“ erfordert immer Menschen, die als Lehrende oder Trainer agieren, seien es „Data Scientists“ oder  oder „AI-Engineers“. Auch die Nutzung der so programmierten KI ist auf die Interaktion mit Menschen angewiesen, sei es im Alltag, in der Medizin, im Büro oder in der Instandhaltung. In diesen Interaktionen lernen ebenfalls in erster Linie Menschen, häufig genug vor allem anderen, die Schwächen der KI auszugleichen.

Auch die Analyse typischer Interaktionssituationen wird zeigen, dass KI-Anwendungen – ähnlich wie viele andere Automatisierungstechniken – sehr voraussetzungsreich und dem „Machine Learning“ enge Grenzen gesetzt sind. Menschliches Lernen hingegen ist genuin soziales, auf andere, das eigene Selbst und die jeweilige Beziehung gerichtetes Lernen und Verstehen, das sehr flexibel ganz unterschiedliche Entwicklungen ermöglicht.

Auf Basis des Vergleichs zwischen menschlichem Lernen und „Machine Learning“ und der Analyse typischer Interaktionssituationen vor allem im Arbeitskontext werden in der Expertise individuelle, organisationale und gesellschaftliche Risiken dargestellt sowie aktuelle Gestaltungsoptionen und denkbare Entwicklungspfade abgeleitet. Eine wesentliche Rolle wird dabei das Missverhältnis zwischen dem Glauben an Technik im allgemeinen und an KI im besonderen (Stichwort „technische Singularität“/„Superintelligenz“) einerseits und den deutlichen prinzipiellen wie praktischen Beschränkungen der verwendeten Modelle und Algorithmen andererseits spielen.