Thesen für eine KI-kompetente Gesellschaft

1.1 Ausgangslage
Die exponentielle Entwicklung und Nutzung Künstlicher Intelligenz stellt enorme Heraus-forderungen an unsere Bildungswesen und an unsere gesellschaftlich-demokratischen Prozesse. Voraussetzung für eine auch zukünftig gute Entwicklung unserer gesellschaftli-chen und ethischen Werte ist eine umfangreiche Kompetenz im Umgang mit KI. 

1.2 Zielsetzung
Der Mensch muss verstärkt Verantwortung für seine Selbstbildungsprozesse übernehmen. Formale und non-formale Bildungsbereiche sind heute besonders gefordert, Lernende da-bei zu unterstützen, Selbstlernkompetenz zu entwickeln.

Es gilt, die Freude am Entdecken neuer Möglichkeiten und Zusammenhänge lebenslang zu erhalten und zugleich neue Entwicklungen kritisch reflektieren zu können. Formales, non-formales und informelles Lernen wird zunehmend digitale Unterstützung nutzen. Hier-durch ergeben sich Chancen für individuelles, selbstbestimmtes Lernen und Erforschen.

Digital Literacy zielt als Kompetenz auf Kenntnisse (Algorithmen kennen), Fertigkeiten (Al-gorithmen nutzen und anwenden können) und Fähigkeiten (Algorithmen in ihrer Auswir-kung reflektieren und ethisch und digital-hermeneutisch beurteilen können). Das führt zu einer digitalen Souveränität und Handlungsfähigkeit. Diese gehört zum Recht auf lebens-langes Lernen und Bildung für jeden Menschen (SDG 4) in jedem Lebensalter. Daher gilt es, dieses Recht auf Bildung zur kompetenten Orientierung politisch aufzunehmen und bildungsstrukturell zu verankern. Alle Generationen müssen in diesen Prozess einbezogen werden. 

Des weiteren gilt es: 

• Die personale Kompetenz zu fördern und Menschen mit Veränderungsoffenheit, Neugier, sozialer Kompetenz und Wertorientierung zu bilden. Hier gewinnt religiöse und ethische Bildung an Bedeutung, die auch das christliche Menschenbild umfassend achtet.
• Durch Vermittlung von Fachwissen müssen breite Bevölkerungsschichten regelrecht aufgeklärt werden, um eine gesellschaftliche Teilhabe an und Akzeptanz von KI zu er-reichen. Ziel sollte es sein, eine Polarisierung zwischen "KI-Verlierenden" und "KI-Gewinnenden" i. S. eines "Digital Divide" von vornherein zu vermeiden und Brücken zwischen unterschiedlichen gesellschaftlichen Gruppen zu bauen. Dazu braucht es mehr Lehrkräfte mit einschlägiger technischer Expertise.
• Konkret sind mit KI-Kompetenz ("AI-Literacy") gemeint: (1) Verantwortungskompetenz,
  (2) Reflexionskompetenz mit dem Ziel der Urteilsfähigkeit, Mündigkeit und Souveränität im Umgang mit und der Gestaltung von KI, (3) Kommunikations- und Kooperationskom-petenz, um gemeinschaftlich zukunftsorientierte und verantwortungsvolle Lösungen zu entwickeln, (4) Prozesskompetenz, i. S. der in (1) bis (3) beschriebenen europäischen Prozesskultur, (5) Gestaltungs- und Spezifizierungskompetenz für die mitbestimmte Entwicklung KI-gestützter betrieblicher Abläufe, (6) als Fähigkeit, KI technologisch sach-lich und inhaltlich zu verstehen.
• Neue Formen des Lernens wie z. B. die Vielfalt der digitalen Bildungsportale oder konkre-ter Projekte (eigene Forschungen, Ausbildung zum Hacken …) sind intensiv zu fördern.
• Die digitale Fachkompetenz im Miteinander der Disziplinen, Fächer und kulturellen Techniken des Menschen, über die der kreative Umgang mit Komplexität und Ambigui-tät gelernt wird, muss weiterentwickelt werden.

KI stellt Anforderungen an Individuen, Institutionen und Gesellschaft. Die Auswirkungen auf Meinungsbildung, Geschwindigkeit von Informationsbeschaffung, -verarbeitung und -verbreitung, Konsensbildung etc. müssen auf allen Ebenen in den Blick genommen wer-den. KI kann Fake-News ebenso produzieren wie sie entlarven. Eine KI-basierte Schluss-folgerung muss überprüfbar sein. Die Prozesshaftigkeit dieser Vorgänge braucht Zeit.

Die Chancen, die KI z. B. im Bereich der Medizin, der Automatisierung von redundanten Tätigkeiten bietet, dürfen nicht den kritischen Blick auf mögliche gesellschaftliche Konse-quenzen dieser Technologie verdecken. So ist kritisch zu sehen, dass die Nutzung und Entwicklung von KI durch große global agierende Unternehmen getrieben wird und sich der gesellschaftlichen Mitgestaltung und Kontrolle weitgehend entziehen kann. 

1.3 Kritische Erfolgsfaktoren für den Einsatz von KI
Die gesellschaftliche Verständigung auf eine gemeinsame Wirklichkeit ändert sich durch Digitalisierung und KI. Wir benötigen Raum und Zeit für Konsensbildung und geteilte Er-fahrungen. Wenn wir digital miteinander kommunizieren, mit einem Computer die Welt er-kunden, brauchen wir die Mittel, unsere Gesellschaft im Dialog zu halten.

Ein Gütesiegel für eine ethische KI und eine digitale Hermeneutik können hilfreiche und machtvolle Instrumente sein, menschliche Errungenschaften mit KI zu teilen. 

2.1 Ausgangslage
KI ist eine Schlüsseltechnologie, die viele Chancen bietet und ein dynamisierender Faktor unserer wirtschaftlichen Entwicklung in Deutschland, Europa und in der Welt der nächsten Jahrzehnte sein kann. In Wirtschaft und Verwaltung bietet sie die Chance, Arbeitsabläufe noch viel stärker als bisher zu automatisieren und damit unser Land und unsere Wirtschaft wettbewerbsfähiger zu machen. Belastende Routinetätigkeiten und schwere körperliche Arbeit werden zunehmend zugunsten von höherqualifizierten Tätigkeiten verschwinden. 
Die Komplexität und Veränderungsgeschwindigkeit von KI führt jedoch in Teilen der Ge-sellschaft zu Unsicherheit, Angst und Bedenken – insbesondere zu der Sorge, dass der Ein-satz von KI einen Abbau zahlreicher – auch hochqualifizierter – Arbeitsplätze mit sich bringen könnte. Weitere ethische und soziale Spannungsfelder ergeben sich bspw. hinsichtlich einer potentiellen Überwachung von Mitarbeiterinnen und Mitarbeitern, der Privatsphäre von Kun-dinnen und Kunden, dem Einsatz von KI in sensiblen Branchen (z. B. Rüstungsindustrie), etc. Zudem stellt sich die Frage, welche Auswirkungen diese Entwicklungen auf die Auto-nomie von Unternehmen und ihren Mitarbeiterinnen und Mitarbeitern haben. Ebenso ist zu beantworten, wie – im Sinne der "Triple-Bottom-Line" – ein Nutzen ("Impact") auf wirtschaft-licher, sozialer und ökologischer Ebene zu erzielen ist. Auch geht es um die Frage, wie ein europäischer Weg beschritten werden kann. Was sind die Voraussetzungen dafür, dass in Deutschland im internationalen Wettbewerb mit den USA und China ein zukunftsorientier-ter, verantwortlicher und protestantischer Weg aktiv mitgestaltet werden kann? 

2.2 Zielsetzung
Im Vordergrund sollte das Ziel stehen, die sich durch KI ergebenden Chancen für Mensch, Wirtschaft, Gesellschaft und Umwelt zuversichtlich zu ergreifen. Unternehmen können durch die zielgerichtete Nutzung von KI ihre internationale Wettbewerbsfähigkeit stärken. Insofern sollte also nicht die Frage im Vordergrund stehen, ob wir KI in Wirtschaft und Ge-sellschaft einsetzen, sondern wie wir sie zukunftsorientiert ausgestalten. KI soll den Men-schen in ihrem Lebenswandel dienen, Beschäftigung und Qualifikation fördern, Wettbe-werbsfähigkeit sichern und unternehmerisches Handeln unterstützen. Hierbei gilt es, die Stärken und die Vielfalt des deutschen Wirtschaftssystems im Kontext des globalen Wirt-schaftssystems zu nutzen. Dies sind zum einen die Prinzipien der Sozialen Marktwirt-schaft, zum anderen aber auch das erfolgreiche Zusammenspiel von global agierenden Großunternehmen, dem Handwerk und dem Mittelstand als Rückgrat der deutschen Wirt-schaft. Zudem können das in der Europäischen Wirtschaft verbreitete systematische Pro-zessmanagement, die tiefe inhaltliche Durchdringung betrieblicher und technologischer Prozessabläufe und deren auf Qualität ausgerichtete Standardisierung einen definierten Rahmen für KI-unterstütze Abläufe in den Unternehmen bilden. Diese europäische Pro-zesskultur kann als eine Kernkompetenz einen Wettbewerbsvorteil im internationalen Ver-gleich ermöglichen. 

Kompetenzentwicklung durch umfangreiche Bildung: Wie im Bereich "Bildung & Gesellschaft" beschrieben, muss personale Kompetenz gefördert werden. Um im Rahmen der in Deutschland erfolgreichen Mitbestimmung bei der Neugestaltung betrieblicher Abläufe mit KI zu besseren und akzeptierteren Lösungen zu kommen, muss Wissen insbesondere an die betrieblichen Interessensvertreter vermittelt werden. Hierzu zählen die bereits im Be-reich Bildung genannten Kompetenzen: 

• Verantwortungskompetenz,
• Reflexionskompetenz mit dem Ziel der Urteilsfähigkeit, Mündigkeit und Souveränität im Umgang mit und der Gestaltung von KI,
• Kommunikations- und Kooperationskompetenz, um gemeinschaftlich zukunftsorientierte und verantwortungsvolle Lösungen zu entwickeln,
• Prozesskompetenz, i. S. der vorstehend genannten europäischen Prozesskultur,
• Gestaltungs- und Spezifizierungskompetenz für die mitbestimmte Entwicklung KI-gestützter betrieblicher Abläufe,
• KI-Kompetenz ("AI-Literacy") als Fähigkeit, KI technologisch, sachlich und inhaltlich zu verstehen. KI-Kompetenz stellt somit die Grundlage für die Entwicklung der anderen vorgenannten Kompetenzen dar.

2.3 Kritische Erfolgsfaktoren für den Einsatz von KI 

• Humanistischer Mindset, Aufklärung im klassischen Sinne, um weite Teile der Gesell-schaft KI-mündig werden lassen zu können,
• Bildung i. S. eines umfassenden lebenslangen Lernens,
• Transparenz und Erklärbarkeit als Grundlage für Vertrauen (z. B. durch eine anbieter-seitige Kennzeichnungspflicht bei Nutzung von KI),
• Vorurteilsfreiheit ("Freedom from Bias / Prejudice"), um ergebnisoffen unter Berücksich-tigung unterschiedlicher Bedarfslagen verantwortungsvolle KI-Lösungen zu entwickeln,
• Schaffen von Kompensationsmechanismen für kurzfristige "KI-Verlierende",
• Einbeziehung des Mittelstands und Handwerks anstelle einer Fokussierung auf Großun-ternehmen,
• zukunftsorientierte Weiterentwicklung der in Deutschland erfolgreich praktizierten Mit-bestimmung.

Ethische Prinzipien sollten konkret auf die Aufgaben der Unternehmen bezogen werden und bei der Entwicklung und organisierten Einführung von KI-Systemen eine Rolle spielen. Es empfiehlt sich, eine Vielfalt ethischer Ansätze hierbei zu berücksichtigen, hierzu zählen insbesondere protestantische Verantwortungsethik, Gesinnungsethik, utilitaristische An-sätze, Daten- und Maschinenethik sowie ggf. die UN SDGs. Letztere bringen aufgrund ih-rer weltweiten, kulturraumübergreifenden Verbreitung die Chance einer internationalen Verständigung auf ethische Mindeststandards mit sich. Für Unternehmen können die "Ethics Guidelines für Trustworthy AI" der EU einen wichtigen Orientierungspunkt darstel-len. Von einer protestantischen, zukunftsgewandten Verantwortungsethik kann ein Gestal-tungsbeitrag ausgehen. Hierbei kann der Austausch mit Kirche und Diakonie fruchtbare Impulse liefern. 

3.1 Ausgangslage
Im Übergang von Digitalisierung zum Einsatz von KI in Verwaltungs- und Beratungsvor-gängen liegen Entwicklungspotentiale. Die in den Kirchen und in diakonischen Einrichtun-gen vorhandenen Daten können durch entsprechende Möglichkeiten intelligenter Daten-analyse stärker für die Spezifizierung von Angeboten, Verbesserung der Kommunikation und effiziente Planung und Nutzung von Ressourcen und Kapazitäten verwendet werden. Nutzung von KI kann auch zur Optimierung der Organisation religiöser Kommunikation dienen, indem sie zur Datenanalyse in der Mitglieder- und öffentlichen Kommunikation und zu deren adressatengerechter Ausrichtung verwendet wird. Dies setzt die Fähigkeit zu komplexerer personaler Kommunikation voraus, die durch KI unterstützt, nicht aber ersetzt werden kann, wie im Bereich Bildung und Gesellschaft beschrieben. Dies könnte in Projek-ten der zielgruppenspezifischen Mitgliederkommunikation beispielsweise im Rahmen von "Kasualagenturen" konkret erprobt werden. 

Wenn der Einsatz "intelligenter Systeme" in Zusammenarbeit mit anderen Entwicklern und Anwendern erfolgt (z. B. Visualisierung von Kirchen in Routenplanern, Gemeinde-Apps), muss die Frage des Datenschutzes und der Datensicherheit geklärt sein. Unter den Bedin-gungen des Datenschutzes könnten die vorliegenden Daten mit Hilfe von KI sinnvoll und nutzbringend ausgewertet und für ein Training von lernenden Systemen eingesetzt wer-den. Datenanalyse könnte - zusätzlich zur "analogen Beobachtung" - für die Analyse und Beschreibung des Sozialraums kirchlicher und diakonischer Praxis für die Entwicklung menschendienlicher Angebote stärker genutzt werden, unter Beachtung der Grundsätze des Datenschutzes und der freien Selbstbestimmung der Menschen. Dies könnte - analog zur "customer journey" - zur individuellen Abstimmung der Kommunikation mit den Men-schen (bzw. Mitgliedern) beitragen und die kirchliche Kommunikation erweitern und stärken.

3.2 Zielsetzung
Kirche hat eine hohe Qualität in der Begleitung von Menschen im Lauf ihres Lebens. Wenn diese Fähigkeit in die Digitalisierung übertragen wird, muss die informationelle Selbstbe-stimmung der Menschen in der "member journey" bei den Mitgliedern erhalten bleiben! Beim Einsatz von KI in Kommunikations-, Beratungs- und Entscheidungszusammenhän-gen muss die "Subjektqualität", der Spielraum zur eigenen Entscheidung, gewahrt bleiben. Eine Aufgabe besteht darin, in der theologischen Ausbildung die Fokussierung auf Spra-che auf Kommunikation zu erweitern und darin auch digitale Kommunikation einzubezie-hen. Die (noch herzustellende) Kompetenz zum Umgang mit Digitalisierung und KI-Systemen kann aber nicht allein auf Theologinnen und Theologen ruhen, vielmehr liegt sie bei allen Mitgliedern, die in diesem Bereich professionell kompetent sind. 

In der Diakonie verspricht KI großen Nutzen: Sie hilft, Prozesse zu verbessern, Arbeit zu erleichtern, neue Dienstleistungen zu erschließen sowie Lebensqualität und Sicherheit zu erhöhen. Dabei geht es darum, Einsatzgebiete auszuloten, in denen die Anwendung sinn-voll Menschen unterstützt, ergänzt oder ihr Fehlen (etwa in der Pflege) ersetzt. Sie kann die Pflegenden von belastenden Routinen befreien und ihnen mehr Raum für menschliche Zuwendung ermöglichen. Dabei ist die Orientierung an den Bedürfnissen der Menschen entscheidend, in der die Unterscheidung zwischen einem menschlichen und einem techni-schen Gegenüber transparent sein muss und der Entscheidung der Betroffenen untersteht. 

Der Einsatz von KI in Kirche und Diakonie kann zum Modell einer ethischen Verwendung dienen, sofern er gerade hier unter strenger Orientierung am Kriterium der menschlichen Autonomie und Erhaltung und Erweiterung von Freiheitsräumen erfolgt.  

3.3 Kritische Erfolgsfaktoren 
Kirche kann sich an diesem Diskurs nur dann beteiligen, wenn sie bereit ist, qualifiziert in die Auseinandersetzung mit Akteuren in Entwicklung und Anwendung (Informatik, Natur- und Technikwissenschaften, Wirtschaft) zu treten, um sich mit ihrer Werthaltung der Men-schendienlichkeit, dem christlichen Menschenbild und der Orientierung an Autonomie, Ge-rechtigkeit, Nachhaltigkeit einzubringen. Dazu muss sie … 

• Forschungs- und Entwicklungsinteressen bewerten, die der Formulierung von Zielen und der Vergabe von Ressourcen zugrunde gelegt werden.
• Entwicklungs- und Anwendungsprozesse ethisch begleiten, um eine Gestaltung von Technik zu erlangen, die sich am Nutzen für die gesamte Gesellschaft orientiert.

Mit der Orientierung am christlichen Menschenbild trägt die Gestaltung der Technik zu-gleich der menschlichen Fähigkeit und Kreativität Rechnung, wie der Verletzlichkeit und Endlichkeit des Menschen.