Folge 8: „Wer steuert wen?“ Über KI, Ethik, Alignment und die Zukunft menschlicher Entscheidungen

00:00:02:

00:00:04: Willkommen zu einer neuen Folge von Mind Meets Machine, dem KI-Podcast der EuroFR.

00:00:09: Indem wir über die Zukunft von Bildung Arbeit und Gesellschaft im Zeitalter der künstlichen Intelligenz sprechen.

00:00:15: Am Mikrofon sind wieder Werder Lenz-Keselkamp, meine Wenigkeit.

00:00:19: ich bin Präsidentin der Euro FH und habe mit dabei wieder meine Kollegin Julia Jochim.

00:00:24: Ja, und ich bin Julia.

00:00:26: Ich leite das KI-Team der EuroFH und bin mit Vera eigentlich jeden Tag an diesem Thema dran!

00:00:32: Und unser heutiger Gast ist Professor Dr.

00:00:36: Maximea in Kino, Leiter des Institute for Ethics and Technology at Hamburg University of Technology.

00:00:42: Max stelle ich doch gerne nochmal selber vor und was du so alles machst?

00:00:46: Ja, erstmal vielen Dank für die Einladung.

00:00:47: Ich freue mich sehr heute mit euch über diese Themen zu sprechen.

00:00:50: Wie schon erwähnt leite ich das Institut for Ethics in Technology an der TU Hamburg.

00:00:55: Bin von meinem Background her ein Philosoph und beschäftige mich mit vielen verschiedenen Technologien vor allem bei künstlicher Intelligenz und wie wir deren Potenzial am besten ausnutzen.

00:01:07: Das Thema Ethik in der Technologie ist ja einer deiner Schwerpunkte.

00:01:12: Wie gehst du denn da an dieses Thema ran?

00:01:14: Wo genau vorschdu, wie tief bist du in dem Thema drin.

00:01:20: Ja der Kern vieler Projekte an unserem Institut ist die Frage welche Rolle spielt Ethik eigentlich für die Innovationen der künstlichen Intelligenz?

00:01:28: und wenn wir heute über Technik und Ethik sprechen dann sehen viele sofort den Zeigefinger, die roten Linien, die Leitplanken also genau das was wir nicht machen dürfen.

00:01:38: Was mich beschäftigt nachts wach hält und auch gleichsam begeistert ist die Frage über das mal umkehren können.

00:01:44: Was passiert, wenn Ethik nicht die Leitplanke ist sie nur begrenzt sondern das Rollfeld das auch beschleunigt und nach vorne denken kann?

00:01:51: Und wir denken dass an vielen Entwicklungsstufen und Anwendungsszenarien Ethik eine positive Vision geben kann wie vielerlei Technologien nicht nur künstliche Intelligenz aber vor allem eben künstlich Intelligenze so gestaltet werden kann dass sie uns besser nützt Vorteile bringt nicht gewinnbringende Rolle in unserer Gesellschaft spielen kann.

00:02:13: und das sind Projekte von Technologien der Medizin, Mobilität die Zukunft des Staates, Zukunft der Arbeitswelt aber natürlich auch Fragen von Verantwortung und Gesellschaft.

00:02:24: Und KI du hast ja gerade selber gesagt viele Leute sehen... Etik da eher als das begrenzende Element.

00:02:32: Viele Leute begegnen KI auch mit einem ziemlich großen Skepsis, was ist es, was KI gerade so im Kontext von Ethik und Moral so herausfordernd macht?

00:02:41: Weil sie ist ja nicht die erste Technologie, die unser Leben verändert aber KI wird ja von vielen Menschen doch als besonders herausfordernde in dieser Hinsicht empfunden.

00:02:50: Ja also ich denke dass es wohl eine Kombination aus drei Faktoren, die sich in verschiedenen Kontexten wiederholt.

00:02:56: Das ist Skalierung In Transparenz und scheinbare Neutralität, also KI-Skaliertentscheidungen.

00:03:03: Ein Mensch der bisweilen falsch urteilt wird dann mal korrigiert und ist vielleicht einer unter vielen.

00:03:09: aber ein KI System das weit ausgerollt wird und falsch urteil kann das für Millionen Menschen tun.

00:03:16: bei der Auswahl von Bewerberinnen beispielsweise durch Algorithmen befürchten wir, dass sich eine Art algorythmische Monokultur einstellen könnte und diese Art der Skalierung im Guten wie im Schlechten ist ein Faktor, das er herausfordernd macht.

00:03:30: Zudem kommt es dies KI-Systeme die wir in den Schlagzeilen finden, die am leistungsfähigsten sind leider auch diesen, die wir oftmals in Einzelfällen am wenigsten verstehen können.

00:03:42: also Stichwort erklärbare KI.

00:03:45: Und das ist auch eine Herausforderung weil wir entscheiden müssen Wie gehen wir eigentlich mit einer Technologie um?

00:03:50: Die in der Zusammenschau vielleicht viele Vorteile liefert, aber uns oftmals zu wenig Einsicht, Transparenz oder Erklärbarkeit gibt.

00:03:59: Und der letzte Punkt, der mich auch sehr beschäftigt ist die manchmal proklamierte, aber eigentlich nur scheinbare Neutralität dieser Technologie – also KI und andere Technologien haben sehr viele technische Details, aber oftmals sind dort Werteentscheidungen versteckt manchmal gar nicht so leicht zu erkennen sind.

00:04:21: Also begonnen mit der Frage, was wollen wir eigentlich mit diesem Tool?

00:04:25: Wer ist es eigentlich wie genau in den Trainingsdaten vertreten?

00:04:28: Wie validieren wir das eigentlich und welche Kompromisse oder sogenannte Trade-offs sind wir bereit einzugehen?

00:04:35: Und in all diesen Punkten zeigt KI nicht nur eine größere Ausmaß auf sondern mitunter auch neue Kategorien die wir Ethik oder auch in der Regulation noch gar nicht adressieren konnten.

00:04:51: Und wenn man das jetzt so aus deiner Warte betrachtet, was war deine Reaktion als KI auf der Bildfläche erschienen?

00:04:57: War es total spannend?

00:04:59: oder was kommt da auf uns zu?

00:05:01: und was war so deine erste Reaktionen?

00:05:03: Also ich war zunächst ganz im Wow Moment gefasst.

00:05:06: Immer wieder haben wir doch diese Momente.

00:05:08: wo wird den Eindruck gewinnen Das hätten wir doch nicht für möglich gehalten.

00:05:12: Dass eine Technologie derart Sprache produziert, immer unabhängiger von direkter menschlicher Kontrolle wird und selbst in Bereiche eintringt die ja eigentlich das Territorium für den Menschen allein gedacht hätte.

00:05:28: Kreative Tätigkeiten, wissenschaftliche Tätigkeit.

00:05:32: Ich befinde mich so glaube ich wie viele in einer Hin- und Herbewegung zwischen diesen Warmomenten des Optimismus und der Frage eines H. Und nicht wie verwenden wir das jetzt tatsächlich?

00:05:44: Künstliche Intelligenz wird immer als diese Allzweckwaffe präsentiert, dass Allzwerk-Tool das alles kann.

00:05:49: aber was jetzt doch sehr wichtig ist es genauer herauszufinden für welche Aufgaben ist KI überhaupt geeignet?

00:05:56: Was meinen wir eigentlich mit KI um dort eine deutlich gezieltere und an den Menschen angepasste Anwendung zu finden?

00:06:04: unter dem Strich denke ich aber gehört zu denen, die optimistisch über diese Technologie nachdenken und trotz vieler signifikanteres Risiken doch das große Potenzial sehen.

00:06:15: Und das ist glaube ich auch wirklich ein Thema.

00:06:17: also viele Menschen sehen ja bei dem Thema KI vor nämlich diesen Effekt der Produktivität und der Effizienz und du hast ja auch gerade schon beleuchtet dass es für dich eher wirklich auch um diese ethische Dimension geht.

00:06:33: Übersehen wir denn in der allgemeinen Debatte rund um das Thema KI vielleicht auch wichtige Aspekte?

00:06:40: Also ich glaube, dass in den Aspekten der Effizienz und Produktivität bereits ethische Werte liegen.

00:06:45: Wir wollen unser Ziel mit möglichst geringem Mittelaufwand erreichen.

00:06:50: Und wenn das Ziele sind wie eine bessere Gesundheitsversorgung, besserer Zugang zur öffentlichen Verwaltung dann ist es eine Bereitstellung von Gütern die verfolgungswert ist und auch Produktivitätsgewinne sind Dinge, die doch auch sehr wertvoll sind.

00:07:05: Die Frage ist immer zu welchen Preis und auf welche Kosten erkaufen wir das?

00:07:10: Also die Rhetorik der Effizienz um Produktivität maskiert zu wahlen, welche anderen Dinge dann auch noch eine Rolle spielen also ist das auch nachhaltig.

00:07:18: Das inklusiv ist das gerecht und was wir eventuell in der Debatte manchmal übersehen isst wie wir mit vielleicht quantifizierten Metriken oder einfachen Zieldarstellungen impliziert Werteentscheidungen treffen, gesellschaftliche Weichen stellen ohne das wirklich offen zu leben.

00:07:35: Und das halte ich für eine der größten Risiken im Bereich künstlicher Intelligenz, dass gesellschaftlichen Fragen derart technisiert dargestellt werden, dass sie für uns nicht mehr verhandelbar werden.

00:07:48: Ja und KI-Systeme... Die beeinflussen ja heute zunehmend auch, wie wir Informationen überhaupt wahrnehmen.

00:07:54: Wie wir Entscheidungen treffen oder Realität interpretieren?

00:07:57: Also ich habe immer mehr Kollegen die sagen Ja, ich hab halt GPD gefragt oder so.

00:08:02: und die Frage ist ja verändert KI damit auch unsere Verständnis der Welt und unserer Realität.

00:08:11: Ich denke auf viele verschiedene Weisen also zunächst mal durch diese ganzen Empfehlungssysteme der Recommender Systems und der Kuratierung von Information was sehen wir überhaupt noch?

00:08:21: sind die Informationen, die ich in meinem News Feed sehe eigentlich noch die gleichen, die mein Nachbar und meinen Kollegen sieht.

00:08:28: Also durch die Filterung und Kuratierung der Information haben wir schon mal nur einen Ausschnitt und riskieren in gewisser Weise die Fragmentierung des öffentlichen Raums damit.

00:08:40: Dahin zukommt dass viele KI-Systeme immer stärker auf Personalisierungen drängen Und damit ja auch ein gewisses Beeinflussungspotenzial haben.

00:08:50: Also die Linie zwischen Informieren oder Fakten wahrnehmen und beeinflusst werden, wird immer dünner und lässt sich vielleicht aus der eigenen Perspektive gar nicht mehr nachvollziehen oder auseinanderhalten.

00:09:07: Der letzte Punkt, den ich gerne erwähnen würde wäre auch nicht mit ChatGPT.

00:09:10: was macht eigentlich so ein System?

00:09:12: Wenn viele das jetzt als Suchmaschine verwenden oder glauben alles was da rauskommt, kann man jetzt für Bade Münze nehmen ist das natürlich gefährlich.

00:09:22: Auch wenn die sogenannten Risiken der Halluzination also der falschen Darstellung von Informationen im plausiblen Ton gesunken sind dann bestehen sie noch immer noch.

00:09:32: und hier sehen wir dass bestimmte Risiken Gar nicht notwendigerweise nur in der Technologie selbst liegen, sondern im Gebrauch, der nicht hinreichend informiert ist.

00:09:43: Also es gibt natürlich KI-Systeme die sehr tolle Sachen machen aber wenn ich deren Arbeitsweise, Funktionsweise und Limitationen nicht verstehe dann wird's sehr gefährlich.

00:09:55: Man sieht das ja auch wirklich, dass immer mehr Menschen es nicht nur zur Information benutzen sondern tatsächlich als Ratgeber.

00:10:01: Und an der Front wird's dann schon tendenziell ein bisschen gefährlich oder kritisch letzten Endes wenn ich mich auf den Rat einer Wahrscheinlichkeitsmaschine verlasse.

00:10:11: Ja und wir müssen verschiedene Arten von Problemfragstellung unterscheiden.

00:10:16: für einige ist KI sehr gut geeignet für andere eben überhaupt nicht.

00:10:20: also wenn wir Herausforderungen haben die sich als Optimierungsprobleme beschreiben lassen, dann sind KI Systeme sehr gut.

00:10:27: Ein klassisches Beispiel wäre GPS Navigation.

00:10:31: Wie komme ich von A nach B?

00:10:33: Da nicht b steht fest.

00:10:34: Ich muss zum Zahnarzt da kann ich jetzt nichts mehr machen.

00:10:37: Was ist die schnellste Route?

00:10:39: Da ist KI wirklich gut und es wär fast nicht irrational das nicht zu nutzen.

00:10:44: Auf der anderen Seite des Spektrums Wenn es um persönliche Radschläge geht haben wir eine ganz andere Situation also Fragen wie Welchen Beruf soll ich eigentlich verfolgen?

00:10:54: Sollte ich meiner Partnerin jetzt einen Antrag machen, welche Therapieoption wäre die beste für mich.

00:10:59: Das sind keine Optimierungsprobleme, keine Informationsverarbeitungsprobleme sondern das sind komplexe realweltliche Herausforderungen, die auch erfordern dass ich mich als Person zu einer gewissen Option auf Verpflichten diese mit einer Wertsetzung dann verfolge.

00:11:16: ChatGPT zu fragen welchem Beruf ich denn verfolgen sollte.

00:11:19: Das ist eigentlich eine schlechte Idee, weil der eben nur Wörter assoziiert aber genau das nicht kann was diese Art von Entscheidungen von mir erfordert.

00:11:29: und hier sehen wir auch wieder einen Punkt den wir glaube ich im Gespräch jetzt auch schon mal auf der ein oder anderen Stelle angeschnitten haben Wir behandeln Diese Fragen als KI-Fragen oder Computerfragen oder Chatbot fragen.

00:11:43: es sind aber keine Herausforderung die Wertsetzung durch den Menschen erfordern und da kann die KI nicht helfen.

00:11:51: Und wir müssen euch noch besser verstehen in welchen Entscheidungen oder Entscheidungsbestandteilen KI wirklich sehr, sehr gut helfen kann stichwort Optimierungsprobleme und wo KI einfach nicht helfen kann Stichwort Wertsetzungen.

00:12:05: also KI kann rechnen der Mensch muss entscheiden.

00:12:09: Das sind nicht ganz spannend, was du sagst und vor allen Dingen auch mit dem Begriff, den du vorher genannt hattest.

00:12:13: Also zum Thema scheinbare Neutralität weil das ist ja auch tatsächlich so.

00:12:18: Das merkt man ja auch wenn man sich intensiv mit dem Thema KI oder Nutzung von KI auseinandersetzt dass die Wahrnehmung ist es doch all das was an Output kommt neutral oder objektiv ist also für Vertrauen der KI immens.

00:12:36: Und dennoch schwebt ja dann, wie du es auch gerade gesagt hast.

00:12:38: Es schwebte die menschliche Perspektive der Entscheidungsfindung immer noch mit dabei.

00:12:47: und mit welchen Mechanismen forbt denn auch KI ganz subtil unsere Wahrnehmungen?

00:12:52: Du hast ja von Fakten gesprochen, dass wir Fakta wahrnehmen.

00:12:57: welche Mechanismus stecken denn da noch dahinter?

00:13:00: Also zunächst glaube ich die die Ramung oder das Verständnis des Problems, dass dann bestimmte Aspekte erstmal ausgeschlossen werden.

00:13:08: Gar nicht mehr präsentiert werden.

00:13:10: Es formt unsere Wahrnehmungen in dem es auch unseren menschlichen Rollen beeinflusst.

00:13:14: also was passiert eigentlich mit uns wenn wir KI einsetzen?

00:13:20: Wir erledigen die Aufgaben nicht mehr komplett selber sondern nur noch Teil- oder gar nichts mehr oder wir besichtigen, haben nur noch mehr aufsicht.

00:13:28: Eine menschliche Aufsicht über diese Aufgaben.

00:13:30: und was mitunter passieren kann ist dass wir damit von den Gründen, den Fakten, den wichtigen Dingen für diese Entscheidung auch ein bisschen abgeschnitten sind.

00:13:39: also man könnte das vielleicht im folgenden Bild ausdrücken Also wenn ich jetzt so eine Art Staffellauf habe dann ergibt mir der Läufer vor mir die Staffel Und ich muss gar nicht wissen wo er jetzt entlang gelaufen ist.

00:13:51: Ich nehme einfach den Stab und laufe weiter.

00:13:54: Wenn wir das jetzt auf die Aufteilung von komplexen Aufgaben übertragen, dann können wir sagen okay, die KI erledigt jetzt mal den ersten Schritt.

00:14:01: Ich übernehme den nächsten und mache da weiter.

00:14:03: Aber viele Aufgaben entsprechen nicht diesem Modell weil wir wissen müssen was zuvor geschehen ist wie es dazu kam wie das Problem auch geframed wurde.

00:14:13: Wir entsprechen eher eine Struktur wie das nächste Kapitel in einem Buch zu schreiben.

00:14:17: Und ich kann natürlich schlecht Kapitel sieben schreiben wenn ich überhaupt nicht weiß was in Kapitel eins bis sechs passiert ist Und genau an diesen Stellen, wo das nicht ernst genommen wird wie wir Probleme hinreichend komplex verstehen.

00:14:29: Wie wir menschliche Rollen hinreichends gestalten.

00:14:33: Dort entstehen Probleme und diese Probleme und Risiken.

00:14:37: für die kann man aber nicht allein die Technologie verantwortlich machen weil sie ist eben limitiert in ihren rollen beschrieben.

00:14:43: Hier müssen wir besser passgenauer die Schnittstelle von KI und Mensch verstehen.

00:14:47: Das ist auch eine unheimliche Chance und ich glaube der nächste Große Innovationssprung in der Technologie wird nicht allein im Code oder in der technischen Architektur gelingen, sondern auch in einem besseren... Das möchte ich auch explizit sagen.

00:15:01: Ein besser philosophischer Verständnis was Rationalität und Menschlichkeit bedeutet.

00:15:07: Es wird ja viel über Alignment gesprochen gerade weil du Menschlichkeit erwähnt hast also darüber dass KI sich an menschlichen Werten ausrichten soll.

00:15:16: Dadurch stellt sich dann immer sofort die Frage Wessenwerte eigentlich.

00:15:19: Weil wir hatten ja auch schon das Thema, dass KI nicht neutral oder objektiv ist sondern ja auch geformt ist von den Trainingsdaten und je nachdem welche KI es ist – wir wissen ja, es gibt eher links ausgerichtete Latch-Language-Modelle, eher rechtsausgerichtende d.h.

00:15:36: WessenWerte werden eigentlich gespiegelt und letzten Endes Wissen wir das ja gar nicht unbedingt, wenn wir eben einen Sprachmodell benutzen?

00:15:44: Was für ein Wertesystem der letzten eines dahinter steht.

00:15:47: Ja und hier wäre Transparenz gefragt und natürlich innerhalb einer Demokratie gibt es den sogenannten vernünftigen Pluralismus also eine Ansammlung von verschiedenen weltanschaulichen Theorien oder Sichtweisen über die wir jetzt nachträglich nicht vollkommen entscheiden können ob es die eine objektiv Richtige gibt.

00:16:06: Die gibt's vielleicht auch gar nicht Und insofern sieht man, dass die ethische Perspektive auf Technologie auch eine demokratische oder regulatorische Funktion hat.

00:16:16: Also wir müssen natürlich auch als Gesellschaft über diesen Wertekonsens entscheiden.

00:16:21: und die Frage, wessen Werte eigentlich relevant sein sollen?

00:16:26: Das ist ja nicht nur eine Frage, die jetzt auf die KI-Technologie Anwendung findet sondern die werden unseren Gesellschaften bei ganz verschiedenen Fragen in vielerlei Weise kennen.

00:16:36: Ein Hinweis würde ich aber gerne noch geben.

00:16:38: Ich glaube nicht, dass ethische Werte, wenn wir fragen Westenwerte einfach subjektive Persönlichkeits-Einstellungen sind über die wir uns nicht verständigen können.

00:16:47: Ethische Wertes sind nicht wie Geschmackspräferenzen.

00:16:49: also die Unterscheidung zwischen den nicht der Vorliebe für Vanille oder Schokolade das ist eine ganz andere Sache und ich finde man kann diesen Unterschied auch ganz genau daran erkennen wie wir miteinander über Werte streiten und Meinungsverschiedenheiten aushalten.

00:17:07: Viele argumentieren, der Umstand der weit umgreifenden Meinungs- verschiedenheiten zu werten zeigt dass es keinen gemeinsamen Nenner gibt.

00:17:16: ich glaube man können das Gegenteil von diesem Umstand ableiten denn wenn wir nicht glauben würden ist gäbe so etwas wie die beste oder eine Art von korrekter Antworten, dann würden wir nie so ernsthaft über Menschenrechte Gerechtigkeit, Transparenz streiten.

00:17:33: Wir würden ja auch nie so Ernst darüber streiten ob uns nun Vanille- oder Schokoladen Eis besser schmeckt.

00:17:39: und der zweite Punkt der mir bei diesem Relativismus der Werte auch wichtig ist das Bekenntnis zum Werterelativismus oftmals als Gebot der Toleranz beschrieben wird oder des gegenseitigen Respekts zu sagen.

00:17:56: Ich habe eben meine Werte, die andere Partei hat eben ihre Werte und wir respektieren uns gegenseite in dem wir das so stehen lassen.

00:18:04: Ich glaube aber auch dass das nicht weit genug gedacht ist denn wer den Wertsrelativismus zu den letzten Grenzen führt würde natürlich auch implizieren, dass wir nichts voneinander lernen können.

00:18:16: Jeder hat seine eigene Werte.

00:18:18: Ich glaube, dass es in einer demokratischen Grundordnung schon auch wichtig ist zu sagen.

00:18:24: Wir sind gemeinsam auf der Suche nach dem was richtig ist und Toleranz und Respekt bedeutet für mich nicht sich in den eigenen Wertessubjektivismus zurückzuziehen sondern den anderen in seiner Perspektive ernstzunehmen zu sagen ich kann ja da vielleicht etwas von dir lernen.

00:18:41: Wobei ja dann gerade so ein Sprachmodell ja auch so ein bisschen die Möglichkeit gibt sich da zurückzu ziehen die das eigene Wertesystem und sich dann auch immer wieder bestätigen zu lassen.

00:18:52: Ja, das sehen wir nicht.

00:18:54: also ChatGPT und andere Sprachmodelle erzählen uns ja immer wie brilliant unsere Ideen sind und werden ja immer bestätigt.

00:19:01: wie toll das ist wird sicher vielleicht auch manchmal gut an aber was das eigentlich mit uns macht ob wir damit bessere Entscheidungen oder Handelnde werden wenn wir dieser Kritik entzogen sind weiß ich auch nicht.

00:19:12: Also ich glaube einerseits bleibt es empirisch abzuwarten ob die Auswirkungen dieser Bestätigungskammern oder Echokammern mit der Technologie schlimmer sind, als sie es vielleicht vorher in den kleinen analogen Gemeinschaften waren.

00:19:28: Das ist ja eine empirische Frage.

00:19:29: ich glaube die wird manchmal zu vorschnell zulasten der Technologie ausgelegt.

00:19:35: Andererseits ist das natürlich aber auch ne philosophisch normativ ethische Frage Wie wollen wir eigentlich dass so ein Sprachmodell mit uns umgeht?

00:19:43: Wollen wir dann eins immer nur sagt boah das war jetzt so eine tolle Idee.

00:19:48: Oder hätten wir doch auch gern eins, dass sagt also ich glaube dieser Gedankenschritt ist nicht so ganz gerechtfertig.

00:19:54: guckt ihr doch den noch mal an?

00:19:57: Ich glaube zumindest im persönlichen Leben schätzen viele von uns doch Freundschaften in denen unsere Freunden auch mal sagt und ich glaub hier liegt es echt daneben mit allem Wohlwollen.

00:20:09: Und im beruflichen Kontexten schätzen wir doch Kollegen Mentoren die sagen Ich glaube, es muss nochmal überlegen.

00:20:17: Vielleicht gibt's da noch einen besseren Weg?

00:20:20: Und das sind Fragen die wir auch mit den Sprachmodellen haben.

00:20:23: also welchen echte Art von Pushback Widerspruch wollen wir?

00:20:27: hier und Da ist glaube ich viel Spielraum und dann ein Tier kann man auch sehen.

00:20:35: Diese Sprachmodelle können ja in ganz verschiedene Richtungen.

00:20:37: in der Hinsicht entwickeln werden Kann auch verschieden entwickelt werden wie stark sie Unsicherheit oder dass nicht vorliegen von Informationen preisgeben.

00:20:46: Und das macht keinen Kostenunterschied oder keinen Unterschied in der technischen Komplexität, aber im ethischen Profil von so einem Sprachmodell wäre das ein riesengroßer Unterschied.

00:20:55: Hier sehen wir ein weiteres Beispiel wie in der Entwicklung im Aufsetzen dieser Technologie weichen gestellt werden die man später auch nicht mehr so leicht zurückdrehen kann.

00:21:07: und all das was du jetzt auch gesagt hast hat ja etwas damit zu tun dass wir in einer gegenseitigen und an eine gemeinschaftlichen Verantwortung stehen Und wenn wir jetzt Entscheidungen auch eher auf KI-Systeme umlagern oder sie vorbereiten lassen, werden wir auf eine gewisse Weise beeinflusst so wie du es ausgeführt hast.

00:21:26: Was macht das mit dem Thema Verantwortung?

00:21:28: Wohin verschiebt sich Verantwortung?

00:21:31: Ja also wir delegieren sehr viele Aufgaben nicht an Technologie weil sie auch immer fähiger wird das komplexe Aufgaben unabhängig von direkter menschlicher Kontrolle zu erledigen.

00:21:42: aber wir dürfen uns Nichts dazu verleiten lassen zu denken, dass die Delegation von Aufgaben Die Delegations von Verantwortung impliziert.

00:21:50: Also die muss immer bei Menschen bleiben und viele befürchten mit der künstlichen Intelligenz die Verantwortungslücke also Fälle in denen KI mit Unterschaden erzeugt aber Verantwortung keine menschen mehr zugeordnet werden kann weil die Kontrolle über diesen Schaden so gering war das das irgendwie unfair erscheinen würde.

00:22:12: Natürlich kann man auch ähnliches bei positiven Dingen sagen.

00:22:15: Also generative KI erzeugt jetzt wissenschaftliches oder kreatives und wer kann dafür überhaupt noch Urheberschaft beantragen, wenn vielleicht nicht mehr hinreichend Input eingeflossen ist?

00:22:26: Meine eigene Ansicht dazu ist dass es keine Verantwortungslücke sondern einen Verantwortungsüberfluss oder eine Verantwortungstiffusion geben kann weil in der Technologie sehr viele Menschen beteiligt sind.

00:22:40: also wir sprechen über Ingenieure, Informatikerinnen, Philosophen, Anwender und alle diese verschiedenen Rollen haben bestimmte Gestaltungsspielräume auch bestimmte Pflichten im Umgang damit.

00:22:53: Und die große Herausforderung auch gesellschaftlicher praktischer Art, die ich sehe ist mit diesem Verantwortungsüberfluss umzugehen wenn einzelne Ereignisse sehr viele Akteure an sich ziehen.

00:23:05: als theoretisch verantwortliche Person meine ich nicht notwendig Haftung oder Schuld, sondern eine Art Verpflichtungen die Rechenschaft abzugeben über das was man mit der Technologie gemacht hat und wie man die entwickelt hat.

00:23:22: Gerade wenn es um Verantwortung geht neigen auch viele Menschen dazu dass tatsächlich auf die KI abzuschieben gerade weil sie ja teilweise sehr menschlich wirkt.

00:23:29: gerade so KI-Avatare und Agendensysteme Man hatte ja wirklich dann auch das Gefühl man hätte da ein wirkliches Gegenüber ist auch entsprechend vertrauensvoll.

00:23:40: Wo siehst du da die Herausforderung?

00:23:41: Also das ist ja wirklich teilweise sehr Richtung Vermenschlichungen, was da passiert im Umgang mit der KI.

00:23:51: Ja wir empfinden es oft als leichter nutzbar wenn die KI dann sehr menschlich wirkt nicht.

00:23:58: So dass Interaktion wird leichter und wir können sprechen oder sehen vielleicht ein Gesicht.

00:24:01: Wir empfinden das auch ein bisschen als unterhaltsam.

00:24:04: Aber genau dann, wenn sie Reaktionen auslöst wie Vertrauen, Empathie, Zuneigung.

00:24:09: Dann ist da eben eine große Täuschungsgefahr weil dahinter steht eben nur eine Technologie.

00:24:15: Dahinter steht kein Mensch.

00:24:16: und es gibt ja mitunter viele Fälle und auch Anwendungen wo die Unterhaltung oder sogar der Beziehungsaufbau mit KI und Abatan zu großen psychischen und anderen Problemen geführt hat.

00:24:28: bei Menschen.

00:24:29: Und ich glaube hier... ist auch wieder wichtig zu verstehen, was können wir von dieser Technik erwarten?

00:24:35: Was können wir nicht erwarten.

00:24:36: Also ich hätte beispielsweise kein Problem damit wenn ich jetzt mit einem KI-Avatar sprechen kann der mir hilft meinen Flug zu buchen, mein Zug zu buchen.

00:24:44: Das ist eine rein transaktionale Sache.

00:24:46: Ich möchte etwas.

00:24:48: Wir haben vielleicht nicht genügend Menschen die im Call Center sind und das machen können Und hier können wir das outsourcen und dass es glaube ich okay so lange wir das verstehen.

00:24:57: Es gibt aber auch Interaktionen zu verstehen in dieser Transaktion, sondern die sind eher relational.

00:25:02: Da geht es um eine Beziehung!

00:25:04: Also wenn ich jetzt hier heute nicht echt sprechen würde, sondern einfach meinen Avatar geschickt hätte... dann hättet ihr euch wahrscheinlich auch gedacht was soll das eigentlich?

00:25:13: Wir wollen hier den Echten oder Wenn ich jetzt einen Avatar erstelle, denen sagen du ruf doch mal meine Familie an Ich bin jetzt gerade auf Dienstreise, ruft sie doch mal an Dann würden sich ja vielleicht auch doof vorkommen wenn ich glaube, dass das einfach so geschehen könnte.

00:25:29: Einige Personen und Unternehmenslenker haben ja von sich selbst so ein liebfake Avatar erstellt und gesagt da können jetzt die Mitarbeiter damit sprechen unter anderem auch, dass sie da einfach mal Dampf ablassen können an diesem Avatar.

00:25:43: aber ich finde hier missversteht man eigentlich was der Avatar leisten kann oder was er nicht leisten kann und es gibt eben bestimmte Momente da erfordert es wirklich den Menschen die Empathie auch das Commitment den anderen zu sehen, gesehen zu werden.

00:25:59: Und hier ist der kluge Einsatz von KI-Technologie wichtig und wir sehen immer wieder dass es einige Anwendungen in diese Grenze übertreten oder nicht verstehen wann es um Transaktion geht und wenn es um Beziehung geht.

00:26:14: Mir wäre es wichtig, dass wir vielleicht noch mal einen anderen Blick auf das Thema Ethik und KI werfen.

00:26:19: Du hattest ganz zu Beginn unseres Gesprächs gesagt Wir denken oft bei Ethik & KI an diese roten Linien die man nicht überschreiten darf Und da man ein gewisses Gefühl, okay die ethische Perspektive auf das Thema KI könnte vielleicht sogar bremsend verstanden werden.

00:26:36: Auf der anderen Seite könnte Ethik aber mit dem Blickwinkel auf KI ja auch ein Innovationstreiber sein?

00:26:44: Wie siehst du das und wohin gehen da auch deine Argumente?

00:26:49: Ja wenn wir über Innovation sprechen dann ist das doch zumindest die Kombination als zwei Aspekten neu und wertvoll.

00:26:57: Also Dinge die nur neu sind, aber nicht wertvoll – das ist keine Innovation!

00:27:01: Und Dinge, die nur wertvoll sind, Aber nicht neue, dass es altes Zeug.

00:27:05: Und Ethik ist der Bereich, also ich verstehe das als philosophische Disziplin, Der sich ganz systematisch mit dem auseinandersetzt was eigentlich wertvoll ist.

00:27:14: Ich tue mich schwer wenn wir technischen Neuerungen sehen Die jeglichen Wert entbeeren und das das Innovation bezeichnen.

00:27:21: Beispielsweise eine kürzliche KI nackt die Fake-Bilder von Kindern erzeugt.

00:27:26: Das mag ja technisch neu sein, aber das ist doch keine Innovation.

00:27:29: Es ist doch absolut wertlos und Ethik eröffnet eben diese Perspektiven darauf was wertvoll ist und es daher eigentlich integral für Innovationen.

00:27:39: viele machen Ethik bezeichnen das gar nicht so und entscheiden das vielleicht unter der Hand.

00:27:45: Was mir in meiner Forschungsarbeit, aber auch in meinem außeruniversitärem Arbeiten mit der Industrie und Politik wichtig ist, ist keine Art von Aktivismus.

00:27:54: Ich maße es mir nicht an anderen zu erzählen was denn richtig oder falsch ist, aber ich möchte dazu beitragen diese ethischen Dimensionen erstmal zu sehen und dann bewusst zu entscheiden.

00:28:06: Denn ich glaube es gibt zwei Mythen über die Ethik, die leider immer noch weit verbreitet sind.

00:28:10: Der erste Mythos ist das Ethik optional ist.

00:28:14: Man kann das machen, wenn man Technologie entwickelt oder man kann es auch nicht machen.

00:28:18: Aber das stimmt nicht.

00:28:19: alle oder sehr viele Entscheidungen in der Entwicklung von KI, außer von Zähnungsdaten, Modellvalidierung und Trade-offs haben eine ethische Dimension.

00:28:29: also die Wahl ist nicht zwischen Machen wir so dann machen wir es nicht sondern machen wir bewusst oder machen bis zufällig.

00:28:37: Und der zweite Mythos ist eben dass Ethik immer nur die Bemsis.

00:28:41: Ethik kann viel mehr, er kann Visionen eröffnen.

00:28:43: Er kann sagen in dieser oder anderen Weise wir hatten das Chatbot Beispiel, ergeben sich neue Möglichkeiten.

00:28:49: also stellen wir uns vor Wir erstellen einen Avatar der Kreativschaffende oder Forschende unterstützen sollen und da wollen wir doch implementieren dass unser Verständnis von kreativität, Rationalität und Verantwortung gefördert ist und dass wir nicht systematisch im eigene Echo-Kammern eingeschlossen werden.

00:29:09: und diese Dinge in der Entwicklung dann auch umzusetzen, zeigt das enorme positive Potenzial der Ethik.

00:29:17: Und im Grunde kommt das alles auf eine Schlussfolgerung Der Ethiker oder die Ethikerin darf nicht mehr wie das in der Vergangenheit oftmals fast in einer Art Karikatur wahrgenommen wurde Die Rolle des Restaurantkritikers haben.

00:29:33: Also der Kritiker setzt sich an den gemachten Tisch Das Essen ist fertig Und das Einzige, was kommt ist eine nachträgliche Insultatsbewertung.

00:29:41: Schmeckt gut mit nicht gut zu wenig Salz.

00:29:44: Am Essen kann das nichts mehr ändern und die Ethik wird manchmal so wahrgenommen.

00:29:48: Die Technologie wird erst mal von ganz anderen Leuten entwickelt und am Schluss kommt die Ethic und sagt, dass es jetzt gut oder schlecht ist.

00:29:55: Aber diese nachtläglichen Insultatbewertungen hilft dir an keiner Weise die Technik, Technologie besser zu machen.

00:30:02: Also wir müssen in die Küche gehen und die Expertise, die in der Ethik und Philosophie liegt, in die technologische Entwicklung bringen.

00:30:09: Und zusammen mit anderen aus der Informatik, den Ingenieurswissenschaften

00:30:14: usw.,

00:30:15: genau diesen Sweetspot finden.

00:30:18: Das ist auch unsere Chance vor allem im Europa im Vergleich mit anderen Artentechnologien zu entwickeln bessere Technologie zu machen, unseren eigenen Werten treu zu bleiben aber auch den Unique Selling Point herauszustellen.

00:30:33: Ich glaube dass wir uns hier mehr Selbstvertrauen leisten können.

00:30:37: Ja und wenn du jetzt so auf die nächsten Jahre blickst welche gesellschaftliche Fähigkeit wird aus deiner Sicht im Umgang mit KI am wichtigsten werden?

00:30:47: Also ich glaube praktisches Urteilsvermögen, kritisches Denken zu sehen was nur plausibel klingt und was wirklich eine Analyse oder nicht den Fakten standhält.

00:31:00: Im Grunde sind wir in einer Situation, die vor über zweitausend Jahren wahrscheinlich auch Socrates hatte.

00:31:07: im Platons Dialogen musste Socrates immer mit den sogenannten Sophisten sprechen also Personen die sehr sehr plausibel sprechen konnten, rhetorisch brillant aber oftmals überhaupt nicht wussten wovon sie sprechen.

00:31:20: Plausibel, rhetoris brillant Aber keine Ahnung das klingt doch noch einigmal Sprachmodellen.

00:31:26: So Kratis hat es immer geschafft, aber da die Spreu vom Weizen zu trennen und mit geschickten Nachfragen sogar aus diesen Personen Wissen herauszulocken.

00:31:36: Also die Heber am Kunst wie man das bezeichnet hat quasi für Ideen die Geburt eingeleitet.

00:31:41: Und das ist eine wichtige Fähigkeit, die wir auch haben müssen.

00:31:45: Wir müssen in dem ganzen Portfuri, in diesem Durcheinander an plausibel klingenden immer stärker homogenisierten Inhalten durch die künstliche Intelligenz, das herausfinden was wirklich ein Gehalt und Substanz hat.

00:31:57: Und dürfen davon nicht Abstand nehmen.

00:32:00: Ich glaube diese Fähigkeit, die auch in unterschiedlichen Disziplinen aber auch der Philosophie vor allem sehr stark trainiert wird, wird darüber entscheiden wie effektiv nützlich künstlich intelligent eingesetzt werden kann.

00:32:16: Denn genau die Person Die die Limitation der künstliche Intelligenz in den einzelnen Anwendungen.

00:32:23: In dieser Weise erkennen können, sind natürlich auch fähig viel größere Mehrwert aus der Technologie heraus zu holen.

00:32:30: Ja da sind richtig schöne Gedanken wie du jetzt auch mit hinein gebracht hast und gute Bilder.

00:32:35: Hast Du vielleicht so zum Abschluss uns ins Gesprächs auch nochmal kurz und knapp formuliert, was aus deiner Sicht ein wirklich humanistischer und wertvoller Umgang.

00:32:45: Und verantwortlicher Umgang mit dem Thema KI ist?

00:32:49: Als humanistisch würde ich einen Umgang der KI sehen, der die KI konsequent als Mittel behandelt – also nicht als Zweck, nicht als Subjekt und schon gar nicht als Autorität.

00:33:01: Menschen müssen also die letzte Entscheidung behalten in Fragen, die moralisch oder auf Grundlage von Werten bedeutsam sind.

00:33:09: Diese Art der Arbeitsteilung, diese Art der Vision das ist eine Art Hybrid Intelligenz geben kann also nicht nur KI und Mensch sondern beide in einer neuen Symbiose.

00:33:21: Das wäre meine Hoffnung dass es ein optimistisches Bild ist ein technologiefreundliches Bild aber das ist eben auch ein Bild das den Kern unserer Menschlichkeit nicht aufgibt unter das Gebot oder in den Dienst der Technologie stellen will, sondern weiterhin stark fest setzt dass die Technologie den Menschen dienen soll und es keinen schleichenden Prozess geben darf indem sich der Mensch immer mehr an die Technologie anpasst.

00:33:49: Ja, ganz herzlichen Dank lieber Max.

00:33:51: Für dieses spannende Gespräch mit dir auch mit den Aspekten die du jetzt mit hineingebracht hast das wir bei dem Thema Ethik und Ke eben nicht nur diese roten Linien sehen sondern dass wir das ganze auch positiv nutzen können.

00:34:05: für uns.

00:34:06: Das ist nicht nur darum geht Wau Momente zu erleben mit Kai Sondern auch Darum wie wir ja Kai tatsächlich auch gut und ethisch wertvoll umsetzen können Und für uns auch nutzen können und dass wir aber auch ein Verständnis brauchen für diese Schnittstelle zwischen Mensch und Maschine.

00:34:24: Und das bei aller Technologiebegeisterung eben auch diese philosophische Debatte, um den Einfluss von KI nicht fehlen darf.

00:34:32: Daher ganz herzlichen Dank Max!

00:34:34: Das hat mich sehr gefreut, dass wir uns heute zu diesem spannenden Thema austauschen konnten und wünscht dir weiterhin alles Gute!

00:34:41: Vielen Dank fürs Gespräch.

00:34:41: ich habe mich sehr gefreut mit euch da in der Sendung zu sein

00:34:44: Ja, und danke auch von mir an dich Max.

00:34:46: Und an alle Hörerinnen und Hörern wenn es euch gefallen hat lasst uns eine Bewertung da schreibt uns eine Rezension abonniert uns und empfehlt uns weiter!

00:34:55: Uns schaltet auf jeden Fall wieder ein.

00:34:56: wir freuen uns.