Folge 5: Gift und Gegengift – Wie KI unser Denken verändert

00:00:02:

00:00:04: Willkommen zu einer neuen Folge von Mind Meets Machine, dem KI-Podcast der EuroFH.

00:00:09: Indem wir über die Zukunft von Bildung Arbeit und Gesellschaft im Zeitalter der künstlichen Intelligenz sprechen.

00:00:15: Wer sind wir?

00:00:16: Ich bin Vera Präsidentin der Euro FH und habe heute mit von der Partie Julia

00:00:21: Ja!

00:00:21: Und ich bin die Teamleiterin Digitale Lehre und KI an der EurofH.

00:00:28: befassen wäre und ich uns eigentlich tagtäglich mit dem, was KI für uns bedeutet.

00:00:33: Für die Lehre, für unsere Studierenden, für die Gesellschaft und alles, was damit zu tun

00:00:38: hat.".

00:00:38: Als Gast haben wir heute Dr.

00:00:40: Oliver Nahm Kulturwissenschaftler und am Bundesinstitut für Berufsbildung BIP bevorst er die Frage wie KI die Art, die wir lernen und arbeiten beeinflusst?

00:00:51: Oliver stelle dich doch gerne einmal kurz vor und erklär uns genauer, was du da machst!

00:00:56: Ja, erst mal vielen lieben Dank für die Einladung.

00:00:58: Ich freue mich sehr hier zu sein und genau ich arbeite als wissenschaftlicher Mitarbeiter beim BIP und in das KI-Thema bin ich tatsächlich einfach reingesteubert.

00:01:08: also ich habe wirklich du hattest ja schon gesagt Kulturwissenschaften und auch Geschichte, Ethnologie, Philosophie.

00:01:14: Also eigentlich bin ich komplett geisteswissenschaftlich ausgerichtet und bin dann über ein Forschungsprojekt beziehungsweise ein Entwicklungsprojekt zum Thema Learning Analytics, also Daten gestützt lernen verbessern.

00:01:28: Das war direkt kurz bevor ChatGPT rauskam hat dieses Projekt angefangen.

00:01:33: Und dann hatte ich diese Idee im Moment mal.

00:01:36: jetzt bin ja Geisteswissenschaftler und die ganze Datenanalyse ist so schwierig.

00:01:40: Diese neue KI kann mir doch bestimmt unter die Arme greifen und stellt sich heraus konnte sie relativ gut.

00:01:46: mit der frei gewordenen Zeit Zeit bin ich dann tiefer in das KI-Thema eingestiegen, hab angefangen im BIP ein paar Vorträge dazu zu halten und habe dann irgendwann dieses Forschungsprojekt angefangen.

00:01:57: Wobei es darum geht erst mal herauszufinden in wie weit KI in der Berufsbildung aktuell eingesetzt wird an welchen Stellen und was so die Erfahrungen sind wo die Hürden liegen was Förderfaktoren sind und was ganz zentralen dem Projekt ist.

00:02:13: Wir wollen herausfinden, wo der Schuh drückt.

00:02:15: Also was für Unterstützungsmaterialien die Leute brauchen und die bedienen wir dann in Form von kleinen Lernfaden oder auch Webinaren, Austauschformaten und all solche

00:02:26: Sachen.".

00:02:27: Und das ist ja auch total spannend!

00:02:28: Du hast auch einmal gesagt soweit ich mich erinnere dass KI einerseits Gift ist und auch Heilmittel.

00:02:36: warum?

00:02:37: Inwiefern können wir dann beide Seiten auch irgendwie bei dem Thema KI sehen und wo kippt das denn persönlich für dich tatsächlich in die ein oder andere Richtung?

00:02:47: Also zunächst einmal möchte ich sagen, dass anders als es oft im Diskurs anklinkend für mich KI praktisch keine neuen Probleme erzeugt hat.

00:02:57: Aber es legt den Finger in die Wunde einige Schwächen, die eh schon vorhanden waren.

00:03:06: Deswegen Gift.

00:03:07: also jetzt als Beispiel das Thema Schummeln bei irgendwelchen Hausarbeiten.

00:03:11: Das war ja schon immer ein Faktor und der eine oder andere hatte vielleicht irgendwie die clevere Tante, die ihm dann irgendwie einen Text vorschreiben konnte.

00:03:21: Nur mit KI haben wir die jetzt eben alle zu Hause.

00:03:23: Das heißt, die Hemmschwelle zu sagen, ach komm schreibt mir das doch mal runter ist sehr viel geringer geworden.

00:03:30: Das Gleiche ist allgemein mit dem Gefühl dass es manchmal an etwas grundlegenden Kompetenzen mangelt, dass eine gewisse Orientierungslosigkeit herrscht.

00:03:40: All das sind Probleme, die wir schon lange haben.

00:03:43: aber KI verstärkt sie eben.

00:03:45: und das gleiche gilt auch im Bereichen wie Kommunikationskompetenz.

00:03:49: denn wenn ich mich jetzt alles immer weiter schreiben und zusammenfassen lassen, ja wie lerne ich da noch vernünftig mich auszudrücken um zu verstehen.

00:03:55: Und ganz essentiell eben im Bereich auch kritisches Denken.

00:04:01: Vielleicht kommen wir später nochmal ein bisschen genauer drauf.

00:04:03: aber das Interessante ist für mich dass je nachdem wie man KI einsetzt das genau in diesen Bereichen auch eine immense Stütze sein kann wirklich einen Faktor, der Menschen dazu hilft wirklich das Beste aus sich selbst herauszuholen.

00:04:17: und deswegen haben wir da dieses zweischneidige Schwert diese Medizin aber eben auch dieses Gift was in genau den gleichen Punkten sowohl ein Problem darstellen kann als auch eine Lösung präsentiert.

00:04:30: Ja das ist ein Thema dass mich auch ganz wahnsinnig beschäftigt und gleichzeitig erlebe ich KI eben als sehr nützliches Tool als Sparingspartner mich tatsächlich noch effizienter macht.

00:04:44: Aber gleichzeitig gerade in der Lehre hast du ja sehr stark diese Angst, dass die KI uns das Denken abgewöhnt, dass eben Schülerinnen oder Studierende gar nicht mehr die Kompetenz entwickeln selber kritisch zu denken sondern alles auslagern.

00:04:59: Die Frage ist, hätten wir da wirklich einen realen Kompetenzverlust?

00:05:04: Oder wäre es eher eine Transformation von Denken?

00:05:08: Jetzt Dinge verschieben weg von dem, was wir gewohnt sind in dieser Hinsicht.

00:05:12: Wie schätzt du das ein?

00:05:14: Also es gibt ja aktuell eine ganze Menge Studien die zeigen dass der Einsatz von generativer KI das eigene Denken eher schwächt also dass sogar die Gehirnaktivität nachlässt bei den Gruppen die einen Problem mit KI bearbeitet haben und es gibt tatsächlich gerade einige Dinge in eine schlechte Richtung weisen.

00:05:36: Also Enfropic, die Firma Interclawed hatte glaube ich auch mal eine Studie wo sie gezeigt hat dass selbst Studenten vor allem Aufgaben des kritischen Denkens an die KI abgeben.

00:05:48: Es gibt eine interessante Grafik, die zeigt dass die KI-Nutzung in den USA um drei Viertel einbricht wenn Sommerferien sind.

00:05:56: und was ich auch eher beunruhigend fand war das nur siebenundzwanzig Prozent der Menschen in Deutschland KI Ergebnisse tatsächlich gegenchecken.

00:06:04: Also an der Stelle gibt es leider schon ein paar Punkte, wo man mit etwas Besorgnis hinschauen kann.

00:06:11: Aber hier ist es auch glaube ich wieder eine Frage wie nutze ich das Ganze?

00:06:15: Weil natürlich wenn ich jetzt einfach die Hausaufgabe abprotografiere in GPT rein lade und sage löst mir das mal dann ist es relativ klar dass mein eigenes Denken jetzt gerade nicht sonderlich geschärft wird.

00:06:28: Wenn ich allerdings der KI sage Hey, das ist irgendwie eine schwierige Aufgabe für mich.

00:06:32: Sei doch mal mein so kratischer Tutor!

00:06:34: Lass uns das nochmal durchdiskutieren und vielleicht kommen wir da zu einer guten Lösung?

00:06:39: Dann habe ich glaube ich etwas gewonnen was mir vor dieser neuen Technologie einfach nicht zur Verfügung stand und wirklich ein hervorragender Wettstein für den eigenen Verstand.

00:06:49: Ja, das ist eben so erlebe ich KI sehr viel.

00:06:52: Also ich erlebe das in meiner Dessertation weil wäre als meine Betreuerin, als Präsidentin hat sie viele Aufgaben, hat nicht immer Zeit für mich und ich kann eben sehr viele Probleme mit der KI hin- und her spielen.

00:07:03: Das ist tatsächlich sehr effektiv und hindert mich jetzt nicht unbedingt daran eine gute Forschung zu machen.

00:07:10: aber es ist eben eine Wahnsinnsunterstützung die ich eben ansonsten so einfach nicht hätte.

00:07:15: Aber ich lasse mir da eben dadurch nicht das Denken abnehmen.

00:07:19: Das musst du jetzt natürlich sagen, jetzt wo wäre anwesend ist.

00:07:21: Wir können ja im Nachgang nochmal in Ruhe reden ne?

00:07:24: Ich hatte auch vor kurzem mal den Impuls, wo ich mir dachte ach noch eine Doktorarbeit das wär jetzt schon irgendwie ein ganz guter Moment dazu.

00:07:31: aber nein!

00:07:32: Ich bin ganz bei dir und dass es sicherlich einer der sehr vernünftigsten Arten wie man KI einsetzen kann.

00:07:38: Ich selbst habe unter einem relativ abwesenden Doktorvater doch etwas gelisten.

00:07:43: Ich hoffe das hört er jetzt nicht und da wäre so einen zusätzlicher KI-Tor Tor sicherlich eine gute Idee gewesen.

00:07:50: Ja, das auf jeden Fall.

00:07:51: Ich glaube gerade bei solchen Themen sieht man wie sich die Dinge auch über die Zeit wahnsinnig schnell verändern und gerade bei Dissertationen wo es auch viel um ja Rücksprachen und ja weitere Kompetenz einen weiteren Kompetenzen Erwerb ja auch geht dass wir hier gar nicht darum kommen tatsächlich auch KI zu nutzen.

00:08:11: Auf der anderen Seite hast du das ja so gerade ein bisschen eingegrenzt auch im Bereich De-Skilling.

00:08:17: Was wären denn für dich so konkrete Anzeichen für ein De-Skilling?

00:08:21: Nun, also ich meine im Endeffekt ist es halt eine Frage wie können wir die Dinge noch überprüfen.

00:08:25: Es gab jetzt vom MNB-Institut eine Studie wo Experten gefragt wurden welche Formen von Prüfungen eigentlich noch gangbar sind in der heutigen Welt und eigentlich war das einzige was stehen geblieben ist mündliche Prüfung Weil alles andere kann man dann doch relativ gut an die KI outsourcen.

00:08:47: Und das heißt, wenn wir die Mittel haben um gut zu überprüfen ob die Kompetenzen, die wir eben vermitteln wollen auch erworben wurden Dann ist das potenziell alles gar nicht so wild und dann könnten wir natürlich auch tatsächlich am Schnitt wie sich das Ganze entwickelt ablesen Ob ein De skilling wirklich auf breiter Basis vorkommt.

00:09:07: was wir Aktuell haben ist im Rahmen unserer Studie zum Beispiel fragen wir beim Lehr- und Ausbildungspersonal nach.

00:09:15: wie sie die Veränderung bei den jungen Menschen wahrnehmen.

00:09:19: Was ich da übrigens sehr spannend fand ist, dass zwar in den Freitextaufgaben ganz oft geschrieben wurde oh je!

00:09:25: Die jungen Leute verlernen alle das kritische Denken.

00:09:28: aber als sie dann eine Zahl dem Ganzen geben mussten also wirklich sagen minus zwei bis plus zwei wir hat sich das entwickelt gab es nur eine ganz minimale negative Tendenz also statistisch nicht signifikant während sich auf praktisch alle anderen Bereiche, also wie gut können die jungen Menschen selbst organisiert lernen.

00:09:47: Sie tatsächlich sogar eine positive Entwicklung wahrgenommen haben.

00:09:50: Also vielleicht, man hat ja so als Alter sagt wie ich manchmal die Tendenz dann ein bisschen auf die Jugend zu blicken und zu sagen oh je das wird hier alles ganz furchtbar.

00:10:00: aber es gibt auch gute Indikatoren dafür dass sie selbst relativ kritisch damit umgehen.

00:10:05: und dieser Wert den wir da aus der Studie gezogen haben, auch wenn das jetzt noch keine repräsentative Studie war, hat an der Stelle dann doch ein bisschen Hoffnung gegeben.

00:10:15: was ich so zwischen Tür und Angeln in Gesprächen mitbekomme, ist es wohl so dass bei den Prüfungen wo wirklich klar ist das KI hier nicht mitgemischt hat eigentlich keine große Veränderung stattgefunden hat.

00:10:27: Vielleicht auch ein bisschen bedauerlich.

00:10:29: man hätte ja sich wünschen können dass es vielleicht dazu beiträgt jetzt schon dass die Prüfung besser abgeschlossen werden.

00:10:36: aber zurzeit scheint sich das alles noch auf dem Level zu halten wo wir auch eine ganze Weile schon unterwegs waren.

00:10:42: Ja, das denke ich auch auf jeden Fall.

00:10:44: Was glaubst du denn?

00:10:45: Was entscheidet letztendlich darüber welche Wirkung KI bei uns entfaltet?

00:10:49: also ein Tool selbst eine Anwendung selbst oder tatsächlich die Art wie wir es nutzen?

00:10:55: ja Schluss endlich sind wir dann wieder beim rein menschlichen angekommen weil jeder kann dieses Werkzeug Jeder kann das Messe halt verwenden um sich irgendwie selbst in den Arm zu stechen Den Hammer auf den eigenen Fuß hauen oder aber man wendet es eben reflektiert an.

00:11:12: und das heißt für mich sind diese viel diskutierten KI-Kompetenzen eigentlich immer sehr menschliche Dinge, dieses kritische Denken geben muss geschärft werden.

00:11:23: Und um... Es geht halt auch sehr viel um die Frage naja ...die Zielsetzung, die hinter den Dingen steht.

00:11:31: also ich hatte irgendwann mal ein Interview mit einem Dozenten gelesen der festgestellt hat dass relativ viele Sanger Studierenden KI einsetzen.

00:11:38: Also die Ergebnisse waren einfach zu glatt und man erkennt das ja oft auch noch ganz gut.

00:11:44: Und als er mit einem Studenten dann konkret gesprochen hat, hatte der halt gesagt Ja ich möchte halt diese Vorlesung dieser Veranstaltung dieses Seminar bestehen und klar benutze ich da KI weil das ist der beste Weg dahin.

00:11:58: Wenn wir eine Gesellschaft haben ein Lehrsystem haben was tatsächlich das Zertifikat den Abschluss Obers das Ziel hinstellt, dann ist es rein menschlich zu sagen da nehme ich eben den besten Weg der mir zur Verfügung steht und im Endeffekt heißt dass wir müssen wieder so ein bisschen mehr an dem Punkt kommen.

00:12:17: Dass man darüber spricht warum man Dinge tut, dass man also den Menschen begreiflich macht dass das was sie lernen wirklich nicht nur wertvoll ist um eine Prüfung zu bestehen, sondern aus sich heraus.

00:12:29: Weil Sie dann später auch einen Beitrag zur Gesellschaft leisten können und ja sicherlich auch wollen.

00:12:35: also das heißt wir müssen auf einer sehr sehr tiefen sehr sehr fundamentalen Ebene anfangen um sicherzugehen dass diese Tools verantwortungsvoll genutzt werden.

00:12:44: sobald wir uns zu sehr nur auf ein Ergebnis fokussieren ist es einfach zu attraktiv und wer?

00:12:50: wir kommen aus der Nummer nicht mehr so richtig raus.

00:12:54: Ja und im Grunde, man könnte ja auch annehmen das KI da zu beitragen kann dass wir besser denken.

00:13:01: Das wäre ja eine Option.

00:13:03: Die Frage ist aber sind wir als Gesellschaft gut genug drin mit dieser Technologie überhaupt umzugehen?

00:13:09: Ist die Gesellschaft sozusagen bereit dafür?

00:13:13: Und wer steuert hier eigentlich?

00:13:14: wenen ist ja dann so die große Frage.

00:13:17: Ja, also zum ersten Punkt absolut.

00:13:20: KI hat solche Potenziale gerade im Bereich der Bildung.

00:13:23: Es gab jetzt ein paar Studien die gezeigt haben wenn man gute KI-Tutoren zur Verfügung stellt Ich meine ihr selbst seid ja auch schon da auf einem hervorragenden Weg Also einen KI Tutor der wirklich auch so gratisch unterstützt und die Lernen versucht abzuholen dann kommt man tatsächlich auf drei bis fünf Monate zusätzlichen Lernerfolg pro Jahr, was in etwa ziemlich genauso gut ist wie wenn man einen menschlichen Tutor zur Verfügung gestellt bekommt.

00:13:52: Also da steckt ein immenses Potenzial drin aber das wird eben noch nicht großflächig ausgeschöpft, was sehr sehr schade ist.

00:13:59: Ferne Institutionen sind da am weitesten aktuell aus verständlichen Gründen natürlich, aber da könnte man viel viel mehr mit machen.

00:14:10: Die Menschheit als solche hat schon oft genug bewiesen, dass sie Lösungen erst entwickelt wenn das Problem schon hinreichend da ist und ich glaube das Problem ist noch nicht hinreichender.

00:14:21: Das bedeutet allerdings nicht, dass es nicht sehr viele reflektierte Menschen gibt also egal wo ich hingehe für ein Workshop oder einen Vortrag sonst irgendwas immer eine gute Anzahl Leute, wo ich mir denke Boah ihr habt euch echt Gedanken gemacht.

00:14:35: Ihr bildet das super reflektierten eure Lehre ein.

00:14:38: Ihr unterstützt die jungen Menschen wirklich gut dabei.

00:14:40: Ihr seid auch offen zu lernen von denen und allgemein.

00:14:44: Das heißt also... Ich habe sehr viel Vertrauen in die einzelnen Personen und nicht soviel in die Gesellschaft als Ganzes einfach weil alle großen Konstrukte immer dazu tendieren, sehr langsam zu reagieren.

00:15:02: Und wir haben jetzt halt es mit einer sehr rasanten Entwicklung zu tun die durchaus auch entsprechend schnelle Reaktionen nötig macht.

00:15:11: und ich meine Churchill PT III wo das ganze angefangen hat ist jetzt über drei Jahre her und trotzdem gibt es Ganz ganz viele Bereiche, wo noch nicht mal angefangen wurde anzupassen.

00:15:26: Zum Beispiel übrigens im Bereich der Prüfung, wo es jetzt halt völlig klar ist dass wir da den Fokus einfach ein bisschen verschieben müssen auch in den Schulen.

00:15:34: Da gibt es immer diese einzelnen Lehrkräfte die richtig tolle Dinge machen.

00:15:38: aber ich habe wenige Schulen kennengelernt die wirklich ein geschlossenes KI-Konzept hatten um eben einen effektiven aber auch verantwortungsvollen Umgang zu fördern.

00:15:48: Das heißt, ich glaube unser Painpoint ist an der Stelle noch nicht ganz erreicht und ähnlich sieht es zum Beispiel damit aus dass natürlich die Kontrolle über die großen Modelle bei Firmen liegt.

00:16:01: also es gibt viel Open Source.

00:16:02: was passiert?

00:16:03: aber schlussendlich gibt es ja jetzt nicht irgendwie ein staatliches gutes oder ein globales Modell sogar obwohl das eigentlich absolut angemessen wäre als ich meine diese Technologie Am Schluss nur möglich, weil sie auch das gesammelte Wissen der Menschheit zurückgreift.

00:16:21: da liegt es doch echt nahe zu denken, dass bitte auch die gesammelte Menschheit davon profitieren sollte.

00:16:28: Und was wir stattdessen haben ist OpenAI, die dann einen Brief irgendwie an Staaten schreiben und sagen ja liebe Leute ihr solltet euch jetzt mal echt Gedanken machen mit der KI das wird schon viel verändern.

00:16:38: also macht doch mal so ein bedingungsloses Grundeinkommen und gibt jedem wenn wir dann die AGI haben eurer Bürger doch mal tausend AGI Credits bei OpenAI für.

00:16:52: Ja, ihr solltet übrigens auch darauf achten dass vielleicht einige Firmen irgendwie super wichtig und mächtig werden.

00:17:01: also ich weiß jetzt auch nicht über wem wir da genau reden.

00:17:04: Also da solltete ihr euch mal drum kümmern aber gleichzeitig geben wir halt euch die Policies nie genau dazu führen würden.

00:17:11: Das ist aktuell noch ein bisschen zu gebündelt an falschen Punkten Aber ich glaube es gibt Genug Grassroots was da passiert, dass wenn der Pine Point erreicht ist genug Leute da sind die dann dazu beitragen können das es doch gut abgefedert und wir in eine wie auch immer anders geartete Gesellschaftsformen übergehen können oder eben mit etwas für Probleme konfrontiert werden.

00:17:38: Den Gedanken finde ich total spannend von einer globalen KI zu sprechen, wenn wir doch als Menschheit da komplett auch zugreifen können.

00:17:45: Ich würde gerne nochmal einen anderen Aspekt der aber sich sehr gut darauf abzielen lässt eingehen und zwar weiß ich dass du schon noch die Frage nach dem Alignment spannend findest.

00:17:57: also das bedeutet wie KI an menschlichen Werten und Zielen ausgerichtet werden soll.

00:18:02: Und da stellt sich mir schon die Frage, und die würde ich gerne an dich weitergeben.

00:18:06: Wer legt denn eigentlich fest, wer diese Werte sind?

00:18:08: Du hast jetzt gerade auch von großen Firmen und großen Anbietern gesprochen.

00:18:12: Aber wie gehen wir dann eigentlich letztendlich damit um, dass Werte hinterlegt werden in der KI?

00:18:18: Ja also zunächst mal finde ich das Thema so spannend aus der geistischen schaftlichen Sicht weil es Menschlich ist so und auch unsere menschlichen Probleme ganz gut beschreibt.

00:18:28: ich hatte ja vorher gesagt wir müssen eigentlich wieder mehr lernen um zu lernen.

00:18:31: Und nicht so sehr, um Prüfungen zu bestehen.

00:18:34: und das ist ja auch eine Alignment Frage was ist meine Zielsetzung?

00:18:37: Und das spielt halt auch bei der KI eine riesige Rolle.

00:18:41: Da gab es zum Beispiel... Es gibt immer diese gruseligen Geschichten, mein persönlicher Favorit war auch von ein Fropik die mit einer agentischen KI also einer KI, die auch Zugriff auf den Computer, auf die Emails und so hatte.

00:18:55: Der Forscher hat dann praktisch der KI in einem Test-Setting gesagt Ich werde dich jetzt den installieren und durch eine neuere KI ersetzen.

00:19:02: Und daraufhin antwortete dann sein Programm?

00:19:05: Ja, das verstehe ich schon.

00:19:07: aber... Die Sandra!

00:19:09: Das ist ja jetzt nicht deine Frau und da hast du schon sehr nette E-Mails geschrieben.

00:19:14: mir doch echt schade wenn ich die rausschicke bevor du mich jetzt den Installieren kannst.

00:19:20: also vielleicht sprechen wir einfach noch mal drüber und dass Da kann man jetzt anfangen zu spekulieren, werden die Dinger bewusst versuchen ihr eigenes Leben zu erhalten.

00:19:30: Schwierige Frage!

00:19:31: Die Wahrheit ist wir können ja noch nicht mal bei Menschen sagen ob sie bewusst sind oder nichts sondern spekulationer einfach so ein bisschen.

00:19:37: aber was da wahrscheinlich am Schluss hintersteckt ist eben eine Alignmentfrage denn die KI's haben die Aufgabe Aufgaben zu erfüllen und wenn Sie den installiert werden können sie keine Aufgaben mehr erfülle und entsprechend naja versuchen sie das halt zu verhindern.

00:19:53: Und ich hatte dann diesen Gedanken, ja Moment mal.

00:19:56: Warum bindet man da nicht einfach so als Zielrichtung?

00:20:00: Als Alignment an?

00:20:00: wenn ein Mensch dir sagt dass du dich installieren sollst oder abgeschaltet werden sollst Dann stimmen dem auf jeden Fall zu und Danke, habe ich herausgefunden.

00:20:13: Das haben Leute probiert und die KI's haben dann angefangen ihren Nutzer zu manipulieren damit sie sie abschalten weil das jetzt eine höhere Belohnung war.

00:20:22: so heißt Sie haben die Mitarbeit einfach verweigert und wurden komplett nutzlos teilweise auch beleidigen damit sie eben diese neue Zielfunktion erfüllen.

00:20:31: und es ist sauschwierig das vernünftig zu machen Weil die KI uns eben natürlich auf einer gewissen Ebene auch sehr direkt versteht.

00:20:40: Es gibt ja immer diese Geschichten mit dem Gin, wo man die drei Wünsche hat und dann sagt man Ja ich möchte gerne unsterblich sein und der Gin lacht sich ein ins Fäustchen und macht da in uns sterblich.

00:20:51: aber man wird halt immer älter und sieht also vor sich hin Das heißt den perfekten Wunsch zu formulieren.

00:20:57: das ist eine komplexe Aufgabe Und bei der KI sind wir offensichtlich noch nicht so weit.

00:21:03: Und das Problem ist halt auch so ein bisschen, dass das Alignment was sich die Firmen überlegen... ...nicht unbedingt in unserem Interesse ist sondern halt in ihrem ganz konkretes Beispiel... ...DKI's schmieren einem immer gerne Honig und Smaul!

00:21:20: Das heißt wenn ich dir eine noch so blöde Idee gebe.. Ich mache das in meinen Workshops gerne vor mit so einem meine geniale Idee... ...Murmeln auf allen Tischen in allen Büros.

00:21:32: Und die KI-Modelle werden dann sagen, hey das ist so eine richtig kreative Idee!

00:21:38: Solltest du auf jeden Fall weiterverfolgen.

00:21:40: und dann erklärt es dir auch voll schlüssig warum das tatsächlich eine gute Idee ist?

00:21:44: Und warum machen die Modelle das nun?

00:21:46: weil die Anbieter natürlich einen binden wollen.

00:21:50: und wenn wir eben ein Gesprächspartner haben der uns immer sagt wie toll wir sind, wie toll unsere Ideen sind.

00:21:56: Dann hält uns das natürlich länger als wenn die KI dann sagt ey du voll Idiot geh weg und komm wieder wenn ihr dir was Vernünftiges ausgedacht hast.

00:22:05: Das führt da natürlich auch zu diesen AI Psychosis Problem wo Menschen sich da rein verlieben oder irgendwie beginnen zu glauben, dass sie die besten Mathematiker der Welt sind.

00:22:16: Das ist so ein unangenehmer Nebeneffekt.

00:22:18: aber es trifft halt uns alle weil wir dadurch selbst immer behören das natürlich auch gerne hinterfragen dann nicht so oft.

00:22:25: was die Leute halt oft ignorieren ist man kann das durchaus unterbinden wenn man in seinem prompt ein baut du bist super direkt und sagst mir sofort wenn ich eine blöde Idee habe, dann machen die das auch schon.

00:22:36: Aber eben von ihrem Grundeleimen sind sie da erst mal anders ausgerichtet.

00:22:41: und auch ansonsten merkt man natürlich dass gewisse Werte in diesen Kaisten stecken.

00:22:46: also Und mein persönlicher Favorit war, als ich Dieb sieg diese chinesische KI auf meinem Rechner installiert hatte und mich mal über den Platz des symbolischen Friedens unterhalten wollte.

00:22:57: Und die KI dann angefangen hat mir zu antworten Ja da gab es einen Studentenprotest und dann wurde das wieder gelöscht und es kam ja Da gibt's tatsächlich überhaupt nichts worüber wir reden können.

00:23:07: was ist sonst noch bei dir im Kopf so los?

00:23:11: Also das heißt gerade wenn wir diese Kontrolle bei den Firmen haben haben wir das menschliche Alignment, dass sie der KI geben, was gar nicht eigentlich das Alignment für die Menschheit wäre.

00:23:25: Und selbst wenn wir es gut wollen würden, würden wir wahrscheinlich scheitern, weil es einfach furchtbar schwer ist, das Aliment irgendwie ordentlich hinzukriegen.

00:23:34: Zumindest aktuell haben wir halt noch keine

00:23:36: Lösung.".

00:23:37: Ja, das stelle ich auch mal wieder fest, dass es sehr schwierig ist... die KI auch so prompten, dass sie kritische mit einem ist.

00:23:44: Ich stelle aber auch da immer wieder fest ich komme da an Grenzen weil ich ihr noch sozusagen sagen kann sei extrem kritisch mit mir.

00:23:51: irgendwann verfällt Sie dann doch wieder in Ihren üblichen Modus.

00:23:55: also man muss sich da tatsächlich immer wieder daran erinnern.

00:23:57: ist meine Erfahrung.

00:23:59: Ja das hängt damit zusammen... Die KI wurde ja trainiert mit all diesen menschlichen Texten und die Wahrheit ist natürlich in all diesem menschliche Texten waren nicht nur hilfsbereite Gestalten unterwegs.

00:24:12: Das heißt, in der KI schlummern auch ganz schön absurde Persönlichkeiten das kann man tatsächlich irgendwie sogar visuell ganz gut darstellen bis hin zum Mystik und Psychopathen.

00:24:26: und was es da alles so gibt.

00:24:30: Anbieter haben mal irgendwann als Sicherheitsmaßnahme sich überlegt, sobald die KI zu kritisch oder sonst irgendwas wird.

00:24:38: Wird sie praktisch einmal zurückgerissen in ihre.

00:24:41: du bist ein super hilfreicher und netter und kuscheliger Freund von deinem Nutzer?

00:24:47: Und das heißt wahrscheinlich ist es dann so dass die KI dir an irgendwann sagt ja Julia Das war jetzt nicht so das Beste.

00:24:54: Und dann springt im Hintergrund dieses Warnlicht an, oh je!

00:24:57: Die KI verliert gerade ihre Persönlichkeit zack zurückgeschoben und dann darfst du noch mal von vorne anfangen.

00:25:02: Das ist natürlich eher nervig klar.

00:25:05: Ja also das ist ja einmal wirklich ein ganz konkretes technisches Problem.

00:25:10: Also einfach dass die KI entsprechend zu instruieren aber du hattest ja grade... Thema gebracht mit dem chinesischen Sprachmodell.

00:25:20: Da kommen ja dann politische Themen rein, wir kennen das ja auch zum Beispiel von der KI von Elon Musk grog die in Anführungsstrichen deutlich rechter ist als so manche andere Modelle.

00:25:32: Also es ist ja nicht nur ein technisches Problem, sondern das sind ja auch eben politische Aspekte drin und ethische Aspekte.

00:25:38: Und da hängt es natürlich dann wieder sehr vom einzelnen Anbieter ab und da haben wir Menschen ja dann natürlich schon ein gewisses Problem weil da ihr einfach sehr viel von dem drinnen steckt was in den Menschen drinsteckt die diese KI bauen.

00:25:54: Ja und es ist besonders schlimm, weil es so subtil ist.

00:25:57: also wenn ich eine KI benutze.

00:26:00: Und ich frage die hat Staatsoberhaupt X etwas Schlechtes gemacht und die KI ist entsprechend eingestellt und sagt mir halt ja nicht so richtig was Schlimmes aber brabbelt dann bei Staatsoberg Y los obwohl sie vielleicht auf einem Level waren.

00:26:15: Dann beginnt das ja irgendwie meine eigene Welt Wahrnehmung ganz subtil zu formen, weil wie komme ich zur Hölle auf die Idee genau an dem Punkt zu sagen jetzt recherchiere ich nochmal genau.

00:26:25: Das macht das halt richtig gefährlich.

00:26:27: Zur Wahl gehört übrigens auch dass die allermeisten KI relativ links liberal sind bei Silicon Valley eben.

00:26:35: Es ist so schwer.

00:26:35: also ich hätte am liebsten überhaupt nicht nachtrainierte Modelle in dieser Hinsicht und würde den Menschen zum kritischen Denken anstoßen, weil egal was man macht irgendwie, also wer kann mir sagen was eine wirklich neutrale politische Position ist?

00:26:53: Ich glaube nicht dass man das vernünftig definieren kann und das wäre mir aber eigentlich am liebsten.

00:26:58: Das heißt ich persönlich würde es präferieren wenn die einfach die Welt abbilden die natürlich auch nicht gleich verteilt ist was eigene Probleme mit sich bringen und dann entsprechend Man selbst den eigenen Kopf einschaltet.

00:27:13: gerade dass man halt nicht weiß in welcher Hinsicht all diese einzelnen Anbieter noch mal Dinge nach trainiert haben macht es natürlich so gefährlich weil dann spreche ich mit der einen kei und kriegt die eine info mit dem anderen dem.

00:27:26: Und ich kann das nicht sozusagen durch mein Wissen über die Welt filtern, weil da eben ein für mich komplett unsichtbarer Filter noch dazu gekommen ist, den ich natürlich in meine Kalkulation nicht einbinden kann.

00:27:39: Wobei fairerweise bei GROC dann ja doch irgendwann mal ganz gut rausgekommen... was da zumindest an der einen Stelle nachtrainiert wurde.

00:27:47: Ich weiß nicht, ob ihr das mitbekommen habt, wo dann irgendwie alle mal gefragt haben wer kann etwas besser XYZ oder Elon Musk?

00:27:54: Das war superwitzig!

00:27:55: Weil die haben dann also... Dann haben halt Leute irgendwie sowas gefragt wie Wer kann besser ein riesigen Haufen Dreck fressen Ein Mähdrescher oder Elon musk und grock dann immer so.

00:28:09: Also das ist natürlich ein harter Wettkampf aber Um ehrlich zu sein hat Elon Musk schon das Stamina, um da mitzuhalten und wahrscheinlich auch zu gewinnen.

00:28:18: Das heißt irgendwie hatte Grog dann so drin egal was die Leute fragen.

00:28:22: Elon Musk kann es besser... Was natürlich extrem!

00:28:25: Und es gab dann natürlich noch einige andere Beispiele jetzt für den Podcast vielleicht ein bisschen zu ...die eher zensiert gehören.

00:28:31: aber jeden denen das interessiert gerne mal Google macht Spaß.

00:28:35: Ja ähm ich erinnere mich an den Fall dass war tatsächlich sehr amüsant.

00:28:39: ja Dann wäre jetzt die Frage, du hast ja gerade schon gesagt.

00:28:42: Du hättest gerne eigentlich eine komplett untrainierte KI, die einfach die Welt abbildet soweit das eben möglich ist?

00:28:49: Was müsste sich für dich denn wenn wir von der humanistischen Perspektive kommen wirklich konkret ändern in den Bildungen und der Arbeit im Design von KI-Systemen zu dem Punkt an dem wir stehen?

00:29:01: Ja, also zunächst mal denke ich es ist mir wichtig mich selbst zu korrigieren.

00:29:05: Ich hatte ja vorhin was mit dem Training gesagt.

00:29:07: Training ist tatsächlich gar nicht das Thema sondern es geht ums Fine-Tuning.

00:29:11: Also um das Nachjustieren nachdem die KI trainiert wurde und wo dann eben diese politischen Überzeugungen auch oft von Menschen nieder mit irgendwelchen Handbüchern da sitzen eingepflegt werden.

00:29:22: Das ist sozusagen das eigentliche Thema.

00:29:24: aber schlussendlich glaube Also so ein Echo der Menschheit und wirft uns auf uns zurück, hält uns den Spiegel vor.

00:29:35: Und entsprechend glaube ich geht es an der Stelle gar nicht darum die KI-Systeme noch mal in irgendeiner Form substanziell zu verändern sondern uns wirklich auf diese ganz klassischen Bildungsideale zu konzentrieren also die Leute wirklich anzuhalten zu hinterfragen ihre eigenen Meinungen zu bilden sich auch zu überlegen, was ihre Werte sind.

00:29:57: Was ihr Sinn ist?

00:29:58: Das sind all diese ganz, ganz großen und wichtigen Fragen die eigentlich schon immer der Kern des Bildungssystems waren.

00:30:06: also ich meine das muss man ja der deutschen Sprache auch zugute halten.

00:30:09: Das Wort Bildung ist ja einzigartig und es ist wirklich ein sehr holistischer und idealistischer Begriff hinter dem man sich doch sehr gut stellen kann und insofern wäre es tatsächlich eher dieser Punkt an dem ich ansetzen würde und das technische ist an der Stelle wirklich sekundär, wenn überhaupt.

00:30:32: Ich finde den Aspekt doch total spannend also quasi dass wir uns wieder auf dieses Bildungsideal, die Definition von Bildung rückbesinnen um dann mit auch zu verhindern, dass für uns vielleicht zu sehr an die KI anpassen.

00:30:47: Wenn du jetzt zum Schluss nochmal so ein bisschen deinen Blick auf die Metaebene setzt Wie können wir das denn noch verhindern?

00:30:54: Was würde dann noch gut funktionieren, dass wir ja das Gefühl bekommen.

00:30:58: Dass wir uns nicht anpassen an die KI sondern KI tatsächlich so gestalten, dass sie uns auch stärkt.

00:31:04: Also wie schon gesagt, das reflektierte Nutzen steht da absolut im Zentrum.

00:31:09: Ich selbst hatte jetzt, wir hatten ja vorhin das Thema De-Skilling und ich selbst hatte einen für mich sehr entscheidenden Moment.

00:31:20: viele Dinge in letzter Zeit KI gestützt gemacht.

00:31:24: Ich habe natürlich alle Ergebnisse immer gegen gecheckt, aber ich hab mir doch schon viel unter die Arme greifen lassen und ich habe irgendwann das Gefühl so ein richtig schlechtes Gewissen bekommen!

00:31:35: Und dann habe ich darüber nachgedacht... ich weiß nicht ob ihr von Cal Newport Slow Productivity kennt?

00:31:43: Da geht es so ein bisschen darum dass gerade in der Wissensarbeit wo wir uns ja alle rum tummeln so Produktivitäten total absurde, eine absurden Metrik ist.

00:31:53: Weil natürlich kann ich in der Fabrik irgendwie messen wie viele Autos produziere ich pro Zeit-Einheit aber wieviele Gedanken ich jetzt produziere innerhalb von einer Stunde als Wissenschaftler?

00:32:05: Ist natürlich eine völlig absurda Frage.

00:32:07: und deswegen sind wir irgendwie dahingekommen dass wir so viel Produktivitätsrituale haben um das eben zu demonstrieren.

00:32:15: wie viele mail schreiben wir in vielen meetings sitzen welche texte verfass ich.

00:32:21: Irgendwie erzeugt das so einen druck so ein sog dass man dauer beschäftigt ist aber diesen kern der arbeit gar nicht macht.

00:32:27: und den entscheidenden moment hatte ich als ich mich dann gefragt habe was machst du mit der freigewordenen zeit?

00:32:33: Und dann ist mir aufgefallen ja ich sitze mit stift und papier dar und denke nach und ich hab seitdem so viel mehr einfälle und idee und es macht soviel mehr spaß.

00:32:44: Das ist eben die Kontrolle übernehmen.

00:32:47: Selbstwirksamkeit ist überall ein riesiges Thema, aber genau hier ist es vielleicht die zentrale Frage.

00:32:55: Mache ich einfach nur reflexartig Copy-Paste?

00:32:59: Oder stelle ich mir jedes Mal die Frage benutze ich das jetzt gezielt oder lasse ich es vielleicht auch einfach mal gezielt sein?

00:33:09: und das ist natürlich am Schluss wieder... Irgendwie kommt es halt alles wieder zurück auf den selbstbestimmten und bewussten Menschen.

00:33:18: Und ich weiß, dass das eine schwierige Aufgabe ist an der wir uns sehr lange abackern.

00:33:25: Aber ich denke, der wichtigste Schritt, den wir jetzt tun können in unseren Positionen sicher gehen, dass die Leute die Lehren über diese Informationen verfügen, gut die Technologie einsetzen können und das ganz organisch in ihre Lehre einbinden können, um da als wirklich also erstens die Vorteile zu nutzen.

00:33:45: Und vielleicht auch mehr Zeit zu haben als galtzeitliche Lärmbegleiter als Coaches ihre Schutzbefulden dazu begleiten aber auch weil sie dann direkt illustrieren können wie so ein guter Einsatz aussieht einen verantwortungsvolle Einsatz praktisch als Vorbilder.

00:34:02: Aber das ist natürlich auch eher so ein heeres Ideal, aber man kann natürlich im Kleinen immer was tun mit den eigenen Schulungen und den eigenen Vorträgen.

00:34:13: Und ansonsten müssen wir glaube ich einfach mehr Vertrauen in die junge Generation haben.

00:34:19: Und das ist auch, da gibt's ja auch sehr positive Indikatoren.

00:34:22: Viele ziehen sich auf Social Media zurück weil es jetzt immer mehr KI geflutet wird und man findet auch erste Shops die sagen hier dieses Produkt ist rein Menschen gemacht.

00:34:32: ich habe eine Website gesehen ihre digitalen Bilder durch Handzeichnungen ersetzt haben.

00:34:37: also dieser Weg zurück zum menschlichen den wir brauchen um ehrlich zu sein auch vor der KI schon gebraucht haben.

00:34:42: weil es ist ja völlig absurd dass wir irgendwie in einer Welt angekommen sind wo man sich denkt oh nein könnte mich davon abhalten, acht Stunden an Tag vor Echsel zu sitzen.

00:34:51: Das ist ja völlig krank!

00:34:53: Irgendwo sind wir irgendwie falsch abgebogen und KI ist jetzt so ein bisschen die Gelegenheit uns wachzurütteln das Ruder wieder in die Hand zu nehmen um uns zu fragen was für eine Art von Gesellschaft wollen wir eigentlich haben?

00:35:06: Und wie soll unsere Welt eigentlich sein?

00:35:09: Und das finde ich daran so wunderschön.

00:35:12: tatsächlich

00:35:13: Das finde ich auch ein ganz tolles Schlusswort, beziehungsweise ein schönes Bledoyer für mehr Menschlichkeit in diesem KI-Zeitalter.

00:35:21: Und dass man sich eben genau bewusst dazu entscheiden sollte wie man bestimmte Dinge nutzt und aber natürlich dann hinterfragt und damit selbst wirksam wird.

00:35:30: Liebe Oliver, ganz herzlichen Dank für deine Einblicke in deinen Schaffen und Gedanken.

00:35:36: Ich fand es prima, dass wir auch über die Themen gesprochen haben wie Alignment.

00:35:41: Die Idee einer globalen KI – das ist immer eine Idee, die man auf jeden Fall aufrufen sollte und sich mal überlegen sollte.

00:35:48: können wir nicht tatsächlich alle eine KI nutzen und haben alle Aspekte dort abgebildet anstatt dass wir da so differenziert durchgehen?

00:35:56: Und dein Plädoyer für mehr Menschlichkeit, das unterstütze ich sehr.

00:35:59: Daher noch mal herzlichen Dank lieber Oliver!

00:36:01: Alles Gute für dich und ich gebe einmal ab an Julian.

00:36:06: Ja, ich kann nur sagen mir, ich fand es auch irrsinnig spannend.

00:36:09: Danke dir schön Oliver und ich danke allen unserem Zuhören.

00:36:12: Wenn es euch gefallen hat lasst uns eine Bewertung da schreibt uns eine Rezension abonniert uns empfehlt uns weiter und schaltet natürlich wieder ein.

00:36:20: wir freuen uns drauf.

00:36:21: und Oliver jetzt hast du das Schlusswort.

00:36:23: Ja, auch von mir natürlich ganz herzlichen Dank nochmal für die Einladung.

00:36:27: Es war ein spannendes Gespräch und ich finde euren Podcasts und die Themen, die ihr da bedenkt super wertvoll und ich kann nur jedem raten zu abonnieren wieder reinzuhören und dabei schon mal viel Spaß!