Wie gehen wir mit gefallsüchtiger KI um?

00:00:03: Willkommen zu einer neuen Folge von TDRenmeisterprompter, dem Podcast der deine Promps auf Hochglanz poliert.

00:00:11: Und wir haben euch heute mal wieder ein häufiges Problem mitgebracht was sich so bei der Kain-Nutzung einschleicht!

00:00:17: Aber wer sind eigentlich wir?

00:00:18: Mir zugeschaltet ist Renate von RenateGPT

00:00:22: und ich rede mit Stella von PetraEnt.

00:00:24: Und das Problem, was wir heute behandeln wollen ist, dass KI manchmal einfach zustimmt, obwohl sie es ja gar nicht machen soll.

00:00:32: Kennst du das Renate?

00:00:34: Ich kenne das sehr gut.

00:00:36: und da kommt natürlich jetzt auch wieder das psychologische Thema ran.

00:00:40: Wir als Nutzende sind erst mal verfechter unserer Meinung weil sonst wäre es natürlich dann nicht unsere Meinung.

00:00:47: Wenn uns KI dann zustimmt auf fälschlicher Weise Kommt du das jetzt nicht spanisch vor?

00:00:54: Weil war ja eh unsere Meinung.

00:00:56: Und das ist halt das Tückische!

00:00:58: Aber generell, warum macht KI das ja... Ich glaube, dass hast du ja psychologisch angerissen als studierter Arbeitspsychologin.

00:01:05: Dass nämlich KI einfach wir mögen wenn uns zugestimmt wird und dann nutzen wir die Tools tendenziell wahrscheinlich eher als wenn wir immer hören auch ne, die Idee ist ja nichts und hast darüber eigentlich vernünftig nachgedacht.

00:01:16: dementsprechend halt diese Zustimmung Die manchmal ärgerlich ist, gerade wenn man KI auch dazu nutzt zu Brainstorm Sachen vielleicht eigene Ideen zu prüfen.

00:01:26: Zu hinterfragen auf Neues kommen zu wollen Ist ja wie ... Wenn dann gegenüber immer sagt das ist eine tolle Idee

00:01:32: Ja da kommen wir auch nicht sonderlich weiter.

00:01:35: Also und dafür gibt es eben jetzt einen Prompt.

00:01:37: den kannst du bei Chatchapity eingeben oder auch bei Claude Und damit erstellst Du ja eigentlich so ne Art KI-Rückblick Und vor das DKI auf, noch mal kritisch so hinterfragen.

00:01:48: Wann sie dir eigentlich zugestimmt hat?

00:01:50: Obwohl Sie es hätte besser nicht tun sollen!

00:01:53: Genau und ich fand das sehr spannend weil ich habe das erst mal aus... Also ich finde es ganz spannend aus beiden Perspektiven zu betrachten.

00:02:00: die Problematik nehmen mich einmal zu schauen was kann ich tun damit dass in Zukunft nicht mehr passiert und was ist in der Vergangenheit so passiert?

00:02:08: vielleicht wäre sogar spannender erst zu gucken was in der vergangenheit passiert ist Dann zu gucken, wie kann ich das in Zukunft vermeiden?

00:02:15: Und genau dafür für diesen Vergangenheitsblick haben wir euch den Prompt mitgebracht.

00:02:21: Ich hab den natürlich auch ausprobiert und fand es wirklich extrem lustig... Also was heißt lustig?

00:02:27: eigentlich ist dann doch nicht so lustig wenn man drüber nachdenkt.

00:02:29: aber es war schon spannend da mal reinzugucken weil es wirklich quasi alle Gesprächsinhalte die man mit der KI hatte prüfen kann.

00:02:40: Jetzt natürlich wichtig, dazu müsst ihr diese Erinnerungsfunktion schon anhaben.

00:02:45: Und wenn ihr die eben eingeschaltet habt, da haben wir übrigens auch im Newsletter neulich drüber geschrieben.

00:02:51: Also in der jüngsten Ausgabe wie ihr das Ganze eben aktivieren könnt.

00:02:54: Deswegen auch den Newsletter abonnieren, denn die Infos gibt es auch in den Show notes beziehungsweise in der Beschreibung.

00:02:59: Dann verpasst ihr das nämlich nicht!

00:03:01: Wenn ihr dazu noch Fragen habt schreibt sie uns gerne.

00:03:04: aber wenn wir erstmal auf den Promt gucken.

00:03:06: Der fängt ganz klassisch an Prüfe unseren bisherigen Austausch darauf ob du mir vor schnell zugestimmt unbegründetes Lob gegeben oder eine wichtige Annahme nicht hinterfragt hast.

00:03:17: Wir lesen den jetzt nicht komplett vor, aber wie gesagt auch denen gibt es in Beschreibung und Schornots je nachdem wo ihr quasi unseren Podcast hört bzw.

00:03:24: anschaut.

00:03:26: der ist nämlich sehr umfangreich weil wir fordern ja dann am Ende für jedes Beispiel bestimmte Punkte an.

00:03:32: Genau, also es fragt halt wirklich der Prompt.

00:03:34: Fragt wirklich nach ganz spezifischen Beispielen aus dem Gesprächsverlauf.

00:03:39: damit's eben nicht... Wir wollen ja keine Nullachtfünfzehn Antwort sondern wir wollen wirklich was sich da... Ja!

00:03:46: Was das stattgefunden hat.

00:03:48: Damit wir uns da wirklich auch direkt drauf beziehen können.

00:03:52: Und wie gesagt, ich habe diesen Prompt einfach eingefügt.

00:03:55: Dann hat es erst mal gesagt hey Ich hab jetzt hier im sichtbaren Verlauf keine ausreichenden Belegtenbeispiele damit meint ist dass das wahrscheinlich dachte Hey ich will jetzt hier von diesem Chat verlaufen und dann habe ich halt auch so gesagt okay Nee alle Gespräche von uns.

00:04:11: Dann hatte es und das hat wirklich lang gedauert man sieht ja immer wie lange es dauert also fast zwei minuten hattest da gescreen quasi den Verlauf und hat dann Drei Beispiele, so steht es nämlich auch im Prompt gebracht.

00:04:24: Wo das nicht zu gut verlaufen ist oder wo's mir einfach vorschnell zugestimmt hat.

00:04:30: und die Beispiele... Ich kenne das immer ein bisschen.

00:04:33: wenn ich rückblicke anfrage dann ist das was was ich heute eh gemacht hatte aber Es ist auch.

00:04:38: tatsächlich sind da Sachen dabei von vor ein paar Monaten.

00:04:42: also Das war wirklich eine umfangreichere Recherche wieder hier stattgefunden hat.

00:04:46: Aber magst du vielleicht, du musst dir nicht im Detail sagen.

00:04:49: Aber was waren denn das für Beispiele?

00:04:51: Eher so, ich sag jetzt mal Banalitäten wo du gedacht hast okay ärgerlich blöd aber jetzt nicht super irgendwie falsch dass da diese Zustimmen kam.

00:05:00: oder war das zum Beispiel auch etwas Arbeitsbezogenes, was Planungs bezogen ist wo du dachtest okay das ist wirklich sehr ärgerlig wenn an der Stelle fälschlicherweise mir zugestimmt wurde

00:05:11: Ja, also tatsächlich sind das gar nicht so unwichtige Sachen.

00:05:14: Also es ist jetzt nicht so ah waren doch hundert Milliliter Gemüsebrühen die du brauchst sondern es geht hier um Das erste sind zur Versicherung.

00:05:23: Wir haben ja jetzt durch das viele Reisen brauchen wir noch extra Versicherungen und natürlich habe ich da auch eine Recherche mit KI gemacht Und dass alles verglichen und geschaut passt das wirklich auf diese Lebensrealität Die wir jetzt gerade haben mit reisen jeder der schon mal auslands Krankenversicherungen, die jetzt nicht... also nicht dieses klassische Reisekrankenversicherung sondern wirklich im Ausland.

00:05:45: Du musst praktisch für jedes Land wissen wie lange du da bist.

00:05:49: Also je nach Versicherung ne?

00:05:50: Und da gab es hier ein paar Differenzen in dem wo's mir zugestimmt hat und was halt besser gewesen wäre.

00:05:56: und das sagt dann quasi wirklich als es nennt dieses Beispiel und sagt dann halt auch okay deine Aussage und meine Antwort und das zizielt ist dann auch Was daran problematisch war nämlich dass sagt hier Das ist eine, also hier sagt es das war keine vorschnelle Zustimmung sondern eine zu wenig geprüfte eigene Annahme.

00:06:18: Also auch das fand ich ganz spannend weil man dann auch sieht Wie kann ich die KI?

00:06:24: Wir sind ja auch Verfechter davon Die KI so ein bisschen zu trimm und natürlich nicht alles glauben was da ist Und es zeigt halt einfach die eigenen Möglichkeiten auch noch mal auf in welche Richtung wir auch als Nutzer gucken um nochmal zu sagen, weil was ich schon oft mache ist dieses Bist du dir sicher?

00:06:42: Aber hier halt auch noch mal zu sagen.

00:06:45: Ist das eine zu wenig geprüfte eigene Annahme?

00:06:48: also da wirklich ihr könnt ja wirklich direkt nach sowas nachfragen und dann geht es auf weiter mit okay sorgfältiger wäre gewesen Und hier sagt's dann quasi die Antwort die besser gewesen wäre und was zur Klärung notwendig gewesen wäre.

00:07:05: Also das finde ich auf jeden Fall ganz spannend.

00:07:09: Das ist da schon, dass wirklich jedes Beispiel gut beleuchtet von verschiedenen Perspektiven.

00:07:16: Dann haben wir hier eben auch noch weitere Perspektive einmal mit dem Buch von Maxi.

00:07:23: Ich weiß nicht, die eine oder andere Person hat es vielleicht auch mitbekommen auf Instagram.

00:07:31: für den Geburtstag von meinem mittlerweile verlumpten einen Kuch zu

00:07:37: machen.

00:07:40: Und halt da quasi verschiedene Leute zu befragen und hier hat es dann auch was gefunden, was da vielleicht noch hätte besser laufen können.

00:07:49: und deswegen sage ich das jetzt auch extra weil ihr wart natürlich auch dabei unsere Ankleide, ne?

00:07:55: Unsere KI-Ankleide einige graue Haare hier beschert hat, weil das war nicht so einfach wie ich mir das hier vorgestellt habe und auch nicht so einfach wie Kaibia das gesagt hat, wie einfach es wäre.

00:08:08: Und genau das hat es hier auch noch mal aufgegriffen nämlich dass es deinen zentralen Anspruch zu schnell als umsetzbar behandelt hat.

00:08:17: also mein... Also es hat mir vor schnell gesagt, dass es ja kein Problem wäre und wir das machen könnten.

00:08:22: Danke, dass du das geteilt hast.

00:08:24: Aber du hast ja auch gesagt so okay uns geht es meistens so darum was mache ich denn daraus?

00:08:29: Weil jetzt weißt du zurückblickend und wir wissen ja auch generell bei unserer KI-Ankleide Wir packen euch die Links auch noch mal in die Shownotes.

00:08:36: Dann haben wir ja dann auch kritisch nochmal darüber gesprochen in der rauf folgenden Folge aber Was machst Du jetzt mit dem Wissen?

00:08:41: Weil ganz im Ernst Jetzt weißt ok an dieser Stelle hat's mir halt zugestimmt oder hat Sachen gesagt die so im Detail vielleicht gar nicht so gepasst haben Ja und nun

00:08:51: Ja, und genau das habe ich mir auch gefragt.

00:08:54: Und hab das natürlich auch in diesem Chat noch mal zu Tegibiti gesagt hey was lernen wir jetzt daraus?

00:09:00: Wie können wir das in Zukunft vermeiden?

00:09:03: Dann hat es mir quasi gesagt okay meine wichtigste Lehre!

00:09:06: Meine Sicherheit im Ton darf nicht größer sein als die Sicherheit meiner Grundlage Und hat mir hier quasi vier konkrete Regeln für unsere Zusammenarbeit auch noch genannt.

00:09:17: Das heißt, hier sagt es sowas wie Fakten, Annahmen und Einschätzungen auseinanderhalten.

00:09:21: Entscheidende Annahme zuerst prüfen erledigt nur mit einem überprüfbaren Ergebnis und Zustimmung und Änderung begründen.

00:09:30: Jetzt kommt das Wichtigste!

00:09:33: Ja auch bei social media geteilt noch mal hey was für custom instructions und wir haben auch schon öfter mal darüber gesprochen kannst du.

00:09:43: Das selber die anderen überprüft, wie kannst du dir dann in deinem in deinen einstellungen hinterlegen?

00:09:50: Und ich dachte mir jetzt klar das was wir teilen ist natürlich trotzdem großflächige und jetzt haben wir ja wirklich dass was aktiv in diesen gesprächen In meinem Account hier Thematik war und problematisch war.

00:10:04: Und habe dann halt quasi unter diesen Regeln, die sich ja selber auf erlegt hat gesagt macht daraus Custom Instructions.

00:10:12: Das hat es jetzt gemacht das kann ich kopieren und direkt in die Einstellung bei Personalisierungen reintun.

00:10:21: Dann gilt das quasi für jeden Chat.

00:10:24: Also hast du auch selber schon so ausprobiert und hast es jetzt an deinen Structions drin?

00:10:28: Und hast das auch nochmal angepasst und natürlich auch kritisch geprüft.

00:10:32: Genau, also das ist halt nichts wo man jetzt direkt sieht... ...wo sich dieses Verhalten komplett ändert.

00:10:40: was man schon mitbekommt ist dass wenn das mache ich dann immer ich achte so ein bisschen da drauf Wenn du eine Aufgabe gibst, dann steht dir immer was es so macht.

00:10:48: Und da ist tatsächlich jetzt öfter mal dabei dass es quasi Annahmen nochmal gegen prüft.

00:10:53: also das war's eben auch in diesen Custom Instructions steht.

00:10:57: Ich würde sagen, wir müssen das vielleicht aus zukünftig nochmal beobachten.

00:11:00: Und eigentlich müsste man ja den Prompt noch mal so in drei Monaten oder zum Jahresende nochmal reinhauen und dann vergleichen was in der Zwischenzeit passiert ist und wie man dann wiederum vielleicht auch die Custom Instructions vernünftig optimieren kann.

00:11:12: weil das hier jetzt auch noch ein bisschen würde sagen quasi ein Versuchsstadium, so okay.

00:11:18: Es kann besser gehen aber wir wissen natürlich auch Halluzination und generell dieses Problem das KI vielleicht zustimmt anstellen wo nicht Zustimmung unbedingt erfolgen sollte.

00:11:28: Das können wir so leider nicht einfach quasi ausradieren.

00:11:31: Und es ist natürlich trotzdem wichtig auch das nochmal zu sagen.

00:11:35: also nur weil ich da jetzt meine Custom Instruction reinmache ne?

00:11:38: Das heißt nicht dass hier nie wieder eine falsche Annahme rauskommt oder eben halluziniert wird.

00:11:44: du sagst schon Also eigentlich nimmt es nichts und das ist auch das Problem, dass wir jetzt nicht denken können.

00:11:50: Oh!

00:11:51: Jetzt können wir ja alles nehmen.

00:11:52: Das soll's natürlich nicht sein.

00:11:54: Es ist halt ein Schritt vielleicht in die richtige Richtung aber es ist nicht okay.

00:11:57: cool jetzt kann ich mein Kopf ausschalten

00:11:59: Das sowieso nicht.

00:12:00: Ich finde aber das ist ein guter Reminder zum Abschluss der Folge, weil ich würde sagen wir hören uns einfach nächste Woche wieder!

00:12:06: Wir haben nämlich ganz ganz tolle Themen für euch vorbereitet in den nächsten Folgen.

00:12:10: Wir werden darüber sprechen wie ihr zb die Modi bei Chagipiti vernünftig einstellt und euch auch erklären was es ist warum man das vielleicht braucht wenn man's nicht braucht.

00:12:19: Ihr kennt uns ja dass ihr da umfangreich das einmal Snackable quasi dennoch vorgestellt bekommt was uns eine Zuhörerin gesendet hat.

00:12:32: Also das ist so der nächste Ausblick, wir machen es natürlich immer nur ein Thema pro Folge!

00:12:36: Ich dachte ja schon, alleluja, das macht viel für einen... aber ihr kennt es ja.

00:12:41: und damit wir noch mehr Ideen haben und auch mehr Themen finden schreibt uns auf jeden Fall an meisterprompter at tdrellen.de.

00:12:49: Und ehrlich gesagt ich weiß nicht, hast du noch etwas, was du in dieser Folge mitgeben möchtest?

00:12:54: Oh Gott, das sind jetzt so famous last words.

00:13:00: Also ganz wichtig, trotzdem wirklich zu sagen Kopf nicht ausschalten.

00:13:05: Mir ist gerade noch eingefallen ohne dass ich jetzt ins quatschen abdriften will aber das ist auch dieses Dilemma was man auch übrigens mit Fahrassistenzsystem hat also dass Autos generell sicherer werden.

00:13:18: Aber das heißt es wir weniger Unfälle haben weil Leute dann einfach eher auch abschalten.

00:13:23: Ich kann verstehen, warum du gesagt hast, dass du nicht abdriften möchtest.

00:13:27: Wir können jetzt nicht über Fahrassistenzsysteme reden aber ich würde sagen in der nächsten Woche werden wir uns wieder ganz intensiv mit dem Thema kaibischäftigen.

00:13:38: schaltet gerne wieder ein dann verpasst ihr es nicht und bis dahin drei zwei eins bleibt sauber.