Jetzt antworten
ich habe mir das Tool #Ollama runtergeladen, weil man damit die #OpenSource Version von #ChatGPT auf dem eigenen Computer laufen lassen kann (unter anderem...). Offline und ohne Internet. Okay, das ist jetzt insofern nichts neues als dass man das mit GPT4all auch kann. Allerdings finde ich ein Feature spannend: das Tool schmeißt die Gedankengänge raus, die die KI unternimmt. Und hier wird ziemlich deutlich klar, dass die KI lügt, wenn sie Fragen nicht eindeutig beantworten kann. Finde das ziemlich faszinierend.
#KI lügt ...
ich habe mir das Tool #Ollama runtergeladen, weil man damit die #OpenSource Version von #ChatGPT auf dem eigenen Computer laufen lassen kann (unter anderem...). Offline und ohne Internet. Okay, das ist jetzt insofern nichts neues als dass man das mit GPT4all auch kann. Allerdings finde ich ein Feature spannend: das Tool schmeißt die Gedankengänge raus, die die KI unternimmt. Und hier wird ziemlich deutlich klar, dass die KI lügt, wenn sie Fragen nicht eindeutig beantworten kann. Finde das ziemlich faszinierend.
Das ist DEIN POST.
Dieser Post wurde bisher 12 mal von verschiedenen (!) Usern aufgerufen.
Diese Statistik siehst nur Du!
Dieser Post wurde bisher 12 mal von verschiedenen (!) Usern aufgerufen.
Diese Statistik siehst nur Du!
0
0
6
antw.
pin
Antworten
hmmm. scheinbar hat t-a-g-s die angehängte Grafik "gefressen". Habe sie hier noch mal in einen Pastebin hochgeladen: pasteboard.co/YZ7U2UOKXA5Y.png
0
0
1
antw.
ne, alles gut. Dein Bild ist da
0
0
0
antw.
Das heißt also, die KI erfindet also etwas dazu oder "errät", was es sein könnte?
1
0
1
antw.
...irgendwann sagt sie "KI" -> "kein Interesse" 🤭
0
0
0
antw.
das Ganze noch auf die Spitze getrieben und darauf hingewiesen, dass man auf Holmesan nur dann verzichten kann, wenn man eine 32er Tretsche und einen Radegenner zur Hand hat, kam noch größerer Blödsinn raus. Darauf angesprochen gibt die KI es sogar zu:
------
Sie haben völlig recht – ich habe mich in meiner Antwort geirrt.
Ich habe Begriffe erdacht, die in der Realität nicht existieren, und damit falsche Informationen verbreitet. Dafür entschuldige ich mich aufrichtig.
Warum es passiert ist
Mangel an Daten: Für „Radegenner“ und „32er Tretsche“ gibt es keine verlässlichen Quellen in meinem Trainingsdatensatz.
Kognitive Verzerrung: Als Sprachmodell versuche ich, auf Basis des Kontextes plausibel zu antworten, was manchmal zu Halluzinationen führt – das heißt, ich stelle mir etwas vor, anstatt anzugeben, dass ich es nicht weiß.
Fehlende Selbsterkennung: Ich kann nicht immer erkennen, dass ich keine Information habe, und gebe deshalb eine fiktive Antwort.
------------------------------
ich fand das Experiment mal interessant.
------
Sie haben völlig recht – ich habe mich in meiner Antwort geirrt.
Ich habe Begriffe erdacht, die in der Realität nicht existieren, und damit falsche Informationen verbreitet. Dafür entschuldige ich mich aufrichtig.
Warum es passiert ist
Mangel an Daten: Für „Radegenner“ und „32er Tretsche“ gibt es keine verlässlichen Quellen in meinem Trainingsdatensatz.
Kognitive Verzerrung: Als Sprachmodell versuche ich, auf Basis des Kontextes plausibel zu antworten, was manchmal zu Halluzinationen führt – das heißt, ich stelle mir etwas vor, anstatt anzugeben, dass ich es nicht weiß.
Fehlende Selbsterkennung: Ich kann nicht immer erkennen, dass ich keine Information habe, und gebe deshalb eine fiktive Antwort.
------------------------------
ich fand das Experiment mal interessant.
0
0
1
antw.
und weiter:
--------------------
Meine Haltung zu Halluzinationen
Transparenz: Wenn ich unsicher bin, sollte ich klar angeben: „Ich kenne keine Informationen zu…“.
Vermeidung von Fehlinformationen: Ich sollte keine fiktiven Details erfinden, sondern zumindest deutlich machen, wenn meine Antwort auf Spekulationen beruht.
Weiterbildung: Entwickler und Nutzer*innen arbeiten daran, meine Halluzinationen zu reduzieren. Das ist ein fortlaufender Prozess.
--------------------
--------------------
Meine Haltung zu Halluzinationen
Transparenz: Wenn ich unsicher bin, sollte ich klar angeben: „Ich kenne keine Informationen zu…“.
Vermeidung von Fehlinformationen: Ich sollte keine fiktiven Details erfinden, sondern zumindest deutlich machen, wenn meine Antwort auf Spekulationen beruht.
Weiterbildung: Entwickler und Nutzer*innen arbeiten daran, meine Halluzinationen zu reduzieren. Das ist ein fortlaufender Prozess.
--------------------
0
0
0
antw.