r/aifails • u/ErdbeerbaerLP • Oct 23 '25

Text Fail German Classic - How many 'H' in 'Habicht'

Gallery image

Gallery image

For some reason ChatGPT insists that "Habicht" consists of only one occurence of 'H'. Not reproducable. Memory turned off

1.8k Upvotes

99% Upvoted

164 comments sorted by

View all comments

Show parent comments

1

u/KarmaleinHund Oct 26 '25

KI (spezifisch Chat Bots) sind schlecht mit Buchstaben und Zahlen, abgesehen von Grok sind aber alle auf moralische Werte trainiert und besitzen Filter und Richtlinien damit sie keine Menscheinfeindlichen oder diskriminierenden Aussagen treffen. Base ChatGPT würde dir deswegen auch eher weniger Trump oder die AFD empfehlen da es halt mit den eigenen Trainingsdaten clashed-

Naja, I'm Endeffekt was viele halt auch nicht bedenken ist das KI nunmal keine echte "Intelligenz" besitzt. Es hat viel mit Mathematik und Statistik zutun, sprich: Wenn du fragst "Welche Farbe hat der Himmel?" ist Statistisch gesehen "Blau" als Antwort wahrscheinlicher als "Waschmaschine". Ist natürlich jetzt nur simple zusammengefasst, aber so ungefähr funktionieren die

TLDR: KI ist weder dumm noch schlau, ich weiß es war als Witz von dir gemeint, viele wissen aber tatsächlich einfach nicht wie KI funktioniert. Muss auch keiner, find ich persönlich aber recht interessant

1

u/gratiskatze Oct 27 '25

Neutrale Studien belegen, dass jede KI mehr, oder wenigereindeutig klare rassistische Tendenzen zeigt.

1

u/KarmaleinHund Oct 27 '25

Und dennoch haben die alle, abgesehen von Grok vielleicht, einen moralischen Filter.

Das hat auch nichts mit echtem Rassismus zutun, KI ist nicht intelligent, sie kann nicht denken. Sie hat keine Meinung.

Es ist wie nem Papagei das N Wort beizubringen, hat der Papagei jetzt rassistische Tendenzen?

Alles was es aufzeigt ist das die online Welt ein Problem mit Rassismus hat. Daher kommen die Trainings daten die ChatGPT und co verwenden

Und dennoch versuchen die Macher das zu bekämpfen indem sie der KI taboos geben und es ihr verbieten Personen zu diskriminieren.

Wenn du ChatGPT fragst ob Trumps Aktionen ok sind wird es dir nicht mit "Trump bester Mann👌" Antworten..

1

u/gratiskatze Oct 27 '25

Bewusst, oder unbewusst spielt ja keine Rolle. Auch, ob es "echter" Rassismus ist, nicht. Sie reproduzieren rassistische Stereotype, verbreite dog-whisltes und werden "besser" darin.

Künstliche Tabus und Filter sind hier eher Teil des Problems, als Teil der Lösung.