Analogie auf KI-Irrsinn – Musik-Sketch geht viral

KI-Anwendungen wie ChatGPT, Gemini und Claude erleichtern uns gerade massiv das Alltagsleben. Ihre Ergebnisse findet man überall. Der Umgang mit künstlicher Intelligenz bringt aber auch so einige Schwierigkeiten, die für die einen frustrierend und für die anderen unfreiwillig komisch sind.

Eine davon ist das so genannte „Lost in the Middle“-Phänomen. Die KI konzentriert sich dabei nur auf die letzte Korrektur und verliert dabei den Kontext aus den Augen, was zu schrägen Ergebnissen führen kann. Der Grund dafür ist, dass künstliche Intelligenz dazu neigt, Lücken mit statistisch wahrscheinlichen, aber faktisch oft falschen oder nicht passenden Informationen zu füllen. Sie antwortet selbstbewusst weiter, auch wenn sie den Faden verloren hat, weil ihr Algorithmus auf Fortsetzung getrimmt ist.

Ein Instagram-User hat nun eine Sequenz aus der britischen „Sketch Show“ (2001-2004) ausgegraben, die lustig an dieses Phänomen erinnert. In dem kleinen Film versucht eine Sängerin den Song „California Dreamin’“ von The Mamas And The Papas mit ihrem Background-Chor aufzunehmen. Was im Original durch den Call-And-Response-Gesang für anhaltende Gänsehaut sorgt, misslingt hier völlig. Denn der Chor versteht das Prinzip des „Wiederholens“ nicht.

KI scheitert gerade an ganz einfachen Aufgaben

Statt die Zeilen zeitversetzt zu wiederholen, singt der Chor entweder den falschen Text, antwortet mit völlig unpassenden Sätzen oder verpasst den Einsatz. Je verzweifelter die Leadsängerin dann versucht, dem Chor das einfache Prinzip von „Ich singe vor, ihr singt nach“ zu erklären, desto absurder werden die Reaktionen.

Wenn man das noch einmal auf KI anwendet: Der Chor im Sketch versteht das Konzept des Nachsingens nicht, sondern versucht nur, Geräusche zu imitieren. Künstliche Intelligenz versteht generell keine Kausalität (jedenfalls nicht im Sinne menschlichen Verstehens). Wenn man sagt „Mach das wie eben, nur ohne X“, entfernen ChatGPT und Co. manchmal nicht nur das X, sondern auch ein Y, weil sie nur Muster abgleicht, statt die logische Struktur der Aufgabe zu begreifen.

California Dreamin' [DVD] Für bei Amazon kaufen

Übrigens wird auch das „Prompt Engineering Problem“ durch den kleinen Sketch veranschaulicht. Die Sängerin wird nämlich immer deutlicher in ihrer Aufforderung, etwas zu verlangen („Singt genau das, was ich sage!“), was den Chor nur noch mehr verwirrt. Das ist genauso bei KI: Manchmal sorgt ein zu komplexer Prompt dafür, dass die Agenten überfordert sind. Kleine Nuancen in der Formulierung führen zu völlig unterschiedlichen Ergebnissen, genau wie die verzweifelten Erklärversuche im Sketch.

ProSieben entwickelte übrigens zwischen 2002 und 2003 auch eine deutsche Variante der „Sketch Show“ und transferierte den „California Dreamin’“-Sketch ins Deutsche.

An dieser Stelle findest du Inhalte aus Youtube

Um mit Inhalten aus Sozialen Netzwerken zu interagieren oder diese darzustellen, brauchen wir deine Zustimmung.

Soziale Netzwerke aktivieren

Ich bin damit einverstanden, dass mir externe Inhalte aus Sozialen Netzwerken angezeigt werden. Damit können personenbezogene Daten an Drittanbieter übermittelt werden. Mehr dazu findest du in der Beschreibung dieses Datenverarbeitungszwecks und in den Datenschutzinformationen dieser Drittanbieter.

Kleine Anekdote am Rande: Kommentare bei Instagram und YouTube deuten daraufhin, dass sich Dozenten bei Erstsemestern in der Universität oder Lehrer in der Schule auch nicht anders fühlen als die Sängerin in dem Film.