Von AI-Slop zu echten Resultaten.
Wir werden alle mit KI arbeiten. Die Kunst liegt nicht in der Umsetzung — die übernimmt die Maschine — sondern in Planung und Kontrolle.
Dafür brauchst du ein tiefes Verständnis für die Sache, aber kein tiefes Detailwissen. Das Detailwissen liefert die KI: jeder hat tausend kleine Experten an der Hand.
Der scheinbare Widerspruch: „Kontrolle" und „kein Detailwissen" beißen sich — Kontrolle heißt ja, den Output beurteilen zu können, und das geht nur mit genug Verständnis. Die Auflösung: Es ist nicht weniger Wissen, sondern anderes. Nicht die Ausführungs-Mechanik (delegierbar), sondern Beurteilungs- und Architektur-Wissen — nötiger denn je.
Die Grenze zwischen „das macht die KI" und „das bleibt bei dir" ist kein Themengebiet. Sie ist eine bewegliche Schwelle. Was sie bewegt: was auf dem Spiel steht.
Je höher der Einsatz, desto mehr wandert über die Schwelle: zu dir, zu deinem Urteil. Das Einzige, was immer unten bleibt, ist die reine Mechanik.
Sie hat drei Momente — alle über der Schwelle, alle deine Sache:
Das Ziel und die Akzeptanzkriterien definieren. Ohne das weiß weder du noch die KI, was „fertig" heißt.
Die stillen Annahmen der KI hinterfragen, statt Vorschläge abzunicken. Kontrolle in Echtzeit, nicht Aufräumen hinterher.
Gegen die Kriterien prüfen, die du vorne definiert hast. Durchklicken, gegenhalten: „Tut es, was ich wollte?"
Das Abnicken hat einen Namen: Automation Bias (Parasuraman & Manzey 2010). Gut erforscht, trifft Experten genauso wie Laien, und Training schützt nicht davor. Das Einzige, was hilft, ist die bewusste Nachfrage. → Quellen
Ein Satz Prompt, ein fertig aussehendes Kundenportal. Frontend, Backend, läuft. Sieht fertig aus. Ist es nicht.
Probier's selbst aus. Das hier sieht aus wie ein fertiges Portal — reich eine Anfrage ein, dann klick „Jetzt testen wie ein Profi":
Addy Osmani (Google) nennt es die „Demo-Quality Trap": Die ersten 70 % schenkt dir die KI — der Happy Path funktioniert wunderschön. Die letzten 30 % (Fehlerfälle, Edge-Cases, der echte Fluss) sind die eigentliche Arbeit.
One-Shot, ohne reinzuschauen = Vibe Coding (Karpathy/Willison). Völlig okay für einen Wegwerf-Prototyp. Sobald es jemand benutzt, braucht's Vibe Engineering: Specs, Erfolgskriterien, Review.
Dieselbe Liste — schalt einmal um. Vorne dein Plan, hinten dein Test:
Der teuerste Fehler passiert, bevor die KI überhaupt startet: sich in eine Lösung zu verlieben, statt das Problem zu verstehen.
Das Kundenportal von eben war eine Lösung — hübsch gebaut, aber am eigentlichen Problem (dem Fluss zwischen Kunde und Support) vorbei. Wer nur nach der Lösung fragt, bekommt eine schnellere Version des Bekannten. Wer nach dem Problem fragt, sieht plötzlich ganz andere Wege.
Ein ehrlicher Nachtrag zur Quelle. Dieses Bild wird gern mit einem Zitat verkauft — „Hätte ich die Leute gefragt, hätten sie schnellere Pferde gewollt." Meist Henry Ford zugeschrieben (nicht Carl Benz). Nur: belegt ist es nicht. Es fehlt in Fords Autobiografie und in der Zitat-Datenbank des Henry-Ford-Museums; die früheste Zuschreibung taucht erst 2001 auf — Ford starb 1947. Nimm also das Bild, aber nicht das Zitat als Beleg. Passend für eine Session übers Prüfen: Fast hätten wir's selbst durchgewunken. → Quellen
Beide enden im selben Ergebnis: Slop.
Du erkennst den Mist nicht, weil das Verständnis fehlt. Gegenmittel: lernen, experimentieren — Stakes runter, Schwelle runter, spielen. Genau dafür ist die Spielwiese da.
Du könntest es beurteilen, bist aber zu faul oder überfordert und nickst ab. Gegenmittel: Haltung — und den Aufwand an den Stakes ausrichten.
Echte Quellen — nichts aus dem Kopf zitiert. Bei einer Session über KI-Halluzination wäre das der Super-GAU.