Warum 96 Prozent der Entwickler KI-Code misstrauen, aber nur die Hälfte ihn prüft
Fast alle Entwicklerinnen und Entwickler sagen, sie würden KI-generiertem Code nicht blind vertrauen. Trotzdem committet nur etwa jeder Zweite ihn konsequent geprüft. Eine aktuelle Befragung unter mehr als 1.100 Entwicklern zeigt: 96 Prozent halten KI-Code für nicht uneingeschränkt vertrauenswürdig, aber nur 48 Prozent verifizieren ihn vor dem Commit durchgängig (Sonar, 2025). Zwischen Misstrauen und Prüfverhalten klafft eine Lücke, die sich nicht mit fehlendem Problembewusstsein erklären lässt.
Der Grund liegt tiefer: im Tempo selbst. Wer im Flow schnell Prompt für Prompt lauffähigen Code erzeugt, verliert genau die kritische Distanz, die er eigentlich für richtig hält. Für Engineering-Verantwortliche in Medizintechnik, Automotive oder Finanzwesen ist das nicht nur eine akademische Beobachtung: Jede ungeprüfte Zeile Code kann später zum Audit-Risiko werden.
Der Flow-Moment: Warum sich Tempo wie Fortschritt anfühlt
Der Flow-Moment: Warum sich Tempo wie Fortschritt anfühlt
Praktikerinnen und Praktiker beschreiben Vibe Coding immer wieder mit denselben Begriffen: „instant success“, „Flow“, „addictive momentum“. In einer Auswertung von Praxisberichten war genau dieses Erlebnis mit 64 Prozent das mit Abstand häufigste Thema (Fawzy, Tahir & Blincoe, 2025). Eine ergänzende qualitative Studie bestätigt: Entwicklerinnen und Entwickler suchen den Zustand aktiv, weil er Freude bereitet und kognitive Last reduziert. Sie lassen die KI die Syntax übernehmen und konzentrieren sich auf die Idee (Pimenova et al., 2025).
Genau diese Entlastung ist der Mechanismus, der Risiko erzeugt. Wer Syntax und Details an die KI delegiert, verlagert auch die Prüfung, oft unbemerkt. Ein Beleg dafür liefert die vielzitierte METR-Studie zur Entwicklerproduktivität: Erfahrene Open-Source-Entwickler arbeiteten mit KI-Unterstützung real 19 Prozent langsamer, fühlten sich dabei aber subjektiv rund 20 Prozent schneller (Becker et al., 2025). Die Wahrnehmung von Tempo und die tatsächliche Prüftiefe laufen auseinander.
Automation Bias: Der blinde Fleck, den Geschwindigkeit erzeugt
Das Phänomen dahinter ist in der Forschung seit Langem bekannt: Automation Bias, die Tendenz, automatisiert erzeugten Output weniger kritisch zu hinterfragen als selbst erarbeiteten. Die bislang umfassendste systematische Übersichtsarbeit dazu wertete 74 Studien aus und fand: Eine fehlerhafte automatisierte Entscheidungsunterstützung erhöhte das Risiko einer falschen menschlichen Entscheidung um 26 Prozent (Goddard, Roudsari & Wyatt, 2012). Vibe Coding überträgt diesen Effekt in die Softwareentwicklung, nur mit deutlich höherer Taktfrequenz als in den ursprünglich untersuchten Kontexten.
In der Praxis zeigt sich das doppelt. Erstens im bereits erwähnten Verifikationsgraben: 66 Prozent der befragten Entwickler geben an, KI-Code „sehe korrekt aus, sei aber nicht zuverlässig“, und 38 bis 40 Prozent empfinden die Prüfung von KI-Code sogar als aufwendiger als die Prüfung menschlichen Codes (Sonar, 2025). Zweitens bei weniger erfahrenen Teammitgliedern: Eine randomisierte Studie mit überwiegend jungen Softwareentwicklern fand, dass die Gruppe mit KI-Unterstützung in einem Verständnistest 17 Prozentpunkte schlechter abschnitt als die Kontrollgruppe. Das entspricht fast zwei Notenstufen. (Shen & Tamkin, 2026) Wer im Flow lernt, ohne bewusst zu verstehen, baut genau die Prüfkompetenz nicht auf, die später fehlt.
Für Regulatory-Affairs- und Compliance-Verantwortliche ist diese Verschiebung besonders heikel: Nachweispflichten nach IEC 62304 oder ISO 26262 verlangen nachvollziehbare Prüfentscheidungen, unabhängig davon, wie schnell der Code entstanden ist.
Kritische Distanz zurückgewinnen: Was in der Praxis wirkt
Die gute Nachricht: Der Flow-Effekt lässt sich zwar nicht abschalten, aber gezielt einhegen. Drei Ansätze haben sich in der Praxis bewährt:
- Diff-Größe begrenzen. Eine zehnmonatige Code-Review-Studie bei Cisco Systems über 3,2 Millionen Codezeilen zeigt: Jenseits von 400 Zeilen sinkt die Fähigkeit, Fehler zu finden, deutlich. In 200 bis 400 Zeilen über 60 bis 90 Minuten werden dagegen 70 bis 90 Prozent aller Defekte entdeckt (SmartBear, 2006). Große KI-Diffs unterlaufen genau diese Schwelle.
- Verifikation laut aussprechen. Wer Testläufe, Diffs und Annahmen aktiv benennt, statt sie stillschweigend zu akzeptieren, durchbricht den Automatismus des Vertrauens.
- Verstehen vor Übernehmen. Die genannte Studie zeigt zugleich: Nutzungsmuster, die auf Verstehen zielen, statt Code nur zu delegieren, erzielten über 65 Prozent Verständniswert gegenüber unter 40 Prozent bei reiner Delegation (Shen & Tamkin, 2026). Es kommt weniger darauf an, ob KI genutzt wird, sondern wie.
Auf genau diese Prinzipien setzt auch sepp.med im KI-unterstützten Softwaretest: KI übernimmt Routineaufgaben. Kritische Testfälle validieren erfahrene Testerinnen und Tester. Und der Review-Prozess bleibt auditfähig dokumentiert.
Live zu erleben statt nur zu lesen
Genau dieses Spannungsfeld, zwischen dem Tempo, das Vibe Coding verspricht, und der Prüftiefe, die regulierte Software verlangt, lässt sich in einem Blogartikel gut beschreiben, aber schwer wirklich vermitteln. Erst wenn man live zusieht, wie aus einem Prompt in Sekunden Code entsteht, wird der Flow-Effekt greifbar, mit allem, was er an Chancen und blinden Flecken mit sich bringt.
Genau das steht im Zentrum des dritten Vortragsslots beim nächsten sepp.med Afterwork Exchange am 24. September 2026 in Röttenbach: eine Live-Vibe-Coding-Session vor Publikum. Diskutieren Sie mit, wo für Ihr Team die Grenze zwischen produktivem Tempo und riskanter Nachlässigkeit verläuft.
FAQs
Nein. Der Effekt lässt sich nicht vermeiden, aber begrenzen: kleine, überschaubare Diffs, laut ausgesprochene Verifikation und ein bewusstes Nutzungsmuster reichen bereits deutlich.
Nein, laut Sonar-Daten betrifft die Lücke zwischen Misstrauen und tatsächlicher Prüfung Entwickler aller Erfahrungsstufen. Bei Berufseinsteigern kommt zusätzlich ein geringerer Verständnisaufbau hinzu.
Automation Bias ist ein seit Jahrzehnten belegtes Phänomen aus der Forschung zu automatisierten Entscheidungssystemen. Vibe Coding überträgt denselben Effekt in die Codeentstehung, nur mit höherer Taktfrequenz.
Code-Review-Daten legen eine Obergrenze von rund 400 Zeilen nahe. Darüber sinkt die Fähigkeit, Fehler beim Review zu erkennen, spürbar.
Quellen
- Becker, J., Rush, N., Barnes, E., & Rein, D. (2025). Measuring the impact of early-2025 AI on experienced open-source developer productivity (arXiv:2507.09089). METR.
- Fawzy, A., Tahir, A., & Blincoe, K. (2025). Vibe coding in practice: Motivations, challenges, and a future outlook — a grey literature review (arXiv:2510.00328). ICSE SEIP 2026.
- Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127.
- Pimenova, et al. (2025). Good Vibrations? Investigating developer experience and motivation in vibe coding (arXiv:2509.12491).
- Shen, J. H., & Tamkin, A. (2026, 29. Januar). How AI assistance impacts the formation of coding skills (arXiv:2601.20245). Anthropic.
- SmartBear. (2006). Best Kept Secrets of Peer Code Review (Cisco-Systems-Fallstudie über 3,2 Millionen Codezeilen).
- Sonar. (2025). Sonar data reveals critical "verification gap" in AI coding.