KI beim Programmieren: Code verstehen, testen, sicher übernehmen
Mit KI erstellt und von einer zweiten KI anhand der Quellen geprüft. Stand: 17. November 2026. Mehr in den Hinweisen zur KI.
Programmierassistenten schreiben Funktionen, Tests und ganze Änderungen in Sekunden. Der Code sieht meist ordentlich aus, und gerade das macht ihn heikel: Er kann Lücken haben, Pakete verwenden, die es nicht gibt, oder Rechte nutzen, die er nicht haben sollte. Wo KI in der Entwicklung hilft, ist schnell gesagt. Wichtiger ist, wie du ihr Ergebnis behandelst: wie Code von jemand Fremdem.

Das Wichtigste in Kürze
- KI-Code ist fremder Code: lesen, testen, reviewen, bevor er in den Hauptzweig kommt.
- Zugangsdaten gehören in keinen Prompt. Kundendaten und Quellcode der Firma nur in einen freigegebenen Dienst.
- Jedes vorgeschlagene Paket prüfst du: Gibt es das, wer pflegt es, welche Lizenz hat es?
- Agenten, die Befehle ausführen, bekommen so wenige Rechte wie möglich, und du liest jede Änderung.
- Wer Produkte mit digitalen Elementen in der EU anbietet, meldet seit 11. September 2026 aktiv ausgenutzte Schwachstellen, egal wer den Code schrieb.
Wo KI in der Entwicklung hilft
| Aufgabe | Was die KI tut | Was du danach tust |
|---|---|---|
| Fremden Code verstehen | Erklärt Funktionen, Abläufe, Abhängigkeiten | An der Stelle im Code nachprüfen |
| Tests schreiben | Schlägt Fälle und Testcode vor | Laufen lassen, mit Absicht brechen |
| Review vorbereiten | Markiert verdächtige Stellen | Das eigentliche Review selbst machen |
| Code umbauen | Schlägt eine Änderung vor | Diff lesen, Tests laufen lassen |
| Fehlermeldung deuten | Nennt mögliche Ursachen | Die Ursache selbst bestätigen |
In der Probelektion setzt du deinen ersten Auftrag zusammen und bekommst eine Rückmeldung. Ohne Konto, in wenigen Minuten. Probelektion starten
Erst die Regeln: Konto, Code, Zugangsdaten
Quellcode ist meist ein Geschäftsgeheimnis. Wer ihn in einen privaten KI-Chat kopiert, gibt ihn einem Dritten und schwächt seinen Schutz. Viele Betriebe geben deshalb einen bestimmten Assistenten mit Firmenkonto frei und schließen andere aus. BSI und die französische Cybersicherheitsbehörde ANSSI haben 2024 gemeinsame Empfehlungen zu KI-Programmierassistenten veröffentlicht. Sie raten unter anderem, erzeugten Code sorgfältig zu prüfen und keine vertraulichen Daten an öffentlich erreichbare Dienste zu geben.
- Nur den Assistenten nutzen, den dein Betrieb freigegeben hat, mit dem Firmenkonto.
- Keine Zugangsdaten, Schlüssel oder Tokens in Prompts, Dateien oder Beispiele. Sind sie im Code, gehören sie dort ohnehin nicht hin.
- Keine echten Kundendaten als Testdaten. Erfundene Daten in derselben Form reichen.
- Bei Dateien wie .env oder Konfigurationen mit Passwörtern: dem Assistenten den Zugriff entziehen.
Fremden Code verstehen
Mattis ist Webentwickler in einer Agentur und übernimmt ein Kundenprojekt, das seit fünf Jahren gewachsen ist. Dokumentation gibt es kaum. Er lässt sich einzelne Module erklären, nicht das ganze Projekt auf einmal.
Erkläre mir diese Datei. Ich bin Entwickler und kenne die Sprache, aber nicht das Projekt.
1. Was macht die Datei, in drei Sätzen?
2. Welche Funktionen gibt es, je ein Satz?
3. Welche anderen Dateien oder Dienste ruft sie auf?
4. Was ist dir unklar oder sieht nach einem Fehler aus? Nenne die Zeile.
Wenn du etwas nur vermutest, schreib „Vermutung“.Die Erklärung ist ein Ausgangspunkt, kein Beweis. Mattis springt zu jeder genannten Zeile und prüft, ob es dort so steht. Bei Punkt 4 findet er zweimal echte Fehler und einmal einen Hinweis, der nicht stimmt, weil die KI eine Konfiguration nicht kannte.
Tests, die etwas prüfen
Tamara ist Softwaretesterin bei einem Anbieter von Kassensystemen. Sie nutzt KI, um aus einer Anforderung Testfälle abzuleiten, vor allem die Randfälle, an die man spät denkt.
Hier ist eine Anforderung: [Anforderung, z. B. Rabatt bei Mengen ab 10 Stück, höchstens 15 Prozent, nicht mit Gutscheinen kombinierbar].
Liste Testfälle als Tabelle: Fall | Eingabe | erwartetes Ergebnis | warum dieser Fall.
Denk an Grenzwerte (genau 10, 9, 11), leere und ungültige Eingaben und Kombinationen.
Schreib keinen Testcode, bis ich die Liste bestätigt habe.Erst wenn die Liste stimmt, lässt Tamara den Testcode schreiben. Dann bricht sie die Funktion mit Absicht, etwa indem sie die Grenze von 10 auf 11 setzt. Schlägt kein Test fehl, prüft der Test nichts. Das kommt bei KI-Tests vor, wenn sie aus dem vorhandenen Code abgeleitet sind: Dann testen sie, was der Code tut, nicht was er tun soll.
Fehlermeldungen deuten
Bei einer unverständlichen Fehlermeldung hilft eine KI, mögliche Ursachen einzugrenzen. Gib ihr die Meldung, die Umgebung und was du schon versucht hast. Ein vollständiges Log enthält oft Pfade, Servernamen oder Zugangsdaten; kürze es auf die nötigen Zeilen und ersetze solche Angaben durch Platzhalter.
Ich bekomme diese Fehlermeldung: [Meldung, gekürzt, ohne Zugangsdaten und Servernamen].
Umgebung: [Sprache, Version, Framework, Betriebssystem].
Schon versucht: [Schritte].
Nenne die drei wahrscheinlichsten Ursachen, je mit einem Test, mit dem ich sie bestätige oder ausschließe. Schlag noch keine Lösung vor.Erst die Ursache bestätigen, dann reparieren: So verhinderst du, dass eine KI-Lösung das Symptom überdeckt und der eigentliche Fehler bleibt.
Review mit KI, nicht durch KI
Eine KI kann einen Merge-Request vorab durchsehen und Stellen markieren: fehlende Fehlerbehandlung, ungeprüfte Eingaben, Abfragen, die man manipulieren könnte. Das eigentliche Review ersetzt sie nicht. Sie kennt die Absicht der Änderung nur aus dem, was du ihr sagst, und übersieht, was im Kontext fehlt.
Sieh dir diese Änderung an. Ziel der Änderung: [Ziel].
Markiere nur Stellen mit möglichen Fehlern oder Sicherheitsproblemen, je mit Zeile und einem Satz Begründung.
Ordne nach Schwere. Lob und Stilfragen lässt du weg.Pakete und Lizenzen: Gibt es das überhaupt?
KI-Assistenten schlagen manchmal Bibliotheken vor, die es nicht gibt, mit plausiblem Namen. Angreifer können solche Namen registrieren und Schadcode hineinlegen. Auch echte Pakete können veraltet sein oder eine Lizenz haben, die nicht zu deinem Projekt passt.
- Prüfen, ob das Paket im offiziellen Verzeichnis existiert, und den Namen genau vergleichen.
- Ansehen, wer es pflegt, wann es zuletzt aktualisiert wurde und wie viele Projekte es nutzen.
- Die Lizenz lesen und mit den Regeln deines Betriebs abgleichen.
- Das Paket wie jede neue Abhängigkeit freigeben lassen, falls dein Betrieb das so regelt.
Dasselbe gilt für längere Code-Stücke, die wörtlich aus einem bekannten Projekt stammen könnten. Fällt dir das auf, prüf Herkunft und Lizenz, bevor du sie übernimmst.
Agenten, die Befehle ausführen
Manche Assistenten arbeiten als Agent: Sie lesen Dateien, führen Befehle aus und ändern mehrere Dateien selbstständig. Das spart Zeit und bringt eine neue Gefahr. Steht in einer Datei, einem Ticket oder auf einer Website eine versteckte Anweisung, kann der Agent ihr folgen. Das nennt man Prompt Injection.
- Den Agenten in einer abgeschotteten Umgebung laufen lassen, nicht mit deinen vollen Rechten.
- Befehle, die etwas löschen, veröffentlichen oder ins Netz schicken, nur nach Bestätigung erlauben.
- Keine Zugangsdaten zu Produktion oder Kundendaten in seiner Reichweite.
- Jede Änderung als Diff lesen, bevor sie übernommen wird.
Cyber Resilience Act: Verantwortung bleibt beim Hersteller
Armin leitet die Softwareentwicklung bei einem Hersteller von Steuerungen für Maschinen. Für ihn ist der Cyber Resilience Act der EU wichtig, eine Verordnung über die Sicherheit von Produkten mit digitalen Elementen. Seit dem 11. September 2026 müssen Hersteller aktiv ausgenutzte Schwachstellen in ihren Produkten melden: eine Frühwarnung innerhalb von 24 Stunden, eine Meldung innerhalb von 72 Stunden. Die meisten übrigen Pflichten gelten ab dem 11. Dezember 2027. Reine Webdienste ohne eigenes Produkt sind meist nicht erfasst.
Ob Code von einem Menschen oder einer KI stammt, spielt dafür keine Rolle. Armin hat deshalb festgelegt, dass KI-Code dieselben Reviews, Tests und Sicherheitsprüfungen durchläuft wie jeder andere, und dass niemand eine Änderung freigibt, die er nicht verstanden hat.
Bevor du übernimmst
- Den Code gelesen und verstanden, nicht nur ausprobiert.
- Tests laufen lassen und einmal absichtlich gebrochen.
- Jedes neue Paket auf Existenz, Pflege und Lizenz geprüft.
- Keine Zugangsdaten und keine echten Kundendaten im Prompt oder im Code.
- Review durch einen Menschen, wie bei jeder anderen Änderung.
Klare Aufträge sind auch hier die halbe Arbeit
Wer genau beschreibt, was eine Funktion tun soll und was nicht, bekommt besseren Code und kann ihn leichter prüfen. Das gilt beim Programmieren wie überall. Die Lern-App „KI können“ übt das Schreiben und Prüfen von Aufträgen mit deiner eigenen KI, auch für Aufgaben jenseits des Codes. Die Probelektion zeigt dir den Ablauf, ein Konto brauchst du dafür nicht.
Quellen
- Verordnung (EU) 2024/2847 über Cybersicherheitsanforderungen (Cyber Resilience Act), EUR-Lex (öffnet in neuem Tab)
- ANSSI und BSI, AI Coding Assistants (4. Oktober 2024) (öffnet in neuem Tab)
- OWASP Gen AI Security Project, LLM01:2025 Prompt Injection (öffnet in neuem Tab)
- OWASP Gen AI Security Project, LLM09:2025 Misinformation (erfundene Bibliotheken) (öffnet in neuem Tab)
- Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG) (öffnet in neuem Tab)
Stand der Angaben: 17. November 2026. Gesetze und Angebote können sich ändern; der Artikel ist keine Rechtsberatung.
Weiterlesen
Gleich ausprobieren
Die Probelektion mit Beispielen für Softwareentwickler/in. Ohne Konto, in wenigen Minuten.
Probelektion starten