Zum Inhalt springen

KI beim Programmieren: Code verstehen, testen, sicher übernehmen

Von der Redaktion von KI können7 Min. Lesezeit

Mit KI erstellt und von einer zweiten KI anhand der Quellen geprüft. Stand: 17. November 2026. Mehr in den Hinweisen zur KI.

Programmierassistenten schreiben Funktionen, Tests und ganze Änderungen in Sekunden. Der Code sieht meist ordentlich aus, und gerade das macht ihn heikel: Er kann Lücken haben, Pakete verwenden, die es nicht gibt, oder Rechte nutzen, die er nicht haben sollte. Wo KI in der Entwicklung hilft, ist schnell gesagt. Wichtiger ist, wie du ihr Ergebnis behandelst: wie Code von jemand Fremdem.

Zwei Entwickler sitzen nebeneinander am Schreibtisch vor einem Laptop, einer zeigt auf den Bildschirm, hinten eine Tafel mit Zetteln, auf dem Tisch Notizbuch und Tassen.

Das Wichtigste in Kürze

  • KI-Code ist fremder Code: lesen, testen, reviewen, bevor er in den Hauptzweig kommt.
  • Zugangsdaten gehören in keinen Prompt. Kundendaten und Quellcode der Firma nur in einen freigegebenen Dienst.
  • Jedes vorgeschlagene Paket prüfst du: Gibt es das, wer pflegt es, welche Lizenz hat es?
  • Agenten, die Befehle ausführen, bekommen so wenige Rechte wie möglich, und du liest jede Änderung.
  • Wer Produkte mit digitalen Elementen in der EU anbietet, meldet seit 11. September 2026 aktiv ausgenutzte Schwachstellen, egal wer den Code schrieb.

Wo KI in der Entwicklung hilft

Aufgaben in der Entwicklung und was du danach tust
AufgabeWas die KI tutWas du danach tust
Fremden Code verstehenErklärt Funktionen, Abläufe, AbhängigkeitenAn der Stelle im Code nachprüfen
Tests schreibenSchlägt Fälle und Testcode vorLaufen lassen, mit Absicht brechen
Review vorbereitenMarkiert verdächtige StellenDas eigentliche Review selbst machen
Code umbauenSchlägt eine Änderung vorDiff lesen, Tests laufen lassen
Fehlermeldung deutenNennt mögliche UrsachenDie Ursache selbst bestätigen

In der Probelektion setzt du deinen ersten Auftrag zusammen und bekommst eine Rückmeldung. Ohne Konto, in wenigen Minuten. Probelektion starten

Erst die Regeln: Konto, Code, Zugangsdaten

Quellcode ist meist ein Geschäftsgeheimnis. Wer ihn in einen privaten KI-Chat kopiert, gibt ihn einem Dritten und schwächt seinen Schutz. Viele Betriebe geben deshalb einen bestimmten Assistenten mit Firmenkonto frei und schließen andere aus. BSI und die französische Cybersicherheitsbehörde ANSSI haben 2024 gemeinsame Empfehlungen zu KI-Programmierassistenten veröffentlicht. Sie raten unter anderem, erzeugten Code sorgfältig zu prüfen und keine vertraulichen Daten an öffentlich erreichbare Dienste zu geben.

  • Nur den Assistenten nutzen, den dein Betrieb freigegeben hat, mit dem Firmenkonto.
  • Keine Zugangsdaten, Schlüssel oder Tokens in Prompts, Dateien oder Beispiele. Sind sie im Code, gehören sie dort ohnehin nicht hin.
  • Keine echten Kundendaten als Testdaten. Erfundene Daten in derselben Form reichen.
  • Bei Dateien wie .env oder Konfigurationen mit Passwörtern: dem Assistenten den Zugriff entziehen.

Fremden Code verstehen

Mattis ist Webentwickler in einer Agentur und übernimmt ein Kundenprojekt, das seit fünf Jahren gewachsen ist. Dokumentation gibt es kaum. Er lässt sich einzelne Module erklären, nicht das ganze Projekt auf einmal.

Beispiel-Auftrag
Erkläre mir diese Datei. Ich bin Entwickler und kenne die Sprache, aber nicht das Projekt.
1. Was macht die Datei, in drei Sätzen?
2. Welche Funktionen gibt es, je ein Satz?
3. Welche anderen Dateien oder Dienste ruft sie auf?
4. Was ist dir unklar oder sieht nach einem Fehler aus? Nenne die Zeile.
Wenn du etwas nur vermutest, schreib „Vermutung“.

Die Erklärung ist ein Ausgangspunkt, kein Beweis. Mattis springt zu jeder genannten Zeile und prüft, ob es dort so steht. Bei Punkt 4 findet er zweimal echte Fehler und einmal einen Hinweis, der nicht stimmt, weil die KI eine Konfiguration nicht kannte.

Tests, die etwas prüfen

Tamara ist Softwaretesterin bei einem Anbieter von Kassensystemen. Sie nutzt KI, um aus einer Anforderung Testfälle abzuleiten, vor allem die Randfälle, an die man spät denkt.

Beispiel-Auftrag
Hier ist eine Anforderung: [Anforderung, z. B. Rabatt bei Mengen ab 10 Stück, höchstens 15 Prozent, nicht mit Gutscheinen kombinierbar].
Liste Testfälle als Tabelle: Fall | Eingabe | erwartetes Ergebnis | warum dieser Fall.
Denk an Grenzwerte (genau 10, 9, 11), leere und ungültige Eingaben und Kombinationen.
Schreib keinen Testcode, bis ich die Liste bestätigt habe.

Erst wenn die Liste stimmt, lässt Tamara den Testcode schreiben. Dann bricht sie die Funktion mit Absicht, etwa indem sie die Grenze von 10 auf 11 setzt. Schlägt kein Test fehl, prüft der Test nichts. Das kommt bei KI-Tests vor, wenn sie aus dem vorhandenen Code abgeleitet sind: Dann testen sie, was der Code tut, nicht was er tun soll.

Fehlermeldungen deuten

Bei einer unverständlichen Fehlermeldung hilft eine KI, mögliche Ursachen einzugrenzen. Gib ihr die Meldung, die Umgebung und was du schon versucht hast. Ein vollständiges Log enthält oft Pfade, Servernamen oder Zugangsdaten; kürze es auf die nötigen Zeilen und ersetze solche Angaben durch Platzhalter.

Beispiel-Auftrag
Ich bekomme diese Fehlermeldung: [Meldung, gekürzt, ohne Zugangsdaten und Servernamen].
Umgebung: [Sprache, Version, Framework, Betriebssystem].
Schon versucht: [Schritte].
Nenne die drei wahrscheinlichsten Ursachen, je mit einem Test, mit dem ich sie bestätige oder ausschließe. Schlag noch keine Lösung vor.

Erst die Ursache bestätigen, dann reparieren: So verhinderst du, dass eine KI-Lösung das Symptom überdeckt und der eigentliche Fehler bleibt.

Review mit KI, nicht durch KI

Eine KI kann einen Merge-Request vorab durchsehen und Stellen markieren: fehlende Fehlerbehandlung, ungeprüfte Eingaben, Abfragen, die man manipulieren könnte. Das eigentliche Review ersetzt sie nicht. Sie kennt die Absicht der Änderung nur aus dem, was du ihr sagst, und übersieht, was im Kontext fehlt.

Beispiel-Auftrag
Sieh dir diese Änderung an. Ziel der Änderung: [Ziel].
Markiere nur Stellen mit möglichen Fehlern oder Sicherheitsproblemen, je mit Zeile und einem Satz Begründung.
Ordne nach Schwere. Lob und Stilfragen lässt du weg.

Pakete und Lizenzen: Gibt es das überhaupt?

KI-Assistenten schlagen manchmal Bibliotheken vor, die es nicht gibt, mit plausiblem Namen. Angreifer können solche Namen registrieren und Schadcode hineinlegen. Auch echte Pakete können veraltet sein oder eine Lizenz haben, die nicht zu deinem Projekt passt.

  1. Prüfen, ob das Paket im offiziellen Verzeichnis existiert, und den Namen genau vergleichen.
  2. Ansehen, wer es pflegt, wann es zuletzt aktualisiert wurde und wie viele Projekte es nutzen.
  3. Die Lizenz lesen und mit den Regeln deines Betriebs abgleichen.
  4. Das Paket wie jede neue Abhängigkeit freigeben lassen, falls dein Betrieb das so regelt.

Dasselbe gilt für längere Code-Stücke, die wörtlich aus einem bekannten Projekt stammen könnten. Fällt dir das auf, prüf Herkunft und Lizenz, bevor du sie übernimmst.

Agenten, die Befehle ausführen

Manche Assistenten arbeiten als Agent: Sie lesen Dateien, führen Befehle aus und ändern mehrere Dateien selbstständig. Das spart Zeit und bringt eine neue Gefahr. Steht in einer Datei, einem Ticket oder auf einer Website eine versteckte Anweisung, kann der Agent ihr folgen. Das nennt man Prompt Injection.

  • Den Agenten in einer abgeschotteten Umgebung laufen lassen, nicht mit deinen vollen Rechten.
  • Befehle, die etwas löschen, veröffentlichen oder ins Netz schicken, nur nach Bestätigung erlauben.
  • Keine Zugangsdaten zu Produktion oder Kundendaten in seiner Reichweite.
  • Jede Änderung als Diff lesen, bevor sie übernommen wird.

Cyber Resilience Act: Verantwortung bleibt beim Hersteller

Armin leitet die Softwareentwicklung bei einem Hersteller von Steuerungen für Maschinen. Für ihn ist der Cyber Resilience Act der EU wichtig, eine Verordnung über die Sicherheit von Produkten mit digitalen Elementen. Seit dem 11. September 2026 müssen Hersteller aktiv ausgenutzte Schwachstellen in ihren Produkten melden: eine Frühwarnung innerhalb von 24 Stunden, eine Meldung innerhalb von 72 Stunden. Die meisten übrigen Pflichten gelten ab dem 11. Dezember 2027. Reine Webdienste ohne eigenes Produkt sind meist nicht erfasst.

Ob Code von einem Menschen oder einer KI stammt, spielt dafür keine Rolle. Armin hat deshalb festgelegt, dass KI-Code dieselben Reviews, Tests und Sicherheitsprüfungen durchläuft wie jeder andere, und dass niemand eine Änderung freigibt, die er nicht verstanden hat.

Bevor du übernimmst

  1. Den Code gelesen und verstanden, nicht nur ausprobiert.
  2. Tests laufen lassen und einmal absichtlich gebrochen.
  3. Jedes neue Paket auf Existenz, Pflege und Lizenz geprüft.
  4. Keine Zugangsdaten und keine echten Kundendaten im Prompt oder im Code.
  5. Review durch einen Menschen, wie bei jeder anderen Änderung.

Klare Aufträge sind auch hier die halbe Arbeit

Wer genau beschreibt, was eine Funktion tun soll und was nicht, bekommt besseren Code und kann ihn leichter prüfen. Das gilt beim Programmieren wie überall. Die Lern-App „KI können“ übt das Schreiben und Prüfen von Aufträgen mit deiner eigenen KI, auch für Aufgaben jenseits des Codes. Die Probelektion zeigt dir den Ablauf, ein Konto brauchst du dafür nicht.

Quellen

Stand der Angaben: 17. November 2026. Gesetze und Angebote können sich ändern; der Artikel ist keine Rechtsberatung.