Coding-Agenten in der Entwicklung, reichen PR, CI und Scanner als Kontrollschicht?
Agenten wie Claude Code, Codex oder Cursor können inzwischen komplette Issues weitgehend selbstständig umsetzen. Ob das in jedem Fall sinnvoll ist, lasse ich bewusst außen vor.
Mich beschäftigt aktuell eine andere Frage:
Wann darf eine von einem AI-Agenten erzeugte Änderung eigentlich als vertrauenswürdig gelten?
Gerade in Unternehmen oder regulierten Umgebungen reicht es ja nicht, dass der Code am Ende funktioniert.
Neben Codequalität spielen Nachvollziehbarkeit, Security, Verantwortlichkeiten und je nach Produkt und Einsatzgebiet – Anforderungen rund um CRA, AI Act, OWASP oder interne Governance eine Rolle.
Viele Einzelbausteine existieren ja bereits dazu.
Branch Protection, CodeQL, Semgrep, Sonar, CI/CD, Reviews, Signaturen usw.
Die für mich interessantere Frage ist aber die Bindung zwischen diesen Bausteinen:
Auftrag → Plan → Human Approval → konkreter Candidate → Tests/Scanner → Review → Merge
Ein Beispiel:
Was passiert nach einem Replan?
Gilt eine vorherige menschliche Freigabe dann noch?
Schon mal einen Providerausfall gehabtet oder Modellwechsel mitten in der Bearbeitung?
Welche Evidence eines fehlgeschlagenen oder verworfenen Versuchs darf für den nächsten Candidate noch verwendet werden?
Wie stellt ihr sicher, dass Tests, Security-Scans und Reviews wirklich zu genau dem Commit gehören, der später gemergt oder ausgeliefert wird?
Und vor allem was passiert, wenn sich der Candidate nach einer Prüfung noch einmal verändert?
Mein Grundgedanke ist:
Trust the change, not the producer.
Also nicht Claude, Codex, GPT oder irgendeinem anderen Agenten vertrauen, sondern einer konkreten, eindeutig identifizierten Änderung, für die nachvollziehbare Evidence vorliegt und bei der unabhängige Regeln entscheiden, welche Freigaben und Prüfungen noch gültig sind.
Mich würde interessieren, wie ihr das heute praktisch löst:
Reicht euch ein normaler PR mit CI und menschlichem Review?
Behandelt ihr AI-generierten Code anders als menschlich geschriebenen Code?
Könnt ihr später noch nachvollziehen, welcher Auftrag, welcher Plan, welche Freigabe und welche Prüfungen zu einem bestimmten ausgelieferten Commit gehört haben?
Könnt ihr AI-generierte Änderungen überhaupt zuverlässig als solche kennzeichnen bzw. ihre Entstehung nachvollziehen?
Und wenn euch ein Auditor, Enterprise-Kunde oder Security-Team sechs Monate später fragt:
Warum durfte genau diese Änderung in Produktion?
Welche Nachweise könntet ihr dann tatsächlich vorlegen?
Mich interessieren dabei weniger theoretische Policies.
Sondern Lösungen, die ihr heute wirklich einsetzt – oder Stellen, an denen eure bestehende Toolchain diese Verbindung noch nicht sauber herstellen kann.
Wenn du beim lesen bis hierher gekommen bist, dann gratuliere und danke für das Feedback:-)
Grüße Alexander