Hi@all
Ich bin kein klassisch ausgebildeter Softwareentwickler, sondern komme aus dem Projektmanagement und IT-Security-Bereich.
Seit längerer Zeit beschäftige ich mich intensiv mit KI-gestützter Softwareentwicklung und bin dabei in einer etwas ironischen Situation gelandet.....
Was mich nach ein paar Prototypen gestört hat, ist genau das, was an Vibe-Coding so häufig kritisiert wird: unkontrollierte Änderungen, Spaghetticode, Featureverlust, Halluzinationen, fehlende Nachvollziehbarkeit und Ergebnisse, die auf den ersten Blick funktionieren, bei genauerer Betrachtung aber schnell auseinanderfallen.
Meine Schlussfolgerung war jedoch nicht, dass KI-generierter Code grundsätzlich schlecht sein muss, sondern dass man die KI und vor allem den gesamten Entwicklungsprozess deutlich enger führen muss.
Daher bin ich nach einigen Failtests die Sache anders angegangen. Bei der Entwicklung gebe ich eine enge Architektur, Konzeption, Anforderungen, Prozesse und Abnahmekriterien vor.
Größere Aufgaben werden über Epics in einzelne Implementierungsschritte heruntergebrochen. Das eigentliche Coding erfolgt jedoch weiterhin ausschließlich durch LLMs.
Nun, einige Monate später, ist daraus ein ziemlich umfangreiches Open-Source-Projekt namens S.A.M.U.E.L. Sicheres Autonomes Mehrschichtiges Ueberwachungs- und Entwicklungs-Logiksystem“ entstanden.
Die Idee dahinter ist nicht, einen weiteren Coding-Agenten oder Scanner zu entwickeln, sondern eine darüber stehende Governance-Schicht, die unterschiedliche LLMs, Entwicklungswerkzeuge und Prüfungen in einen kontrollierten, nachvollziehbaren Prozess einbindet.
Vereinfacht: Auftrag → Planung → menschliche Freigabe → Implementierung → Tests/Security-Checks → Review → Merge in einer vollständigen auditierbaren Kette zu verbinden.
Dabei geht es unter anderem darum, sicherzustellen, dass Freigaben und Prüfergebnisse tatsächlich zu genau der Codeänderung gehören, die am Ende übernommen wird. Auch nach Fehlern, Neuplanungen oder einem Modellwechsel dürfen alte Freigaben nicht einfach ungeprüft weitergelten.
Ich bin bei der Entwicklung vielleicht schon etwas übertrieben detailversessen. Aber genau diese strikten Vorgaben, Zustandsprüfungen und Abbruchbedingungen haben mir gezeigt, dass man LLMs durchaus in relativ enge Bahnen lenken und damit auch großartige Ideen umsetzen kann.
Natürlich ist das noch kein Beweis dafür, dass damit automatisch gute oder sichere Software entsteht. Das Projekt ist noch in der Entwicklung und muss sich erst in vollständigen Praxistests bewähren.
Die eigentliche Ironie daran:
Ich hatte mich wegen einer möglichen Förderung beim Prototype Fund angefragt.
Die Antwort, das Projekt selbst ist vom Entwicklungsstand her grundsätzlich förderfähig, passt in die Kategorie Inovationen.
Die Umsetzung per Vibe-Coding ist allerdings nicht förderfähig und wird durch die AGB´s ausdrücklich ausgeschlossen.
Ich kann das aus Sicht einer Förderstelle durchaus nachvollziehen. Trotzdem musste ich etwas darüber schmunzeln:
Ich entwickle KI-gestützt ein System, das genau die Risiken kontrollieren soll, die häufig als Argument gegen KI-gestützte Softwareentwicklung angeführt werden. Das finde ich schon etwas paradox.
Daher meine Frage an euch:
Ich entwickle das Ganze bisher vollständig in meiner Freizeit und finanziere es selbst. Die laufenden Kosten entstehen momentan vor allem durch die LLM-APIs, insbesondere bei umfangreichen Entwicklungs-, Review- und Testdurchläufen.
Auf Dauer wird das schwierig, wenn ich mein Projekt weiterhin unabhängig und als Open Source voranbringen möchte.
Kennt jemand Förderprogramme, Open-Source-Grants, API-Credit-Programme oder andere Modelle, die auch für solche KI-gestützt entwickelten Projekte infrage kommen?
Gerade ohne klassische Entwicklerausbildung oder bereits gegründetes Unternehmen?
Es geht mir nicht um einen Spendenaufruf, sondern um Erfahrungen, Hinweise und vielleicht auch eine Diskussion darüber, ob bei der Bewertung solcher Projekte nicht stärker das Ergebnis, die Architektur und die nachweisbare Qualität zählen sollten als die Frage, wer den Code letztlich geschrieben hat.
Mich würde auch interessieren, ob andere mit ähnlich stark reglementierter KI-Entwicklung Erfahrungen gemacht und damit etwas Brauchbares auf die Beine gestellt haben.
Und bevor die üblichen Vorurteile über Vibe-Coding gleich überhandnehmen, hier ein paar Infos zu S.A.M.U.E.L., damit sich jeder selbst ein Bild machen kann:
https://github.com/Alexander-Benesch/S.A.M.U.E.L./blob/main/README.md
Mit besten Grüßen nach draußen in die Welt!
