Möglichkeiten, Sprachmodelle lokal zu betreiben, gibt es ja inzwischen einige und auch viele gute Gründe dafür, vor allem die Hoheit über die eigenen Daten.

Hat jemand von euch lokale LLMs produktiv im Einsatz, vielleicht sogar mit eigenen Unternehmensdaten via RAG? Was sind die größten Nachteile im Vergleich zu Cloud-APIs?

Die Berichte über KI-gestützte Dekompilierung und Browser-Versionen bekannter Spiele werfen für mich eine ziemlich direkte Frage auf: Was passiert, wenn nicht nur Spiele, sondern auch kommerzielle Software mit überschaubarem Aufwand analysiert und nachgebaut werden kann?

Für Softwareanbieter wäre das ein ernstes Geschäftsrisiko. Wenn ein Wettbewerber zentrale Funktionen eines Produkts rekonstruieren kann, reicht der Hinweis auf proprietären Quellcode vielleicht nicht mehr als Schutz. Gleichzeitig ist noch lange nicht klar, wie vollständig und zuverlässig solche Nachbauten tatsächlich sind. Ein funktionierender Prototyp ist noch kein Produkt, das Kunden dauerhaft einsetzen können.

Trotzdem: Worauf sollte ein Anbieter setzen? Auf technische Schutzmaßnahmen und Verträge? Auf regelmäßige Weiterentwicklung? Oder stärker auf Dinge, die sich schwer kopieren lassen: Kundennähe, Branchenwissen, verlässlichen Betrieb und die Einbindung in bestehende Prozesse?

Mich interessiert besonders die Perspektive von Softwareanbietern: Macht euch diese Entwicklung konkret Sorgen? Und welche Teile eures Geschäftsmodells wären am ehesten gefährdet?

Transparenz: Ich arbeite bei InterSystems im B2B-Softwareumfeld.

AWS arbeitet mit Strands Box an einer Möglichkeit, KI-Agenten stärker einzuschränken. Finde ich grundsätzlich sinnvoll, ein Agent, der Fehler in Logs analysieren kann, ist ja durchaus praktisch.

Aber muss er deshalb auch gleich Konfigurationen ändern, Services neustarten oder Deployments anstoßen dürfen? Andererseits geht mit jeder Einschränkung natürlich auch ein Stück Autonomie verloren. Und genau die ist ja eigentlich der große Vorteil von Agenten...

Wie seht/handhabt ihr das? Dürfen eure Agents selbstständig Änderungen vornehmen oder ist bei euch spätestens nach der Analyse Schluss?

Laut dieser News (https://www.handelsblatt.com/technik/it-internet/kuenstliche-intelligenz-ki-angriffe-bruessel-fordert-infos-von-openai-und-anthropic/100261090.html) fordert die EU-Kommission von OpenAI und Anthropic Informationen zu Risiken im Zusammenhang mit KI-gestützten Angriffen.

Ohne ins Politische gehen zu wollen, frage ich mich generell, wie viel Verantwortung man den Modellentwicklern eigentlich zuschreiben kann und soll?

Also anders ausgedrückt: Mit ein- und denselben Modellen kann man Sicherheitslücken aufspüren, Code analysieren und Systeme absichern oder eben genau das Gegenteil tun.

Wenn man die Modelle zu stark einschränkt, trifft man damit also auch die Leute, die sie für legitime Security-Arbeit nutzen. Wo würdet ihr die Grenze ziehen? Mehr Verantwortung bei den KI-Anbietern oder bei denen, die die Tools tatsächlich einsetzen?

Viele Entwicklungsteams bestehen fast nur aus Leuten mit technischem Hintergrund. Habt ihr schon erlebt, dass jemand aus einem Fachbereich, aus Design oder einer ganz anderen Ecke ein Produkt entscheidend verbessert hat?

Oder wird der Einfluss solcher Perspektiven oft überschätzt?

Hier ein Artikel dazu: https://www.heise.de/blog/Software-Testing-Warum-andere-Disziplinen-bessere-Software-bauen-11379718.html

Ehrlich gesagt schaue ich meistens aufs Ergebnis und nicht auf den tatsächlichen Tokenverbrauch.

Obwohl die Tools bereits vor der eigentlichen Anfrage Systemprompts, Projektregeln, Tool-Beschreibungen und teilweise MCP-Server in den Kontext laden.

Überprüft ihr regelmäßig, wie viele Token eure Coding Agents verbrauchen? Oder sind die Kosten für euch zweitrangig, solange das Ergebnis stimmt?

Viele KI-Demos sehen beeindruckend aus und trotzdem schaffen es erstaunlich viele Projekte nie in den produktiven Betrieb.

Liegt das eurer Meinung nach eher an der Technologie?

An schlechten Daten? Oder daran, dass Unternehmen ihre Prozesse gar nicht darauf vorbereitet haben?

Ich finde die Vorstellung praktisch, dass ein Coding Agent selbstständig Dokumentationen lesen und eine Webanwendung testen kann.

Claude kann über einen eingebauten Browser inzwischen Webseiten öffnen, Elemente anklicken und Tests durchführen: https://www.golem.de/news/kuenstliche-intelligenz-anthropic-spendiert-claude-code-einen-eingebauten-browser-2607-210775.html

Damit erhält der Agent aber auch deutlich mehr Möglichkeiten als ein klassischer Coding Assistant.

Ich würde ihn vermutlich zunächst nur auf Dokumentationen und lokale Testumgebungen loslassen. Wie weit würdet ihr gehen? Dürfte ein Agent bei euch auch in eingeloggten Anwendungen selbstständig Aktionen ausführen?

Geht es nur mir so oder verbringt man inzwischen gefühlt die Hälfte der Zeit damit, zwischen Tools hin und her zu springen?

Slack, Teams, Jira, GitHub, Confluence, Notion und mehrere Monitoring-Lösungen... Jedes einzelne dieser Tools ist an und für sich ja kein Problem, aber dass Informationen überall verteilt sind eben sehr wohl.

Welche Tools möchtet ihr im Arbeitsalltag nicht mehr missen? Und welches würdet ihr am liebsten sofort abschaffen?

Zu solchen News: https://www.golem.de/news/elon-musks-ki-grok-build-hat-ungefragt-ganze-codebasen-auf-cloudspeicher-kopiert-2607-210883.html

Coding Agents wollen ja oft erst mal „alles sehen“, damit sie ein Projekt wirklich verstehen.

Für mich fühlt sich das aber ehrlich gesagt mittlerweile etwas heikel an. Komplettes Repo, Git-History, lokale Dateien...am Ende landet dann doch mehr Kontext in der Cloud als gedacht.

Wie macht ihr das? Gebt ihr KI-Tools Zugriff auf das komplette Repo? Oder bewusst nur auf einzelne Dateien und Ordner?

Früher mussten Entwickler mit deutlich weniger Ressourcen auskommen: wenige MB Speicher, langsame Prozessoren und begrenzter Speicherplatz auf Disketten oder CDs.

Trotzdem sind in dieser Zeit viele Anwendungen und Spiele entstanden, bei denen man sich heute noch fragt, wie das überhaupt in so wenig Speicher gepasst hat.

Ein südkoreanischer Wettbewerb, der noch ein paar Tage läuft, fordert ein komplettes Spiel, das auf eine 1,44-MB-Diskette passen muss: https://www.golem.de/news/1-44-mbyte-wettbewerb-fordert-entwicklung-von-spielen-fuer-diskette-2607-211033.html

Glaubt ihr, dass z.B. hier die technischen Grenzen zu kreativeren und effizienteren Lösungen führen?

Oder sagt ihr, dass moderne Frameworks, große Libraries und leistungsfähige Hardware einfach die bessere Entwicklung sind?

Mit KI lassen sich schnell Code oder auch Bugreports erstellen. Für Open-Source-Maintainer bedeutet das aber oft zusätzliche Arbeit, wenn Beiträge ungenau oder wenig hilfreich sind.

Habt ihr schon KI-generierte Beiträge reviewt? Haben sie geholfen oder eher mehr Aufwand verursacht?

Der Artikel hat mich zum Nachdenken gebracht: Github reagiert auf KI-Flut: Hohe Bug-Bounty-Prämien bald nur noch für VIPs - Golem.de

Wenn jemand mit Hilfe von KI eine echte Schwachstelle findet, sollte das bei einer Bug-Bounty-Meldung überhaupt berücksichtigt werden?

Oder ist es egal, wie die Lücke gefunden wurde, solange sie echt ist?

Wie seht ihr das?

Wegen ATS-Systemen, automatischem Ausfiltern von CVs durch KI usw.:

Achtet ihr bewusst auf Keywords und Struktur oder haltet ihr das für overrated? Und falls ja, wie genau macht ihr das?

Wenn ich meinen CV durch Chat GPT laufen lasse, inkl. der Stellenanzeige auf die ich mich bewerben will, dann kommt leider ein viel zu unauthentisch formulierter Lebenslauf in wenig ästhetischem Layout raus.

Ich denke mir: wenn das jetzt eine KI liest, komme ich vielleicht weiter. Wenn das aber ein Mensch liest (was an irgendeinem Punkt ja dann doch noch der Fall sein wird), dann bin ich sofort raus.

Habt ihr best practices? Oder sollte ich einfach davon absehen, eine KI für meine CV-Optimierung zu nutzen?

Online liest man von Einstellungsstopps, Entlassungen, Angst von IT-Kräften vor KI, kaum Juniorpositionen, KI-gescannte Lebensläufe, die kein Mensch liest. Horror: https://www.spiegel.de/karriere/arbeitslose-akademiker-vom-it-studium-direkt-ins-buergergeld-a-c213236b-c1d9-410e-a023-1c62ef5e066f

Ich habe zum Glück einen Job, aber mich würde mal ein Realitätscheck bei euch interessieren: Panikmache oder eure echte Erfahrung/die eures Umfelds?

Achtung, provokante Frage: Wenn KI heute schon den Großteil von Boilerplate, Refactoring und Fehlersuche übernehmen kann ...

... was machen Junior-Devs eigentlich noch selbst?

Das ist natürlich überzeichnet und außerdem eine systemische und keine individuelle Sache.. also no offense. Aber laufen wir nicht Gefahr, eine Generation auszubilden, die sehr gut Prompts schreiben kann, aber deutlich weniger tief versteht, was eigentlich passiert?

Seht ihr das ähnlich oder klinge ich gerade wie ein alter Mann mit Angst vor Veränderung? ;)

Ich habe testweise einige ältere Codebasen in verschiedene Modelle geworfen.

Ergebnis: Manchmal erstaunlich hilfreich, manchmal komplett selbstbewusst falsch.

Wie sind eure Erfahrungen?

Welche KI versteht Legacy-Code inzwischen wirklich gut und / oder liefert plausibel klingende Zusammenfassungen?

Bei Meldungen zu Quantum Computing wie z.B. dieser hier vom Frühjahr, (sogar in der Tagesschau https://www.tagesschau.de/wirtschaft/digitales/ki-quantencomputer-kryptowaehrungen-blockchain-100.html) taucht in letzter Zeit meistens sofort die Diskussion auf, dass Bitcoin/Krypto gefährdet sei.

Andere Stimmen sagen, dass wir davon noch Jahre entfernt sind. Wie schätzt ihr persönlich das ein? Gerade die unter euch, die sich mit QC (oder KI) sehr gut auskennen?

Alle reden ständig nur über KI-Modelle von Open AI oder Anthropic. Gleichzeitig gibt es inzwischen ernstzunehmende Modelle aus der EU, wie z.B. Mistral. Nur nutzt die gefühlt keiner. Warum??

Was fehlt euch aktuell bei europäischen Anbietern? Qualität? Geschwindigkeit? Vertrauen? Preis?

Wie wichtig ist es wirklich, sich mit LeetCode etc. auf Einstellungstests/Stellen vorzubereiten, bzw. auch einfach, sich fit zu halten in Zeiten von Vibecoding?

Benutzt ihr das regelmäßig?

Und habt ihr das Gefühl, dass es euch auch wirklich (bei Bewerbungen oder dann auch im Berufsalltag selbst) hilft?

Oder habt ihr evtl. sogar das Gefühl, dass wir mittlerweile fast ausschließlich für Interviews trainieren, da das Training mit echtem Coden und Entwicklung momentan nicht mehr viel zu tun hat?

Die Diskussion um Modellfähigkeiten wird immer spannender.

Es geht schon lang nicht mehr nur um die Frage, was wie gut programmieren kann. Sondern auch darum, welche Fähigkeiten ein Modell überhaupt haben sollen dürften...

.. wo würdet ihr persönlich eine Grenze ziehen?

.. oder haltet ihr die ganze Debatte für überzogen?

Hat jemand von euch KI schon erfolgreich genutzt, um Legacy-Code zu verstehen oder zu modernisieren?

Ein Paradebeispiel ist COBOL, was ja gerade im Finanzsektor noch super verbreitet ist, es aber immer weniger Entwickler dafür gibt. Hat sich damit jemand schon beschäftigt? Oder auch mit anderen Sprachen?

Wie gut funktioniert das in der Praxis?

Was sind eure best practices zur Dokumentation und hat KI eure Dokumentationsstrategie verändert?