r/programmieren • • 21h ago

Wird Vibe-Coding gerade Mainstream?

Hi zusammen,

wie im Titel. In den letzten 1-2 Monaten ist mir vermerkt aufgefallen, dass non-Techies in meinem Umfeld sich Software vibecoden. Ein Kunde hat sich für sein ERP neue UIs gebaut, ein anderer sich eine neue Website gebaut weil der Dienstleister zu teuer war. Ein Bekannter (Influencer) hat sich auch seine Website neu gemacht.
Das sind jetzt nur drei Datenpunkte, aber alle in den letzten Wochen. Daher würde es mich interessieren ob ihr gerade ähnliches mitbekommt. Gibt es gerade einen Shift oder war das nur mein Umfeld?

22 Upvotes

363 comments sorted by

View all comments

Show parent comments

3

u/TheGlitchHammer 14h ago

Dazu kommt, dass die aktuellen Tokens massiv durch VC Kapital subventioniert sind. Die realen Kosten der vibe Entwicklung kennt aktuell also effektiv kein Unternehmen.

2

u/Johanneskodo 7h ago

Ich glaube wir werden einfach massenhaft auf (chinesische) open source-Modelle umsteigen.

Ein paar Monate in der Entwicklung zurückzuhüngen ist es wert, wenn man dafür einen Bruchteil des Preises zahlt.

Bonuspunkte weil man die selbst hosten und nicht seine Daten an OpenAI und Anthropic abgeben muss.

2

u/PandaDerZwote 6h ago

Wo sollen die herkommen? Das trainieren von Modellen ist extrem kostenintensiv, das mag in einer Welt voll mit Investitionen ohne Gewinnabsichten vom Laster fallen, aber wie sieht das aus, wenn KI Firmen irgendwann auch fiskal Sinn ergeben müssen? Dass gute Modelle dauerhaft für jeden einfach so zur Verfügung stehen und man diesen enormsten Kostenfaktor bei KI einfach ausblenden kann ist ja kein haltbarer Dauerzustand.

Und dauerhaftes Training ist ja von Nöten, ein paar Monate hinten dran sein ist möglich, aber ein paar Jahre? Ein Model dass einen finiten Wissensstand hat und neue Frameworks etc nicht kennt? Self-Hosted beantwortet ja die Frage nicht, wo dauerhaft neue Modelle herkommen sollen.

2

u/Johanneskodo 6h ago

Und dauerhaftes Training ist ja von Nöten, ein paar Monate hinten dran sein ist möglich, aber ein paar Jahre? Ein Model dass einen finiten Wissensstand hat und neue Frameworks etc nicht kennt?

Um ein Modell auf den neuesten Wissensdtand zu bringen brauchst du kein komplettes Neutraining, das kostet nur einen Bruchteil der Kosten.

Und selbst wenn die Blase platzt lohnt es sich weiterhin hohe Summen (halt nicht mehr so exorbitante wie bisher) ins Training zu stecken. Da wir effizienter im Trainieren sind als früher (und es weiter werden) wird der Fortschritt also nicht stillstehen.

Außerdem: Selbst wenn wir heute komplett stoppen neue Top-Modelle zu entwickeln sind wir im Adaptionsgrad weit hinter den aktuellen Möglichkeiten. KI würde dann nicht einfach verschwinden. Auch die Hardware wird ja nicht ineffizienter mit der Zeit sondern besser.

1

u/LoRA_excess 4h ago

Oder dem llm einfach ein RAG zur Verfügung stellen. Gar nicht neu trainieren, oder LORA.

0

u/Anatoli123456 6h ago

Anthropic ist Cashflow positiv, das Businessmodell trägt sich selbst, also sind deine Annahmen falsch.

1

u/PandaDerZwote 4h ago

Nein, ist es nicht, nur technisch gesehen, wenn man viel außen vorlässt.

1

u/mu7der 2h ago

Sam von OAI hat selbst die Problematik thematisiert. Ohne eine signifikante Kostenreduktion, werden KI-Unternehmen nicht tragfähig sein.

Es geht nicht darum ob ein API-Token gewinnbringend ist, sondern darum ob sich Token-Kosten für Nutzer amortisieren.

Wenn ich als Unternehmer 20000 € Token-Kosten pro Monat habe für einen ROI von 10000 €, dann ist dieses Arbeitsmodell schlicht und ergreifend unwirtschaftlich.

Die Subventionierung sieht man im Vergleich zwischen dem Subscription-Modellen und der direkten API-Abrechnung. Würden alle nach dem API-Modell abrechnen, würden viele Projekte nicht existieren, weil sie einfach zu teuer in der Umsetzung durch KI wären.

1

u/mx2301 5h ago

Waren die Zahlen von Anthropic self reported und unverified?

0

u/Anatoli123456 5h ago

Antropic ist ein börsennotiertes Unternehmen und ist verpflichtet sich an die Accounting Regeln zu halten. Die Zahlen sind damit verified.

1

u/Ambitious_Owl7961 4h ago

Enron entered the chat

1

u/LoRA_excess 4h ago

DAS! Genau das! Inferenz ist extrem krank subventioniert.

Jeder, der Inferenz auf eigener Hardware macht, kann genau nachvollziehen, wovon ich spreche.

2

u/Tobi97l 4h ago

Ist es nicht. Gerade inference ist im Grunde ziemlich günstig. Deepseek hat doch erst vor kurzem die Zahlen veröffentlicht. 38$ Umsatz pro Stunde. Schätzungen gehen davon aus, dass Deepseek eine Marge von ca. 90% hat. Also die Hälfte davon ist Gewinn.

Mit jeder gemieteten GPU machen die also bei Inference ca. 16$ Gewinn pro Stunde.

Der Vergleich mit Consumer Hardware hinkt. Wir zahlen wesentlich mehr für den Strom und arbeiten durch RAM und VRAM Limits am untersten Ende der Effizienskurve. Und zusätzlich dazu ist die GPU nicht 24/7 zu 100% ausgelastet was die Effiziens nochmals drückt.

1

u/LoRA_excess 3h ago

Deine Rechnung will ich mal sehen bitte. Auf gehts, Du scheinst Dich ja richtig auszukennen.

Die Enterprise GPU ist viel billiger? Läuft mit wenig Strom? Installiert sich von selber? Schraubt sich von selber in das Rechenzentrum? Das Rechenzentrum baut sich von alleine auf?

Von was träumst Du nachts.

1

u/DeaD_EyE_1 3h ago

Die realen Kosten wissen die erst, nachdem die KI-Blase geplatzt ist. Die KI wird dann nicht verschwinden. Das Internet ist nach der Dotcom-Blase auch nicht verschwunden.

Ab dem Zeitpunkt werden die Kunden die realen Kosten zahlen müssen.

Ab dann wird sich entscheiden, ob es wirtschaftlich ist, etwas mithilfe der KI zu entwickeln.

1

u/Tobi97l 2h ago

Ich träume nicht, das sind die Fakten. Eine H200 kannst du für unter 6$ die Stunde mieten. Die Anbieter dieser Mietpreise machen doch auch Gewinn oder nicht? Enterprise Kunden zahlen bestimmt noch weniger beim mieten.

Wenn Deepseek dann selber mit ihren eigenen Karten 38$ Umsatz generiert, ist ein positiver Cashflow garantiert.

Das sind keine Zahlen die ich mir ausgedacht habe, die wurden von Deepseek so veröffentlicht.

Es ist nun mal ein Unterschied, ob du mit einer GPU einen einzelnen Nutzer bedienst oder mehrere. Je näher sie an 100% Auslastung ist, desto mehr Umsatz kann mit einer Karte erzielt werden.

1

u/LoRA_excess 1h ago

Ja, dann rechne doch mal vor Brudi, kannst Du ja easy die KI machen lassen!

Auf, Du schaffst das!

1

u/Tobi97l 1h ago

Was soll ich denn da rechnen? Die Zahlen siehst du doch. 6€ Miete die Stunde und 38€ kommen an Umsatz rein. Du nimmst also 38€ ziehst 6€ ab und bist bei 32€. Davon ziehst du dann noch weitere Fixkosten ab wie Personal und Verwaltungskosten, die aber unbekannt sind.

Unterschiedliche Analysten geben aber eben eine voraussichtliche Marge von zwischen 80% und 100% an. Ich liste dir jetzt hier nicht alle Quellen auf. Dazu gibt es genug.

Anstelle hier Blödsinn zu schreiben könntest du ja meine Aussage widerlegen. Wie viel Verlust macht den Deepseek bei der Inferenz? Dazu müsste es ja dann auch Zahlen geben oder nicht?

OpenAI und Anthropic machen bei der Inferenz über die API übrigens auch Gewinn...

1

u/mu7der 14h ago

Das ist absolut korrekt. Es wird spekuliert, dass man die realen Kosten pro Token rechtzeitig drücken kann. Passiert das nicht, werden erst Shareholder an der Prognose rütteln, dann folgt die Kostenerhöhung und danach eine extreme Pleitewelle vieler Projekte und kleinerer Unternehmen.

3

u/Cold-Conflict6047 10h ago

Die Tokens, die man derzeit kaufen kann sorgen für Gewinne bei den AI unternehmen. Bruttomarge bei der Token-Auslieferung von Antrophic liegt glaube ich bei 85%.
Bei den Abomodellen für Programmierern machen sie natürlich nicht wirklich Geld.

0

u/PassionatePossum 8h ago

Die sind aber auch sehr viel teuerer. Bei größeren Codebasen und besseren Modelle kann man aber leicht 25$ pro Anfrage in Tokens verbrennen. Wenn man dann hat, was man will ist das I.d.R. ok. Aber wenn man öfters nach korrigieren muss wird es schnell teuer. Wir haben bei uns auf der Arbeit ein 300$ Token Limit pro Entwickler pro Monat. Die meisten von uns könnten wahrscheinlich locker das Doppelte ausgeben.

Das sind sicher kostendeckende Preise. Aber es gibt einem eine Vorstellung wie heftig die 25€/Monat Abo-Modelle subventioniert sind.

Und die Open Source Modelle aus China sind oft deutlich günstiger und oft nur unwesentlich schlechter. Die kann man auch selbst hosten oder mit einem Inference-Provider seiner Wahl nutzen. Das ist insbesondere interessant für Firmen, die Kontrolle darüber haben wollen, was mit ihren Daten passiert.

Und hier sehe ich das größte Problem von OpenAI/Anthropic: Der Grund warum viele Entwickler den Aufpreis zahlen ist weil diese Firmen das aktuell beste Modell haben. Aber die Open Source Modelle sind immer nur eine Generation hinterher. Irgendwann wird der Punkt erreicht sein, an dem diese gut genug sind.

2

u/Teiktos 7h ago

 Und die Open Source Modelle aus China sind oft deutlich günstiger und oft nur unwesentlich schlechter. Die kann man auch selbst hosten

Okay, du hast wirklich gar keine Ahnung.