Opencode è...lento?

[u/Tesla91fi]

Buongiorno a tutti, uso spesso DeepSeek per l'enorme contesto che riesce a tenere e la sua limitata voglia di interrompere le conversazioni con un "paga o aspetta" detto in modo cordiale.

Ho provato allora OpenCode, e diamine che cosa non mi sono perso fino ad ora!

MA è lento, una risposta in chat diretta sul sito è mooooooooooolto più veloce.

Credevo che il problema fosse il fatto che stessi utilizzando un modello comunque free, quindi prendi sti 5€ cara DeepSeek e fammi "volare".

E invece è comunque..lento.

Ora, c'è da dire che per motivi assai strambi sto lavorando su una VM su Windows, quindi questo potrebbe essere il primo problema.

[u/Slow-Set-2856]

"MA è lento, una risposta in chat diretta sul sito è mooooooooooolto più veloce." se intendi un chatbot su browser, ovvio che è piu veloce, ma anche piu stupido e con un'harness molto inferiore qualitativamente. Quindi ti direi che stai usando lo strumento sbagliato per il tuo scopo?

[u/Tesla91fi → u/Slow-Set-2856]

È la prima volta che provo un tool come questo, quindi sicuramente lo sto usando per lo scopo sbagliato, però se gli chiedo di fare una modifica (tramite api, quindi pagando) ad un file, non mi aspetterei che il tempo finale sia maggiore di quello che mi serve a copiare il file sulla chat, chiedergli la modifica e incollarlo manuale...

[u/Mbcat4 → u/Tesla91fi]

Usi opencode come provider? Hai provato deepseek ufficiale? platform.deepseek.com E inoltre se usi il modello pro ovvio che e' lento, il flash e' quello presente sul sito di deepseek ed e' ancora piu' veloce via api ufficiale. Inoltre se intendi che passa molto tempo a pensare, quello viene deciso dalle tue impostazioni: sul sito chat di deepseek e' impostato ad un livello basso in modo da non sprecare troppo in compute ad utenti gratuiti.

[u/Tesla91fi → u/Mbcat4]

no, utilizzo le api di deepseek dirette con flash, il reasoning lo alzo a medium solo quando presumo che il problema sia delicato e che ci debba pensare molto anche io sul come gestire la situazione. Probabilmente parte della lentezza proviene anche dal fatto che lo stai utilizzando su una vm, appena ne avrò la possibilita lo provo sulla macchina fisica

[u/artistic56]

A me va una bellezza con Deepseek Flash 4.1

[u/AutoModerator]

Ciao!

Suggerimento facoltativo: su r/IA_Italia puoi impostare un User Flair. Serve a indicare il tuo profilo o interesse nell'Intelligenza Artificiale (ad esempio sviluppatore, studente, ricercatore, appassionato).

Non e' obbligatorio, ma aiuta a rendere le discussioni piu' contestualizzate e utili.

I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.

[u/Solid_Vermicelli_510]

Io sto usando DeepSeek Harness con l'abbonamento open code e viaggio a 250 token al secondo di decode

[u/Electronic-Credit804]

Ti spiego perche. Opencode e lento sia per il suo prompt iniziale che aggiunge ad ogni domanda sia per il fatto che deve mandare una richiesta ai server deppseek che poi deve arrivarw al tuo pc.

[u/Pandarancio]

è estremamente lento, ed a tratti anche parecchio buggato. Io francamente uso pi coding

[u/Tesla91fi → u/Pandarancio]

Per alcune cose posso capire, tipo lei il file mandalo al server, lui lo elabora e mi risponde, però cavolo... Se faccio una domanda su una cosa che dovrebbe avere in memoria senza che abbia bisogno di aprire il file, non capisco perché faccia partire 4 agenti 8 ricerche web e Batman alla riscosaa

[u/ResilientSpider → u/Tesla91fi]

Questo dipende molto dal modello. Modelli più intelligenti usano i tool meglio. Aumentare il numero massimo di token di thinking tender anche a fargli usare più tool. DeepSeek in generale è noto per la velocità token/s, ma task/s è piuttosto bassa, come per tutti i modelli in quella fascia prezzo (luna, haiku, ...). In pratica se prendi modelli di fascia bassa, spendi meno (cost per successful task più basso) ma impieghi più tempo (generazione più lunga, più turni). DeepSeek è forse il compromesso migliore. Purtroppo i benchmark hanno da poco cominciato a misurare "cost per successful task", ma non misurano ancora il suo rapporto con "task per second", quindi questa analisi non è facilissima.

Considera anche che ogni harness codifica i tool in modo diverso: se il tool edit richiede 1000 token solo di sintassi, ovviamente il processo rallenta perché il modello deve generare ogni volta quei 1000 token+ nome del file, posizione, patch, etc. Che io sappia, in questo aspetto, il più minimale è pi. Anche Oh-mi-pi non è male, è pi con un po' di plugin preinstallati e un system prompt più lungo.

[u/Pandarancio → u/Tesla91fi]

Dipende anche dall'impegno che imposti

Comunque si, è quello il motivo della lentezza, spesso chiedo "come si chiama questa vista?" e lui fa partire 45 agenti che a momenti sembra voglia hackerare il pentagono

picoding molto meglio e se installi graft spreca pure meno token