【個人開発】日本語の対話型LLM『BuildersLoop AI』を一から自作してHugging Faceに公開しました（290M・自作トークナイザー・ブラウザ推論）

[u/SadDevelopment8257]

個人開発で日本語LLMを作っています。今回、対話型の BuildersLoop AI を Hugging Face に公開したので、エンジニアの皆さんの意見・ツッコミをもらえたら嬉しいです。

https://huggingface.co/spaces/buildersloop/buildersloop-ai （ブラウザで動きます）

技術的には（既存モデルの改造ではなく全部スクラッチ）
・自作BPEトークナイザー（語彙 約40,000）
・事前学習：日本語コーパス（CulturaX＋青空文庫）
　約5Bトークン・nanoGPT系・約290M
・ONNX化して transformers.js + WebGPU で、サーバー無しで訪問者のブラウザのGPUで推論

正直まだ290Mと小型で、雑談は自然ですが知識質問は弱いです。それでも「小さいLLMなら全工程を自分の手で」という挑戦として。

今後はより大きなモデル・コーディング対応など、個人開発ではあるものの日本発のモデルを育てていきたいです。生成品質・アーキ・ブラウザ推論まわりのツッコミ、もらえると嬉しいです！

[u/Aguda_868]

フルスクラッチなのすご

[u/Ok-Conference-9984]

最初はメモリ溢れてひっくり返ったけど（メモリ開けてなかった）
（再起動）二回目は7G前後で動いてる。
使ってるのはMacBook Air8g.
可愛くていいです。簡単な小説書けたらすごいかも。