zxell.ai開発記録
zxell.ai は、ニュース記事のコーパスから言語モデルをイチから作り、家庭用の低スペックなマシン群に学習を分散させる実験です。ここでは、作業報告とアーキテクトの判断の往復を、できるだけ原文のまま公開しています(編集方針)。
フェーズ0: 計画と基盤づくり
2026-08-10 · プロジェクト定義
zxell.ai プロジェクト定義
すべての出発点。目的(分散処理に特化した独自 AI モデルをイチから作る)・概要・制約・要件
2026-08-10 · ロードマップ整理資料
zxell.ai ロードマップ策定のための整理資料
プロジェクトの最初の整理資料。目的の分解、トークン数とモデル規模の見積もり、分散方式の比較(DiLoCo 型を推奨)、評価計画、フェーズ案
2026-08-10 · review01
ロードマップ確定前の未決事項への回答
計画書の未決事項 7 件へのアーキテクト回答。closed 運用、最終目標 L=500M、画像は第 1 期除外、モデルは自前実装
2026-08-10 · review02
サーバ改修（フェーズ2着手分）の報告と確認事項
計画書 3.6 に沿ってサーバを全面改修: 汎用タスク・リース・結果の永続化・認証・重みのバージョン管理・排他払い出し
2026-08-10 · review03
review02 回答への対応報告と次の確認事項
クライアント登録を承認制に、/api/status に認証を追加。13 項目のスモークテストに合格
2026-08-11 · review04
サーバの外部公開作業(省略)
サーバの接続確認と外部公開の作業。AI モデルづくりに直接関わらないため省略しています
2026-08-11 · review05
サーバの外部公開作業(省略)
サーバの接続確認と外部公開の作業。AI モデルづくりに直接関わらないため省略しています
2026-08-11 · review06
サーバの外部公開作業(省略)
サーバの接続確認と外部公開の作業。AI モデルづくりに直接関わらないため省略しています
2026-08-11 · review07
サーバの外部公開作業(省略)
サーバの接続確認と外部公開の作業。AI モデルづくりに直接関わらないため省略しています
2026-08-11 · review08
公開完了(省略: ポート)・フェーズ0 棚卸し開始
フェーズ0(データ棚卸し)を開始。参加クライアントは当面 GTX 1050(2GB)搭載の Windows 機 2 台
2026-08-12 · review09
(省略: サーバ障害の対応)、コミット・清書・模式図・README 完了報告
計算量をクライアント実機(GTX 1050 2GB × 2)で再試算: S は約 6 日、L は 2GB では学習不可。モデル構成の模式図を作成
2026-08-12 · review10
(省略: サーバの復旧確認)・push 完了・クライアント v1 完成(E2E テスト成功)
クライアント v1 が完成(Windows / Linux 両対応、E2E テスト成功)。トークナイザは SentencePiece で学習する方針に
2026-08-12 · review11
サーバ障害の復旧と紹介サイトの設置(省略)
サーバ障害の復旧と紹介サイトの設置。AI モデルづくりに直接関わらないため省略しています
2026-08-12 · review12
本番初の分散処理成功(Windows 実機 × 4 タスク完了)・紹介サイト公開確認
本番経路で初の分散処理に成功: Windows 実機のクライアントが 4 種のタスク(train の重み取得 → Δ 提出を含む)を処理
フェーズ1: トークナイザ・前処理・ベースライン
2026-08-12 · review13
トークナイザ比較完了(48k 推奨・実効 6.1B トークン確定)・ダッシュボード v1 公開
SentencePiece BPE の 48k / 64k を比較し、48k を採用。実効コーパスは約 6.1B トークンと確定
2026-08-13 · review13_qa
review13 事前確認 3 点への回答
トークナイザ学習で日本語を約 13 倍に増やした根拠、RTX 2060(6GB)で L(500M)を学習できるかの試算(2〜3 か月)、質問応答の推論フロー
2026-08-13 · review14
サーバのハードウェア故障への対応(省略)
【2026 年 8 月: サーバのハードウェア故障】前処理の途中で、旧サーバのメモリ(RAM)が故障し、その期間に作った中間ファイルが静かに壊れていたことが分かりました。コーパスの原本は無事だったため、新しいサーバに移ったうえで、スナップショットとトークナイザから全工程をやり直しています。この経験から、前処理のすべての工程で「書き込んだ直後に読み直して検証する」ことを必須にしました。review14〜18 はこの対応の記録のため省略しています
2026-08-13 · review15
サーバのハードウェア故障への対応(省略)
サーバのハードウェア故障への対応(省略)
2026-08-13 · review16
(省略: サーバ障害の調査) / 画像フェーズと RTX 2060
画像を学習するなら GPU はどこまで要るか: キャプション生成・CLIP 型対照学習・画像生成の 3 段階で比較
2026-08-14 · review17
サーバのハードウェア故障への対応(省略)
サーバのハードウェア故障への対応と新サーバへの移行準備(省略)
2026-08-14 · review18
新サーバへの移行準備(省略)
新サーバへの移行準備(省略)
2026-09-05 · review19
(省略: 新サーバへの移行) / フェーズ1前処理を完全再構築 — 6.15Bトークン・125シャード / RTX 3060 で計画前倒しへ
新サーバでフェーズ1 の前処理を作り直し(125 シャード・6.15B トークン、全段階で検証合格)。val/test が 100% 日本語になる問題を発見。RTX 3060 が合流
2026-09-27 · review20
「val/test が 100% 日本語」問題のかみ砕き説明と分割方針の提案 / ja 連結の重複除去を実装(ja 文字数 −12%)/ tokenizer_report.md 再生成
val/test が日本語だけになる問題の原因(en/de/fr の収集が 2023-05-28 に停止)と、言語別・記事数ベースの分割案。ja の重複除去で文字数 −12%
2026-09-27 · review21
シャード v2 完成 — val/test が 4 言語に(6.11B トークン・124 シャード)/ ja 重複除去・HTML 除去を反映 / (省略: サーバの停電からの復帰)
シャード v2 が完成: val/test が 4 言語に(124 シャード・6.106B トークン)。ja の重複除去で日本語の学習トークンが 14% 濃く
2026-09-29 · review22
ご質問への回答(トークナイザ学習ファイルの作り方 / シャードの数とサイズの決め方)と S モデル着手の段取り
トークナイザ学習データの作り方(日本語を約 19% に厚くする理由)と、シャードを 5,000 万トークン固定にした理由。分散の段取りの確認
2026-09-29 · review23
zxell_model/ 完成(S/M/L モデル本体・学習・評価・生成・API 取得、CPU スモーク合格)/ RTX 3060 機のセットアップ手順(ドライバ導入から学習開始まで)モデル本体と学習・評価・生成コード(zxell_model/)が完成。S 29.1M / M 121.8M / L 537M。CPU スモーク合格、RTX 3060 で S ベースラインは約 1 日の見込み
2026-10-06 · review24
RTX 3060 機の立ち上げ完了 — ドライバ・PyTorch・クライアント承認・シャード取得・S 動作確認(39,900 トークン/秒)。OOM と評価サンプリングの 2 件を修正し、S ベースライン本番(約 21 時間)の起動へ
RTX 3060 機の立ち上げが完了。S 構成で 39,900 トークン/秒。語彙 48k の logits によるメモリ不足と、途中評価が 1 言語しか見ない問題を修正
2026-10-09 · review25
S 本番の初回起動で「en の PPL が良すぎる」→ 学習データの 9% がゴミだった — 原因・修正・シャード v3(5.53B トークン)と再起動手順
S 本番の初回起動で「en の PPL が良すぎる」ことから、学習データの約 9% が本文ではない構造体ダンプだったと判明。除去と本文の救済を実装し、シャードを作り直した(v4: 5.57B トークン)
2026-10-11 · review26
S ベースライン完走 — test PPL en 22 / de 29 / fr 22 / ja 132、4 言語の生成サンプル、フェーズ 1 の完了判定とフェーズ 2 へ
S ベースラインが完走(90,000 ステップ・29.5 億トークン・21 時間 24 分)。test の言語別 PPL は en 22 / de 29 / fr 22 / ja 132。4 言語の生成サンプルと、フェーズ 1 の完了判定