TEI/XML 形式の古典文書コーパスを対象としたベクター検索 RAG に、LLM が問いを見て道具を自動で選ぶ Router Agent を導入した記録。8 ツール構成の設計、構造化データとベクター検索の相補性、そして実装で踏んだ 5 つの罠 (Cloudflare Workers 3 MiB 上限・Azure OpenAI URL pattern・JSON_CONTAINS の盲点・reasoning モデルの multi-turn 問題・TPM ボトルネック) を記録します。
mdx.jp 上で動かした vLLM を Cloudflare Tunnel 経由で外部公開し、OpenAI 互換 API として利用できるようにした手順と注意点
mdx.jp の A100 40GB x2 サーバで LLM-jp-4-32b-a3b-thinking 公式版を動かし、Transformers の OOM から vLLM サーブへ切り替えた記録
MacBook Pro M4 Max 128GBでLLM-jp-4 8Bをローカル実行し、OllamaのOpenAI互換APIから利用した際の構成と実測をまとめる
国立国会図書館サーチAPIから書誌データを取得し、LoRAにより小型日本語LLMをファインチューニングすることで、書名のみからNDC（日本十進分類法）の第1次区分を推定するモデルを構築する実践的チュートリアル。
Azure OpenAI GPT-4 vs Document Intelligence: 日本語縦書きOCRの比較検証
LLMによる原稿用紙OCR性能比較：縦書き日本語の認識精度検証
LLMに関するメモ
mdx.jpの1GPUパックとOllamaを使ってローカルLLMを実行する