モデル系統 · 量子化・GGUF/MLX
ローカルでLLMを動かす — 憶測ではなく実測で。
手元のMacやPCでオープンなLLMを動かすための実践リファレンスです。すべてのガイドは自社マシンで計測した実際のトークン/秒・メモリ使用量・量子化テストに基づいています。感覚ではなく数字で最適なモデルとバージョンを選べます。
モデル系統
Qwen対Llama 3.1、VRAM容量で選ぶ最適モデル比較
本記事は、QwenとLlama 3.1という二大オープンソースモデルを、限られたローカルリソースで最大限に活用するための比較ガイドです。単なるベンチマークではなく、実際のハードウェア環境や用途に基づいた最適なモデル選定方法を解説しています。
READ →LATEST
RAG構築ガイド：ローカルLLMを専門家にする5ステップ
本記事は、LLMの知識不足やハルシネーションを解決するためのRAG（検索拡張生成）システムの構築方法を解説しています。データ取り込みから生成までの5ステップや、ハードウェアに応じたモデル選定のポイントを網羅しています。
♥ 0
2025年予測：データ主権を守るローカルAI開発の重要性
本記事では、ソースコードの機密性を守りながら、ローカルLLMを活用して自前でAIコーディングパートナーを構築する方法を解説しています。セキュリティとコストを両立させ、開発ワークフローを革新するための具体的なステップと技術的考察を提供します。
♥ 0
Appleシリコン最適化！MLXでLLMの推論速度を25%向上
ローカルLLMの推論速度を左右する「量子化フォーマット」について、GGUFとMLXの違いやハードウェア別の最適な選び方を解説します。
♥ 0
Llama 3.1完全ガイド：8Bから405Bまで最適なモデル選び
Metaが公開した最強のオープンソースモデル「Llama 3.1」を、自分のPC環境で最大限に活用するための完全ガイドです。モデルサイズ別の性能比較から、初心者向けのインストール方法、量子化による最適化までを詳しく解説します。
♥ 0