DEV Community

#localllama

Posts

👋 Sign in for the ability to sort posts by relevant, latest, or top.
speculative decoding กับ EAGLE-3 ทำงานอย่างไร และใครได้ใช้จริง

speculative decoding กับ EAGLE-3 ทำงานอย่างไร และใครได้ใช้จริง

Comments
2 min read
เปิด speculative decoding ใน LM Studio ให้ local LLM เร็วขึ้น 26%

เปิด speculative decoding ใน LM Studio ให้ local LLM เร็วขึ้น 26%

Comments 1
2 min read
ทำไม KV cache ถึงกลายเป็นหัวใจเศรษฐศาสตร์ของ AI agent ในปี 2026

ทำไม KV cache ถึงกลายเป็นหัวใจเศรษฐศาสตร์ของ AI agent ในปี 2026

Comments
2 min read
Five Ollama Settings You Should Tune Before Running Local Models Seriously

Five Ollama Settings You Should Tune Before Running Local Models Seriously

Comments
3 min read
จูน Ollama ให้เร็วขึ้น 2026, 5 ค่าที่ควรตั้งก่อนใช้โมเดลท้องถิ่นจริงจัง

จูน Ollama ให้เร็วขึ้น 2026, 5 ค่าที่ควรตั้งก่อนใช้โมเดลท้องถิ่นจริงจัง

Comments
1 min read
ซื้อเครื่องรัน AI local ปี 2026, MacBook กับ laptop การ์ดจอแรง เลือกอันไหนดี

ซื้อเครื่องรัน AI local ปี 2026, MacBook กับ laptop การ์ดจอแรง เลือกอันไหนดี

Comments
1 min read
Your local RAG isn't slow — it re-reads every document on every question

Your local RAG isn't slow — it re-reads every document on every question

Comments
9 min read
LLMs on Consumer Hardware — Part 4: The Coordinator Search — Role-Casting and the Memory Wall

LLMs on Consumer Hardware — Part 4: The Coordinator Search — Role-Casting and the Memory Wall

Comments
4 min read
LLMs on Consumer Hardware — Part 1: The Stack and First Benchmarks

LLMs on Consumer Hardware — Part 1: The Stack and First Benchmarks

Comments
3 min read
LLMs on Consumer Hardware — Part 2: Prefill and the Failure of the AI PC

LLMs on Consumer Hardware — Part 2: Prefill and the Failure of the AI PC

Comments 3
4 min read
LLMs on Consumer Hardware — Part 3: A Multi-Agent Setup with Hermes — Delegation and Early Failure Modes

LLMs on Consumer Hardware — Part 3: A Multi-Agent Setup with Hermes — Delegation and Early Failure Modes

Comments
5 min read
👋 Sign in for the ability to sort posts by relevant, latest, or top.