ลด Cost ใน Hermes — คุม background_review fork ให้ไม่กิน token ฟรี
background_review fork ของ Hermes ทำงานทุก turn และใช้ token เยอะถ้า route ผิด — วิธีปิด, ตั้ง cron prune, และ pin model routing ให้คุม cost ได้
Latest Posts
มีงบ $10,000 สำหรับ local AI — ซื้อ 2× DGX Spark เลย หรือรอ?
วิเคราะห์โพสต์ r/LocalLLM ที่ถามว่าจะซื้อ 2× DGX Spark ด้วยงบ $10K ดีไหม — เทียบกับมุมมอง 'รอเถอะ Xiaomi/Apple กำลังมา' และประสบการณ์คนใช้จริงที่รัน DS V4 + fine-tune บน 2 sparks
Benchmark agent harness ยังไงให้เชื่อถือได้ — เรื่องราวจาก r/LocalLLM: OpenClaw, Hermes, nanobot และคำถามที่ community ถามจริงๆ
TL;DR — การ benchmark agent harness ทำได้ยากกว่าที่คิด OP ใช้ harness-bench + 8 harnesses × 3 LLMs = 318 tasks + leaderboard จริง (nanobot 76.4, Second Brain 73.8, Hermes 72.5, OpenClaw 37.1) + วิธีอ่าน heatmap ด้วย vision model + Future AGI evaluation framework
EXL3 Quantization กับ λ=2.8 — ทำไม 3-bit ถึงให้คุณภาพระดับ Q5 และ ablation ที่ 2.8 ถึงเป็น sweet spot
บันทึกเทคนิค quantization แบบ EXL3/Trellis กับ runtime ablation (wo_b projection) ที่ใช้ λ=2.8 — เทียบกับค่าอื่นๆ ที่ทดสอบจริงบน single-node
ซื้อ DGX Spark เครื่องเดียว เพื่อเรียนรู้ + Hermes agent คุ้มไหม — เมื่อตลาดบอกว่ามันอยู่ใน awkward spot
วิเคราะห์โพสต์ r/LocalLLM ที่ถามว่าซื้อ DGX Spark 1 เครื่องเพื่อเรียนรู้ + ตั้ง Hermes agent ทำ security research คุ้มไหม — เจาะมุมมอง 'awkward spot', MoE vs dense, INT4 autoround 50+ tok/s, และเทียบกับ dual-3090 + dual-Spark
DGX Spark GB10 + Qwen3.8-27B + DFlash2 lookup — 39 tok/s chat, 117 tok/s context replay ด้วย reproducible Spark CLI bundle
TL;DR — scepticia benchmark Qwen3.8-27B-NVFP4 บน DGX Spark / ASUS Ascent GX10 เครื่องเดียว: ~39 tok/s chat, ~117 tok/s context replay, cold TTFT @ 50k ลดจาก 29.94 → 23.46s ด้วย chunk 4,096 + O2 interactivity — reproducible ผ่าน spark CLI bundle (qwen38-dflash2-lookup)
หยุดใช้ Ollama — เมื่อ local LLM wrapper ที่ใหญ่ที่สุดมีปัญหาเรื่อง attribution, performance, และ vendor lock-in
สรุปบทความ 'Stop using Ollama' ของ Zetaphor (HN 648 points) + Reddit/HN comments + เทียบ alternatives (llama.cpp, LM Studio, llamafile, koboldcpp, ramalama) — ไม่ใช่ hit piece แต่ honest take พร้อมทางเลือก
Tesla V100 32GB + Qwen3.8-27B ที่ 23.6 tok/s และ 256K context — เมื่อ hardware อายุ 8 ปียังคุ้มค่า + power tuning + honest Velcro story
Case study: Tesla V100 32GB (Volta, 2017) รัน Qwen3.8-27B Q3_K_M ที่ 23.59 tok/s @ 150W + 256K native context + Velcro-taped fan cooling + honest critique ของ 100W benchmark จาก r/LocalLLM
Functional Programming ที่ซ่อนอยู่ใน TypeScript Types — เรียน FP ผ่าน type system ไม่ต้องเขียน Haskell
TL;DR — TypeScript types เป็นภาษา FP ที่ซ่อนอยู่ในอีกภาษา มี functions, pattern matching, recursion ครบ บล็อกนี้สรุป toolkit จาก Hugo Vilela พร้อมตัวอย่าง HackerRank จริง + optimization จาก comments
DGX Spark เครื่องดับตอนรัน model — แก้ด้วย clock cap 2200 MHz
เครื่องดับสนิทตอนรัน LLM ไม่มี log เลย — root cause คือ EC ตัดไฟก่อน kernel throttle แก้ด้วย nvidia-smi -lgc 300,2200 + systemd + drop_caches manual mode