"LiteLLM config มี 100+ flags แต่ถ้าเลือกได้แค่ 3 ตัว ผมเลือกตัวนี้ — แต่ละตัวช่วยเพิ่มประสิทธิภาพคนละแบบ"
มีคนบอกผมว่า "ตั้ง flag เยอะๆ เข้าไว้" แล้วมันจะ work มันก็ work จริง — แต่ไม่ใช่ทุก flag ที่ apply ทันที
Part 1 ผมเล่าเรื่อง drop_params ที่ตั้งผ่าน DB อย่างเดียวไม่พอ ต้อง recreate Part 2 นี้คือภาพกว้าง — 3 flags ที่ผมตั้งก่อนเปิดใช้งานทุกครั้ง และทำไม flag บางตัวใช้ DB update พอ
"ผม assume ว่า config.yaml เป็น source of truth — จนกว่าจะไปอ่าน docs เจอบรรทัดนี้: 'DB rows overlay config.yaml on every refresh'"
Part 1 ผมเล่าเรื่อง drop_params ต้อง recreate
Part 2 ผมเล่าเรื่อง 3 flags ที่ใช้บ่อย
Part 3 คือภาพของ DB mode — เก็บอะไรไว้ที่ไหน, config.yaml กับ DB ตัวไหนมีลำดับสูงกว่า, auto-reload ทำอะไรได้บ้าง
"ทุกอย่างดูเหมือนตั้งค่าถูกต้องใน DB แต่ logs ก็ยังโยน error 400 ออกมา — แล้วผมก็นั่งงงอยู่สิบนาทีกว่าจะรู้ว่า 'ค่านี้' apply ตอน start container เท่านั้น"
ผมเปลี่ยน drop_params จาก false เป็น true เพื่อให้ LiteLLM drop reasoning_effort แบบเงียบๆ — pattern ที่ docs แนะนำ และ community ใน r/LocalLLaMA ก็เห็นด้วย
แต่ error ก็ยังเด้งออกมาหลังจากนั้นสองชั่วโมง
ลอง trace ดูกันว่าเกิดอะไรขึ้น และ lesson คืออะไร
เมื่อก่อนตอนผมเริ่มเขียนโปรแกรม เครื่องมือที่ต้องรู้คือภาษาโปรแกรม, frameworks, databases, CI/CD - แค่นั้นจบ แต่ตอนนี้ผมต้องปรับแต่ง DGX Spark, แก้ไข LiteLLM proxy, ออกแบบ MCP servers, ทดสอบประสิทธิภาพ token, ตั้งค่า middleware สำหรับ routing ระหว่าง local กับ cloud, แล้วก็ยังต้องเข้าใจรูปแบบ security/auth สำหรับ AI agent อีก - Developer ในยุค Agentic AI ไม่ใช่แค่ developer ธรรมดาอีกต่อไป
วันนี้อยากเล่าเรื่องที่ผมเจอตอนสร้าง "AI Agent Infrastructure" เอง - ตั้งแต่ความคาดหวังขององค์กร, ความท้าทายที่ไม่คาดคิด, ไปจนถึง framework ที่ช่วยให้ชีวิตง่ายขึ้น
ตอนนี้ infrastructure ของผมแทบจะ 99% self-hosted เองทั้งหมด — Gitea ก็ self-host, runners ก็อยู่บนเครื่องตัวเอง, database ก็วิ่งใน local network, แม้แต่ AI inference (vLLM) ก็รันอยู่บน DGX Spark ที่บ้าน
บทความนี้จะเล่าว่าทำไมถึงเลือกแบบนี้ แลกอะไรมาบ้าง และเล่าประสบการณ์จริงจากการใช้งานว่าเป็นยังไง
เมื่อก่อนตอนผมเขียน code ผมทำคนเดียวทุกอย่าง - เขียนเอง, test เอง, debug เอง, deploy เอง ตอนนี้ workflow เปลี่ยนไปเยอะ: ผมมี AI 2 ตัว ช่วยทำงาน - นานาโกะ ช่วย verify + เขียน ticket, Kimi ช่วยเขียน code - แล้วผมเป็นคน "design + decide + review" ทั้งหมด
มันไม่ใช่ "AI แทน developer" - แต่เป็น "AI เป็น co-worker" ที่ต้องมี workflow ที่ชัดเจน ไม่งั้นจะกลายเป็น chaos วันนี้เล่าให้ฟังว่า setup, workflow, และ lessons learned จากการทำงานแบบนี้มาเกือบอาทิตย์