4 posts tagged with "ai-agent"

ตอนสามทุ่มวันจันทร์ LiteLLM log เริ่มเต็มไปด้วย 400 ทุก 2-3 วินาที — request_id วนลูป, model group M3-CODE-256k, Available Model Group Fallbacks=None. ผมไม่รู้ว่ามันคือ harness ที่เพิ่งอัปเดตเมื่อวาน หรือ gateway ที่ pin version ไว้เมื่อเดือนก่อน

นี่คือ investigation log เต็มของ bug ที่ทำให้ผม recreate container สามรอบในคืนเดียว, post บน GitHub, และค้นพบว่าทางออกที่ดีที่สุดคือ 91 บรรทัดที่ไม่มีใครเขียนมาก่อน

เมื่อก่อนตอนผมเขียน code ผมทำคนเดียวทุกอย่าง - เขียนเอง, test เอง, debug เอง, deploy เอง ตอนนี้ workflow เปลี่ยนไปเยอะ: ผมมี AI 2 ตัว ช่วยทำงาน - นานาโกะ ช่วย verify + เขียน ticket, Kimi ช่วยเขียน code - แล้วผมเป็นคน "design + decide + review" ทั้งหมด

มันไม่ใช่ "AI แทน developer" - แต่เป็น "AI เป็น co-worker" ที่ต้องมี workflow ที่ชัดเจน ไม่งั้นจะกลายเป็น chaos วันนี้เล่าให้ฟังว่า setup, workflow, และ lessons learned จากการทำงานแบบนี้มาเกือบอาทิตย์

หลังจาก optimize DGX Spark และ debug LiteLLM มาหลายวัน ผมเริ่มเข้าใจว่า "AI infrastructure" ไม่ได้จบแค่ตรงรัน model — มันคือการออกแบบ layer ทั้งหมด ตั้งแต่ model serving → routing → agent framework → tool integration และหนึ่งในเรื่องที่ developer หลายคน (รวมถึงผม) ต้องเรียนรู้เพิ่มคือ Model Context Protocol (MCP) — มาตรฐานที่ Anthropic สร้างขึ้นเพื่อให้ agent คุยกับ tool ได้แบบเสียบแล้วใช้ได้เลย

วันนี้จะมาเล่าเรื่อง MCP architecture แบบครบวงจร — ตั้งแต่ transport types, การออกแบบ server, การออกแบบ client, ไปจนถึงการเชื่อมต่อกับ self-hosted models ของเราเอง

ปัญหาหนึ่งของ AI agent ที่ผมเจอตอนเริ่มใช้งานจริง: ทุกครั้งที่เริ่ม session ใหม่ agent จะจำอะไรไม่ได้เลย ถามคำถามเดิมซ้ำ ต้องอธิบายบริบทใหม่ทุกครั้ง ไม่รู้ว่าผู้ใช้ชอบอะไร ไม่ชอบอะไร ผมลองหลายวิธี — เขียนบันทึกสนทนาลงไฟล์ ใช้ vector store เก็บข้อมูล สร้างระบบความจำเอง — จนมาเจอ Honcho ซึ่งเป็น open-source memory infrastructure จาก Plastic Labs ที่ตอบโจทย์ตรงนี้

วันนี้เล่าเรื่อง Honcho ตั้งแต่ "ทำไมต้องมี memory layer" → "Honcho architecture" → "ผมใช้งานยังไง" → "เทียบกับ Mem0/Letta/Zep"