Model Quantization: บีบโมเดล AI ให้เล็กลง 75% แล้วรันบนโต๊ะคุณเอง

คุณเคยเจอไหม — อยากเอาโมเดล Llama 70B มาทำ chatbot ให้ทีมใช้ แต่พอจะรันจริง การ์ดจอ 24GB แทบไม่พอแม้แต่จะโหลดตัวโมเดลเข้ามา ก่อน token แรกจะออกมาด้วยซ้ำ หรือถ้าหนีขึ้นคลาวด์ บิลรายเดือนก็แตะหลักแสนเพราะต้องเช่า GPU หลายตัวต่อหนึ่ง instance

ข่าวดีคือมีเทคนิคหนึ่งที่แก้ปัญหานี้ได้ตรงจุดที่สุด ใช้เวลาแค่หลักนาทีถึงชั่วโมง และให้ผลตอบแทน (ROI) สูงที่สุดในบรรดาวิธีบีบอัดโมเดลทั้งหมด — มันชื่อว่า Quantization บทความนี้จะอธิบายแบบเข้าใจง่ายว่ามันคืออะไร ทำงานอย่างไร และทำไมมันถึงทำให้ “ซูเปอร์คอมพิวเตอร์ AI บนโต๊ะ” อย่าง DGX Spark กลายเป็นเครื่องมือที่ทรงพลังที่สุดสำหรับงานนี้

Quantization คืออะไร — อธิบายแบบง่ายสุด

ลองนึกภาพว่าคุณจดตัวเลขบนกระดาษ คุณอาจเขียน “3.1415926535” (ละเอียดมาก) หรือแค่ “3.14” (ละเอียดน้อยลง แต่เขียนเร็วและใช้เนื้อที่น้อยกว่า) — Quantization ก็คือการเก็บตัวเลขในโมเดล AI ให้ “หยาบลง” เพื่อให้เล็กลงและเร็วขึ้น

โมเดล AI ประกอบด้วยตัวเลข (พารามิเตอร์) หลายพันล้านตัว ปกติเก็บแบบ 16 บิตต่อตัว (FP16) การ quantize คือการบีบให้เหลือ 8, 4 หรือแม้แต่ต่ำกว่านั้น เหมือนบีบไฟล์ภาพ JPEG — ขนาดเล็กลงมาก แต่ตาเปล่าแทบมองไม่ออกว่าคุณภาพต่างจากเดิม

ที่น่าทึ่งกว่านั้น: โมเดล 70B ที่ quantize เหลือ 35 GB ยังทำคะแนน ดีกว่า โมเดล 35B แบบ FP16 (ที่ใช้หน่วยความจำพอกัน) ในทุก benchmark — ปรากฏการณ์นี้เรียกว่า “compress, don’t prune” — บีบโมเดลใหญ่ให้เล็ก ดีกว่าใช้โมเดลเล็กตั้งแต่แรก

ระดับความหยาบ: จาก FP16 ถึง 4 บิต

Quantization มีหลายระดับ แต่ละระดับแลกความละเอียดกับขนาด นี่คือฟอร์แมตที่ production ใช้จริงในปี 2026:

ตัวที่น่าจับตาที่สุดคือ NVFP4 — ฟอร์แมต 4 บิตแบบ floating-point ที่ NVIDIA ออกแบบมาสำหรับสถาปัตยกรรม Blackwell โดยเฉพาะ ข้อดีที่เหนือ INT4 คือมันรักษาคุณภาพได้ดีกว่า (ทดสอบบน GSM8K, MATH, MMLU) และ ไม่ต้องใช้ข้อมูล calibration — จับการกระจายของน้ำหนักได้จากโครงสร้างของมันเอง แต่มีเงื่อนไขเดียว: ต้องรันบน ฮาร์ดแวร์ Blackwell

ความลับที่คนมองข้าม: หน่วยความจำคือคอขวดตัวจริง

ทำไม quantization ถึงสำคัญขนาดนี้? คำตอบอยู่ที่ความจริงข้อหนึ่งที่คนส่วนใหญ่ไม่รู้ — เวลา AI สร้างข้อความทีละคำ (decode) GPU ของคุณ idle อยู่ถึง ~98% ของเวลา มันไม่ได้รอเพราะคำนวณช้า แต่รอ “โหลดน้ำหนักโมเดล” จากหน่วยความจำเข้ามาคำนวณ

ลองนึกภาพโรงงานที่เครื่องจักรเร็วมาก แต่วัตถุดิบส่งมาช้า เครื่องเลยต้องรอเกือบตลอด — นี่คือสิ่งที่เรียกว่า memory-bound คอขวดอยู่ที่ความเร็วในการย้ายข้อมูล ไม่ใช่ความเร็วในการคำนวณ ผลที่ตามมามีสองข้อสำคัญ:

• ขนาดของโมเดลสำคัญที่สุด — ยิ่งโมเดลเล็ก (quantize แล้ว) ยิ่งโหลดเร็ว และยิ่งเหลือที่ว่างให้ทำงานอื่น quantization จึงเป็นการแก้ปัญหาที่ตรงจุด
• หน่วยความจำที่ใหญ่และเป็นก้อนเดียวคือของล้ำค่า — เพราะถ้าโมเดลใส่ในหน่วยความจำได้ทั้งก้อน คุณไม่ต้องหั่นแบ่งข้ามการ์ดหลายใบหรือส่งข้อมูลไปมาให้ช้าลง

พูดง่ายๆ: quantization ทำให้โมเดลเล็กลง แต่คุณยังต้องมีเครื่องที่มี หน่วยความจำใหญ่พอจะอุ้มโมเดลทั้งก้อน และ รองรับฟอร์แมต 4 บิตรุ่นใหม่แบบเนทีฟ — และนี่คือจุดที่ DGX Spark เข้ามาตอบโจทย์แบบพอดิบพอดี

ทำไม DGX Spark คือเครื่อง Quantization ที่ลงตัวที่สุด

DGX Spark คือเดสก์ท็อป AI ที่ใช้ชิป GB10 Grace Blackwell พร้อม unified memory 128 GB — และมันตอบทุกเงื่อนไขที่งาน quantization ต้องการ:

เทียบให้เห็นภาพ: การจะรันโมเดล 70B ที่ quantize แล้ว บนการ์ด RTX 4090 (24GB) คุณต้องใช้หลายใบและจัดการ memory เอง หรือถ้าเช่าคลาวด์ก็จ่ายบิลทุกเดือน แต่บน DGX Spark — มันใส่ได้ในกล่องเดียวบนโต๊ะ ข้อมูลไม่ออกจากเครื่อง จ่ายครั้งเดียวจบ

เริ่มต้นกับเครื่อง Quantization ของคุณเอง

ถ้าคุณจริงจังกับการรันและปรับแต่งโมเดล AI ขนาดใหญ่บนเครื่องตัวเอง — DGX Spark คือเครื่องที่ออกแบบมาเพื่องานนี้ สำหรับคนไทย เวอร์ชันที่ซื้อได้พร้อมประกันในประเทศคือ ASUS Ascent GX10 (DGX Spark เวอร์ชัน ASUS — ชิป GB10, unified memory 128 GB, SSD 4TB)

อยากรู้จัก DGX Spark ให้ลึกขึ้น? อ่านบทความ รู้จักกับ DGX Spark และ NVIDIA GPU: จักรวรรดิที่ขับเคลื่อนโลก AI ต่อได้เลย

อภิธานศัพท์ (Glossary)

Quantization

การเก็บตัวเลขในโมเดลให้ใช้บิตน้อยลง (เช่น 16→4 บิต) เพื่อลดขนาดและเพิ่มความเร็ว โดยพยายามรักษาคุณภาพ

FP16 / INT8 / INT4 / NVFP4

ฟอร์แมตเก็บตัวเลขที่บิตต่างกัน · FP16 = มาตรฐานต้นทาง · INT8/INT4 = จำนวนเต็ม 8/4 บิต · NVFP4 = 4 บิตแบบใหม่ของ NVIDIA Blackwell

Memory-bound

สภาวะที่ความเร็วถูกจำกัดด้วยการโหลดข้อมูลจากหน่วยความจำ ไม่ใช่การคำนวณ — คือเหตุผลที่ขนาดโมเดลและหน่วยความจำสำคัญมาก

GPTQ / AWQ

สองอัลกอริทึมยอดนิยมสำหรับ quantize น้ำหนักโมเดลเป็น 4 บิตโดยรักษาคุณภาพ — เป็นค่าเริ่มต้นใน vLLM และ TensorRT-LLM

QLoRA / NF4

เทคนิค fine-tune โมเดลใหญ่บนหน่วยความจำน้อย โดย quantize เป็น 4 บิต (NF4) ก่อนเทรน — ทำให้ปรับโมเดล 70B บนเครื่องเดียวได้

แหล่งอ้างอิง

• หนังสือ AI Model Quantization (คู่มือภาษาไทย) — numerical formats, roofline model, GPTQ/AWQ, KV cache และ quantization ต่ำกว่า 4 บิต
• AWQ: Activation-aware Weight Quantization (MIT)
• QLoRA: Efficient Finetuning of Quantized LLMs (NF4)
• NVIDIA DGX Spark — หน้าผลิตภัณฑ์อย่างเป็นทางการ

หมายเหตุ: ตัวเลขประสิทธิภาพและการลดขนาดเป็นค่าอ้างอิงจากงานวิจัยและเอกสารของผู้ผลิต ผลลัพธ์จริงขึ้นอยู่กับโมเดล เทคนิค และการตั้งค่า โปรดทดสอบกับงานของคุณก่อนนำไปใช้ production