ทำไม AI ถึงมีปัญหาเรื่อง Memory Bottleneck?
ปีนี้เชื่อว่าผู้ที่ติดตามข่าวเรื่องเทคโนโลยีน่าจะได้เห็นกระแสของ ‘ชิปหน่วยความจำ’ (Memory Chips) ซึ่งจริงๆแล้วพื้นที่นี้เคยเป็นพื้นที่ที่น่าเบื่อที่สุดในวงการเทคโนโลยีแต่ล่าสุดโดยเฉพาะปีนี้ได้กลับกลายเป็นจุดที่ร้อนแรงที่สุด
ข่าวที่เกี่ยวข้อง
ชิปหน่วยความจำแท้จริงแล้วเป็นชิ้นส่วนธรรมดาๆ ที่ซ่อนอยู่ในสมาร์ทโฟนและแล็ปท็อปทุกเครื่องอยู่แล้ว จู่ๆ ก็กลับกลายมาเป็นจุดศูนย์กลางของโฟกัสของใครหลายๆคนในยุคที่ AI กำลังบูม
หนึ่งในสิ่งที่สะท้อนความร้อนแรงของชิปหน่วยความจำคือ ราคาหุ้นของผู้ผลิตหน่วยความจำที่พุ่งทะยานหลายเท่าตัว หรือราคาของหน่วยความจำคอมพิวเตอร์ทั่วไปกระโดดขึ้นหลายเท่าในเวลาเพียงปีเดียว ผู้บริหารในอุตสาหกรรมต่างออกมาเตือนว่าภาวะขาดแคลนนี้อาจลากยาวไปจนถึงหลังปี 2030 และที่สำคัญ มือถือและแล็ปท็อปเครื่องใหม่ของเราๆท่านๆก็จะมีราคาแพงขึ้นด้วยเพราะสาเหตุนี้แหละ
เรื่องนี้นำไปสู่คำถามที่น่าสนใจข้อหนึ่งคือ ทำไม 'หน่วยความจำ' ถึงกลายเป็นทรัพยากรที่ขาดแคลนที่สุดไปได้ในยุคบูมของ AI?
บทความนี้ผู้เขียนจะยกตัวอย่างเชฟร้านอาหารเพื่อเปรียบเทียบกับการทำงานของชิปที่ใช้รัน AI อย่าง GPU
การทำงานของ GPU และเชฟยอดมนุษย์
ลองเปรียบเทียบชิปประมวลผล AI (GPU) เป็น 'เชฟยอดมนุษย์' และมือของเชฟเปรียบเสมือนส่วน 'ประมวลผล' (Compute) ที่คอยคำนวณข้อมูลทางคณิตศาสตร์ 'วัตถุดิบ' ก็คือข้อมูล (Data) และอาหารที่ปรุงเสร็จแต่ละจาน ก็คือกระบวนการคิดของ AI ในหนึ่งสเต็ป
อาหารแต่ละจานที่ออกจากห้องครัวจะออกมาช้าลงได้จาก 2 สาเหตุหลักๆ
สาเหตุแรก: ออเดอร์และวัตถุดิบกองพะเนินเร็วกว่าที่เชฟจะทำอาหารทัน ซึ่งจุดนี้ปัญหาอยู่ที่มือของเชฟที่ทำอาหารไม่ทัน (ของมาแล้วแต่เชฟช้า) วิศวกรเรียกภาวะนี้ว่า Compute-bound (ติดคอขวดที่การคำนวณ) ซึ่งวิธีแก้ปัญหาก็คือ จ้างเชฟที่ทำอาหารเร็วขึ้น หรือไม่ก็เพิ่มจำนวนเชฟ
สาเหตุที่สอง: เชฟทำอาหารได้เร็วมากอยู่แล้ว แต่วัตถุดิบกลับมาส่งช้า เด็กรันอาหารต้องวิ่งหอบแฮ่กไปเอาของที่ห้องเก็บวัตถุดิบปลายระเบียงสำหรับทุกๆ ออเดอร์ ทำให้เชฟต้องเสียเวลาส่วนใหญ่ไปกับการยืนว่างๆ ลับมีดรอ มือพร้อมปรุง แต่ไม่มีอะไรให้ทำ ภาวะนี้เรียกว่า Memory-bound (ติดคอขวดที่หน่วยความจำ) ข้อจำกัดไม่ได้อยู่ที่ความเร็วในการ 'คิด' แต่อยู่ที่ความเร็วในการ 'ป้อน' วัตถุดิบให้เชฟ
ตลอด 50 ปีที่ผ่านมา อุตสาหกรรมชิปให้ความสำคัญอยู่กับการสร้าง 'เชฟที่เร็วขึ้น' ซึ่งแก้ได้ดีเสียจนความเร็วในการคำนวณนั้นทิ้งห่างความเร็วในการส่งข้อมูลไปไกลลิบ วิศวกรเรียกช่องว่างที่ถ่างออกเรื่อยๆ นี้ว่า Memory Wall (กำแพงหน่วยความจำ) ผลลัพธ์ที่เกิดขึ้นในปัจจุบันคือ ชิป AI ยุคใหม่สามารถคำนวณคณิตศาสตร์ได้เร็วกว่าความเร็วในการดึงข้อมูลมาป้อนให้มันถึงหลายร้อยเท่า นั่นหมายความว่า ชิปประมวลผลที่แพงที่สุดในโลกมักจะใช้เวลาส่วนใหญ่ไปกับการรอ 'ไม่ได้ทำอะไรเลย' นอกจากการยืนรอข้อมูล
Chip Design และการวาง layout ของห้องครัว
นักออกแบบชิปพยายามแก้ปัญหาเรื่องขอขวดของหน่วยความจำก็มีความคิดคล้ายกับนักออกแบบห้องครัว ซึ่งเราสามารถเปรียบเทียบหน่วยความจำกับ layout ของห้องครัวได้ดังนี้
- เขียงหั่นผัก (SRAM): อะไรก็ตามที่วางอยู่ใกล้มือเชฟที่สุด หยิบใช้ได้ทันที แต่มีพื้นที่จิ๋วเดียว บนชิป พื้นที่นี้มีขนาดแค่ไม่กี่เมกะไบต์ ซึ่งพอแค่วางสูตรอาหารสองสามขั้นตอนต่อไป
- ตู้เย็นข้างเคาน์เตอร์ (HBM): ตัวเอกของของปีนี้คือ HBM (High Bandwidth Memory) ซึ่งก็คือชิปหน่วยความจำ DRAM ธรรมดาที่เอามาเรียงซ้อนกันเป็นคอนโดที่เรียกว่า (2.5D stack) โดยวางห่างจากตัวประมวลผลเพียงไม่กี่มิลลิเมตร ซึ่งระยะทางคือปัจจัยที่สำคัญมากๆ ยิ่งใกล้ ยิ่งเร็ว HBM จุข้อมูลได้หลักร้อยกิกะไบต์ และปล่อยข้อมูลได้เร็วระดับหลายเทราไบต์ต่อวินาที ซึ่งมากพอที่จะทำให้เชฟยุคใหม่มีวัตถุดิบทำอาหารได้อย่างต่อเนื่อง
- ห้องเก็บของข้างๆ (DRAM): นี่คือหน่วยความจำทั่วไปในแล็ปท็อปของเรา มีขนาดใหญ่ ราคาถูก แต่ทางเดินมันค่อนข้างแคบ ข้อมูลจึงค่อยๆ ทยอยออกมาในความเร็วที่ช้ากว่า HBM มาก
- โกดังเก็บของ (SSD): กว้างใหญ่เก็บของได้เยอะและราคาถูกสุดๆ แต่ในโลกของชิป การวิ่งไปเบิกของครั้งหนึ่งกินเวลายาวนาน
ปัจจัยที่สำคัญที่สุดคือ ของยิ่งอยู่ใกล้เชฟเท่าไหร่ ก็ยิ่งเร็วเท่านั้น แลกมากับพื้นที่ที่เล็กลงและราคาแพงขึ้น ชั้นวางของบนเขียงมีราคาแพงกว่าชั้นวางในโกดังมหาศาล การออกแบบชิป จึงเป็นการการเลือกว่าข้อมูลไหนคู่ควรที่จะได้พื้นที่ในระยะเอื้อมถึงหรือในห้องเก็บของข้างๆ
วิธีแก้ปัญหาของเชฟในปัจจุบัน
1. ขยายขนาดเขียงให้ใหญ่ขึ้น: วิศวกรกลุ่มหนึ่งเลือกที่จะทิ้งตู้เย็นไปเลย บริษัทอย่าง Cerebras สร้างหน่วยประมวลผลขนาดใหญ่เท่าแผ่นเวเฟอร์ซิลิคอน (ใหญ่เท่าจานข้าว) เพื่อให้วัตถุดิบทั้งหมดสามารถวางอยู่บนเขียงข้างมือเชฟได้เลย หรืออย่าง Groq ที่ใช้วิธีแบ่งวัตถุดิบ แล้วแจกจ่ายไปให้ชิปตัวเล็กๆ หลายร้อยตัว โดยให้เชฟแต่ละคนถือวัตถุดิบของใครของมัน แล้วส่งต่ออาหารกันเป็นสายพานการผลิต โดยไม่ต้องมีใครเดินไปตู้เย็นอีกเลย
2. สร้างตู้เย็นที่ใหญ่ขึ้นและใกล้ขึ้น: ปีนี้เรียกได้ว่าเป็นยุคทองของ HBM ก็ว่าได้ ชิป HBM รุ่นใหม่แต่ละเจเนอเรชันจะเพิ่มชั้นซ้อนกันและขยายท่อส่งข้อมูลให้กว้างขึ้น แต่การซ้อนหน่วยความจำแบบนี้เป็นเรื่องที่ทำได้ยากมากในทางวิศวกรรม ปัจจุบันมีเพียง 3 บริษัทในโลกที่สามารถผลิตในระดับสเกลใหญ่ได้ (SK Hynix, Samsung และ Micron) แต่ที่แย่ไปกว่านั้นสำหรับผู้บริโภคอย่างเราคือ HBM ผลิตในโรงงานเดียวกับหน่วยความจำทั่วไป และใช้ซิลิคอนมากกว่าถึง 3 เท่าต่อกิกะไบต์ พูดง่ายๆ คือ AI ได้เหมาโรงงานผลิต "ตู้เย็น" ของโลกไปจนหมดเกลี้ยง นี่คือสาเหตุที่หน่วยความจำทั่วไปในแล็ปท็อปและมือถือเริ่มขาดแคลนและแพงขึ้น
3. บีบอัดวัตถุดิบให้มีขนาดเล็กลง: นี่คือการแก้ปัญหาจากฝั่งซอฟต์แวร์ ซึ่งก็คือการบีบอัดวัตถุดิบให้มีขนาดเล็กลงเพื่อให้ใช้พื้นที่น้อยลง (วิศวกรเรียกสิ่งนี้ว่า Quantization) หรือการเลือกส่งวัตถุดิบให้เชฟแค่บางคนไม่ต้องส่งให้เชฟหลายๆคน (สถาปัตยกรรมแบบ Mixture of Experts ที่อยู่เบื้องหลังโมเดลระดับท็อปหลายตัว) ไปจนถึงการจัดระเบียบสูตรอาหารใหม่เพื่อให้หยิบวัตถุดิบครั้งเดียวจบแทนที่จะต้องเดินไปสิบครั้ง ซึ่งเราจะเห็นได้ว่าทางฝั่งซอฟต์แวร์สามารถช่วยลดต้นทุนจากการดีไซน์ให้ 'หยิบวัตถุดิบอย่างมีกลยุทธืมากขึ้น'
มูลค่าและเม็ดเงินมักจะไหลไปกองอยู่ที่คอขวด
ในทุกปัญหา มูลค่าและเม็ดเงินมักจะไหลไปรวมตัวกันที่ 'คอขวด' เสมอ หลายทศวรรษที่ผ่านมา คอขวดของโลกเทคโนโลยีคือการประมวลผล (Compute) และความเม็ดเงินจำนวนมากก็ไหลไปกองอยู่ที่เชฟที่ทำอาหารได้เร็วที่สุด ซึ่งครั้งหนึ่งคือ Intel และตอนนี้คือ NVIDIA
วันนี้พลังประมวลผลมีเหลือเฟือและรวดเร็วกว่าความสามารถในการป้อนข้อมูล คอขวดจึงค่อยๆ ย้ายมาอยู่ที่ 'หน่วยความจำ' แทนและแน่นอนว่า ผลกำไร อำนาจในการตั้งราคา และราคาหุ้น ก็ย้ายตามมาอยู่ในมือของ 3 บริษัทที่ตอนนี้สินค้าถูกจองคิวล่วงหน้ายาวไปเป็นปี
ท้ายที่สุดแล้ว ขีดจำกัดของ AI ไม่ได้อยู่เพียงแค่ว่ามัน คิด ได้เร็วแค่ไหน แต่มันอยู่ที่ว่าเราสามารถ ป้อน ข้อมูลให้มันได้เร็วแค่ไหน
ดร.ณรงค์ บริจินดากุล
Technical Specialist, SCB 10X
