AMD ร่วมกับแอปพลิเคชัน LM Studio สร้างปรากฏการณ์ใหม่ในวงการ AI โดยช่วยให้ผู้ใช้ทั่วไปสามารถใช้งานโมเดลภาษาขั้นสูง (LLMs) ได้อย่างง่ายดายบนแล็ปท็อป โดยไม่จำเป็นต้องมีความรู้ด้านการเขียนโปรแกรม
จากการทดสอบล่าสุดพบว่า โปรเซสเซอร์ AMD Ryzen AI 9 HX 375 สามารถทำความเร็วในการประมวลผลได้สูงกว่าคู่แข่งถึง 27% เมื่อวัดจากจำนวนโทเคนต่อวินาที แม้ว่าแล็ปท็อปของคู่แข่งจะมีความเร็ว RAM ที่สูงกว่า (8533 MT/s เทียบกับ 7500 MT/s) โดยสามารถประมวลผลได้ถึง 50.7 โทเคนต่อวินาที เมื่อใช้งานกับโมเดล Meta Llama 3.2 1b Instruct
LM Studio เป็นแอปพลิเคชันที่พัฒนาต่อยอดจากโปรเจค llama.cpp ซึ่งเป็นเฟรมเวิร์คยอดนิยมสำหรับการใช้งานโมเดลภาษา โดยสามารถทำงานได้บนซีพียูทั่วไป และรองรับการเร่งความเร็วด้วย GPU นอกจากนี้ยังใช้คำสั่ง AVX2 เพื่อเพิ่มประสิทธิภาพการทำงานบนซีพียูรุ่นใหม่
ในด้านความเร็วในการตอบสนอง พบว่า AMD Ryzen AI 9 HX 375 มีความเร็วในการแสดงผลโทเคนแรก (time to first token) เร็วกว่าคู่แข่งถึง 3.5 เท่าเมื่อใช้งานกับโมเดลขนาดใหญ่
AMD ยังได้นำเสนอฟีเจอร์ Variable Graphics Memory (VGM) ที่ช่วยเพิ่มประสิทธิภาพการทำงานได้อีกมาก โดยสามารถขยายหน่วยความจำกราฟิกแบบเฉพาะจาก 512 MB เป็นสัดส่วนถึง 75% ของ RAM ที่มีอยู่ในระบบ ทำให้การประมวลผลโมเดล Meta Llama 3.2 1b Instruct เร็วขึ้นถึง 60% เมื่อเทียบกับการใช้ซีพียูอย่างเดียว
เมื่อเปรียบเทียบประสิทธิภาพการทำงานกับโมเดล Mistral 7b Instruct v0.3 และ Microsoft Phi 3.1 Mini Instruct บนแพลตฟอร์ม Intel AI Playground พบว่า AMD Ryzen AI 9 HX 375 ทำงานเร็วกว่า 8.7% สำหรับ Phi 3.1 และ 13% สำหรับ Mistral 7b
AMD มุ่งมั่นที่จะทำให้เทคโนโลยี AI เข้าถึงได้ง่ายสำหรับทุกคน โดยไม่จำเป็นต้องมีความรู้ด้านเทคนิคหรือการเขียนโปรแกรมขั้นสูง แอปพลิเคชันอย่าง LM Studio จึงมีความสำคัญในการช่วยให้ผู้ใช้สามารถใช้งานโมเดลภาษาขั้นสูงได้ทันทีที่มีการเปิดตัว
ข้อมูลจาก AMD
ติดตามข่าวสาร อัปเดตเทคโนโลยี รีวิวของใหม่ก่อนใคร ได้ทาง www.techoffside.com และ Google News
ช่องทางโซลเชียล Facebook, Instagram, YouTube และ TikTok
