ถ้าจะให้พูดแบบทึ่ง ๆ ตรง ๆ เรื่องนี้โรงเรียนไม่เคยสอน หนังสืออ้างอิงก็ไม่มี เรื่องนี้มีแค่คุณเท่านั้นที่ได้รู้…
Auto scaling กับ Predictive scaling รู้แล้วอย่าไปเล่าให้ใครฟังนะครัช 55++
เมื่อ 10ปี ก่อนเรื่องนี้โรงเรียนไม่มีสอนเพราะ Predictive scaling เป็นแนวคิดใหม่การทำ Auto scaling
เข้าประเด็นแบบไม่มีปี่มีขลุ่ยเลยละกันครัช
Auto-scaling กับ Predictive scaling
Auto Scalable เป็นคอนเซปต์การปรับขนาดโดยอัตโนมัติเดิมทีการสร้างแผนการปรับขนาดแบบดั่งเดิมผู้ดูแลระบบจะกำหนดค่าด้วยออปชัน เช่น Schedule หรือ Usage-Based Rules ด้วย System metrics ซึ่งเป็นตัวชี้วัดเพื่อมอนิเตอร์การปรับขนาดเพิ่มขึ้น/ลดลงอัตโนมัติ.
การทำ Auto Scaling ก็เพื่อรักษาประสิทธิภาพการทำงานของแอปพลิเคชันและเซิร์ฟเวอร์ให้มีเสถีรยภาพ(ไม่ให้ระบบล่ม) คงประสิทธิภาพการทำงานนั้นเอง
Auto scaling แบ่งออกได้เป็น 2 ประเภทคือ
ฝั่ง Workload
การปรับขนาดแอปพลิเคชันของคุณโดยอัตโนมัติในเวลาที่ใช้ โดยการเพิ่มจำนวนของ Pod และ schedule ไปยัง Node ในเวลาที่เหมาะสมเช่น การ scale Deployment ของเราไปเป็น 4 replicas หรือขยายออกเป็น 4 Pod (อินสแตนซ์)
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
ฝั่ง Infrastructure
การปรับขนาดระบบโครงสร้างพื้นฐานกลุ่มคลัสเตอร์ เช่น เพิ่ม Node เซิร์ฟเวอร์ใน Pools
- Cluster Autoscaler (CA)
- Node Auto-Provisioning (NAP)
Predictive scaling การปรับขนาดโดยอัตโนมัติรูปแบบใหม่โดยใช้เทคโนโลยี ML (Machine Learning) ทำนาย load ในอนาคตล่วงหน้าให้ผู้ดูแลระบบได้ทราบ
ล้าสมัยแล้วจริงหรือ Auto Scaling ด้วยวิธีการ monitor resources?
ปกติการตั้งค่า (general setting) ทั่วไปเพื่อทำ auto-scaling ปรับขนาดอัตโนมัติเราจะกำหนดค่าที่ Load metric เช่น CPU utilization, memory คล้ายกับว่า หากเซิร์ฟเวอร์มีการใช้ resources เกิน 70% คือสูงกว่าค่าต่ำสุดที่กำหนดไว้ให้เพิ่ม Node ทีล่ะ Node ในกลุ่มคลัสเตอร์ แต่เมื่อไหร่ที่ระบบกลับสู่ปกติก็สั่งให้ลบ Node ทิ้งซะ เป็นต้น
การทำ Auto Scaling ลักษณะนี้เราเรียกว่า Horizontal Pod Autoscaler (HPA) หรือการปรับขนาดอัตโนมัติแนวนอน แต่หากเป็น Auto Scaling ยุคใหม่จะเป็นการ Forecast resource ที่ต้องเขียน custom metric เช่น Forecast and scale สำหรับมอนิเตอร์ load เพื่อ predict ว่าจะเกิดอะไรขึ้นซึ่งระบบก็จะ handle traffic เรียนรู้พฤติกรรม learning การใช้ resource ไปเรื่อย ๆ
คล้ายกันกับระบบ Billing นั้นแหละครับ ที่สามารถ Forecast ค่าใช้จ่ายที่คาดการณ์ให้เราเตรียมเงินไว้รอได้ 555++ (ในเลขห้าไม่มีทอนมีแต่น้ำตา)
ปกติแล้วออปชัน Predictive scaling บนบริการคลาว์ดจะใช้งานได้ฟรีไม่มีค่าใช้จ่ายเพิ่มจากปกติครับ
รู้จักกับ PaaS Jelastic ที่เรียบง่ายและทรงพลัง
รู้จักกับ PaaS Jelastic ที่เรียบง่ายและทรงพลัง
source:
https://www.alibabacloud.com/blog/from-containers-to-cloud-native—ultimate-elasticity_594681
https://www.mdeditor.tw/pl/pAtEhttps://aws.amazon.com/blogs/aws/new-predictive-scaling-for-ec2-powered-by-machine-learning/