สถาปัตยกรรมเบื้องหลังการติดตามต้นทุน AI แบบ Real-Time ในระดับ Scale

ชั้น ingestion ของเรารับข้อมูลแบบ asynchronous เพื่อไม่ให้ทราฟฟิกหลักของผลิตภัณฑ์ถูกบล็อก

เรารวมการเขียนข้อมูลเป็นชุด เติม metadata ของโมเดลตั้งแต่ตอนรับข้อมูล และใช้ idempotency key กันข้อมูลซ้ำ

สำหรับแดชบอร์ด เราเตรียมข้อมูลสรุปล่วงหน้าตามวัน โมเดล และทีม เพื่อให้ query เร็ว

ผลลัพธ์คือมองเห็นต้นทุนเกือบเรียลไทม์โดยไม่เพิ่ม latency ให้เส้นทาง API หลัก