Data Science
Artificial Intelligence
كيف قمنا بتوسيع نطاق Bert لتلبية أكثر من مليار طلب يومي على وحدة المعالجة المركزية
Author
Venue
قمة البيانات والذكاء الاصطناعي 2021
Abstract
يعد التعلم الآلي جزءًا أساسيًا من قدرتنا على توسيع نطاق الخدمات المهمة لمجتمعنا الضخم. في هذه المحاضرة، نشارككم رحلتنا في توسيع نطاق مصنفات النصوص القائمة على التعلم العميق لمعالجة أكثر من 50 ألف طلب في الثانية بزمن انتقال أقل من 20 مللي ثانية. وسنشارككم كيف تمكنا ليس فقط من جعل BERT سريعًا بما يكفي لمستخدمينا، بل أيضًا اقتصاديًا بما يكفي لتشغيله في بيئة الإنتاج بتكلفة معقولة على وحدة المعالجة المركزية (CPU).
