ميتا تبني AI Research SuperCluster، أكبر حاسوب خارق في العالم لأبحاث الذكاء الاصطناعي
لتطوير الذكاء الاصطناعي المتقدم من الجيل التالي، ستحتاج إلى حواسيب جديدة قوية قادرة على تنفيذ كوينتيليون عملية في الثانية. أعلنت ميتا أنها ستصمم وتبني AI Research SuperCluster (RSC).
وهو أحد أسرع حواسيب الذكاء الاصطناعي الخارقة العاملة حاليا، وسيصبح الأسرع في العالم عند اكتماله بالكامل في منتصف 2022. بدأ باحثو الشركة بالفعل استخدام RSC لتدريب نماذج كبيرة لمعالجة اللغة الطبيعية (NLP) ورؤية الحاسوب لأغراض البحث، بهدف تدريب نماذج يومية بتريليونات المعاملات.
سيساعد RSC باحثي الذكاء الاصطناعي في ميتا على إنشاء نماذج ذكاء اصطناعي جديدة وأكثر تطورا، قادرة على التعلم من تريليونات الأمثلة، والعمل بمئات اللغات المختلفة، وتحليل النصوص والصور والفيديو بسهولة، وتطوير أدوات جديدة للواقع المعزز وغير ذلك. وسيتمكن موظفو الشركة من تدريب أكبر النماذج اللازمة لتطوير ذكاء اصطناعي متقدم في رؤية الحاسوب ومعالجة اللغة الطبيعية والتعرف على الكلام.
«نأمل أن يساعدنا RSC في إنشاء أنظمة ذكاء اصطناعي جديدة تماما، قادرة مثلا على توفير ترجمة صوتية فورية لمجموعات كبيرة من الناس، يتحدث كل منهم لغته الخاصة، كي يتمكنوا من التعاون بسلاسة في مشروع بحثي أو لعب لعبة واقع معزز معا. وفي نهاية المطاف، سيمهد العمل المنجز باستخدام RSC الطريق لتقنيات المنصة الحاسوبية الكبرى التالية، أي الميتافيرس، حيث ستلعب التطبيقات والمنتجات القائمة على الذكاء الاصطناعي دورا مهما»، صرحت ميتا.
«التجربة التي نبنيها للميتافيرس تتطلب قدرة حاسوبية هائلة (كوينتيليون عملية في الثانية!)، وسيتيح RSC إنشاء نماذج ذكاء اصطناعي جديدة يمكنها التعلم من تريليونات الأمثلة، وفهم مئات اللغات، وغير ذلك الكثير»
النظام القديم: 22 000 معالج رسومي من Nvidia V100. اليوم: 6080 معالجا رسوميا من Nvidia A100. منتصف 2022: 16 000 معالج رسومي من Nvidia A100.
مقارنة بعنقود أبحاث الذكاء الاصطناعي الذي تستخدمه ميتا حاليا والذي طُور عام 2017، يمثل RSC تغييرا في عدد المعالجات الرسومية المستخدمة، وطرق تفاعلها، والتخزين المتصل بها.
«في بداية 2020 قررنا أن أفضل طريقة لتسريع التقدم هي تصميم بنية تحتية حاسوبية جديدة من الصفر، للاستفادة من تقنية GPU الجديدة وبنية الشبكة الحديثة. أردنا لهذه البنية أن تكون قادرة على تدريب نماذج تضم أكثر من تريليون معامل على مجموعات بيانات تصل إلى إكسابايت، وهو ما يعادل، لإعطاء فكرة عن الحجم، 36 000 عام من فيديو عالي الجودة»، صرح الباحثون.
ربط النظام القديم 22 000 معالج رسومي من Nvidia V100 مزودة بنوى تينسور. أما النظام الجديد فقد انتقل إلى نواة Nvidia A100 التي تصدرت اختبارات أداء أنظمة الذكاء الاصطناعي الأخيرة.
يتكون النظام الجديد حاليا من عنقود مؤلف من 760 حاسوبا من طراز Nvidia DGX A100 يضم 6080 معالجا رسوميا. يرتبط العنقود الحاسوبي عبر شبكة Nvidia Infiniband بسرعة 200 جيجابت في الثانية. ويشمل التخزين 46 بيتابايت (46 مليون مليار بايت) من ذاكرة التخزين المؤقت و175 بيتابايت من ذاكرة الفلاش عالية السعة.
مقارنة بالنظام القديم المعتمد على V100، أظهر RSC تسريعا بمقدار 20 ضعفا في مهام رؤية الحاسوب، وتسريعا بمقدار ثلاثة أضعاف في معالجة كميات كبيرة من اللغة الطبيعية.
عند اكتمال النظام في منتصف 2022، سيتصل به 16 000 معالج رسومي، وهو ما يجعله، بحسب الباحثين، من أكبر الأنظمة من نوعه. وعند ذلك ستبلغ سعة ذاكرته المؤقتة وتخزينه 1 إكسابايت (مليار مليار بايت)، وسيتمكن من نقل 16 تيرابايت من البيانات إلى النظام في الثانية.
«نتوقع أن يتيح هذا القفزة النوعية في القدرات الحاسوبية لنا ليس فقط إنشاء نماذج ذكاء اصطناعي أدق لخدماتنا الحالية، بل أيضا تقديم تجربة مستخدم جديدة تماما، خاصة في الميتافيرس»، صرح مهندسا ميتا كيفن لي وشوبهو سينغوبتا.
ستركز النظام الجديد أيضا على الموثوقية. وهذا مهم لأن الشبكات الكبيرة جدا قد تستغرق أسابيع من التدريب، ولا تريد حدوث عطل في منتصف المهمة، مما يعني أن عليك البدء من جديد.
تجدر الإشارة إلى أن أكبر نظام جاهز للإنتاج شارك في أحدث جولة من اختبارات تدريب الشبكات العصبية MLPerf كان نظاما يضم 4320 معالجا رسوميا قدمته Nvidia. وقد تمكن هذا النظام من تدريب معالج اللغة الطبيعية BERT في أقل من دقيقة. ومع ذلك، فإن BERT يضم 110 ملايين معامل فقط، مقارنة بالتريليونات التي تريد ميتا العمل معها.
يرتبط إطلاق RSC أيضا بتغيير في طريقة استخدام ميتا للبيانات في الأبحاث.
«على عكس بنية أبحاث الذكاء الاصطناعي السابقة لدينا، التي اعتمدت فقط على المصادر المفتوحة ومجموعات البيانات العامة الأخرى، يساعدنا RSC أيضا على تنفيذ أبحاثنا بفعالية على أرض الواقع، إذ يتيح لنا تضمين أمثلة حقيقية من الأنظمة الإنتاجية لدى ميتا في تدريب النماذج»، صرحت ميتا.
أوضح الباحثون أن RSC سيتخذ احتياطات إضافية لتشفير هذه البيانات وإخفاء هويتها لمنع التسريب. وتشمل هذه الخطوات عزل RSC عن الإنترنت الأوسع، بحيث لا توجد له أي اتصالات واردة أو صادرة.
يمكن أن يأتي حركة المرور إلى RSC فقط من مراكز بيانات ميتا الإنتاجية. كما أن مسار البيانات بين التخزين والمعالجات الرسومية مشفر بالكامل، والبيانات مجهولة الهوية وتخضع للتحقق لتأكيد عدم الكشف عن الهوية.
