اكتشف كيف تقوم نماذج تحويل التسلسل إلى تسلسل بتحويل المدخلات إلى تسلسلات مخرجات، مما يدعم مهام الذكاء الاصطناعي مثل الترجمة وروبوتات الدردشة والتعرف على الكلام.
نماذج من تسلسل إلى تسلسل (Seq2Seq) هي فئة من بنيات التعلم العميق المصممة لتحويل تسلسل المدخلات إلى تسلسل المخرجات، حيث قد تختلف أطوال تسلسلات المدخلات والمخرجات. تم تطوير هذه النماذج في البداية باستخدام الشبكات العصبية المتكررة (RNNs)، وتشكل هذه النماذج أساسًا للعديد من المهام التي تتضمن بيانات متسلسلة، خاصةً في معالجة اللغات الطبيعية (NLP). الفكرة الأساسية هي تعيين تسلسلات مثل الجمل أو المقاطع الصوتية أو بيانات السلاسل الزمنية من مجال إلى آخر.
عادةً ما تتكون نماذج Seq2Seq من مكونين رئيسيين: مُشفِّر وفك تشفير.
من الابتكارات الرئيسية التي حسّنت أداء Seq2Seq بشكل كبير، خاصةً بالنسبة للتسلسلات الأطول، آلية الانتباه. تسمح آلية الانتباه لوحدة فك الترميز بالرجوع إلى أجزاء مختلفة من الحالات المخفية لتسلسل المدخلات (وليس فقط متجه السياق النهائي) عند توليد كل عنصر من عناصر المخرجات، وتقييم أهميتها ديناميكيًا، كما اقترحها باهدانو وآخرون.
تمثل نماذج Seq2Seq إنجازًا كبيرًا، خاصةً بالنسبة للمهام التي تكون فيها أطوال المدخلات والمخرجات متغيرة والمحاذاة معقدة. فقد وفرت إطار عمل مرن للتعامل مع مشاكل تحويل التسلسل المتنوعة. وعلى الرغم من كونها أساسية، إلا أن نماذج Seq2Seq الأصلية القائمة على شبكة الشبكات الشبكية العصبية العصبية الرُباعية (RNN) واجهت تحديات مع التبعيات بعيدة المدى. وقد أدى ذلك إلى تطوير نماذج المحولات، التي تعتمد كلياً على آليات الانتباه والمعالجة المتوازية، لتحل إلى حد كبير محل الشبكات الشبكية العصبية العصبية ذات الشبكة العصبية الرونية (RNNs) لتحقيق أحدث أداء في العديد من مهام التسلسل. ومع ذلك، يظل مفهوم التشفير وفك التشفير الأساسي مؤثرًا. أطر مثل PyTorch و TensorFlow أدوات قوية لبناء كل من نماذج Seq2Seq التقليدية ونماذج المحولات الحديثة.
تُستخدم نماذج Seq2Seq، بما في ذلك النماذج الحديثة القائمة على المحولات، في العديد من التطبيقات:
في حين أن نماذج Seq2Seq ترتبط في المقام الأول بالبرمجة اللغوية العصبية، فإن آليات الانتباه المستوحاة منها تجد استخدامًا أيضًا في الرؤية الحاسوبية، على سبيل المثال، ضمن مكونات معينة لنماذج الكشف مثل RT-DETR أو في محولات الرؤية. يمكنك استكشاف نماذج مختلفة على منصات مثل Hugging Face.
AR
EN
ZH
KO
JA
RU
DE
FR
ES
PT
IT
TR
VI
