حدث التقدم الرئيسي في مجال الذكاء الاصطناعي الذي مهد الطريق لإنشاء تقنية مثل Microsoft Copilot في عام 2017.
تفاصيل التقدم
في عام 2017، نشر باحثون من جوجل ورقة بحثية رائدة بعنوان "الانتباه هو كل ما تحتاجه" (Attention Is All You Need).
قدمت هذه الورقة بنية جديدة للشبكات العصبية تُعرف باسم "الترانسفورمر" (Transformer).
قبل هذه البنية، كانت النماذج السائدة في معالجة اللغات الطبيعية (NLP) تعاني من مشاكل في معالجة الجمل الطويلة وتسلسل البيانات.
بنية الترانسفورمر حلت هذه المشاكل بفعالية، مما سمح ببناء نماذج لغوية ضخمة (Large Language Models) قادرة على فهم السياق المعقد وتوليد نصوص متماسكة.
العلاقة بـ Microsoft Copilot
تعتمد تقنية Microsoft Copilot بشكل أساسي على نموذج لغوي ضخم، وعلى الأغلب هو GPT-4 من شركة OpenAI. ونموذج GPT-4، مثل غيره من النماذج الحديثة، بُني على أساس بنية الترانسفورمر التي تم تقديمها في عام 2017. لذلك، يُعد هذا العام نقطة التحول الأساسية التي أطلقت عصر الذكاء الاصطناعي التوليدي الذي نعيشه اليوم.