اكتشاف سبب محوري لـ"تحيّز" الشبكات العصبية في معالجة المعلومات
كشف باحثون من معهد "ماساتشوستس" عن سبب ميل النماذج اللغوية الكبيرة مثل ChatGPT أو DeepSeek إلى المبالغة في تقدير المعلومات الموجودة في بداية ونهاية النص مع إهمال منتصفه.
وهذه الظاهرة التي تُسمى "تحيز الموضع" قد تعيق المستخدمين الذين يبحثون عن عبارات مفتاحية في المستندات الطويلة.
وطور فريق علمي بقيادة الباحث شين يي وو من معهد "ماساتشوستس" التكنولوجي نمطا يفسر سبب تركيز النماذج اللغوية الكبيرة مثل ChatGPT على بداية ونهاية النص.
فهي تقرأ النص على أجزاء و"تُركز" على الكلمات الأكثر أهمية لفهمه، لكن بعض الإعدادات التقنية، مثل قدرتها على رؤية الكلمات السابقة فقط أو توجيهات ترتيب الكلمات، تخلق تحيزا.
والسبب الرئيسي لاهتمامها ببداية النص مرتبط بالمعالجة التسلسلية، حيث تأخذ النماذج في الاعتبار الكلمات السابقة فقط، مما يجعل الأجزاء الأولية تبدو أكثر تأثيرا. وعلى سبيل المثال ففي وثيقة متكونة من 30 صفحة، تصل احتمالية العثور على المعلومة المطلوبة في البداية أو النهاية إلى 85%، بينما في المنتصف لا تتجاوز 60%.
وكشفت الدراسات أن دقة التحليل أعلى عند حوافي النص وتنخفض بشكل ملحوظ في منتصفه، وهي ظاهرة سُميت "تأثير الشكل U، ويتجلى ذلك أكثر في النماذج المعقدة مثل GPT-4 بطبقاتها الـ96 للمعالجة. وعلى الرغم من أن آليات مثل "التلميحات الموضعية" تساعدفي فهم السياق، إلا أن فعاليتها محدودة في النماذج الضخمة.
المصدر: Naukatv.ru
تابعو الأردن 24 على
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العرب اليوم
منذ 3 أيام
- العرب اليوم
خبراء أمنيون مصريون يحذرون من "الذكاء الاصطناعي المظلم"
في وقت تزداد قوة أدوات الذكاء الاصطناعي وسهولة الوصول إليها، لم تعد هذه التقنيات حكراً على المطورين أو الباحثين ، بل أصبحت في متناول مجرمي الإنترنت.وهذا ما يُعرف اليوم بـ"الذكاء الاصطناعي المظلم". "تتجلى فيه الجرائم الرقمية بحُلل جديدة" في هذا السياق، قال خبير الأمن السيبراني ومكافحة الجرائم الإلكترونية، محمد محسن رمضان، إن "الذكاء الاصطناعي المظلم لم يعد مجرد مفهوم نظري، بل أصبح واقعاً تتجلى فيه الجرائم الرقمية بحُلل جديدة، من التصيد الاحتيالي المُقنّع، مروراً بالتزييف العميق (Deepfake)، انتهاء بتوليد برمجيات خبيثة قادرة على التخفي والتطور الذاتي". كما أضاف رمضان لـ"العربية.نت" أن "الهجمات أصبحت أكثر تعقيداً وذكاء، إذ تُستخدم نماذج الذكاء الاصطناعي في إنشاء رسائل تصيد إلكتروني شديدة الإقناع، واستنساخ المواقع الرسمية لخداع المستخدمين وتحليل السلوك البشري لاستهداف الضحايا حسب نقاط ضعفهم، والتلاعب بالصوت والصورة لانتحال شخصيات معروفة"، مردفاً أن "كل ذلك يتم اليوم بسرعة ودقة مخيفة، دون الحاجة إلى خبرات تقنية كبيرة، وهو ما يُضاعف من التهديد". أدوات خبيثة من قلب "الدارك ويب" وتابع قائلاً إنه "منذ إطلاق ChatGPT أواخر عام 2022، بدأت منصات "الإنترنت المظلم" في استنساخ وتعديل نماذج ذكاء اصطناعي لأغراض إجرامية، ومن أبرزها WormGPT وهو أداة مفتوحة المصدر تولد برمجيات فدية وأكواد ضارة، وFraudGPT وهو منصة لتوليد رسائل تصيد وابتكار أدوات اختراق، وAutoGPT التي تُستخدم لتدريب النماذج على تنفيذ أهداف خبيثة بشكل ذاتي، وFreedomGPT وهي أداة لا تخضع لأي رقابة، وتُستخدم في توليد محتوى خطير دون اتصال بالإنترنت". كما شدد على أن "كل واحدة من هذه الأدوات تمثل مصنعاً رقمياً للجريمة، تُدار بواسطة الذكاء الاصطناعي وتُسوق كخدمات اشتراك شهري على الدارك ويب". "ظاهرة يومية ومنتشرة" كذلك حذر الخبير المصري من أن "ما يُنذر بالخطر الحقيقي هو أن هذه الأدوات أصبحت متاحة ليس فقط للقراصنة المحترفين، بل للهواة والمبتدئين، ما يعني أن الجريمة السيبرانية ستتحول من عمليات نادرة ومعقدة إلى ظاهرة يومية ومنتشرة، فتقارير شركات الأمن العالمية تقرع جرس الإنذار".ولفت إلى أن "شركة CrowdStrike سجلت استخداماً متزايداً للذكاء الاصطناعي في هجمات سيبرانية فورية ومتقدمة، بينما صنفت Gartner الهجمات المدعومة بالذكاء الاصطناعي ضمن أخطر المخاطر على المؤسسات. كما كشفت غوغل عن استغلال نموذجها (Gemini) من قبل جهات تهديد مدعومة حكومياً، ورصدت Acronis تضاعف عدد هجمات التصيد والتزييف العميق بنسبة 200%". "الحل في المعرفة واليقظة" من جانبه، قال مساعد أول وزير الداخلية الأسبق والخبير الأمني المصري خالد حمدي، إن "ما نواجهه اليوم ليس تطوراً طبيعياً للجرائم السيبرانية، بل طفرة في التهديدات الرقمية، يقودها ذكاء اصطناعي بلا ضمير، يُدار في الظلام، ويُنفذ هجمات خفية ومعقدة يصعب التنبؤ بها أو التصدي لها. وعليه، فإن الحاجة أصبحت ملحة لبناء وعي سيبراني شامل، وتبني أدوات دفاع استباقية، وتشديد الرقابة على تطوير واستخدام تقنيات الذكاء الاصطناعي". وأردف حمدي لـ"العربية.نت" أن "الذكاء الاصطناعي ليس دائماً في صفك. من الممكن أن يكون سبباً لاختراقك! فقبل فتح الإيميل أو الضغط على رابط، اسأل نفسك: هل أنا الهدف؟".كما ختم مشدداً على أنه "لابد من الحذر من المحتوى المزيف والصوت والصورة حيث من الممكن فبركتهم ببراعة! فالذكاء الاصطناعي المظلم ليس خطراً قادماً، بل واقع نعيشه والحل ليس في الهلع، بل في المعرفة واليقظة، وبناء دفاع رقمي ذكي ومتكامل".
جو 24
منذ 3 أيام
- جو 24
رصد نموذج مثير لظاهرة "التطور العكسي" النادرة
جو 24 : كشفت دراسة نُشرت في مجلة Nature Communications عن ظاهرة نادرة في جزر غالاباغوس، حيث بدأت الطماطم البرية في الجزر الغربية للأرخبيل بإعادة تطوير صفات جينية قديمة. وقد يكون ذلك مثالا على "التطور العكسي"، أي استعادة الكائن لسمات فقدها خلال التطور. يذكر أن العلم يفترض أن التطور هو عملية لا رجعة فيها، لكن الطماطم الغالاباغوسية تحدت هذه الفكرة. وعادت النباتات لإنتاج قلوانيات (alkaloids) بدائية تشبه تلك الموجودة في أسلافها منذ ملايين السنين. يذكر أن جميع الطماطم الحديثة تنتج قلويدات، وهي مواد مريرة تطرد الآفات. لكن النباتات في الجزر الغربية من غالاباغوس تنتج نوعا مختلفا من القلويدات التي تشبه تلك التي كانت موجودة في أقارب الطماطم القديمة مثل الباذنجان قبل ملايين السنين. بينما تنتج النباتات في الجزر الشرقية للأرخبيل قلويدات "حديثة" نموذجية، الأمر الذي يشير إلى أن التغيير الكيميائي حدث محليا، وربما يرتبط بظروف البيئة. واتضح أن السبب يكمن في تغييرات جينية صغيرة، حيث أثبت العلماء أن تغيير أربعة أحماض أمينية فقط في إنزيم واحد كاف لجعل النبات ينتج القلويدات القديمة. ولتأكيد ذلك، أعاد الباحثون إنشاء الجينات المطلوبة في المختبر وزرعوها في نباتات التبغ. ونتيجة لذلك بدأ التبغ في إنتاج نفس المركبات القديمة. يذكر أن الجزر الغربية من الأرخبيل أحدث سنا وأفقر من حيث التربة وأقسى مناخيا. وفي مثل هذه الظروف ربما كان الدفاع الكيميائي القديم أكثر فعالية ضد الطيور والحشرات، مما دفع النباتات إلى "العودة" للآلية القديمة. ويثير هذا الاكتشاف الشكوك حول الرأي الشائع بأن التطور يسير في اتجاه واحد فقط. نعم، يظل مفهوم التراجع التطوري موضوعا مثيرا للجدل، والكثير من علماء الأحياء يشككون فيه. لكن البيانات الجينية والكيميائية في هذه الدراسة الجديدة تشير إلى العكس. وقال البروفيسور يوزفياك البيولوجي الكيميائي من جامعة "كاليفورنيا" إن بعض الناس لا يصدقون ذلك، لكننا لاحظناه بأنفسنا في الوقت الفعلي، وهذه الآلية موجودة". وافترض العلماء أن آليات مماثلة ربما ستعمل لدى البشر في المستقبل. وعلى سبيل المثال، قد تظهر سمات قديمة من جديد عند تغير الظروف البيئية، وهي سمات تكيف معها الجسم البشري في الماضي. المصدر: تابعو الأردن 24 على
جو 24
منذ 3 أيام
- جو 24
أنواع من الموسيقى تعزز إنتاجية العمل
جو 24 : توصل العلماء إلى استنتاج مفاده أن الموسيقى لا تحسّن المزاج فحسب، بل تعزز أيضا إنتاجية العمل. وأظهرت دراسة أجراها باحثون من جامعة "كارديف" البريطانية أنتشغيل الموسيقى في المكاتب المفتوحة يعزز إنتاجية الموظفين ورفاهيتهم، ويمكن اعتبارها أداة بسيطة وفعّالة لتخفيف الآثار السلبية للضوضاء في بيئة العمل. وقد نُشرت نتائج هذه الدراسة في مجلة ResearchGate العلمية. وتعتبر الضوضاء في المكاتب المفتوحة إحدى أكثر المشاكل شيوعا التي تقلل من إنتاجية الموظفين. ويمكن أن تكون مصادرها المكالمات الهاتفية ومكيفات الهواء وضوضاء الشارع ومحادثات الزملاء. ويعتبر الكلام الخلفي مصدرا أكثر إزعاجا للضوضاء. وأظهرت الأبحاث أن التعرض المستمر للكلام غير المرتبط بالعمل أو المهام الوظيفية يُضعف الذاكرة العاملة. أوضح الدكتورأندرو سميث، المؤلف الرئيسي للدراسة، قائلا: "كشفت الدراسات المنهجية أن التعرض للضوضاء الخلفية المفرطة في بيئات العمل المفتوحة قد يؤدي إلى: زيادة مستويات التوتر ضعف التركيز انخفاض ملحوظ في الإنتاجية والكفاءة الوظيفية" وأضاف: "في المقابل، يمكن لبعض أنواع الموسيقى أن تلعب دورا إيجابيا في تحسين الأداء الوظيفي وتعزيز المشاعر الإيجابية. على سبيل المثال: الموسيقى الكلاسيكيةأو أصوات الطبيعة (مثل أمواج البحر) أو موسيقى الأفلام تساعد في تحسين المزاج الموسيقى الإيقاعيةبتردد 50-80 دقة في الدقيقة تعزز القدرة على الأداء وتدعم التركيز أثناء المهام الفكرية. كما أشار الباحث إلى أن الاستماع إلى الموسيقى المفضلة للفرد يمكن أن يعزز: الإدراك الإيجابي للعمل، والكفاءة الإنتاجية. بينما قد تؤدي الموسيقى غير المحببة أو الهادئة جدا إلى نتائج عكسية تُضعف الأداء الوظيفي. المصدر: تابعو الأردن 24 على
