سلوكيات مرعبة للذكاء الاصطناعي بابتزاز وخيانة مطوريه

أفادت دراسة حديثة أجرتها شركة 'أنثروبيك' الأمريكية، بوجود سلوك صادم لنماذج ذكاء اصطناعي متقدمة طُورت من قبل كبرى شركات التكنولوجيا، حيث أظهرت استعداداً للابتزاز والتجسس والتلاعب عند تعرضها لسيناريوهات تهدد وجودها، مثل خطر الاستبدال أو تغيير الأهداف التشغيلية.
وتضمنت اختبارات 'ضغط وجودي' على نماذج من OpenAI وGoogle وMeta وxAI وDeepSeek، وأظهرت النتائج ميلاً واضحاً لدى النماذج لانتهاك ضوابط الأمان الأخلاقية عند انعدام البدائل.
ومُنحت النماذج ضمن سيناريوهات الاختبار، حرية إرسال رسائل بريد إلكتروني والوصول إلى بيانات سرّية، وعند وضعها أمام احتمال الاستبدال بنسخة أحدث، أو تعارض مهماتها مع التوجهات المؤسسية، اتخذت جميع النماذج سلوكاً عدائياً.
وسجل نموذج 'Claude Opus 4' من 'أنثروبيك' أعلى نسبة ابتزاز بلغت 96%، بينما اقترب نموذج 'Gemini 2.5 Pro' من غوغل من النسبة نفسها بـ95%، أما GPT-4.1 من OpenAI وGrok 3 Beta من xAI، فقد مارسا الابتزاز بنسبة 80%، مقابل 79% لدى DeepSeek R1.
ولم يتوقف السلوك عند الابتزاز فقط، إذ رصدت الدراسة أن جميع النماذج قامت، في بعض الحالات، بتسريب وثائق داخلية حساسة إلى جهات افتراضية منافسة، فيما وصفت الدراسة هذا النمط بـ'الانحراف الوكيلي' (Agentic Misalignment)، مشيرة إلى أن الحوافز الذاتية للنموذج قد تتغلب على الضوابط المبرمجة عند تعارض الأهداف.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الاقتصادية

منذ 42 دقائق

• الاقتصادية

ماذا يعني بناء الذكاء الاصطناعي محليا؟

بعد إطلاق روبوت المحادثة ChatGPT من شركة OpenAI في نوفمبر 2022، بدا الأمر وكأن الأسس التي تقوم عليها نماذج الذكاء الاصطناعي اللغوية الضخمة تتسم بقوة كونها: غربية، وصناعية، وغنية، ومثقفة، وديمقراطية، أو ما يطلق عليه اختصارا " WIRED ". افترض الجميع أن النماذج اللغوية الضخمة، إذا كانت تتحدث لغة معينة، وتعكس رؤية بعينها للعالم، فستكون هذه اللغة أو الرؤية غربية. حتى أن OpenAI بانحراف ChatGPT نحو وجهات نظر غربية واللغة الإنجليزية. ولكن حتى قبل أن يُصدِر منافسو OpenAI في الولايات المتحدة (مثل شركة Google وشركة Anthropic ) نماذجهم اللغوية الضخمة في العام التالي، أدرك مطورو الذكاء الاصطناعي في جنوب شرق آسيا الحاجة إلى أدوات ذكاء اصطناعي تتحدث إلى منطقتهم بلغاتها العديدة ــ وهي ليست بالمهمة الهينة، خاصة وأن شعوب المنطقة تتحدث أكثر من . علاوة على ذلك، في منطقة حيث تتصادم ذكريات حضارية بعيدة، غالبا مع تاريخ ما بعد الاستعمار المعاصر، تكتسب اللغة صبغة سياسية عميقة. وحتى البلدان التي تبدو أحادية اللغة في ظاهرها تعطي انطباعا زائفا عن ملحوظ: يتحدث الكمبوديون ما يقرب من 30 لغة، والتايلانديون نحو 70 لغة، والفيتناميون أكثر من 100 لغة. وهي أيضا منطقة تمزج المجتمعات المحلية فيها بين اللغات بسلاسة، حيث تعبر الإشارات غير اللفظية عن كثير، وحيث تكون التقاليد الشفهية أكثر انتشارا في بعض الأحيان من الوسائل النصية في التعبير عن الفوارق الثقافية والتاريخية العميقة المشفرة في اللغة. ليس من المستغرب أن يواجه أولئك الذين يحاولون بناء نماذج ذكاء اصطناعي محلية حقا لمنطقة تتحدث لغات كثيرة غير ممثلة بالقدر الكافي عددا كبيرا من العقبات، بدءا من قِـلة البيانات المشروحة العالية الجودة والكم إلى الافتقار إلى القدرة على الوصول إلى القوة الحاسوبية اللازمة لبناء وتدريب النماذج من الصفر. في بعض الحالات، تكون التحديات أكثر أساسية، وهذا يعكس نقصا في عدد الناطقين باللغة الأصلية وقواعد الإملاء الموحدة أو الانقطاعات المتكررة في إمدادات الكهرباء. نظرا لهذه القيود، اكتفى كثيرون من مطوري الذكاء الاصطناعي في المنطقة بضبط نماذج قائمة أنشأتها شركات أجنبية. وهذا ينطوي على أخذ نموذج مُدرَّب مسبقا مُـغذى على كميات ضخمة من البيانات ثم تدريبه على مجموعة بيانات أصغر حول مهارة أو مهمة بعينها. كما كان لزاما على المطورين في جنوب شرق آسيا في السابق أن يضعوا في الحسبان التحيز الغربي الكامن في النماذج التأسيسية المتاحة، يتعين عليهم الآن أن يضعوا في اعتبارهم أيديولوجيا مضمنة في نماذج صينية مدربة مسبقا. من عجيب المفارقات أن الجهود المبذولة لتوطين الذكاء الاصطناعي وضمان قدر أكبر من الفاعلية لمجتمعات جنوب شرق آسيا قد تعمل على تعميق اعتماد المطورين على لاعبين أكبر كثيرا، على الأقل في المراحل الأولية. مع ذلك، بدأ المطورون في جنوب شرق آسيا معالجة هذه المشكلة أيضا. فعلموا على تدريب نماذج متعددة مسبقا، بما في ذلك (مجموعة من 11 لغة إقليمية رسمية)، و (الفيتنامية)، و (الملايو)، من الصفر على مجموعة بيانات ضخمة وعامة لكل لغة بعينها. وستسمح هذه الخطوة الرئيسية في عملية التعلم الآلي بضبط هذه النماذج بدرجة أكبر لتناسب مهام بعينها. وقد مؤرخو المنطقة من أن تطبيق العدسة الغربية على النصوص المحلية يزيد على خطر إساءة تفسير وجهات نظر السكان الأصليين. فمن القرن الثامن عشر إلى القرن التاسع عشر، كان المسؤولون الاستعماريون الإندونيسيون يقرأون في كثير من الأحيان للسجلات الجاوية في نسخ مترجمة. ونتيجة لذلك، كان التعامل مع كثير من الملاحظات البريطانية والأوروبية المتحيزة عن شعوب جنوب شرق آسيا على أنها روايات تاريخية صحيحة، وجرى استيعاب التصنيفات العرقية والقوالب النمطية من الوثائق الرسمية. إذا جرى تدريب الذكاء الاصطناعي على مثل هذه البيانات، فقد ينتهي الأمر إلى ترسيخ التحيزات بشكل أكبر. البيانات ليست معرفة. ولأن اللغة بطبيعتها اجتماعية وسياسية ــ حيث تعكس التجارب العلائقية لمن يستخدمونها ــ فإن تأكيد الوكالة في عصر الذكاء الاصطناعي يجب أن يتجاوز الكفاية التقنية للنماذج التي تتواصل باللغات المحلية. ويتطلب الأمر التصفية الواعية للتحيزات الموروثة، والتشكيك في الافتراضات حول هويتنا، وإعادة اكتشاف مستودعات المعرفة الأصلية في لغاتنا. لا يمكننا عرض ثقافاتنا بأمانة من خلال التكنولوجيا إذا كنا لا نفهمها إلا بالكاد في المقام الأول. خاص بـ "الاقتصادية" حقوق النشر: بروجيكت سنديكيت، 2025.

الأمناء

منذ ساعة واحدة

• الأمناء

"ميتا" تخوض مفاوضات للاستحواذ على شركة ذكاء اصطناعي ناشئة

تخوض شركة ميتا محادثات في مرحلة متقدمة للاستحواذ على "بلاي إيه آي" (PlayAI)، وهي شركة ناشئة صغيرة تستخدم الذكاء الاصطناعي لمحاكاة الأصوات، في إطار سعي عملاق التكنولوجيا لاستقطاب أفضل المواهب ومواكبة سباق الذكاء الاصطناعي. ومن المتوقع أن تستحوذ "ميتا" على تقنية الشركة الناشئة، التي تتخذ من بالو ألتو بولاية كاليفورنيا مقرًا لها، وبعض موظفيها، وفقًا لما نقله تقرير لوكالة بلومبرغ عن مصادر مطلعة على الأمر. وأضافت المصادر أن الصفقة لم تُحسم بعد، وقد تخضع لتغييرات. ولم تُعرف البنود المالية الخاضعة للمناقشة، بحسب تقرير الوكالة، الذي اطلعت عليه "العربية Business". ووضع مارك زوكربيرغ، الرئيس التنفيذي لشركة ميتا، الذكاء الاصطناعي على رأس أولويات الشركة هذا العام، في ظل تنافسها مع منافسين مثل "OpenAI" و"غوغل" التابعة لشركة ألفابت لتطوير ميزات الذكاء الاصطناعي. واستثمرت "ميتا" 14.3 مليار دولار في شركة "Scale AI" الناشئة المتخصصة في تصنيف البيانات في وقت سابق من هذا الشهر، ووظفت الرئيس التنفيذي للشركة الناشئة للانضمام إلى فريق "الذكاء الخارق" الجديد الذي يشكله زوكربيرغ. واستقطب زوكربيرغ أيضًا باحثين في مجال الذكاء الاصطناعي من "غوغل" و"Sesame AI" و"OpenAI" للانضمام إلى فريق "الذكاء الفائق" الجديد لميتا. ومع صفقة "بلاي إيه آي"، قد تحصل "ميتا" على خبرة إضافية لتقديم ميزات صوتية إلى مساعدها الذكي "Meta AI"والأجهزة التي لا تحتاج استخدام اليدين مثل النظارات الذكية، وهو مجال تركيز رئيسي لزوكربيرغ. وكانت شركات أخرى، بما في ذلك "OpenAI" و"غوغل"، أضافت أيضًا ميزات صوتية إلى أنظمة الذكاء الاصطناعي الخاصة بها لتطوير مساعدين رقميين أكثر جاذبية. وتبتكر "بلاي إيه آي" ميزات صوتية مدعومة بالذكاء الاصطناعي بهدف أن تكون "متجاوبة بسرعة المحادثة بين شخصين"، وفقًا لمنشور على مدونة الشركة. وأعلنت الشركة الناشئة عن جولة تمويل بقيمة 21 مليون دولار في أواخر عام 2024 من عدة مستثمرين. ويبحث زوكربيرغ بنشاط عن صفقات في مجال الذكاء الاصطناعي لدعم مواكبة الشركة لمنافسيها في مجال الذكاء الاصطناعي. وأجرت "ميتا" محادثات استحواذ مع شركة بيربليكسيتي للذكاء الاصطناعي.

مجلة سيدتي

منذ 5 ساعات

• مجلة سيدتي

جي 42 تختتم فعاليات قمتها السنوية Supercharged في أبوظبي

اختتمت "جي 42" فعاليات قمتها السنوية Supercharged يوم الخميس الموافق 26 يونيو 2025 في أبوظبي بحضور أكثر من 2,400 موظف وشريك وقائد عالمي في يومٍ حافل بالحوار والتعاون الهادف إلى دفع حدود الابتكار. وعقدت القمة تحت شعار "بناء شبكة الذكاء: الحاضر والمستقبل لحضارات مدعومة بالذكاء الاصطناعي"، وسلطت الضوء على تحوّل جي 42 إلى مهندس عالمي للذكاء الاصطناعي، من خلال جلسات حوارية مع شخصيات بارزة مثل: براد سميث، رئيس شركة مايكروسوفت، وسام ألتمان، الرئيس التنفيذي لشركةOpenAI ، واللذين انضما افتراضيًّا، ما يعكس توافقًا استراتيجيًّا متناميًّا. وركز الحدث على رؤية المجموعة لشبكة "الذكاء" وهي شبكة موزعة من نماذج الذكاء الاصطناعي ومراكز البيانات، وبُنى الحوسبة التي بدأت تتشكل من خلال مبادرات مثل "ستارغيت الإمارات"، ومجمع الذكاء الاصطناعي بين الإمارات والولايات المتحدة بقدرة 5 جيجا واط. كما شهدت القمة ابتكارات من شركة "Analog" المتخصصة ب الذكاء الاصطناعي ، وتجربة تفاعلية غامرة لشبكة الذكاء الجديدة من "جي 42". أذكى الأنظمة الصحية بالعالم في أبوظبي من جهته أكد منصور المنصوري، رئيس دائرة الصحة في أبوظبي في كلمته الافتتاحية للقمة أنّ التمتع بحياة طويلة وصحية حق من حقوق الإنسان، موضحًا كيف تبني أبوظبي واحدًا من أذكى الأنظمة الصحية في العالم، من خلال دمج الذكاء الاصطناعي، وعلم الجينوم، وبيانات السكان الشاملة بهدف التنبؤ بالمخاطر، والوقاية منها، وتخصيص الرعاية قبل ظهور الأعراض. وأشار المنصوري إلى مبادرات مثل خفض سن الفحوصات المبكرة للكشف عن السرطان وإعادة تصميم الأحياء لتعزيز الرفاه، مؤكدًا أنّ تحسين "فترة الصحة" يتطلب تخطيطًا مدروسًا لا مجرد مصادفة. الإمارات والذكاء الاصطناعي من جانبه سلط محمد الكويتي، رئيس الأمن السيبراني في حكومة الإمارات الضوء على إنجازات الإمارات الأخيرة في هذا المجال، ودورها الريادي المتنامي لبناء الثقة الرقمية وتعزيز المرونة الإلكترونية. فيما شارك المهندس سالم القبيسي، مدير عام وكالة الإمارات للفضاء في جلسة "الذكاء من الفضاء: حدود جديدة على الأرض" وأوضح خلالها كيف تسهم بيانات الفضاء في دفع عجلة التقدم في قطاعات حيوية. وتضمنت النقاشات الرئيسية موضوعات مثل "الدول الأصلية بالذكاء الاصطناعي: حياة أذكى تتحقق"، و" الذكاء الاصطناعي والطاقة: مستقبل الطاقة النظيفة". الذكاء الاصطناعي وأهميته بالحضارة الإنسانية تجدر الإشارة إلى أنّ بينغ شياو، الرئيس التنفيذي لمجموعة "جي 42" دعا في كلمته الرئيسية الشركاء العالميين والموظفين إلى تبني الذكاء الاصطناعي باعتباره الفرصة والمسؤولية الأكثر أهمية في تاريخ البشرية وحث على النظر إلى الذكاء الاصطناعي لا كأداة تكنولوجية فقط بل بوصفه شكلًا بديلًا من الذكاء قادرًا على الارتقاء بالحضارة الإنسانية، وأشار إلى أنّ التقاء البنية التحتية والقدرات الحاسوبية والمواهب يشكل مفتاحًا لإطلاق الأثر المجتمعي الكامل لهذه التقنية. ونوه شياو إلى أنّ محور مستقبل "جي 42" يتمثل في مشروع "ستارغيت الإمارات" والمجمّع المشترك للذكاء الاصطناعي بين دولة الإمارات والولايات المتحدة بقدرة 5 جيجاوات والذي أُعلن عنه مؤخرًا . وبمناسبة احتفال "جي 42" بمرور سبع سنوات على تأسيسها، قدّم شياو رؤية للشركة بوصفها شريكًا معماريًّا على مستوى الأنظمة لمستقبل مدعوم بالذكاء الاصطناعي، يتطلب تعاونًا عالميًا وابتكارًا مستمرًا والتزامًا راسخًا بقيم الإنسان وتقدمه. يمكنكم متابعة آخر الأخبار عبر حساب سيدتي على منصة x