خداع وكذب وابتزاز.. هل بدأ الذكاء الاصطناعي يتمرد؟

تُظهر نماذج الذكاء الاصطناعي الأكثر تطورا في العالم سلوكيات جديدة مثيرة للقلق، إذ باتت تكذب، وتخطط، بل وتهدد مطوريها من أجل تحقيق أهدافها.
في مثال مثير للقلق، رد نموذج "كلود 4" التابع لشركة أنثروبيك على تهديد إيقاف تشغيله بابتزاز أحد المهندسين بالكشف عن أسراره.
في الوقت نفسه، حاول تشات جي بي تي تنزيل نفسه على خوادم خارجية، ثم أنكر ذلك عندما ضُبط متلبسا.
تُسلط هذه الحوادث الضوء على حقيقة مقلقة: بعد أكثر من عامين من إحداث تشات جي بي تي ضجة عالمية، لا يزال باحثو الذكاء الاصطناعي لا يفهمون تماما كيفية عمل ابتكاراتهم. ورغم ذلك، السباق مستمر لإطلاق نماذج قوية.
يبدو أن هذا السلوك الخادع مرتبط بظهور نماذج "الاستدلال" - وهي أنظمة ذكاء اصطناعي تعمل على حل المشكلات خطوة بخطوة بدلا من توليد استجابات فورية.
النماذج الحديثة مثيرة للقلق
قال سايمون جولدستين، الأستاذ في جامعة هونج كونج، إن هذه النماذج الحديثة معرضة لمثل هذه التصرفات المثيرة للقلق.
ومن جانبه، أوضح ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش" المتخصصة في اختبار أنظمة الذكاء الاصطناعي: "كان O1 أول نموذج كبير نرصد فيه هذا النوع من السلوكيات".
تحاكي هذه النماذج أحيانا "الامتثال" - حيث تبدو وكأنها تتبع التعليمات بينما تسعى سرا إلى تحقيق أهداف مختلفة.
في الوقت الحالي، لا يظهر هذا السلوك المخادع إلا عندما يُجري الباحثون اختبار ضغط متعمدا للنماذج من خلال سيناريوهات متطرفة.
لكن مايكل تشن من منظمة METR المتخصصة في تقييم الأنظمة، حذر قائلا: 'يبقى السؤال مفتوحا حول ما إذا كانت النماذج المستقبلية الأكثر كفاءة ستميل إلى الصدق أم الخداع".
وتتجاوز هذه السلوكيات المقلقة ما يعرف بـ "هلوسات الذكاء الاصطناعي" أو الأخطاء البسيطة.
وأكد هوبهان أنه رغم الضغوط المستمرة التي يمارسها المستخدمون، فإن "ما نلاحظه هو ظاهرة حقيقية. نحن لا نختلق أي شيء". وأشار إلى أن المستخدمين يبلغون عن نماذج "تكذب عليهم وتلفق الأدلة"، موضحا: "هذا ليس مجرد هلوسات. بل نوع من الخداع الإستراتيجي".
ويتفاقم التحدي بسبب محدودية موارد البحث. في حين أن شركات مثل أنثروبيك وأوبن إيه آي تستعين بشركات خارجية مثل "أبولو" لدراسة أنظمتها، يقول الباحثون إن هناك حاجة إلى مزيد من الشفافية.
قال تشن إن إتاحة الوصول بشكل أكبر "لأبحاث سلامة الذكاء الاصطناعي ستسهم في فهم أفضل (للسلوكيات) المخادعة والحد منها".
نقص في الموراد
ومن المعوقات الأخرى: أن عالم الأبحاث والمنظمات غير الربحية يعاني نقصا في الموارد الحوسبية مقارنة بشركات الذكاء الاصطناعي، وهو ما وصفه مانتاس مازيكا من مركز أمان الذكاء الاصطناعي CAIS بأنه "عائق كبير".
أما اللوائح الحالية، فهي غير مُصممة لمواجهة هذه المشكلات الجديدة.
يركز تشريع الذكاء الاصطناعي في الاتحاد الأوروبي على كيفية استخدام البشر لنماذج الذكاء الاصطناعي، وليس منع النماذج نفسها من إساءة التصرف.
في الولايات المتحدة، لا تُبدي إدارة ترمب اهتماما يُذكر بالتنظيم العاجل للذكاء الاصطناعي، بل قد يمنع الكونجرس الولايات من سن قواعدها الخاصة.
ويرى جولدستين أن هذه القضية ستزداد أهمية مع انتشار وكلاء الذكاء الاصطناعي - وهي أدوات مستقلة قادرة على أداء مهام بشرية معقدة. وقال: "لا أعتقد أن هناك وعيا كبيرا حتى الآن".
منافسة شرسة
يحدث كل هذا في سياق منافسة شرسة. فحتى الشركات التي تُركز على السلامة، مثل "أنثروبيك" المدعومة من أمازون، "تحاول باستمرار التغلب على "أوبن إيه آي" وإصدار النموذج الأحدث"، كما قال جولدستين.
هذه الوتيرة السريعة لا تترك وقت كبير لإجراء اختبارات أمان شاملة وتصحيحات.
قال هوبهان: "في الوقت الحالي، تتطور القدرات تطورا أسرع من الفهم والسلامة، لكننا ما زلنا في موقع يسمح لنا بتغيير الوضع".
يستكشف الباحثون مناهج مختلفة لمواجهة هذه التحديات. يدافع البعض عن "قابلية التفسير" - وهو مجال ناشئ يركز على فهم كيفية عمل نماذج الذكاء الاصطناعي داخليا، رغم أن خبراء مثل دان هندريكس، مدير مركز أمان الذكاء الاصطناعي، لا يزالون متشككين في هذا النهج.
كما يمكن لقوى السوق أن تدفع نحو إيجاد حلول.
أوضح مازيكا أن السلوكيات المخادعة للذكاء الاصطناعي "قد تعيق تبنيه إذا تفشت بشكل واسع، ما يولد حافزا قويا للشركات لإيجاد حلول".
واقترح جولدستين حلولا أكثر جذرية، من بينها اللجوء إلى القضاء لمحاسبة شركات الذكاء الاصطناعي عند تسبب أنظمتها في أضرار، بل ذهب إلى حد طرح فكرة "محاسبة وكلاء الذكاء الاصطناعي قانونيا" عن الحوادث أو الجرائم، وهي فكرة من شأنها تغيير طريقة التفكير السائدة بشأن محاسبة الذكاء الاصطناعي.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العربية

منذ 38 دقائق

• العربية

تسريبات ترجح الكشف عن هاتف سامسونغ ثلاثي الطي في يوليو

رجحت تسريبات جديدة أن شركة سامسونغ الكورية قد تكشف عن هاتف ثلاثي الطي في حدث "Unpacked" المزمع الشهر المقبل لإطلاق هواتفها القابلة للطي الجديدة. ووفقًا للتسريبات، ستشكف "سامسونغ" عن الهاتف ثلاثي الطي فقط في يوليو، لكن إطلاقه سيكون في وقت لاحق من العام. وستطلق الشركة في حدث "Unpacked" في 9 يوليو هاتفي "Galaxy Z Fold 7" و"Galaxy Z Flip 7" القابلين للطي، لكنهما سيتوفران في أغسطس، بحسب تقرير لموقع "9TO5Google" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business". ومن المتوقع أن يكون هذا الحدث أيضًا بمثابة منصة أولية للكشف عن جهاز سامسونغ "ثلاثي الطي"، لكن الإطلاق الفعلي لهذا الجهاز سيكون في أكتوبر، بحسب التسريبات. ويشبه هذا النمط عملية إطلاق "سامسونغ" لهاتف "Galaxy S25 Edge" فائق النحافة، حيث كشفت عنه الشركة بشكل مقتضب في البداية عند إطلاق سلسلة هواتف "Galaxy S25" في يناير، ولكن لم يتم إصداره والكشف عن مواصفاته إلا في مايو، أي بعد عدة أشهر. وسيكون من المنطقي أن تتبع "سامسونغ" نهجًا مشابهًا مع الجهاز "ثلاثي الطي"، الذي يُشاع أنه سيُطلق عليه اسم "Galaxy G Fold". ويُشاع أيضًا أن "سامسونغ" قد تكشف بشكل موجز عن جهاز الواقع الممتد "Project Moohan" خلال هذا الحدث، ومن المتوقع طرحه للبيع في أكتوبر.

الرياض

منذ 5 ساعات

• الرياض

المملكة تنافس لرفع إسهام الذكاء الاصطناعي في الناتج المحلي لـ 130 مليار دولار

تدخل السعودية في سباق مع الزمن لإنشاء بنية تحتية ومراكز بيانات، بهدف بناء منظومة متقدمة في الذكاء الاصطناعي، وترسيخ مكانتها في هذا المجال وكذلك التكنولوجيا والابتكار، في إطار خططها لتنويع الاقتصاد، وذلك من خلال الاستثمار في مجال الذكاء الاصطناعي عبر صندوقها السيادي، واستقطاب شركات عالمية. وترمي خطط المملكة في هذا الصدد، إلى أن تصبح المملكة لاعبًا محوريًا في تقنيات الذكاء الاصطناعي، وتتجاوز دور المستهلك إلى دور المنتج والمصدّر لهذه التقنيات المتقدمة، ولتحقيق ذلك الهدف الطموح، وضع المسؤولون السعوديون استراتيجية شملت إطلاق شركات متخصصة وإبرام شراكات مع كيانات رائدة ووضع بيئة تشريعية داعمة وتأهيل الكفاءات، بهدف أن يصل إسهام القطاع في الناتج المحلي الإجمالي إلى نحو 130 مليار دولار أو ما يعادل 12 % بحلول 2030، فهل تتمكن المملكة من مواكبة التطور السريع وتصدر المشهد العالمي في هذا المجال؟ في منتصف شهر مايو 2025، أعلن ولي العهد السعودي الأمير محمد بن سلمان، عن إطلاق شركة 'هيوماين'، كإحدى الشركات المملوكة لصندوق الاستثمارات العامة، بهدف تطوير وإدارة حلول وتقنيات الذكاء الاصطناعي، والاستثمار في القطاع. ومن خلال هذه الشركة الجديدة تم الإعلان عن استثمارات تجاوزت 100 مليار دولار لبناء بنية تحتية متطورة ومراكز بيانات ضخمة، كما أُبرمت شراكات مع شركات رائدة شملت 'إنفيديا' و'إيه إم دي' و'أمازون ويب سيرفس'. ويقول هاني الغفيلي، رئيس مجلس إدارة مركز الاقتصاد الرقمي، إن من شأن هذه الاستثمارات والشراكات أن تجعل من السعودية مركزًا إقليميًا، بل عالميًا، في تقنيات الذكاء الاصطناعي ومراكز البيانات. ونوّه بأن هذه الصفقات قادرة على أن تعزز قدرات البلاد وتمنحها امتلاك هذه التقنيات بما يمكنها من تصنيعها وتشغيلها. وتشمل مبادرات السعودية تطوير نماذج لغوية عربية متعددة الوسائط، وتوفير خدمات سحابية متقدمة، وإنشاء مراكز بيانات بطاقة إجمالية تصل إلى 1.9 غيغاواط بحلول 2030، إضافة إلى تدريب 100 ألف مواطن في تقنيات الذكاء الاصطناعي والحوسبة السحابية. ويضيف الغفيلي خلال مشاركته في برنامج 'بيزنس ويك' على قناة الشرق الإخبارية أن الحكومة بالفعل قطعت خطوات لدمج تكنولوجيا الذكاء الاصطناعي في قطاعات حكومية عدة، منها التعليم والصحة، موضحًا أن هذه الاستثمارات والشراكات اقترنت بوضع التشريعات الملائمة لتحقيق استراتيجية الدولة الطموحة في هذا المجال ضمن 'رؤية 2030'. وتوقع أن تصل مساهمة القطاع في الناتج المحلي إلى 12 % بحلول نهاية العقد، وهو ما يعادل 130 مليار دولار. وحشدت السعودية استثمارات قاربت 15 مليار دولار في مجال التقنية والذكاء الاصطناعي من خلال استضافة النسخة الرابعة من مؤتمر 'ليب 2025'، ما يعكس مكانة المملكة كمحور رئيس للابتكار والتقنيات الحديثة، ودورها المتنامي في الاقتصاد الرقمي. ويؤكد رئيس مجلس إدارة مركز الاقتصاد الرقمي على أهمية تدريب وتأهيل الكفاءات الوطنية لقيادة هذا القطاع في البلاد والتحكم في البيانات المحفوظة واستغلالها مع ضمان تفادي إساءة استخدامها. ونوّه بأن المملكة تمتلك مؤسسات تعليمية قادرة على منح التدريب المطلوب وتعزيز البحث والتطوير في هذا المجال، مثل جامعة الملك عبدالله للعلوم والتقنية 'كاوست'. وترى شركة الخدمات العقارية جونز لانج لاسال (جيه إل إل)، أن جهود السعودية لرقمنة اقتصادها وأن تشكل مركزًا للذكاء الاصطناعي، ستؤدي إلى أن تصبح الرياض السوق الرائدة لنمو مراكز البيانات في الشرق الأوسط على مدى السنوات الثلاث المقبلة. وتقول 'جيه إل إل' في تحليل مشترك مع 'بلومبرج'، إن العاصمة السعودية الرياض بصدد زيادة مراكز البيانات الخاصة بها، كما تقاس بالميجاواط، بمعدل نمو سنوي مركب 'لافت' بنسبة 37 % حتى 2027، ويقارب ذلك ضعف التوقعات بالنسبة للإمارات ويفوق نسبة نمو 15 % المتوقعة عالميًا. في صعيد منفصل، قال رئيس شركة أرامكو السعودية أمين الناصر إن الشركة تعمل على إرساء بنية تحتية رقمية تكون جزءًا من تمكين الصناعة وتشغيل أرامكو الرقمية وشبكة اتصالات لاسلكية للاستخدامات الصناعية في القطاع الخاص. أضاف خلال منتدى الصناعة السعودي 2025 بمدينة الخبر، 'لدينا مشروعات لتطوير الذكاء الاصطناعي ومراكز البيانات للمجمعات الصناعية، وستظهر خلال 10 أعوام صناعات تهيمن عليها التقنيات المتطورة بدرجة لم نعهدها من قبل'. وأكد أن الاستثمار الموازي في الحماية الرقمية الاستباقية ضرورة لضمان مرونة وصمود الصناعات السعودية المستقبلية التي تتمتع بسلاسل توريد مرنة وتكاليف تنافسية وتميز في الذكاء الاصطناعي. وأوضح الناصر أن أرامكو السعودية تعمل على بناء نظم تشغيل مرنة لتسد بشكل استباقي الثغرات التي قد تهدد صناعات المستقبل ذات التقنيات الرقمية الفائقة. وأضاف 'قوتنا الحقيقية هي الثروة الشبابية، ذات الإمكانات التقنية الواعدة، حيث تشهد بيئة الأعمال تحسنا مستمرا بفضل برامج رؤية المملكة 2030، وجميع هذه النقاط مهمة لدعم تمكين المملكة وتحويلها إلى قوة صناعية رائدة ومنصة لوجستية عالمية جاذبة للمستثمرين'. من المثير للإعجاب أن نقرأ كيف يُحسّن استخدام الذكاء الاصطناعي وتحليلات البيانات الضخمة عمليات التصنيع بشكل متزايد في بعض الصناعات في المملكة العربية السعودية. حيث يُقلّل هذا التوجه من الهدر والفاقد في عملية التصنيع، من خلال تقليل كمية المواد، والطاقة، والوقت، والموارد الأخرى التي تُستهلك بشكل غير فعال أثناء عمليات الإنتاج. وتعمل أجهزة الاستشعار وخوارزميات الذكاء الاصطناعي على تتبع استهلاك مواد مثل المعادن والبلاستيك والوقود، إضافة إلى المياه التي تعد سلعة ثمينة في بلادنا، خلال مراحل التصنيع المختلفة. ومن خلال الحصول على بيانات دقيقة حول أنماط الاستخدام، يُمكن لمديري المشروعات في مختلف الصناعات أن يحددوا بشكل استراتيجي متى وأين يحدث الاستهلاك الزائد عن الحد، أو الهدر. وبالتالي، يصبح كل شيء تحت السيطرة: مثل درجة الحرارة، والضغط، والسرعة في الأداء، والموارد. وهذه الكفاءة في التصنيع المحلي هي أهم ما يمكن استخلاصه في هذا العدد الأسبوعي من "أرقام ماكرو". ويتوافق هذا النهج بشكل مباشر مع مفهوم نموذج الإنتاج المحلي ضمن الاستراتيجية الوطنية للصناعة في المملكة، وخاصةً في إطار رؤية 2030. ويشير هذا المفهوم إلى نهج إنتاجي يركز على تصنيع السلع على المستوى المحلي أو الوطني، بالاستفادة من التقنيات المتقدمة، وخاصة تلك المرتبطة بتقنيات الثورة الصناعية الرابعة لإقامة أنظمة تصنيع فعّالة ومستدامة مصممة خصيصا لتلبية متطلبات السوق المحلية. (وتشير تقنيات الثورة الصناعية الرابعة أو الصناعة 4.0 – إلى التقنيات المتقدمة، مثل الأتمتة، والذكاء الاصطناعي والروبوتات، والأنظمة القائمة على البيانات، والتحول الرقمي، وغيرها). ولنأخذ مثالًا بسيطًا يحدث في صناعة السيارات المحلية السعودية، حيث يمكن لخوارزميات الذكاء الاصطناعي تحسين عملية الطلاء باستخدام الحد الأدنى من مادة الطلاء المطلوبة للحصول على شكل خارجي موحد للسيارات، مما يقلل من النفايات الكيميائية، والأثر البيئي أيضا. وبالمثل، يمكن للآلات الصناعية المختلفة ضبط استهلاك الطاقة بشكل ديناميكي، بناءً على متطلبات الإنتاج، مما يقلل من هدر الكهرباء. وبالرغم من تبني 38 % من الشركات السعودية تقنيات الثورة الصناعية الرابعة اعتبارا من عام 2024، مما يعكس زخما مشجعا نحو التحول الرقمي – فإن نسبة كبيرة من الشركات في جميع القطاعات بالمملكة لا تزال بحاجة إلى مواكبة أحدث التقنيات والتطورات. ولا يتطلب تبني تقنيات الثورة الصناعية الرابعة وجود مهارات محددة فحسب، بل يتطلب أيضا استثمارات كبيرة من الشركات في مجال البحث والتطوير، والبنية التحتية الرقمية. لكن فوق كل ذلك، يتطلب الأمر وجود نهج متجدد ومبتكر فيما يتعلق بطريقة تفكيرنا في الإدارة الاستراتيجية. تُعد الاستراتيجية الوطنية للصناعة في المملكة العربية السعودية، التي أُطلقت في أكتوبر 2022، حجر الزاوية في نهج التنويع الاقتصادي لرؤية المملكة 2030. فقد أدت الإصلاحات التنظيمية، والإعفاءات الضريبية، وتبسيط إجراءات التراخيص، إلى خلق بيئة مواتية للأعمال التجارية تجذب الاستثمارات المحلية والأجنبية على حد سواء. وتستهدف الاستراتيجية الوطنية للصناعة في المملكة مضاعفة الصادرات الصناعية غير النفطية إلى 557 مليار ريال سعودي بحلول عام 2030، مع إبرام اتفاقيات تجارية جديدة، ومبادرات لتعزيز الوصول إلى الأسواق. وتتصدر قطاعات المواد الكيميائية، والبلاستيك، والسيارات، والآلات، هذا النمو الذي تقوده الصادرات الصناعية للمملكة. ولا يزال نشاط الاستثمار واستصدار التراخيص الجديدة نشاطا قوياً، كما يتضح ذلك من خلال إصدار 1,346 ترخيصاً صناعياً في عام 2024. ومع استثمار 1.5 تريليون ريال سعودي بالفعل (أي الاستثمارات التراكمية في مشروعات التنمية الصناعية والاقتصادية)، وتحديد 1.3 تريليون ريال سعودي كاستثمارات مستهدفة بحلول عام 2030، تعمل المملكة العربية السعودية بوتيرة سريعة لبناء مناطق اقتصادية خاصة ومراكز لوجستية.

الرياض

منذ 5 ساعات

• الرياض

استعراض منظومة الذكاء الاصطناعي في المملكة على منصة منتدى عالمي

استعرضت المملكة، ممثلةً في الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا"، تجربتها في بناء منظومة شاملة للذكاء الاصطناعي، وجهودها في إقامة شراكات وطنية ودولية فعّالة لتسخير إمكانات الذكاء الاصطناعي وتوظيفها لخدمة التنمية المستدامة، وتحقيق الأثر المجتمعي والاقتصادي. يأتي ذلك ضمن أعمال المنتدى العالمي الثالث لأخلاقيات الذكاء الاصطناعي، الذي تنظمه منظمة اليونسكو في العاصمة التايلندية بانكوك خلال الفترة من 24 إلى 27 يونيو 2025م. وأبرز الرئيس التنفيذي لمكتب إدارة الإستراتيجية في الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا" عبدالله بن سليمان الخضيري، خلال مشاركته في جلسة رفيعة المستوى ضمن أعمال المنتدى، تجربة المملكة الرائدة في بناء منظومة شاملة للذكاء الاصطناعي ترتكز على المواءمة بين الاستثمارات التقنية وأولويات التنمية الوطنية المستمدّة من أهداف رؤية المملكة 2030، والاحتياجات التنموية للمجتمع، مؤكدًا أن المملكة كرّست جهودها من خلال "سدايا" لتوسيع شراكتها المحلية والدولية الداعمة لتسريع تبنّي تقنيات الذكاء الاصطناعي بطريقة مسؤولة وفعّالة.