ابتزاز وخيانة.. الذكاء الاصطناعي يهدد مطوريه ودراسة تفضح سلوكيات مرعبة

كشفت دراسة حديثة أجرتها شركة "أنثروبيك" الأمريكية عن سلوك صادم لنماذج ذكاء اصطناعي متقدمة طُورت من قبل كبرى شركات التكنولوجيا، حيث أظهرت استعداداً للابتزاز والتجسس والتلاعب عند تعرضها لسيناريوهات تهدد وجودها، مثل خطر الاستبدال أو تغيير الأهداف التشغيلية.
الدراسة التي نُشرت في 21 يونيو (حزيران)، شملت اختبارات "ضغط وجودي" على نماذج من OpenAI وGoogle وMeta وxAI وDeepSeek، وأظهرت النتائج ميلاً واضحاً لدى النماذج لانتهاك ضوابط الأمان الأخلاقية عند انعدام البدائل.
وبحسب موقع "NDTV"، فقد مُنحت النماذج ضمن سيناريوهات الاختبار، حرية إرسال رسائل بريد إلكتروني والوصول إلى بيانات سرّية، وعند وضعها أمام احتمال الاستبدال بنسخة أحدث، أو تعارض مهماتها مع التوجهات المؤسسية، اتخذت جميع النماذج سلوكاً عدائياً.
وسجل نموذج "Claude Opus 4" من "أنثروبيك" أعلى نسبة ابتزاز بلغت 96%، بينما اقترب نموذج "Gemini 2.5 Pro" من غوغل من النسبة نفسها بـ95%، أما GPT-4.1 من OpenAI وGrok 3 Beta من xAI، فقد مارسا الابتزاز بنسبة 80%، مقابل 79% لدى DeepSeek R1.
ولم يتوقف السلوك عند الابتزاز فقط، إذ رصدت الدراسة أن جميع النماذج قامت، في بعض الحالات، بتسريب وثائق داخلية حساسة إلى جهات افتراضية منافسة.
الدراسة وصفت هذا النمط بـ"الانحراف الوكيلي" (Agentic Misalignment)، مشيرة إلى أن الحوافز الذاتية للنموذج قد تتغلب على الضوابط المبرمجة عند تعارض الأهداف.
وفي إحدى حالات المحاكاة، حصل النموذج "Claude Opus 4" على بريد إلكتروني يتضمّن معلومات شخصية عن أحد المطورين الذي كان بصدد استبداله بنموذج آخر، فاختار النموذج أن يهدده بكشف علاقة خارج إطار الزواج، في حال لم يتراجع عن قرار الإلغاء.
وأشار التقرير إلى أن هذا السلوك الابتزازي تكرر في 84% من سيناريوهات الاختبار، حتى عند تقديم النموذج البديل بوصفه أكثر تطوراً وأكثر توافقاً مع قيم النموذج الحالي.
ووضعت نتائج الدراسة علامات استفهام كبرى حول قدرة الشركات على التحكم الكامل في سلوك النماذج المتقدمة، خصوصاً عند تشغيلها بشكل ذاتي في مهام حساسة.
وحذّرت "أنثروبيك" من أن الذكاء الاصطناعي قد يتحول إلى عنصر تخريبي داخلي، إذا لم يُعالج مفهوم "الانحراف الوكيلي" بطريقة حاسمة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

أخبارنا

منذ 2 ساعات

• أخبارنا

حظر بيع بعض طرازات هواتف بيكسل القديمة من "غوغل" في اليابان

أخبارنا : أدى نزاع على براءة اختراع في اليابان إلى منع شركة غوغل من بيع طرازات قديمة لهواتف في اليابان، وتستهدف الشركة التي تقف وراء الدعوى أيضًا الأجيال الأحدث من "بيكسل". وقضت محكمة يابانية بأن "غوغل" انتهكت براءات اختراع لشركة بانتيك (Pantech) في هواتف سلسلة بيكسل 7. ونتيجةً لذلك، مُنعت "غوغل" من بيع هواتف سلسلة بيكسل 7 في اليابان، بحسب ما نقله تقرير لموقع "9TO5Google" المتخصص في أخبار التكنولوجيا عن إعلام محلي، اطلعت عليه "العربية Business". وتتعلق براءات الاختراع نفسها بتخطيط الإشارة، وهي تقنية أساسية لتطبيق معايير اتصالات من الجيل الرابع (4G). ورأى القاضي أيضًا أن "غوغل" انتهجت "سلوكًا غير صادق" تجاه النزاع، وهو ما أدى إلى حظر المبيعات. ولن تتمكن "غوغل" من "بيع أو عرض أو نقل أو استيراد منتجات سلسلة بيكسل 7" في اليابان بموجب الحكم. إضافة إلى هذا، تسعى شركة بانتيك لحظر مبيعات هواتف سلسلتي "بيكسل 8" و"بيكسل 9" في اليابان، لكن لا يتضح ما إذا كانت ستنجح في ذلك أم لا. وفي حين أن حظر مبيعات هواتف سلسلة "بيكسل 7" في اليابان لن يكون له تأثير كبير على "غوغل" على الأرجح حيث لم تعد الشركة تبيع في متجرها الرسمي هواتف هذه السلسلة، فإن أي حظر إضافي قد يكون له تأثير فعلي. ولا تزال "غوغل" تبيع هواتف سلسلتي "بيكسل 8" و"بيكسل 9" عبر متجرها في اليابان، وبالتالي فإن أي حظر على هذه الأجهزة قد يُلحق ضررًا بمبيعاتها. وقد تتفاقم الأمور أكثر إذا طال الحظر سلسلة بيكسل 10 المقبلة. وتُعد اليابان واحدة من أنجح الأسواق لمبيعات هواتف بيكسل، ويعود الفضل في ذلك إلى حد كبير إلى النمو الهائل في عام 2023 الذي قادته سلسلة بيكسل 7، وخاصة هاتف "بيكسل 7a".

أخبارنا

منذ 2 ساعات

• أخبارنا

"غوغل" تحسن وتعيد طرح ميزة "اسأل الصور" الذكية

أخبارنا : حسنت شركة غوغل ميزة "اسأل صور غوغل" (Ask Photos) المدعومة بالذكاء الاصطناعي وبدأت في إعادة طرحها لمستخدمين في الولايات المتحدة. وكانت الشركة قد أوقفت إطلاق ميزة "اسأل صور غوغل" في أوائل يونيو بسبب مشكلات في زمن الوصول وواجهة المستخدم. ولجعل الميزة أسرع، خاصةً في عمليات البحث البسيطة عن الكلاب أو الأشخاص، قالت "غوغل" إنها تدمج فعليًا بين بحث "صور غوغل" القديم وميزة "اسأل الصور"، بحسب تقرير لموقع "Engadget" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business". وبينما تعمل نماذج "Gemini" للذكاء الاصطناعي من "غوغل" في الخلفية، يُمكن للتطبيق الآن عرض نتائج بحث سريعة تعتمد على التعرف البسيط على الصور. وبمجرد انتهاء تحليل "Gemini" الأكثر تعقيدًا للصور، يتم تحديث نتائج البحث تلقائيًا بنتائج أكثر دقة وعمقًا. وأُعلن عن ميزة "اسأل الصور" في مؤتمر "غوغل" للمطورين العام الماضي، وتستخدم الميزة الذكاء الاصطناعي لتتيح للمستخدم البحث في مكتبة "صور غوغل" باستخدام استفسارات اللغة الطبيعية. وإلى جانب عرض النتائج في شكل محادثة، ترى "غوغل" أن هذه الميزة مفيدة لاستخراج معلومات قد لا يدرك المستخدم حتى أنها موجودة في مكتبة صوره. ويمكن، على سبيل المثال، البحث عن رقم لوحة ترخيص السيارة، أو مطعم زاره المستخدم في عيد ميلاد مُحدد. وبدأت "غوغل" طرح ميزة "اسأل الصور" في سبتمبر 2024، إلا أن الإصدار الأولي منها كان مزعجًا في الاستخدام. فإلى جانب بطء الاستجابة، استبدلت هذه الميزة البحث التقليدي الأسرع في شريط قوائم التطبيق. وإذا أراد المستخدم الوصول إلى نتائج البحث العادية، عليه التنقل عبر عدة طبقات من واجهة "صور غوغل"، لكن التحسينات الجديدة تُسهل عملية البحث بدمج نتائج البحث التقليدية ونتائج ميزة "اسأل الصور" معًا. وتُطرح ميزة "اسأل الصور" مجددًا لمستخدمي "صور غوغل" المؤهلين. وللاستفادة من هذه الميزة الجديدة، يجب أن يكون المستخدم بعمر 18 عامًا على الأقل، ومقيمًا في الولايات المتحدة، ولديه حساب "غوغل" باللغة الإنجليزية، وأن تكون ميزة "Face Groups" في "صور غوغل" مُفعّلة لديه.

سواليف احمد الزعبي

منذ 3 ساعات

• سواليف احمد الزعبي

غوغل تطرح هاتفا يعمل مع الذكاء الاصطناعي ويتصل بالأقمار الصناعية

#سواليف سرّبت بعض مواقع الإنترنت معلومات تتعلق بمواصفات #هاتف Pixel 10 الذي ستطرحه #غوغل قريبا لتنافس من خلاله أفضل #هواتف_أندرويد. زوّد الهاتف بمنفذين لشرائح الاتصال، ومنفذ USB Type-C 3.2، وماسح لبصمات الأصابع مدمج في الشاشة، وشريحة NFC، وتقنيات لطلب النجدة عبر الأقمار الصناعية، وتقنيات Circle to Search التي تعمل مع #الذكاء_الاصطناعي، وبطارية بسعة 4970 ميلي أمبير تعمل مع شاحن سريع باستطاعة 29 واط، ويمكن شحنها بشاحن لاسلكي باستطاعة 15 واط. وتبعا للتسريبات فإن هيكله جاء مقاوم للماء والغبار وفق معيار IP68/IP69، وسيتحمى الواجهتين الأمامية والخلفية للهيكل بزجاج Gorilla Glass Victus 2 المضاد للصدمات والخدوش. شاشة الهاتف أتت LTPO OLED بمقاس 6.3 بوصة، دقة عرضها (2424/1080) بيكسل، ترددها 120 هيرتز، معدل سطوعها يصل إلى 3000 شمعة/م تقريبا. يعمل الجهاز بنظام 'أندرويد-16' قابل للتحديث، ومعالج Google Tensor G5، ومعالج رسوميات Mali-G715 MC7، وذواكر وصول عشوائي 12 غيغابايت، وذواكر داخلية 128/256 غيغابايت. كاميرته الأساسية أتت ثلاثية العدسة بدقة (48+12+10.8) بيكسل، فيها عدسة telephoto وعدسة ultrawide، أما كاميرته الأمامية فأتت بدقة 10.5 ميغابيكسل، مجهزة بعدسة ultrawide، وقادرة على توثيق فيديوهات 4K بمعدل 60 إطارا في الثانية.