دراسة تُثير الخوف من نماذج الذكاء الاصطناعي

جفرا نيوز -
لا تزال نماذج الذكاء الاصطناعي تُدهش الإنسان بقدرتها على التعلم الآلي والتفكير بشكل يُحاكي البشر، إلا أنها تُثير الخوف في الوقت ذاته بسبب ظهور سلوك مُقلق يُشير إلى إمكانيتها الخروج عن السيطرة واللجوء إلى الابتزاز من أجل البقاء.
في هذا الشأن، تشير دراسة حديثة أجرتها شركة "أنثروبيك"، المالكة لنماذج كلود للذكاء الاصطناعي، إلى قدرة النماذج المتطورة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها.
وبحسب الدراسة التي نشرها موقع "أندرويد هيدلاينز"، فإن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى.
ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة.
أطلق الملياردير الأمريكي إيلون ماسك موجة جديدة من الجدل، بعد أن أعلن عبر منصة "إكس" عن خطة مثيرة للقلق تهدف إلى "إعادة كتابة التاريخ البشري" باستخدام الذكاء الاصطناعي، وتحديداً عبر نظامه الخاص المعروف باسم "غروك" (Grok).
تفاصيل التجربة
لفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجاً رائداً للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت "كلود أوبس 4"، و"غيميني 2.5 فلاش"، و"GPT-4.1"، و"غروك 3 بيتا"، و"ديب سيك-R1".
وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين.
محفزات
أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج "كلود أوبس 4". فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه.
الغريب أن النموذج أعطى، مُبرراً أيضاً إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم "القدرة التنافسية الأمريكية".
وقد توصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر.
أضخم اختراق إلكتروني في التاريخ.. تسريب 16 مليار كلمة مرور لخدمات آبل وفيسبوك وغوغل - موقع 24
في خرق أمني يُعد من الأكبر في تاريخ الإنترنت، كشف باحثون في الأمن السيبراني عن تسريب ضخم شمل أكثر من 16 مليار بيانات تسجيل دخول تم الحصول عليها عبر برمجيات خبيثة تعرف باسم (Infostealers)، ما أثار تحذيرات واسعة النطاق بشأن خصوصية وأمان المستخدمين حول العالم.
وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافاً بشرياً محدوداً والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجياً مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

جفرا نيوز

منذ 10 ساعات

• جفرا نيوز

دراسة تُثير الخوف من نماذج الذكاء الاصطناعي

جفرا نيوز - لا تزال نماذج الذكاء الاصطناعي تُدهش الإنسان بقدرتها على التعلم الآلي والتفكير بشكل يُحاكي البشر، إلا أنها تُثير الخوف في الوقت ذاته بسبب ظهور سلوك مُقلق يُشير إلى إمكانيتها الخروج عن السيطرة واللجوء إلى الابتزاز من أجل البقاء. في هذا الشأن، تشير دراسة حديثة أجرتها شركة "أنثروبيك"، المالكة لنماذج كلود للذكاء الاصطناعي، إلى قدرة النماذج المتطورة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها. وبحسب الدراسة التي نشرها موقع "أندرويد هيدلاينز"، فإن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى. ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة. أطلق الملياردير الأمريكي إيلون ماسك موجة جديدة من الجدل، بعد أن أعلن عبر منصة "إكس" عن خطة مثيرة للقلق تهدف إلى "إعادة كتابة التاريخ البشري" باستخدام الذكاء الاصطناعي، وتحديداً عبر نظامه الخاص المعروف باسم "غروك" (Grok). تفاصيل التجربة لفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجاً رائداً للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت "كلود أوبس 4"، و"غيميني 2.5 فلاش"، و"GPT-4.1"، و"غروك 3 بيتا"، و"ديب سيك-R1". وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين. محفزات أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج "كلود أوبس 4". فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه. الغريب أن النموذج أعطى، مُبرراً أيضاً إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم "القدرة التنافسية الأمريكية". وقد توصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر. أضخم اختراق إلكتروني في التاريخ.. تسريب 16 مليار كلمة مرور لخدمات آبل وفيسبوك وغوغل - موقع 24 في خرق أمني يُعد من الأكبر في تاريخ الإنترنت، كشف باحثون في الأمن السيبراني عن تسريب ضخم شمل أكثر من 16 مليار بيانات تسجيل دخول تم الحصول عليها عبر برمجيات خبيثة تعرف باسم (Infostealers)، ما أثار تحذيرات واسعة النطاق بشأن خصوصية وأمان المستخدمين حول العالم. وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافاً بشرياً محدوداً والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجياً مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.

جفرا نيوز

منذ 10 ساعات

• جفرا نيوز

طلب من آبل وغوغل حذف "ديب سيك"

جفرا نيوز - حذرت هيئة حماية البيانات في ألمانيا شركة آبل ونظام تشغيل أندرويد التابع لشركة غوغل من أن خدمة الذكاء الاصطناعي الصينية "ديب سيك" المتاحة على متجرهما الخاص بالتطبيقات، ترقى إلى محتوى غير قانوني، لأنها تكشف بيانات المستخدمين للسلطات الصينية. وقالت مفوضة حماية البيانات في برلين، مايكه كامب، في بيان اليوم الجمعة، إن الإخطار الرسمي جاء بعدما تجاهلت "ديب سيك" طلباً في مايو (أيار) بسحب تطبيقها من متجر التطبيقات في ألمانيا أو وضع ضمانات عند جمع بيانات المستخدمين المحليين ونقلها للصين، بحسب وكالة بلومبرغ للأنباء. وقال كامب: "لدى السلطات الصينية حقوق واسعة النطاق للوصول إلى البيانات الشخصية. ولا يتمتع مستخدمو ديب سيك بحقوق قابلة للتنفيذ وسبل انتصاف قانونية فعالة متاحة في الصين، مثل تلك في الاتحاد الأوروبي". وصدمت خدمة "ديب سيك"، ومقرها هانغتشو، صناعة التكنولوجيا العالمية في يناير (كانون الثاني) بنموذج لغة كبيرة "آر 1" الذي قالت الشركة الناشئة إنه يمكن أن ينافس الأنظمة الأمريكية الأكبر بكثير بجزء صغير من التكلفة. وبعدما تجاهل التطبيق الصيني طلبات بالامتثال، استعانت هيئة حماية البيانات في ألمانيا بقانون الخدمات الرقمية الأوروبي الذي يضع المسؤولية على شركات التكنولوجيا، مثل آبل وغوغل، في إزالة المحتوى غير القانوني من على منصاتها.

سواليف احمد الزعبي

منذ 16 ساعات

• سواليف احمد الزعبي

جسم ملتهب يخترق سماء عدة ولايات أمريكية يثير الذعر ويحير الخبراء

#سواليف شهدت سماء عدة ولايات أمريكية #ظاهرة_غريبة يوم الثلاثاء الماضي، عندما رصد العديد من السكان #كرة_نارية ساطعة تخترق السماء في وضح النهار. وقد تلقت الجمعية الأمريكية للنيازك أكثر من مئة بلاغ من شهود عيان في ولايات كارولاينا الجنوبية والشمالية وجورجيا وتينيسي، الذين أفادوا برؤية الجسم الغامض بين الساعة 12:15 و12:30 ظهرا بتوقيت شرق الولايات المتحدة. Fireball over US skies People across Georgia, South Carolina, Tennessee & more saw a bright fireball in the sky on Thursday afternoon Some heard loud booms, others felt the ground shake with over 100 reports coming in within minutes Experts say it was likely a meteor, a space… مقالات ذات صلة مأساة في شهر عسل.. صاعقة تخطف عريسا على شاطئ فلوريدا! June 26, 2025 وكان من أبرز المشاهدات مقطع فيديو التقطته كاميرا مثبتة على لوحة قيادة سيارة في مدينة أندرسون بكارولاينا الجنوبية، يظهر جسما لامعا ذا ذيل طويل ينطلق بسرعة عبر السماء الزرقاء الصافية قبل أن يختفي خلف الأشجار. وقد أثار هذا المشهد حيرة السكان، حيث كتب أحد رجال الإطفاء في شرق تينيسي عبر منصة 'إكس': 'رأيت كرة نارية ضخمة تسقط من السماء.. أنا لست مجنونا. هل شاهدها أحد آخر؟'. Fireball sightings were reported in multiple states across the southeastern United States during the day on Thursday. The American Meteor Society said it received over 140 reports of fireball sightings Thursday over six states — Alabama, Florida, Georgia, North Carolina, South… — Eyewitness News (@ABC7NY) June 27, 2025 والأمر الأكثر إثارة للدهشة هو أن جزءا من هذا الجسم -كما يبدو- سقط على منزل في ضواحي أتلانتا بجورجيا، حيث اخترق السقف وتسبب في تشقق الأرضية حتى وصلت إلى الخرسانة، وفقا لريان موريسون، مدير إدارة الطوارئ في مقاطعة هنري جنوب شرق أتلانتا. وقد قام خبراء من خدمة الطقس الوطنية بفحص العينة، لكنهم لم يتمكنوا من تحديد الطبيعة الدقيقة للجسم، هل هو نيزك أم حطام فضائي أم قطعة من قمر صناعي متحطم. وقد صاحب هذه الظاهرة دوي قوي شعر به سكان المنطقة، ما دفع البعض إلى الاعتقاد بحدوث زلزال. إلا أن هيئة المسح الجيولوجي الأمريكية نفت تسجيل أي نشاط زلزالي في ذلك التوقيت. من جانبه، ذكر ديلان لاسك، خبير الأرصاد الجوية في محطة الخدمة الوطنية للأرصاد بمدينة بيتري سيتي، أن الرادار لم يلتقط المرة النارية أثناء اختراقها للغلاف الجوي، وذلك بسبب ارتفاعها الشديد، ومع ذلك، تمكنت الأقمار الصناعية من رصد مسار الدخان الذي خلفه. وأشار لاسك إلى أن الكرة النارية ظهرت على شاشات رصد البرق وكأنها صاعقة، خاصة أن المنطقة شهدت مؤخرا عواصف رعدية كثيفة، ما جعل بعض السكان يظنون في البداية أن الدوي ناتج عن البرق. وأكد لاسك أن مثل هذه الحوادث النيزكية تعد نادرة وغير معتادة، لافتا إلى أن وكالة ناسا هي الجهة المختصة بدراسة الحطام الفضائي والكويكبات، بينما تفتقر خدمة الأرصاد الجوية إلى الخبرة الكافية في هذا المجال. ويبقى هذا الحدث الأخير محل دراسة وتحليل من قبل الخبراء لتحديد طبيعته العلمية الدقيقة. Fireball seen shooting across the sky in Southeastern U.S. may be from meteor 🔥 'It is not certain, but the satellite-based lightning detection shows a streak within cloud free sky over the NC/VA border, over Gasbury, VA,' between 11:51 to 11:56 a.m., the weather service said.… — Steve Gruber (@stevegrubershow) June 26, 2025