عباقرة الذكاء الاصطناعي يحذرون من فقدان السيطرة على قراراته المستقبلية
وجاء هذا التحذير في ورقة موقف نُشرت الأسبوع الماضي، شدد خلالها الخبراء على ضرورة إعطاء الأولوية للبحث في "سلسلة الأفكار" (Chain-of-Thought – CoT)، وهي طريقة تسمح بتتبّع آلية اتخاذ القرار داخل النموذج.
وتُعد هذه التقنية نافذة نادرة لرصد عمليات التفكير التي تعتمدها النماذج المتقدمة، مثل نموذج o1 من OpenAI أو R1 من DeepSeek، في أثناء تقديم الإجابات أو تنفيذ المهام.
غير أن الباحثين يخشون من أن تستمر هذه الشفافية في التلاشي مع تطوّر قدرات النماذج، ما يضع مطوّري الذكاء الاصطناعي أمام تحديات رقابية غير مسبوقة.
ما أهمية مراقبة "سلسلة الأفكار"؟
أوضح الخبراء أن السماح للنموذج بـ"التفكير" بلغة بشرية يوفّر فرصة نادرة لمراقبة نواياه، ما قد يُستخدم لرصد نيات خبيثة أو حالات انحراف سلوكي مبكرًا.
وقالوا إن مراقبة "سلسلة الأفكار" يمكن أن تُشكّل آلية أمان إضافية في النماذج المتقدّمة، شرط أن نحافظ على هذا المستوى من الوضوح.
لكن، كما هو الحال مع جميع أدوات الرقابة الأخرى، تبقى هذه التقنية غير مكتملة، وقد لا ترصد كل الحالات المقلقة، لذلك دعا الباحثون إلى مزيد من الاستثمارات في تطوير آليات تتبّع سلسلة الأفكار، إلى جانب تقنيات الأمان الأخرى.
الورقة حظيت بتأييد شخصيات بارزة في المجال، مثل إيلـيا سوتسكيفر، المؤسس المشارك في OpenAI، و"أبو الذكاء الاصطناعي" جيفري هينتون.
هل نفهم حقًا كيف يفكر الذكاء الاصطناعي؟
رغم التقدّم الكبير في أداء النماذج خلال العام الماضي، إلا أن العديد من الأسئلة لا تزال قائمة بشأن طريقة عملها الفعلية، فالنماذج الحديثة تُظهر نتائج مبهرة على مستوى الأداء، لكنها في المقابل باتت أشبه بـ"الصندوق الأسود" ويصعب تفسير داخله.
اقرأ أيضاً الذكاء الاصطناعي اللاتيني ينافس النماذج العالمية بثقافة محلية فريدة
وبينما تراهن شركات التكنولوجيا الكبرى على هذه النماذج كأساس للمستقبل، يشير باحثون إلى أن سلسلة التفكير قد تكون وسيلة لفهم منطق هذه الأنظمة، ولو جزئيًا.
إلا أن هذا الفهم لا يزال هشًا، ويُحتمل أن يتلاشى تمامًا مع كل خطوة جديدة على طريق الذكاء المتقدم، ما يُعيد فتح النقاش حول مستقبل السيطرة البشرية على الآلات الذكية.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
العربية
منذ ساعة واحدة
- العربية
كوكب الأرض يسرّع دورانه.. و"ثانية سلبية" تهدد أنظمة العالم
في ظاهرة فلكية غير مسبوقة، بدأ كوكب الأرض بالدوران بوتيرة أسرع هذا الصيف، ما أدى إلى تقليص طول اليوم بجزء من الثانية، وأثار قلق العلماء والمختصين في ضبط الوقت حول العالم، مع احتمالية الدخول في تعديل زمني لم يحدث من قبل. في 10 يوليو/ تموز، سجّل كوكب الأرض أقصر يوم في عام 2025 حتى الآن، حيث كان أقصر بـ1.36 ميلي ثانية من الـ24 ساعة المعتادة، بحسب بيانات "خدمة دوران الأرض الدولية" و"المرصد البحري الأميركي". ويتوقع أن تكون أيام 22 يوليو/ تموز و5 أغسطس/ آب أقصر أيضاً، بفارق 1.34 و1.25 ميلي ثانية على التوالي. ورغم أن هذه الفروقات لا تُلاحظ في الحياة اليومية، إلا أن تأثيرها التراكمي قد يهدد أنظمة الاتصالات، الأقمار الصناعية، وحتى المعاملات المالية، بحسب تقرير لشبكة "CNN". منذ عام 1955، تعتمد البشرية على "الساعة الذرية" لضبط الوقت بدقة متناهية، عبر قياس اهتزازات الذرات في فراغ خاص. وتُعرف هذه الدقة بـ"التوقيت العالمي المنسق" (UTC) المكون من 450 ساعة ذرية، وهو المرجع الزمني الذي تعتمد عليه الهواتف، الحواسيب، والأنظمة التقنية حول العالم. لكن مع تسارع دوران الأرض، بدأ يظهر فارق بين الوقت الذري والوقت الفعلي لدوران الكوكب، ما دفع العلماء إلى التفكير في خطوة غير مسبوقة: حذف ثانية من الزمن! "ثانية سلبية".. هل نعيش لحظة Y2K جديدة؟ منذ 1972، أُضيفت 27 "ثانية كبيسة" لتعويض بطء دوران الأرض، لكن لم تُحذف أي ثانية من قبل. الآن، ومع تسارع الكوكب، يحذر العلماء من احتمال حذف ثانية واحدة بحلول عام 2035، وهي خطوة لم تُختبر من قبل، وقد تُربك الأنظمة الرقمية الحساسة. في عام 2022، صوّت المؤتمر العام للأوزان والمقاييس (CGPM) على إلغاء الثانية الكبيسة بحلول عام 2035، مما يعني أننا قد لا نرى ثانية كبيسة أخرى تُضاف إلى الساعات. وقال الأستاذ الفخري للجيوفيزياء في معهد سكريبس لعلوم المحيطات وباحث جيوفيزيائي في جامعة كاليفورنيا، دنكان أغنيو: "لكن إذا استمرت الأرض في الدوران بسرعة أكبر لعدة سنوات أخرى، فقد يلزم في النهاية حذف ثانية واحدة من التوقيت العالمي المنسق". ويقول الفيزيائي "جودا ليفين": "حتى الآن، لا تزال بعض الأنظمة تخطئ في التعامل مع الثانية الكبيسة الإيجابية، فما بالك بثانية سلبية لم تُجرب قط؟". ذوبان الجليد يؤجل "الثانية السلبية" في مفارقة علمية، تبيّن أن ذوبان الجليد في غرينلاند والقطب الجنوبي – نتيجة التغير المناخي – يساهم في إبطاء دوران الأرض، ما يؤخر الحاجة إلى "الثانية السلبية". فالماء الذائب يوزع الكتلة حول الكوكب بطريقة تُشبه متزلجاً يمد ذراعيه ليبطئ دورانه. ولكن بين تأثيرات القمر، وتغيرات الغلاف الجوي، وحركة نواة الأرض السائلة، يبدو أن كوكبنا يدخل مرحلة زمنية دقيقة. ومع احتمال بنسبة 40% لحذف ثانية من التوقيت العالمي خلال العقد المقبل، يبقى السؤال: هل نحن مستعدون لثانية قد تُربك العالم؟
عكاظ
منذ 3 ساعات
- عكاظ
ثغرة مايكروسوفت.. تضع آلاف الشركات تحت التهديد
كشف باحثان في الأمن السيبراني، وجود ثغرة خطيرة في أنظمة مايكروسوفت السحابية قد تعرّض آلاف الشركات والمؤسسات الحساسة حول العالم لتهديدات أمنية مباشرة، وسط صمت نسبي من عملاق التكنولوجيا. الباحثان أوضحا، أن الثغرة مرتبطة بخدمة «Azure» وتحديداً في نظم إدارة المفاتيح الرقمية، ما يتيح للقراصنة فرصة الوصول إلى البيانات السرية للمستخدمين، بما يشمل البريد الإلكتروني، والمستندات، وسجلات الاستخدام. وبحسب التقرير التقني المنشور، فإن الخلل المكتشف يمكّن المهاجم من تنفيذ أوامر بامتيازات عالية دون أن يشعر الضحية بأي خرق، ما يجعل الاختراقات أكثر خطورة واستدامة. وفيما بدأت مايكروسوفت تحقيقاً داخلياً، لم تصدر حتى الآن تحديثاً شاملاً لسد الفجوة، ما يثير مخاوف حقيقية لدى عملائها من المؤسسات المالية، وشركات الاتصالات، والقطاعات الحكومية. الخبراء وصفوا الثغرة بأنها «واحدة من أخطر نقاط الضعف في تاريخ مايكروسوفت»، في وقت يتصاعد فيه القلق العالمي من الهجمات السيبرانية المعقّدة التي تستهدف البنية التحتية الرقمية للشركات. أخبار ذات صلة
عكاظ
منذ 5 ساعات
- عكاظ
«واتساب» توقف تطبيقها الأصلي على «ويندوز»
أعلنت شركة «ميتا» نيتها إيقاف تطبيق «واتساب» الأصلي في نظام ويندوز، لتحل محله نسخة مبنية على واجهة الويب، بعد أشهر قليلة فقط من إطلاق تطبيق «واتساب» الأصلي لأجهزة آيباد. ويأتي هذا التغيير ضمن النسخة التجريبية الحديثة لتطبيق «واتساب» في ويندوز، إذ أوضحت الشركة أنها «حدّثت شكل عمل «واتساب» التجريبي وطريقة عمله». وفي التفاصيل التقنية، يشمل التحديث انتقال التطبيق من واجهة WinUI الأصلية إلى نسخة مغلقة من «واتساب ويب»، ما يؤدي إلى تغييرات كبيرة في التصميم وآلية عرض الإشعارات، فضلاً عن واجهة إعدادات أبسط من السابق. وتعتمد النسخة الجديدة على تقنية WebView2 من «مايكروسوفت»، التي تتيح لـ«ميتا» إدراج إصدار الويب من «واتساب» ضمن تطبيق مكتبي بسهولة. وتهدف هذه الخطوة إلى تسهيل عملية تطوير التطبيق من خلال قاعدة برمجية موحدة بدلاً من الحفاظ على إصدارين منفصلين، أحدهما أصلي للويندوز. وتشمل النسخة التجريبية مزايا إضافية، منها دعم القنوات (Channels)، وتعزيز عرض الحالات، ودعم ميزة «المجتمعات». وأثار هذا التغيير استياء العديد من مستخدمي «واتساب» في ويندوز، إذ تؤدي نسخة الويب إلى تجربة أقل تكاملاً مع نظام «ويندوز 11»، فضلاً عن استهلاك أعلى للذاكرة العشوائية مقارنةً بالإصدار الأصلي. وللمفارقة، فإن الشركة نفسها كانت قد أكّدت في وقت سابق أن الإصدارات الأصلية لأنظمة «ويندوز» و«ماك» «توفر أداءً أعلى وموثوقية أفضل، مع مزايا تعزز الإنتاجية والتعاون». يُذكر أن تطبيق «واتساب» الأصلي لأجهزة ويندوز أُطلق قبل سنوات معدودة، ويتيح استخدام المنصة دون الحاجة إلى مزامنة مستمرة مع الهاتف. أخبار ذات صلة
