"Themis".. الذكاء الاصطناعي الذي يعرف متى يصمت

بينما تتزايد تطبيقات الذكاء الاصطناعي في مجالات دقيقة وحيوية مثل الرعاية الصحية، تبرز تساؤلات حول مدى موثوقية هذه الأنظمة وحدود قدرتها على التمييز بين الحقيقة والتخمين، من هنا جاء دور شركة Themis AI، التي تسعى إلى معالجة أحد أبرز التحديات المرتبطة بالذكاء الاصطناعي: القدرة على الاعتراف بعدم المعرفة.
تأسست Themis AI عام 2021 على يد فريق من الباحثين في معهد ماساتشوستس للتكنولوجيا MIT، وتعمل على تطوير أدوات تقنية لقياس مستوى اليقين لدى نماذج الذكاء الاصطناعي وكشف الفجوات في معرفتها، ما يتيح لأنظمة التعلم الآلي التوقف عن تقديم مخرجات خاطئة بثقة زائفة.
وتعاني العديد من نماذج الذكاء الاصطناعي، مثل "جروك" التابع لمنصة إكس أو " تشات جي بي تي" من أوبن إيه آي، من ظاهرة تعرف في علم التعلم الآلي باسم "الهلاوس"، حيث تنتج هذه النماذج معلومات غير صحيحة أو مختلقة وتقدّمها بثقة تامة وكأنها حقائق مؤكدة.
تلك الظاهرة لا تقتصر على أخطاء عابرة في محركات البحث، بل قد تمتد إلى قرارات مصيرية في قطاعات كالرعاية الصحية أو الطاقة أو الاتصالات، وهنا تقدم Themis حلاً عبر منصة "كابسا" Capsa، وهي أداة تكميلية تعمل كآلية "فحص ذاتي"، تهدف إلى كبح النموذج عند ظهور مؤشرات على شك أو تضارب في البيانات.
كيف تعمل "Capsa"؟
تم تصميم "كابسا" لتكون قابلة للدمج بسهولة مع أي نموذج من نماذج التعلم الآلي، وفي أي مرحلة من مراحل التطوير، دون الحاجة إلى تعديل بنية النموذج الأصلية، تقوم الأداة بمراقبة أداء النموذج، وعند رصد إشارات تدل على أن المخرجات مبنية على بيانات غير موثوقة أو تفتقر إلى اليقين، تقوم بتنبيه المستخدم أو المطور.
وتم بالفعل توظيف هذه التقنية في مجموعة من التطبيقات الواقعية، منها دعم شركات اتصالات في تجنب أخطاء مكلفة في التخطيط، ومساعدة شركات نفط وغاز في تحليل البيانات الزلزالية بطريقة أكثر دقة، فضلًا عن تطوير روبوتات محادثة قادرة على التزام الصمت عند غياب الإجابات الدقيقة بدلاً من إنتاج محتوى مضلل.
وشملت تطبيقات Themis AI مجالات مثل اكتشاف الأدوية، حيث ساعدت نماذج الذكاء الاصطناعي على تقييم ما إذا كانت استنتاجاتها تستند إلى بيانات موثوقة أو مجرد فرضيات غير مدعومة، كما تم دمج التقنية في أجهزة طرفية صغيرة مثل الأجهزة القابلة للارتداء والطائرات دون طيار، ما يتيح لهذه الأنظمة محدودة الموارد أن تدرك متى تكون خارج نطاق قدراتها.
مع تزايد الاعتماد على الذكاء الاصطناعي في مجالات حساسة، من التشخيص الطبي إلى إدارة البنى التحتية، يصبح من الضروري أن تتحلى هذه الأنظمة بقدر من الإدراك الذاتي، وهنا تقدم Themis AI رؤية مختلفة، ليست في جعل الآلة أكثر ذكاءً، بل في جعلها أكثر وعيًا بحدود معرفتها.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

اليوم السابع

منذ 5 ساعات

• اليوم السابع

هل تفقد أبل هويتها وتصبح نسخة من أندرويد مع إصدار هاتف أيفون 18؟

ظهرت تسريبات عديدة حول سلسلة هواتف iPhone 17 ، المتوقع إطلاقها في سبتمبر المقبل، بعد بضعة أشهر فقط، ولكن إلى جانب ذلك، ساهمت تقارير عديدة في تحديد شكل الجيل القادم من هواتف iPhone، وسلسلة iPhone 18على وجه الخصوص. وأشارت تسريبات حول شاشة سلسلة iPhone 18 ، بما في ذلك شاشة Dynamic Island الأصغر حجمًا، حيث يأتي تصميم واجهة iPhone الأمامية متشابها مع تصميم أجهزة Android. ومن جانبه ذكر مارك جورمان من بلومبرج، أن شركة آبل قد تخطط لتقليص حجم "الجزيرة الديناميكية" مع هاتف آيفون 18، ولكن في الوقت نفسه، لدينا مجموعة من التقارير المتناقضة من منشورات أخرى، بما في ذلك "ذا إنفورميشن"، والتي أشارت إلى أن أيفون 18 قد يُطلق فتحة ثقب في أعلى يسار شاشة الآيفون ، وقد تُدمج مكونات Face ID الأخرى تحتها، وقد زودت هواتف أندرويد بفتحات ثقب منذ سنوات وكان هاتف Pixel 5 مزودًا بفتحة ثقب في أعلى يسار الشاشة، لذلك، إذا بدأت طرز آيفون في تقديم فتحات ثقب بشكل قياسي، بغض النظر عن موقعها، فقد يكون من الصعب تمييزها عن معظم هواتف أندرويد المتوفرة. هل ستخسر أبل هويتها البصرية؟ وكشفت التقارير بأن التحول قادم على ثلاث مراحل في تصريحات منفصلة، ​​فقد ذكر روس يونج محلل الشاشات والمطلع على شؤون آبل، على قناة X، أن آبل قد تُجري تغييرات على ثلاث مراحل في طريقة تصميمها لجزيرة Dynamic Island والشاشة بشكل عام، في عام 2026، يعتقد يونج أنه قد يكون هناك شق صغير، حيث ستبقى بعض عناصر Face ID أسفل الشاشة في الشق، وليست شفافة تحت اللوحة. وفي عام 2028، أي بعد عامين، يعتقد أن جميع عناصر Face ID ستكون أسفل اللوحة، باستثناء كاميرا السيلفي - بدون شق.

اليوم السابع

منذ 10 ساعات

• اليوم السابع

أسرار قنابل (GBU-57) أقوى المتفجرات الأمريكية الخارقة للتحصينات.. فيديو

سلطت الزميلة نهال رأفت الضوء على استخدام الولايات المتحدة للمرة الأولى قنبلة خارقة للتحصينات خلال غارات استهدفت ثلاثة مواقع نووية إيرانية ، في تطور لافت في أسلوب المواجهة العسكرية. تناول الفيديو تفاصيل القنبلة الأميركية "جي بي يو-57"، التي تُعد من أقوى الأسلحة الخارقة للتحصينات، حيث أوضحت القوات المسلحة الأميركية أن القنبلة مصممة لاختراق عمق يصل إلى 200 قدم (نحو 60 مترًا) تحت الأرض قبل أن تنفجر، ما يجعلها أكثر قوة من قنبلة "MOAB" الشهيرة المعروفة بـ"أم القنابل"، والتي تزن 9800 كجم، واستخدمت في أفغانستان عام 2017. وصممت شركة بوينغ هذه القنبلة خصيصًا لصالح القوات الجوية الأميركية، وتتميز عن غيرها من الصواريخ أو القنابل التقليدية التي تنفجر غالبًا عند أو قرب موقع الاصطدام، إذ تم تزويدها بصمام تفجير خاص يؤخر الانفجار لمواجهة مستويات عالية من الصدمة والضغط تحت الأرض. ويبلغ طول "جي بي يو-57" نحو 6 أمتار، وصُممت بقدرات تمكّنها من اختراق منشآت محصنة مثل منشأة "فوردو" النووية الإيرانية، بهدف تدمير أجهزة الطرد المركزي في أعماق الأرض. ووفقًا لمصادر عسكرية، بلغت تكلفة تطوير هذه القنبلة أكثر من 500 مليون دولار بحلول عام 2013، وصُنعت منها 20 قنبلة لصالح الجيش الأميركي في ذلك الوقت. أشار الفيديو إلى أن عملية إلقاء القنبلة "جي بي يو-57" تتطلب استخدام طائرة واحدة فقط قادرة على تنفيذ هذه المهمة، وهي قاذفة القنابل الشبحية "بي-2 سبيريت"، التي تتميز بقدرتها على الطيران لمسافات طويلة واختراق الدفاعات الجوية المعقدة. وتتمتع طائرات "بي-2" بمدى يصل إلى نحو 6000 ميل بحري (ما يعادل 9600 كيلومتر) دون الحاجة إلى التزود بالوقود، مما يمكّنها من الإقلاع من الولايات المتحدة وتنفيذ غارات جوية في مناطق بعيدة مثل الشرق الأوسط، وقد استخدمت الولايات المتحدة سبع طائرات من هذا الطراز في الضربات الأخيرة التي استهدفت مواقع نووية إيرانية. وتعد "بي-2 سبيريت" مصممة خصيصًا لضرب الأهداف الأكثر تحصينًا والأعلى قيمة داخل أراضي العدو، بفضل تقنيتها الشبحية وقدرتها على تفادي الرادارات. أما من حيث الكلفة، فلا تعلن وزارة الدفاع الأميركية تفاصيل دقيقة حول تكلفة القنبلة "جي بي يو-57" نظرًا للطبيعة السرية للبرنامج، إلا أن تقديرات غير رسمية تشير إلى أن سعر الواحدة قد يصل إلى 20 مليون دولار، ويضاف إلى ذلك أن تشغيلها يتطلب استخدام طائرة "بي-2 سبيريت"، التي تبلغ تكلفة تصنيعها نحو 2.1 مليار دولار، مما يرفع الكلفة التشغيلية لأي مهمة تُستخدم فيها هذه القنبلة بشكل كبير.

جريدة المال

منذ 15 ساعات

• جريدة المال

لإرساله بيانات المستخدمين للصين.. ألمانيا تطلب من أبل وجوجل حظر تطبيق "ديب سيك"

صرحت إحدى هيئات حماية البيانات الألمانية يوم الجمعة بأن تطبيق ديب سيك يرسل بيانات المستخدمين إلى الصين بشكل غير قانوني، وطلبت من جوجل وآبل النظر في حظر خدمة الذكاء الاصطناعي، بحسب شبكة سي إن بي سي. صرحت مفوضة حماية البيانات في برلين، مايك كامب، في بيان لها بأن نقل ديب سيك لبيانات المستخدمين الألمان إلى الصين "غير قانوني". أحدثت شركة ديب سيك الصينية ضجة هذا العام عندما أطلقت نموذج ذكاء اصطناعي زعمت أنه تم تطويره بتكلفة زهيدة مقارنةً بالمنافسين، باستخدام شرائح إنفيديا الأقل تطورًا. كما تمتلك الشركة تطبيقها العالمي الخاص للدردشة الآلية بالذكاء الاصطناعي، والذي تم تنزيله ملايين المرات، مما أثار التدقيق. يقول بعض الخبراء إنه في حال تقدم القضية الألمانية ضد ديب سيك، فقد يؤدي ذلك إلى حظر التطبيق على مستوى الاتحاد الأوروبي. قال مات هولمان، المحامي المتخصص في الذكاء الاصطناعي والبيانات في شركة كريبس، لشبكة سي إن بي سي عبر البريد الإلكتروني: "من المحتمل جدًا أن يؤدي هذا الحادث إلى حظر على مستوى الاتحاد الأوروبي، لأن القواعد المطبقة في ألمانيا هي نفسها في أماكن أخرى من الاتحاد الأوروبي، وكذلك في المملكة المتحدة". ومع ذلك، هناك بضع خطوات قبل أن يصبح هذا الأمر واقعًا. قال كامب، وفقًا لترجمة سي إن بي سي: "لم تتمكن ديب سيك من إثبات سلطتي بشكل مقنع أن بيانات المستخدمين الألمان محمية في الصين بمستوى مكافئ لمستوى الاتحاد الأوروبي". "تتمتع السلطات الصينية بحقوق وصول واسعة إلى البيانات الشخصية ضمن نطاق نفوذ الشركات الصينية". بموجب اللائحة العامة لحماية البيانات في الاتحاد الأوروبي - قانون حماية البيانات الضخم في الاتحاد - يُحظر على الشركات إرسال البيانات خارج المنطقة ما لم تكن هناك ضمانات محددة في بلدان الوصول. يجب أن تستوفي هذه الضمانات متطلبات اللائحة العامة لحماية البيانات في أوروبا. باختصار، يشعر مفوض حماية البيانات في برلين بالقلق من إمكانية وصول السلطات الصينية إلى بيانات المستخدمين الألمان التي ترسلها ديب سيك إلى الصين.