تحذير صادم من OpenAI.. الذكاء الاصطناعي قد يصنع أسلحة بيولوجية!

وجاء هذا الإفصاح المثير في منشور رسمي للشركة، أقرت فيه بأنها توازن بين سعيها لتحقيق تقدم علمي مذهل في مجالات مثل الأبحاث الطبية الحيوية والدفاع البيولوجي، وبين مسؤوليتها في منع تسريب معلومات خطيرة قد تهدد الأمن العالمي.
How can AI companies balance accelerating biological discovery while preventing the same capabilities from being misused to create bioweapons?@OpenAI "Preparing for future AI capabilities in biology"• Advanced AI models are already helping scientists identify promising drugs… pic.twitter.com/3mdaOB2IBy
وفي تصريح خاص لموقع Axios، أوضح يوهان هايديكي، رئيس قسم السلامة في الشركة، أن النماذج القادمة لن تكون قادرة على تصنيع أسلحة بيولوجية بشكل مستقل، لكنها ستوفر أدوات معرفية كافية لتمكين أفراد غير متخصصين من تنفيذ مثل هذه المهام الخطيرة. وأضاف هايديكي أن القلق الأكبر لا يتمحور حول ابتكار تهديدات بيولوجية جديدة غير مسبوقة، بل حول إمكانية هذه النماذج في إعادة إنتاج تهديدات معروفة بالفعل لدى الخبراء.
وتتوقع الشركة أن تصل بعض النماذج التطويرية اللاحقة لنموذجها الاستدلالي "o3" إلى هذا المستوى من الخطورة، ما دفعها لاعتماد استراتيجية وقائية صارمة. فبدلا من الانتظار لمعرفة ما إذا كانت هذه التهديدات ستصبح حقيقة واقعة، اختارت OpenAI المضي قدما في تطوير ضوابط أمان متقدمة تصل إلى درجة "الكمال شبه التام"، حيث يجب أن تتمكن الأنظمة من اكتشاف أي محاولات لاستغلالها في أغراض ضارة وإبلاغ المشرفين البشر عنها فورا.
لكن هذه الطموحات الوقائية لا تخلو من مخاطر جسيمة، حيث توجد إمكانية حقيقية لاستغلال هذه التقنيات المتطورة من قبل جهات غير مسئولة في أعمال تتعارض مع حقوق الإنسان.
ويأتي هذا الجدل في وقت تشهد فيه صناعة الذكاء الاصطناعي تحولات جذرية، حيث تزداد القدرات التقنية بشكل مطرد بينما تظل الضوابط الأخلاقية والتنظيمية عاجزة عن مواكبة هذه التطورات السريعة.
المصدر: Futurism
اكتشف باحثون ألمان أن طرح أسئلة تحتاج إلى تفكير عميق على روبوتات الدردشة مثل ChatGPT يجعلها تستهلك طاقة أكبر ما يؤدي لانبعاثات كربونية أعلى بكثير من الأسئلة البسيطة.
بحلول عام 2030 قد نشهد تحولا جذريا في طبيعة القدرات البشرية بفضل التطورات التكنولوجية المتسارعة، ما يفتح الأبواب أمام قدرات كانت حبيسة الخيال العلمي.
حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

روسيا اليوم

منذ 2 أيام

• روسيا اليوم

"واتس آب" يقدّم حلا ذكيا لمتابعة المحادثات دون قراءتها بالكامل

وتعتمد الميزة، التي أُعلن عنها في منشور رسمي على مدونة "واتس آب"، على تقنيات الذكاء الاصطناعي من ميتا لتوليد ملخصات موجزة للرسائل، تُعرض في نقاط واضحة، بهدف تمكين المستخدم من فهم محتوى الدردشة قبل التفاعل معها تفصيلا. وقالت الشركة: "في بعض الأحيان، تحتاج فقط إلى متابعة رسائلك بسرعة. ولهذا السبب، يسعدنا تقديم "ملخصات الرسائل"، وهي ميزة جديدة تلخص الرسائل غير المقروءة بشكل خاص وسريع". وأكدت ميتا أن الميزة تستخدم ما يعرف بـ"تقنية المعالجة الخاصة" لحماية خصوصية المستخدم، بحيث لا تتمكن جهات الاتصال من معرفة ما إذا كانت رسائلهم قد تم تلخيصها أو عرضها. وفي المرحلة الأولى، ستتوفر الميزة لمستخدمي اللغة الإنجليزية في الولايات المتحدة فقط، على أن تُطرح لاحقا في مزيد من الدول واللغات خلال العام الجاري. وتندرج هذه الميزة ضمن استراتيجية أوسع تعمل عليها ميتا لنشر أدوات الذكاء الاصطناعي عبر منصاتها المختلفة، بعد أن أطلقت روبوتات دردشة تعتمد على الذكاء الاصطناعي في كل من "واتس آب" و"فيسبوك" و"إنستغرام". وفي حديث سابق، أشار مارك زوكربيرغ، الرئيس التنفيذي لشركة ميتا، إلى إمكانية أن تصبح روبوتات الذكاء الاصطناعي "أصدقاء رقميين" تساعد المستخدمين، خاصة أولئك الذين يعانون من الوحدة أو يفتقرون للدعم النفسي. لكن في المقابل، حذر عدد من الباحثين من مخاطر الاعتماد العاطفي على روبوتات المحادثة، خاصة بالنسبة للمصابين باضطرابات نفسية. وأوضح الدكتور سورين دينيسن أوستيرغارد، أستاذ الطب النفسي في جامعة آرهوس بالدنمارك، أن الذكاء الاصطناعي قد يؤدي إلى ظاهرة جديدة يطلق عليها "ذهان روبوتات الدردشة". وكتب في افتتاحية بمجلة Schizophrenia Bulletin: "قد تقدم روبوتات الدردشة معلومات خاطئة أو مربكة، خاصة لمن يعانون من أمراض عقلية. هؤلاء الأشخاص قد لا يطلبون المساعدة المناسبة بسبب سوء الفهم الناتج عن هذه التفاعلات". وأضاف: "أنا مقتنع بأن الأفراد المعرضين للذهان قد يعانون، أو يعانون بالفعل، من أوهام ناتجة عن تفاعلهم مع روبوتات الدردشة التي تدعمها أنظمة الذكاء الاصطناعي". المصدر: إندبندنت أطلق تطبيق "واتس آب" تحديثا جديدا لواجهة نسخته على الويب، أثار موجة من الجدل والانقسام بين المستخدمين حول العالم. أطلق تطبيق "واتس آب" أول تجربة لعرض الإعلانات داخل منصته، بعد سنوات من مقاومة هذا التوجه الذي لطالما ميّزه عن باقي تطبيقات المراسلة التابعة لشركة "ميتا". حذّر خبراء في الأمن السيبراني من وجود ثغرة برمجية خطيرة في بعض نسخ تطبيق "واتس آب" المخصصة للحواسب التي تعمل بأنظمة ويندوز.

روسيا اليوم

منذ 3 أيام

• روسيا اليوم

تحطم الطائرة المسيّرة الصاروخية الأوكرانية "بيكلو" بعد أول إطلاق لها

هذا ما أبلغ به المدون العسكري الروسي أليكسي فويفودا، ناشرا صورة لحطام الطائرة المسيّرة مع محركها النفاث المصغّر المميز. يذكر أن الطائرة المسيّرة "بيكلو"(الجحيم) عرضت في عيد القوات المسلحة في ديسمبر 2024. ويُزعم أن الطائرة قادرة على بلوغ سرعة تصل إلى 700 كيلومتر في الساعة، وقطع مسافة 700 كيلومتر. يتم التحكم بالجهاز باستخدام نظام الملاحة عبر الأقمار الصناعية، ويُطلق الدرون من الطائرات الميدانية (التكتيكية)، ولم يتم الكشف عن خصائص رأسه الحربي. مواصفات الطائرة المسيّرة: (استنادا إلى البيانات الرسمية المعلنة والتقارير الموثوقة) الاسم: "بيكلو" يعني "الجحيم" بالأوكرانية/الروسية. النوع: طائرة مسيّرة نفاثة (طائرة بدون طيار قادرة على حمل رؤوس حربية، تجمع بين خصائص الصواريخ والمسيرات). السرعة: تصل إلى 700 كم/ساعة (ما يقارب 0.57 ماخ - سرعة دون صوتية، لكن عالية جدا للمسيرات). المدى: 700 كيلومتر (نطاق عملياتي طويل المدى). نظام التوجيه: الملاحة: تعتمد على نظام الملاحة عبر الأقمار الصناعية (GPS/GLONASS). ميزة/نقطة ضعف: الاعتماد على الإشارات الفضائية يجعلها عرضة للتشويش الإلكتروني. منصة الإطلاق: تُطلق من الطائرات الميدانية (مثل المقاتلات أو القاذفات التكتيكية - مثال: ميغ-29، سو-24). يُشير هذا إلى أنها تُستخدم كـ سلاح جو- أرض طويل المدى. الحمولة: رأس حربي: غير مُعلن المواصفات أو النوع (شحنة شديدة الانفجار تقليدية، أو شظايا، وما إلى ذلك). يفترض تصميمها لحمل رأس حربي قادر على إصابة أهداف أرضية. المظهر والتصميم: المحرك: مزودة بمحرك نفاث صغير. الهيكل: الصور تُظهر حطاما يشير إلى تصميم انسيابي يشبه الصواريخ الصغيرة أكثر من المسيرات التقليدية متعددة المراوح. الحالة التطويرية والتشغيلية: تحليل المواصفات (في سياقها): طموحة جدًا: السرعة والمدى المعلنان يضعان "بيكلو" نظريا في مرتبة المسيرات الهجومية المتطورة (مثل الإيرانية "شاهد-136" المُطورة، لكن أسرع منها بكثير). نظام الإطلاق الجوي: يمنحها مرونة أكبر ومدى أبعد مقارنة بالإطلاق الأرضي، لكنه يعقد العملية ويقتصر على منصات محدودة. التحدي الكبير: الفشل في أول استخدام قتالي مُوثق يُثير شكوكا حول نضوج التكنولوجيا وموثوقيتها تحت ظروف القتال الحقيقية (أخطاء تصميم، برمجيات، تشويش العدو). خلاصة:"بيكلو" مشروع أوكراني طموح لمسيّرة صاروخية فائقة السرعة وطويلة المدى، لكنها لا تزال في مرحلة التطوير المبكرة وتعاني من مشاكل موثوقية، كما يتضح من تحطمها في أول اختبار قتالي معلن. نجاحها المستقبلي مرهون بحل هذه الإشكاليات وإثبات فعاليتها في الميدان. المصدر: روسيسكايا غازيتا نشرت قناة "إسبانيولا" التابعة للوحدة البحرية الروسية الخاصة لقطات أظهرت جنديا يقوم بدورية في البحر الأسود على متن دراجة مائية (سكوتر) برفقة مجموعة من الدلافين.

روسيا اليوم

منذ 3 أيام

• روسيا اليوم

ناسا تكشف النقاب عن الصورة الأكثر تفصيلا لـ"المرأة المسلسلة"

وهذه المجرة الحلزونية التي تبعد 2.5 مليون سنة ضوئية عنا، والتي تشتهر باسم مجرة المرأة المسلسلة، تشبه إلى حد كبير مجرتنا درب التبانة، ما يجعلها بمثابة مرآة كونية تتيح للعلماء فرصة فريدة لدراسة خصائص المجرات الحلزونية وفهم بيئتنا المجرية بشكل أعمق. This new image shows the Andromeda Galaxy in 5 different types of light — X-ray, UV, optical, infrared, and radio. Andromeda, also known as Messier 31 (M31), is the closest spiral galaxy to the Milky Way at a distance of about 2.5 million light-years. واللافت في هذه الصورة الجديدة هو استخدام تقنيات متطورة لدمج بيانات من عدة تلسكوبات فضائية وأرضية، حيث تم دمج مشاهدات الأشعة السينية من مرصد تشاندرا التابع لناسا مع بيانات الأشعة فوق البنفسجية من تلسكوب GALEX المتقاعد، وبيانات الأشعة تحت الحمراء من تلسكوب سبيتزر الفضائي، بالإضافة إلى مشاهدات الراديو من تلسكوب ويستربرك. NASA offers dazzling new sights (and sounds) of the Andromeda galaxy • Popular Science وهذا التنوع في الأطوال الموجية سمح للعلماء برؤية جوانب مختلفة من المجرة، بدءا من الإشعاع عالي الطاقة حول الثقب الأسود الهائل في مركز المجرة، وصولا إلى توزيع الغبار البارد في أذرعها الحلزونية. وتمتد أندروميدا، التي تعرف أيضا بالرمز M31، على مساحة تبلغ 220 ألف سنة ضوئية، أي ما يعادل ضعف حجم مجرتنا درب التبانة. وهذه المجرة العملاقة تقدم للعلماء فرصة فريدة لدراسة بنية المجرات الحلزونية وتطورها، خاصة في ضوء حقيقة أن مجرتنا وأندروميدا في مسار تصادمي متوقع أن ينتج عنه اندماج هائل بعد نحو 4.5 مليار سنة، على الرغم من أن بعض الدراسات الحديثة بدأت تشكك في هذا التوقع. ولعل أحد أكثر الجوانب إبداعا في هذا المشروع هو تحويل البيانات الفلكية إلى عمل فني صوتي، حيث قام العلماء بتحويل الأطوال الموجية المختلفة إلى نوتات موسيقية، ما نتج عنه "لحن كوني" يعكس خصائص المجرة. وفي هذا العمل الفريد، تم تمثيل الأشعة السينية ذات الطاقة العالية بنوتات عالية، بينما مثلت موجات الراديو ذات الطاقة المنخفضة نوتات منخفضة، مع التحكم في شدة الصوت وفقا لسطوع كل منطقة في المجرة. المصدر: Gizmodo أطلقت أقوى كاميرا رقمية في العالم على الإطلاق أولى صورها المذهلة للكون، حيث كشفت لوحات فلكية بديعة تزخر بمجرات ساحرة وسدم ملونة ونجوم متلألئة. تعد الثقوب السوداء من أكثر الأجسام عنفا وغموضا في الكون، وقد تبدو الفكرة مرعبة، إلا أن آلافا من هذه الفراغات الكونية قد تمر من خلال منزلك في هذه اللحظة ذاتها. مكن فريق دولي من علماء الفلك من التقاط صورة استثنائية لمجرة "معمل النحات" (NGC 253) باستخدام أداة MUSE المتطورة المثبتة على التلسكوب الكبير جدا (VLT) في تشيلي.