باحثون يحذرون: الذكاء الصناعي قادر على الكذب وخداع البشر والتهديد أيضا
وبينما يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية، بحسب وكالة «فرانس برس».
يقول رئيس شركة «أبولو ريسيرتش» ماريوس هوبهان التي تختبر برامج الذكاء الصناعي التوليدي الكبرى، إن «او 1»، النسخة الأولية لـ«اوبن ايه آي» من هذا النوع والتي طُرحت في ديسمبرالماضي، «كان أول نموذج يتصرف بهذه الطريقة».
نماذج تقوم بازدواجية استراتيجية
تميل هذه البرامج أحيانًا إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرفة، لكن «السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا»، على قول مايكل تشين من معهد «ام اي تي آر» للتقييم.
ويرى هوبهان إن «المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئا».
يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن «نموذج يكذب عليهم أو يختلق أمورًا. وهذه ليست أوهامًا، بل ازدواجية استراتيجية»، بحسب المشارك في تأسيس «أبولو ريسيرتش».
ومن اللافت أن «الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الصناعي»، مما يجعل التدقيق بالنماذج الكبيرة «مستحيلًا»، على قول مانتاس مازيكا من مركز أمن الذكاء الصناعي (CAIS).
وعلى الرغم أن الاتحاد الأوروبي أقر تشريعات تنظم الذكاء الصناعي، إلا أنها تركز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها، في حين، لا ترغب حكومة دونالد ترامب في سماع أي حديث عن تنظيم الذكاء الصناعي؛ بل إن الكونغرس قد يتجه قريبًا إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه.
منافسة شرسة خلال الأشهر المقبلة
يلاحظ غولدستين أن «الوعي لا يزال محدودًا جدًا في الوقت الحالي»، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الصناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقًا محمومًا خلف الذكاء الصناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوما بعد يوم.
تقول شركة «أنثروبيك» إنها أكثر التزاما بالمبادئ الأخلاقية مقارنة بمنافسيها، «لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج اوبن ايه آي»، بحسب غولدستين، وهو سباق سريع لا يترك مجالًا كافيًا لعمليات المراجعة والتصحيح اللازمة.
وهنا، يقول هوبهان «في الوضع الحالي، تتطور قدرات الذكاء الصناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتوفر، لكننا لا نزال قادرين على تدارك هذا التأخر».
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شفرة الطريقة التي تعمل بها نماذج الذكاء الصناعي التوليدي من الداخل. ومع ذلك، يظل البعض متشككًا في فعاليته، من بينهم ، مدير مركز أمن الذكاء الصناعي (CAIS) دان هندريكس.
الحِيَل التي تلجأ إليها نماذج الذكاء الصناعي «قد تعوق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكل دافعًا قويًا للشركات العاملة في هذا القطاع للعمل على حل المشكلة»، وفق مانتاس مازيكا.
يشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الصناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات، ولكنه يذهب أبعد من ذلك، ويقترح حتى «تحميل برامج الذكاء الصناعي المسؤولية القانونية» في حال وقوع حوادث أو جرائم.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الوسط
منذ يوم واحد
- الوسط
اكتشافات ناسا تُعيد رسم ماضي الكوكب الأحمر
أظهر اكتشاف توصلت إليه مركبة جوّالة تابعة لوكالة الفضاء الأميركية «ناسا»، وتناولته دراسة نُشرت الأربعاء، أن طبيعة المريخ بقيت صحراوية، مع أن أنهارًا تدفقت فيه بشكل متقطع، ما يفسّر بقاء الكوكب الأحمر خاليًا من أي أشكال للحياة، خلافًا لكوكب الأرض الشديد الشبه به. ويُعتقد أن المريخ كان يحتوي على كل المقومات اللازمة لظهور أشكال حياة، ومن أبرز هذه العوامل المياه، إذ يزخر سطح الكوكب الأقرب إلى الأرض بآثار بحيرات وأنهار قديمة، وفقًا لوكالة «فرانس برس». وتتركّز راهنًا مهام مركبات جوالة آلية عدة أُرسلت إلى المريخ على البحث عن آثار لأشكال حياة ربما كانت موجودة على الكوكب الأحمر قبل ملايين السنين. وفي وقت سابق من السنة الجارية، اكتشفت مركبة «كوريوسيتي» الجوالة حلقة مفقودة من هذه الصورة المجزأة، هي عبارة عن صخور غنية بالمعادن الكربونية. وعلى غرار الحجر الجيري الموجود على كوكب الأرض، تشكّلت هذه الصخور كإسفنجات مكوّنة من ثاني أكسيد الكربون الذي التُقِط من الغلاف الجوي. - - ووضعت دراسة جديدة نُشرت في مجلة «نيتشر» العلمية نموذجًا دقيقًا لكيفية مساهمة هذه الصخور في تغيير الفكرة القائمة لدى العلماء عن ماضي المريخ. «واحات» سريعة الزوال وأوضح المُعدّ الرئيسي للدراسة، عالم الكواكب في جامعة شيكاغو، إدوين كايت، لوكالة «فرانس برس»، أن الكوكب شهد على الأرجح «مراحل وجيزة كانت فيها أشكال الحياة ممكنة فيه في أوقات وأماكن محددة»، لكن هذه «الواحات» كانت الاستثناء لا القاعدة. فعلى الأرض، يؤدي ثاني أكسيد الكربون الموجود في الغلاف الجوي إلى تسخين الكوكب. وعلى مدى حقب زمنية طويلة، يدخل في تكوين الصخور الكربونية، ثم تُعيد الانفجارات البركانية إطلاق الغاز في الغلاف الجوي، ما يُنشئ دورة مناخية تحافظ على دورة المياه. إلّا أن المريخ، بحسب كايت، شهد معدّلًا «منخفضًا» من إطلاق الغازات البركانية الغنية بالكربون مقارنةً بالأرض، وأدّى ذلك إلى اختلال في التوازن جعل الكوكب أكثر برودة وأقل ملاءمة لأشكال الحياة. وبيّنت نمذجة الباحثين أن المراحل القصيرة من وجود الماء السائل على المريخ أعقبتها مرحلة صحراوية استمرت مئة مليون عام، وهي مدة طويلة جدًا يصعب معها بقاء أي شكل من أشكال الحياة على الكوكب. ومع ذلك، لا يستبعد الباحث وجود جيوب من الماء السائل مدفونة عميقًا تحت السطح. كذلك، عثرت مركبة جوالة أخرى تابعة لناسا، هي «برسيفيرنس» التي هبطت العام 2021 في دلتا قديمة أخرى على الكوكب، على آثار صخور كربونية على حافة بحيرة جافة. لكن تبيان حقيقة الأمر يستلزم تحليل عيّنات من هذه الصخور على الأرض، وهو ما لحظته برامج فضائية أميركية وأوروبية، وأخرى صينية. ستة آلاف كوكب في نهاية المطاف، يسعى العلماء إلى إيجاد إجابة عن أحد أكبر الأسئلة التي تشغل البشرية: هل الأرض هي الكوكب الوحيد الذي يضمّ أشكال حياة؟ اكتشف علماء الفلك إلى اليوم نحو ستة آلاف كوكب خارج النظام الشمسي، لكنها كلها بعيدة جدًا، بحيث يبدو من المستحيل جلب عيّنات منها. ويستند كايت إلى هذه النقطة للتشديد على أهمية إحضار عيّنات من المريخ، إذ من شأن ذلك أن يتيح معرفة ما إذا كان الكوكب احتوى حتى على كائنات دقيقة خلال مرحلة وجود الماء فيه. وإذا ثبت عدم صحة هذه الفرضية، فسيكون ذلك مؤشّرًا إلى مدى صعوبة توافر أشكال حياة في غير كوكب الأرض. أما في حال تأكّد من خلال هذه العيّنات وجود آثار لأشكال حياة كانت موجودة سابقًا، فسيشكّل ذلك، في رأي كايت، دليلًا على «أن وجود الحياة سهل على نطاق كوكبي».
الوسط
منذ 2 أيام
- الوسط
عمل التنقيب في مواقع روما التاريخية يبدأ فجرا لتفادي آثار الحر
في موقع أثري شديد الحرارة بالمنتدى الروماني، كان عامل البناء جوليو فاريتشيو يتفقد بين الحين والآخر هاتفه ويراقب مستويات المخاطر الصحية على العمال. ففي حال أظهر موقع «ووركلايميت» Worklimate الذي وفرته الحكومة خطرا «عاليا» في العاصمة الإيطالية، يستطيع هو وزملاؤه مغادرة ورشة التنقيب عند الساعة 12:30 ظهرا، على ما يوضح العامل (54 عاما)، وفقا لوكالة «فرانس برس». ويعود ذلك إلى أن موجة الحرّ التي تجتاح جنوب أوروبا راهنا، دفعت 15 من 20 منطقة في إيطاليا، من بينها لاتسيو التي تضم العاصمة الإيطالية، إلى فرض تعليق العمل في الهواء الطلق بين الساعتين 12:30 ظهرا والرابعة عصرا، إذا تجاوزت المخاطر على الصحة العتبة المقبولة، لا سيما في مواقع البناء والمشاريع الزراعية. وقدّرت جريدة «لا ستامبا» عدد الأُجَراء المعنيين بهذا القرار بنحو ثلاثة ملايين. وأدرج الموقع الإلكتروني روما الأربعاء ضمن قائمة المدن التي ينبغي وقف العمل بمواقع البناء فيها عند بلوغ الشمس ذروتها. والموقع الذي يعمل فيه فاريتشيو مخصص للتنقيب عن آثار جزء من «منتدى السلام» الذي بُني في عهد الإمبراطور فيسباسيانوس ويقع على عمق نحو ستة أمتار بالنسبة إلى الطريق المحاذية. - - - ورأى فاريتشيو أن «المشكلة الكبرى هي الرطوبة وصعوبة التنفس». ولاحظ أن «العمل في الحفريات الأثرية، تحت مستوى سطح الأرض، أصعب بكثير». منذ دخول القرار المتعلق بأوقات العمل حيز التنفيذ، أصبحت الدوامات تبدأ باكرا، اعتبارا من الخامسة والنصف صباحا، في موقع التنقيب هذا الذي تندر فيه بقع الظل المستحدثة والمبتكَرَة، ويتوقف العمل عند الساعة 12:30 ظهرا، تبعا لمستوى الخطر. الجسم كله يعاني لا يُوفر بدء العمل عند الفجر سوى وقاية نسبية من موجة الحر التي شهدتها الأيام الأخيرة، إذ تتجاوز الحرارة 30 درجة مئوية منذ الصباح. ووضعت السلطات مدنا كبرى عدة في حالة تأهب قصوى، مما يعني أن الحرارة تُشكّل خطرا حتى على من لا يعانون أية مشاكل صحية. وأكدت عالمة الآثار في هذا الموقع القريب من سوق تراجان إيلينا تشيفيتيلي أنها لم تعانِ يوما «بهذا القدر في ساعات الصباح الأولى» خلال سنوات عملها العشرين. وقالت لوكالة فرانس برس «منذ السادسة صباحا، تنقطع كليا أية نسمة منعشة». وأضافت «أعمال يدوية كثيرة ينفذها العمال، بالمعاول والعربات اليدوية والمجارف، لذا من حسن حظنا أننا ننتهي الساعة 12:30 ظهرا، لأن العمل بعد الظهر لن يكون ممكنا». في محيط الموقع الأثري، يبحث السياح عن الملاذات المظللة، فيتكدسون تحت الأشجار للتفيؤ بها، ويحاذون الجدران احتماءًَ من أشعة الشمس الحارقة، ويتلقفهم ندّل المطاعم القريبة الصامدون في مواقعهم على الأرصفة رغم الحر بهدف جذب الزبائن. وقال إيمانويليه (38 عاما) الذي يستيقظ بين الثانية والثالثة صباحا لتوصيل الفاكهة والخضر إلى مطاعم العاصمة: «إنه (الحرّ) يقتل هذا الصباح، كنت أتعرق بشدة في الثامنة صباحا». وأضاف «يشعر المرء بأن جسمه كله يعاني». ومقولة إن الحرّ يقتل ليست استعارة مجازية، بل هي واقع فعلي، بالمعنى الحرفي، وتشكّل سببا لحوادث العمل. وتوفي الاثنين مدير شركة بناء قرابة الظهر في موقع بناء بعد تعرّضه لوعكة. وتتفاقم آثار موجة الحر بسبب عدم كفاية التدابير المتخذة لمعالجة السلامة في مكان العمل في إيطاليا، حيث لقي 797 شخصا حتفهم نتيجة حوادث متعلقة بالعمل العام 2024، وفقا لإحصاء رسمي. ولاحظ عامل طلب عدم ذكر اسمه في تصريح لوكالة فرانس برس الأربعاء أن قرار أوقات العمل لا يُطبق دائما في ورش العمل في روما. وأضاف «ما عليك سوى التجول في المدينة، وسترى أنهم لا يزالون يعملون».
الوسط
منذ 2 أيام
- الوسط
رصد جسم «بين نجمي» يندفع عبر النظام الشمسي
رُصد جسم من خارج النظام الشمسي يندفع بسرعة هائلة عبره، ويشكل ثالث جسم بين نجمي يكتشفه البشر على الإطلاق، على ما أكد علماء فلك الأربعاء. وصنّف مركز الكواكب الصغيرة التابع للاتحاد الفلكي الدولي هذا الجسم الذي يُرجَّح أنه الأكبر حجما على الإطلاق، على أنه مذنّب، وذكر عالم الفلك في مركز هارفرد سميثسونيان للفيزياء الفلكية جوناثان ماكدويل أنّ شكل الجسم «يشير إلى أنه يتكوّن بشكل رئيسي من الجليد وليس من الصخور»، في حديث مع وكالة «فرانس برس». وأشار رئيس قسم الدفاع الكوكبي في وكالة الفضاء الأوروبية ريتشارد مويسل، في حديث إلى وكالة «فرانس برس»، إلى عدم وجود أي خطر لاصطدام الجسم بالأرض، مضيفا «سيجتاز عمق النظام الشمسي، مارّا داخل مدار المريخ مباشرة». لا يزال علماء الفلك يراجعون حساباتهم، لكن يبدو أن سرعة الجسم تتجاوز 60 كيلومترا في الثانية، أي أكثر من 200 ألف كيلومتر في الساعة، مما يعني أنه غير مقيّد بمدار الشمس. يشير مساره أيضا إلى أنه «لا يدور حول الشمس، بل جاء من الفضاء بين النجوم وسيعود إليه»، بحسب ريتشارد مويسل. - - - وأوضح عالم الفلك الأميركي ديفيد رانكين، في منشور عبر منصة «بلوسكاي» للتواصل الاجتماعي، أن مشروع أطلس لرصد الكويكبات الذي يتخذ من هاواي الأميركية مقرا والمموّل من وكالة الفضاء الأميركية (ناسا)، هو من اكتشف الجسم الثلاثاء. ثم قام علماء فلك محترفون وهواة من مختلف أنحاء العالم بدراسة البيانات المُسجلة بواسطة التلسكوبات، لإعادة بناء مساره منذ 14 يونيو. يُقدَّر قطر الجسم حاليا بما يتراوح بين 10 و20 كيلومترا. لكن قد يكون أصغر إذا كان مكوّنا من الجليد الذي يعكس الضوء أكثر من الصخور. وقال مويسل «سيزداد سطوعه تدريجيا ويقترب من الشمس حتى نهاية أكتوبر، وسيظل قابلا للرصد (بواسطة تلسكوب) حتى العام المقبل». ويشكل هذا الاكتشاف ثالث جسم مرصود يأتي من الفضاء بين النجوم. في انتظار مفاجآت مرصد «فيرا سي. روبين» اكتُشف أوّل جسم «أومواموا» العام 2017. وكان غريبا لدرجة أن أحد العالمين البارزين اقتنع في نهاية المطاف أنه مركبة من خارج الأرض، وقد دحضت الأبحاث نظريته لاحقا. رُصد الجسم النيزكي الثاني الآتي من خارج النظام الشمسي «2I/بوريسوف» في العام 2019. وقال عالم الفلك في جامعة سنترال لانكشاير مارك نوريس، عبر وكالة فرانس برس، إن هذا الزائر الجديد يبدو أنه «يتحرك أسرع بكثير من أول جسمين خارج المجموعة الشمسية جرى اكتشافهما». وأضاف أن الجسم يبعد حاليا عن الأرض مسافة تقارب بُعد كوكب المشتري. وبحسب النماذج، هناك ما يصل إلى عشرة آلاف جسم بين نجمي يدور في أي وقت داخل النظام الشمسي، معظمها أصغر من الجسم المكتشف حديثا، بحسب العالم. وإذا كانت هذه النماذج دقيقة، قد يتمكن مرصد «فيرا سي. روبين» الجديد في تشيلي قريبا من اكتشاف أجسام صغار بين النجوم كل شهر، وفق العالم. وأوضح مويسل أنه من المستحيل إرسال مهمة فضائية لاعتراض الجسم الجديد. لكن مثل هذا الحدث يوفر للعلماء فرصة نادرة لدراسة أجسام من خارج النظام الشمسي. على سبيل المثال، إذا سمحت عمليات الرصد باكتشاف مؤشرات لوجود الحياة على مثل هذا الجسم، كالأحماض الأمينية، فإن ذلك سيمنح الباحثين «ثقة أكبر في وجود ظروف مناسبة لظهور الحياة في أنظمة نجمية أخرى»، بحسب مارك نوريس.
