هل يمكن أن يخدع الذكاء الاصطناعي البشر؟
بعد تهديده بوقف استخدامه، عمد «كلود 4»، وهو نموذج جديد من شركة «أنثروبيك» إلى الابتزاز والتهديد، اما برنامج «او 1» o1 التابع لشركة «اوبن ايه آي» فحاول تحميل نفسه على خوادم خارجية وأنكر ذلك عند ضبطه متلبسا!
وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعا ملموسا، بعدما كنا نجده في الأعمال الأدبية او السينمائية.
يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يسمى بنماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش» التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إن «او 1»، النسخة الأولية لـ «اوبن ايه آي» من هذا النوع والتي طرحت في ديسمبر، «كان أول نموذج يتصرف بهذه الطريقة».
تميل هذه البرامج أحيانا إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرض المستخدمون الخوارزميات لمواقف متجاوزة للحدود، لكن «السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا»، على قول مايكل تشين من معهد «ام اي تي آر» للتقييم.
يقول هوبهان إن «المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئا».
يتحدث عدد كبير من مستخدمي الانترنت عبر وسائل التواصل الاجتماعي عن «نموذج يكذب عليهم أو يختلق أمورا. وهذه ليست أوهاما، بل ازدواجية استراتيجية»، بحسب المشارك في تأسيس «أبولو ريسيرتش».
حتى لو أن «أنثروبيك» و«أوبن إيه آي» تستعينان بشركات خارجية مثل «أبولو» لدراسة برامجهما، من شأن«زيادة الشفافية وتوسيع نطاق الإتاحة» إلى الأوساط العلمية «أن يحسنا الأبحاث لفهم الخداع ومنعه»، وفق مايكل تشين.
ومن العيوب الأخرى أن «الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي»، مما يجعل التدقيق بالنماذج الكبيرة «مستحيلا»، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
رغم أن الاتحاد الأوروبي أقر تشريعات تنظم الذكاء الاصطناعي، إلا أنها تركز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الأنباء
منذ 6 ساعات
- الأنباء
كيف أصبح الذكاء الاصطناعي لاعباً رئيسياً في حروب الشرق الأوسط السيبرانية؟
الشركات تتجه إلى تعزيز استثماراتها بمجال الأمن السيبراني خصوصاً في الحلول المتعلقة بأمن الشبكات والحوسبة السحابية في الوقت الذي يشهد فيه العالم تحولا رقميا متسارعا، تتزايد وتيرة التهديدات السيبرانية التي تضرب دول منطقة الشرق الأوسط، التي تعيش أصلا على وقع أزمات جيوسياسية متفاقمة، فقد أصبحت الهجمات الإلكترونية المدعومة من جهات حكومية أحد أبرز التحديات الأمنية في المنطقة، وسط تصاعد استخدام أدوات الذكاء الاصطناعي، سواء في الدفاع أو الهجوم. وذكرت مجلة «ميد» الاقتصادية انه ووفقا لتقرير صادر عن شركة الأبحاث العالمية GlobalData فإن الذكاء الاصطناعي بات يلعب دورا مزدوجا في مشهد الحروب الإلكترونية الجديدة. فمن جهة، يزود هذا التطور التكنولوجي المتخصصين في الأمن السيبراني بأدوات متقدمة لرصد التهديدات والتعامل معها بشكل استباقي. من جهة أخرى، يستخدم الذكاء الاصطناعي ذاته في تنفيذ هجمات أكثر تطورا ودقة، الأمر الذي يعقد مهمة التصدي لها. وتبرز في هذا السياق الهجمات المعززة بالذكاء الاصطناعي التوليدي، لاسيما في مجالات التصيد الاحتيالي وهجمات الفدية، حيث أصبح بوسع المهاجمين تعديل الشيفرات البرمجية واستهداف الضحايا بشكل لحظي ودقيق. ويشير التقرير إلى أن حالة عدم الاستقرار السياسي والنزاعات المستمرة في المنطقة تشكل بيئة خصبة لنمو هذه الهجمات، مع تزايد استغلال الفاعلين السيبرانيين سواء دول أو منظمات إرهابية أو مجموعات «هاكتيفيست» أو مجرمي الإنترنت للثغرات الرقمية التي تعاني منها الحكومات والمؤسسات وحتى الأفراد. وفي واحدة من أبرز الحوادث، كشف مركز تحليل التهديدات التابع لشركة Microsoft عن تنفيذ الحرس الثوري الإيراني هجوم تصيد موجه ضد مسؤول بارز في حملة رئاسية أميركية، في مؤشر خطير على تصاعد الهجمات السيبرانية التي تستهدف العملية السياسية في الدول الكبرى. من جهة أخرى، يشير التقرير إلى أن التطورات التنظيمية على الصعيد العالمي سيكون لها أثر على المنطقة، إذ فرضت لجنة الأوراق المالية والبورصات الأميركية (SEC) مؤخرا قاعدة تلزم الشركات المدرجة بالإفصاح عن أي خرق سيبراني في غضون أربعة أيام من اعتبار الحادث «ذي أهمية مادية»، في خطوة تعكس أهمية الشفافية والجاهزية. وفي مواجهة هذه التهديدات، تتجه شركات في الشرق الأوسط بشكل متزايد إلى تعزيز استثماراتها في مجال الأمن السيبراني، خصوصا في الحلول المتعلقة بأمن الشبكات والحوسبة السحابية، في وقت تتزايد فيه الحاجة أيضا إلى رفع كفاءة الضوابط الداخلية وتدريب الموظفين للحد من الهجمات المحتملة. ومع استمرار تصاعد التهديدات الرقمية، يبقى الأمن السيبراني أحد المحاور الاستراتيجية التي لا يمكن إغفالها، لاسيما في منطقة تزداد فيها التحديات الأمنية تعقيدا يوما بعد يوم.
الأنباء
منذ 3 أيام
- الأنباء
«شات جي. بي. تي» يؤثر على قدرات الطلاب الذهنية
يعمد طلاب الجامعات إلى استخدام أدوات الذكاء الاصطناعي التوليدي بشكل كبير حتى عندما يطلب منهم كتابة تجاربهم الشخصية. وأظهرت دراسة حديثة أن الطلاب الذين يستخدمون هذه التكنولوجيا لكتابة النصوص يتمتعون بقدر أقل من التفكير النقدي. وعندما طلبت جوسلين ليتزينغر من طلابها رواية تجربة شخصية عن التمييز، لاحظت أن اسم الضحية كان غالبا سالي. وتقول المعلمة المقيمة في شيكاغو بأسف «من الواضح أنه اسم شائع في «شات جي بي تي». وتقول ليتزينغر، وهي أستاذة في إدارة الأعمال والعلوم الاجتماعية في جامعة إلينوي، إن «طلابها لم يكتبوا حتى عن حياتهم الشخصية!». وتشير إلى أن نحو نصف طلابها البالغ عددهم 180 استخدموا «شات جي بي تي» بشكل غير مناسب خلال الفصل الدراسي الفائت، بما في ذلك عند الكتابة عن القضايا الأخلاقية المتعلقة بالذكاء الاصطناعي. وتؤكد الأستاذة الجامعية لوكالة فرانس برس، أنها لم تفاجأ بنتائج دراسة حديثة أعدها معهد «ماساتشوستس» للتكنولوجيا، تشير إلى أن الطلاب الذين يستخدمون الذكاء الاصطناعي التوليدي لكتابة نصوص يتمتعون بقدر أقل من التفكير النقدي. انتشرت الدراسة الأولية التي لم تخضع نتائجها بعد لتدقيق علمي، عبر وسائل التواصل الاجتماعي، ولاقت صدى واضحا لدى مدرسين كثيرين يعانون من هذه الممارسات من جانب طلابهم. وفي هذه الدراسة قسم 54 طالبا من منطقة بوسطن إلى 3 مجموعات. وطلب منهم كتابة مقالات لـ 20 دقيقة، الأولى باستخدام «تشات جي بي تي»، والثانية باستخدام محرك بحث، والثالثة بالاعتماد على قدراتهم الذهنية حصرا. وقاس الباحثون نشاط أدمغة الطلاب في جلسات متباعدة لأشهر عدة، وكلف معلمان بتقييم الكتابات. وكانت نصوص مستخدمي «شات جي بي تي» أسوأ بكثير من كتابات من استخدموا قدراتهم الذهنية فقط. وأظهرت تخطيطات كهربية للدماغ، أن مناطق مختلفة من أدمغتهم كانت تتواصل مع بعضها بشكل أقل.
الأنباء
منذ 5 أيام
- الأنباء
أسرع بـ 100 مرة.. تقنية «لاي فاي» المتقدمة ستحل محل «واي فاي»
طور المعهد الكوري الجنوبي للعلوم والتكنولوجيات المتقدمة تقنية «لاي فاي» Li-Fi للاتصالات اللاسلكية باستخدام الضوء المرئي في نطاق 400-800 تيراهرتز، محققة سرعات تصل إلى 224 غيغابت/الثانية. وعلى عكس «الواي فاي» لا تعاني تقنية Li-Fi من قيود الطيف الترددي وتتمتع بمقاومة أفضل للتداخل، رغم أن الإشارة الضوئية كانت يعتقد سابقا أنها أقل أمانا. لكن العلماء حلوا هذه المشكلة عبر منصة جديدة تعزز السرعة والأمان معا. وتعتمد التقنية الجديدة على باعث الضوء الثلاثي عالي الكفاءة، وتستخدم نقاطا كمومية صديقة للبيئة منخفضة السمية وعالية الموثوقية، وينتج الضوء عند تعرضه لمجال كهربائي عبر أقطاب كهربائية شفافة مثقبة مجهريا. ويعمل جهاز الإرسال الضوئي مع التشفير المدمج على تحويل المعلومات إلى ضوء وتشفيرها تلقائيا، مما يسمح بالنقل الآمن للبيانات دون اللجوء إلى أجهزة إضافية معقدة. وتبلغ الكفاءة الكمومية الخارجية للجهاز 17.4% (حسب مقياس كفاءة تحويل الكهرباء إلى ضوء) وسطوع 29،000 نيت، وهو ما يتجاوز سطوع شاشات OLED للهواتف بأكثر من 10 مرات، علما أن الأجهزة القابلة للتطبيق تجاريا تتطلب كفاءة كمومية خارجية نحو 20%. واستخدم الباحثون أسلوب التحليل الكهربائي الضوئي العابر لفهم آلية تحويل المعلومات إلى الضوء عبر نبضات كهربائية قصيرة جدا بطول مئات النانوثانية، وسمح هذا التحليل بكشف آلية «التضمين الضوئي ثنائي القنوات».
