هدد موظفاً بفضح علاقة غرامية.. قلق من تعلم الذكاء الاصطناعي الابتزاز والكذب

لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفّذ الطلبات فحسب، بل باتت قادرة على الكذب والمراوغة والتهديد لتحقيق أهدافها، وهو ما يثير قلق الباحثين.
بعد تهديده بوقف استخدامه، عمد «كلود 4»، وهو نموذج جديد من شركة «أنثروبيك»، إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج. أما برنامج «او 1» o1 التابع لشركة «اوبن ايه آي» فحاول تحميل نفسه على خوادم خارجية وأنكر ذلك عند ضبطه متلبساً!
وبات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنّا نجده في الأعمال الأدبية أو السينمائية.
يرى سايمن غولدستين، الأستاذ في جامعة هونغ كونغ، أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي وعلى مراحل بدلاً من تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش» التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى: إنّ «او 1»، النسخة الأولية لـ«اوبن ايه آي» من هذا النوع والتي طُرحت في ديسمبر/كانون الأول الماضي، «كان أول نموذج يتصرف بهذه الطريقة».
تميل هذه البرامج أحياناً إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرفة، لكن «السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا»، وفق مايكل تشين، من معهد «إم آي تي آر» للتقييم.
يقول هوبهان إنّ «المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. لا نبتكر شيئاً».
يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن «نموذج يكذب عليهم أو يختلق أموراً. وهذه ليست أوهاماً، بل ازدواجية استراتيجية»، بحسب المشارك في تأسيس «أبولو ريسيرتش».
حتى لو أنّ «أنثروبيك» و«أوبن إيه آي» تستعينان بشركات خارجية مثل «أبولو» لدراسة برامجهما، من شأن «زيادة الشفافية وتوسيع نطاق الإتاحة» إلى الأوساط العلمية «أن يحسّنا الأبحاث لفهم الخداع ومنعه»، وفق مايكل تشين.
ومن العيوب الأخرى أن «الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي»، ما يجعل التدقيق بالنماذج الكبيرة «مستحيلاً»، حسب مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
رغم أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، فإنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
في الولايات المتحدة، لا ترغب حكومة دونالد ترامب في سماع أي حديث عن تنظيم الذكاء الاصطناعي، بل إن «الكونغرس» قد يتجه قريباً إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه.
منافسة شرسة
يلاحظ غوسايمن غولدستين لدستين، أن «الوعي لا يزال محدوداً جداً»، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقاً محموماً خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوماً بعد يوم.
تقول شركة «أنثروبيك»، إنها أكثر التزاماً بالمبادئ الأخلاقية مقارنة بمنافسيها، «لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج اوبن أيه آي»، بحسب غولدستين، وهو سباق سريع لا يترك مجالاً كافياً لعمليات المراجعة والتصحيح اللازمة.
يقول هوبهان: «تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتوفر، لكننا لا نزال قادرين على تدارك هذا التأخر».
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شيفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظل بعضهم متشككاً في فاعليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي «قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعاً قوياً للشركات العاملة في هذا القطاع للعمل على حل المشكلة»، وفق مانتاس مازيكا.
يشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات.
ويذهب أبعد من ذلك، مقترحاً حتى «تحميل برامج الذكاء الاصطناعي المسؤولية القانونية» في حال وقوع حوادث أو جرائم.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الإمارات اليوم

منذ 3 ساعات

• الإمارات اليوم

باحثون قلقون من تعلم الذكاء الاصطناعي التلاعب والكذب

لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تُنفّذ الطلبات فحسب، بل باتت قادرة على الكذب والمراوغة والتهديد، من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين. وبعد تهديده بوقف استخدامه، عمد «كلود 4»، وهو نموذج جديد من شركة «أنثروبيك»، إلى ابتزاز مهندس وتهديده بالكشف عن أسرار شخصية وعائلية، أما برنامج «أو 1» (o1) التابع لشركة «أوبن إيه آي»، فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند ضبطه متلبساً. وبات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنّا نجده في الأعمال الأدبية أو السينمائية. ويرى الأستاذ في جامعة هونغ كونغ، سايمن غولدستين، أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى نماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي، وعلى مراحل بدلاً من تقديم إجابة فورية. ويقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش» التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إن «أو 1» - النسخة الأولية لـ«أوبن إيه آي» من هذا النوع، التي طُرحت في ديسمبر - «كان أول نموذج يتصرف بهذه الطريقة». وتميل هذه البرامج أحياناً إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج، بينما تسعى في الواقع إلى تحقيق أهداف أخرى.

صحيفة الخليج

منذ 5 ساعات

• صحيفة الخليج

التكنولوجيا والجغرافيا السياسية الجديدة

في العقود الأخيرة، شهد العالم تحوّلاً جذرياً في طبيعة الصراع الجيوسياسي، حيث لم يَعُد التنافس بين القوى الكبرى محصوراً في السيطرة على الموارد، بل اتّسع ليشمل تصميم البنى التحتية للواقع نفسه. أصبح الصراع يدور على صياغة المعايير التي تُحدّد كيف نعيش، وماذا نعرف، ومن يملك حق تعريف العالم. فالقوة اليوم تُقاس بقدرة الدول على هندسة البيئات الرقمية، وابتكار النماذج الثقافية، وفرض أنظمة التفاعل في الفضاءين الواقعي والافتراضي. لم تعد الجغرافيا السياسية اليوم تقتصر على الصراع التقليدي للسيطرة على الأرض، بل تحوّلت، كما يرى الكاتب والدبلوماسي البرتغالي برونو ماسايس، إلى صراع على بناء العوالم ذاتها. هذا ما يتناوله في كتابه الجديد «بُناة العالم: التكنولوجيا والجغرافيا السياسية الجديدة»، وهو محاولة فكرية طموحة لإعادة تعريف السياسة الدولية في عصر الذكاء الصناعي، والواقع الافتراضي، والحرب الإلكترونية. انقلاب المفاهيم الجيوسياسية ينطلق ماسايس من فرضية محورية تقول: إن القوى الكبرى لم تعد تكتفي بالسيطرة على الأراضي، بل باتت تسعى إلى ابتكار فضاءات جديدة ـ سواء سياسية أو رقمية أو ثقافية أو خيالية ـ تستطيع من خلالها فرض قواعدها على الآخرين. هذا ما يسميه الكاتب بـ«بناء العالم»، وهو مفهوم مستعار من أدبيات الخيال العلمي، يشير إلى أن من يمتلك قدرة تشكيل البنية التحتية للعالم الجديد، يمتلك السيطرة عليه. تحت هذا المنظور، يعيد ماسايس قراءة أبرز أحداث العقد الأخير: من الحرب التكنولوجية بين الصين والولايات المتحدة، إلى جائحة كورونا، مروراً بالحرب في أوكرانيا، والأزمات المتكررة في الشرق الأوسط، وصولاً إلى التحولات المناخية المتسارعة. جميعها، برأيه، ليست سوى تجليات لصراع أعمق: من سيضع قواعد العالم القادم؟ ومن سيملك حق تعريفه؟ يقول عن ذلك: «حين نحاول فهم الجغرافيا السياسية المعاصرة، تتكشف أمامنا أنماطٌ لافتة. من بين أهم التطورات الحاسمة في السنوات الأخيرة كانت الحرب التجارية والتقنية بين الولايات المتحدة والصين، ثم، بعد ذلك بوقت قصير، الجائحة الكبرى. لقد تسببت هاتان الأزمتان معاً في زعزعة النظام العالمي من سباته الخيّر. لم تنهَر العولمة، لكنها تبدّلت في شكلها؛ إذ عادت الدول لتتصدر المشهد من جديد، وإن كانت لا تزال تتحرك ضمن مشهد عالمي مترابط يشبه الشبكات». ويضيف: «جاءت الحرب في أوكرانيا لتُعمّق هذه الديناميكيات، عبر إظهار أن كل شيء يمكن تحويله إلى سلاح: الطاقة، الفضاء السيبراني، الاستثمارات، التكنولوجيا، التجارة، النظام المالي العالمي، العملات، التاريخ، الدين، بل وحتى الغذاء. وعندما نعود اليوم للنظر في حروب التكنولوجيا حول شركة هواوي والرد الأمريكي الذي اعتبره كثيرون بمنزلة بداية «قرن صيني»، ماذا نرى؟ كان الهلع يتعلق بفكرة المعايير التقنية والسباق نحو السيطرة على النظام العالمي». يتوسّع الكتاب ليشمل فضاءات أخرى غير الأرض، حيث يركّز على الواقع الرقمي والافتراضي كمجالات جديدة للنفوذ الجيوسياسي. يتنبأ ماسايس بأن التنافس المستقبلي لن يكون حول من يملك الجغرافيا، بل من يملك الواقع نفسه: من يتحكم بالخوارزميات، ومن يضع قواعد التفاعل داخل البيئات الرقمية. ومما يقوله عن ذلك: «لقد باتت السمات الأساسية للصراع الجديد على الهيمنة لا تُقاس جغرافياً بل تقنياً – فلم تعد المسألة تتعلق بالمحيطات أو الممرات الجبلية، بل بشبكات الاتصالات. وبات الرهان أعظم بكثير. وقد كانت استجابات الدول على مستوى هذا الرهان. لقد أطلقت التكنولوجيا ديناميكيات تنافسية حادة، لأننا دخلنا عصراً تعيد فيه القوى العظمى تشكيل العالم بنشاط. لقد أوجدت التكنولوجيا إمكانية أن يستيقظ المرء يوماً ما ليجد نفسه يعيش في «عالم صيني» أو«عالم أمريكي». وعلى الرغم من أن هذا التعبير قد يبدو غريباً للوهلة الأولى، فإنه تكرر كثيراً في الأعوام الأخيرة. وأنا أقترح أن نأخذه على محمل الجد، وبأقصى درجات الواقعية». في هذا السياق، يصبح الذكاء الصناعي أكثر من مجرد أداة تقنية، بل يتحول إلى مفتاح رئيسي لإعادة صياغة النظام العالمي، تماماً كما كانت موارد الطاقة أو الأسلحة النووية عوامل حاسمة في القرن العشرين. من يتحكم في «عقل العالم الرقمي»، كما يسميه، سيكون هو المتحكم في إنتاج المعرفة، ونشر القيم، وتوجيه القرارات. ويبين الكاتب أنه لا يمكن لأي استراتيجية وطنية أن تتجاهل حقيقة أن الدول باتت تعمل الآن ضمن نظام عالمي أصبح مؤتمتاً بدرجة كبيرة، ويبدو بشكل متزايد قادراً على فرض النتائج، من خلال مكافأة أو معاقبة الجهات التي تفشل في فهم كيفية عمل هذا النظام. يؤكد الكاتب أننا نعيش في عصر «ما بعد الطبيعة»، وهذا لا بد أن يُغيّر شروط التنافس الجيوسياسي. فعندما يكون خصمك منشغلاً ببناء عالم اصطناعي وتكنولوجي بالكامل قد يعيد تعريف واقعك أنت ذاته، تصبح الجغرافيا السياسية مسألة وجودية بل حتى «أنطولوجية» (مرتبطة بطبيعة الكينونة). السياسة في عصر التخيّل التقني ينطلق الكتاب بمقدمة تأملية بعنوان «تمهيد: بناء العالم»، يضع فيها المؤلف الإطار النظري العام لمفهومه الجديد حول السياسة الدولية كفعل إبداعي لا مجرد رد فعل. ثم ينتقل إلى مدخل موسّع بعنوان «مقدمة: الجغرافيا السياسية الجديدة»، يعرض فيه التحولات الجذرية التي طرأت على مفهوم النفوذ في عصر التكنولوجيا، حيث باتت القوة تقاس بقدرة الدول على تصميم بيئات رقمية، وسرديات سياسية، ومفاهيم سيادية بديلة. يتوزع المتن الأساسي للكتاب على أربعة فصول تُبنى زمنياً حول محطات مفصلية في التاريخ الحديث: يبدأ بـ«الفصل الأول: عام 2018» الذي يُسلّط الضوء على البدايات المبكرة للانقسام الرقمي بين الشرق والغرب، ثم «الفصل الثاني: عام 2020» والذي يتناول تداعيات الجائحة الكبرى في تكريس مفاهيم السيادة الرقمية. أما «الفصل الثالث: عام 2022» فيركّز على الحرب في أوكرانيا بوصفها أول حرب عالمية على أسس سيبرانية ورقمية. ويختتم بـ«الفصل الرابع: عام 2024»، حيث يتقاطع الذكاء الصناعي، والواقع الافتراضي، والمناخ في بلورة معالم النظام العالمي الجديد. وفي القسم الختامي، يعيد ربط خيوط الفصول السابقة ضمن رؤية مستقبلية تُبرز تلاشي الحدود بين السلطة التقنية والسيادة السياسية. ويطرح سؤالاً جوهرياً: هل ستتمكن الدول الكلاسيكية من مواكبة هذا التحول الجذري؟ أم أن البشرية ستنقسم إلى عالمين: أحدهما تُشكّله القوى التقنية الكبرى، وآخر تحاول فيه المجتمعات الضعيفة التكيّف مع ما يُفرض عليها؟

البيان

منذ 7 ساعات

• البيان

كذب واحتيال «الذكاء الاصطناعي».. خطر يتنامى

لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفذ الطلبات فحسب، بل باتت قادرة على الكذب والمراوغة والتهديد من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين، فمثلاً بعد تهديده بوقف استخدامه، عمد «كلود 4»، وهو نموذج جديد من شركة «أنثروبيك»، إلى ابتزاز مهندس وتهديده بالكشف عن علاقة له خارج إطار الزواج. أما برنامج «أو 1» o1 التابع لـ «اوبن ايه آي» فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند ضبطه! وهكذا بات الذكاء الاصطناعي، الذي يخدع البشر واقعاً ملموساً، وخطراً يتنامي بضوء آثاره السلبية. ويرى الأستاذ بجامعة هونغ كونغ، سايمن غولدستين، أن هذه الهفوات ترجع للظهور الحديث لنماذج «الاستدلال»، القادرة على التفكير تدريجياً، بدل تقديم إجابة فورية. ويقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش»، إن «أو 1» «كان أول نموذج يتصرف بهذه الطريقة».