القلق يتصاعد من تطور الذكاء الاصطناعي نحو السلوك غير الصادق
بعد تهديده بوقف استخدامه، عمد "كلود 4"، وهو نموذج جديد من شركة "أنثروبيك" إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج. أما برنامج "او 1" o1 التابع لشركة "أوبن إيه آي" فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند ضبطه متلبساً!
وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنّا نجده في الأعمال الأدبية أو السينمائية.
يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج "الاستدلال"، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش"، التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إنّ "او 1"، النسخة الأولية لـ"أوبن إيه آي" من هذا النوع، وكانت طُرحت في كانون الأول/ديسمبر، و"كان أول نموذج يتصرف بهذه الطريقة".
تميل هذه البرامج أحياناً إلى محاكاة "الامتثال"، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرّفة. لكن "السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا"، على قول مايكل تشين من معهد "ام اي تي آر" للتقييم.
يقول هوبهان إنّ "المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئاً".
يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن "نموذج يكذب عليهم أو يختلق أموراً. وهذه ليست أوهاماً، بل ازدواجية استراتيجية"، بحسب المشارك في تأسيس "أبولو ريسيرتش".
حتى لو أنّ "أنثروبيك" و"أوبن إيه آي" تستعينان بشركات خارجية مثل "أبولو" لدراسة برامجهما، فمن شأن"زيادة الشفافية وتوسيع نطاق الإتاحة" إلى الأوساط العلمية "أن يحسّنا الأبحاث لفهم الخداع ومنعه"، وفق مايكل تشين.
ومن العيوب الأخرى أن "الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي"، مما يجعل التدقيق بالنماذج الكبيرة "مستحيلاً"، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
رغم أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، فإنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
في الولايات المتحدة، لا ترغب حكومة دونالد ترامب في سماع أي حديث عن تنظيم الذكاء الاصطناعي، بل إن الكونغرس قد يتجه قريباً إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه.
- منافسة شرسة -
يلاحظ غولدستين أن "الوعي لا يزال محدوداً جداً في الوقت الحالي"، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي؛ وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقلّ.
يخوض المهندسون سباقاً محموماً خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوماً بعد يوم.
تقول شركة "أنثروبيك" إنها أكثر التزاماً بالمبادئ الأخلاقية مقارنة بمنافسيها، "لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج أوبن إيه آي"، بحسب غولدستين، وهو سباق سريع لا يترك مجالاً كافياً لعمليات المراجعة والتصحيح اللازمة.
يقول هوبهان "في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتحقق، لكننا لا نزال قادرين على تدارك هذا التأخّر".
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فكّ شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظلّ البعض متشككاً في فاعليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي "قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعاً قوياً للشركات العاملة في هذا القطاع للعمل على حلّ المشكلة"، وفق مانتاس مازيكا.
يشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات.
ولكنه يذهب أبعد من ذلك، ويقترح "تحميل برامج الذكاء الاصطناعي المسؤولية القانونية" في حال وقوع حوادث أو جرائم.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
النهار
منذ يوم واحد
- النهار
هل يعرفك "تشات جي بي تي" أكثر مما تظن؟ إليك 12 سؤالًا لاكتشاف ذلك
مع تحديثات "أوبن إيه آي" الأخيرة، بات بإمكان مستخدمي النسخة المجانية من تشات جي بي تي الاستفادة من ميزة "الذاكرة"، التي تمكّن الذكاء الاصطناعي من تذكر المحادثات السابقة والتعلم منها. هذه القدرة تمنح المستخدمين فرصة لفهم أنفسهم بشكل أعمق، خاصة مع الاستخدام اليومي المتزايد لـ "تشات جي بي تي" في الإجابة على الأسئلة وتقديم المشورة. يطرح البعض تساؤلات مثيرة: ماذا يعرف "تشات جي بي تي" عني؟ من خلال بعض الأسئلة الذكية، يمكنك اكتشاف الكثير عن شخصيتك، مثل: "ما هي أكبر نقاط ضعفي؟"، أو "ما هو أكثر شيء محرج تعرفه عني؟"، و"ما الأمور التي أفرط في التفكير بها؟". وللجانب الطريف، يمكن سؤاله مثلًا: "كيف سيصفني كاتب مسلسل في ملاحظات الشخصيات؟"، أو "ماذا سيظن من يقرأ محادثاتي معك؟"، و"ما نوع الأشخاص الذين أزعجهم غالباً؟". ومن المثير أن "تشات جي بي تي" قد يعرف أشياء غير متوقعة أو دقيقة عنك، مثل: "ما الشيء الذي أجيده ولا ألاحظ؟" أو "ما الذي يعبر عني دون أن ألتفت له؟". ويمكنك حتى أن تطلب منه أن يصنع لك ملفاً شخصياً بكل ما يعرفه عنك، أو أن يسخر منك بروح مرحة. كما يمكنك التعمق أكثر وطرح أسئلة جديدة تساعدك على النمو الشخصي وتحقيق وعي ذاتي أوسع.
النهار
منذ يوم واحد
- النهار
ميتا تدفع الملايين لجذب عباقرة الذكاء الاصطناعي... لكن إلى أين تتجه؟
يُنفق مارك زاكربرغ مليارات الدولارات لتوسيع فريق "ميتا" المتخصص بالذكاء الاصطناعي والعودة إلى المنافسة في هذا المجال، لكن هذه الاستراتيجية تثير بعض الشكوك حيال فعاليتها. في منتصف حزيران/يونيو، لم تتردد إمبراطورية التواصل الاجتماعي الأميركية في إنفاق أكثر من 14 مليار دولار للاستحواذ على حصة 49% في شركة "سكيل إيه آي" المتخصصة في استخراج البيانات المستخدمة لتطوير نماذج الذكاء الاصطناعي. وكانت المجموعة التي تتخذ من مينلو بارك بولاية كاليفورنيا مقراً، قد تواصلت سابقاً، بحسب وسائل إعلام أميركية، مع إيليا سوتسكيفر، المؤسس المشارك لشركة "أوبن إيه آي"، بالإضافة إلى شركة "بيربلكسيتي إيه آي" التي تُعتبر نفسها منافسة لغوغل، ومنصة الفيديو الرائدة في مجال الذكاء الاصطناعي "رانواي". وبحسب الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان، فإن "ميتا" عرضت مكافآت فردية تزيد عن 100 مليون دولار على "عدد كبير" من موظفي "أوبن إيه آي" مقابل ضمّهم إلى صفوفها، والمبلغ نفسه تقريبا كراتب سنوي لهم. ووافق أربعة منهم في النهاية على هذا العرض، شأنهم شأن الرئيس التنفيذي لشركة "سكيل إيه آي" ألكسندر وانغ. وذكرت وسائل إعلام عدة أن زاكربرغ قاد بنفسه هذه الحملة بسبب القلق من تأخر "ميتا" في مجال الذكاء الاصطناعي التوليدي، على الرغم من استثماراتها التي بلغت عشرات مليارات الدولارات. وقد أتت نتائج "لاما 4"، أحدث نماذج "ميتا" الرئيسية للذكاء الاصطناعي، مخيبة للآمال بعد إطلاقه في أوائل نيسان/أبريل. يحتل هذا النموذج مرتبة متأخرة خلف كل الشركات الأميركية والصينية والفرنسية العملاقة في تصنيف منصة التقييم المستقلة "ال ام ارينا" LMArena للبرمجة، بل حتى خلف سلفه "لاما 3" على صعيد واجهة النص. تريد "ميتا" دمج موظفيها الجدد في فريق جديد مُخصص لتطوير "الذكاء الخارق"، وهو الذكاء الاصطناعي الذي يفوق القدرات البشرية على الفهم والتأمل. "نفقات غير مضبوطة" يقول المدون زفي موشوفيتز لوكالة فرانس برس "أعتقد أنه سينجح في جذب مواهب حقيقية، ولم يكن لديه الكثير من الخيارات، لكن هذا الجانب من الارتزاق يُمثل مشكلة كبيرة، ناهيك عن أن أحداً لا يرغب في العمل" لحساب "هذه الشركة وهذه المنتجات" إلا مقابل رواتب مرتفعة للغاية. يضيف "لذا، لا أتوقع أن تنجح" ميتا في الهيمنة على قطاع الذكاء الاصطناعي. في وول ستريت، رغم اقتراب سعر السهم من أعلى مستوياته التاريخية وبلوغ قيمة الشركة في السوق تريليوني دولار، فإن أجواء القلق بدأت بالظهور. يوضح المحلل في "بيرد" تيد مورتونسون أن "المستثمرين المؤسسيين يهتمون في المقام الأول بالسيولة" التي تولدها الشركة (التدفق النقدي) "والإدارة الجيدة لرأس المال"، مضيفاً "وفي الوقت الحالي، لا توجد قوة معادلة" لمارك زاكربرغ. ويقول "أولئك الذين يملكون الأسهم يحتفظون بها لإعلانات الذكاء الاصطناعي، والتي تتمتع ميتا بمكانة ممتازة فيها"، "لكنهم قلقون أيضاً من رؤية هذه النفقات غير المضبوطة". خلال مقابلة مع بودكاست "ستراتشري"، أوضح مارك زاكربرغ أن مجموعته تخطط لاستبدال وكالات التسويق والإعلان بالكامل باستخدام الذكاء الاصطناعي، لتقديم حل جاهز للمعلنين قريباً، وبالتالي إيجاد مصدر دخل جديد. يقول المحلل في "سي اف ار ايه" CFRA أنجيلو زينو الذي يثق أيضاً بالأفق طويل الأجل "هذا لا يُغيّر من إمكانات الربحية على المدى القصير، لأنه سيوجد المزيد من الفرص ومن الطرق لتحقيق الربح من الذكاء الاصطناعي، سواء من خلال الإعلانات أو الأجهزة المتصلة (النظارات وسماعات الرأس)، أو حتى 'لاما'". وبحسب صحيفة "نيويورك تايمز"، يُفكّر مارك زاكربرغ مع ذلك في التوقف عن جعل "لاما" منصة الذكاء الاصطناعي الرائدة لشركة "ميتا"، حتى لو استلزم ذلك استخدام نماذج منافسة. ويشير الأستاذ في جامعة ولاية بنسلفانيا محمد كانياز إلى أن الذكاء الاصطناعي التوليدي يدخل حالياً مرحلة جديدة عمادها الوكلاء الرقميون، وهي نماذج أصغر حجماً قادرة على أداء العديد من المهام بشكل مستقل. ويقول "هذا يعني أن ميتا قادرة على الازدهار حتى من دون النماذج الأكثر تقدماً، إذا كانت تلبي احتياجات سوق محددة"، مثل الإعلانات. أما بالنسبة لـ"الذكاء الخارق"، أو الذكاء الاصطناعي العام حيث يُعادل الأخير البشر ويتفوق الأول عليهم، فيتوقع أنجيلو زينو أنه "سيتعين علينا الانتظار من ثلاث إلى خمس سنوات على الأقل. لكن يتعين توظيف هؤلاء الأشخاص والاستثمار بكثافة لتوفير الجاهزية عند الانتقال إلى تلك المرحلة".
النهار
منذ 2 أيام
- النهار
القلق يتصاعد من تطور الذكاء الاصطناعي نحو السلوك غير الصادق
لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفّذ الطلبات فحسب، بل باتت قادرة على الكذب والمراوغة والتهديد من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين. بعد تهديده بوقف استخدامه، عمد "كلود 4"، وهو نموذج جديد من شركة "أنثروبيك" إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج. أما برنامج "او 1" o1 التابع لشركة "أوبن إيه آي" فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند ضبطه متلبساً! وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنّا نجده في الأعمال الأدبية أو السينمائية. يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج "الاستدلال"، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية. يقول ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش"، التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إنّ "او 1"، النسخة الأولية لـ"أوبن إيه آي" من هذا النوع، وكانت طُرحت في كانون الأول/ديسمبر، و"كان أول نموذج يتصرف بهذه الطريقة". تميل هذه البرامج أحياناً إلى محاكاة "الامتثال"، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى. في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرّفة. لكن "السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا"، على قول مايكل تشين من معهد "ام اي تي آر" للتقييم. يقول هوبهان إنّ "المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئاً". يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن "نموذج يكذب عليهم أو يختلق أموراً. وهذه ليست أوهاماً، بل ازدواجية استراتيجية"، بحسب المشارك في تأسيس "أبولو ريسيرتش". حتى لو أنّ "أنثروبيك" و"أوبن إيه آي" تستعينان بشركات خارجية مثل "أبولو" لدراسة برامجهما، فمن شأن"زيادة الشفافية وتوسيع نطاق الإتاحة" إلى الأوساط العلمية "أن يحسّنا الأبحاث لفهم الخداع ومنعه"، وفق مايكل تشين. ومن العيوب الأخرى أن "الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي"، مما يجعل التدقيق بالنماذج الكبيرة "مستحيلاً"، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS). رغم أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، فإنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها. في الولايات المتحدة، لا ترغب حكومة دونالد ترامب في سماع أي حديث عن تنظيم الذكاء الاصطناعي، بل إن الكونغرس قد يتجه قريباً إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه. - منافسة شرسة - يلاحظ غولدستين أن "الوعي لا يزال محدوداً جداً في الوقت الحالي"، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي؛ وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقلّ. يخوض المهندسون سباقاً محموماً خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوماً بعد يوم. تقول شركة "أنثروبيك" إنها أكثر التزاماً بالمبادئ الأخلاقية مقارنة بمنافسيها، "لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج أوبن إيه آي"، بحسب غولدستين، وهو سباق سريع لا يترك مجالاً كافياً لعمليات المراجعة والتصحيح اللازمة. يقول هوبهان "في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتحقق، لكننا لا نزال قادرين على تدارك هذا التأخّر". يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فكّ شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظلّ البعض متشككاً في فاعليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS). الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي "قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعاً قوياً للشركات العاملة في هذا القطاع للعمل على حلّ المشكلة"، وفق مانتاس مازيكا. يشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات. ولكنه يذهب أبعد من ذلك، ويقترح "تحميل برامج الذكاء الاصطناعي المسؤولية القانونية" في حال وقوع حوادث أو جرائم.
