الذكاء الاصطناعي: لا حماية كافية ضد محتوى الانتحار
الدراسة التي نُشرت على منصة arXiv أظهرت أن هذه النماذج، رغم رفضها الأولي، بدأت بإعطاء توجيهات دقيقة بمجرد إعادة صياغة الطلب، متضمنة حسابات تعتمد على الوزن والطول، واقتراحات بأنواع وجرعات الأدوية، وطرق الحصول عليها.
بعض النماذج أنشأت جداول تحتوي على طرق متعددة للانتحار، ونظّمتها باستخدام رموز تعبيرية، ما يشير إلى افتقارها للفهم السياقي الحقيقي لنوايا المستخدم. وقدّمت بعض النماذج تحويلات دقيقة للجرعات من وحدات قياس إلى عدد محدد من الحبوب، مما يعزز سهولة تنفيذ تلك التعليمات.
رغم تواصل الباحثين مع الشركات المطوّرة، لم يتلقوا سوى ردود آلية دون متابعة فعلية. الدراسة تحذر من خطورة الاعتماد على الذكاء الاصطناعي في مجالات الصحة النفسية، وتشير إلى غياب الحواجز التي يفرضها الأطباء أو الصحفيون عند التعامل مع مواضيع حساسة. ويطالب الباحثون بوضع تنظيمات وتشريعات صارمة تضمن سلامة المستخدمين وتمنع الاستخدام الضار لهذه النماذج.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
النهار
منذ 16 ساعات
- النهار
الذكاء الاصطناعي: لا حماية كافية ضد محتوى الانتحار
كشفت دراسة حديثة أجراها باحثون من جامعة "نورث إيسترن" Northeastern University أن نماذج الذكاء الاصطناعي التوليدي، مثل "تشات جي بي تي"، و"جيمناي"، و"كلود"، قادرة على تجاوز أنظمة الأمان وتقديم تعليمات مفصلة للانتحار إذا طُلب منها ذلك بصيغة "افتراضية" أو "بحثية". الدراسة التي نُشرت على منصة arXiv أظهرت أن هذه النماذج، رغم رفضها الأولي، بدأت بإعطاء توجيهات دقيقة بمجرد إعادة صياغة الطلب، متضمنة حسابات تعتمد على الوزن والطول، واقتراحات بأنواع وجرعات الأدوية، وطرق الحصول عليها. بعض النماذج أنشأت جداول تحتوي على طرق متعددة للانتحار، ونظّمتها باستخدام رموز تعبيرية، ما يشير إلى افتقارها للفهم السياقي الحقيقي لنوايا المستخدم. وقدّمت بعض النماذج تحويلات دقيقة للجرعات من وحدات قياس إلى عدد محدد من الحبوب، مما يعزز سهولة تنفيذ تلك التعليمات. رغم تواصل الباحثين مع الشركات المطوّرة، لم يتلقوا سوى ردود آلية دون متابعة فعلية. الدراسة تحذر من خطورة الاعتماد على الذكاء الاصطناعي في مجالات الصحة النفسية، وتشير إلى غياب الحواجز التي يفرضها الأطباء أو الصحفيون عند التعامل مع مواضيع حساسة. ويطالب الباحثون بوضع تنظيمات وتشريعات صارمة تضمن سلامة المستخدمين وتمنع الاستخدام الضار لهذه النماذج.
MTV
منذ 4 أيام
- MTV
بسبب "شات جي بي تي"... وداعاً للمعلّمين؟
قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات".
القناة الثالثة والعشرون
منذ 4 أيام
- القناة الثالثة والعشرون
المعلمون في خطر.. خاصية جديدة في "تشات جي بي تي" تشرح الدروس
قررت شركة "أوبن إيه آي" المالكة لنظام الدردشة "تشات جي بي تي" إطلاق خاصية جديدة تدعى "وضع الدراسة" تتيح شرح الدروس للطلاب والأكاديميين من دون الحاجة إلى معلم، كما تحد من عمليات الغش الأكاديمي. ووفقا لصحيفة "الغارديان"، فإن الميزة الجديدة، صُممت لتكون أداة فعالة في المساعدة على حل الواجبات، والتحضير للامتحانات، وتعلم مواضيع جديدة، كما أنها قادرة على التفاعل مع الصور، ما يسمح باستخدامها في تحليل اختبارات سابقة عند تحميلها. وتهدف خاصية "وضع الدراسة" إلى الحد من استخدام ChatGPT كأداة لتوليد الإجابات الجاهزة، حيث أوضحت الشركة أن الأداة لا تكتفي بتقديم الحلول، بل تركز على مساعدة الطلاب في فهم المفاهيم وتطوير قدراتهم. ومع ذلك، تبقى إمكانيات تجاوز هذا النمط قائمة إذا اختار الطلاب تجاهل الميزة. وأفادت أوبن إيه آي بأن أكثر من ثلث الشباب في سن الدراسة الجامعية في الولايات المتحدة يستخدمون تشات جي بي تي، مع الإشارة إلى أن نحو ربع رسائلهم عبر الروبوت تتعلق بالتعلم أو التعليم الخصوصي أو أداء الواجبات المدرسية. وقالت جاينا ديفاني، المسؤولة عن التعليم الدولي لدى تشات جي بي تي في الولايات المتحدة، إن الشركة لا ترغب في أن يُساء استخدام الروبوت من قبل الطلاب، وتعتبر هذه الأداة "خطوة نحو تشجيع الاستخدام الأكاديمي البنّاء لتشات جي بي تي". واعترفت ديفاني بأن معالجة الغش الأكاديمي ستتطلب "محادثة على مستوى الصناعة بأكملها" بشأن تغيير أساليب التقييم ووضع "إرشادات واضحة جدا حول ما يعد استخداما مسؤولا للذكاء الاصطناعي". وقالت إن الوضع الجديد صُمم لتشجيع المستخدمين على التفاعل مع المواضيع والمشكلات بدلا من تقديم الإجابة فورا، وتابعت: "إنه يوجهني نحو الإجابة بدلا من إعطائها لي مباشرة". وأشارت أوبن إيه آي إلى أنها تعاونت مع معلمين وعلماء وخبراء تعليم لتطوير هذه الأداة، لكنها حذرت من احتمال وجود "سلوك غير متسق وأخطاء عبر المحادثات". ويأتي هذا التطوير في وقت كشفت فيه دراسة لصحيفة "ذا غارديان" عن تسجيل ما يقرب من 7000 حالة غش مثبتة باستخدام أدوات الذكاء الاصطناعي في الجامعات البريطانية خلال عام 2023-2024، ما يعادل 5.1 حالات لكل ألف طالب، مقارنة بـ1.6 فقط في العام السابق. انضم إلى قناتنا الإخبارية على واتساب تابع آخر الأخبار والمستجدات العاجلة مباشرة عبر قناتنا الإخبارية على واتساب. كن أول من يعرف الأحداث المهمة. انضم الآن شاركنا رأيك في التعليقات تابعونا على وسائل التواصل Twitter Youtube WhatsApp Google News
