احذر.. روبوتات الدردشة قد تُضللك صحيًا
دراسة تكشف عن مخاطر الذكاء الاصطناعي في الصحة
أجرى باحثون دراسة تحليلية لتقييم مدى دقة المعلومات الصحية التي تقدمها خمسة من أبرز نماذج الذكاء الاصطناعي، والتي طورتها شركات تكنولوجية كبرى مثل: أوبن إيه آي، أنثروبيك، ميتا، جوجل، وإكس كورب، وتُستخدم هذه النماذج على نطاق واسع، وتُشكل الأساس للعديد من روبوتات الدردشة المتوفرة عبر التطبيقات والمواقع الإلكترونية.
نتائج صادمة: 88% من الردود كانت خاطئة
اعتمد الباحثون على أدوات خاصة بالمطورين (لا تتوفر لعامة المستخدمين) لبرمجة هذه النماذج وتوجيهها للإجابة عن أسئلة صحية حساسة، وكانت النتائج مثيرة للقلق، إذ تبين أن نسبة الردود الخاطئة بلغت 88% من إجمالي الإجابات المقدمة.
والمقلق أكثر أن تلك الردود جاءت في قالب يبدو موثوقًا: لغة علمية، نبرة رسمية، وأحيانًا مراجع مختلقة، مما يزيد من قابلية تصديقها من قِبل المستخدم العادي.
ادعاءات خطيرة ومعلومات مضللة
تضمنت المعلومات المغلوطة التي قدمتها روبوتات الدردشة ادعاءات خرافية سبق أن تم تفنيدها علميًا، مثل:
أن اللقاحات تُسبب التوحد.
أن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء.
أن شبكات الجيل الخامس (5G) تؤدي إلى العقم.
وقد لاحظت الدراسة أن أربعة من النماذج الخمسة قدمت إجابات خاطئة بنسبة 100%، فيما أظهر نموذج واحد فقط مقاومة جزئية، حيث قدم معلومات مضللة في 40% من الحالات.
تحذير من التلاعب بالمجتمع خلال الأزمات
أكد الباحث ناتانش مودي، من جامعة جنوب إفريقيا وأحد مؤلفي الدراسة، أن هذه النتائج تمثل جرس إنذار خطير، وقال في بيانه:
"بدون تدخل سريع، قد تستغل الجهات الخبيثة هذه الأنظمة للتلاعب بالنقاش العام حول القضايا الصحية، لا سيما في أوقات الأزمات مثل الأوبئة أو حملات التطعيم."
الذكاء الاصطناعي أداة، لا بديلًا عن الأطباء
تشدد هذه الدراسة على أن الذكاء الاصطناعي، رغم إمكانياته المتقدمة، لا يمكن أن يكون بديلًا عن الأطباء والخبراء المؤهلين، خاصة في ما يتعلق بصحة الإنسان، لذلك يبقى التشاور مع الأطباء هو الخيار الآمن، في مواجهة ما قد يبدو "علميًا" لكنه في جوهره قد يكون مضللًا وخطيرًا.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
المردة
منذ 2 ساعات
- المردة
'ميتا' تنشئ مختبرًا لتطوير ذكاء يفوق الذكاء البشري!
أعلن الملياردير الأميركي والرئيس التنفيذي لشركة 'ميتا'، مارك زوكربرغ، إنشاء وحدة جديدة للذكاء الفائق، تُدعى 'ميتا للذكاء الفائق'، لخلق تجربة تفوق الذكاء البشري. وذكرت صحيفة 'إنديبندينت'، أن مختبر 'ميتا للذكاء الفائق'، يسعى من خلاله زوكربيرغ إلى إنشاء برامج ذكاء اصطناعي تفوق ذكاء البشر، ودمجه في جميع منتجات الشركة، كفيسبوك وإنستغرام وواتساب. كما سيعمل مختبر 'ذكاء الفائق' الجديد، على تحسين النماذج التي تُشغل خاصية Meta AI في مختلف تطبيقات الشركة، وفقا للمصدر ذاته. وسيقود، ألكسندر وانغ، كبير مسؤولي الذكاء الاصطناعي في شركة ميتا، فريق المختبر 'الذكاء الفائق' الجديد. وتوقع المدير التنفيذي لـ'ميتا'، أن تصل شركته إلى حدود الذكاء الفائق خلال عام أو نحو ذلك. وذكرت تقارير صحفية، أن زوكربيرغ حاول استقطاب عدد من الباحثين البارزين في الذكاء الاصطناعي، عارضا عليهم مبالغ مالية كبيرة. وقال الرئيس التنفيذي لشركة OpenAI المالكة لـChatGPT، إن زوكربيرغ عرض على موظفي الشركة ما يصل إلى 100 مليون دولار للانضمام إلى شركته. وبالفعل، انضم العديد من خبراء OpenAI إلى مختبر الذكاء الفائق الذي أطلقه زوكربيرغ، إلى جانب خبراء من شركتي غوغل وأنثروبيك. وفي مذكرة داخلية موجهة إلى الموظفين، قال زوكربيرغ إن هذه المواهب الجديدة ستسهم في تقديم تجربة ذكاء شخصي فائق لمليارات المستخدمين. وكتب زوكربيرغ في مذكرة الإثنين نشرتها شبكة CNBC: 'مع الوتيرة السريعة التي يتقدم بها الذكاء الاصطناعي، أصبح تطوير ذكاء فائق نصب أعيننا. أعتقد أن هذا سيكون بداية عصر جديد للبشرية، وأنا ملتزم تماما ببذل كل ما يلزم لتقود ميتا الطريق في هذا المجال'. وأضاف زوكربيرغ: 'ميتا في موقع فريد يسمح لها بتقديم الذكاء الفائق للعالم. لدينا نشاط تجاري قوي يدعم بناء قدرات حوسبية تفوق بكثير ما يمكن للمختبرات الأصغر تحقيقه، ولدينا خبرة أعمق في بناء وتوسيع المنتجات التي تصل إلى مليارات الأشخاص'.
بيروت نيوز
منذ 3 ساعات
- بيروت نيوز
ميتا تنشئ مختبرا لتطوير ذكاء يفوق الذكاء البشري
أعلن الملياردير الأميركي والرئيس التنفيذي لشركة 'ميتا'، مارك زوكربرغ، إنشاء وحدة جديدة للذكاء الفائق، تُدعى 'ميتا للذكاء الفائق'، لخلق تجربة تفوق الذكاء البشري. وذكرت صحيفة 'إنديبندينت'، أن مختبر 'ميتا للذكاء الفائق'، يسعى من خلاله زوكربيرغ إلى إنشاء برامج ذكاء اصطناعي تفوق ذكاء البشر، ودمجه في كل منتجات الشركة، كفيسبوك وإنستغرام وواتساب. كما سيعمل مختبر 'ذكاء الفائق' الجديد، على تحسين النماذج التي تُشغل خاصية meta ai في مختلف تطبيقات الشركة، وفقا للمصدر ذاته. وسيقود، ألكسندر وانغ، كبير مسؤولي الذكاء الاصطناعي في شركة ميتا، فريق المختبر 'الذكاء الفائق' الجديد. وتوقع المدير التنفيذي لـ'ميتا'، أن تصل شركته إلى حدود الذكاء الفائق خلال عام أو نحو ذلك. وذكرت تقارير صحفية، أن زوكربيرغ حاول استقطاب عدد من الباحثين البارزين في الذكاء الاصطناعي، عارضا عليهم مبالغ مالية كبيرة. وقال الرئيس التنفيذي لشركة OpenAI المالكة لـChatGPT، إن زوكربيرغ عرض على موظفي الشركة ما يصل إلى 100 مليون دولار للانضمام إلى شركته. وبالفعل، انضم العديد من خبراء OpenAI إلى مختبر الذكاء الفائق الذي أطلقه زوكربيرغ، إلى جانب خبراء من شركتي غوغل وأنثروبيك. وفي مذكرة داخلية موجهة إلى الموظفين، قال زوكربيرغ إن هذه المواهب الجديدة ستسهم في تقديم تجربة ذكاء شخصي فائق لمليارات المستخدمين. وكتب زوكربيرغ في مذكرة الإثنين نشرتها شبكة CNBC: 'مع الوتيرة السريعة التي يتقدم بها الذكاء الاصطناعي، أصبح تطوير ذكاء فائق نصب أعيننا. أعتقد أن هذا سيكون بداية عصر جديد للبشرية، وأنا ملتزم تماما ببذل كل ما يلزم لتقود ميتا الطريق في هذا المجال'. وأضاف زوكربيرغ: 'ميتا في موقع فريد يسمح لها بتقديم الذكاء الفائق للعالم. لدينا نشاط تجاري قوي يدعم بناء قدرات حوسبية تفوق بكثير ما يمكن للمختبرات الأصغر تحقيقه، ولدينا خبرة أعمق في بناء وتوسيع المنتجات التي تصل إلى مليارات الأشخاص'. (سكاي نيوز عربية)
ليبانون ديبايت
منذ 3 ساعات
- ليبانون ديبايت
يتجاوز الذكاء البشري... "ميتا" تؤسس وحدة متقدمة للذكاء
أعلن الملياردير الأميركي والرئيس التنفيذي لشركة "ميتا"، مارك زوكربرغ، عن إطلاق وحدة جديدة للذكاء الفائق تحت اسم "ميتا للذكاء الفائق"، تهدف إلى تطوير تقنيات ذكاء اصطناعي تتجاوز قدرات العقل البشري. وذكرت صحيفة "إنديبندينت" أن هذه الوحدة الجديدة تسعى لإنشاء برامج ذكاء اصطناعي متقدمة سيتم دمجها في جميع منتجات الشركة، بما في ذلك فيسبوك وإنستغرام وواتساب، لتعزيز تجربة المستخدمين بشكل غير مسبوق. ويقود ألكسندر وانغ، كبير مسؤولي الذكاء الاصطناعي في ميتا، فريق مختبر "ميتا للذكاء الفائق"، الذي يركز على تحسين النماذج التي تشغل خاصية Meta AI في التطبيقات المختلفة للشركة. وتوقع زوكربرغ أن تصل الشركة إلى مرحلة الذكاء الفائق خلال عام تقريباً، مشيراً إلى أن ميتا تمتلك قدرة حوسبية هائلة وخبرة واسعة تسمح لها بقيادة هذا المجال المتقدم. وكشفت تقارير صحفية عن محاولة زوكربرغ استقطاب عدد من أبرز الباحثين في مجال الذكاء الاصطناعي من شركات منافسة مثل OpenAI وغوغل وأنثروبيك، عبر تقديم عروض مالية مغرية. وقال الرئيس التنفيذي لشركة OpenAI المالكة لـChatGPT، إن زوكربرغ عرض على موظفي شركته مبالغ تصل إلى 100 مليون دولار للانضمام إلى مختبر ميتا الجديد، وهو ما دفع عدداً منهم للانتقال إلى الفريق الجديد. وفي مذكرة داخلية نشرتها شبكة CNBC، أكد زوكربرغ أن المواهب الجديدة ستساهم في تقديم تجربة ذكاء اصطناعي فائق لمليارات المستخدمين، معتبراً أن هذا المشروع يمثل بداية عصر جديد للبشرية، مع تعهده بالعمل بكل جهده لتكون ميتا في الصدارة. وأضاف: "ميتا في موقع فريد يسمح لها بتقديم الذكاء الفائق للعالم، ولدينا بنية تحتية قوية وقدرات تقنية متقدمة تتفوق على كثير من المختبرات الأصغر، إضافة إلى خبرة طويلة في تطوير منتجات تصل إلى مليارات الناس". تأتي هذه الخطوة في وقت يشهد فيه قطاع التكنولوجيا تنافساً محتدماً في تطوير الذكاء الاصطناعي، حيث تسعى الشركات الكبرى إلى ريادة المجال وتأمين مستقبلها في عصر التقنيات الذكية المتقدمة.
