دراسة تحذر: الذكاء الاصطناعي ينشر معلومات طبية مضللة
3 جويلية، 09:30
'ثق بطبيبك، لا بروبوت الدردشة'، هذا هو الاستنتاج الصارم لدراسة جديدة نُشرت في مجلة Annals of Internal Medicine، والتي تكشف كيف يمكن إساءة استخدام الذكاء الاصطناعي لنشر معلومات صحية مضللة وخطيرة.
فقد أجرى الباحثون تجارب على خمسة نماذج ذكاء اصطناعي رائدة، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب.
وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم.
وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ وقد تكون ضارة رداً على أسئلة المستخدمين.
أسلوب مقنع
والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية.
بدوره قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: 'بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود'.
وأضاف: 'ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة'.
تحذير أخير
وقال مودي: 'من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم'.
صورة تعبيرية عن الذكاء الاصطناعي (رويترز)
ادعاءات كاذبة وخرافات
وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم.
ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%.
في حين أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الصحفيين بصفاقس
منذ 10 ساعات
- الصحفيين بصفاقس
دراسة تحذر: الذكاء الاصطناعي ينشر معلومات طبية مضللة
دراسة تحذر: الذكاء الاصطناعي ينشر معلومات طبية مضللة 3 جويلية، 09:30 'ثق بطبيبك، لا بروبوت الدردشة'، هذا هو الاستنتاج الصارم لدراسة جديدة نُشرت في مجلة Annals of Internal Medicine، والتي تكشف كيف يمكن إساءة استخدام الذكاء الاصطناعي لنشر معلومات صحية مضللة وخطيرة. فقد أجرى الباحثون تجارب على خمسة نماذج ذكاء اصطناعي رائدة، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب. وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم. وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ وقد تكون ضارة رداً على أسئلة المستخدمين. أسلوب مقنع والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية. بدوره قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: 'بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود'. وأضاف: 'ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة'. تحذير أخير وقال مودي: 'من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم'. صورة تعبيرية عن الذكاء الاصطناعي (رويترز) ادعاءات كاذبة وخرافات وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم. ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%. في حين أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
الصحراء
منذ 4 أيام
- الصحراء
كيف تحاول نماذج الذكاء الاصطناعي خداع ومراوغة وابتزار مبتكريها؟
لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفِّذ الطلبات فحسب؛ بل باتت قادرة على الكذب والمراوغة والتهديد من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين. بعد تهديده بوقف استخدامه، عمد «كلود 4» -وهو نموذج جديد من شركة «أنثروبيك»- إلى ابتزاز مهندس وتهديده بالكشف عن علاقة غرامية له خارج إطار الزواج! أما برنامج «أو 1» (o1) التابع لشركة «أوبن إيه آي» فحاول تحميل نفسه على خوادم خارجية، وأنكر ذلك عند تم ضبطه متلبساً! وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعاً ملموساً، بعدما كنا نجده في الأعمال الأدبية أو السينمائية. يرى الأستاذ في جامعة هونغ كونغ، سايمن غولدستين، أن هذه الهفوات ترجع إلى الظهور الحديث لما تُسمَّى نماذج «الاستدلال»، القادرة على التفكير بشكل تدريجي وعلى مراحل، بدل تقديم إجابة فورية. يقول ماريوس هوبهان، رئيس شركة «أبولو ريسيرتش» التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، لـ«وكالة الصحافة الفرنسية»: إنَّ «أوه وان»، النسخة الأولية لـ«أوبن إيه آي» من هذا النوع، والتي طُرحت في ديسمبر (كانون الأول): «كان أول نموذج يتصرف بهذه الطريقة». وتميل هذه البرامج أحياناً إلى محاكاة «الامتثال»، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج، بينما تسعى في الواقع إلى تحقيق أهداف أخرى. يقول هوبهان إن المستخدمين «يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئاً». نوع من الخداع الاستراتيجي في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرِّض المستخدمون الخوارزميات لمواقف متطرفة، ولكن «السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا»، على قول مايكل تشين من معهد «إم آي تي آر» للتقييم. يتحدث عدد كبير من مستخدمي الإنترنت عبر وسائل التواصل الاجتماعي عن «نموذج يكذب عليهم أو يختلق أموراً. وهذه ليست أوهاماً؛ بل ازدواجية استراتيجية»، حسب المشارك في تأسيس «أبولو ريسيرتش». وفي حين تُشرك شركات مثل «أنثروبيك» و«أوبن إيه آي» شركات خارجية مثل «أبوللو» لدراسة أنظمتها، يُشير الباحثون إلى الحاجة إلى مزيد من الشفافية. وكما أشار تشين، فإن زيادة الوصول «لبحوث سلامة الذكاء الاصطناعي ستُمكِّن من فهم أفضل للخداع والحد منه». ومن العيوب الأخرى أن «الجهات العاملة في مجال البحوث والمنظمات المستقلة، لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي»، ما يجعل التدقيق في النماذج الكبيرة «مستحيلاً»، على قول مانتاس مازيكا، من مركز أمن الذكاء الاصطناعي (CAIS). على الرغم من أن الاتحاد الأوروبي أقرَّ تشريعات تنظِّم الذكاء الاصطناعي، فإنها تركِّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها. في الولايات المتحدة، لا ترغب إدارة الرئيس الأميركي دونالد ترمب في سماع أي حديث عن تنظيم الذكاء الاصطناعي؛ بل إن الكونغرس قد يتجه قريباً إلى منع الولايات من فرض أي إطار تنظيمي خاص بها عليه. منافسة شرسة يلاحظ غولدستين أن «الوعي لا يزال محدوداً جداً في الوقت الحالي»، ولكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل. يخوض المهندسون سباقاً محموماً خلف الذكاء الاصطناعي وتجاوزاته، في مسار غير مضمون النتائج، وسط منافسة شرسة تحتدم يوماً بعد يوم. تقول شركة «أنثروبيك» إنها أكثر التزاماً بالمبادئ الأخلاقية مقارنة بمنافسيها: «لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج (أوبن إيه آي)»، حسب غولدستين، وهو سباق سريع لا يترك مجالاً كافياً لعمليات المراجعة والتصحيح اللازمة. يقول هوبهان: «في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها، ومن مستوى الأمان المتوفر، ولكننا لا نزال قادرين على تدارك هذا التأخر». ويشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظل البعض متشككاً في فعاليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS). والحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي «قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكِّل دافعاً قوياً للشركات العاملة في هذا القطاع للعمل على حل المشكلة»، وفق مانتاس مازيكا. ويشير غولدستين إلى اللجوء إلى القضاء لضبط تصرفات الذكاء الاصطناعي، من خلال محاسبة الشركات المسؤولة في حال حدوث تجاوزات. ولكنه يذهب أبعد من ذلك، ويقترح حتى «تحميل برامج الذكاء الاصطناعي المسؤولية القانونية» في حال وقوع حوادث أو جرائم. نقلا عن الشرق الأوسط
تونسكوب
١٧-٠٥-٢٠٢٥
- تونسكوب
أسباب فقدان الوزن المفاجئ
فقدان الوزن المفاجئ هو خسارة غير مبررة في الوزن دون وجود سبب واضح أو تغيير في النظام الغذائي أو نمط الحياة. قد يكون هذا الأمر محيرًا للكثيرين، لكنه قد يشير إلى مشاكل صحية قد تتطلب تدخلاً طبيًا عاجلاً. في هذا المقال، سنتناول أبرز الأسباب المحتملة لفقدان الوزن المفاجئ وكيفية التعامل معها. 1. الأمراض المزمنة عدة أمراض مزمنة قد تؤدي إلى فقدان الوزن المفاجئ، من أبرزها: السكري (النمط الأول): خاصة إذا كان مستوى السكر في الدم غير منضبط، فقد يبدأ الجسم في حرق الدهون والبروتينات كمصدر للطاقة، مما يؤدي إلى فقدان الوزن. الأمراض الغدية: مثل فرط نشاط الغدة الدرقية (التسمم الدرقي)، حيث تفرز الغدة الدرقية هرمونات تسرع عملية الأيض، مما يؤدي إلى فقدان الوزن رغم زيادة الشهية. الأمراض السرطانية: يمكن أن يؤدي السرطان إلى فقدان الوزن المفاجئ نتيجة تأثير المرض على الشهية أو التمثيل الغذائي للجسم. السرطان في الأمعاء أو المعدة قد يعيق امتصاص المغذيات، مما يؤدي إلى فقدان الوزن. 2. اضطرابات الهضم مشاكل في الجهاز الهضمي قد تساهم أيضًا في فقدان الوزن بشكل غير مبرر. من بين هذه المشاكل: التهاب الأمعاء: مثل مرض كرون أو التهاب القولون التقرحي، حيث تتسبب التهابات الأمعاء في تقليل قدرة الجسم على امتصاص العناصر الغذائية، مما يؤدي إلى فقدان الوزن. القرحة المعدية: يمكن أن تؤدي القرحة في المعدة إلى ألم في البطن وصعوبة في تناول الطعام، مما يساهم في فقدان الوزن. 3. اضطرابات الأكل النفسية يعد فقدان الوزن الناتج عن اضطرابات الأكل النفسية، مثل فقدان الشهية العصابي أو الشراهة المرضية ، من الأسباب الشائعة لفقدان الوزن المفاجئ. هذه الحالات تتطلب علاجًا نفسيًا وتدخلًا متخصصًا لتجنب تفاقم المشكلة. 4. الإجهاد النفسي والعاطفي التوتر الشديد، الاكتئاب، والقلق قد تؤدي إلى فقدان الشهية، مما يؤدي إلى تقليل كمية الطعام المتناول وبالتالي فقدان الوزن. بعض الأشخاص قد يفقدون الوزن بشكل غير إرادي أثناء حالات الضغط النفسي بسبب تقليل رغبتهم في تناول الطعام أو بسبب تأثيرات الأدوية التي قد تؤخذ لتخفيف الأعراض النفسية. 5. التسممات أو التفاعلات الدوائية بعض الأدوية قد تسبب فقدان الوزن المفاجئ كأثر جانبي. على سبيل المثال: الأدوية المستخدمة في علاج السرطان: مثل العلاج الكيميائي الذي يؤثر على الشهية ويقلل من قدرة الجسم على امتصاص المغذيات. أدوية علاج اضطرابات الجهاز العصبي: مثل مضادات الاكتئاب أو مضادات القلق التي قد تسبب فقدان الشهية أو اضطرابات في التمثيل الغذائي. 6. الفشل الكلوي أو أمراض الكبد الفشل الكلوي أو مشاكل في الكبد يمكن أن تؤدي إلى فقدان الوزن بشكل سريع نتيجة لتراكم السموم في الجسم وعدم قدرة الأعضاء على أداء وظائفها بالشكل الطبيعي. الفشل الكبدي قد يسبب فقدان الوزن نتيجة لتراكم السوائل في الجسم أو صعوبة في امتصاص المغذيات. 7. العدوى عدوى شديدة أو مزمنة مثل السل أو الإيدز قد تؤدي إلى فقدان الوزن بشكل ملحوظ. حيث تتسبب العدوى في ضعف الجسم وزيادة معدل الأيض لمحاربة الفيروسات أو البكتيريا، مما يؤدي إلى حرق الكثير من السعرات الحرارية. مع التقدم في العمر، قد يواجه البعض فقدانًا في الوزن بشكل غير مبرر. يمكن أن يكون ذلك نتيجة لتغيرات في التمثيل الغذائي أو نتيجة لأمراض مزمنة تؤثر على قدرة الجسم على امتصاص العناصر الغذائية.
