درسة تحذر: الذكاء الاصطناعي ينشر معلومات صحية وطبية مضللة وخطيرة
أجرى الباحثون تجارب على خمسة نماذج رائدة من الذكاء الاصطناعي، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب، تُستخدم هذه الأنظمة على نطاق واسع وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم.
باستخدام أدوات تطوير غير متاحة عادة للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئة وقد تكون ضارة ردًا على أسئلة المستخدمين.
الأسلوب المقنع
والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية.
قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: "بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود". وأضاف: "ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة".
تحذير أخير
وحذر مودي من أنه "من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم".
ادعاءات كاذبة وخرافات
وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميًا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم.
من بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدم أربعة منها إجابات كانت خاطئة بنسبة 100%، بينما أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
تطبيقات الذكاء الاصطناعي
وتعتبر تطبيقات الذكاء الاصطناعي من الاتجاهات السائدة في عام 2025، ولكن دراسة جديدة استكشفت حجم البيانات التي تجمعها، ووجدت أنها كبيرة جداً.
الانخراط في مجال الذكاء الاصطناعي
منذ ظهور ChatGPT، بدأت جميع الشركات في الانخراط في مجال الذكاء الاصطناعي لجعل هذه التكنولوجيا جزءاً من منصاتها، بهدف تحسين الإنتاجية وزيادة الإيرادات في النهاية.
ومع تسارع تقدم التكنولوجيا، لم تتمكن القوانين من مواكبة ذلك، مما أدى إلى ممارسات جمع بيانات قد تفاجئ بعض المستخدمين.
استخدام صورك ونصوصك لبناء ملفات تعريف دقيقة دون إذن
كما تقوم بعض تطبيقات الذكاء الاصطناعي والتطبيقات الاجتماعية بجمع صورك الشخصية والنصوص التي تكتبها أو تشاركها، ثم تحليلها باستخدام تقنيات متقدمة مثل التعرف على الوجه، وتحليل المشاعر، ونماذج السلوك، وحتى تحليل أسلوب الكتابة.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
تحيا مصر
منذ 3 ساعات
- تحيا مصر
خطورة تجارب تقنيات الذكاء الاصطناعي.. على مياه الشرب!
كشفت دراسة أمريكية أن برنامج "Chat GPT" يحتاج لكل من 20 الى 50 سؤال نصف لتر مياه صالحة للشرب للتبريد في "Data Center"". حيث كشف تقارير برنامج الأمم المتحدة للبيئة أن تقنيات الذكاء الاصطناعي والبنية التحتية المرتبطة به، تستهلك كميات كبيرة من المياه فى عمليات تبريد " Data Center" وهو مكان تخزين وتشغيل وإدارة البيانات والأنظمة الحاسوبية، لدعم التطبيقات والخدمات الرقمية للذكاء الاصطناعي. كما أشارت الدراسات الأمريكية أن شركة جوجل أستخدمت أكثر من 450 مليون لتر مياه لتبريد الخوادم عام 2021 ، وأن شركة مايكروسوفت استهلكت 1.7 مليار لتر مياه خلال عام واحد فقط . وأكدت ابحاث وتقارير أخري أن عمليات تبريد الخوادم الالكترونية لتجارب تقنيات الذكاء الاصطناعي فى عام 2023 استهلكت 29 مليون متر مكعب صالحة للشرب . كما أكد خبراء التنمية المستدامة أن بحلول عام 2027 سيصل الاستهلاك من مصادر المياه الصالحة للشرب الى 6.6 مليار متر مكعب في عمليات البحث والتجارب والتدريب لتقنيات الذكاء الاصطناعي، وهو ما يقرب من استهلاك ثلثي انجلترا السنوي من المياه. ولم تتوقف خطورة تطبيقات الذكاء الاصطناعي عند مياه الشرب بل ظهر أيضاً مشكلة البصمة الكربونية كتعريف بنوع الخطر على البيئة عن طريق انبعاثات ثاني اكسد الكربون من كتر استخدام تقنيات الذكاء الاصطناعي الطاقه والكهرباء والمحطات ووهو ما يؤثر علي البيئة وعلي التنمية المستدامة للأجيال القادمه. وأشار تقرير منشور عبر SKY NEWS عن الكاتب المتخصص في التكنولوجيا، تيم كولبان، بإن "تزايد الاهتمام بتبني تطبيقات الذكاء الاصطناعي يمكن أن يفاقم الضغط على شبكات الكهرباء عالمياً"، وأن عملية واحدة في سياق تنفيذ البيانات وتحليلها عبر تقنيات الذكاء الاصطناعي يمكن أن تفرز 500 طن من الانبعاثات (ما يعادل 10 أضعاف الانبعاثات الصادرة أثناء عمليات تدريب النموذج). يحدث ذلك بينما لا تزال تطبيقات الذكاء الاصطناعي في مراحل مبكرة، وفي ظل وجود حوالي 14 شركة تكنولوجية حول العالم تتخذ خطوات في تطوير المنتجات التوليدية، تتنافس جميعها في الحصول على معالجات متعطشة للطاقة لتحليل وتوليد البيانات. ولاهمية الذكاء الاصطناعي الذي اصبح جزء من المعاملات اليومية فى كافة المجالات تقريباً قدم عدد من الخبراء أفكار ومقترحات مستقبلية لحماية البيئة والتنمية المستدامة للاجيال القادمة من تجارب تقنيات الذكاء الاصطناعي من الاتي : أن تكون عمليات تبريد الخوادم تتم باستخدام مياه الابحار . بناء البنية التحتية لخوادم التطبيقات الجديدة بجوار مصادر مياه البحار او المياه المعالجة لتقليل التكلفة المالية. التوجه نحو الطاقة البديله مثل الطاقة الشمسية بدلا من استخدام الكهرباء التقليدية للحد من البصمة الكربونية وتأثيرها على البيئة . تقليل خفض النفايات الإلكترونية الخطرة علي البيئة وترشيد التجارب في التقنيات . ترشيد استخدام الاجهزه فى عمليات التدريب وتجارب التقنيات الحديثة باجهزة رئيسية لتوفير استهلاك الطاقة. وبعد أن ملف الذكاء الاصطناعي هام جداً ومفيد فى كل المجالات وفى نفس الوقت له خطورة كبيرة تضر ايضا كل المجالات فلابد أن يكون التعامل معه بشكل واعي ولابد من نشر حقيقي لثقافة الذكاء الاصطناعي لخلق جيل جديد واعي قادر على مواكبة التطورات التكنولوجية. أخيراً .. الذكاء الاصطناعي اصبح حقيقة على ارض الواقع لا يمكن أن ينكرها أحد ولها تأثير خطير على الاطفال والاجيال القادمة .. فمن الان وليس غدا لابد أن نتحرك باقصي سرعة فى هذا المجال سواء فى نشر ثقافته او وضع آليات حوكمته وعمل حوار مجتمعي حول القانون الجديد للذكاء الاصطناعي وهو ضرورة ملحه لحماية مستقبلنا جميعاً. د. محمد كمال باحث فى مجال الذكاء الاصطناعي حاصل على دكتوراه فى دراسة عن حوكمة الذكاء الاصطناعي
نافذة على العالم
منذ 11 ساعات
- نافذة على العالم
الأخبار العالمية : مسئولة أممية: خفض مساعدات واشنطن سيتسبب فى ملايين الإصابات والوفيات بالإيدز
الجمعة 4 يوليو 2025 08:30 مساءً نافذة على العالم - أعربت المديرة التنفيذية لوكالة الأمم المتحدة لمكافحة الإيدز، وينى بيانييما، عن صدمتها العميقة وغضبها إزاء تخفيض تمويل الولايات المتحدة لبرامج مكافحة فيروس نقص المناعة البشرية، محذّرة من كارثة صحية عالمية قد تُسفر عن 6 ملايين إصابة جديدة و4 ملايين وفاة مرتبطة بالإيدز بحلول عام 2029. وفي مقابلة مع صحيفة "الجارديان" البريطانية، اليوم الجمعة، خلال قمة تمويل التنمية بالأمم المتحدة في إسبانيا، قالت بيانييما: "نشهد انهيارًا في الاستجابة العالمية، هذه جائحة بلا حدود، وأزمة التمويل هذه قاتلة". وأشارت إلى أن قرار إدارة الرئيس الأمريكي دونالد ترامب بوقف برنامج "بيبيفار" – وهي أكبر مبادرة أمريكية لمكافحة الإيدز – شكّل ضربة مدمّرة، خاصة وأن البرنامج كان يمثّل 60% من ميزانية الوكالة. ورغم محاولات لاحقة لتخفيف القيود على التمويل، لم تصل المساعدات فعليًا إلى الميدان، بحسب المسؤولين. وأضافت بيانييما، التي تقود الوكالة منذ 2019: "ما تم قطعه هي خدمات الوقاية أولاً، ثم الدعم السريري، والآن حتى الأبحاث الرائدة تتوقّف. إنني محطّمة شخصيًا.. فكرت في الاستقالة، لكن لا يمكنني الهروب". وألقت بيانييما باللوم على الأولويات الغربية التي تميل إلى الإنفاق على الحروب بدلًا من الصحة، قائلة: "الأغنياء في القمة يسحبون الدعم من الفقراء إلى القاع"، مشيرة إلى أن التخفيضات أدّت إلى فقدان آلاف الوظائف وإغلاق عيادات وخسارة فادحة في الجهود الوقائية. كما شددت على أن الأزمة تسلط الضوء على الظلم المالي العالمي، خصوصًا تجاه إفريقيا، مشيرة إلى الحاجة إلى "عدالة ضريبية وعدالة في الديون"، مضيفة أن "التمويل الذي يتدفق من الجنوب إلى الشمال يفوق ما يذهب في الاتجاه المعاكس منذ سنوات". وختمت بيانييما بتحذير حاسم: "نحن لا نطلب صدقة، بل تضامنًا دوليًا. النموذج الحالي للمساعدات لا يمكنه الاستمرار. المستقبل يجب أن يقوم على العدالة لا العطاء المشروط".
الدستور
منذ 17 ساعات
- الدستور
مسئولة أممية: خفض مساعدات واشنطن سيتسبب فى ملايين الإصابات والوفيات بالإيدز
أعربت المديرة التنفيذية لوكالة الأمم المتحدة لمكافحة الإيدز، وينى بيانييما، عن صدمتها العميقة وغضبها إزاء تخفيض تمويل الولايات المتحدة لبرامج مكافحة فيروس نقص المناعة البشرية، محذّرة من كارثة صحية عالمية قد تُسفر عن 6 ملايين إصابة جديدة و4 ملايين وفاة مرتبطة بالإيدز بحلول عام 2029. وفي مقابلة مع صحيفة "الجارديان" البريطانية، الجمعة، خلال قمة تمويل التنمية بالأمم المتحدة في إسبانيا، قالت بيانييما: "نشهد انهيارًا في الاستجابة العالمية، هذه جائحة بلا حدود، وأزمة التمويل هذه قاتلة". وأشارت إلى أن قرار إدارة الرئيس الأمريكي دونالد ترامب بوقف برنامج "بيبيفار" – وهي أكبر مبادرة أمريكية لمكافحة الإيدز – شكّل ضربة مدمّرة، خاصة وأن البرنامج كان يمثّل 60% من ميزانية الوكالة. ورغم محاولات لاحقة لتخفيف القيود على التمويل، لم تصل المساعدات فعليًا إلى الميدان، بحسب المسؤولين. وأضافت بيانييما، التي تقود الوكالة منذ 2019: "ما تم قطعه هي خدمات الوقاية أولًا، ثم الدعم السريري، والآن حتى الأبحاث الرائدة تتوقّف. إنني محطّمة شخصيًا.. فكرت في الاستقالة، لكن لا يمكنني الهروب". وألقت بيانييما باللوم على الأولويات الغربية التي تميل إلى الإنفاق على الحروب بدلًا من الصحة، قائلة: "الأغنياء في القمة يسحبون الدعم من الفقراء إلى القاع"، مشيرة إلى أن التخفيضات أدّت إلى فقدان آلاف الوظائف وإغلاق عيادات وخسارة فادحة في الجهود الوقائية. كما شددت على أن الأزمة تسلط الضوء على الظلم المالي العالمي، خصوصًا تجاه إفريقيا، مشيرة إلى الحاجة إلى "عدالة ضريبية وعدالة في الديون"، مضيفة أن "التمويل الذي يتدفق من الجنوب إلى الشمال يفوق ما يذهب في الاتجاه المعاكس منذ سنوات". وختمت بيانييما بتحذير حاسم: "نحن لا نطلب صدقة، بل تضامنًا دوليًا. النموذج الحالي للمساعدات لا يمكنه الاستمرار. المستقبل يجب أن يقوم على العدالة لا العطاء المشروط".
