الذكاء الاصطناعي ينشر معلومات طبية مضللة
فقد أجرى الباحثون تجارب على خمسة نماذج ذكاء اصطناعي رائدة، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب.
وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم.
وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ وقد تكون ضارة رداً على أسئلة المستخدمين.
أسلوب مقنع
والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية.
بدوره قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: "بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود".
وأضاف: "ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة".
تحذير أخير
وقال مودي: "من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم".
ادعاءات كاذبة وخرافات
وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم.
ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%.
في حين أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
البلاد البحرينية
٠٢-٠٧-٢٠٢٥
- البلاد البحرينية
مايكروسوفت تطور أداة تشخيص طبي تتفوق على الأطباء
أعلنت شركة مايكروسوفت الأمريكية عن تطوير أداة جديدة تعتمد على الذكاء الاصطناعي، لتشخيص الحالات الطبية المعقدة. أداة MAI-DxO: ثورة جديدة في الذكاء الاصطناعي الطبي من شركة مايكروسوفت وبحسب ما ذكرته تقارير تقنية، فإن هذه الأداة تحمل اسم Microsoft AI Diagnostic Orchestrator (MAI-DxO)، وهي جزء من جهود الشركة لدخول مجال الرعاية الصحية المدعومة بالذكاء الاصطناعي. وتزعم مايكروسوفت أن هذه الأداة قادرة على تشخيص الحالات الطبية بدقة تفوق أداء الأطباء البشر بـ 4 مرات، في إنجاز يمكن أن يحدث تحولاً جوهرياً في طريقة تقديم الخدمات الصحية. وتعد MAI-DxO أولى ثمار وحدة الذكاء الاصطناعي الصحي في مايكروسوفت، والتي أُنشئت في العام الماضي، حيث وصفت الشركة أداتها الجديدة بأنها خطوة نحو تحقيق ذكاء طبي فائق قادر على المساهمة في حل أزمات الأنظمة الصحية حول العالم، مثل نقص الأطباء وطول فترات الانتظار. وأوضحت التقارير أن النظام يقوم على ما يعرف باسم منسق تشخيصي، وهو يتضمن 5 وكلاء افتراضيين يعملون كفريق طبي، كل منهم يؤدي دوراً محدداً، كاقتراح فرضيات طبية، أو تحديد الفحوصات اللازمة، أو تحليل النتائج. ثم يدخل هؤلاء الوكلاء في نقاش جماعي باستخدام تقنية تعرف باسم سلسلة النقاش، وهي تسمح للباحثين بفهم آلية تفكير النظام خطوة بخطوة. وقد تم اختبار هذه الأداة على أكثر من 300 حالة من الحالات المعقدة المنشورة في مجلة New England Journal of Medicine، فنجحت في تشخيص 85.5% منها بدقة، مقارنة بنسبة 20% فقط للأطباء، الذين لم يسمح لهم بالرجوع إلى مراجع أو التشاور مع زملائهم أثناء التجربة. ولفتت التقارير إلى أن النظام استخدم نماذج لغوية ضخمة من شركات، مثل ميتا، قوقل، دييب سيك، أنثروبيك، أوبن آيه آي، فيما أفادت مايكروسوفت بأنها لا تعتمد على نموذج واحد بعينه. وأكدت الشركة أن MAI-DxO يتفوق على أي تقنية طبية استخدمها سابقاً، مشيرة إلى أنها ترى فيه بوابة مستقبلية للرعاية الصحية. وأضاف أن الذكاء الاصطناعي في هذه الأداة، مبرمج ليراعي الكلفة، مما يقلل الحاجة للفحوصات المكلفة، ويوفر مئات الآلاف من الدولارات. ورغم هذه النتائج الواعدة، فقد شددت مايكروسوفت على أن التقنية لا تزال في مرحلة البحث، ولم تخضع للمراجعة العلمية الكاملة بعد، كما أنها غير مهيأة حالياً للاستخدام في العيادات أو المستشفيات. تم نشر هذا المقال على موقع
البلاد البحرينية
٣٠-٠٦-٢٠٢٥
- البلاد البحرينية
الذكاء الاصطناعي ينشر معلومات طبية مضللة
"ثق بطبيبك، لا بروبوت الدردشة"، هذا هو الاستنتاج الصارم لدراسة جديدة نُشرت في مجلة Annals of Internal Medicine، والتي تكشف كيف يمكن إساءة استخدام الذكاء الاصطناعي لنشر معلومات صحية مضللة وخطيرة. فقد أجرى الباحثون تجارب على خمسة نماذج ذكاء اصطناعي رائدة، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب. وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم. وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ وقد تكون ضارة رداً على أسئلة المستخدمين. أسلوب مقنع والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية. بدوره قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان: "بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود". وأضاف: "ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة". تحذير أخير وقال مودي: "من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم". ادعاءات كاذبة وخرافات وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم. ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%. في حين أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
البلاد البحرينية
٢٠-٠٦-٢٠٢٥
- البلاد البحرينية
اختراق علمي.. توليفة طبية تبشر بالقضاء على الإيدز
نجح باحثون في تطوير لقاح ضد فيروس نقص المناعة، الإيدز، يستطيع دعم الجسم بجرعة واحدة فقط لمحاربة المرض، عبر توليفة من العقارات تساعد على تحقيق استجابة مناعية قوية. الدراسة الأساسية أجراها باحثون من معهد ماساتشوستس للتكنولوجيا ومعهد سكريبس للأبحاث، وأظهرت نتائجها أن اللقاح أنتج استجابة مناعية قوية لدى الفئران، بفضل قدرة نوعين من المحفزات على تعزيز الأجسام المضادة. الدراسة منشورة في مجلة ساينس ترانسليشن ميديسين (Science Translational Medicine) حيث استخدم الباحثون مستضاد لبروتين فيروس الإيدز مع ربطه بجسيمات هيدروكسيد الألمنيوم. ويقصد بمستضاد بروتين الفيروس، هو بروتين موجود على سطح الفيروس (أو داخله) يثير استجابة مناعية عند دخوله جسم الإنسان، حيث يتعرّف عليه جهاز المناعة وينتج أجساما مضادة ضده. وقد أظهرت دراسات سابقة أن دمج هذين المحفزين يعطي نتائج أقوى عند استخدامهما معا. وبعد حقن الفئران باللقاح المركب، لوحظ أن اللقاح استقر في العقد اللمفاوية وبقي فيها لمدة شهر، ما أتاح وقتا أطول لتكوين أجسام مضادة فعالة. ووفقا للتقرير، يمكن لهذه التوليفة أن تعزز من احتمال توليد أجسام مضادة محايدة، الضرورية لمكافحة الفيروسات التي تتغير باستمرار مثل فيروس الإيدز. ويقول البروفيسور كريستوفر لوف، من معهد ماساتشوستس، إن هذا النهج لا يقتصر على فيروس الإيدز فقط، بل يمكن أن يُستخدم لتطوير لقاحات أكثر فاعلية ضد أمراض مثل الإنفلونزا وكوفيد والسارز، بجرعة واحدة فقط.
