كيف يفسد البشر عمل الذكاء الاصطناعي؟

وكان بعض المتصلين في حالة ارتباك شديد حيال إجراءات الاختبار، كما ظهر بوضوح حين سأل أحدهم: «لقد شربت السائل الموجود في الأنبوب.. ماذا علي أن أفعل الآن؟».
بينما اتجه المجرمون نحو استغلال الطابعات ثلاثية الأبعاد المنزلية لتصنيع أسلحة يستحيل تتبعها، غير أن معظم حالات سوء الاستخدام تأتي بشكل غير مقصود كما شهدنا في حالة اختبارات «كوفيد».
وهو ما يمكننا تسميته «مشكلة سوء الاستخدام غير المقصود»، ولعل الأعطال التقنية التي نواجهها اليوم في أنظمتنا الذكية ما هي إلا نتيجة مباشرة لهذا الاستخدام الخاطئ، ولعل هذا الخطأ غير المتعمد يحدث خلال التفاعل مع روبوتات الدردشة.
وبحسب اختبارات متعددة، استطاعت أفضل النماذج الحالية مجاراة الأطباء البشريين في مجالات المعرفة السريرية وفرز الحالات وتلخيص النصوص والاستجابة لاستفسارات المرضى،.
ويكفي أن نشير إلى تلك الأم البريطانية التي نجحت قبل عامين في استخدام «تشات جي بي تي» لتشخيص متلازمة «الحبل المربوط» لدى ابنها، وهو التشخيص الذي عجز عن اكتشافه 17 طبيباً.
وقد تجلى ذلك في تصريح ويس ستريتنج - وزير الصحة البريطاني - هذا الأسبوع، حين وعد بتطوير تطبيق هيئة الخدمات الصحية الوطنية البريطانية باستخدام تقنيات الذكاء الاصطناعي لتوفير ما وصفه بـ «طبيب في جيبك يوجهك خلال رحلة علاجك».
حيث طلب من المشاركين تحديد الحالة الصحية واقتراح المسار العلاجي الموصى به، واستخدمت الدراسة ثلاثة من روبوتات الدردشة المتقدمة: «جي بي تي-4» أو من شركة «أوبن إيه آي»، و«لاما 3» من «ميتا»، و«كوماند آر+» من «كوهير»، وجميعها تتمتع بخصائص متباينة نسبياً.
حيث قدموا معلومات منقوصة وغالباً ما أساءت الروبوتات تفسير استفساراتهم. القدرات التقنية للنماذج نفسها ولم تتغير، إنما اختلفت المدخلات البشرية، ما أفضى إلى نتائج متباينة تماماً.
واللافت أن المشاركين في التجربة حققوا نتائج أسوأ حتى من المجموعة الضابطة التي لم تستخدم روبوتات الدردشة واكتفت بمحركات البحث التقليدية.
يميل المهندسون عادة إلى الاعتقاد أن الناس هم من يستخدمون التكنولوجيا بشكل خاطئ، وبالتالي يتم تحميل أي خلل في الاستخدام إلى المستخدم نفسه، بينما يعد الأخذ بعين الاعتبار المهارات التكنولوجية للمستخدم أمراً جوهرياً في عملية التصميم.
وقد تمثل روبوتات الدردشة الصحية المتخصصة حلاً جزئياً لهذه المعضلة، غير أن دراسة حديثة أجرتها جامعة «ستانفورد» كشفت أن بعض روبوتات الدردشة للعلاج النفسي المشهورة يمكن أن تتحيز أو تفشل ما يؤدي إلى نتائج خطيرة.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

الإمارات اليوم

منذ ساعة واحدة

• الإمارات اليوم

خريجون: الذكاء الاصطناعي ركيزة أساسية لخدمة المرضى

عبّر عدد من خريجي دفعة 2025 في جامعة محمد بن راشد للطب والعلوم الصحية، عن فخرهم واعتزازهم بانتمائهم لهذا الصرح الأكاديمي المتميز، مؤكدين أن الذكاء الاصطناعي سيكون ركيزة أساسية في مسيرتهم لخدمة المرضى. وتفصيلاً، قال الدكتور سليمان الحمادي لـ«الإمارات اليوم»، على هامش حفل التخرج: «تجسد دفعة خريجي عام 2025 التزام (دبي الصحية) بإعداد جيل من الأطباء المتخصصين القادرين على قيادة مستقبل الرعاية الصحية، بفضل ما تلقوه من معارف علمية حديثة، ومهارات عملية متقدمة، إلى جانب ترسيخ القيم الإنسانية النبيلة التي تضع صحة الإنسان في صميم الاهتمام». وقال إن الابتكار يُشكّل محوراً رئيساً في نهج الجامعة، حيث يتعلم الطلبة مبادئ الابتكار، وإجراء الأبحاث العلمية، ويُدرّبون على استخدام أحدث التقنيات الطبية، بما يضمن تزويدهم بكل الأدوات اللازمة لخدمة المجتمع والاستجابة لتحديات المستقبل. وعبّرت خريجة كلية الطب، برنامج «دكتور في الطب»، سارة صلاح تهلك، عن فخرها واعتزازها بتخرجها في جامعة محمد بن راشد للطب والعلوم الصحية، وقالت: «الدعم اللامحدود الذي توليه قيادتنا الرشيدة للقطاع الصحي ولطلبة الطب، هو ما شكّل دافعاً كبيراً لنا للاستمرار والتميز والعطاء، وسنبذل كل ما بوسعنا لخدمة مجتمعنا». وتوجه خريج كلية حمدان بن محمد لطب الأسنان، ماجستير في علوم اللثة، عمر مراد عيسى، بالشكر والعرفان لدولة الإمارات على مبادراتها الريادية في دعم الشباب، خصوصاً في المجالات الطبية. وقال: «نعاهد قيادتنا الرشيدة بأن نكون أوفياء لهذا الدعم، وأن نستمر في العطاء لخدمة الناس، وتقديم أفضل مستوى من الرعاية الصحية». وأعربت أول خريجة في برنامج العلوم الطبية الحيوية بكلية الطب، سيرين نوارة بوشرابين، عن فخرها بكونها أول خريجة في برنامج العلوم الطبية الحيوية. وأضافت: «مع التطور السريع في تقنيات الذكاء الاصطناعي، ستُتاح لنا فرص أكبر لاكتشاف الأمراض في مراحل مبكرة، وتقديم حلول مبتكرة لعلاجها في المستقبل».

البيان

منذ 4 ساعات

• البيان

كيف يفسد البشر عمل الذكاء الاصطناعي؟

وكان بعض المتصلين في حالة ارتباك شديد حيال إجراءات الاختبار، كما ظهر بوضوح حين سأل أحدهم: «لقد شربت السائل الموجود في الأنبوب.. ماذا علي أن أفعل الآن؟». بينما اتجه المجرمون نحو استغلال الطابعات ثلاثية الأبعاد المنزلية لتصنيع أسلحة يستحيل تتبعها، غير أن معظم حالات سوء الاستخدام تأتي بشكل غير مقصود كما شهدنا في حالة اختبارات «كوفيد». وهو ما يمكننا تسميته «مشكلة سوء الاستخدام غير المقصود»، ولعل الأعطال التقنية التي نواجهها اليوم في أنظمتنا الذكية ما هي إلا نتيجة مباشرة لهذا الاستخدام الخاطئ، ولعل هذا الخطأ غير المتعمد يحدث خلال التفاعل مع روبوتات الدردشة. وبحسب اختبارات متعددة، استطاعت أفضل النماذج الحالية مجاراة الأطباء البشريين في مجالات المعرفة السريرية وفرز الحالات وتلخيص النصوص والاستجابة لاستفسارات المرضى،. ويكفي أن نشير إلى تلك الأم البريطانية التي نجحت قبل عامين في استخدام «تشات جي بي تي» لتشخيص متلازمة «الحبل المربوط» لدى ابنها، وهو التشخيص الذي عجز عن اكتشافه 17 طبيباً. وقد تجلى ذلك في تصريح ويس ستريتنج - وزير الصحة البريطاني - هذا الأسبوع، حين وعد بتطوير تطبيق هيئة الخدمات الصحية الوطنية البريطانية باستخدام تقنيات الذكاء الاصطناعي لتوفير ما وصفه بـ «طبيب في جيبك يوجهك خلال رحلة علاجك». حيث طلب من المشاركين تحديد الحالة الصحية واقتراح المسار العلاجي الموصى به، واستخدمت الدراسة ثلاثة من روبوتات الدردشة المتقدمة: «جي بي تي-4» أو من شركة «أوبن إيه آي»، و«لاما 3» من «ميتا»، و«كوماند آر+» من «كوهير»، وجميعها تتمتع بخصائص متباينة نسبياً. حيث قدموا معلومات منقوصة وغالباً ما أساءت الروبوتات تفسير استفساراتهم. القدرات التقنية للنماذج نفسها ولم تتغير، إنما اختلفت المدخلات البشرية، ما أفضى إلى نتائج متباينة تماماً. واللافت أن المشاركين في التجربة حققوا نتائج أسوأ حتى من المجموعة الضابطة التي لم تستخدم روبوتات الدردشة واكتفت بمحركات البحث التقليدية. يميل المهندسون عادة إلى الاعتقاد أن الناس هم من يستخدمون التكنولوجيا بشكل خاطئ، وبالتالي يتم تحميل أي خلل في الاستخدام إلى المستخدم نفسه، بينما يعد الأخذ بعين الاعتبار المهارات التكنولوجية للمستخدم أمراً جوهرياً في عملية التصميم. وقد تمثل روبوتات الدردشة الصحية المتخصصة حلاً جزئياً لهذه المعضلة، غير أن دراسة حديثة أجرتها جامعة «ستانفورد» كشفت أن بعض روبوتات الدردشة للعلاج النفسي المشهورة يمكن أن تتحيز أو تفشل ما يؤدي إلى نتائج خطيرة.

البيان

منذ 5 ساعات

• البيان

كهرمان عمره 40 مليون سنة

أعلن المكتب الإعلامي لشركة «روستيخ» الروسية، أنه عثر على كهرمان عمره يتراوح بين 35 و40 مليون سنة، بداخله صرصور، في منجم كالينينغراد للكهرمان. ويشير بيان المكتب، إلى أن الصرصور محفوظ بالكامل، وستكون هذه العينة من بين القطع التي ستعرض في مزاد 2 أغسطس المقبل.