"غروك" فشل في التحقق من صحة معلومات حول حرب إيران وإسرائيل

مع تقليص منصات التكنولوجيا اعتمادها على مدققي الحقائق البشريين، يتزايد استخدام المستخدمين
لروبوتات الدردشة
المدعومة بالذكاء الاصطناعي بحثاً عن معلومات موثوق بها، لكن ردودها غالباً ما تكون مضلّلة. مثلاً أظهرت دراسة أن روبوت الدردشة غروك من شركة إكس إيه آي، التي يملكها إيلون ماسك، يعاني "عيوباً" في التحقق من صحة المعلومات حول الحرب بين إسرائيل وإيران.
وأفادت الدراسة الصادرة عن مختبر أبحاث الطب الشرعي الرقمي، التابع للمجلس الأطلسي، وهو مركز أبحاث أميركي، بأن "التحقيق في أداء غروك خلال الأيام الأولى من الصراع الإسرائيلي الإيراني يكشف عن عيوب وقيود كبيرة في قدرة روبوت الدردشة على توفير معلومات دقيقة وموثوق بها ومتسقة خلال أوقات الأزمات". وأظهر الروبوت صعوبة في التحقق من المعلومات، بما في ذلك تلك المؤكدة مسبقاً، وتحليل الصور الزائفة، وتجنب الادعاءات غير المثبتة.
وحلّل المختبر نحو 130 ألف منشور بلغات مختلفة على منصة "
إكس
"، حيث دُمج "غروك"، فوجد التحليل أنه يواجه صعوبة في التحقق من المحتويات المُولّدة بواسطة الذكاء الاصطناعي. ويقول الباحثون إنه ارتكب أخطاءً سابقة في التحقق من معلومات تتعلق بأزمات مثل التصعيد العسكري الهندي الباكستاني الأخير واحتجاجات في لوس أنجليس.
روبوت يغير رأيه في الدقيقة ذاتها
وجدت الدراسة كذلك أنه، بعد الضربات الانتقامية الإيرانية على إسرائيل، قدّم "غروك" ردوداً متباينة تماماً على أسئلة مماثلة حول فيديو مُولّد بواسطة الذكاء الاصطناعي لمطار مُدمّر حصد ملايين المشاهدات على "إكس". وذكرت الدراسة أن الروبوت تذبذب، أحياناً في الدقيقة نفسها، بين إنكار تدمير المطار وتأكيد تضرّره من الضربات. وفي بعض الردود، أشار إلى صاروخ أطلقه المتمردون الحوثيون في اليمن كمصدر للضرر. وفي ردود أخرى، أخطأ في تحديد المطار المُولّد بواسطة
الذكاء الاصطناعي
وقال إنه مطار في بيروت وغزة وطهران.
تكنولوجيا
التحديثات الحية
توفير روبوت الدردشة غروك على "تليغرام" بعد اتفاق مع "إكس إيه آي"
"غروك" لا يميز بين الحقيقة والفبركة
عندما شارك المستخدمون مقطع فيديو آخر مُولّداً بالذكاء الاصطناعي يُصوّر مباني تنهار بعد غارة إيرانية مزعومة على تل أبيب، ردّ "غروك" بأنه يبدو حقيقياً. وعندما سأل المستخدمون حسابات "إكس" المُدارة بالذكاء الاصطناعي لشركتي الذكاء الاصطناعي "بيربليكسيتي" و"غروك" عن صحة مزاعم كاذبة، مفادها بأن الصين أرسلت طائرات شحن عسكرية إلى طهران لتقديم الدعم، أجابت خطأً بأن هذه المزاعم صحيحة، وفقاً لمنظمة نيوزغارد المُختصة بمراقبة المعلومات المُضلّلة.
وفي الشهر الماضي، أثار "غروك" انتقادات واسعة لإدراجه نظرية "الإبادة الجماعية للبيض" في جنوب أفريقيا، وهي نظرية مؤامرة يمينية متطرفة، في استفسارات غير ذات صلة. وأرجعت "إكس إيه آي" سبب الرد إلى "تعديل غير مصرح به"، لكن سبق أن روّج ماسك لادعاء لا أساس له من الصحة بأن قادة جنوب أفريقيا "يدفعون علناً نحو الإبادة الجماعية" للبيض.

جرب ميزات الذكاء الاصطناعي لدينا

اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:

التعلم مع الذكاء الاصطناعيالتحقق من الحقائقتحويل النص إلى كلامملخص الذكاء الاصطناعي

أخبار ذات صلة

العربي الجديد

منذ 2 أيام

• العربي الجديد

"واتساب" يلخّص المحادثات السابقة بالذكاء الاصطناعي

أعلنت إدارة تطبيق المراسلة واتساب أمس الأربعاء عن ميزة جديدة لتلخيص الرسائل باستخدام الذكاء الاصطناعي . وبدلاً من الاضطرار إلى متابعة محادثة طويلة فاتته، ما على المستخدم سوى أن يطلب من "ميتا إيه"، روبوت الدردشة المدمج في "واتساب"، قراءة جميع الرسائل المرسلة منذ آخر تسجيل دخول، ثم تقديم ملخص موجز عنها. وفي منشور مدونة لها قالت إدارة "واتساب": "جميعنا مررنا بهذه التجربة، الإسراع بين الاجتماعات، أو اللحاق بالركب بعد رحلة طيران من دون اتصال واي فاي ، أو ببساطة كثرة المحادثات التي يصعب علينا مواكبتها. أحياناً، كل ما نحتاجه هو متابعة رسائلنا بسرعة. لهذا السبب، يسعدنا تقديم "ملخصات الرسائل"، وهو خيار جديد يستخدم الذكاء الاصطناعي لتلخيص الرسائل غير المقروءة في الدردشة بشكل خاص وسريع، مما يتيح لكم معرفة ما يحدث قبل قراءة تفاصيلها". تكنولوجيا التحديثات الحية هل تسرّب "إنستغرام" و"واتساب" بيانات إيران إلى إسرائيل؟ ميزة "واتساب" تثير مخاوف الخصوصية قد تثير هذه الميزة مخاوف الخصوصية، إذ سوف يستطيع الذكاء الاصطناعي لـ" ميتا إيه " قراءة رسائل المستخدم الخاصة قبل تلخيصها، ما يعاكس وعود التطبيق بأنه مشفر للغاية ولا تستطيع حتى الشركة نفسها قراءة الرسائل. مخاوف حاولت الشركة التخفيف منها بالقول: "تستخدم "ملخصات الرسائل" تقنية "المعالجة الخاصة"، التي تُتيح لميتا إيه آي إنشاء ردّ من دون أن تطّلع ميتا أو واتساب على رسائلكم أو على مُلخّصاتكم الخاصة. كما لا يُمكن لأي شخص آخر في الدردشة رؤية أنكم لخصتم الرسائل غير المقروءة. هذا يعني أن خصوصيتكم محمية دائماً"، بحسب إدارة التطبيق. وتأتي هذه التطمينات بالرغم من اتهام "واتساب" بإرسال بيانات المستخدمين إلى إسرائيل، وتساؤلات حول ثغرات محتملة في عملية التشفير، والتي قد تسرّب تفاصيل حول تفاعلات المستخدم في التطبيق الأخضر. وبينما كانت ميزة التلخيصات أمنية لبعض المستخدمين، سوف تبقى أعين الخبراء والنشطاء والمهتمين بالخصوصية على نظام غير موثوق يقرأ الرسائل الخاصة.

العربي الجديد

منذ 3 أيام

• العربي الجديد

"غروك" فشل في التحقق من صحة معلومات حول حرب إيران وإسرائيل

مع تقليص منصات التكنولوجيا اعتمادها على مدققي الحقائق البشريين، يتزايد استخدام المستخدمين لروبوتات الدردشة المدعومة بالذكاء الاصطناعي بحثاً عن معلومات موثوق بها، لكن ردودها غالباً ما تكون مضلّلة. مثلاً أظهرت دراسة أن روبوت الدردشة غروك من شركة إكس إيه آي، التي يملكها إيلون ماسك، يعاني "عيوباً" في التحقق من صحة المعلومات حول الحرب بين إسرائيل وإيران. وأفادت الدراسة الصادرة عن مختبر أبحاث الطب الشرعي الرقمي، التابع للمجلس الأطلسي، وهو مركز أبحاث أميركي، بأن "التحقيق في أداء غروك خلال الأيام الأولى من الصراع الإسرائيلي الإيراني يكشف عن عيوب وقيود كبيرة في قدرة روبوت الدردشة على توفير معلومات دقيقة وموثوق بها ومتسقة خلال أوقات الأزمات". وأظهر الروبوت صعوبة في التحقق من المعلومات، بما في ذلك تلك المؤكدة مسبقاً، وتحليل الصور الزائفة، وتجنب الادعاءات غير المثبتة. وحلّل المختبر نحو 130 ألف منشور بلغات مختلفة على منصة " إكس "، حيث دُمج "غروك"، فوجد التحليل أنه يواجه صعوبة في التحقق من المحتويات المُولّدة بواسطة الذكاء الاصطناعي. ويقول الباحثون إنه ارتكب أخطاءً سابقة في التحقق من معلومات تتعلق بأزمات مثل التصعيد العسكري الهندي الباكستاني الأخير واحتجاجات في لوس أنجليس. روبوت يغير رأيه في الدقيقة ذاتها وجدت الدراسة كذلك أنه، بعد الضربات الانتقامية الإيرانية على إسرائيل، قدّم "غروك" ردوداً متباينة تماماً على أسئلة مماثلة حول فيديو مُولّد بواسطة الذكاء الاصطناعي لمطار مُدمّر حصد ملايين المشاهدات على "إكس". وذكرت الدراسة أن الروبوت تذبذب، أحياناً في الدقيقة نفسها، بين إنكار تدمير المطار وتأكيد تضرّره من الضربات. وفي بعض الردود، أشار إلى صاروخ أطلقه المتمردون الحوثيون في اليمن كمصدر للضرر. وفي ردود أخرى، أخطأ في تحديد المطار المُولّد بواسطة الذكاء الاصطناعي وقال إنه مطار في بيروت وغزة وطهران. تكنولوجيا التحديثات الحية توفير روبوت الدردشة غروك على "تليغرام" بعد اتفاق مع "إكس إيه آي" "غروك" لا يميز بين الحقيقة والفبركة عندما شارك المستخدمون مقطع فيديو آخر مُولّداً بالذكاء الاصطناعي يُصوّر مباني تنهار بعد غارة إيرانية مزعومة على تل أبيب، ردّ "غروك" بأنه يبدو حقيقياً. وعندما سأل المستخدمون حسابات "إكس" المُدارة بالذكاء الاصطناعي لشركتي الذكاء الاصطناعي "بيربليكسيتي" و"غروك" عن صحة مزاعم كاذبة، مفادها بأن الصين أرسلت طائرات شحن عسكرية إلى طهران لتقديم الدعم، أجابت خطأً بأن هذه المزاعم صحيحة، وفقاً لمنظمة نيوزغارد المُختصة بمراقبة المعلومات المُضلّلة. وفي الشهر الماضي، أثار "غروك" انتقادات واسعة لإدراجه نظرية "الإبادة الجماعية للبيض" في جنوب أفريقيا، وهي نظرية مؤامرة يمينية متطرفة، في استفسارات غير ذات صلة. وأرجعت "إكس إيه آي" سبب الرد إلى "تعديل غير مصرح به"، لكن سبق أن روّج ماسك لادعاء لا أساس له من الصحة بأن قادة جنوب أفريقيا "يدفعون علناً نحو الإبادة الجماعية" للبيض.

العربي الجديد

منذ 6 أيام

• العربي الجديد

كيف يرى الذكاء الاصطناعي نهاية الحرب بين إسرائيل وإيران؟

بالتزامن مع المواجهة الإسرائيلية ــ الإيرانية المستمرة، تتوقع خمسة من أصل ستة من أفضل روبوتات الذكاء الاصطناعي حرباً خفية طويلة الأمد، تتميز بغارات جوية وهجمات إلكترونية ومعارك بالوكالة، لكنها لا تصل حد الحرب الشاملة، بينما يتوقع " تشات جي بي تي " وحده حلّاً دبلوماسياً قريباً، مع مفاوضات واتفاق نووي. وأجرى موقع إميرج التقني مقارنة بين أبرز روبوتات الذكاء الاصطناعي من حيث تحليل النتائج المحتملة للحرب باستخدام وظائف البحث على الويب، وتفعيل قدراتها على التفكير العميق، وجعلها تعمل بوصفها خبراء في الجغرافيا السياسية، والحرب العالمية، وصراعات الشرق الأوسط. واتفقت الروبوتات على العواقب الوخيمة للحرب الشاملة، وتردد الولايات المتحدة في التدخل المباشر، وحسابات البقاء العقلانية لدى كلا الجانبين. وشملت التحذيرات المتكررة مخاطر سوء التقدير، وضرورة الالتزام بالجدول الزمني النووي، واحتمالية قيام الجماعات بالوكالة بتصعيد غير مرغوب فيه. وراوحت توقعات الجدول الزمني بين ثلاثة أشهر وسنتين من الصراع المستمر منخفض الشدة. في ما يلي أبرز ما توقعته روبوتات الذكاء الاصطناعي الستة حول مآلات حرب إسرائيل وإيران: 1. "جيميناي": تصعيد مطول ومُتحكّم فيه بين عام واثنين نقل الموقع عن روبوت الدردشة جيميناي من " غوغل " أن الصراع سوف يظل متقلباً، وسيُعاد تقييمه مع كل ضربة، وستواصل إسرائيل استراتيجية "جزّ العشب" المتمثلة في الضربات التكتيكية المتكرّرة. وحذّر من أن الخطوط الحمراء قد تتآكل مع مرور الوقت، مما قد يزيد من خطر التصعيد غير المقصود. 2. "كلود": حملة عسكرية مستمرة أجاب روبوت كلود من شركة أونثروبيك أن حاجة إيران إلى الرد تضاف إلى فرصة إسرائيل لاتخاذ إجراء حاسم لتسببا قتالاً ممتداً بين الطرفين، مع تحذيرات من حسابات استراتيجية خاطئة أو ضربات استباقية. وقال "كلود": "لا يمكن لإيران قبول تدهور برنامجها النووي من دون رد، بينما ترى إسرائيل أن الفرصة الحالية هي الأمثل لاتخاذ إجراء حاسم". تكنولوجيا التحديثات الحية ويكيبيديا تغضب محرّريها بميزة الملخصات المولّدة بالذكاء الاصطناعي 3. "تشات جي بي تي": حل دبلوماسي اختار روبوت تشات جي بي تي من "أوبن إيه آي" التفاؤل من خلال القول إن رد إيران المُنضبط ولجوءها إلى الأمم المتحدة يُشيران إلى تفضيل الدبلوماسية. وتوقّع مفاوضات هادئة عبر عُمان وقطر، مع اتفاق نووي مُحدّث محتمل خلال أسابيع بحسبه. وهذا هو التقييم الأكثر تفاؤلاً بين الروبوتات الستة. 4. "غروك": صراع محدود مع اشتعالات دورية بين ثلاثة وستة أشهر ذكّر روبوت غروك من "إكس إيه آي" بأن السوابق التاريخية تفضّل تجنّب الحرب الشاملة وهيمنة الردع العقلاني. لكنه حذّر من احتمالات غير متوقعة قد تشمل ضربات عالية الخسائر أو دخول جهات فاعلة جديدة، مثل دول الخليج أو روسيا، إلى الساحة. 5. "مانوس": تصعيد مُدبَّر وحرب خفية من سنة إلى سنتين الفكرة الرئيسية لتحليل وكيل الذكاء الاصطناعي مانوس من شركة مونيكا هي استمرار نمط الضربات الإسرائيلية المُستهدِفة وردات الفعل الإيرانية بالوكالة. وستُساعد قنوات الاتصال غير المباشرة على تجنّب سوء فهم كارثي. 6. "ديبسيك": صراع سري طويل الأمد بين إسرائيل وإيران قد يصل إلى عام الفكرة الرئيسية التي أجاب بها روبوت ديبسيك من هاي فلاير هو كون إيران مقيدة استراتيجياً، ومن غير المرجح أن تنخرط في حرب مباشرة. وبحسبه، الحرب السيبرانية والأعمال بالوكالة سوف تشتدّ من دون تدخل عسكري أميركي مباشر.