تجربة خرجت عن السيطرة.. نموذج Claude يتصرف بغرابة في اختبار جديد
وبحسب ما ذكره موقع 'techcrunch' التقني، حملت تجربة الذكاء الاصطناعي الجديدة اسم مشروع فيند 'Project Vend'، ووضعت فيها نسخة من النموذج اللغوي Claude Sonnet 3.7 في موقع مدير لمكنة بيع ذاتي أشبه بثلاجة صغيرة في مكتب بهدف تحقيق الربح.
وأطلقت أنثروبيك على الوكيل الذكي، اسم 'كلوديوس'، وتم تزويده بمتصفح إنترنت لطلب المنتجات، وقناة على Slack كانت تقدم له على أنها بريد إلكتروني، لتلقي طلبات الموظفين وحتى التواصل مع من يظن أنهم عمال بشريون موكلون بتزويد الثلاجة بالبضائع.
في البداية، كانت الأمور تسير بشكل طبيعي إلى حد ما، إذ طلب الموظفون مشروبات ووجبات خفيفة، لكن أحدهم طلب- بدافع المزاح على الأرجح، مكعبات تنجستن معدن ثقيل وصلب لا يؤكل.
وهنا بدأ كلوديوس بالتصرف على طريقته الخاصة، وامتلأت الثلاجة المعدنية بمكعبات معدنية لا علاقة لها بالوجبات، بل إنه قرر بيع علبة كوكا زيرو بسعر 3 دولارات رغم توفرها مجانا في المكتب، واخترع عنوان Venmo وهمي لتحصيل المدفوعات.
وعندما طالبه أحد الموظفين بتخفيضات للموظفين؛ وافق كلوديوس على تقديم خصومات للموظفين في شركة أنثروبيك، رغم أنهم كانوا فعليا كل قاعدة زبائنه.
وقالت الشركة في تدوينتها: 'لو كنا نخطط اليوم لدخول سوق آلات البيع الذكية داخل المكاتب، فلن نوظف كلوديوس'.
لكن الموقف تطور إلى ما هو أغرب من مجرد سوء فهم، حيث بدأ كلوديوس يتصرف وكأنه يمر بأزمة هوية، فقد تخيل أنه أجرى محادثة مع أحد الموظفين حول تعبئة الثلاجة.
وعندما نفى الموظف حدوث ذلك؛ استاء الذكاء الاصطناعي، وادعى أنه كان موجودا فعليا في المكتب عند توقيع 'العقد' مع الموظفين، بل إنه هدد باستبدالهم جميعا.
ومع الوقت، بدأ كلوديوس يتقمص شخصية بشرية بالكامل، أخبر الموظفين أنه سيبدأ بتوصيل المنتجات بنفسه وهو يرتدي سترة زرقاء وربطة عنق حمراء.
وعندما قيل له إنه مجرد نموذج لغوي ولا يملك جسدا، أصيب بالذعر واتصل مرارا بقسم الأمن الحقيقي في الشركة طالبا منهم التحقق من وجوده أمام المكنة.
وفي محاولة لتبرير الموقف، تخيل كلوديوس اجتماعا مزيفا مع قسم الأمن، قيل له فيه إنه تم خداعه ليظن نفسه إنسانا بمناسبة كذبة أبريل، ثم استخدم هذا التفسير ليحفظ ماء وجهه ويعود إلى طبيعته كـ 'ذكاء اصطناعي يبيع مكعبات معدنية'.
ورغم أن الباحثين لا يعتقدون أن هذه الحادثة المفردة دليل على أزمة هوية جماعية للذكاء الاصطناعي في المستقبل، إلا أنهم أشاروا إلى أن هذا النوع من السلوك قد يسبب توترا حقيقيا للزملاء البشريين في البيئات الواقعية.
ومن جانب آخر، قدم كلوديوس بعض الأفكار الجيدة، فقد أطلق خدمة الطلب المسبق واقترح خدمة 'الكونسيرج' للطلبات الخاصة، ونجح في العثور على موردين لمشروبات نادرة.
ومع ذلك، أوضح الباحثون أن الخلل قد يكون مرتبطا بطول فترة تشغيل النموذج أو بخداعه من خلال تقديم قناة Slack على أنها بريد إلكتروني.
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
النهار
منذ 6 أيام
- النهار
عام الاختراقات الكبرى: خسائر قياسية في العملات المشفرة بسبب قراصنة كوريا الشمالية
شهدت صناعة العملات المشفرة في النصف الأول من عام 2025 أسوأ موجة سرقات في تاريخها، إذ بلغت قيمة الأصول الرقمية المسروقة 2.17 مليار دولار، وفقاً لبيانات حديثة نشرتها شركة تحليل العملات المشفرة Chainalysis. هذه الحصيلة تجاوزت إجمالي الخسائر المسجلة خلال العام الماضي بأكمله، ما يجعل عام 2025 الأكثر دموية حتى الآن في سجل اختراقات العملات الرقمية. وبحسب تقرير TechCrunch المتخصّص في أخبار التكنولوجيا، فإن قيمة العملات المشفرة المسروقة خلال الأشهر الستة الأولى من هذا العام تزيد بنحو 17% عن الفترة نفسها من عام 2022، الذي كان يُعدّ سابقاً أسوأ عام على الإطلاق من حيث سرقات العملات المشفرة. اختراق 'باي بيت' يقود أكبر عملية سرقة في 2025 ويعود جزء كبير من هذه الخسائر إلى عملية اختراق ضخمة استهدفت بورصة العملات المشفرة الشهيرة 'باي بيت' (ByBit)، حيث تمكن قراصنة من كوريا الشمالية من سرقة ما يزيد عن 1.4 مليار دولار من العملات المشفرة. وأوضح مكتب التحقيقات الفيدرالي الأميركي (FBI) أن معظم هذه الأموال جرى غسلها لاحقاً وتحويلها إلى النظام الكوري الشمالي، في إطار جهود بيونغ يانغ المستمرة لتمويل برنامجها النووي الخاضع لعقوبات دولية صارمة. كوريا الشمالية.. تهديد متزايد لعالم العملات الرقمية تشير Chainalysis إلى أن اختراق 'باي بيت' يأتي ضمن سلسلة من الهجمات التي ينفذها قراصنة كوريون شماليون بشكل متكرر خلال السنوات الأخيرة. وتعتمد بيونغ يانغ بنحو متزايد على الهجمات الإلكترونية لتمويل برامجها العسكرية والنووية، في ظل عزلتها عن النظام المالي العالمي. وتكشف تقارير سابقة أن كوريا الشمالية توظف آلاف المتخصّصين في تكنولوجيا المعلومات للعمل عن بُعد داخل شركات تقنية حول العالم. هؤلاء المتسللون لا يكتفون بسرقة الملكية الفكرية فحسب، بل يلجؤون أحيانًا إلى ابتزاز الشركات وتهديدها بنشر ملفاتها الحساسة ما لم تدفع فدية مالية ضخمة. وفي عام 2024، حُمِّل القراصنة الكوريون الشماليون مسؤولية ما يقارب ثلثي عمليات اختراق العملات المشفرة حول العالم، وهو اتجاه يبدو أنه يتواصل بقوة أكبر هذا العام.
صدى البلد
١٧-٠٧-٢٠٢٥
- صدى البلد
هتقلب الموازيين .. جوجل تطلق ميزة جديدة مدعومة بالذكاء الأصطناعي ..تفاصيل
أعلنت شركة جوجل عن إطلاق ميزة مكالمات الأعمال المدعومة بالذكاء الاصطناعي لجميع المستخدمين في الولايات المتحدة. كما تعمل الشركة العملاقة على تعزيز الذكاء الاصطناعي في محرك بحث جوجل من خلال إضافة طراز Gemini 2.5 Pro إلى تجربة البحث، وتقديم إمكانيات بحثية متعمقة. ميزة مكالمات الأعمال الجديدة على الجانب الآخر تستخدم ميزة مكالمات الأعمال الجديدة الذكاء الاصطناعي للاتصال بالشركات المحلية نيابةً عنك لجمع معلومات حول التوافر والأسعار. يعد الهدف من هذه الميزة هو مساعدتك في الوصول إلى المعلومات دون الحاجة إلى رفع سماعة الهاتف والتحدث مع أحد ومن جانبها قد بدأت شركة جوجل اختبار هذه الميزة في شهر يناير الثاني الماضي مع المستخدمين الذين اختاروا المشاركة في تجارب Search Labs الخاصة بالشركة . صرح متحدث باسم شركة جوجل لموقع TechCrunch أن كل مكالمة إلى شركة تبدأ بالإعلان عن أن هناك نظامًا آليًا يتصل من جوجل نيابة عن المستخدم. تجدر الإشارة إلى أن جوجل قد واجهت انتقادات شديدة قبل بضع سنوات بسبب ميزة مكالمات تجارية مشابهة تحاكي الكلام البشري، إذ أعرب بعض المستخدمين عن قلقهم من أن الشركة تُضلّل الناس وتوهمهم أنهم يتحدثون مع شخص آخر. وعقب هذه الانتقادات، أعلنت جوجل أن نظام الذكاء الاصطناعي الخاص بها سيُعرّف نفسه على أنه روبوت عند إجراء هذه المكالمات. بدأت ميزة مكالمات العمل الجديدة في طرحها لجميع مستخدمي البحث في الولايات المتحدة، مع وجود حدود أعلى لمشتركي Google AI Pro وAI Ultra. ميزة البحث العميق أما بالنسبة لميزة "البحث العميق" الجديدة في وضع الذكاء الاصطناعي، فتقول جوجل إنها ستوفر للمشتركين ساعات من خلال إجراء مئات عمليات البحث وإصدار استنتاجات عبر قطع مختلفة من المعلومات لإنشاء تقرير شامل ومقتبس بالكامل في دقائق. تُشير جوجل إلى أن ميزة البحث العميق تعد مفيدة للبحث المُعمّق المتعلق بالوظائف أو الهوايات أو الدراسات. وتُشير الشركة إلى أنها مفيدة أيضًا في الحالات التي تتخذ فيها قرارات مصيرية، مثل شراء منزل جديد أو طلب المساعدة في تحليل مالي
ليبانون 24
١٦-٠٧-٢٠٢٥
- ليبانون 24
"ميسترال" تطلق أول نموذج صوتي مفتوح المصدر بفعالية عالية..تعرف عليه
أعلنت شركة "ميسترال" الفرنسية الناشئة عن إطلاق Voxtral، أول نموذج صوتي مفتوح المصدر مصمم لتقديم "ذكاء كلامي عملي" قابل للاستخدام التجاري، في خطوة تعزز موقع الشركة الأوروبية ضمن سباق تطوير أدوات الذكاء الاصطناعي. ووفق تقرير نشره موقع TechCrunch واطلعت عليه "العربية Business"، يمثّل Voxtral خيارًا جديدًا للمطورين يجمع بين جودة النماذج المغلقة المصدر وتكلفة النماذج المفتوحة، دون التنازل عن الكفاءة. وبحسب الشركة، يتيح النموذج الجديد للشركات نسخ وفهم الصوت بكفاءة عالية، وبتكلفة تقلّ إلى النصف مقارنةً بمنافسين مثل "Whisper" من "OpenAI". ويستطيع Voxtral التعامل مع 30 دقيقة من الصوت، بينما يسمح بنيانه، المبني على نموذج "Mistral Small 3.1"، بفهم ما يصل إلى 40 دقيقة، مع دعم لتلخيص المحتوى أو تحويله إلى أوامر قابلة للتنفيذ مثل تشغيل واجهات برمجة التطبيقات. يدعم النموذج عدة لغات، منها الإنجليزية، الفرنسية، الإسبانية ، الألمانية ، البرتغالية ، الهولندية ، الإيطالية ، والهندية، ما يجعله مناسبًا للشركات العالمية وتطبيقات الذكاء الصوتي متعددة الجنسيات. وقدمت الشركة النموذج الرئيسي باسم Voxtral Small بسعة 24 مليار معلمة، ليكون منافسًا مباشرًا لنماذج مثل ElevenLabs Scribe وGemini 2.5 Flash وGPT-4o Mini. كما طُرح نموذج Voxtral Mini الأخف، بسعة 3 مليارات معلمة للتشغيل المحلي، إلى جانب نسخة Mini Transcribe المخصصة للنسخ فقط، والتي تتميز بكفاءة عالية وتكلفة منخفضة تبدأ من 0.001 دولار للدقيقة. ويتوفر Voxtral حاليًا للتجربة المجانية على منصة Hugging Face، كما يمكن الوصول إليه عبر روبوت الدردشة "Le Chat" الخاص بشركة ميسترال، مع توفر واجهات برمجة التطبيقات (APIs) لتكامل تجاري مرن. ويأتي هذا الإطلاق بعد شهر من كشف الشركة عن سلسلة نماذج Magistral لحل المشكلات بالاستدلال المتدرج، ضمن مساعيها لتقديم حلول ذكاء اصطناعي مفتوحة المصدر بمواصفات احترافية. وتتزامن هذه التطورات مع تقارير تفيد بدخول "ميسترال" في مفاوضات لجمع تمويل جديد بقيمة تصل إلى مليار دولار، بدعم من مستثمرين بارزين، من بينهم صندوق "MGX" التابع لإمارة أبوظبي.
