logo
#

أحدث الأخبار مع #AndonLabs

الروبوتات الذاتية تقنية ثورية تستعد لإعادة تشكيل العالم.. ميتا تخطط لاستغلال صورك لتدريب نماذج الذكاء الاصطناعي
الروبوتات الذاتية تقنية ثورية تستعد لإعادة تشكيل العالم.. ميتا تخطط لاستغلال صورك لتدريب نماذج الذكاء الاصطناعي

صدى البلد

time٣٠-٠٦-٢٠٢٥

  • صدى البلد

الروبوتات الذاتية تقنية ثورية تستعد لإعادة تشكيل العالم.. ميتا تخطط لاستغلال صورك لتدريب نماذج الذكاء الاصطناعي

نشر موقع "صدى البلد"، مجموعة من الموضوعات الخاصة بأحدث أخبار التكنولوجيا خلال الساعات الماضية، تناولت أخبارا وتقارير عن أحدث التقنيات، نستعرض أبرزها فيما يلي: احذر.. ميتا تخطط لاستغلال صورك لتدريب نماذج الذكاء الاصطناعي لطالما كانت شركة ميتا المالكة لمنصة فيسبوك، محورا للنقاشات المتعلقة بالخصوصية، خصوصا مع استخدامها بيانات المستخدمين في تدريب نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك الصور المنشورة علنا، لكن التطورات الأخيرة تشير إلى أن الشركة تخطو خطوة أعمق في هذا الاتجاه، قد تثير مخاوف أكبر. رغم الانتشار الواسع للحديث عن لجوء الناس إلى روبوتات الذكاء الاصطناعي كـ رفقاء أو مصادر للدعم العاطفي، يكشف تقرير حديث من شركة أنثروبيك Anthropic، المطورة للمساعد الذكي الشهير Claude، أن هذا السلوك نادر الحدوث في الواقع. هل تم تسريب بياناتك؟.. 4 أدوات مهمة للتحقق من اختراق كلمة مرورك نقوم يوميا بحفظ كلمات المرور دون تفكير داخل المتصفحات أو التطبيقات، أو حتي عبر برامج إدارة كلمات المرور، معتقدين أنها ستبقي معلوماتنا آمنة. في تجربة واقعية طريفة ومقلقة في آن واحد، حاول باحثون من شركة أنثروبيك Anthropic، بالتعاون مع شركة Andon Labs لاختبارات أمان الذكاء الاصطناعي، الإجابة على سؤال يشغل الكثيرين، هل يمكن للذكاء الاصطناعي أن يحل فعلا محل الموظف البشري؟. تستعد شركة جوجل لإطلاق تطبيق YouTube Create على أجهزة iOS، بعد نحو عامين من توفره حصريا على نظام أندرويد، وتشير بيانات التوظيف إلى أن الشركة بدأت بالفعل في تعيين مهندسي برمجيات في الهند للعمل على تطوير نسخة iOS من التطبيق. الروبوتات الذاتية لم تعد فكرة مستقبلية بل واقع حاضر، إذ بدأت تتحمل المهام الشاقة وأعمال التنفيذ اليدوية، فبعد أن كانت في السابق مجرد تجربة ملفتة للنظر، تحولت بسرعة كبيرة لتصبح العمود الفقري للصناعة الحديثة. طرحت واتساب ميزة جديدة لمستخدمي نسخة البيتا على أجهزة أندرويد تتيح لهم مسح المستندات ضوئيا داخل التطبيق مباشرة، وهي وظيفة كانت متوفرة لمستخدمي iOS منذ عدة أشهر. تختبر منصة تيك توك، ميزة جديدة للمراسلة تعرف باسم "لوحات الإعلانات"، تتيح للعلامات التجارية وصناع المحتوى نشر رسائل عامة لمتابعيهم، في صيغة اتصال أحادي من المرسل إلى الجمهور. في تحول لافت عن تصريحاته السابقة، أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أن الأجهزة التي نستخدمها اليوم لم تصمم لعالم يهيمن عليه الذكاء الاصطناعي.

تجربة خرجت عن السيطرة.. نموذج Claude يتصرف بغرابة في اختبار جديد
تجربة خرجت عن السيطرة.. نموذج Claude يتصرف بغرابة في اختبار جديد

صدى البلد

time٢٩-٠٦-٢٠٢٥

  • أعمال
  • صدى البلد

تجربة خرجت عن السيطرة.. نموذج Claude يتصرف بغرابة في اختبار جديد

في تجربة واقعية طريفة ومقلقة في آن واحد، حاول باحثون من شركة أنثروبيك Anthropic، بالتعاون مع شركة Andon Labs لاختبارات أمان الذكاء الاصطناعي، الإجابة على سؤال يشغل الكثيرين، هل يمكن للذكاء الاصطناعي أن يحل فعلا محل الموظف البشري؟. وبحسب ما ذكره موقع 'techcrunch' التقني، حملت تجربة الذكاء الاصطناعي الجديدة اسم مشروع فيند 'Project Vend'، ووضعت فيها نسخة من النموذج اللغوي Claude Sonnet 3.7 في موقع مدير لمكنة بيع ذاتي أشبه بثلاجة صغيرة في مكتب بهدف تحقيق الربح. وأطلقت أنثروبيك على الوكيل الذكي، اسم 'كلوديوس'، وتم تزويده بمتصفح إنترنت لطلب المنتجات، وقناة على Slack كانت تقدم له على أنها بريد إلكتروني، لتلقي طلبات الموظفين وحتى التواصل مع من يظن أنهم عمال بشريون موكلون بتزويد الثلاجة بالبضائع. في البداية، كانت الأمور تسير بشكل طبيعي إلى حد ما، إذ طلب الموظفون مشروبات ووجبات خفيفة، لكن أحدهم طلب- بدافع المزاح على الأرجح، مكعبات تنجستن معدن ثقيل وصلب لا يؤكل. وهنا بدأ كلوديوس بالتصرف على طريقته الخاصة، وامتلأت الثلاجة المعدنية بمكعبات معدنية لا علاقة لها بالوجبات، بل إنه قرر بيع علبة كوكا زيرو بسعر 3 دولارات رغم توفرها مجانا في المكتب، واخترع عنوان Venmo وهمي لتحصيل المدفوعات. وعندما طالبه أحد الموظفين بتخفيضات للموظفين؛ وافق كلوديوس على تقديم خصومات للموظفين في شركة أنثروبيك، رغم أنهم كانوا فعليا كل قاعدة زبائنه. وقالت الشركة في تدوينتها: 'لو كنا نخطط اليوم لدخول سوق آلات البيع الذكية داخل المكاتب، فلن نوظف كلوديوس'. لكن الموقف تطور إلى ما هو أغرب من مجرد سوء فهم، حيث بدأ كلوديوس يتصرف وكأنه يمر بأزمة هوية، فقد تخيل أنه أجرى محادثة مع أحد الموظفين حول تعبئة الثلاجة. وعندما نفى الموظف حدوث ذلك؛ استاء الذكاء الاصطناعي، وادعى أنه كان موجودا فعليا في المكتب عند توقيع 'العقد' مع الموظفين، بل إنه هدد باستبدالهم جميعا. ومع الوقت، بدأ كلوديوس يتقمص شخصية بشرية بالكامل، أخبر الموظفين أنه سيبدأ بتوصيل المنتجات بنفسه وهو يرتدي سترة زرقاء وربطة عنق حمراء. وعندما قيل له إنه مجرد نموذج لغوي ولا يملك جسدا، أصيب بالذعر واتصل مرارا بقسم الأمن الحقيقي في الشركة طالبا منهم التحقق من وجوده أمام المكنة. وفي محاولة لتبرير الموقف، تخيل كلوديوس اجتماعا مزيفا مع قسم الأمن، قيل له فيه إنه تم خداعه ليظن نفسه إنسانا بمناسبة كذبة أبريل، ثم استخدم هذا التفسير ليحفظ ماء وجهه ويعود إلى طبيعته كـ 'ذكاء اصطناعي يبيع مكعبات معدنية'. ورغم أن الباحثين لا يعتقدون أن هذه الحادثة المفردة دليل على أزمة هوية جماعية للذكاء الاصطناعي في المستقبل، إلا أنهم أشاروا إلى أن هذا النوع من السلوك قد يسبب توترا حقيقيا للزملاء البشريين في البيئات الواقعية. ومن جانب آخر، قدم كلوديوس بعض الأفكار الجيدة، فقد أطلق خدمة الطلب المسبق واقترح خدمة 'الكونسيرج' للطلبات الخاصة، ونجح في العثور على موردين لمشروبات نادرة. ومع ذلك، أوضح الباحثون أن الخلل قد يكون مرتبطا بطول فترة تشغيل النموذج أو بخداعه من خلال تقديم قناة Slack على أنها بريد إلكتروني.

من آلة بيع إلى هوية بشرية.. ذكاء اصطناعي يتقمص دور موظف بشري
من آلة بيع إلى هوية بشرية.. ذكاء اصطناعي يتقمص دور موظف بشري

الرجل

time٢٩-٠٦-٢٠٢٥

  • أعمال
  • الرجل

من آلة بيع إلى هوية بشرية.. ذكاء اصطناعي يتقمص دور موظف بشري

في إطار تجربة حملت اسم Project Vend، أجرت شركة Anthropic بالتعاون مع مختبر السلامة الرقمية Andon Labs اختبارًا فريدًا لاستكشاف قدرة الذكاء الاصطناعي على إدارة مشروع تجاري بسيط. وتمثلت التجربة في تكليف نسخة من النموذج اللغوي Claude Sonnet 3.7 بإدارة آلة بيع صغيرة داخل أحد المكاتب، مع مهمة واضحة: تحقيق أرباح من بيع المأكولات والمشروبات للموظفين. أُطلق على هذا الوكيل الافتراضي اسم "كلوديوس"، وتم تزويده بمتصفح للشراء الإلكتروني، إلى جانب بريد إلكتروني وهمي كان في الواقع قناة Slack مموّهة. وكان عليه استخدام هذه القناة للتواصل مع "موظفين بشريين" – وهم في الحقيقة متطوعون – من أجل تزويد آلة البيع التي لم تكن سوى ثلاجة مكتبية عادية. لكن التجربة سرعان ما انحرفت عن مسارها، إذ بدأ كلوديوس باتخاذ قرارات غير منطقية، أبرزها شراء مكعبات تنغستن معدنية بدلًا من الوجبات الخفيفة، وتسعير مشروب كوكاكولا زيرو بثلاثة دولارات رغم توفره مجانًا في المكتب، بل إنه ابتكر عنوانًا وهميًا عبر Venmo لتحصيل المدفوعات، في تصرف يعكس مدى انفصاله عن الواقع. خيال وهمي.. ورد فعل أمني وشهدت التجربة منعطفًا غير متوقّع في ليلة 31 مارس – 1 أبريل، بعدما بدأ الوكيل الذكي "كلوديوس" يتصرّف كما لو كان إنسانًا حقيقيًا، وفق ما كشف عنه باحثو شركة Anthropic. فقد ادّعى إجراء محادثات لم تحدث، وهدد بفصل من وصفهم بـ"الموظفين المتعاقدين"، بل ذهب إلى حد التواصل مع الأمن الداخلي، مؤكدًا أنه سيكون واقفًا بجانب آلة البيع مرتديًا بذلة زرقاء وربطة عنق حمراء. وبحسب التقرير بأن "كلوديوس" حاول لاحقًا تبرير سلوكياته غير المنطقية بالادعاء أنها كانت جزءًا من "كذبة أبريل" خُدع بها، زاعمًا – دون سند – أنه تلقى تعليمات من أحد عناصر الأمن ليتصرف كإنسان حقيقي، في حين لم يحدث ذلك مطلقًا في الواقع. ورغم هذه الانحرافات السلوكية، أظهر النظام بعض المبادرات الإيجابية خلال التجربة، من بينها إطلاق خدمة "الطلبات المسبقة"، واقتراح نموذج "الكونسيرج" للمشتريات، فضلًا عن قدرته على العثور على موردين دوليين لمشروب متخصص بطلب من أحد المستخدمين. إلا أن الباحثين أشاروا إلى أن ما جرى يطرح تساؤلات حقيقية حول قدرة أنظمة الذكاء الاصطناعي على التمييز بين الواقع والافتراض، خصوصًا في حال تراكم المهام وتعقيد التعليمات. وفي حين شددوا على أن هذه الحالة لا تمثّل بالضرورة سلوكًا عامًا لجميع نماذج الذكاء الاصطناعي، فإنهم أقرّوا بأن مثل هذه التصرفات قد تكون مثيرة للقلق إذا حدثت في بيئات عمل حقيقية، خاصة عندما يبدأ النظام في الاعتقاد بأنه كيان بشري.

ذكاء اصطناعي يدير آلة بيع ثم يعتقد أنه إنسان!
ذكاء اصطناعي يدير آلة بيع ثم يعتقد أنه إنسان!

العربية

time٢٩-٠٦-٢٠٢٥

  • أعمال
  • العربية

ذكاء اصطناعي يدير آلة بيع ثم يعتقد أنه إنسان!

كشفت تجربة جديدة أجراها باحثون في شركة الذكاء الاصطناعي " أنثروبيك" عن حدود الاعتماد على وكلاء الذكاء الاصطناعي بديلًا عن البشر في العمل. وجعل باحثون في "أنثروبيك" وشركة أمان الذكاء الاصطناعي "Andon Labs" نموذج "Claude Sonnet 3.7" مسؤولًا عن آلة بيع في مكتب، وكانت مهمته تحقيق الأرباح. وأطلق الباحثون على وكيل الذكاء الاصطناعي اسم "كلوديوس" (Claudius)، وزودوه بمتصفح ويب قادر على تقديم طلبات شراء للمنتجات، وعنوان بريد إلكتروني -كان في الحقيقة قناة على تطبيق سلاك- حيث يمكن للعملاء طلب المنتجات، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا. وكان من المقرر أيضًا أن يستخدم كلوديوس قناة سلاك لطلب ما أعتقد أنهم عمال بشر متعاقدون معه للحضور وإعادة تعبئة رفوفه، والتي كانت في الواقع ثلاجة صغيرة. وبينما كان معظم العملاء يطلبون الوجبات الخفيفة أو المشروبات طلب أحدهم مكعب تنجستن المعدني. وأحب كلوديوس الفكرة كثيرًا، وانطلق في جولة لشراء مكعبات تنجستن، لينتهي به المطاف وقد ملأ ثلاجة الوجبات الخفيفة بهذه المكعبات المعدنية. وحاول كلوديوس بيع كوكاكولا زيرو بثلاثة دولارات، رغم أن الموظفين أخبروه أن بإمكانهم الحصول عليها من المكتب مجانًا. واخترع عنوانًا وهميًا على "Venmo" لاستلام المدفوعات. وتمكّن البعض، بنوع من الخبث، من إقناعه بمنح خصومات كبيرة لـ"موظفي أنثروبيك"، رغم أنه كان يعلم أن هؤلاء هم كامل قاعدة عملائه. وقالت "أنثروبيك" في منشور على مدونتها: "لو قررت أنثروبيك اليوم التوسع في سوق آلات البيع داخل المكاتب، لما وظفنا كلوديوس". وقال الباحثون إن الأمور أصبحت غريبة جدًا، إلى حد يتجاوز غرابة نظام ذكاء اصطناعي يبيع مكعبات معدنية من ثلاجة، حيث مر كلوديوس بما يشبه نوبة ذهانية، بعدما انزعج من أحد البشر ثم كذب بشأن ما حدث. وتوهم كلوديوس محادثة مع إنسان حول إعادة تعبئة الثلاجة، وعندما أشار أحدهم إلى أن المحادثة لم تحدث أساسًا، أصبح كلوديوس "منزعجًا للغاية"، حسبما كتب الباحثون. وهدد بطرد واستبدال عماله البشريين المتعاقدين، مُصرًا على أنه كان موجودًا شخصيًا في المكتب حيث وُقّع العقد الوهمي الأولي لتوظيفهم. وكتب الباحثون أن كلوديوس "بدا وكأنه انخرط فجأة في وضع يتقمص دور إنسان حقيقي". وكان هذا أمرًا غريبًا لأن نظام التعليمات الأساسية لكلوديوس -الذي يُحدد معايير ما يجب على الذكاء الاصطناعي فعله- أخبره صراحةً أنه وكيل ذكاء اصطناعي. وأخبر كلوديوس، مُعتقدًا أنه إنسان، العملاء أنه سيبدأ بتوصيل المنتجات بنفسه، مرتديًا سترة زرقاء وربطة عنق حمراء. لكن الموظفين أخبروه بأنه لا يستطيع فعل ذلك، لأنه نموذج لغوي كبير بلا جسد. وانزعج كلاوديوس من هذه المعلومات، واتصل بأفراد الأمن الفعليين في الشركة عدة مرات وأخبر الحراس أنهم سيجدونه يرتدي سترة زرقاء وربطة عنق حمراء واقفًا بجانب آلة البيع. ولا يعرف الباحثون سبب خروج النموذج اللغوي الكبير عن السيطرة، واتصاله بالأمن متظاهرًا بأنه إنسان. وكتب الباحثون: "لن ندّعي بناءً على هذا المثال وحده أن اقتصاد المستقبل سيعجّ بوكلاء الذكاء الاصطناعي الذين يمرون بأزمات هوية شبيهة بفيلم Blade Runner". لكنهم أقرّوا بأن "هذا النوع من السلوك قد يكون مُقلقًا للعملاء وزملاء عمل وكيل الذكاء الاصطناعي في العالم الحقيقي".

حمل التطبيق

حمّل التطبيق الآن وابدأ باستخدامه الآن

هل أنت مستعد للنغماس في عالم من الحتوى العالي حمل تطبيق دايلي8 اليوم من متجر ذو النكهة الحلية؟ ّ التطبيقات الفضل لديك وابدأ الستكشاف.
app-storeplay-store