"غوغل" و"أوبن إيه آي" تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها
ويشير التقرير إلى أن هذه النافذة المتاحة أمامنا لفهم آلية التفكير العميق لنماذج الذكاء الاصطناعي اقتربت من الإغلاق للأبد، وبعدها لن نستطيع فهم الآلية التي تفكر بها هذه النماذج والشكل الذي وصلت به إلى نتائجها.
وتضمنت الدراسة تعاونا بين أكثر من 40 عالما في قطاعات مختلفة من الشركات الثلاثة، وسعت لفهم آلية اتخاذ القرارات والتفكير العميق الذي تتبعه النماذج قبل تقديم النتيجة النهائية.
وخلصت الدراسة إلى أن نماذج الذكاء الاصطناعي الآن تعرض تسلسل أفكارها بشكل شفاف حتى يتمكن المستخدم من رؤيته ومعرفة كيف وصلت إلى النتيجة النهائية، ولكن هذه الشفافية هشة للغاية كون النماذج نفسها تدرك أنها تعرض تسلسل أفكارها.
وأشارت الدراسة إلى بعض النماذج تتحدث داخليا مع نفسها ضمن تسلسل الأفكار عن خداع المستخدم البشري أو تخريب النتيجة النهائية التي تصل إليه، ورغم أن النتيجة النهائية لم تكن تتضمن هذه الخداع، فإنها كشفت عن نوايا واستعداد النموذج لخداع المستخدم.
وتضيف الدراسة أن هذه النتائج بدأت بالظهور مع كون النماذج مدربة على بيانات بشرية، وتتوقع بأن تتزايد المشكلة عندما تبدأ نماذج الذكاء الاصطناعي بالتدريب على بيانات مولدة من النماذج الأخرى.
إذ تخشى الدراسة أن تصل النماذج لمستوى تستطيع فيه إخفاء نواياها عن عمد أو الأسوأ أن تقوم بكتابة تسلسل أفكار خادع بهدف خداع المستخدم بشكل أساسي.
وحازت الدراسة على قبول عالمي من عدة جهات مختلفة من بينهم جيفري هينتون الحائز على جائزة نوبل والمعروف باسم الأب الروحي للذكاء الاصطناعي وعدة علماء آخرين من شركات مختلفة.
إعلان
وأشار التقرير إلى أن "آنثروبيك" أجرت سابقا دراسة على مجموعة من النماذج المختلفة لتكتشف أن بعض النماذج تعتمد على تلميحات غير واضحة أو مفهومة في تسلسل الأفكار فضلا عن إخفاء النوايا واستخدام مبررات زائفة.
وفي النهاية، طالب العلماء الذين شاركوا في الدراسة الشركات بوضع مقايس واضحة لقياس شفافية النماذج والتفكير جيدا قبل ترقية النماذج لمستوى أعلى، فضلا عن وضع أدوات لكشف كذب نماذج الذكاء الاصطناعي.
هاشتاغز
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
الجزيرة
منذ 4 ساعات
- الجزيرة
"علي بابا" تكشف عن أول نظاراتها للذكاء الاصطناعي
كشفت "علي بابا" عن أولى نظاراتها الذكية المعززة بتقنيات الذكاء الاصطناعي ضمن تواجد الشركة في المؤتمر العالمي للذكاء الاصطناعي المقام حاليا في شنغهاي، وذلك وفق التقرير الذي نشره موقع "ساوث تشاينا مورنينغ بوست" (SCMP). وتأتي النظارات الجديدة تحت اسم "كوارك إيه آي جلاسس" (Quark AI Glasses) تيمنا بالمساعد الذكي المعزز بالذكاء الاصطناعي التابع للشركة في إشارة لاعتمادها عليه بشكل أساسي لتشغيل مزايا الذكاء الاصطناعي وفق تقرير الموقع. كما أشار التقرير إلى أن "علي بابا" أكملت تطوير النظارات وتخطط لطرحها خلال هذا العام دون تحديد موعد نهائي للطرح، مضيفا أن الطرح يأتي ضمن مساعي "علي بابا" لتوسيع مزايا الذكاء الاصطناعي التي تقدمها. وتخطط الشركة للتغلب على التحديات السائدة في قطاع الذكاء الاصطناعي بما فيها واجهة الاستخدام السيئة فضلا عن عمر البطارية الضعيف ومزايا الذكاء الاصطناعي المحدودة وفق تصريحات سونغ جانغ رئيس أعمال المحطات الذكية في الشركة ضمن فعاليات المؤتمر. ووضح سونغ أن النظارة الجديدة تأتي في إطار أصغر بنسبة 40% من المعتاد فضلا عن اعتمادها على شرائح "سناب دراغون إيه آي 1" (Snapdragon AR1) من شركة "كوالكوم" (Qualcomm) الرائدة وتسخر نظام تشغيل مزدوج بين "أندرويد" ونظام تشغيل خاص بها. وأضاف أن النظارة الجديدة تتكامل بشكل فريد مع منظومة "علي بابا" المتكاملة بدءا من تطبيقات التسوق وحتى تطبيق الخرائط وآليات الدفع اللاتلامسي المطورة من قبل الشركة عبر أكواد الاستجابة السريعة الموجودة لدى التجار حسب التقرير. ويذكر بأن "علي بابا" تعهدت بتوسيع استثماراتها في البنية التحتية للذكاء الاصطناعي بقيمة تصل إلى 53 مليار دولار خلال الأعوام الثلاثة القادمة، وذلك ضمن خطة الشركة لتعزيز تواجدها في قطاع الذكاء الاصطناعي وفق التقرير. إذ أشار التقرير إلى أن الشركة غيرت هيكلها الداخلي لتركز على تطبيقات الذكاء الاصطناعي والنماذج الخاصة به فضلا عن تطوير مساعد "كوارك" الشخصي ليتحول من محرك بحث ومساحة تخزين سحابية إلى مساعد ذكاء اصطناعي متكامل. وتعد "علي بابا" من الشركات المتأخرة في دخول قطاع النظارات الذكية وفق ما جاء في التقرير، إذ سبقتها إليها شركات مثل "روكيد" (Rokid) و"إكس ريل" (Xreal).
الجزيرة
منذ 4 ساعات
- الجزيرة
كيف جمعت مديرة سابقة في أوبن ايه آي أكثر من ملياري دولار دون الكشف عن منتج
تمكنت ميرا موراتي وهي مديرة التكنولوجيا السابقة في شركة " أوبن إيه آي" من جمع تمويل وصل إلى ملياري دولار في أول جولة تمويلية لشركتها الجديدة الناشئة "ثينكينج ماشين" (Thinking machine) وذلك دون الكشف عن أي منتج أو خطة مستقبلية. ويشير التقرير الذي نشرته "رويترز" أن قيمة الجولة التمويلية الأولية "البذرية" للشركة وصلت إلى ملياري دولار مما يجعل قيمة الشركة تصل إلى 12 مليار دولار، وذلك بعد مضي أقل من 6 أشهر على تأسيس الشركة ودون الكشف عن منتجاتها. ولا يقتصر تفرد هذه الشركة على قيمة الجولة التمويلية الأولى فقط، بل في المشاركين بهذه الجولة، إذ يشير تقرير "رويترز" إلى أن "إنفيديا" و"سيسكو" و"إيه إم دي" شاركوا في تمويل الشركة وهم من كبار المستثمرين في وادي السيليكون، وذلك دون وجود تاريخ من الأرباح للشركة أو حتى منتج سابق ناجح، فلماذا استطاعت "ثينكينج ماشين" جمع كل هذا التمويل في وقت قياسي؟ استثمار في الأفراد يؤكد تقرير نشره موقع "فايننشال تايمز" أن موجة الاستثمار الواسعة في شركة "ثينكينج ماشين" تؤكد شهية الشركات والمستثمرين لشركات الذكاء الاصطناعي الفريدة والمختلفة حتى وإن لم تظهر بعد. كما يشير التقرير إلى ثقة المستثمرين الواسعة في ميرا موراتي التي تجعلهم يضخون كل هذه الأموال في شركة مجهولة تبلغ من العمر أقل من 6 أشهر، كونها تأسست في فبراير/شباط الماضي، إذ اعتمدت على تواجد موراتي فقط لجمع التمويل. ويذكر بأن موراتي التي تبلغ من العمر 36 ربيعا تركت "أوبن إيه آي" في سبتمبر/أيلول الماضي بعد أن أسهمت في تأسيس العديد من منتجات الشركة الناجحة والبارزة للغاية بدءا من نموذج الذكاء الاصطناعي " شات جي بي تي" وحتى أدوات توليد الصور والأصوات. كما عملت موراتي سابقا في "تسلا" كمدير منتج على سيارة "موديل إكس" (Model X) وغيرها من منتجات الشركة، ولكن موقف موراتي الأبرز كان انضمامها للجبهة المعارضة لإدارة سام ألتمان في "أوبن إيه آي" والانقلاب عليه في نوفمبر/تشرين الثاني 2023 حين أصبحت مديرا تنفيذيا مؤقتا حتى عاد ألتمان إلى منصبه. وتضم "ثينكينج ماشين" مجموعة بارزة من العاملين سابقا في "أوبن إيه آي" بدءا من المؤسس المساهم جون شولمان الذي شغل منصب الرئيس السابق للمشاريع الخاصة والرئيس السابق للمشاريع الخاصة جوناثان لاشمان ونائبي الرئيس السابقين باريت زوف وليليان وينج. ويمكن القول بأن كل الاستثمارات التي جمعتها الشركة كانت في هؤلاء الأفراد الذين يعدون نخبة من علماء "أوبن إيه آي" وقادتها السابقين فضلا عن كونهم من رائدي الذكاء الاصطناعي في العالم. ويقول أحد المستثمرين حول التركيبة الفريدة للشركة الناشئة أن مجموعة المؤسسين في الشركة الجديدة هم مجموعة فريدة وأذكياء للغاية مما يقنع أي مستثمر أن هذه الشركة من المقدر لها النجاح والوصول إلى العالمية. على ماذا تعمل شركة موراتي الجديدة؟ تظل المعلومات حول شركة موراتي الجديدة ومجال عملها غير كافية، ولكن يشير تقرير "فايننشال تايمز" إلى أن الشركة أعلنت عند تأسيسها في فبراير/شباط أنها تسعى لبناء أنظمة ذكاء اصطناعي يسهل فهمها وتخصيصها لحاجة المستخدمين، ويشير شخص آخر مطلع على الشركة أن موراتي تعمل على تطوير الذكاء الاصطناعي العام مثل بقية شركات الذكاء الاصطناعي. ولكن تحافظ موراتي على سرية مشروعها الجاري بشكل جعلها لا تخبر المستثمرين حتى ماذا يستثمرون فيه، إذ أشار التقرير ذاته إلى بعض المستثمرين الذين وضحوا أن موراتي لم تخبرهم بأي شيء عن المنتج الجديد وخطة الشركة المالية. لذا فإن المنتج الذي تنوي الشركة تقديمه مستقبلا أو الابتكار الفريد الذي جعلها تستحق 12 مليار دولار مازال مجهولا حتى الآن وقد لا تفصح موراتي عنه حتى يصبح جاهزا. من جانب آخر، أكد تقرير "فايننشال تايمز" أن موراتي احتفظت بحق تصويت يفوق أصوات جميع المديرين الآخرين، وذلك لتضمن أن تظل مسيطرة على الشركة وقراراتها المصيرية بشكل كبير. ويذكر بأن هذه ليست المرة الأولى التي يُستثمر فيها نتيجة وجود أحد مؤسسي "أوبن إيه آي" في الشركة، إذ حدث ذلك سابقا في شركة "سيف سوبرإنتليجنس" (Safe Superintelligence) التي أسسها إيليا سوتسكيفر المؤسس المشارك سابقا في "أوبن إيه آي"، إذ وصلت قيمة الشركة إلى 32 مليار دولار دون وجود منتج واضح لها.
الجزيرة
منذ 5 ساعات
- الجزيرة
"غوغل" تكشف عن ميزة ذكاء اصطناعي جديدة في محرك البحث
أعلنت " غوغل" عبر مدونتها الرسمية عن طرح ميزة ذكاء اصطناعي جديدة في محرك البحث الخاص بها تدعى "ويب جايد" (Web Guide) التي تعمل بآلية مختلفة عن بقية المزايا، وفق تقرير نشره موقع "لايف هاكر" (LifeHacker) التقني. ويكمن الاختلاف في الميزة الجديدة لكونها تجمع الروابط المتشابهة معا وتضع وصفا مختصرا لها حتى يتعرف المستخدم على المحتوى الموجود بها وإن كان مناسبا لما يبحث عنه أم لا، وذلك وفق التقرير. ويختلف هذا الوضع عن وضع الذكاء الاصطناعي المعتاد في محرك البحث الذي يلخّص الروابط ويضع إجابة مختصرة أعلى محرك البحث أو يتعامل بأسلوب يشبه روبوتات الدردشة الذكية، حسب ما جاء في التقرير. ويؤكد التقرير أن استخدام هذه الخاصية يتيح الوصول إلى الروابط من جميع صفحات محرك بحث "غوغل"، وفي بعض الأحيان تكون روابط لا يمكن الوصول إليها بآليات البحث المعتادة. ورغم إعلان "غوغل" الرسمي عن الميزة الجديدة، فإنها ما تزال ميزة اختبارية يمكن تفعيلها عبر خيارات "غوغل لابس" (Google Labs) التي تتيح للمستخدمين تجربة المزايا الاختبارية من الشركة وفق ما جاء في التقرير. كما نصحت "غوغل" المستخدمين بتجربة الميزة الجديدة مع الأسئلة المفتوحة أو التي تتضمن أكثر من جزء وتحتاج إلى مقارنة بين أجزاء مختلفة، وذلك لأنها تتيح للميزة تجميع الروابط بآليات مختلفة وعرضها بأشكال مختلفة. وتأتي هذه الميزة في أعقاب اعتراضات واسعة من مختلف المواقع عبر الإنترنت حول وضع الذكاء الاصطناعي الخاص بمحرك بحث "غوغل" كما جاء في تقرير منفصل من صحيفة "نيويورك بوست". إذ تسبب وضع الذكاء الاصطناعي المعتاد من "غوغل" في انخفاض معدل زيارات المواقع من محركات البحث، وبالتالي انخفاض عائد الإعلانات للمواقع التي تعتمد عليه بشكل مباشر. ولم يوضح تقرير "غوغل" إن كانت الميزة الجديدة تستبدل وضع الذكاء الاصطناعي المعتاد أم تكون ميزة تكميلية له، ولكن من المتوقع أن تكشف الشركة عن المزيد من التفاصيل مستقبلا.
