خبراء أمنيون مصريون يحذرون من "الذكاء الاصطناعي المظلم"
"تتجلى فيه الجرائم الرقمية بحُلل جديدة"
في هذا السياق، قال خبير الأمن السيبراني ومكافحة الجرائم الإلكترونية، محمد محسن رمضان، إن "الذكاء الاصطناعي المظلم لم يعد مجرد مفهوم نظري، بل أصبح واقعاً تتجلى فيه الجرائم الرقمية بحُلل جديدة، من التصيد الاحتيالي المُقنّع، مروراً بالتزييف العميق (Deepfake)، انتهاء بتوليد برمجيات خبيثة قادرة على التخفي والتطور الذاتي".
كما أضاف رمضان لـ"العربية.نت" أن "الهجمات أصبحت أكثر تعقيداً وذكاء، إذ تُستخدم نماذج الذكاء الاصطناعي في إنشاء رسائل تصيد إلكتروني شديدة الإقناع، واستنساخ المواقع الرسمية لخداع المستخدمين وتحليل السلوك البشري لاستهداف الضحايا حسب نقاط ضعفهم، والتلاعب بالصوت والصورة لانتحال شخصيات معروفة"، مردفاً أن "كل ذلك يتم اليوم بسرعة ودقة مخيفة، دون الحاجة إلى خبرات تقنية كبيرة، وهو ما يُضاعف من التهديد".
أدوات خبيثة من قلب "الدارك ويب"
وتابع قائلاً إنه "منذ إطلاق ChatGPT أواخر عام 2022، بدأت منصات "الإنترنت المظلم" في استنساخ وتعديل نماذج ذكاء اصطناعي لأغراض إجرامية، ومن أبرزها WormGPT وهو أداة مفتوحة المصدر تولد برمجيات فدية وأكواد ضارة، وFraudGPT وهو منصة لتوليد رسائل تصيد وابتكار أدوات اختراق، وAutoGPT التي تُستخدم لتدريب النماذج على تنفيذ أهداف خبيثة بشكل ذاتي، وFreedomGPT وهي أداة لا تخضع لأي رقابة، وتُستخدم في توليد محتوى خطير دون اتصال بالإنترنت".
كما شدد على أن "كل واحدة من هذه الأدوات تمثل مصنعاً رقمياً للجريمة، تُدار بواسطة الذكاء الاصطناعي وتُسوق كخدمات اشتراك شهري على الدارك ويب".
"ظاهرة يومية ومنتشرة"
كذلك حذر الخبير المصري من أن "ما يُنذر بالخطر الحقيقي هو أن هذه الأدوات أصبحت متاحة ليس فقط للقراصنة المحترفين، بل للهواة والمبتدئين، ما يعني أن الجريمة السيبرانية ستتحول من عمليات نادرة ومعقدة إلى ظاهرة يومية ومنتشرة، فتقارير شركات الأمن العالمية تقرع جرس الإنذار".ولفت إلى أن "شركة CrowdStrike سجلت استخداماً متزايداً للذكاء الاصطناعي في هجمات سيبرانية فورية ومتقدمة، بينما صنفت Gartner الهجمات المدعومة بالذكاء الاصطناعي ضمن أخطر المخاطر على المؤسسات. كما كشفت غوغل عن استغلال نموذجها (Gemini) من قبل جهات تهديد مدعومة حكومياً، ورصدت Acronis تضاعف عدد هجمات التصيد والتزييف العميق بنسبة 200%".
"الحل في المعرفة واليقظة"
من جانبه، قال مساعد أول وزير الداخلية الأسبق والخبير الأمني المصري خالد حمدي، إن "ما نواجهه اليوم ليس تطوراً طبيعياً للجرائم السيبرانية، بل طفرة في التهديدات الرقمية، يقودها ذكاء اصطناعي بلا ضمير، يُدار في الظلام، ويُنفذ هجمات خفية ومعقدة يصعب التنبؤ بها أو التصدي لها. وعليه، فإن الحاجة أصبحت ملحة لبناء وعي سيبراني شامل، وتبني أدوات دفاع استباقية، وتشديد الرقابة على تطوير واستخدام تقنيات الذكاء الاصطناعي".
وأردف حمدي لـ"العربية.نت" أن "الذكاء الاصطناعي ليس دائماً في صفك. من الممكن أن يكون سبباً لاختراقك! فقبل فتح الإيميل أو الضغط على رابط، اسأل نفسك: هل أنا الهدف؟".كما ختم مشدداً على أنه "لابد من الحذر من المحتوى المزيف والصوت والصورة حيث من الممكن فبركتهم ببراعة! فالذكاء الاصطناعي المظلم ليس خطراً قادماً، بل واقع نعيشه والحل ليس في الهلع، بل في المعرفة واليقظة، وبناء دفاع رقمي ذكي ومتكامل".
جرب ميزات الذكاء الاصطناعي لدينا
اكتشف ما يمكن أن يفعله Daily8 AI من أجلك:
التعليقات
لا يوجد تعليقات بعد...
أخبار ذات صلة
أخبارنا
منذ 10 ساعات
- أخبارنا
5 حقائق مدهشة حول كيفية عمل روبوتات الدردشة الذكية
أخبارنا : تسيطر روبوتات الدردشة الذكية، مثل ChatGPT، على المشهد التكنولوجي اليوم، حيث تغيّر طريقة تعاملنا مع المعلومات وتقدم إجابات فورية لمختلف الاستفسارات. ولكن، كيف تعمل هذه التقنية بالضبط؟ وما الذي يجعلها ذكية إلى هذا الحد؟. تعتمد هذه الروبوتات على آليات معقدة تختلف تماما عن طريقة تفكير البشر. وفيما يلي 5 حقائق أساسية تكشف الغموض عن هذه التقنية الثورية: 1. تُدرّب باستخدام التغذية الراجعة البشرية تبدأ رحلة التدريب بمرحلة "التدريب المسبق" حيث تلتهم كميات هائلة من النصوص. لكن المفارقة أنها تحتاج إلى تدخل بشري لتصبح مفيدة وآمنة. ولاحظ الباحثون أنه بدون توجيه الإنسان، قد تقدم هذه الروبوتات نصائح خطيرة. لذا يضيف المطورون طبقة من "التوافق الأخلاقي" تضمن تقديم إجابات مسؤولة. 2. تفكك الكلمات إلى رموز غريبة تختلف طريقة معالجة اللغة بين البشر والذكاء الاصطناعي، حيث تستخدم الروبوتات وحدات تسمى "الرموز"، التي قد تكون كلمات كاملة أو أجزاء منها أو حتى أحرفا منفصلة. ورغم أن الترميز يتبع عادة قواعد منطقية، إلا أنه قد ينتج أحيانا تقسيمات غريبة. على سبيل المثال: "السعر 9.99 دولارا" تُرمّز إلى: "$" "9" "." "99". بينما تُقسّم جملة "ChatGPT is marvellous" إلى: "chat" "G" "PT" "is" "mar" "velous". 3. تتجمد معرفتها في زمن محدد يعاني ChatGPT مثلا من "تحديث معرفي" ينتهي في يونيو 2024. ما يجعله عاجزا عن الإجابة عن أي حدث لاحق إلا بالبحث عبر الإنترنت. 4. تختلق المعلومات أحيانا بثقة مطلقة تصاب بما يسمى "الهلوسة" حيث تقدم إجابات خاطئة لكنها تبدو مقنعة. السبب؟ أنها تركز على انسيابية اللغة أكثر من دقة المعلومة. 5. تحل المسائل الرياضية كالمحترفين تمتلك أدوات حسابية مدمجة تساعدها في حل المعادلات خطوة بخطوة. وعندما تواجه مسألة معقدة، تقسمها إلى أجزاء صغيرة ثم تجمع النتائج. ويؤكد الخبراء أن فهم هذه الآليات يساعد في استخدام الروبوتات بشكل أكثر فعالية، مع إدراك حدودها التي لا تزال قيد التطوير. التقرير من إعداد جاتاي يلديز، خبير في تعلم الآلة بجامعة توبنغن. المصدر: ساينس ألرت
العرب اليوم
منذ 17 ساعات
- العرب اليوم
الذكاء الاصطناعي والإبداع
هناك فكرة مخيفة مفادها أن أحد أشهر برامج الذكاء الاصطناعي «ChatGPT» يستطيع أن يكتب مقالةً أو روايةً أو حتى بحثاً علمياً، بإتقان وبراعة لا متناهية. قدم لي أحد أقاربي مقالاً مذيلاً باسمي، وقال إنه مقال قديم لي. قرأته، نعم يشبهني، لكني كنت متأكدة أني لم أكتبه يوماً، واحتفظت بإنكاري أنني لم أفعل. المقال كان يتبنى أفكاري وأسلوبي الكتابي الذي ينفرد به كل كاتب، أستطيع أن أقول إنه يمثلني بنسبة تفوق 80 بالمائة، وهي نسبة مرعبة. اتضح أن الموقف كان مزحةً من قريبي المتخصص في تقنية المعلومات، أراد أن يقنعني بسلطة الذكاء الاصطناعي وهيمنته التي لا نستطيع أن نتخيل إلى أي مدى ستصل. أنا اليوم على قيد الحياة وأستطيع إنكار ما هو ليس لي، لكن دوام الحال من المحال، بعد مدة، قد لا أكون متوفرة لأقول هذا لي أو لا. موقف بسيط لكنه شرح بوضوح الجانب السلبي للذكاء الجديد. منذ بدء التاريخ الإنساني، كان التزوير وتلفيق المنتج الأدبي موجوداً، قصائد ومقالات وقصص وأبحاث لم يكتبها أصحابها، كانت أقلام مأجورة، لكنها مكلفة مادياً للذين لهثوا خلف الشهرة لأنها مدفوعة الثمن، كما أنها قد تكون عرضة للكشف والفضيحة لأي سبب. أما اليوم فهذه المخاطر غير واردة مع «ذ.إ» لا تكلفة ولا فضيحة. وأنا أكتب هذا المقال فتحت تطبيق «ChatGPT» ووضعت هذا الأمر: اكتب لي عبارة تحاكي أسلوب الروائي ديستوفسكي. جاءت الإجابة خلال ثانيتين تماماً: «كان يمشي في الزقاق الضيق كما لو أن خطاياه تُثقل قدميه، وكل ظلٍّ يمرّ به يهمس له بما يعرفه جيداً: أنك لست ضحية العالم، بل صنيعة جراحك التي اخترت ألا تداويها»!! ذُهلت، هل هذا حقيقة؟ عدت لأسأله: ما احتمالية أن أجد هذه العبارة في «غوغل» أو في أي مكان؟ جاءتني الإجابة: هذه العبارة من تأليفي ولم تُنقل من أي مصدر معروف أو منشور، لذا لن تجدها مطابقة في «غوغل» أو في أي مكان آخر. اليوم علينا أن نعيد حساباتنا، على مؤسسات التعليم أن تدرك أن الطالب يستطيع أن ينجز بحثاً متقناً بكل تفاصيله خلال ثوانٍ. هذا غش وتزوير صريحان، يتنافيان مع شرط الأصالة، فماذا هم فاعلون؟ في فترة مضت، كنا نحذر الطلبة بألا يعتمدوا في أبحاثهم على موقع «ويكيبيديا» بل يتوجهون للمصادر العلمية المعروفة، أولاً، لأنه مصدر غير موثوق، وثانياً لأن معلوماته قابلة للتعديل من أي شخص كان. كان من السهل كشف الطالب الذي لا يمتثل من خلال اقتطاع سطور من بحثه والبحث عنها في «غوغل». لكن مع «ذ.إ» الوضع آمن. حينما أتأمل هذه التقنية أفكر أن الأسوأ في نظري يلامس حالتين؛ الأولى من سيكتب التاريخ؟ التاريخ الذي تمتلئ به مكتباتنا اليوم كان دائماً عرضة للنقد والتشكيك بالمؤلفين وحقبهم الزمنية، والأخذ والرد، والتفنيد، رغم أنه كُتب بشكل تقليدي على يد إنسان. بعد 20 عاماً كم كتاب تاريخ على الرف نثق أنه حقيقي النقل والكتابة، وليس صنيعة آلة ابتكرها الإنسان وأصبحت أكثر تفوقاً منه في سرعة التنفيذ والإنجاز. هل سنتوه داخل دائرة مغلقة بحثاً عن الحقيقة؟ الحالة الثانية المقلقة هي الأبحاث العلمية. الباحث يقضي شهوراً وربما سنوات ليخرج ببحث رصين يستطيع نشره. في واقعنا اليوم، يستطيع الباحث إنجاز بحث يتضمن نتائج علمية لا تمت للواقع بصلة سوى ما اجتهد فيه «ذ.إ»، وأخرجه بعد المرور على آلاف الأبحاث المشابهة. حتى أنه يستطيع أن يقدم إحصاءات، وجداول، ورسوماً بيانيةً ليبدو البحث متكاملاً. في حالتنا التقليدية، كان الباحث ليُطرد من الجامعة أو المركز البحثي إن تسربت معلومات حول حقيقة أبحاثه، لكن من يستطيع اليوم أن يكون شرطياً للأبحاث؟ من ناحية أخرى، يستطيع من يتهمني بالسلبية والسوداوية أن يقول إنه استطاع عمل دراسة جدوى لمشروع اقتصادي كبير خلال دقائق بفضل «ذ.إ» مما وفر عليه الوقت والجهد. برنامج إيلون ماسك «Neuralink» يخترق العقل البشري، هذه سلبية، لكنه قد يساعد في الشفاء من الشلل والأمراض العصبية. وأمثلة أخرى كثيرة لا حصر لها. أنا مؤيدة لذلك، وأنوي شخصياً الاستفادة من هذه الثورة المعلوماتية، ولكن فكرتي أن «ذ.إ» سلاح ذو حدين، والحد الموجع الرهيف مؤذٍ، وقد ينتج لنا أفراداً جهلاء فقيري المعرفة لكنهم أصبحوا مرموقين بفضل أعمال لم يقوموا بها ومعارف لم يكتسبوها. هذه المعضلة لا أستطيع تجاوزها. الحقيقة أن «ChatGPT» وغيره من التطبيقات غيرت وستغير حياة الناس للأفضل، وظهر وسيظهر في المستقبل المزيد منها التي تعمل عمل المستشار والسكرتارية والهندسة وكفاءة الأعمال وتشخيص الأمراض وتصميم الأدوية ومنافع لا نهاية لها. لكن المخاطر حاضرة، وعلينا إيجاد حلول لها، مثل مخاطر كل تقنية عشنا ظهورها؛ الطائرات والكهرباء والهندسة الوراثية والطاقة النووية... إلخ خلال كتابة مقالي هذا سألت «ChatGPT» عن أنواع وخصائص التقنيات الحديثة وأجابني.
السوسنة
منذ يوم واحد
- السوسنة
ألوان جديدة مرتقبة لساعة بيكسل ووتش 4
السوسنة - كشفت تسريبات تقنية جديدة عن التشكيلة المتوقعة لألوان الإصدار المرتقب من ساعة "بيكسل ووتش 4" الذكية من شركة غوغل، والتي يُنتظر إطلاقها بحجمين مختلفين هما 41 ملم و45 ملم.ووفقًا لموقع "9TO5Google" المتخصص في أخبار التكنولوجيا، فإن غوغل تعتزم طرح الجيل الرابع من ساعتها الذكية بخيارات ألوان متعددة، تشمل تصميمات جديدة لكل من الساعة والأساور، ما يمنح المستخدمين حرية أكبر في التخصيص.وتتضمن الألوان المتوقعة: ولم تُحدد التسريبات بعد ما إذا كانت هذه الألوان ستتوفر لكلا حجمي الساعة، خاصة وأن الجيل السابق "بيكسل ووتش 3" لم يكن متطابقًا في خيارات الألوان بين الحجمين.كما أشارت المعلومات إلى أن غوغل تعمل على إطلاق مجموعة جديدة كليًا من الأساور لعام 2025، تضم تصاميم مبتكرة ومزيجًا لونيًا أكثر تنوعًا لتلبية الأذواق المختلفة.وتأتي هذه التسريبات في إطار ترقب واسع لإطلاق الجيل الجديد من "بيكسل ووتش"، المتوقع أن يشهد تحسينات على مستوى التصميم والأداء والوظائف الذكية. اقرأ أيضاً:
