مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

33 خبر
  • مونديال 2026
  • العملية العسكرية الروسية في أوكرانيا
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • مونديال 2026

    مونديال 2026

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • فيديوهات

    فيديوهات

  • ما سبب تعثر صفقة انتقال محمد صلاح إلى الدوري السعودي؟

    ما سبب تعثر صفقة انتقال محمد صلاح إلى الدوري السعودي؟

  • بالضربة القاضية.. هتان السيف تخطف الأضواء في أول نزال احترافي

    بالضربة القاضية.. هتان السيف تخطف الأضواء في أول نزال احترافي

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

تاكر كارلسون: هجوم إسرائيل على سفينة التجسس الأمريكية "ليبرتي" متعمد وهناك من يدافع عن رواية تل أبيب

ترامب لـ"واشنطن بوست": تركت تعليمات في حال نجحت إيران في مخططاتها لاغتيالي

إعلام عبري: إسرائيل أبلغت مصر رسميا عن بدء المرحلة الثانية في قطاع غزة خلال أيام

"سي إن إن": صور أقمار صناعية حديثة تكشف احتمال إعادة بناء منشآت نووية إيرانية سرية

معهد "ألما" الإسرائيلي يدق ناقوس الخطر بشأن نشر رادار تركي متطور في مطار دمشق الدولي (صور + فيديو)

"الإهانات بدلا من الحكمة".. خطأ ترامب المُحرج نسف العفو عن نتنياهو

القائم بأعمال وزارة الدفاع في إيران: نقاط ضعف العدو محسوبة لدينا ومرصودة بدقة

مساعد بوتين: يتزايد دور القوة البحرية في العالم اليوم بوتيرة متسارعة

واشنطن: لا اتفاق مع إيران دون تسليم "الغبار النووي" ووقف تهديد الملاحة

زيلينسكي يقر بفشل الدفاعات الجوية الأوكرانية في اعتراض الصواريخ الباليستية الروسية

"ميدل إيست أي": روسيا لم تظهر أي عداء عسكري تجاه أي دولة في أوروبا الغربية