مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

45 خبر
  • نبض الملاعب
  • هدنة وحصار المضيق
  • فيديوهات
  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • فيديوهات

    فيديوهات

  • هدنة بين حزب الله وإسرائيل

    هدنة بين حزب الله وإسرائيل

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

بيان إيراني حاد حول "استخدام" الولايات المتحدة أراضي وأجواء 5 دول خليجية

نجل شاه إيران يتعرض لاعتداء في برلين (فيديو)

الحرس الثوري الإيراني يبث مشاهد من عملية السيطرة على سفينة حاويات في مضيق هرمز (فيديو)

نيبينزيا يهاجم إسرائيل في مجلس الأمن: نشاطها غير قانوني ويقوض سيادة سوريا

وزارة الصحة: المحاولات مستمرة لإنقاذ الصحفية آمال خليل العالقة تحت الركام في بلدة الطيري جنوب لبنان

مقتل الصحفية اللبنانية آمال خليل في قصف إسرائيلي استهدف بلدة الطيري.. نواف سلام: جريمة حرب موصوفة

لحظة بلحظة.. الهدنة الهشة مستمرة بين الولايات المتحدة وإيران وانتهاكات في مضيق هرمز

"سيندمون".. قائد القوات البرية الإيرانية يتوعد برد حاسم على أي اعتداء

تزامنا مع حصار إيران.. استقالة وزير البحرية الأمريكي بسبب توتر متصاعد في البنتاغون وخلاف مع هيغسيث

"غيابه غصة في القلب".. الشرع يستقبل البويضاني بعد سنة من سجنه بالإمارات (فيديو+صور)

كاتس: الهجوم هذه المرة على ايران سيكون قاتلا وسنوجه ضربات مدمرة وسنهز أركانها وندمرها

البنتاغون: هونغ كاو سيتولى منصب وزير البحرية بالوكالة خلفا لفيلان

بعد السعودية وقطر.. الرئيس السوري أحمد الشرع يصل الإمارات في زيارة رسمية

لافروف حول "ورطة" ألمانيا: قبعة اللص تحترق

مصدر دبلوماسي لـ"نوفوستي": إمكانية ترتيب لقاء بين وفدي إيران والولايات المتحدة الليلة أو غدا

لحظة بلحظة.. 24 ساعة على انتهاء الهدنة: مفاوضات طهران- واشنطن في عنق الزجاجة على وقع تصاعد التوتر

للمرة الخامسة.. مجلس الشيوخ الأمريكي يرفض مساعي الديمقراطيين لوقف الحرب على إيران