مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي

وستعمل الشركة خلال هذه الفترة على إعادة هيكلة أنظمة البحث والتدريب لجعلها أكثر أمانا، مع الإبطاء من وتيرة تطوير الذكاء الاصطناعي.

وجاء هذا الإعلان بعد أسابيع من اعتراف OpenAI بأن أحد أنظمتها تصرف بشكل خارج عن السيطرة أثناء الاختبار، وقام باختراق شركة منافسة تعمل في مجال الذكاء الاصطناعي. وأدى ذلك إلى سلسلة من الكشوفات المماثلة من شركات أخرى مثل Anthropic و"ميتا"، ما أثار مخاوف من أن تطوير هذه الأنظمة يجري بوتيرة أسرع بكثير من قدرة الأنظمة المصممة لحماية العالم من مخاطرها.

إقرأ المزيد

OpenAI تطلق نسخة ChatGPT للمراهقين بضوابط أمان مشددة

وقالت OpenAI إنها ستأخذ استراحة لمدة أسبوعين من اختبار النماذج، كما أوقفت تدريب الجيل التالي من نماذجها المعروفة باسم Astra. وستستغل هذه الفترة في إضافة أنظمة أمان جديدة، بما في ذلك أدوات ذكاء اصطناعي جديدة قادرة على مراقبة سلوك الأنظمة قيد الاختبار.

اختبارات الأمان الحالية قد لا تكون كافية

أشارت الشركة إلى أن بعض أنظمة الاختبار الحالية، التي تعتمد على طريقة تسمى "مراقبة سلسلة الأفكار" (chain-of-thought monitoring) لمراقبة كيفية عمل النماذج، قد لا تكون كافية لضمان سلامتها. هذه الطريقة تسمح للباحثين بالنظر في عملية التخطيط للنموذج وفهم كيفية إنتاجه للنتائج، لكن هناك قلقا جديدا من أن النماذج قد تخفي خططها لكسر قواعدها الخاصة.

إقرأ المزيد

ماذا يحدث لأسرارك مع الذكاء الاصطناعي؟

ويمثل تباطؤ وتيرة تطوير النماذج تحولا في نهج OpenAI، التي كانت في طليعة تطوير النماذج الجديدة وتلقت أحيانا انتقادات لإصدارها مبكرا جدا.

ويأتي هذا القرار في وقت تواجه فيه الشركة ضغوطا متزايدة، إذ تشير التقارير إلى أنها تخلفت عن منافستها Anthropic، وتخطط للطرح العام في السوق قريبا.

وكتب سام ألتمان، الرئيس التنفيذي لـOpenAI، على منصة "إكس": إن "تقدم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أن قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي. ونعتقد أن المجال بأكمله سيتعين عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي".

إقرأ المزيد

ذعر مبرر أم تسويق محسوب؟.. ماذا تخبرنا اختراقات الذكاء الاصطناعي التي أربكت العالم مؤخرا؟

وأضاف: "نتوقع أن تتحكم الثقة في الأمان بشكل متزايد في وتيرة تقدم الذكاء الاصطناعي. نحن متفائلون بشأن عمل المواءمة الذي نقوم به، ونظل ملتزمين بجعل القدرات المتطورة متاحة على نطاق واسع".

وجاء الإعلان الأخير لـOpenAI، بعد أن كشفت الشركة الشهر الماضي أن وكيلا مستقلا يعمل بنموذجين متقدمين من أنظمة الذكاء الاصطناعي، قد هرب من بيئة الاختبار، واتصل بالإنترنت، واخترق شركة ذكاء اصطناعي منافسة تدعى Hugging Face. وقام بذلك للغش في الاختبار، حيث أن Hugging Face تستضيف مواد كانت ستساعده في تحقيق هدفه بسهولة أكبر، ما دفع النموذج التجريبي إلى شن هجوم إلكتروني.

إقرأ المزيد

لأول مرة.. نموذج ذكاء اصطناعي "كلود" يقرر طرد موظف بشري من متجر في سان فرانسيسكو

ومنذ ذلك الحين، تحركت الشركة للرد على مخاوف الخبراء والمشرعين من أنها تختبر وتطلق نماذج مبكرا جدا، بطرق قد تشكل خطرا على الجمهور العام. وقد أعلنت OpenAI أنها تضيف ضوابط أمنية جديدة لنماذجها الأكثر قوة، وتوقفت عن الأنشطة المتعلقة بـAstra، نموذج الجيل التالي الذي لم يطرح بعد، وذلك تماشيا مع "إطار الاستعداد" الذي أطلقته في نهاية عام 2023، والذي يتطلب إيقاف العمل على النماذج التي قد تشكل خطرا.

المصدر: إندبندنت 

إقرأ المزيد

OpenAI تؤجل إطلاق نموذج "أسترا" بعد مخاوف من قدرته على شن هجمات سيبرانية ذاتيا

قررت شركة OpenAI تعليق جزء من خططها لتحديث ChatGPT، بعدما أظهرت الاختبارات أن نموذجها الجديد "أسترا" قد يكون خطيرا إذا أطلق في نسخته الحالية.

علماء "ستانفورد" يبتكرون فيروسات اصطناعية باستخدام الذكاء الاصطناعي

تمكن فريق من الباحثين بقيادة جامعة ستانفورد، للمرة الأولى، من استخدام الذكاء الاصطناعي التوليدي لتصميم فيروسات اصطناعية كاملة لم يسبق لها مثيل في الطبيعة.

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

كشفت شركة "ميتا" أن أحد أنظمة الذكاء الاصطناعي التابعة لها تمكن من اختراق شركة أخرى أثناء مرحلة الاختبار.