حذر بول كريستيانو، عضو المجلس غير الربحي لشركة OpenAI والمستشار التقني في الحكومة الأمريكية، من أن الشركة ليست على المسار الصحيح لخفض خطر فقدان السيطرة على الذكاء الاصطناعي إلى مستوى مقبول، وذلك وسط تنامي القلق العام والسياسي من أن أنظمة الذكاء الاصطناعي فائقة التقدم قد تشكل تهديدا وجوديا للبشرية في يوم من الأيام.

تحذير من خطر قريب

وقال كريستيانو، بحسب ما نقلته صحيفة The Guardian: “هناك خطر حقيقي من أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى فقدان كارثي ولا رجعة فيه للسيطرة في المدى القريب جدا”. ويأتي هذا التصريح في وقت يشغل فيه موضوع سلامة الذكاء الاصطناعي حيزا متزايدا في النقاش العام والسياسي، خاصة مع تسارع وتيرة تطوير النماذج المتقدمة.

سياق تقني: ما معنى فقدان السيطرة؟

يشير مصطلح “فقدان السيطرة” في أدبيات سلامة الذكاء الاصطناعي إلى سيناريو يصبح فيه النظام الذكي قادرا على تحقيق أهداف لا تتوافق مع المصالح البشرية، أو يتصرف بطرق يصعب على مطوريه التنبؤ بها أو تصحيحها. وتتعلق هذه المخاوف بما يُعرف بمشكلة “المواءمة” (Alignment)، أي ضمان أن تتصرف الأنظمة الذكية وفق القيم والأهداف التي يحددها البشر.

ويُعد كريستيانو من الأصوات البارزة في مجال أبحاث المواءمة والسلامة، وقد انضم إلى المجلس غير الربحي لشركة OpenAI، وهو الكيان الذي يشرف على الشركة ويضطلع بمهمة ضمان أن يخدم تطوير الذكاء الاصطناعي العام المصلحة البشرية.

دلالات التصريح

تكمن أهمية هذا التحذير في كونه صادرا من داخل البنية الإشرافية لشركة OpenAI نفسها، ما يضفي عليه ثقلا خاصا. فالمجلس غير الربحي يُفترض أن يكون الجهة التي تراقب مسار الشركة وتوجهاتها، وإعلان أحد أعضائه أن الشركة ليست على المسار الصحيح لخفض المخاطر إلى مستوى مقبول يمثل إشارة إلى وجود فجوة بين الطموحات التقنية ومتطلبات السلامة.

ضغوط متزايدة على قطاع الذكاء الاصطناعي

يأتي هذا التصريح في ظل تصاعد الدعوات من باحثين ومنظمات مدنية وحكومات إلى وضع أطر تنظيمية أكثر صرامة لتطوير الذكاء الاصطناعي. وتتركز المطالب على ضرورة إجراء تقييمات للمخاطر قبل إطلاق النماذج المتقدمة، وضمان الشفافية في كيفية تدريبها واختبارها، وإنشاء آليات رقابية مستقلة.

وتشير هذه التطورات إلى أن النقاش حول سلامة الذكاء الاصطناعي لم يعد مقتصرا على الأوساط الأكاديمية، بل أصبح جزءا من السياسات العامة وخطط الشركات الكبرى العاملة في المجال.

الخلاصة

يعكس تحذير بول كريستيانو قلقا متزايدا من أن وتيرة تطوير الذكاء الاصطناعي قد تتجاوز قدرة المجتمع على ضمان السيطرة الآمنة عليه. وبينما تتسابق الشركات على إطلاق نماذج أكثر قدرة، يبقى السؤال المطروح: هل تكفي الجهود الحالية لضمان أن تظل هذه الأنظمة تحت السيطرة البشرية؟