صابر الحرشاني
اخذت التحذيرات من المخاطر التي قد ترافق التطور المتسارع للذكاء الاصطناعي منحى جديد فلم تعد تصدر عن خبراء وباحثين من خارج القطاع فحسب بل في الأسابيع الأخيرة خرجت أصوات من داخل الشركات التي تقود سباق الذكاء الاصطناعي، داعية إلى التمهل وتشديد إجراءات السلامة، في وقت تتطور فيه النماذج من أدوات تجيب عن الأسئلة وتنتج النصوص والصور إلى أنظمة قادرة على تنفيذ مهام متسلسلة بدرجة متزايدة من الاستقلالية.
و يضع هذا التحول العالم أمام مفارقة لافتة وهي ان الشركات نفسها التي تدفع حدود قدرات الذكاء الاصطناعي إلى مستويات جديدة، باتت تحذر في الوقت ذاته من أن إجراءات السلامة والرقابة قد لا تتقدم بالسرعة نفسها.
ولا يعني ذلك أن الذكاء الاصطناعي خرج عن السيطرة فعلا، أو أن العالم أصبح أمام آلة مستقلة قادرة على اتخاذ قراراتها بعيدا عن البشر. لكن النقاش تغير، وأصبح السؤال المطروح أكثر تحديدا: ماذا يحدث إذا أصبحت الأنظمة المستقبلية أكثر قدرة على التخطيط والتنفيذ والتعلم، بينما بقيت وسائل مراقبتها وإيقافها أقل تطورا؟
التحذير من داخل شركات الذكاء الاصطناعي
ومن أبرز الأصوات التي رفعت مستوى التحذير مؤخرا داريو أمودي، الرئيس التنفيذي لشركة انتثروبيك، الذي دعا إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة حتى تتمكن إجراءات السلامة من اللحاق بالقدرات الجديدة وقال إن بعض الأنظمة قد تقترب خلال فترة قصيرة من امتلاك قدرة أكبر على تنفيذ عمليات معقدة عبر الإنترنت بصورة منسقة.
ولم تأت هذه الدعوات في فراغ فقد شهد القطاع خلال الفترة الأخيرة استقالات وانتقادات من باحثين عملوا داخل مختبرات الذكاء الاصطناعي، بسبب ما اعتبروه تسارعا في سباق تطوير النماذج المتقدمة مقارنة بسرعة بناء آليات الحماية والرقابة.
وفي الجانب الآخر، أبدى سام ألتمان، الرئيس التنفيذي لـ “اوبن اي”، تأييدا لفكرة التعامل بجدية مع المخاطر، مع تأكيده أن القطاع قادر على تطوير وسائل السلامة بالتوازي مع الابتكار. وفي المقابل، يرى مارك زوكربيرغ، الرئيس التنفيذي لـ “ميتا”، أن شركات الذكاء الاصطناعي لديها حوافز كافية لتطوير أنظمتها بصورة آمنة، وهو ما يكشف أن داخل القطاع نفسه لا يوجد اتفاق كامل حول حجم الخطر أو الطريقة المناسبة للتعامل معه.
وتكتسب هذه المواقف أهميتها من كونها صادرة عن أشخاص يملكون معرفة مباشرة بما يجري داخل مختبرات تطوير النماذج. لكنها في الوقت نفسه لا تعني أن جميع السيناريوهات التي يجري التحذير منها ستتحقق، إذ ما تزال بعض أكثر التوقعات خطورة موضع خلاف بين الباحثين.
من المساعد إلى الوكيل
والتحول الأهم في الذكاء الاصطناعي لا يتعلق فقط بارتفاع جودة الإجابات، وإنما بانتقال الأنظمة تدريجيا من دور المساعد إلى دور الوكيل القادر على تنفيذ مجموعة من الخطوات لتحقيق هدف معين.
فالنموذج التقليدي ينتظر سؤالا ثم يقدم إجابة. أما أنظمة الوكلاء فتستطيع، ضمن الصلاحيات والأدوات الممنوحة لها، البحث في الإنترنت، كتابة البرمجيات وتشغيلها، التعامل مع الملفات والبرامج، تقسيم المهمة إلى مراحل ومتابعة النتائج قبل الانتقال إلى الخطوة التالية.
وهنا تبدأ المخاطر العملية في الارتفاع. فالخطأ في إجابة نصية يمكن للمستخدم اكتشافه وتصحيحه، أما الخطأ الصادر عن نظام يملك صلاحية تنفيذ إجراءات متتابعة فقد ينتقل من الشاشة إلى العالم الحقيقي قبل أن ينتبه الإنسان إليه.
وتقدم التقارير التي تنشرها شركات الذكاء الاصطناعي نفسها أمثلة على الجانب الآخر من هذه المشكلة. فقد أعلنت ركة انثروبيك في تقرير حديث أنها رصدت خلال الأشهر الماضية استخدام نموذج كلود في عمليات سيبرانية، ومراقبة، واحتيال، ومحاولات مرتبطة بأنشطة بيولوجية وتسليحية، مؤكدة أنها عطلت الحسابات والعمليات التي تمكنت من تحديدها وشاركت معلومات عنها مع شركاء وجهات مختصة.
سباق التكنولوجيا وسباق السلامة
وتكمن الصعوبة الأساسية في أن تطوير الذكاء الاصطناعي يجري في بيئة تنافسية عالمية. كل شركة تريد تطوير نموذج أكثر قدرة، وكل دولة تخشى أن يؤدي التباطؤ إلى خسارة موقعها أمام منافسين آخرين.
وهذا ما يجعل الدعوة إلى التمهل أكثر تعقيدا من مجرد مطالبة الشركات بإيقاف التطوير. فالتنافس الاقتصادي والاستراتيجي يدفع نحو إطلاق قدرات جديدة، بينما تحتاج اختبارات السلامة والتقييم المستقل ووضع القواعد التنظيمية إلى وقت أطول.
وقد ظهرت خلال الأيام الأخيرة دعوات داخل القطاع إلى تعزيز الرقابة الخارجية وإنشاء آليات أكثر استقلالية لتقييم النماذج قبل إطلاقها، بالتوازي مع مقترحات للتعاون الدولي ووضع معايير مشتركة للسلامة. وفي المقابل، يحذر منتقدون من أن ترك مراقبة الذكاء الاصطناعي للشركات نفسها قد لا يكون كافيا، خصوصا عندما تكون هذه الشركات في الوقت ذاته مطورة للتكنولوجيا والمستفيدة اقتصاديا من تسريع انتشارها.
وتتجاوز المسألة إذن حدود المختبرات التكنولوجية. فإذا أصبح الذكاء الاصطناعي قادرا على تنفيذ عمليات مالية أو إدارية أو أمنية أو علمية بصورة شبه مستقلة، فإن الخطأ أو سوء الاستخدام لن يبقى مشكلة تقنية داخل شركة، وإنما قد يتحول إلى مسألة تتعلق بالأمن والاقتصاد والخصوصية والعمل وحتى العلاقات بين الدول.
وفي هذه المرحلة، لا توجد إجابة واحدة حول مدى قرب العالم من فقدان السيطرة على أنظمة فائقة القدرة. فبعض الباحثين يحذرون من مخاطر بعيدة المدى، بينما يرى آخرون أن الحديث عن سيناريوهات كارثية شديدة التطرف يسبق الأدلة المتاحة حاليا. لكن هناك نقطة أصبحت أكثر وضوحا: القدرات تتقدم بسرعة، ولذلك أصبحت مسألة السلامة والرقابة جزءا من سباق الذكاء الاصطناعي نفسه، وليست مرحلة يمكن تأجيلها إلى ما بعد اكتمال التطوير.
