فقط في الأسابيع القليلة الماضية، شهدت صناعة الذكاء الاصطناعي هزات قوية وتحولا جذريا غير مسبوق تداخلت فيه التحذيرات الأمنية الصارمة من المخاطر مع نقاشات محتدمة حول إبطاء عمليات التطوير المتسارعة.

 

 

هذه التحذيرات المتصاعدة أخيرا تجسدت بتصريحات متتالية لقادة التكنولوجيا وعلماء البيانات أنفسهم، الذين يرون أن هناك قفزات غير متوقعة في قدرات النماذج اللغوية الضخمة وأنظمة التعلم العميق، انتقل فيها الذكاء الاصطناعي من مجرد أداة للأتمتة إلى كيان يستطيع التفكير التكتيكي وتوليد الكود البرمجي وحتى التلاعب بالنصوص والحقائق بأسلوب يُصعّب التمييز بينه وبين السلوك البشري.

كما تجسدت هذه التحذيرات بأن التطور المتسارع للذكاء الاصطناعي يرافقه غياب التقييمات الأمنية الصارمة قبل إطلاق النماذج للجمهور إذ تدفع المنافسة الشرسة بين الشركات الكبرى إلى الاستعجال في طرح المنتجات للتداول التجاري على حساب اختبارات السلامة وحوكمة المخاطر الناتجة عنها.

ووفقا لخبراء محليين في الشأن التقني، تكمن الإشكالية الحقيقية للذكاء الاصطناعي في ضبط إيقاع تطوره السريع مقارنة بقدرتنا البشرية على فهمه وحوكمته واختباره، وليس في فكرة إيقافه تماماً، مشيرين إلى أن الخطر الحقيقي لا يقتصر فقط على تنامي قوة هذه التكنولوجيا، بل يمتد إلى احتمالية تفوقها على أنظمة الرقابة الحالية، أو أن يؤدي الخوف المفرط منها إلى نتيجة عكسية تتمثل في احتكارها من قبل دول وشركات محدودة تحرم بقية العالم من فوائدها.

وأوضح الخبراء أنه لمواجهة هذه التحديات، يتطلب المستقبل صياغة معادلة متوازنة تجمع بين الابتكار السريع وضمانات السلامة الصارمة، ويتحقق ذلك من خلال تشجيع المنافسة المفتوحة وتفعيل آليات الرقابة المستقلة، مع التأكيد دائماً على إبقاء المسؤولية البشرية الواضحة هي الموجه الأساسي لكل مراحل هذا التطور الرقمي.

يرى الخبير في مجال الذكاء الاصطناعي والتحول الرقمي، م.هاني البطش، أن الصناعة دخلت مرحلة سباق قدرات؛ فكل شركة تخشى أن تتباطأ بينما يستمر منافسوها في تطوير نماذج أكثر قوة واستقلالية. 

ويقول: "لذلك، فإن الدعوة إلى “إبطاء” الذكاء الإصطناعي لا تعني بالضرورة إيقاف التطوير، وإنما تعني إعطاء أنظمة السلامة والاختبار والحوكمة وقتاً للحاق بسرعة تطور القدرات وهذا تحديداً ما طرحه الرئيس التنفيذي لـ(Anthropic) داريو أمودي، بينما أبدى سام ألتمان تأييداً لفكرة إبطاء وتيرة التقدم بدرجة تسمح بتطوير وسائل أمان أقوى".

واستعرض البطش أبرز مخاطر الذكاء الاصطناعي والتي يرى أنها يجب ألا تختزل في سيناريو "الآلة التي تتمرد على الإنسان"، لأن هناك مخاطر أكثر واقعية وأقرب زمنياً في مقدمتها الهجمات السيبرانية المدعومة بالذكاء الاصطناعي، والاحتيال والتزييف العميق والتضليل، وإساءة استخدام النماذج في مجالات حساسة، وتسريب البيانات، والقرارات الخاطئة في القطاعات الحيوية، إضافة إلى التأثير الكبير في سوق العمل وإعادة توزيع القيمة الاقتصادية.

وأضاف البطش: "مع انتقالنا إلى الذكاء الاصطناعي الوكيل، يظهر نوع جديد من المخاطر: الاستقلالية مع الصلاحيات. المشكلة ليست فقط في أن يعطي النموذج إجابة خاطئة، وإنما أن يمتلك القدرة على تنفيذ الإجراء الخاطئ بنفسه، ولهذا فإن الجهات المختصة بالأمن السيبراني بدأت تركز على ما يسمى طبقة الـ(AI Harness)، وهي الطبقة التي تربط النموذج بالبيانات والأدوات والأنظمة، لأن مستوى الخطر يعتمد بدرجة كبيرة على ما يستطيع الوكيل الوصول إليه وما يسمح له بتنفيذه".

وعن المخاطر الوجودية، بيّن البطش أنها تتمثل في فقدان السيطرة على أنظمة فائقة الذكاء أو قدرتها مستقبلاً على تحسين نفسها بدرجة تتجاوز قدرة البشر على مراقبتها، فهي تستحق البحث والاستعداد الجاد، لكن ينبغي التعامل معها كسيناريوهات مستقبلية غير محسومة وليس كحقائق واقعة أو توقعات مؤكدة. 

وحول كيفية عمل توازن وكبح جموح الذكاء الصطناعي، يرى البطش أن الحل ليس بإيقاف الذكاء الاصطناعي؛ لأن ذلك غير واقعي وقد يؤدي إلى نتيجة عكسية، خصوصاً في ظل المنافسة الدولية.

ولكنه يشير إلى أن الحل هو الانتقال من مفهوم "التطوير أولاً ثم معالجة المخاطر" إلى مفهوم "التطوير الآمن منذ البداية".

وأضاف قائلا: "إن هذا يتطلب اختبارات مستقلة للنماذج المتقدمة قبل إطلاقها، واختبارات مستمرة بعد إطلاقها، وتصنيفاً واضحاً لمستويات المخاطر، وضوابط صارمة على صلاحيات (AI Agents)، بحيث يحصل كل وكيل على الحد الأدنى من الصلاحيات اللازمة لتنفيذ مهمته، مع إمكانية إيقافه فوراً عند اكتشاف سلوك غير طبيعي، كما يجب أن تكون العمليات التي تمس الأموال أو البيانات الحساسة أو البنية التحتية أو القرارات القانونية والطبية عالية التأثير خاضعة لمراجعة بشرية واضحة".

وأوصى البطش بخمسة مسارات متوازية، وهي تنظيم قائم على مستوى الخطورة وليس على اسم التكنولوجيا، فلا ينبغي وضع القيود نفسها على نموذج يستخدم في كتابة المحتوى ونظام يستخدم في إدارة بنية تحتية أو اتخاذ قرارات مالية أو أمنية، والعمل على إنشاء منظومة مستقلة لاختبار وتقييم النماذج المتقدمة، وحوكمة صارمة للـ(AI Agents)، فكل وكيل يجب أن تكون له هوية رقمية واضحة، وصلاحيات محددة، ومدة صلاحية لهذه الصلاحيات، وسجل تدقيق لجميع أفعاله، وآلية إيقاف فورية، ومسؤول بشري واضح عن قراراته وأفعاله".

وأوصى البطش أيضا بعدم تحويل السلامة إلى حاجز أمام الابتكار والمنافسة، مشددا على أهمية التعاون الدولي في هذا المجال، فالذكاء الاصطناعي لا يتوقف عند حدود دولة، ولذلك فإن الأمن السيبراني وسلامة النماذج والمخاطر المرتبطة بالأسلحة والتضليل والأنظمة الذاتية تحتاج إلى قدر من التنسيق الدولي، خصوصاً بين القوى الكبرى.

من جانبه، قال الخبير في مجال التقنية والاتصالات، وصفي الصفدي: "ما نشهده حالياً من تحذيرات متزايدة من مخاطر الذكاء الاصطناعي ليس مجرد موجة إعلامية، وإنما يعكس تحولاً حقيقياً في طبيعة التقنية نفسها، فالذكاء الاصطناعي لم يعد مجرد نموذج يجيب عن سؤال أو ينشئ نصاً أو صورة، وإنما أصبح قادراً بصورة متزايدة على التخطيط، واستخدام الأدوات والبرمجيات، وتنفيذ سلسلة من المهام بدرجة أكبر من الاستقلالية، وهنا تحديداً يبدأ القلق".

واسترشد الصفدي بتقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 الذي يقدم صورة متوازنة ومهمة: فهو يؤكد أن قدرات أنظمة الذكاء الاصطناعي المتقدمة تتطور بسرعة، وأن الوكلاء الذكيين أصبحوا قادرين على تنفيذ مهام أطول وأكثر تعقيداً بصورة مستقلة، لكنه في الوقت نفسه لا يقول إننا وصلنا إلى مرحلة خرج فيها الذكاء الاصطناعي عن السيطرة.

وأشار إلى أن التقرير يوضح أن الأنظمة الحالية لا تمتلك بعد القدرات اللازمة لسيناريوهات فقدان السيطرة الكامل، وأن هناك فجوة كبيرة بين القدرات الحالية وبين السيناريوهات القصوى التي يخشى منها بعض الباحثين، كما يؤكد أن توقيت واحتمال هذه السيناريوهات ما زالا موضع قدر كبير من عدم اليقين العلمي.

وقال: "هذه نقطة مهمة جداً لأن النقاش العام أصبح أحياناً ينتقل مباشرة من "الذكاء الاصطناعي يتطور بسرعة" إلى "نحن على وشك فقدان السيطرة عليه"، بينما الأدلة العلمية لا تسمح بهذا الانتقال بهذه البساطة".

وأضاف الصفدي: "التقرير الدولي في الوقت نفسه لا يدعو إلى الاطمئنان، فهو يحذر من أن بعض القدرات ذات الصلة بالمخاطر تتطور بسرعة، وأن الأنظمة أصبحت أفضل في التخطيط والعمل المستقل وفي اكتشاف نقاط الضعف في بعض آليات التقييم والرقابة".

وزاد: "المشكلة إذن ليست أن الكارثة وقعت، وإنما أن نافذة الوقت المتاحة لبناء إجراءات السلامة قد تصبح أضيق كلما تسارعت القدرات، وهذا هو السبب الحقيقي وراء دعوات بعض قادة شركات الذكاء الاصطناعي إلى إبطاء تطوير النماذج الأكثر تقدماً".

وحول سؤال "هل المطلوب إيقاف الذكاء الاصطناعي؟"، أجاب الصفدي بالنفي، وأن المطلوب هو التمييز بين الذكاء الاصطناعي المستخدم في التطبيقات اليومية وبين النماذج الحدودية (Frontier AI) التي تصل إلى مستويات عالية جداً من القدرة والاستقلالية، لأنه كلما ارتفعت القدرة، يجب أن ترتفع معها متطلبات الاختبار والرقابة".

الخبير في مضمار حوكمة البيانات، د.حمزة العكاليك، قال: "مخاطر الذكاء الاصطناعي تتعدد وتتنوع ما بين المخاطر الفورية والتهديدات الوجودية المستقبلية، فعلى المستوى الاجتماعي والاقتصادي يهدد الاعتماد المفرط على الخوارزميات بفقدان ملايين الوظائف بشكل يتجاوز قدرة سوق العمل على التكيف، إلى جانب تعميق التضليل الإعلامي عبر تقنيات التزييف العميق (Deepfake) التي تقوض الثقة في المؤسسات والانتخابات، أما على المستوى التشغيلي والأمني فإن الاعتماد على الذكاء الاصطناعي في إدارة البنى التحتية الحيوية أو الأنظمة العسكرية والمالية يفتح الباب أمام هجمات سيبرانية غير مسبوقة أو اختلالات سيادية ناتجة عن الانحياز الخوارزمي والقرارات الآلية المتخذة خارج نطاق الإشراف البشري المباشر".

ويرى العكاليك أن المخاطر ليست مجرد فرضيات، بل أضحت تجارب ملموسة تُسجل في الواقع؛ فقد شهدت الأسواق المالية اضطرابات ناتجة عن خوارزميات التداول الآلي التي تسببت في هبوط خاطف للتداولات خلال ثوانٍ معدودة نتيجة قرارات تحليل البيانات غير المنضبطة.

وفي مجالات الأمن الرقمي، تمكنت نماذج ذكاء اصطناعي من اكتشاف ثغرات أمنية معقدة واستغلالها بشكل ذاتي لإنشاء هجمات تصيد احتيالي فائقة الدقة والتعقيد تتجاوز أنظمة الدفاع التقليدية.

كما أظهرت تطبيقات تزييف الصوت والصورة قدرة على انتحال شخصيات قيادية وتنفيذ عمليات احتيال مالي دولية مما يثبت أن غياب الأطر الرقابية يحول الابتكار إلى تهديد مباشر للأمن القومي والمؤسسي.

ولكبح جماح هذا التمدد الرقمي دون الإخلال بمكتسبات التحول الرقمي يجب الانتقال السريع من مرحلة التنظير إلى بناء هيكلية حوكمة متكاملة وحاسمة تتضمن المحاور التالية: فرض تقييمات السلامة الإلزامية؛ من خلال إخضاع أي نموذج ذكاء اصطناعي يتجاوز قدرات معالجة محددة لاختبارات أمان مستقلة وتقييمات أثر شاملة قبل ترخيصه للنشر التجاري، والتأسيس لأطر تشريعية ملزمة وذلك بوضع قوانين صارمة ملزمة تنظم استخدامات الذكاء الاصطناعي وتجرم التزييف الرقمي دون الإفصاح عنه وتحمي البيانات الشخصية والحقوق الفكرية.

وأكد أهمية الالتزام بمبدأ المراجعه البشرية، وذلك لضمان وجود رقابة بشرية فائقة ومباشرة على القرارات الحاسمة المتعلقة بالصحة والقضاء، والتمويل والأنظمة العسكرية الحساسة، وإنشاء هيئات رقابية دولية ومحلية من خلال تأسيس وكالات تنظيمية مستقلة تعنى بإدارة مخاطر الذكاء الاصطناعي ومتابعة امتثال الشركات لمعايير الأخلاقيات والسلامة الرقمية.