تقنية استدلال جديدة من OpenAI تثير قلق خبراء أمان الذكاء الاصطناعي

أثار خبرٌ حديثٌ حول نموذج جديد من شركة OpenAI موجةً من القلق بين المختصين في أمان الذكاء الاصطناعي، بعد الكشف عن أنّ النموذج المعروف باسم «أسترا» (Astra) سيعتمد أسلوباً جديداً في الاستدلال يُطلق عليه «العمق التكراري» (Recurrent Depth). ووفقاً لتقرير نشرته منصة The Information، فإنّ هذه التقنية تسمح للنموذج بالخروج عن نمط التفكير المتسلسل الذي يميّز معظم نماذج الاستدلال الحالية، وهو ما قد يجعل تتبّع «سلسلة التفكير» الخاصة به أكثر صعوبة.

ما المقصود بـ«التكرار الغامض»؟

لفهم مصدر القلق، لا بدّ من التمييز بين طريقتين للاستدلال. في الوضع التقليدي، يُنتج نموذج الاستدلال ما يُعرف بـ«سلسلة التفكير» (Chain of Thought)، وهي سلسلة من الخطوات المتتابعة التي يسلكها النموذج أثناء محاولته حلّ مشكلة ما. ورغم أنّ هذا التمثيل ليس دقيقاً تماماً، فإنه يظلّ أداة قيّمة لرصد أي سلوك منحرف أو خلل في مواءمة النموذج مع أهدافه المفترضة.

أما في أسلوب «التكرار الغامض» (Opaque Recurrence)، فيتّبع النموذج مقاربة أقل تسلسلية، إذ يعالج الاستفسار نفسه عدّة مرات ضمن حلقة متكررة. وتكمن المشكلة في أنّ هذه العملية تترك آثاراً أقل قابلية للقراءة، ما يعني عملياً الالتفاف على سجلّ سلسلة التفكير التقليدي الذي يعتمده الباحثون في المراقبة.

مخاوف من «سباق نحو القاع»

لم تتأخر ردود فعل خبراء الأمان. فقد كتب باك شليغريس، الرئيس التنفيذي لشركة Redwood، معبّراً عن قلقه البالغ، مشيراً إلى أنّه وإن كان لا يعرف مدى تراجع قابلية مراقبة «أسترا» مقارنةً بالنماذج السابقة، فإنّ توسّع OpenAI في استخدام هذه التقنية قد يمنحها القدرة على زيادة التكرار بشكل هائل، وهو ما «قد يدمّر تماماً قابلية مراقبة سلسلة التفكير».

من جهته، حذّر الناشط في مجال أمان الذكاء الاصطناعي زفي موشوفيتز من احتمال حدوث «سباق نحو القاع» بين مختبرات الذكاء الاصطناعي، مقترحاً أنّ سنّ قوانين قد يكون ضرورياً لمنع ذلك. وأضاف أنّ هذه التقنية «تلعب بالنار»، إذ تهدّد بكسر محظور اجتهدت كلٌّ من OpenAI وAnthropic في ترسيخه، وهو الحفاظ على وضوح سلسلة التفكير وقابليتها للمراقبة لأطول فترة ممكنة.

تطمينات من OpenAI

في المقابل، يبدو أنّ اعتماد «أسترا» على هذه التقنية محدود في الوقت الراهن. فمن المتوقع أن تظلّ سلسلة تفكير النموذج قابلة للقراءة، ونفت الشركة أي توجّه نحو ما يُعرف بـ«اللغة العصبية» (Neuralese) غير المفهومة. كما سبق أن أعلنت OpenAI عن خطط لبناء أنظمة مراقبة موسّعة لسلسلة التفكير ضمن استراتيجيتها المستقبلية للأمان.

وأكّد كبير علماء الشركة ياكوب باتشوكي التزام المختبر بالحفاظ على سلاسل تفكير واضحة، قائلاً إنّ OpenAI عملت منذ أول نماذجها الاستدلالية على صون هذه القدرة والاستفادة منها، وإنّ ذلك يمثّل هدفاً محورياً في برنامجها البحثي الحالي.

هل تجاوزنا نقطة اللاعودة؟

من الجدير بالذكر أنّ جميع نماذج الذكاء الاصطناعي تُجري قدراً من الاستدلال «الغامض»، وقلّة من الباحثين يتعاملون مع سجلات سلسلة التفكير باعتبارها تمثيلاً مباشراً ودقيقاً لتفكير النموذج. غير أنّ هذه التحفّظات لا تبدّد المخاوف من أنّ التوسّع في «التكرار الغامض» قد يجعل استدلال الأنظمة أصعب في المراقبة، خصوصاً مع انتشاره عبر نماذج متعدّدة. وقد أفادت تقارير لاحقة بأنّ كلاً من Anthropic وGoogle DeepMind يناقشان بالفعل هذه التقنية.

ويلخّص رايان غرينبلات، كبير علماء Redwood Research، أبرز المخاوف بقوله إنّ التطور الطبيعي من هذه النقطة قد يقود إلى توسيع الاستدلال الغامض حتى يصبح تفكير النموذج بأكمله — أو شبه أكمله — يجري في «الفضاء الكامن» (Latent Space) بعيداً عن أي قناة مرئية. ويأمل أن يكون الوقت لم يفت بعد لتجنّب البنى الأكثر إثارة للقلق، وأن تتوقف OpenAI عند هذا الحدّ.

خلاصة

يعكس هذا الجدل التوتّر القائم بين السباق نحو نماذج أقوى وأسرع من جهة، والحاجة إلى إبقاء عملها قابلاً للفهم والمراقبة من جهة أخرى. فكلّما ازداد غموض طريقة تفكير الأنظمة، تراجعت قدرتنا على ضمان مواءمتها مع القيم الإنسانية، وهو تحدٍّ سيبقى في صميم النقاش حول مستقبل الذكاء الاصطناعي.

✦ بقلم فريق دروب أيديا