OpenAI تطلق نظام «المعالجة الآمنة الخاصة» لحماية خصوصية عملائها

مع تنامي قدرات نماذج الذكاء الاصطناعي، ازدادت في المقابل مخاطر إساءة استخدامها، الأمر الذي رفع من وتيرة المطالبات بوضع ضوابط أمان قادرة على منع مثل هذه التجاوزات. وهنا تجد شركات الذكاء الاصطناعي نفسها أمام معادلة دقيقة: كيف توازن بين احترام خصوصية عملائها من الشركات وبين مراقبة الاستخدام لرصد أي انتهاكات محتملة؟

في خطوة تستهدف تعزيز موقعها التنافسي أمام غريمتها Anthropic، أعلنت شركة OpenAI عن نهج جديد لمراقبة سوء الاستخدام يضع الخصوصية في صدارة أولوياته. وتُطلق الشركة معاينة أولية لخدمة تحمل اسم «المعالجة الآمنة الخاصة» (Private Safety Processing) لمجموعة مختارة من العملاء، وهي نظام آلي يرصد التجاوزات المحتملة من دون الاحتفاظ بأي جزء من بيانات العميل.

معادلة الخصوصية مقابل الأمان

يأتي هذا النظام على النقيض تماماً من سياسة الاحتفاظ بالبيانات التي أعلنتها Anthropic مؤخراً، والتي أثارت استياء بعض عملائها. فبموجب تلك السياسة، يحق للمختبر الاحتفاظ ببيانات المستخدمين، بما فيها جلساتهم كاملة والمحادثات المتضمنة فيها، لمدة ثلاثين يوماً عندما يتعلق الأمر بما يُسمّى «النماذج المشمولة»، وهي فئة تضم النماذج الأكثر قدرة والنماذج المستقبلية المماثلة لها.

ورغم أن هذه السياسة، التي أُعلن عنها في يوليو، صُممت لأغراض الأمان بما يتيح تحليل الاستخدامات المشبوهة، فإنها أثارت قلقاً عميقاً لدى بعض المؤسسات التي تتعامل مع كميات ضخمة من البيانات الحساسة ولا ترغب في تخزينها أو فحصها من قبل جهة خارجية.

ما وراء سياسة «عدم الاحتفاظ بالبيانات»

في الواقع، تمنح OpenAI—شأنها شأن معظم شركات القطاع—عملاءها مستوى من الخصوصية عبر سياسة تُعرف باسم «عدم الاحتفاظ بالبيانات» (Zero Data Retention). وتعتمد هذه السياسة على وكلاء برمجيين داخل واجهة برمجة التطبيقات لرصد إساءة الاستخدام على مستوى كل جلسة على حدة، بحيث لا تحتفظ الشركة ببيانات العميل بينما تبقى قادرة على فحص النشاطات المشبوهة دون تدخل بشري. وتلتزم Anthropic بدورها بهذه السياسة إلى حد كبير، باستثناء ما يتعلق بـ«النماذج المشمولة».

وتصف OpenAI خدمتها الجديدة بأنها توسيع لنطاق سياسة عدم الاحتفاظ بالبيانات، إذ تمثّل شكلاً من أشكال المراقبة الأمنية طويلة المدى التي تُقيّم مدخلات ومخرجات محادثات متعددة، لا محادثة واحدة فقط. وتظل هذه المراقبة بيد وكيل برمجي يلتقط التفاعلات عند تشغيله ويحللها عبر عدة جلسات بحثاً عن أي مؤشرات على سوء الاستخدام.

كشف التهديدات الموزّعة عبر عدة جلسات

وبحسب متحدث باسم الشركة، تساعد التقنية الجديدة على كشف الاستخدامات الخبيثة التي تمتد عبر جلسات متعددة. فقد يعمد أحد المهاجمين—مثل شخص يحاول تطوير برمجية خبيثة لهجوم سيبراني—إلى توزيع طلباته على عدة محادثات لتفادي الرصد. وهنا يتيح نظام المعالجة الآمنة الخاصة تحليل تلك المحادثات المتفرقة بحثاً عن أدلة على الإساءة، من دون مراجعة بشرية لمحتوى محادثات المستخدم.

وفي حال تشغيل النظام، فإنه قد يرسل «إشارة محددة بدقة» إلى OpenAI تنبّه إلى نوع معين من النشاط، لتقرر الشركة بناءً عليها ما إذا كان اتخاذ إجراء ضرورياً. وإن كان كذلك، تتواصل OpenAI مع العميل للحصول على سياق إضافي أو للتعاون معه في معالجة المسألة، مع بقاء قرار مشاركة البيانات بيد العميل نفسه.

في المقابل، تشير Anthropic إلى أن المراجعة البشرية لبيانات العملاء قد تحدث، لكن عبر «مسار وصول محكوم» يقتصر على «مجموعة صغيرة من المراجعين المعتمدين»، مع تسجيل كل جلسة مراجعة في سجل محصّن ضد العبث لا يمكن للمراجعين حذفه أو تعديله.

منافسة محتدمة على الصدارة

تعكس هذه الخطوة حالة التنافس الحاد بين OpenAI وAnthropic، إذ تسعى كل منهما إلى انتهاز أي فرصة لتحقيق أفضلية على الأخرى. وتشير التقارير إلى أن معدلات نمو OpenAI في الربع الثاني كانت أبطأ من نظيرتها Anthropic، التي يُقال إن معدل إيراداتها السنوي وصل إلى نحو 65 مليار دولار.

• Anthropic قد تطرح أسهمها للاكتتاب العام بتقييم يبلغ تريليوني دولار بحسب مستثمريها.
• OpenAI تعمل هي الأخرى على طرح عام أولي مرتقب.
• الخصوصية أصبحت ورقة تنافسية رئيسية في سوق الذكاء الاصطناعي المؤسسي.

في نهاية المطاف، يبدو أن معركة كسب ثقة الشركات الكبرى لن تُحسم بالقدرات التقنية وحدها، بل بمدى قدرة كل مزوّد على تقديم ضمانات صلبة لحماية بيانات عملائه الأكثر حساسية.

✦ بقلم فريق دروب أيديا