ملاحظة: تم ترجمة الرسالة المفتوحة من قبل مؤسسة أنسم للحقوق الرقمية
30 سبتمبر 2026
إلى القادة الذين يعملون على تطوير الذكاء الاصطناعي (والمسؤولين عن صنع السياسات المكلفين حالياً بتنظيمه):
لسنوات عديدة، ظل من يعملون على تطوير الذكاء الاصطناعي يوضحون للمسؤولين عن صنع السياسات والجمهور، بعبارات تزداد تحديداً، أن الشركات التي تطور هذه التكنولوجيا ذات التأثير الكبير لا يمكنها تنظيمها من جانب واحد. ونحن نتفق مع ذلك. وقد حان الوقت الآن لاتخاذ الإجراءات اللازمة.
لقد عمل مجلس الإشراف على مدى السنوات الست الماضية لحماية حرية التعبير وحقوق الإنسان الأخرى على منصات «ميتا». وقد نشرنا 273 قرارًا وأصدرنا 364 توصية، تناولنا فيها مسائل واسعة النطاق في كل قارة. وقد أسفر عملنا في إدارة هذه الهيئة الرقابية الأولى من نوعها عن دروس مهمة تم اكتسابها بشق الأنفس، والتي يمكن أن تساعد في بناء النظام البيئي لإدارة الذكاء الاصطناعي اللازم لحماية المستخدمين وحقوقهم. تقدم تجربتنا منظورًا فريدًا لقطاع يبحث في كيفية وضع تدابير أمان وحوكمة مناسبة وفعالة.
على مدار الأسابيع القليلة الماضية، تابعنا باهتمام وارتياح وقليل من الشكوك كيف أطلق قادة التكنولوجيا واحدًا تلو الآخر إنذارات بشأن مخاطر الذكاء الاصطناعي. وقد تعهدوا بتنفيذ أشكال من التدقيق أو الرقابة المستقلة لمنع هذه التقنيات، والشركات التي تنتجها، من التسبب في سلسلة من الأزمات المحتملة. لا يزال نطاق وصلاحيات وعمليات آليات الرقابة هذه غير محددة. وستحدد هذه التفاصيل ما إذا كانت الرقابة ستساعد في تحقيق وعد عمالقة التكنولوجيا بأنظمة أفضل وأكثر أمانًا، أم أنها لن توفر سوى قدر من التغطية المؤقتة بينما تستمر المخاطر التي يحذرون منها في التزايد دون هوادة.
يضطلع «مجلس الرقابة» بدور متميز، حيث يوفر رقابة قائمة على حقوق الإنسان بصفته جهة خارجية تتخذ قراراتها بشكل مستقل عن مصالح الشركات والحكومات. ويُمنح المجلس بعض الصلاحيات للوصول إلى الأنظمة والسياسات الداخلية لشركة «ميتا». وعلى مدار السنوات الست الماضية، طورنا طريقة لتقديم توجيهات قائمة على المبادئ، تراعي الواقع التشغيلي، وتأخذ بآراء الجمهور، وتوفر مبررات مفصلة ومنشورة تُطلع الجمهور على المعلومات وتُشكل أساساً لاتخاذ القرارات في المستقبل.
ورغم أن الإشراف على محتوى وسائل التواصل الاجتماعي وحوكمة الذكاء الاصطناعي ليسا متماثلين، إلا أن هناك دروسًا مهمة من الأول ينبغي استخلاصها في هذا الوقت، بالإضافة إلى أوجه تشابه مهمة تنطبق على التحديات التي تواجه شركات الذكاء الاصطناعي: وأبرزها أن اتباع نهج يقظ وقائم على المبادئ سيكون ضروريًا لمراجعة أداء الذكاء الاصطناعي والإشراف عليه باستمرار.
لقد حان الوقت الآن لكي تتحد جميع أطراف القطاع، جنبًا إلى جنب مع أصحاب المصلحة الرئيسيين وصانعي السياسات، لبناء آليات حوكمة دائمة وذات مغزى، وسد فجوة الثقة المتزايدة.
ورغم أن مجلس الإشراف ليس نموذجًا مثاليًّا يُحتذى به ويعمل ضمن قيود صارمة، إلا أنه يمثل أساسًا جديرًا بالدراسة والبناء عليه. وبصفتنا مشاركين في هذه التجربة، فإننا حريصون على مشاركة ما نجح وما لم ينجح. واستنادًا إلى الدروس المستفادة من نقاط قوة المجلس وكذلك التحديات التي واجهها، نقترح العناصر الأساسية التالية للرقابة المستقلة الفعالة، مع الاعتراف بأن الرقابة المستقلة ليست سوى عنصر واحد من طبقات الحماية الضرورية فيما يتعلق بالأضرار المحتملة للذكاء الاصطناعي:
- الشفافية والتبرير: تمكن المجلس من إحداث تغييرات في شركة عالمية تضم ثلاثة مليارات مستخدم لأنه يعمل بطريقة علنية. فقد نشر لوائحه الداخلية ووثائقه التنظيمية، وأعلن عن الحالات التي يتولاها وأسباب ذلك، ووضح قراراته المبررة المستندة إلى معايير حقوق الإنسان، والتي يمكن للصحفيين والباحثين والشركات الأخرى الاطلاع عليها. كما قمنا بنشر وتتبع الالتزامات التي تعهدت بها «ميتا» بتنفيذ توصياتنا، مما عرّض الشركة لمستوى من الرقابة العامة أدى إلى مزيد من المساءلة. وبالنظر إلى أن الدافع الرئيسي لكل من مجلس الرقابة وهيئات الرقابة على الذكاء الاصطناعي هو تعزيز ثقة الجمهور، فإننا نعتقد أن أي هيئة رقابة يجب أن تعمل بشكل علني، لتسليط الضوء على القرارات التي يتم اتخاذها، وأسبابها، وما يحدث نتيجة لها.
- حقوق الإنسان الدولية كأساس لمواءمة القيم، واتخاذ قرارات متسقة وعادلة: استُخدمت معايير حقوق الإنسان، المنصوص عليها في القانون الدولي، بنجاح لحماية المواطنين والمستهلكين ومستخدمي المنصات، ولإخضاع الحكومات والشركات للمساءلة. يُعتبر القانون والمعايير الدولية لحقوق الإنسان مرجعاً موثوقاً به من قبل الحكومات والشعوب في جميع أنحاء العالم، وينبغي أن تكون في صميم التوجيهات المعيارية المتعلقة بكيفية عمل النماذج والمعايير التي يُلزم بها. إن الالتزام بالقانون الدولي لحقوق الإنسان يتيح للشركات أن تكون مسؤولة أمام المستخدمين على الصعيد العالمي، وتجنب وضع معايير يُنظر إليها على أنها تخدم مصالحها الخاصة. ويمكن للرقابة المستقلة القائمة على التزامات حقوق الإنسان أن تفعّل التزامات السلامة والأخلاقيات التي تعهدت بها العديد من الشركات طواعيةً بالفعل، مما يضمن ألا تكون مجرد وعود جوفاء.
- الخبرة المشتركة بين القطاعات ومتعددة أصحاب المصلحة. ستحتاج عتبات التوافق بين السلامة وحقوق الإنسان التي تحكم إصدارات النماذج إلى مراجعة خارجية مستقلة من قبل متخصصين في الأمن السيبراني، والأمن القومي، وسلامة الأطفال، وحقوق الإنسان، والخصوصية، والعديد من المجالات الأخرى، يعملون بالتنسيق فيما بينهم. يجب أن يكون تكوين أي هيئة رقابة متنوعًا، ويجب ألا تعمل في عزلة. وكما استخلص مجلس الرقابة من خلال عملية التعليقات العامة التي أجراها، فإن الملاحظات الواردة من تخصصات ومنظمات متنوعة أمر بالغ الأهمية لفهم القضايا المعقدة، وتستحق أن تُحتذى بها في المستقبل.
- S الاستقرار الهيكلي والاستقلالية: يجب أن تكون هيئات الرقابة المستقلة كيانات منفصلة عن الشركات التي تشرف عليها. ويجب أن تتمتع بالاستقلالية المالية، وأن تتحكم في ميزانيتها الخاصة وهيكلها وتكوينها، بحيث لا تتمكن الشركات من فرض قرارات عليها عن طريق خفض التمويل أو معاقبتها على الإجراءات التي لا تعجبها. ويجب وضع ضمانات صارمة لضمان ألا يؤثر اعتماد هيئات الرقابة على الشركات في التعاون في عملها أو استمرار التمويل على مر الزمن على عملية صنع القرار.
- الولاية والسلطة المحددة: تحتاج هيئات الرقابة إلى ولاية واضحة، والسلطة اللازمة للوفاء بتلك الولاية. وفي حالة مجلس الرقابة، يُمنح حق الوصول إلى المعلومات غير المتاحة للجمهور عند النظر في القضايا أو إصدار الآراء الاستشارية العامة، وتكون قراراته بشأن التصرف في المحتوى في تلك القضايا ملزمة للشركة، سواء وافقت عليها أم لا. على الرغم من أن ولاية المجلس كانت محدودة بطرق حالت دون معالجته لمخاوف خطيرة مثل التضخيم الخوارزمي، وسياسات تحقيق الدخل، ومشكلات الحسابات، إلا أن هناك الكثير مما يمكن تعلمه حتى من قيوده. استنادًا إلى خبرتنا، ستحتاج آليات الرقابة المستقبلية إلى ولاية محددة بوضوح تكون واسعة بما يكفي لتلبية الاحتياجات الأكثر إلحاحًا للقطاع، والسلطة لإجراء تحقيقاتها الخاصة، والصلاحية لفرض التغيير.
- على نطاق القطاع مقابل على مستوى الشركة: لا شك أن أحد قيود مجلس الرقابة هو أن شركة «ميتا» هي الوحيدة المطلوب منها تنفيذ قراراتنا وتوصياتنا. وقد جعل هذا المجلس معتمدًا على «ميتا» في وجوده وأهميته، وقيد قدرته على إحداث تغيير ذي مغزى على مستوى القطاع بأسره. في هذه اللحظة الحاسمة، نحث قطاع التكنولوجيا على العمل معًا من أجل وضع معايير مشتركة، وإنشاء هيئات رقابة على مستوى القطاع بأسره تحمي المستخدمين وحقوقهم على نطاق أوسع وبشكل أكثر اتساقًا مما تستطيع هيئات الرقابة الخاصة بشركات معينة تحقيقه.
الحقيقة هي أنه مع وجود أداة تتمتع بإمكانيات ومخاطر كبيرة مثل الذكاء الاصطناعي، سنحتاج إلى نهج متعدد المستويات للحوكمة يشمل سياسات الشركات، والمعايير التي تعتمدها الصناعة، والرقابة المستقلة على تلك المعايير من مجموعة متنوعة من المنظورات، بالإضافة إلى التنظيم والتنسيق الدولي.
الثقة العامة في الذكاء الاصطناعي آخذة في التراجع، مع ظهور المزيد من القصص حول الأضرار الفعلية والمحتملة المرتبطة به. لقد حان الوقت الآن لكي تتكاتف الصناعة بأسرها، جنبًا إلى جنب مع أصحاب المصلحة الرئيسيين وصانعي السياسات، لبناء آليات حوكمة دائمة وذات مغزى، وسد فجوة الثقة المتزايدة. وبصفتكم قادة أقوى الشركات في العالم، نحتاج منكم أن تكرسوا نفس مستوى الطاقة القيادية التي تكرسونها لتطوير الذكاء الاصطناعي المتقدم، لتطوير ضوابط الثقة والأمان التي ستحافظ على سلامة الناس واحترام حقوقهم الإنسانية.
في الأيام والأسابيع المقبلة، سنعقد حوارات حول الرقابة الفعالة والمستقلة. ونحن نتطلع إلى إشراك القطاع وصانعي السياسات في حوار حول ما نجح وما لم ينجح وما تعلمناه على مدار السنوات الست الماضية.
مع أطيب التحيات،
مجلس الإشراف