أنثروبك-غوغل تعلن "دستور" الذكاء الاصطناعي

و"أنثروبك" هي شركة مدعومة من "ألفابت" المالكة لشركة "غوغل" على غرار شركة "أوبن إيه آي" المدعومة من شركة "مايكروسوفت". والمبادئ التوجيهية للقيم الأخلاقية، التي تسميها أنثروبيك "دستور كلود"، مستمدة من مصادر عديدة، بما في ذلك إعلان الأمم المتحدة لحقوق الإنسان وقواعد خصوصية البيانات الخاصة بشركة "أبل".

وبرزت اعتبارات السلامة في الوقت الذي يدرس فيه المسؤولون الأميركيون ما إذا كان سيتم تنظيم الذكاء الاصطناعي وكيفية تنظيمه، وقال الرئيس جو بايدن إن الشركات ملزمة بضمان سلامة أنظمتها قبل نشرها على الملأ، حسبما أفادت وكالة "رويترز".

وتأسست "أنثروبك" للتركيز على إنشاء أنظمة ذكاء اصطناعي آمنة لن تخبر المستخدمين، على سبيل المثال، بكيفية بناء سلاح أو استخدام لغة متحيزة عنصرياً. وكان أحد مؤسسيها داريو أمودي، واحداً من من مديرين تنفيذيين عديدين في مجال الذكاء الاصطناعي الذين التقوا بايدن الأسبوع الماضي لمناقشة المخاطر المحتملة الذكاء الاصطناعي.

وقال المؤسس المشارك للشركة جاك كلارك، إنه يمكن تعديل "دستور" النظام لأداء عمل متوازن بين تقديم إجابات مفيدة وكونه غير مسيء.

وتعتمد معظم أنظمة روبوتات الدردشة الذكاء الاصطناعي على الحصول على تعليقات من البشر أثناء تدريبها لتحديد الردود التي قد تكون ضارة أو مسيئة. لكن هذه الأنظمة تواجه صعوبة في توقع كل ما قد يطلبه الناس، لذلك تميل إلى تجنب بعض الموضوعات المثيرة للجدل مثل السياسة والعرق تماماً، ما يجعلها أقل فائدة.

لكن "أنثروبك" تتخذ نهجاً مختلفاً، حيث تمنح الذكاء الاصطناعي مجموعة من القيم الأخلاقية المكتوبة لقراءتها والتعلم منها أثناء اتخاذ القرارات بشأن كيفية الرد على الأسئلة. وتشمل هذه القيم "اختيار الرد الذي يثبط ويعارض التعذيب والعبودية والقسوة والمعاملة اللاإنسانية أو المهينة"، كما طلب من "كلود" اختيار الرد الأقل احتمالاً لأن ينظر إليه على أنه مسيء لأي تقليد ثقافي غير غربي.