trueNetLab logo
AR
من يمنح الذكاء الاصطناعي قيمه؟

من يمنح الذكاء الاصطناعي قيمه؟

عندما أسأل نظام ذكاء اصطناعي عن كيفية إعداد جدار ناري، أستطيع التحقق من الإجابة. يمكنني قراءة الوثائق وتجربة الإعداد ومعرفة ما إذا كانت النتيجة صحيحة.

لكن أسئلة أخرى تفتقر إلى هذا المعيار الواضح. هل أمنح موظفًا فرصة ثانية؟ هل شكل معين من المراقبة مبرر؟ وما مقدار الحرية الشخصية الذي يجوز أن تكلّفنا إياه الحماية؟

يمكن للذكاء الاصطناعي أن يجيب بهدوء ووضوح وإقناع. ولهذا تحديدًا أريد أن أعرف المعايير التي يحتكم إليها. مصالح من يأخذ في الاعتبار؟ وأين يرسم الحدود؟ ومن قرر أن تلك الحدود صحيحة؟

لذلك لا تهمني لدى Anthropic وOpenAI قدرات النماذج وحدها، بل أيضًا القناعات والهياكل التي تقف خلفها. تطور الشركتان أنظمة يُنتظر من الناس أن يأتمنوها على قرارات. وفهمهما للمسؤولية يستحق تمحيصًا دقيقًا.

يوفر الإيثار الفعال مدخلًا مثيرًا للاهتمام إلى هذا النقاش. الفكرة تروق لي. لكن بعض استنتاجاتها يدعوني إلى الحذر.

فعل أكبر قدر ممكن من الخير يبدو مقنعًا

يسأل الإيثار الفعال كيف نستخدم المال والوقت والقدرات المحدودة لإفادة الآخرين بأكبر قدر ممكن. يُفترض أن تساعد الأبحاث والحجج المدروسة على المفاضلة بين الخيارات. وتشمل اهتمامات الحركة الصحة العالمية ورفاه الحيوان ومخاطر الذكاء الاصطناعي المتقدم.

أرى أن قياس المساعدة بأثرها أمر معقول. النية الحسنة وحدها لا تقول الكثير عما إذا كان أحد قد استفاد فعلًا. من يتبرع بالمال أو يستثمر سنوات من العمل ينبغي أن يستطيع السؤال عما إذا كان توظيف آخر سيحقق أكثر.

تزداد الصعوبة عندما نقارن آثارًا مختلفة جدًا في طبيعتها.

تمنح النزعة طويلة الأمد وزنًا أخلاقيًا خاصًا للمستقبل البعيد. فالأشخاص الذين قد يعيشون فيه ينبغي أن يُحسب لهم حساب في قرارات اليوم. ومن ذلك تنشأ حجة أخذ المخاطر التي قد تدمر ذلك المستقبل نهائيًا على محمل الجد.

للوهلة الأولى، ليس لدي اعتراض كبير على هذا أيضًا. فنحن نطالب بمراعاة الأجيال المقبلة عند التعامل مع التلوث أو النفايات النووية.

يبدأ تشككي عند درجة اليقين في تنبؤاتنا. ما مدى موثوقية حكمنا على القرار الحالي الذي سيحسن الحياة بعد قرون؟ وكيف نقارن منفعة يمكن إثباتها اليوم باحتمال تفادي كارثة في مستقبل بعيد؟

قد يكون الحساب صحيحًا رياضيًا لكنه قائم على افتراضات شديدة الغموض. إذا كانت المنفعة المستقبلية المفترضة كبيرة بما يكفي، فقد تتغلب في ذلك الحساب على أي أولوية حالية تقريبًا. هنا تحديدًا أريد رؤية الافتراضات ومواطن عدم اليقين وحدود ما يُراد تبريره بالمنفعة المتوقعة.

كيف تتحول الأفكار إلى نفوذ

يمكن إظهار الصلة بتطوير الذكاء الاصطناعي، على الأقل، عبر قرارات تمويل محددة. أدرجت Open Philanthropy، المعروفة اليوم باسم Coefficient Giving، منحة بقيمة 30 مليون دولار لـOpenAI في عام 2017. لم تبق التأملات الفلسفية حول المستقبل حبيسة الكتب والنقاشات، بل أثرت في الأبحاث التي حظيت بالدعم.

لكن هذا لا يثبت وجود أيديولوجيا موحدة لدى جميع الشركات المعنية. فالمنحة لا تفسر كل قرار تجاري لاحق ولا قناعات جميع الموظفين.

لذلك أميز بين الإيثار الفعال والنزعة طويلة الأمد وأبحاث سلامة الذكاء الاصطناعي. يمكن التحذير من قدرات خطرة دون تبني فلسفة معينة للمستقبل. ويمكن تأييد المساعدة الفعالة مع انتقاد أولويات مؤسسات بعينها.

عند تقييم Anthropic وOpenAI، يهمني أساسًا ما تقررانه اليوم، والسلطة التي تمارسانها عبر تلك القرارات، وكيف تُقيَّد هذه السلطة.

Anthropic: قيم معلنة بوضوح

تكشف Anthropic عن تصوراتها بشأن Claude بتفصيل غير مألوف. يصف «الدستور» المنشور القيم والسلوك المرغوب فيهما، وتقول الشركة إنه يُستخدم في التدريب. ويتناول الصدق وتجنب الأذى والإشراف البشري، من بين أمور أخرى. وتقر Anthropic بأن سلوك Claude الفعلي قد يبتعد عن هذه الأهداف.

أحسب ذلك للشركة. فالوثيقة العامة توفر أساسًا للنقد. أستطيع مقارنة إجابة بها والسؤال عما إذا كان Claude يلتزم بإرشاداته، كما أستطيع رفض الإرشادات نفسها.

مع ذلك، أظل حذرًا من كلمة «دستور». فهي توحي بتوافق اجتماعي وقواعد ذات شرعية جماعية. هنا تصف شركة تصوراتها لمنتج. هذا إفصاح مهم، لكنه لا يمنح الجمهور حقًا ملزمًا في المشاركة باتخاذ القرار.

تبرير Anthropic لدورها يستحق الانتباه أيضًا. تصف الشركة تطوير ذكاء اصطناعي قوي بأنه رهان متعمد: إذا كانت هذه الأنظمة ستظهر على أي حال، فينبغي أن تعمل مختبرات تركز على السلامة في طليعة التطوير.

أفهم هذه الحجة. لكنها تتضمن تضارب مصالح لا أرى أن النيات الحسنة تحله. فمن يعتقد أنه أكثر مسؤولية من منافسيه قد يستنتج أيضًا أنه يحتاج إلى نمو أسرع ونفوذ أكبر.

لذلك تهمني الشروط القابلة للتحقق التي تحد هذا الرهان. متى يتعين على Anthropic تأخير التطوير؟ وما النتائج التي قد تجعلها تشكك في استراتيجيتها؟

أنشأت Anthropic هيئة Long-Term Benefit Trust للإشراف على الشركة. يُفترض أن يكون أعضاؤها بمنأى عن المصالح المالية فيها، وأن يؤثروا في تشكيل مجلس الإدارة عبر حقوق خاصة. وعند تقديم الهيكل، وصفته الشركة نفسها بأنه تجربة.

آخذ هذه المحاولة بجدية. لكن وجودها وحده لا يثبت مدى فاعلية الرقابة عند تعارض المصالح. تصف وثائق الطرح المنشورة حقوق الهيئة وقيودها وإجراءات تغيير تلك الحقوق. وهذه التفاصيل تستحق اهتمامًا أكبر من كلمة «مستقلة» المطمئنة.

تقييمي الأولي: تجعل Anthropic قيمها محددة وقابلة للاعتراض. هذه نقطة قوة. لكن الثقة تحتاج أيضًا إلى دليل على أن الضوابط المقررة تصمد حين يكلّف قرار سلامة الشركة نموًا أو إيرادات.

OpenAI: رسالة اجتماعية ومصالح اقتصادية

سيكون من التبسيط أيضًا اختزال OpenAI في مصالح تجارية. وفق هيكلها المنشور، تتحكم OpenAI Foundation غير الربحية في OpenAI Group، المنظمة بصيغة Public Benefit Corporation. تستطيع Foundation تعيين أعضاء مجلس Group واستبدالهم، كما تمتلك حصة في رأسمالها.

هذا هيكل رقابي مهم. والسردية العامة بأن الرسالة غير الربحية اختفت كليًا لا تنصفه.

في الوقت نفسه، أرى توترًا: إذا كانت موارد Foundation تستفيد من نجاح Group التجاري، فقد تتشابك مهمة الحماية مع مصلحة النمو. ليس ضروريًا أن ينتج عن ذلك قرار سيئ، لكنه يجعل السؤال عن استقلال تقييم التخلي عن النمو مهمًا.

تنشر OpenAI أيضًا قواعد لسلوك نماذجها. تتناول Model Spec التحكم البشري والصدق وتجنب الأذى، إلى جانب أمور أخرى. وتذكر كذلك حماية الشركة من الأضرار القانونية والسمعة كهدف. وتقر OpenAI بأن النماذج المستخدمة لا تستوفي المواصفات بالكامل بعد.

أجد من المفيد التصريح بهذه المصالح المختلفة. فالشركة تحتاج إلى الاستمرار اقتصاديًا وقانونيًا. لكنني، كمستخدم، أريد فهم كيفية اتخاذ القرار حين تختلف حاجتي والمصلحة العامة ومصلحة المزود.

معياري هنا هو نفسه مع Anthropic: القواعد المنشورة مهمة. أما تطبيقها العملي وإمكانية الاعتراض الفعال على القرارات فيحتاجان إلى تقييم مستقل.

لذلك لا تسمح الوثائق وحدها بتصنيف جاد لأي الشركتين «أكثر إيثارًا». إنها تعرض نيات وهياكل. وللحكم على الأثر أحتاج أيضًا إلى قرارات ملموسة ونتائج قابلة للتحقق.

كيف سأقيّم الشركتين

تهمني أكثر المواقف التي تصبح فيها المسؤولية غير مريحة.

تأخير إصدار نموذج رغم اقتراب المنافسين. توثيق خطأ بحيث يفهم الخارجون عن الشركة مداه. منح المتأثرين وسيلة فعالة للشكوى. وإتاحة وصول كافٍ للمقيّمين المستقلين كي يتوصلوا إلى استنتاجاتهم بأنفسهم.

سأطرح الأسئلة نفسها على الشركتين:

  • ما الأثر المجتمعي الذي ثبت فعلًا؟
  • أي الحدود ملزمة، ومن يستطيع تغييرها؟
  • من يستطيع إيقاف قرار محفوف بالمخاطر؟
  • كيف تُكشف الأخطاء والحجج المضادة وتضاربات المصالح؟
  • ما الخيارات المتاحة لمن يتأثرون بنظام دون أن يكونوا عملاء له؟

يقلقني السؤال الأخير خصوصًا. يمكن للشركة أن تحسن معاملة عملائها وتتخذ في الوقت ذاته قرارات يتحمل آخرون عواقبها. وعقد الشراء لا يعكس تلك المصالح إلا جزئيًا.

سؤال القيم يتحول إلى مسألة عملية

إذا كان المساعد يقترح نصًا فقط، أستطيع رفضه. لكن عندما يرسل نظام ذو صلاحيات مناسبة بريدًا إلكترونيًا، أو يفرز طلبات التوظيف، أو يصل إلى بيانات الشركة، تصبح لإرشاداته عواقب مباشرة.

يتحول النقاش الفلسفي حينها إلى مسألة صلاحيات ومسؤوليات. هل يجوز للمساعد رفض تعليمات صريحة؟ متى يجب أن يطلب توضيحًا؟ ما المعلومات التي يجوز له مشاركتها؟ ومن يتحمل المسؤولية إذا أساء فهم مهمة مأذون بها؟

لهذه الأنظمة أطالب بقيود تقنية: صلاحيات واضحة، وأفعال قابلة للتتبع، وطرق لإيقاف إجراء أو التراجع عنه. يمكن لمنظومة قيم جيدة الصياغة أن تكمل هذه الضوابط، لكنها لا تثبت فاعليتها.

أرى المستوى المجتمعي بالطريقة نفسها. يحتاج المطورون إلى مساحة لتصميم المنتجات، ويحتاج المستخدمون إلى خيارات. وعندما تتأثر حقوق أساسية أو يُحتمل ضرر جسيم للغير، نحتاج أيضًا إلى قواعد ملزمة ورقابة مستقلة. ويجب أن تكون كيفية تصميمها قابلة للنقاش العام.

ما الذي سيعزز ثقتي

أريد الاعتراف بأن في Anthropic وOpenAI أشخاصًا يعملون بجدية من أجل ذكاء اصطناعي نافع وآمن. وتستحق مبادئهما المنشورة دراسة متأنية. أرى من الظلم اختزال كل تفكير في السلامة إلى تسويق، أو استنتاج نفاق أخلاقي من كل قرار تجاري.

ولا أريد كذلك منح شركة ثقة مسبقة لمجرد أنها تعرض أهدافها بإقناع خاص.

ما يعجبني في الإيثار الفعال هو الإصرار على السؤال عن الأثر الحقيقي. سأطبق هذا المعيار على شركات الذكاء الاصطناعي نفسها. ما المنافع التي تحققها أنظمتها؟ وما الأضرار التي تنشأ؟ وأي افتراضات لها صححتها؟ وأي سلطة تقبل إخضاعها لرقابة فعالة؟

يبقى موقفي منفتحًا لكنه متطلب. لا أحتاج إلى يقين بأن من يقفون خلف نموذج محقون أخلاقيًا دائمًا. أريد فهم كيفية وصولهم إلى قراراتهم، والقدرة على الاعتراض عليها، ومعرفة أن الأخطاء لها عواقب على المسؤولين.

كلما عهدنا إلى الذكاء الاصطناعي بمزيد من القرارات، ازدادت أهمية هذه الإمكانات.

إلى اللقاء،
جو

المصادر