trueNetLab logo
HI
AI को उसके मूल्य कौन देता है?

AI को उसके मूल्य कौन देता है?

जब मैं किसी AI से फ़ायरवॉल की कॉन्फ़िगरेशन के बारे में पूछता हूँ, तो उसके उत्तर की जाँच कर सकता हूँ। दस्तावेज़ पढ़ सकता हूँ, सेटिंग आज़मा सकता हूँ और देख सकता हूँ कि नतीजा सही है या नहीं।

दूसरे सवालों में ऐसी स्पष्ट कसौटी नहीं होती। क्या मुझे किसी कर्मचारी को दूसरा मौका देना चाहिए? क्या किसी खास तरह की निगरानी उचित है? सुरक्षा के लिए व्यक्तिगत स्वतंत्रता की कितनी कीमत चुकाना स्वीकार्य है?

AI शांत, स्पष्ट और विश्वसनीय ढंग से जवाब दे सकता है। इसीलिए मैं जानना चाहता हूँ कि वह किन मानकों से निर्णय लेता है। किसके हितों पर विचार करता है? सीमाएँ कहाँ खींचता है? और किसने तय किया कि वे सीमाएँ सही हैं?

इसलिए Anthropic और OpenAI के मामले में मुझे उनके मॉडलों की क्षमताओं के साथ उनके पीछे की धारणाओं और संगठनात्मक ढाँचों में भी दिलचस्पी है। दोनों कंपनियाँ ऐसे सिस्टम बना रही हैं जिन्हें लोग निर्णय सौंपें। जिम्मेदारी की उनकी समझ की बारीकी से जाँच होनी चाहिए।

प्रभावी परोपकार इस चर्चा का एक दिलचस्प प्रवेश-बिंदु है। यह विचार मुझे आकर्षित करता है। लेकिन इसके कुछ निष्कर्षों पर मैं सावधानी बरतता हूँ।

जितना संभव हो उतना भला करना आकर्षक लगता है

प्रभावी परोपकार पूछता है कि सीमित धन, समय और क्षमताओं से दूसरों के लिए सबसे अधिक भलाई कैसे की जा सकती है। शोध और तर्कसंगत दलीलों से अलग-अलग विकल्पों के बीच निर्णय लेने में मदद मिलनी चाहिए। इस आंदोलन के विषय वैश्विक स्वास्थ्य और पशु कल्याण से लेकर उन्नत AI के जोखिमों तक फैले हैं।

मुझे सहायता को उसके प्रभाव से आँकना उचित लगता है। अच्छी मंशा से ही यह नहीं पता चलता कि किसी की वास्तव में मदद हुई या नहीं। जो पैसा दान करता है या वर्षों का श्रम लगाता है, उसे पूछने का अधिकार होना चाहिए कि कोई दूसरा उपयोग ज्यादा लाभकारी होता या नहीं।

मुश्किल तब बढ़ती है जब हम बहुत अलग तरह के प्रभावों की तुलना करते हैं।

दीर्घकालवाद दूर के भविष्य को विशेष नैतिक महत्व देता है। आज के फैसलों में उन लोगों को भी गिना जाना चाहिए जो शायद दूर भविष्य में जिएँगे। इससे एक तर्क यह निकलता है कि उन जोखिमों को गंभीरता से लेना चाहिए जो उस भविष्य को हमेशा के लिए नष्ट कर सकते हैं।

शुरुआत में इससे भी मुझे ज्यादा आपत्ति नहीं होती। प्रदूषण या परमाणु कचरे के मामले में भी हम आने वाली पीढ़ियों का ध्यान रखने को कहते हैं।

मेरा संदेह हमारे पूर्वानुमानों की निश्चितता से शुरू होता है। हम कितने भरोसे से बता सकते हैं कि आज का कौन-सा फैसला सदियों बाद जीवन बेहतर करेगा? आज सिद्ध किए जा सकने वाले लाभ की तुलना दूर भविष्य की किसी संभावित आपदा को रोकने से कैसे करें?

कोई गणना गणितीय रूप से सही होकर भी बेहद अनिश्चित मान्यताओं पर टिकी हो सकती है। यदि भविष्य का अनुमानित लाभ बहुत बड़ा हो, तो गणना में वह आज की लगभग हर प्राथमिकता पर भारी पड़ सकता है। ठीक वहीं मैं मान्यताएँ, अनिश्चितताएँ और इस बात की सीमाएँ देखना चाहता हूँ कि अपेक्षित लाभ से क्या उचित ठहराया जा सकता है।

विचार प्रभाव में कैसे बदलते हैं

AI विकास के साथ संबंध कम-से-कम कुछ ठोस वित्तपोषण निर्णयों से दिखाया जा सकता है। Open Philanthropy, जिसे अब Coefficient Giving कहा जाता है, ने 2017 में OpenAI के लिए तीन करोड़ अमेरिकी डॉलर के अनुदान का उल्लेख किया था। भविष्य पर दार्शनिक चिंतन किताबों और बहस तक सीमित नहीं रहा। उसने प्रभावित किया कि किस शोध को समर्थन मिला।

लेकिन इससे सभी संबंधित कंपनियों की एक जैसी विचारधारा सिद्ध नहीं होती। एक अनुदान बाद के हर कारोबारी फैसले या सभी कर्मचारियों के विश्वास को नहीं समझाता।

इसलिए मैं प्रभावी परोपकार, दीर्घकालवाद और AI सुरक्षा शोध में अंतर रखूँगा। किसी खास भविष्य-दर्शन से सहमत हुए बिना भी खतरनाक AI क्षमताओं की चेतावनी दी जा सकती है। प्रभावी मदद का समर्थन करते हुए कुछ संगठनों की प्राथमिकताओं की आलोचना भी की जा सकती है।

Anthropic और OpenAI का मूल्यांकन करते समय मेरे लिए सबसे महत्वपूर्ण है कि वे आज क्या तय करती हैं, उससे कैसी शक्ति इस्तेमाल करती हैं और उस शक्ति पर क्या सीमाएँ हैं।

Anthropic: खुलकर व्यक्त किए गए मूल्य

Anthropic ने Claude के लिए अपने इरादे असामान्य विस्तार से सार्वजनिक किए हैं। प्रकाशित “Constitution” वांछित मूल्यों और व्यवहार का वर्णन करती है और कंपनी के अनुसार प्रशिक्षण में इस्तेमाल होती है। इसमें ईमानदारी, नुकसान से बचाव और मानवीय निगरानी जैसे विषय हैं। Anthropic यह भी स्वीकार करती है कि Claude का वास्तविक व्यवहार इन लक्ष्यों से अलग हो सकता है।

मैं इसे कंपनी का सकारात्मक पक्ष मानता हूँ। सार्वजनिक दस्तावेज़ आलोचना का आधार देता है। उससे किसी उत्तर की तुलना करके पूछा जा सकता है कि Claude अपने निर्देशों का पालन करता है या नहीं। मैं निर्देशों को भी अस्वीकार कर सकता हूँ।

फिर भी “संविधान” शब्द को लेकर सावधान हूँ। इससे सामाजिक सहमति और सामूहिक वैधता वाले नियमों का आभास मिलता है। यहाँ एक कंपनी अपने उत्पाद के लिए इरादे बता रही है। यह महत्वपूर्ण खुलापन है, लेकिन इससे जनता को निर्णयों में भाग लेने का बाध्यकारी अधिकार नहीं मिलता।

अपनी भूमिका के बारे में Anthropic का तर्क भी ध्यान देने योग्य है। वह शक्तिशाली AI विकसित करने को सोच-समझकर लगाया गया दाँव बताती है: यदि ऐसे सिस्टम किसी भी हालत में आने ही वाले हैं, तो सुरक्षा पर केंद्रित प्रयोगशालाओं को अग्रिम मोर्चे पर काम करना चाहिए।

मैं यह तर्क समझता हूँ। लेकिन इसमें हितों का ऐसा टकराव है जिसे अच्छी मंशा हल करती नहीं दिखती। जो खुद को प्रतिस्पर्धियों से अधिक जिम्मेदार मानता है, वह यह भी निष्कर्ष निकाल सकता है कि उसे ज्यादा तेजी से बढ़ना और अधिक प्रभाव हासिल करना चाहिए।

इसलिए मुझे उन सत्यापन योग्य शर्तों में दिलचस्पी है जो इस दाँव को सीमित करती हैं। Anthropic को कब विकास टालना होगा? कौन-से निष्कर्ष उसे अपनी रणनीति पर सवाल उठाने को मजबूर करेंगे?

कॉर्पोरेट निगरानी के लिए Anthropic ने Long-Term Benefit Trust बनाया है। उसके सदस्यों को कंपनी के वित्तीय हितों से अलग रखा जाना चाहिए, और विशेष अधिकारों से वे बोर्ड की नियुक्तियों को प्रभावित कर सकते हैं। इसकी शुरुआत में कंपनी ने खुद इसे एक प्रयोग कहा था।

मैं इस कोशिश को गंभीरता से लेता हूँ। लेकिन इसका अस्तित्व मात्र यह सिद्ध नहीं करता कि हित टकराने पर निगरानी कितनी कारगर है। सार्वजनिक शेयर-प्रस्ताव दस्तावेज़ Trust के अधिकारों के साथ उनकी सीमाएँ और उन्हें बदलने की प्रक्रियाएँ भी बताते हैं। आश्वस्त करने वाले “स्वतंत्र” शब्द से ज्यादा इन विवरणों पर ध्यान देना चाहिए।

मेरा शुरुआती आकलन: Anthropic अपने मूल्यों को ठोस और सवालों के लिए खुला बनाती है। यह उसकी ताकत है। भरोसे के लिए मुझे यह प्रमाण भी चाहिए कि तय नियंत्रण तब भी काम करते हैं जब सुरक्षा का कोई फैसला वृद्धि या राजस्व घटाता है।

OpenAI: सामाजिक उद्देश्य और आर्थिक हित

OpenAI को भी केवल व्यावसायिक हितों से देखना सरलीकरण होगा। उसके प्रकाशित ढाँचे के अनुसार गैर-लाभकारी OpenAI Foundation, Public Benefit Corporation के रूप में संगठित OpenAI Group को नियंत्रित करती है। Foundation, Group के बोर्ड सदस्यों को नियुक्त और बदल सकती है। उसके पास Group में हिस्सेदारी भी है।

यह एक महत्वपूर्ण नियंत्रण संरचना है। यह व्यापक कहानी कि गैर-लाभकारी उद्देश्य पूरी तरह गायब हो गया है, इसके साथ न्याय नहीं करती।

साथ ही मुझे तनाव दिखाई देता है: यदि Foundation के वित्तीय संसाधन Group की व्यावसायिक सफलता से लाभान्वित होते हैं, तो संरक्षण का उद्देश्य और बढ़ने का हित गहराई से जुड़ सकते हैं। इससे गलत फैसला होना जरूरी नहीं है। लेकिन यह पूछना महत्वपूर्ण हो जाता है कि वृद्धि छोड़ने के विकल्प का कितना स्वतंत्र आकलन हो सकता है।

OpenAI अपने मॉडलों के व्यवहार के नियम भी प्रकाशित करती है। Model Spec में मानवीय नियंत्रण, ईमानदारी और नुकसान से बचाव जैसे विषय हैं। इसमें कंपनी को कानूनी और प्रतिष्ठा संबंधी नुकसान से बचाना भी एक लक्ष्य है। OpenAI स्वीकार करती है कि इस्तेमाल हो रहे मॉडल अभी पूरी तरह इस विनिर्देश को पूरा नहीं करते।

मुझे उपयोगी लगता है कि अलग-अलग हित स्पष्ट रूप से बताए गए हैं। कंपनी का आर्थिक और कानूनी रूप से टिके रहना जरूरी है। फिर भी उपयोगकर्ता के तौर पर मैं समझना चाहता हूँ कि जब मेरी जरूरत, सार्वजनिक हित और प्रदाता का हित अलग हों तो फैसला कैसे होता है।

मेरी कसौटी Anthropic जैसी ही है: प्रकाशित नियम मूल्यवान हैं। उनका व्यावहारिक पालन और फैसलों को प्रभावी ढंग से चुनौती देने की क्षमता अलग से परखी जानी चाहिए।

इसलिए केवल दस्तावेज़ों के आधार पर मैं यह विश्वसनीय रैंकिंग नहीं बना सकता कि कौन-सी कंपनी “अधिक परोपकारी” है। वे इरादे और ढाँचे दिखाते हैं। प्रभाव पर निर्णय के लिए ठोस फैसले और सत्यापन योग्य नतीजे भी चाहिए।

मैं दोनों को कैसे परखूँगा

मुझे सबसे अधिक उन परिस्थितियों में दिलचस्पी है जिनमें जिम्मेदारी असुविधाजनक हो जाती है।

प्रतिस्पर्धियों के करीब आने पर भी मॉडल का विमोचन रोकना। गलती का ऐसा विवरण देना कि बाहरी लोग उसका महत्व समझ सकें। प्रभावित लोगों को प्रभावी शिकायत का रास्ता देना। स्वतंत्र समीक्षकों को पर्याप्त पहुँच देना ताकि वे अपने निष्कर्ष निकाल सकें।

मैं दोनों कंपनियों से एक जैसे सवाल पूछूँगा:

  • कौन-सा सामाजिक प्रभाव वास्तव में सिद्ध हुआ है?
  • कौन-सी सीमाएँ बाध्यकारी हैं और उन्हें कौन बदल सकता है?
  • जोखिम भरा फैसला कौन रोक सकता है?
  • गलतियाँ, विरोधी तर्क और हितों के टकराव कैसे सामने रखे जाते हैं?
  • किसी सिस्टम से प्रभावित, लेकिन उसके ग्राहक न होने वाले लोगों के पास क्या विकल्प हैं?

आखिरी सवाल मुझे खास तौर पर चिंतित करता है। कंपनी ग्राहकों के साथ अच्छा व्यवहार करते हुए ऐसे फैसले भी ले सकती है जिनके परिणाम दूसरे भुगतें। खरीद का अनुबंध उन हितों को केवल आंशिक रूप से दर्शाता है।

मूल्यों का सवाल व्यावहारिक हो जाता है

यदि कोई सहायक केवल पाठ सुझाता है, तो मैं उसे छोड़ सकता हूँ। जैसे ही उपयुक्त अनुमति वाला सिस्टम ईमेल भेजता, आवेदनों की छँटाई करता या कंपनी के डेटा तक पहुँचता है, उसके निर्देशों के सीधे परिणाम होते हैं।

तब दार्शनिक चर्चा अधिकार और जिम्मेदारी का प्रश्न बन जाती है। क्या सहायक स्पष्ट निर्देश अस्वीकार कर सकता है? उसे कब स्पष्टीकरण माँगना होगा? कौन-सी जानकारी साझा कर सकता है? और अधिकृत काम को गलत समझने पर जिम्मेदारी किसकी होगी?

ऐसे सिस्टमों के लिए मैं तकनीकी सीमाएँ चाहूँगा: स्पष्ट अनुमतियाँ, पता लगाई जा सकने वाली कार्रवाइयाँ और प्रक्रिया रोकने या पलटने के तरीके। अच्छी तरह लिखा मूल्य-संग्रह इन नियंत्रणों को पूरा कर सकता है। वह उनकी प्रभावशीलता सिद्ध नहीं कर सकता।

समाज के स्तर पर भी मेरी सोच ऐसी ही है। डेवलपर्स को उत्पाद बनाने की गुंजाइश चाहिए। उपयोगकर्ताओं को विकल्प चाहिए। जहाँ मूल अधिकार या तीसरे पक्ष को गंभीर नुकसान दाँव पर हों, वहाँ बाध्यकारी नियम और स्वतंत्र निगरानी भी चाहिए। इनका स्वरूप सार्वजनिक चर्चा के लिए खुला होना चाहिए।

किससे मेरा भरोसा मजबूत होगा

मैं मानना चाहता हूँ कि Anthropic और OpenAI में लोग उपयोगी और सुरक्षित AI के लिए गंभीरता से काम कर रहे हैं। उनके प्रकाशित सिद्धांत ध्यानपूर्वक विचार के योग्य हैं। हर सुरक्षा-विचार को मार्केटिंग बताना या हर कारोबारी फैसले से नैतिक पाखंड निकालना मुझे अनुचित लगता है।

उतना ही मैं केवल इसलिए किसी कंपनी पर अग्रिम भरोसा नहीं करना चाहता कि वह अपने लक्ष्य खास तौर पर प्रभावशाली ढंग से बताती है।

प्रभावी परोपकार में मुझे वास्तविक प्रभाव पूछने का आग्रह पसंद है। मैं यह कसौटी AI कंपनियों पर भी लगाऊँगा। उनके सिस्टम क्या लाभ देते हैं? क्या नुकसान पैदा होते हैं? उन्होंने अपनी कौन-सी मान्यताएँ सुधारी हैं? और अपनी किस शक्ति को वे कारगर निगरानी के अधीन करने को तैयार हैं?

इसलिए मेरा रुख खुला, लेकिन अपेक्षापूर्ण है। मुझे यह निश्चितता नहीं चाहिए कि मॉडल के पीछे के लोग हमेशा नैतिक रूप से सही हैं। मैं समझना चाहता हूँ कि वे निर्णय कैसे लेते हैं, उन्हें चुनौती दे सकूँ और जान सकूँ कि गलतियों के परिणाम जिम्मेदार लोगों के लिए भी होते हैं।

हम जितने अधिक फैसले AI को सौंपेंगे, ये संभावनाएँ उतनी महत्वपूर्ण होंगी।

अगली बार तक,
जो

स्रोत