trueNetLab logo
BN
AI-এর মূল্যবোধ কে নির্ধারণ করে?

AI-এর মূল্যবোধ কে নির্ধারণ করে?

আমি যখন কোনো AI-কে ফায়ারওয়াল কনফিগার করার বিষয়ে প্রশ্ন করি, উত্তরটি যাচাই করতে পারি। নথি পড়তে পারি, সেটিং পরীক্ষা করতে পারি এবং ফল ঠিক হয়েছে কি না দেখতে পারি।

অন্য কিছু প্রশ্নে এমন স্পষ্ট মাপকাঠি থাকে না। কোনো কর্মীকে কি দ্বিতীয় সুযোগ দেওয়া উচিত? বিশেষ কোনো নজরদারি কি ন্যায্য? নিরাপত্তার জন্য ব্যক্তিস্বাধীনতার কতটা মূল্য দেওয়া গ্রহণযোগ্য?

AI শান্ত, স্পষ্ট ও বিশ্বাসযোগ্যভাবে উত্তর দিতে পারে। ঠিক সে কারণেই জানতে চাই, সে কোন মানদণ্ডে বিচার করছে। কার স্বার্থ বিবেচনা করছে? কোথায় সীমা টানছে? আর কে ঠিক করেছে যে সেই সীমা সঠিক?

তাই Anthropic ও OpenAI-এর ক্ষেত্রে শুধু মডেলের সক্ষমতা নয়, তার পেছনের বিশ্বাস ও সাংগঠনিক কাঠামোতেও আমার আগ্রহ আছে। দুটো প্রতিষ্ঠানই এমন ব্যবস্থা তৈরি করছে, যার ওপর মানুষ সিদ্ধান্তের দায়িত্ব অর্পণ করবে। দায়িত্ব সম্পর্কে তাদের ধারণা খুঁটিয়ে দেখা দরকার।

কার্যকর পরার্থবাদ এই আলোচনায় ঢোকার একটি আকর্ষণীয় পথ। ধারণাটি আমার ভালো লাগে। তবে এর কিছু উপসংহারে আমি সতর্ক হই।

যত বেশি সম্ভব ভালো করা যুক্তিসংগত শোনায়

কার্যকর পরার্থবাদ জানতে চায়, সীমিত অর্থ, সময় ও দক্ষতা দিয়ে অন্যের সবচেয়ে বেশি উপকার কীভাবে করা যায়। গবেষণা ও যুক্তিসংগত আলোচনা বিভিন্ন বিকল্পের মধ্যে বেছে নিতে সাহায্য করার কথা। এই আন্দোলনে বৈশ্বিক স্বাস্থ্য, প্রাণিকল্যাণ থেকে উন্নত AI-এর ঝুঁকি পর্যন্ত নানা বিষয় রয়েছে।

সাহায্যকে তার প্রভাব দিয়ে বিচার করা আমার কাছে যুক্তিসংগত। ভালো উদ্দেশ্য থাকলেই বোঝা যায় না যে কারও সত্যি সাহায্য হয়েছে। যিনি টাকা দান করেন বা বছরের পর বছর শ্রম দেন, তিনি প্রশ্ন করতেই পারেন, অন্য কোনো ব্যবহারে আরও বেশি ফল পাওয়া যেত কি না।

সমস্যা বাড়ে যখন একেবারে ভিন্ন ধরনের প্রভাবের তুলনা করি।

দীর্ঘমেয়াদবাদ সুদূর ভবিষ্যৎকে বিশেষ নৈতিক গুরুত্ব দেয়। আজকের সিদ্ধান্তে সেই মানুষদেরও গণনা করা উচিত, যারা হয়তো অনেক দূরের ভবিষ্যতে বাঁচবেন। সেখান থেকে একটি যুক্তি আসে: সেই ভবিষ্যৎ চিরতরে ধ্বংস করতে পারে এমন ঝুঁকিকে গুরুত্বের সঙ্গে দেখা দরকার।

শুরুতে এতেও আমার বড় আপত্তি নেই। দূষণ বা পারমাণবিক বর্জ্যের ক্ষেত্রেও তো আগামী প্রজন্মকে বিবেচনার দাবি করি।

আমার সংশয় শুরু হয় পূর্বাভাসের নিশ্চয়তা নিয়ে। আজকের কোন সিদ্ধান্ত কয়েক শতক পরের জীবন উন্নত করবে, তা কতটা নির্ভরযোগ্যভাবে বলা যায়? আজ প্রমাণ করা যায় এমন উপকারের সঙ্গে সুদূর ভবিষ্যতের সম্ভাব্য বিপর্যয় ঠেকানোর তুলনা কীভাবে করব?

একটি হিসাব গাণিতিকভাবে ঠিক হয়েও অত্যন্ত অনিশ্চিত অনুমানের ওপর দাঁড়াতে পারে। ভবিষ্যতের অনুমিত উপকার যথেষ্ট বড় হলে তা হিসাবে বর্তমানের প্রায় সব অগ্রাধিকারের ওপর প্রাধান্য পেতে পারে। সেখানেই আমি অনুমান, অনিশ্চয়তা এবং প্রত্যাশিত উপকার দিয়ে কী ন্যায্য করা যাবে তার সীমা দেখতে চাই।

ধারণা কীভাবে প্রভাবে পরিণত হয়

AI উন্নয়নের সঙ্গে সংযোগ অন্তত নির্দিষ্ট অর্থায়নের সিদ্ধান্তে দেখানো যায়। Open Philanthropy, বর্তমানে Coefficient Giving, ২০১৭ সালের জন্য OpenAI-কে তিন কোটি মার্কিন ডলারের অনুদানের উল্লেখ করেছে। ভবিষ্যৎ নিয়ে দার্শনিক চিন্তা শুধু বই আর আলোচনায় আটকে থাকেনি। কোন গবেষণা সহায়তা পেয়েছে, তা প্রভাবিত করেছে।

তবে এ থেকে সংশ্লিষ্ট সব প্রতিষ্ঠানের এক অভিন্ন মতাদর্শ প্রমাণ হয় না। একটি অনুদান পরের সব ব্যবসায়িক সিদ্ধান্ত বা সব কর্মীর বিশ্বাস ব্যাখ্যা করে না।

তাই আমি কার্যকর পরার্থবাদ, দীর্ঘমেয়াদবাদ ও AI নিরাপত্তা গবেষণাকে আলাদা রাখব। ভবিষ্যৎ নিয়ে কোনো বিশেষ দর্শনে বিশ্বাস না করেও বিপজ্জনক AI সক্ষমতার বিষয়ে সতর্ক করা যায়। কার্যকর সাহায্যকে সমর্থন করার পাশাপাশি নির্দিষ্ট সংগঠনের অগ্রাধিকারের সমালোচনাও করা যায়।

Anthropic ও OpenAI-কে মূল্যায়নের সময় আমার কাছে প্রধান হলো তারা আজ কী ঠিক করছে, তার মাধ্যমে কী ক্ষমতা প্রয়োগ করছে এবং সেই ক্ষমতার সীমা কী।

Anthropic: প্রকাশ্যে বলা মূল্যবোধ

Anthropic Claude সম্পর্কে তার উদ্দেশ্য অস্বাভাবিক বিস্তারিতভাবে জানায়। প্রকাশিত “Constitution” কাঙ্ক্ষিত মূল্যবোধ ও আচরণ বর্ণনা করে এবং প্রতিষ্ঠানের মতে প্রশিক্ষণেও ব্যবহৃত হয়। এতে সততা, ক্ষতি এড়ানো ও মানুষের তত্ত্বাবধানসহ নানা বিষয় রয়েছে। Anthropic এটিও স্বীকার করে যে Claude-এর বাস্তব আচরণ এসব লক্ষ্য থেকে সরে যেতে পারে।

এটি প্রতিষ্ঠানের ইতিবাচক দিক হিসেবে দেখি। প্রকাশ্য নথি সমালোচনার ভিত্তি দেয়। তার সঙ্গে উত্তর মিলিয়ে প্রশ্ন করা যায়, Claude নিজের নির্দেশনা মানছে কি না। নির্দেশনাকেও প্রত্যাখ্যান করতে পারি।

তবু “সংবিধান” শব্দটি নিয়ে সতর্ক থাকি। এটি সামাজিক সমঝোতা ও যৌথ বৈধতাসম্পন্ন নিয়মের কথা মনে করায়। এখানে একটি প্রতিষ্ঠান তার পণ্যের জন্য উদ্দেশ্য জানাচ্ছে। এটি গুরুত্বপূর্ণ স্বচ্ছতা, কিন্তু জনসাধারণকে সিদ্ধান্তে অংশ নেওয়ার বাধ্যতামূলক অধিকার দেয় না।

Anthropic নিজের ভূমিকার পক্ষে যে যুক্তি দেয়, সেটিও মনোযোগের দাবি রাখে। প্রতিষ্ঠান শক্তিশালী AI তৈরিকে সচেতন একটি বাজি বলে: এমন ব্যবস্থা যেভাবেই হোক আসবে যদি, নিরাপত্তায় গুরুত্ব দেওয়া গবেষণাগারগুলোর অগ্রভাগে থাকা উচিত।

যুক্তিটি বুঝি। তবে এতে স্বার্থের সংঘাত আছে, যা কেবল ভালো উদ্দেশ্যে মিটে যায় বলে মনে করি না। যে নিজেকে প্রতিযোগীর চেয়ে বেশি দায়িত্বশীল ভাবে, সে এমনও সিদ্ধান্ত নিতে পারে যে তাকে দ্রুত বাড়তে এবং আরও প্রভাব অর্জন করতে হবে।

তাই এই বাজিকে সীমাবদ্ধ করে এমন যাচাইযোগ্য শর্ত জানতে চাই। কখন Anthropic-কে উন্নয়ন পিছিয়ে দিতে হবে? কী ফল প্রতিষ্ঠানকে নিজের কৌশল নিয়ে প্রশ্ন করতে বাধ্য করবে?

প্রাতিষ্ঠানিক তদারকির জন্য Anthropic Long-Term Benefit Trust তৈরি করেছে। এর সদস্যদের কোম্পানির আর্থিক স্বার্থ থেকে বিচ্ছিন্ন থাকার কথা, এবং বিশেষ অধিকারে তাঁরা বোর্ডের গঠনে প্রভাব ফেলেন। কাঠামোটি চালুর সময় প্রতিষ্ঠান নিজেই একে পরীক্ষা বলেছিল।

এই চেষ্টাকে গুরুত্ব দিই। কিন্তু শুধু অস্তিত্ব থাকলেই স্বার্থের দ্বন্দ্বে নিয়ন্ত্রণ কতটা কাজ করে তা প্রমাণ হয় না। প্রকাশিত শেয়ার-প্রস্তাবের নথিতে Trust-এর অধিকার, সীমাবদ্ধতা ও অধিকার বদলের পদ্ধতি আছে। আশ্বস্তকারী “স্বাধীন” শব্দের চেয়ে এই বিবরণ বেশি মনোযোগ দাবি করে।

আমার প্রাথমিক মূল্যায়ন: Anthropic তার মূল্যবোধকে নির্দিষ্ট ও প্রশ্নযোগ্য করে। এটি শক্তি। আস্থার জন্য আরও প্রমাণ চাই যে নিরাপত্তার সিদ্ধান্তে প্রবৃদ্ধি বা আয় কমলেও নির্ধারিত নিয়ন্ত্রণ কার্যকর থাকে।

OpenAI: সামাজিক লক্ষ্য ও অর্থনৈতিক স্বার্থ

OpenAI-কেও শুধু বাণিজ্যিক স্বার্থ দিয়ে দেখলে সরলীকরণ হবে। প্রকাশিত কাঠামো অনুযায়ী অলাভজনক OpenAI Foundation, Public Benefit Corporation হিসেবে গঠিত OpenAI Group-কে নিয়ন্ত্রণ করে। Foundation Group-এর বোর্ড সদস্য নিয়োগ ও বদল করতে পারে। একই সঙ্গে Group-এ তার মালিকানার অংশ আছে।

এটি অর্থবহ নিয়ন্ত্রণ কাঠামো। অলাভজনক লক্ষ্য পুরোপুরি উধাও হয়ে গেছে—এমন ঢালাও বিবরণ এর প্রতি ন্যায্য নয়।

তবু এখানে টানাপোড়েন দেখি: Foundation-এর অর্থনৈতিক সামর্থ্য যদি Group-এর বাণিজ্যিক সাফল্য থেকে লাভবান হয়, সুরক্ষার লক্ষ্য ও বৃদ্ধির স্বার্থ ঘনিষ্ঠভাবে জড়িয়ে যেতে পারে। তা থেকে খারাপ সিদ্ধান্ত আসতেই হবে এমন নয়। কিন্তু বৃদ্ধি ছেড়ে দেওয়ার সিদ্ধান্ত কতটা স্বাধীনভাবে বিচার করা সম্ভব, সেই প্রশ্ন গুরুত্বপূর্ণ হয়ে ওঠে।

OpenAI তার মডেলের আচরণের নিয়মও প্রকাশ করে। Model Spec-এ মানুষের নিয়ন্ত্রণ, সততা ও ক্ষতি এড়ানোসহ নানা বিষয় আছে। কোম্পানিকে আইনগত ও সুনামসংক্রান্ত ক্ষতি থেকে রক্ষা করাও একটি লক্ষ্য। OpenAI স্বীকার করে যে ব্যবহৃত মডেলগুলো এখনও পুরোপুরি এই নির্দেশনা পূরণ করে না।

ভিন্ন স্বার্থগুলো স্পষ্ট করে বলা কাজে লাগে বলে মনে করি। একটি প্রতিষ্ঠানকে অর্থনৈতিক ও আইনগতভাবে টিকে থাকতে হয়। তবুও ব্যবহারকারী হিসেবে জানতে চাই, আমার চাহিদা, জনস্বার্থ ও সরবরাহকারীর স্বার্থ আলাদা হলে সিদ্ধান্ত কীভাবে হয়।

আমার মাপকাঠি Anthropic-এর মতোই: প্রকাশিত নিয়ম মূল্যবান। তার বাস্তব প্রয়োগ এবং সিদ্ধান্তকে কার্যকরভাবে চ্যালেঞ্জ করার সুযোগ আলাদাভাবে বিচার করতে হবে।

তাই শুধু নথি দিয়ে কোন প্রতিষ্ঠান “বেশি পরার্থপর”, তার বিশ্বাসযোগ্য তালিকা বানাতে পারি না। নথি উদ্দেশ্য ও কাঠামো দেখায়। প্রভাব বিচার করতে নির্দিষ্ট সিদ্ধান্ত ও যাচাইযোগ্য ফলও দরকার।

দুটো প্রতিষ্ঠানকে যেভাবে বিচার করব

আমার সবচেয়ে বেশি আগ্রহ সেই পরিস্থিতিতে, যখন দায়িত্ব পালন অস্বস্তিকর হয়ে ওঠে।

প্রতিযোগীরা এগিয়ে এলেও মডেল প্রকাশ পিছিয়ে দেওয়া। ভুল এমনভাবে নথিবদ্ধ করা, যাতে বাইরের মানুষ তার গুরুত্ব বুঝতে পারেন। ক্ষতিগ্রস্তদের কার্যকর অভিযোগের পথ দেওয়া। স্বাধীন মূল্যায়নকারীদের যথেষ্ট সুযোগ দেওয়া, যাতে তাঁরা নিজের সিদ্ধান্তে পৌঁছাতে পারেন।

দুটো প্রতিষ্ঠানকেই একই প্রশ্ন করব:

  • কোন সামাজিক প্রভাব সত্যি প্রমাণিত হয়েছে?
  • কোন সীমা বাধ্যতামূলক, আর তা কে বদলাতে পারে?
  • ঝুঁকিপূর্ণ সিদ্ধান্ত কে থামাতে পারে?
  • ভুল, পাল্টা যুক্তি ও স্বার্থের সংঘাত কীভাবে প্রকাশ করা হয়?
  • কোনো ব্যবস্থার গ্রাহক না হয়েও যাঁরা তার দ্বারা প্রভাবিত হন, তাঁদের কী সুযোগ আছে?

শেষ প্রশ্নটি বিশেষভাবে ভাবায়। প্রতিষ্ঠান তার গ্রাহকদের ভালোভাবে দেখেও এমন সিদ্ধান্ত নিতে পারে যার ফল অন্যদের বহন করতে হয়। কেনাকাটার চুক্তি সেই স্বার্থকে কেবল আংশিকভাবে তুলে ধরে।

মূল্যবোধের প্রশ্ন বাস্তব হয়ে ওঠে

সহকারী শুধু লেখা প্রস্তাব করলে তা বাদ দিতে পারি। যথাযথ অনুমতিসম্পন্ন ব্যবস্থা যখন ইমেইল পাঠায়, আবেদন বাছাই করে বা প্রতিষ্ঠানের তথ্য ব্যবহার করে, তখন তার নির্দেশনার সরাসরি ফল হয়।

দার্শনিক আলোচনা তখন ক্ষমতা ও দায়িত্বের প্রশ্ন হয়ে যায়। সহকারী কি স্পষ্ট নির্দেশ প্রত্যাখ্যান করতে পারে? কখন ব্যাখ্যা চাইতে হবে? কোন তথ্য শেয়ার করতে পারে? অনুমোদিত কাজ ভুল বুঝলে দায় কে নেবে?

এমন ব্যবস্থার জন্য প্রযুক্তিগত সীমা চাইব: স্পষ্ট অনুমতি, অনুসরণযোগ্য কাজ এবং কোনো প্রক্রিয়া থামানো বা ফিরিয়ে দেওয়ার উপায়। ভালোভাবে লেখা মূল্যবোধের তালিকা এই নিয়ন্ত্রণের পরিপূরক হতে পারে। তা নিয়ন্ত্রণের কার্যকারিতা প্রমাণ করতে পারে না।

সমাজের স্তরেও আমার দৃষ্টিভঙ্গি একই। ডেভেলপারদের পণ্য তৈরির স্বাধীন পরিসর দরকার। ব্যবহারকারীদের বিকল্প দরকার। মৌলিক অধিকার বা তৃতীয় পক্ষের গুরুতর ক্ষতি জড়িত হলে বাধ্যতামূলক নিয়ম ও স্বাধীন তদারকিও দরকার। সেগুলো কীভাবে তৈরি হবে, তা নিয়ে প্রকাশ্য আলোচনার সুযোগ থাকতে হবে।

কী আমার আস্থা বাড়াবে

স্বীকার করতে চাই যে Anthropic ও OpenAI-তে অনেকে উপকারী ও নিরাপদ AI-এর জন্য গুরুত্ব দিয়ে কাজ করছেন। তাঁদের প্রকাশিত নীতি মনোযোগ দিয়ে বিবেচনা করা দরকার। নিরাপত্তার প্রতিটি ভাবনাকে বিপণন বলে উড়িয়ে দেওয়া বা প্রতিটি ব্যবসায়িক সিদ্ধান্ত থেকে নৈতিক ভণ্ডামি ধরে নেওয়া অন্যায্য মনে করি।

আবার কেবল লক্ষ্য খুব বিশ্বাসযোগ্যভাবে বর্ণনা করে বলেই কোনো প্রতিষ্ঠানকে আগাম আস্থা দিতে চাই না।

কার্যকর পরার্থবাদে বাস্তব প্রভাব জানতে চাওয়ার তাগিদটি আমার ভালো লাগে। এই মানদণ্ড AI প্রতিষ্ঠানগুলোর ওপরও প্রয়োগ করব। তাদের ব্যবস্থা কী উপকার করে? কী ক্ষতি হয়? নিজের কোন অনুমান তারা সংশোধন করেছে? আর কোন ক্ষমতাকে কার্যকর তদারকির অধীনে দিতে প্রস্তুত?

তাই আমার অবস্থান উন্মুক্ত, তবে দাবিসম্পন্ন। মডেলের পেছনের মানুষ সব সময় নৈতিকভাবে সঠিক, এমন নিশ্চয়তা চাই না। চাই বুঝতে কীভাবে সিদ্ধান্ত হয়, তা চ্যালেঞ্জ করতে পারতে এবং জানতে যে ভুলের ফল দায়িত্বশীল ব্যক্তিদেরও বহন করতে হয়।

যত বেশি সিদ্ধান্ত AI-কে দেব, এই সুযোগগুলো তত গুরুত্বপূর্ণ হবে।

পরের বার দেখা হবে,
জো

উৎস