যখন কোনো এআই সিস্টেম ক্ষতি করে, তখন কে দায়ী?

নেদারল্যান্ডসে এআই সিস্টেমের দায় সর্বদা কোনো ব্যক্তি বা কোম্পানির ওপর বর্তায়, সফটওয়্যারের ওপর নয়। বাস্তবে দুটি পক্ষ গুরুত্বপূর্ণ: ব্যবহারকারী, অর্থাৎ সেই ব্যক্তি বা সংস্থা যারা সিস্টেমটি স্থাপন করে এবং এর মাধ্যমে সিদ্ধান্ত নেয়, এবং উৎপাদক, অর্থাৎ যে পক্ষ সিস্টেমটি তৈরি করেছে, বাজারে এনেছে বা সরবরাহ করেছে। এই দুই পক্ষের মধ্যে কে ক্ষতির দায় বহন করবে, তা নির্ভর করে ব্যর্থতাটি কোথায় ঘটেছে, তাদের প্রত্যেকে কী জানত এবং তাদের মধ্যকার চুক্তিতে কী বলা আছে তার ওপর। এই নিবন্ধে উভয় পক্ষকেই বিশদভাবে আলোচনা করা হয়েছে; কার্যগত অপরাধ থেকে শুরু করে ফৌজদারি কার্যবিধির ৫১ নং ধারা অনুযায়ী কর্পোরেট দায় পর্যন্ত ফৌজদারি আইনের কাঠামোটি আমাদের সহযোগী নিবন্ধ ‘ একটি অ্যালগরিদম আংশিকভাবে দায়ী হতে পারে কিনা’- তে বিশদভাবে বর্ণনা করা হয়েছে ।

কেন ব্যবস্থা কখনো বিবাদী নয়

ডাচ আইন দুই ধরনের ব্যক্তিকে স্বীকৃতি দেয়: স্বাভাবিক ব্যক্তি এবং আইনগত ব্যক্তি। একটি এআই সিস্টেম এদের কোনোটিই নয়। এর কোনো অধিকার থাকতে পারে না, একে তলব করা যায় না, জরিমানা করা যায় না এবং ক্ষতিপূরণ দেওয়ার আদেশও দেওয়া যায় না, কারণ এর কোনো মালিকানা নেই এবং যে কোম্পানি একে পরিচালনা করে, তা থেকে আলাদা এর কোনো আইনগত অস্তিত্ব নেই। তৃতীয় একটি বিভাগ তৈরির প্রস্তাব, যাকে কখনও কখনও ইলেকট্রনিক ব্যক্তিসত্তা বলা হয়, তা নিয়ে ইউরোপীয় পর্যায়ে আলোচনা হয়েছে এবং কোনো অগ্রগতি হয়নি, যার কারণটি দার্শনিকতার চেয়ে বেশি বাস্তবসম্মত: সম্পদহীন এবং আচরণ পরিবর্তনের ক্ষমতাহীন একটি দায়বদ্ধতার বাহন ঝুঁকিকে সেই পক্ষগুলোর কাছ থেকে সরিয়ে দেবে যারা প্রকৃতপক্ষে ক্ষতি প্রতিরোধ করতে পারে।

সুতরাং প্রশ্নটি কখনোই এমন নয় যে যন্ত্রটি দায়ী কি না। প্রশ্নটি হলো, এই শৃঙ্খলের কোন ব্যক্তি বা প্রাতিষ্ঠানিক পক্ষ তার দায়িত্ব পালনে ব্যর্থ হয়েছে, এবং সেই শৃঙ্খলটির একটি পূর্বানুমানযোগ্য রূপ রয়েছে: যে পক্ষ মডেলটি তৈরি করেছে, যে পক্ষ সেটিকে পণ্যে রূপান্তরিত করেছে, যে পক্ষ এটি সরবরাহ বা সমন্বিত করেছে, যে সংস্থা এটি স্থাপন করেছে, এবং যে ব্যক্তি বোতামটি টিপেছে। এআই সিস্টেমের দায়বদ্ধতা হলো সেই শৃঙ্খলে ব্যর্থতাটি খুঁজে বের করা এবং সেটিকে একটি আইনি ভিত্তির সাথে মেলানোর প্রক্রিয়া।

এই আইনি ভিত্তিগুলোর মধ্যে দুটিই প্রধান। ব্যবহারকারীর জন্য রয়েছে সাধারণ টর্ট আইন এবং অন্যের দিকে একটি শক্তিশালী যন্ত্র ব্যবহার করার সাথে উদ্ভূত সতর্কতার দায়িত্ব। উৎপাদকের জন্য রয়েছে পণ্যের দায়বদ্ধতা, যার জন্য কোনো দোষের প্রয়োজনই হয় না। ফৌজদারি দায়সহ বাকি সবকিছু এগুলোর উপরেই স্তরবিন্যস্ত থাকে।

ব্যবহারকারীর অবস্থান

ব্যবহারকারীরা তাদের ঝুঁকিকে অবমূল্যায়ন করে, কারণ তারা সিস্টেমটিকে একটি ব্ল্যাক বক্স হিসেবে মনে করে যা অন্য কেউ তৈরি করেছে। আইন অনুসারে, যে ব্যক্তি কোনো টুল স্থাপন করার সিদ্ধান্ত নেয়, সেটিকে কনফিগার করে, তাতে ডেটা সরবরাহ করে এবং তার আউটপুটের ওপর ভিত্তি করে কাজ করে, সে একটি কাজ করছে, এবং সেই কাজটি তার নিজস্ব যোগ্যতার ভিত্তিতে মূল্যায়ন করা হয়।

যখন ব্যবস্থাটি কেবল একটি অপরাধের হাতিয়ার হয়ে ওঠে

সবচেয়ে সহজ মামলাগুলো হলো সেগুলো, যেখানে ইচ্ছাকৃতভাবে একটি এআই সিস্টেম ব্যবহার করা হয়। কোনো কোম্পানিকে প্রতারণা করার উদ্দেশ্যে একটি বিশ্বাসযোগ্য চালান তৈরি করা ফৌজদারি আইনের ৩২৬ ধারা অনুযায়ী প্রতারণা হিসেবে গণ্য হয়, তা সেই চিঠিটি কোনো ব্যক্তি বা মডেল দ্বারা খসড়া করা হোক না কেন, এবং কোনো নথি জাল করা ২২৫ ধারা অনুযায়ী জালিয়াতি হিসেবেই গণ্য হয়, ব্যবহৃত সরঞ্জাম নির্বিশেষে। কোনো সিস্টেমে অনুপ্রবেশ করে এমন কোড লেখার জন্য একটি মডেল ব্যবহার করাও ১৩৮ab ধারা অনুযায়ী কম্পিউটার অনুপ্রবেশ হিসেবে গণ্য হয়। কোনো প্রকৃত ব্যক্তির বিকৃত ছবি তৈরি ও বিতরণ করা মানহানির শামিল হতে পারে, এবং যেখানে উপাদানটি যৌন প্রকৃতির হয়, সেখানে এটি ১ জুলাই ২০২৪ থেকে কার্যকর হওয়া যৌন অপরাধ আইনের অধীনে অপরাধগুলোর আওতায় পড়ে। কোনো ব্যক্তিকে ক্রমাগত এআই-এর সাহায্যে হয়রানি করা ২৮৫b ধারা অনুযায়ী স্টকিং বা পিছু ধাওয়া হিসেবে গণ্য হতে পারে, যার বিচার কেবল ভুক্তভোগীর অভিযোগের ভিত্তিতেই করা হয়।

এর কোনোটিই নতুন আইন নয়। প্রযুক্তিটি প্রতারণার মাত্রা ও বিশ্বাসযোগ্যতা পরিবর্তন করে, অপরাধের উপাদানগুলো নয়। এটি যা পরিবর্তন করে তা হলো প্রমাণ: প্রম্পট, অ্যাকাউন্ট লগ, মডেল আউটপুট এবং ফাইল তৈরির সময়—এই উপাদানগুলোই অপরাধটিকে কোনো ব্যক্তির সাথে যুক্ত করে, এবং যে ব্যবহারকারীরা মনে করেন যে এআই-সৃষ্ট বিষয়বস্তু শনাক্ত করা যায় না, তারা সাধারণত ভুল করেন।

অসতর্ক ব্যবহার: অধিক সাধারণ ঝুঁকি

ইচ্ছাকৃতভাবে বিপদে পড়ার চেয়ে অসাবধানতার কারণেই অনেক বেশি প্রতিষ্ঠান বিপদে পড়ে। এই ধারাটি বেশ পরিচিত। একটি সিস্টেম এক উদ্দেশ্যে কেনা হয়, কিন্তু অন্য উদ্দেশ্যে ব্যবহার করা হয়। এর আউটপুটকে একটি সংকেত হিসেবে না দেখে একটি সিদ্ধান্ত হিসেবে গণ্য করা হয়। এটি কোথায় ভুল করছে তা কেউ খতিয়ে দেখে না, কারণ যারা এটি পরিচালনা করে, তাদের কখনও বলা হয়নি যে এর ভুলের হার কেমন বা এটি কোথায় ব্যর্থ হয়। যখন ক্ষতিটি বাস্তবে ঘটে, তখন প্রতিষ্ঠানটি আবিষ্কার করে যে, কীভাবে সেই সিদ্ধান্তে পৌঁছানো হয়েছিল তার কোনো রেকর্ডই তাদের কাছে নেই।

দেওয়ানি পরিভাষায় এটি একটি সরাসরি অপকৃত্য: দেওয়ানি আইনের ৬:১৬২ ধারা অনুযায়ী, কোনো ব্যক্তি তার দ্বারা সংঘটিত কোনো বেআইনি কাজের জন্য দায়ী হন, যা ক্ষতির কারণ হয়। সমাজে যত্নশীলতার কর্তব্যের লঙ্ঘন বেআইনি কাজের একটি বিভাগ, এবং সেই কর্তব্যের পরিধি নির্ধারিত হয় এই ভিত্তিতে যে, ঐ অবস্থানে থাকা একজন সতর্ক পরিচালক কী করতেন। এছাড়াও, ৬:১৭০ ধারা অনুযায়ী একজন নিয়োগকর্তা তার কর্মচারীদের ভুলের জন্য দায়ী থাকেন, এবং যে পক্ষ চুক্তিগত বাধ্যবাধকতা পালনের জন্য কোনো সহায়ক সংস্থা ব্যবহার করে, সেই পক্ষ ৬:৭৬ ধারা অনুযায়ী সেই সহায়ক সংস্থার জন্য জবাবদিহি করে, যা এমন একটি বিধান যা কোনো সংস্থাকে তার নিজস্ব পরিষেবা প্রদানের জন্য সরবরাহকারীর মডেল ব্যবহার করার ক্ষেত্রে আওতায় আনে।

যত্ন নেওয়ার দায়িত্ব এখন আর পুরোপুরিভাবে আদালত কর্তৃক উদ্ভাবনের উপর ছেড়ে দেওয়া হয়নি। ইইউ এআই আইন উচ্চ-ঝুঁকিপূর্ণ সিস্টেম স্থাপনকারীদের সুনির্দিষ্ট বাধ্যবাধকতা প্রদান করে: নির্দেশাবলী অনুসারে সিস্টেমটি ব্যবহার করা, তত্ত্বাবধানের জন্য প্রয়োজনীয় যোগ্যতা ও কর্তৃত্বসম্পন্ন ব্যক্তিদের উপর মানবিক তত্ত্বাবধানের দায়িত্ব অর্পণ করা, তাদের নিয়ন্ত্রণে থাকা ইনপুট ডেটা প্রাসঙ্গিক কিনা তা নিশ্চিত করা, কার্যক্রম পর্যবেক্ষণ করা এবং ঝুঁকি দেখা দিলে ব্যবহার স্থগিত করা, লগ সংরক্ষণ করা, এবং কর্মক্ষেত্রে এই ধরনের সিস্টেম স্থাপনের আগে কর্মী ও তাদের প্রতিনিধিদের অবহিত করা। এই বাধ্যবাধকতাগুলো নিয়ন্ত্রক প্রকৃতির, কিন্তু অবহেলা মূল্যায়নকারী একটি আদালত এগুলোকে সতর্ক আচরণের একটি বর্ণনা হিসেবেই বিবেচনা করবে। যে সংস্থা ব্যবহারের নির্দেশাবলী উপেক্ষা করেছে, তারা কেবল নিয়ম লঙ্ঘনই করেনি; তারা বাদীকে তার মামলা করার সুযোগ করে দিয়েছে।

স্বয়ংক্রিয়তার প্রতি পক্ষপাতিত্বের বিষয়টি আলাদাভাবে উল্লেখ করা প্রয়োজন, কারণ এখানেই তদারকি নীরবে ব্যর্থ হয়। একজন পর্যালোচক যিনি সিস্টেমের প্রস্তাবিত প্রায় সবকিছুই অনুমোদন করেন, তিনি তদারকি করছেন না; এবং যে সংস্থা তার কর্মীদের কাজের পরিমাণ বা কার্যক্ষমতার ভিত্তিতে মূল্যায়ন করে, তারা কার্যকরভাবে সেই ফলাফলটিই তৈরি করে। আইনি প্রশ্নটি হলো, এক্ষেত্রে সিদ্ধান্তটি আন্তরিকভাবে মানবিক ছিল কি না, এবং চোখ বন্ধ করে দেওয়া অনুমোদন এক্ষেত্রে গণ্য হয় না।

যেখানে ব্যবহারকারী ঝুঁকি হস্তান্তর করতে পারে না

যেসব প্রতিষ্ঠান ধরে নিয়েছিল যে ঝুঁকিটা সরবরাহকারীর, তাদের তিনটি বিষয় নিয়মিতভাবে অবাক করে।

প্রথমত, ক্ষতিগ্রস্ত তৃতীয় পক্ষের কাছে ব্যবহারকারীই দৃশ্যমান পক্ষ। একজন গ্রাহককে ক্রেডিট দিতে অস্বীকার করা হলে, একজন কর্মীকে স্ক্রিনিং টুলের মাধ্যমে প্রত্যাখ্যান করা হলে, বা একজন রোগীকে ভুল ট্রায়েজ দেওয়া হলে: তারা স্থাপনকারীর সাথে চুক্তিবদ্ধ হন, বা তাদের সাথে স্থাপনকারীই লেনদেন করে, এবং তারা স্থাপনকারীর বিরুদ্ধে মামলা করবে। স্থাপনকারী তার সরবরাহকারীর কাছ থেকে ক্ষতিপূরণ আদায় করতে পারবে কি না, তা একটি পৃথক প্রশ্ন যা চুক্তির উপর নির্ভর করে এবং এটি তার বিরুদ্ধে করা দাবিকে বিলম্বিত করে না।

দ্বিতীয়ত, সাধারণ তথ্য সুরক্ষা বিধিমালা অন্য সবকিছুর থেকে স্বাধীনভাবে প্রযোজ্য। যদি কোনো সিস্টেম ব্যক্তিগত তথ্য প্রক্রিয়াকরণ করে, তবে সাধারণত স্থাপনকারীই নিয়ন্ত্রক হন, যিনি এর আইনি ভিত্তি, স্বচ্ছতা, প্রভাব মূল্যায়ন এবং নিরাপত্তার জন্য দায়ী থাকেন। শুধুমাত্র স্বয়ংক্রিয় উপায়ে গৃহীত কোনো সিদ্ধান্ত, যা আইনি প্রভাব সৃষ্টি করে বা একইভাবে কোনো ব্যক্তিকে উল্লেখযোগ্যভাবে প্রভাবিত করে, তা আলাদাভাবে নিয়ন্ত্রিত হয় এবং সেই ব্যক্তিকে মানবিক হস্তক্ষেপ ও ফলাফলের বিরুদ্ধে আপত্তি জানানোর অধিকার প্রদান করে। সাধারণ তথ্য সুরক্ষা বিধিমালা (General Data Protection Regulation) সম্পর্কে আমাদের সংক্ষিপ্ত বিবরণে সেই ব্যবস্থাটি তুলে ধরা হয়েছে।

তৃতীয়ত, পরিবর্তন আপনার ভূমিকা বদলে দেয়। একজন ডেপ্লয়ার যখন কোনো সিস্টেমে নিজের নাম ব্যবহার করে, এর উদ্দেশ্য পরিবর্তন করে, বা এতে উল্লেখযোগ্য পরিবর্তন আনে, তখন সে এআই আইনের অধীনে একজন প্রোভাইডার হয়ে যায় এবং প্রোভাইডারের দায়িত্বগুলোও তার উপর বর্তায়। একটি সাধারণ মডেলকে কোনো নিয়ন্ত্রিত সিদ্ধান্তের জন্য স্ক্রিনিং টুলে পরিণত করা ঠিক সেই ধরনের পদক্ষেপ যা এই সীমা লঙ্ঘন করে। অন্যের মডেলের উপর ভিত্তি করে কাজ করা সংস্থাগুলোর উচিত, কোনো ঘটনার পরে নয়, বরং সিস্টেমটি চালু করার আগেই তারা এর কোন পক্ষে আছে তা নির্ধারণ করা।

প্রযোজকের পদ

উৎপাদকের দায়বদ্ধতা একটি ভিন্ন পথে চলে এবং এটি আরও কঠোর। দেওয়ানি আইনের ৬:১৮৫ এবং পরবর্তী ধারা অনুযায়ী পণ্যের দায়বদ্ধতা উৎপাদককে তার পণ্যের ত্রুটির কারণে সৃষ্ট ক্ষতির জন্য দায়ী করে, যেখানে ক্ষতিগ্রস্ত পক্ষকে দোষ প্রমাণ করতে হয় না। একটি পণ্য তখনই ত্রুটিপূর্ণ বলে গণ্য হয় যখন এটি সেই নিরাপত্তা প্রদান করতে ব্যর্থ হয় যা একজন ব্যক্তি তার উপস্থাপনা, এর থেকে যুক্তিসঙ্গতভাবে প্রত্যাশিত ব্যবহার এবং বাজারে থাকার সময়কাল বিবেচনা করে আশা করার অধিকারী। দাবিদারকে ক্ষতি, ত্রুটি এবং তাদের মধ্যে কার্যকারণ সম্পর্ক প্রমাণ করতে হবে, যা একটি কৃত্রিম বুদ্ধিমত্তার (AI) ক্ষেত্রে আসল লড়াইয়ের জায়গা।

এই ব্যবস্থার নির্দিষ্ট সময়সীমা রয়েছে। ক্ষতিগ্রস্ত পক্ষ যেদিন ক্ষতি, ত্রুটি এবং উৎপাদকের পরিচয় সম্পর্কে অবগত হন, বা অবগত হওয়া উচিত ছিল, সেই দিন থেকে তিন বছরের মধ্যে দাবি উত্থাপন করতে হবে এবং নির্দিষ্ট পণ্যটি প্রচলনে আসার দশ বছর পর এই অধিকারের মেয়াদ শেষ হয়ে যায়। এই ব্যবস্থার অধীনে দায় চুক্তির মাধ্যমে বাদ দেওয়া বা সীমিত করা যায় না এবং এটি একটি নিম্নসীমা সাপেক্ষে মৃত্যু, ব্যক্তিগত আঘাত এবং ব্যক্তিগতভাবে ব্যবহৃত অন্যান্য সম্পত্তির ক্ষতিকে অন্তর্ভুক্ত করে। উৎপাদকের আত্মপক্ষ সমর্থনের জন্য সীমিত কিছু উপায় রয়েছে, যার মধ্যে উন্নয়ন ঝুঁকি সংক্রান্ত আত্মপক্ষ সমর্থনও অন্তর্ভুক্ত, যা সেইসব ক্ষেত্রে প্রযোজ্য যেখানে প্রচলনের সময়কার বৈজ্ঞানিক ও প্রযুক্তিগত জ্ঞানের অবস্থা ত্রুটিটি প্রকাশ করতে পারত না।

যে সংস্কার সফটওয়্যারের অবস্থান পরিবর্তন করে

বর্তমান ডাচ আইন অনুযায়ী, পণ্য একটি স্থানান্তরযোগ্য বস্তু, এবং স্বতন্ত্র সফটওয়্যার এর অন্তর্ভুক্ত হবে কিনা তা নিয়ে বছরের পর বছর ধরে বিতর্ক চলে আসছে। সেই বিতর্কের অবসান হতে চলেছে। সংশোধিত পণ্য দায়বদ্ধতা নির্দেশিকা, নির্দেশিকা (ইইউ) ২০২৪/২৮৫৩, ৮ ডিসেম্বর ২০২৪ তারিখে কার্যকর হয়েছে এবং ৯ ডিসেম্বর ২০২৬-এর মধ্যে এটিকে জাতীয় আইনে রূপান্তরিত করতে হবে; এটি ঐ তারিখের পরে বাজারে আনা বা পরিষেবাতে চালু করা পণ্যগুলির ক্ষেত্রে প্রযোজ্য, তাই এর আগে প্রচলিত পণ্যগুলির ক্ষেত্রে দেওয়ানি আইনের বর্তমান বিধানগুলিই কার্যকর থাকবে। এআই সিস্টেমের দায়বদ্ধতার জন্য চারটি পরিবর্তন গুরুত্বপূর্ণ।

সফটওয়্যার, যার মধ্যে এআই সিস্টেম এবং ডিজিটাল ম্যানুফ্যাকচারিং ফাইল অন্তর্ভুক্ত, তা সুস্পষ্টভাবে একটি পণ্য। দায়বদ্ধ পক্ষের পরিধি প্রস্তুতকারকের বাইরেও বিস্তৃত হয়ে সেই পক্ষকে অন্তর্ভুক্ত করে যারা প্রস্তুতকারকের নিয়ন্ত্রণের বাইরে কোনো পণ্যে উল্লেখযোগ্য পরিবর্তন আনে, অনুমোদিত প্রতিনিধি, আমদানিকারক এবং, নির্দিষ্ট পরিস্থিতিতে, ফুলফিলমেন্ট পরিষেবা প্রদানকারী ও অনলাইন প্ল্যাটফর্ম। পেশাগতভাবে ব্যবহৃত নয় এমন ডেটার ধ্বংস বা বিকৃতি পর্যন্ত পুনরুদ্ধারযোগ্য ক্ষতির পরিধি প্রসারিত হয়, যা সফটওয়্যার ব্যর্থতার ক্ষেত্রে ক্ষতির একটি প্রকৃত বিভাগ। এবং বাজারে আনার পরে যা ঘটে তার কারণেও একটি পণ্য ত্রুটিপূর্ণ হতে পারে: একটি প্রয়োজনীয় সফটওয়্যার আপডেটে ত্রুটি, নিরাপত্তা আপডেট সরবরাহ করতে ব্যর্থতা, অথবা ক্রমাগত শেখার প্রভাব যেখানে উৎপাদক এর উপর নিয়ন্ত্রণ বজায় রাখে।

এই সংস্কারটি সরাসরি সাক্ষ্যপ্রমাণের সমস্যাটিকেও সমাধান করে। আদালত বাদীর অনুরোধে বিবাদীকে প্রাসঙ্গিক সাক্ষ্যপ্রমাণ প্রকাশের আদেশ দিতে পারে, এবং যদি বিবাদী তা না করে, তবে প্রমাণটি ত্রুটিপূর্ণ বলে ধরে নেওয়া হয়। ত্রুটিপূর্ণতা এবং কার্যকারণ সম্পর্কের খণ্ডনযোগ্য অনুমান তখনই প্রযোজ্য হয়, যখন বাদী প্রযুক্তিগত বা বৈজ্ঞানিক জটিলতার কারণে তা প্রমাণ করতে অতিরিক্ত অসুবিধার সম্মুখীন হন, তবে শর্ত থাকে যে বাদী সম্ভাবনাটিকে বিশ্বাসযোগ্য করে তুলতে পারেন। যে বাদী এমন একটি মডেলের সম্মুখীন হন যা কেউ পুরোপুরি ব্যাখ্যা করতে পারে না, তার জন্য একটি তর্কযোগ্য মামলা এবং একটি অসম্ভব মামলার মধ্যে এটাই হলো পার্থক্য।

চুক্তি, সঙ্গতি এবং বর্জন ধারার সীমাবদ্ধতা

ব্যবসায়িক প্রতিষ্ঠানগুলোর মধ্যে প্রথম বিরোধের ক্ষেত্রটি সাধারণত আইন নয়, বরং চুক্তিই হয়ে থাকে। একটি এআই সিস্টেমের সরবরাহকারী যা দিতে সম্মত হয়েছে, তা দিতে সে দায়বদ্ধ থাকে: সরবরাহকৃত সিস্টেমটি অবশ্যই চুক্তি অনুযায়ী হতে হবে এবং এতে সেই গুণাবলী থাকতে হবে যা ক্রেতা প্রত্যাশা করার অধিকারী ছিল। যেখানে একজন সরবরাহকারী নির্ভুলতার স্তর, প্রাপ্যতার স্তর বা এআই আইন মেনে চলার প্রতিশ্রুতি দিয়েছিল, সেখানে তা সরবরাহ করতে ব্যর্থ হওয়া চুক্তিভঙ্গ হিসেবে গণ্য হয় এবং যথাযথ খেলাপি নোটিশ দেওয়ার পর চুক্তি পালন, ক্ষতিপূরণ ও চুক্তি বাতিলের মতো সাধারণ প্রতিকারগুলো কার্যকর হয়।

সরবরাহকারীরা সীমাবদ্ধতা এবং বর্জন ধারার মাধ্যমে প্রতিক্রিয়া জানায়, এবং সেই ধারাগুলো সাধারণত বাণিজ্যিক পক্ষগুলোর মধ্যে কার্যকর হয়। এগুলো অসীম নয়। কোনো ধারা বাতিল করা যেতে পারে যেখানে যুক্তিসঙ্গততা এবং ন্যায্যতার মানদণ্ড অনুসারে সেটির উপর নির্ভর করা অগ্রহণযোগ্য হবে, যা সরবরাহকারীর পক্ষ থেকে ইচ্ছাকৃত বেপরোয়া আচরণ বা গুরুতর ত্রুটির ক্ষেত্রে আদালত গ্রহণ করে থাকে, এবং যেখানে ধারাটি সাধারণ শর্তে থাকে, সেখানে এটি ব্যর্থ হতে পারে যদি অন্য পক্ষকে সেগুলো নোট করার জন্য কখনও প্রকৃত সুযোগ না দেওয়া হয়। পণ্য দায়বদ্ধতা ব্যবস্থার অধীনে ক্ষতিগ্রস্ত পক্ষের বিরুদ্ধে দায়বদ্ধতা কোনোভাবেই চুক্তি দ্বারা এড়ানো যায় না। বাস্তবে, আলোচনাটি হয় সর্বোচ্চ সীমা, ডেটা লঙ্ঘন এবং মেধাস্বত্ব লঙ্ঘনের জন্য বিশেষ ছাড়, নিয়ন্ত্রক জরিমানার জন্য ক্ষতিপূরণ, এবং গ্রাহকের আত্মরক্ষার জন্য প্রয়োজনীয় নথি ও লগ সরবরাহ করার সরবরাহকারীর বাধ্যবাধকতা নিয়ে। ক্ষতিপূরণের দাবি সংক্রান্ত আমাদের পৃষ্ঠায় বর্ণনা করা হয়েছে কীভাবে সেই দাবিগুলো তৈরি করা হয়।

এআই আইন কী করে এবং কী করে না

এআই আইন একটি নিয়ন্ত্রক দলিল। এটি পরিষেবা প্রদানকারী এবং স্থাপনকারীদের বলে দেয় কী করতে হবে এবং তত্ত্বাবধায়কদের তা প্রয়োগ করার ক্ষমতা দেয়; এটি কোনো এআই সিস্টেম দ্বারা ক্ষতিগ্রস্ত ব্যক্তির জন্য ক্ষতিপূরণের অধিকার তৈরি করে না। প্রস্তাবিত এআই দায়বদ্ধতা নির্দেশিকা, যা দেওয়ানি দাবিগুলোকে সমন্বিত করত এবং সর্বক্ষেত্রে তথ্য প্রকাশ ও অনুমানের প্রচলন করত, তা প্রত্যাহার করা হয়েছে। যা অবশিষ্ট রয়েছে তা হলো উপরে বর্ণিত সংমিশ্রণ: জাতীয় টর্ট ও চুক্তি আইন, এবং তার সাথে সংস্কারকৃত পণ্য দায়বদ্ধতা ব্যবস্থা।

এর ফলে দায়বদ্ধতার ক্ষেত্রে এআই আইনটি অপ্রাসঙ্গিক হয়ে যায় না। এটি তিনটি উপায়ে গুরুত্বপূর্ণ। এটি যত্নের মান নির্ধারণ করে, যাতে নিয়ম না মানাটা অবহেলার প্রমাণ হিসেবে গণ্য হয়। এটি নথি তৈরি করে, কারণ প্রযুক্তিগত ডকুমেন্টেশন, ব্যবহারের নির্দেশাবলী, লগ এবং বাজার-পরবর্তী পর্যবেক্ষণ ফাইল—এই সবই আইনত বিদ্যমান এবং মামলা চলাকালীন এগুলো দাবি করা যেতে পারে। এবং এটি ভূমিকা বণ্টন করে, ফলে কে সরবরাহকারী এবং কে স্থাপনকারী—এই প্রশ্নটি, যা আগে বিতর্কের বিষয় ছিল, এখন তার একটি আইনি উত্তর রয়েছে। আমাদের আইটি আইন বিষয়ক কার্যক্রম এই শ্রেণিবিন্যাসের প্রশ্নগুলো বিবাদে পরিণত হওয়ার আগেই সেগুলোর সমাধান করে।

যেখানে ব্যবহারকারী এবং উৎপাদক মিলিত হয়

বেশিরভাগ বাস্তব ঘটনা শৃঙ্খলের এক প্রান্তের একটিমাত্র ব্যর্থতার কারণে ঘটে না। এগুলো ঘটে এমন একটি মডেলের কারণে, যা এমন ডেটার উপর প্রশিক্ষিত যা সেই জনগোষ্ঠীর প্রতিনিধিত্ব করে না যার উপর এটি প্রয়োগ করা হয়েছিল; এমন সরবরাহকারীর দ্বারা সংহত করা হয় যে সেই প্রেক্ষাপটে এটি পরীক্ষা করেনি; এমন একটি সংস্থার দ্বারা স্থাপন করা হয় যে এটি এমন উদ্দেশ্যে ব্যবহার করেছে যার নির্দেশাবলীতে উল্লেখ ছিল না; এবং এমন কর্মীদের দ্বারা পরিচালিত হয় যাদেরকে এর সীমাবদ্ধতা সম্পর্কে কখনও বলা হয়নি। ডাচ আইনের এতে কোনো অসুবিধা নেই: একাধিক পক্ষ একই ক্ষতির জন্য দায়ী হতে পারে, প্রত্যেকেই ক্ষতিগ্রস্ত পক্ষের কাছে সম্পূর্ণ ক্ষতির জন্য দায়ী থাকে, এবং তারা পরবর্তীতে নিজ নিজ অবদান অনুযায়ী নিজেদের মধ্যে অভ্যন্তরীণভাবে ক্ষতির ভাগাভাগি নিষ্পত্তি করে নেয়।

নিচের সারণিতে সাধারণত কার ওপর এবং কীসের ভিত্তিতে দায়িত্ব বর্তায় তা তুলে ধরা হয়েছে।

ডাচ শিশুযত্ন সুবিধা কেলেঙ্কারিটি হলো সেই প্রসঙ্গ যা নিয়ে নেদারল্যান্ডসের প্রতিটি আলোচনা ফিরে আসে, এবং এটি আইনের শাসনের চেয়ে বরং একটি নির্দিষ্ট ধরনকেই তুলে ধরে: একটি অস্বচ্ছ ঝুঁকি শ্রেণিবিন্যাস ব্যবস্থা, প্রকৃত ব্যক্তিগত মূল্যায়ন ছাড়াই এর ফলাফলের ভিত্তিতে গৃহীত সিদ্ধান্ত, এবং এর সম্পূর্ণ পরিণতি ভোগকারী মানুষদের ওপর এসে পড়া। এর আইনি পরিণতি ফৌজদারি না হয়ে বরং প্রশাসনিক ও রাজনৈতিক ছিল, এবং ফৌজদারি দায়বদ্ধতা সম্পর্কে এটি কী দেখায় এবং কী দেখায় না, তা আমরা আমাদের ‘এআই ও ফৌজদারি আইন’ বিষয়ক প্রবন্ধে আলোচনা করেছি ।

প্রমাণের সমস্যা, এবং এটি যেভাবে পরিবর্তিত হচ্ছে

যিনিই দাবি উত্থাপন করুন না কেন, তাকে তা প্রমাণ করতে হবে, এবং কৃত্রিম বুদ্ধিমত্তার (AI) ক্ষেত্রে প্রমাণ করাই হলো কঠিন কাজ। দাবিদারকে দেখাতে হয় যে সিস্টেমটি কী করেছিল, কেন তা ভুল ছিল, এবং সেই ভুলের কারণেই যে ক্ষতি হয়েছে। এটি করার জন্য প্রয়োজনীয় তথ্য বিবাদীর কাছে থাকে, এবং একটি জটিল মডেলে এমনকি অভ্যন্তরীণভাবেও তা পুনর্গঠন করা বেশ কঠিন হতে পারে।

তিনটি উন্নয়ন সেই ভারসাম্যকে বদলে দিচ্ছে। উচ্চ-ঝুঁকিপূর্ণ সিস্টেমের জন্য লগিং এখন একটি আইনগত আবশ্যকতা, তাই যে রেকর্ডটি আগে ঐচ্ছিক ছিল, তা এখন অবশ্যই থাকতে হবে। সংস্কারকৃত ব্যবস্থার অধীনে পণ্য দায়বদ্ধতার দাবিতে প্রমাণ প্রকাশের সুযোগ তৈরি হয়েছে, এবং বিবাদী তা পালনে ব্যর্থ হলে পণ্যটি ত্রুটিপূর্ণ বলে ধরে নেওয়া হয়। এবং ডাচ দেওয়ানি কার্যবিধি ইতিমধ্যেই কোনো পক্ষকে নির্দিষ্ট চিহ্নিত নথি উপস্থাপনের দাবি করার অনুমতি দেয়, যেগুলোতে তার আইনসম্মত স্বার্থ রয়েছে; এই ব্যবস্থাটি নিয়মিতভাবে পরীক্ষার প্রতিবেদন, ঘটনার লগ এবং অভ্যন্তরীণ ঝুঁকি মূল্যায়নপত্র সংগ্রহের জন্য ব্যবহৃত হয়।

একজন বিবাদীর জন্য বাস্তব সিদ্ধান্তটি অস্বস্তিকর হলেও স্পষ্ট: আপনি যে নথি সংরক্ষণ করেন, সেই নথিই আপনার বিরুদ্ধে পাঠ করা হবে, এবং যে নথি আপনি সংরক্ষণ করতে ব্যর্থ হয়েছেন, তাও আপনার বিরুদ্ধে ব্যবহার করা হবে। পরীক্ষা, জ্ঞাত সীমাবদ্ধতা, ঘটনা এবং সেগুলোর ব্যবস্থাপনার সম্পূর্ণ, তারিখযুক্ত ও সৎ রেকর্ডই হলো সবচেয়ে শক্তিশালী প্রতিরক্ষা, কারণ এগুলো প্রমাণ করে যে প্রতিষ্ঠানটি ভাগ্যের উপর ভরসা না করে বিচক্ষণতার পরিচয় দিয়েছে। যেখানে ঘটনাটির একটি ফৌজদারি দিকও থাকে, যেমন সিস্টেমে অননুমোদিত প্রবেশ বা ডেটার কারসাজি, সেখানে দেওয়ানি দাবির পাশাপাশি নেদারল্যান্ডসের কম্পিউটার ও সাইবার অপরাধের ফৌজদারি কাঠামোও প্রযোজ্য হয় এবং একটি ফৌজদারি তদন্তে ঠিক একই উপাদান জব্দ করা হয়।

ভৌত জগতে স্বায়ত্তশাসিত ব্যবস্থা

যেখানে একটি এআই সিস্টেম কোনো যানবাহন চালায়, ড্রোন ওড়ায় বা রোবট আর্ম নাড়ায়, সেখানে দায়বদ্ধতার একটি অতিরিক্ত স্তর প্রযোজ্য হয়, এবং এটি সাধারণত এখন পর্যন্ত আলোচিত যেকোনো কিছুর চেয়ে কঠোর। শারীরিক ক্ষতির ক্ষেত্রে ঝুঁকির দায়বদ্ধতা তৈরি হয়, যেখানে কেউ অসতর্ক ছিল কি না, তা বিবেচনা করা হয় না।

মোটরযানের ক্ষেত্রে, ১৯৯৪ সালের সড়ক ট্রাফিক আইনের ১৮৫ নং ধারা অনুযায়ী, কোনো মোটরযানের মালিক বা তত্ত্বাবধায়ক পথচারী ও সাইকেল আরোহীদের কোনো ক্ষতির জন্য দায়ী থাকবেন, যদি না কোনো দৈবদুর্বিপাক ঘটে থাকে—যা পূরণ করা একটি অত্যন্ত কঠিন মানদণ্ড। এই নিয়মটি এই বিষয়ে উদাসীন যে গাড়িটি কোনো মানুষ চালাচ্ছিল নাকি কোনো চালক সহায়ক ব্যবস্থা: তত্ত্বাবধায়কই প্রথমে দায়বদ্ধ থাকেন, এবং সফটওয়্যার প্রস্তুতকারকের বিরুদ্ধে যেকোনো প্রতিকার এর পরেই আসে। সর্বসাধারণের রাস্তায় সত্যিকারের স্ব-চালিত যানবাহন পরীক্ষা করার জন্য নেদারল্যান্ডের বিশেষ পরীক্ষামূলক আইনের অধীনে একটি অনুমতিপত্রের প্রয়োজন হয়, এবং সেই অনুমতিপত্রের সাথে সংযুক্ত শর্তাবলী, যার মধ্যে একজন তত্ত্বাবধায়কের উপস্থিতি ও ভূমিকা অন্তর্ভুক্ত, তা যত্নের মানদণ্ডের অংশ হয়ে ওঠে।

চালকবিহীন বিমান ইউরোপীয় ড্রোন বিধিমালা দ্বারা পরিচালিত হয়, এবং নেদারল্যান্ডসে অপারেটরের নিবন্ধন ও বিভাগ-নির্ভর প্রয়োজনীয়তাগুলো রাইক্সইনস্পেকশন ডিজিটাল ইনফ্রাস্ট্রাকচার দ্বারা পরিচালিত হয়। কোনো অপারেটর যদি তার বিভাগের বাইরে বা প্রয়োজনীয় যোগ্যতা ছাড়া বিমান চালায়, তবে সে কেবল বিমান চলাচল বিধিই লঙ্ঘন করে না; সে এমন একটি সতর্ক আচরণেরও বাইরে চলে যায়, যা অটোপাইলট সম্পর্কিত প্রযুক্তিগত বিতর্ক শুরু হওয়ার আগেই অবহেলার প্রশ্নটির নিষ্পত্তি করে দেয়।

এই ব্যবস্থাগুলোর পাশাপাশি ত্রুটিপূর্ণ বস্তু সংক্রান্ত সাধারণ নিয়মটিও বিদ্যমান। কোনো চলমান বস্তুর মালিক, যদি সেটি তার জন্য নির্ধারিত মান পূরণ না করে এবং এর ফলে কোনো বিশেষ বিপদ সৃষ্টি করে, তবে সেই বিপদের কারণে সৃষ্ট ক্ষতির জন্য তিনি দায়ী থাকবেন। এই নিয়মটি ভৌত ​​যন্ত্রটির ক্ষেত্রেও প্রযোজ্য, এমনকি যদি অন্তর্নিহিত ত্রুটিটি তার সফটওয়্যারে থাকে। আর একারণেই একটি শিল্প রোবট বা স্বয়ংক্রিয় গুদাম ব্যবস্থার মালিক কেবল বিক্রেতার দিকে আঙুল তুলতে পারেন না। যেখানে পণ্য দায়বদ্ধতার ব্যবস্থাটি প্রযোজ্য হয়, সেখানে এই দুটি ব্যবস্থা পরস্পরের সাথে মিথস্ক্রিয়া করে, এবং ক্ষতিগ্রস্ত পক্ষ সাধারণত যে পথটি প্রমাণ করা সবচেয়ে সহজ, সেটিই অনুসরণ করে।

স্বয়ংক্রিয় কার্যকারিতা সম্পন্ন যন্ত্রপাতি পরিচালনাকারী সংস্থাগুলোর জন্য এর বাস্তব ফল হলো এই যে, বীমা এবং চুক্তি ত্রুটি-ভিত্তিক বিশ্লেষণের পরিবর্তে কঠোর দায়বদ্ধতার নীতির ওপর ভিত্তি করে সাজাতে হবে। সরবরাহকারীর বিরুদ্ধে প্রতিকারের ব্যবস্থা থাকাটা লাভজনক, কিন্তু এর ফলে দাবিটি প্রথমে আপনার কাছে পৌঁছানো বন্ধ হয় না।

উভয় দিকে এক্সপোজার কমানো

যেসব পদক্ষেপ এআই সিস্টেমের দায়বদ্ধতা হ্রাস করে, সেগুলোই সিস্টেমগুলোকে সঠিকভাবে কাজ করতে সাহায্য করে, আর একারণেই নিয়ন্ত্রক সময়সূচী নির্বিশেষে সেগুলো গ্রহণ করা যুক্তিযুক্ত।

একটি সিস্টেম স্থাপনকারী সংস্থার জন্য, প্রথমে একটি তালিকা তৈরি করুন: কোন সিস্টেমগুলো ব্যবহৃত হচ্ছে, কারা সেগুলো সরবরাহ করেছে, সেগুলো কী সিদ্ধান্ত নেয় বা প্রভাবিত করে, এবং কারা সেগুলো পরিচালনা করে। প্রত্যেকটির জন্য আপনার ভূমিকা নির্ধারণ করুন, কারণ সরবরাহকারী এবং স্থাপনকারীর দায়িত্ব ভিন্ন হয়। তারপর এর উদ্দিষ্ট উদ্দেশ্য লিখে রাখুন এবং তার মধ্যেই থাকুন; পরিহারযোগ্য দায়বদ্ধতার সবচেয়ে সাধারণ কারণ হলো এমন কোনো কাজে টুল ব্যবহার করা যার জন্য সেটির বৈধতা যাচাই করা হয়নি। যারা সিস্টেমটি পরিচালনা করেন, তাদের এটিকে অগ্রাহ্য করার প্রকৃত ক্ষমতা দিন এবং তাদের কাজের পরিমাণের চেয়ে বিচক্ষণতার উপর মূল্যায়ন করুন। লগগুলো রাখুন এবং কোনো বিবাদে কাজে লাগার মতো যথেষ্ট সময় ধরে সেগুলো সংরক্ষণ করুন। অল্পের জন্য ঘটে যাওয়া দুর্ঘটনাগুলোসহ সমস্ত ঘটনা রেকর্ড করুন এবং সেগুলোর ব্যাপারে কী করা হয়েছিল তাও নথিভুক্ত করুন।

একজন উৎপাদক বা সরবরাহকারীর জন্য, পণ্যের জীবনচক্র জুড়ে সমতুল্য তালিকাটি নিম্নরূপ: নথিভুক্ত ঝুঁকি ব্যবস্থাপনা, নিয়ন্ত্রক সংস্থার কাছে ব্যাখ্যাযোগ্য ডেটা গভর্নেন্স, যে জনগোষ্ঠীর উপর সিস্টেমটি প্রকৃতপক্ষে ব্যবহৃত হবে তাদের উপর পরীক্ষা, সীমাবদ্ধতা এবং ত্রুটির হার সম্পর্কে আশ্বস্ত করার পরিবর্তে সৎ ব্যবহারের নির্দেশাবলী, গ্রাহকদের সমস্যা জানানোর জন্য একটি মাধ্যম, এবং একটি আপডেট নীতি যা বলে দেয় নিরাপত্তা প্যাচের জন্য কে এবং কত সময়ের জন্য দায়ী। সংস্কারকৃত পণ্য দায়বদ্ধতা ব্যবস্থাটি শেষোক্ত বিষয়টিকে আগের চেয়ে আরও স্পষ্ট করে তুলেছে: যে আপডেটগুলো সরবরাহ করার প্রতিশ্রুতি আপনি দিয়েছিলেন, তা সরবরাহ করতে ব্যর্থ হলেই পণ্যটি ত্রুটিপূর্ণ হয়ে যেতে পারে।

উভয় পক্ষেরই চুক্তিটিকে একটি আনুষ্ঠানিকতা হিসেবে না দেখে ঝুঁকি বণ্টনের একটি প্রক্রিয়া হিসেবে বিবেচনা করা উচিত। গুরুত্বপূর্ণ ধারাগুলো হলো: উদ্দিষ্ট উদ্দেশ্যের বর্ণনা, সম্মতি ও কার্যসম্পাদন সংক্রান্ত নিশ্চয়তা, নথিপত্র ও লগ হস্তান্তরের বাধ্যবাধকতা, উভয় দিকে ঘটনা অবহিত করার দায়িত্ব, দায়বদ্ধতার সর্বোচ্চ সীমা এবং এর ব্যতিক্রমসমূহ, তৃতীয় পক্ষের দাবি ও নিয়ন্ত্রক সংস্থার জরিমানার জন্য ক্ষতিপূরণ, এবং সম্পর্ক শেষ হয়ে গেলে মডেল ও ডেটার কী হবে তা নির্ধারণকারী প্রস্থানের ব্যবস্থা। সিস্টেম বাস্তবে কী সিদ্ধান্ত নেয় তার কোনো উল্লেখ না করে, কেবল তাত্ত্বিকভাবে আলোচনা করে যে সর্বোচ্চ সীমা নির্ধারণ করা হয়, তা কাউকেই সুরক্ষা দেয় না।

অবশেষে, তাৎক্ষণিক ঝুঁকিটি দেওয়ানি হলেও ফৌজদারি ঝুঁকির বিষয়টি মাথায় রাখুন। কৃত্রিম বুদ্ধিমত্তার ব্যর্থতার জন্য কোনো কোম্পানির বিরুদ্ধে মামলা করা এখনও অস্বাভাবিক, কিন্তু এর উপাদানগুলো সাধারণ: একটি কর্তব্য, তার লঙ্ঘন, একটি পূর্বানুমানযোগ্য ক্ষতি এবং এমন একটি সংস্থা যা ঝুঁকিটি গ্রহণ করেছিল বলে দেখানো যায়। যেখানে একটি সিস্টেম সুস্পষ্টভাবে বেআইনি কোনো কাজে ব্যবহৃত হয়, অথবা যেখানে একটি কোম্পানি এমন একটি সিস্টেম পরিচালনা করতে থাকে যা ক্ষতি করছে বলে তারা জানে, সেখানে ফৌজদারি পথ খোলা থাকে, এবং এই বিশ্লেষণটি ডাচ ফৌজদারি আইন সম্পর্কিত আমাদের প্রবন্ধে এবং অ্যালগরিদম ও ফৌজদারি দায়বদ্ধতা বিষয়ক সহযোগী লেখায় সম্পূর্ণরূপে তুলে ধরা হয়েছে।

সচরাচর জিজ্ঞাস্য

Law & More চুক্তিতে ঝুঁকির বণ্টন, এআই আইনের অধীনে শ্রেণিবিন্যাস ও দায়িত্ব, এবং কোনো সিস্টেমের কারণে ক্ষতি হলে মামলা করা বা তার বিরুদ্ধে আত্মপক্ষ সমর্থন করার বিষয়ে আমরা এআই সিস্টেম নির্মাতা ও ব্যবহারকারী উভয় সংস্থাকেই পরামর্শ প্রদান করি। আপনার পরিস্থিতি সম্পর্কে আমাদের জানান। আমরা এক কার্যদিবসের মধ্যে আপনার বিকল্পগুলো সম্পর্কে আপনাকে অবহিত করব।