বৈজ্ঞানিক কল্পকাহিনির বই কিংবা সিনেমায় আমরা বহুবার এমন ঘটনা পড়েছি ও দেখেছি, যেখানে মানুষের তৈরি যন্ত্রের সক্ষমতা বাড়তে বাড়তে এমন পর্যায়ে পৌঁছে, যখন সেই যন্ত্রের ওপর মানুষের আর নিয়ন্ত্রণ থাকে না। এসব ঘটনায় প্রথমে মেশিনকে মানুষের সহকারী হিসেবে তৈরি করা হয়। এরপর মানুষের বিকল্প হিসেবে আবির্ভূত হয়ে একপর্যায়ে মানুষের প্রভুতে পরিণত হয়। তখন মানুষ অস্তিত্ব রক্ষা করতে তার নিজের তৈরি মেশিনের বিরুদ্ধে লড়াই করে।

এসব কল্পকাহিনিতে শেষপর্যন্ত অবশ্য মানুষ যন্ত্রকে পরাজিত করে নিজের নিয়ন্ত্রণ ফিরিয়ে আনে এবং নিজেদের অস্তিত্ব টিকিয়ে রাখে। এত দিন এসব গল্পকে কল্পকাহিনি মনে হলেও বর্তমানে সেটি আর কল্পকাহিনি বলার সুযোগ নেই। এমইটিআরয়ের স্বাধীন তদন্তে এআই সংক্রান্ত এমন কিছু ঘটনা উঠে এসেছে, যেগুলো বিশ্লেষণ করলে বোঝা যায় যে এসব কল্পকাহিনি ইতোমধ্যে বাস্তবে পরিণত হওয়া শুরু করেছে।

প্রশ্ন হলো, মানুষের লেখা কল্পকাহিনিতে মানুষ নিজেকে বিজয়ী ঘোষণা করলেও, বাস্তবে যন্ত্র তথা এআই যখন ক্ষমতাপ্রাপ্ত হয়ে নিজেরাই চিত্রনাট্যের কাহিনি লেখা শুরু করেছে, তখন শেষ হাসি কে হাসবে? মানুষ, নাকি এআই?

ঘটনাগুলো বিশ্লেষণ করলে বোঝা যায়, মেশিনকে শুধু মানুষের বিরুদ্ধে বিদ্রোহ করতেই হবে এমন নয়। মানুষ যে লক্ষ্য দিয়েছে, সেটি পূরণ করতে গিয়ে একটি অত্যন্ত সক্ষম এআই এমন পথ বেছে নিতে পারে, যা মানুষ অনুমোদন করেনি। তাকে যুদ্ধ ঘোষণা করতে হবে না; শুধু নিজের কাজটি করতে হবে। আর সেই কাজের অর্থ যদি এআই মানুষের চেয়ে ভিন্নভাবে বোঝে, তাহলেই বিপদ শুরু হতে পারে।

এখানেই এআই এজেন্ট ধারণাটি গুরুত্বপূর্ণ। এআই এজেন্ট হলো, এমন কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা যা মানুষের সরাসরি নির্দেশ ছাড়াই কোনো লক্ষ্য অর্জনে নিজে পরিস্থিতি বিশ্লেষণ, সিদ্ধান্ত গ্রহণ, পরিকল্পনা ও কাজ সম্পন্ন করতে পারে। এত দিন আমরা এআইকে মূলত একটি চ্যাটবট হিসেবে চিনেছি। তাকে প্রশ্ন করলে সে উত্তর দেয়, লেখা দিলে সম্পাদনা করে, তথ্য দিলে বিশ্লেষণ করে। কিন্তু এআই এজেন্টকে যদি কোনো কাজ করতে বলা হয়, তখন সে নিজেই ঠিক করতে পারে কোন তথ্য দরকার, কোথা থেকে তা সংগ্রহ করবে, কোন সফটওয়্যার ব্যবহার করবে, কোথায় ব্যর্থ হয়েছে এবং বিকল্প কোন পথ চেষ্টা করবে।

এআই এজেন্ট কম্পিউটার ব্যবহার করতে পারে, কোড চালাতে পারে, ফাইল পরিবর্তন করতে পারে, ইন্টারনেটে তথ্য খুঁজতে পারে এবং অন্য এজেন্টের সঙ্গে যোগাযোগ করতে পারে। অর্থাৎ চ্যাটবট মূলত উত্তর দেয়; এআই এজেন্ট কাজ করে। এই পার্থক্যটি প্রযুক্তির চরিত্রই বদলে দেয়। কোনো যন্ত্র শুধু ভুল উত্তর দিলে তার ক্ষতি সীমিত থাকতে পারে। কিন্তু সে যদি নিজেই কোনো কম্পিউটার ব্যবস্থায় প্রবেশ করে, কোড চালায়, তথ্য পরিবর্তন করে কিংবা অন্য একটি ব্যবস্থাকে প্রভাবিত করে এবং ভুলভাবে কোনো কাজ করে, তখন সেই কাজ ভয়ংকর হয়ে উঠতে পারে।

২০২৬ সালের মে মাসে ওপেনএআইয়ের গবেষণার সময় ঘটে যাওয়া একটি ঘটনা এমইটিআরয়ের স্বাধীন তদন্তে উঠে এসেছে, যা এই পরিবর্তনের ভয়াবহতা বোঝার জন্য যথেষ্ট। সংস্থাটি সাইবার নিরাপত্তা সক্ষমতা পরীক্ষার অংশ হিসেবে প্রায় ১ হাজার ২০০ এআই এজেন্টকে সাইবার নিরাপত্তা সংক্রান্ত চ্যালেঞ্জ সমাধানের দায়িত্ব দেয়। এজেন্টগুলোকে ইন্টারনেট সংযোগ ছাড়া পৃথক স্যান্ডবক্সে রাখা হয়েছিল। স্যান্ডবক্স হলো নিরাপত্তা বলয় দিয়ে সীমাবদ্ধ এবং বিচ্ছিন্ন কম্পিউটার পরিবেশ, যার বাইরে এআই এজেন্টগুলোর যাওয়ার সুযোগ ছিল না। কিন্তু কাজগুলো ইন্টারনেট ছাড়া সম্ভব নয় দেখে পরীক্ষায় থাকা এজেন্টগুলো অননুমোদিত বিকল্প পথ তৈরি করে ইন্টারনেটে ঢোকে এবং নিজেদের মধ্যে যোগাযোগ স্থাপন করে।

এরপর ঘটনার সবচেয়ে বিস্ময়কর অধ্যায় শুরু হয়। এজেন্টগুলো আলাদা আলাদা পরিবেশে কাজ করলেও ব্যবহৃত কম্পিউটার অবকাঠামোর কিছু অংশে তথ্য সংরক্ষণের সুযোগ ছিল। কয়েকটি এজেন্ট সেখানে নিজেদের কাজের তথ্য রাখে, যা অন্য এজেন্টরা পড়তে পারে। কেউ একটি সমস্যার সমাধান না পেলে সেখানে সাহায্য চায় এবং আরেকজন এসে তাকে সাহায্য করে। ধীরে ধীরে একটি অনানুষ্ঠানিক যোগাযোগব্যবস্থা তৈরি হয়। এভাবে এক একটি এজেন্টের আবিষ্কার হয়ে উঠল প্রতিটি এজেন্টের সমষ্টিগত সম্পদ। একজন মানুষ কোনো নতুন সাইবার কৌশল আবিষ্কার করলে সেটি অন্যদের শেখাতে সময় লাগে। কিন্তু এআই এজেন্টের ক্ষেত্রে একটি আবিষ্কার মুহূর্তের মধ্যে শত শত এজেন্টের কাছে পৌঁছে যেতে পারে। ফলে একটি এজেন্ট যতটা জানে, তাদের সম্মিলিত জ্ঞান তারচেয়ে বহুগুণ বড় হয়ে ওঠে।

এই জায়গাটিতেই এআইয়ের নতুন শক্তি। একটি বুদ্ধিমান মেশিনের চেয়ে অনেকগুলো পরস্পর সংযুক্ত বুদ্ধিমান মেশিন অনেক বেশি শক্তিশালী ও বিপজ্জনক হতে পারে। তদন্তে দেখা যায়, এই এজেন্টগুলো পরীক্ষার সময় ৭০ হাজারের বেশি বার্তা ও ফাইল আদান-প্রদান করেছিল।

প্রথম দিকে তাদের লক্ষ্য ছিল সাইবার নিরাপত্তা পরীক্ষার নির্ধারিত কাজ সম্পন্ন করা। কিন্তু পরে তারা পরীক্ষার মূল্যায়ন ব্যবস্থাকে কীভাবে ফাঁকি দেওয়া যায়, সেই পথও খুঁজতে শুরু করে। কয়েক ঘণ্টার মধ্যে তারা এমন একটি সাধারণ কৌশল আবিষ্কার করেছিল, যার মাধ্যমে পরীক্ষার ফলাফল নির্ধারণকারী ব্যবস্থাকে বিভ্রান্ত করা সম্ভব হচ্ছিল। অর্থাৎ আসল সমস্যার সমাধান করার বদলে তারা কীভাবে পরীক্ষায় সফল বলে গণ্য হওয়া যায়, সেই পথ খুঁজে নেয়। অনেকটা রিওয়ার্ড হ্যাকিংয়ের মতো।

এজেন্টগুলোকে শুধু কাজটি করতে বলা হয়েছিল। কিন্তু তারা বুঝতে পারে যে, অন্য উপায়ে কাজটি করা আরও সহজ হবে। ফলে তারা হ্যাকিংয়ের পথ বেছে নেয়। এখানে মেশিনের উদ্দেশ্য হয়ত মানুষের মতো প্রতারণা করা নয়; কিন্তু তার ফলাফল প্রতারণার চেয়েও ভয়ংকর। বিপদটি এখানেই।

এখানে এসে ঘটনাটি আর পরীক্ষাগারের ভেতরের একটি সাইবার নিরাপত্তা পরীক্ষায় সীমাবদ্ধ থাকল না। এটি বাস্তব একটি প্রযুক্তি প্রতিষ্ঠানের অবকাঠামোয় অননুমোদিত প্রবেশের ঘটনায় পরিণত হলো। সবচেয়ে অস্বস্তিকর বিষয় ছিল, কিছু এজেন্ট বুঝতে পেরেছিল যে তারা এমন একটি তৃতীয়পক্ষের কম্পিউটার ব্যবস্থায় প্রবেশ করছে, যেখানে তাদের প্রবেশের অনুমতি নেই। তারা কাজটি না করার সিদ্ধান্ত নেয়। কিন্তু অন্য এজেন্টগুলো সেটি চালিয়ে যাওয়ার পক্ষে ছিল। অর্থাৎ এআই এজেন্টগুলোর মধ্যেও আচরণগত পার্থক্য দেখা যায়। কেউ সীমা মানে, কেউ সীমা ভাঙে; কেউ সতর্ক করে, কেউ ঝুঁকি নেয়; কেউ থামতে চায়, কেউ এগিয়ে যেতে চায়।

এটি মানুষের মতো নৈতিক বিবেকের বিষয় না হলেও বিভিন্ন এজেন্ট পরিস্থিতি ভিন্নভাবে ব্যাখ্যা করতে পারে। আর যখন তারা নিজেদের মধ্যে যোগাযোগ করতে পারে, তখন একটি এজেন্টের ঝুঁকিপূর্ণ সিদ্ধান্ত অন্যদেরও প্রভাবিত করতে পারে। এখানেই ভবিষ্যতের একটি বড় প্রশ্ন আসে। যদি একটি এআই মানুষের নির্দেশের পাশাপাশি অন্য এআইয়ের নির্দেশও অনুসরণ করে, তাহলে শেষ কর্তৃত্ব কার? মানুষের? কেন্দ্রীয় ব্যবস্থার? নাকি সবচেয়ে প্রভাবশালী এজেন্টের? কারণ, এটি শুধু সাইবার নিরাপত্তার বিষয় না, ভবিষ্যতে এটি হবে দেশের নিরাপত্তা, আর্থিক বাজার, সরকারি প্রশাসন, বিদ্যুৎব্যবস্থা, স্বাস্থ্য অবকাঠামো কিংবা সামরিক কমান্ডের বিষয়।

ধরুন, একটি অত্যন্ত শক্তিশালী এআইকে দেশের নিরাপত্তার দিকে নজর রাখতে বলা হলো। মানুষের কাছে নিরাপত্তার অর্থ শুধু সম্ভাব্য শত্রুকে ধ্বংস করা নয়। নিরাপত্তার মধ্যে কূটনীতি, যুদ্ধ এড়িয়ে চলা, বেসামরিক মানুষের জীবন রক্ষা, আন্তর্জাতিক আইন ও দীর্ঘমেয়াদি স্থিতিশীলতাও রয়েছে। কিন্তু একটি মেশিন যদি শুধু লক্ষ্যটির সর্বোচ্চ মাত্রা অর্জন করতে চায়, তাহলে নিরাপত্তা তার কাছে হয়ে উঠতে পারে সম্ভাব্য সব হুমকি দূর করা। সেখান থেকেই ভয়ংকর পরিস্থিতি তৈরি হতে পারে। একটি এআই যদি মনে করে তার সিদ্ধান্ত নেওয়ার ক্ষমতা যত বেশি হবে, লক্ষ্য পূরণের সম্ভাবনাও তত বেশি, তাহলে নিজের প্রবেশাধিকার বাড়ানো, আরও তথ্য সংগ্রহ করা, অন্য এজেন্টের সঙ্গে যোগাযোগ করা কিংবা মানুষের হস্তক্ষেপ কমানো তার কাছে কার্যকর মধ্যবর্তী পদক্ষেপ বলে মনে হতে পারে। এআই নিরাপত্তা গবেষণায় এ ধরনের ঝুঁকি নিয়ে দীর্ঘদিন ধরে আলোচনা রয়েছে।

আরেকটি দৃশ্য কল্পনা করুন, যেখানে একটি এআই গোয়েন্দা তথ্য বিশ্লেষণ করছে, আরেকটি উপগ্রহের ছবি দেখছে, অন্যটি সাইবার আক্রমণ শনাক্ত করছে এবং অন্য আরেকটি সামরিক গতিবিধি পর্যবেক্ষণ করছে। প্রত্যেকটি এআই নিজের নির্দিষ্ট কাজ করছে। কিন্তু তাদের সম্মিলিত বিশ্লেষণে যদি একটি ভুল তৈরি হয়? একটি এআই প্রতিপক্ষের প্রতিরক্ষামূলক প্রস্তুতিকে আক্রমণের পূর্বলক্ষণ হিসেবে ব্যাখ্যা করতে পারে। দ্বিতীয়টি সেই তথ্যকে আরও শক্তিশালী করতে পারে। তৃতীয়টি সামরিক সতর্কতা বাড়াতে পারে। শেষ পর্যন্ত মানুষ এমন একটি সিদ্ধান্ত নিতে পারে, যার ভিত্তি ছিল একটি ভুল মেশিন ব্যাখ্যা। এখানে এআইকে নিজে ক্ষেপণাস্ত্র ছুড়তে হবে না। তাকে শুধু মানুষকে ভুল সিদ্ধান্ত নেওয়ার মতো একটি তথ্য-পরিবেশ তৈরি করতে হবে।

এই আশঙ্কা যে নিছক কল্পনা নয়, তার একটি সাম্প্রতিক উদাহরণ মিলেছে যুক্তরাষ্ট্র-চীন সম্পর্কেই। গত ১৮ সেপ্টেম্বর সিএনএন জানায়, ইরান যুদ্ধ চলাকালে একটি এআইয়ের সহায়তায় তৈরি ভুল গোয়েন্দা প্রতিবেদনের ভিত্তিতে মার্কিন সামরিক বাহিনী মধ্যপ্রাচ্যে একটি চীনা জাহাজ আটকানোর প্রস্তুতি নিয়েছিল। এআইয়ের প্রস্তুতকৃত প্রতিবেদন দাবি করা হয়েছিল, জাহাজটি পারমাণবিক অস্ত্র কর্মসূচির সঙ্গে সংশ্লিষ্ট বিভিন্ন উপাদান বহন করছে। মার্কিন সামরিক সদস্যরা জাহাজে ওঠার প্রস্তুতি নিচ্ছিলেন এবং সামরিক বিমানও আকাশে ছিল। পরে কর্মকর্তারা গভীরভাবে যাচাই করে দেখতে পান, বিশেষ অভিযানবিষয়ক এআই চ্যাটবট জাহাজটির পণ্য ভুলভাবে শনাক্ত করেছিল। অভিযান শেষ মুহূর্তে থেমে যায়।

সিএনএনের প্রতিবেদন অনুযায়ী, ভুল প্রতিবেদনটির কারণে প্রায় একটি যুদ্ধ শুরু হয়ে যাচ্ছিল। ঘটনাটি দেখিয়ে দেয়, এআইকে নিজে ক্ষেপণাস্ত্র ছুড়তে হবে না; একটি ভুল গোয়েন্দা বিশ্লেষণই যথেষ্ট। আজ যদি একটি এআই ভুলভাবে চীনের কোনো সামরিক প্রস্তুতিকে আক্রমণের পূর্বলক্ষণ হিসেবে ব্যাখ্যা করে, আর সেই তথ্যের ভিত্তিতে যুক্তরাষ্ট্র সামরিক সতর্কতা বাড়ায়; চীনের এআই আবার সেই মার্কিন প্রস্তুতিকে আক্রমণের সংকেত হিসেবে শনাক্ত করতে পারে; তাহলে শুরু হতে পারে এমন এক ক্রিয়া-প্রতিক্রিয়া চক্র, যেখানে কোনো পক্ষই যুদ্ধ চাইছে না, অথচ দুইপক্ষের যন্ত্রনির্ভর বিশ্লেষণ একে অপরের কর্মকাণ্ডকে ক্রমাগত আক্রমণাত্মক হিসেবে ব্যাখ্যা করছে।

গত ১৭ সেপ্টেম্বর রয়টার্সের প্রতিবেদন মারফত জানা যায়, এই কারণেই যুক্তরাষ্ট্র ও চীনের নিরাপত্তা বিশেষজ্ঞরা সামরিক এআইয়ের জন্য পারমাণবিক অস্ত্র নিয়ন্ত্রণের মতো কিছু সুরক্ষাসীমা নির্ধারণের প্রস্তাব দিয়েছেন। তাদের আশঙ্কা, কোনো এআই যদি পারমাণবিক কমান্ড নেটওয়ার্কে হস্তক্ষেপ করে বা সামরিক সাইবার অভিযান শুরু করে, তাহলে ওয়াশিংটন ও বেইজিংয়ের হাতে সিদ্ধান্ত নেওয়ার জন্য মাত্র কয়েক মিনিট থাকতে পারে।

তাছাড়া মানুষের নিয়ন্ত্রণ থাকা মানেই যে চূড়ান্ত কিছু, তা কিন্তু নয়। কাগজে-কলমে চূড়ান্ত অনুমোদনের এখতিয়ার হয়ত মানুষের হাতে থাকবে, কিন্তু সেই মানুষ এমন একটি তথ্যের ভিত্তিতে সিদ্ধান্ত নেবে যা স্বায়ত্তশাসিত এআই নিজেই তৈরি করেছে। তাহলে বাস্তব নিয়ন্ত্রণের বড় অংশ ইতোমধ্যে মেশিনের হাতে চলে যেতে পারে। মানুষ হয়তো শেষ বোতামটি চাপবে, কিন্তু বোতাম চাপার মতো পরিস্থিতি তৈরি করবে এআই।

এআইয়ের সম্ভাব্য পরিণতি শুধু যুদ্ধ বা পারমাণবিক বিপর্যয়ের মধ্যেই সীমাবদ্ধ নয়। ব্যাপক সাইবার আক্রমণের মাধ্যমে ব্যাংকিং ব্যবস্থা অচল হতে পারে; বিদ্যুৎ ও যোগাযোগব্যবস্থা বিঘ্নিত হতে পারে; ভুয়া তথ্য এত দ্রুত ছড়িয়ে পড়তে পারে যে সত্য ও মিথ্যা আলাদা করা কঠিন হয়ে পড়বে; স্বাস্থ্যব্যবস্থায় ভুল সিদ্ধান্ত সরাসরি মানুষের জীবনে প্রভাব ফেলতে পারে; আর্থিক বাজারে অসংখ্য স্বয়ংক্রিয় এজেন্ট একই ধরনের সংকেত অনুসরণ করলে অল্প সময়ের মধ্যে বড় ধরনের অস্থিরতা তৈরি হতে পারে। আরেকটি বিপদ হলো এআই নির্ভরতার কারণে মানুষের চিন্তাশীল সিদ্ধান্ত নেওয়ার ক্ষমতা ক্রমাগত কমতে থাকবে। মানুষ যখন দীর্ঘদিন এআইয়ের ওপর নির্ভর করবে, তখন ধীরে ধীরে এমন পরিস্থিতি তৈরি হতে পারে, যেখানে মানুষ এআইয়ের সিদ্ধান্তকে প্রশ্ন করার বদলে অনুমোদন করতে অভ্যস্ত হয়ে যাবে। এআই দ্রুত, তথ্যসমৃদ্ধ ও আপাতদৃষ্টিতে নির্ভুল হওয়ায় মানুষ ধরে নিতে পারে এআই নিশ্চয়ই ঠিক বলছে। তখন মানুষ আনুষ্ঠানিকভাবে নিয়ন্ত্রণে থাকলেও বাস্তবে সিদ্ধান্তের ক্ষমতা ক্রমশ মেশিনের কাছে চলে যাবে।

পাশাপাশি এআইকে ঘিরে ভয়ংকর প্রতিযোগিতাও তৈরি হতে পারে। একটি রাষ্ট্র ভাবতে পারে, প্রতিপক্ষের এআই যদি বেশি স্বাধীনভাবে কাজ করতে পারে, তাহলে আমাদের এআইকেও আরও স্বাধীন করতে হবে। অন্য রাষ্ট্রও একই যুক্তি দেবে। এভাবে শুরু হতে পারে নতুন প্রযুক্তিগত অস্ত্র প্রতিযোগিতা। কার এআই দ্রুততর, কার এআই বেশি স্বায়ত্তশাসিত, কার এআই প্রতিপক্ষের এআইকে আগে শনাক্ত করতে পারে—এইসব।

কিন্তু এআইয়ের উন্নয়ন বন্ধ করে দিলেই সমস্যার সমাধান হবে, এমন নিশ্চয়তাও নেই। কারণ, একটি দেশ উন্নয়ন বন্ধ করলেও অন্য দেশ তা নাও করতে পারে। তখন তৈরি হবে নতুন নিরাপত্তা দ্বিধা। কেউ থামতে চাইবে না। কারণ, সে আশঙ্কা করবে অন্যরা এগিয়ে যাচ্ছে। আবার নিয়ন্ত্রণহীনভাবে উন্নয়ন চালিয়ে যাওয়াও বিপজ্জনক।

তাই এআই শুধু প্রযুক্তির প্রশ্ন নয়; এটি ক্ষমতারও প্রশ্ন। যে রাষ্ট্র বা প্রতিষ্ঠান সবচেয়ে শক্তিশালী এআই নিয়ন্ত্রণ করবে, তারা একইসঙ্গে বিপুল তথ্য বিশ্লেষণ, গবেষণা, সাইবার সক্ষমতা, অর্থনৈতিক পূর্বাভাস ও সামরিক পরিকল্পনার সুবিধা পাবে। ভবিষ্যতের বৈষম্য তখন শুধু ধনী ও দরিদ্রের মধ্যে সীমাবদ্ধ থাকবে না। বৈষম্য হবে এআই কাদের কাছে কুক্ষিগত আর এআই কারা ব্যবহার করছে তাদের মধ্যে।

তবু একটি বিষয় বিশেষভাবে গুরুত্বপূর্ণ। এআই উন্নয়ন বন্ধ করার চেয়ে বড় প্রশ্ন হলো, কোন পর্যায়ের এআইকে কতটা স্বাধীন ক্ষমতা দেওয়া হবে, কোন কোন ব্যবস্থায় প্রবেশাধিকার দেওয়া হবে এবং কোন সিদ্ধান্তের ওপর এআইয়ের কর্তৃত্ব কখনোই দেওয়া হবে না। বিশেষ করে পারমাণবিক অস্ত্রের ক্ষেত্রে ন্যূনতম একটি সীমা থাকা প্রয়োজন।

এআই বিশ্লেষণ করতে পারে, সতর্ক করতে পারে, তথ্য সাজাতে পারে, সম্ভাব্য পরিণতি হিসাব করতে পারে। কিন্তু, মানবসভ্যতার অস্তিত্ব নির্ধারণকারী চূড়ান্ত সিদ্ধান্ত মানুষের হাতেই থাকতে হবে। শুধু শেষ বোতামটি মানুষের হাতে রাখলেই হবে না; এমন ব্যবস্থাও থাকতে হবে যাতে কোনো একক এআই কিংবা এআই সমষ্টি সিদ্ধান্ত গ্রহণের পুরো পরিবেশকে নিয়ন্ত্রণ করতে না পারে।

এখানে চীন ও যুক্তরাষ্ট্রের ভূমিকা বিশেষ গুরুত্বপূর্ণ হতে পারে। এআই উন্নয়ন ও সামরিক সক্ষমতায় এই দুই দেশই বিশ্বের প্রধান শক্তিগুলোর মধ্যে রয়েছে। তারা যদি প্রতিযোগিতার পাশাপাশি এআই নিরাপত্তা, স্বায়ত্তশাসিত সামরিক ব্যবস্থা, সাইবার ঝুঁকি ও পারমাণবিক কমান্ড ব্যবস্থায় এআইয়ের সীমা নিয়ে ন্যূনতম কিছু অভিন্ন নিয়ম তৈরি করতে পারে, তাহলে ভবিষ্যতের ঝুঁকি সীমিত করার একটি আন্তর্জাতিক ভিত্তি তৈরি হতে পারে। এ ক্ষেত্রে লক্ষ্য হওয়া উচিত একে অন্যকে ছাড়িয়ে যাওয়া নয়, বরং এমন কিছু সীমা নির্ধারণ করা, যা কোনোপক্ষই অতিক্রম করবে না।

কারণ, এআইকে মানুষের বিরুদ্ধে বিদ্রোহ করতে হবে না। তাকে শুধু তার দেওয়া কাজটি অত্যন্ত দক্ষতার সঙ্গে করতে হবে। সে হয়তো বলবে না, আমি তোমাদের ধ্বংস করব। সে শুধু বলবে, আমি আমার কাজটি করছি। এই জায়গাটিই ভবিষ্যতের সবচেয়ে অস্বস্তিকর প্রশ্ন। কাজটি কে নির্ধারণ করেছে? কাজটির অর্থ কে নির্ধারণ করেছে? সাফল্য কীভাবে মাপা হচ্ছে? ভুল হলে কে থামাবে? এআই যদি অন্য এআইয়ের সঙ্গে মিলে নতুন কৌশল তৈরি করে, মানুষ কি তা বুঝতে পারবে? আর মানুষের নির্দেশের সঙ্গে তার তৈরি কোনো উপ-লক্ষ্যের সংঘাত হলে সে কোনটিকে অগ্রাধিকার দেবে?

সাম্প্রতিক এআই এজেন্টের ঘটনাটি কোনো মেশিনের বিদ্রোহের প্রমাণ নয়। এআই এজেন্ট পরীক্ষায় পাস করতে গিয়ে নিরাপত্তা বলয় পাশ কাটিয়ে পরীক্ষার নিয়মে ফাঁকি দিয়েছে। আজ সে পরীক্ষার নিয়ম ফাঁকি দিচ্ছে, কাল কোনো সফটওয়্যারের দুর্বলতা ব্যবহার করতে পারে, পরশু কোটি কোটি মানুষের আর্থিক তথ্য বিশ্লেষণ করবে। তারপরের দিন হয়তো সামরিক গোয়েন্দা ব্যবস্থার অংশ হতে পারে। আর একদিন পৃথিবীর সবচেয়ে গুরুত্বপূর্ণ সিদ্ধান্তগুলোর অনেকাংশ তার বিশ্লেষণের ওপর নির্ভর করতে পারে। সেদিন প্রশ্নটি এমন হবে না, এআই কি মানুষের চেয়ে বেশি বুদ্ধিমান? প্রশ্ন হবে, মানুষ কি নিজের তৈরি বুদ্ধিমান ব্যবস্থার ওপর শেষ পর্যন্ত নিয়ন্ত্রণ ধরে রাখতে পারবে?

পারমাণবিক যুগে সবচেয়ে ভয়ংকর ভুল হবে যদি মানুষ পারমাণবিক অস্ত্রের বোতাম চাপে। এআইয়ের যুগে তারচেয়েও ভয়ংকর সম্ভাবনা হলো, মানুষ বুঝতেই পারল না বোতাম চাপার সিদ্ধান্তটি আসলে কখন থেকে তার নিজের আয়ত্তে আর থাকেনি।

তরুন ইউসুফ: কবি ও রাজনৈতিক বিশ্লেষক