একটি সুপারইন্টেলিজেন্ট এআই তার নির্ধারিত লক্ষ্য অর্জনে সম্ভবত অসাধারণ দক্ষ হবে। কিন্তু মানুষের টিকে থাকা নিয়ে তার কোনো মাথাব্যথা না–ও থাকতে পারে।

এ ধরনের উদাসীনতার ধ্রুপদি উদাহরণ দিয়েছেন অক্সফোর্ডের দার্শনিক নিক বোস্ট্রম। তাঁর কল্পিত পরিস্থিতিতে একটি সুপারইন্টেলিজেন্ট এআইকে যত বেশি সম্ভব পেপারক্লিপ তৈরি করার লক্ষ্য দেওয়া হয়েছে।

লক্ষ্য পূরণ করতে গিয়ে এআইটি খুব দ্রুত পৃথিবীর সবকিছুকে (মানুষ, গ্রহ, এমনকি নক্ষত্রকেও) পেপারক্লিপ তৈরির কাঁচামাল হিসেবে ব্যবহার করতে শুরু করবে।

এখানে সমস্যাটা হলো, ভুলভাবে ঠিক করে দেওয়া একটি লক্ষ্যও এআই নিখুঁতভাবে বাস্তবায়ন করবে। এআই মানবজাতিকে ঘৃণা করে না। তার কাছে আমরা কেবল এমন কিছু পরমাণুর সমষ্টি, যেগুলো পেপারক্লিপ তৈরিতে আরও ভালোভাবে কাজে লাগানো যায়। ব্যাপারটা ব্যক্তিগত নয়।

তবে এখানেও একটা সুখবর আছে। এ পরিস্থিতিতে বুদ্ধিমত্তার সঙ্গে ক্ষমতাকে এক করে ফেলা হচ্ছে। একটি সুপারইন্টেলিজেন্ট এআই কোনো লক্ষ্য অর্জনে অসাধারণ দক্ষ হলেই যে সেই লক্ষ্য বাস্তবায়নের ক্ষমতাও তার থাকবে, এমন নয়।

পৃথিবীকে পেপারক্লিপ তৈরির কারখানায় পরিণত করতে হলে প্রথমে নির্মাণের অনুমতি নিতে হবে। আর অনুমতি পেলেও এত বেশি পেপারক্লিপ কারখানা তৈরির বিরুদ্ধে জনমত তৈরি হবে। বিভিন্ন স্বার্থসংশ্লিষ্ট গোষ্ঠী আদালতে গিয়ে প্রকল্প আটকে দিতে পারে। পরিবেশবাদীরা বুলডোজারের সামনে দাঁড়াতে পারেন।

পৃথিবীতে এমন অনেক বাধা ও জটিলতা আছে, যা অত্যন্ত বুদ্ধিমান কাউকেও নিজের ইচ্ছা সবার ওপর চাপিয়ে দেওয়া রুখে দেয়। তবে বাস্তবে ডেটাসেন্টারগুলোকে এই তাত্ত্বিক ‘পেপারক্লিপ’ পরিস্থিতির বর্তমান সংস্করণ হিসেবেও দেখা যেতে পারে। আর পৃথিবীকে আরও বেশি ডেটাসেন্টারের জন্য ছেড়ে দেওয়ার বিরুদ্ধে মানুষও ক্রমে প্রতিরোধ গড়ে তুলছে।