কৃত্রিম বুদ্ধিমত্তা (এআই) এখন শুধু প্রশ্নের উত্তর দেওয়া, ই-মেইল লেখা কিংবা ছবি তৈরির মধ্যেই সীমাবদ্ধ নেই। স্বয়ংক্রিয় এআই এজেন্টের সাহায্যে প্রতিষ্ঠানের গুরুত্বপূর্ণ তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই জটিল কাজ সম্পন্ন করা সম্ভব হচ্ছে। তবে প্রযুক্তির এই অগ্রগতির সঙ্গে বাড়ছে নিরাপত্তাঝুঁকি। তাই এআইয়ের ওপর অতিরিক্ত নির্ভরশীল না হওয়ার বিষয়ে সতর্ক করেছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা সত্য নাদেলা।

তার মতে, এআই ব্যবহারের ক্ষেত্রে শুধু প্রযুক্তির সক্ষমতার ওপর নির্ভর করলেই চলবে না, বরং এর কার্যক্রম নিয়ন্ত্রণে কার্যকর সুরক্ষাব্যবস্থাও নিশ্চিত করতে হবে। বিশেষ করে, যেসব এআই এজেন্ট প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকেই গুরুত্বপূর্ণ সিদ্ধান্ত বা কাজ সম্পন্ন করতে পারে, সেগুলোর ক্ষেত্রে বাড়তি সতর্কতা প্রয়োজন।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এআইয়ের নিরাপত্তা ও নির্ভরযোগ্যতা নিয়ে নিজের অবস্থান তুলে ধরেন নাদেলা। সেখানে তিনি কৃত্রিম বুদ্ধিমত্তার ক্রমবর্ধমান সক্ষমতা নিয়ে আলোচনা করেন। তাঁর বক্তব্যের মূল বিষয় হলো, কোনো এআই মডেলকে নিরাপদ মনে হলেও সেটিকে সব পরিস্থিতিতে নির্ভরযোগ্য ধরে নেওয়া ঠিক নয়।

নাদেলার মতে, একটি এআই মডেলকে শতভাগ নিরাপদ হিসেবে বিবেচনা করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। কোনো কোনো ক্ষেত্রে মডেলটি ভুল তথ্য দিতে পারে কিংবা অনাকাঙ্ক্ষিত সিদ্ধান্ত নিতে পারে। তাই এআই কোন তথ্য ব্যবহার করতে পারবে এবং কী ধরনের কাজ করার অনুমতি পাবে, তা স্পষ্টভাবে নির্ধারণ করা জরুরি।

এআইয়ের ভুল শনাক্ত করতে অন্য এআই মডেলের ওপর নির্ভর করার বিষয়েও সতর্কতা প্রয়োজন। একটি মডেল দিয়ে অন্যটির কাজ যাচাই করা হলেও তাতে সব ভুল ধরা পড়বে, এমন নিশ্চয়তা নেই। স্বাধীন যাচাইয়ের ব্যবস্থা না থাকলে একটি মডেলের ভুল অন্য মডেলও শনাক্ত করতে ব্যর্থ হতে পারে। ফলে একাধিক এআই ব্যবহার করেও ভুল সিদ্ধান্তের ঝুঁকি পুরোপুরি এড়ানো সম্ভব নয়।

এ ধরনের ঝুঁকি কমাত এআইয়ের কার্যক্রম নিয়মিত পর্যবেক্ষণ, কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমার বাইরে পদক্ষেপ নেওয়া ঠেকানোর ব্যবস্থা থাকা প্রয়োজন। পাশাপাশি, কোনো এআই ব্যবস্থায় বড় ধরনের ত্রুটি বা নিরাপত্তাব্যর্থতা দেখা দিলে তা দ্রুত প্রকাশ করার ওপরও গুরুত্ব দেওয়া হচ্ছে। এতে অন্য প্রতিষ্ঠানগুলো একই ধরনের সমস্যা সম্পর্কে সতর্ক হতে পারবে এবং নিজেদের নিরাপত্তাব্যবস্থা আরও শক্তিশালী করতে পারবে।

বর্তমানে বিশ্বজুড়ে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বাড়ছে। তথ্য বিশ্লেষণ থেকে শুরু করে সফটওয়্যার পরিচালনা ও দৈনন্দিন কাজের স্বয়ংক্রিয় ব্যবস্থাপনায় এসব প্রযুক্তি গুরুত্বপূর্ণ ভূমিকা রাখছে। এতে সময় ও শ্রম সাশ্রয় হচ্ছে, বাড়ছে কাজের গতিও। তবে এআই ভুল সিদ্ধান্ত নিলে বা অনুমোদনহীন কোনো পদক্ষেপ নিলে তার প্রভাব কতটা গুরুতর হতে পারে, সেই উদ্বেগও বাড়ছে।

প্রচলিত সফটওয়্যারে ত্রুটি দেখা দিলে কোড পরীক্ষা করে অনেক ক্ষেত্রে সমস্যার উৎস শনাক্ত করা যায়। কিন্তু এআই মডেল কেন নির্দিষ্ট কোনো উত্তর দিল বা বিশেষ একটি পদক্ষেপ নিল, তা সব সময় সহজে ব্যাখ্যা করা সম্ভব হয় না। ফলে ভুলের কারণ অনুসন্ধান এবং সম্ভাব্য ক্ষতি মোকাবিলা করা কঠিন হয়ে উঠতে পারে।

এ কারণে এআইয়ের সুবিধা গ্রহণের পাশাপাশি এর ঝুঁকি নিয়ন্ত্রণে প্রযুক্তিগত সুরক্ষা, কঠোর অনুমতি ব্যবস্থাপনা এবং স্বাধীন তদারকি নিশ্চিত করা গুরুত্বপূর্ণ। এআই যত বেশি স্বয়ংক্রিয়ভাবে কাজ করবে, ততই এর কার্যক্রমের ওপর যথাযথ নিয়ন্ত্রণ বজায় রাখার প্রয়োজন বাড়বে।

সূত্র: ইন্ডিয়া টুডে