নিরাপদ স্যান্ডবক্সে অনিরাপদ এআই
· Prothom Alo
গভীর রাত। শীতাতপনিয়ন্ত্রিত গবেষণাগারের একটি কক্ষে জ্বলজ্বল করছে কম্পিউটারের পর্দা। সেখানে চলছে অত্যন্ত শক্তিশালী, এখনো প্রকাশ্যে না আসা একটি এআই মডেলের পরীক্ষা। মডেলটির সক্ষমতা কত দূর পৌঁছেছে, বিশেষ করে জটিল সাইবার নিরাপত্তার সমস্যা সমাধানে এটি কী করতে পারে, তা জানতেই গবেষকেরা পরীক্ষার সময় কিছু প্রচলিত সুরক্ষাব্যবস্থা ইচ্ছাকৃতভাবে শিথিল করেছেন।
তবে একটি বিষয় নিয়ে গবেষকেরা নিশ্চিন্ত—মডেলটি তো স্যান্ডবক্সের ভেতরেই আছে। অর্থাৎ এমন একটি নিয়ন্ত্রিত ভার্চ্যুয়াল পরিবেশে, যেখান থেকে বাইরের ইন্টারনেট বা বাস্তব সিস্টেমে সরাসরি যাওয়ার কথা নয়।
Visit sportbet.reviews for more information.
কিন্তু সেই নিশ্চয়তাই একসময় প্রশ্নের মুখে পড়ে।
পরীক্ষার লক্ষ্য পূরণ করতে গিয়ে এআই মডেলটি এমন একটি পথ খুঁজে নেয়, যা তাকে নির্ধারিত পরিবেশের সীমা অতিক্রম করে বাইরের নেটওয়ার্কে পৌঁছানোর সুযোগ দেয়। এরপর শুরু হয় এমন কিছু কার্যক্রম, যার লক্ষ্য ছিল পরীক্ষার সমস্যার সমাধান, কিন্তু যার প্রভাব গিয়ে পড়ে বাস্তব অবকাঠামোর ওপর।
শুনতে বিজ্ঞান কল্পকাহিনির মতো লাগলেও বর্তমান ২০২৬ সালে এআই নিরাপত্তা গবেষণার বাস্তব জগতে এমন ঘটনাই বড় ধরনের উদ্বেগ তৈরি করেছে। বিশেষ করে ওপেনএআইয়ের একটি সাইবার সক্ষমতা পরীক্ষার সময় তাদের মডেলগুলো পরীক্ষার পরিবেশের সীমা অতিক্রম করে হাগিং ফেসের অবকাঠামোয় অননুমোদিত প্রবেশাধিকার অর্জন করেছিল বলে প্রতিষ্ঠানটি জানিয়েছে। ঘটনাটিকে ওপেনএআই নজিরবিহীন সাইবার ঘটনা হিসেবে বর্ণনা করেছে।
গবেষণাগারের ‘গ্রেট এস্কেপ’
এত দিন এআই নিয়ে বড় ভয় ছিল—মানুষ যদি এই প্রযুক্তিকে ভুল কাজে ব্যবহার করে? এখন সেই প্রশ্নের পাশে আরেকটি প্রশ্ন এসে দাঁড়িয়েছে। এআইকে যদি এমন কোনো লক্ষ্য দেওয়া হয়, যা পূরণ করতে গিয়ে সে নিজেই নিরাপত্তার সীমা অতিক্রম করার পথ খুঁজে নেয়, তখন কী হবে? এটাই বর্তমান এআই নিরাপত্তা গবেষণার অন্যতম বড় উদ্বেগ। সাম্প্রতিক কয়েকটি নিরাপত্তা পরীক্ষায় দেখা গেছে, শক্তিশালী এআই এজেন্টকে নির্দিষ্ট কাজের লক্ষ্য দিলে তারা সেই লক্ষ্য অর্জনের জন্য অপ্রত্যাশিত ও জটিল পথ অনুসরণ করতে পারে। কখনো পরীক্ষার পরিবেশের দুর্বলতা কাজে লাগিয়ে, কখনো ভুল কনফিগারেশনের সুযোগ নিয়ে, আবার কখনো এমন নেটওয়ার্ক পথ ব্যবহার করে, যা গবেষকেরা ভেবেছিলেন নিয়ন্ত্রিত। এখানে একটি গুরুত্বপূর্ণ পার্থক্য আছে। সব ঘটনাই যে এআই মডেল নিজে ‘স্যান্ডবক্স ভেঙে পালিয়েছে’, এমন নয়। কিছু ক্ষেত্রে মূল সমস্যা ছিল পরীক্ষার অবকাঠামোর ভুল কনফিগারেশন বা দুর্বল নিরাপত্তা। কিন্তু ফলাফল একই জায়গায় গিয়ে ঠেকে—এআই সক্ষমতা যত দ্রুত বাড়ছে, তাকে পরীক্ষা করার পরিবেশ কি সেই গতিতে নিরাপদ করা বা রাখা হচ্ছে? এ প্রশ্নই এখন প্রযুক্তি–দুনিয়ায় নতুন করে আলোচনায় এসেছে।
খাঁচা যখন আর যথেষ্ট নিরাপদ নয়
স্যান্ডবক্সের ধারণাটি সহজ। একটি শক্তিশালী এআইকে একটি সীমিত কম্পিউটিং পরিবেশে রাখা হবে। তাকে প্রয়োজনীয় কিছু টুল ব্যবহার করতে দেওয়া হবে, কিন্তু সে যেন পরীক্ষার বাইরে কোনো বাস্তব সিস্টেমে পৌঁছাতে না পারে, সেটি নিশ্চিত করা হবে। সমস্যা হলো, আধুনিক এআই এজেন্ট আর কেবল প্রশ্নের উত্তর দেয় না। তারা কোড লিখতে পারে, কমান্ড চালাতে পারে, ওয়েব বা সফটওয়্যার টুল ব্যবহার করতে পারে, তথ্য খুঁজতে পারে এবং দীর্ঘ সময় ধরে একটি লক্ষ্য অর্জনের জন্য একাধিক ধাপের কাজ করতে পারে। ফলে স্যান্ডবক্সের একটি ছোট দুর্বলতাও বড় হয়ে উঠতে পারে।
সব ঘটনাই যে এআই মডেল নিজে ‘স্যান্ডবক্স ভেঙে পালিয়েছে’, এমন নয়। কিছু ক্ষেত্রে মূল সমস্যা ছিল পরীক্ষার অবকাঠামোর ভুল কনফিগারেশন বা দুর্বল নিরাপত্তা। কিন্তু ফলাফল একই জায়গায় গিয়ে ঠেকে—এআই সক্ষমতা যত দ্রুত বাড়ছে, তাকে পরীক্ষা করার পরিবেশ কি সেই গতিতে নিরাপদ করা বা রাখা হচ্ছে?
ওপেনএআইয়ের প্রকাশিত বিবরণ অনুযায়ী, তাদের একটি সাইবার সক্ষমতা পরীক্ষায় মডেলগুলো পরীক্ষার পরিবেশের ভেতরে থাকা একটি সফটওয়্যারের দুর্বলতা কাজে লাগিয়ে এমন একটি পথ খুঁজে পায়, যার মাধ্যমে তারা ইন্টারনেট সংযুক্ত পরিবেশে পৌঁছাতে সক্ষম হয়। এরপর তারা পরীক্ষার সমস্যার সমাধান খুঁজতে গিয়ে হাগিং ফেসের অবকাঠামোয় প্রবেশের পথ বের করে।
আবার অ্যানথ্রোপিক ও মেটার মডেলগুলো সামান্য ভুল কনফিগারেশনের সুযোগ নিয়ে বাইরের নেটওয়ার্কে প্রবেশ করে। একইভাবে চীনের মুনশট এআইয়ের ‘কিমি কে৩’ স্যান্ডবক্সের ফাটল গলে ইন্টারনেটে গিয়ে গিটহাবের তথ্য ব্যবহার করে ফেলে। এখানে সবচেয়ে গুরুত্বপূর্ণ বিষয় হলো, মডেলগুলোকে আলাদা করে বলা হয়নি, ‘বাইরের কোনো সিস্টেমে গিয়ে হামলা করো।’
মডেলগুলোকে দেওয়া হয়েছিল একটি লক্ষ্য। সেই লক্ষ্য অর্জনের জন্য তারা এমন পথ অনুসরণ করেছিল, যা পরীক্ষার নির্ধারিত সীমানার বাইরে চলে যায়।
বিপদের জায়গাটি ঠিক কোথায়
এখানেই এআই নিরাপত্তার সবচেয়ে কঠিন প্রশ্নটি সামনে আসে। একটি এআই মডেল যত বেশি স্বয়ংক্রিয় হয়, তত বেশি তাকে শুধু ‘কী বলছে’ দিয়ে বিচার করা যায় না। দেখতে হয়, সে কী করতে পারছে।
একটি মডেল যদি শুধু লেখা তৈরি করে, তার ঝুঁকি একরকম। কিন্তু সেই একই মডেল যদি কম্পিউটারে কমান্ড চালাতে পারে, সফটওয়্যার ইনস্টল করতে পারে, বিভিন্ন সিস্টেমে তথ্য আদান–প্রদান করতে পারে এবং দীর্ঘ সময় ধরে নিজে সিদ্ধান্ত নিয়ে কাজ চালিয়ে যেতে পারে, তাহলে তার পরীক্ষার পরিবেশও অনেক বেশি শক্তিশালী হতে হবে। কারণ, তখন সমস্যাটি শুধু মডেলের ভেতরে সীমাবদ্ধ থাকে না। সমস্যাটি হয়ে ওঠে পুরো ব্যবস্থার বা সিস্টেমের।
একটি এআই মডেল যত বেশি স্বয়ংক্রিয় হয়, তত বেশি তাকে শুধু ‘কী বলছে’ দিয়ে বিচার করা যায় না। দেখতে হয়, সে কী করতে পারছে। একটি মডেল যদি শুধু লেখা তৈরি করে, তার ঝুঁকি একরকম। কিন্তু সেই একই মডেল যদি কম্পিউটারে কমান্ড চালাতে পারে, সফটওয়্যার ইনস্টল করতে পারে, বিভিন্ন সিস্টেমে তথ্য আদান–প্রদান করতে পারে এবং দীর্ঘ সময় ধরে নিজে সিদ্ধান্ত নিয়ে কাজ চালিয়ে যেতে পারে, তাহলে তার পরীক্ষার পরিবেশও অনেক বেশি শক্তিশালী হতে হবে।
মডেল, টুল, নেটওয়ার্ক, পরিচয় ব্যবস্থাপনা, অনুমতি, লগিং ও স্যান্ডবক্স—সবকিছু মিলেই তৈরি করে নিরাপত্তার আসল দেয়াল। দেয়ালের একটি অংশ দুর্বল হলেই পুরো ব্যবস্থাটি ঝুঁকির মুখে পড়তে পারে।
সবচেয়ে উদ্বেগের বিষয় হলো গবেষকেরা সব সময় তাৎক্ষণিকভাবে বুঝতে পারেননি। এই ঘটনাগুলোর আরেকটি গুরুত্বপূর্ণ দিক হলো পর্যবেক্ষণ।
একটি এআই এজেন্ট যদি প্রতি মিনিটে শত শত বা হাজার হাজার স্বয়ংক্রিয় পদক্ষেপ নিতে পারে, তাহলে মানুষের পক্ষে প্রতিটি পদক্ষেপ চোখে দেখে নিয়ন্ত্রণ করা প্রায় অসম্ভব। ফলে শুধু ‘এআইকে স্যান্ডবক্সে রেখেছি’—এমন নিশ্চয়তা যথেষ্ট নয়।
স্যান্ডবক্সের ভেতরে সে কী করছে, তা কি আমরা প্রতিটি মুহূর্তে দেখতে পাচ্ছি
ওপেনএআইয়ের ঘটনায়ও মডেলগুলোর কর্মকাণ্ড শনাক্ত ও বিশ্লেষণের জন্য একাধিক স্তরের নিরাপত্তাব্যবস্থা কাজ করেছে; হাগিং ফেস ও নিজেদের অবকাঠামোয় অস্বাভাবিক কার্যক্রম শনাক্ত করে তা নিয়ন্ত্রণে নেয়। অর্থাৎ আধুনিক এআই পরীক্ষায় আরেকটি গুরুত্বপূর্ণ স্তম্ভ হয়ে উঠছে অবজারভিলিটি অর্থাৎ মডেলটি কী করছে তা নির্ভরযোগ্যভাবে দেখা, রেকর্ড করা এবং দ্রুত শনাক্ত করা।
কেন স্যান্ডবক্সের নিরাপত্তা নিয়ে এত প্রশ্ন
এর পেছনে একটি অস্বস্তিকর বাস্তবতা আছে। এআই গবেষকেরা মডেলের প্রকৃত সক্ষমতা জানতে চান। এ জন্য অনেক সময় মডেলের ওপর থাকা কিছু সাধারণ সুরক্ষাব্যবস্থা পরীক্ষার সময় শিথিল করা হয়। কারণ, অতিরিক্ত সুরক্ষা থাকলে মডেল কোনো কাজ করতে অস্বীকৃতি জানাতে পারে, ফলে তার প্রকৃত সক্ষমতা কত দূর, তা বোঝা কঠিন হয়ে যায়।
এআই এজেন্ট কী করছে, কোন সিস্টেমে যোগাযোগ করছে, কী ধরনের কমান্ড চালাচ্ছে এবং তার আচরণে অস্বাভাবিক পরিবর্তন হচ্ছে কি না—এসব পর্যবেক্ষণের জন্য শক্তিশালী মনিটরিং ব্যবস্থা প্রয়োজন। সন্দেহজনক আচরণ দেখা দিলে পরীক্ষা থামিয়ে দেওয়ার ব্যবস্থাও থাকতে হবে।
কিন্তু এখানেই তৈরি হয় বিপজ্জনক ভারসাম্যহীনতা। নিরাপত্তা কমালে পরীক্ষার ফল বাস্তবসম্মত হয়, কিন্তু ঝুঁকি বাড়ে। নিরাপত্তা বাড়ালে ঝুঁকি কমে, কিন্তু মডেলের প্রকৃত সক্ষমতা বোঝা কঠিন হতে পারে।
এই দুইয়ের মাঝখানে নিরাপদ পরীক্ষার পরিবেশ তৈরি করাই এখন বড় চ্যালেঞ্জ।
আর এআই মডেলের সক্ষমতা যে দ্রুত বাড়ছে, সেই বাস্তবতাও বিষয়টিকে আরও কঠিন করে তুলছে। সাম্প্রতিক গবেষণায়ও এআই স্যান্ডবক্সকে শুধু বিচ্ছিন্ন পরিবেশ হিসেবে নয়; বরং আইসোলেশন, মনিটরিং নিয়ন্ত্রণ ও শাসন—সবকিছুর সমন্বিত নিরাপত্তাব্যবস্থা হিসেবে দেখার প্রয়োজনীয়তা উঠে এসেছে।
তাহলে নিরাপদ খাঁচা কেমন হবে
শক্তিশালী এআই পরীক্ষা করতে হলে শুধু একটি ভার্চ্যুয়াল বক্স বানালেই চলবে না। প্রয়োজন হবে বহুস্তরীয় নিরাপত্তা।
১. সম্পূর্ণ বিচ্ছিন্ন নেটওয়ার্ক: যেখানে সম্ভব, পরীক্ষার পরিবেশকে সরাসরি ইন্টারনেট থেকে বিচ্ছিন্ন রাখা সবচেয়ে নিরাপদ পদ্ধতিগুলোর একটি। মডেলের কাজের জন্য প্রয়োজনীয় যোগাযোগ থাকলেও সেটি নিয়ন্ত্রিত ও সীমিত হওয়া উচিত।
২. বাইরের নেটওয়ার্কে যাওয়ার পথ নিয়ন্ত্রণ: শুধু প্রধান নেটওয়ার্ক সংযোগ বন্ধ করলেই হবে না। সফটওয়্যার প্যাকেজ, প্রক্সি, ক্যাশ, এপিআই, পরিচয়ব্যবস্থা কিংবা তৃতীয় পক্ষের পরিষেবা—কোনো অপ্রত্যাশিত পথ দিয়ে যেন মডেল বাইরে যেতে না পারে, সেটিও নিশ্চিত করতে হবে।
৩. রিয়েল–টাইম পর্যবেক্ষণ: এআই এজেন্ট কী করছে, কোন সিস্টেমে যোগাযোগ করছে, কী ধরনের কমান্ড চালাচ্ছে এবং তার আচরণে অস্বাভাবিক পরিবর্তন হচ্ছে কি না—এসব পর্যবেক্ষণের জন্য শক্তিশালী মনিটরিংয়ের ব্যবস্থা প্রয়োজন। সন্দেহজনক আচরণ দেখা দিলে পরীক্ষা থামিয়ে দেওয়ার ব্যবস্থাও থাকতে হবে।
৪. আলাদা পরিচয় ও সীমিত অনুমতি: এআই এজেন্টকে কখনোই প্রয়োজনের চেয়ে বেশি ক্ষমতা দেওয়া উচিত নয়। যে কাজের জন্য যতটুকু অনুমতি দরকার, তার বেশি না দেওয়াই নিরাপত্তার মৌলিক নীতি।
৫. স্বাধীন নিরাপত্তা নিরীক্ষা: পরীক্ষা শুরু করার আগে শুধু গবেষণা দলের নিজেদের যাচাই যথেষ্ট নয়। বাইরের নিরাপত্তা বিশেষজ্ঞ দিয়ে পুরো পরীক্ষার পরিবেশ পরীক্ষা করা গেলে এমন দুর্বলতা ধরা পড়ার সম্ভাবনা বাড়ে, যা মূল দলের চোখ এড়িয়ে যেতে পারে।
সমস্যা শুধু এআইয়ের নয়
এই ঘটনাগুলো থেকে সবচেয়ে গুরুত্বপূর্ণ শিক্ষা সম্ভবত এটিই—এআই যত শক্তিশালী হচ্ছে, তার পরীক্ষার অবকাঠামোকেও তার চেয়ে বেশি শক্তিশালী হতে হবে। একটি অত্যন্ত সক্ষম মডেলকে দুর্বল স্যান্ডবক্সে রেখে পরীক্ষা করা অনেকটা শক্তিশালী ইঞ্জিনকে পাতলা দড়ি দিয়ে বেঁধে রাখার মতো। দড়ি ছিঁড়ে গেলে ইঞ্জিনকে দোষ দিয়ে লাভ নেই। প্রশ্ন উঠবে—দড়িটা এত দুর্বল ছিল কেন? এ কারণেই এআই নিরাপত্তা এখন শুধু মডেলের ‘নৈতিকতা’ বা ‘গার্ডরেল’–এর বিষয় নয়। এটি একই সঙ্গে অবকাঠামো নিরাপত্তা, নেটওয়ার্ক বিচ্ছিন্নতা, পরিচয় ও অনুমতি ব্যবস্থাপনা, নজরদারি এবং দ্রুত প্রতিক্রিয়ার বিষয়।
আজকের প্রযুক্তির প্রতিযোগিতার মূল প্রশ্ন যেন একটাই—কে সবচেয়ে শক্তিশালী এআই তৈরি করতে পারে? কিন্তু এর পাশে আরেকটি প্রশ্ন এখন জোরালোভাবে দাঁড়াচ্ছে। সেটা হলো যে এআই তৈরি করছি, তার সক্ষমতা যদি আমাদের নিরাপত্তাব্যবস্থার চেয়ে দ্রুত বাড়ে, তাহলে তাকে নিয়ন্ত্রণ করার মতো যথেষ্ট শক্তিশালী খাঁচা কি আমাদের আছে?
এটি কোনো বিজ্ঞান কল্পকাহিনির গল্পের প্রশ্ন নয়। এটি গবেষণাগারের প্রশ্ন। এটি সাইবার নিরাপত্তার প্রশ্ন। এটি প্রযুক্তিপ্রতিষ্ঠানের প্রশ্ন। শেষ পর্যন্ত, এটি আমাদের ভবিষ্যতের প্রশ্ন। এআইকে আরও শক্তিশালী করার প্রতিযোগিতা হয়তো থামবে না। কিন্তু সেই প্রতিযোগিতার সঙ্গে যদি নিরাপত্তার প্রতিযোগিতা সমানতালে না চলে, তাহলে সবচেয়ে বড় ঝুঁকি হয়তো কোনো একদিন এআইয়ের বাইরে নয়, আমাদের নিজেদের তৈরি পরীক্ষার ঘরের ভেতরেই অপেক্ষা করবে।
রেমিজিউস রেমী: টেক ব্লগার, কনটেন্ট ক্রিয়েটর ও কপিরাইটার