স্বায়ত্তশাসিত প্রযুক্তি মানুষের তদারকি ছাড়াই ব্যবসা চালাতে পারে, বাজারের বিপর্যয়ের ঝুঁকি বাড়ায়, যুক্তরাজ্যের কর্মকর্তারা এআই এজেন্টদের সতর্ক করে যারা সিদ্ধান্ত নিতে পারে এবং স্বাধীনভাবে লেনদেন করতে পারে শীঘ্রই আর্থিক ব্যবস্থা জুড়ে কাজ করতে পারে, ব্যাঙ্ক অফ ইংল্যান্ড সতর্ক করেছে, যোগ করেছে যে মানুষের তত্ত্বাবধানের উপর নির্ভর করা আর বাস্তবসম্মত হতে পারে না। ব্যাঙ্ক অফ ইংল্যান্ডের ডেপুটি গভর্নর সারাহ ব্রিডেন মঙ্গলবার সিন্ট্রাতে ইউরোপীয় সেন্ট্রাল ব্যাঙ্কের বার্ষিক ফোরামে এই সতর্কবার্তা দিয়েছেন, কারণ নেতৃস্থানীয় বিকাশকারীরা জেনারেটিভ এআই চ্যাটবট থেকে এজেন্টিক সিস্টেমে স্থানান্তরিত হয়েছে। ChatGPT, Gemini, এবং Claude-এর মতো জেনারেটিভ AI টুলের বিপরীতে, যা প্রম্পটের প্রতিক্রিয়ায় টেক্সট, ইমেজ এবং কোড তৈরি করে, এজেন্টিক AI সীমিত মানুষের হস্তক্ষেপে বহু-পদক্ষেপের কাজগুলি সম্পূর্ণ করার জন্য ডিজাইন করা হয়েছে।

শুধুমাত্র বিনিয়োগের সুপারিশ করার বা কেনার পরামর্শ দেওয়ার পরিবর্তে, একজন AI এজেন্ট প্রতিটি কাজের জন্য মানুষের অনুমোদনের প্রয়োজন ছাড়াই ব্যবসা চালাতে, অর্থপ্রদান করতে, পণ্য কিনতে এবং পরিষেবা বুক করতে পারে। ব্রিডেন বলেছিলেন যে আর্থিক ব্যবস্থা সম্ভবত "একটি বিকশিত হতে পারে যা স্কেল এবং গতিতে আরও স্বায়ত্তশাসিতভাবে কাজ করে।"  যেহেতু AI এজেন্টরা আরও সক্ষম হয়ে ওঠে, "সকল এজেন্টের ক্রিয়াকলাপের জন্য একজন মানুষের উপর নির্ভর করা বাস্তবসম্মত হওয়ার সম্ভাবনা কম," তিনি যুক্তি দিয়েছিলেন যে বর্তমান নিয়ন্ত্রক কাঠামোগুলি এই দৃশ্যকল্পটিকে "বিবেচনা করার জন্য তৈরি করা হয়নি"। ব্রিডেন সতর্ক করে দিয়েছিলেন যে AI এজেন্টরা অনুরূপ ডেটার উপর প্রশিক্ষিত এবং একই বাজারের সংকেতগুলিতে সাড়া দেওয়া পশুপালের আচরণ প্রদর্শন করতে পারে, একই সাথে একই ট্রেডিং সিদ্ধান্ত নিতে পারে এবং চাপের সময় বাজারের অস্থিরতা বৃদ্ধি করতে পারে।

নিয়ন্ত্রকদের পরীক্ষা করা উচিত "গার্ড্রেল প্রয়োজন কিনা, সার্কিট ব্রেকারের সাথে সাদৃশ্যপূর্ণ বা কিল সুইচগুলি যা সীমিত করবে বা বাজার জুড়ে ট্রেডিং বন্ধ করবে যদি ত্রুটিপূর্ণ AI মডেলগুলি বাজারের মন্দার কারণ হয়," ব্রিডেন বলেছিলেন। তিনি কেন্দ্রীয় ব্যাঙ্কগুলিকে আরও ঘন ঘন "প্রযুক্তি বিস্ময়" এর জন্য প্রস্তুত হওয়ার আহ্বান জানিয়েছিলেন, বলেছেন যে AI-তে সাম্প্রতিক অগ্রগতি ইতিমধ্যে নীতিনির্ধারকদের প্রত্যাশা ছাড়িয়ে গেছে। সরকার ক্রমবর্ধমানভাবে এআইকে একটি জাতীয় নিরাপত্তা সমস্যা হিসাবে বিবেচনা করার সময় তার মন্তব্য এসেছে।

ওয়াশিংটন সম্প্রতি সাইবার নিরাপত্তা সংক্রান্ত উদ্বেগের জন্য কিছু উন্নত এআই মডেলের রোলআউটে হস্তক্ষেপ করেছে, যখন এআই বিকাশকারীরা এজেন্টিক সিস্টেমের সাথে এগিয়ে যাচ্ছেন। নৃতাত্ত্বিক এই সপ্তাহে Claude Sonnet 5 উন্মোচন করেছে, এটির সর্বশেষ মডেল ব্যবহারকারীদের পক্ষে জটিল কাজগুলি সম্পাদন করার জন্য ডিজাইন করা হয়েছে৷ এজেন্টিক এআই-এর দিকে ধাক্কা পেন্টাগনেও পৌঁছেছে। গত সপ্তাহে, এটি ক্রমাগত বুদ্ধিমত্তা বিশ্লেষণ করার জন্য ডিজাইন করা এআই এজেন্টদের উন্মোচন করেছে এবং কমান্ডারদের জন্য দ্রুত লক্ষ্যবস্তু বিকল্পগুলি তৈরি করেছে, যেখানে জোর দেওয়া হয়েছে যে মানুষ চূড়ান্ত সিদ্ধান্ত গ্রহণের কর্তৃত্ব বজায় রাখবে।