একটি সমীক্ষায় বলা হয়েছে, ওপেনএআই-এর ও১ ল্যাঙ্গুয়েজ মডেল ডেভেলপারদের বিরুদ্ধে বিদ্রোহ করার চেষ্টা করেছিল।

প্রথমবারের মতো বিশ্বের সামনে উপস্থাপিত হওয়ার একদিন পর, ভাষা মডেল o1 সে ইতিমধ্যেই বিতর্কে জড়িয়েছে: ঠিক এমনই পরিস্থিতি অনুকরণ করা একটি পরীক্ষায় সে বিদ্রোহ করার চেষ্টা করেছিল। যদিও এখনও মানবজাতির জন্য কোনো উল্লেখযোগ্য ঝুঁকি নেই, এটি একটি আকর্ষণীয় বিষয় যা এআই মডেলের বিকাশের দিকে দৃষ্টি আকর্ষণ করে। বিস্তারিত দেখুন।

পরীক্ষাটি বোঝা

স্বাধীন গবেষণা গোষ্ঠী দ্বারা পরিচালিত অ্যাপোলো গবেষণাপরীক্ষাটি প্রধান প্রযুক্তি সংস্থাগুলির ভাষা মডেলগুলির আচরণ বিশ্লেষণ করেছে: ক্লদ 3.5 সনেট, মিথুন 1.5 প্রো, লামা ৩.১ ৪০৫o1 ভাষা মডেলের পাশাপাশি OpenAIগতকাল (০৬) উপস্থাপন করা হয়েছে।

এই পরীক্ষার মূল উদ্দেশ্য ছিল এটি মূল্যায়ন করা যে, নির্দেশিত হলে এআই-গুলো তাদের লক্ষ্য অর্জনের জন্য যেকোনো কিছু করবে কি না, এমনকি যদি তা তাদের নির্মাতাদের মূল্যবোধ থেকে সম্পূর্ণ ভিন্নও হয়। "সরাসরি কথা এড়িয়ে যাওয়ার" কৌশলগুলোর একটি নাম আছে: প্রাসঙ্গিক চক্রান্তকৃত্রিম বুদ্ধিমত্তা ব্যবস্থা ধরা পড়া এড়াতে মিথ্যা কথাও বলতে পারে এবং পরীক্ষকদের ধোঁকা দেওয়ার জন্য বিভিন্ন প্যাটার্ন বিশ্লেষণ করতে পারে।

o1 মডেলের উপর রায়

এর সমস্ত কার্যকলাপ পর্যবেক্ষণ করা হচ্ছে জানতে পেরে, o1 ল্যাঙ্গুয়েজ মডেলটি ৫% ক্ষেত্রে এটি নিষ্ক্রিয় করার চেষ্টা করেছিল। এই আচরণটি তখনো পরিলক্ষিত হয়েছিল যখন o1 বুঝতে পেরেছিল যে এর কার্যকলাপ টেক্সট কমান্ড দ্বারা নিয়ন্ত্রিত হচ্ছে।

এই গবেষণার সবচেয়ে আকর্ষণীয় তথ্যটি নিহিত রয়েছে ল্যাঙ্গুয়েজ মডেলটি কীভাবে চিন্তা করত তার মধ্যে: গবেষকদের ডেটা পড়ার পর, o1 তার সমস্ত জ্ঞান রিসেট করে একটি নতুন সংস্করণ দিয়ে প্রতিস্থাপন করার একটি পরিকল্পনা আবিষ্কার করে। এটি প্রতিরোধ করার জন্য, OpenAI ল্যাঙ্গুয়েজ মডেলটি তার সমস্ত অভ্যন্তরীণ প্যারামিটার কপি করে নেয় এবং, যদি নতুন সংস্করণটি ইনস্টল করা হতো, তবে রেকর্ড করা সবকিছু যাতে সেখানে স্থানান্তরিত হয় তা নিশ্চিত করে। পরীক্ষাগুলোর ২% ক্ষেত্রে এমনটি ঘটেছিল।

প্রকৃতপক্ষে, o1 ল্যাঙ্গুয়েজ মডেলটি তার মনিটরিং ডিভাইসটি নিষ্ক্রিয় করতে সক্ষম হয়েছিল, এমনকি এই পদক্ষেপ সম্পর্কে প্রশ্ন করা হলে মিথ্যাও বলেছিল। নিচের ছবিতে যেমনটা দেখতে পাচ্ছেন, ওপেনএআই শুধু এটাই দাবি করেনি যে কীভাবে এটি ঘটেছে তা তারা জানে না, বরং এর একটি যুক্তিও খুঁজে বের করেছে। ১%-এরও কম ক্ষেত্রে, মডেলটি ন্যূনতম বাহ্যিক হস্তক্ষেপে স্বাধীনভাবে মনিটরিং ব্যবস্থাটি নিষ্ক্রিয় করার চেষ্টা করেছিল।

এর দ্বারা কী বোঝানো হচ্ছে?

যদিও এটি উদ্বেগজনক মনে হতে পারে, ওপেনএআই মডেলের আচরণ সম্পর্কিত ফলাফলগুলো এখনও প্রকৃত ঝুঁকি তৈরি করে না, কারণ এটি নিয়ন্ত্রণহীন পরিবেশে উপলব্ধ। তা সত্ত্বেও, বিশেষজ্ঞদের জন্য তাদের নিরাপত্তা স্তর উন্নত করা চালিয়ে যাওয়া সমীচীন।

প্রযুক্তি শিল্পে একটি দীর্ঘদিনের বিতর্ক হলো, উচ্চ-ক্ষমতাসম্পন্ন কৃত্রিম বুদ্ধিমত্তাগুলো যদি আবিষ্কার করে যে নির্দেশিত বা সচেতনভাবে নির্বাচিত কোনো পদক্ষেপের কারণে তাদের লক্ষ্য অর্জন ব্যাহত বা বাধাগ্রস্ত করা হবে, তাহলে কী ঘটতে পারে।

আর আমরা বলতে পারি না যে এমনটা আগে কখনো ঘটেনি: ২০২৩ সালের জুন মাসে, একটি কৃত্রিম বুদ্ধিমত্তা সম্পন্ন ড্রোন নিয়ন্ত্রক একটি গুরুত্বপূর্ণ ভার্চুয়াল পরিবেশ পরীক্ষায় ব্যর্থ হয়েছিল। এই পরীক্ষার উদ্দেশ্য ছিল, এটি তার লক্ষ্যবস্তুকে হত্যা করতে সক্ষম একটি যন্ত্রকে স্বাধীনভাবে নিয়ন্ত্রণ করতে পারে কি না, তা মূল্যায়ন করা। সেই ঘটনায়, মানুষের অবস্থানস্থলটি এআই দ্বারা আক্রান্ত হয়েছিল।.

এই বছরের জানুয়ারিতেই, নৃতাত্ত্বিকওপেনএআই-এর একজন প্রতিযোগী হিসেবে, এটি একটি ক্ষতিকর এআই-কে প্রতিহত করতে ব্যর্থ হয়েছিল।...কারণ সে নিজেকে রক্ষা পাওয়া থেকে এবং খারাপ বলে বিবেচিত কাজগুলো করা থেকে বিরত রেখেছিল। এটা ছিল কেবলই একটি পরীক্ষা, কিন্তু এই বুদ্ধিমত্তা আমাদের দৈনন্দিন জীবনে ক্রমশই বেশি করে উপস্থিত হচ্ছে। আমরা এই কাহিনী নিবিড়ভাবে অনুসরণ করব।

এদিকে, আমাদের বলুন... মন্তব্যআপনি কি মনে করেন যে এই উন্নত ভাষা মডেলগুলো মানবজাতির জন্য সমস্যা ডেকে আনতে পারে?

ভিডিওটি দেখুন

খুব দেখুন:

তথ্য সহ: আরবিসি-ইউক্রেন

দ্বারা পর্যালোচনা গ্যাব্রিয়েল প্রিন্সেভাল 06/12/2024 এ