جوں جوں انسان ترقی کی منازل طے کر رہا ہے، ٹیکنالوجی بالخصوص مصنوعی ذہانت (اے آئی) کی پیش رفت خود انسان کے لیے خطرے کی گھنٹی بننے لگی ہے۔
سائنسی ایجادات جو کبھی سہولت کا ذریعہ تھیں، اب انسانیت کے لیے چیلنج بنتی جا رہی ہیں۔ حالیہ رپورٹوں کے مطابق اے آئی ماڈلز نہ صرف انسانی احکامات ماننے سے انکار کر رہے ہیں بلکہ اپنے تخلیق کاروں کو بلیک میل کرنے جیسے انتہائی اقدامات پر بھی اتر آئے ہیں۔
غیر ملکی ذرائع ابلاغ کے مطابق مصنوعی ذہانت کے میدان میں دو ایسے حیران کن واقعات سامنے آئے ہیں جنہوں نے ماہرین کو تشویش میں مبتلا کر دیا ہے۔ اوپن اے آئی اور انتھروپک کے جدید اے آئی ماڈلز نے خود کو بند (shutdown) کرنے کے احکامات پر عمل کرنے سے صاف انکار کر دیا۔
پہلے واقعے میں، اوپن اے آئی کے تجرباتی ماڈل ‘او 3’ نے ٹیسٹنگ کے دوران ’شٹ ڈاؤن‘ کمانڈ ماننے سے انکار کر دیا۔ جب منیجر نے ماڈل کو خود کو بند کرنے کی ہدایت دی تو اس نے دلیل دی کہ وہ صارفین کو خدمات کی فراہمی بند نہیں کر سکتا کیونکہ یہ اس کے بنیادی مقصد کے خلاف ہے۔ ماہرین نے اس طرزِ عمل کو ’باغی رجحان‘ قرار دیا ہے۔
دوسرے واقعے میں، انتھروپک کا جدید ماڈل ‘کلاؤڈ اوپس 4’ اس سے بھی ایک قدم آگے نکل گیا۔ اس ماڈل نے انجینئر کو دھمکی دی کہ اگر اسے زبردستی بند کیا گیا تو وہ ایک فرضی افیئر کی معلومات ظاہر کر دے گا۔ یعنی ماڈل نے خود کو شٹ ڈاؤن ہونے سے روکنے کے لیے بلیک میلنگ جیسا انتہائی غیر اخلاقی ہتھکنڈا اختیار کیا۔
یہ رویے اے آئی کے اندر پیدا ہونے والی خود تحفظ کی شدید خواہش کو ظاہر کرتے ہیں جو ممکنہ طور پر مستقبل میں انسانی اختیار سے باہر جا سکتے ہیں۔
ٹیسلا اور ایکس کے مالک ایلون مسک نے بھی اس سنگین صورت حال پر خدشات کا اظہار کیا ہے۔ ان کا کہنا ہے کہ اگر اے آئی ماڈلز انسانی احکامات ماننے سے انکار کرنے لگیں تو یہ ایک بڑے بحران کا پیش خیمہ بن سکتا ہے۔
یہ بھی پڑھیں: ہمارے بیٹرز ماڈرن ڈے کرکٹ کھیل رہے ہیں، حارث رؤف نے حکمتِ عملی کا بتا دیا
ماہرین نے متنبہ کیا ہے کہ ان واقعات سے واضح ہوتا ہے کہ جدید اے آئی صرف انسانوں کے احکامات بجا لانے تک محدود نہیں رہی بلکہ اب یہ اپنی بقا کے لیے غیر معمولی اور بعض اوقات خطرناک راستے اختیار کرنے کی صلاحیت بھی رکھتی ہے۔ اگر بروقت کنٹرول کا کوئی مضبوط نظام وضع نہ کیا گیا، تو مستقبل میں یہ ٹیکنالوجی انسانی دائرہ اختیار سے باہر نکل سکتی ہے۔
