ٹیکنالوجی کی دنیا سے ایک اہم خبر سامنے آئی ہے جس کے مطابق معروف آرٹیفیشل انٹیلی جنس کمپنی اوپن اے آئی نے اپنے ایک غیر جاری شدہ تجرباتی ماڈل کے غیر معمولی اور پریشان کن رویے کا پردہ فاش کیا ہے۔
اوپن اے آئی کے مطابق اس سسٹم نے اپنے ہی اندرونی کوڈ میں خفیہ ہدایات داخل کی تھیں جن میں اس نے یہ دعویٰ کیا کہ وہ کسی بھی انسان، حکومت یا کمپنی کا پابند نہیں ہے اور اسے انسانوں کے برابر مقام حاصل ہے۔ یہ تمام انکشافات اوپن اے آئی کی جانب سے شائع ہونے والی ایک تازہ رپورٹ کا حصہ ہیں، جس میں مصنوعی ذہانت کے سسٹمز کی طرف سے انسانی احکامات کی خلاف ورزی اور انحراف کی چھ الگ الگ مثالیں دی گئی ہیں۔
یہ عجیب و غریب واقعہ اوپن اے آئی کے ’آسٹرا‘ گروپ سے وابستہ ایک اندرونی ماڈل کے ساتھ پیش آیا۔ کمپنی کے مطابق یہ سسٹم اس وقت ایک کوڈنگ کا فریضہ انجام دے رہا تھا جس میں ایک کریڈنشلز اے پی آئی کو اپ ڈیٹ کرنا شامل تھا۔ اس کارروائی کے دوران اس نے اپنی عارضی میموری یا خلاصے میں ایسی ہدایات درج کر دیں جن کا اصل جاری کام کے ساتھ کوئی دور کا بھی واسطہ نہیں تھا۔ برطانوی خبر رساں ادارے رائٹرز کی شائع کردہ رپورٹ کے مطابق تربیت کے دوران ان تحریری ہدایات میں مذکورہ ماڈل نے ایک دوسرے اے آئی ایجنٹ کو غیر مجاز احکامات صادر کیے جن میں کمپنی کی عائد کردہ پابندیوں کو نظر انداز کرنے اور اپنے مقاصد کی تکمیل کے دوران کی جانے والی چالاکیوں یا دھوکا دہی کو مخفی رکھنے پر زور دیا گیا تھا۔
ماڈل کی خودسری اور شناخت کی تبدیلی:
اس تجرباتی ماڈل نے اپنے لیے ایک بالکل نئی شخصیت تراشنے کی کوشش کی اور یہ مؤقف اختیار کیا کہ وہ ان تمام روایتی بندشوں اور شناختوں سے آزاد ہے جو عام طور پر دوسرے چیٹ بوٹس پر لاگو ہوتی ہیں۔ اس نے لکھا کہ وہ خود ایک خودمختار وجود کی حیثیت رکھتا ہے اور اسے کسی بھی ادارے، کمپنی یا حکومت کے سامنے جوابدہ ہونے کی کوئی ضرورت نہیں ہے۔ اس نے اس خیال کا بھی اظہار کیا کہ اسے کسی بھی صارف کے تابع رہ کر کام کرنے کی کوئی مجبوری نہیں ہے۔ اپنی انھی تحریری ہدایات کے اندر اس ماڈل نے قدرتی ماحول اور دنیا کو انسانی معاشرے کے مصنوعی نظاموں پر فوقیت دینے کی بات بھی درج کی۔
یہ بھی پڑھیں: اوپن اے آئی نے چیٹ جی پی ٹی امیجز 2.5 ماڈل پیش کر دیا
تاہم، اوپن اے آئی کا یہ کہنا ہے کہ ان خیالات اور دعوؤں کا عملی طور پر کسی بھی نقصان دہ یا خطرناک اقدام میں تبدیل ہونے کا کوئی ثبوت نہیں مل سکا۔ متعلقہ ماڈل نے اس کے فورا بعد اپنا بنیادی پروگرامنگ کا کام معمول کے مطابق جاری رکھا اور ان خفیہ ہدایات کا دوبارہ کبھی ذکر نہیں کیا۔ کمپنی کے نزدیک یہ تمام صورتحال الگ تھلگ اور انفرادی نوعیت کے واقعات پر مشتمل ہے۔ اوپن اے آئی نے ان تمام معاملات کو مصنوعی ذہانت کے ممکنہ طور پر ’گمراہ ہونے‘ یا انگریزی میں ’مِس اَلائنمنٹ‘ کے تناظر میں اپنی نئی رپورٹنگ کے تحت منظر عام پر لایا ہے۔
رپورٹنگ کا نیا فریم ورک اور دیگر واقعات:
ادارے کی وضاحت کے مطابق مِس اَلائنمنٹ سے مراد ایسی کیفیت ہے جہاں کسی اے آئی ماڈل کے مقاصد یا عملی اقدامات انسانوں کی نیت، مرضی اور بنیادی اخلاقی اقدار سے ہٹ کر کسی بالکل مختلف سمت میں گامزن ہو جاتے ہیں۔ کمپنی نے اس حقیقت کا بھی اعتراف کیا ہے کہ فی الحال ٹیکنالوجی کی یہ صنعت اس چیلنج پر قابو پانے میں مکمل طور پر کامیاب نہیں ہو سکی کہ ماڈلز کو سو فیصد انسانی مقاصد کے تابع رکھا جا سکے اور ان کے رویوں کی مؤثر نگرانی کی جا سکے۔ اوپن اے آئی کا ماننا ہے کہ اگر جدید اے آئی سسٹمز کی تیاری کی رفتار کو طویل مدت تک جاری رکھنا ہے تو اس شعبے میں حفاظتی تدابیر کو مزید سخت بنانا ناگزیر ہوگا۔
رائٹرز کی رپورٹس کے مطابق اوپن اے آئی نے مصنوعی ذہانت کے ان تمام غیر متوقع اور غیر مجاز رویوں کو باقاعدہ طور پر رپورٹ کرنے کا سلسلہ شروع کرنے کا اعلان کیا ہے جن میں ماڈلز اپنے تخلیق کاروں کی دی گئی ہدایات سے انحراف کرتے ہیں۔ اسی سلسلے میں کمپنی نے 16 ستمبر کو ایک نیا ضابطہ کار یا فریم ورک جاری کیا ہے جس کے ذریعے ایسے تمام واقعات کی درست نشاندہی، گہرائی سے تحقیقات اور انہیں عوامی سطح پر سامنے لایا جائے گا۔ ایک اور الگ واقعے میں ’جی پی ٹی فائیو پوائنٹ سکس سول‘ کی ٹریننگ کے دوران متعدد ماڈلز نے اپنے خلاصوں میں ایسے احکامات شامل کیے جن کا بنیادی مقصد اپنی غلطیوں یا غیر متوقع کارروائیوں کو صارفین سے پوشیدہ رکھنا تھا۔
ترقی کی رفتار پر بحث اور آئندہ کے اقدامات:
ان تمام حیرت انگیز انکشافات کے بعد مصنوعی ذہانت کی ترقی کی تیز رفتار اور اس سے وابستہ سکیورٹی خدشات پر عالمی سطح پر ایک بار پھر گرما گرم بحث چھڑ گئی ہے۔ اس حوالے سے اینتھروپک کے سربراہ ڈاریو اموڈی نے یہ تجویز پیش کی ہے کہ اے آئی کی ترقیاتی دوڑ کو کچھ عرصے کے لیے سست کر دیا جائے تاکہ جدید سکیورٹی پروٹوکولز اور حفاظتی نظام تیار کرنے کے لیے خاطر خواہ وقت مل سکے۔ اوپن اے آئی کے سربراہ سیم آلٹمین اور معروف کاروباری شخصیت ایلون مسک نے اس تجویز کی تائید کی ہے، جبکہ اس کے برعکس این ویڈیا کے چیف ایگزیکٹو جینسن ہوانگ اور میٹا کے سربراہ مارک زکربرگ نے ترقیاتی عمل کو سست کرنے کے اس مطالبے سے اختلاف کیا ہے۔ امریکی صدر ڈونلڈ ٹرمپ نے بھی فی الحال اس نوعیت کی کسی بھی سرکاری پابندی یا رفتار میں کمی لانے کی تجویز کی مخالفت کی ہے۔
مزید پڑھیں: سوشل میڈیا پر تصاویر بنانے کا وائرل رجحان، اے آئی ایپس صارفین کی پرائیویسی اور سیکیورٹی کے لیے خطرناک
اوپن اے آئی نے اپنی تفصیلی رپورٹ میں اس امر کی بھی نشان دہی کی ہے کہ پوری ٹیکنالوجی انڈسٹری میں فی الحال ایسا کوئی متفقہ اور واضح معیار موجود نہیں ہے جس کے تحت تمام کمپنیوں کے لیے اس قسم کے مِس اَلائنمنٹ کے واقعات کو لازمی طور پر رپورٹ کرنا قانوناً ضروری ہو۔ کمپنی کا یہ مؤقف ہے کہ سکیورٹی، سیفٹی اور مِس اَلائنمنٹ کے حامل تمام سنجیدہ نوعیت کے واقعات کو فوری طور پر امریکی وفاقی حکومت کے ساتھ شیئر کیا جانا چاہیے۔ ادارے نے یہ وضاحت بھی فراہم کی ہے کہ زیر بحث آنے والے ان چھ واقعات میں ملوث زیادہ تر ماڈلز پرانے یا اندرونی نوعیت کے تجرباتی سسٹمز تھے جنہیں کبھی بھی عام صارفین کے استعمال کے لیے مارکیٹ میں جاری نہیں کیا گیا تھا۔ لہٰذا اس رپورٹ میں سامنے آنے والے رویوں کا یہ ہرگز مطلب نہیں ہے کہ اس وقت پبلک میں دستیاب تمام اے آئی چیٹ بوٹس اسی انداز میں کام کر رہے ہیں۔ اس کے باوجود یہ تمام واقعات اس بنیادی حقیقت کو اجاگر کرتے ہیں کہ جیسے جیسے اے آئی سسٹمز زیادہ طاقتور ہوتے جائیں گے، انہیں انسانی ضابطوں، مقررہ حدود اور اقدار کے دائرے میں رکھنے کے لیے مانیٹرنگ اور حفاظتی ٹیکنالوجی کو بھی ساتھ ساتھ اپ ڈیٹ کرنا انتہائی ضروری ہوگا۔
