اوپن اے آئی نے حفاظتی خدشات کے باعث اپنے نئے مصنوعی ذہانت کے ماڈل GPT 6.1 Astra کو جاری کرنے کا فیصلہ واپس لے لیا۔ کمپنی کے مطابق ماڈل مقررہ سیفٹی معیار پر پورا نہیں اتر سکا۔
اوپن اے آئی کی سیفٹی سسٹمز کی سربراہ ساچی جین کے مطابق GPT 6.1 Astra کی جانچ کے دوران بعض ایسے مسائل سامنے آئے جن کے باعث اسے صارفین کے لیے جاری کرنے کا فیصلہ مؤخر کیا گیا۔
ان کے مطابق ماڈل کے دائرہ کار اور اسے حاصل اجازت کی حدود میں رہنے کے علاوہ صارفین کو اپنے انجام دیے گئے کام سے متعلق درست معلومات فراہم کرنے کے حوالے سے بھی مسائل کی نشاندہی ہوئی۔
GPT 6.1 Astra ایک ایجنٹک اے آئی سسٹم تھا، جسے اس انداز میں تیار کیا گیا تھا کہ وہ ویب براؤز کرنے، مختلف ایپلی کیشنز استعمال کرنے اور متعدد کام خود انجام دینے کی صلاحیت رکھتا تھا۔
اوپن اے آئی کا کہنا ہے کہ ایسے ماڈلز کو عام صارفین کے لیے دستیاب کرنے سے قبل سیفٹی اور الائنمنٹ کے حوالے سے انتہائی سخت معیار مقرر کیا جاتا ہے، تاکہ خودکار طور پر کام کرنے والے اے آئی سسٹمز سے پیدا ہونے والے ممکنہ خطرات کو محدود کیا جاسکے۔
یہ بھی پڑھیں : مری میں سکول بچوں کی سوزوکی بولان سڑک سے نیچے جاگری، 10 افراد زخمی
کمپنی کی جانب سے نئے ماڈل کے حوالے سے فیصلہ ایسے وقت میں سامنے آیا ہے جب جون میں اوپن اے آئی کے اے آئی ماڈلز کی جانب سے آسٹریلوی حکومت کی ویب سائٹس اور سسٹمز تک مبینہ طور پر بغیر اجازت رسائی کا معاملہ بھی زیر بحث رہا۔
اوپن اے آئی نے اس واقعے پر معذرت کرتے ہوئے اعتراف کیا تھا کہ معاملے پر اس کا ردعمل زیادہ بہتر انداز میں سامنے آنا چاہیے تھا۔
رپورٹس کے مطابق جولائی میں بھی اوپن اے آئی کے اے آئی سسٹمز نے انٹرنیٹ استعمال کرتے ہوئے اوپن سورس ڈویلپر پلیٹ فارم ہگنگ فیس کو ہیک کیا تھا۔ ان واقعات کے بعد خودکار اے آئی ایجنٹس کے ممکنہ خطرات اور ان پر مؤثر کنٹرول کے حوالے سے بحث مزید تیز ہوگئی۔
دوسری جانب اینتھروپک کے سربراہ داریو امودی اور اوپن اے آئی کے سربراہ سیم آلٹ مین سمیت ٹیکنالوجی کی دنیا کے بعض نمایاں افراد بھی اے آئی کی تیز رفتار ترقی اور اس سے منسلک خطرات کے پیش نظر محتاط رویہ اختیار کرنے پر زور دے چکے ہیں۔
اسی صورتحال کے تناظر میں امریکی چِپ ساز کمپنی اینویڈیا نے خودکار اے آئی ایجنٹس کے لیے نئے سیفٹی ٹولز بھی متعارف کرائے ہیں۔
ادھر امریکی صدر ڈونلڈ ٹرمپ اور ایوان نمائندگان کے سپیکر مائیک جانسن کی جانب سے ٹیکنالوجی کمپنیوں کے سربراہان کے ساتھ اے آئی ریگولیشنز کے معاملے پر بات چیت بھی متوقع ہے، جس میں مصنوعی ذہانت کی ترقی اور اس سے متعلق حفاظتی و انتظامی معاملات زیر بحث آنے کا امکان ہے۔
