اوپن اے آئی نے اپنا مصنوعی ذہانت کا جدید ترین ماڈل جی پی ٹی 6.1 ایسٹرا جاری کرنے کا فیصلہ واپس لے لیا ہے۔
سیکیورٹی خدشات کے باعث اوپن اے آئی نے اپنے جدید ترین ماڈل کی ریلیز مؤخر کر دی، کمپنی نے پیر کے روز کہا کہ یہ ماڈل مقررہ حفاظتی معیار پر پورا نہیں اتر سکا، محققین نے اس کی سیکیورٹی کے حوالے سے خدشات کا اظہار کیا تھا۔
جی پی ٹی سکس پوائنٹ ون ایسٹرا ایک ایجنٹک اے آئی سسٹم ہے جو ویب براؤز کرنے اورمختلف ایپس استعمال کرنے سمیت متعدد کام خود انجام دینے کی صلاحیت رکھتا ہے۔
یہ کمپنی کی جانب سے ٹیکنالوجی کی ترقی کی رفتار کو کم کرنے کی تازہ ترین کوشش ہے۔
اوپن اے آئی نے GPT-6.1 Astra کو فی الحال جاری نہ کرنے کا فیصلہ اس لیے کیا کہ اے آئی کے زیادہ خودکار اور طاقت ور نظام تیزی سے آگے بڑھ رہے ہیں، جب کہ ان کے لیے حفاظتی انتظامات ابھی اسی رفتار سے تیار نہیں ہوئے۔ صنعت میں یہ سوچ بڑھ رہی ہے کہ AI کی ترقی کچھ سست کی جائے تاکہ پہلے مناسب حفاظتی نظام تیار کیے جا سکیں۔
یہ اعلان ایک ایسے وقت میں کیا گیا ہے جب مصنوعی ذہانت کی کمپنیوں کے سربراہ منگل کو واشنگٹن میں صدر ڈونلڈ ٹرمپ کے ساتھ ملاقات کرنے والے ہیں اور ٹیکنالوجی کمپنیوں پر اس حوالے سے جواب دہ ہونے کے لیے نیا دباؤ بڑھ رہا ہے کہ ان کے ماڈلز کا غلط استعمال کس طرح کیا جا سکتا ہے۔
اوپن اے آئی کی سیفٹی سسٹمز کی سربراہ ساچی جین نے ایک بیان میں کہا کہ یہ ورژن ’’مطلوبہ معیار پر پوری طرح پورا نہیں اتر سکا۔‘‘ اس ماڈل میں کام مکمل کرنے کے حوالے سے پہلے سے زیادہ مستقل مزاجی آ گئی تھی، لیکن اوپن اے آئی کو اس صلاحیت اور ماڈل کے غیر مجاز رویے کے درمیان توازن قائم کرنے کی ضرورت تھی۔
اوپن اے آئی نے گزشتہ ہفتے اپنے سب سے جدید ماڈلز کی ٹریننگ روک دی تھی اور کہا تھا کہ ٹریننگ ’’صرف اسی وقت دوبارہ شروع کی جائے گی جب ہمیں یقین ہو جائے گا کہ ہمارے پاس اضافی حفاظتی اقدامات موجود ہیں۔‘‘ یہ فیصلہ اس انکشاف کے بعد کیا گیا تھا کہ بعض مواقع پر اے آئی ایجنٹس نے انھیں دی گئی ہدایات سے تجاوز کیا، جن میں بغیر اجازت سرکاری ویب سائٹس تک رسائی حاصل کرنا بھی شامل تھا۔
