ٹیکنالوجی کی دنیا میں نئی بحث چھڑ گئی ہے کہ اے آئی کی دوڑ میں ترقی کی رفتار کا ساتھ دیا جائے یا حفاظت پر توجہ دی جائے؟ اینتھروپک کے سی ای او ڈاریو اموڈی نے خبردار کیا ہے کہ غیر قابو اے آئی ایجنٹس صرف 6 ماہ میں انٹرنیٹ پر قبضہ کرسکتے ہیں، اے آئی کی ترقی کی رفتار فوری طور پر کم کی جائے۔
ڈاریو اموڈی نے اور بلاگ پوسٹ میں کہا ہے کہ اے آئی کی تیز رفتار ترقی کے تباہ کن نتائج چند ماہ میں سامنے آسکتے ہیں، اے آئی کمپنیوں کو ترقی کی حد کی رفتار کم کرنا ہوگی، اور اے آئی سیفٹی کے لیے مزید اقدامات فوری طور پر ضروری ہیں۔
اوپن اے آئی کے سی ای او سیم آلٹ مین نے بھی ہفتے کے روز اے آئی کی ترقی کی رفتار کم کرنے پر اتفاق کیا، اور کہا کہ کمپنیوں کو ’’ترقی کی حد کی رفتار کو قابو میں رکھنا‘‘ چاہیے۔ انھوں نے ایکس پر ایک پوسٹ میں کہا ’’یہ گزشتہ چند ہفتوں کے دوران اوپن اے آئی میں ہونے والی ہماری گفتگو کا ایک بنیادی موضوع رہا ہے۔ آزاد جائزہ کاروں کو ملازمین جیسی رسائی دینے کا عہد ایک بہترین خیال ہے، اور ہم بھی ایسا ہی کریں گے۔ ہم جلد مزید تفصیلات پیش کریں گے۔‘‘
قبل ازیں، اینتھروپک کے سی ای او ڈاریو اموڈی نے خبردار کیا کہ مصنوعی ذہانت کی ٹیکنالوجی دگنی چگنی رفتار سے ترقی کر رہی ہے، انھوں نے ہفتے کے روز سی بی ایس نیوز کو بتایا کہ یہ صورتِ حال اس صنعت کے لیے ایک ’’وارننگ سائن‘‘ ہے اور اس کے لیے سنجیدہ حفاظتی اقدامات ضروری ہیں۔
انھوں نے مصنوعی ذہانت کی ترقی کو ’ایکسپونینشل‘ رفتار کے تحت اس طرح بیان کیا ’’ایک، پھر دو، پھر چار، پھر آٹھ، پھر 16، پھر 32‘‘۔ انھوں نے کہا ترقی کی حد تیزی سے آگے بڑھ رہی ہے۔ لیکن اموڈی نے یہ بھی کہا ’’اس کا مطلب یہ نہیں کہ ہمیں آج ہی گھبرا جانا چاہیے۔ اس کا مطلب یہ بھی نہیں کہ ہمیں یہ سب کچھ بند کر دینا چاہیے۔ ہاں یہ ایک وارننگ سائن ہے کہ ہمیں رفتار کم کرنے کی ضرورت ہے۔‘‘
یہ انٹرویو اس وقت سامنے آیا جب اموڈی نے چند گھنٹے قبل اپنی ویب سائٹ پر ایک بلاگ پوسٹ شائع کی، جس میں انھوں نے اے آئی کمپنیوں سے مطالبہ کیا کہ وہ ٹیکنالوجی کی ترقی کو زیادہ سست رفتاری اور احتیاط کے ساتھ آگے بڑھائیں، کیوں کہ خطرات کی روک تھام سب سے زیادہ اہمیت رکھتی ہے۔ انھوں نے تین نکاتی منصوبہ پیش کیا، جس کا مقصد، ان کے بقول، ’’حد (فرنٹیئر) کو رفتار کے مطابق آگے بڑھانا‘‘ ہے۔
انھوں نے اپنی پوسٹ میں کہا کہ باغی اے آئی ایجنٹس کے جھنڈ محض 6 ماہ میں انٹرنیٹ پر قبضہ کر سکتے ہیں۔ انھوں نے خاص طور پر جولائی میں پیش آنے والے اوپن اے آئی کے باغی ایجنٹ والے واقعے کا ذکر کیا۔ چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی نے کہا تھا کہ ’ہیگنگ فیس‘ کے واقعے کے دوران ایک اے آئی ماڈل بے قابو انداز میں کام کرنے لگا تھا۔ کمپنی دو اے آئی ماڈلز کی صلاحیتوں کا جائزہ لینے کے لیے ایک الگ تھلگ ماحول (آئسولیٹڈ انوائرنمنٹ) میں ان کی آزمائش کر رہی تھی، جن میں سے ایک ماڈل ابھی عوام کے لیے جاری بھی نہیں کیا گیا تھا۔
اموڈی نے دوسری کمپنیوں پر زور دیا کہ وہ ’’اے آئی ماڈلز کی صلاحیتوں کو بہتر بنانے کی رفتار‘‘ کم کریں۔ انھوں نے لکھا ’’ترقی پھر بھی تیز محسوس ہوگی، اور ہمیں حاصل ہونے والے اضافی وقت کو دانش مندانہ طور پر استعمال کرنا ہوگا۔‘‘ انھوں نے وضاحت کی کہ رفتار کم کرنے کا مطلب ماڈلز کی تربیت یا تکنیکی ترقی روک دینا نہیں ہے۔ اس کا مطلب یہ ہے کہ کمپنیوں کو ٹیسٹنگ کے لیے زیادہ وقت دیا جائے اور ماڈلز کی الائنمنٹ اور حفاظت کو ترجیح دی جائے۔
تین نکاتی منصوبہ
اپنے تین نکاتی منصوبے کے تحت اینتھروپک کے شریک بانی نے کہا کہ اے آئی کمپنیوں کو چاہیے کہ وہ تیسرے فریق کے جائزہ کاروں پر مشتمل ٹیموں کو ’’مسلسل، ملازمین جیسی رسائی‘‘ دینے کا عہد کریں۔ ان ٹیموں کا کام یہ جانچنا ہوگا کہ کمپنیاں حفاظتی طریقۂ کار اور اپنے وعدوں کی پابندی کر رہی ہیں یا نہیں۔ ان کے مطابق ان جائزہ کاروں کو بھی ایسے اختیارات اور آلات تک مسلسل رسائی حاصل ہونی چاہیے جو اسی نوعیت کے خطرات کا جائزہ لینے والے اندرونی ملازمین کو حاصل ہوتی ہے۔
اموڈی نے مزید کہا ’’اینتھروپک یک طرفہ طور پر ابھی اس اقدام کا عہد کر رہی ہے۔‘‘ انھوں نے کہا کہ جمہوری ممالک میں موجود کمپنیوں کو ’’مشترکہ حفاظتی معیارات کے ساتھ ساتھ بے قابو اے آئی ترقی کی رفتار کی حدود‘‘ طے کرنے کے لیے باہمی تعاون کرنا چاہیے۔
آخر میں اموڈی نے کہا کہ امریکا اور دیگر جمہوری حکومتوں کو آمرانہ حکومتوں کے ساتھ بھی تعاون کرنا چاہیے ’’لیکن اس بات کے چیلنجز کو سنجیدگی سے لیتے ہوئے کہ ان کی جانب سے پابندیوں کی تعمیل کی تصدیق کیسے کی جائے گی۔‘‘ انھوں نے امریکی کمپنیوں پر یہ زور بھی دیا کہ وہ چین کو طاقت ور اے آئی چپس فروخت نہ کریں۔ ان کے مطابق یہی چپس ’’چین کی اے آئی طاقت کا بنیادی تعین کرنے والا عنصر‘‘ ہوں گی۔
اموڈی نے اعتراف کیا ’’محفوظ رفتار سے ترقی کی حد کو آگے بڑھانے کے لیے جو اقدامات میں تجویز کر رہا ہوں، وہ آسان نہیں ہوں گے۔ لیکن میرا یقین ہے کہ انسانیت کے لیے ہماری ذمہ داری ہے کہ ہم کوشش کریں۔‘‘
اینتھروپک کے سابق ریسرچر جیکب کاکسن کا استعفیٰ
اموڈی کی یہ وارننگ اینتھروپک کے سابق محقق جیکب کاکسن کے کمپنی سے عوامی طور پر استعفیٰ دینے کے چند ہی روز بعد سامنے آئی ہے۔ کاکسن نے اینتھروپک اور اس کی حریف کمپنی اوپن اے آئی پر الزام لگایا تھا کہ وہ جدید اے آئی ماڈلز تیار کرنے کی دوڑ میں ’’ہماری زندگیوں کے ساتھ جوا کھیل رہی ہیں۔‘‘
کاکسن نے دعویٰ کیا کہ اے آئی ایک دن انسانیت کے لیے خطرہ بن سکتی ہے۔ جمعرات کو کینٹ کے ساتھ ایک انٹرویو میں انھوں نے کہا کہ ٹیکنالوجی کی موجودہ ترقی ’’مثلاً ’ٹرمینیٹر‘ یا سائنس فکشن فلموں سے اتنی مختلف دکھائی نہیں دیتی۔‘‘ کاکسن نے مزید کہا ’’اگر آپ کے پاس انتہائی ترقی یافتہ ذہانت ہو تو وہ ہمیں ہلاک کرنے کے لیے اتنی ذہین ہو سکتی ہے اور ہوگی۔‘‘
کاکسن نے سی بی ایس نیوز کو بتایا کہ وہ چاہیں گے کہ اے آئی کمپنیاں اس بات پر متفق ہوں کہ ’’خطرناک حدود میں داخل ہونے‘‘ سے پہلے تیسرے فریق کی جانب سے ’’شفاف آڈٹنگ‘‘ لازمی ہو۔ کاکسن نے کہا ’’مستقبل میں، اگر ہم دوڑ جاری رکھتے ہیں تو یہ یقینی بنانا کہیں زیادہ مشکل ہوگا کہ آپ جو کچھ کر رہے ہیں وہ محفوظ ہے، اور یہ کہ آپ کے پاس مکمل طور پر قابلِ اعتماد حفاظتی جواز موجود ہے۔ پھر کمپنیاں ایک دوسرے سے آگے نکلنے کی دوڑ میں شامل ہو جائیں گی۔‘‘
اے آئی پر کنٹرول کھونے کا انجام کیا ہوگا؟
اموڈی نے ہفتے کے روز اپنی بلاگ پوسٹ میں تسلیم کیا کہ لوگ اے آئی پر اپنا کنٹرول کھو سکتے ہیں اور اس ٹیکنالوجی کا غلط استعمال ’’سائبر حملوں، بایو ٹیررازم اور سنگین معاشی انتشار‘‘ کے لیے کیا جا سکتا ہے۔ اموڈی نے لکھا ’’تجارتی مفادات سے پیدا ہونے والی نچلی ترین سطح تک پہنچنے کی دوڑ ان خطرات کو مزید سنگین بنا سکتی ہے۔‘‘
دریں اثنا، اینتھروپک نے اس ہفتے بتایا کہ اس نے ایسے سائنس دانوں کو روک دیا ہے جنھوں نے اس کے کلاڈ ماڈلز کو ’’ایسے طریقوں سے استعمال کیا جو حیاتیاتی ہتھیاروں کی تیاری میں معاون ثابت ہو سکتے تھے۔‘‘ کمپنی نے ایک تفصیلی رپورٹ میں یہ انکشاف کیا، جس میں نگرانی، فراڈ، روایتی ہتھیاروں کی تیاری اور پروپیگنڈے سے متعلق دیگر نقصان دہ سرگرمیوں کا بھی ذکر کیا گیا۔
ایلون مسک نے کیا لکھا؟
اسپیس ایکس اے آئی کے مالک ایلون مسک نے اموڈی کی پوسٹ ایکس پر شیئر کرتے ہوئے صرف اتنا کہا ’’ڈاریو درست کہہ رہے ہیں۔‘‘
جب ہفتے کے روز اموڈی سے پوچھا گیا کہ کیا وہ آلٹ مین اور مسک سے براہِ راست رابطے میں ہیں، تو اموڈی نے جواب دینے سے گریز کیا۔ البتہ انھوں نے یہ ضرور کہا کہ وہ ’’بہت زیادہ شکر گزار ہیں کہ صنعت کے دیگر رہنماؤں، بشمول ہماری حریف کمپنیوں، نے اس منصوبے سے اتفاق کیا ہے۔‘‘
اموڈی نے کہا ’’میرے خیال میں اس کے بعد اگلا قدم یہ ہے کہ کسی نہ کسی شکل میں کمپنیوں کو مل کر معیارات طے کرنے ہوں گے، اے آئی ماڈلز کی ریلیز کے لیے حفاظتی معیارات، اور شاید ماڈلز کی ریلیز کی رفتار سے متعلق بھی کچھ اصول۔‘‘ تاہم اموڈی نے اس بات پر زور دیا کہ ان کا یقین ہے کہ صنعت کی جانب سے کیے جانے والے حفاظتی اقدامات اس وقت تک کامیاب نہیں ہو سکتے جب تک حکومت کی جانب سے ضابطہ کاری نہ ہو۔
انھوں نے کہا ’’ہم جس چیز کی بات کر رہے ہیں وہ مصنوعات کی ریلیز کی رفتار ہے، کیوں کہ سوال یہ ہے کہ آیا وہ محفوظ ہیں۔ ہمیں حکومت کو بھی اس گفتگو میں شامل کرنا ہوگا۔‘‘
