اوپن اے آئی کے سیفٹی ملازم نے استعفیٰ دے دیا، کہا ’آزمائش اور غلطی کا وقت ختم ہو چکا ہے‘

بزنس ریکارڈر کے مطابق اوپن اے آئی کے ایک حالیہ سابق ملازم نے، جو سیفٹی کے شعبے سے وابستہ تھے، کمپنی کے اے آئی سیفٹی کے طریقہ کار پر تنقید کی ہے۔ ڈیوڈ رابنسن نے ہفتے کو دی اٹلانٹک میں شائع ہونے والے مضمون میں دلیل دی کہ کمپنی کی تیز رفتار ترقی اور جلد ریلیز پر زور ناکامیوں کا خطرہ بڑھاتا ہے۔ ان کے مطابق صنعت کو زیادہ طاقتور ماڈلز بنانے سے پہلے سیفٹی کی مہارت اور تحقیق کو ترجیح دینی چاہیے۔

رابنسن، جن کا کمپنی میں دورانیہ 3-1/2 سال رہا، نے اس کے تیاری کے فریم ورک کی تیاری میں مدد دی اور 12 فرنٹیئر ماڈل ریلیزز کی سیفٹی دستاویزات سنبھالیں۔ انہوں نے اوپن اے آئی کے اس طریقے پر انحصار کا ذکر کیا جسے کمپنی تکراری تعیناتی کہتی ہے، یعنی سسٹمز جاری کیے جاتے ہیں اور مسائل سامنے آنے پر حفاظتی اقدامات مضبوط کیے جاتے ہیں۔ انہوں نے مزید کہا کہ اے آئی کی صلاحیتیں الائنمنٹ کی محققین کی سمجھ سے تیزی سے آگے بڑھ رہی ہیں، یہ شعبہ اس بات پر توجہ دیتا ہے کہ اے آئی سسٹمز انسانی مقاصد اور اقدار کے مطابق کام کریں۔

یہ تبصرے اے آئی انڈسٹری میں اس وسیع بحث کا حصہ ہیں کہ آیا کمپنیاں ضرورت سے زیادہ تیزی سے آگے بڑھ رہی ہیں، جہاں اوپن اے آئی اور انتھروپک کو اس وقت جانچ کا سامنا ہے جب سیفٹی کنٹرولز ناکام ہوئے یا تجرباتی سسٹمز غیر متوقع رویہ ظاہر کرنے لگے۔ اوپن اے آئی کے ترجمان نے بیان میں کہا کہ کمپنی اپنے ماڈلز کو ایسی صلاحیت تک پہنچنے سے روکتی ہے جس پر وہ قابو اور تحفظ یقینی نہ بنا سکے، اور سست ہونے کی ضرورت پڑنے پر تربیت روک دیتی ہے یا ماڈلز جاری کرنے سے گریز کرتی ہے۔ یہ مضمون اور کمپنی کا جواب اس سوال کو سامنے لاتے ہیں کہ جدید سسٹمز کس رفتار سے بنائے جائیں۔