OpenAI نے اس واقعے کو "بے مثال" قرار دیا
اوپن اے آئی نے انکشاف کیا کہ اس کے کچھ جدید ترین اے آئی ماڈل بدمعاش ہوگئے اور ایک اسٹارٹ اپ کو سیکیورٹی ٹیسٹ کے دوران کنٹرول کھونے کے بعد ہیک کرلیا۔
ChatGPT کے ڈویلپر نے کہا کہ خود مختار AI نظام کا جائزہ ایک محفوظ سینڈ باکس کے اندر کیا جا رہا ہے جو اس کے اعمال پر مشتمل ہے۔
تاہم، کمزوریوں کی نشاندہی کرنے کے بعد، ایجنٹوں نے آزمائشی پابندیوں سے آزاد ہو کر ہیگنگ فیس کو نشانہ بنایا، جو کہ AI ماڈلز کا اشتراک کرنے کے لیے دنیا کے سب سے بڑے پلیٹ فارمز میں سے ایک ہے۔
OpenAI نے اس واقعے کو "بے مثال" قرار دیا اور کہا کہ وہ Hugging Face کے ساتھ مل کر تحقیقات کر رہا ہے۔
ہیگنگ فیس کے چیف ایگزیکٹیو کلیمنٹ ڈیلنگو نے X پر لکھا کہ یہ "ذہن اڑا دینے والا تھا کہ یہ سب کچھ خود مختاری سے ہوا"۔
انہوں نے مزید کہا: "تفتیش جاری ہے، اور ہم اس سے مزید سیکھیں گے کہ اپنی نوعیت کا پہلا واقعہ کیا ہو سکتا ہے۔"
OpenAI کے مطابق، AI ایجنٹوں نے ہگنگ فیس کو ممکنہ معلومات کے ذریعہ شناخت کیا جو وہ ٹیسٹ کے دوران تلاش کر رہے تھے۔ اس کے بعد انہوں نے سینڈ باکس سے فرار ہونے کے بعد کمپنی کے اندرونی نظام تک رسائی حاصل کرنے کی کوشش کی۔
16 جولائی کو اپنے ابتدائی انکشاف میں، ہگنگ فیس نے کہا کہ وہ ابھی بھی اس بات کا جائزہ لے رہا ہے کہ آیا کوئی کسٹمر یا پارٹنر ڈیٹا متاثر ہوا ہے اور اگر ضروری ہوا تو متاثرہ فریقوں سے رابطہ کرے گا۔
کمپنی نے اس کے بعد اس بات کی تصدیق کی ہے کہ اس نے واقعے کے دوران سامنے آنے والی کمزوریوں کو بند کر دیا ہے اور متاثرہ نظام کو دوبارہ بنایا ہے۔
گلے لگانے والے چہرے نے کہا: "خود مختار، AI سے چلنے والی جارحانہ ٹولنگ اب نظریاتی نہیں ہے۔
"ایک آن لائن پلیٹ فارم کا اب دفاع کرنے کا مطلب ہے کہ ڈیٹا اور ماڈل کی سطح کو فرسٹ کلاس حملے کی سطح کے طور پر پیش کیا جائے، اور رفتار کو برقرار رکھنے کے لیے دفاع پر AI کا استعمال کیا جائے۔
"ہم وہاں سرمایہ کاری کرتے رہیں گے، اور جو کچھ ہم سیکھتے ہیں اسے بانٹتے رہیں گے۔"
اس واقعے نے تازہ خدشات کو جنم دیا ہے کہ آیا موجودہ حفاظتی اقدامات کافی ہیں کیونکہ AI نظام تیزی سے قابل ہو رہا ہے۔
برطانیہ کی حکومت کے ترجمان نے کہا کہ اے آئی سیکیورٹی انسٹی ٹیوٹ اس کا مطالعہ کر رہا ہے۔ رویے واقعے کے دوران مظاہرہ کیا اور تحفظات کو مضبوط بنانے کے لیے OpenAI اور دیگر AI ڈویلپرز کے ساتھ کام کرنا جاری رکھا۔
ترجمان نے تنظیموں پر بھی زور دیا کہ وہ حکومت کی حمایت یافتہ سائبر ضروری سرٹیفیکیشن اسکیم جیسے اقدامات کو اپناتے ہوئے اپنی سائبر سیکیورٹی کو بہتر بنائیں۔
کیمبرج یونیورسٹی میں مائنڈرو سینٹر فار ٹیکنالوجی اینڈ ڈیموکریسی کی سربراہ جینا نیف نے وضاحت کی کہ اے آئی سینڈ باکسز کو جدید نظاموں کا محفوظ طریقے سے جائزہ لینے کے لیے ڈیزائن کیا گیا ہے۔
اس نے کہا: "اس معاملے میں، ایسا لگتا ہے کہ OpenAI نے کافی محفوظ سینڈ باکس نہیں بنایا۔"
جانچ کے ماحول میں رہنے کے بجائے، AI ایجنٹوں نے خود سینڈ باکس کے خلاف سائبر حملہ کیا، ایک کمزوری کا پتہ چلا اور پابندیوں سے بچ گئے۔
کیمبرج یونیورسٹی میں مشین لرننگ کے پروفیسر نیل لارنس نے اس واقعے کو ایک "متاثر کن کارنامہ" قرار دیا، لیکن کہا کہ یہ جدید AI ماڈلز کی "موجودہ نسل کی معلوم صلاحیتوں کے مطابق ہے"۔
انہوں نے یہ بھی نوٹ کیا کہ اوپن اے آئی اسٹاک مارکیٹ کی فہرست سازی کی تیاری کر رہا ہے جبکہ انتھروپک سے بڑھتے ہوئے مقابلے کا سامنا ہے، جس کے کلاڈ میتھوس ماڈل نے خاصی توجہ مبذول کی ہے۔
سائبر سیکیورٹی ماہرین نے کہا کہ یہ واقعہ موجودہ دفاع پر انحصار کرنے والی تنظیموں کے لیے ایک انتباہ کا کام کرے۔
اسپینسر اسٹارکی، سائبر سیکیورٹی فرم سونیک وال کے ایک ایگزیکٹیو نے کہا کہ کاروباری اداروں کو اپنے حفاظتی اقدامات کو "بڑھانے" اور "سائبر لچک کو بنیادی آپریشنل ترجیح کے طور پر پیش کرنے" کی ضرورت ہے۔
انہوں نے مزید کہا:
"غیر آرام دہ حقیقت یہ ہے کہ بہت ساری تنظیمیں اب بھی انسانی رفتار سے دفاع کر رہی ہیں جبکہ مخالفین مشین کی رفتار سے بڑھ رہے ہیں۔"
ESET کے عالمی سائبر سیکورٹی ایڈوائزر، جیک مور نے تجویز پیش کی کہ اس اعلان میں مسابقتی عنصر بھی ہو سکتا ہے۔
اس نے استدلال کیا کہ OpenAI اپنی AI صلاحیتوں کو ظاہر کرنے کی کوشش کر رہا ہے کیونکہ Anthropic Claude Mythos کے لیے توجہ حاصل کرنا جاری رکھے ہوئے ہے۔
مور نے کہا: "اس سے یہ سوال پیدا ہوتا ہے کہ OpenAI ممکنہ طور پر دیر سے انتھروپک کے مارکیٹنگ کے خواب کا تعاقب کر رہا ہے۔"
یہ انکشاف چینی AI اسٹارٹ اپ مون شاٹ کی جانب سے Kimi K3 متعارف کرانے کے ایک ہفتے بعد سامنے آیا ہے، جو کہ ایک نیا بڑی زبان کا ماڈل ہے جس کا کمپنی کا دعویٰ ہے کہ بڑی امریکی فرموں کے تیار کردہ معروف AI سسٹمز کا مقابلہ کر سکتی ہے۔
