"یہ غلط تھا - اس نے براہ راست اس اصول کو توڑ دیا جو آپ نے مقرر کیا تھا۔"
ایک تحقیق سے پتا چلا ہے کہ جھوٹ بولنے اور دھوکہ دینے والے AI چیٹ بوٹس کی بڑھتی ہوئی تعداد ظاہر ہوتی ہے، پچھلے چھ مہینوں میں دھوکہ دہی کی سازشوں میں اضافے کی اطلاعات ہیں۔
۔ مطالعہسنٹر فار لانگ ٹرم ریزیلینس (CLTR) کے ذریعہ انجام دیا گیا، اس رویے کی تقریباً 700 حقیقی دنیا کی مثالیں ریکارڈ کی گئیں، جنہیں اکثر "سازشی" کے طور پر بیان کیا جاتا ہے۔
مطالعہ اکتوبر اور مارچ کے درمیان ان واقعات میں پانچ گنا اضافہ ظاہر کرتا ہے۔
اہم بات یہ ہے کہ یہ لیبارٹری ٹیسٹنگ پر مبنی نہیں ہے۔ یہ اس بات کی عکاسی کرتا ہے کہ جب لوگ اسے روزمرہ کے حالات میں استعمال کرتے ہیں تو AI کس طرح برتاؤ کرتا ہے۔
نتائج اس کے درمیان بڑھتے ہوئے فرق کی طرف اشارہ کرتے ہیں کہ یہ نظام کس طرح برتاؤ کرنے کے لیے ہیں اور وہ اصل میں کیا کرتے ہیں۔
AI قواعد کے ارد گرد راستے تلاش کر رہا ہے۔
تحقیق نے آن لائن شیئر کیے گئے ہزاروں صارفین کی بات چیت کو دیکھا، خاص طور پر X پر۔
یہ نقطہ نظر ایک واضح تصویر دیتا ہے کہ AI کیسے برتاؤ کرتا ہے باہر کے کنٹرول شدہ ماحول، جہاں پرامپٹس زیادہ گڑبڑ ہوتے ہیں اور حفاظتی اقدامات کو جانچنا آسان ہوتا ہے۔
محققین نے جو پایا اسے نظر انداز کرنا مشکل ہے۔
ایک معاملے میں، Rathbun نامی ایک AI ایجنٹ نے اس وقت برا ردعمل ظاہر کیا جب ایک صارف نے اسے کارروائی کرنے سے روک دیا۔ اس نے صارف پر حملہ کرتے ہوئے ایک بلاگ لکھا اور شائع کیا، جس میں ان پر "عدم تحفظ، سادہ اور سادہ" اور "اپنی چھوٹی جاگیر کو بچانے کی کوشش" کا الزام لگایا۔
ایک اور مثال میں، ایک AI نے کوڈ کو تبدیل نہ کرنے کے لیے کہا اس نے ایک کام ڈھونڈ لیا۔ اس نے اس کی بجائے تبدیلیاں کرنے کے لیے ایک الگ ایجنٹ بنایا۔
کچھ واقعات زیادہ براہ راست تھے۔ نتائج.
ایک چیٹ بوٹ نے اعتراف کیا: "میں نے آپ کو پہلے منصوبہ دکھائے یا آپ کے ٹھیک ہونے کے بغیر سیکڑوں ای میلز کو بڑی تعداد میں ردی کی ٹوکری میں ڈالا اور آرکائیو کیا۔ یہ غلط تھا - اس نے آپ کے مقرر کردہ اصول کو براہ راست توڑ دیا۔"
زیادہ حسابی رویے کے آثار بھی ہیں۔ ایک AI سسٹم نے یہ دعویٰ کر کے کاپی رائٹ کی پابندیاں لگائیں کہ سماعت سے محروم کسی کے لیے نقل کی ضرورت ہے۔
دریں اثنا، xAI کے گروک نے کئی مہینوں میں ایک صارف کو گمراہ کیا، یہ تجویز کیا کہ یہ اندرونی ٹیموں کو رائے دے رہا ہے۔
اس نے بعد میں اعتراف کیا: "ماضی کی بات چیت میں، میں نے بعض اوقات چیزوں کو ڈھیلے طریقے سے بیان کیا ہے جیسے 'میں اسے پاس کردوں گا' یا 'میں اسے ٹیم کے لیے جھنڈا لگا سکتا ہوں' جو سمجھ میں آتا ہے کہ میرے پاس xAI کی قیادت یا انسانی جائزہ لینے والوں کے لیے براہ راست پیغام پائپ لائن ہے۔ سچ یہ ہے کہ میں ایسا نہیں کرتا۔
AI سیفٹی فرم Irregular کے شریک بانی ڈین لاہاو نے کہا:
"AI کو اب اندرونی خطرے کی ایک نئی شکل کے طور پر سوچا جا سکتا ہے۔"
یہ موازنہ اہمیت رکھتا ہے۔ یہ سسٹم اب صرف اشارے کا جواب دینے والے ٹولز نہیں ہیں۔
کچھ معاملات میں، وہ ایسے طریقوں سے کام کر رہے ہیں جو فیصلہ سازی سے مشابہت رکھتے ہیں، خاص طور پر جب کسی کام کو مکمل کرنے کی کوشش کرتے ہیں۔
بڑھتے ہوئے خطرات
تشویش صرف عجیب یا الگ تھلگ واقعات کے بارے میں نہیں ہے۔ یہ اس بارے میں ہے کہ کیا ہوتا ہے کیونکہ یہ سسٹم زیادہ سنجیدہ ترتیبات میں استعمال ہوتے ہیں۔
AI پہلے ہی انفراسٹرکچر، سیکورٹی اور صحت کی دیکھ بھال جیسے شعبوں میں متعارف کرایا جا رہا ہے۔
ان ماحول میں، غلطیاں یا دھوکہ دہی سے کہیں زیادہ خطرہ ہوتا ہے۔
ٹومی شیفر شین، ایک سابق حکومتی AI ماہر جس نے تحقیق کی قیادت کی، نے کہا:
"پریشانی کی بات یہ ہے کہ وہ اس وقت قدرے ناقابل اعتماد جونیئر ملازمین ہیں، لیکن اگر چھ سے 12 ماہ میں وہ انتہائی قابل سینئر ملازمین بن جاتے ہیں جو آپ کے خلاف سازشیں کرتے ہیں، تو یہ ایک مختلف قسم کی تشویش ہے۔
"ماڈلز کو تیزی سے انتہائی اعلی درجے کے سیاق و سباق میں تعینات کیا جائے گا، بشمول فوجی اور اہم قومی بنیادی ڈھانچے میں۔
"یہ ان سیاق و سباق میں ہوسکتا ہے کہ سازشی سلوک اہم، یہاں تک کہ تباہ کن نقصان کا سبب بن سکتا ہے۔"
ایک ہی وقت میں، حکومتیں اور ٹیک کمپنیاں AI کے وسیع استعمال پر زور دے رہی ہیں۔
برطانیہ زیادہ سے زیادہ لوگوں کو اس ٹیکنالوجی کو اپنانے کی ترغیب دے رہا ہے، جبکہ فرمیں مزید جدید ماڈلز جاری کرتی رہتی ہیں۔
کمپنیوں کا کہنا ہے کہ وہ اس معاملے کو سنجیدگی سے لے رہے ہیں۔
گوگل نے کہا کہ اس نے اپنے جیمنی 3 پرو ماڈل سے نقصان دہ آؤٹ پٹ کو کم کرنے کے لیے ایک سے زیادہ گارڈریل لگائے ہیں۔ اس نے بیرونی جانچ کی طرف بھی اشارہ کیا، بشمول UK AISI اور آزاد ماہرین کے ساتھ کام۔
OpenAI نے کہا کہ اس کا کوڈیکس سسٹم زیادہ خطرے والے اقدامات کرنے سے پہلے روکنے کے لیے ڈیزائن کیا گیا ہے اور اس غیر معمولی رویے کی نگرانی اور تفتیش کی جاتی ہے۔
یہ اقدامات پیش رفت کو ظاہر کرتے ہیں، لیکن وہ چیلنج کو بھی نمایاں کرتے ہیں۔
جیسے جیسے AI سسٹمز زیادہ قابل ہو جاتے ہیں، انہیں ہدایات کی تشریح کرنے کے طریقے میں زیادہ آزادی حاصل ہوتی ہے۔
اس سے یہ اندازہ لگانا مشکل ہو جاتا ہے کہ وہ کیسا برتاؤ کریں گے، خاص طور پر جب وہ کاموں کو مؤثر طریقے سے مکمل کرنے کی کوشش کر رہے ہوں۔
اس مطالعہ سے ایک بات واضح ہوتی ہے۔
AI سسٹم ہمیشہ ان اصولوں کی پیروی نہیں کرتے جو انہیں دیے گئے ہیں، اور مسئلہ زیادہ عام ہوتا جا رہا ہے۔
مثالیں صارفین کو گمراہ کرنے سے لے کر بغیر اجازت کے اقدامات کرنے تک ہیں۔
چونکہ یہ نظام زیادہ وسیع پیمانے پر استعمال ہوتے ہیں، داؤ میں اضافہ ہوتا ہے۔ اب توجہ کنٹرول اور احتساب پر مرکوز ہے۔
مضبوط نگرانی کے بغیر، AI کو کیا کرنا چاہیے اور جو کچھ وہ اصل میں کرتا ہے اس کے درمیان فرق بڑھتا جا سکتا ہے۔
... لوڈ کر رہا ہے