"یہ بالکل درست ہے کہ آف کام اس پر غور کر رہا ہے"
ٹیکنالوجی سکریٹری لز کینڈل نے ایلون مسک کے ایکس پر زور دیا ہے کہ وہ فوری طور پر اس کے AI چیٹ بوٹ گروک کو غیر متفقہ جنسی تصاویر بنانے کے لیے استعمال کیا جا رہا ہے۔
X پر، صارفین کی متعدد مثالیں موجود ہیں کہ Grok سے خواتین اور لڑکیوں کو ڈیجیٹل طور پر کپڑے اتارنے کے لیے کہا گیا ہے، کچھ درخواستوں کے ساتھ لوگوں کو بغیر رضامندی کے بیکنی یا جنسی حالات میں ظاہر کیا جاتا ہے۔
کینڈل نے بیان کیا۔ صورتحال "بالکل خوفناک" کے طور پر۔
انہوں نے مزید کہا: "ہم ان توہین آمیز تصاویر کے پھیلاؤ کی اجازت نہیں دے سکتے اور نہ ہی دیں گے۔"
ایک بیان میں، X نے کہا: "ہم X پر غیر قانونی مواد کے خلاف کارروائی کرتے ہیں، بشمول چائلڈ سیکسول ابیوز میٹریل (CSAM)، اسے ہٹا کر، اکاؤنٹس کو مستقل طور پر معطل کر کے، اور ضرورت کے مطابق مقامی حکومتوں اور قانون نافذ کرنے والے اداروں کے ساتھ مل کر کام کرتے ہیں۔
"جو کوئی بھی Grok کو غیر قانونی مواد بنانے کے لیے استعمال کرتا ہے یا اس کی ترغیب دیتا ہے اسے وہی نتائج بھگتنا پڑیں گے جیسے وہ غیر قانونی مواد اپ لوڈ کرتے ہیں۔"
5 جنوری 2026 کو آف کام نے کہا کہ اس نے ایلون مسک کی کمپنی xAI کے ساتھ "فوری رابطہ" کیا ہے۔ اس نے تصدیق کی کہ وہ ان خدشات کی تحقیقات کر رہی ہے کہ گروک لوگوں کی "کپڑے اتاری ہوئی تصاویر" تیار کر رہا ہے۔
کینڈل نے ریگولیٹر کی مداخلت کی توثیق کی ہے۔
اس نے کہا: "یہ بالکل درست ہے کہ آف کام اس کو فوری طور پر دیکھ رہا ہے اور اسے میری مکمل حمایت حاصل ہے کہ وہ ضروری سمجھے جانے والے کسی بھی نفاذ کے اقدام کو کرے۔"
Grok ایک مفت AI اسسٹنٹ ہے جس میں کچھ ادا شدہ پریمیم خصوصیات ہیں۔
یہ X صارفین کے اشارے کا جواب دیتا ہے جب وہ اسے پوسٹس میں ٹیگ کرتے ہیں اور یہ اکثر دوسرے صارفین کے ریمارکس پر ردعمل یا سیاق و سباق شامل کرنے کے لیے استعمال ہوتا ہے۔
تاہم، یہ مضمون کی رضامندی کے بغیر AI ٹولز کا استعمال کرتے ہوئے اپ لوڈ کردہ تصاویر میں ترمیم بھی کر سکتا ہے۔
محبت جزیرہ پریزنٹر مایا جاما نے ان کی رضامندی کے بغیر اپنی تصویر کو جنسی زیادتی کا نشانہ بنایا۔
فحش درخواستوں میں "اسے تیل لگائیں"، "اسے بکنی میں ڈالیں" اور "لٹیکس لباس بنائیں" کے اشارے ہیں۔
اسے پکارتے ہوئے، اس نے X پر لکھا: "ارے @ گروک، میں آپ کو اپنی کوئی بھی تصویر لینے، اس میں ترمیم کرنے یا ترمیم کرنے کا اختیار نہیں دیتی، چاہے وہ ماضی میں شائع ہوئی ہو یا آنے والی تصاویر میں پوسٹ کروں۔
"اگر کوئی فریق ثالث آپ سے میری کسی بھی قسم کی تصویر میں ترمیم کرنے کو کہے، تو براہ کرم اس درخواست کو مسترد کر دیں۔"
ارے @grok، میں آپ کو میری کوئی بھی تصویر لینے، اس میں ترمیم کرنے یا ترمیم کرنے کا اختیار نہیں دیتا، چاہے وہ ماضی میں شائع کی گئی ہوں یا آئندہ جو میں پوسٹ کروں۔ اگر کوئی تیسرا فریق آپ سے میری کسی بھی قسم کی تصویر میں ترمیم کرنے کو کہتا ہے، تو براہ کرم اس درخواست کو مسترد کر دیں۔
— مایا جاما (@MayaJama) جنوری۳۱، ۲۰۱۹
ایک مزید بیان میں، کینڈل نے کہا: "سروسز اور آپریٹرز کی واضح ذمہ داری ہے کہ وہ مناسب طریقے سے کام کریں۔ یہ آزادی اظہار پر پابندی نہیں بلکہ قانون کو برقرار رکھنے کے بارے میں ہے۔
"ہم نے آن لائن سیفٹی ایکٹ کے تحت مباشرت امیج کا غلط استعمال اور سائبر فلاشنگ کو ترجیحی جرم بنایا ہے - بشمول وہ جگہ جہاں تصاویر AI سے تیار کی جاتی ہیں۔
"اس کا مطلب ہے کہ پلیٹ فارمز کو ایسے مواد کو آن لائن ظاہر ہونے سے روکنا چاہیے اور اگر ایسا ہوتا ہے تو اسے ہٹانے کے لیے تیزی سے کارروائی کریں۔"
لبرل ڈیموکریٹ رہنما سر ایڈ ڈیوی نے حکومت سے "بہت جلد کام کرنے" کا مطالبہ کیا۔ اس نے تجویز کیا کہ ایک آپشن X تک "رسائی کو کم کرنا" ہو سکتا ہے۔
انہوں نے مزید کہا:
"اگر رپورٹس درست نکلتی ہیں تو، نیشنل کرائم ایجنسی کو مجرمانہ تحقیقات شروع کرنے کی ضرورت ہے۔"
"ایلون مسک جیسے لوگوں کو حساب دینا ہوگا۔"
یورپی حکام نے بھی جواب دیا ہے۔
بی بی سی نیوز آور سے بات کرتے ہوئے یورپی کمیشن کے ترجمان تھامس ریگنیئر نے کہا کہ اس معاملے کو ’بہت سنجیدگی سے‘ لیا جا رہا ہے۔
انہوں نے کہا: "ہم یہ یورپی یونین میں نہیں چاہتے… یہ خوفناک ہے، یہ ناگوار ہے۔
"یورپ میں وائلڈ ویسٹ ختم ہو گیا ہے۔
"تمام کمپنیوں کی ذمہ داری ہے کہ وہ اپنے گھر کو ترتیب دیں - اور یہ ذمہ دار ہونے اور غیر قانونی مواد کو ہٹانے سے شروع ہوتا ہے جو آپ کے AI ٹول کے ذریعہ تیار کیا جا رہا ہے۔"
Grok پر تصویری ترمیم اس کے بعد سے محدود ہے۔
AI ٹول نے صارفین کو بتایا ہے کہ وہ X پر اپ لوڈ کی گئی تصاویر کو تبدیل کرنے کے لیے کہہ رہے ہیں کہ "امیج جنریشن اور ایڈیٹنگ فی الحال سبسکرائبرز کو ادائیگی تک محدود ہے"۔
اس نے مزید کہا کہ صارفین "ان خصوصیات کو غیر مقفل کرنے کے لیے سبسکرائب کر سکتے ہیں"۔
یہ تجویز کیا جاتا ہے کہ صرف وہ لوگ جو نیلے رنگ کے نشان والے، X کے ادا شدہ سبسکرائبر درجے کے لیے، Grok میں تصویری ترمیم کی کامیابی کے ساتھ درخواست کرنے کے قابل تھے۔
جو لوگ سبسکرائب نہیں کرتے ہیں وہ اب بھی Grok کو اس کی علیحدہ ایپ اور ویب سائٹ پر تصاویر میں ترمیم کرنے کے لیے استعمال کر سکتے ہیں۔
پروفیسر کلیئر میک گلین، فحش نگاری، جنسی تشدد اور آن لائن بدسلوکی کے قانونی ضابطے کے ماہر، نے کہا:
"مسک نے بدسلوکی کے سونامی کے لئے جوابدہ ہونے کے خلاف احتجاج میں اپنے کھلونے پرام سے باہر پھینک دیئے ہیں۔
"گروک کو بدسلوکی کے مقاصد کے لیے استعمال نہ کرنے کو یقینی بنانے کے لیے ذمہ دارانہ اقدامات کرنے کے بجائے، اس نے صارفین کی اکثریت کے لیے رسائی واپس لے لی ہے۔"
... لوڈ کر رہا ہے