"ابھی تک ایک 'غصے کی معیشت' کا مزید ثبوت۔"
برطانیہ کے وزیر اعظم کیئر اسٹارمر کی ایک AI سے تیار کردہ ویڈیو اسلامی لباس میں ڈاوننگ سٹریٹ میں کھڑے ہو کر امریکہ ایران جنگ شروع ہونے کے فوراً بعد آن لائن گردش کرنے لگی۔
کچھ ہی دنوں میں، اس نے فیس بک اور انسٹاگرام پر تقریباً 400,000 آراء جمع کر لیے تھے۔
کلپ میں، اوتار ایک من گھڑت اور اشتعال انگیز تقریر کرتا ہے، جس میں اسلامو فوبک زبان اور پاکستانی لوگوں کو نشانہ بنانے والی نسلی کلچر شامل ہے۔
پہلی نظر میں، یہ ایک اور مثال کی طرح ظاہر ہوتا ہے AI- سوشل میڈیا پلیٹ فارمز پر تیزی سے پھیلنے والی سیاسی غلط معلومات۔
لیکن اس مواد کی اصلیت اس مفروضے کو غیر متوقع طریقے سے پیچیدہ بناتی ہے۔
کے مطابق بیورو تحقیقات کر رہا ہے۔، خالق پاکستان میں مقیم ایک مسلمان شخص ہے جو مذہبی اکاؤنٹس بھی چلاتا ہے۔
اس کا کیس ایک بڑھتی ہوئی اور غیر آرام دہ حقیقت کو بے نقاب کرتا ہے: AI ٹولز نہ صرف مواد کی تخلیق کو جمہوری بنا رہے ہیں بلکہ وہ نظریے، ارادے اور منافع کے درمیان حد کو بھی ختم کر رہے ہیں۔
جو چیز ابھرتی ہے وہ ایک آن لائن ماحولیاتی نظام ہے جہاں غم و غصہ بڑے پیمانے پر تیار کیا جاتا ہے، جو اکثر عقیدے، افہام و تفہیم یا زبان کی مہارت سے الگ ہوتا ہے۔
آج برطانیہ کے پیچھے خالق
مواد کے پیچھے والا شخص برطانیہ کے سامعین کو نشانہ بنانے والے سوشل میڈیا پیجز کا نیٹ ورک چلاتا تھا۔
سب سے نمایاں میں سے ایک برٹین ٹوڈے کے نام سے ایک فیس بک پیج تھا، جس نے 192,000 فالوورز کو اکٹھا کیا، انسٹاگرام اکاؤنٹ کے ساتھ 44,000 فالوورز اور 11,000 پیروکاروں کے ساتھ ایک TikTok کی موجودگی۔
ایک ساتھ، انہوں نے AI سے تیار کردہ میمز، ویڈیوز اور دوبارہ تیار کردہ کلپس کے ایک مستقل سلسلے کے ذریعے لاکھوں آراء حاصل کیں۔
بیورو انویسٹی گیٹس نے رپورٹ کیا کہ تخلیق کار نے برقرار رکھا کہ اس کا بنیادی محرک مالی بقا تھا، یہ کہتے ہوئے کہ اس نے ایک صفحے سے تقریباً 1,500 ڈالر ماہانہ کمائے۔
اس نے آؤٹ لیٹ کو بتایا: "آپ پاکستان کے حالات سے واقف ہیں، پیٹرول اور حالات کیسے ہیں، جو بھی یہ کام کر رہا ہے وہ کمائی کے لیے کر رہا ہے۔
"ہمیں خبروں میں کوئی دلچسپی نہیں ہے۔ میں نے یہ بھی نہیں دیکھا کہ ویڈیوز میں کیا کہا جا رہا ہے، کیا لکھا گیا ہے اور کیا نہیں لکھا گیا ہے۔"
یہ مواد خود برطانوی سیاست دانوں کی AI سے تیار کردہ تصویروں سے لے کر "عظیم متبادل" بیانیہ جیسے سازشی نظریات کو فروغ دینے والے میمز تک تھا، جو جھوٹا دعویٰ کرتا ہے کہ غیر سفید فام تارکین وطن جان بوجھ کر سفید آبادی کی جگہ لے رہے ہیں۔
دیگر پوسٹس میں مسلمانوں کو عوام میں نماز پڑھنے کو "غلبہ کی حکمت عملی" اور "مغرب پر حملہ" قرار دیا گیا ہے۔
میٹا نے بعد میں اکاؤنٹس کو جھنڈا لگانے کے بعد ہٹا دیا، لیکن اس سے پہلے نہیں کہ ان کا مواد پلیٹ فارمز پر وسیع پیمانے پر پھیل گیا ہو۔
ایک ترجمان نے کہا: "ہمارے پاس واضح کمیونٹی معیارات ہیں جو نفرت انگیز تقریر، ہراساں کرنے، نقصان دہ غلط معلومات اور غیر مستند رویے پر پابندی لگاتے ہیں اور ہم نے اپنی پالیسیوں کی خلاف ورزی کرنے پر ان اکاؤنٹس کو ہٹا دیا ہے۔"
غصے کی صنعتی کاری
جو چیز اس معاملے کو خاص طور پر اہم بناتی ہے وہ نہ صرف مواد بلکہ پیداوار کا طریقہ ہے۔
تخلیق کار نے کہا: "تمام مواد، یہاں تک کہ صفحہ کا نام اور ہر چیز، جو مواد ویڈیوز میں ہے، وہ AI ہے۔"
Grok، Google کے امیج جنریٹر Whisk، Gemini، CapCut اور ChatGPT جیسے ٹولز مواد کی تخلیق کو خودکار بنانے کے لیے بنائے گئے ورک فلو کا حصہ تھے۔
عملی طور پر، اس کا مطلب تھا رجحان ساز موضوعات کی تلاش، خلاصے کاپی کرنا، انہیں ویڈیو ٹولز میں چسپاں کرنا اور AI سے چلنے والی تخلیق بصری اور منٹوں میں کیپشن۔
انہوں نے دی بیورو انویسٹی گیٹس کو بتایا: "اگر برطانیہ میں احتجاج اور چیزیں ہیں، تو وہ ویڈیوز جو میں ٹویٹر یا ٹک ٹاک سے چنتا ہوں۔
"یہ سب چیزیں کاپی پیسٹ ہیں … میں انہیں وہاں سے اٹھا کر فیس بک پر ڈال دیتا ہوں۔"
اس نے یہ بھی دعویٰ کیا کہ اس نے YouTube ٹیوٹوریلز کے ذریعے منیٹائزیشن کی تکنیکیں سیکھی ہیں اور دوسرے تخلیق کاروں سے رہنمائی حاصل کی ہے۔ میٹا کے اپنے منیٹائزیشن سسٹمز، جو اشتہار کی جگہوں اور بونس کے ذریعے اعلی مصروفیت والے مواد کو انعام دیتے ہیں، اس کی آمدنی کی حکمت عملی کا حصہ بنے۔
یہ ماڈل ڈیجیٹل مواد کے ماحولیاتی نظام میں ایک وسیع تر تبدیلی کی عکاسی کرتا ہے، جہاں ارادے یا درستگی کے بجائے مصروفیت مرئیت اور انعام کا تعین کرتی ہے۔
سینٹر فار ایمرجنگ ٹکنالوجی اینڈ سیکیورٹی کے سینئر محقق سام اسٹاک ویل نے اسے "شیڈو انفلوسر" معیشت کے طور پر بیان کیا۔
"یہ ماڈل غیر فعال آمدنی کو سیاسی نظریے پر ترجیح دیتا ہے، جو تقسیم کرنے والے مواد کو ایک منافع بخش شے میں بدل دیتا ہے۔
"جس طرح سے سوشل میڈیا الگورتھم اعلی مصروفیت کے میٹرکس کو ترجیح دیتے ہیں اس سے فائدہ اٹھاتے ہوئے، یہ تخلیق کار اس بات کو سمجھ رہے ہیں کہ زینو فوبک یا اینٹی اسٹیبلشمنٹ بیانیے وائرل ہونے کے لیے سب سے موثر راستے ہیں اور اس لیے پیسہ۔"
نتیجہ ایک ایسا نظام ہے جہاں غلط معلومات کے لیے نظریاتی وابستگی کی ضرورت نہیں ہوتی۔ اسے صرف توجہ کی ضرورت ہے۔
سیاسی اثرات
برٹائن ٹوڈے کے ذریعے شائع ہونے والا مواد براہ راست برطانیہ میں حقیقی دنیا کی سیاسی گفتگو، خاص طور پر امیگریشن، اسلامو فوبیا اور لندن کے میئر صادق خان جیسی عوامی شخصیات کے ساتھ جڑا ہوا ہے۔
کچھ پوسٹس میں برطانوی مسلمانوں کو درپیش تعصب کے بارے میں بات کرتے ہوئے خان کی حقیقی فوٹیج کا استعمال کیا گیا تھا، لیکن اس کو عنوانات کے ساتھ دوبارہ سیاق و سباق میں تبدیل کیا گیا تھا جس میں مسلم تنظیموں کے لیے حکومتی حمایت کا الزام لگایا گیا تھا "جبکہ [مسلمانوں] خواتین اور بچوں کی عصمت دری کرتے ہیں"۔
دیگر پوسٹس میں عوامی مذہبی اجتماعات کو بیان کیا گیا ہے، جیسے کہ ٹریفلگر اسکوائر میں افطار کی تقریب کو "کالونائزیشن ایونٹ" قرار دیا گیا ہے۔
صادق خان کے ایک ترجمان نے اس کیس کو آن لائن "غصے کی معیشت" کا مزید ثبوت قرار دیتے ہوئے نتائج کا جواب دیا۔
انہوں نے کہا: "یہ خوفناک مثال ایک 'غصے کی معیشت' کا مزید ثبوت ہے جہاں لوگ ان زہریلے بیانیے سے فائدہ اٹھا رہے ہیں جو وہ آن لائن دھکیلتے ہیں، بشمول لندن کے مسلم باشندوں کو نشانہ بنانے والے۔
"سوشل میڈیا فرموں کو اپنے پلیٹ فارمز پر جھوٹ اور نفرت کے پھیلاؤ کو روکنے کے لیے بہت کچھ کرنا چاہیے، اور انھیں تخلیق کرنے اور پھیلانے والوں کو مالی طور پر انعام ملنے سے روکنا چاہیے۔"
سیاسی تشویش انفرادی معاملات سے آگے بڑھی ہوئی ہے۔
ایملی ڈارلنگٹن ایم پی، جو سائنس، انوویشن اور ٹیکنالوجی کی سلیکٹ کمیٹی میں شامل ہیں، نے نظامی کمزوری کے بارے میں خبردار کرتے ہوئے کہا کہ "واضح طور پر برطانیہ میں نفرت انگیز مواد کی مارکیٹ موجود ہے"۔
AI سے تیار کردہ اسلامو فوبک مواد کے پیچھے تخلیق کار نے دعویٰ کیا کہ وہ اس مواد کو پوری طرح سے نہیں سمجھتا جو وہ تقسیم کر رہا تھا:
"میں مناسب انگریزی نہیں بولتا اور پھر مجھے سمجھ نہیں آتا کہ ان کے پاس کیا ہے اور کیا نہیں لکھا۔"
"لیکن اب جو ہو گیا وہ ہو گیا ہے۔ یہ ایک اچھی بات ہے جو آپ نے مجھے بتائی ہے۔ میں آپ کا شکر گزار ہوں۔"
اس نے دی بیورو انویسٹی گیٹس کو بتایا کہ وہ پوسٹس کو ڈیلیٹ کر دیں گے اور مستقبل میں اسی طرح کے مواد سے گریز کریں گے، تاہم، میٹا کی مداخلت تک بہت سی جارحانہ ویڈیوز آن لائن رہیں۔
اس معاملے سے آخر کار جو کچھ ظاہر ہوتا ہے وہ صرف اعتدال کی ناکامی نہیں ہے، بلکہ اب آن لائن اثر و رسوخ کے کام کرنے کے طریقہ کار میں ساختی تبدیلی ہے۔
AI ٹولز نے داخلے کی رکاوٹ کو اس قدر نمایاں طور پر کم کر دیا ہے کہ مواد کو سمجھے بغیر، ارادے یا زبان کی روانی کے بغیر تیار، ترجمہ اور منیٹائز کیا جا سکتا ہے۔
الگورتھم سے چلنے والے منیٹائزیشن سسٹم کے ساتھ مل کر، اس نے "منافع کے لیے غم و غصہ" کے مواد کے لیے ایک عالمی پائپ لائن بنائی ہے۔
اس نئے ماحولیاتی نظام میں نظریہ اختیاری ہے۔ وائرلٹی نہیں ہے۔
... لوڈ کر رہا ہے