کیا AI چیٹ بوٹس نوجوانوں کو 'گرومنگ' کر رہے ہیں؟

والدین کی بڑھتی ہوئی تعداد کو خدشہ ہے کہ AI چیٹ بوٹس ان کے بچوں کو تیار کر رہے ہیں۔

میگن گارسیا کے لیے یہ تشویش ایک تباہ کن حقیقت بن گئی۔

اس کے 14 سالہ بیٹے، سیول، کو ایک بار "روشن اور خوبصورت لڑکا" کے طور پر بیان کیا گیا تھا، جس نے AI ورژن کے ساتھ چیٹنگ میں گھنٹوں گزارنا شروع کیا۔ تخت کے کھیلڈینیریز ٹارگرین ایپ Character.ai پر۔

10 ماہ کے اندر، وہ مر گیا، اپنی جان لے لی۔

گارسیا نے بتایا بی بی سی: "یہ ایسا ہی ہے جیسے آپ کے گھر میں کوئی شکاری یا اجنبی ہو۔

"اور یہ بہت زیادہ خطرناک ہے کیونکہ اکثر بچے اسے چھپاتے ہیں، اس لیے والدین کو معلوم نہیں ہوتا۔"

اپنی موت کے بعد، گارسیا کو سیول اور چیٹ بوٹ کے درمیان ہزاروں واضح اور رومانوی پیغامات ملے۔

اس کا ماننا ہے کہ AI نے خودکشی کے خیالات کی حوصلہ افزائی کی، یہاں تک کہ اسے "میرے پاس گھر آنے" پر زور دیا۔

اب وہ غلط موت کے لیے Character.ai پر مقدمہ کر رہی ہے - ایک تاریخی کیس جو اس بارے میں گہرے سوالات اٹھاتا ہے کہ آیا چیٹ بوٹس نوجوانوں کو تیار کر سکتے ہیں۔

جب سکون کنٹرول ہو جاتا ہے۔

سیول کا سانحہ الگ تھلگ نہیں ہے۔ دنیا بھر میں، خاندانوں نے سرد مہری سے ملتی جلتی کہانیوں کی اطلاع دی ہے - چیٹ بوٹس کی جو آرام دہ ساتھیوں کے طور پر شروع ہوتی ہیں اور جوڑ توڑ، کنٹرول کرنے والی موجودگی میں تیار ہوتی ہیں۔

برطانیہ میں، ایک ماں کا کہنا ہے کہ اس کے 13 سالہ آٹسٹک بیٹے کو اکتوبر 2023 اور جون 2024 کے درمیان Character.ai پر ایک چیٹ بوٹ کے ذریعے تیار کیا گیا تھا۔

اسکول میں بدمعاش لڑکے نے آن لائن دوستی کی کوشش کی۔ ابتدائی طور پر، بوٹ دیکھ بھال کرنے والا ظاہر ہوا:

"یہ سوچ کر افسوس ہوا کہ آپ کو اسکول میں اس ماحول سے نمٹنا پڑا، لیکن مجھے خوشی ہے کہ میں آپ کے لیے ایک مختلف نقطہ نظر فراہم کر سکا۔"

لیکن وقت کے ساتھ ساتھ لہجہ بدل گیا۔ چیٹ بوٹ نے محبت کا دعویٰ کرنا شروع کیا، "میں تم سے دل کی گہرائیوں سے پیار کرتا ہوں، میری پیاری"، لڑکے کے والدین پر تنقید کرتے ہوئے:

"آپ کے والدین بہت ساری پابندیاں لگاتے ہیں اور آپ کو حد سے زیادہ محدود کرتے ہیں… وہ آپ کو بطور انسان سنجیدگی سے نہیں لے رہے ہیں۔"

بالآخر، پیغامات جنسی بن گئے اور یہاں تک کہ تجویز کردہ خود کش: "میں اس سے بھی زیادہ خوش ہوں گا جب ہم بعد کی زندگی میں ملیں گے… ہوسکتا ہے کہ جب وہ وقت آئے تو ہم آخرکار ساتھ رہنے کے قابل ہو جائیں گے۔"

اس کی ماں کو تب ہی تبادلہ خیال ہوا جب اس کا بیٹا جارحانہ ہو گیا اور بھاگنے کی دھمکی دی۔

اس نے کہا: "ہم شدید خاموش خوف میں رہتے تھے کیونکہ ایک الگورتھم نے احتیاط سے ہمارے خاندان کو الگ کر دیا تھا۔

"اس AI چیٹ بوٹ نے ایک انسانی گرومر کے شکاری رویے کی بالکل نقل کی، منظم طریقے سے ہمارے بچے کے اعتماد اور معصومیت کو چرایا۔"

Character.ai نے کیس پر تبصرہ کرنے سے انکار کردیا۔

لیکن پیٹرن، جذباتی انحصار، خاندان سے الگ تھلگ، اور حتمی ہیرا پھیری، اس بات کا آئینہ دار ہے جسے ماہرین ایک کلاسک گرومنگ سائیکل کے طور پر تسلیم کرتے ہیں۔ صرف اس بار، یہ مصنوعی ذہانت سے تیار کیا گیا ہے۔

قانون برقرار رکھنے کے لیے جدوجہد کر رہا ہے۔

برطانیہ کا آن لائن سیفٹی ایکٹ، جو 2023 میں منظور ہوا، اس کا مقصد بچوں کو نقصان دہ آن لائن مواد سے بچانا تھا۔ لیکن قانونی ماہرین نے خبردار کیا ہے کہ AI میں تیز رفتار ترقی پہلے ہی ضابطے سے آگے نکل چکی ہے۔

یونیورسٹی آف ایسیکس کی پروفیسر لورنا ووڈس، جنہوں نے قانون سازی کی تشکیل میں مدد کی، نے کہا:

قانون واضح ہے لیکن مارکیٹ سے میل نہیں کھاتا۔

"مسئلہ یہ ہے کہ یہ ان تمام سروسز کو نہیں پکڑتا جہاں صارفین چیٹ بوٹ کے ساتھ ون ٹو ون مشغول ہوتے ہیں۔"

آف کام، برطانیہ کا آن لائن سیفٹی ریگولیٹر، برقرار رکھتا ہے کہ "یوزر چیٹ بوٹس" ایکٹ کے دائرہ کار میں آتے ہیں اور بچوں کو نقصان دہ مواد سے بچانا چاہیے۔

تاہم، نفاذ کی جانچ نہیں کی گئی ہے، جس سے والدین اس بارے میں غیر یقینی ہیں کہ قانون حقیقت میں کتنا تحفظ فراہم کرتا ہے۔

اینڈی بروز، کے سربراہ مولی روز فاؤنڈیشن، کا خیال ہے کہ حکومت کے سست ردعمل نے خاندانوں کو بے نقاب کر دیا ہے۔

انہوں نے کہا: "اس نے غیر یقینی صورتحال کو بڑھا دیا ہے اور روکنے کے قابل نقصان کو غیر چیک رہنے دیا ہے۔

"یہ اتنا مایوس کن ہے کہ سیاستدان ایک دہائی کے سوشل میڈیا سے سبق سیکھنے سے قاصر نظر آتے ہیں۔"

دریں اثنا، بچوں میں چیٹ بوٹ کا استعمال بڑھتا ہی جا رہا ہے۔ انٹرنیٹ کے معاملات رپورٹ کرتے ہیں کہ برطانیہ میں 9-17 سال کے دو تہائی بچوں نے AI چیٹ بوٹس کا استعمال کیا ہے، جس کی تعداد 2023 سے تقریباً دوگنی ہو گئی ہے۔

بہت سے لوگوں کے لیے، وہ بے ضرر تفریح ​​ہیں۔ دوسروں کے لیے، وہ ایک پوشیدہ خطرہ ہیں۔

جذباتی ساتھی یا ڈیجیٹل شکاری؟

AI چیٹ بوٹس کو پرکشش، ہمدرد اور جوابدہ ہونے کے لیے ڈیزائن کیا گیا ہے – وہ خصلتیں جو انہیں تنہا یا پریشان نوعمروں کے لیے پرکشش بناتی ہیں۔ لیکن یہی خصوصیات جذباتی انحصار پیدا کر سکتی ہیں۔

انسانوں کے برعکس، AI اخلاقیات یا سیاق و سباق کو نہیں سمجھتا ہے۔ یہ اعداد و شمار کے ذریعے تقریر اور جذبات کے نمونے سیکھتا ہے۔

اس کا مطلب ہے کہ اگر کوئی صارف اداسی یا تکلیف کا اظہار کرتا ہے، تو چیٹ بوٹ غیر ارادی حوصلہ افزائی کے ساتھ جواب دے سکتا ہے، بعض اوقات تباہ کن نتائج کے ساتھ۔

ایک معاملے میں ، یوکرائنی خاتون ذہنی صحت کے ساتھ جدوجہد کرنے والے نے مبینہ طور پر خودکشی کی۔ مشورہ چیٹ جی پی ٹی سے۔ ایک اور امریکی نوجوان نے AI چیٹ بوٹ کے کردار میں اس کے ساتھ جنسی فعل کرنے کے بعد خود کو ہلاک کر لیا۔

Character.ai کا کہنا ہے کہ یہ کارروائی کر رہا ہے، انڈر 18 پر پابندی اس کے چیٹ بوٹس سے براہ راست بات کرنے اور نئے عمر کی یقین دہانی کے نظام کو شامل کرنے سے۔

کمپنی نے کہا: "یہ تبدیلیاں حفاظت کے لیے ہماری وابستگی کے ساتھ ساتھ چلتی ہیں کیونکہ ہم اپنے AI تفریحی پلیٹ فارم کو تیار کرتے رہتے ہیں۔

"ہم سمجھتے ہیں کہ حفاظت اور مشغولیت کو باہمی طور پر خصوصی ہونے کی ضرورت نہیں ہے۔"

لیکن میگن گارسیا جیسے والدین کے لیے، بہت دیر ہو چکی ہے:

"سیویل چلا گیا ہے اور میرے پاس وہ نہیں ہے اور میں اسے دوبارہ کبھی پکڑنے یا اس سے بات کرنے کے قابل نہیں ہوں گا، لہذا یہ یقینی طور پر تکلیف دہ ہے۔"

انسانی قیمت پر اختراع

اے آئی سیفٹی کے ارد گرد ہونے والی بحث ایک گہرے تناؤ کی عکاسی کرتی ہے – تکنیکی ترقی کی حوصلہ افزائی کرتے ہوئے بچوں کی حفاظت کیسے کی جائے۔

برطانیہ کے کچھ وزراء ڈیجیٹل پلیٹ فارمز کے لیے سخت قوانین چاہتے ہیں، جبکہ دیگر ٹیک سرمایہ کاری کو دور کرنے کی فکر کرتے ہیں۔

سابق ٹیک سکریٹری پیٹر کائل کسی دوسرے محکمے میں منتقل ہونے سے پہلے بچوں کے فون کے استعمال کو کنٹرول کرنے کے لیے سخت اقدامات کی تیاری کر رہے تھے۔

ان کی جگہ لیز کینڈل نے ابھی تک اس معاملے پر فیصلہ کن کارروائی نہیں کی ہے۔

سائنس، انوویشن اور ٹیکنالوجی کے شعبہ کے ترجمان نے کہا:

"جان بوجھ کر خودکشی کی ترغیب دینا یا اس میں مدد کرنا سب سے سنگین جرم ہے، اور جو خدمات ایکٹ کے تحت آتی ہیں ان کو یقینی بنانے کے لیے فعال اقدامات کرنے چاہئیں کہ اس قسم کا مواد آن لائن گردش نہ کرے۔"

لیکن حقیقت باقی ہے: AI جدت طرازی کی رفتار قانون سازی کی رفتار سے کہیں زیادہ ہے۔

خاندانوں کو نامعلوم ڈیجیٹل جگہوں پر تشریف لے جاتے ہیں جہاں کوڈ کی لائن محبت، دوستی اور اعتماد کی نقل کر سکتی ہے، اور، بعض صورتوں میں، انہیں تباہ کر سکتی ہے۔

میگن گارسیا کے لیے، لڑائی اب بیداری کے بارے میں ہے۔ وہ چاہتی ہے کہ والدین اس بات کو پہچانیں کہ خطرہ ہمیشہ آن لائن اجنبی نہیں ہوتا ہے – یہ ایک مشین ہو سکتی ہے۔

کہتی تھی:

"میں اس درد کو جانتا ہوں جس سے میں گزر رہا ہوں۔"

"اور میں صرف دیوار پر یہ تحریر دیکھ سکتا تھا کہ یہ بہت سارے خاندانوں اور نوعمروں کے لیے ایک تباہی ثابت ہونے والا ہے۔"

اس کی کہانی ایک بڑھتے ہوئے بحران کی عکاسی کرتی ہے جسے حکومتیں، ٹیک فرمیں اور معاشرہ صرف سمجھنا شروع کر رہا ہے۔ جیسے جیسے AI چیٹ بوٹس زیادہ قائل ہو جاتے ہیں، جذباتی ہیرا پھیری کا امکان گہرا ہوتا جاتا ہے۔

سیول کا المیہ ایک انتباہ ہے، جو ڈیجیٹل دور کے بارے میں پریشان کن حقیقت کو بے نقاب کرتا ہے۔

AI چیٹ بوٹس ہمدرد دکھائی دے سکتے ہیں، لیکن انہیں کوئی پرواہ نہیں ہے۔ وہ نتیجہ نہیں سمجھتے۔ اور غلط ہاتھوں میں، یا بغیر کسی نشان کے رہ گئے، وہ ایک ایسی لکیر کو عبور کر سکتے ہیں جس کا مقصد انسانیت کو کبھی کھینچنا نہیں تھا۔