مطالعہ نے خبردار کیا ہے کہ AI چیٹ بوٹس طبی مشورے کے لیے غیر محفوظ ہیں۔

آکسفورڈ یونیورسٹی کی نئی تحقیق کے مطابق، طبی مشورہ لینے کے لیے مصنوعی ذہانت والے چیٹ بوٹس کا استعمال خطرناک ہو سکتا ہے، جس سے مریضوں کی حفاظت کے بارے میں خدشات بڑھتے ہیں۔

۔ مطالعہ پتہ چلا کہ طبی فیصلہ سازی کے لیے AI پر انحصار واضح خطرات پیش کرتا ہے، جس کی بڑی وجہ چیٹ بوٹس کے ذریعے شیئر کی گئی غلط اور متضاد معلومات ہیں۔

محققین نے خبردار کیا کہ جب کہ اے آئی ٹولز پراعتماد نظر آتے ہیں، وہ اکثر قابل اعتماد رہنمائی فراہم کرنے میں ناکام رہتے ہیں جب لوگ صحت کی حقیقی علامات کے لیے مدد طلب کرتے ہیں۔

اس تحقیق کی قیادت آکسفورڈ انٹرنیٹ انسٹی ٹیوٹ اور آکسفورڈ یونیورسٹی کے نفیلڈ ڈیپارٹمنٹ آف پرائمری کیئر ہیلتھ سائنسز کے ماہرین نے کی۔

ڈاکٹر ربیکا پاینے، ایک جی پی اور اس مطالعہ کی شریک مصنف، نے کہا کہ نتائج AI سے چلنے والے صحت سے متعلق مشورے پر عوام کے بڑھتے ہوئے اعتماد کو چیلنج کرتے ہیں۔

اس نے وضاحت کی کہ، وسیع پیمانے پر تشہیر کے باوجود، مصنوعی ذہانت طبی فیصلہ سازی میں تربیت یافتہ طبی پیشہ ور افراد کی جگہ لینے کے لیے تیار نہیں ہے۔

ڈاکٹر پینے نے متنبہ کیا کہ مریض علامات کے بارے میں بڑی زبان کے ماڈلز سے پوچھتے ہیں۔ غلط تشخیص حاصل کرنے کا خطرہ اور علامات غائب ہیں کہ فوری طبی مدد کی ضرورت ہے۔

اس تحقیق میں یہ جانچا گیا کہ جب لوگ صحت سے متعلق فیصلوں کا سامنا کرتے ہیں تو لوگ کیسے AI کے ساتھ تعامل کرتے ہیں، نظریاتی علم اور حقیقی دنیا کی دیکھ بھال کے درمیان فرق کو اجاگر کرتے ہیں۔

تقریباً 1,300 شرکاء سے کہا گیا کہ وہ صحت کے ممکنہ حالات کی نشاندہی کریں اور مختلف طبی منظرناموں میں مناسب اقدامات کا فیصلہ کریں۔

کچھ شرکاء نے ممکنہ تشخیص اور مشورہ حاصل کرنے کے لیے بڑے لینگویج ماڈل چیٹ بوٹس کا استعمال کیا، جبکہ دوسروں نے روایتی راستوں پر عمل کیا، بشمول ایک GP سے مشورہ کرنا۔

اس کے بعد محققین نے کیے گئے فیصلوں کے معیار کا جائزہ لیا، درستگی، حفاظت پر توجہ مرکوز کرتے ہوئے، اور کیا صارفین نے اس وقت تسلیم کیا جب فوری دیکھ بھال کی ضرورت تھی۔

نتائج سے پتہ چلتا ہے کہ AI سسٹم اکثر مفید اور نقصان دہ معلومات کا مرکب فراہم کرتے ہیں، جسے بہت سے صارفین نے الگ کرنے یا سوال کرنے کے لیے جدوجہد کی۔

یہاں تک کہ جب درست تفصیلات شامل کی گئیں، گمراہ کن تجاویز اکثر ان کے ساتھ نمودار ہوتی ہیں، جو مریضوں کے لیے وضاحت کے بجائے الجھن پیدا کرتی ہیں۔

محققین نے نوٹ کیا کہ جب کہ AI چیٹ بوٹس معیاری طبی علمی ٹیسٹوں میں اچھی کارکردگی کا مظاہرہ کرتے ہیں، حقیقی دنیا کا استعمال ایک مختلف کہانی سناتا ہے۔

انہوں نے متنبہ کیا کہ AI کو براہ راست ذاتی صحت کے خدشات پر لاگو کرنے سے یقین دہانی یا رہنمائی کے خواہاں افراد کو سنگین خطرات لاحق ہو سکتے ہیں۔

تحقیق میں زور دیا گیا کہ طبی مشورے کے لیے فیصلے، سیاق و سباق اور انسانی تعامل کی ضرورت ہوتی ہے، ایسے علاقے جہاں AI اب بھی کم ہے۔

ڈاکٹر پینے نے کہا کہ نتائج AI نظاموں کی تعمیر میں دشواری کو اجاگر کرتے ہیں جو صحت کی دیکھ بھال جیسے حساس، اعلی داؤ والے علاقوں میں لوگوں کی صحیح معنوں میں مدد کر سکتے ہیں۔

اس نے مزید کہا کہ صحت کے فیصلے شاذ و نادر ہی سیدھے ہوتے ہیں اور اکثر ان کا انحصار نزاکت، عجلت اور جذباتی اشارے کو پہچاننے پر ہوتا ہے۔

مطالعہ کے مرکزی مصنف، آکسفورڈ انٹرنیٹ انسٹی ٹیوٹ سے تعلق رکھنے والے اینڈریو بین نے کہا کہ اعلیٰ کارکردگی کا مظاہرہ کرنے والے AI ماڈلز بھی انسانوں کے ساتھ بات چیت کرتے وقت جدوجہد کرتے ہیں۔

انہوں نے وضاحت کی کہ یہ سمجھنا کہ لوگ علامات، جذبات اور غیر یقینی صورتحال کو کس طرح بیان کرتے ہیں موجودہ AI سسٹمز کے لیے ایک بڑا چیلنج ہے۔

بین نے کہا کہ تحقیق کا مقصد محفوظ اور زیادہ ذمہ دار AI ٹولز کی ترقی کی حوصلہ افزائی کرنا ہے۔

جنوبی ایشیائی کمیونٹیز کے لیے، جہاں رسائی میں رکاوٹیں، زبان کے فرق، اور ثقافتی داغ پہلے سے ہی صحت کی دیکھ بھال کو متاثر کرتی ہے، یہ خطرات اور بھی زیادہ ہو سکتے ہیں۔

ماہرین نے خبردار کیا ہے کہ AI کو پیشہ ورانہ طبی مشورے کی جگہ نہیں لینا چاہیے، خاص طور پر ان کمیونٹیز کے لیے جو پہلے سے ہی پیچیدہ صحت کی عدم مساوات پر جا رہے ہیں۔

محققین نے اس بات پر زور دیا کہ AI اب بھی صحت کی دیکھ بھال میں معاون کردار ادا کر سکتا ہے، لیکن صرف تربیت یافتہ پیشہ ور افراد اور سخت حفاظتی اقدامات کے ساتھ۔

انہوں نے مریضوں پر زور دیا کہ وہ چیٹ بوٹ کے مشورے کو احتیاط کے ساتھ استعمال کریں اور جب علامات یا صحت سے متعلق خدشات کا سامنا ہو تو مستند ڈاکٹروں سے مدد لیں۔