ہالینڈ(ڈیلی روشنی نیوز انٹرنیشنل ۔۔۔ تحریر: ثاقب علی)جی پی ٹی 5 (GPT-5) کی لانچ تقریب میں سیم الٹمن ایک میاں بیوی کو اسٹیج پر بلاتا ہے، اس شخص کی بیوی ایک سے زیادہ قسم کے کینسر کی بیماری میں مبتلاء ہے۔ وہ میاں بیوی چیٹ بوٹ سے سوالات کرتے ہیں، اپنی کچھ طبی معلومات فراہم کرتے ہیں اور کینسر کے علاج میں تابکاری لگوانے یا نہ لگوانے کا مشورہ کرتے ہیں۔ یہ شخص سیم الٹمن کی کمپنی میں ملازمت کرتا ہے۔ اور یہ سب GPT-5 کی پاور ظاہر کرنے کے لیے کیا گیا۔

اس سے پہلے جب بھی chatgpt سے طبی مشورہ مانگا جاتا تھا تو وہ warnings and disclaimers دیتا تھا کہ یہ مشورہ یا معلومات ڈاکٹر کے مشورے کے بغیر فالو نہیں کرنی لیکن اب ایسا وہ بہت کم کرتا ہے اور اب طب کے میدان میں اس کو شاید کھلی چھٹی دی جارہی ہے جو خطرات سے خالی نہیں ہے۔

ابھی تک اے آئی کے ماہرین نے GPT-5 کو اس سے پہلے ورژن سے کچھ ذیادہ مختلف نہیں پایا ہے، وہی غلطیاں، وہی بے ربط جوابات کے مسائل لیکن اچھے اخلاق اور کچھ مصنوعی احساسات کی بڑھوتری کے ساتھ سب کچھ ویسا ہی ہے لیکن کچھ حدود میں آسانیاں کی گئی ہیں۔ یہ بالکل بھی Artificial General Intelligence کے قریب نہیں ہے بلکہ اس میں بہت سارے مسائل ویسے ہی موجود ہیں جو پہلے بھی تھے۔

جی پی ٹی 5 کی ریلیز سے 2 دن پہلے ایک ریسرچ پیپر پبلش ہوا جس میں چیٹ بوٹ کے طب کے کارنامے کا ذکر ہے۔ امریکہ میں Bromide Poisoning کا ایک کیس ہوا تھا، وہ شخص نفسیاتی طور پر غیر مستحکم ہوا اور یہ شکایت کرنے لگا کہ اس کا پڑوسی اس کو زہر دینا چاہتا ہے۔ اس شخص کا مکمل علاج اور انویسٹیگیشن سے پتا چلا کہ وہ  chatgpt کے مشورے سے نمک (سوڈیئم کلورائیڈ) کو ترک کرکے سوڈئیم برومائیڈ کا استعمال کر رہا تھا جس کی وجہ سے اس کو برومائیڈ کی زیادہ مقدار (bromism) نے نقصان پہنچایا اور ہسپتال پہنچ گیا۔ اسی وجہ سے اس کا Nervous system متاثر ہوا اور وہ نفسیاتی مسائل کا شکار ہوا۔

اس تحریر کا بنیادی مقصد اس چیز کی طرف توجہ دلانا ہے کہ اے ائی کمپنیوں کی طرف سے کسی بھی جدید لینگوئج ماڈل کے اشتہار سے مرعوب ہوکر، خاص پر طب کے میدان میں، مشورہ لیتے وقت اور اس پر عمل کرتے ہوئے احتیاط کریں۔ ابھی بھی ان مصنوعی ذہانت کے نظاموں میں درجنوں خامیاں موجود ہیں۔ چاہے سیم الٹمن یہ دعویٰ کرے کہ GPT5 سے بات کرنا ایک PhD لیول کے ماہر سے بات کرنا جیسا ہے، پھر بھی اس کے مشوروں کو لے کر وہ وقت نہیں آیا کہ اس بارے میں second opinion نہ کیا جائے۔

یہ OpenAI کمپنی یقیناً طب کے میدان میں کافی محنت کر رہی ہے۔ اس سال مئی میں انہوں نے مصنوعی ذہانت کے نظاموں کو، LLMs کی خاص طور پر طب کے میدان میں کارکردگی جانچنے کے لیے ایک اسٹینڈرڈ (HealthBench) بنایا تھا جس کے بارے میں کہا جاتا ہے کہ اس میں 260 ڈاکٹروں نے ہزاروں سوالات کے ذریعے اس کو ٹیسٹ کیا تھا۔ اور اسی سٹینڈرڈ پر GPT5 کو بھی ٹیسٹ کیا گیا ہے، جس میں اس کی کارکردگی پہلے ماڈلز کی نسبت کافی بہتر ہے۔

(تحریر: ثاقب علی)