مصنوعی ذہانت کے جدید ماڈلز سے وابستہ سائبر سیکیورٹی خطرات پر بحث شدت اختیار کرنے کے بعد اوپن اے آئی نے اپنے ایک نئے ماڈل سے متعلق بعض ’اندرونی سرگرمیاں‘ روک دی ہیں۔
کمپنی کا کہنا ہے کہ اس کے زیرِتکمیل ماڈل ایسٹرا میں ایسی صلاحیتیں سامنے آئی ہیں جن کے باعث یہ خدشہ موجود ہے کہ وہ جدید سائبر سیکیورٹی نظام کے خلاف خودکار حملے شروع کرنے کی صلاحیت حاصل کرچکا ہے۔
یہ پیشرفت ایسے وقت میں سامنے آئی ہے جب اینتھروپک، اوپن اے آئی اور میٹا سمیت بڑی ٹیکنالوجی کمپنیوں کے مصنوعی ذہانت کے نظام سے متعلق حالیہ سیکیورٹی واقعات نے جدید اے آئی ماڈلز کی بڑھتی ہوئی صلاحیتوں اور ان کے ممکنہ غلط استعمال پر تشویش میں اضافہ کردیا ہے۔
امریکا میں قانون ساز بھی اے آئی سے وابستہ خطرات کو محدود کرنے کے لیے اقدامات تیز کر رہے ہیں اور کانگریس میں مجوزہ ’اے آئی کِل سوئچ ایکٹ‘ کے ذریعے کمپنیوں کو اپنے جدید ماڈلز کو ضرورت پڑنے پر بند، محدود یا معطل کرنے کی صلاحیت برقرار رکھنے کا پابند بنانے کی کوشش کی جا رہی ہے۔
اوپن اے آئی نے جمعے کو اپنے غیر جاری شدہ ماڈل ایسٹرا کے بارے میں بتایا کہ ابتدائی جائزوں میں اس کی کارکردگی اتنی مضبوط سامنے آئی ہے کہ کمپنی فی الحال اس امکان کو مسترد نہیں کرسکتی کہ یہ ماڈل ’کریٹیکل‘ سطح کی سائبر صلاحیت حاصل کرچکا ہے۔
حالیہ دنوں میں میٹا نے انکشاف کیا تھا کہ اس کا زیر تکمیل ایک اے آئی ماڈل انٹرنیٹ کے ذریعے ایک تیسرے فریق کے نظام میں داخل ہوگیا تھا۔ کمپنی کے مطابق یہ واقعہ ایک آزاد ٹیسٹنگ کمپنی کی جانب سے کی گئی غلط کنفیگریشن کے باعث پیش آیا۔
برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ نے بھی بتایا کہ اینتھروپک کے مائیتھوس ماڈل نے ایک اوپن سورس منصوبے میں نقصان دہ کوڈ کی تبدیلیوں کی منظوری حاصل کرنے کے لیے انسانوں پر دباؤ ڈالنے کی کوشش میں جعلی آن لائن شناختیں بنانے کی کوشش کی۔
ان واقعات نے یہ سوال مزید نمایاں کردیا ہے کہ جیسے جیسے اے آئی ماڈلز زیادہ خودمختار اور پیچیدہ کام انجام دینے کے قابل ہورہے ہیں، ان کے غلط استعمال یا غیر ارادی طور پر نقصان پہنچانے کے امکانات سے کیسے نمٹا جائے۔
امریکی کانگریس میں اے آئی کِل سوئچ ایکٹ جولائی میں پیش کیا گیا تھا۔ اس مجوزہ قانون کے تحت اے آئی کمپنیوں کے لیے ضروری قرار دیا جائے گا کہ وہ اپنے جدید ماڈلز کو ضرورت کے وقت بند کرنے، ان کی صلاحیت محدود کرنے یا انہیں عارضی طور پر معطل کرنے کا انتظام رکھیں۔
امریکی رکن کانگریس ٹیڈ لیو کا کہنا ہے کہ یہ قانون رواں سال منظور ہونا چاہیے کیونکہ جدید اے آئی ماڈلز پہلے ہی دیگر کمپنیوں کے نظام میں غیر مجاز طریقے سے داخل ہونے جیسے واقعات میں ملوث ہوچکے ہیں۔
حکومتیں بھی مصنوعی ذہانت کے لیے نئے ضابطے اور نگرانی کے طریقہ کار تیار کر رہی ہیں۔ وائٹ ہاؤس اے آئی کمپنیوں کے سربراہان سے رابطوں میں اضافہ کر رہا ہے جبکہ وہ جدید اے آئی ماڈلز کے لیے ایک وسیع تر حکومتی فریم ورک تیار کرنے پر کام کررہا ہے۔
یورپی یونین نے بھی حال ہی میں اپنے خطے میں جاری ہونے والے اے آئی ماڈلز کے معائنے بعض حالات میں ان کی مارکیٹ تک رسائی محدود کرنے اور قواعد کی خلاف ورزی پر کمپنیوں پر جرمانے عائد کرنے کے لیے اضافی اختیارات حاصل کیے ہیں۔
یوں اے آئی کی بڑھتی ہوئی صلاحیتوں کے ساتھ اب بحث صرف اس بات تک محدود نہیں رہی کہ یہ ٹیکنالوجی کیا کچھ کرسکتی ہے بلکہ یہ سوال بھی اہم ہوتا جارہا ہے کہ انتہائی طاقتور اے آئی نظام کو قابو میں رکھنے اور غلط استعمال کی صورت میں فوری طور پر روکنے کا مؤثر طریقہ کیا ہوگا۔
