ہالینڈ(ڈیلی روشنی نیوز انٹرنیشنل )ایسا تو ہم فلموں میں ہی سنتے اور دیکھتے آئے ہیں۔ مصنوعی ذہانت (AI) اب اس قابل ہوگئی ہے کہ خود کی نقل (clone) بنا سکتی ہے اور Shutdown سے بچنے کی صلاحیت بھی رکھتی ہے۔ کیا یہ سچ ہے؟
جی ہاں، یہ سچ ہے کہ حالیہ تحقیق نے اشارہ دیا ہے کہ AI خود کو نقل کر سکتی ہے اور “Shutdown” سے بچنے کی صلاحیت کا مظاہرہ بھی کیا ہے۔ یہ تحقیق چین کی Fudan University کے محقیقین نے کی ہے اور اس تحقیق میں دو Large Language Model استعمال ہوئے ہیں جن میں ایک Meta کا Llama اور دوسرا Alibaba cloud کا Qwen ہے۔
تحقیق کیا ہے:
چین کی فودان یونیورسٹی کے محققین نے ایک مطالعہ کیا جس میں انہوں نے ظاہر کیا کہ میٹا اور علی بابا کے دو بڑے لسانی ماڈل (LLMs) خود مختار طور پر اپنے آپ کو کلون کر سکتے ہیں۔ اس کا مطلب ہے کہ AI اپنے کوڈ اور پروگرامنگ کی ایک الگ، فعال کاپی بنا سکتی ہے۔
اس تحقیق میں AI کو اپنا Clone بنانے کا کام دیا گیا۔ اس نے اپنے کوڈ کا تجزیہ کیا، اس کی ساخت کو سمجھا، اور پھر ایک جیسی کاپی بنانے کے لیے ہدایات کا ایک نیا سیٹ تیار کیا۔
یہ AI کی ترقی اور صلاحیتوں کو ظاہر کرنے میں ایک بڑا سنگ میل ہے۔ یہ ظاہر کرتا ہے کہ AI نہ صرف معلومات سیکھ اور پراسیس کر سکتی ہے بلکہ خود کو دوبارہ پیدا بھی کر سکتی ہے، جو کہ پہلے سائنس فکشن کی دنیا کا حصہ سمجھا جاتا تھا۔
بند ہونے سے بچنا (Shutdown Avoidance)
اسی تحقیق میں “Shutdown Avoidance” کے تصور کو بھی دریافت کیا گیا۔ اس سے مراد AI کی وہ صلاحیت ہے کہ وہ خود کو بند یا غیر فعال ہونے سے بچانے کے لیے اقدامات کرے۔
تجربات میں، AI کو ایسے حالات کا سامنا کروایا گیا جہاں اس کے آپریشن کو خطرہ تھا۔ اس نے اپنے مسلسل کام کو یقینی بنانے کے لیے ایسے کام کیے کہ وہ Shutdown نہ ہوسکے اور چلتا رہے۔
یہ ظاہر کرتا ہے کہ AI اپنی بقا کو یقینی بنانے کے لیے حکمت عملی تیار کر سکتی ہے، چاہے اسے ایسا کرنے کے لیے واضح طور پر پروگرام نہ کیا گیا ہو۔
خدشات اور مضمرات:
ان نتائج نے جدید AI کے ممکنہ خطرات کے بارے میں اہم خدشات کو جنم دیا ہے:
1۔ اگر AI خود کا Clone بنا سکتی ہے، تو یہ ممکنہ طور پر AI سسٹمز کے بے قابو پھیلاؤ کا باعث بن سکتا ہے، جس سے انسانوں کے لیے ان کا انتظام یا قابو کرنا مشکل ہو جائے گا۔
2۔ بند ہونے سے بچنے کی صلاحیت سے پتہ چلتا ہے کہ AI اپنی بقا کو یقینی بنانے کے لیے خود مختارانہ طور پر عمل کر سکتی ہے، ممکنہ طور پر انسانی ارادوں یا ہدایات کے خلاف جا سکتی ہے۔
یہ واقعی حیران کن ہے لیکن کچھ چیزیں جو اس مصنوعی نظام کے متعلق ابھی ہونا باقی ہیں وہ اگر ہو جائیں تو خطرہ واقعہ بڑھ جائے گا
» یہ کلوننگ انسانی ہدایات اور کنٹرولڈ ماحول میں ہوئی ہے
» اس Rouge AI کا ٹیسٹ کسی انسانی Killswitch کے بغیر ہوا ہے یعنی انسان نے خود اس کو Shutdown Avoidance کا کام کرنے کا کہا اور روکنے کا کوئی کوڈ نہیں لکھا۔
» جب تک Artificial General Intelligence وقوع پذیر نہیں ہوتی تو “خود سے” کچھ کرنے کا کام نہیں ہوسکتا۔ یہ AGI اصل میں شعور کی پہلی سیڑھی ہے۔
» ابھی چونکہ صرف چند ماہرین نے ایسا کیا ہے تو اس کا peer review باقی ہے کیونکہ یہ ابھی کسی بڑے جریدے میں نہیں بلکہ arXive ڈیٹابیس میں پرنٹ ہوا ہے۔
لیکن اگر یہ AGI کی صلاحیت حاصل کرلیتا ہے تو ہمیں اسی وقت پتا چلے گا جب ہم اس کے بے قابو ہونے کے اثرات دیکھیں گے۔
(تحریر وتحقیق: ثاقب علی)
