27 سالہ مصنوعی ذہانت کے محقق جیکب کاکسن نے خبردار کیا ہے کہ انتہائی طاقتور مصنوعی ذہانت مستقبل میں انسانیت کے لیے ایک سنگین خطرہ بن سکتی ہے اور موجودہ رفتار برقرار رہی تو دہائی کے اختتام تک یہ خطرہ انتہائی خطرناک شکل اختیار کر سکتا ہے۔
جیکب کاکسن نے اوپن اے آئی اور اینتھروپک میں تقریباً تین سال تک مصنوعی ذہانت کی تربیت اور تحقیق پر کام کیا۔ مستعفی ہونے کے بعد ان کا کہنا تھا کہ دونوں کمپنیاں ایسی طاقتور اور خود کو بہتر بنانے والی اے آئی تیار کرنے کی دوڑ میں شامل ہیں جس کے ممکنہ نتائج پر انسانی تحفظ کے مقابلے میں مسابقت حاوی ہو سکتی ہے۔
محقق کے مطابق اے آئی کے شعبے سے وابستہ متعدد اعلیٰ عہدیدار اور ماہرین نجی طور پر اس خدشے کا اظہار کرتے ہیں کہ مستقبل کی انتہائی طاقتور مصنوعی ذہانت انسانیت کے لیے تباہ کن ثابت ہو سکتی ہے، تاہم کمپنیوں کے درمیان ایک دوسرے سے آگے نکلنے کی دوڑ اس پیش رفت کو جاری رکھے ہوئے ہے۔
کاکسن نے خبردار کیا کہ مستقبل کے سپر انٹیلیجنس سسٹمز سائبر حملوں سمیت مختلف شعبوں میں انسانوں سے کہیں زیادہ تیزی اور صلاحیت کے ساتھ کام کر سکتے ہیں اور حقیقی دنیا کے وسائل تک رسائی حاصل کر سکتے ہیں۔
انہوں نے اے آئی محققین پر زور دیا کہ انتہائی طاقتور نظام تیار کرنے سے پہلے ان کے رویے اور فیصلہ سازی کو بہتر طور پر سمجھنے کے لیے سخت حفاظتی اقدامات کیے جائیں۔ ان کے مطابق عالمی سطح پر جاری اے آئی دوڑ کو محدود کرنے کے لیے عارضی طور پر صلاحیتوں میں اضافے پر پابندی جیسے مشکل اقدامات پر بھی غور کیا جا سکتا ہے۔
اینتھروپک کے الائنمنٹ ریسرچ کے سربراہ ایوان ہوبنگر نے بھی ان خدشات کی تائید کرتے ہوئے کہا کہ کمپنی اس امکان کو سنجیدگی سے دیکھتی ہے کہ مصنوعی ذہانت انتہائی صورت میں انسانوں کے خاتمے کا باعث بن سکتی ہے۔ ان کے مطابق انہیں ذاتی طور پر اگلی دہائی میں اس خطرے کا امکان 10 فیصد سے زیادہ محسوس ہوتا ہے۔
ہوبنگر نے اعتراف کیا کہ اینتھروپک اے آئی کو محفوظ بنانے کے لیے بھرپور کوشش کر رہی ہے، تاہم سپر انٹیلیجنس کو انسانی مقاصد سے ہم آہنگ رکھنے کا مسئلہ تاحال مکمل طور پر حل نہیں ہوا اور کمپنی کے پاس اس کے لیے کوئی مکمل منصوبہ موجود نہیں۔
ماہرین کے مطابق موجودہ اے آئی سسٹمز سے لاحق خطرات اور مستقبل کی خود کو مسلسل بہتر بنانے والی سپر انٹیلیجنس کے خطرات میں نمایاں فرق ہے۔ اصل تشویش اس وقت پیدا ہوگی جب اے آئی انسانی نگرانی سے کہیں زیادہ تیزی سے اپنی صلاحیتوں میں اضافہ کرنے کے قابل ہو جائے۔
