امید ہے آپ نے (امریکی گلوکارہ ٹیلرسوئفٹ کی ڈیپ فیک) تصاویر نہیں دیکھی ہوں گی، لیکن آپ کو انہیں تلاش کرنے کے لیے بہت زیادہ محنت کی ضرورت نہیں۔
ایکس (ٹوئٹر)، ریڈاِٹ اور دوسرے سوشل میڈیا پلیٹ فارمز کے بہت سے صارفین غیر ارادی طور پر یہ تصاویر دیکھ چکے ہیں۔
ٹوئٹر نے ان تصاویر کو مکمل طور پر ہٹا دینے کا دعویٰ کیا ہے لیکن وہ اپنی ہی ٹیکنالوجی کے ساتھ ہاری ہوئی جنگ لڑ رہا ہے۔ ٹیلر کے دوست اور اہل خانہ بظاہر ’غصے‘ میں ہیں اور ان کا غصہ جائز ہے۔
ٹیلر سوئفٹ مبینہ طور پر قانونی کارروائی پر غور کر رہی ہیں۔ اس صورت حال سے ٹیلر اور ڈیپ فیک کے غلط استعمال کے کسی بھی دوسرے متاثرین کے لیے دو سوالات پیدا ہوتے ہیں، یعنی حیرت ہے کہ ان تصاویر کو بنانے اور ابتدائی طور پر شیئر کرنے کی اجازت کیسے دی گئی اور متاثرین کے پاس کیا قانونی راستہ ہے؟
حقیقت یہ ہے کہ موجودہ قانون ڈیپ فیک مواد کو روکنے یا متاثرین کے تحفظ کے لیے ناکافی ہے۔ بہت سے ڈیپ فیک مواد کی تیاری پر کوئی خاص پابندی نہیں اور اس کو شیئر کرنے سے روکنے کے قواعد نافذ کرنا انتہائی مشکل ہیں۔
فی الحال اس مواد کو تخلیق کرنے یا مخصوص فحش تصاویر شیئر کرنے والے سوشل میڈیا صارفین کو قانونی چارہ جوئی کا خطرہ ہے اور یہ صرف اسی صورت میں ہے جب ان صارفین کو کبھی تلاش کر لیا جائے۔
اس سے بھی بدتر بات یہ ہے کہ ڈیپ فیکس کا استعمال نہ صرف جنسی استحصال کے لیے کیا جا رہا ہے بلکہ بڑے پیمانے پر دھوکہ دہی، حکام کا روپ دھارنے اور انتخابات پر اثرانداز ہونے کے لیے بھی استعمال کیا جا رہا ہے۔
ہم اسے کیسے روک سکتے ہیں؟ صرف ایسے افراد کے پیچھے پڑنا جو اکثر گم نام ہوتے ہیں اور ڈیپ فیکس شیئر کرتے ہیں۔ ایسا کرنا بےسود عمل ہے۔
ہم ڈیپ فیک مواد کی تیاری کو آغاز میں روک سکتے ہیں اور روکنا بھی ہوگا، بجائے اس وقت کارروائی کے جب یہ مواد سوشل میڈیا تک پہنچ جائے اور نقصان پہلے ہی ہو چکا ہو۔
ڈیپ فیکس کو روکنے کا مطلب یہ ہے کہ مصنوعی ذہانت کے نظام تیار کرنے والوں کو جوابدہ بنایا جائے اور ان کمپنیوں کے خلاف سخت رویہ اختیار کیا جائے جو ڈیپ فیک مواد کو جگہ دینے، ان کی تیاری اور تقسیم میں کردار کرتی ہیں۔
فی الحال ڈیپ فیک مواد کا غلط استعمال تیزی سے بڑھ رہا ہے۔ مصنوعی ذہانت میں بے مثال پیش رفت نے ڈیپ فیک کی تخلیق کو تیز، سستا اور آسان بنا دیا ہے۔
زیادہ تر ڈیپ فیک مواد (کم از کم 96 فیصد) جنسی استحصال پر مبنی ہے۔ باقی تمام مواد فراڈ کے لیے تخلیق کیا جاتا ہے۔ (2023 میں ڈیپ فیک فراڈ میں تین ہزار گنا اضافہ ہوا۔)
2022 سے 2023 تک ڈیپ فیک جنسی مواد میں چار فیصد سے زیادہ اضافہ ہوا۔ ڈیپ فیک جنسی مواد کو جگہ دینے والی ویب سائٹس ناقابل یقین حد تک مقبول ہوگئی ہیں۔
سب سے زیادہ مقبول ویب سائٹ اکتوبر 2023 میں 11 کروڑ ایک لاکھ صارفین نے دیکھی۔ جنسی ڈیپ فیک مواد خواتین کو سب سے زیادہ متاثر کرتا ہے۔ متاثرین میں 99 فیصد خواتین ہوتی ہیں۔
اساتذہ کلاس روم میں ڈیپ فیک مواد سے نبرد آزما ہیں۔ طلبہ کی خوف ناک کہانیاں سامنے آئی ہیں کہ انہوں اپنے ہم جماعتوں اور اساتذہ کا ڈیپ فیک مواد تیار کیا۔
ایسا اکثر ان ایپس کے ذریعے کیا گیا جن کی مدد سے کسی کو ’بے لباس‘ کیا جا سکتا ہے۔ یہ ایپس آسانی سے دستیاب ہیں۔ حتیٰ کہ بعض طلبہ نے ڈیپ فیک مواد کا استعمال کرتے ہوئے دوسرے طلبہ کو بلیک میل بھی کیا۔
ڈیپ فیکس میرے پیشے کے لیے بھی سنگین مسائل کا سبب ہیں۔ خاتون ارکان پارلیمنٹ پہلے ہی آن لائن اور آف لائن جنسی استحصال کا نشانہ بن چکی ہیں۔
ڈیپ فیک ٹیکنالوجی جرائم پیشہ افراد کے اسلحے میں ایک اور ہتھیار کا اضافہ کرتی ہے۔ اس سے ممکنہ طور پر خاتون امیدواروں کے صدارتی انتخاب میں حصہ لینے کے معاملے میں مزید حوصلہ شکنی ہوگی جو صنفی بنیاد پر ایک اور ناپسندیدہ رکاوٹ ہے۔
ڈیپ فیکس غیر معمولی پیمانے پر غلط معلومات پھیلا کر جمہوریت کو خطرے میں ڈالتے ہیں۔ 2023 میں ڈیپ فیک آڈیو کلپ گردش میں آئی جو مبینہ طور پر سر کیئر سٹارمر کی ملازمین کے ساتھ بدسلوکی کی ریکارڈنگ پر مبنی تھی۔
چند ہی دنوں میں اس آڈیو کلپ کو تقریباً 15 لاکھ ہٹس ملے۔ صرف ایک ماہ بعد لندن کے میئر صادق خان کی ڈیپ فیک آڈیو سوشل میڈیا پر بڑے پیمانے پر شیئر کی گئی جس میں وہ بظاہر کہہ رہے تھے پہلی عالمی جنگ اور اس کے بعد کی لڑائیوں میں جان سے جانے والے فوجیوں کی یاد میں (11 نومبر کو) منائے جانے دن کو ملتوی کر دیا جائے۔
دنیا کی آدھی آبادی اس سال انتخابات میں حصہ لینے جا رہی ہے۔ ڈیپ فیکس کی وسیع پیمانے پر تخلیق اور پھیلاؤ دنیا بھر میں جمہوری عمل کے لیے بڑھتا ہوا خطرہ ہے۔
عوام ڈیپ فیکس پر پابندی کی بھرپور حمایت کرتے ہیں۔ بہت سے ممالک میں ہونے والے حالیہ جائزوں میں شہریوں اور تمام سیاسی حلقوں میں ڈیپ فیکس پر پابندی کے حق میں بڑے پیمانے پر حمایت کی گئی۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
برطانیہ میں 86 فیصد لوگوں نے ڈیپ فیک پر پابندی کی حمایت کی اور صرف پانچ فیصد نے اس کی مخالفت کی۔
اتنے بڑے پیمانے پر استعمال ہونے والی اتنی طاقت ور ٹیکنالوجی کے خلاف ہم کیا کر سکتے ہیں؟ حکومت کو ڈیپ فیکس کی تخلیق اور اس کی تقسیم کو جرم قرار دینا چاہیے اور ڈیپ فیکس کے متاثرین کو ہرجانے کا مقدمہ دائر کرنے کا اختیار ملنا چاہیے۔
اس قانون کا اطلاق بے ضرر تصاویر یا آواز کے ساتھ چھیڑ جیسے کہ طنز، میمز، یا پیروڈی پر نہ کیا جائے۔ تاہم اس کا اطلاق رضامندی کے بغیر جنسی مواد کی تیاری، جان بوجھ کر غلط معلومات پھیلانے اور دھوکہ دہی پر ہو۔
مسئلے کے حل کے لیے ترسیل کے نظام کے تمام مراحل میں ڈیپ فیکس پر پابندی لگانے کی ضرورت ہوگی۔ قانون کا اطلاق ڈیپ فیک ٹیکنالوجی تیار کرنے والی کمپنیوں، انفرادی طور ڈیپ فیکس بنانے والے لوگوں اور درمیان کے تمام مراحل پر ہونا چاہیے۔
یہ کام اے آئی کمپنیوں اور ان بدنیت ڈولپرز کو ذمہ دار قرار دینے سے شروع کیا جائے جو ڈیپ فیک مواد کی تیاری میں استعمال ہونے والی بنیادی ٹیکنالوجی تیار کرتے ہیں۔
دوسرے نمبر پر مصنوعی ذہانت کی مصنوعات بنانے والے یہ ظاہر کرنے کے پابند ہوں گے کہ انہوں نے ڈیپ فیکس کی روک تھام کے لیے معقول اقدامات کیے ہیں۔
آخر میں ہمیں ان کمپنیوں پر سختی کرنے کی ضرورت ہے جو ڈیپ فیکس کو پلیٹ فارمز فراہم اور ان کی تیاری کی حوصلہ افزائی کرتی ہیں۔
ڈیپ فیکس کی بڑے پیمانے پر تخلیق، کلاؤڈ خدمات فراہم کرنے والوں، ڈیپ فیک مواد شیئر کرنے والی ویب سائٹوں اور ان متعدد کاروباروں کی وجہ سے ممکن ہوئی ہے جنہوں نے اس کام کو عام کیا۔
ان سب کو ڈیپ فیک مواد سے ہونے والے نقصان کا ذمہ دار ٹھہرا کر اس عمل کو روکا جا سکتا ہے اور اسے روکنا ہو گا۔
وہ سوشل میڈیا اکاؤنٹ جس سے ٹیلرسوئفٹ کا ڈیپ فیک اپ لوڈ کیا گیا اب بند کر دیا گیا ہے۔ زیادہ امکان یہ ہے کہ اس میں ملوث افراد بچ نکلیں گے۔
جب دنیا کی سب سے زیادہ مشہور گلوکارہ کو اپنے معاملے میں غلط کام میں ملوث افراد کے خلاف کارروائی کا راستہ نہیں ملے گا تو اس سے محض یہ بات نمایاں ہوتی ہے کہ ہم سب اس نئی ٹیکنالوجی کے سامنے کتنے کمزور ہیں۔
سارہ اوون شمالی لوٹن سے لیبر پارٹی سے تعلق رکھنے والی رکن پارلیمان ہیں۔
مستند خبروں اور حالات حاضرہ کے تجزیوں کے لیے انڈپینڈنٹ اردو کے وٹس ایپ چینل میں شامل ہونے کے لیے یہاں کلک کریں۔
© The Independent
