صنم خورشید (فرضی نام) کو ایک جمعے کی شام کو وٹس ایپ کے ذریعے کچھ تصاویر موصول ہوئیں تو گویا ان کے ’جسم سے جان نکل گئی‘۔
انجان نمبر سے موصول ہونے والی تصاویر میں صنم کے چہرے کو کسی بے لباس جسم کے ساتھ جوڑا گیا تھا۔
37 سالہ صنم کے مطابق کچھ دیر اس تصویر پر غور کرنے سے انہیں احساس ہوا کہ تصویر میں موجود ہاتھ، کلائیوں میں موجود زیور، پیر اور پیروں میں موجود جوتے بھی انہی کے ہیں لیکن باقی بے لباس جسم کسی اور کا ہے۔
صنم چونکہ پاکستان کی ایک بڑی رئیل سٹیٹ کمپنی میں مارکیٹنگ کے شعبے میں اچھے عہدے پر فائز ہیں اس لیے انہیں یہ سمجھنے میں دیر نہ لگی کہ تصویر کو مصنوعی ذہانت (اے آئی ٹولز) کے ذریعے بنایا گیا ہے۔
مزید غور کرنے پر صنم کو یہ اندازہ بھی ہو گیا کہ سوشل میڈیا کے کس پلیٹ فارم سے ان کی کون سی اصل تصویر کو استعمال کرتے ہوئے یہ جعلی تصویر بنائی گئی تھی۔
صنم اپنے گھر کے کمرے میں موجود تھیں جہاں وہ اس غیر متوقع صورت حال پر اپنا ردعمل ترتیب دے ہی رہی تھیں کہ ان کی بڑی بہن بھی اپنا فون تھامے کمرے میں آ گئیں۔ وہی جعلی تصاویر صنم کی بڑی بہن کو بھی موصول ہوئی تھیں۔
صنم نے بتایا کہ ’جعلی تصاویر ایک ہی نمبر سے بھیجی گئی تھیں۔ ہمیں یقین ہو گیا تھا کہ بھیجنے والا جو بھی وہ میرے خاندان کے افراد سے واقف ہے۔‘
اس کے بعد صنم نے فوری طور پر اپنے سوشل میڈیا پر پوسٹ کے ذریعے پیغام بھیجا کہ کسی نے ان کی جعلی تصاویر بنائی ہیں اور وہ ان کے جاننے والوں کو بھیج رہا ہے۔
ڈیجیٹل رائٹس فاؤنڈیشن (ڈی آر ایف) میں سائبر ہیراسمنٹ ہیلپ لائن کی مینیجر حرا باسط نے تسلیم کیا کہ اے آئی کے ذریعے خواتین کی جعلی تصاویر بنا کر انہیں ہراساں کرنے کے واقعات میں اضافہ ہوا ہے۔
حرا کے مطابق ’جب سے آے آئی کے ذریعے جعلی تصاویر اور جعلی آواز بنانے کے ٹولز تک رسائی آسان ہوئی ہے تب سے خواتین کے لیے آن لائن سپیسز (سوشل میڈیا) غیر محفوظ ہو گئی ہیں۔‘
’یہ جارحانہ رویے خواتین، خاص کر صحافت، سیاست اور حقوق کے لیے کام کرنے والی رضاکاروں کو آن لائن (سوشل میڈیا) اور آف لائن عوامی جگہوں سے نکالنے اور ان کی آواز دبانے کی کوشش ہیں۔ ان رویوں میں جنس کو بنیاد بنائے جانے سے معاشرے میں موجود بدگمان رویوں کی بھی نشاندہی ہوتی ہے۔‘
انہوں نے بتایا کہ ’انتخابات کے فورا ً بعد ہم نے کچھ واقعات دیکھے جن میں خواتین صحافیوں اور خواتین سیاست دانوں کو نشانہ بنایا گیا تھا۔‘
’اس کے بعد سے ایسے واقعات میں اضافہ ہوا ہے جن میں مصنوعی ذہانت کے استعمال سے مشہور یا غیر مشہور پاکستانی خواتین کی جعلی تصاویر بنا کر انہیں ہراساں کیا گیا ہو۔‘
حرا نے مزید تفصیل بتاتے ہوئے کہا کہ ’انتخابات کے قریب ایسی خواتین کی جعلی اے آئی تصاویر بنیں جو مخصوص سیاسی جماعتوں اور سیاسی شخصیات کی ناقد تھیں۔ ان جماعتوں کے حامی سوشل میڈیا اکاؤنٹس کے ذریعے ایسی خواتین صحافیوں کی جعلی نامناسب تصاویر بنائی گئیں اور پھیلائی گئیں۔ ہم نے سائبر ہراسمنٹ ہیلپ لائن کے ذریعے ایسی خواتین کی شکایات بھی موصول کیں جنہیں جعلی اے آئی تصاویر کے ذریعے بلیک میل یا ہراساں کیا گیا تھا۔‘
صنم کو اگلے دو روز میں کئی رشتے داروں، سماجی تعلق داروں اور دفتر کے ساتھیوں نے وہی جعلی تصویر موصول ہونے کی اطلاع دی۔
صنم کے مطابق ’اب ہمیں اندازہ ہو گیا تھا کہ جو بھی شخص اس جعلی تصویر کو بنانے اور اسے پھیلانے کے پیچھے ہے وہ یقینی طور پر کوئی ایسا شخص ہے جو میرے خاندان اور دفتر کے مشترکہ ساتھیوں میں سے ہے۔ میرے ذہن میں چند نام تھے لیکن اس وقت تک میں حتمی طور پر کچھ نہیں کہہ سکتی تھی۔‘
تصویر بھیجنے کے بعد سے اس انجان نمبر سے مزید کوئی پیغام موصول نہیں ہوا۔ تاہم صنم نے اپنی کمپنی کی خاتون ہومن ریسورس مینیجر کو معاملے سے آگاہ کر دیا جنہوں نے ہر طرح کی مدد کی یقین دہانی کروائی۔
انڈپینڈنٹ اردو کا رابطہ طاہرہ منیر (فرضی نام) سے بھی ہوا جنہیں ایسی ہی صورت حال کا سامنا کرنا پڑا تھا۔
طاہرہ کو بھی ایک انجان نمبر کے ذریعے جعلی تصویر موصول ہوئی جس میں ان کے چہرے کو بے لباس جسم سے جوڑا گیا تھا۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
21 سالہ طاہرہ کو تصویر کے ساتھ پیغام دیا گیا کہ وہ اپنے منگیتر کے ساتھ منگنی ختم کر دیں ورنہ ان کی تصویر کو ان کے رشتے داروں میں پھیلا دیا جائے گا۔
طاہرہ نے بتایا ’میں یونیورسٹی میں پڑھتی ہوں۔ جدید ٹیکنالوجی اور اس کے استعمال سے واقف ہوں۔ مجھے فوراً اندازہ ہو گیا کہ تصویر کو آے آئی کے ذریعے بنایا گیا ہے۔ اس لیے میں نے اس کے بارے میں کسی سے بات نہیں کی۔ حتیٰ کے اپنی قریبی سہیلیوں کو بھی نہ بتایا۔‘
طاہرہ کہتی ہیں کہ ’خاموش رہنا ان کی غلطی تھی۔ کیوں کہ دو روز بعد وہی تصویر میرے منگیتر نے مجھے وٹس ایپ پر بھیجی اور بتایا کہ سوشل میڈیا کے ذریعے انہیں موصول ہوئی ہے۔‘
طاہرہ کے مطابق ان کے منگیتر ’ایک آئی ٹی کمپنی میں کام کرتے ہیں‘ جس سے انہیں اس معاملے کو ’بہتر انداز میں سمجھنے کی توقع تھی۔‘
’میرے منگیتر نے معاملہ فہمی کی بجائے منگنی ختم کرنے کو ترجیح دی۔ لیکن میرے لیے زیادہ اہم یہ تھا کہ میرے والدین اور بہن بھائیوں نے میرا ساتھ دیا اور سمجھ گئے کہ یہ ایک جعلی تصویر تھی۔‘
صنم اور طاہرہ دونوں نے جعلی تصویر کے معاملے پر قانونی راستہ اختیار نہیں کیا۔ تاہم یہ ان کا ذاتی فیصلہ تھا۔
انڈپینڈنٹ اردو نے پاکستان میں سائبر جرائم کے تدارک کی ذمہ دار ایجنسی ایف آئی اے کے ترجمان عبدالغفور سے بھی رابطے کی کوشش کی۔
ایف آئی اے کے ترجمان کو اے آئی ٹولز کے ذریعے خواتین کی جعلی تصاویر بنانے، اس کے تدارک اور اس سلسلے میں ایف آئی اے کی استعداد سے متعلق سوالات ارسال کیے تاہم انہوں نے متعدد مرتبہ رابطوں کے باوجود کوئی موقف نہیں دیا۔
انٹرنیٹ گورننس اور جمہوری اقدار کے فروغ میں میڈیا کے کردار کے حوالے سے پہچانی جانے والی غیر سرکاری تنظیم میڈیا میٹرز فار ڈیموکریسی کے شریک بانی اسد بیگ کا ماننا ہے اے آئی کے ذریعے جعلی تصاویر کا مسئلہ پوری دنیا کو درپیش ہے۔
اسد نے انڈپینڈنٹ اردو کو بتایا کہ ’مغرب میں بھی یہ اتنا ہی بڑا مسئلہ ہے جتنا بڑا مسئلہ یہ جنوبی ایشیا یا جنوب مشرقی ایشیا میں بن چکا ہے۔ جنوبی ایشیائی ممالک، بشمول پاکستان میں یہ زیادہ بڑا مسئلہ اس لیے ہے کیوں کہ یہاں عمومی طور پر ماحول خواتین اور دیگر جینڈرز کے لیے غیر محفوظ ہے۔‘
خبر رساں ادارے اے ایف پی کے مطابق ستمبر کے آغاز میں جنوبی کوریا کی پولیس نے سماجی رابطوں کی ایپلی کیشن ٹیلی گرام کے حوالے سے ایک تفتیش کا آغاز کیا ہے۔
ٹیلی گرام پر ڈیپ فیک برہنہ مواد کی ترسیل میں مبینہ معاونت کا الزام ہے جس میں اے آئی کے ذریعے بنائی گئی نوجوانوں (ٹین ایجرز) کی تصاویر بھی شامل تھیں۔
اے ایف پی کے مطابق ڈیپ فیک برہنہ مواد میں لوگوں کے چہروں کو اے آئی ٹیکنالوجی کا استعمال کرتے ہوئے تصویروں اور ویڈیوز میں برہنہ تصویروں کے ساتھ جوڑا گیا تھا۔
اے ایف پی نے جنوبی کوریا کے ایک براڈ کاسٹر کا حوالہ دیا جس نے رپورٹ کیا تھا کہ یونیورسٹی کے کچھ طلبہ ٹیلی گرام چیٹ روم کے ذریعے اپنی ہم جماعت خواتین سے متعلق ایسا مواد ترسیل کر رہے تھے۔
جعلی نے لباس یا قابل اعتراض تصاویر بنانا اب کتنا آسان ہے۔ اس پر حرا کا کہنا تھا کہ ’پہلے منفی ذہنیت کے لوگ غیر پیشہ ورانہ ایپلی کیشنز کا سہارا لیتے تھے لیکن اب اے آئی ٹولز تک آسان رسائی کی وجہ سے ایسی جعلی تصاویر حقیقت سے قریب معلوم ہوتی ہیں۔ اس لیے ایسی خواتین جو عوامی حلقوں میں پہچانی جاتی ہیں، اس قسم کی ہراسانی کا سامنا کرنے کے لیے زیادہ غیر محفوظ ہو گئی ہیں۔‘
اے آئی کے ذریعے جعلی تصاویر بنا کر خواتین کو ہراساں کرنے کے واقعات کی روک تھام کے لیے حرا نے قومی سطح پر اے آئی پالیسی بنانے کی تجویز دی۔
ان کا کہنا تھا کہ ’ایسی قومی اے آئی پالیسی بنانے کی ضرورت ہے جس کی اساس انسانی حقوق پر ہو اور اس کے لیے ڈیجیٹل رائٹس اور خواتین کے لیے کام کرنے والی تنظیموں سے رائے لی گئی ہو۔‘
اس کے علاوہ حرا نے یہ بھی تجویز کیا کہ ’عدالتوں اور قانون نافذ کرنے والے اداروں کو ٹیکنالوجی کے ذریعے جنسی تشدد کو سمجھنے، پچاننے اور اس سے نمٹنے کی تربیت دینے کی بھی ضرورت ہے۔ ساتھ ہی فیڈرل انویسٹیگیشن ایجنسی (ایف آئی اے) کا رسپانس ٹائم بھی بہتر بنانا ہو گا۔ بچوں، خواتین اور مردوں کو ڈیجیٹل تعلیم سے آراستہ کرنا ہو گا جس میں خواتین کے پاس سمارٹ فون کی موجودگی، اس کا استعمال اور خواتین کا انٹرنیٹ کا استعمال بھی بڑھانا ہو گا۔‘
اسد نے بیان کیا کہ اے آئی ٹولز کے ذریعے خواتین کی بے لباس یا قابل اعتراض تصاویر بنانے کے معاملے سے نمٹنے کے دو پہلو ہیں۔ ایک تکنیکی اور دوسرا سماجی۔
’تکنیکی طور پر جو ممالک اس مسئلے سے نمٹنے کی کوشش کر رہے ہیں وہ بہت دلچسپ ہے۔ عمومی طور پر چین سے کسی ترقی پسند سوچ کی امید نہیں ہوتی لیکن اس مسئلے میں چین نے ایک احسن قدم لیا ہے۔ وہاں پر تمام اے آئی ٹولز کو پابند کیا گیا ہے کہ ان کا ٹول یا ایپلی کیشن استعمال کر کے کوئی بھی تصویر بنے گی تو اس پر واٹر مارک موجود ہو گا۔ جس سے یہ اندازہ لگا لیا جائے گا کہ تصویر اصل نہیں ہے۔‘
اسد نے کچھ بڑے سوشل میڈیا پلیٹ فارمز جیسا کہ فیس بک اور انسٹا گرام کے حوالے سے بتایا کہ انہوں نے صارفین کی جانب سے تصاویر اپ لوڈ کرنے کے طریقہ کار میں بہتری لائی ہے۔ ان کا کہنا تھا کہ ’اب دیکھا جا رہا ہے کہ اگر کوئی تصویر اے آئی ٹولز کے ذریعے بنائی گئی ہے تو سوشل میڈیا پلیٹ فارمز خود سے ہی اسے روک لیتے ہیں۔‘
اسد نے اس مسئلے کا ایک اور حل بتاتے ہوئے کہا کہ ’(سافٹ ویئر بنانے والی کمپنیز کی جانب سے) کوشش کی جا رہی ہے بلاک چین کے ذریعے اس مسئلے کا حل نکالا جائے۔ یعنی جو بھی تصویر اے آئی ٹولز کے ذریعے بنائی جائے اس کے میٹا ڈیٹا میں ایک بلاک چین ریفرنس نمبر موجود ہو جس سے یہ پتہ چل جائے کہ یہ اے آئی کے ذریعے بنائی گئی تصویر ہے۔‘
تاہم ان تمام پابندیوں اور احطیاط برتنے کے باوجود اے آئی ٹولز کے ذریعے خواتین کی جعلی تصاویر کے جب ایک مرتبہ سوشل میڈیا پر پھیلا دی جائیں تو اس کے سماجی پہلوؤں سے نمٹنا مشکل ہوتا ہے۔
اسد کہتے ہیں کہ ’ذرہ ایک منٹ کے لیے تصور کریں کہ کسی خاتون کی ایسی کوئی جعلی تصویر سوشل میڈیا پر شیئر ہو جائے تو ہمارا معاشرہ اس پر کیا رد عمل دے گا؟ کیا ہمارے معاشرے میں ایسا کچھ بھی قابل قبول ہو گا؟ مجھے لگتا ہے کہ اگر ایک سو مرتبہ بھی اسے ثابت کر دیا جائے کہ یہ جعلی تصویر ہے لیکن وہ ان خاتون اور ان کے خاندان کے لیے اتنا ہی نقصان دہ ہو گا۔‘
اسد نے اپنی بات جاری رکھتے ہوئے کہا کہ ’ہمارے معاشرے میں خواتین اور دیگر جینڈرز کو ایسی تصاویر کے ذریعے ہراساں کرنے کی طاقت کو ختم کرنا ہو گا۔ نامناسب تصاویر اور قابل اعتراض مواد کے ذریعے ’عزت پر حرف آنے‘ کی ذہنیت کو ختم کرنے کی ضرورت ہے۔ یہ سمجھنے کی ضرورت ہے کہ کسی کی بھی عزت اتنے آرام سے خراب نہیں ہوتی۔ یہ کرنا اتنا آسان نہیں۔ اس ذہنیت کو بدلنے میں بہت وقت لگے گا۔‘
اسد نے آگہی کے پہلو پر بات کرتے ہوئے کہا کہ ’اگر ہمارے معاشرے میں کسی خاتون کو جعلی تصاویر بنا کر ہراساں کیا جا رہا ہے تو ان کے والدین کو یہ سمجھنا چاہیے کہ ایسی تصاویر کتنی آسانی سے بن جاتی ہیں۔‘
’جب جعلی تصاویر کی بنیاد پر خاتون اور خاندان کی عزت کے حوالے سے رویوں میں تبدیلی نہیں آئے گی تب تک تکنیکی طور پر تصویر کو جعلی ثابت کر دینے کی کوئی حیثیت نہیں۔‘
