انڈیا میں عام انتخابات سے قبل مصنوعی ذہانت (اے آئی) سے تیار کردہ مواد میں اضافے کے حوالے سے بڑھتی ہوئی تشویش کے دوران سابق لیجنڈ بلے باز سچن ٹنڈولکر ڈیپ فیک ویڈیوز کا تازہ ترین شکار بن گئے ہیں۔

سوشل میڈیا پر گردش والی ایک ڈیپ فیک ویڈیو میں سچن ٹنڈولکر کو دکھایا گیا ہے، جس میں وہ ایک آن لائن گیمنگ ایپ کی ترغیب دے ہیں۔

ویڈیو میں دکھایا گیا کہ ٹنڈولکر یہ کہتے ہوئے ایپ انسٹال کرنے کی ترغیب دے رہے ہیں کہ ان کی بیٹی کو اس سے مالی فائدہ ہوتا ہے۔

تاہم سپورٹس سٹار نے جعلی ویڈیو کی مذمت کرنے کے لیے سوشل میڈیا کا سہارا لیا اور غلط معلومات پھیلانے کے خلاف ہوشیار رہنے اور فوری کارروائی کا مطالبہ کیا۔

ٹنڈولکر نے ڈیجیٹل طور پر تبدیل شدہ ویڈیو شیئر کرتے ہوئے ایکس پر لکھا: ’یہ ویڈیو جعلی ہیں۔ ٹیکنالوجی کا بے تحاشا غلط استعمال دیکھنا پریشان کن ہے۔ ہر کسی سے درخواست ہے کہ وہ بڑی تعداد میں اس طرح کی ویڈیوز، اشتہارات اور ایپس کو رپورٹ کریں۔ ‘

یہ پہلا موقع نہیں ہے جب کسی مشہور انڈین شخصیت نے ڈیپ فیکس کے اثرات کے بارے میں متنبہ کیا ہے۔ گذشتہ چند ماہ میں کترینہ کیف، عالیہ بھٹ، پریانکا چوپڑا اور حال ہی میں رشمیکا مندنا جیسے بالی وڈ سٹارز بھی اسی طرح کے تجربات سے گزر چکے ہیں۔

انفارمیشن ٹیکنالوجی کے وزیر اشونی ویشنو نے حال ہی میں اعلان کیا تھا کہ تمام سوشل میڈیا کمپنیوں کو نوٹس بھیجے گئے ہیں، جس میں انہیں ہدایت دی گئی ہے کہ وہ اپنے پلیٹ فارم سے غلط معلومات، خاص طور پر ڈیپ فیک کی شناخت کرنے اور انہیں ہٹانے کے لیے ضروری قدم اٹھائیں۔

حکومت سوشل میڈیا پلیٹ فارمز پر زور دے رہی ہے کہ وہ ڈیپ فیک مواد کے مسئلے سے نمٹنے کے لیے فعال اور جارحانہ رویہ اختیار کریں۔

انہوں نے کہا: ’ڈیپ فیک ہم سب کے لیے ایک بڑا مسئلہ ہے۔ ہم نے حال ہی میں تمام بڑی سوشل میڈیا فرموں کو نوٹس جاری کیے ہیں اور ان سے ڈیپ فیکس کی نشاندہی کرنے اور ایسے مواد کو ہٹانے کے لیے اقدامات کرنے کو کہا ہے۔ سوشل میڈیا پلیٹ فارمز نے اس کا جواب دیا ہے۔ وہ کارروائی کر رہے ہیں۔ ہم نے ان سے کہا ہے کہ وہ اس کام میں زیادہ جارحانہ رویہ اختیار کریں۔‘

ڈیپ فیکس میں اے آئی ٹیکنالوجی کا استعمال کرتے ہوئے ایک شخص کی دوسرے کے ساتھ مماثلت کی ڈیجیٹل تبدیلی شامل ہے۔ آڈیو، ویڈیو یا یہاں تک کہ تصویر بھی ڈیپ فیک ہو سکتی ہیں۔

گذشتہ سال نومبر میں ویشنو نے کہا تھا کہ سوشل میڈیا پلیٹ فارمز پر ڈیپ فیک کا پھیلاؤ جمہوریت کے لیے ایک نیا خطرہ ہے۔

یہ ویڈیو رشمیکا مندانا کی ایک ڈیپ فیک ویڈیو سوشل میڈیا پر وائرل ہونے کے بعد سامنے آئی ہے، جسے ’غلط معلومات کی ایک شکل‘ قرار دیا گیا تھا۔

سوشل میڈیا پر پوسٹ کی گئی ویڈیو میں دیکھا جا سکتا ہے کہ مندانا سیاہ لباس پہنے اور لفٹ میں داخل ہوتی دکھائی دے رہی ہیں، لیکن اصل ویڈیو برطانوی نژاد انڈین انفلوئنسر زارا پٹیل کی تھی، جن کے انسٹاگرام پر چار لاکھ سے زائد فالوورز ہیں۔

مندانا نے ایکس پر پوسٹ کیے گئے ایک بیان میں کہا کہ اس مسئلے کو ’فوری ‘ طور پر حل کیا جانا چاہیے۔

انہوں نے کہا: ’آج ایک خاتون اور ایک اداکارہ کی حیثیت سے میں اپنے اہل خانہ، دوستوں اور خیر خواہوں کی شکر گزار ہوں، جو میری حفاظت اور سپورٹ سسٹم ہیں، لیکن اگر یہ میرے ساتھ اس وقت ہوا ہوتا جب میں سکول یا کالج میں تھی، تو میں واقعی تصور نہیں کر سکتی کہ میں اس سے کیسے نمٹتی۔‘

انڈیا میں سوشل میڈیا پر اشتہارات اور سپانسرڈ پوسٹس میں شاہ رخ خان، ویرات کوہلی اور اکشے کمار جیسی شخصیات پر مشتمل ڈیپ فیکس کی نشاندہی کی گئی ہے۔

ایک مثال میں شاہ رخ خان کو ایک ڈیپ فیک ویڈیو میں ’ایوی ایٹر ‘ نامی گیم کی تشہیر کرتے ہوئے دکھایا گیا ہے، جبکہ ویرات کوہلی کا ڈیپ فیک بیٹنگ گیم کی حمایت کرتے ہوئے پایا گیا ہے۔ اسی طرح انفوسس کے سربراہ نارائن مورتی کو بھی نشانہ بنایا گیا۔ ایک اور ویڈیو میں معروف صحافی رویش کمار کو ذیابیطس کی دوا کی ترغیب دیتے ہوئے دکھایا گیا ہے۔

چونکہ اس میں ناظرین کو گمراہ کرنے کی صلاحیت ہے، لہذا تجارتی مقاصد کے لیے تیار کردہ مواد میں ڈیپ فیک ٹیکنالوجی کے استعمال سے ہیرا پھیری کئی اخلاقی خدشات پیدا کرتی ہے۔

معاملے کی سنگینی کو مدنظر رکھتے ہوئے وزیراعظم نریندر مودی نے مصنوعی ذہانت کے کام کرنے کے طریقہ کار کو سمجھنے کی اہمیت پر بھی زور دیا اور ڈیپ فیکس بنانے میں اس کے ممکنہ استعمال پر تشویش کا اظہار کیا۔

گذشتہ سال نومبر میں مودی نے ڈیپ فیک ٹیکنالوجی کے غلط استعمال کو ’تشویش ناک‘ قرار دیتے ہوئے ایک فرضی ویڈیو کی مثال دی تھی، جس میں وہ روایتی گجراتی گربا رقص پیش کر رہے ہیں۔

چونکہ انتخابات قریب ہیں، ڈیپ فیکس اور رائے دہندگان کے ساتھ دھوکے کے خدشات اب تک کی بلند ترین سطح پر ہیں۔ نریندر مودی نے اسی حوالے سے کہا: ’لوگ جو کچھ دیکھتے ہیں اسے سچ ماننے کی غلطی کر سکتے ہیں۔۔اور یہ ہمیں ایک بڑے بحران کی طرف لے جائے گا۔‘

مصنوعی میڈیا کا سراغ لگانے میں مہارت رکھنے والی کمپنی ڈیپ میڈیا کے مطابق 2023 میں سوشل میڈیا پر ایک اندازے کے مطابق پانچ لاکھ ویڈیوز اور وائس ڈیپ فیک شیئر کیے گئے۔

میٹا اور گوگل جیسے بڑے پلیٹ فارمز نے گمراہ کن مواد کو ہٹانے یا لیبل لگا کر مصنوعی میڈیا سے نمٹنے کا عہد کیا ہے۔

 فیس بک، انسٹا گرام اور وٹس ایپ کی مالک کمپنی میٹا کا کہنا ہے کہ ’اس ہیرا پھیری کو پہچانا نہیں جاسکتا، یہ گمراہ کن ہو سکتی ہے، خاص طور پر ویڈیو مواد کے معاملے میں۔‘

یوٹیوب کی مالک کمپنی گوگل کا کہنا ہے کہ ’پلیٹ فارم کے کانٹینٹ کری ایٹر کو چاہیے کہ تبدیل شدہ یا مصنوعی مواد کی نشاندہی کریں، بشمول مصنوعی ذہانت کے ٹولز کا اور ہم لیبل لگا کر اس طرح کے مواد کے بارے میں ناظرین کو آگاہ کریں گے۔‘

ایڈووکیسی گروپ ایکسیس ناؤ کے ایشیا پالیسی ڈائریکٹر رمن جیت سنگھ چیما نے گذشتہ سال دی ہندو کو بتایا تھا: ’یہ پلیٹ فارم مسائل سے نہیں نمٹ سکتے اور وہ جوابدہ اور فعال نہیں ہیں۔ اور یہ ایک بہت خطرناک علامت ہے۔‘

ان کا مزید کہنا تھا: ’اس بات کا خطرہ ہے کہ دنیا کی توجہ صرف امریکی انتخابات پر ہے لیکن وہاں جو معیار لاگو کیا جا رہا ہے، وہاں جو کوشش کی جا رہی ہے، اس کی ہر جگہ پیروی کی جائے۔‘

بنگلہ دیش میں سات جنوری کو ہونے والے انتخابات سے قبل، جس میں وزیراعظم شیخ حسینہ نے مسلسل چوتھی بار کامیابی حاصل کی تھی، سوشل میڈیا پر خواتین سیاست دان رومین فرحانہ کی بکینی اور نیپون رائے کی سوئمنگ پول میں موجودگی کے حوالے سے ڈیپ فیک ویڈیوز منظر عام پر آئی تھیں۔

دریں اثنا انڈونیشیا میں، جہاں 20 کروڑ سے زیادہ رائے دہندگان 14 فروری کو ہونے والے انتخابات کی تیاری کر رہے ہیں، تینوں صدارتی امیدواروں اور ان کے انتخابی ساتھیوں کے ڈیپ فیکس آن لائن گردش کر رہے ہیں۔

لندن سے تعلق رکھنے والے ٹیکنالوجی کے ماہر، مصنف اور سٹارٹ اپ مینٹور جسپریت بندرا نے گذشتہ ماہ انڈیا ٹوڈے کو بتایا: ’ڈیپ فیکس یقینی طور پر مصنوعی ذہانت کے بڑے مسائل میں سے ایک ہے۔‘

مشہور شخصیات کے علاوہ پوپ فرانسس سے لے کر سابق امریکی صدور براک اوباما اور ڈونلڈ ٹرمپ جیسی اہم عالمی شخصیات بھی ڈیپ فیک کا نشانہ بن چکی ہیں۔

نیدرلینڈز میں قائم ویژول تھریٹ انٹیلی جنس کمپنی Sensity.ai کے مطابق 2018 کے بعد سے آن لائن جعلی ویڈیوز میں نمایاں اضافہ ہوا ہے اور یہ تعداد ہر چھ ماہ میں تقریباً دوگنی ہوئی ہے۔ دسمبر 2020 تک کمپنی نے انٹرنیٹ پر گردش کرنے والی 85 ہزار 47 جعلی ویڈیوز کی نشاندہی کی۔

امریکہ میں قائم ایک تنظیم ہوم سکیورٹی ہیروز کی 2023 کی سٹیٹ آف ڈیپ فیکس رپورٹ کے مطابق آن لائن ڈیپ فیک ویڈیوز کے پھیلاؤ میں 550 فیصد کا نمایاں اضافہ دیکھا گیا ہے، جس کی مجموعی تعداد 95 ہزار 820 ہے۔

رپورٹ میں انڈیا کو اس بڑھتے ہوئے خطرے کے لیے چھٹا سب سے زیادہ حساس ملک قرار دیا گیا ہے۔

حقائق کی چھان بین کرنے والی معروف ویب سائٹ بوم کے منیجنگ ایڈیٹر جینسی جیکب نے گذشتہ ماہ ڈوئچے ویلے کو بتایا تھا کہ ڈیپ فیک ویڈیوز خاص طور پر الیکشن سیزن کے دوران تشویش کا باعث بن رہی ہیں۔

انہوں نے کہا: ’دنیا بھر کی حکومتیں ابھی پالیسی ردعمل پر کام کر رہی ہیں لیکن ہمیں ابھی تک کوئی ایسی چیز نظر نہیں آ رہی ہے جو کوئی منصوبہ لگتی ہو۔ انڈین حکومت نے بھی اپنے تحفظات کا اظہار کیا ہے اور یہ دیکھنا دلچسپ ہوگا کہ وہ متاثرین کے تحفظ کے لیے موجودہ قوانین اور نئی دفعات کو کس طرح استعمال کرتی ہے۔‘

ہندوستان ٹائمز کی رپورٹ کے مطابق گذشتہ ہفتے الیکٹرانکس اور انفارمیشن ٹیکنالوجی کے وزیر مملکت راجیو چندر شیکھر نے سوشل میڈیا کمپنیوں کو مطلع کیا کہ حکومت اگلے سات سے 10 دنوں کے اندر آئی ٹی قوانین میں ترامیم جاری کرکے ڈیپ فیکس سے متعلق ضوابط قائم کرنے کا ارادہ رکھتی ہے۔

مستند خبروں اور حالات حاضرہ کے تجزیوں کے لیے انڈپینڈنٹ اردو کے وٹس ایپ چینل میں شامل ہونے کے لیے یہاں کلک کریں۔