کیا فیس بک کے نفرت انگیز مواد اور جعلی خبروں کو روکنے کے لیے اقدامات کافی ہیں؟
حافظ محمد ہارون عباس
(مضمون نگار، ہلور سم براڈکاسٹنگ اکیڈمی، ہالینڈ کے سابق فیلو اور بین الاقوامی اسلامی یونیورسٹی اسلام آباد میں میڈیا سائنسز کے شعبے کے فیکلٹی ممبر، سائبر جرنلزم اور ’سوشل میڈیا سٹریٹجی اور پلاننگ‘ کے مضمون کے استاد ہیں)
فیس بک کی ایک سابق ملازم فرانسس ہوگن نے فیس بک سے متعلق کچھ دستاویزات لیک کیں جس سے ظاہر ہوتا ہے کہ فیس بک نے نفرت اور جھوٹی خبریں پھیلانے کے علم کے باوجود انہیں روکنے کی کوشش نہیں کی۔ بلکہ اسے بے قابو ہو کر پھیلنے دیا۔
‘ دی فیس بک پیپرز’ نامی ان دستاویزات میں فروری 2019 سے ہندوستان میں کیے گئے اسٹڈی اور کیے گئے نوٹس سے متعلق معلومات دی گئی ہیں۔ اس کے ساتھ اس میں ایک ٹیسٹ اکاونٹ کے بارے میں بھی معلومات دی گئی ہیں، جس کے ذریعے فیس بک کے تجویز کردہ الگورتھم کو چیک کیا جا رہا ہے۔ یہ معلومات بھی دی گئی ہیں کہ یہ کس طرح نفرت انگیز تقریر اور غلط معلومات صارفین کے سامنے لاتی ہے۔
یہ اندرونی رپورٹس میڈیا اداروں کے ایک گروپ سے لی گئی ہیں۔ یہ رپورٹس اکاونٹس، گروپس اور صفحات کے مضبوط نیٹ ورک کے بارے میں معلومات فراہم کرتی ہیں۔ یہ نیٹ ورک مسلم مخالف پروپیگنڈا اور نفرت انگیز مواد پھیلانے کے لیے سرگرم عمل ہیں۔ اس کی وجہ سے بڑے پیمانے پر اشتعال انگیز مواد اور فرقہ وارانہ جذبات کے ساتھ غلط معلومات پھیلائی جاتی ہیں۔
اس مضمون میں، ہم مندرجہ ذیل سوالات کا جواب دینے کی کوشش کریں گے:
نفرت انگیز موادکیا ہے؟ نفرت انگیز مواداور غلط معلومات کو فلٹر کرنے کے لیے پلیٹ فارم کیا کر رہا ہے؟ کیا اثر ہے اور کیا اختیار کیے گئے اقدامات کافی ہیں:
نفرت انگیز موادکیا ہے؟
فیس بک کے مطابق، نفرت انگیز موادمیں کوئی بھی مواد شامل ہوتا ہے "جو کہ خصوصیت، نسل، قومیت، مذہبی وابستگی، جنسی ترجیح، جنس، صنفی شناخت یا سنگین معذوری یا بیماری کی بنیاد پر”لوگوں کے خلاف براہ راست حملہ کرتا ہے۔
فیس بک کے ٹرانسپیرنسی سینٹر پر اس کی جوتفصیل بتائی گئی ہے۔ اس کے مطابق”براہ راست حملوں” میں کسی بھی قسم کی پرتشدد یا غیر انسانی گفتگو، نقصان دہ دقیانوسی تصورات، احساس کمتری، نفرت یا حقارت آمیز بیانات، توہین آمیز بیانات، لعنت، اور اخراج یا بیگانگی شامل ہیں۔
فیس بک نفرت انگیز تقریر اور غلط معلومات کو فلٹر کرنے کے لیے کیا کر رہا ہے؟
فیس بک 2016 سے غلط معلومات کو روکنے کے لیے اپنے پلیٹ فارم پر "remove, reduce and inform” ("remove, reduce and notify”) کی پالیسی پر عمل پیرا ہے۔
اس کا مطلب ہے کہ پلیٹ فارم اس مواد کو ہٹاتا ہے جو اس کی پالیسیوں کے خلاف ہے۔ نیز، یہ مواد کی رسائی اور لوگوں تک اس کی پہنچ کو کم کرتا ہے۔ اس کے علاوہ، یہ اضافی معلومات یا سیاق و سباق کے ساتھ دوسرے صارفین کو بھی مطلع کرتا ہے، تاکہ وہ فیصلہ کر سکیں کہ آیا وہ اس مواد کو دیکھنا چاہتے ہیں یا شیئر کرنا چاہتے ہیں۔
تاہم، فیس بک نے اپنے مصنوعی ذہانت (AI) سافٹ ویئر کو اس طرح ڈیزائن کیا ہے کہ وہ انگریزی میں پیش کیے جانے والے ایسے مواد کا پتہ لگا کر اسے ہٹا سکتا ہے۔ اس کے علاوہ، دنیا بھر میں، یہ اس کی پالیسیوں کے خلاف جانے والے مواد کی نگرانی کے لیے انسانی مدد کا بھی استعمال کرتا ہے۔
فیس بک نے غلط معلومات کا مقابلہ کرنے کے لیے دنیا بھر میں تھرڈ پارٹی فیکٹ چیکرز (3PFCs) کے ساتھ بھی شراکت کی ہے۔ ہندوستان میں 10 مختلف حقائق کی جانچ کرنے والی تنظیمیں ہیں جو 12 سے زیادہ زبانوں میں کام کرتی ہیں۔
تاہم، اپنی شراکت داریوں اور انسانی ماڈریٹرز کے باوجود، غلط معلومات اور نفرت انگیز موادکے خلاف Facebook کے اقدامات حوصلہ افزا نہیں ہیں
بھارت میں فیس بک کے پالیسی فیصلے سیاسی لوگوں سے متاثر ہوئے ہیں۔
فری سافٹ ویئر موومنٹ آف انڈیا کے ایک محقق سری نواس کوڈالی کہتے ہیں کہ ہندوستان میں موجودہ قوانین کافی نہیں ہیں۔مجھے نہیں لگتا کہ موجودہ حکومت، مطلق اکثریت کے ساتھ بی جے پی حکومت، اس مسئلے کو حل کرنے میں کوئی دلچسپی نہیں رکھتی ہے، کیونکہ ہم جانتے ہیں کہ اس سے انہیں فائدہ ہوتا ہے۔
پلیٹ فارم کو ہندوستان میں بہت سے دوسرے چیلنجوں کا بھی سامنا ہے۔ بھارت میں باضابطہ طور پر تسلیم شدہ 22 زبانوں میں سے فیس بک کی AI صرف 5 زبانوں میں کام کرتی ہے۔ فیس بک کے مطابق، فیس بک باقی زبانوں میں کام کرنے کے لیے انسانی ماڈریٹرز کو ملازم رکھتا ہے۔
لیکن، یہ صورتحال اب بھی پریشان کن ہے۔ ہندی اور بنگالی اس پلیٹ فارم پر چوتھی اور ساتویں سب سے زیادہ استعمال ہونے والی زبانیں ہیں۔ اس کے باوجود، فیس بک کے پاس ان زبانوں میں اشتعال انگیز مواد یا غلط معلومات کا پتہ لگانے اور اسے روکنے کے لیے کوئی موثر نظام موجود نہیں ہے۔
حال ہی میں سامنے آنے والی دستاویزات سے یہ بھی پتہ چلتا ہے کہ فیس بک کی جانب سے غلط معلومات سے نمٹنے کے لیے مقرر کردہ کل بجٹ کا 87 فیصد امریکہ میں خرچ ہوتا ہے۔ جبکہ امریکہ میں پلیٹ فارم کی مارکیٹ دنیا کا صرف 10 فیصد ہے۔
اس بے قابو نفرت کا اثر کیا ہے؟
فیس بک جیسے پلیٹ فارم کا کہنا ہے کہ وہ ایسے مواد کو ہٹانے کے لیے فعال طور پر کام کر رہے ہیں جس سے تشدد بھڑکانے، دشمنی اور نفرت کو فروغ دینے کا امکان ہو، لیکن اب بھی ایسی بہت سی مثالیں موجود ہیں کہ آن لائن نفرت کیسے تشدد کو جنم دیتی ہے۔
فروری 2020 میں، بی جے پی رہنما کپل مشرا نے فیس بک پر ایک ویڈیو میں مسلم مظاہرین کو سڑکوں سے ہٹانے کے لیے تشدد پر اکسانے کی کھل کر بات کی۔ چند ہی گھنٹوں میں فسادات پھوٹ پڑے ، جس کے نتیجے میں 50 سے زائد افراد مارے گئے۔
اس ویڈیونے ہزاروں آرا اور شیئرز حاصل کیے جس کے بعد اس ویڈیو کو پلیٹ فارم سے ہٹا دیا گیا تھا۔
وبائی مرض کووڈ کے دوران بھی، پلیٹ فارم پر فرقہ وارانہ مواد میں تیزی سے اضافہ ہوا۔جہاں صارفین نے وبا کے آغاز میں ہی کورونا وائرس کے پھیلاو کے لیے مسلم کمیونٹی کو نشانہ بنایا تھا ۔
فرقہ وارانہ مواد اور نفرت انگیز تقاریر میں یہ اضافہ مسلمانوں کے خلاف تشدد کا باعث بنا ۔ ان کے کاروبار کا بائیکاٹ کیا گیا ۔ خوانچہ فروشوں اور پھیری والوں کوشک کی وجہ سے ہراساں کیا گیا۔
اسی طرح کے واقعات دنیا کے دیگر ممالک میں بھی دیکھے گئے، جیسا کہ امریکہ میں کیپیٹل ہل تشدد۔ مبینہ طور پر تشدد ‘سٹاپ دی اسٹیل’ فیس بک گروپس سے شروع ہوا، جس کی وجہ سے ٹرمپ کے حامیوں نے کیپیٹل پر حملہ کیا۔ میانمار میں روہنگیا اقلیت کو فیس بک پوسٹ کے ذریعے نشانہ بنایا گیا، جس سے کشیدگی اور تشددبھڑک اٹھا تھا۔
کیا اپنائے گئے طریقے کافی ہیں؟ اور کیا کرنے کی ضرورت ہے؟
"فیس بک پیپرز” نے انکشاف کیا کہ کس طرح کمپنی کو کئی سالوں کے مطالعے کے ذریعے اپنے پلیٹ فارم کی وجہ سے پیدا ہونے والی بہت سی پریشانیوں کا علم تھا، لیکن پھر بھی پلیٹ فارم نے ان کو حل کرنے میں بہت کم یا کوئی اثر نہیں کیا۔
انٹرنیٹ فریڈم فانڈیشن کے اپار گپتا نے کہا کہ فیس بک کو اپنی فنڈنگ پر نظر ثانی کی ضرورت ہے، تاکہ مارکیٹ میں اس طرح کے مواد کو کنٹرول کیا جا سکے۔
فیس بک تمام ممالک (امریکہ کو چھوڑ کر)غلط معلومات سے نمٹنے کے لیے صرف 13 فیصد بجٹ کے انکشاف کا حوالہ دیتے ہوئے، گپتا نے کہا:”ہندوستان کے صارف کی تعداد امریکہ کی آبادی سے زیادہ ہے۔ پہلا اہم اقدام یہ ہے کہ غلط معلومات اور مواد کی چھانٹی کے لیے جاری کردہ بجٹ مختلف ممالک کے لیے صارفین کی تعداد کے متناسب ہونا چاہیے۔
انہوں نے الگورتھم سے وابستہ عمل کے بارے میں بات کی۔ انہوں نے کہا کہ فیس بک اے آئی جسے کمپنی نفرت انگیز تقریر کو کم کرنے کے لیے استعمال کرتی ہے اور دعوی کرتی ہے کہ اس سے 90 فیصد نفرت انگیز مواد کم ہوتا ہے۔ دراصل فیس بک کی اندرونی رپورٹس میں یہ تعداد بالکل مختلف ہے۔انہوں نے کہا، "یہ صرف 3 سے 5 فیصد نفرت انگیز تقریر کو دور کرتا ہے”۔
سینئر صحافی اور محقق مایا میرچندانی اپنے ایک مضمون میں لکھتی ہیں کہ پلیٹ فارم پر ملٹی میڈیا مواد کی نگرانی کے لیے AI اور مشین لرننگ ٹولز کو اپ ڈیٹ کیا جا رہا ہے، ان پر کام کیا جا رہا ہے، لیکن ٹیکنالوجی کے تناظر میں، ایسا مواد بہت بڑا اور مقامی تناظر میں ہو سکتا ہے، جو،ان کے لیے ناممکن ہے۔
مثال کے طور پر، ہندوستان میں اقلیتوں کے خلاف پروپیگنڈہ اور نفرت پھیلانے والے لوگ،براہ راست بات کرنے کے بجائے، کچھ ایسے تضحیک آمیز الفاظ استعمال کرتے ہیں جن کا مشین لرننگ ٹولز سے پتہ نہیں چل سکتا۔
تاہم، جیسا کہ فیس بک اپنے مشین لرننگ ماڈل کو اپ گریڈ کرنے اور اس طرح کے مواد کا پتہ لگانے کے لیے AI پر انحصار کرنے کی بات کر رہا ہے، سوال باقی ہے – پلیٹ فارم اس مسئلے سے نمٹنے کے قابل کیوں نہیں ہے؟
تکشلا انسٹی ٹیوٹ کے ایک محقق پرتیک واگھرے نے پلیٹ فارمز کی جوابدہی کی ضرورت پر زور دیا اور متنبہ کیا کہ درحقیقت پلیٹ فارمز کو اس طرح جوابدہ ہونا چاہیے جس سے معاشرے کی عمومی طاقت کو نقصان نہ پہنچے۔واگھرے نے کہا، "فیس بک کچھ چیزیں کر سکتا ہے، جیسے کہ وہ جس ملک میں کام کرتا ہے وہاں کے مقامی وسائل میںسرمایہ کاری کا جائزہ لے کر اس پر نظرثانی کر سکتا ہے۔ ”
انہوں نے کہا کہ فیس بک پر جو چیلنجز دیکھے جا سکتے ہیں وہ دوسرے سوشل میڈیا پلیٹ فارمز پر بھی عام ہیں۔ "چیلنج صرف ایک کمپنی کے لیے نہیں ہے، بلکہ ان مسائل کو وسیع تر سماجی سطح پر حل کرنے میں بھی ہے۔”
(اس مضمون کے مواد کے لئے دی کوئنٹ میں شائع شدہ مواد سے مدد لی گئی ہے)