عندما تحطقت غرفة الصدى: فحص استخدام اللغة المحددة على المجتمع

حظر المستوى المجتمعي عبارة عن أداة مشتركة ضد المجموعات التي تمكن المضايقات عبر الإنترنت والكلام الضار. لسوء الحظ، تمت دراسة فعالية حظر المجتمع جزئيا ومع نتائج مختلطة. هنا، نحن نقدم منهجية مرنة غير مرنة لتحديد لغة اللغة وتتبع نشاط المستخدم على Reddit قبل وبعد حظر المجتمع (SubRedDit). نحن نستخدم اختلاف تردد كلمة بسيطة لتحديد الكلمات غير الشائعة تمثيا بشكل مثالي في مجتمع معين، وليس كوكيل لخطاب ضار ولكن بمثابة توقيع لغوي للمجتمع. نطبق أسلوبنا إلى 15 مجموعة من الخبرات المحظورة، وتجد أن استجابة المجتمع غير متجانسة بين subreddits وبين مستخدمي subreaddit. كان من المرجح أن يصبح المستخدمون الأعلى أكثر نشاطا، في حين أن المستخدمين العشوائيين مخفضون في كثير من الأحيان استخدام اللغة المفردة دون تقليل النشاط. أخيرا، نجد بعض الأدلة على أن فعالية الحظر تحريز محتوى المجتمع. كان مستخدمو مجتمعات الفكاهة الداكنة لا يتأثرون إلى حد كبير بسبب الحظر بينما كان مستخدمو المجتمعات المنظمة حول التفوق الأبيض والفاشية هم الأكثر تضررا. إجمالا، تظهر نتائجنا أن الحظر لا يؤثر على جميع المجموعات أو المستخدمين على قدم المساواة، ويمهد الطريق لفهم تأثير الحظر عبر المجتمعات.

Community-level bans are a common tool against groups that enable online harassment and harmful speech. Unfortunately, the efficacy of community bans has only been partially studied and with mixed results. Here, we provide a flexible unsupervised methodology to identify in-group language and track user activity on Reddit both before and after the ban of a community (subreddit). We use a simple word frequency divergence to identify uncommon words overrepresented in a given community, not as a proxy for harmful speech but as a linguistic signature of the community. We apply our method to 15 banned subreddits, and find that community response is heterogeneous between subreddits and between users of a subreddit. Top users were more likely to become less active overall, while random users often reduced use of in-group language without decreasing activity. Finally, we find some evidence that the effectiveness of bans aligns with the content of a community. Users of dark humor communities were largely unaffected by bans while users of communities organized around white supremacy and fascism were the most affected. Altogether, our results show that bans do not affect all groups or users equally, and pave the way to understanding the effect of bans across communities.