думал, почему мне до тошноты отвратительно так неприятно это (4), но тут ты запостил (8) и оно кристаллизовалось.
то есть в общих словах проблему тебе уже описали, пока я собирался писать: это путь к интеллектуальной стагнации и зацветанию конформизмом; попытки описания динамики этого процесса тоже делались <
https://www.lesswrong.com/posts/ZQG9cwKbct2LtmL3p/evaporative-cooling-of-group-beliefs>.
но более подробно <
http://www.paulgraham.com/disagree.html> я бы сказал так: проблема такого подхода к разногласиям в том, что он
симметричный в том смысле <
https://slatestarcodex.com/2017/03/24/guided-by-the-beauty-of-our-weapons/>, что одинаково хорошо поддерживает и истинные, и ложные взгляды, а баланс между конформизмом и спорами даже чуть наклоняет в сторону первого. учитывая, что этот баланс (особенно в долгоживущих группах с постоянным составом) и так слегка наклонён в эту сторону (первая ссылка), а политика модерации есть самый действенный рычаг для его подкручивания, всё это выглядит дорогой в ад.
slippery slope argument, да, но особенно в контексте сообществ, когда динамика не то чтобы целиком определяется сознательными решениями, каждый такой склон надо либо перенаклонить, либо поставить забор, либо хотя бы убедиться, что сообщество умрёт естественной смертью раньше, чем скатится достаточно далеко (ср. маленькие и кратковременные рабочие группы в IETF против больших и бессмертных в ISO), иначе гравитация таки победит.
моё неприятие (8) в чём-то сходно: ты (предположительно) хочешь получить алерт, если
действительно наступает цензура и/или arbitrary enforcement <
https://www.drmaciver.com/2017/12/the-great-asshole-filter/>, особенно учитывая, что и второе, и даже первое может наступить более-менее само и неожиданно для всех участников. проблема в том, что в ситуации, когда комментирующий троллит, ты действительно ожидаешь повышенной частоты комментов типа «это цензура», но в ситуации, когда у тебя действительно цензура, ты
тоже ожидаешь повышенной частоты комментов типа «это цензура», и более того, во втором случае это один из лучших индикаторов. вообще, если Р(«цензура»|цензура) > Р(«цензура») и ты видишь, что «цензура», ты не можешь не повысить степень подозрения, что действительно цензура.
да, если сигнал очень слабый, то может быть трудно отследить большое количество малых вкладов, или сообщество может успеть умереть ещё до того, как у тебя их накопится достаточное количество. но это же не повод вообще выкидывать единственную имеющуюся метрику и вообще relax, everything is going to be fine.
неожиданно вдумчивым образцом пояснения за модерацию является Hacker News <
https://hn.algolia.com/?query=by:dang%20please&sort=byDate&type=comment>; про успешность или адекватность этой модерации на деле я, правда, ничего особенно не знаю.
совершенно чудесным образцом подкручивания наклона в целом, на мой взгляд, являются правила типа «можно не ходить нв лекции», «можно выбрать любые курсы из предлагаемых» и «можно сдавать любому экзаменатору на выбор» (ср. Netflix culture), потому что они позволяют увидеть (более того, мешают не увидеть) проблему до того, как она начнёт отравлять среду.