Ещё как вариант можно так сделать
1. Забанить адреса торрент трекеров через pfblocker
2. Нарушителей выявлять по логам и репортам
3. Создать отдельное правило в firewall rules загнать их всех в 1 алиас и выставить ограничение на download и upload
4. Можно ещё мониторить traffic graph
По-любому не все всё равно качают, а маленькая кучка пользователей