Magic shaper просто автоматически пытается расставить приоритеты для проходящего трафика.
Например вы смотрите видео с youtube, а тут ваш сосед начинает качать по торренту файл на 6 Гб. Ваше видео начнет тормозить, если вообще не остановится. Вот опция
Set P2P traffic to lowest priority как раз и нужна, чтобы для любых P2P соединений (к коим относится torrent) назначить наименьший приоритет, и ваш сосед будет качать свой длинный файл чуть дольше, но не мешая никому другому.
Вообще шейпер полезная вещь, особенно на низкоскоростных каналах. Например можно настроить его так, чтобы ICQ сообщения проходили вперед всего остального или игровому трафику дать некоторый приоритет.
Вот наковырял в гугле небольшую статью, там есть раздел о принципах работы шейпера в m0n0wall
http://macrodmin.blogspot.com/2010/09/m0n0wall.html