あんまり需要ないみたいだけどiptables だけでも実現できたので報告

iptables -A OUTPUT -p tcp -m owner --sid-owner `ps -eo sid,args |grep peercast |head -n 1 |cut -b 1-5`
とか
iptables -A OUTPUT -p tcp -m owner --cmd-owner peercast

こんなルールで一応希望どおりになりました
modprobe ipt_owner 必要かも