Сейчас эксепшен вываливается при создании окна, так как booleanToVisibilityConverter еще не объявлен. Нужно как-то
<BooleanToVisibilityConverter x:Key="booleanToVisibilityConverter" />
поместить перед
Visibility="{Binding IsShow, Converter={StaticResource booleanToVisibilityConverter}}"