я не знаю как там в этой вашей проприетарной вмваре (век бы её не видел), но, повторюсь, лично у меня и в VBox, и в QEMU работает не только явное задание размера экрана через xrandr, но и растягивание окна на "нестандартные" размеры. И даже интеграция мыши.