Visual Basic - Picture en los botones

Hola, hay alguna manera de poner el icono de los botones en un lateral en lugar de encima del caption?
Gracias

No, no la hay. Para conseguir ese efecto debes emplear otro control. Una de las mejores posibilidades que conozco es instalar la librería FAST.lib que puedes encontrar en esta Web, en "Programas y Utilidades". Tiene de todo y muy bueno. Y es gratis.