hummmm llevo tiempo sin usar eso pero seria algo asi
NombreControl.ShowOpen()
If NombreControl.FileName <> "" Then
Codigo Para abrir el archivo
End If
Alli lo que haces es mirar si el usuario selecciono un archivo, si el usuario cancela no abrira el archivo porque no se cumple la condición ya que en la propiedad FileName se almacena el nombre del archivo seleccionado, si se selecciono algo se cumple la condición de lo contrario no.
Lo de la advertencia te sugiero que no la pongas porque seria yo el primero en dejar de usar tu aplicación por mostrarme un mensaje que estaria de sobra, imagina que abres el bloc de notas y le dices abrir y te arrepientes y cancelas, no te molestaria ver un mensaje que dijera No seleccionaste un archivo y tengaas que precionar Aceptar? tienes que pensar siempre en la comodidad del usuario