Lo que recomienda Microsoft para estos casos es la utilización de un archivo de recursos. Esto consiste en la creación de un fichero de texto que contiene una tabla de cadenas de texto, donde cada cadena se puede identificar por un numero. Por ejemplo:
STRINGTABLE
BEGIN
00001, "Hola"
00002, "Adiós"
END
Luego, este archivo de texto se guarda con extención .RC y se compila, valga la redundancia, con un compilador incluído en el CD de Visual Basic (rc.exe) generando un archivo con extensión .RES, el que tú deberás agregar a tu proyecto.
Por último, tu puedes establecer los caption de la siguiente forma:
Label1.Caption = LoadResString(1)
Esto hará que el caption de Label1 se establezca a "Hola"
Espero que te sirva...
PD. Te mandé un ejemplo a tu correo.