Visual Basic - Guardar valores al salir

Estoy haciendo una aplicación, en ella existe una matriz de labels, en las que necesitaba cambiar su Caption y que al abrir de nuevo el programa, aparezcan con los últimos valores establecidos. He estado leyendo tutoriales, pero no termino de solucionar el problema. Hay alguna manera sencilla de guardar estas nuevas Caption?

Una posibilidad seria que generes un archivo de texto, por ejemplo con los valores de los captions de los labels separados por comas, y lo leas cuando inicias el pgm y los guardes cuando lo cierres.
Espero te sea util.
Salu2. Mario