PDF de programación - Linux clustering con Rocks - Una guía práctica

LINUX CLUSTERING CON ROCKS

UNA GUÍA PRÁCTICA

Grupo de Física y Astrofísica Computacional, FACom

Jorge Zuluaga, Dr.

Instituto de Física

Universidad de Antioquia

Universidad de Antioquia

Medellín – Colombia

2006

Última actualización: 20 de noviembre de 2006

1

Última actualización: 20 de noviembre de 2006

2

Presentación

Se presenta en este documento una Guía Práctica al uso y administración básica de
Clusters Beowulf que corren Linux Rocks como distribución de base. Por “práctica”
entendemos aquí una guía capaz de introducir de forma expedita al usuario de un cluster
que corre Rocks, en la utilización de algunas de las herramientas con las que cuenta la
plataforma para su monitoreo, control y uso para el cálculo en Ciencias e Ingeniería. Se
ofrecen también los elementos básicos de la administración cotidiana de un Cluster con
Rocks.

El usuario de esta Guía deberá estar familiarizado con el uso del sistema operativo Linux.
Aunque no se requieren conocimientos avanzados de uso y administración del sistema
operativo, se asumirá que se cuenta con una experiencia básica en el manejo de la línea de
comando, manipulación de archivos y directorios y tareas básicas de comunicación.

La Guía se estructura en tres partes. Una guía práctica del usuario, donde se asume que se
dispone ya de una plataforma operativa, y que el lector busca solución inmediata al problema
de la conectividad en el cluster, el uso y organización de los archivos y el lanzamiento de
trabajos de computo usando las herramientas de HPC de las que dispone. Una guía
práctica de administración que presenta soluciones rápidas a los problemas básicos de la
administración del cluster, administración de sistemas de archivos, configuración de servicios
y software, administración de usuarios, instalación de nuevo software y monitoreo del cluster.
Y un conjunto de apéndices donde se exponen soluciones concretas a problemas
específicos en el cluster, instalación de la plataforma, instalación de paquetes y librerías
específicas, configuración personalizada de algunos servicios, entre muchas otras. Esta
última parte es la más flexible del documento en tanto crecerá conforme surja la necesidad
de abordar esos mismos temas.

La guía que presentamos aquí no pretende ser ni convertirse en un “manual de referencia”
completo de la distribución ni de las herramientas que se usan en ella para hacer HPC y Grid
Computing. Para ello están las referencias bibliográficas que se incluyen al final de la guía.
Su estructura y contenido han sido diseñados de modo que puedan crecer conforme las
necesidades expresadas por los usuarios de este tipo de sistemas en el contexto en el que
la guía busca tener su principal audiencia (grupos de investigación científica o en ingeniería
que usen la herramienta para investigación) así lo requieran.

La guía es una compilación elaborada para un curso taller que en el tema ofrecí al Grupo de
Investigación en Química de Recursos Energéticos y Medio Ambiente en la Universidad de
Antioquia. Aprovecho para agradecer al Grupo QUIREMA y en especial al Profesor Fanor
Mondragón, que dispuso de los recursos económicos y físicos para la realización del
mencionado curso. En la guía se recoge la experiencia que en los últimos años he
acumulado en el montaje, uso y administración de Clusters Beowulf usando la distribución
Linux Rocks. En ese sentido agradezco al Instituto de Física que me ha proveído de los
recursos físicos y la descarga académica para dedicar parte de mi tiempo en la adquisición
de tan valiosa experiencia.

Esta guía viene siendo activamente utilizada en la realización de cursos y talleres de
capacitación en el uso de clusters con Rocks en la Universidad de Antioquia, donde se
encuentran ya operativos 3 clusters dedicados a la investigación en Física y Química. El

Última actualización: 20 de noviembre de 2006

3

material contenido aquí viene siendo también utilizado en cursos y talleres en los pregrados
y posgrados de Física, Química e Ingeniería que usan la plataforma (cursos de Física y
Astrofísica Computacional, curso de Programación sobre plataformas de computación
distribuida, seminario de procesamiento paralelo, taller de computación científica). Se
espera además que la guía pueda ser utilizada por la comunidad creciente de usuarios de
Rocks en el país en particular en el marco de la iniciativa de conformación de un Grid
Nacional a partir de la reunión de clusters y grids institucionales.

Actualizaciones de la guía pueden ser adquiridas a través del sitio del Grupo de Física y
Astrofísica Computacional (FACom) http://urania.udea.edu.co/facom o del sitio del portal en
Internet del Cluster del Instituto de Física, http://hercules.udea.edu.co

Jorge Zuluaga, Medellín, 2006

Última actualización: 20 de noviembre de 2006

4

Convenciones

La guía contiene una colección de comando útiles, tips de uso, scripts y comentarios
generales sobre un conjunto amplio de tópicos relacionados con el uso y administración de
Clusters Rocks.
Se asume en esta guía las siguientes convenciones tipográficas:

Convención
Comandos #,#:

# comando

Salida:
salida en pantalla

Archivo:

...

#Configuration file

FILE=configuration

SERVER=localhost

...

Descargue: archivo

Ejemplo
Comando 1,20:

# ls /var/log/message*

Salida:
/var/log/messages
/var/log/messages.2
/var/log/messages.4
/var/log/messages.1
/var/log/messages.3
./run.sh:

#!/bin/bash
#Script para SGE
#-S /bin/bash
#-j y

dir=/home/fulano/run1
cd $dir
./program.out

Descargue: run.sh

Explicación
Comandos de linux. Todos los
comando vienen numerados de
acuerdo a la sesión en la que
aparecen. El nombre del
comando se indica seguido del
símbolo del sistema: '#' cuando
el comando debe ser ejecutado
como administrador y '$' cuando
el comando debe ser ejecutado
como usuario.
Cuando se muestre la salida de
un comando esta se presenta
en tipo courier pequeño.

El contenido de un archivo se
presenta en tipo courier con una
sangría respecto al resto del
documento y con una línea
vertical que delimita el
contenido del archivo.
Cuando el documento no esta
completo se colocan puntos
suspensivos arriba o abajo
indicando la presencia de más
líneas
Cuando en una situación dada
se requiera un archivo o un
paquete especial se referirá al
lector al sitio del Grupo FACom
donde podrá encontrar el
archivo respectivo.
El sitio es:
http://urania.udea.edu.co/facom
Y los archivos se encuentran en
el enlace “documentación”

Última actualización: 20 de noviembre de 2006

5

Primera Parte

Guía Práctica del Usuario

Guía 1

Guía práctica a la plataforma

Contenido sintético

1.1.Acceso al frontend y a los nodos del cluster
1.2.Sistemas de archivos en el cluster
1.3.Monitoreo básico de los recursos del cluster
1.4.Síntesis de comando

1.Guía práctica a la plataforma

1.1.Acceso al frontend y a los nodos del cluster

Todo Cluster Linux configurado con Rocks tiene 2 tipos de máquinas: el frontend (o servidor)
donde se centraliza la información sobre la plataforma, se crean las cuentas de usuario y
donde se ejecutan los servicios principales del Cluster; y los nodos de computo (o
simplemente los nodos) que son las maquinas en el cluster que realizan efectivamente los
trabajos de computo en la plataforma o que se pueden utilizar para almacenar grandes
volúmenes de información de manera distribuida.

El acceso de un usuario al cluster comienza con la apertura de una cuenta en el frontend a
cargo del servidor del cluster. Para ello el usuario debe proveer un nombre de usuario válido
(login) y asignar una contraseña también valida o aceptable para autenticarse en el frontend.

Una vez se tiene una cuenta creada es importante consultar al administrador el Fully
Qualified Host Name (FQHN) del frontend, que es el nombre y el dominio con el que se
reconoce la maquina en la red de la institución a la que pertenece o en Internet, y el IP
(Internet Protocol address) que es la identificación numérica única de la maquina en Internet.
Ambos el FQHN y el IP pueden ser solo reconocidos dentro de redes locales (una red
institucional por ejemplo). Es importante consultar también con el root el dominio desde el
que se puede acceder al frontend.

En los ejemplos sucesivos asumiremos para el FQHN de nuestro cluster cluster.dominio y
para su IP 192.168.3.2.

El acceso al frontend en primera instancia se hace solicitando una terminal remota (shell
remoto) a través del protocolo SSH (secure shell). La terminal puede abrirse usando lo que
se conoce como un cliente de terminal remota ssh.

Acceso desde Linux

Última actualización: 20 de noviembre de 2006

6

La mayoría de las máquinas Linux vienen dotadas de un cliente ssh que se invoca
directamente desde el símbolo del sistema con el comando ssh.

Comandos


1,1

:

$ ssh [email protected]
$ ssh [email protected]

Last login: Tue Oct 31 09:12:36 2006 from 192.168.3.2
Rocks 4.2.1 (Cydonia)
Profile built 00:06 13-Oct-2006
Kickstarted 19:36 12-Oct-2006
Rocks Frontend Node - Cluster
It doesn't appear that you have set up your ssh key.
This process will make the files:
/home/fulano/.ssh/id_rsa.pub
/home/fulano/.ssh/id_rsa
/home/fulano/.ssh/authorized_keys
Generating public/private rsa key pair.
Enter file in which to save the key (/home/fulano/.ssh/id_rsa):
Created directory '/home/fulano/.ssh'.
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /home/fulano/.ssh/id_rsa.
Your public key has been saved in /home/fulano/.ssh/id_rsa.pub.
The key fingerprint is:
30:8c:99:71:db:38:a2:91:99:9e:19:5d:ca:f7:01:c7 [email protected]

Una vez el usuario se logea por primera vez el frontend