PDF de programación - Herramientas en GNU/Linux para estudiantes universitarios - Redes Neuronales con GNU/Linux

Herramientas en GNU/Linux para

estudiantes universitarios

Redes Neuronales con GNU/Linux

Francisco José Palacios Burgos

Herramientas en GNU/Linux para estudiantes universitarios: Redes Neuronales con GNU/Linux
por Francisco José Palacios Burgos

Copyright (c) 2.003 Francisco J. Palacios Burgos.
Permission is granted to copy, distribute and/or modify this document under the terms of the GNU Free Documentation License, Version 1.2 or
any later version published by the Free Software Foundation; with no Invariant Sections, no Front-Cover Texts, and no Back-Cover Texts. A copy
of the license is included in the section entitled "GNU Free Documentation License".

Tabla de contenidos

1. Historia de las Redes Neuronales ............................................................................................................................1
1.1. Inteligencia Artificial......................................................................................................................................1
1.2. Redes Neuronales...........................................................................................................................................1
2. Conceptos Básicos sobre RNA .................................................................................................................................3
2.1. La neurona artificial .......................................................................................................................................3
2.2. Arquitectura de una RNA...............................................................................................................................5
3. Tipos de Redes Neuronales.......................................................................................................................................6
3.1. Clasificación de las RNA ...............................................................................................................................6
3.2. El perceptron multicapa (MLP)......................................................................................................................7
3.3. Redes Autoorganizadas. Redes SOFM ..........................................................................................................9
3.4. Redes de funcion de base radial (RBF)........................................................................................................10
4. Ejemplo de entrenamiento de una red neuronal. Caso RBF ..............................................................................13
4.1. Ejemplo de aprendizaje para un problema de clasificacion por medio de una red RBF..............................13
A. Referencias interesantes ........................................................................................................................................18
B. GNU Free Documentation License .......................................................................................................................19
B.1. PREAMBLE................................................................................................................................................19
B.2. APPLICABILITY AND DEFINITIONS....................................................................................................19
B.3. VERBATIM COPYING ..............................................................................................................................20
B.4. COPYING IN QUANTITY.........................................................................................................................20
B.5. MODIFICATIONS ......................................................................................................................................21
B.6. COMBINING DOCUMENTS ....................................................................................................................22
B.7. COLLECTIONS OF DOCUMENTS..........................................................................................................22
B.8. AGGREGATION WITH INDEPENDENT WORKS .................................................................................23
B.9. TRANSLATION..........................................................................................................................................23
B.10. TERMINATION ........................................................................................................................................23
B.11. FUTURE REVISIONS OF THIS LICENSE ............................................................................................23
B.12. ADDENDUM: How to use this License for your documents ...................................................................24

iii

Lista de tablas

4-1. Datos de entrenamiento .........................................................................................................................................13

Tabla de figuras

1-1. Representación de una neurona biológica ...............................................................................................................1
2-1. Representación de una neurona artificial tipo McCulloch-Pitts ..............................................................................3
2-2. Funciones de activación más usuales ......................................................................................................................4
3-1. Representación de redes unidireccionales y realimentadas.....................................................................................6
3-2. Representación de un Perceptrón Multicapa (MLP) ...............................................................................................7
3-3. Forma funcional de una sigmoide ...........................................................................................................................7
3-4. Arquitectura típica de un mapa SOM ......................................................................................................................9
3-5. Arquitectura típica de una red de tipo RBF...........................................................................................................11
3-6. Forma funcional de una función tipo Gaussiana ...................................................................................................11
3-7. Centros en el espacio de las entradas.....................................................................................................................12

Tabla de ecuaciones

2-1. Suma ponderada ......................................................................................................................................................3
3-1. Error cuadrático medio ............................................................................................................................................8
3-2. Términos delta .........................................................................................................................................................8
3-3. Distancia Euclídea entre el vector sináptico y la entrada ......................................................................................10
3-4. Actualización de los pesos en una red SOM .........................................................................................................10
3-5. Actualización de los pesos de la capa de salida en una red RBF ..........................................................................12

iv

Capítulo 1. Historia de las Redes Neuronales

1.1. Inteligencia Artificial
La historia de la informática tal y como la conocemos hoy en día es reciente. Hacia finales de los años 30 y durante
la década de los 40, los trabajos de gente como Alan Turing o von Neumann asientan las bases de la informática
moderna. En un principio se orienta hacia la computación algorítmica, es decir, la resolución de un determinado
problema obteniendo un algoritmo que manipula los datos relativos al problema. El binomio hardware + software se
muestra como una potente herramienta para la resolución de problemas que el ser humano no podría resolver o que
tardaría mucho tiempo en hacerlo.

La evolución del hardware ha hecho que la potencia de cálculo haya crecido de tal forma que los ordenadores hoy en
día son indispensables en muchas areas de actividad del ser humano. La computación algorítmica sin embargo no es
suficiente cuando nos enfrentamos a ciertas tareas. Por ejemplo, algo tan sencillo para el ser humano como reconocer
una cara de otra persona es el tipo de problema que no es tan fácil ser resuelto por la vía algoritmica.

Debido a este tipo de problemas desde finales de los 50 se ha venido investigando en un conjunto de técnicas que
utilizan un enfoque diferente para resolver los problemas. Este conjunto de técnicas y herramientas se bautizó con
el nombre de Inteligencia Artificial (IA), porque lo que se pretendía era que los ordenadores presentaran un compor-
tamiento inteligente, entendiendo por esto que supieran hacer frente a ciertos problemas de una manera similar a como
lo hacen los seres humanos.

Dentro de la IA, se trabajó en dos enfoques distintos. Por un lado, se desarrolló lo que se conoce como el enfoque
simbólico. Este enfoque asienta sus bases en la manipulación de símbolos en vez del mero cálculo númerico, tradi-
cional de la computación algoritmica. La realidad se plasma por medio de una serie de reglas. Herramientas como la
lógica de predicados, nos permiten manipular los símbolos y las reglas para obtener nuevas reglas. Este enfoque se
presta a ser muy útil en ciertos tipos de problemas aunque en general tiene la desventaja de que a la hora de buscar la
solución a un determinado problema los métodos de deducción presentan una explosión combinatoria que hace que
requiera bastante tiempo de cálculo.

El otro enfoque tradicional es el enfoque conexionista y es donde se encuadran las redes neuronales. La idea aquí
es desarrollar un sistema formado