PDF de programación - Redes Neuronales

IINNSSTTIITTUUTTOO TTEECCNNOOLLOOGGIICCOO DDEE NNUUEEVVOO LLAARREEDDOO

INGENIERIA EN SISTEMAS COMPUTACIONALES

Inteligencia Artificial

Catedrático: MC. Bruno López Takeyas

Fecha de Entrega:

Viernes 12 de Septiembre de 2003

RREEDDEESS NNEEUURROONNAALLEESS

ALUMNOS:



* Aguilar Lozoya Raúl
* García Armendáriz Verónica
* Guerrero Arroyo Diana
* Herrera Morales Eduardo

* Molina García Edna Gabriela

M99100071
M99100055
M99100052
M99100182



REDES NEURONALES ARTIFICIALES

Son dispositivos o software programados de manera tal que funcionen



como las neuronas biológicas de los seres vivos.



Estado de Activación : Se considera como “1” ”0”.

Cada neurona tiene una serie de variables respecto así misma :

Conexiones: Caminos(unidireccional) que comunican la neurona
con otras.

Pesos de las Conexiones: Cantidad numérica que se envía a
otra neurona para su activación.

Umbral de Activación: La cantidad de “input” necesario para
activar la neurona.

NEURONAS BIOLÓGICAS



La neurona como elemento constituyente del cerebro y el SN, esta



El Soma.- Es el receptor de información, de donde pasa el axón.



dividida en tres partes según su funcionalidad:



Axón.- Guía de comunicación.



Dentritas.- “output ” que envía esa información a otras neuronas,
aquí es donde desemboca el axón.

DESARROLLO HISTORICO

1943. Creación del primer modelo matemático de una neurona

propuesto por McCulloch y Pitts.


1949. Donald Hebb presento las reglas de aprendizaje de la neurona.

1957. Frank Rosenblatt presento el perceptron(una red neuronal con

aprendizaje).


1960. surgen 2 modelos denominados Adaline y Madaline.

En la era moderna surge la técnica de aprendizaje de propagación hacia
atrás o Back Propagation, propuesta por Minsky y Papert.

Una RNA está formada por una gran cantidad de elementos llamados
neuronas, divididas en tres grupos diferentes:

Neuronas de entrada: Aquellas que reciben la información del exterior,
denominadas.
Neuronas de salida: Aquellas que transmiten la información al exterior,
denominadas.
Neuronas ocultas: Aquellas que no tienen ningún contacto con el exterior, y
solamente intercambian información con otras neuronas de la red, llamadas.



CARACTERÍSTICAS DE LAS REDES NEURONALES

Existen cuatro aspectos que caracterizan una red neuronal: su topología, el
mecanismo de aprendizaje, tipo de asociación entre la información de entrada y
de salida, y la forma de representación de estas informaciones.

? Topología

Consiste en la organización y disposición de las neuronas en la red formando
capas o agrupaciones de neuronas. Los parámetros fundamentales de la red
son: número de capas, número de neuronas por capa, grado de conectividad y
tipo de conexión entre neuronas.
Al hacer una clasificación topológica de las RNA se suelen distinguir:

1. Redes monocapa : se establecen conexiones laterales entre las
neuronas que pertenecen a la única capa que constituye la red.
Ejemplos de redes de este tipo son la red HOPPFIELD. Las redes
monocapa se utilizan típicamente en tareas relacionadas con lo que se
conoce
regenerar
incompleta o
informaciones de entrada que se presenta como
distorsionada.

como auto-asociación; por ejemplo, para

2. Redes multicapa : disponen las neuronas agrupadas en varios niveles.
Dado que este tipo de redes disponen de varias capas, las conexiones
entre neuronas pueden ser del tipo feedforward (conexión hacia
adelante) o del tipo feedback (conexión hacia atrás).



?

Mecanismo de aprendizaje

El aprendizaje es el proceso por el cual una red neuronal modifica sus pesos
en respuesta a una información de entrada. Podemos considerar que el
proceso de aprendizaje ha terminado cuando los valores de los pesos
permanecen estables.
Un aspecto importante es determinar los criterios de la regla de aprendizaje;
cómo se van a modificar los pesos. De forma general se consideran dos tipos
de reglas:



ELEMENTOS:

1. Aprendizaje supervisado
2. Aprendizaje no supervisado


La diferencia entre ambos tipos estriba en la existencia o no de una agente
externo que controle todo el proceso.

Otro criterio para diferenciar las reglas de aprendizaje se basa en considerar si
la red puede aprender durante su funcionamiento (aprendizaje ON LINE) o
requiere de una fase previa de entrenamiento (aprendizaje OFF LINE). En este
último debe existir un conjunto de datos de entrenamiento y un conjunto de
datos de test o prueba; igualmente los pesos de las conexiones no se
modifican después de terminar la etapa de entrenamiento de la red. En la red
ON LINE los pesos varían dinámicamente cada vez que se presente una nueva
información al sistema.

Redes con aprendizaje supervisado
Se caracteriza porque el proceso de aprendizaje se realiza mediante un
entrenamiento controlado por un agente externo (supervisor, maestro) que
determina la respuesta que debería generar la red a partir de una entrada
determinada. El supervisor comprueba la salida generada por el sistema y en el
caso de que no coincida con la esperada, se procederá a modificar los pesos
de las conexiones.
En este tipo de aprendizaje se suelen distinguir a su vez tres formas de llevarlo
a cabo:

? Aprendizaje por corrección de error
? Aprendizaje por refuerzo
? Aprendizaje estocástico


Redes con aprendizaje no supervisado
No requieren de influencia externa para ajustar los pesos de las conexiones entre sus
neuronas. La red no recibe ninguna información por parte del entorno que le indique si
la salida generada en respuesta a una determinada entrada es o no correcta; son
capaces de auto organizarse. Estas redes deben encontrar las características,
regularidades, correlaciones o categorías que se pueden establecer entre los datos de
la entrada.
Los algoritmos de aprendizaje no supervisado suelen ser de dos tipos:

? Aprendizaje hebbiano
? Aprendizaje competitivo y cooperativo



?

Tipo de asociación entre las informaciones de

entrada y salida

Las redes neuronales son sistemas que almacenan cierta información
aprendida; esta se registra de forma distribuida en los pesos asociados a las
conexiones entre neuronas. Hay que establecer cierta relación o asociación
entre la información presentada a la red y la salida ofrecida por esta. Es lo que
se conoce como memoria asociativa.
Existen dos formas primarias de realizar esta asociación entrada/salida y que
generan dos tipos de redes:

1. Redes heteroasociativas : La red aprende parejas de datos [(A1,B1),
(A2,B2),....(An,Bn)], de tal forma que cuando se le presente determinada
información de entrada Ai responda con la salida correspondiente Bi. Al
asociar informaciones de entrada con diferentes informaciones de salida,
precisan al menos de 2 capas, una para captar y retener la información
de entrada y otra para mantener la salida con la información asociada. Si
esto no fuese así se perdería la información inicial al obtenerse la salida

asociada; es necesario mantener la información de entrada puesto que
puede ser necesario acceder varias veces a ella, por lo que debe
permanecer en la capa de entrada. El aprendizaje de este tipo de redes
puede ser con supervisión.

2. Redes auto asociativas : La red aprende ciertas informaciones A1, A2,
.., An de forma que cuando se le presenta una información de entrada
realizará una auto correlación, respondiendo con uno de los datos
almacenados, el más parecido al de entrada. Este tipo de redes pueden
implementarse con una sola capa de neuronas. El tipo de aprendizaje
utilizado habitualmente es el no supervisado y suelen utilizarse en tareas
de filtrado de información para la reconstrucción de datos, eliminando
distorsiones o ruido, explorar relaciones entre informaciones similares
para facilitar la búsqueda por contenido en bases de datos y para
resolver problemas de optimización
?

Representación de la información de entrada y



salida


Redes continuas : En un gran número de redes, tanto los datos de entrada
como de salida son de naturaleza analógica (valores reales continuos y
normalmente normalizados, por lo que su valor absoluto será menor que la
unidad). En este caso las funciones de activación de las neuronas serán
también continuas, del tipo lineal o sigmoidal.
Redes discretas : Por el contrario, otras redes sólo admiten valores discretos
[0,1] a la entrada, generando también en la salida respuestas de tipo binario. La
función de activación en este caso es del tipo escalón.
Redes híbridas : La información de entrada es continua pero a la salida
ofrecen información binaria.



APLICACIONES DE LAS REDES NEURONALES

? Aplicaciones Médicas
? Aplicaciones en Empresas
? Aplicaciones Comerciales
? APLICACIONES MÉDICAS:



Dentro de un siglo la medicina será capaz de reemplazar cualquier parte
dañada del cuerpo y sustituir, por medio de un chip implantando en el cerebro,
cierto déficit de la inteligencia para que todos los individuos estén a la altura del
progreso técnico y científico. La electrónica ayuda a la medicina, inventando
implantes que podrán parar el mal de Parkinson o la epilepsia, y órganos
artificiales que mejoran el modo de vida. Permitirá una administración precisa
de medicamentos, colocando minibombas en alguna parte del cuerpo que