PDF de programación - Red Neuronal Modelo de Hopfield

Red Neuronal

Modelo de
Hopfield



Introducción

Dentro de este articulo conocerá lo que es una red neuronal dentro de la I.A. Comprenderá como
funciona y como se programa una red neuronal de acuerdo al modelo básico de Hopfield. Se mostrara
la información básica sobre las partes de un cerebro y como es que funcionan las neuronas para
comprender como implementarlo dentro de un algoritmo. Además se mostrara un ejemplo de una red
neuronal artificial programada en C Posix de acuerdo el modelo de Hopfield implementado en Linux.
Espero este manual sea de utilidad a muchas personas, recuerden no robarse solamente el código,
siempre es mejor comprender y hacerlo por uno mismo.
By: John Michel Rivera De León.
E-mail: [email protected]



By: John Michel Rivera De León

Red Neuronal
Modelo de
Hopfield



Conceptos ba sicos


Una red neuronal intenta simular la forma como opera el cerebro.
El cerebro es el sistema con mayor complejidad, no por su tamaño,
sino por el números de elementos que lo conformas y por sus
interrelaciones.

Recordemos que un sistema es un conjunto de elementos que
interactúan entre sí para alcanzar un objetivo.

Los elementos básicos del cerebro son las neuronas, estas son
células especializadas.

En general:

Informacio n

El presente documento

pretende ser una guía

para comprender como

funciona una red

neuronal básica y como

poder representarla en

forma de algoritmo

para poder

programarlo.

Se recomiendo leer

completamente el

artículo para al menos

tener una noción sobre

qué es lo que realiza

una red neuronal.

Dentro de la parte final

encontrara un ejemplo

de un programa

realizado en C, para

simular una red

neuronal. Este ejemplo



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



cuenta con capturas de



1

pantalla para

comprenderse mejor.





Una neurona por sí sola no posee inteligencia alguna, la inteligencia radica en el número de
conexiones entre neuronas. Tal vez te preguntes donde se localiza la inteligencia en el
cerebro. La respuesta es en la sinapsis, es decir, aquel nodo donde se conectan dos neuronas,
en la sinapsis es donde se dan reacciones bioquímicas.

Un modelo para la configuración neuronal es el siguiente:

RNA: Red Neuronal Artificial



2



Una vez comprendidos los elementos básicos para conocer como está compuesta una red
neuronal, podemos pasar a estudiar el modelo de Hopfield.



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

By: John Michel Rivera De León

Modelo de Hopfield


Este modelo consiste en una red monocapa de neuronas cuyas salidas son números binarios.
Cada neurona de la red se encuentra conectada con todas las demás, pero no consigo mismo.

Existen pesos asociados para cada conexión entre neuronas (aristas), los cuales son
simétricos. El peso representa el valor de la sinapsis wij. W es únicamente por que en idioma
ingles el peso es wheigth.

Gráficamente una red así tiene la siguiente configuración:

El conocimiento se almacena en los pesos.



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



3



La función de activación tiene que ver con la naturaleza bioelectrica de la neurona, es decir,
esta señal es de naturaleza eléctrica y química.

La señal generada por la neurona viaja a través del axón y es de naturaleza eléctrica



La señal que se transmite entre las terminales axomicas de una neurona y las dentritas de la
neurona es de origen químico. Las dentritas acarrean señales químicas.



4

Existe una relación de las señales eléctricas con la composición de la membrana de la
neurona.



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

By: John Michel Rivera De León

El precursor de las redes neuronales se llama perceptron. El perceptron es la primera
aproximación que se dio alrededor de los años 50’s y 60’s, esto fue por Marvin Minsky.

El perceptron es una sola neurona dividida en 2 partes, posee varias entradas, y solo una
salida, esa salida es como el axón.

Ejemplo entrenamiento de la red


Entrenaremos una red para que aprenda 2 patrones que corresponden a las siguientes
figuras:



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



Estos patrones son:

1. Dos vectores
2. Cada vector posee 4 componentes, es decir una por pixel.
3. La red neuronal constara por lo tanto de 4 neuronas.



Los vectores de entrada son:

E1 = (1, 1, -1 , -1)

E2= (-1, -1, 1 , 1 )

El aprendizaje consta en encontrar el valor de los pesos, wij, que representa la unión sináptica
entre dos neuronas.



5





.



6



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

By: John Michel Rivera De León

Los pesos se definen:

Termina el proceso de aprendizaje.



Red Neuronal Artificial (Continuacio n del ejemplo)


Ya entrenamos la red, esto significa el aprendizaje (patrones), se manifiesta eligiendo el
conjunto de pesos correcto.

Debemos utilizar el conocimiento, esto es que dada una entrada a la red esta debe dar un
respuesta en función de lo que ella sabe.

Supongamos que tenemos la siguiente entrada para la red Neuronal:



E=(

1,

-1,

-1,

-1

)

Gráficamente esto es:



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



7



¿Qué responde la red?

Se realiza el proceso;

Iteración # 1



Ejecutamos la función de activación



F( β )= 1 si β > 0

-1 si β<=0



8



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

By: John Michel Rivera De León

Aplicando f a cada componente:

E*W = ( 2

6

-2

-2 )

E*W = ( f(2)

f(6)

f(-2)

f(-2) )

= ( 1

1

-1

-1)



Iteración # 2:



Aplicamos la función de activación:

W2 = (1 1

-1

-1)



¿W1 = W2?  en caso de que no, se hace una tercera iteración se compara 2 con 3,

sino son iguales se vuelve a hacer otra cuarta iteración y se compara 3 con 4.

En esta caso como si son iguales entonces ya terminamos, es decir, que la red

W2= ( 1 1

-1

-1)

Esto quiere decir que de acuerdo a la entrada:

(1

-1

-1

-1)



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



La red responde (1

1

-1

-1),



9

Ya que es el más parecido que la red conoce. Recordemos que entrenamos a la red solo con 2
patrones.







Programacio n de una RNA de acuerdo al modelo de

Hopfield

En esta sección mostrare un ejemplo de un programa realizado en C Posix en la que se
muestra una RNA según el modelo de hopfield.

Primero mostraremos como se ve y se maneja el programa y al final se anexara el código
fuente para que lo analicen o les sirva de ejemplo. No hagan el copy paste de mi código
porque de lo contrario nunca aprenderán a hacer nada por ustedes mismos, además les caerá
una maldición xD. Bueno empecemos:

Aquí podemos observar el menú principal que ofrece el programa;



Elegimos la opción número 1 para entrenar la red. Ingresamos cuantos vectores aprenderá la
red, en este caso 2 vectores.



Ingresamos ahora el número de componentes en los vectores, en este caso 4 pixeles para
cada vector:



10

Ingresamos ahora el valor para cada pixel de los vectores, en este caso ingresamos para el
vector 0 los valores [0,0]=1, [0,1]=1, [0,2]=-1, [0,3]=-1, y para el vector 1 los valores [1,0]=-1,
[1,1]=-1, [1,1]=1, [1,1]=1.



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

By: John Michel Rivera De León



Una vez entrenada la red nos retornara al menú principal, podemos ver la información de la
red eligiendo la opción número 2, esta muestra información que podemos visualizar página
por página pulsando la tecla Q, muestra información sobre la matriz identidad, resultados de
las operaciones ET*Ei – I, y la matriz de pesos.



l

d
e
i
f
p
o
H
e
d
o
e


d
o
M

l



l

a
n
o
r
u
e
N
d
e
R



Presionamos Q para regresar al menú principal, ahora elegimos la opción 3 para ingresar un
patrón que la red no conoce, esto con el fin de que la red de acuerdo a lo que aprendió nos
responda lo que sabe.



11





Para esto ingresamos el patrón 1, -1, -1, -1:

Entonces la red responde que ella conoce algo parecido y el resultado es 1 1 -1 -1:



í


]
a
ñ
a
p
m
o
c

a

l



e
d
e
r
b
m
o
n


l



e
a
b
i
r
c
s
E
[

La red nos dice en que numero de iteración encuentra el resultado por si queremos
corroborarlo a manita ya cabemos cuantas iteraciones tendremos que hacer xD.

Presionamos Q para regresar al menú. Salimos de la aplicación con Ctrl+C.

Fin del programa.



12

By: John Michel Rivera De León

Co digo fuente completo
Lo que casi todos únicamente quieren…

#include <string.h>

#include <stdio.h>

#include <stdlib.h>

#include <math.h>

#include<sys/types.h>

#include<unistd.h>

int vectores=0,componentes=0,check1=0;

void submenu(int pesos[]);

void info();

void entrada();

void Reconocimiento(int pesos[]);

void activacion(int wi[],int pesos[]);

bool compara(int wbefore[],int wafter[]);

void learning(int numeritos[]);

//Creado por John Michel Rivera de Leon

//[email protected]

void entrada(){

system("clear");

printf("Ingrese el Numero de Vectores a Utilizar:");

scanf("%d",&vectores);

printf("\nIngrese El numero de Componentes en los Vectores:");

scanf("%d",&componentes);

int Nume