PDF de programación - Sistemas conexionistas: Evolución Histórica

1. SISTEMAS CONEXIONISTAS: Evolución Histórica

Intentos de simular
facetas de los seres
vivos

B. ASPECTO INTELECTUAL: Abacos, Máquinas

A. ASPECTO FÍSICO: Autómatas y Homúnculos

de cómputo, etc.

C. ASPECTO METAFÍSICO: Seres semejantes al
hombre mismo "ex nihilo". FRANKENSTEIN,
ROBOTS UNIVERSALES DE ROSSUM, etc.

A.

Estatuas animadas reproduciendo movimientos cotidianos:
EGIPTO; "Paloma de Architas" de Tarente; "Automatismos defensivos en
Siracusa" de Arquímedes contra la flota romana; etc.

B.



En la mitología Griega:

· TALO (obra de Hefestos) el defensor de MINOS asesinado por MEDEA.

· ANDROIDES de Hefestos, "de oro macizo y con inteligencia en su mente

y capacidad de hablar", según le cuenta TETIS a su hijo AQUILES

En la Edad Media:

· SAN ALBERTO MAGNO CON SU "MAYORDOMO"

· LEONARDO CON SU "LEÓN FLORIDO Y ANIMADO"

· RAMÓN LLUL CON SU "ARS MAGNA". Método lógico que ensaya
exhaustiva y sistemáticamente todos los caminos permitidos hasta llegar a
una solución (Desde los principios elementales de un problema ensaya todas
las posibles combinaciones).

En la Edad Moderna:

· GOLEM DE LOEW (s. XVI)

· ANDROIDES DE LOS HERMANOS DROZ

· TOCADOR DE FLAUTA Y CARAMILLO DE VAUCANSON

· MÁQUINAS DE PASCAL, LEIBNITZ, FREGE, BOOLE, ETC.

·ADA LOVELACE (colaboradora de BABBAGE), establece el régimen "las
máquinas sólo pueden hacer todo aquello que sepamos como ordenarle
que haga. Su misión es ayudar a facilitar lo ya conocido"

Sistemas Conexionistas. Alejandro Pazos. Página

1

· MALZEC CHESS AUTOMATON de VON KEMPELEN

· GENERAL PROBLEMS SOLVER de Ernst, Newell y Simon.

· PROGRAMA DE DAMAS DE SAMUEL -1959

· ZUSE y SREYERS: 1ª Computadora 1943

1.1.

Sistemas Conexionistas. Evolución, historia y

precursores.

A los precursores de los Sistemas Conexionistas en las Bases Biológicas
hay que situarlos temporalmente entre los años de 1.890 y 1.940. Se
destacará, por su tremenda importancia, al premio Nobel español D. Santiago
Ramón y Cajal, al Nobel italiano Camilo Golgi, a Williams que, en 1.890,
describe el primer sistema conexionista afirmando: "cuando dos procesos
cerebrales están en activo conjuntamente o cuando existe una inmediata
sucesión, uno de ellos tiende a propagar la excitación al otro" y a Lashley por
ser el primero, en 1.900, en estudiar cómo almacenar y procesar información
utilzando para ello una representación distribuida de la misma.

Es el propio McCulloch quien, en 1.952, refiriéndose a las investigaciones
de Cajal, dice: "su teoría neuronal ha sido tan fuertemente establecida como la
base de nuestra Ciencia, que nosotros ignorábamos qué pasaba antes, y
hemos olvidado que él fue el primero que lo propuso". Y ya en 1.895 sienta las
bases de lo que él ya llamaba, en aquellos tiempos "Ingeniería Neuronal". Son
Cajal con Sherrington y Pavlov los tres hombres que más han hecho por
acercar a una explicación experimental el misterio de la vida nerviosa y Cajal,
ya en 1.888, postula la llamada "Teoría de la Neurona", en 1.890 propone la
"Teoría de la Polarización Dinámica", y en 1.892 describe la "Teoría
Neurotrópica". Se considera necesario hacer constar dos reflexiones hechas
por Cajal hace casi 100 años y que conservan toda su vigencia: A) al no
encontrar diferencias cualitativas entre las células del SN de los humanos y de
lso animales, decidió postular que,: "la superioridad funcional del SN de los
humanos estaría relacionada con la abundancia prodigiosa y con la cuantía
considerable de las llamadas neuronas de axón corto", y b) "el artificio
soberano de la sustancia gris es tan intrincado que desafía y desafiará por
muchos siglos la obstinada curiosidad de los investigadores".

Sistemas Conexionistas. Alejandro Pazos. Página

2

Los precursores computacionales de las Redes de Neuronas Artificiales
se situarán entre los años 1.940 y 1.960. Son McCulloch y Pitts quienes
proponen en 1.943 el modelo de neurona artificial que lleva su nombre
(dispositivo binario con dos estados y un umbral fijo que recibe conexiones o
sinapsis excitadoras de igual peso e inhibidoras de acción absoluta).

En 1.949 Hebb propone un sistema de aprendizaje para la modificación
de la sinapsis denominado "Regla de Aprendizaje Sináptico" o "Regla de Hebb",
donde postula que: "una vía de neuronas es reforzada cada vez que dicha vía
es usada". Rochester, en los años 50 realiza con relativo éxito modelos de RNA
teniendo en cuenta los trabajos previos de Hebb. En 1.958 se publica el libro
"The computer and the Brain" cuyo autor es Von Neumann, quien investiga
con nuevos modelos de neuronas artificiales.

Un psicólogo, Rosenblatt, entre 1.958 y 1.962, presenta el Perceptron,
máquina con un comportamiento adaptativo capaz de reconocer patrones
dotado de la regla del aprendizaje denominado de "autoasociación", donde el
estímulo y la unidad de respuesta están asociadas por la acción de las
entradas.

En 1.959 Widrow y Hoff desarrollan ADALINE (Neurona Adaptativa
Lineal) que conformarán las MADALINES, las cuales son las primeras RNA
aplicadas a un problema del mundo real, puesto que se utilizaron como filtros
adaptativos para eliminar ecos y ruidos en las líneas telefónicas comerciales.

El declive de las Redes de Neuronas Artificiales, hasta casi paralizarse
durante casi 20 años, viene a partir de la publicación del libro de Minsky
Papert publicado en 1.969 titulado "Perceptrons", donde demuestran las
limitaciones en lo que los Perceptrones podían aprender a reconocer y
sugieren que, probablemente, no se encontraría solución al problema del
aprendizaje en las capas ocultas. Además, también contribuye a este declive el
denominado "Informe Ligthill", emitido en 1.973, el cual desautorizó los
objetivos de la Inteligencia Artificial al considerar que, desde el punto de vista
científico, Godel había demostrado que no era factible formalizar, en lógica de
primer orden, las teorías científicas y que, por tanto, no era posible crear una
teoría automatizada de la inteligencia.

En el apartado de Resurgir e Impulsores de las Redes de Neuronas
Artificiales se destacará a Anderson, un neurofisiólogo que, en esta época,
hace las primeras aproximaciones a la "Memoria Lineal Asociativa" en 1.969, a

Sistemas Conexionistas. Alejandro Pazos. Página

3

Fukushima que desarrolla el "Cognitron" y el "Neocognitron" y, finalmente a
Grossberg, un psicólogo que propone entre otras cosas, en 1.967 la "Teoría de
la avalancha" y creará junto con Amari, McClelland, Rumelhart Edelman,
Reeke, Kohonen, Kosko y otros investigadores nuevos modelos de células,
arquitecturas y algoritmos de aprendizaje que servirán de base a los modelos
más investigados actualmente, los denominados "Modelos Biológicos".

El verdadero renacimiento de las RNA ocurre gracias a Hopfield que
presenta, con una fuerte fundamentación matemática y de forma coherente, el
modo de trabajar de los modelos de RNA. Establece que las RNA deben ser
primero modelos cerebrales y luego dispositivos útiles de procesamiento. Fue
clave su claridad y el análisis matemático en los modelos analizados,
mostrando cómo deberían trabajar las RNA.

La "Máquina Conexionista" presentada por Daniel Hillis, la cual consta
de más de 65.500 elementos de procesamiento de información dispuestos en
paralelo, representa quizá el mayor logro "hardware" realizado hasta la fecha
dentro del mundo conexionista.

Actualmente las RNA son un campo de gran interés debido a varias

causas:

a) la habilidad de estos sistemas para aprender automáticamente

b) habilidad para poder funcionar de forma aceptable tanto en
presencia de información inexacta como cuando se producen
deterioros o fallos en sus componentes

c) al interés existente por

la búsqueda de arquitecturas de

computadoras que permitan el procesamiento en paralelo

d) la similitud con los modelos neurofisiológicos del cerebro,
pudiéndose de este modo inercambiar modelos e investigaciones
entre los de RNA y Neurociencias, potenciándose ambas.

1.2. Nacimiento de las Redes de Neuronas Artificiales.

Se produce, ya se ha comentado, como consecuencia de la aparición de
tres trabajos teóricos relativos a lo que ahora se conoce como cibernética y
que, curiosamente, se publican todos en el mismo año de 1.943.

"Behaviour, Purpose and Teleology" de Rosemblueth, Wiener y Bigelow,
en el MIT, donde sugieren distintas formas de conferir fines y propósitos a las

Sistemas Conexionistas. Alejandro Pazos. Página

4

máquinas, es decir, hacerlas teleológicas. Su finalidad última era encontrar un
conjunto de principios sencillos que explicaran las actividades de la mente
humana, representando igualmente bien las operaciones del cerebro y las
actuaciones de artilugios simuladores, sin necesidad de identificar cerebros
con máquinas, ni siquiera de explicar los procesos cerebrales sobre la falsa
equidad de procesos mecánicos previamente concebidos que los simulen.

"The Nature of Explanation" de Craik, en la Universidad de Cambridge,
quien propone que las máquinas empleen modelos y analogías en la resolución
de problemas, esto es, establecer la capacidad de abstracción de las
máquinas. Expresó, hacia un crítico de las limitaciones de las máquinas, algo
tan contundente como: "En vez de ser tu teoría tan amplia como la realidad, lo
que pasa es que tu percepción de la realidad es tan estrecha como tu teoría.
Por eso ambas coinciden".

"A Logical Calculus of the Ideas Inmanent in Nerv