Latest revision as of 04:34, 5 January 2022

1 Introducción

La Regla de Hebb es un modelo teórico de plasticidad sináptica propuesto originalmente el trabajo de Donald Hebb [1], aunque, como observa [2], autores como Konorski [3] y Ramón y Cajal [4] ya habían concebido ideas semejantes. Unas décadas después, las ideas de Hebb recibieron confirmación experimental al observarse que su conjetura modelaba al fenómeno de Potenciación a Largo Plazo (Long-Term Potentiation, LTP), el cual fue descrita por primera vez en los trabajos de Terje Lmo y Timothy Bliss [5,6].

Computacionalmente, la regla de Hebb señala un método paramétrico de aprendizaje de redes neuronales que ha recibido cierto sustento biológico. Posterior al planteamiento original de la regla de Hebb simple se han propuesto otras reglas de aprendizaje más próximas a experimentos más recientes, como es el caso de la regla BCM [7] o la regla STDP (véase [8] para una formulación), o tratan de resolver problemas computacionales concretos como es el caso de la regla de Oja [9]. Sin embargo, a pesar de los avances, los algoritmos de redes neuronales (incluyendo las profundas) usualmente se entrenan utilizando métodos basados en el gradiente y retropropagación.

¿Qué ventajas proporciona disponer de un aprendizaje basado en el conocimiento disponible de la plasticidad frente a los métodos “artificiales”? ¿Por qué en la actualidad se han descartado a los métodos basados en la regla de Hebb frente a los métodos basados en el gradiente? Estas preguntas forman parte de la discusión general existente entre hasta qué punto se debe tratar de emular a los sistemas biológicos para crear inteligencia artificial, generalmente enmarcado en la discusión del conexionismo contra el enfoque simbólico de la Inteligencia Artificial (véase, por ejemplo [10] para una breve discusión de la situación actual del debate en un área concreto). En este caso, sin embargo, tenemos un caso donde dos enfoques conexionistas entran en debate sobre la forma en que deben aprender las neuronas, siendo en apariencia el modelo basado en el gradiente el de mayor éxito hasta ahora.

No es la primera vez que dos modelos conexionistas entran en conflicto sobre el nivel de plausibilidad biológica que se necesita para alcanzar los resultados. Por ejemplo, en cuestiones relacionadas con la arquitectura, los modelos de redes neuronales profundas han sido señalados por tener un alto grado de abstracción con respecto a las neuronas biológicas [11], siendo modelos como HMAX (véase [12]) preferidos por algunos autores por tener una construcción más relacionada con los experimentos en la Corteza Visual.

La discusión que se plantea en este artículo es diferente: dadas redes neuronales generales, ¿es preferible disponer de aprendizaje hebbiano sobre aprendizaje basado en el gradiente? Una de las acusadas ventajas que disponen las reglas basadas en Hebb se refieren a la capacidad de implementarse en tiempo real [13], pero su principal desventaja es que por lo general no alcanzan el desempeño otorgado por las reglas basadas en el gradiente y en algunos casos la diferencia es muy aguda [14].

¿Por qué un algoritmo biológicamente inspirado no alcanza los resultados de clasificación de un algoritmo aparentemente artificial? Divisamos cinco posibles razones principales por las que esto ocurra:

1. Los modelos de aprendizaje por plasticidad están incompletos. Como se ha mencionado anteriormente, los experimentos y otros datos nos han permitido perfeccionar la regla de aprendizaje sináptica que se tiene. No obstante, la misma puede no estar suficientemente bien comprendida. Un posible elemento faltante es el tercer factor que es mencionado por [15] referente a los moduladores de la plasticidad (como es el caso de los neurotransmisores). Este aspecto ha sido abordado por trabajos como [16] y ha sido explorado computacionalmente en problemas de IA por [17] para la base de datos MNIST, obteniendo resultados mejores que la aplicación directa de la regla de Hebb. El problema es que tales intentos no muestran mejores resultados que los trabajos que utilizan retropropagación. Esto puede deberse a que las reglas de aprendizaje tratan de diseñar una forma de aproximarse a los pesos adecuados, mientras que los métodos basados en el gradiente directamente buscan dichos pesos óptimos.
2. La retropropagación es biológicamente inspirada. Como si fuera una convergencia evolutiva, es posible que hayamos partido de una definición matemática para encontrar un algoritmo presente en la naturaleza. Este tema es ampliamente discutido en [18]. Sin embargo, podemos ver de manera rápida que el aprendizaje de redes neuronales artificiales actual difiere del aprendizaje de seres humanos, debido a que por lo regular no se implementa en tiempo real.
3. El modelo de actividad neuronal es simple. Es posible que no se haya tomado un modelo conveniente para la actividad de las neuronas y dependamos de incluir este factor (y otros como las células gliales, la maduración de las neuronas, etcétera). Una solución en este sentido es el desarrollo de las redes neuronales pulsantes (Spiking Neural Networks o SNN, véase por ejemplo [19]). Sin embargo, incluso la adición de reglas de plasticidad avanzadas con STDP (como [8]) no logran alcanzar los resultados logrados por otros modelos como los basados en el gradiente.
4. La evolución juega un gran papel. ¿Y si los valores de pesos como por ejemplo los kernels de convolución de la corteza visual están mediados por mecanismos diferentes a la plasticidad para su desarrollo? Esta pregunta requiere de una respuesta en el área de biología pero la cuestión que se plantea aquí es que la evolución puede ser determinante para el aprendizaje hebbiano pueda ajustarse adecuadamente. Sin embargo, a nivel algorítmico, implementar un esquema de evolución para los pesos parece ser excesivo.
5. La arquitectura es inadecuada. Posiblemente el éxito del aprendizaje profundo reside en su arquitectura compuesta por múltiples capas convolucionales y millones de parámetros, que se acercan de alguna manera a la realidad del cerebro, el cual está compuesto por un número astronómico de neuronas. Al parecer, incluso un modelo simple pero con una gran cantidad de parámetros suena suficiente e incluso mejor que un modelo pequeño pero con aspectos más basados en la biología, puesto que obvian el aspecto fundamental que es la inclusión de millones de neuronas. Para resolver este problema, en conjunto con los puntos anteriores 2 y 4, en [13] planteamos una red convolucional con pesos pre-entrenados y aprendizaje hebbiano en la capa final, obteniendo resultados cercanos a los logrados utilizando algoritmos recientes basados en el gradiente. Sin embargo, si bien los resultados se acercaron a lo logrado por los métodos basados en el gradiente, no fue posible superarlos.

En apariencia, los esfuerzos por generar algoritmos biológicamente más plausibles para modelos conexionistas parecen acercarse asintóticamente a los resultados logrados vía descenso del gradiente pero sin lograr aún un resultado contundente que los supere. Esto no quiere decir que las propuestas estén mal fundadas, ya que pueden incluir otras ventajas como el aprendizaje en tiempo real. Sin embargo, la pregunta sigue abierta y no creemos que una solución no exista puesto que los seres humanos somos capaces de realizar tales actividades de reconocimiento de imágenes sin dificultad. No obstante, incluso esta idea puede estar mal fundada ya que los modelos de redes profundas pueden superar a la exactitud humana como clama el artículo de [20]. De esta manera, es posible que los algoritmos puedan estar sobrecalificados para tareas específicas y disponer de una buena aproximación a los mismos con arquitecturas convenientes puede llegar a ser una solución conveniente y no tratar de aspirar a entender cómo las redes biológicas logran una mayor capacidad de clasificación.

En este artículo, trataremos de aproximarnos a las preguntas anteriormente planteadas. La aproximación que haremos será referente a la última posible respuesta que se planteó, indicando que la arquitectura que se maneja es insuficiente para resolver los problemas de clasificación. Hemos visto que dada una arquitectura arbitraria, el descenso del gradiente suele obtener mejores resultados. Sin embargo, ¿existirá una arquitectura apropiada para la regla de Hebb con la que se puedan obtener los resultados que se observan con métodos basados en el gradiente? Este acercamiento que se dará será de corte principalmente teórico, pero se mostrará una implementación de las ideas abordadas.

2 Preliminares teóricos

La descripción matemática de la Regla de Hebb estará principalmente basada en [21], salvo donde se indique. Por simplicidad, partiremos del modelo de tasa de disparo para representar a la actividad de cada neurona individual. De manera alternativa, se pueden utilizar spikes (potenciales de acción) para modelar la actividad neuronal, como se realiza en [19]. Sea ${\textstyle y\in D\subset \mathbb {R} ^{+}}$ la actividad de una neurona (usualmente postsináptica) que recibe un vector de señales aferentes ${\textstyle \mathbf {x} =(x_{1},\cdots ,x_{m})}$, las cuales pueden tener origen sensorial (datos de sensores o de bases) o de otras neuronas. El conjunto ${\textstyle D}$ puede ser discreto (${\textstyle \{0,1\}}$), un intervalo continuo (${\textstyle [0,1]}$), o bien el mismo conjunto de los números reales no negativos. La actividad (tasa de disparo) está modelada por la siguiente ecuación diferencial

donde ${\textstyle \mathbf {w} =(w_{1},\dots ,w_{m})}$ representa el vector de pesos de las entradas, y la constante satisface ${\textstyle \tau _{y}\approx 0}$. Para linealizar la ecuación, se suele tomar ${\textstyle \tau _{y}=0}$, lo cual lo convierte en el modelo estándar de red neuronal artificial y de esta forma se trabajará en este artículo. ${\textstyle a:\mathbb {R} \rightarrow D}$ representa a la función de activación y en este caso se tomará por la función identidad cuando utilicemos ${\textstyle D=\mathbb {R} ^{+}}$ o sigmoide si ${\textstyle D=[0,1]}$. Para fines prácticos, en este artículo se tomará a la función de activación como la identidad.

2.1 Regla de Hebb Simple

Un modelo sencillo de la Regla de Hebb ha sido llamado como Simple o Básico y tiene como objetivo encapsular a las propiedades esenciales de la conjetura hebbiana, resumidas por Shatz [22] como ``cells that fire together, wire together''. La regla de Hebb Simple está dada por

Es regla lograr representar bien la idea básica, puesto que si ${\textstyle x_{i},y>0}$, entonces ${\textstyle w_{i}}$ aumenta (y el aumento es mayor si ambos tienen alta actividad), pero si uno es 0, entonces no se produce ningún cambio. Por ejemplo, si ${\textstyle D=\{0,1\}}$, entonces ${\textstyle x_{i}=y=1}$ representan encendidos simultáneos que se traducen en un aumento.

Utilizando el método de Euler podemos discretizar a la regla de Hebb para su implementación:

donde ${\textstyle \alpha >0}$ es la tasa de aprendizaje y ${\textstyle \mathbf {w} (0)}$ puede tomarse como ${\textstyle \mathbf {0} }$, aunque también puede recibir una inicialización aleatoria, la cual es una opción que evita la inactividad total que podría tener una interneurona si los pesos fueran todos inicializados en cero.

3 Resultados teóricos

En esta sección, probaremos algunos resultados sobre la regla de Hebb relacionados con la clasificación supervisada, la cual es un tema relevante puesto que en general dada una red arbitraria y de inicialización en ceros, una red de entrenamiento hebbiano no supera a una red neuronal con entrenamiento por descenso de gradiente como se muestra en [14]. Esto quiere decir, que si definimos a nuestro dataset como ${\textstyle \{(\mathbf {x} (i),y(i))\}_{i=1}^{n}}$ (${\textstyle y(i)\in \{0,\dots ,k\}}$) y a ${\textstyle {\hat {y}}=NN_{\mathbf {w} }(\mathbf {x} )}$ como la salida de una red neuronal de una capa, el entrenamiento hebbiano no converge a algún mínimo de la función ${\textstyle L(\mathbf {w} )=\sum _{i=1}^{n}\mathbf {1} _{y(i)\neq NN_{\mathbf {w} }(\mathbf {x} (i))}}$, como sí lo hacen los enfoques basados en el gradiente. No obstante, eso no significa que no exista una arquitectura competente capaz de efectuar adecuadamente el aprendizaje hebbiano.

De esta forma, de la ecuación (1) observamos que, con la base de datos definida,

En este caso, redefinimos ${\textstyle y_{j}=1}$ si ${\textstyle y=j}$ y ${\textstyle y_{j}=0}$ si ${\textstyle y\neq j}$, teniendo una capa de salida de ${\textstyle k}$ neuronas. ${\textstyle \mathbf {w} _{j}}$ se refiere a los pesos de la ${\textstyle j}$-ésima neurona de salida y las entradas. Asimismo, es posible definir ${\textstyle \mathbf {w} _{j}=\mathbf {w} _{j}(n)}$, que se refiere a los pesos después de un entrenamiento supervisado. Adicionalmente, añadiremos una capa de clasificación, de tal forma que

3.1 Red hebbiana infinita

Comenzaremos nuestra descripción con una red hebbiana construida de la siguiente forma: a cada valor del espacio vectorial ${\textstyle \mathbf {z} \in D^{m}\subset \mathbb {R} ^{m}}$, le daremos una representación geométrica de la siguiente forma: consideremos una nueva capa de neuronas ${\textstyle r_{\mathbf {z} }}$ dada por

Esta capa debe distinguirse de la capa de entrada, consistente en ${\textstyle m}$ neuronas. En su lugar, está conformada por todos los valores posibles que ${\textstyle \mathbf {x} }$ puede tener. Esto quiere decir que la capa de neuronas tiene ${\textstyle |D|^{m}}$ valores posibles, lo cual es un número potencialmente grande incluso si ${\textstyle |D|=2}$, e infinito si ${\textstyle D}$ lo es. A pesar de lo anterior, dicha capa infinita nos servirá como punto de partida y como un modelo teórico de la importancia de la Regla de Hebb. En términos especulativos, dicha capa puede ser imaginada como la inteligencia de un ser infinito. No obstante, en algún momento tendremos que reducir la dimensionalidad de capa infinita, puesto que no nos interesa estudiar la inteligencia de los seres metafísicos sino de los existentes en el mundo discreto.

La capa de salida para la red hebbiana infinita, la podemos definir expandiendo el concepto de producto punto:

Primeramente, demostraremos la existencia de un minimizador global para posteriormente probar que la regla de Hebb induce a uno.

Proposición 1: Sea ${\textstyle g:D^{m}\rightarrow \{0,\dots ,k\}}$ definida para cada valor ${\textstyle \mathbf {a} =(a_{1},\dots ,a_{m})}$ como

donde ${\textstyle v}$ es una función de verdad binaria. Sea ${\textstyle {\mathcal {F}}=\{f|f:D^{m}\rightarrow \{0,\dots ,k\}\}}$. Entonces

Notemos que ${\textstyle \sum _{i=1}^{n}\mathbf {1} _{y(i)\neq f(\mathbf {x} (i))}\in \mathbb {N} }$. Por lo tanto, existe ${\textstyle g^{*}}$ minimizador global. Supongamos que ${\textstyle g^{*}\neq g}$. Entonces existe ${\textstyle \mathbf {a} =(a_{1},\dots ,a_{m})}$ tal que ${\textstyle g^{*}(\mathbf {a} )=l}$ y

Hagamos ${\textstyle g^{\star \star }(\mathbf {x} )=g^{*}(\mathbf {x} )}$ para ${\textstyle \mathbf {x} \neq \mathbf {a} }$ y para ${\textstyle \mathbf {x} =\mathbf {a} }$, tomemos ${\textstyle g^{\star \star }(\mathbf {a} )=\sum v(x_{1}(i)=a_{1},\dots ,x_{m}(i)=a_{m},y_{j}=1)}$. Entonces la función cuenta con menor error que ${\textstyle g^{*}}$, lo cual contradice su minimalidad. ${\textstyle \square }$

Finalmente probaremos que la red hebbiana infinita ${\textstyle H:D^{m}\rightarrow \{0,\dots ,k\}}$ es un minimizador global para la función de costo previamente definida:

Teorema 1: Sea ${\textstyle H:D^{m}\rightarrow \{0,\dots ,k\}}$ una red hebbiana infinita con ${\textstyle D=\{0,1\}}$. Entonces

Sea ${\textstyle \mathbf {a} \in D^{m}}$. Entonces

de donde vemos que

siguiéndose el resultado por la Proposición 1. ${\textstyle \square }$

A pesar de que la prueba de los anteriores resultados es relativamente directa, las consecuencias son importantes en el contexto de la regla de Hebb simple. A grosso modo, establece que si disponemos de recursos ilimitados, es posible diseñar una red neuronal de aprendizaje hebbiano que minimice global la suma de los errores totales que se cometen. La idea básica resultó ser en crear una capa de representación con todos los valores posibles de entrada y la regla de Hebb cuenta cuántos elementos de la base de datos arrojan dichos valores y realiza una actualización hebbiana cuando encuentra uno.

Por situar un ejemplo, podemos tomar una base de datos consistente en los siguientes datos:

El primer elemento de cada vector representa a la entrada ${\textstyle x_{i}}$ y el segundo a la etiqueta ${\textstyle y_{i}}$. Para dar una interpretación a esta base de datos hipotética, podemos entender a la entrada como una tonalidad en escala de grises y la salida como negro si ${\textstyle y_{i}=0}$ y blanco si ${\textstyle y_{i}=1}$¹. Este problema de clasificación puede resolverse de manera simple con cualquier algoritmo y el la red hebbiana infinita no es la excepción. La segunda capa de la red (representación) estará formada por cada posible valor de ${\textstyle x}$, en este caso 255 neuronas. Finalmente el aprendizaje hebbiano se da en la última capa, compuesta por una neurona ${\textstyle y_{0}}$ que clasifica el negro y ${\textstyle y_{1}}$ que clasifica el blanco. Notemos que ${\textstyle w_{0,z}=1}$ (y ${\textstyle w_{1,z}=0}$) para ${\textstyle z=0,\dots ,127}$ porque para los primeros datos tenemos ${\textstyle r_{z}(x)=1}$ y ${\textstyle y_{0}=1}$ para ${\textstyle x\in \{0,\dots ,127\}}$ pero a partir de 127 observamos ${\textstyle y_{1}=1}$, por lo que ${\textstyle w_{0,z}=1}$ para ${\textstyle z>127}$ pero ${\textstyle w_{1,z}=1}$. De esta forma, el error el conjunto de entrenamiento será 1, ya que cada valor posible que puede tomar ${\textstyle x}$ está perfectamente clasificado. Aún más, si suministramos datos difusos, por ejemplo ${\textstyle (127,0)}$ con ${\textstyle (127,1)}$ repetidos varias veces, la red tenderá por el valor más repetido.

No obstante, este ejemplo de juguete muestra algunas de las desventajas propias del método. La primera es la acusada falta de datos, que tiene repercusiones sobre el conjunto de prueba. Si, por ejemplo utilizamos un conjunto de entrenamiento con los datos pares de ${\textstyle {\mathcal {B}}}$ y un conjunto de prueba con los impares, el error en el conjunto de entrenamiento será 0 pero cerca de la mitad de los datos del conjunto de prueba serán incorrectamente clasificados, ya que no se suministran los ejemplos concretos y por lo tanto todos los pesos están en 0.

Este problema puede pensarse que se puede resolver suministrando aún más datos, pero aparece otro problema en la práctica, que es la explosión combinatoria en la capa de representación. Supongamos ahora que queremos clasificar 7 colores RGB. Entonces tenemos ${\textstyle 256^{3}=16777216}$ valores posibles, lo cual es una gran cantidad de neuronas incluso para algunos organismos vivos. Una posible solución reside en compactar a la representación reduciendo la dimensión al redondear a unos cuantos valores, lo cual también reduce el problema del conjunto de prueba mencionado previamente. Sin embargo, el problema persiste: si quisiéramos clasificar 10 imágenes en un espacio de ${\textstyle 7\times 7}$ que es un caso reducido de MNIST y de entrada binaria, necesitamos un total de ${\textstyle 5.62\times 10^{14}}$ neuronas de representación, es decir, más neuronas que las existentes en los cerebros humanos (${\textstyle 8.6\times 10^{10}}$). Reducir imágenes de caracteres a un tamaño de ${\textstyle 7\times 7}$ es incluso excesivo y una reducción mayor simplemente no se puede clasificar fácilmente. Este caso se complica cuando consideramos imágenes RGB de objetos. Por lo tanto, este enfoque es irrealizable en la práctica computacional y en la biología misma, donde formas más eficientes toman lugar.

A pesar de las dos desventajas agudas, el objetivo del Teorema 1 es probar que la existencia de una arquitectura en el que el aprendizaje hebbiano logre una minimización perfecta (global) de la función de costo suma de los errores. Esto responde de alguna manera a la pregunta fundamental planteada en este artículo, señalando que el principal problema del aprendizaje hebbiano recae en la necesidad de hallar una arquitectura conveniente para su ejecución. Al menos sabemos que existe una arquitectura donde opera perfectamente, quizá exista una arquitectura intermedia que resuelva el problema de clasificación de manera efectiva y eficiente.

(¹) También podemos distinguir los estados iluminado / poco iluminado para evitar pensar en el gris.

3.2 m-celdas

Una posible forma en que se pueden tratar de minimizar los efectos de la red hebbiana infinita en términos prácticos (los seres infinitos pueden ejecutarla sin problemas) consiste en crear dividir a los datos de la capa de representación en ${\textstyle m}$-celdas (mejor conocidas en la literatura como ${\textstyle k}$-celdas, pero en esta caso ${\textstyle k=m}$), que es el enfoque que se trató en el artículo de [14], logrando resultados experimentales comparables con otros métodos de clasificación estándares o incluso mejores para datos sintéticos. En esta sección, intentaremos brindar un mejor sustento matemático sobre por qué el método funciona y finalmente lo aplicaremos en datos no sintéticos.

En general la idea de las ${\textstyle m}$-celdas se reduce a dividir al espacio ${\textstyle \mathbb {R} ^{m}}$ primero en un espacio compacto donde se asume que viven los datos y después se subdividen en ${\textstyle m}$-celdas de radio ${\textstyle \delta }$. Cada celda se puede entender como una neurona que recibe datos y se activa si los datos de entrada pertenecen a la ${\textstyle m}$-celda. Estas celdas forman la capa de representación que se describió en la red hebbiana infinita. Posteriormente, estas celdas se conectan con las neuronas de salida y en la conexión de las celdas con las neuronas de salida se aplica aprendizaje hebbiano.

La siguiente proposición establece que es posible aproximarnos a la medida de Lebesgue ${\textstyle \mu }$ de un conjunto abierto y acotado utilizando un número finito de ${\textstyle m}$-celdas. La notación que se usará para las celdas es ${\textstyle I_{i}(\delta )}$ si tiene el índice ${\textstyle i}$ y radio ${\textstyle \delta }$, o bien ${\textstyle I_{\mathbf {x} }(\delta )=\prod _{i=1}^{m}(x_{i}-\delta ,x_{i}+\delta )}$.

Proposición 2: Sea ${\textstyle U\subset \mathbb {R} ^{m}}$ un conjunto abierto y acotado, y ${\textstyle \varepsilon >0}$. Entonces existe ${\textstyle \delta {>0}}$ tal que existen ${\textstyle d}$ ${\textstyle m}$-celdas de radio ${\textstyle \delta }$ tales que

El conjunto de ${\textstyle m}$-celdas abiertas de tamaño arbitrario forman una base del espacio ${\textstyle \mathbb {R} ^{m}}$ con la topología de los conjuntos abiertos. Consideremos el conjunto

Para cada ${\textstyle \mathbf {x} \in A}$ existe ${\textstyle I_{\mathbf {x} }(\rho )=\prod _{i=1}^{m}(x_{i}-\rho ,x_{i}+\rho )}$ tal que ${\textstyle I_{x}(\rho )\subset U}$. Consideremos ${\textstyle I_{\mathbf {x} }(\rho )=\emptyset }$ si ${\textstyle I_{\mathbf {x} }(\rho )\not \subset U}$. Entonces ${\textstyle U=\bigcup _{\mathbf {x} \in A_{r}}\bigcup _{\rho \in \mathbb {Q} ^{+}}I_{\mathbf {x} }(\rho )}$. Así, tenemos una unión contable de ${\textstyle k}$-celdas. En particular, los elementos ${\textstyle I_{i}(\delta _{i})}$ pueden tomarse disjuntos ya que si ${\textstyle I_{i}(\delta _{i})\cap I_{j}(\delta _{j})\neq \emptyset }$, podemos definir ${\textstyle I_{i}(\delta _{i})\cap I_{j}(\delta _{j})}$ como la unión de otras ${\textstyle m}$-celdas, o aproximarse tan bien como se desee, según el procedimiento que se expone al final de esta prueba. Reindexando y ordenando de mayor a menor ${\textstyle \delta _{i}}$:

Por lo tanto,

Entonces, como ${\textstyle U}$ es acotado, ${\textstyle \mu (U)<\infty }$ y para ${\textstyle \varepsilon /2>0}$ existe ${\textstyle c\in \mathbb {N} }$ tal que

Ahora, falta aproximar ${\textstyle \bigcup _{i=1}^{c}I_{i}(\delta _{i}){\big )}}$. Para cada ${\textstyle \delta _{i}}$ tomemos una aproximación racional ${\textstyle {\hat {\delta _{i}}}={\frac {a_{i}}{b_{i}}}}$ de ${\textstyle 2^{m}\delta _{i}^{m}}$ con radio ${\textstyle {\frac {\varepsilon }{2c}}}$. Notemos que si ${\textstyle \delta ={\frac {1}{\prod _{i=1}^{c}b_{i}}}}$ entonces

de donde, para ${\textstyle d_{j}=a_{j}\prod _{i\neq j}b_{i}}$

donde ${\textstyle \{I_{\mathbf {x} _{i}}(\delta )\}}$ es una partición de ${\textstyle I_{i}({\hat {\delta _{j}}})}$ de tamaño ${\textstyle \delta }$. De esta forma,

Así, por la desigualdad del triángulo y tomando ${\textstyle d=\sum _{i=1}^{c}d_{j}^{m}}$

${\textstyle \square }$

De manera similar al último argumento, podemos fragmentar por completo al espacio ${\textstyle \mathbb {R} ^{m}}$ de tal forma que se aproxime tanto como se puedan a las ${\textstyle m}$-celdas encontradas en la prueba anterior. De este modo, al reducir ${\textstyle \delta }$ hemos de encontrar una clasificación más fina que permita obtener resultados más precisos.

Para poder realizar clasificación apropiadamente, debemos asumir que los datos se pueden separar en vecindades o conjuntos abiertos, lo cual siempre es posible para cualquier dispersión, pero idealmente los datos deben no estar intercalados entre sí para su correcto funcionamiento en el conjunto de prueba. Este problema también se observa si las distribuciones de los datos coinciden y se superponen, pero en general el conjunto de entrenamiento puede sobreajustarse y resolver el problema en el mismo.

Dado que estamos considerando espacios continuos como ${\textstyle \mathbb {R} ^{m}}$, utilizando el supuesto de separación de datos en conjuntos abiertos, definiremos el error como

donde ${\textstyle U}$ es el conjunto abierto donde cada ${\textstyle \mathbf {x} \in U}$ si y sólo si pertenece a la clase ${\textstyle j}$ y ${\textstyle V_{\mathbf {w} }}$ es el conjunto tal que para toda ${\textstyle \mathbf {x} \in V_{\mathbf {w} }}$, ${\textstyle NN_{\mathbf {w} }(\mathbf {x} )=j}$. Este error se puede reducir tanto como se desee:

Teorema 2: Supongamos que el problema de clasificación se puede separar en conjuntos abiertos y acotados. Para cada ${\textstyle \varepsilon >0}$, existe una división del espacio ${\textstyle E^{m}}$ en ${\textstyle m}$-celdas de tamaño ${\textstyle \delta }$ tales que ${\textstyle L(\mathbf {w} )<\varepsilon }$.

Usando la Proposición 1, es posible hallar una partición del espacio en ${\textstyle k}$-celdas de tamaño ${\textstyle \delta }$ tal que

Como cada ${\textstyle I_{i}(\delta )\subset U}$, para cada ${\textstyle \mathbf {x} \in I_{i}(\delta )}$, ${\textstyle NN_{\mathbf {w} }(\mathbf {x} )=j}$, por lo que ${\textstyle L(\mathbf {w} )<{\frac {\varepsilon }{k}}}$. Tomando las ${\textstyle k}$ clases, tenemos que ${\textstyle L(\mathbf {w} )<\varepsilon }$. (En principio cada ${\textstyle \delta }$ de cada partición puede ser diferente, pero podemos seleccionar uno usando una técnica similar a la que aparece en la prueba de la Proposición 2). ${\textstyle \square }$

En la práctica, la bondad de este resultado (poder minimizar al costo tanto como se quiera) está afectado por varios factores. Primeramente, la superposición de los datos supone un problema, como ya se ha mencionado previamente. Además, cuando tomamos celdas con menor ${\textstyle \delta }$ si bien aumentamos la precisión el conjunto de clasificación, se produce un sobreajuste al aparecer celdas sin asignación que pueden aparecer en el conjunto de entrenamiento. Sin embargo, nuevamente este problema puede resolverse con una mayor cantidad de datos. El otro problema recae en la definición de ${\textstyle m}$-celdas para dimensiones grandes de ${\textstyle m}$, requiere de definir una cantidad creciente de celdas. Estos dos problemas son análogos a los dos problemas de la red hebbiana infinita, pero al menos aparecen atenuados y en bajas dimensiones son perfectamente implementables, como se verá a continuación.

4 Resultados experimentales

En [14] se implementó el algoritmo de ${\textstyle m}$-celdas para datos sintéticos y se comparó con métodos estándares como la regresión logística y kNN. En esta ocasión, probaremos su desempeño frente a redes neuronales con métodos basados en el gradiente y utilizando un dataset no sintético, el cual es la base de datos Iris para la clasificación de flores del género Iris a partir de datos biométricos [23]. En este caso, para entrenamiento de las m-celdas se utilizarán únicamente dos dimensiones en cierta medida separables: longitud y ancho de pétalo (véase figura 1), longitud de sépalo y ancho de pétalo (figura 2), y finalmente longitud de sépalo y longitud de pétalo (figura 3).

Figura 1: Gráfico de las variables longitud y ancho de pétalo del dataset Iris.

Figura 2: Gráfico de las variables longitud de sépalo y ancho de pétalo del dataset Iris.

Figura 3: Gráfico de las variables longitud de sépalo y longitud de pétalo del dataset Iris.

Como se puede ver, las tres clases del dataset son en gran medida separables, aunque existe cierto traslape entre las clases I. versicolor e I. virginica. Se tiene un total de 150 datos, de los cuales 75 se utilizaron para entrenamiento, 30 para validación y 45 para prueba.

4.1 Descenso de Gradiente

Para contrastar al descenso de gradiente con el aprendizaje hebbiano, se utilizó un esquema de redes neuronales de alimentación hacia adelante (Feedforward Neural Networks o FNNs). El entrenamiento se realizó con la función de costo de entropía cruzada categórica a 15 épocas y se utilizó al optimizador Adam [24], uno de los métodos basados en el gradiente más recientes y ampliamente utilizados en la actualidad para redes neuronales. Para este caso, se utilizaron las cuatro dimensiones de los datos. Por ende, se tomarán 4 unidades de entrada y 3 de salida, correspondiente a cada clase.

Ese enfoque se estudió de dos maneras: por medio de redes neuronales con arquitectura fija y mediante una optimización hiperparamétrica. Las arquitecturas fijas fueron ${\textstyle (50)}$, ${\textstyle (50,50)}$ y ${\textstyle (50,50,50)}$, donde cada vector representa el número de neuronas en cada capa intermedia (oculta): es decir la primera arquitectura (Modelo 1) cuenta con 50 neuronas en una capa intermedia, la segunda 50 en la primera capa oculta y 50 en la segunda (Modelo 2), mientras que el Modelo 3 cuenta con 50 neuronas en tres capas intermedias.

El modelo 1 tardó 1.586 s y alcanzó una exactitud sobre el conjunto de prueba de 0.967, 0.853 en el conjunto de entrenamiento y 0.822 en el conjunto de validación. Por su parte, el modelo 2 logró la misma exactitud sobre el conjunto de prueba, 0.987 en el conjunto de prueba y 0.911 en el conjunto de validación durando 1.489 segundos, mientras que el modelo 3 obtuvo 0.933 en el conjunto de prueba, 0.973 en el conjunto de entrenamiento y 0.866 en la validación, durando 1.733 s. La figura 4 representa las curvas de aprendizaje de los tres modelos.

Figura 4: Evolución de la exactitud de los tres modelos base en 15 épocas.

Para realizar una exploración sobre el espacio de las FNNs (optimización hiperparamétrica), se utilizó la heurística de evolución descrita en [25], utilizando la variante A con constantes ${\textstyle \mu =9}$, ${\textstyle M=4}$, ${\textstyle T=3}$ y ${\textstyle k=10}$, así como quince generaciones.

La optimización hiperparamétrica arrojó como arquitectura con máxima validación a ${\textstyle (50,10,10,10)}$, la cual logró 0.967 de exactitud en el conjunto de prueba, 0.853 en el conjunto de entrenamiento y 0.889 en el conjunto de validación. El esquema de evolución queda patente en la figura 5. En la figura 6 podemos apreciar la evolución del número de redes neuronales por cada generación que participa en el proceso de evolución.

Figura 5: Evolución de la exactitud con 15 generaciones.

Figura 6: Número de individuos por generación. Se incluyen generaciones donde se da un decremento.

4.2 Algoritmo de m-celdas

En el caso de las ${\textstyle m}$-celdas, se tomaron celdas de tamaño ${\textstyle {\frac {1}{s}}}$ y únicamente se tomaron dos dimensiones por simplicidad. Los resultados principales se resumen en la tablas 1, 2, 3 y se obtuvieron al variar ${\textstyle s}$. Los mejores resultados se obtuvieron al utilizar las variables de los pétalos (longitud y ancho), donde si seleccionamos la máxima exactitud sobre el conjunto de validación, obtenemos 0.967 de exactitud sobre el conjunto de prueba, aunque para ${\textstyle s=3}$ se obtiene una clasificación perfecta. Los tiempos de ejecución fueron considerablemente más bajos: 0.00072 para la primera combinación de variables, 0.00055 para la segunda y 0.001 para la tercera. Las otras combinaciones de variables en general no resultaron lo suficientemente apropiadas, pero el uso del conjunto de validación nos puede ayudar a seleccionar el par de variables más significativo, aunque una opción más apropiada sería considerar a todas las varibles.

Por otro lado, en las tablas observamos cómo al reducir el tamaño de ${\textstyle \delta }$, obtenemos mejores resultados de clasificación en el conjunto de entrenamiento, dando confirmación experimental del Teorema 2, pero al reducirse el tamaño de las vecindades también dejamos fuera a los datos que no son de entrenamiento, por lo que las exactitudes sobre los conjuntos de prueba y validación se reducen, tendiendo a ${\textstyle {\frac {1}{3}}}$. La primera tabla también está representada en la figura 7.

Figura 7: Gráfico de las exactitudes del algoritmo de m-celdas con las variables longitud y ancho de pétalo del dataset Iris.

5 Conclusiones

Los resultados observados con las ${\textstyle m}$-celdas dan sustento a la hipótesis de que la arquitectura tiene una influencia crucial en las redes neuronales con aprendizaje hebbiano, a pesar de que sea un método poco práctico de implementar para dimensiones mayores. En este caso se implementó para ${\textstyle m=2}$, siendo posible ya que se puede no utilizar toda la información de una base de datos, aunque no siempre parece posible lograr resultados de clasificación correctos utilizando pocas dimensiones o reduciéndolas.

En este caso, para la base de datos de iris, se pudieron observar resultados similares pero significativamente más rápidos que los que arroja el optimizador Adam (una versión moderna del descenso del gradiente), incluso utilizando un esquema de evolución. Esto supone una primera victoria de los métodos basados en Hebb frente al enfoque predominante y es respaldado por los resultados teóricos. Dichos resultados empíricos también son comparables con otros algoritmos de clasificación modernos, como los aplicados en [26].

No obstante, el optimismo debe tomarse con cautela. Para mayores dimensiones, parece complicada la ejecución del algoritmo de ${\textstyle m}$-celdas y el refinamiento del radio ${\textstyle \delta }$ requiere de una mayor capacidad de cómputo. De esta forma, quizá sólo se pueda aspirar a celdas burdas para dimensiones medianas, pero parece imposible manejar ${\textstyle m=20\times 20}$, que es el caso de las imágenes.

Sin embargo, a pesar de las limitaciones del método propuesto debemos señalar que el logro obtenido tanto a nivel teórico como práctico señala la existencia de una red en donde el aprendizaje hebbiano opera apropiadamente. Esto puede darnos esperanzas para sospechar la existencia de una red óptima en el que el aprendizaje hebbiano no sólo funcione adecuadamente sino que la red sea eficiente para su implementación práctica en dimensiones altas. Tal red puede tener una estructura convolucional y disponer de millones de parámetros. En el trabajo previo de [13] se ha tratado de dar dicha aproximación. Quizá otros componentes como el tercer factor sean necesarios para lograr el delicado balance entre eficacia y eficiencia.

Disponibilidad de código y datos

El código principal se puede obtener de https://github.com/Pherjev/hebbian-m-cells/blob/master/HebbMNIST-2.ipynb. La base de datos se obtuvo directamente de la librería sklearn.

BIBLIOGRAFÍA

[1] Hebb, Donald Olding. (1949) "The Organisation of Behaviour: a neuropsychological theory". John Wiley & Sons-Chapman & Hall

[2] Markram, Henry and Gerstner, Wulfram and Sjöström, Per Jesper. (2012) "Spike-timing-dependent plasticity: a comprehensive overview", Volume 4. Frontiers. Frontiers in synaptic neuroscience 2

[3] Konorski, Jerzi. (1948) "Conditioned Reflexes and Neuron Organizaion". Cambridge University Press

[4] Ramón y Cajal, Santiago. (1894) "The Croonian lecture: la fine structure des centres nerveux", Volume 4. Proceedings of the Royal Society of London B Biology Sciences 444-468

[5] Lmo, Terje. (1966) "Frequency potentiation of excitatory synaptic activity in dentate area of hippocampal formation". Blackwell Science. Acta Physiologica Scandinavica 128

[6] Bliss, Tim VP and Lmo, Terje. (1973) "Long-lasting potentiation of synaptic transmission in the dentate area of the anaesthetized rabbit following stimulation of the perforant path", Volume 232. Wiley Online Library. The Journal of Physiology 2 331–356

[7] Bienenstock, Elie L and Cooper, Leon N and Munro, Paul W. (1982) "Theory for the development of neuron selectivity: orientation specificity and binocular interaction in visual cortex", Volume 2. Soc Neuroscience. Journal of Neuroscience 1 32–48

[8] Diehl, Peter U and Cook, Matthew. (2015) "Unsupervised learning of digit recognition using spike-timing-dependent plasticity", Volume 9. Frontiers. Frontiers in computational neuroscience 99

[9] Oja, Erkki. (1982) "Simplified neuron model as a principal component analyzer", Volume 15. Springer. Journal of mathematical biology 3 267–273

[10] Hitzler, Pascal and Bianchi, Federico and Ebrahimi, Monireh and Sarker, Md Kamruzzaman. (2020) "Neural-symbolic integration and the Semantic Web", Volume 11. IOS Press. Semantic Web 1 3–11

[11] Cichy, Radoslaw M and Kaiser, Daniel. (2019) "Deep neural networks as scientific models", Volume 23. Elsevier. Trends in cognitive sciences 4 305–317

[12] Liu, Chang and Sun, Fuchun. (2015) "HMAX model: A survey". IEEE. 2015 International Joint Conference on Neural Networks (IJCNN) 1–7

[13] Aguilar Canto, Fernando Javier. (2020) "Convolutional Neural Networks with Hebbian-Based Rules in Online Transfer Learning". Springer. Mexican International Conference on Artificial Intelligence 35–49

[14] Aguilar Canto, Fernando Javier. (2020) "Eficacia de diferentes reglas hebbianas en el Aprendizaje Supervisado: Efficacy of different Hebbian rules in Supervised Learning", Volume 7. Tecnología Educativa Revista CONAIC 1 92–97

[15] Kumierz, ukasz and Isomura, Takuya and Toyoizumi, Taro. (2017) "Learning with three factors: modulating Hebbian plasticity with errors", Volume 46. Elsevier. Current opinion in neurobiology 170–177

[16] Foncelle, Alexandre and Mendes, Alexandre and Jedrzejewska-Szmek, Joanna and Valtcheva, Silvana and Berry, Hugues and Blackwell, Kim T and Venance, Laurent. (2018) "Modulation of spike-timing dependent plasticity: towards the inclusion of a third factor in computational models", Volume 12. Frontiers. Frontiers in Computational Neuroscience 49

[17] Holca-Lamarre, Raphaël and Lücke, Jörg and Obermayer, Klaus. (2017) "Models of acetylcholine and dopamine signals differentially improve neural representations", Volume 11. Frontiers. Frontiers in computational neuroscience 54

[18] Lillicrap, Timothy P and Santoro, Adam and Marris, Luke and Akerman, Colin J and Hinton, Geoffrey. (2020) "Backpropagation and the brain", Volume 21. Nature Publishing Group. Nature Reviews Neuroscience 6 335–346

[19] Kozdon, Katarzyna and Bentley, Peter. (2018) "The evolution of training parameters for spiking neural networks with hebbian learning". MIT Press. Artificial Life Conference Proceedings 276–283

[20] He, Kaiming and Zhang, Xiangyu and Ren, Shaoqing and Sun, Jian. (2015) "Delving deep into rectifiers: Surpassing human-level performance on imagenet classification". Proceedings of the IEEE international conference on computer vision 1026–1034

[21] Dayan, Peter and Abbott, Laurence F. (2001) "Theoretical neuroscience: computational and mathematical modeling of neural systems". Computational Neuroscience Series

[22] Bliss, Tim VP and Lmo, Terje. (2010) "The developing brain", Volume 267. Sci. Am

[23] Fisher, Ronald A and Marshall, Michael. (1936) "Iris data set", Volume 440. RA Fisher, UC Irvine Machine Learning Repository 87

[24] Kingma, Diederik P and Ba, Jimmy. (2014) "Adam: A method for stochastic optimization". arXiv preprint arXiv:1412.6980

[25] Canto, Fernando Javier Aguilar. (2020) "Redes neuronales evolutivas con modelos de Lotka-Volterra.", Volume 149. Res. Comput. Sci. 8 1179–1194

[26] Wu, Yuanyuan and He, Jing and Ji, Yimu and Huang, Guangli and Yao, Haichang and Zhang, Peng and Xu, Wen and Guo, Mengjiao and Li, Youtao. (2019) "Enhanced classification models for iris dataset", Volume 162. Elsevier. Procedia Computer Science 946–954