Walter Pitts y la neurona artificial de 1943: de la lógica a las redes neuronales de hoy

En 1943 el neurofisiólogo Warren McCulloch y un joven lógico sin título universitario, Walter Pitts, publicaron un modelo de neurona que solo sabe hacer una cosa: disparar o quedarse quieta. Recibe señales de otras neuronas, cuenta cuántas le llegan a la vez y se enciende si alcanzan un umbral fijo y ninguna entrada inhibidora está activa. Conectando varias de esas neuronas, demostraron que una red puede calcular operaciones lógicas como Y, O y NO.

Las redes neuronales que hay detrás de los asistentes de IA actuales descienden de aquella idea, con dos diferencias enormes. Sus neuronas no son de todo o nada. Y, sobre todo, aprenden solas cuánto pesa cada conexión a partir de ejemplos. La neurona de 1943 no aprendía nada.

Quién era Walter Pitts, y qué parte es relato

De Pitts quedan pocos papeles. En 2001 Keller Easterling escribía en la revista Cabinet que no había biografías suyas y que los detalles de su vida eran escasos. Norbert Wiener, que trabajó con él, cuenta en Cybernetics (1948) que Pitts había sido alumno de Rudolf Carnap en Chicago, que empezó muy pronto a trabajar con McCulloch, que Jerome Lettvin se lo presentó en el verano de 1943 y que en otoño de ese año llegó al MIT para trabajar con él. El artículo de 1943 lo firman los dos desde la Universidad de Illinois y la Universidad de Chicago. Y en 1959 Pitts aparece con Lettvin, Humberto Maturana y McCulloch en «What the frog’s eye tells the frog’s brain».

Casi todo lo demás que circula viene de un reportaje de Amanda Gefter en Nautilus en 2015, apoyado en cartas del archivo de McCulloch y en recuerdos de Lettvin. Según contó Gefter, Pitts se crió en Detroit en una familia dura y en 1935, con 12 años, se metió en la biblioteca del barrio huyendo de unos chavales que lo perseguían. Se quedó dentro al cerrar y pasó tres días leyendo los Principia Mathematica de Russell y Whitehead. Encontró errores, le escribió a Bertrand Russell y Russell le contestó invitándolo a estudiar en Cambridge. Tres años después, al saber que Russell iba a estar en la Universidad de Chicago, se escapó de casa y no volvió a ver a su familia.

En Chicago, siempre según ese reportaje, vivía de trabajos sueltos y se colaba en las clases de Russell, donde conoció a Lettvin, que fue quien le presentó a McCulloch. McCulloch se lo llevó a vivir con su familia a Hinsdale, a las afueras de la ciudad, y por las noches trabajaban juntos en el modelo. Gefter añade que Wiener le prometió un doctorado en el MIT aunque Pitts no había terminado el instituto.

El final también lo cuenta ella. En 1952 McCulloch se trasladó al MIT para dirigir un proyecto sobre el cerebro y volvieron a trabajar juntos. Poco después Wiener cortó toda relación con ellos con un telegrama, y Gefter atribuye la ruptura a una historia inventada por su mujer, Margaret, sobre la hija del matrimonio y «los chicos» de McCulloch. Wiener nunca le explicó a Pitts el motivo. Pitts empezó a beber, se negó a firmar los papeles del doctorado y quemó su tesis sobre redes neuronales probabilísticas en tres dimensiones, con todas sus notas. Murió el 14 de mayo de 1969 en una pensión de Cambridge, en Massachusetts. McCulloch murió cuatro meses después.

Yo me creo lo esencial del relato, pero no pondría la mano en el fuego por los detalles de la biblioteca. Son de esas historias que se pulen cada vez que alguien las cuenta.

La neurona de 1943, con una tabla

El artículo se titula «A logical calculus of the ideas immanent in nervous activity» y salió en el Bulletin of Mathematical Biophysics, volumen 5, páginas 115 a 133. Parte de cinco supuestos. La actividad de la neurona es de todo o nada. Para excitarla tiene que activarse a la vez un número fijo de sinapsis, que no depende de lo que haya pasado antes. El único retraso que cuenta es el de la sinapsis. Cualquier sinapsis inhibidora activa impide por completo que la neurona se excite en ese momento. Y la estructura de la red no cambia con el tiempo.

Ese número fijo de sinapsis es el umbral. Con una neurona de dos entradas excitadoras, A y B, cada una vale 0 (apagada) o 1 (activa), y la neurona dispara si la suma llega al umbral:

A	B	Entradas activas	Salida con umbral 2	Salida con umbral 1
0	0	0	0	0
0	1	1	0	1
1	0	1	0	1
1	1	2	1	1

Con umbral 2 solo dispara si A y B están activas a la vez, que es la operación Y (AND). Con umbral 1 le basta con una de las dos, y eso es O (OR). Misma neurona, mismo cableado, y lo único que cambia es el umbral. La salida aparece un paso de tiempo después, por el retraso de la sinapsis, y así lo dibujan ellos en la figura 1 del artículo.

El NO sale de la inhibición

En el modelo de 1943 la inhibición es absoluta. Si una sola sinapsis inhibidora está activa, la neurona no dispara, lleguen las excitadoras que lleguen. El artículo la usa para construir «A y no B». Si A está siempre activa y la neurona tiene umbral 1, la salida es simplemente la negación de la entrada inhibidora I:

A (siempre activa)	I (inhibidora)	Salida
1	0	1
1	1	0

Con Y, O y NO se puede escribir cualquier expresión de lógica proposicional, y encadenando neuronas se puede montar. Las redes con bucles, donde la actividad puede quedarse dando vueltas, son la parte difícil del artículo. En la conclusión sostienen que una red de estas, con una cinta y algo que la lea, calcula exactamente lo mismo que una máquina de Turing.

Lo que no hacía

No aprendía. El quinto supuesto dice que la estructura de la red no cambia. El artículo dedica un párrafo al aprendizaje, pero para demostrar que una red cuyas sinapsis cambian se puede sustituir por otra fija que da el mismo resultado. No propone ninguna manera de que la red ajuste nada a partir de ejemplos. Qué neurona se conecta con cuál, cuántas sinapsis hay y qué umbral tiene cada una lo decide quien diseña la red, a mano, igual que quien dibuja un circuito.

Von Neumann la usó para describir un ordenador

En 1945 John von Neumann escribió el «First Draft of a Report on the EDVAC», fechado el 30 de junio en la Moore School de la Universidad de Pensilvania, donde se estaba terminando el ENIAC. Es la descripción de un ordenador que guarda el programa en memoria junto a los datos. En el apartado 4.2 explica que las neuronas son elementos de todo o nada y que una sinapsis inhibidora impide por completo la excitación. Y añade que, siguiendo a McCulloch y Pitts, deja de lado lo más complicado de la neurona. En el apartado 6 define sus «elementos E», neuronas con umbral 1, 2 o 3 e inhibición absoluta, y propone construirlas con válvulas de vacío. Los circuitos de la máquina están dibujados con la neurona de 1943.

En la transcripción del informe que publicó la revista IEEE Annals of the History of Computing en 1993 (hay una copia en la web del MIT), la única referencia bibliográfica es ese artículo, con revista, volumen, año y páginas. Gefter dice lo mismo en Nautilus. Aparecen otros nombres, como Howard Aiken, George Stibitz y John Mauchly, pero solo para atribuirles una idea concreta y sin citar ningún trabajo. Mauchly sale una vez, por una regla de redondeo. Eckert no sale.

El informe circuló solo con el nombre de von Neumann, y eso trajo problemas. La IEEE Computer Society recuerda en su ficha de von Neumann que la idea del programa almacenado ya la habían discutido J. Presper Eckert, John Mauchly, Arthur Burks y otros, y que el borrador debía ser una publicación conjunta del grupo. En una entrevista de 1977 que conserva el Charles Babbage Institute, Eckert habla de los problemas que le causó la circulación del borrador, porque dejó las invenciones del ENIAC en el dominio público y complicó sus patentes. Según la ficha de Mauchly, los dos dejaron la Moore School en 1946 por una polémica sobre la nueva política de patentes de la escuela. Su historia, del ENIAC al UNIVAC, la tienes en quiénes eran Mauchly y Eckert.

Lo que le faltaba: aprender

La pieza que faltaba llegó primero como idea biológica. En 1949 el psicólogo Donald Hebb publicó The Organization of Behavior, donde supone que cuando una neurona A participa una y otra vez en hacer disparar a otra B, algo cambia en una de las dos o en ambas, y A gana eficacia para hacerla disparar. Hebb lo planteó como una hipótesis sobre las células, no como una receta para una máquina, pero cambiaba el planteamiento. Las conexiones ya no eran fijas.

Frank Rosenblatt dio el paso a la máquina en 1958 con el perceptrón, que presentó en Psychological Review. En su modelo las unidades tienen un valor que sube cuando se refuerza su respuesta a un estímulo. La próxima vez que aparece ese mismo estímulo, la misma respuesta tiende a repetirse, y Rosenblatt escribe que entonces se puede decir que ha habido aprendizaje. Es la idea que hoy llamamos ajustar los pesos con ejemplos. Sus unidades seguían teniendo un umbral fijo, pero la red ya ajustaba sola esos valores al entrenarla, sin que nadie fijara cada conexión a mano.

De ahí a hoy hay muchos capítulos por medio. Las redes actuales ajustan sus parámetros internos con el algoritmo de retropropagación, como resumían LeCun, Bengio y Hinton en su revisión de 2015 en Nature, y modelos de lenguaje como GPT-4 se basan en el Transformer, una arquitectura de red presentada en 2017. Si quieres probarlos, aquí tienes lo que ofrecen gratis ChatGPT, Gemini, Claude y Copilot.

Por qué empezar por Pitts

Me gusta empezar aquí porque en aquel artículo de 1943 ya estaba casi todo menos lo más difícil. Estaba la neurona como pieza de cálculo y la intuición de que pensar y calcular podían ser lo mismo. Le faltaba aprender, y eso costó quince años y otras cabezas. Me parece también una historia útil para quitarle un poco de magia a la IA de hoy. Debajo de un chatbot sigue habiendo, muy transformada, la pregunta que McCulloch y Pitts se hacían por las noches en Hinsdale. Cuántas señales tienen que llegar para que algo se encienda.

Este es el primer capítulo de una serie sobre la historia de la inteligencia artificial en el blog.