El ganador del Premio Nobel de Física de 2024, Geoffrey Hinton, recibió una llamada telefónica desde Estocolmo en las primeras horas de la mañana en una habitación de hotel en California por parte del comité que le anunció que había sido galardonado. Al principio no lo creyó.
Los múltiples acentos suecos lo ayudaron a tranquilizarse de que su Premio Nobel de Física era real. En esta entrevista grabada justo después de enterarse del premio, habló sobre el estado del aprendizaje automático, la necesidad urgente de investigación de seguridad y sus esperanzas de que el premio pueda hacer que la gente tome más en serio los miedos que expresa.
Entrevista telefónica con Geoffrey Hinton
Geoffrey Hinton: ¿Hola?
Adam Smith: Oh, hola. ¿Estoy hablando con Geoffrey Hinton?
GH: Sí, lo haces.
AS: Soy Adam Smith llamando desde el sitio web del Premio Nobel.
GH: Está bien. Sé quién eres porque hace mucho tiempo noté que tienen a alguien que llama para obtener las reacciones de la gente.
AS: Exactamente. ¿Podríamos hablar unos minutos?
GH: Sí.
AS: Muchas gracias de verdad. En primer lugar, por supuesto, muchas felicidades.
GH: Gracias.
AS: ¿Y dónde estás? ¿Dónde te llegó la noticia?
GH: Estoy en un hotel barato en California, sin conexión a internet y con una línea telefónica no muy buena. Y estaba planeando hacerme una resonancia magnética hoy, pero supongo que tendré que cancelarla. No tenía idea de que siquiera había sido nominado para el Premio Nobel de Física. Me sorprendió mucho.
AS: Suena como un lugar bastante sensato para recibir la noticia, de alguna manera. Porque estás un poco aislado. Puedes recopilar tus pensamientos antes del diluvio del día.
GH: Sí. Por otro lado, son las dos de la mañana.
AS: Oh, Dios mío. Sí. Lo siento. Sí. Uh oh, querido. No sé si tienes...
GH: Creo que ahora son las tres.
AS: No sé si tienes la sangre fría para volver a la cama o si simplemente tienes que aceptar que el día va a ser largo.
GH: Sí, no creo que tenga tanta sangre fría.
AS: Bueno, una completa sorpresa. ¿Cuáles fueron tus primeros pensamientos?
GH: Mi primer pensamiento fue cómo podía estar seguro de que no era una llamada de broma.
AS: ¿Y? ¿Cómo pudiste?
GH: Venía de Suecia y la persona tenía un fuerte acento sueco y había varias de ellas.
AS: Sí. Así que tendría que ser una banda de imitadores, lo cual es improbable, supongo.
GH: Sí.
AS: ¿Cómo te describirías? ¿Dirías que eres científico informático o dirías que eres físico tratando de entender la biología cuando estabas haciendo este trabajo?
GH: Diría que soy alguien que realmente no sabe en qué campo está, pero le gustaría entender cómo funciona el cerebro. Y en mis intentos de entender cómo funciona el cerebro, he ayudado a crear una tecnología que funciona sorprendentemente bien.
AS: Es notable, supongo, que hayas expresado públicamente tus miedos sobre lo que la tecnología puede traer. ¿Qué crees que se debe hacer para aliviar los miedos que tú y otros están expresando?
GH: Entonces creo que es bastante diferente del cambio climático. Con el cambio climático, todo el mundo sabe lo que hay que hacer. Necesitamos dejar de quemar carbono. Es solo una cuestión de voluntad política para hacerlo. Y las grandes empresas que obtienen grandes ganancias no están dispuestas a hacerlo. Pero está claro lo que hay que hacer. Aquí estamos tratando con algo donde tenemos mucha menos idea de lo que va a pasar y qué hacer al respecto. Y así, desearía tener una especie de receta simple que si haces esto, todo estará bien. Pero no lo tengo. En particular con respecto a la amenaza existencial de que estas cosas se salgan de control y se apoderen, creo que estamos en una especie de punto de bifurcación en la historia donde en los próximos años necesitamos descubrir si hay una manera de lidiar con esa amenaza. Entonces, creo que es muy importante en este momento que la gente trabaje en el tema de cómo mantendremos el control. Necesitamos dedicar mucho esfuerzo de investigación a ello. Creo que una cosa que los gobiernos pueden hacer es obligar a las grandes empresas a gastar mucho más de sus recursos en investigación de seguridad. De modo que, por ejemplo, empresas como OpenAI no puedan simplemente dejar la investigación de seguridad en el segundo plano.
AS: ¿Existe un paralelo con la revolución biotecnológica cuando las propias biotecnologías se reunieron en esas conferencias de Asilomar y se sentaron a decir, ya sabes, hay peligro potencial aquí y necesitamos, necesitamos estar en ello nosotros mismos?
GH: Sí. Creo que hay similitudes con eso, y creo que lo que hicieron fue muy bueno. Desafortunadamente hay muchas más aplicaciones prácticas de la IA. Y para cosas como la clonación que los biólogos intentaban mantener bajo control. Y así, creo que va a ser mucho más difícil. Pero creo que los biólogos, lo que hicieron es un buen modelo a seguir. Es impresionante que hayan logrado un acuerdo, y lo hicieron los científicos.
AS: Entonces, por ejemplo, con los grandes modelos de lenguaje, lo que supongo que contribuye a su miedo es que usted siente que estos modelos están mucho más cerca de entender que mucha gente dice. Cuando se trata del impacto del Premio Nobel en esta área, ¿crees que hará la diferencia?
GH: Sí, creo que marcará la diferencia. Con suerte, me hará más creíble cuando digo que estas cosas realmente entienden lo que están diciendo.
AS: ¿Te preocupa que la gente no te tome en serio?
GH: Entonces hay toda una escuela de lingüística que proviene de Chomsky que piensa que es una completa tontería decir que estas cosas entienden, que no procesan el lenguaje de la misma manera que nosotros. Creo que esa escuela está equivocada. Creo que ahora está claro que las redes neuronales son mucho mejores procesando el lenguaje que cualquier cosa jamás producida por la Escuela de Lingüística de Chomsky. Pero todavía hay mucho debate sobre eso, particularmente entre los lingüísticos.
AS: Solo quería volver, sin embargo, a las circunstancias de recibir esta noticia, en su habitación de hotel, en medio de la noche. De alguna manera, un lugar bastante solitario para escuchar las noticias. Nadie a quien recurrir, para abrazar y celebrar.
GH: Bueno, estoy aquí con mi pareja. Estoy aquí con mi pareja y está bastante emocionada.
AS: Está bien. Sí, de hecho. Pero por ahora, muchas, muchas felicidades.
GH: Gracias.
AS: Adiós.
GH: Adiós.
