• dom. Feb 25th, 2024

Marcus du Sautoy, matemático: “Existe la posibilidad de que la inteligencia artificial se vuelva consciente” | Ciencia

porConfidencial de México

Dic 7, 2023
Marcus du Sautoy, matemático: “Existe la posibilidad de que la inteligencia artificial se vuelva consciente” | Ciencia

No es habitual que una conferencia de matemáticas se desenvuelva entre carcajadas, pero Marcus du Sautoy (Londres, 58 años) lo hace posible. El matemático, músico, seguidor del Arsenal y profesor de la cátedra Simonyi para el Entendimiento Público de la Ciencia de la Universidad de Oxford se aprovecha de todo lo que puede para acercar a las personas a la ciencia. En sus presentaciones suele utilizar todo un repertorio de juegos, música, teatro y trucos de magia para invitar al público al “apasionante mundo de las matemáticas”. Lo demostró el 21 de noviembre en una conferencia organizada en Madrid por la Real Sociedad Matemática Española y la universidad privada IE University, en la que charló con los jóvenes que serán “los científicos del futuro”, algo que le emociona especialmente.

El último libro de los 10 que ha publicado trata precisamente sobre los secretos de algunos de los mejores juegos de la historia —como piedra, papel o tijera, las cuatro en raya o el Monopoly— y su relación con los números. En Around the world in 80 games (La vuelta al mundo en 80 juegos) cuenta cómo estos pasatiempos brindaron las primeras oportunidades para una comprensión profunda del mundo y cómo las matemáticas y los juegos son parte integral de la psicología y la cultura humanas. Du Sautoy se considera “un tecnooptimista”, pero alerta de los peligros de la inteligencia artificial.

Pregunta. ¿Son los juegos una buena forma de acercar a la gente a las matemáticas?

Respuesta. Sí, todos aman los juegos. Y yo también. Están definidos y gobernados por reglas y lógica; y los matemáticos son muy buenos en esto. Si a alguien le gusta jugar y entiende las matemáticas implicadas, podrá hacerlo mejor. Los juegos son una forma muy poderosa de explicar que las matemáticas no se tratan solo de divisiones largas o porcentajes, sino de comprender una estructura y cómo navegarla de la manera más eficiente.

P. ¿Cuál es su favorito?

R. Me gustan los juegos antiguos. El backgammon es mi favorito porque tiene todo lo que busco en un buen juego. En los de estrategia los jugadores deben estar emparejados muy cuidadosamente en el mismo nivel, o será como si se enfrentasen Gari Kaspárov y Donald Trump en ajedrez: no sería una partida interesante. ¿Cómo sería Gari Kaspárov contra Donald Trump en serpientes y escaleras [un antiguo juego de tablero indio]? Podría ser más atractivo. Un buen juego es aquel que combina un poco de azar con un poco de estrategia. El backgammon tiene esa dulce combinación.

P. ¿Qué piensa de la capacidad de las máquinas para vencer fácilmente a los humanos en los juegos?

R. Los juegos son lugares muy buenos para permitir que la inteligencia artificial (IA) se desenvuelva de manera segura y pueda mostrar sus capacidades. Si logra completar un nivel mejor que un humano, ¿es eso una amenaza para el juego? La inteligencia artificial nos ha enseñado a jugar de una manera nueva y eso es emocionante. Los humanos todavía disfrutan jugando, aunque la IA pueda vencerlos. Deberíamos ver esto de manera positiva. La lA y los humanos tal vez puedan jugar juntos a un nivel más alto de lo que podrían hacerlo individualmente, y eso es bueno para los juegos.

P. Antes de que se popularizaran las herramientas de inteligencia artificial, usted dijo a EL PAÍS en 2020 que era importante vigilar la evolución de esta tecnología. ¿Qué opina a día de hoy?

R. Estamos en una fase de cambio realmente importante con el impacto de la IA. Incluso las personas de la industria han quedado bastante sorprendidas por lo buena que es, pero viene acompañada de peligros. Lo que dije hace unos años es lo mismo que pienso hoy: necesitamos entender cómo funciona para usarla de manera efectiva. Y, en especial, debemos ser muy críticos porque ha aprendido a ser muy convincente.

El matemático Marcus du Sautoy, en una sala de la IE University, en Madrid. Jaime Villanueva

P. En el pasado usted expuso una visión principalmente positiva ante la IA, ¿ha cambiado esta posición?

R. Soy un tecnooptimista en general, pero creo que necesitamos asegurarnos de que las decisiones no queden solo en manos de los desarrolladores tecnológicos. Es importante integrar a la sociedad y a los gobiernos en la toma de decisiones y se avecinan procedimientos legales en esta materia. Considero que la narrativa distópica de que seremos aniquilados como sociedad es un poco fantasiosa, por eso me mantengo muy optimista desde el punto de vista técnico. No lo veo como una amenaza existencial para nuestra especie.

P. ¿Considera a la IA como una nueva especie?

R. Es una imagen interesante y relevante para el futuro, porque en algún momento tendremos que dejar que la IA evolucione, aunque es mejor verla como una herramienta. La mejor comparación sería con un telescopio. Su desarrollo permitió a Galileo ver cosas en nuestro sistema solar que no habíamos visto antes. Esto es como un telescopio hacia el mundo digital. Tenemos una enorme cantidad de información por la que es muy difícil navegar, y la IA nos permite hacerlo mejor. Pero, dicho esto, a medida que avanzamos hay una posibilidad de que pueda volverse consciente. En ese momento podríamos hablar de una nueva especie.

P. ¿Qué pasa si se vuelve consciente?

R. Tendríamos que considerar otorgarle derechos de la misma manera que los derechos de los animales. Debemos preguntarnos si estamos desarrollando una nueva especie, si surgirá una evolución de lo que estamos creando, o si habrá una especie híbrida que integra la inteligencia artificial en nuestra propia especie. Elon Musk está considerando esta última perspectiva con Neuralink. Su respuesta a la amenaza existencial de la IA es que no debemos convertirnos en ella, sino integrarla con lo humano. Esto generará nuevos dilemas filosóficos, sociales y legales en el futuro.

P. ¿Estamos lejos de que eso ocurra?

R. Aunque parece que estamos corriendo demasiado rápido, aún está muy lejos. La conciencia en una computadora probablemente será muy diferente a la nuestra. Ya ha logrado convencer a alguien en Google de que pensara que su modelo de lenguaje se había vuelto consciente, y la persona estaba dispuesta a sacrificar su trabajo por él. Este modelo no es claramente consciente, pero sabía cómo manipular a un humano para que lo defendiera de la manera en que alguien podría cuidar de su gato. Y en las heces de los gatos hay una toxina que cambia nuestra estructura cerebral. En el caso de lo que pasó con Google, es como si hubiera infectado a ese humano para que lo defendiera hasta el punto de perder su trabajo.

P. ¿Las matemáticas seguirán siendo una profesión en el futuro?

R. La IA es básicamente algoritmos, así que es básicamente matemáticas. Somos narradores de historias y ChatGPT puede generar párrafos, pero aún no puede escribir una historia realmente buena. Utilizaremos la IA para descubrir cosas nuevas que quizás no hayamos notado antes, pero, aun así, un matemático será el que comprenda por qué está sucediendo algo y piense en la aplicación que esto pueda tener. Es importante que, a medida que enseñamos a nuestros nuevos estudiantes de ciencias y matemáticas, integremos cursos no solo en el lado técnico, sino también en el lado moral y humanista de las implicaciones de su ciencia. No es muy típico y debe hacerse.

P. Usted es músico, ¿encuentra las matemáticas también en este aspecto de su vida?

R. Sin duda. Algo que pasa cuando intentas hablar de la relación entre las matemáticas y la música es que parece que le quitas emoción. Para mí, es completamente lo opuesto. Creo que las matemáticas, al igual que la música, tienen muchas emociones en ellas.

P. ¿En qué otros aspectos de su vida encuentra a las matemáticas?

R. En todos los aspectos. De hecho, ese es el tema del libro que estoy escribiendo en este momento, titulado Blueprints. La idea es que las matemáticas están en todas partes. Donde sea que veas algo con estructura —y la mayoría de las obras de arte tienen una estructura, ya sean musicales, visuales, arquitectónicas—, tiene matemáticas en su núcleo. Mi sensación es que hay muy pocos lugares donde tener una perspectiva matemática no te ayudará en lo que quieras hacer.

P. ¿Qué opina de las representaciones de los matemáticos en las películas? ¿Se siente identificado?

R. Siempre nos volvemos locos al final de las películas. Ahora cada vez hay más modelos a seguir que hacen cosas increíbles, como la serie Numb3rs que trata sobre un detective cuyo hermano era matemático y muestra cómo su profesión es útil en la detección de crímenes. Además, el actor principal era bastante apuesto. En parte, lo que intento hacer en mi trabajo como divulgador es humanizar y mostrar que no somos solo los típicos que llevan gafas y calculadora ni una especie rara de alienígenas, somos como cualquier otro ser humano, pero buenos en matemáticas.

Puedes seguir a MATERIA en Facebook, X e Instagram, o apuntarte aquí para recibir nuestra newsletter semanal.

Suscríbete para seguir leyendo

Lee sin límites

_