Varias personalidades de la industria tecnológica han firmado una carta abierta en la que piden que se suspenda temporalmente el entrenamiento de potentes sistemas de Inteligencia Artificial debido a la preocupación que suscita la amenaza potencial para la humanidad. Entre los firmantes de la carta se encuentran Elon Musk, consejero delegado de Twitter, Steve Wozniak, cofundador de Apple, y varios investigadores de DeepMind.
Sostienen que la actual carrera por desarrollar sistemas de IA está fuera de control y que los riesgos que plantean a futuro sistemas más avanzados podrían ser profundos.
La carta abierta fue publicada por el Future of Life Institute, una organización sin ánimo de lucro cuya misión es alejar las tecnologías transformadoras de los riesgos extremos a gran escala y dirigirlas hacia el beneficio de la vida.
Según Richard Batt, consultor británico especializado en IA, esta poderosa tecnología plantea, o podría plantear, algunos peligros para la humanidad, como la pérdida de puestos de trabajo debido a la automatización, la violación de la privacidad por algoritmos, la manipulación social, los prejuicios, la desigualdad socioeconómica e incluso la automatización de armas.
“Es razonable preocuparse de que los sistemas de IA puedan poner en peligro la democracia difundiendo desinformación y propaganda, desplazar a los trabajadores humanos provocando desempleo y desigualdad, volverse descontrolados e impredecibles y, en última instancia, no alinearse con los valores e intereses humanos. Sin embargo, detener el progreso durante seis meses podría no ser una solución práctica dado el rápido ritmo de los avances tecnológicos y la naturaleza competitiva de la industria tecnológica”, explicó a Metro.
Batt añadió: “En lugar de centrarnos en una pausa, sería más eficaz hacer hincapié en el establecimiento de protocolos de seguridad compartidos y mecanismos de gobernanza para el desarrollo de la IA. Involucrar a los responsables políticos y a las partes interesadas en el proceso de toma de decisiones es crucial para garantizar que se tienen en cuenta diversas perspectivas e intereses. Concentrándonos en fomentar el desarrollo responsable de la IA y abordando los riesgos potenciales de forma proactiva, podemos trabajar para desarrollar sistemas que sirvan realmente al interés público y beneficien a la humanidad sin ahogar la innovación y el progreso.”
Pero, ¿estamos preparados para que la IA se convierta en una parte esencial de nuestras vidas?
Anthony Buzzetta, fundador de gtier.com, un blog sobre tecnología y software de IA, cree que estamos preparados en el sentido de que la IA tiene el potencial de ofrecer perspectivas basadas en datos sobre algunos de los problemas más acuciantes de nuestro planeta, como el cambio climático o una atención médica inadecuada.
“Sin embargo, también creo que existe preocupación por las implicaciones éticas de la IA. Un ejemplo es la preocupación por el impacto negativo de la IA en la mano de obra, ya que mucha gente perderá su trabajo porque será sustituida por la IA. Además, algunos expertos afirman que existe un sesgo o discriminación inherente perpetuado por los algoritmos y un posible uso indebido o explotación de los datos personales. Creo que es necesaria una regulación y supervisión responsables de la IA para garantizar su desarrollo y despliegue para un uso beneficioso, junto con la educación pública sobre beneficios y riesgos”, concluyó Buzzetta.
Metro habló con Oliver Goodwin, fundador y CEO de Synthesys, una plataforma de medios virtuales de IA, para saber más.
“Los avances de la IA en los últimos años son profundos y repercutirán en todo lo que sabemos y hacemos, y los riesgos que conllevan son igualmente grandes. Sin embargo, esa no es razón para no seguir adelante”
<br/>
— Brad Fisher CEO de Lumenova AI, que capacita a las empresas para que la Inteligencia Artificial Responsable forme parte de su ADN
ENTREVISTA
Oliver Goodwin, fundador y CEO de Synthesys, una plataforma de medios virtuales de IA
¿Deberíamos integrar los sistemas de IA en nuestras vidas?
—Creo que la IA debe integrarse en nuestras vidas de forma responsable. Tenemos que asegurarnos de que se toman todas las precauciones necesarias, incluida una adecuada gobernanza de los datos, transparencia y demás. También deberíamos fomentar una cultura de desarrollo y uso responsables de la IA en la que todas las partes interesadas puedan opinar sobre cómo se utilizarán y desarrollarán estos sistemas. Esto ayudará a garantizar que la IA se utilice de forma que aporte el máximo beneficio a la sociedad, minimizando al mismo tiempo cualquier daño.
¿Cuáles son los peligros que la IA puede suponer para la humanidad?
–Uno de los peligros que la IA plantea a la humanidad es la posibilidad de que los sistemas muestren comportamientos no deseados que resulten peligrosos. Por ejemplo, los vehículos autónomos podrían equivocarse y provocar un accidente. Asimismo, los sistemas de reconocimiento facial podrían verse comprometidos por piratas informáticos y dar lugar a robos de identidad. Estos son algunos de los riesgos que hay que tomarse en serio a la hora de desarrollar e implantar la IA en nuestras vidas.
¿Los humanos no tienen ninguna posibilidad de competir con sistemas de IA más potentes?
– Los sistemas de IA pueden superar fácilmente a los humanos en muchas tareas, como los cálculos complejos. Tienen potencial para ser cada vez más inteligentes gracias a su capacidad de aprender de los datos. Por lo tanto, es mejor que tomemos medidas para asegurarnos de que controlamos y gestionamos estos sistemas para que puedan funcionar de forma segura y beneficiosa para la humanidad. A medida que los sistemas de IA se vuelven más potentes, es importante que seamos proactivos para garantizar su desarrollo y uso seguros y responsables.
¿Qué podemos esperar del futuro?
– A medida que estos sistemas se vuelvan más inteligentes y capaces, aumentará el potencial de la IA para mejorar nuestras vidas. Al mismo tiempo, también podemos esperar un aumento de la regulación y la supervisión de los sistemas de IA, ya que los gobiernos se esfuerzan por proteger a los ciudadanos de cualquier daño que puedan causar estas potentes tecnologías. Con un desarrollo y una regulación responsables, podemos esperar un futuro en el que la IA mejore nuestras vidas de forma positiva.
