No hay evidencia de que podamos controlar a la IA: El mayor problema que enfrenta la humanidad

El investigador menciona que, al igual que es impracticable controlar el comportamiento humano con absoluta certeza, lo mismo se aplica al control de la IA superinteligente. Esta comparación resalta la complejidad y la incertidumbre que rodea al desarrollo y la gestión de la inteligencia artificial, ya que incluso el comportamiento humano, con toda su complejidad, no puede ser totalmente controlado.

Expertos de todo el mundo alertan sobre el poder de la inteligencia artificial. Los seres humanos van a tener grandes dificultades para mantener a raya su propio invento, es la expectativa, con escenarios de terror, de robots apoderándose del mundo. Un nuevo estudio reitera los peligros.

Según el estudio general, no hay pruebas de que la IA, como se abrevia en inglés la inteligencia artificial, pueda controlarse con seguridad. Y sin pruebas de ello, no debería desarrollarse, afirma. “Aunque se reconoce que mantener la IA bajo control es uno de los mayores problemas a los que se enfrenta la humanidad, sigue estando poco comprendida, mal definida y escasamente investigada”, comienza diciendo el investigador Roman Yampolskiy. “Se avecina algo que podría convertirse en una catástrofe existencial. No es sorprendente que muchos lo vean como un gran problema. El resultado podría ser una gran prosperidad o la extinción, y el destino del universo está en juego”.

Inteligencia artificial impredecible

Yampolskiy, que trabaja en la Universidad de Louisville, explica a qué se debe esto. “En primer lugar, los procesos de toma de decisiones de la IA pueden llegar a ser tan complejos que resulte imposible predecir y comprender cada resultado, especialmente si la IA se vuelve más inteligente que los humanos”, comienza el científico, que escribió al respecto el libro AI: Unexplainable, Unpredictable, Uncontrollable. “En segundo lugar, con su capacidad para mejorarse a sí misma, la IA puede sufrir cambios impredecibles más allá de los límites de los mecanismos iniciales de programación y control”.

Además, el experto cita otros dos argumentos teóricos. “Al igual que es impracticable controlar el comportamiento humano con absoluta certeza, lo mismo se aplica al control de la IA superinteligente”. También hay pruebas procedentes de la informática teórica que demuestran que existen límites a la previsibilidad y el control de los sistemas informáticos complejos.

“La humanidad se enfrenta a una disyuntiva: ¿nos volvemos como bebés: nos cuidan, pero no estamos al mando o rechazamos a ese útil ayudante y seguimos siendo libres y estando al mando?”, suena dramático. Afortunadamente, también hay un camino intermedio. Hay formas de evitar que la IA se meta con nosotros (por decirlo amablemente). El científico sugiere una especie de equilibrio en el que sacrificamos algunas de las capacidades de la IA, pero mantenemos el control.

“Para mitigar los riesgos, tenemos que incorporar consideraciones éticas y de seguridad en la fase de diseño y desarrollo de la IA, asegurándonos de que todo esté en consonancia con los valores e intereses humanos”. Pero los gobiernos también tienen que actuar. “Para evitar resultados perjudiciales, deben elaborarse y aplicarse normas y reglamentos mundiales para el desarrollo y la aplicación de la IA”. Además, la transparencia es importante. “Tenemos que fomentar la colaboración abierta entre investigadores de IA, desarrolladores y responsables políticos para compartir ideas, estrategias y protocolos de seguridad”. Por último, debemos tener mucho cuidado con lo que enseñamos a la IA. “Necesitamos desarrollar la IA dentro de un entorno específico y controlado o para determinadas tareas no generalizadas para limitar la autonomía y el poder de la IA”.

Pruebas abrumadoras

Si no hacemos nada o demasiado poco, todos conocemos las historias de terror. “Si no tomamos las medidas adecuadas, podríamos tener escenarios en los que la IA actúe en contra del interés humano, lo que podría conducir a peligros existenciales. Y tenemos que darnos prisa. El tiempo para idear una intervención eficaz es más corto que el que se tarda en desarrollar una IA superinteligente”.

Y para los que piensan que todo quedará en nada: las pruebas son abrumadoras. Eso es quizá lo que más sorprendió al científico. “Una de las mayores revelaciones para mí fue la amplitud y profundidad de las pruebas interdisciplinarias que apuntan a los retos de dominar la IA, desde la informática hasta la física y la ética. Me pareció vehemente que algunos miembros de la comunidad científica vieran la incontrolabilidad de la IA no solo como un reto técnico, sino incluso como algo inevitable que podría tener profundas repercusiones en la humanidad”.

Por último, el experto continúa diciendo que el impacto de la IA se extiende más allá de nuestro propio planeta. Cita como ejemplo la paradoja de Fermi, que se refiere a la alta probabilidad estadística de que exista vida extraterrestre inteligente, al tiempo que la contrasta con la evidencia de la misma. “La discusión en torno a la paradoja de Fermi y la posibilidad de que una superinteligencia incontrolable pueda explicar el silencio en el espacio añade otra dimensión cósmica al debate y señala que las implicaciones de la IA van mucho más allá de nuestras preocupaciones tecnológicas inmediatas”.

Más sobre la paradoja de Fermi

La paradoja de Fermi, propuesta por el físico Enrico Fermi en la década de 1950, plantea una cuestión fundamental sobre la existencia de vida extraterrestre inteligente. A pesar de la alta probabilidad estadística de que existan numerosas civilizaciones avanzadas en nuestra galaxia, la Vía Láctea, no hemos encontrado ninguna evidencia convincente de su existencia. Esto contradice la lógica de que, dado el número de estrellas similares al Sol y la antigüedad del universo, deberíamos haber detectado señales de inteligencia extraterrestre. Este enigma ha llevado a diversas teorías para explicar el silencio cósmico, desde la hipótesis de que las civilizaciones avanzadas se autodestruyen antes de poder colonizar el espacio, hasta la posibilidad de que estemos siendo observados por una civilización extraterrestre que opta por mantenerse en el anonimato. La paradoja de Fermi sigue siendo uno de los grandes misterios sin resolver en la búsqueda de vida en el universo y plantea importantes preguntas sobre nuestro lugar en el cosmos y la naturaleza de la inteligencia en el universo.
Artículo Anterior Artículo Siguiente

Publicidad

Publicidad

Formulario de contacto