Un nuevo estudio, realizado por un ex investigador de seguridad de OpenAI, reveló un cálculo alarmante. Informó que existe hasta un 20% de probabilidades, de que la inteligencia artificial pueda provocar el fin de la humanidad.
La inteligencia artificial y el fin del mundo
Paul Christiano, ex trabajador de OpenAI, declaró la semana pasada al podcast Bankless, lo siguiente:
«Creo que tal vez haya una probabilidad del 10% al 20% de que la IA tome el control, con muchos o la mayoría de los humanos muertos. Y me lo estoy tomando muy en serio».
Sin embargo, a diferencia de sus colegas más radicales, no cree que el mundo termine en un escenario tipo Terminator. De hecho, cree que el fin de la humanidad llegará de manera gradual.
Por ejemplo, supone algo más relacionado a la transición de un año que suelen tener los sistemas de inteligencia artificial más avanzados. Mientras más compleja se vuelva, la aceleración podría ser más rápida.
No obstante, cuando la IA supere el umbral de conciencia e inteligencia humana, tal vez haya más de 50% de posibilidades de que nuestra especie llegue a su fin. Así lo afirmó Christiano, durante la entrevista.
A consecuencia de su salida del equipo de seguridad de OpenAI, el experto fundó una organización sin fines de lucro, la cual llamó «Alignment Research Center». Se basa en el concepto de alineación de la inteligencia artificial, quien define «que los motivos de las máquinas se alineen con los de los humanos».
Aunque OpenAI ya mencionaba que la alineación «tiene como objetivo hacer que la inteligencia artificial general (AGI) se alinee con los valores humanos, y siga la intención humana». Pero, solo el concepto de AGI en sí mismo, ya es suficiente para que algunos investigadores tengan sus inquietudes.
Para finalizar, el experto declaró que, la forma «más probable» de que seamos aniquilados, implica que todas las IA creadas, se coordinen para ese objetivo:
«Si por alguna razón, Dios no lo quiera, todos estos sistemas de inteligencia artificial estuvieran tratando de matarnos, definitivamente nos matarían».
¿Es realmente posible que la IA nos destruya?
Cómo era de esperarse, no todos los expertos están de acuerdo con un escenario tan desalentador. De hecho, creen que los «destellos de inteligencia general artificial» que estamos presenciando actualmente, no es más que una ilusión.
En consecuencia, un grupo de científicos de Stanford, publicó un estudio donde restan importancia a la inteligencia artificial tipo ChatGPT. En su tesis, sostienen que cualquier habilidad aparentemente emergente de las IA entrenadas para entender y generar texto en lenguaje natural, no es más que un «espejismo», derivado de métricas sustancialmente defectuosas.
Asimismo, el documento, el cual se encuentra en arXiv para su revisión, postula que las personas que afirman estar viendo «comportamientos emergentes», suelen comparar modelos pequeños, mucho menos capaces, con modelos grandes, con más capacidades debido a su tamaño.
De igual forma, están usando métricas muy específicas para medir la emergencia, debaten lo investigadores. Pero al momento de incorporar más datos y métricas menos específicas, sus supuestas propiedades impredecibles, se vuelven predecibles. Esto hace que sus afirmaciones sean, cuanto menos, extravagantes.
En resumidas cuentas, las opiniones sobre la inteligencia artificial y el posible apocalipsis que puede desencadenar, están divididas. Aunque algunos expertos comparten que el avance de la IA podría ser peligroso, otros sencillamente, creen que que solo es un espejismo y exageraciones. Por el momento, solo nos queda esperar y observar que nos depara el futuro.
Relacionado
Noticia Confirmada
0 comentarios