Roman Yampolskiy advierte sobre el riesgo existencial de la inteligencia artificial
Editor web Maya Comunicación 
Roman Yampolskiy, un destacado experto en seguridad de inteligencia artificial (IA), ha lanzado una advertencia alarmante sobre los riesgos potenciales de esta tecnología emergente para la supervivencia de la humanidad. En una reciente entrevista en el podcast de Lex Fridman, Yampolskiy afirmó que existe una probabilidad del 99,999999% de que la IA cause una catástrofe existencial, una declaración que ha generado gran preocupación en la comunidad tecnológica y científica.
Riesgos y complejidades de la IA
Yampolskiy, quien ha dedicado su carrera a estudiar los peligros y vulnerabilidades de la IA, subraya que la creciente complejidad de los sistemas de IA podría superar los métodos de seguridad actuales. “La complejidad inherente a los sistemas de IA avanzada representa un reto casi insuperable para los métodos de seguridad contemporáneos”, advirtió. Según el experto, a medida que los sistemas de IA se vuelvan más sofisticados, el control sobre estos podría volverse prácticamente nulo, con consecuencias devastadoras para la humanidad.
El experto sugirió que para evitar un escenario catastrófico, sería necesario desarrollar software extremadamente complejo y libre de errores en los próximos 100 años, lo que él considera una tarea inviable debido a los fallos recurrentes en las tecnologías actuales.
Desafíos en la seguridad de la IA
Para ilustrar su punto, Yampolskiy mencionó los numerosos fallos de software en sistemas críticos, que evidencian la dificultad para garantizar la seguridad en la IA. La velocidad a la que se desarrollan estos sistemas supera la capacidad actual para implementar medidas de seguridad efectivas, según el experto. En este contexto, Yampolskiy aboga por detener el avance de la IA para permitir a las autoridades ponerse al día en términos de seguridad y control.
Perspectiva académica y necesidad de regulación
El pesimismo de Yampolskiy resuena con preocupaciones previas en la comunidad científica sobre la regulación de la IA. Varios expertos han advertido sobre los peligros potenciales de desarrollar sistemas de IA avanzados sin las adecuadas medidas de seguridad. La necesidad de directrices estrictas y un marco regulatorio robusto para controlar la evolución de esta tecnología se vuelve cada vez más urgente.
La capacidad de la IA para influir en todos los aspectos de la vida humana, desde la economía hasta la seguridad nacional, hace que su regulación sea una tarea de máxima prioridad. La comunidad científica está de acuerdo en que el desarrollo y uso de la IA deben estar guiados por principios morales sólidos y una visión clara de sus implicaciones a largo plazo.
La advertencia de Yampolskiy no solo añade un sentido de urgencia a la conversación sobre la IA, sino que también subraya la necesidad de una vigilancia rigurosa y una regulación efectiva para asegurar que el avance de esta tecnología no ponga en riesgo la supervivencia de la humanidad.
Juan Pablo Ojeda
