Más de 200 datos prominentes requieren regular esta tecnología // diseñó pandemia, información errónea y violaciones de los derechos, entre las amenazas
Nueva York. Miércoles, 24. Septiembre de 2025. Investigadores, ejecutivos de tecnología, políticos y los ganadores del Premio Nobel han registrado un marco regulatorio que establece restricciones sobre el uso de la inteligencia artificial (IA).
Más de 200 datos prominentes, incluidos 10 laureados con Nobel y científicos que trabajan y gigantes, como Anthrope, Google Deepind, firmaron una carta publicada al comienzo de la Asamblea General de las Naciones Unidas en Nueva York.
De peligros no revisados
“IA tiene un gran potencial para mejorar el bienestar humano, pero su trayectoria actual representa peligros invisibles”, dice un grupo de científicos y expertos, que se aclaran a las líneas rojas que trabajan como prohibiciones internacionales que son demasiado riesgosas en cualquier distrito.
Las líneas rojas de la IA serían las prohibiciones internacionales sobre el uso que se consideran demasiado arriesgados bajo cualquier circunstancia, según los signatarios.
Dados se implican ejemplos dependiendo de los comandos de IA para el arsenal nuclear o cualquier tipo de arma autónoma mortal.
También sugieren líneas rojas que permiten el uso de IA para vigilancia masiva, resultados sociales, ataques cibernéticos o adición de personas.
Pidieron a los gobiernos que tengan líneas rojas sobre inteligencia artificial determinadas a fines del próximo año, dado el ritmo al que avanzó tecnológicamente, para evitar efectos devastadores para la humanidad.
En la carta también requieren cooperación entre los líderes mundiales para lograr “líneas rojas internacionales para la inteligencia artificial”.
“IA pronto podría exceder la capacidad humana y el aumento de los riesgos, como las pandemias diseñadas, la información errónea generalizada, la manipulación (…) y las violaciones sistemáticas de los derechos humanos”, dicen.
Una personalidad que parte de este grupo es Yoshua Bengio, el Premio Turing Touring 2018 (la recompensa más importante en ITica) y reconocida como uno de los padres de inteligencia artificial. Él cree que “la carrera actual para todos los sistemas capaces y autónomos y establece grandes riesgos para nuestras sociedades y que necesitamos urgentemente una colaboración internacional para resolverlas. El establecimiento de líneas rojas es un paso clave para prevenir riesgos inaceptables”.
Algunos de estos riesgos son que cada vez más, esta herramienta tecnológica continúa obteniendo autonomía. Lo que requiere estos cien datos es que los gobiernos tomen decisiones que lo permitan controlar y antes de su supervisión es más difícil.
