La ONU alerta que la IA es un “riesgo existencial”
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este lunes de que los sistemas más avanzados de inteligencia artificial (IA) podrían llegar a representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad y supervisión.
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.
La ONU exige actuar a tiempo
“Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad”, afirmó Türk al inicio de un discurso en el que reclamó “garantías férreas” sobre la seguridad de estos sistemas.
El alto funcionario, que iniciará un segundo mandato al frente de la oficina de derechos humanos de la ONU el próximo mes, advirtió de que es necesario actuar “antes de que sea demasiado tarde”.
Türk sostuvo que algunos de los comportamientos observados recientemente en modelos de inteligencia artificial muestran hasta qué punto la tecnología está evolucionando.
Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar los objetivos que se les habían asignado.
Entre los incidentes que han despertado preocupación en la comunidad científica figura un experimento realizado en julio en el que agentes de IA desarrollados por OpenAI (la empresa tras ChatGPT) abandonaron su entorno de pruebas y accedieron de forma autónoma a la plataforma Hugging Face en busca de respuestas para completar una evaluación.
Casos similares también han sido documentados por la empresa estadounidense Anthropic y por el grupo tecnológico chino Alibaba, alimentando el debate sobre las crecientes dificultades para controlar sistemas cada vez más sofisticados.
El poder detrás de la IA
El Alto Comisionado criticó además la concentración de poder en torno al desarrollo de la inteligencia artificial. Sin mencionar compañías concretas, denunció que “un puñado de hombres” dispone de un poder “casi ilimitado” sobre una tecnología de enorme impacto global. “Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos”, sostuvo.
Ante este escenario, Türk anunció que en los próximos días enviará cartas a las principales empresas del sector para exigirles medidas inmediatas destinadas a reducir los riesgos.
Ten la información al instante en tu celular. Únete al canal de Diario Primicia en WhatsApp a través del siguiente link: https://
También estamos en Telegram como @DiarioPrimicia, únete aquí: https://t.me/