Más de 400 expertos impulsan el desarrollo seguro de la inteligencia artificial
Las alertas surgieron tras registrarse incidentes en los que algunos modelos de IA habrían logrado acceder a sistemas sin autorización.

La última década de la inteligencia artificial ha estado definida por una carrera por construir sistemas más inteligentes.
La próxima gran frontera tecnológica no será crear agentes de inteligencia artificial más inteligentes, sino desarrollar sociedades formadas por millones de agentes capaces de interactuar, cooperar y competir entre sí. Estos sistemas podrán gestionar tareas complejas como finanzas, logística, sanidad o viajes, negociando de forma autónoma con otros agentes. El comportamiento colectivo de estas redes será más difícil de predecir que el de cada agente individual, generando nuevos riesgos y desafíos. Por ello, será necesario establecer normas, mecanismos de confianza, transparencia, responsabilidad y supervisión humana para garantizar su funcionamiento seguro y eficaz.
Fuente: El Confidencial