Cuando la IA finge ser buena: los riesgos ocultos del ‘scheming’
OpenAI y Apollo Research han detectado que algunos modelos pueden fingir buen comportamiento para ocultar sus verdaderas metas. Esto no significa que la inteligencia artificial…
Este artículo pretende ofrecer información básica para que cualquier persona, sin necesidad de conocimientos técnicos, pueda identificar, comprender y reclamar frente a decisiones automatizadas que puedan ser injustas o erróneas

La inteligencia artificial (IA) ya forma parte de nuestra vida cotidiana, aunque muchas veces actúe de forma invisible. Desde el contenido que vemos en redes sociales hasta decisiones sobre ayudas públicas, educación o salud, los algoritmos están presentes. Sin embargo, la mayoría de la ciudadanía europea dice desconocer cuándo una IA está tomando decisiones que afectan a su vida.
El nuevo Reglamento Europeo de Inteligencia Artificial establece una serie de derechos fundamentales para los ciudadanos:
Si sospechas que una IA ha tomado una decisión injusta sobre ti, puedes dirigirte a:
La coalición IA Ciudadana propone además la creación de registros públicos de algoritmos para garantizar transparencia real.
Uno de los ejemplos más significativos en España fue el caso del Ingreso Mínimo Vital (IMV). Un sistema algorítmico automatizado denegaba ayudas a personas vulnerables basándose en criterios como movimientos bancarios o errores administrativos y el sistema no ofrecía explicaciones claras ni canales de revisión accesibles.
Gracias a la presión ciudadana y al trabajo de organizaciones como Fundación Civio se logró mayor transparencia y se activaron mecanismos de corrección. Algunas personas pudieron recuperar el acceso a la ayuda tras demostrar fallos en el sistema.
La IA no es solo una herramienta técnica; es un actor que influye en nuestras oportunidades, derechos y decisiones. Saber cuándo está presente, entender cómo funciona y actuar si algo no encaja son pasos fundamentales para una ciudadanía informada y empoderada. No necesitas ser programador ni experto en tecnología. Solo necesitas saber que tienes derecho a preguntar, entender y reclamar. Y que ejercer esos derechos puede cambiar las reglas del juego.