- La IA influye ya en empleo, ayudas, sanidad y finanzas; tus derechos son saber, entender y actuar.
- Casos como Veripol, VioGén y la Ley Rider prueban que la presión informada logra cambios.
- RGPD y la ley europea de IA exigen transparencia, explicabilidad y supervisión humana.
- El manual ofrece plantillas y pautas prácticas; es gratuito y de 36 páginas.
Puede que te hayas quedado a cuadros al ver que te negaban una hipoteca o que te rechazaban para un empleo sin explicaciones claras, y quizás ni te imaginaras que detrás había un sistema automatizado evaluándote; en ese panorama, contar con una guía práctica para saber, entender y actuar frente a decisiones algorítmicas marca la diferencia entre resignarse o defender tus derechos.
Este artículo reúne y reescribe con detalle todo lo que aportan las mejores fuentes sobre el llamado “manual de defensa algorítmica”, una obra elaborada por la periodista especializada en tecnología y ciberseguridad Esther Paniagua junto a Prodigioso Volcán, para que dispongas de información útil, ejemplos reales y referencias legales que te permitan pasar a la acción sin necesidad de conocimientos técnicos.
Por qué necesitamos un manual de defensa algorítmica hoy
La inteligencia artificial se ha convertido en un engranaje silencioso que ya interviene en procesos cotidianos: cribados de currículos en recursos humanos, asignación de ayudas públicas, priorización de pruebas o diagnósticos en sanidad y concesión de financiación por parte de bancos y entidades financieras; todo ello sin que la ciudadanía sea siempre consciente de su presencia.
Frente a esa opacidad, el manual diseñado por Prodigioso Volcán y Paniagua aterriza una idea central: existen tres facultades básicas que podemos y debemos ejercer cuando los algoritmos tienen impacto en decisiones relevantes sobre nosotros. Esas facultades son saber, entender y actuar; y no son un lujo, sino un conjunto de derechos respaldados por normativas europeas y nacionales.
Si no utilizas asistentes conversacionales ni herramientas de IA de forma directa, puede que pienses que todo esto no va contigo; sin embargo, la IA ya influye en tu vida aunque no la busques. Empresas, administraciones y otros actores integran sistemas de decisión automatizada en sus flujos de trabajo, con implicaciones potenciales para la igualdad de trato y la no discriminación.
El documento se publica, además, en un contexto de expansión acelerada de la automatización. Esa expansión obliga a pasar del “dejarse llevar” al “preguntar, comprender y exigir explicaciones”, especialmente cuando el resultado te perjudica; no se trata de estar en contra de la IA, sino de garantizar su uso justo, transparente y supervisado.
Los tres derechos clave: saber, entender y actuar
El primero de los derechos es el derecho a saber: poder conocer si en una decisión que afecta a tu vida ha intervenido un sistema automatizado o semiautomatizado. Esa información, que parece obvia, a veces brilla por su ausencia; sin saber que hay un algoritmo de por medio, resulta imposible pedir cuentas o activar filtros de supervisión humana.
El segundo es el derecho a entender, esto es, recibir explicaciones comprensibles sobre el funcionamiento del sistema en lo que te incumbe. No hablamos de revelar secretos industriales, sino de obtener detalles legibles sobre los datos relevantes, la lógica general, los criterios aplicados y las garantías que se han contemplado para evitar sesgos o errores.
El tercero es el derecho a actuar. Si consideras que una decisión es injusta, incorrecta o lesiva, tienes la posibilidad de impugnarla, solicitar revisión humana, aportar información adicional y recurrir por las vías administrativas o judiciales adecuadas. Este derecho conecta con principios como la tutela efectiva y la no discriminación.
El manual aterriza estos tres ejes en pautas concretas: desde cómo redactar solicitudes de información, hasta qué datos pedir para comprender la decisión y qué caminos seguir para reclamar; incluye herramientas prácticas y modelos útiles para que el proceso no se te haga cuesta arriba.
Dónde y cómo te afecta la IA sin que lo notes
Hay áreas donde la influencia de la IA es especialmente intensa. En el empleo, muchas compañías utilizan sistemas para filtrar candidaturas o puntuar perfiles; una mala calibración puede dejar fuera a personas válidas sin posibilidad de réplica. En la banca, ocurre lo propio con el scoring crediticio, que decide si eres “apto” para una hipoteca o un préstamo.
En la administración pública, proliferan herramientas que apoyan la asignación o denegación de ayudas. Si no te explican el porqué de un rechazo, cuesta detectar si hubo un error en los datos, una ponderación injusta o un sesgo que afectó a tu caso. En sanidad, los algoritmos pueden priorizar pruebas o sugerir diagnósticos, con consecuencias muy sensibles si fallan.
Incluso en ámbitos de seguridad y justicia se despliegan modelos que estiman riesgos, como los que evalúan casos de violencia de género. Estas aplicaciones exigen auditorías, transparencia y supervisión humana robusta para prevenir impactos negativos desproporcionados.
Todo ello pone de relieve que “no tocar” herramientas de moda no te aísla del fenómeno: las decisiones automatizadas ya están entre bastidores en gran parte de la vida institucional y económica, y por eso es tan importante aprender a reconocerlas y vigilarlas.
Casos reales y victorias ciudadanas
La guía recopila ejemplos que demuestran que la presión social y la investigación independiente funcionan. Uno de los más citados es la retirada de Veripol, un sistema policial cuestionado por sus problemas y por la falta de transparencia; su retirada evidenció que las herramientas de alto impacto deben someterse a escrutinio antes y durante su uso.
Otro hito es el rediseño de VioGén, el sistema utilizado para estimar el riesgo de reincidencia en casos de violencia de género. Tras una auditoría externa que detectó fallos de funcionamiento y carencias metodológicas, el Ministerio del Interior anunció cambios; este proceso reforzó la idea de que la mejora continua y la revisión independiente no son opcionales.
En el terreno laboral, la llamada Ley Rider marcó un antes y un después en transparencia: obliga a las plataformas a dar información sobre cómo afectan las decisiones automatizadas a sus repartidores. Esta obligación abre la puerta a pedir explicaciones y a exigir correcciones cuando los algoritmos penalizan sin motivo aparente.
Estos precedentes prueban algo esencial: el campo regulatorio y la práctica pueden alinearse con el interés público si hay vigilancia activa, denuncias bien documentadas y alianzas entre ciudadanía, periodismo, academia y organizaciones civiles.
Cómo ejercer tus derechos paso a paso
Cuando sospeches que una decisión relevante ha sido automatizada, el primer movimiento es solicitar confirmación. Pide por escrito si se ha utilizado un sistema de decisión automatizada, qué datos tuyos se han procesado y con qué lógica general; solicita también información sobre las medidas para evitar sesgos y sobre la intervención humana en la decisión final.
Si te facilitan una explicación ininteligible, vuelve a responder indicando que, por ley, la información debe ser comprensible y útil; la explicabilidad no es un tecnicismo, es un requisito para garantizar la rendición de cuentas. Si detectas errores en tus datos, exige su corrección y pide revaluación.
Cuando la resolución te perjudique, activa el derecho a revisión humana. Aporta documentación, cuestiona los criterios aplicados y solicita que te informen de las vías de recurso disponibles; no te conformes con respuestas genéricas o automáticas. Si procede, presenta reclamación ante las autoridades competentes de protección de datos o de consumo.
Finalmente, valora el acompañamiento de organizaciones especializadas o asesoría legal. La defensa algorítmica no es solo individual, y el apoyo experto puede marcar la diferencia en pliegos, informes de impacto, auditorías y procesos administrativos complejos.
- Identificación del uso de IA en la decisión y de los datos tratados.
- Solicitud de explicaciones claras sobre lógica y criterios relevantes.
- Corrección de errores y petición de revisión humana.
- Recurso ante autoridades y acompañamiento por entidades expertas.
El marco legal: transparencia, explicabilidad y control humano
La normativa europea ya ofrece apoyos concretos. El Reglamento General de Protección de Datos (RGPD) reconoce derechos asociados al tratamiento automatizado y a la elaboración de perfiles; en particular, garantiza información significativa sobre la lógica aplicada cuando la decisión te afecta de forma sustancial.
La nueva regulación europea sobre Inteligencia Artificial incorpora exigencias reforzadas de transparencia, gestión de riesgos, trazabilidad, supervisión humana y gobernanza de datos para sistemas de alto impacto. En la práctica, esto significa que las organizaciones deberán documentar, auditar y explicar cómo operan sus modelos cuando inciden en áreas sensibles.
Estos marcos no lo resuelven todo por sí solos, pero constituyen palancas para exigir buena praxis. Si una entidad no puede explicarte de forma razonable por qué su sistema decidió X en tu caso, tiene un problema de cumplimiento, no tú. Y esa brecha se puede traducir en reclamaciones o sanciones.
El manual, en este contexto, actúa como hoja de ruta para “aterrizar” el lenguaje jurídico en acciones concretas. Proporciona pautas para pedir información, interpretar respuestas y detectar incumplimientos, reduciendo la distancia entre la letra de la ley y tu día a día.
Una tarea compartida: ciudadanía, sociedad civil, academia y sector privado
Esther Paniagua insiste en que la carga de la defensa no puede recaer solo en las personas afectadas. Para que la IA funcione al servicio de lo público, hace falta un esfuerzo coordinado: organizaciones de la sociedad civil que acompañen, universidades que auditen y empresas que asuman que la transparencia es una ventaja competitiva, no un freno.
El sector privado tiene incentivos claros para hacerlo bien: la confianza se gana con procesos explicables y con vías de reclamación que funcionan. Y en lo público, la exigencia es aún mayor: cuando hay derechos fundamentales en juego, la supervisión humana y la rendición de cuentas deben ser la norma, no la excepción.
Medios y periodistas de investigación desempeñan un papel clave al sacar a la luz errores, sesgos y malas prácticas. La propia autora de la guía, periodista especializada en ciencia, tecnología y ciberseguridad, ha subrayado en entrevistas que entender, preguntar y corregir son pilares democráticos ante cualquier automatización con impacto social.
En definitiva, crear una “cultura de la explicación” en lo algorítmico exige sumar voces. Las victorias como la retirada de Veripol, el rediseño de VioGén o las obligaciones de la Ley Rider no surgieron de la nada: son el resultado de presión informada y colaboraciones sostenidas.
El manual: formato, descargas y evento de presentación
La guía elaborada por Prodigioso Volcán junto a Esther Paniagua es breve, clara y directa: unas 36 páginas en formato descargable y gratuito, pensadas para ponerse en práctica sin rodeos y con lenguaje accesible. Puedes acceder al documento oficial en este enlace: Descargar el manual en PDF.
Además, se ha anunciado una presentación en directo para desgranarlo punto por punto: el viernes 27 de junio a las 11:00, en un evento en LinkedIn Live, participarán Carmen Torrijos (responsable de IA en Prodigioso Volcán) y la propia Paniagua. Este tipo de espacios sirven para resolver dudas y compartir casos de uso y estrategias de defensa que no siempre caben en un documento escrito.
El manual no solo explica derechos, también aporta herramientas prácticas, plantillas e ideas para dirigirte a empresas y administraciones. De ese modo, transforma la inquietud en acción informada, que es justo lo que necesitamos ante sistemas cada vez más presentes y complejos.
Quienes trabajen en comunicación, legal o cumplimiento normativo encontrarán también pautas útiles. Un sistema es tanto técnico como organizativo: por eso el documento orienta a abrir canales de explicación, incorporar la revisión humana y documentar decisiones de forma consistente.
Lecturas, debates y el ecosistema público
El interés por la vigilancia digital y la tecnología y su impacto social no es nuevo. Voces como Shoshana Zuboff han advertido de los riesgos del llamado “capitalismo de vigilancia”, mientras que pensadores como Evgeny Morozov han señalado cómo ciertas “soluciones tecnológicas” pueden llevar el control al siguiente nivel. El manual dialoga con estos debates, pero los aterriza en acciones concretas que tú puedes emprender.
En espacios editoriales y de opinión, han aparecido selecciones de libros y reportajes que “incomodan a los algoritmos” al desmontar sus pretensiones de neutralidad; ese espíritu crítico encaja con la defensa algorítmica, porque fomenta una ciudadanía activa que pregunta y exige pruebas en lugar de aceptar cajas negras.
Distintos medios han recogido la propuesta de Paniagua con titulares que resaltan la pregunta de fondo: ¿qué tienen en común un empleo denegado, una hipoteca rechazada, una ayuda cancelada o un diagnóstico errado? La respuesta, demasiadas veces, es la intervención de la IA; y por eso urge fortalecer el derecho a entender y a corregir cuando algo falla en el proceso.
También se recuerda que normas como el RGPD y la nueva ley europea de IA ya contienen obligaciones explícitas sobre transparencia, explicabilidad y supervisión humana; no se trata solo de ética, sino de cumplimiento obligatorio, con consecuencias si no se respeta.
El papel de los medios y la conversación pública
La conversación pública mezcla asuntos muy distintos, y eso a veces hace que temas cruciales pasen de puntillas. En el mismo ecosistema mediático en el que aparecen noticias culturales como el regreso del grupo En Tol Sarmiento, con su canción “Eta orain zer?” y la visita de su vocalista Iñigo Etxezarreta a ‘Hoy por Hoy Bilbao-Bizkaia’ (12/11/2025, 21:27), conviven debates sobre IA que afectan a derechos fundamentales.
Hacer sitio en la agenda para hablar de automatización y derechos no significa restar valor a la cultura o al entretenimiento, sino reconocer que las decisiones algorítmicas ya condicionan oportunidades vitales y merecen ser explicadas con el mismo cuidado que otros temas de interés general.
Redacciones y equipos de investigación juegan aquí un rol insustituible. El trabajo periodístico que destapa sesgos, documenta fallos y contrasta versiones empuja a instituciones y empresas a mejorar. La propia Paniagua encarna ese puente entre divulgación, escrutinio y propuesta de soluciones.
Que existan botones para compartir, ciclos de entrevistas y debates en directo ayuda a ampliar el alcance de estas discusiones; lo importante es que, al viralizarse, no se pierda el matiz: saber, entender y actuar son los ejes que convierten la preocupación en capacidad real de incidencia.
Recomendaciones prácticas para tu día a día
Antes de aceptar un “no” por respuesta, pregunta si hubo automatización. Si te confirman que sí, solicita explicaciones comprensibles sobre la lógica seguida, los datos usados y las medidas de control. Guarda por escrito las comunicaciones y plazos; eso te permitirá escalar la reclamación si fuera necesario.
Si te encuentras con un muro, busca apoyo en organizaciones de consumidores, entidades de derechos digitales o clínicas jurídicas universitarias. Muchas veces disponen de guías, modelos y acompañamiento; no es una lucha que debas librar en solitario y está bien apoyarse en quienes ya recorrieron ese camino.
En el ámbito laboral, pide información sobre cómo te puntúan los sistemas internos y qué puedes hacer para corregir errores. En banca, solicita la re-evaluación manual si detectas datos incompletos o un perfil mal caracterizado; el derecho a revisión humana es una salvaguarda clave cuando la automatización se equivoca.
Y en servicios públicos, recuerda que las administraciones están obligadas a la transparencia. Pedir acceso a criterios, registros de decisiones y evaluaciones de impacto ayuda a detectar fallos; si algo no se puede explicar, probablemente no se está haciendo bien en términos legales y de buenas prácticas.
Para cerrar el círculo, quienes diseñan, compran o supervisan sistemas de IA deberían incorporar desde el minuto uno prácticas responsables: documentación viva, auditorías independientes, pruebas contra sesgos, participación de grupos afectados y canales de reclamación accesibles. Prevenir siempre será mejor que corregir tarde.
Entre las herramientas que aporta el manual destacan plantillas para solicitar información, checklists para interpretar respuestas y pautas para preparar recursos; son materiales pensados para uso ciudadano y también para equipos internos que quieran mejorar sus procesos.
Lo que propone esta obra es un cambio de actitud: pasar del asombro o la resignación a la exigencia serena de cuentas, con base legal y con pruebas. Hay ejemplos de victorias que lo avalan, hay marcos normativos que lo sostienen y hay comunidades dispuestas a empujar en la buena dirección. Conocer tus derechos es el primer paso para que los algoritmos trabajen para ti, y no al revés.
