IAconSentido#30: "Si la IA lo aprobó, es correcto": el caso real donde un humano debió decir NO

👋🏼 Hola!

Esta semana, un CEO me compartió una captura de pantalla que todavía me acompaña. Era la evaluación de un chatbot de reclutamiento que su equipo usaba para filtrar currículums.

El sistema había descartado automáticamente a una candidata perfecta para el puesto con una nota interna: "No compatible con el cluster sociodemográfico del equipo actual". Traducción: la IA había decidido filtrar por código postal.

Cuando el CEO confrontó al proveedor, la respuesta fue: "El algoritmo optimiza para retención. Fue una decisión sistémica, no es nada personal contra el candidato".

El equipo no lo reportó antes porque asumieron que "si la IA lo aprobaba, sería correcto". La línea entre eficiencia y abdicación es más fina de lo que creemos. Te explico por qué este caso debería hacerte revisar tus políticas hoy 👉🏻

LA DELEGACIÓN SILENCIOSA DEL CRITERIO

El problema no fue el algoritmo. El problema fue que nadie en el proceso se sintió con la autoridad (o la obligación) de revisar los criterios con los cuáles decide la IA y decir "esto no". Cuando delegamos una decisión con impacto moral a un sistema estadístico, no estamos ganando eficiencia: estamos tercerizando nuestro criterio.

En el método S.E.N.S.E. llamamos a esto "El Síndrome de la Autoridad Algorítmica": la tendencia creciente a aceptar una respuesta de IA como válida simplemente porque es generada por un sistema "objetivo", incluso cuando contradice nuestros valores o sentido común.

Lo contraintuitivo es que esto ocurre más en equipos con alta confianza en la tecnología. Cuanto más creemos que la IA es confiable, menos la cuestionamos. Y cuanto menos la cuestionamos, más normalizamos que decisiones éticamente complejas (como quién merece una oportunidad laboral) sean resueltas por un modelo que no distingue entre correlación y justicia.

El costo real de ignorarlo no es solo reputacional. Es la erosión silenciosa de la confianza: clientes que intuyen un trato injusto, equipos que aprenden a no discrepar, y líderes que descubren demasiado tarde que su "eficiencia operativa" era, en realidad, una máquina de perpetuar sesgos.

TU AYUDA CON EL DIAGNÓSTICO S.E.N.S.E.

Desde el método S.E.N.S.E., esto es lo que observarías esta semana en tu equipo:

• S — Seguridad humana: ¿Qué decisión con impacto en personas (contrataciones, evaluaciones, despidos, asignación de recursos) se está delegando total o parcialmente a un sistema de IA sin supervisión explícita?

• E — Ética aplicada: ¿En qué punto del flujo tu equipo podría estar confundiendo "lo que la IA recomienda" con "lo que es correcto hacer"? ¿Dónde falta un "alto humano" obligatorio?

• N — Neuroergonomía: ¿Qué miembro del equipo está dejando de reportar errores o sesgos por miedo a parecer "resistente al cambio" o "poco técnico"?

• S — Sentido/Sociedad: ¿Quién en tu organización tiene el poder de detener un proceso automatizado cuando detecta un daño? ¿Y cada cuánto se usa ese botón?

• E — Estrategia/Autonomía: ¿Qué parte del criterio humano —experiencia, intuición, contexto relacional— se está perdiendo al optimizar por velocidad?

Marca tu pilar más débil
+ 1 señal que viste esta semana.

TU SIGUIENTE PASO

Para esta tarde o en tu próxima reunión de equipo:

Reúne a tu equipo y pregunta: "¿La última recomendación importante que aceptamos de una IA, benefició a todos los implicados por igual? ¿O hubo alguien a quien perjudicó (qún sutilmente)?"

Busca abrir el debate con todos tus compañeros. El simple acto de nombrar el sesgo como un riesgo posible ya es un cambio de cultura.

👉🏼 ¿Qué descubriste? Cuéntame, te leo.

TU CHECK-LIST DE PUNTOS ÉTICOS CRÍTICOS SENSE #4

¿Listo para pasar a la acción?

El Kit de Liderazgo Consciente te dará una multitud de herramientas para que tu equipo regrese a decidir frente a la IA.

y recuerda, la moraleja de nuestra semana es:
Construyamos sistemas que sirvan a las personas, no al revés.

Con gratitud,