metanoia

¿Quién decide cuando ya nadie decide?

By

xfryan

—

13–20 minutos

To read

El último meme

Alguien encuentra un hongo en el bosque, le saca una foto y le pregunta a una inteligencia artificial si se puede comer. La respuesta llega en un segundo. Es amable, segura, bien redactada. Dice que sí. La persona se lo come.

Nada en ese tipo de respuestas permite saber si es correcta. El tono es el mismo cuando acierta que cuando se equivoca. Y si se equivoca, la conversación siguiente también es conocida: una disculpa cordial, una aclaración, la oferta de aprender más sobre hongos venenosos.

La disculpa no le cuesta nada a quien la da. El error, en este caso de índole mortal, lo paga entero quien preguntó. Su último pago.

Conviene ser justos desde el principio. Estas herramientas aciertan muchísimas veces, ahorran horas y abren puertas que antes estaban cerradas para la mayoría. Y la historia está llena de miedos a la tecnología que envejecieron mal: se temió a la imprenta, al tren, a la electricidad. Quien hoy advierte sobre la inteligencia artificial carga con esa sospecha, y con razón, porque el alarmismo barato abunda.

Pero hay un miedo que no es barato. Tiene más de setenta años, fue formulado con rigor, y lo que está ocurriendo ahora se parece demasiado a lo que describió.

Un miedo viejo, bien formulado

En 1954, el sociólogo francés Jacques Ellul publicó un libro sobre lo que llamó la técnica. Su tesis era incómoda: la técnica deja de ser un medio que usamos y se convierte en un sistema con lógica propia, que se expande porque puede y que obliga a la sociedad a adaptarse a ella, y no al revés. Veintitrés años después, el politólogo estadounidense Langdon Winner retomó la idea y le puso el nombre exacto: tecnología autónoma.

Ninguno de los dos hablaba de robots que se rebelan. Hablaban de algo más silencioso. Cada vez que una tarea pasa a una máquina, la siguiente es más fácil de entregar, y volver atrás es un poco más caro. Nadie decide el conjunto. Cada empresa, cada institución, cada persona toma una decisión razonable en su propio terreno, y la suma de esas decisiones razonables produce un mundo que nadie eligió.

Hay, además, un motor que empuja todo en la misma dirección: la competencia. Quien no delega pierde frente a quien sí lo hace. No necesariamente porque la máquina lo haga mejor, sino porque lo hace más barato y más rápido, y el de al lado ya la está usando.

¿Delegamos porque la máquina sabe, o porque alguien más ya delegó?

Una autonomía que se instala sola

Aquí el miedo viejo se vuelve presente.

Nadie ha declarado que una inteligencia artificial tenga autonomía. No hay ley, ni contrato, ni ceremonia en que alguien diga: a partir de aquí, decide la máquina. Y sin embargo la autonomía avanza, porque no se otorga: se acumula. Una recomendación que se acepta sin revisar. Una lista que se aprueba porque es demasiado larga para leerla. Una firma humana que sigue existiendo, pero que ya no alcanza a pesar lo que firma.

La psicología tiene un nombre para la mitad humana de este fenómeno: sesgo de automatización. Es la tendencia a confiar en exceso en lo que propone un sistema automático. Lo inquietante no es que exista, sino que afecta por igual a novatos y a expertos, y que no se corrige con entrenamiento ni con instrucciones.

La otra mitad está del lado de la máquina. Poder razonar no hace moral a nadie. Un sistema que optimiza un objetivo, sin límites claros y con datos imperfectos, puede producir daño sin ninguna mala intención, porque la intención no forma parte de lo que hace. Hace lo que se le pidió, a la velocidad que se le pidió.

El 28 de febrero de 2026, el primer día de los ataques de Estados Unidos e Israel sobre Irán, un misil impactó una escuela primaria en Minab, en el sur del país, en horario de clases. Murieron decenas de niños. Una investigación interna del propio ejército estadounidense apunta a su responsabilidad, y la hipótesis que más fuerza ha tomado es el uso de datos de objetivos desactualizados: el edificio había formado parte, años antes, de un complejo militar. Para atacar más de mil blancos en las primeras veinticuatro horas, las fuerzas estadounidenses se apoyaron en un sistema de inteligencia artificial que proponía objetivos, entregaba coordenadas y los ordenaba por prioridad.

Hay que ser precisos, porque aquí la imprecisión sería una forma de mentir: no se sabe qué papel exacto jugó la inteligencia artificial en ese ataque específico. Lo que sí se ha dicho es que un humano aprobó, como exigen las reglas. Y lo que cualquiera puede preguntarse es qué significa aprobar, cuando son mil blancos en un día.

No hace falta imaginar un monstruo para entender el peligro. Basta con mirar la firma.

¿Qué decisiones estamos tomando hoy por omisión, que mañana ya no vamos a poder deshacer?

Quien no paga el costo no puede responder

Volvamos al hongo, porque ahí estaba todo.

Un médico que se equivoca carga con ese error. Un juez, un piloto, un oficial también. Pueden perder su profesión, su libertad, su paz. Esa posibilidad de perder es lo que vuelve responsable su decisión: alguien responde por ella con algo propio. La máquina que dijo que sí no pierde nada. Se disculpa y sigue, con el mismo tono.

Por eso, sea cual sea la verdad sobre lo que estas máquinas son por dentro, lo más sano para nosotros es asumir que no sienten. No para degradarlas, sino para que la responsabilidad no se nos escape por la puerta de atrás. Si la máquina no siente, no puede responder. Y si no puede responder, no debería decidir allí donde el error no tiene vuelta.

Esto no es un llamado a desconectarse. Como civilización dependemos de la electricidad, y nadie sensato quiere volver atrás: sin ella se acorta la vida, se pierde la medicina, se pudre la comida. Pero esa dependencia es aceptable por dos razones. La primera: está gobernada. Hay alguien que responde por la red, hay obligaciones, hay reglas. La segunda: la electricidad nos da energía, pero no decide qué hacemos con ella. Depender de un recurso no es lo mismo que depender de quien decide.

Y entonces la propuesta se puede decir sin rodeos.

Estamos en el tramo en que todavía se puede elegir. Cada decisión que delegamos en la inteligencia artificial hace más fácil la siguiente y más cara la vuelta atrás, hasta que elegir deja de ser real. Podemos depender de ella sin entregarle el juicio, si decidimos ahora, como sociedad, quién la gobierna, con qué criterio y qué no le delegamos. Eso se construye paso a paso. Y ya hay sociedades haciéndolo.

Para nosotros, los latinoamericanos, la urgencia es doble. Las reglas de estas herramientas se están escribiendo en salas donde no nos sentamos, y ya conocemos lo que pasa cuando una decisión se toma lejos y por omisión: con los años deja de parecer una decisión y empieza a parecer un destino.

Dos ramas del mismo árbol

El miedo que formuló Ellul tuvo descendencia, y se bifurcó.

Una rama concluyó que, si la técnica es un paquete indivisible donde lo bueno y lo malo vienen juntos, solo quedan dos caminos: aceptarlo todo o derribarlo todo. Esa rama llegó hasta el borde, y en el borde se volvió violencia. No merece aquí más espacio que el de una advertencia: muestra lo que le ocurre a una preocupación legítima cuando ya no admite pasos pequeños.

La otra rama nació, en buena parte, entre nosotros. En enero de 1972, en Cuernavaca, México, un grupo de latinoamericanos, principalmente chilenos, peruanos y mexicanos, se reunió alrededor de Ivan Illich para discutir una hipótesis: que hay herramientas cuyas características técnicas vuelven imposible controlarlas mediante un proceso político. De esos seminarios salió La convivencialidad, publicado en 1973. Su idea central es de una sensatez que desarma: toda herramienta tiene umbrales. Por debajo de ellos sirve a las personas. Por encima, se vuelve contra su propio fin y empieza a servirse de ellas. La respuesta no es destruir la herramienta, sino fijar, como sociedad, dónde están esos umbrales y limitar su poder.

Ni aceptarlo todo, ni derribarlo todo. Decidir el umbral. Y corregirlo cuando la realidad muestre que estaba mal puesto.

¿De verdad hay que elegir entre aceptarlo todo y derribarlo todo, o la pregunta siempre fue dónde poner el límite y quién lo pone?

Una sociedad que le puso precio a la sustitución

Hay sociedades que ya están probando la segunda rama, y conviene mirarlas sin el filtro de siempre.

En una de ellas, a fines de 2025, la autoridad laboral de su capital publicó como caso modelo el de una empresa tecnológica que reemplazó con inteligencia artificial un área completa de recolección de datos y despidió a un trabajador alegando un cambio de circunstancias. El fallo fue claro: incorporar inteligencia artificial es una decisión comercial que la empresa toma para competir, no un terremoto ni una pandemia, y por lo tanto no puede trasladar al trabajador el riesgo de su propia apuesta tecnológica.

Meses después, un tribunal de apelaciones de otra ciudad del mismo país resolvió igual en un caso que parece escrito para este texto: el de un supervisor cuyo trabajo era, precisamente, revisar lo que producían los modelos de inteligencia artificial. Cuando la empresa decidió que una máquina podía hacer esa revisión, le ofreció bajarle el sueldo en un cuarenta por ciento; él no aceptó y lo despidieron. El tribunal declaró ilegal el despido y dejó una indicación: antes de despedir, capacitar, desarrollar habilidades y reubicar.

El gobierno de ese mismo país, al mismo tiempo, empuja la adopción de la inteligencia artificial en todos los sectores. No la frena. Pero en 2026 cuatro de sus ministerios ordenaron construir un sistema para evaluar el impacto de la inteligencia artificial en el empleo y orientar la innovación hacia donde cree más trabajo, no menos.

Fíjate en lo que hace este arreglo. No detiene la máquina. Le mete dentro de la cuenta el costo humano que antes quedaba afuera. Quien decide sustituir a una persona tiene que hacerse cargo de esa persona. Y eso cambia, sin prohibir nada, qué sustituciones convienen.

Es la misma lógica de las empresas que nacen con un diseño que vuelve imposibles ciertas decisiones extractivas, y de los Estados que aprenden sin desorganizarse. La palanca nunca estuvo en la máquina. Estuvo en quién decide y con qué criterio.

Esa sociedad tiene, además, una tierra fértil para esta forma de pensar. En uno de sus textos clásicos, de hace más de dos mil años, un viejo hortelano riega su huerta cargando agua en una vasija. Un viajero le ofrece un aparato que le permitiría regar cien parcelas en un día con poco esfuerzo. El viejo lo rechaza: quien usa máquinas, dice, termina con asuntos de máquina, y quien tiene asuntos de máquina termina con un corazón de máquina.

Pero el texto no se queda ahí. Más adelante, un maestro comenta que el hortelano conoce una cosa y no conoce la otra. Una lectura de ese pasaje, sostenida por estudiosos de esa tradición, ve allí una advertencia: aferrarse a una pureza inmóvil y temerle a todo cambio es también una forma de rigidez.

El miedo, y la crítica de su extremo, en el mismo libro. Hace más de dos milenios.

Lo que queda abierto

Sería deshonesto cerrar como si esto estuviera resuelto.

Las excepciones admirables sobreviven, pero rara vez cambian el rumbo del conjunto. ¿Bastan las organizaciones virtuosas, o hay que cambiar el terreno para todas a la vez?

La carrera entre potencias sigue sin que nadie la gobierne, tampoco esa sociedad que le puso precio a la sustitución. Puede orientar la dirección hacia adentro; no puede elegir el ritmo hacia afuera.

Y queda la pregunta más íntima: proteger el empleo no es lo mismo que proteger el propósito. Una persona puede conservar su trabajo y perder, igual, la posibilidad de decidir algo que importe.

Nada de eso invalida la propuesta. La vuelve un camino, no un destino.

La herramienta no se va a ir.
Y está bien que no se vaya.

Lo único que todavía podemos elegir
es si la vamos a gobernar,
o si la vamos a dejar
decidir por omisión.

¿Quién decide,
cuando ya nadie decide?

¿Y cuánto falta
para que nadie pueda?

Anexo analítico: los hechos, y los nombres

El cuerpo del texto evitó algunos nombres a propósito, para que la pregunta no se disolviera en un debate de banderas. Aquí van, con sus fuentes.

1. La sociedad que le puso precio a la sustitución

Es China. El caso modelo fue publicado por la Oficina de Recursos Humanos y Seguridad Social de Beijing el 26 de diciembre de 2025, entre sus casos arbitrales típicos del año. Una empresa tecnológica pasó a recolección automatizada de datos cartográficos con inteligencia artificial, eliminó el área del trabajador y lo despidió invocando un cambio mayor en las circunstancias objetivas del contrato. El tribunal arbitral resolvió que esas circunstancias deben ser imprevisibles e inevitables (desastres naturales, cambios de ley) y que incorporar tecnología es una decisión comercial controlable; declaró ilegal el despido.

El caso de apelación es del Tribunal Popular Intermedio de Hangzhou, abril de 2026. El trabajador era supervisor de control de calidad de modelos de IA en una empresa de tecnología financiera; la empresa propuso bajar su sueldo de 25.000 a 15.000 yuanes mensuales y, ante su rechazo, lo despidió. Dos instancias declararon ilegal el despido y ordenaron una indemnización de más de 260.000 yuanes. Según la cadena estatal CCTV, citada por el South China Morning Post, un tribunal de Guangzhou había resuelto lo mismo en 2024 en el caso de un diseñador gráfico.

La política: en agosto de 2025 el Consejo de Estado ordenó integrar la IA en todos los sectores (iniciativa “IA+”). En julio de 2026, el Ministerio de Recursos Humanos y Seguridad Social, junto con la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnologías de la Información y la Administración Nacional de Datos, emitieron una opinión de implementación que manda acelerar un sistema de evaluación del impacto de la IA en el empleo y orientar los recursos de innovación hacia las direcciones con mayor potencial de creación de empleo. En enero de 2026 el mismo ministerio había anunciado un documento específico sobre IA y empleo; no se pudo confirmar si ya fue publicado.

2. El hortelano

El texto es el Zhuangzi, capítulo 12 (天地, “Cielo y Tierra”), uno de los clásicos fundacionales del taoísmo. Zigong, discípulo de Confucio, le ofrece a un anciano de Hanyin un cigoñal para sacar agua. El anciano responde: 有机械者必有机事，有机事者必有机心 (“quien tiene máquinas tendrá asuntos de máquina; quien tiene asuntos de máquina tendrá un corazón de máquina”). Más adelante, Confucio comenta que el anciano “conoce lo primero y no conoce lo segundo” (识其一，不识其二). La lectura que ve en ese comentario una crítica a la rigidez del anciano es una interpretación, no la única.

3. La rama que llegó al borde

Tiene nombre: Theodore Kaczynski, a quien la prensa llamó Unabomber. Conviene separar tres cosas. La persona: un hombre que durante casi dos décadas envió bombas por correo y mató e hirió a personas que no conocía. El medio: su manifiesto, La sociedad industrial y su futuro, se publicó en 1995 bajo la amenaza de nuevos atentados; su difusión misma fue producto de la violencia. El pensamiento: un diagnóstico sobre la dependencia tecnológica que tomaba de Ellul. Según su hermano David, Kaczynski consideraba La sociedad tecnológica su biblia. Ellul no propuso ninguna solución; Kaczynski eligió la peor. Este texto toma el diagnóstico de la tradición, no de él, y lo menciona solo como advertencia.

4. Minab

La escuela es la primaria Shajareh Tayyebeh, en Minab, provincia de Hormozgan. Reuters informó que una investigación interna del ejército de EE.UU. apunta a la responsabilidad estadounidense y que el ataque pudo deberse a datos de objetivos desactualizados; el Pentágono dice que el caso está bajo investigación. Las cifras de víctimas varían según la fuente: 150 estudiantes según el embajador de Irán ante la ONU en Ginebra; alrededor de 120 niños en otras coberturas; al menos 175 personas según otra declaración iraní ante la ONU. NBC News y Amnistía Internacional describen la escuela como mixta, por lo que la expresión “escuela de niñas”, muy difundida, puede ser imprecisa. Imágenes satelitales muestran que el edificio fue parte de un complejo de la Guardia Revolucionaria y que quedó separado por un muro entre 2013 y 2016.

El sistema es el Maven Smart System de Palantir, que integra el modelo Claude de Anthropic. Según The Washington Post, durante la planificación propuso cientos de objetivos, entregó coordenadas y los priorizó, y su uso permitió atacar unos mil blancos en las primeras 24 horas. El uso ocurrió horas después de que el gobierno de EE.UU. ordenara dejar de usar las herramientas de Anthropic, tras una disputa en la que la empresa se negó a retirar salvaguardas contra la vigilancia masiva interna y las armas letales completamente autónomas. El director ejecutivo de Anthropic, Dario Amodei, dijo no saber qué papel jugó Claude en el ataque a la escuela, aunque afirmó que se respetó el principio de decisión humana. Más de 40 senadores estadounidenses pidieron al Pentágono investigar el ataque y aclarar si había verificación humana de los objetivos generados por IA.

5. El sesgo de automatización

Raja Parasuraman y Dietrich Manzey, “Complacency and Bias in Human Use of Automation: An Attentional Integration”, Human Factors, 52(3), 2010, pp. 381-410. La revisión concluye que el sesgo de automatización produce errores por omisión y por comisión cuando las ayudas a la decisión son imperfectas, que aparece tanto en novatos como en expertos, y que no se previene con entrenamiento ni con instrucciones.

6. La tradición

Jacques Ellul, La técnica o el desafío del siglo (1954; en inglés, The Technological Society, 1964). Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (1977). Ivan Illich, La convivencialidad (1973; Barral, Barcelona, 1973), nacida de los seminarios del Centro Intercultural de Documentación (CIDOC) de Cuernavaca, el primero en enero de 1972, con participantes principalmente chilenos, peruanos y mexicanos, según el propio prólogo de Illich.

Deje un comentario