Hoy hay una persona en casi todos los circuitos, no para hacer el trabajo sino para sostener la confianza: quién actúa, qué está permitido, si el trabajo se hace bien, qué pasó y quién responde. Pon a una persona junto a una máquina dentro de una red de confianza, y la persona solo es más fuerte en uno de los cinco: la responsabilidad. Ahí es donde se quedan las personas, y donde su valor se multiplica.
Parte de cómo son las personas y compáralas con una máquina dentro de una red de confianza, pilar a pilar.
Difícil de verificar a distancia: las voces y las caras se pueden falsificar. Una máquina lleva una identidad criptográfica.
Se la puede engañar o presionar para que vaya más allá de su mandato. A una máquina aislada en un sandbox, no.
Imprevisible, irregular, cansada, lenta en el trabajo rutinario. Pero ante lo desconocido, donde aún no hay reglas, la persona sigue por delante.
Olvidadiza: la memoria se borra y se reconstruye, de buena fe pero mal. Un registro firmado, no. “La responsabilidad sigue a los registros.”
Aquí la persona es el eslabón fuerte. Una persona puede responder ante un juez y ante su conciencia; para las máquinas, la responsabilidad aún no está resuelta.
Las posiciones son nuestra valoración, para debatir. Cada pilar se construye con tecnología, procesos, regulación, economía y personas; ver qué tiene que cambiar.
Mira los cinco pilares en una sola entrega → qué hace de verdad la persona en una entrega
No es cargar el paquete. Responde a cinco preguntas a las que toda red de confianza tiene que responder. Son los cinco pilares de la confianza. Aquí está cada uno, hoy y mañana.
HoyUn repartidor de uniforme, de una empresa que conoces.
MañanaUn robot con identidad verificada, conocido por la red igual que una tarjeta lo es por una red de pagos.
Ya existeLas redes de tarjetas ya dan identidad a los agentes de IA.
HoyTú abres la puerta, o no.
MañanaPermiso para una puerta, una franja horaria y una tarea. Caduca al terminar el trabajo.
Ya existeEl “mínimo privilegio” para agentes ya es práctica estándar.
HoyLa experiencia del repartidor: la dirección, las escaleras, la caja frágil.
MañanaUn robot certificado para la tarea: escaleras, puertas, la nevera. Las casas están hechas para cuerpos humanos, por eso encajan los humanoides.
Ya existeLos humanoides ya mueven más de 100.000 cajas en un almacén.
HoyUn garabato en una pantalla, una foto del felpudo.
MañanaCada paso firmado y registrado, y la prueba enviada a tu móvil.
Ya existe“La responsabilidad sigue a los registros.”
HoyResponde la empresa de mensajería. Reclamas y te devuelven el dinero.
MañanaLa red decide quién paga, y el seguro se calcula sobre el registro.
Aún faltaLa responsabilidad por el trabajo de las máquinas no está resuelta.
El coste es una razón por la que la persona sale del circuito. Hay otras cuatro → cuatro razones por las que se abre el circuito
Demasiado peligroso, demasiado que asimilar, demasiado imprevisible, demasiado difícil de verificar. Cada una es un límite de la persona, y cada una ya está sacando a personas del circuito en algún lugar. Pulsa una razón para ver dónde.
Donde un error cuesta una vida, lo primero es apartar a la persona del peligro.
La mayoríade las bajas en el frente de la guerra de Ucrania las causan hoy los drones
El campo de batalla, el desminado, la minería, las centrales nucleares y las catástrofesMás señales de las que una persona puede leer, en menos tiempo del que necesita para decidir.
275 alarmasen 11 minutos, para dos operadores de refinería, antes de la explosión de Milford Haven en 1994
Tráfico aéreo, salas de control, redes eléctricas, mercados, código, MarteLas máquinas que comparten un plan pueden trabajar a centímetros. Una persona que nadie puede prever obliga a ampliar cada hueco.
1 conductoral que la red no puede prever fija la distancia de seguridad de todas las máquinas a su alrededor
Carreteras, puertos, almacenesLa palabra, la memoria y la cara de una persona ya no prueban qué pasó, ni quién habla.
$25mpagados en 2024 tras una videollamada en la que todas las demás caras eran deepfakes
Contratos y reclamaciones, identidad, reparación de coches, prueba de ingresos, inspección y auditoríaAquí la persona no es el eslabón débil: es lo más valioso del circuito. Por eso sale de él: primero a un mando a distancia y después, cuando falla el propio enlace de radio, fuera del circuito por completo. La guerra de Ucrania muestra los dos pasos, y por qué aquí es también donde más importa la responsabilidad.
Un cuerpo que puede ser herido, y un enlace remoto que se puede interferir.
La decisión de usar la fuerza, y la responsabilidad por ella. Cuanto más autónoma es la máquina, más clara debe ser la respuesta humana.
HoyLos drones causan hoy la mayoría de las bajas en el frente. Ucrania convirtió los sistemas no tripulados en una rama propia de sus fuerzas armadas en 2024, y vehículos terrestres robóticos llevan suministros y evacúan heridos.
Non-HITLLas interferencias cortan el enlace entre piloto y dron, así que los drones pasan a la fibra óptica y luego al guiado autónomo en la aproximación final. Quien corta el circuito es el enemigo, no el diseñador.
Lo que debe seguir siendo humano: Responsabilidad, por cada decisión de atacar.
HoyLos camiones de acarreo sin conductor funcionan en minas de hierro australianas desde hace más de una década, controlados desde centros de operaciones lejos de la mina.
Non-HITLExplotaciones enteras funcionan sin nadie en la mina. El operador trabaja desde una ciudad.
Ya non-HITL
Una persona lee unas pocas señales a la vez y necesita segundos, a menudo minutos, para decidir. Las salas de control producen hoy miles de señales, y algunos fallos se desencadenan en segundos. A partir de cierto volumen y velocidad, la persona en el circuito o está desbordada o solo finge que revisa.
La atención decae a lo largo del turno. Bajo presión, las personas se fijan en una señal y pierden el resto.
Fijar los límites dentro de los que trabajan las máquinas, y asumir los casos que ninguna regla cubre.
Una persona necesita de decenas de segundos a minutos para entender una situación y decidir. Los mercados se mueven en microsegundos, la protección de la red en milisegundos, una avalancha de alarmas en segundos. Donde los hechos van más rápido, la persona en el circuito solo puede mirar.
Pilar humano más débil: Competencia, porque una persona decide en minutos, no en milisegundos.
HoyLos operadores de refinerías y plantas vigilan pantallas de alarmas. Antes de la explosión de Milford Haven en 1994, dos operadores recibieron 275 alarmas en 11 minutos.
Non-HITLEl sistema absorbe la avalancha y actúa dentro de unos límites; al operador se le dice qué importa y por qué.
Pilar humano más débil: Competencia, porque la saturación esconde la única alarma que importa.
HoyEl 28 de abril de 2025 la red ibérica pasó de la normalidad al apagón en segundos. Solo las protecciones automáticas actúan a esa velocidad.
Non-HITLUna red de solar, eólica y baterías la equilibran las máquinas cada segundo. Las personas fijan los márgenes y planifican el sistema.
Pilar humano más débil: Competencia, porque una persona decide en minutos, no en milisegundos.
HoyLos ingenieros pulsan “aprobar” en más trabajo de IA del que pueden revisar. A partir de cierto volumen, aprobar ya no es revisar: es confiar en que salga bien. Y cuanto más se apoyan en la IA, más se debilitan las capacidades que necesitan para supervisarla.
Non-HITLLa verificación sustituye a la revisión: la máquina demuestra su propio trabajo con pruebas y registros. Las personas solo miran lo que es difícil de revertir.
Pilar humano más débil: Autoridad, porque una persona no puede juzgar a velocidad de máquina.
Una red que coordina miles de máquinas no puede planificar alrededor de alguien a quien no puede prever. No porque las personas lo hagan mal, sino porque lo hacen distinto cada vez. Por eso las máquinas reciben primero su propio espacio: carriles, zonas portuarias, naves de almacén.
Varía con el ánimo, el cansancio y la costumbre, y no puede compartir un plan en tiempo real.
Los espacios mixtos y abiertos, y las excepciones: la carretera cortada, la carga extraña, el niño en la calle.
No porque las personas conduzcan mal. Una red que coordina miles de máquinas no puede planificar alrededor de alguien a quien no puede prever. Primero, puertos, corredores logísticos y carriles nocturnos.
Pilar humano más débil: Competencia, porque una persona es imprevisible.
HoyLas terminales de contenedores automatizadas de Róterdam y Shanghái ya dirigen grúas y vehículos desde el software.
Non-HITLZonas portuarias enteras se cierran a las personas mientras trabajan las máquinas, y solo se abren para inspección.
Pilar humano más débil: Competencia, porque una persona no puede compartir el plan.
HoyLos humanoides ya mueven más de 100.000 cajas en un almacén, y las zonas de robots se vallan para proteger a las personas.
Non-HITLSin luces, sin personas. Mantenimiento con cita previa.
Pilar humano más débil: Competencia, porque una persona es imprevisible.
La confianza descansaba en una persona: una firma, un testimonio, una cara en una llamada, la palabra de un profesional de que el trabajo está bien hecho. La IA generativa abarata la falsificación de las tres primeras, la memoria nunca fue fiable y la pericia casi siempre se afirma sin probarse. El registro firmado de una máquina pasa a ser la mejor prueba.
Olvida, reconstruye recuerdos de buena fe pero mal, y se la puede suplantar.
Juzgar disputas e intenciones: qué significa el registro, no solo qué dice.
HoyEn 2024 un empleado de finanzas en Hong Kong pagó unos 25 millones de dólares tras una videollamada en la que todos los demás participantes eran deepfakes.
Non-HITLEl dinero se mueve con una identidad criptográfica, no con una cara conocida. Los agentes se verifican entre sí antes de actuar.
Pilar humano más débil: Identidad, porque caras y voces se pueden falsificar.
HoyLa gente tiene un gran apego a su coche y, sin embargo, lo deja en manos de un mecánico por pura confianza. Pocos mecánicos pueden demostrar la pericia que dicen tener, y el dueño no ve lo que se hizo. La factura describe el trabajo; nada lo demuestra.
Non-HITLEl coche se diagnostica solo y la reparación queda registrada paso a paso: la avería, el procedimiento, cada par de apriete y cada pieza, la prueba final. La competencia se demuestra en cada trabajo, no se afirma. Muchas averías ya se corrigen a distancia, sin pasar por el taller.
Pilar humano más débil: Competencia, porque la pericia de un mecánico se afirma, no se demuestra.
HoyPara alquilar un piso, pedir un préstamo o solicitar una ayuda, las personas prueban sus ingresos una y otra vez, con una nómina en PDF que cada oficina revisa a ojo. La IA ya falsifica una en segundos, así que cada ventanilla se convierte en un control antifraude.
Non-HITLLa prueba sale del origen, no de la persona: el sistema de nóminas firma los ingresos una vez y tú los compartes, con tu consentimiento, allí donde lo solicites. Probado una vez, aceptado en todas partes, y una copia falsificada no prueba nada.
Pilar humano más débil: Prueba, porque un documento que lleva una persona se puede falsificar.
Donde la persona sigue siendo el eslabón más fuerte, crece el potencial humano → dónde gana la persona
Cuando las máquinas asumen la confianza rutinaria, lo escaso es lo que solo hacen las personas. Los sectores que viven de ello son los que más ganan: cada persona se ve amplificada por las máquinas que la rodean.
Las máquinas llevan el diagnóstico y la logística; los clínicos dedican su tiempo al criterio y al paciente.
Un investigador dirige miles de experimentos automatizados.
Los tutores de IA hacen la práctica repetitiva; profesores y coaches aportan motivación y criterio.
Generar es gratis; el valor está en elegir lo que es bueno.
Los agentes preparan y ejecutan; las personas marcan el rumbo y cierran el acuerdo.
Cuando casi todo lo fabrican y sirven máquinas, “hecho por una persona” vale más.