COMO LOS ORDENADORES NOS ESTÁN PREPARANDO PARA EL DESASTRE (II)

autos-mal-estacionados-FAIL6

Un ciudadano británico, Mr. Holmes, recibió en los días previos a la Navidad un regalo no deseado: una multa de aparcamiento. La primera noticia sobre la sanción fue una carta del Ayuntamiento en su buzón.  Según la misiva, después de las 18:05 del 15 de diciembre, su coche había bloqueado una parada de autobús en una ciudad británica y había sido fotografiado por una cámara montada en un vehículo de control de tráfico. Un ordenador había identificado (¿?) el número de matrícula, buscó en una base de datos y encontró la dirección del Sr. Holmes. Se generó un «paquete de pruebas» automáticamente, incluyendo el vídeo de la escena con los datos de fecha, hora y lugar.

La carta del ayuntamiento de la ciudad exigiendo al Sr. Holmes que pagara la multa o se enfrentaría a una acción judicial estaba compuesta, impresa y enviada por correo por un proceso totalmente informatizado. Sólo había un fallo: Holmes no había estacionado ilegalmente en absoluto porque estaba atrapado en un atasco de tráfico.

En principio, esta tecnología no debería ser víctima de la paradoja de la automatización. Está creada, supuestamente, para ayudar a los humanos a hacer el trabajo más eficiente, interesante y variado. Como, por ejemplo, la comprobación de los casos anómalos tales como la queja de Holmes, que debería ser investigada para conocer la causa y no repetir el fallo. Y no actuar de forma rutinaria, buscando otra placa de matrícula parecida y emitiendo una nueva sanción, probablemente errónea de nuevo.

Pero la tendencia a asumir que la tecnología sabe lo que está haciendo se aplica tanto a los pilotos como a la burocracia. Como es habitual, el Ayuntamiento de la ciudad desestimó inicialmente la denuncia de Holmes, admitiendo su error sólo cuando los amenazó con una demanda judicial con la aportación de las pruebas pertinentes que probaban el error, apoyada por los datos almacenados en su GPS.

La situación más extraña que pueda suceder consigue, al igual que el fly-by-wire, que seamos incapaces para entenderla y solucionarla. Suponemos que el ordenador siempre tiene razón, y cuando alguien dice que ha cometido un error, le acusamos de estar equivocado o mentir. ¿Qué pasa cuando los guardias de seguridad privados te expulsan de un centro comercial debido a que una computadora de reconocimiento facial ha confundido su cara con la de un ladrón conocido? (Tecnología que actualmente está siendo modificada para señalar a los comerciantes la presencia de ciertos clientes aptos para ofertas especiales en el momento que entran en el centro). Y cuando su cara, o su nombre, están por error en una lista de delincuentes, ¿es fácil lograr que se quite de la misma? En absoluto,  es un proceso engorroso y difícil, casi kafkiano.

Estamos en la actualidad en más listas que nunca, y las computadoras se han convertido en archivadores atestados de datos, bancos de datos de información disponible de forma instantánea. Cada vez más, los ordenadores gestionan esas bases de datos, sin necesidad de que los seres humanos se involucren ni siquiera para comprender lo que está sucediendo. Y las computadoras no son responsables de sus actos: el algoritmo que valora y clasifica a los profesores, las escuelas, a los conductores de Uber o los taxistas y los establecimientos de todo tipo en las búsquedas de Google o Tryp Advisor, es confidencial. Sean cualesquiera los errores o ideas preconcebidas contenidas en el algoritmo, sobre los que han sido programados, están a salvo de escrutinios: los errores y prejuicios serán difíciles de cuestionar.

A pesar del poder y la utilidad de los datos, todavía no hemos reconocido las imperfecciones con las que una base de datos trata de ordenar y estructurar un mundo, por naturaleza, desordenado. No queremos asumir  que un equipo que es cien veces más preciso que un ser humano, y un millón de veces más rápido, puede cometer, al menos, 10.000 veces más errores. Esto no quiere decir que debemos condenar a muerte las bases de datos y los algoritmos. Por supuesto que hay aplicaciones legítimas para investigar a  presuntos delincuentes o para ordenar y mantener el tráfico fluido de forma computarizada.  Pero la base de datos y el algoritmo, como el piloto automático, deben estar presentes para apoyar la correcta toma de decisiones humana, no para sustituirla. Si confiamos por completo en los ordenadores, la catástrofe nos espera.

autoconducido_

Gary Klein, un psicólogo especializado en el estudio de la toma de decisiones por expertos, o de forma intuitiva, resume así el problema: «Cuando los algoritmos toman las decisiones, las personas dejan a menudo de tratar de mejorar. Al tiempo, los algoritmos hacen que sea más difícil diagnosticar las causas del fracaso. A medida que las personas se vuelven más dependientes de algoritmos, su capacidad de enjuiciar situaciones se puede reducir, haciéndolas cada vez más dependientes de los algoritmos. Ese proceso crea un círculo vicioso. La gente se hace más pasiva y menos atenta cuando son los algoritmos quienes toman las decisiones».

Expertos en decisiones tales como Klein se quejan de que muchos ingenieros de software empeoran deliberadamente el problema diseñando sistemas para suplantar deliberadamente la experiencia humana como única alternativa; si deseamos utilizarlos para apoyar la experiencia humana, tenemos que luchar con el sistema. Dispositivos GPS, por ejemplo, podrían proporcionar todo tipo de apoyo a las decisiones, permitiendo a un conductor humano explorar opciones, ver mapas y alterar una ruta. Sin embargo, estas funciones tienden a estar escondidas en lo más profundo de la aplicación. Se esfuerzan en llevarnos a pulsar el botón de “empezar la navegación” y confiar en el equipo para hacer el resto. Creo que todos hemos sufrido alguna vez la experiencia que nos ha llevado a situaciones incómodas y, a veces, peligrosas.

Es posible resistir el canto de sirena de los algoritmos. Rebecca Pliske, psicóloga, encontró que los meteorólogos veteranos hacían las previsiones meteorológicas, analizando primero los datos y a partir de ellos aplicando su juicio de expertos; sólo entonces miraban el pronóstico del ordenador para comprobar si el equipo había visto algo que ellos hubieran pasado por alto. (Por lo general, la respuesta era negativa). Al hacer su pronóstico inicial por los sistemas tradicionales primero, estos veteranos mantuvieron intactas sus habilidades, a diferencia de los pilotos del Airbus 330. Sin embargo, la generación más joven de los meteorólogos tiende más a confiar en los ordenadores. Una vez que los veteranos se retiren, la experiencia humana que puede intuir si el ordenador se ha equivocado o tiene un problema de funcionamiento, podría perderse.

Muchos de nosotros hemos experimentado problemas con nuestros GPS, y hemos intuido el problema del piloto automático. Ponga las dos ideas juntas y se obtiene el automóvil auto conducido. Chris Urmson, que dirige el programa de vehículos de auto-conducción de Google, espera que los coches estarán pronto disponibles. Por tanto, nuestros hijos no necesitaran una licencia de conducir. Hay una implicación reveladora del objetivo que se persigue: que, a diferencia del piloto automático de un avión, un automóvil de auto-conducción nunca necesitará ceder el control a un ser humano.

Raj Rajkumar, un experto en auto-conducción en la Universidad Carnegie Mellon, piensa en vehículos totalmente autónomos en un horizonte de 10 a 20 años. Hasta entonces, podemos mirar hacia un proceso gradual de dejar que el auto se auto conduzca en condiciones fáciles, y los humanos tomaran el control en momentos más difíciles.

«El número de escenarios que son automatizables aumentará con el tiempo, y un buen día, el vehículo será capaz de controlarse a sí mismo por completo, pero ese último paso será un paso menor, y apenas nos daremos cuenta de que haya sucedido realmente».  Incluso entonces, dice, «Siempre habrá algunos casos extremos donde las cosas irán más allá del control de cualquier sujeto»

Si esto no le parece un mal augurio, tal vez debería parecerle. A primera vista, parece razonable que el coche ceda el control al conductor humano cuando las cosas son difíciles. Esto, sin embargo, plantea dos problemas inmediatos. Si esperamos que sea el coche el que valore cuándo hay que ceder el control, estamos esperando que sea el auto el que conozca los límites de su propia competencia para entender cuando es capaz y cuando no lo es. Eso es una cosa difícil de pedir incluso de un ser humano, y mucho menos a un ordenador.

autos en calle atascada

ENTORNO PERFECTO PARA PROBAR UN VEHICULO AUTO CONDUCIDO

Además, si se espera que el humano se haga cargo en ese momento del control, ¿cómo sabrá el ser humano como reaccionar de manera adecuada? Dado lo que sabemos acerca de la dificultad que los pilotos altamente entrenados pueden tener para determinar y manejar una situación inusual cuando el piloto automático se desconecta, tenemos que ser escépticos sobre la capacidad de los seres humanos para detectar cuando el equipo está a punto de cometer un error.

«Los seres humanos no se utilizan para la conducción de vehículos automatizados, así que realmente no sabemos cómo los conductores van a reaccionar cuando la conducción es asumida por el coche», dice Anuj K. Pradhan, de la Universidad de Michigan. Parece probable que pasaremos el tiempo jugando un juego de ordenador o manteniendo un chat en un video teléfono, en lugar de vigilar como halcones la forma en que el equipo está conduciendo. Tal vez no lo hagamos en nuestro primer viaje en un coche autónomo, pero sin duda si lo haremos en cuanto tomemos confianza.

Y cuando el equipo le ceda el control al conductor, bien puede hacerlo en las situaciones más extremas y desafiantes. Los tres pilotos de Air France tenían dos o tres minutos para decidir qué hacer cuando su piloto automático les pidió que tomaran el control del A330.  ¿Qué posibilidades tendremos Vd. o yo cuando el ordenador en el coche nos diga, «Modo automático desactivado» y veamos en la pantalla de nuestro ordenador un bus a toda velocidad hacia nosotros?

Anuj Pradhan ha planteado la idea de que los seres humanos deberán adquirir varios años de experiencia en conducción manual antes de que se les permita conducir un coche autónomo. Pero ni así parece fácil resolver el problema. Porque, no importa cuántos años de experiencia tenga un conductor, sus habilidades se erosionarán lentamente si permite que habitualmente sea el equipo quien se haga cargo. La propuesta de Pradhan nos da lo peor de ambos mundos: dejamos a los conductores adolescentes conduciendo coches manuales, cuando son más propensos a tener accidentes. Incluso cuando han adquirido experiencia en la carretera, no pasará mucho tiempo, si maneja un coche autónomo generalmente fiable, antes de que sus habilidades comiencen a desvanecerse. Precisamente debido a que los dispositivos digitales detectan los pequeños errores que crean las condiciones para los grandes. Privados de cualquier sistema de memorización y procesamiento de situaciones anormales que nos permitiría mantener nuestras habilidades, cuando llega una complicación, nos encontraremos, lamentablemente sin preparación para reaccionar.

Algunos pilotos de alto nivel instan a los más jóvenes para apagar los pilotos automáticos de vez en cuando, con el fin de mantener sus habilidades. Eso suena como un buen consejo. Pero si los pilotos jóvenes sólo desconectan el piloto automático cuando las condiciones son absolutamente seguras, no están practicando sus habilidades para una situación difícil. Y, si desconectan el piloto automático en una situación difícil para practicar, pueden provocar el accidente que a través de su práctica intentan evitar.

Una solución alternativa es invertir el papel del ordenador y el ser humano. En lugar de dejar que el equipo vuele el avión y el ser humano asuma el control cuando el equipo no puede hacerle frente, tal vez sería mejor tener al humano pilotando con la computadora monitorizando el vuelo y dispuesta a actuar en caso necesario. Los ordenadores, después de todo, son incansables, pacientes y no necesitan la práctica. ¿Por qué, entonces, dedicamos a las personas para vigilar las máquinas y no al revés?

Cuando se encarga a los seres humanos vigilar los ordenadores, por ejemplo, en la operación de aviones no tripulados, los propios ordenadores deben ser programados para permitir ligeros desvíos ocasionales. Aún mejor podría ser un sistema automatizado que exigiera más órdenes y más a menudo del humano, incluso cuando no fueran estrictamente necesarias. Si ocasionalmente se necesita repentinamente la habilidad humana para navegar en una situación sumamente complicada, puede tener sentido crear artificialmente pequeños problemas, sólo para mantener a las personas en estado de alerta.

Hasta aquí, de momento, un vistazo a la situación actual de invasión y predominio de los ordenadores. Son, o deberían ser, sin duda una herramienta útil para el desarrollo humano y sin los cuales no se habrían alcanzado grandes metas, como la exploración del espacio y muchos otros, pero que no deben de sustituir TOTALMENTE al individuo. Estoy seguro de que volveré al tema.

Me llamó la atención recientemente un titular de prensa que me llevó a entrar a fondo en el artículo: “Si quiere que sus nietos desarrollen plenamente su inteligencia, regale un instrumento musical y que aprenda a utilizarlo”. Ante ese provocativo enunciado entré a fondo en el cuerpo del artículo. En él se comentaba que cada día más, las personas de cierta edad, nos vemos sorprendidos por la soltura con que niños de corta edad manejan teléfonos, tabletas y otros artilugios electrónicos y comentamos orgullosos que son muy inteligentes. Pero lo que se exponía era el resultado de un estudio de un prestigioso centro de Boston que había evaluado a miles de niños y adolescentes llegando a determinar que lo que los sujetos objeto de estudio habían aprendido eran unas rutinas de manejo, sin tener la más mínima idea de los procesos que les hacían llegar a los resultados. Comparaba el proceso, casi mecánico, con el manejo de un instrumento musical que requiere en primer lugar el aprendizaje de conocimientos musicales y solfeo; en segundo lugar, el manejo del propio instrumento que requiere una coordinación, de ambas manos ejecutando movimientos distintos y, por último, combinar simultáneamente todo los conocimientos y habilidades para interpretar una melodía. Cualquier instrumento: piano, guitarra, violín, cualquier instrumento de cuerda o de viento, requiere de todas esas habilidades combinadas y un esfuerzo mental notable…

¿Cuál de las dos actividades expuestas piensan que desarrolla más la capacidad cognitiva y mental, la coordinación de los sentidos y habilidades para tocar un instrumento, o apretar los botones de un teléfono, Tablet u ordenador de forma rutinaria?

Que cada uno se responda según su apreciación personal…

auto crash

FUENTES DOCUMENTALES.-

# “The Guardian Long Reads”. Publicación digital semanal.

# Wikipedia acerca de los avances en vehículos auto conducidos e imágenes.

COMO LOS ORDENADORES NOS ESTÁN PREPARANDO PARA EL DESASTRE (I)

EL VUELO 447 DE AIR FRANCE

¿Recuerdan la misteriosa desaparición de este vuelo que partió de Rio de Janeiro con destino Paris y nunca llegó a su destino? Despegó del aeropuerto Galeao el 31 de mayo de 2009 a las 19:29 hora local (22:29 UTC) y su último contacto por radio con la aeronave fue a las 01:35 UTC,. Como siempre sucede, tras unos días en portada de toda la prensa del mundo, otras noticias se impusieron y poco a poco la opinión pública olvidó la tragedia. Pero las investigaciones continuaron. El 6 de junio, las autoridades brasileñas confirmaron el hallazgo de 2 cadáveres y una maleta pertenecientes al vuelo 447. Los registradores de vuelo  (las cajas negras, que realmente son de fuerte color rojo o naranja), fueron encontradas, una, la que registra los datos del vuelo, el 27 de abril de 2011 sin la unidad de memoria, que posteriormente fue hallada en buenas condiciones, a 4000 metros de profundidad, el sábado 1 de mayo, por lo que se esperaba tener finalmente más información al respecto de las causas del accidente. Días más tarde, el 3 de mayo, fue encontrada la segunda caja negra, que contiene las voces de cabina.

Es muy interesante la lectura de este artículo que formara parte de un relato más extenso acerca de los peligros de confiar ciegamente en los medios electrónicos para multitud de actividades humanas.

AIRBUS 2

AIRBUS A 330-300

Cuando un soñoliento Marc Dubois entró en la cabina de su avión, se encontró con una escena de confusión. El avión se sacudía con tanta fuerza que era difícil leer los instrumentos. Una alarma fue alternando entre chirridos  y pitidos y una voz automática repetía: “STALL, STALL, STALL” (pérdida de sustentación). Sus copilotos Juniors estaban en los controles. En un tono tranquilo, el capitán Dubois preguntó: «¿Qué está pasando?»

La respuesta del copiloto David Robert era menos tranquila. «¡Hemos perdido por completo el control del avión, y no entendemos nada! ¡Hemos probado de todo!» La tripulación estaba, de hecho, controlando el avión. Una simple maniobra  podría haber terminado con la crisis a que se enfrentaban, pero no la habían intentado. David Robert tenía razón en una cosa: que no entendía lo que estaba pasando.

Como William Langewiesche, un escritor y piloto profesional, describe en un artículo para la revista Vanity Fair en octubre de 2014, el vuelo 447 de  Air France había comenzado bastante bien. Un despegue  a su hora, las 19:29 del 31 de mayo de 2009, en dirección a Paris. De forma retrospectiva los tres pilotos tenían  vulnerabilidades. Pierre-Cédric Bonin, de 32 años, era joven y sin experiencia. David Robert, de 37 años, tenía más experiencia, pero recientemente se había convertido en directivo de Air France y ya no volaba a tiempo completo. El capitán Marc Dubois, de 58 años, tenía experiencia en abundancia, pero había estado de gira por Río con un asistente de vuelo fuera de servicio. Más tarde se informó que sólo había tenido una hora de sueño.

Afortunadamente, pese a estos datos negativos, la tripulación estaba a cargo de uno de los aviones más avanzados en el mundo, un legendario Airbus 330, suave y fácil de volar. Al igual que cualquier otro avión moderno, el A330 tiene un piloto automático para mantener el avión volando en una ruta programada, pero también tiene un sistema de automatización mucho más sofisticado llamado fly-by-wire (literalmente volar por cable). En un avión tradicional el piloto tiene el control directo de los flaps, -el timón de cola y los alerones-. Esto significa que tiene suficiente margen para cometer errores. Fly-by-wire es más suave y, teóricamente, más seguro. Es un seguro entre el piloto, con todos sus defectos y limitaciones  y la compleja mecánica del avión. Es en definitiva un cuidadoso traductor de órdenes entre el humano y la máquina, que analiza los movimientos de los controles del piloto, deduce cómo quiere el piloto que el avión se mueva y ejecuta esa maniobra perfectamente.  Cambia un movimiento falto de fluidez en uno suave y elegante.

Esto hace que sea muy difícil estrellar un A330, un avión que tiene un excelente historial de seguridad: no se han producido accidentes en operaciones comerciales en los 15 años desde que se introdujo en 1994. Sin embargo, paradójicamente, existe un riesgo en la construcción de un avión que protege continuamente a los pilotos de incluso el más mínimo error. Esto significa que cuando ocurre una situación complicada, los pilotos tendrán muy poca experiencia para tratar de superar dicho reto.

La complicación en el vuelo 447 no parecía especialmente sobrecogedora: las tormentas sobre el Océano Atlántico, al norte de la línea ecuatorial son bastante habituales. No son, por tanto,  un problema importante, aunque quizás el capitán Dubois estaba demasiado tranquilo (y somnoliento) cuando a las 23:02 hora de Río, se fue de la cabina de pilotos para una siesta, dejando al inexperto Bonin a los mandos.

Bonin parecía nervioso. El mínimo indicio de problemas produjo un estallido de ira: «Infierno de mierda. Mierda». Más de una vez expresó su deseo de volar a «3-6» (36.000 pies)  y lamentó el hecho de que los procedimientos de Air France recomendaran volar un poco más bajo. Aunque es posible para evitar problemas cuando se vuela sobre una tormenta, hay un límite en la altura máxima a la que un avión puede volar con seguridad.  La atmósfera se hace tan sutil que apenas puede sustentar  la aeronave. Los márgenes de error se estrechan. El avión estará en riesgo de perder sustentación, pérdida de sustentación que se produce también, cuando el avión intenta ascender en un ángulo  demasiado vertical. En ese ángulo las alas ya no hacen su función sustentadora y la aeronave no se comporta correctamente[1]. Pierde la velocidad aerodinámica y se desploma sin gracia en una posición de morro arriba.

Afortunadamente, una gran altura[2] ofrece mucho tiempo y espacio para corregir la pérdida de sustentación. Se trata de una maniobra fundamental para aprender a volar un avión: el piloto empuja el morro del avión hacia abajo y en una zambullida como de buceo, recupera la velocidad y las alas vuelven a trabajar correctamente. El piloto tira luego suavemente del mando y se recupera de nuevo el nivel de vuelo.

Conforme el avión se aproximaba a la tormenta, comenzaron a formarse cristales de hielo en las alas. Bonin y Robert conectan, el sistema anti-hielo para evitar demasiada acumulación que hace perder sustentación. Robert indicó a Bonin un par de veces virar a la izquierda, evitando lo peor de la tormenta.

El avión comenzó a dar violentas sacudidas. El copiloto corrigió con fuertes tirones del mando. Cometió un error muy simple.

Entonces sonó una alarma. El piloto automático se había desconectado. Un sensor de velocidad del aire se había helado y dejo de funcionar. No es un problema importante, pero requiere que los pilotos tomen el control manual. Pero algo más sucedió al mismo tiempo y por la misma razón: el sistema fly-by-wire se redujo a un modo operativo que daba al piloto menos ayuda y más libertad para controlar el avión. A falta de un sensor de velocidad, el avión no pudo ayudar a Bonin.

La primera consecuencia fue casi inmediata: el avión comenzó a moverse a derecha e izquierda, Bonin trataba de corregir con fuertes tirones del mando. Luego cometió un error simple: tiró hacia atrás del mando de control y el avión comenzó a subir abruptamente.

A medida que el morro del avión se levantó y empezó a perder velocidad, la voz automatizada gritaba en inglés: «PERDIDA. PERDIDA. PERDIDA”. A pesar de la advertencia, Bonin mantuvo  la palanca en subida, y en los negros cielos sobre el Atlántico el avión subía  a una sorprendente velocidad de 7.000 pies por minuto. Sin embargo, la velocidad del avión se iba perdiendo; pronto comenzó a deslizarse hacia abajo a través de la tormenta y hacia el agua,  37.500 pies por debajo. ¿Se habían dado cuenta Bonin o Robert de lo que estaba sucediendo y que podrían haber solucionado el problema, en sus primeras etapas? No, no lo hicieron. ¿Por qué?

El origen del problema era el sistema que tanto había hecho para mantener a salvo muchos A330 durante 15 años, a través de millones de millas de vuelo: el cable fly-by-wire. O, más exactamente, el problema no era el  fly-by-wire, sino el hecho de que los pilotos se habían acostumbrado a confiar en él. Bonin sufría un problema llamado modo de confusión. Tal vez no se dio cuenta de que el avión había cambiado al modo alternativo que le proporcionaría  mucha menos ayuda. Quizás sí sabía que el avión había cambiado el modo, pero no comprendía plenamente la implicación: que su avión entraría en pérdida. Esa es la razón más plausible, Bonin y Robert ignoraron la alarma, asumían que esto era la forma en que avión les decía que estaba interviniendo para evitar una pérdida de sustentación. En resumen, Bonin llevó la aeronave a pérdida porque en su interior sentía que era imposible que la aeronave entrara en pérdida.

Agravó esta confusión la falta de experiencia de Bonin en volar un avión sin ayuda de la computadora. Aunque había pasado muchas horas en la cabina del A330, la mayor parte de esas horas se habían utilizado en el seguimiento y ajuste de los equipos del avión en lugar de volar manualmente la aeronave (sin las ayudas de los sistemas). Y del reducido número de horas dedicadas a volar manualmente el avión, casi todas se dedicaron a despegar o aterrizar. No es extraño que se sintiera tan impotente frente a los mandos.

Los pilotos de Air France «eran terriblemente incompetentes», escribió William Langewiesche, en su artículo de Vanity Fair. Y él creía saber por qué. Langewiesche argumentó que los pilotos simplemente no estaban acostumbrados a volar su avión en altitud sin la ayuda de la computadora. Incluso el experimentado capitán Dubois estaba oxidado: de las 346 horas que había estado a los mandos de un avión durante los últimos seis meses, sólo cuatro estaban en control manual, y hasta entonces había tenido la ayuda plena del sistema fly-by-wire. A los tres pilotos se les había negado la posibilidad de practicar sus habilidades  porque el avión era por lo general el que hacía el vuelo solo.

Este problema tiene un nombre: la paradoja de la automatización. Se aplica en una amplia variedad de contextos, desde los operadores de centrales nucleares hasta la tripulación de los buques de crucero, desde el simple hecho de que ya no podemos recordar los números de teléfono  porque tenemos todos ellos almacenados en nuestros teléfonos móviles, a la manera en que ahora luchamos con la aritmética mental, porque estamos rodeados de calculadoras electrónicas. Cuanto mejores sean los sistemas automáticos, más fuera de práctica estarán los operadores humanos, y  más extremas las situaciones a las que tendrán que enfrentarse. El psicólogo James Reason, autor de “Error humano”, escribió: «El control manual es una actividad altamente especializada y necesita ser practicado de forma continua con el fin de mantener las habilidades. Sin embargo, un sistema de control automático que sólo raramente falla niega a los operadores la oportunidad de practicar estas habilidades básicas… Cuando se toma el control manual es por lo general porque algo ha ido mal; esto significa que los operadores tienen que ser más y no menos cualificados con el fin de hacer frente a estas condiciones extraordinarias».

La paradoja de la automatización tiene tres aspectos. En primer lugar, los sistemas automáticos facilitan la incompetencia por ser cada vez más fáciles  de operar y corrigen automáticamente los errores. Debido a esto, un operador inexperto puede funcionar durante un largo tiempo antes de que su falta de habilidad se haga evidente. Su incompetencia es una debilidad oculta que puede persistir casi indefinidamente. En segundo lugar, incluso si los operadores son expertos, los sistemas automáticos erosionan sus habilidades mediante la eliminación de la necesidad de la práctica. En tercer lugar, los sistemas automáticos tienden a fallar ya sea en situaciones inusuales o de manera que producen situaciones inusuales, que requieren una respuesta especialmente hábil. Un sistema automático más capaz y fiable empeora la situación.

Hay aún muchas situaciones en las que la automatización no crea tal paradoja. Una página web de servicio al cliente puede manejar las quejas y solicitudes de rutina, por lo que el personal está a salvo de trabajo repetitivo y puede hacer un mejor trabajo para los clientes con preguntas más complejas. No es así con un avión. El piloto automático y la ayuda más sutil de fly-by-wire no liberan a la tripulación para concentrarse en las cosas importantes. En su lugar, libera a la tripulación para conciliar el sueño en los controles, en sentido figurado o incluso literal. Un notorio incidente se produjo a finales de 2009, cuando dos pilotos dejaron que su piloto automático rebasara el aeropuerto de Minneapolis en más de 100 millas. Habían estado entretenidos con sus computadoras portátiles.

Cuando algo va mal en este tipo de situaciones, es difícil ajustar la atención y hacer frente a una situación que es muy probable que sea desconcertante.

Tras la brusca interrupción de su siesta el capitán Dubois llegó a la cabina 1minuto y 38segundos después de que el indicador de velocidad fallara. El avión estaba todavía por encima de 35.000 pies, a pesar de que estaba cayendo a más de 150 pies por segundo. Los descongeladores  habían hecho su trabajo y el sensor de velocidad del aire estaba operando de nuevo, pero los copilotos ya no confiaban en ninguno de sus instrumentos. El avión -que ahora estaba en perfecto estado de funcionamiento- les estaba diciendo que apenas se movían hacia delante en absoluto y fueron bajando cortando el aire hacia el agua, decenas de miles de pies más abajo. Pero en lugar de darse cuenta de que el sensor defectuoso estaba arreglado,  parecen haber asumido que algunos otros instrumentos se habían estropeado. Dubois se quedó en silencio durante 23 segundos, una enorme cantidad de tiempo en esas circunstancias. Tiempo suficiente para que el avión descendiera otros 3.500 pies.

Todavía no era demasiado tarde para salvar el avión si Dubois hubiera  sido capaz de reconocer lo que estaba pasando. El morro estaba ahora tan alto que el aviso de pérdida se había detenido. Al igual que los pilotos, simplemente rechazó la información que estaba recibiendo por  considerarla  anómala. Un par de veces, Bonin empujo la palanca para para bajar el morro del avión un poco y el aviso de pérdida se reanudó  ¡PERDIDA PERDIDA PERDIDA!, que sin duda lo confundía aún más. En un momento trató de usar los frenos de velocidad, pensando que iban a demasiada velocidad, lo contrario de la realidad: el avión estaba arrastrando su camino a través del aire a menos de 60 nudos -alrededor de 70 millas por hora – demasiado lento. Empezó a caer dos veces más rápido. Totalmente confundidos, los pilotos discutieron brevemente sobre si el avión estaba subiendo o descendiendo.

Bonin y Robert se estaban gritando el uno al otro, cada uno tratando de controlar el avión (Control Dual). Los tres hombres hablaban con objetivos opuestos. El avión estaba todavía nariz hacia arriba, pero perdiendo altura rápidamente.

Robert: «Controle la Velocidad! Estamos subiendo! ¡Descender! ¡Desciende, desciende, desciende! »

Bonin: «Estoy descendiendo!»

Dubois: «No, estás subiendo.»

Bonin: «¿Estoy subiendo? OK, así que vamos hacia abajo».

Nadie dijo: «Estamos estancados. Pon el morro hacia abajo y vuela fuera de la pérdida».

A las 23.13.40,  menos de 12 minutos desde que salió Dubois de la cabina para una siesta, y dos minutos después de que el piloto automático se haya apagado automáticamente, Robert gritó a Bonin: «Suba, subir, subir, subir.» Bonin contestó que él había tenido la  palanca hacia atrás todo el tiempo, información que podría haber ayudado a Dubois diagnosticar sobre la pérdida si la hubiera conocido.

Finalmente la moneda parecía caer por Dubois, que estaba de pie detrás de los dos copilotos. «No, no, no. No suba, no, no.»

Robert anunció que estaba tomando el control y empujó el morro del avión hacia abajo. El avión comenzó por fin a acelerarse. Pero era un minuto demasiado tarde, estaban a 11.000 pies de altitud. No había  altura bastante entre el aparato y la superficie del agua para alcanzar  velocidad suficiente en la bajada para recuperar potencia y poder librarse de la colisión con el agua del Atlántico.

En cualquier caso, Bonin retomó en silencio el control del avión y trató de subir de nuevo. Fue un acto de puro pánico. Robert y Dubois, tal vez, se habían dado cuenta de que el avión había entrado en pérdida, pero nunca lo dijeron. Es posible que no se dieran cuenta de que Bonin era el que tenía el control del avión. Y Bonin no comprendió lo que había hecho. Sus últimas palabras fueron: «¿Pero qué es lo que está pasando?» Cuatro segundos más tarde el avión cayó al Atlántico a unas 125 millas por hora. Todo el mundo a bordo, 228 pasajeros y la tripulación, murió en el acto.

Earl Wiener, una figura de culto en la seguridad de la aviación, acuñó lo que se conoce como leyes de Wiener  de la aviación y el error humano. Una de ellas era: «Los dispositivos digitales detectan pequeños errores, pero ocasionalmente  crean extraordinarios errores» Podríamos reformular este principio como: «La automatización arregla generalmente pequeños errores, pero en ocasiones crean las condiciones para líos extraordinarios». Es una idea que se aplica ahora más allá de la aviación.

[1] La superficie de sustentación es la proyección de los planos (las alas) sobre la horizontal. Cuanto más inclinados están los planos, su proyección sobre el plano horizontal es más pequeña y la sustentación menor.
[2] En mi primer vuelo del curso de piloto civil privado (18/03/1968), el profesor, capitán instructor en San Javier, me dio una máxima que no debía olvidar nunca: “No sirve para nada la altura por arriba y la pista por detrás”. A lo largo del curso, en doble mando, practicamos varias veces la maniobra de levantar el morro para entrar en pérdida, pero a una altura más que suficiente para recuperar sin riesgo. Claro que una avioneta ligera, no es un aparato como el A 330-300.

cabina A 330-300

Vista nocturna de la cabina del A 330-300

FUENTES

Información base obtenida del artículo de William Langewiesche “THE HUMAN FACTOR” en la revista Vanity Fair.

https://es.wikipedia.org/wiki/Vuelo_447_de_Air_France

http://www.aeromental.com/2011/12/30/lo-que-realmente-paso-en-el-vuelo-air-france-447-gracias-al-analisis-de-su-caja-negra/

https://www.youtube.com/watch?v=42wBWGyi2ok