Accidente del sistema

La Junta de Revisión del Apolo 13 declaró en la introducción del capítulo cinco de su informe: [énfasis añadido] ^{[ 9 ]}

... Se determinó que el accidente no fue el resultado de un fallo fortuito en sentido estadístico, sino más bien el resultado de una combinación inusual de errores, junto con un diseño algo deficiente e implacable ...

• (g): Al revisar estos procedimientos antes del vuelo, los funcionarios de la NASA, ER y Beech no consideraron la posibilidad de daños por sobrecalentamiento. Muchos de estos funcionarios desconocían el funcionamiento prolongado del calentador. En cualquier caso, cabría esperar que los interruptores termostáticos adecuados protegieran el tanque.

Perrow consideró normal el accidente de Three Mile Island : ^{[ 10 ]}

Se asemejaba a otros accidentes en centrales nucleares y en otros sistemas complejos, interdependientes y de alto riesgo entre operador y máquina; ninguno de los accidentes fue causado por ineptitud de la gerencia o del operador, ni por una regulación gubernamental deficiente, aunque estas características existían y debían haberse previsto. Sostuve que el accidente fue normal, porque en sistemas complejos inevitablemente existen múltiples fallas que no pueden evitarse mediante la planificación y que los operadores no pueden comprender de inmediato.

El 11 de mayo de 1996, el vuelo 592 de ValuJet , un vuelo regular de ValuJet Airlines desde el Aeropuerto Internacional de Miami al Aeropuerto Hartsfield-Jackson de Atlanta, se estrelló unos 10 minutos después del despegue debido a un incendio en la bodega de carga provocado por el almacenamiento y etiquetado inadecuados de carga peligrosa. Las 110 personas a bordo fallecieron. La aerolínea tenía un historial de seguridad deficiente antes del accidente. El suceso puso de manifiesto los problemas de gestión de la aerolínea, incluyendo la capacitación insuficiente de los empleados en el manejo adecuado de materiales peligrosos. El manual de mantenimiento del avión MD-80 documentaba los procedimientos necesarios y, en cierto modo, era correcto. Sin embargo, era tan extenso que no resultaba útil ni informativo. ^{[ 4 ]}

En una monografía de 2014, el economista Alan Blinder afirmó que los instrumentos financieros complejos dificultaban a los inversores potenciales juzgar si el precio era razonable. En una sección titulada "Lección n.° 6: La complejidad excesiva no solo es anticompetitiva, sino también peligrosa", añadió: "Pero el mayor peligro puede provenir de la opacidad. Cuando los inversores no comprenden los riesgos inherentes a los valores que compran (ejemplos: el tramo intermedio de un CDO-Squared ; un CDS sobre un CDO sintético  ...), pueden cometerse grandes errores, especialmente si las agencias de calificación afirman que son de máxima calidad (triple A), es decir, lo suficientemente seguros para la abuela. Cuando se produce la crisis, las pérdidas pueden ser mucho mayores de lo que los inversores jamás imaginaron. Los mercados pueden colapsar, ya que nadie sabe cuál es el valor real de estos valores. Puede cundir el pánico. Por lo tanto, la complejidad en sí misma es una fuente de riesgo". ^{[ 11 ]}

A pesar del considerable aumento de la seguridad aérea desde la década de 1980, preocupa que los sistemas de vuelo automatizados se hayan vuelto tan complejos que incrementan los riesgos derivados de la excesiva complejidad y resultan incomprensibles para las tripulaciones que deben operarlos. Por ejemplo, los profesionales de la industria aeronáutica señalan que estos sistemas a veces se activan o se cambian de modo automáticamente; la tripulación en la cabina no siempre comprende el motivo de su activación automática, lo que genera desconcierto. Langewiesche cita a la ingeniera industrial Nadine Sarter, quien escribe sobre las "sorpresas de la automatización", a menudo relacionadas con modos del sistema que el piloto no comprende del todo o a los que el sistema cambia por sí solo. De hecho, una de las preguntas más frecuentes en las cabinas hoy en día es: "¿Qué está haciendo ahora?". En respuesta a esto, Langewiesche destaca el aumento quíntuple de la seguridad aérea y escribe: "Nadie puede abogar racionalmente por un retorno al glamour del pasado". ^{[ 12 ]}

En un artículo titulado "El factor humano", Langewiesche analiza el accidente del vuelo 447 de Air France en 2009 sobre el Atlántico medio. Señala que, desde la década de 1980, cuando comenzó la transición a los sistemas automatizados de cabina, la seguridad ha mejorado cinco veces. Langewiesche escribe: "En la privacidad de la cabina y lejos de la vista del público, los pilotos han sido relegados a funciones rutinarias como administradores de sistemas". Cita al ingeniero Earl Wiener, quien retoma la frase humorística atribuida a la duquesa de Windsor de que nunca se puede ser demasiado rico ni demasiado delgado, y añade: "ni demasiado cuidadoso con lo que se introduce en un sistema digital de guía de vuelo". Wiener afirma que el efecto de la automatización suele ser reducir la carga de trabajo cuando es ligera, pero aumentarla cuando es pesada.

El ingeniero de Boeing, Delmar Fadden, afirmó que una vez que se añaden capacidades a los sistemas de gestión de vuelo, su eliminación resulta extremadamente costosa debido a los requisitos de certificación. Sin embargo, si no se utilizan, pueden permanecer ocultas en las profundidades. ^{[ 12 ]}

Los factores humanos en la implementación de los procedimientos de seguridad juegan un papel en la efectividad general de los sistemas de seguridad. Los problemas de mantenimiento son comunes con los sistemas redundantes. Los equipos de mantenimiento pueden no lograr restaurar un sistema redundante a un estado activo. Pueden estar sobrecargados de trabajo o el mantenimiento puede posponerse debido a recortes presupuestarios, porque los gerentes saben que el sistema continuará operando sin reparar el sistema de respaldo. ^{[ 3 ]} Los pasos en los procedimientos pueden cambiarse y adaptarse en la práctica, a partir de las reglas formales de seguridad, a menudo de maneras que parecen apropiadas y racionales, y pueden ser esenciales para cumplir con las limitaciones de tiempo y las demandas de trabajo. En un artículo de Safety Science de 2004 , que informa sobre una investigación parcialmente financiada por la National Science Foundation y la NASA, Nancy Leveson escribe: ^{[ 13 ]}

Sin embargo, las instrucciones y los procedimientos escritos casi nunca se siguen al pie de la letra, ya que los operadores se esfuerzan por ser más eficientes y productivos y por lidiar con la presión del tiempo  ... incluso en entornos tan restringidos y de alto riesgo como las centrales nucleares, se observa repetidamente la modificación de las instrucciones y la violación de las normas parece bastante racional, dada la carga de trabajo real y las limitaciones de tiempo bajo las que los operadores deben realizar su trabajo. En estas situaciones, existe un conflicto fundamental entre el error entendido como una desviación del procedimiento normativo y el error entendido como una desviación del procedimiento racional y normalmente utilizado .

• Charles Perrow (1984). Accidentes normales . ISBN 978-0-691-00412-9. OL 4468929W . Wikidata Q114963622 .  
• Charles Perrow (1999). Accidentes normales  : vivir con tecnologías de alto riesgo  : con un nuevo epílogo y una posdata sobre el problema del año 2000. Princeton University Press . ISBN 0-691-00412-9. Wikidata Q114963670 .