Sistema crítico para la seguridad

Ejemplos ^{[ 1 ]} de sistemas críticos para la seguridad. De izquierda a derecha, de arriba abajo: la cabina de cristal de un C-141 , un marcapasos , el transbordador espacial y la sala de control de una central nuclear .

Un sistema crítico para la seguridad ^{[ 2 ]} o un sistema crítico para la vida es un sistema cuyo fallo o mal funcionamiento puede resultar en uno (o más) de los siguientes resultados: ^{[ 3 ] [ 4 ]}

• muerte o lesiones graves a las personas
• pérdida o daños graves a equipos/propiedades
• graves daños ambientales

Un sistema relacionado con la seguridad (o a veces sistema involucrado en la seguridad ) comprende todo (hardware, software y aspectos humanos) necesario para realizar una o más funciones de seguridad, cuyo fallo provocaría un aumento significativo del riesgo para la seguridad de las personas o el entorno involucrados. ^{[ 5 ]} Los sistemas relacionados con la seguridad son aquellos que no tienen la responsabilidad total de controlar peligros como la pérdida de vidas, lesiones graves o daños ambientales graves . El mal funcionamiento de un sistema involucrado en la seguridad solo sería peligroso en combinación con el fallo de otros sistemas o un error humano . Algunas organizaciones de seguridad proporcionan orientación sobre sistemas relacionados con la seguridad, por ejemplo, la Health and Safety Executive en el Reino Unido . ^{[ 6 ]}

Los riesgos de este tipo se suelen gestionar con los métodos y herramientas de la ingeniería de seguridad . Un sistema crítico para la seguridad está diseñado para perder menos de una vida por cada mil millones (10⁹ ⁾ de horas de funcionamiento. ^{[ 7 ] [ 8 ]} Los métodos de diseño típicos incluyen la evaluación probabilística de riesgos , un método que combina el análisis de modos y efectos de fallos (FMEA) con el análisis de árbol de fallos . Los sistemas críticos para la seguridad se basan cada vez más en ordenadores .

Los sistemas críticos para la seguridad son un concepto que se utiliza a menudo junto con el modelo del queso suizo para representar (generalmente en un diagrama de pajarita ) cómo una amenaza puede escalar a un accidente grave debido al fallo de múltiples barreras críticas. Este uso se ha vuelto común, especialmente en el ámbito de la seguridad de procesos , en particular cuando se aplica a la perforación y producción de petróleo y gas, tanto con fines ilustrativos como para respaldar otros procesos, como la gestión de la integridad de los activos y la investigación de incidentes . ^{[ 9 ]}

Existen varios regímenes de confiabilidad para sistemas críticos para la seguridad:

• Los sistemas de funcionamiento a prueba de fallos continúan operando incluso cuando fallan sus sistemas de control . Ejemplos de estos incluyen ascensores , termostatos de gas en la mayoría de las calderas domésticas y reactores nucleares de seguridad pasiva . El modo de funcionamiento a prueba de fallos a veces es inseguro. El lanzamiento de armas nucleares en caso de pérdida de comunicaciones fue rechazado como sistema de control para las fuerzas nucleares estadounidenses debido a su funcionamiento a prueba de fallos: una pérdida de comunicaciones provocaría el lanzamiento, por lo que este modo de operación se consideró demasiado arriesgado. Esto contrasta con el comportamiento de fallo letal del sistema Perimeter construido durante la era soviética. ^{[ 10 ]}
• Los sistemas tolerantes a fallos pueden seguir funcionando de forma provisional con una eficiencia reducida en caso de fallo. ^{[ 11 ]} La mayoría de las ruedas de repuesto son un ejemplo de esto: suelen venir con ciertas restricciones (por ejemplo, una limitación de velocidad) y conllevan un menor consumo de combustible. Otro ejemplo es el "Modo seguro" que se encuentra en la mayoría de los sistemas operativos Windows.
• Los sistemas a prueba de fallos se vuelven seguros cuando no pueden funcionar. Muchos sistemas médicos entran en esta categoría. Por ejemplo, una bomba de infusión puede fallar, y siempre que alerte a la enfermera y deje de bombear, no pondrá en peligro la vida, ya que su intervalo de seguridad es lo suficientemente largo como para permitir una respuesta humana. De manera similar, un controlador de quemador industrial o doméstico puede fallar, pero debe hacerlo en modo seguro (es decir, apagar la combustión cuando detecta fallos). Los sistemas de armas nucleares que se lanzan por orden son, sin duda, a prueba de fallos, porque si fallan los sistemas de comunicación, no se puede ordenar el lanzamiento. La señalización ferroviaria está diseñada para ser a prueba de fallos.
• Los sistemas a prueba de fallos mantienen la máxima seguridad incluso cuando no pueden funcionar. Por ejemplo, mientras que las puertas electrónicas a prueba de fallos se desbloquean durante los cortes de energía, las que cuentan con un sistema a prueba de fallos se bloquean, manteniendo así la zona segura.
• Los sistemas de tolerancia a fallos siguen funcionando incluso si se produce un fallo del sistema. Un ejemplo es el piloto automático de una aeronave . En caso de fallo, la aeronave permanecería bajo control, permitiendo al piloto retomar el control, completar el vuelo y realizar un aterrizaje seguro.
• Los sistemas tolerantes a fallos evitan la interrupción del servicio cuando se producen fallos en el sistema. Un ejemplo son los sistemas de control de reactores nucleares convencionales . El método habitual para tolerar fallos consiste en que varios ordenadores prueben continuamente los componentes del sistema y activen sistemas de reserva en caliente para los subsistemas averiados. Siempre que los subsistemas defectuosos se reemplacen o reparen en los intervalos de mantenimiento habituales, estos sistemas se consideran seguros. Los ordenadores, las fuentes de alimentación y las terminales de control utilizadas por los operarios deben estar duplicados en estos sistemas de alguna manera.

La ingeniería de software para sistemas críticos para la seguridad es particularmente difícil. Hay tres aspectos que pueden aplicarse para ayudar en la ingeniería de software para sistemas críticos para la vida. Primero, la ingeniería y gestión de procesos. Segundo, la selección de las herramientas y el entorno apropiados para el sistema. Esto permite al desarrollador del sistema probarlo eficazmente mediante emulación y observar su efectividad. Tercero, abordar cualquier requisito legal y reglamentario, como los requisitos de la Administración Federal de Aviación (FAA) para la aviación. Al establecer un estándar bajo el cual se debe desarrollar un sistema, se obliga a los diseñadores a cumplir con los requisitos. La industria de la aviónica ha logrado producir métodos estándar para producir software de aviónica crítico para la vida . Existen estándares similares para la industria en general ( IEC 61508 ) y, específicamente, para las industrias automotriz ( ISO 26262 ), médica ( IEC 62304 ) y nuclear ( IEC 61513 ). El enfoque estándar es codificar, inspeccionar, documentar, probar, verificar y analizar cuidadosamente el sistema. Otro enfoque es certificar un sistema de producción, un compilador , y luego generar el código del sistema a partir de las especificaciones. Otro enfoque utiliza métodos formales para generar pruebas de que el código cumple con los requisitos. ^{[ 12 ]} Todos estos enfoques mejoran la calidad del software en sistemas críticos para la seguridad mediante pruebas o la eliminación de pasos manuales en el proceso de desarrollo, ya que las personas cometen errores, y estos errores son la causa más común de errores potencialmente mortales.

• Ingeniería biomédica : aplicación de los principios de ingeniería y los conceptos de diseño a la medicina y la biología. 
• Factor de seguridad : resistencia del sistema más allá de la carga prevista. 
• Métodos formales – Especificaciones de programas matemáticos 
• Software de alta integridad
• Fundamental para la misión : factor crítico para el funcionamiento de una organización. 
• Reactor nuclear : dispositivo para reacciones nucleares controladas. 
• Redundancia (ingeniería) : Duplicación de componentes críticos para aumentar la fiabilidad de un sistema. 
• Computación en tiempo real
• Ingeniería de confiabilidad : Subdisciplina de la ingeniería de sistemas que enfatiza la fiabilidad. 
• Club de Sistemas Críticos para la Seguridad – Asociación profesional del Reino Unido 
• SAPHIRE – Programas de análisis de sistemas para evaluaciones prácticas e integradas de confiabilidad (software de análisis de riesgos) 
• Therac-25 : máquina de radioterapia involucrada en seis accidentes. 
• Análisis de seguridad zonal

• Un ejemplo de un sistema crítico para la vida
• Biblioteca virtual de sistemas críticos para la seguridad
• Explicación de los conceptos de fallo operativo y fallo pasivo en aviónica. Archivado el 15/07/2020 en Wayback Machine.
• Sistema de Normas Técnicas de la NASA: Norma de Garantía de Software y Seguridad del Software

Archivado el 15 de julio de 2020 en Wayback Machine .