Therac-25: un diseño de interacción mortal
Jueves, Noviembre 28, 2002
Normalmente hablamos de diseño de interacción relativo a interfaces de servicios web o de herramientas de productividad, donde los errores se traducen en pérdida de tiempo, impaciencia del usuario y, a veces, derroche de dinero. Pero el diseño de interacción es crítico cuando un error de concepto puede matar a una persona.
Es el caso de las aplicaciones y maquinarias médicas.
En 1982 salió al mercado médico una máquina llamada Therac-25 que proporcionaba tratamiento tanto de radiación como de rayos X, según fuese necesario. Costaba cerca de un millón de dólares.
La mayoría de las veces, el Therac-25 se comportó bien y administró correctamente el tratamiento a las pacientes con cáncer. Pero en 6 ocasiones, algo falló.
El enfermero u operario de turno cometió un error al inicio del tratamiento, accionó los mecanismos de corrección del software de la máquina y rectificó el rumbo. En teoría, porque a pesar de que la interfaz indicaba que todo iba bien, en realidad los pacientes estaban recibiendo hasta 125 veces más radiación que lo normal.
3 de esos pacientes murieron.
El problema fue que los desarrolladores cometieron dos errores fundamentales: no pudieron prever el error humano y se negaron a hacer pruebas antes de comercializar el aparato. Como el sistema estaba concebido por programadores, que conocían perfectamente el funcionamiento y nunca se les ocurrió pensar en usuarios que podían equivocarse, pensaron que era infalible. Y como no se trataba de un diseño centrado en el usuario, no hicieron los test de usuarios de rigor.
En resumen: nadie se preocupó de diseñar un sistema de recuperación en errores de operación. Nadie previó rutinas de fallos. Nadie quizo hacer test con usuarios. Tres personas perdieron la vida por ello y otros tres quedaron gravemente afectados.
El caso del Therac-25 puede sonar demasiado fatalista, pero es un excelente ejemplo de la importancia de diseñar sistemas de interacción pensando en el usuario y hacer las pruebas necesarias.
De interés:
Sobre diseño de aplicaciones médicas y cómo hacerlo bien:
Interface design as a life or death proposition
Sobre el caso Therac-25:
Major Design Flaws in the Software Development of Therac-25
The Treatment that Killed
An Investigation of the Therac-25 Accidents
A History of the Introduction and Shut Down of Therac-25
