 |
| La tecnología de vanguardia aplicada a los conflictos bélicos plantea urgentes dilemas éticos sobre la responsabilidad moral de sus creadores. |
Al siglo XX se le califica como el más corto de la historia, porque se considera que tiene su inicio con la primera guerra mundial, y que finaliza con la caída del Muro de Berlín. Es evidente que su final se vio marcado por este acontecimiento sorpresivo, entre otras cosas porque trajo como consecuencia inmediata el desmoronamiento de la Unión Soviética. Pero, ¿por qué a la Gran Guerra se la señala como su inicio?
Hasta ese momento, las guerras que se libraban eran de tipo napoleónico. Se acordaba una fecha y se pactaba un lugar concreto donde los ejércitos pudieran luchar abiertamente. Esto cambió con la Gran Guerra, que fue la que inauguró la industrialización del conflicto: los avances técnicos comenzaron a ser utilizados como instrumentos bélicos.
A día de hoy, transcurrido ya el primer cuarto del siglo XXI, la guerra se ha vuelto a ver transformada por el espectacular desarrollo de la tecnología. Aunque ahora esta viene impulsada por empresas de tecnología de vanguardia junto a las grandes tecnológicas (Big Tech), procedentes del conocido como Silicon Valley. Es habitual escuchar en las noticias cómo se producen ataques informáticos con los que desestabilizar, espiar y hasta sabotear estructuras críticas del enemigo; lanzar noticias falsas para manipular la opinión; o conseguir alterar sus sistemas defensivos, incluso los mercados financieros. Y todo ello, sin la necesidad de utilizar las armas convencionales.
También es muy reciente, pero muy extendida por su eficacia y bajo coste, el uso de drones para la vigilancia, o como precisa herramienta de ataque y defensa. Estas incorporaciones de la tecnología al mundo de la guerra conllevan para un filósofo interesantes cuestiones desde el ámbito de la ética.
Hasta el momento, todo armamento era considerado como un instrumento, por lo que la responsabilidad moral de su uso recaía en quien lo utilizaba o manejaba. Y, al tratarse del ejército, ámbito en el que las acciones vienen provocadas por órdenes que se rigen siguiendo una estructura vertical de obediencia, los responsables últimos siempre eran los mandos más altos de quienes había partido la orden.
Sin embargo, la evolución tecnológica actual, introduciendo el amplio universo de la informática en el diseño de nuevas armas e instrumentos bélicos, desde el desarrollo de software y sistemas, de la IA y el tratamiento de los big data o tecnologías emergentes y especializadas -por ejemplo-, nos lleva a replantearnos esa perspectiva ética.
Porque, este tipo de armamento tiene una peculiaridad con respecto al tradicional: no solamente son utilizados por un soldado, sino que están preparados para evaluar la situación concreta, analizarla desde los datos que tienen incorporados, y proponer otras alternativas como objetivo. Incluso automáticamente pueden alterar su trayectoria, cambiando la amplitud de los mal llamados “daños colaterales”. No se trata de una tecnología que toma decisiones desde la reflexión, pero sí que tienen un margen (a veces pequeño, otras veces mayor) de rectificación y corrección que no siempre tienen ni pueden ser comprobado por el soldado que lo utiliza.
Teniendo presente la configuración de esta recientísima tecnología bélica, que se está propagando por el resto de países para incorporarla a sus arsenales tradicionales, la pregunta desde la ética es clara: ¿quién es el agente moral responsable de sus consecuencias?
Imaginemos un dron con un software que le permite elegir estrellarse en el lugar más crítico de unas instalaciones. Sin embargo, en ese momento ahí hay civiles de diferentes edades que no tienen nada que ver con el conflicto. El dron, siguiendo las instrucciones de su software, cumple su misión destruyendo partes sensibles de esas instalaciones, pero matando a los civiles.
El dron cumple su misión precisa dirigido por el software. Un software que previamente fue programado por técnicos especializados. Técnicos que han seguido las instrucciones de unos ingenieros que lo han diseñado, perteneciendo todos a una gran empresa tecnológica. Esta tiene la dirección bajo el mando de una persona: un CEO; que se ve asesorado por un Consejo de Administración y, probablemente, un Consejo Técnico. Pero que debe rendir cuentas a la Junta General de Accionistas: auténticos dueños de la empresa.
Ante esta situación, que actualmente se produce cada vez que este tipo de tecnología bélica acaba con muertes y destrucciones de terceros, ¿quién es el responsable moral?
Desde las diferentes teorías éticas tradicionales, podríamos apelar al bien mayor que conlleva un mal menor, del utilitarismo. Al rechazo frontal por parte de la ética deontológica. A revisar las diferentes virtudes (justicia, compasión, valor, prudencia) que se han tenido presente para llevar a cabo tal acción. O, incluso, a la “ius in bello” actualizada hoy por el derecho internacional, y que hunde sus raíces en la escolástica medieval.
Sin embargo, el ejemplo encierra una problemática mayor porque, ante hechos como el descrito, no aparece un sujeto ejecutor claro y preciso. No existe una asunción de responsabilidades por parte del causante del suceso, en tanto que es imposible identificarlo. Por lo que el problema ético se agudiza, ya que la responsabilidad moral de la acción queda diluida.
Ante esta encrucijada a la que nos enfrentamos desde la filosofía práctica, las Silicon Valley, Big Tech y demás tecnológicas de vanguardia, tienden a responder reactualizando su propio argumentario para adecuarlo al ámbito de la moral: ese software consigue reducir la imprecisión de las decisiones de un soldado (del rango que sea), porque este siempre estará condicionado por emociones y sentimientos diferentes como el miedo, el estrés, el apego, la desafección, la piedad, el dolor, la ternura,… Mientras que el software programado posee la capacidad de analizar los más diversos escenarios desde los más dispares ámbitos, y lo consigue en microsegundos: de lo que se deduce que tomará, de las opciones programadas, la más eficaz con el menor daño colateral.
Si partimos de la lógica interna de estas empresas, su razonamiento tiene sentido. Pero, si lo admitimos tal cual, conseguimos reducir las decisiones morales a un mero porcentaje probabilístico: un parco utilitarismo envuelto en tecnología puntera. Estaríamos aceptando que los daños colaterales tienen menos valor que los objetivos militares, aunque entre aquellos aparezcan victimas humanas. Una tesis que no nos es extraña, porque se viene aplicando cotidianamente en las guerras vigentes hoy: por ejemplo, este es la justificación de muchas de las crueles acciones militares del Estado de Israel sobre los palestinos.
Además, siguiendo con el ejemplo, los altos mandos militares podrían exculparse apelando a que no estuvo en sus manos controlar la “reconfiguración del objetivo”: ya que viene predeterminada por el software que lo controla. O, más aún, que no tienen los conocimientos ni los elementos necesarios para anular esa acción, sujeta a directrices de un algoritmo previamente diseñado.
Propongo, desde la filosofía práctica, que es el momento de exigir las responsabilidades oportunas ante este tipo de acciones. Y no solamente a los Jefes de Estado y altos mandos de los ejércitos (que las ordenan y consienten): sino, también, a los responsables de esas empresas tecnológicas que, teniendo conocimiento de su aplicación y posibles tremendos efectos sin intervención de otras voluntades, los introducen en la industria bélica y fomentan su desarrollo.
No se puede juzgar a un algoritmo ni a un software. Sin embargo, en tanto que esta novedosa tecnología militar ya no es neutral, ni dependiente totalmente de las intenciones de los soldados que las usan, considero una exigencia ética pedir responsabilidades penales a los dueños y/o dirigentes de esas empresas (CEOS). Incluso a cada miembro de sus Juntas Generales de Accionistas: por apoyar el desarrollo de una tecnología a la que no se la limita en su aplicación contra personas ajenas a los propios conflictos bélicos, con la intención de generar el mayor rendimiento económico. Todo ello, claro está, cuando el Tribunal Penal Internacional de La Haya recobre su reconocimiento, y aplique sus funciones.
Publica un comentario: