Dilemas derivados del uso de sistemas autónomos de armas letales en el derecho internacional humanitario
DOI:
https://doi.org/10.17081/just.29.45.7143Palabras clave:
arma autónoma, control humano, derecho internacional humanitario, inteligencia artificial, SAALResumen
La inteligencia artificial (IA) ha sido una tecnología que, en esta última década, se ha utilizado en el ámbito militar, lo que ha dado origen a los denominados sistemas autónomos de armas letales (SAAL) que han generado preocupación desde el plano del derecho internacional por su desarrollo y uso en conflictos bélicos. Objetivo: la investigación argumenta que los SAAL no son capaces para dar estricto cumplimiento a los principios básicos del derecho internacional humanitario (DIH), principalmente, respecto con el principio de distinción, precaución y de proporcionalidad, lo que permite identificar cuáles serán los dilemas legales que deparan este tipo de armas. Método: la investigación es cualitativa, de tipo jurídico documental y enmarcada dentro del método dogmático. Resultados: el uso de SAAL presenta varios obstáculos que permiten sostener que dichas armas autónomas no pueden dar estricto cumplimiento a los principios del DIH. Ante dicho incumplimiento, es necesario afrontar las complejidades de esta tecnología en el futuro desde el plano legal. Conclusiones: los dilemas legales en la medida que se desarrolle esta tecnología se centran en el desarrollo de marcos regulatorios aplicables a los SAAL y la incorporación del control humano significativo en los procesos de toma de decisión que se requiera con ocasión de estas armas autónomas, para lograr una solución jurídica a los cuestionamientos que el progresivo desarrollo tecnológico depara, sin socavar la innovación.
Descargas
Citas
Amoroso, D., Tamburrini, G. (2020). Autonomous weapons systems and meaningful human control: ethical and legal issues. Current Robot Reports, 1, 187–194. https://doi.org/10.1007/s43154-020-00024-3 DOI: https://doi.org/10.1007/s43154-020-00024-3
Arya, V., Bellamy, R., Chen, P., Dhurandhar, A., Hind, M., Hoffman, S., & Zhang, Y. (2019). One explanation does not fit all: a toolkit and taxonomy of ai explainability techniques. Computer Science, https://doi.org/10.48550/arXiv.1909.03012.
Ayoub, K., & Payne, K. (2016). Strategy in the age of artificial intelligence. Journal of strategic studies, 39, 793-819. https://doi.org/10.1080/01402390.2015.1088838. DOI: https://doi.org/10.1080/01402390.2015.1088838
Azuaje, M. (2021). Inteligencia artificial y nuevo escenario internacional. En C. Llanos, El nuevo escenario internacional. Un nuevo paradigma para Chile y el mundo, 99-107. Academia Diplomática de Chile “Andrés Bello”. https://issuu.com/apuntesinternacionales/docs/v2_-revista_diplomacia_145_-
_210122/s/14610180
Azuaje, M., & Finol, D. (2023). Aproximaciones a la noción de inteligencia artificial y otros conceptos vinculados con ella. En M. Azuaje, Introducción a la ética y el derecho de la inteligencia artificial, 17-33. La Ley.
Akkuş, B. (2022). Autonomous weapon systems under international law. Güvenlik Bilimleri Dergisi, 11(2), 333-366. Doi:10.28956/gbd.1078155 DOI: https://doi.org/10.28956/gbd.1078155
Bedecarratz, F., & Aravena, M. (2023). Principios y directrices éticas sobre inteligencia artificial. En M. Azuaje, Introducción a la ética y el derecho de la inteligencia artificial, 203-218. La Ley.
Bills, G. (2014). LAWS onto themselves: controlling the development and use of lethal autonomous weapons systems. George Washington Law Review, 83(1), 176-208 https://www.gwlr.org/wp-content/uploads/2015/03/83-Geo-Wash-L-Rev-176.pdf
Bo, M. (2021). Autonomous weapons and the responsibility gap in light of the mens rea of the war crime of attacking civilians in the ICC Statute. Journal of international criminal justice, 19(2), 275–299. https://doi.org/10.1093/jicj/mqab005. DOI: https://doi.org/10.1093/jicj/mqab005
Boothby, W. (2009). Weapons and the law of armed conflict. Oxford University Press. DOI: https://doi.org/10.1093/acprof:oso/9780199569946.001.0001
Boulanin, V., & Verbruggen, M. (2017). Mapping the development of autonomy in weapon systems. SIPRI.
Brehm, M. (2017). Defending the boundary: constraints and requirements on the use of autonomous weapon systems under international humanitarian and human rights law. Geneva academy briefing (9), http://dx.doi.org/10.2139/ssrn.2972071. DOI: https://doi.org/10.2139/ssrn.2972071
Campaña para detener los robots asesinos. (s.f). Problemas con las armas autónomas. https://www.stopkillerrobots.org/es/detener-robots-asesinos/hechos-sobre-armas-aut%C3%B3nomas/
Carrera, B. (2021). Responsabilidad Penal Internacional para el empleo de armas completamente autónomas durante conflictos armados. Revista de investigación académica y educación, 5(2), 93 – 101. https://
www.revistaacademica-istcre.edu.ec/articulo/94
Committee of the Red Cross. (2015). XXXII Conferencia internacional de la Cruz Roja y la media luna roja, informe. https://www.icrc.org/es/xxxii-conferencia-internacional
Committee of the Red Cross. (2019). International humanitarian law and the challenges of contemporary armed conflicts: recommitting to protection in armed conflict on the 70th anniversary of the Geneva Conventions. Conference of the red cross and red crescent.https://www.icrc.org/en/document/international-humanitarian-law-and-challenges-contemporary-armed-conflicts
Committee of the Red Cross. (2021). Posición del CICR sobre los sistemas de armas autónomos. https://www.icrc.org/es/document/posicion-del-cicr-sobre-los-sistemas-de-armas-autonomos https://www.icrc.org/es/document/posicion-del-cicr-sobre-los-sistemas-de-armas-autonomos
Contreras, P., & Trigo, P. (2021). La gobernanza de la inteligencia artificial: esbozo de un mapa entre hard law y soft law internacional. En M. Azuaje, & P. Contretas, Inteligencia artificial y derecho: desafíos y perspectivas, 457-480. Tirant lo Blanch.
DoD responsible ai working council. (2022). U.S. Departament of defense responsible artificial intelligence strategy and implementation pathway. https://media.defense.gov/2022/Jun/22/2003022604/-1/-1/0/
Department-of-Defense-Responsible-Artificial-Intelligence-Strategy-and-Implementation-Pathway.PDF
Dombrovszki, A. (2021). The unfounded bias against autonomous weapons systems. Információs Társadalom, XXI(2), 13-28. https://doi.org/https://dx.doi.org/10.22503/inftars.XXI.2021.2.2. DOI: https://doi.org/10.22503/inftars.XXI.2021.2.2
Egeland, K. (2016). Lethal autonomous weapon systems under international humanitarian law. Nordic journal of international law, 85(2), 89-118. https://doi.org/10.1163/15718107-08502001 DOI: https://doi.org/10.1163/15718107-08502001
Farinella, F. (2021). Sistemas de armas autónomos y principios del derecho internacional humanitario.
Quaestio Iuris, 14(2), 504-514. https://doi.org/10.12957/rqi.2021.54593
Giannini, A., & Kwik, J. (2023). Negligence failures and negligence fixes. A comparative analysis of criminal regulation of ai and autonomous vehicles. Criminal law forum(34), 43-85. https://doi.org/10.1007/s10609-023-09451-1. DOI: https://doi.org/10.1007/s10609-023-09451-1
Gorrín, L. (2016). Las armas “autónomas” y el Derecho Internacional Humanitario. Centro de estudios del derecho internacional humanitario (CEDIH). https://docer.com.ar/doc/n0ssx0c8
Harbers, M., Peeters, M., & Neerincx, M. (2017). Perceived autonomy of robots: effects of appearance and context. En M. Aldinhas, J. Silva, M. Tokhi, E. Kadar, & G. Virk, A world with robots. Intelligent systems, control and automation: science and engineering, 19-33. Springer. https://link.springer.com/chapter/10.1007/978-3-319-46667-5_2 DOI: https://doi.org/10.1007/978-3-319-46667-5_2
Henckaerts, J., & Doswald-Beck, L. (2007). El derecho internacional humanitario consuetudinario. Comité Internacional de la Cruz Roja. https://www.icrc.org/es/doc/resources/documents/publication/ppcustom.htm
Herbach, J. (2012). Into the caves of steel: precaution, cognition and robotic weapon systems under the international law of armed conflict. Amsterdam law forum, 4(3), 3-20, 2012, SSRN: https://ssrn.com/abstract=2154466 DOI: https://doi.org/10.37974/ALF.226
Horowitz, M. (2018). Artificial intelligence, international competition. Texas national security review, 1(3), 36–57. https://doi.org/https://doi.org/10.15781/T2639KP49.
Human Rights Watch. (2012). Losing Humanity: the case against Killer Robots. Human Rights Clinic (IHRC), Harvard Law School’s International. https://www.hrw.org/sites/default/files/reports/arms1112_ForUpload.pdf
Ilica, A. (2023). El debate sobre los sistemas de armas autónomos letales: perspectivas en el sistema internacional. Estudios CEEAG, 1-13. https://www.ceeag.cl/wp-content/uploads/2023/06/EC-AISistemas-
de-armas-autonomos-letales.pdf
Jensen, E.T. (2020). Autonomy and precautions in the law of armed conflict. International law studies, 96(1), 578-601. https://digital-commons.usnwc.edu/ils/vol96/iss1/19/.
Kasher, A. (2007). The principle of distinction. Journal of military ethics, 6, 152-167. https://doi.org/10.1080/15027570701436841. DOI: https://doi.org/10.1080/15027570701436841
López, P. (2009). Principios fundamentales del Derecho Internacional Humanitario. Revismar, 3, 230-238. https://revistamarina.cl/revistas/2009/3/lopez.pdf
López, E. (2020). El empleo de drones armados desde la perspectiva del Derecho internacional humanitario y del Derecho internacional de los derechos humanos. En M. Cervell, Nuevas tecnologías en el uso de
la fuerza: drones, armas autónomas y ciberespacio, 67-110. Thomson Reuters Aranzadi. https://www.researchgate.net/publication/348993836_El_empleo_de_drones_armados_desde_la_perspectiva_del_Derecho_internacional_humanitario_y_el_Derecho_internacional_de_los_derechos_humanos
Maas, M. (2019). How viable is international arms control for military artificial intelligence? Three lessons from nuclear weapons. Contemporary security policy, 40, 285-311. https://doi.org/10.1080/13523260.2019.1576464. DOI: https://doi.org/10.1080/13523260.2019.1576464
Macher, M. (2021). Sistemas de armas autónomas y DIH. Advertencia de un futuro cercano. Ius et veritas, 63, 179-191.
https://doi.org/10.18800/iusetveritas.202102.009. DOI: https://doi.org/10.18800/iusetveritas.202102.009
Madrid, J. (2022). El derecho internacional humanitario frente al desafío de las armas autónomas. Anuario Iberoamericano sobre Derecho Internacional Humanitario, 3, 49-84. doi.org/10.5294/aidih.2022.3.3. DOI: https://doi.org/10.5294/aidih.2022.3.3
Madrid, J. (23 de julio de 2023). Las armas autónomas desafían los principios del Derecho Internacional Humanitario. https://www.diarioconstitucional.cl/2023/07/25/las-armas-autonomas-desafian-losprincipios-del-derecho-internacional-humanitario-por-julian-ariel-madrid-moreno/
Marín, A. (2023). Los sistemas de armas autónomos letales y el Derecho Internacional Humanitario en la Guerra de Ucrania. Relaciones internacionales (53), 71-90. https://revistas.uam.es/relacionesinternacionales/article/view/17023 DOI: https://doi.org/10.15366/relacionesinternacionales2023.53.004
Marín, D., Cruz, C., & Herrera, P. (2019). Robots asesinos: ¿realidad o ficción? Los sistemas de armas autónomas en el marco del Derecho Internacional Humanitario. USFQ Law Review, 6(1), 12-28. 10.18272/lr.v6i1.1405. DOI: https://doi.org/10.18272/lr.v6i1.1405
Martín, E. (2017). La autonomía en robótica y el uso de la fuerza. Instituto Español de estudios estratégicos: https://www.ieee.es/Galerias/fichero/docs_opinion/2017/DIEEEO27-2017_Robotica_UsoFuerza_EvaMartinIbanez.pdf
Martínez, R., & Rodríguez, J. (2020). El lado oscuro de la inteligencia artificial. El caso de los sistemas de armamento letal autónomo o los Killer Robots. Idees (48), 1-10. https://revistaidees.cat/es/el-ladooscuro-de-la-inteligencia-artificial/?pdf=13299
Ministry of Defence UK. (2022). Ambitious, safe, responsible: our approach to the delivery of AI-enabled capability in Defence. https://www.gov.uk/government/publications/ambitious-safe-responsibleour-approach-to-the-delivery-of-ai-enabled-capability-in-defence
Navarro, R. (2023). La ética y las entidades de IA. En M. Azuaje, Introducción a la ética y el derecho de la inteligencia artificial, 49-66. La Ley.
Organización de las Naciones Unidas. (2019). Final report: meeting of the high contracting parties to the convention on prohibitions or restrictions on the use of certain conventional weapons which may be deemed to be excessively injurious or to have indiscriminate effects, Geneva, 13-15 November 2. https://digitallibrary.un.org/record/3856241?ln=es&v=pdf
Organización del Tratado del Atlántico Norte. (2021). Summary of the NATO artificial intelligence strategy. https://www.nato.int/cps/en/natohq/official_texts_187617.htm
Pareja, M. (2023). Usos, retos y oportunidades de la inteligencia artificial en el ejército. De Lege Ferenda, (1), 1-17. https://doi.org/10.30827/dlf.1.2023.28553. DOI: https://doi.org/10.30827/dlf.1.2023.28553
Payne, K. (2018). Artificial intelligence: a revolution in strategic Affairs? Survival, 60, 7-32. https://doi.org/10.1080/00396338.2018.1518374. DOI: https://doi.org/10.1080/00396338.2018.1518374
Petman, J. (2017). Autonomous weapons systems and international Humanitarian Law: ‘out of the loop’? The eric castren institute of international Law and Human Rights. https://researchportal.helsinki.fi/en/
publications/autonomous-weapons-systems-and-international-humanitarian-law-out
Press, M. (2018). Of robots and rules: autonomous weapon system in the law of armed conflict. Georgetown journal of international law (48), 1337-1366. https://www.law.georgetown.edu/international-lawjournal/
wp-content/uploads/sites/21/2018/05/48-4-Of-Robots-and-Rules.pdf
Rodríguez, F. (2013). La investigación jurídica y socio-jurídica. Revista Justicia, 18(24), 8-14.
Salmón, E. (2012). Introducción al Derecho Internacional Humanitario. Pontificia Universidad Católica del Perú.
Sassóli, M. (2014). Autonomous weapons and international humanitarian law: advantages, open technical questions and legal issues to be clarified. International law studies, 90(1), 308-340. https://digitalcommons.
usnwc.edu/cgi/viewcontent.cgi?article=1017&context=ils
Schmitt, M., & Thurnher, J. (2013). ‘Out of the loop’: autonomous weapon systems and the law of armed conflict. Harvard National Security Journal(14), 231-281. SSRN: https://ssrn.com/abstract=2212188 DOI: https://doi.org/10.2139/ssrn.2271158
Sehrawat, V. (2017). Autonomous weapon system: law of armed conflict (LOAC) and other legal challenges. Computer law & security review, 33(1), 38-56.https://doi.org/10.1016/j.clsr.2016.11.001. DOI: https://doi.org/10.1016/j.clsr.2016.11.001
Sharkey, N. (2012). The evitability of autonomous robot warfare. International review of the red cross, 94(886), 787-799. https://international-review.icrc.org/articles/evitability-autonomous-robot-warfare DOI: https://doi.org/10.1017/S1816383112000732
Theodorou, A., & Dignum, V. (2020). Towards ethical and socio-legal governance in AI. Nature machine intelligence, 10-12.https://doi.org/10.1038/s42256-019-0136-y. DOI: https://doi.org/10.1038/s42256-019-0136-y
Thurnher, J. (2016). Means and methods of the future: autonomous systems. En P. Ducheine, M. Schmitt, & F. Osinga, Targeting: the challenges of modern warfare, 177–199. T.M.C. Asser Press. https://link. DOI: https://doi.org/10.1007/978-94-6265-072-5_9
springer.com/chapter/10.1007/978-94-6265-072-5_9
Vigevano, M. (2021). Inteligencia artificial aplicable a los conflictos armados: límites jurídicos y éticos. Arbor, 197(800), https://doi.org/10.3989/arbor.2021.800002. DOI: https://doi.org/10.3989/arbor.2021.800002
Publicado
Cómo citar
Número
Sección
Categorías
Licencia
Derechos de autor 2024 Marcos Antonio Aravena Flores
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los autores/as conservarán sus derechos de autor; garantizarán a la revista el derecho de primera publicación de su obra, el cual estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que, se indique su autor y su primera publicación a esta revista. Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
