Instrumentos colaborativos en la regulación de la responsabilidad civil frente a daños ocasionados por sistemas de inteligencia artificial: sandboxes y evaluación de impacto algorítmica
DOI:
https://doi.org/10.17081/just.29.45.7170Palabras clave:
evaluación de impacto algorítmica, innovación, inteligencia artificial, regulación, responsabilidad civil extracontractual, sandboxesResumen
Objetivo: evidenciar los aportes significativos de los instrumentos colaborativos, los sandboxes y las evaluaciones de impacto algorítmica, en los problemas jurídicos originados por las deficiencias de la regulación tradicional de la responsabilidad civil extracontractual aplicada a los supuestos de daño ocasionado por sistemas de inteligencia artificial (en adelante, IA). Método: para abordar el objetivo señalado, se ha utilizado una metodología de análisis documental a través de una revisión crítica de una amplia gama de libros, capítulos de libros, sitios web, artículos de revistas académicas destacadas, normas jurídicas, informes y recomendaciones internacionales sobre la regulación de los sistemas de IA. Resultados: la investigación evidencia que estos instrumentos contribuyen a resolver las deficiencias del régimen tradicional de responsabilidad civil extracontractual en relación con los sistemas de IA, en cuanto facilita la comprensión sobre el diseño y funcionamiento de éstos, reduce la asimetría de conocimiento entre los sujetos involucrados y otorga certeza y flexibilidad jurídica. Conclusiones: los sistemas de IA representan un avance para la sociedad, pero también conlleva riesgos, respecto de los cuales la regulación tradicional de la responsabilidad civil extracontractual tiene grandes deficiencias. Por ello, además de la incorporación de definiciones, criterios y procedimientos sobre los sistemas de IA en la regulación, ésta requiere de la aplicación de los instrumentos colaborativos de los sandboxes y evaluaciones de impacto algorítmica, en cuanto éstos permiten que las regulaciones entreguen respuestas acordes a la naturaleza dinámica y compleja de la IA, con un equilibrio en la protección de las personas y la innovación.
Descargas
Citas
Referencias
Amunategüi, C. (2023). Responsabilidad civil extracontractual e inteligencia artificial. En C. Céspedes (director) et al, responsabilidad civil extracontractual: instrumentos de derecho comparado,
proyectos de reforma y derecho chileno. Doctrina, jurisprudencia y derecho comparado, 513-525. Tirant lo Blanch.
Araya, C. (2020). Desafíos legales de la inteligencia artificial en Chile. Revista Chilena de Derecho y Tecnología, 9(2), 257-290. http://dx.doi.org/10.5354/0719-2584.2020.54489 DOI: https://doi.org/10.5354/0719-2584.2020.54489
Aznar, A., & Domingues, M. (25 de julio de 2022). La responsabilidad civil derivada del uso de inteligencia artificial. Diario constitucional. https://www.diarioconstitucional.cl/2022/07/25/la-responsabilidadcivil-derivada-del-uso-de-inteligencia-artificial-por-antonio-aznar-domingo-y-maria-patriziadomingues-villarroel/
Banco de Desarrollo de América Latina y Organización para la Cooperación y Desarrollo Económicos, (14 de septiembre de 2022). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe, Estudios de la OCDE sobre Gobernanza Pública. https://doi.
org/10.1787/5b189cb4-es
Barrio, M. (2021). Towards legal regulation of artificial intelligence. Revista IUS, 15(48), 35-53. https://doi.org/10.35487/rius.v15i48.2021.661 DOI: https://doi.org/10.35487/rius.v15i48.2021.661
Barros, E. (2006). Tratado de responsabilidad extracontractual. Editorial Jurídica de Chile.
Bini Mender, S. (2020). Sistemas biométricos y machine learning: sus desafíos. En H. Granero (director académico)., J. Veltani y R. Lozano (Coords) et al, Inteligencia artificial, un reto social, 165-186. Editorial Albremática S.A.
Brynjolfsson, E., Clark, J., Etchemendy, J., Fattorini, L., Ligett, K., Lyons, T., Manyika, J., Maslej, N., Niebles, J., Parli, V., Perrault, R., Reuel, A., Shoham, Y., & Wald, R. (2024). The AI index 2024 Annual report AI.
Institute for Human-Centered AI, Stanford University, Stanford, CA. https://aiindex.stanford.edu/report/
Bustos, Y. (2022). Análisis sobre las medidas de apoyo legal a la experimentación en tecnologías innovadoras. Revista española de Derecho Aeronáutico y Espacial, (2), 319-346. https://aedae-aeroespacial.org/
wp-content/uploads/2022/09/Revista-AEDAE_2022_digital-27-09.pdf
Calo, R. (2015). Robotics and the lessons of Cyberlaw. California Law Review, 103(3), 513-563. https://digitalcommons.law.uw.edu/faculty-articles/23/
Castello, C. (2020). Inteligencia artificial, marco legal argentino y su gobernanza. En H. Granero (director académico)., J. Veltani y R. Lozano (Coords) et al, Inteligencia artificial, un reto social, 355-366. Editorial
Albremática S.A.
Čerka, P., Grigiene, J., & Sirbikytė, G. (2015). Liability for damages caused by artificial intelligence. Computer Law & Security Review, 31(3), 376-389. https://doi.org/10.1016/j.clsr.2015.03.008 DOI: https://doi.org/10.1016/j.clsr.2015.03.008
Chui, M., Kamalnath, V., & McCarthy, B. (2018). An executive’s guide to AI. McKinsey & Company. https://www.mckinsey.com/~/media/McKinsey/Business%20Functions/McKinsey%20Analytics/Our%20Insights/An%20executives%20guide%20to%20AI/Executives-guide-to-AI
Comisión Europea, Dirección General de Justicia y Consumidores. (2019). Responsabilidad por la inteligencia artificial y otras tecnologías digitales emergentes. Oficina de Publicaciones de la Unión Europea.
https://data.europa.eu/doi/10.2838/573689
Corral, H. (2003). Lecciones de responsabilidad civil extracontractual. Editorial Jurídica de Chile.
Dastin, J. (14 de octubre de 2018). Amazon abandona un proyecto de IA para la contratación por su sesgo sexista. Discover Thomson Reuters. https://www.reuters.com/article/amazon-com-contratacion-iaidESKCN1MO0M4
Desde los aires y emulando el trabajo en equipo de las abejas: este es el drone que puede imprimir un edificio en 3D (28 de septiembre de 2022). CNN Chile, sección Futuro 360. https://www.futuro360.com/ciudades-del-manana/drone-imprimir-3d_20220928/fbdclid=IwAR1oIjD7_XRF0JHbXUaDGDOqxm6AfARYD7QvlYZVVtXN9Dekx82uKiWN1aA
Díaz, C., & Flórez, J. (23 de junio de 2022). Imputación de daños causados por robots con inteligencia artificial.
Conceptos aplicables de la responsabilidad civil y del Estado. Centro de Estudios Regulatorios. https://www.cerlatam.com/publicaciones/imputacion-de-danos-causados-por-robots-con-inteligenciaartificial-vigencia-de-los-presupuestos-tradicionales-de-la-responsabilidad-civil-y-del-estado/
Digital Future Society. (febrero de 2024). Hacia un uso responsable de los algoritmos: métodos y herramientas para su auditoría y evaluación. https://digitalfuturesociety.com/es/report/towards_accountable_
algorithms/
Fossaceca, C., & Moreyra, P. (2020). Reflexiones sobre la inteligencia artificial desde la perspectiva jurídica. En H. Granero (director académico)., J. Veltani y R. Lozano (Coords) et al, Inteligencia Artificial, un reto social, 343-354. Editorial Albremática S.A.
Gana, A. (31 de mayo de 2023). El futuro de los vehículos autónomos. Hacia una revolución en la industria automotriz. Publimetro. https://www.publimetro.cl/tacometro/2023/05/31/el-futuro-de-losvehiculos-autonomos/
Gordo, J., Malvaso, A., Mazzarella, C., Saldivio, A., & Sangineto, C. (2019). Accidentes producidos por vehículos autónomos. Universidad Tecnológica Nacional, Facultad Regional Buenos Aires. https://grupogemis.com.ar/wp-content/uploads/2019/05/AdS_M_AccidentesVehiculosAutonomos.pdf
Graff, M., Llamas, J., & Mendoza, O. (2022). Enfoques regulatorios para la inteligencia artificial (IA). Revista chilena de derecho y tecnología, 49(3), 31-62. https://doi.org/10.7764/R.493.2 DOI: https://doi.org/10.7764/R.493.2
Grupo de Diarios de América. (12 de mayo de 2020). Facebook tuvo que “apagar” inteligencia artificial que desarrolló su idioma. El Economista. https://www.eleconomista.net/tendencias/Facebook-tuvoque-apagar-inteligencia-artificial-que-desarrollo-su-idioma-20200512-0017.html
Guío, A. (2021). Sandbox regulatorio de inteligencia artificial en Chile. Ministerio de Economía, fomento y turismo del Gobierno de Chile, FAST (futuro y adopción social de la tecnología) y CAF (Banco de
Desarrollo de América Latina). https://www.economia.gob.cl/wp-content/uploads/2021/09/PaperSandboxIA.pdf
Hernández, T. (19 de mayo de 2023). Así es la Inteligencia Artificial que podría diagnosticar ataques cardíacos. El Tiempo. https://www.eltiempo.com/tecnosfera/novedades-tecnologia/asi-es-la-inteligenciaartificial-que-podria-diagnosticar-ataques-cardiacos-770132
Herrera, D., & Vadillo, S. (2018). Sandbox regulatorio en América Latina y el Caribe para el ecosistema FinTech y el sistema financiero. Banco Interamericano de Desarrollo. https://publications.iadb.org/es/ DOI: https://doi.org/10.18235/0001018
publicacion/17483/sandbox-regulatorio-en-america-latina-el-caribe-para-el-ecosistema-fintech-yel
López Ataz, J. (agosto de 2020). Daños causados por las cosas: una nueva visión a raíz de la robótica y de la inteligencia artificial. Cátedra Jean Monnet de Derecho privado Europeo, 1-58. http://hdl.handle.net/2445/169850
Mansilla, A., Mansilla, E., & Ortiz, J. (2020). ¿Es necesario regular los algoritmos o la inteligencia artificial? En H. Granero (director académico)., J. Veltani y R. Lozano (Coords) et al, Inteligencia artificial, un reto
social (pp.329-342). Editorial Albremática S.A.
Microsoft. (mayo de 2023). Governing AI: a blueprint for the future. https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RW14Gtw
Morales, A. (2021). El impacto de la inteligencia artificial en el Derecho. Advocatus, (39), 39-71. https://doi.org/10.26439/advocatus2021.n39.5117 DOI: https://doi.org/10.26439/advocatus2021.n39.5117
Moyano Oliveira, R. (2020). Decisiones generadas por inteligencia artificial para la resolución de conflictos y Estado de Derecho (de lege ferenda). En H. Granero (director académico)., J. Veltani y R. Lozano (Coords) et al, Inteligencia artificial, un reto social, 77-88. Editorial Albremática S.A.
Neumann, S. (18 de marzo de 2020). Empresa chilena desarrolla solución digital para detectar y monitorear coronavirus. Diario financiero. https://www.df.cl/df-lab/transformacion-digital/empresa-chilenadesarrolla-solucion-digital-para-detectar-y-monitorear
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (23 de noviembre de 2021). Recomendación de la UNESCO sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Organización para la Cooperación y Desarrollo Económicos. (21 de mayo de 2019). Recomendación del Consejo sobre inteligencia artificial. https://legalinstruments.oecd.org/en/instruments/OECDLEGAL-0449#mainText
Press, G. (27 de agosto de 2017). Artificial intelligence (AI) defined. Forbes. https://bit.ly/2ApDKM2
Propuesta de Directiva del Parlamento Europeo y del Consejo, relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad en materia de IA) (2022/0303 (COD)), del 28 de septiembre del año 2022. https://eur-lex.
europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52022PC0496
Propuesta de reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. 21 de abril del año 2021. https://eurlex.europa.eu/legalcontent/ES/TXT/?uri=celex%3A52021PC0206
Real Decreto 817 de 2023. Que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial. 9 de noviembre de 2023. BOE. No. 268. https://www.boe.es/eli/es/rd/2023/11/08/817
Reglamento 12 de 2023 [Administración del Ciberespacio de China Ministerio de Industria y Tecnología de la Información Ministerio de Seguridad Pública]. Sobre la gestión de síntesis en profundidad de los servicios de información de internet. 10 de enero de 2023. https://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm
Resolución 78/265 aprobada por la Asamblea General de la Organización de las Naciones Unidas, sobre aprovechar las oportunidades de sistemas seguros y fiables de inteligencia artificial para el desarrollo sostenible. 21 de marzo de 2024. https://digitallibrary.un.org/record/4043244/files/A_RES_78_265-
ES.pdf?ln=en Resolución del Parlamento Europeo con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial. 20 de octubre de 2020. https://eur-lex.
europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020IP0276
Tapia, A. (2021). La responsabilidad civil derivada del uso de la inteligencia artificial y su aseguramiento. Revista Ibero-Latinoamericana de seguros, 30(54), 107-146. https://doi.org/10.11144/Javeriana.ris54.rcdu DOI: https://doi.org/10.11144/Javeriana.ris54.rcdu
The White House. (octubre de 2022). blueprint for an ai bill of rights making automated systems work for the american people. https://www.whitehouse.gov/ostp/ai-bill-of-rights
The White House. (30 de octubre de 2023). FACT SHEET: President Biden issues executive order on safe, secure, and trustworthy artificial intelligence. https://www.whitehouse.gov/briefing-room/statementsreleases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-andtrustworthy-artificial-intelligence/
Vega, G. (28 de mayo de 2021). La ONU informa del primer ataque de drones autónomos a personas. El País. https://elpais.com/tecnologia/2021-05-28/la-onu-informa-del-primer-ataque-de-dronesautonomos-a-personas.html
Publicado
Cómo citar
Número
Sección
Categorías
Licencia
Derechos de autor 2024 Sebastián Alexander Scheffer Lagos
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los autores/as conservarán sus derechos de autor; garantizarán a la revista el derecho de primera publicación de su obra, el cual estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons que permite a terceros compartir la obra siempre que, se indique su autor y su primera publicación a esta revista. Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista.
