Certificación de sistemas de  inteligencia artificial mediante  marcas de certificación de la  Unión Europea: una propuesta  integral y segura

Astrid Uzcátegui Angulo; Francklin Rivas Echeverria; Antonio D´Jesús-Pérez

doi:10.26422/RIPI.2024.2100.uzc

Astrid Uzcátegui Angulo Universidad de Los Andes, Venezuela https://orcid.org/0000-0002-3470-6381
Francklin Rivas Echeverria Computer Science and Engineering Department, University of Texas at Arlington https://orcid.org/0000-0002-5201-2877
Antonio D´Jesús-Pérez Universidad Central de Venezuela

DOI: https://doi.org/10.26422/RIPI.2024.2100.uzc

Palabras clave: certificación, inteligencia artificial, marcas de certificación, ética, derechos fundamentales, reglamento de la IA, Unión Europea

Resumen

Este artículo presenta una estrategia innovadora para certificar los modelos de inteligencia artificial (IA) en la Unión Europea mediante marcas de certificación, destacando su papel en el control previo y posventa de sistemas de IA. El objetivo es ofrecer una solución integral y segura que garantice la ética, la calidad y la protección de los derechos fundamentales de los consumidores y creadores, alineada con el Reglamento (UE) 2024/1689 sobre IA. El método se basa en el análisis de los principios fundamentales de las marcas de certificación y compara esta propuesta con los sellos de conformidad tradicionales. Se revisan los estándares técnicos y éticos establecidos por el reglamento para el control de los sistemas de IA, enfatizando la importancia de una certificación independiente y confiable en todas las fases del ciclo de vida. Además, se abordan los riesgos de violación de derechos de autor por parte de los sistemas de IA y se proponen estándares éticos y buenas prácticas en su implementación. Finalmente, se destacan las ventajas únicas de la certificación mediante marcas de certificación de la Unión Europea, así como su capacidad para establecer controles efectivos que refuercen la confianza y el cumplimiento de los estándares éticos. La propuesta ofrece una solución robusta y complementaria al marco normativo europeo, proporcionando una herramienta eficaz para enfrentar los desafíos éticos y legales asociados con la IA.

Descargas

La descarga de datos todavía no está disponible.

Biografía del autor/a

Astrid Uzcátegui Angulo, Universidad de Los Andes, Venezuela

Abogada, especialista en propiedad Intelectual, magíster en Derecho y doctora en Derecho en el área de Relaciones Internacionales por la Universidad Federal de Santa Catarina (UFSC), Florianópolis (SC), Brasil. Profesora titular de pregrado y postgrado en la Facultad de Ciencias Jurídicas y Políticas de la Universidad de Los Andes (ULA). Investigadora con reconocimiento nacional por el Programa de Promoción al Investigador del Observatorio Nacional de Ciencia, Tecnología e Innovación (Venezuela) y por el Consejo de Desarrollo Científico Humanístico y Tecnológico (CDCHT) de la ULA. Investigadora fundadora y responsable del Grupo de Investigación sobre Políticas Públicas de Propiedad Intelectual (G3PI) adscritos al Centro de Estudios Políticos y Sociales de América Latina (CEPSAL) de la ULA. Fundadora y directora general de la Unidad de Gestión de Intangibles (UGIULA) y Fundadora y directora e investigadora del Centro de Investigaciones en Propiedad Intelectual de la Universidad de Los Andes (ULA). Excoordinadora del Postgrado en Propiedad Intelectual de la ULA. Autora de obras, capítulos de libros y artículos científicos arbitrados; editora y compiladora de obras colectivas, integrante del comité académico de obras en el área de la propiedad Intelectual e Industrial y exdirectora de la revista científica Propiedad Intelectual de la ULA. Conferencista nacional e internacional en temas de derecho mercantil y de la propiedad intelectual y propiedad industrial. Miembro correspondiente estadal de la Academia de Mérida, Venezuela, en el área de las artes, las letras, las humanidades y las ciencias sociales.

Francklin Rivas Echeverria, Computer Science and Engineering Department, University of Texas at Arlington

Tiene como principal línea de investigación y desarrollo las aplicaciones de la inteligencia artificial en diversas áreas, incluyendo petróleo y gas, salud, sector financiero y educación. Ha sido reconocido dentro de los cien gerentes más exitosos de Venezuela, nombrado senior member de la IEEE, reconocido como “Maestro destacado” por la Universidad Técnica Federico Santa María de Chile, “Outstanding Leadership award” Conferencia Internet 2.0 (USA, 2023), Reconocimiento por la empresa Halliburton por “contribución y dedicación al desarrollo de la tecnología petrolera”, Distinción Bicentenaria de la Universidad de Los Andes (Venezuela, 2023), “Magna Distinción: Reconocimiento a la Excelencia Académica en la categoría de mejor docente en programas de maestría”, Universidad de El Salvador (2024) y “Visionary Award” Conferencia Internet 2.0 (Dubai, 2024). Es autor de más de trescientas publicaciones científicas y diecinueve libros y es asesor de diversas empresas petroleras y de la Organización de las Naciones Unidas, entre otras. Es ingeniero de Sistemas, magister en Control y Automatización y PhD en Ciencias Aplicadas (Inteligencia Artificial). Es también abogado con mención honorífica y recientemente culminó otro posgrado en Artificial Intelligence and Machine Learning (Purdue University, 2023). Ha sido presidente de varios consorcios internacionales y miembro del board de varias organizaciones y comités científicos. Es profesor e investigador activo de la University of Texas at Arlington, Pontificia Universidad Católica del Ecuador - Ibarra y Chief Research Officer en Kauel Inc. (USA). Es profesor jubilado de la Universidad de Los Andes (Venezuela), profesor de MIU City University Miami y director ejecutivo del Diploma en Data Science de la Universidad Técnica Federico Santa María (Chile). Fue profesor y Decano (E) en Yachay Tech (2022-2023).

Antonio D´Jesús-Pérez, Universidad Central de Venezuela

Consultor legal tanto de instituciones públicas y privadas como en el libre ejercicio de la profesión desde 1993. Consultor en propiedad intelectual de De Sola Pate & Brow (2023). Director de D’Jesús abogados (www.djesusabogados.com), escritorio boutique especializado en propiedad intelectual, legislación cultural y del entretenimiento (2017-2023). Director General de EGEDA (Venezuela), entidad de gestión colectiva del derecho de autor de los productores audiovisuales (2015-2023). Miembro fundador de la Academia Venezolana de Cinematografía (2017-2024). Asesor legal de la Cámara Venezolana del Libro (CAVELIBRO, 2012-2022). Asesor legal de la Cámara de la Televisión por Suscripción (ASOCABLE, 2000-2022). Asesor legal de la Cámara Venezolana de Productores de Largometrajes (CAVEPROL, 2008-2024). Asesor legal externo del Banco Central de Venezuela (2012-2019) en propiedad intelectual. Asesor legal externo en propiedad intelectual de la exhibidora de cine independiente Gran Cine (2017-2024). Director de la Comisión Permanente de Cultura y Recreación de la Asamblea Nacional (2016/ene-2018/agosto). Abogado asociado en Front Despacho de Abogados – Venezuela en propiedad intelectual (1998-2015). Asesor legal externo en propiedad intelectual del Instituto Autónomo Teatro Teresa Carreño (2000-2008). Asesor legal externo del Consejo Nacional de la Cultura -CONAC- en legislación cultural y propiedad intelectual (2002-2005). Asesor legal del Capítulo Venezolano de la Federación Internacional de la Industria Fonográfica (IFPI) con sede en Londres (2000-2001). Asesor legal de la Asociación Venezolana de gestión colectiva de Artistas Intérpretes y Productores Fonográficos (AVINPRO, 1999-2001). Primer suplente de la Fiscalía 18o del Ministerio Público a Nivel Nacional en materia de Propiedad Intelectual (1999-2004). Adjunto al director general del Servicio Autónomo de la Propiedad Intelectual (SAPI, 1999). Coordinador del Área de Inspección y Fiscalización de la Dirección Nacional del Derecho de Autor (DNDA) adscrita al Servicio Autónomo de la Propiedad Intelectual (SAPI, 1997-1999). Abogado externo del Banco Andino Venezolano C.A., Mérida (1994-1997). Abogado externo del Instituto de Crédito Agrícola y Pecuario, Mérida (1994-1996). Libre ejercicio de la profesión en el Escritorio Jurídico D’Jesús Maldonado & Asociados, 1993-1999 (Mérida).

Citas

Adari, S. K. y Alla, S. (2024). Introduction to Deep Learning. En Beginning Anomaly Detection Using Python-Based Deep Learning (pp. 183-260). Apress. https://doi.org/10.1007/979-8-8688-0008-5_5.

Adigital. (16 de noviembre de 2023). La OCDE incluye el Certificado de Transparencia Algorítmica de Adigital en su Catálogo de Herramientas y Métricas para la IA Confiable. https://www.adigital.org/actualidad/la-ocde-incluye-el-certificado-de-transparencia-algoritmica-de-adigital-en-su-catalogo-de-herramientas-y-metricas-para-la-ia-confiable/.

Adigital. (23 de enero de 2024). Adigital arranca su Certificación de Transparencia Algorítmica con las tres primeras empresas acreditadas. https://www.adigital.org/actualidad/adigital-arranca-su-certificacion-de-transparencia-algoritmica-con-las-tres-primeras-empresas-acreditadas/.

Adigital. (24 de octubre de 2024). Destinia obtiene el certificado de transparencia algorítmica de Adigital para su IA «Desta». https://www.adigital.org/actualidad/destinia-obtiene-el-certificado-de-transparencia-algoritmica-de-adigital-para-su-ia-desta/.

AEI Ciberseguridad. (s.f.) AEI - Sello de Ciberseguridad para Organizaciones. https://www.aeiciberseguridad.es/index.php/Sello_AEI.

Audiovisual 451. (17 de septiembre de 2024). EGEDA y ADEPI participan en la Carta de los Derechos Digitales en Entornos Específicos. https://www.audiovisual451.com/egeda-y-adepi-participan-en-la-carta-de-los-derechos-digitales-en-entornos-especificos/.

Azuaje Pirela, M. (2023). Propiedad intelectual como herramienta para promover la transparencia y prevenir la discriminación algorítmica. Revista Chilena de Derecho y Tecnología, 12, e70131. https://dx.doi.org/10.5354/0719-2584.2023.70131.

Brachmann, S. (11 de abril de 2024). Schiff Introduces Bill to Mandate Disclosure of Copyrighted Content Used to Train GAI Models. IPWatchdog. https://ipwatchdog.com/2024/04/11/schiff-introduces-bill-mandate-disclosure-copyrighted-content-used-train-gai-models/id=175249/ .

Belson, J. (2002). Special report certification marks. Sweet & Maxwell.

Comisión Económica para Europa. (27 de septiembre de 2011). Framework Convention Concept - UNECE. https://unece.org/fileadmin/DAM/hlm/sessions/docs2011/informal.notice.5.pdf?utm_source=chatgpt.com.

Comisión Europea. (2024a). Código de buenas prácticas de la IA de finalidad general. https://digital-strategy.ec.europa.eu/es/policies/ai-code-practice.

Comisión Europea (2024b). El Reglamento de Inteligencia Artificial entra en vigor. https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_es.

Comisión Europea. (2024c). Publicación del primer borrador del Código de buenas prácticas de IA de finalidad general, redactado por expertos independientes. https://digital-strategy.ec.europa.eu/es/library/first-draft-general-purpose-ai-code-practice-published-written-independent-experts.

Consejo de Europa. (17 de mayo de 2024). El Consejo de Europa adopta el primer tratado internacional sobre inteligencia artificial. https://www.coe.int/es/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence?utm_source=chatgpt.com.

Cotec. (2024). Uso responsable de la Inteligencia Artificial Generativa. https://cotec.es/proyectos-cpt/uso-responsable-de-la-inteligencia-artificial-generativa/.

Council of Europe. (17 de mayo de 2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. https://search.coe.int/cm?i=0900001680afb11f.

Council of Europe and Artificial Intelligence. (s.f.). Artificial intelligence and human rights. https://www.coe.int/en/web/artificial-intelligence/home.

Databricks (2024). The Big Book of Gen AI. https://www.databricks.com/resources/ebook/big-book-generative-ai.

Egeda. (Septiembre de 2024). Egeda reivindica la libertad de creación, el acceso a la cultura y la defensa de la propiedad intelectual en el entorno digital en un acto por la implementación de la carta de derechos digitales en entornos específicos. https://www.egeda.com/ecom_noticia.aspx?ID=2207.

Ertel, W. (2017). Introduction to Artificial Intelligence (2ª ed.). Springer.

EU Artificial Intelligence Act. (3 de julio de 2024). Introducción a los Códigos de buenas prácticas de la Ley de IZ. https://artificialintelligenceact.eu/es/introduction-to-codes-of-practice/.

Galán, C. (2019). La certificación como mecanismo de control de la inteligencia artificial en Europa. Boletín del Instituto Español de Estudios Estratégicos (IEEE), (14), 46/2019, 622-637. https://www.ieee.es/Galerias/fichero/BoletinesIEEE3/2019/boletinieee14.pdf.

Galdon Clavell, G. (2 de diciembre de 2019). Auditar la sociedad algorítmica. El Siglo. Suplemento Especial/Tribuna. https://elsiglodeuropa.es/la-revolucion-de-los-algoritmos-hablan-los-expertos/?utm_source=chatgpt.com .

González, F. (2024). Nace el primer tratado internacional sobre IA: la Unión Europea, Estados Unidos y Reino Unido ya lo han firmado. 5 de septiembre de 2024. WIRED. https://es.wired.com/articulos/nace-el-primer-tratado-internacional-sobre-ia?utm_source=chatgpt.com.

GovTrack.us. (2024). H.R. 7913: Generative AI Copyright Disclosure Act of 2024. https://www.govtrack.us/congress/bills/118/hr7913.

Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial. (2019). Directrices Éticas para una IA Fiable. Comisión Europea. https://protecciondata.es/wp-content/uploads/2022/02/Directrices-eticas-para-una-Inteligencia-Artificial-fiable.pdf.

ISAN. (s.f.). The Unique ISO Identifier for Audiovisual Content. https://www.isan.org.

Lema Devesa, C. (2018). La Marca de Certificación de la Unión Europea. ADI, 38(2017-2018), 207-221.

Morgenstern, L. y McIlraith, S.A. (2011). John McCarthy's legacy. Artificial Intelligence, 175(1), 1-24. https://doi.org/10.1016/j.artint.2010.11.003.

Naciones Unidas. (21 de marzo de 2024). La Asamblea General adopta una resolución histórica sobre la IA. https://news.un.org/es/story/2024/03/1528511.

Normalización Española. (3 de mayo de 2018). Estándares para la Inteligencia Artificial. UNE. La Revista de la Normalización Española. https://revista.une.org/3/estandares-para-la-inteligencia-artificial.html.

Normalización Española. (s.f.). Comité: UNE. CTN71/SC 42 Inteligencia Artificial y big data. UNE. La Revista de la Normalización Española. https://www.une.org/encuentra-tu-norma/comites-tecnicos-de-normalizacion/comite?c=CTN+71%2FSC+42.

Pérez, E. (17 de octubre de 2022). España ha creado un sello para las empresas que sean transparentes con sus algoritmos: una medida pionera. Xataka. https://www.xataka.com/privacidad/espana-ha-creado-sello-para-empresas-que-sean-transparentes-sus-algoritmos-medida-pionera.

Pettiti, P. (1994). Il marchio collettivo. Commento alla nuova legge sui marchi. Rivista del Diritto Commerciale e del Diritto Generale e delle Obbligazioni, XCII(9-10).

Ramos, L., Márquez, R. y Rivas-Echeverría, F. (2023). AI’s next frontier: The rise of ChatGPT and its implications on society, industry, and scientific research. Revista Ciencia e Ingeniería, 44(2), 131-148.

Ross, T. (2016). Fuzzy Logic with Engineering Applications (4ª ed.). Wiley.

Unesco. (2022). Recomendaciones sobre ética de la inteligencia artificial. https://www.unesco.org/es/articles/recomendacion-sobre-la-etica-de-la-inteligencia-artificial.

Uzcátegui, A. (2009). Las Marcas de Certificación. Academia de Ciencias Políticas y Sociales (Caracas, Venezuela).