Certificação de Sistemas de Inteligência Artificial através de Marcas de Certificação da União Europeia: Uma Proposta Integral e Segura

Autores

DOI:

https://doi.org/10.26422/RIPI.2024.2100.uzc

Palavras-chave:

certificação, inteligência artificial, marcas de certificação, ética, direitos autorais, direitos fundamentais, regulamento de IA, União Europeia

Resumo

Este artigo apresenta uma estratégia inovadora para certificar modelos de Inteligência Artificial (IA) na União Europeia por meio de marcas de certificação, destacando seu papel no controle pré-venda e pós-venda de sistemas de IA. Objetivo: Oferecer uma solução abrangente e segura que garanta ética, qualidade e proteção dos direitos fundamentais dos consumidores e criadores, alinhada com o Regulamento (UE) 2024/1689 sobre IA. Método: A análise foca nos princípios fundamentais das marcas de certificação e compara essa proposta com os selos de conformidade tradicionais. Os padrões técnicos e éticos estabelecidos pelo regulamento para o controle dos sistemas de IA são revisados, enfatizando a importância de uma certificação independente e confiável em todas as fases do ciclo de vida. Além disso, são abordados os riscos de violação de direitos autorais por sistemas de IA e propostas normas éticas e boas práticas para sua implementação. Resultados: São destacadas as vantagens únicas da certificação por meio das marcas de certificação da União Europeia, bem como sua capacidade de estabelecer controles eficazes que reforçam a confiança e o cumprimento dos padrões éticos. Conclusão: A proposta oferece uma solução robusta e complementar ao quadro regulatório europeu, proporcionando uma ferramenta eficaz para enfrentar os desafios éticos e legais associados à IA.

Downloads

Os dados de download ainda não estão disponíveis.

Biografia do Autor

  • Astrid Uzcátegui Angulo, Universidad de Los Andes, Venezuela

    Advogada, especialista em Propriedade Intelectual, mestre em Direito e doutora em Direito na área de Relações Internacionais pela Universidade Federal de Santa Catarina (UFSC), Florianópolis (SC), Brasil. Professora Titular de graduação e pós-graduação na Faculdade de Ciências Jurídicas e Políticas da Universidade dos Andes (ULA). Pesquisadora com reconhecimento nacional pelo Programa de Promoção ao Pesquisador do Observatório Nacional de Ciência, Tecnologia e Inovação, Venezuela, e pelo Conselho de Desenvolvimento Científico, Humanístico e Tecnológico (CDCHT) da ULA. Pesquisadora fundadora e responsável pelo Grupo de Pesquisa em Políticas Públicas de Propriedade Intelectual (G3PI) vinculado ao Centro de Estudos Políticos e Sociais da América Latina (CEPSAL) da ULA. Fundadora e diretora geral da Unidade de Gestão de Intangíveis (UGIULA) e fundadora, diretora e pesquisadora do Centro de Pesquisas em Propriedade Intelectual da Universidade dos Andes (ULA). Ex-coordenadora do Pós-Graduação em Propriedade Intelectual da ULA. Autora de obras, capítulos de livros e artigos científicos arbitrados; editora e compiladora de obras coletivas, integrante do comitê acadêmico de obras na área da Propriedade Intelectual e Industrial e ex-diretora da revista científica "Propriedade Intelectual" da ULA. Palestrante nacional e internacional em temas de Direito Comercial e de Propriedade Intelectual e Industrial. Membro Correspondente Estadual da Academia de Mérida, Venezuela, na área de Artes, Letras, Humanidades e Ciências Sociais.

  • Francklin Rivas Echeverria, Computer Science and Engineering Department, University of Texas at Arlington

    Ele tem como principal linha de pesquisa e desenvolvimento as aplicações da Inteligência Artificial em diversas áreas, incluindo petróleo e gás, saúde, setor financeiro e educação. Foi reconhecido como um dos 100 gerentes mais bem-sucedidos da Venezuela, nomeado Membro Sênior da IEEE e reconhecido como "Professor Destaque" pela Universidade Técnica Federico Santa María do Chile. Recebeu o "Prêmio de Liderança Excepcional" na Conferência Internet 2.0 (EUA, 2023), reconhecimento da Halliburton por "contribuição e dedicação ao desenvolvimento da tecnologia petrolífera" e a Distinção Bicentenária da Universidade de Los Andes (Venezuela, 2023). Foi agraciado com a "Magna Distinção: Reconhecimento à Excelência Acadêmica na categoria de melhor docente em programas de mestrado" pela Universidade de El Salvador (2024) e o "Prêmio Visionário" na Conferência Internet 2.0 (Dubai, 2024). É autor de mais de 300 publicações científicas, 19 livros e atua como consultor de diversas empresas petrolíferas e da Organização das Nações Unidas, entre outros. Ele é Engenheiro de Sistemas, Mestre em Controle e Automação e Doutor em Ciências Aplicadas (Inteligência Artificial). Também é advogado com menção honrosa e recentemente concluiu outro pós-graduação em Inteligência Artificial e Aprendizado de Máquina (Universidade Purdue, 2023). Foi presidente de vários consórcios internacionais e membro do conselho de várias organizações e comitês científicos. É professor e pesquisador ativo na University of Texas at Arlington, Pontifícia Universidade Católica do Equador - Ibarra e Chief Research Officer na Kauel Inc. (EUA). É professor aposentado da Universidade de Los Andes (Venezuela), professor da MIU City University Miami e Diretor Executivo do Diploma em Data Science da Universidade Técnica Federico Santa María (Chile). Foi professor e Decano (interino) na Yachay Tech (2022-2023).

  • Antonio D´Jesús-Pérez, Universidad Central de Venezuela

    EXPERIÊNCIA PROFISSIONAL. Consultor jurídico de instituições públicas e privadas, bem como no exercício da profissão desde 1993. Consultor em Propriedade Intelectual de De Sola Pate & Brow (2023). Diretor do D’Jesús Advogados (www.djesusabogados.com), escritório boutique especializado em propriedade intelectual, legislação cultural e entretenimento (2017-2023). Diretor Geral da EGEDA - Venezuela, entidade de gestão coletiva dos direitos autorais dos produtores audiovisuais (2015-2023). Membro fundador da Academia Venezuelana de Cinematografia (2017-2024). Assessor jurídico da Câmara Venezuelana do Livro - CAVELIBRO - (2012-2022). Assessor jurídico da Câmara de Televisão por Assinatura - ASOCABLE - (2000-2022). Assessor jurídico da Câmara Venezuelana de Produtores de Longa-Metragens - CAVEPROL - (2008-2024); Assessor jurídico externo do Banco Central da Venezuela (2012-2019) em propriedade intelectual; Assessor jurídico externo em propriedade intelectual da distribuidora de cinema independente Gran Cine (2017-2024); Diretor da Comissão Permanente de Cultura e Recreação da Assembleia Nacional (2016/jan-2018/ago); Advogado associado no escritório Front – Venezuela em propriedade intelectual (1998-2015); Assessor jurídico externo em propriedade intelectual do Instituto Autônomo Teatro Teresa Carreño (2000-2008); Assessor jurídico externo do Conselho Nacional da Cultura - CONAC - em legislação cultural e propriedade intelectual (2002-2005); Assessor jurídico do Capítulo Venezuelano da Federação Internacional da Indústria Fonográfica - IFPI - com sede em Londres (2000-2001); Assessor jurídico da Associação Venezuelana de gestão coletiva de Artistas Intérpretes e Produtores Fonográficos - AVINPRO - (1999-2001); Primeiro Suplente da Promotoria 18ª do Ministério Público a Nível Nacional em matéria de Propriedade Intelectual (1999-2004); Adjunto ao diretor geral do Serviço Autônomo da Propriedade Intelectual - SAPI - (1999); Coordenador da Área de Inspeção e Fiscalização da Direção Nacional do Direito Autoral - DNDA - vinculada ao Serviço Autônomo da Propriedade Intelectual - SAPI - (1997-99); Advogado externo do Banco Andino Venezolano C.A., Mérida (1994-1997); e, Advogado externo do Instituto de Crédito Agrícola e Pecuário, Mérida (1994-1996). Exercício livre da profissão no Escritório Jurídico D’Jesús Maldonado & Associados, 1993-1999 (Mérida).

Referências

Adari, S. K. y Alla, S. (2024). Introduction to Deep Learning. En Beginning Anomaly Detection Using Python-Based Deep Learning (pp. 183-260). Apress. https://doi.org/10.1007/979-8-8688-0008-5_5.

Adigital. (16 de noviembre de 2023). La OCDE incluye el Certificado de Transparencia Algorítmica de Adigital en su Catálogo de Herramientas y Métricas para la IA Confiable. https://www.adigital.org/actualidad/la-ocde-incluye-el-certificado-de-transparencia-algoritmica-de-adigital-en-su-catalogo-de-herramientas-y-metricas-para-la-ia-confiable/.

Adigital. (23 de enero de 2024). Adigital arranca su Certificación de Transparencia Algorítmica con las tres primeras empresas acreditadas. https://www.adigital.org/actualidad/adigital-arranca-su-certificacion-de-transparencia-algoritmica-con-las-tres-primeras-empresas-acreditadas/.

Adigital. (24 de octubre de 2024). Destinia obtiene el certificado de transparencia algorítmica de Adigital para su IA «Desta». https://www.adigital.org/actualidad/destinia-obtiene-el-certificado-de-transparencia-algoritmica-de-adigital-para-su-ia-desta/.

AEI Ciberseguridad. (s.f.) AEI - Sello de Ciberseguridad para Organizaciones. https://www.aeiciberseguridad.es/index.php/Sello_AEI.

Audiovisual 451. (17 de septiembre de 2024). EGEDA y ADEPI participan en la Carta de los Derechos Digitales en Entornos Específicos. https://www.audiovisual451.com/egeda-y-adepi-participan-en-la-carta-de-los-derechos-digitales-en-entornos-especificos/.

Azuaje Pirela, M. (2023). Propiedad intelectual como herramienta para promover la transparencia y prevenir la discriminación algorítmica. Revista Chilena de Derecho y Tecnología, 12, e70131. https://dx.doi.org/10.5354/0719-2584.2023.70131.

Brachmann, S. (11 de abril de 2024). Schiff Introduces Bill to Mandate Disclosure of Copyrighted Content Used to Train GAI Models. IPWatchdog. https://ipwatchdog.com/2024/04/11/schiff-introduces-bill-mandate-disclosure-copyrighted-content-used-train-gai-models/id=175249/ .

Belson, J. (2002). Special report certification marks. Sweet & Maxwell.

Comisión Económica para Europa. (27 de septiembre de 2011). Framework Convention Concept - UNECE. https://unece.org/fileadmin/DAM/hlm/sessions/docs2011/informal.notice.5.pdf?utm_source=chatgpt.com.

Comisión Europea. (2024a). Código de buenas prácticas de la IA de finalidad general. https://digital-strategy.ec.europa.eu/es/policies/ai-code-practice.

Comisión Europea (2024b). El Reglamento de Inteligencia Artificial entra en vigor. https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_es.

Comisión Europea. (2024c). Publicación del primer borrador del Código de buenas prácticas de IA de finalidad general, redactado por expertos independientes. https://digital-strategy.ec.europa.eu/es/library/first-draft-general-purpose-ai-code-practice-published-written-independent-experts.

Consejo de Europa. (17 de mayo de 2024). El Consejo de Europa adopta el primer tratado internacional sobre inteligencia artificial. https://www.coe.int/es/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence?utm_source=chatgpt.com.

Cotec. (2024). Uso responsable de la Inteligencia Artificial Generativa. https://cotec.es/proyectos-cpt/uso-responsable-de-la-inteligencia-artificial-generativa/.

Council of Europe. (17 de mayo de 2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. https://search.coe.int/cm?i=0900001680afb11f.

Council of Europe and Artificial Intelligence. (s.f.). Artificial intelligence and human rights. https://www.coe.int/en/web/artificial-intelligence/home.

Databricks (2024). The Big Book of Gen AI. https://www.databricks.com/resources/ebook/big-book-generative-ai.

Egeda. (Septiembre de 2024). Egeda reivindica la libertad de creación, el acceso a la cultura y la defensa de la propiedad intelectual en el entorno digital en un acto por la implementación de la carta de derechos digitales en entornos específicos. https://www.egeda.com/ecom_noticia.aspx?ID=2207.

Ertel, W. (2017). Introduction to Artificial Intelligence (2ª ed.). Springer.

EU Artificial Intelligence Act. (3 de julio de 2024). Introducción a los Códigos de buenas prácticas de la Ley de IZ. https://artificialintelligenceact.eu/es/introduction-to-codes-of-practice/.

Galán, C. (2019). La certificación como mecanismo de control de la inteligencia artificial en Europa. Boletín del Instituto Español de Estudios Estratégicos (IEEE), (14), 46/2019, 622-637. https://www.ieee.es/Galerias/fichero/BoletinesIEEE3/2019/boletinieee14.pdf.

Galdon Clavell, G. (2 de diciembre de 2019). Auditar la sociedad algorítmica. El Siglo. Suplemento Especial/Tribuna. https://elsiglodeuropa.es/la-revolucion-de-los-algoritmos-hablan-los-expertos/?utm_source=chatgpt.com .

González, F. (2024). Nace el primer tratado internacional sobre IA: la Unión Europea, Estados Unidos y Reino Unido ya lo han firmado. 5 de septiembre de 2024. WIRED. https://es.wired.com/articulos/nace-el-primer-tratado-internacional-sobre-ia?utm_source=chatgpt.com.

GovTrack.us. (2024). H.R. 7913: Generative AI Copyright Disclosure Act of 2024. https://www.govtrack.us/congress/bills/118/hr7913.

Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial. (2019). Directrices Éticas para una IA Fiable. Comisión Europea. https://protecciondata.es/wp-content/uploads/2022/02/Directrices-eticas-para-una-Inteligencia-Artificial-fiable.pdf.

ISAN. (s.f.). The Unique ISO Identifier for Audiovisual Content. https://www.isan.org.

Lema Devesa, C. (2018). La Marca de Certificación de la Unión Europea. ADI, 38(2017-2018), 207-221.

Morgenstern, L. y McIlraith, S.A. (2011). John McCarthy's legacy. Artificial Intelligence, 175(1), 1-24. https://doi.org/10.1016/j.artint.2010.11.003.

Naciones Unidas. (21 de marzo de 2024). La Asamblea General adopta una resolución histórica sobre la IA. https://news.un.org/es/story/2024/03/1528511.

Normalización Española. (3 de mayo de 2018). Estándares para la Inteligencia Artificial. UNE. La Revista de la Normalización Española. https://revista.une.org/3/estandares-para-la-inteligencia-artificial.html.

Normalización Española. (s.f.). Comité: UNE. CTN71/SC 42 Inteligencia Artificial y big data. UNE. La Revista de la Normalización Española. https://www.une.org/encuentra-tu-norma/comites-tecnicos-de-normalizacion/comite?c=CTN+71%2FSC+42.

Pérez, E. (17 de octubre de 2022). España ha creado un sello para las empresas que sean transparentes con sus algoritmos: una medida pionera. Xataka. https://www.xataka.com/privacidad/espana-ha-creado-sello-para-empresas-que-sean-transparentes-sus-algoritmos-medida-pionera.

Pettiti, P. (1994). Il marchio collettivo. Commento alla nuova legge sui marchi. Rivista del Diritto Commerciale e del Diritto Generale e delle Obbligazioni, XCII(9-10).

Ramos, L., Márquez, R. y Rivas-Echeverría, F. (2023). AI’s next frontier: The rise of ChatGPT and its implications on society, industry, and scientific research. Revista Ciencia e Ingeniería, 44(2), 131-148.

Ross, T. (2016). Fuzzy Logic with Engineering Applications (4ª ed.). Wiley.

Unesco. (2022). Recomendaciones sobre ética de la inteligencia artificial. https://www.unesco.org/es/articles/recomendacion-sobre-la-etica-de-la-inteligencia-artificial.

Uzcátegui, A. (2009). Las Marcas de Certificación. Academia de Ciencias Políticas y Sociales (Caracas, Venezuela).

Downloads

Publicado

2024-12-31

Edição

n. 21 (2024)

Seção

Artigos de investigação

Licença

Esta licencia permite copiar, distribuir, exhibir y representar la obra siempre y cuando se reconozca la autoría y se cite la obra de la forma adecuada. No se permite el uso comercial de la obra original ni la generación de obras derivadas.
Los autores garantizan a la Revista Iberoamericana de la Propiedad Intelectual el derecho de ser la primera publicación del trabajo.

Como Citar

Certificação de Sistemas de Inteligência Artificial através de Marcas de Certificação da União Europeia: Uma Proposta Integral e Segura. (2024). Revista Iberoamericana De La Propiedad Intelectual, 21, 217-267. https://doi.org/10.26422/RIPI.2024.2100.uzc