http://repositorio.unb.br/handle/10482/41966| File | Description | Size | Format | |
|---|---|---|---|---|
| 2021_JoséAntonioSiqueiradeCerqueira.pdf | 4,86 MB | Adobe PDF | View/Open |
| Title: | Exploring ethical requirements elicitation for applications in the context of AI |
| Authors: | Cerqueira, José Antonio Siqueira de |
| metadata.dc.contributor.email: | jose.siqueira.cerqueira@gmail.com |
| Orientador(es):: | Canedo, Edna Dias |
| Assunto:: | Ética Ética em inteligência artificial Engenharia de requisitos Requisitos éticos Aprendizagem de máquina Desenvolvimento de software |
| Issue Date: | 30-Aug-2021 |
| Data de defesa:: | 22-Jun-2021 |
| Citation: | CERQUEIRA, José Antonio Siqueira de. Exploring ethical requirements elicitation for applications in the context of AI. 2021. xvii, 175 f., il. Dissertação (Mestrado em Informática)—Universidade de Brasília, Brasília, 2021. |
| Abstract: | O uso crescente de sistemas baseados em Inteligência Artificial (IA) em diversas áreas do nosso cotidiano provoca o aumento da consciência sobre as implicações éticas do seu uso. A maioria dos estudos encontrados na literatura focam em diretrizes e princípios éticos para IA, e estes não atendem às demandas dos projetos de desenvolvimento de software do mundo real, uma vez que estes princípios são de alto nível e abstratos, implicando em pouco esforço em como operacionalizar a ética na IA. Assim, existe uma lacuna na operacionalização destes princípios na prática. Objetivo: Desta forma, o objetivo deste trabalho é propor um guia para apoiar os Product Owners e desenvolvedores de sistemas baseados em IA na elicitação de requisitos éticos. Metodologia: Utilizamos a metodologia Design Science Research e na etapa de compreensão do problema realizamos uma revisão sistemática de literatura. Além disso, desenvolvemos um guia online e realizamos a sua validação através de um survey e um grupo focal com profissionais da área. Resultados: Identificamos 33 estudos primários relacionados às diretrizes e aspectos práticos de ética em IA, dentre eles, destacamos 11 princípios éticos e o método ECCOLA. Desenvolvemos o Guia para Elicitação de Requisitos Éticos em IA (RE4AI Ethical Guide) como um sistema baseado na web, funcionando como um Planning Poker, composto de 26 cartas novas, abarcando os 11 princípios encontrados na primeira etapa. A validação do Guia foi realizada através de um survey com 40 estudantes de graduação e pós-graduação, e um grupo focal com 5 profissionais na área. Nossos achados sugerem que o RE4AI Ethical Guide, de acordo com a percepção dos profissionais da área, é interessante e tem o potencial de facilitar a elicitação dos requisitos éticos. Conclusão: O Guia proposto possui utilidade e praticidade e pode ajudar na elicitação de requisitos éticos no contexto de desenvolvimento ágil. Assim, nossos resultados preliminares revelam que o Guia contribui para preencher a lacuna entre princípios de alto nível e abstratos e a prática, auxiliando os desenvolvedores e Product Owners, principalmente em projetos de desenvolvimento ágil, a elicitar requisitos éticos e operacionalizar a ética em IA. |
| Abstract: | The increasing use of Artificial Intelligence (AI) based systems in various areas of our daily lives provokes increased awareness about the ethical implications of their use. Most of the studies found focus on ethical guidelines and principles for AI, and these do not meet the demands of real- world software development projects, since these principles are high-level and abstract, implying little effort on how to operationalize ethics in AI. Thus, there is a gap in operationalizing these principles in practice. Objective: Therefore, the aim of this work is to propose a guide to support Product Owners and developers of AI-based systems in the elicitation of ethical requirements. Methodology: We used the Design Science Research methodology and in the awareness of the problem phase we conducted a systematic literature review. In addition, we developed an online guide and performed its validation through a survey and a focus group with professionals in the area. Results: We identified 33 primary studies related to guidelines and practical aspects of ethics in AI, among them, we highlighted 11 ethical principles and the ECCOLA method. We developed the Guide for Artificial Intelligence Ethical Requirements Elicitation (RE4AI Ethical Guide) as a web-based system, working as a Planning Poker, composed of 26 new cards, covering the 11 principles found in the first step. The evaluation of the Guide was performed through a survey with 40 undergraduate and graduate students, and a focus group with 5 AI professionals. Our findings suggest that the RE4AI Ethical Guide, according to the perception of experts in the area, is interesting and has the potential to facilitate the elicitation of ethical requirements. Conclusion: The proposed Guide is both useful and practical and can help in the elicitation of ethical requirements in the context of agile development. Thus, our preliminary results reveal that the Guide contributes to bridging the gap between high-level and abstract principles and practice by assisting developers and Product Owners, especially in agile development projects, to elicit ethical requirements and operationalise ethics in AI. |
| metadata.dc.description.unidade: | Instituto de Ciências Exatas (IE) Departamento de Ciência da Computação (IE CIC) |
| Description: | Dissertação (mestrado)—Universidade de Brasília, Instituto de Ciências Exatas, Departamento de Ciência da Computação, 2021. |
| metadata.dc.description.ppg: | Programa de Pós-Graduação em Informática |
| Licença:: | A concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições: Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.bce.unb.br, www.ibict.br, http://hercules.vtls.com/cgi-bin/ndltd/chameleon?lng=pt&skin=ndltd sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra disponibilizada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data. |
| Appears in Collections: | Teses, dissertações e produtos pós-doutorado |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.