Diretrizes sobre a utilização responsável da IA generativa na investigação

Com o aparecimento de inúmeros sistemas de Inteligência Artificial generativa, a sua rápida adoção e potencial de utilização na investigação, houve necessidade de criar um quadro ético e prático para a aplicação de tecnologias de IA generativa em ambientes de investigação. A Direção-Geral de Investigação e Inovação da Comissão Europeia produziu assim as Living Guidelines on the responsible use of generative AI in research, publicadas em março de 2024.

Os princípios fundamentais enunciados nas orientações para a utilização responsável da IA generativa na investigação baseiam-se em documentos previamente existentes, sendo os principais o European Code of Conduct for Research Integrity da All European Academies  (ALLEA) – Fiabilidade; Honestidade; Respeito e Responsabilidade –  e as Ethics Guidelines for Trustworthy AI do EU High-Level Expert Group on AI, que determina que uma IA confiável deve seguir os princípios do respeito pela autonomia humana; prevenção de danos;  justiça; e explicabilidade.

As recomendações são dirigidas a 3 atores – investigadores, organizações de investigação e financiadores – e têm um pendor muito prático, desde logo destacando que os seres humanos (e não a IA) são responsáveis pelos resultados de investigação – o que é muito importante por exemplo no caso das autorias de publicações e outros resultados -, o uso de ferramentas de IA generativa deve ser reportado; informação sensível não deve ser importada para ferramentas de IA, os investigadores devem aprender a usar a IA da melhor forma e conhecer a legislação nacional, europeia e internacional, e que estas ferramentas não devem ser usadas para tarefas com impacto direto em terceiros, ex. revisão por pares e avaliação de propostas de investigação.

A nível das organizações, recomenda-se que devem promover, guiar, apoiar e também monitorizar o uso da IA generativa na investigação, referenciar ou integrar as orientações éticas nas orientações de investigação gerais, e quando possível, implementar ferramentas de IA que sejam geríveis localmente, assegurando a privacidade e confidencialidade dos dados.

As diretrizes enfatizam princípios fundamentais, como a integridade da pesquisa, a transparência e a responsabilidade, que são essenciais para garantir a qualidade e a ética na produção de conhecimento.

Conheça este documento na íntegra aqui.