Paulo Gonçalves, docente da Escola Superior de Tecnologia do IPCB, foi um dos investigadores vencedores do prémio 2021 Emerging Technology Award, atribuído pela associação de normas do IEEE, no âmbito do trabalho desenvolvido pelo Grupo de Normalização em Ética para a Inteligência Artificial, do qual faz parte da direção.O prémio foi concedido pelo trabalho realizado no desenvolvimento da primeira norma mundial sobre a ética da inteligência artificial e dos sistemas de automação e robótica, baseada em ontologias. A distinção foi recebida por Paulo Gonçalves, em nome do grupo de trabalho, numa cerimónia transmitida on-line (https://youtu.be/QE6m7XOugh4).
Durante os últimos 4 anos, o grupo de trabalho "Ontological Standard for Ethically Driven Robotics and Automation Systems" criou uma Norma única que contribuirá para o desenvolvimento de novas tecnologias eticamente alinhadas com os valores humanos. O docente do IPCB foi um dos três membros da direção deste grupo, que integrou mais de 100 peritos internacionais nas áreas da Engenharia, Direito, Ciências Sociais e Humanas, entre outras.
O grupo de trabalho estabeleceu um conjunto de definições e as relações entre estas, que permitirão: 1) o desenvolvimento de Sistemas de Automação e Robótica de acordo com as teorias mundiais de Moral e Ética; 2) alinhar a Ética e as comunidades de Engenharia para compreender como conceber e implementar, de forma pragmática, estes sistemas; 3) desenvolver uma ferramenta de comunicação precisa entre peritos globais de diferentes domínios que incluam a Robótica, a Automação e a Ética.
Foi desenvolvido um conjunto de ontologias de representação do conhecimento para assim representar a generalidade do domínio de uma forma mais precisa. Como resultado, a Norma contém um conjunto de ontologias que representam os seguintes domínios: normas e princípios éticos; privacidade e proteção de dados; transparência e responsabilização; e gestão de violações éticas.
O grupo de trabalho seguiu um ciclo de vida de desenvolvimento, a fim de assegurar o desenvolvimento de uma norma de qualidade. O desenvolvimento da norma foi um processo complexo e exigiu um ciclo de vida dedicado para lidar com a complexidade do domínio da Ética da Inteligência Artificial. Para este fim, foi desenvolvida uma metodologia ágil, colaborativa e iterativa chamada "Robotic Standard Development Life Cycle".
A Norma desenvolvida pode contribuir para o avanço da utilização da Ética na conceção e implantação de Sistemas Autónomos e Inteligentes de múltiplas formas, das quais se destacam:
- Ensinar o desenvolvimento ético de sistemas porque a ontologia permite ao utilizador analisar em detalhe os componentes necessários para criar sistemas eticamente alinhados;
- O desenvolvimento de capacidades humanas, e também institucionais, no domínio dos Sistemas Autónomos e Inteligentes, por parte das empresas tecnológicas, e também dos estados;
- Criar sistemas computacionais eticamente alinhados devido à sua representação formal. É possível incorporar a norma na conceção de um sistema autónomo e inteligente; e permitir a comunicação com outros sistemas usando a representação formal da ontologia;
- Proporcionar uma taxonomia para apoiar a elaboração de políticas públicas. Definições precisas são essenciais para fornecer uma semântica precisa e desambiguar os significados dos termos quando estes estão a ser discutidos por diferentes partes interessadas.
Mais informação sobre o grupo de trabalho e Norma pode ser consultada em https://site.ieee.org/sagroups-7007 e em https://ieeexplore.ieee.org/document/9611206.