Um franciscano membro do Comitê Inteligência Artificial da ONU

Frei Paolo Benanti, 50 anos, nascido em Roma, vive num mosteiro no centro da cidade e leciona na Pontifícia Universidade Gregoriana, apoiada pelo Vaticano. Sua chamada ao sacerdócio se deu quando era estudante de engenharia. Cursou então a Regra de São Francisco e os estudos teológicos, mantendo o interesse pela tecnologia.

Sabedor que todas as tecnologias são “estruturas de poder e tipos de ordem” que necessitam de governo, desenvolveu o conceito de “ética algorítmica” – um ramo da ética que lida com a maneira como os princípios humanos são implementados por máquinas.

Nos últimos anos, Benanti juntou-se a uma série de forças-tarefas e comitês nomeados pelo governo italiano que elaboram a estratégia de inteligência artificial (IA) do país. Benanti é também o principal conselheiro do Vaticano em IA, um papel cuja importância cresceu juntamente com as preocupações do papa Francisco em relação à tecnologia disruptiva.

O frade adverte para o fato de que a tecnologia pode nos mudar, fazendo com que as pessoas cedam o poder de escolha a um algoritmo que as conhece bem – “O risco é que elas deleguem o pensamento crítico e o poder de decisão a essas máquinas”.

Outro risco do impacto que a IA pode gerar, especialmente quando controlada pelos monopólios das grandes tecnologias, é com relação aos empregos: “O que estamos vendo neste momento não é um canário na mina de carvão, mas sim um abutre a tentar comer a nossa carniça”.

Benanti deixou sua marca na diplomacia da inteligência artificial por meio de documentos estratégicos como o Apelo de Roma à Ética da IA, uma tentativa da Santa Sé de estabelecer as regras morais básicas para a tecnologia emergente.

Este conjunto de princípios essenciais – transparência, inclusão, responsabilidade, imparcialidade, confiabilidade, segurança e privacidade – para o design da IA obteve o apoio dos gigantes da tecnologia Microsoft e IBM, de líderes religiosos de todo o mundo, do governo da Itália e da Organização das Nações Unidas, com sede em Roma.