Código de Governança e Ética em IA

NOSSO CÓDIGO DE GOVERNANÇA E ÉTICA EM IA 

 

IA deve ser desenvolvida para uma finalidade específica e definida.

 

A finalidade da IA deve ser explícita e tornada pública por seu desenvolvedor.

 

IA deve ser desenvolvida com empatia pelos seres humanos.

 

IA não deve promover abusos na privacidade de dados de humanos.

 

IA não poderá ser utilizada para fins ilegais ou antiéticos.

 

IA não poderá manipular os seres humanos.

 

IA não poderá manipular a sociedade.

 

IA não deve ser utilizada para que humanos possam subjugar ou dominar outros humanos.

 

IA não deve causar danos intencionalmente aos humanos, sejam eles morais, emocionais, mentais, físicos, econômicos ou sociais.

 

A IA não deve ser desenvolvida para enganar deliberadamente os humanos (deep fake, etc.).

 

IA não deve ter viés e deve mitigar o viés dos humanos.

 

Protocolos devem ser utilizados para prevenção do viés em Datasets usados em treinamento de algoritmos de IA, seja este viés introduzido por seres humanos ou por outras fontes.

 

IA deve tentar mitigar o preconceito, intolerância, discriminação e viés dos seres humanos, buscando sempre maximizar a imparcialidade e equanimidade.

 

Algoritmos de IA devem ser auditados e testados para verificação de viés.

 

As decisões tomadas por IA devem poder ser questionadas. Alçadas e responsáveis devem ser definidos para o caso de humanos desejarem questionar algoritmos.

 

Desenvolvedores devem refletir sobre sua responsabilidade no desenvolvimento de algoritmos de IA.  

 

As equipes de desenvolvimento de IA devem buscar a maior diversidade possível seja em áreas de conhecimento (exatas, humanas, especialistas de domínio), bem como e diversidade racial, de gênero ou cultural, a fim de mitigar o risco de decisões de projeto que possam introduzir viés algorítmico ou possam ser prejudiciais aos humanos.

 

 

ETAPAS DE ANÁLISE DO DESENVOLVIMENTO DE SOLUÇÕES DE IA

 

1. FINALIDADE

• A finalidade foi definida pelo desenvolvedor e está clara e explicita?

 

2. LEGALIDADE

• Os aspectos legais relacionados ao algoritmo foram analisados previamente por uma equipe especializada?

• O algoritmo está em conformidade requisitos legais?

 

3. ÉTICA

• Os aspectos éticos relacionados ao algoritmo foram analisados previamente por uma equipe diversa?

• O algoritmo atende aos requisitos éticos?

 

4. VIÉS

• Foram analisados potenciais efeitos indesejáveis provenientes de viés e preconceitos introduzidos nos dados por humanos ou outras fontes?

• Foram usados protocolos para analisar e eliminar o viés do Dataset?

• O resultado dos algoritmos foi auditado para verificação de existência de viés?  

 

5. DECISÕES

• O algoritmo produz decisões que possam impactar ou prejudicar seres humanos?

• Foram definidas alçadas e responsáveis para analisar o questionamento de humanos sobre decisão de algoritmos?

 

6. REVERSÃO

• As decisões tomadas por algoritmos podem ser revertidas por humanos?

• Foram definidos procedimentos e responsáveis para reverter decisões de algoritmos?

​

​

08/07/2022