top of page

Inteligência Artificial Generativa: Os Prós e Contras na Elaboração de Leis.

Um episódio inédito no Brasil, levanta questionamentos importantes sobre os riscos e potencialidades do uso de IA generativa na produção legislativa.

ia generativa
Polêmicas surgiram após projeto de lei escrito por IA ser aprovado.

No cenário político brasileiro, um acontecimento inusitado marcou o dia 23/11/2023: a aprovação, por unanimidade, de um projeto de lei isentando moradores de Porto Alegre da cobrança pela substituição do medidor de consumo de água em caso de furto.


Até aí, nada extraordinário, não fosse pelo fato de que o texto desse projeto foi inteiramente gerado pela ferramenta ChatGPT da OpenAI, surpreendendo não apenas os vereadores, mas toda a população da cidade.


O vereador Ramiro Rosário, autor aparente da proposta, revelou que solicitou à Inteligência Artificial Generativa a criação de uma lei municipal sobre a proibição de cobrança pelo Departamento Municipal de Água e Esgoto nos casos de furto do medidor.


O texto resultante passou por revisões antes de ser aprovado, mas o presidente da Câmara expressou preocupação, considerando o uso de inteligência artificial na redação de leis como um "precedente perigoso".


Esse episódio inédito no Brasil levanta questionamentos importantes sobre os riscos e potencialidades do uso de IA generativa na produção legislativa.


Riscos do Uso da IA na produção de textos judiciais.


Em primeiro lugar, é crucial entender que propostas de leis geradas por IA nunca trarão inovações para a sociedade, pois baseiam-se em leis existentes e documentos do passado utilizados para o treinamento da IA.


Um dos principais desafios é a falta de empatia e sensibilidade da IA para compreender contextos sociais, políticos e culturais, tornando difícil a criação de leis justas e adaptáveis à evolução da sociedade.


Além disso, a ausência de conceitos éticos e morais na IA pode resultar em textos que negligenciam esses aspectos fundamentais.


O viés presente na IA generativa, decorrente dos dados utilizados no treinamento, é outro ponto crítico.


Como a seleção desses dados é desconhecida, a IA pode apresentar viés político, prejudicando a imparcialidade necessária na criação de leis.


A manipulação possível pelos responsáveis pela engenharia de prompt aumenta ainda mais os riscos de produção de textos legais enviesados.


A "alucinação da IA generativa" é um fenômeno preocupante, no qual os textos gerados não refletem dados factuais, mas uma sequência de palavras estatisticamente prováveis que frequentemente carecem de sentido no mundo real.


Uma revisão jurídica detalhada por especialistas é crucial para evitar que essa alucinação influencie propostas de lei.


Outro desafio é a falta de acurácia em contextos jurídicos específicos. Textos gerados por IA tendem a ter linguagem genérica, enquanto propostas de lei precisam atender a requisitos legais e técnicos específicos.


Sem treinamento adequado, a IA não consegue elaborar textos que respeitem a Constituição e outras legislações relacionadas.


O impacto nos litígios, do uso da Inteligência Artificial Generativa na criação de textos.


A ambiguidade e imprecisão presentes nos textos gerados podem levar a divergências de interpretação e insegurança jurídica no futuro, aumentando potencialmente os litígios relacionados ao tema.


Ao questionar a quem interessa a aprovação de leis escritas por IA em cidades importantes, como Porto Alegre, levantamos a preocupação sobre a criação de uma narrativa que normaliza essa prática sem questionamentos.


A falta de um autor humano para propostas geradas por algoritmos levanta questões sobre responsabilidade e autoria.


No entanto, ao considerar as potencialidades da IA generativa, percebemos que sua capacidade de consolidar conhecimento a partir de vastos conjuntos de dados é impressionante.


Na geração inicial de ideias, a IA oferece eficiência e rapidez para pesquisa e redação básica. Sua capacidade de apresentar aspectos diversos expande a criatividade e a discussão de temas.


Inteligência Artificial de Verdade é Inov.ai.


Somos especializados no desenvolvimento de soluções de automação e inteligência artificial no segmento jurídico e análise automática de documentos e dados não estruturados.


Acreditamos que, com a implementação de soluções de inteligência artificial e de tecnologias avançadas, podemos gerar impactos positivos e expressivos na redução de custo, aumento de produtividade e ganhos de qualidade.


Como o Cadastro 4.0, a solução pautada em IA que realiza extração, análise e entrega de dados que não constam na capa do processo, para integração no seu sistema de gestão.




5 visualizações0 comentário

コメント


bottom of page