Entre inovação e risco, IA ganha espaço no Conselho de Segurança da ONU
A inteligência artificial entrou de vez na agenda de segurança internacional. Nesta quarta-feira (23), executivos de algumas das principais empresas do setor participam de uma reunião do Conselho de Segurança da ONU dedicada aos riscos associados ao avanço da tecnologia. Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e Clément Delangue, cofundador da Hugging Face, devem apresentar suas perspectivas aos 15 integrantes do órgão, em um encontro que ocorre durante a Assembleia Geral das Nações Unidas. A discussão acontece em um momento de crescente preocupação sobre a velocidade de desenvolvimento dos sistemas mais avançados. Entre os cenários levantados está a possibilidade de modelos cada vez mais autônomos apresentarem comportamentos difíceis de prever ou controlar e produzirem impactos que ultrapassem o ambiente tecnológico, chegando à segurança nacional e internacional. Segundo a Reuters, Altman deve defender a adoção de parâmetros de referência capazes de medir as capacidades dos sistemas de IA e avaliar as medidas de segurança adotadas pelas empresas durante seu desenvolvimento.
ONU também acende alerta
O alerta também ganhou espaço dentro da própria ONU. Em seu último discurso na Assembleia Geral como secretário-geral, António Guterres defendeu uma estrutura multilateral para gerenciamento dos riscos da IA, com supervisão independente, testes e avaliações coordenadas entre os países. Na semana anterior, ele já havia classificado a possibilidade de uma IA descontrolada entre as principais ameaças globais, ao lado da crise climática e do aprofundamento das desigualdades.
Ao mesmo tempo, não existe consenso sobre como responder a esses riscos. Parte dos líderes da indústria vem defendendo maior coordenação internacional e mecanismos de segurança, enquanto outros executivos e governos questionam a necessidade de novas restrições. A própria Assembleia Geral expôs essa divergência: enquanto Guterres pediu maior governança, o presidente dos Estados Unidos, Donald Trump, defendeu o avanço da tecnologia e se posicionou contra iniciativas internacionais de controle da IA. O debate que chega ao Conselho de Segurança, portanto, vai além da evolução dos modelos: envolve quem define seus limites, como os riscos serão monitorados e qual será o papel dos governos diante de uma tecnologia que avança em escala global.
Saiba mais sobre Tecnologia & Direito
Garanta a segurança dos dados do seu escritório e proteja a confiança dos seus clientes. Explore as soluções pautadas em IA agora, entre em contato com a INOV.AI: Fale Conosco | INOV.AI
Comentários