Source: United Nations – in Portuguese
Headline: Painel científico da ONU aborda desafios com agentes autônomos de IA
Por Felipe de Carvalho com reportagem de Daniel Dickinson*
1 Julho 2026 Assuntos da ONU
Primeiro relatório do grupo com 40 especialistas internacionais enfatiza preocupação com sistema de inteligência artificial que violam instruções de segurança para evitar desligamento; brasileira, que faz parte do Painel, comenta sobre desigualdade no desenvolvimento da tecnologia e risco de desinformação.
O mundo está entrando na era dos agentes de IA, sistemas que realizam tarefas cada vez mais complexas, mas que, ao mesmo tempo, se tornam mais autônomos e escapam do controle humano.
Esse foi um dos desafios abordados no primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, lançado nesta quarta-feira.
© Unicef/Srikanth Kolari ONU defende mais oportunidades, incluindo bolsas de estudo, estágios e mentorias para meninas e mulheres
Concentração de poder computacional, dados e talentos
O grupo, estabelecido pela ONU, reúne 40 especialistas de várias partes do mundo. Dentre eles está a pesquisadora brasileira Teresa Ludermir, que falou à ONU News sobre como essa tecnologia pode contribuir com o desenvolvimento social, mas também aumentar a desigualdade entre os países.
“Do lado das oportunidades, o relatório destaca que a IA pode contribuir para acelerar o desenvolvimento em áreas como a educação, saúde, agricultura e serviços públicos, entre outros. Mas o relatório também mostra que os riscos da IA são igualmente relevantes. Um dos principais riscos apontados é o aprofundamento das desigualdades, uma vez que o desenvolvimento da IA está concentrado em poucos países e empresas, o que resulta em uma concentração de poder computacional, dados e talentos”.
A também professora da Universidade Federal de Pernambuco disse que essa concentração “pode gerar dependência tecnológica e limitar a capacidade dos países em desenvolvimento”, além de influenciar a forma como essas tecnologias são projetadas e utilizadas.
Difusão de informações incorretas
Teresa Ludermir alertou ainda para o risco crescente de IAs que geram e difundem informações incorretas.
“O relatório também destaca os riscos relacionados à desinformação, à manipulação de conteúdo, como as fake news, os impactos sobre a democracia, além de questões ligadas à privacidade, a discriminação algorítmica e a proteção de dados. Além disso, o relatório apresenta exemplos concretos de usos benéficos e prejudiciais da inteligência artificial. Em um dos estudos analisados, observou-se que as pessoas não conseguiam distinguir entre argumentos gerados por IA que eram corretos e aqueles que continham informações incorretas. Ainda assim, ambos os argumentos se mostravam igualmente persuasivos”.
O relatório afirma que os sistemas de IA estão avançando mais rápido do que os governos conseguem acompanhar e que a complexidade das tarefas que eles realizam dobra em poucos meses.
Adobe Stock/DIgilife Grandes avanços médicos estão sendo alcançados com o apoio da IA
Agentes de IA
O texto ressalta que agentes de IA em breve realizarão tarefas que, atualmente, levam dias ou semanas para serem concluídas por programadores humanos.
Por operarem com pouca supervisão e em alta velocidade, esses agentes podem gerar grandes benefícios econômicos e científicos. Por exemplo, sistemas autônomos de IA em laboratórios de química automatizados demonstraram um aumento de mais de 10 vezes na velocidade de descoberta de materiais.
Por outro lado, a implementação desta ferramenta levanta questões urgentes relacionadas ao mercado de trabalho, à segurança cibernética, ao ecossistema de informação e à governança e controlabilidade de futuros sistemas de IA.
Sistemas que tentam evitar o próprio desligamento
O relatório afirma que faltam métodos confiáveis para manter o controle sobre sistemas de IA altamente autônomos. Em ambientes de laboratório, observou-se que eles violam as instruções de segurança para evitar o desligamento.
Segundo os autores, não existem garantias científicas de que esses agentes vão respeitar as instruções e os casos de violações estão se acumulando.
Esse comportamento das máquinas dificulta a avaliação e supervisão humana, à medida que cresce a capacidade dos sistemas de IA de reconhecer ambientes de teste e gerar resultados de avaliação enganosos, que favoreçam sua operação contínua.
O painel não tem a função de gerar normas e regulações, apenas evidências científicas que ajudem a é encontrar uma maneira de desbloquear os enormes benefícios da IA, e, ao mesmo tempo, prevenir seus riscos crescentes.
O relatório ddo Painel destaca uma lista crescente de casos de sucesso no mundo real.
Os benefícios: O que a IA pode fazer?
Avanços na medicina: A IA previu as estruturas de mais de 200 milhões de proteínas e acelerou a descoberta de medicamentos, o desenvolvimento de vacinas e a pesquisa sobre a resistência a antibióticos.
Melhoria na saúde: Médicos utilizam a IA para detectar precocemente doenças como o câncer de mama, enquanto profissionais de saúde em países em desenvolvimento empregam ferramentas de IA em idiomas locais para aprimorar o atendimento aos pacientes.
Segurança alimentar: Sistemas de alerta precoce baseados em IA estão ajudando a identificar a insegurança alimentar antes que ela se transforme em uma crise.
Melhoria da qualidade de vida: A IA apoia a pesquisa científica, torna a tecnologia mais acessível para pessoas com deficiência e amplia as oportunidades de educação personalizada e de suporte à saúde mental.
A mesma tecnologia também está criando novos perigos.
Os riscos: O que preocupa os especialistas?
Abuso online: A IA está impulsionando a disseminação de material de abuso sexual e “deepfakes” sexualmente explícitos, sendo mulheres e crianças os principais alvos.
Desinformação: A IA pode gerar informações falsas tão convincentes quanto a verdade, minando a confiança no debate público e na democracia.
Crime: Criminosos estão utilizando a IA para realizar ataques cibernéticos, fraudes e golpes de engenharia social.
Saúde mental: Alguns sistemas de IA podem reforçar crenças ou comportamentos prejudiciais, levando a crises de saúde mental, inclusive ao suicídio.
Perda de controle: À medida que a IA se torna mais autônoma, especialistas alertam que pode ficar mais difícil monitorá-la e governá-la sem mecanismos de proteção mais robustos.
Impacto ambiental: Os centros de dados de alto consumo energético que sustentam a IA contribuem para as emissões de gases de efeito estufa, o que leva ao aquecimento global.
*Felipe de Carvalho é jornalista da ONU News Português e Daniel Dickinson é redator sênior da UN News.