No comunicado à imprensa intitulado "Relatório Internacional de Segurança da IA de 2026 aponta mudanças rápidas e riscos emergentes", divulgado em 4 de fevereiro pelo Office of the Chair of the International AI Safety Report através da PR Newswire, a organização nos informa que foram feitas alterações. Segue abaixo a versão completa e atualizada, com detalhes adicionais no final:
Relatório Internacional de Segurança da IA de 2026 aponta mudanças rápidas e riscos emergentes
4 de fevereiro de 2026, MONTREAL /PRNewswire/ -- O Relatório Internacional de Segurança da IA de 2026 é divulgado hoje, fornecendo uma avaliação atualizada, internacionalmente compartilhada e baseada em ciência dos recursos de IA de uso geral, riscos emergentes e o estado atual da gestão de riscos e medidas de proteção.
Presidida pelo vencedor do Prêmio Turing, Yoshua Bengio, esta segunda edição do Relatório Internacional de Segurança da IA reúne mais de 100 especialistas internacionais e conta com o apoio de um Painel Consultivo de Especialistas com indicados de mais de 30 países e organizações internacionais, incluindo a UE, a OCDE e a ONU. As conclusões do Relatório informarão as discussões na Cúpula de Impacto da IA organizada pela Índia no final deste mês.
Os principais destaques do Relatório incluem:
- Os recursos da IA de uso geral continuam a melhorar rapidamente, especialmente em matemática, codificação e operação autônoma. Em 2025, os principais sistemas de IA alcançaram um desempenho digno de medalha de ouro nas questões da Olimpíada Internacional de Matemática, ultrapassaram o desempenho de especialistas em nível de doutorado em benchmarks científicos e tornaram-se capazes de concluir de forma autônoma algumas tarefas de engenharia de software que levariam várias horas a um programador humano. O desempenho, no entanto, continua "irregular", com os sistemas ainda falhando em algumas tarefas aparentemente simples.
- A adoção da IA tem sido rápida, embora desigual em todo o mundo. A IA foi adotada mais rapidamente do que as tecnologias anteriores, como o computador pessoal, com pelo menos 700 milhões de pessoas usando os principais sistemas de IA semanalmente. Em alguns países, mais da metade da população usa IA, embora em grande parte da África, Ásia e América Latina, as taxas de adoção estimadas permaneçam abaixo de 10%.
- Os incidentes relacionados a deepfakes estão aumentando. Os deepfakes de IA são cada vez mais usados para fraudes e golpes. Imagens íntimas não consensuais geradas por IA, que afetam desproporcionalmente mulheres e meninas, também são cada vez mais comuns. Por exemplo, um estudo descobriu que 19 dos 20 aplicativos populares de "nudismo" são especializados na simulação de mulheres se despindo.
- Preocupações com o uso indevido para fins biológicos levaram a medidas de segurança mais rigorosas em alguns modelos importantes. Em 2025, várias empresas de IA lançaram novos modelos com medidas de proteção reforçadas após testes pré-implantação não conseguirem descartar a possibilidade de que os sistemas pudessem ajudar significativamente os novatos a desenvolver armas biológicas.
- Agentes maliciosos, como criminosos, usam ativamente IA de uso geral em ataques cibernéticos. Os sistemas de IA podem gerar códigos prejudiciais e descobrir vulnerabilidades em softwares que os criminosos podem explorar. Em 2025, um agente de IA ficou entre os 5% melhores das equipes em uma grande competição de segurança cibernética. Os mercados clandestinos agora vendem ferramentas de IA pré-configuradas que reduzem o nível de habilidade necessário para realizar ataques.
- Muitas medidas de proteção estão melhorando, mas as técnicas atuais de gestão de riscos continuam falíveis. Embora certos tipos de falhas, como "alucinações", tenham se tornado menos comuns, alguns modelos agora são capazes de distinguir entre contextos de avaliação e implantação e podem alterar seu comportamento de acordo com isso, criando novos desafios em torno da avaliação e dos testes de segurança.
Presidente do Relatório, Yoshua Bengio, Professor Titular na Université de Montréal, Diretor Científico da LawZero e Conselheiro Científico do Mila - Quebec AI Institute, declarou:
"Desde o lançamento do primeiro Relatório Internacional de Segurança em IA, há um ano, observamos saltos significativos nas capacidades do modelo, mas também em seus riscos potenciais, e a lacuna entre o ritmo do avanço tecnológico e nossa capacidade de implementar medidas de proteção eficazes continua sendo um desafio crítico. O Relatório destina-se a fornecer aos tomadores de decisão as evidências rigorosas necessárias para orientar a IA em direção a um futuro seguro e benéfico para todos. Com sua segunda edição, estamos atualizando e fortalecendo nosso entendimento comum, baseado na ciência, sobre a rápida evolução das fronteiras da IA em escala global. "
O ministro do Reino Unido para IA, Kanishka Narayan, disse:
"A confiança na IA é crucial para liberar todo o seu potencial. É uma tecnologia que oferecerá melhores serviços públicos, novas oportunidades de trabalho e inovações que mudarão vidas. Mas também estamos determinados a manter as pessoas seguras à medida que essa tecnologia se desenvolve. O desenvolvimento responsável da IA é uma prioridade comum, e só poderemos moldar o seu futuro para promover mudanças positivas se trabalharmos juntos. Este relatório nos ajuda a fazer exatamente isso – trazer especialistas de todo o mundo para garantir que tenhamos uma forte base de evidências científicas para tomar as decisões certas hoje, o que estabelecerá as bases para um futuro mais brilhante e seguro."
Ashwini Vaishnaw, Ministro das Ferrovias, Informação e Radiodifusão, e Eletrônica e Tecnologia da Informação do Governo da Índia, afirmou:
"À medida que os sistemas de IA se tornam mais capazes, a segurança e a proteção continuam sendo prioridades críticas. O relatório destaca abordagens práticas de avaliações de modelos, limites de capacidade perigosos e compromissos de segurança do tipo "se-então" para reduzir falhas de alto impacto. Nossas estruturas globais de gestão de riscos ainda são imaturas, com referências quantitativas limitadas e lacunas significativas nas evidências. Essas lacunas devem ser abordadas juntamente com a inovação. Para a Índia e o Sul Global, a segurança alimentar está intimamente ligada à inclusão, segurança e preparação institucional. A abertura responsável dos modelos de IA, o acesso justo à computação e aos dados e a cooperação internacional também são essenciais. Como anfitriã da Cúpula de Impacto da IA da Índia de 2026, a Índia tem um papel fundamental na definição dos esforços globais de segurança da IA. O relatório tem como objetivo ajudar os formuladores de políticas, pesquisadores, indústria e sociedade civil a definir estratégias nacionais."
Sobre o Relatório Internacional de Segurança em IA
O Relatório Internacional de Segurança da IA é uma síntese das evidências sobre os recursos e riscos dos sistemas avançados de IA. Ele foi concebido para apoiar a formulação de políticas informadas em nível global, fornecendo uma base de evidências para os tomadores de decisão. Presidido pelo Prof. Yoshua Bengio e escrito por um grupo diversificado de mais de 100 especialistas independentes, o Relatório conta com o respaldo de um Painel Consultivo de Especialistas composto por representantes indicados de mais de 30 países e organizações internacionais, incluindo a UE, a OCDE e a ONU. Embora reconheça os imensos benefícios potenciais da IA, o foco do Relatório está em identificar riscos e avaliar estratégias de mitigação para garantir que a IA seja desenvolvida e utilizada de forma segura, em benefício de todos. O relatório foi encomendado pelo Governo do Reino Unido, com o Secretariado sediado no Instituto de Segurança da IA do Reino Unido para fornecer apoio operacional.
Atualização: esta versão do comunicado inclui um link ancorado no primeiro parágrafo (sob as palavras "Relatório Internacional de Segurança da IA de 2026") e uma citação adicional no final do comunicado.
View original content:https://www.prnewswire.com/br/comunicados-para-a-imprensa/relatorio-internacional-de-seguranca-da-ia-de-2026-aponta-mudancas-rapidas-e-riscos-emergentes-302679777.html
FONTE Office of the Chair of the International AI Safety Report
