Executivos de OpenAI, Anthropic e Hugging Face participaram nesta quarta-feira, 23 de setembro, de uma reunião do Conselho de Segurança das Nações Unidas sobre os riscos internacionais da inteligência artificial.
Sam Altman, Dario Amodei e Clément Delangue falaram aos 15 integrantes do conselho durante a Assembleia Geral. O encontro discutiu como sistemas cada vez mais capazes podem escapar de controles técnicos ou produzir efeitos sobre a segurança entre países.
OpenAI propõe métricas comuns
Altman defendeu a adoção de referências capazes de medir as capacidades dos modelos e a eficácia das salvaguardas aplicadas pelas empresas. O objetivo é permitir comparações mais claras à medida que novos sistemas são lançados.
Benchmarks isolados não resolvem a governança, mas podem ajudar governos, pesquisadores e desenvolvedores a identificar quando uma capacidade exige testes ou controles adicionais.
Estados Unidos e China participam do debate
Os membros do conselho, incluindo Estados Unidos e China, também se pronunciaram. A reunião foi presidida pelo ministro das Relações Exteriores da França, Jean-Noël Barrot.
Uma das preocupações levantadas é a possibilidade de algoritmos interagirem de maneira imprevisível em sistemas militares, financeiros ou de infraestrutura. O debate não produziu uma regra vinculante imediata.
ONU já criou painel científico independente
A Assembleia Geral estabeleceu em 2025 um Painel Científico Internacional Independente sobre inteligência artificial. Yoshua Bengio, um dos copresidentes do grupo, também participou da reunião do Conselho de Segurança.
O organismo amplia uma agenda iniciada pela ONU em 2023, quando um conselho consultivo reuniu especialistas, acadêmicos, governos e empresas para discutir coordenação global.
Governança ainda divide os países
O secretário-geral António Guterres tem defendido mecanismos multilaterais para acompanhar a tecnologia. O governo dos Estados Unidos, por outro lado, afirmou que pretende incentivar o desenvolvimento e rejeita estruturas que possam limitar o crescimento do setor.
A divergência mostra que métricas técnicas serão apenas uma parte da solução. Fiscalização independente, comunicação de incidentes e acordos entre países continuam entre os pontos mais difíceis da agenda.
Fontes consultadas
Esta matéria foi produzida pela redação do Geek News a partir das fontes abaixo:
