A governança da IA para a humanidade

Confira documento da ONU.

O Órgão Consultivo de Alto Nível do Secretário-Geral das Nações Unidas (ONU) sobre Inteligência Artificial publicou, na quinta-feira 19 de setembro de 2024, o relatório final com sete recomendações de governança internacional de IA para o bem comum.

Chamado de “Governando a IA para a humanidade”, o documento foi construído a partir de consultas com mais de 2 mil participantes de diferentes regiões do mundo.

O relatório afirma que atualmente há um déficit de governança global com relação à IA, enquanto os riscos relacionados aos sistemas e modelos tornam-se cada vez mais aparentes. Além disso, apesar das discussões sobre ética e princípios terem tomado corpo nos últimos anos, o documento também pontua que as normas e instituições ainda são incipientes e cheias de lacunas.

“A governança da IA é crucial, não apenas para abordar os desafios e riscos, mas também para garantir que aproveitemos o potencial da IA de maneiras que não deixem ninguém para trás”, destaca o relatório.

O órgão também destaca que a governança global de IA é um imperativo “irrefutável”, já que, embora as tecnologias estejam sendo desenvolvidas por uma minoria, os efeitos trazidos por elas têm impactos globais e transnacionais.

“O desenvolvimento, a implantação e o uso de tal tecnologia não podem ser deixados apenas aos caprichos dos mercados. Governos nacionais e organizações regionais serão cruciais, mas a própria natureza da tecnologia em si — transfronteiriça em estrutura e aplicação — necessita de uma abordagem global”, trouxe o documento.

Partindo desse cenário, o órgão sugere, então, uma abordagem cooperativa, holística e global para governar a IA para a humanidade a partir das estruturas intergovernamentais das Nações Unidas. Veja abaixo as sete recomendações do Órgão Consultivo da ONU para governança internacional de IA:

1. Criação de um painel científico internacional sobre IA

O órgão sugere a criação de um painel científico independente sobre IA, composto por especialistas multidisciplinares na área. O grupo ficaria responsável por emitir um relatório anual a partir de pesquisas sobre capacidades, oportunidades, riscos e incertezas relacionadas à tecnologia, identificando áreas de consenso científico sobre tendências tecnológicas e pontos de atenção. Produção e emissão de resumos e relatórios sobre questões emergentes também seriam de responsabilidade do painel.

2. Diálogos de políticas sobre IA

O conselho também recomenda que haja diálogo político intergovernamental e multissetorial semestral sobre o tema da governança de IA. Isso seria feito “nas margens” das reuniões existentes da ONU. Os encontros, então, teriam o propósito de compartilhar melhores práticas de governança que fomentem o desenvolvimento enquanto promovem o respeito e proteção dos direitos humanos, além de repartir informações e conhecimentos sobre o cenário da tecnologia.

3. Intercâmbio de padrões de IA

Na esteira de uma abordagem de compartilhamento de informações, o relatório sugere a criação de mecanismos de intercâmbio de padrões de IA, reunindo representantes de organizações nacionais e internacionais especializadas no desenvolvimento de padrões, além da sociedade civil e cientistas. Esse grupo seria responsável por criar e manter um registro de definições e padrões aplicáveis para medir e avaliar sistemas.

4. Criação de uma rede de desenvolvimento de capacidades

Com uma rede de desenvolvimento de capacidades, agregando centros de desenvolvimento filiados à ONU, seria possível catalisar e alinhar esforços regionais e globais de potenciais da IA e disponibilizar instrutores, computação e dados de treinamento de IA em vários centros para pesquisadores e empreendedores sociais que buscam aplicar IA a casos de uso de interesse público local.

5. Fundo global para IA

O conselho recomenda a criação de um fundo global para IA, gerenciado por uma estrutura de governança independente. O fundo receberia contribuições financeiras de fontes públicas e privadas e seria destinado para o empoderamento local rumo aos objetivos de desenvolvimento sustentável (ODS). Uma das aplicações do fundo seria para enviar recursos de computação para treinamento de modelos em países sem capacidade local adequada ou meios de obtê-la.

6. Estrutura global de dados

Desenvolvida por meio de um processo iniciado por uma agência relevante, como a Comissão das Nações Unidas sobre Direito Comercial Internacional e informada pelo trabalho de outras organizações internacionais, uma estrutura global de dados de IA poderia estabelecer padrões comuns em torno da procedência e uso de dados para treinamento dos sistemas, além de criar mecanismos de administração e troca de dados.

7. Escritório de IA dentro do secretariado

Por fim, o conselho recomenda a criação de um escritório de IA dentro do Secretariado, reportando-se ao Secretário-Geral da ONU. Trabalhando de maneira ágil na organização, o escritório recorreria sempre que possível, a entidades relevantes existentes das Nações Unidas, apoiando as propostas trazidas no relatório.

Fonte1 Transfronteiriça