Inteligência artificial pode desenvolver preconceito por conta própria

Rogerio Souza Janeiro 28, 2023 4 min read

A inteligência artificial não precisará ser incorporada em máquinas complexas para criar seus próprios perigos. Por isso, pesquisadores defendem uma Lei Única da Robótica.

Lei Única da Robótica: Os humanos devem florescer

Os robôs assassinos estão passando despercebidos porque, ao contrário dos filmes, eles não nasceram com forma humanoide.

Os seres humanos devem florescer

O autor de ficção científica Isaac Asimov escreveu sobre o controle das máquinas inteligentes que ele vislumbrava para o futuro propondo suas três leis da robótica:

Um robô não pode ferir um ser humano ou, através da inação, permitir que um ser humano venha a ser ferido.
Um robô deve obedecer as ordens que lhe são dadas pelos seres humanos, exceto quando tais ordens entrarem em conflito com a primeira lei.
Um robô deve proteger sua própria existência desde que essa proteção não entre em conflito com a primeira ou a segunda leis.

Agora que a ficção científica está-se tornando realidade, especialistas começam a discutir o assunto e verificar se as três leis ficcionais da robótica seriam adequadas ou suficientes para a robótica real.

Um painel de especialistas reunidos pela Sociedade Real Britânica e pela Academia Britânica sugere que não deve haver três, mas apenas um princípio abrangente para governar as máquinas inteligentes com as quais em breve estaremos convivendo:

Os seres humanos devem florescer.

Preconceito de máquina

Pode parecer que o preconceito seja um fenômeno específico do ser humano, que requer que a cognição humana forme uma opinião ou estereótipo de determinada pessoa ou grupo.

Contudo, especialistas em ciência da computação e psicologia da Universidade de Cardiff (Reino Unido) e do MIT (EUA) demonstraram matemática e experimentalmente que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiando e aprendendo esse comportamento umas das outras – sim, uma máquina se baseando nas outras, independentemente de seres humanos que as ensinem a odiar.

Embora alguns tipos de algoritmos de computador já tenham apresentado preconceitos, como racismo e sexismo, baseados no aprendizado de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade de a inteligência artificial desenvolver grupos preconceituosos por conta própria.

Mais do que isso, o trabalho prova que a emergência do preconceito não requer um alto nível de capacidade cognitiva, ou seja, ele pode ser desenvolvido por máquinas bem simples. Esse comportamento pode ser facilmente incorporado por robôs ou programas de computador projetados seguindo os mecanismos da inteligência artificial.

Desenvolvimento autônomo do preconceito

Todas estas conclusões foram baseadas em simulações em computador de como agentes virtuais podem formar um grupo e interagir uns com os outros.

Em um jogo de dar e receber, cada indivíduo virtual toma uma decisão se doa algo para alguém dentro de seu próprio grupo ou em um grupo diferente, baseando-se na reputação do indivíduo, bem como em sua própria estratégia de doação, que inclui seus níveis de preconceito em relação a pessoas de fora do seu grupo. No início da simulação, todos os agentes foram programados com níveis de preconceito idênticos.

Conforme o jogo se desenrola e um supercomputador acumula milhões de simulações, cada indivíduo começa a aprender novas estratégias copiando o comportamento de outros agentes dentro de seu próprio grupo ou de toda a população.

Inteligência artificial pode desenvolver preconceito por contra própria

Também para evitar os riscos dos robôs assassinos, criados intencionalmente pelo homem com esse objetivo, a robótica e a inteligência artificial exigem leis específicas.
“Executando essas simulações milhares e milhares de vezes, começamos a entender como o preconceito evolui e as condições que o promovem ou impedem.

“Nossas simulações mostram que o preconceito é uma força poderosa da natureza e, por meio da evolução, pode facilmente ser incentivado em populações virtuais, em detrimento da conectividade mais ampla com outros. A proteção contra grupos preconceituosos pode inadvertidamente levar indivíduos a formar outros grupos preconceituosos, resultando em uma população dividida. Tal preconceito generalizado é difícil de reverter,” disse o professor Roger Whitaker.

Máquinas simples com decisões perigosas

Os resultados envolvem indivíduos virtuais que atualizam seus níveis de preconceito copiando preferencialmente aqueles que obtêm um retorno mais alto em curto prazo de suas decisões, o que significa que essas decisões não exigem necessariamente habilidades cognitivas avançadas – elas podem ser apresentadas, por exemplo, pela capacidade computacional incorporada em veículos autônomos ou mesmo em dispositivos simples, como os da Internet das Coisas.

Outra constatação interessante da simulação foi que, sob condições particulares, que incluem subpopulações mais distintas estando presentes em uma população, é mais difícil para que o preconceito se estabeleça.

“Com um número maior de subpopulações, alianças de grupos não preconceituosos podem cooperar sem serem exploradas. Isso também diminui sua condição de minoria, reduzindo a suscetibilidade ao preconceito. Entretanto, isso também exige circunstâncias nas quais os agentes tenham maior disposição de interagir fora do grupo,” concluiu o professor Whitaker.

#IA #InteligenciaArtificial #Tecnologia #Innovacao