Muito se fala sobre a ameaça que a Inteligência Artificial (IA) pode representar para o mercado de trabalho, por seu potencial de substituir a mão-de-obra humana. Mas, nos últimos tempos, especialistas têm alertado para um risco associado à IA ainda mais assustador para a vida em sociedade: o de seu uso por terroristas.

“A inteligência artificial poderia ser usada maliciosamente de várias maneiras, inclusive para executar ataques com drones armados e ciberataques em larga escala”, afirma miles brundage, pesquisador de ia do future of humanity institute, da universidade de oxford, e autor do documento “o uso malicioso da inteligência artificial: previsão, prevenção e mitigação”.

O documento menciona outras possíveis ameaças, como invasão de robôs e outras máquinas autônomas (menciona-se o exemplo hipotético de um robô de limpeza de um órgão governamental que invade a sala de uma ministra para assassiná-la com um explosivo), uso de voz sintetizada para imitar seres de dados para manipular máquinas de IA inimigas de forma imperceptível (com o objetivo de que elas se desenvolvam com falhas), uso de Inteligência Artificial para “phishing” (ou seja, criar emails tão personalizados que seria quase impossível para as vítimas não serem enganadas, entregando senhas e outras informações importantes), além da própria criação de robôs exclusivamente dedicados à destruição (como minidrones ou carros assassinos).

Pense no perigo de meios de transporte autônomos nas mãos erradas. Nos últimos três anos, em cidades como Nice, Barcelona, Paris, Londres e Berlim, veículos convencionais, com uma pessoa ao volante, foram usados para ataques em massas transeuntes. Com carros autônomos, tragédias do tipo poderiam acontecer com impacto ainda mais violento e sem a presença física de motoristas, o que poderia estender a duração de um ataque.

Os drones também constituem uma ameaça crescente de terrorismo com uso de inteligência artificial. Ataques recentes ao presidente da Venezuela, Nicolás Maduro, e ao aeroporto de Abu Dhabi, capital dos Emirados Árabes, intensificaram a preocupação da comunidade internacional com esse risco. Um artigo de agosto do site do Fórum Econômico Mundial adverte sobre a necessidade de reação ao terrorismo de drones.

No ano passado, um vídeo produzido por Stuart Russell, professor da Universidade da Califórnia, em colaboração com o Future Of Life Institute, mostrava minidrones inteligentes e autônomos sendo anunciados como uma grande novidade tecnológica e, depois, cometendo massacres que fugiam ao controle humano. O vídeo era um alerta sobre os riscos do uso da Inteligência Artificial para fins maliciosos.

Apesar de todos os esses riscos serem reais, não há ainda registros de um ataque terrorista feito com uso de IA. Porém, a tecnologia já é aplicada por forças militares. Na Rússia, uma máquina assassina desenvolvia pelo Kalashnikov é capaz de identificar alvos e tomar decisões de matar por conta própria. Nos EUA, o Google esteve envolvia em uma polêmica e foi alvo de protestos de seus funcionários por uma parceria com o Pentágono. A empresa participaria de um programa chamado Project Maven, que previa o uso de Inteligência Artificial para analisar imagens de drones militares. Em junho deste ano, anunciou sua saída do projeto.

Por enquanto, porém, existem algumas barreiras para que a IA vire arma. Uma delas é o custo: ainda é muito caro desenvolver um sistema inteligente – o investimento de empresas nesse segmento deve chegar a US$ 52 bilhões até 2021, segundo a consultoria IDC.

A outra é o nível de especialização exigido para direcionar um sistema inteligente. A falta de profissionais na área causa até disputas entre as gigantes do mundo tecnológico.

“terroristas nem sempre são muito competentes em usar tecnologias novas, e há hoje recursos muito mais simples e baratos para causar o caos. mas, a longo prazo, é algo que todos os governos deveriam ter em seus radares, com certeza”, diz brundage.

Regulamentação

Em julho deste ano, mais de 2.400 pesquisadores de Inteligência Artificial do mundo todo assinaram uma petição contra o desenvolvimento de robôs assassinos.

Entre os signatários, está o professor brasileiro, Fernando Osório, coordenador de robótica da Sociedade Brasileira de Computação.

“Queremos impedir o uso de armas letais com tomada de decisão autônoma porque não podemos atribuir culpa a uma máquina. só podemos responsabilizar pessoas”, diz ele.

Osório explica que há uma linha clara entre um robô usado letalmente e outro programado para matar. O importante, segundo ele, é coibir a criação de programas que confiram a uma máquina o poder de decidir praticar um homicídio.

O holandês Daan Kaysar, especialista em Inteligência Artificial do Instituto Pax e também signatário da petição, diz que é preciso agir com rapidez porque, em poucos anos, o risco de robôs terroristas se tornará real.

“A TECNOLOGIA ESTÁ SE DESENVOLVENDO EM UM RITMO ACELERADO. É IMPORTANTE QUE OS ESTADOS IMPLEMENTEM UMA PROIBIÇÃO PREVENTIVA DAS ARMAS AUTÔNOMAS O MAIS RÁPIDO POSSÍVEL, PARA GARANTIR QUE NUNCA SEJAM DESENVOLVIDAS. ESSA É A ÚNICA MANEIRA DE EVITAR QUE ELAS NÃO SE PROLIFEREM E SEJAM AMPLAMENTE USADAS POR TODOS OS TIPOS DE ATORES”, DIZ KAYSER.

Fonte: UOL Tecnologia

 

 

 

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here