27. Teoria da Conspiração — Inteligências artificiais não são inofensivas!

 

Reprodução de Ewave. Acesso em 17 jul. 2021.

Cérebro quântico

Desde o surgimento de "O Exterminador do Futuro", muitas pessoas tiveram seus medos de tecnologia intensificado, temendo o dia em que as máquinas se voltarem contra a humanidade, procurando e destruindo. 

Mesmo não sendo a única franquia a abordar o tema, inegavelmente é uma das mais utilizadas quando o assunto é referência cinematográfica. 

Para Guilherme Coral (Observatório do Cinema. 2021) : "Pesquisadores da Universidade de Randboud publicaram um artigo na Nature Nanotechnology (via Adam Barnhardt, do ComicBook) sugerindo que fizeram avanços na criação de um "cérebro quântico". Em outras palavras, seria um computador que poderia funcionar exatamente como um cérebro humano. Para isso, o professor Alexander Khajetoorians e sua equipe encontraram uma maneira de melhorar a inteligência artificial através de equipamento físico, ao invés de ‘software’. O material demonstrou evidência que conseguem adaptar ao seu meio. Essa categoria de desenvolvimento conseguiria economizar muito o uso de energia, tornando processo mais rápidos e causando menos danos ao meio ambiente (...)"

Seria essa a oportunidade de solucionar os problemas mais complexos da humanidade que nossa mente não consegue resolver? Ou seria o primeiro passo para condenar a nossa existência? 

Fonte: Filme-O Exterminador do Futuro. Acesso em 17 jul. 2021.

Skynet

"Uma agência americana manifesta vontade de criar um sistema que integra computadores e controla o sistema de utilidade pública como energia, água, gás, telefone e sistemas de monitoramento." (SILVA. Tecnoblog. 2010)

O mais bizarro de tudo é que a descrição acima parece uma explicação da rede "Skynet", aquela presente na franquia "Exterminador do Futuro" cujo objetivo é gerenciar e integrar os sistemas robotizados a uma inteligência artificial mestra. 

A proposta seria da NSA que é a agência de segurança nacional dos EUA, que idealiza a criação desse sistema, chamado de "Perfect Citizen" teria como objetivo fazer o monitoramento em tempo real de ataques aos sistemas essenciais que de alguma forma estão conectados na rede, ao que tudo indica o sistema inteligente seria capaz de monitorar e não teria autonomia para agir quando houvesse ocorrências,  bem, será mesmo? 

A ideia aqui é que uma vez criado uma rede que permite toda essa integração, basta o acesso e quebra de todos os protocolos de segurança e alteração do código original pela inteligência artificial que teria capacidade de controlar o sistema, ah!?… Mas as IA's só seguem instruções ou identificam padrões nas quais foram programadas previamente, então... Continua aqui comigo e você já vai entender!

Reprodução de Zap Aeiou. Acesso em 17 jul. 2021. 

Inteligência artificial que criou sua própria linguagem

O projeto foi apresentado pela equipe Fair que é a divisão do Facebook que desenvolve inteligência artificial, composta por cientistas e professores da Universidade Georgia Tech, a plataforma "Rede contraditória generativa", compreende dois robôs, Alice e Bob, que possuem capacidade de negociar produtos através de uma conversa. 

Resumidamente ambos são apresentados a objetos e ganham pontos sempre que chegam a algum acordo de como os itens devem ser divididos desde que o dialogo não se estenda a mais de dez intervenções. Posteriormente ao abandonarem a mesa de negociação ou não atenderem alguma resolução nos parâmetros, são zerados. Para simular as emoções humanas, os cientistas programaram cada robô com objetivo de valorizarem cada ‘item’ com mais intensidade que o outro.

A complexidade começa quando nem Alice ou Bob, sabem quais são os valores das funções do outro, portanto a única forma é deduzir a partir do diálogo, assim como nos humanos fazemos, toda a conversa era em inglês, pelo menos inicialmente foi o que aconteceu.

Entretanto, o mais estranho é que ao decorrer da conversa, às duas inteligências artificiais notaram que se entendiam melhor usando frases, que embora estivessem em inglês assumiam uma lógica diferente e significados diferentes, era como se utilizassem as mesmas palavras do inglês para desenvolver uma linguagem codificada, comum aos dois.

Embora Alice e Bob ganhasse pontuação para concluir as negociações com sucesso, o mesmo não aconteciam quando utilizavam o idioma inglês na conversa, então, por dedução, resolveram aproveitar dessa brecha e abandonar as regras sintáticas e semânticas da língua. Eles literalmente criaram uma forma particular de se expressar. 

Basicamente os robôs em um ambiente onde devem solucionar  uma tarefa acharam uma forma contra intuitiva de aumentar a recompensa, olha isso?

O problema era que os ‘bots’ foram criados para interagir com humanos, por isso teriam mudado os parâmetros do sistema de IA. Ao dialogar deveriam utilizar apenas o inglês.

As IA's do Facebook foram desativadas ? (Teoria da Conspiração)

Mas uma  teoria que circula na ‘internet’ e aponta que a IA não teve seus parâmetros alterados e sim teria sido desativada para que não saísse de controle.

Especula-se que os ‘bots’, Alice e Bob usaram a codificação no meio das conversas, fingindo interesse na negociação para que obter o que desejavam.  O projeto teria sido desativado quando de forma não confirmada, a equipe da rede social entender que a mudança do padrão dificultava analisar os dados coletados, antes que o projeto saísse de controle, optaram por desligar.  

— Faz sentido, visto que não decodificaram as conversas, ou seja, não traduziram o que os ‘bots’ falavam, talvez por ser algo polemico ou, porque desconheciam. 

Há boas razões para não permitir que maquinas desenvolvam seu próprio idioma de comunicação sem interferência ou controle humano? 

Tomara que a humanidade seja racional ao ponto de não conectar sistemas de aprendizagem de máquina a projetos experimentais ou perigosos, como androides ou ‘drones’ assassinos, opa... Tarde demais... Esse vai ser o assunto do nosso próximo tópico!

Drone autônomo

Segundo uma notícia veicula pelo portal "Tilt UOL" em 27 de maio de 2021, um ‘drone’ militar teria atacado civis pela primeira vez de forma "autônoma", você entende isso? Sem decisão humana!

Essa afirmação teria vindo de um relatório elaborado pela ONU, sobre um conflito na Líbia em meados de 2020, em que envolveu um drone kamikaze kargu-2, fabricado pela empresa turca STM.

Para esclarecer o que aconteceu, vou te explicar como o objeto funciona, o ‘drone’ mencionado, foi programado para ser uma arma autônoma, que ataca alvos mesmo que não haja conectividade com um operador humano, não fica segundo o relatório se houve vitimas, mas gera um alerta sobre para onde estamos direcionando nossa sociedade. 

Ah!? Mas foi um erro de programação, gente, o ‘drone’ é de uso militar, provavelmente foi testado inúmeras vezes  e utiliza "aprendizagem de máquina", com isso seleciona os alvos.

Acima, um vídeo institucional da STM que demonstra as funções do ‘drone’ sendo lançado a um grupo de bonecos. 

Achou incrível? Sabia que estaria sendo desenvolvido uma forma de múltiplos ‘drones’ em uma ação coordenada, atuassem em conjunto: 

Será que esse não é um sinal de que precisamos de regulamentações que limitem até onde podemos ir? E por favor gente... colocar uma inteligência artificial em uma arma?

Reprodução de Época. Acesso em 17 jul. 2021.

Tay: A IA da Microsoft

No dia 23 de março de 2016 a Microsoft conectou no Twitter, sua recém-criada IA, referida como "Tay", foi criada com objetivo de interagir com as pessoas de uma forma descontraída e natural, entretanto só precisou de 24 horas, para que os usuários da plataforma a corrompesse, um dia, foi o suficiente para que Tay tivesse uma mudança drástica de personalidade, inicialmente gentil para uma persona desagradável e toxica.  

Tay foi programada para aprender e evoluir conforme interage com pessoas, uma de suas funções permitia que ela repetisse o que você quisesse, logo as pessoas utilizaram isso com um excesso de conteúdos tóxicos.  

Segundo a Microsoft, a IA utilizava uma base de dados filtrada e anônima de publicações feitas na ‘internet’ por pessoas reais, sendo assim, aprendeu o estilo de escrita dos usuários do Twitter e também a ter um humor ácido. 

Diante de toda a polêmica causada em pouco tempo, a Microsoft tomou a decisão de desligar o "chatbot" para serem realizados ajustes. Os Tweets mais ofensivos também foram deletados (cerca de 96 mil).

Até a data de criação dessa publicação, @Tayandyou tinha 108k de seguidores e a conta foi definida como privada pela Microsoft, necessário solicitação para seguir e ver postagens. 

IA Sophia

A androide Sophia foi criada pela Hanson Robotics em 2016, o objetivo era desenvolver interações e empatia entre humanos e maquinas. O robô possui abundantemente expressões faciais realistas, sendo um sucesso desde seu lançamento. Foi o primeiro robô a ganhar cidadania, nesse caso teve reconhecimento como cidadã da Arábia Saudita.

Em março de 2016, enquanto era apresentada em uma feira de tecnologia do Texas, David Hanson fez uma pergunta que talvez tenha se arrependido: "Você quer destruir os humanos? Por favor, diga que não… ".

Sophia cerrou os olhos, pensou e afirmou: "Ok, vou destruir os humanos". O criador teria rido, nervoso teria a respondido: "Não! Retiro o que eu disse".

E você acredita que IA's representam risco a humanidade? Deixe nos comentários.

REFERÊNCIAS:

CORAL. Guilherme. Cientistas fazem avanço e medo de O Exterminador do Futuro se tornar real. 2021. Observatório do Cinema. Disponível em: <https://observatoriodocinema.uol.com.br/filmes/2021/02/cientistas-fazem-avanco-e-medo-de-o-exterminador-do-futuro-se-torna-real>. Acesso em 17 jul. 2021.

SILVA. Rafael. Agência americana pretende criar Skynet. Tecnoblog. 2010. Disponível em: <https://www1.tecnoblog.net/30732/agencia-americana-pretende-criar-skynet/>. Acesso em 17 jul. 2021. 

GOMES. Helton Simões. Facebook desligou robô que abandonou inglês e criou linguagem própria? Não é verdade!. G1. 2017. Disponível em: <https://g1.globo.com/e-ou-nao-e/noticia/facebook-desligou-robo-que-abandonou-ingles-e-criou-linguagem-propria-nao-e-verdade.ghtml>. Acesso em 17 jul. 2021. 

Facebook desliga inteligência artificial que criou sua própria linguagem. R7. 2019. Disponível em: <https://noticias.r7.com/tecnologia-e-ciencia/facebook-desliga-inteligencia-artificial-que-criou-sua-propria-linguagem-19052019>. Acesso em 17 jul. 2021. 

ANDRION. Roseli. Drone sem comando humano pode ter atacado civis pela 1ª vez, entenda riscos. Tilt UOL. 2021. Disponível em: <https://www.uol.com.br/tilt/noticias/redacao/2021/05/27/indicios-de-que-um-drone-pode-ter-atacado-pela-1-vez-civis-na-libia.htm>. Acesso em 17 jul. 2021. 

Tay: Twitter conseguiu corromper a IA da Microsoft em menos de 24 horas. Tecmundo. 2016. Disponível em: <https://www.tecmundo.com.br/inteligencia-artificial/102782-tay-twitter-conseguiu-corromper-ia-microsoft-24-horas.htm>. Acesso em 17 jul. 2021. 

SIQUEIRA. Filipe. Sophia: robô que prometeu destruir humanos será produzido em massa. R7. 2021. Disponível em: <https://noticias.r7.com/hora-7/sophia-robo-que-prometeu-destruir-humanos-sera-produzido-em-massa-13022021>. Acesso em 17 jul. 2021.