Total de visualizações de página

Leitores online

Mostrando postagens com marcador IA. Mostrar todas as postagens
Mostrando postagens com marcador IA. Mostrar todas as postagens

sexta-feira, 22 de dezembro de 2023

Uso militar e político e propagação de notícias falsas: os principais riscos e desafios ligados à IA

 


Apesar de ter se popularizado em todo o mundo só na última década, a expressão inteligência artificial (IA) surgiu ainda no fim dos anos 1950 e, na origem em latim, significa "inteligência que vem da arte". E há quase 75 anos já era iniciado o esboço do que viria a ser o primeiro chatbot (assistente virtual) do mundo, batizado de Elisa.

É o que contou Thomas Bellini Freitas, doutorando na Universidade Federal do Rio Grande do Sul (UFRGS), ao podcast Mundioka, da Sputnik Brasil, apresentado pelos jornalistas Melina Saad e Marcelo Castilho. "Mas essa ideia de uma criação artificial é muito mais antiga, vem de séculos. Heron de Alexandria [que viveu na Grécia Antiga] já fazia desenhos de autômatos", esclarece o especialista, que também é autor do livro "Inteligência Artificial e Responsabilidade Humana".
Setor que deve gerar até US$ 150 bilhões (R$ 731,7 bilhões) em investimentos até 2035, a inteligência artificial teoricamente não tem limites, segundo Thomas Bellini.
Porém o potencial do que pode proporcionar à sociedade só está no começo. "As utilizações ainda são extremamente simples. O ChatGPT [um dos chatbots mais populares] tem toda essa atenção midiática por ter uma linguagem generativa, mas ainda é fraco e não consegue dar conta de procedimentos de altíssima complexidade", pontua.

Quais são os 4 tipos de inteligência artificial?

A inteligência artificial é classificada em quatro segmentos: aprendizado de máquina, robótica inteligente, processamento de linguagem natural e visão computacional.
Conforme o especialista, é um sistema que busca simular uma decisão humana, mas não substituí-la. "Um avião não tenta ser igual a uma ave, o avião tenta ser um avião, assim como a IA não tenta ser um ser humano, por mais que em muitos casos a diferenciação vá ser quase impossível. É o caso de simulações de pessoas, criação de imagens", exemplifica.

Com avanços notáveis na fronteira da tecnologia, a IA já emerge como protagonista nas narrativas contemporâneas. Desvendando novas possibilidades e desafios, essa revolução digital redefine os limites do possível, moldando o futuro com algoritmos e inovações que permeiam todos os aspectos da vida moderna.

O box acima poderia muito bem ser uma explicação do próprio especialista ou um parágrafo desta reportagem, mas foi criado, a título de exemplo, a partir de uma das tantas ferramentas de inteligência artificial de acesso gratuito.
Thomas Bellini alerta justamente que uma necessidade para garantir a segurança em relação à tecnologia é sempre avisar que tal ação foi criada por uma IA.

"Por exemplo, no âmbito do direito pode ter uma decisão judicial feita com base em inteligência artificial e sem os réus saberem que veio dessa tecnologia. Existe um debate sobre até que ponto ela pode ser utilizada, ou, no mínimo, [pode ser] informado […] o seu uso", justifica.

Como a inteligência artificial afeta a sociedade?

As notícias falsas já são alvo do debate e da preocupação frente aos problemas que trouxeram à democracia nas últimas décadas. E com o avanço da tecnologia e a facilidade de acesso à IA, passaram a influenciar ainda mais todo o sistema político, lembra o doutorando da UFRGS. "O grande debate que acontece nesse quesito são as notícias falsas que são amplificadas pela utilização da inteligência artificial, que confere a esse problema um grau de perigo muito maior. Existe algo que se chama deepfake, ou seja, a simulação de uma maneira que fica praticamente idêntica à realidade. Inclusive viralizou, não há muito tempo, uma imagem do papa [Francisco] de jaqueta até razoavelmente realista, e pode enganar alguém", disse.
Imagem falsa do papa Francisco usando jaqueta, feita com inteligência artificial - Sputnik Brasil, 1920, 20.12.2023
Imagem falsa do papa Francisco usando jaqueta, feita com inteligência artificial
Esse é um dos motivos, conforme o especialista, que levam à necessidade de uma regulamentação internacional que imponha limites e regras ao uso da IA. "Já foram feitas, inclusive, algumas declarações conjuntas, até mais recentemente, dos Estados Unidos e da China para justamente tentar impedir os males. Mas nada até hoje prático, com resultados concretos. Eu acho que as Nações Unidas deveriam colocar isso, inclusive, como prioridade, a elaboração de algum tratado internacional para regular a inteligência artificial", defende.

Como a inteligência artificial contribui em conflitos militares?

Os avanços tecnológicos da inteligência artificial já podem ser vistos até no meio militar. É o caso do conflito na Ucrânia, em que, segundo Thomas Bellini, a tecnologia está presente nos avançados drones russos.

"Está sendo empregada de uma maneira extremamente eficiente pela Federação da Rússia. O drone Lancet, que é muito famoso, tem um alto grau de precisão. E elaborou agora uma nova versão, que se chama Izdelie 53. Esses equipamentos conseguem se comunicar entre si e atingir um alvo sem a atuação humana. Ou seja, é a inteligência artificial empregada no combate."

Diante disso, o especialista lembra que o debate sobre a IA já é um importante elemento da geopolítica atual, uma vez que está além dos setores intelectual, acadêmico e econômico, tornando-se uma nova ferramenta militar.

"Inclusive uma das razões para os Estados Unidos tentarem tirar da China seu acesso aos chips e semicondutores, que hoje em dia se debate tanto, é justamente para evitar que a China tenha progresso no ramo", diz.

China: uma das líderes do desenvolvimento global da inteligência artificial

Com pelo menos 79 modelos de IA já desenvolvidos, cada um com mais de 1 bilhão de parâmetros, a China tem alcançado um enorme progresso nos últimos anos que a coloca entre os países líderes no setor. Além disso, metade desses modelos é realizada em código aberto, o que significa que são disponibilizados gratuitamente.

"A China tem avançado no desenvolvimento de modelos de inteligência artificial (IA) em grande escala. De acordo com o Instituto de Informação Científica e Técnica da China, pelo menos 79 modelos de IA em grande escala foram desenvolvidos no país, cada um com mais de 1 bilhão de parâmetros. Especialistas da indústria afirmam que os Estados Unidos e a China têm liderado o desenvolvimento global desses modelos, mas a China ainda precisa diminuir a lacuna com os Estados Unidos nessa área", afirmou.

Já no Brasil, o especialista lembra que, apesar de ter cientistas de dados que "não ficam atrás em nenhum quesito" do resto do mundo, ainda não existe nenhum projeto importante na área. "O STF [Supremo Tribunal Federal] utiliza uma IA para analisar alguns processos, o Tribunal de Contas da União [TCU] também, e certamente existem vários outros. Na área do agronegócio, algumas tecnologias estão sendo empregadas, até mesmo para satélites, para saber onde é que tem alguma queimada, onde há desmatamento; isso pode ser empregado. Entretanto não há nada muito robusto."
O logotipo OpenAI é visto em um telefone celular na frente de uma tela de computador que exibe a saída do ChatGPT, em Boston. EUA, 21 de março de 2023 - Sputnik Brasil, 1920, 17.11.2023
Panorama internacional
Como a inteligência artificial pode impulsionar a economia de países africanos


Como será o futuro do trabalho na era da inteligência artificial?

Um dos principais temores é a substituição de vagas no mercado de trabalho pelo uso da inteligência artificial nas mais diversas funções, como um contador, analista de crédito, caixa de supermercado e profissional de marketing.
O professor de direito da pós-graduação da Fundação Getulio Vargas (FGV) em São Paulo e coordenador do Centro de Ensino e Pesquisa em Inovação da entidade, Alexandre Pacheco, enfatiza que novos tipos de trabalho também serão demandados pela tecnologia.
Porém o questionamento que fica é: o saldo será positivo ou negativo?

"Esse discussão sempre ocorreu nas grandes transformações tecnológicas. Quando surge a eletricidade, por exemplo, deixaram de ser necessários os acendedores de lampiões ou até mesmo postes de querosene para gerar iluminação noturna. Com a disseminação da energia elétrica, cria-se, no final das contas, um contexto em que a pessoa não é mais necessária. E nesse sentido, como ela vai ser realocada? Vai existir uma nova posição para ela poder trabalhar?", questiona.

Para o especialista, as habilidades que a pessoa conseguiu construir ao longo de toda uma vida deixam de ser demandadas pela sociedade, e por isso é criado um grande desafio social.

"Cada vez mais vislumbro, pela velocidade da transformação tecnológica e pelo tipo de transformação tecnológica que a gente está vivenciando, que o saldo será negativo. Nisso entram os governos, com políticas [de readequação profissional destes] […] exércitos de pessoas […] [nas quais] a gente já investiu para que tivessem uma formação, e que essa formação se perdeu ao longo do tempo por causa das transformações tecnológicas", finaliza.


terça-feira, 2 de maio de 2023

'Padrinho da Inteligência Artificial' sai do Google e alerta que máquinas pensantes representam perigo para a humanidade

 


Geoffrey Hinton passou a maior parte de sua vida defendendo e desenvolvendo redes neurais, mas agora passou a temê-las.

Geoffrey Hinton, apelidado de "Padrinho da IA", deixou seu cargo no Google e expressou temores sobre o progresso futuro no campo das redes neurais, observando que era "bastante assustador", dizem relatos da mídia.
Hinton lamenta o trabalho de sua vida e diz que em breve as redes neurais vão se tornar mais inteligentes do que as pessoas. O problema é que as empresas permitem que os robôs não apenas gerem código de computador, mas também executem esse código por conta própria. Ele teme que em breve a inteligência artificial (IA) se torne completamente autossustentável e autônoma em relação aos humanos. Na verdade, as redes neurais formam uma espécie de mente coletiva – elas "compartilham seu conhecimento instantaneamente" – o que conhece um robô também é conhecido pelos demais. É por isso que não há como o cérebro humano ser capaz de competir com um artificial.

Outra questão é a intenção do usuário. Como ele diz, "é difícil ver como você pode impedir que os maus atores a usem para coisas ruins", obviamente se referindo a políticos que podem usar IA para ganho pessoal.

O especialista compartilhou suas ansiedades sobre trabalhar em uma tecnologia potencialmente perigosa e se acalmou parafraseando Robert Oppenheimer ao dizer que "quando você vê algo que é tecnicamente bom, vá em frente e faça".
Inteligência artificial (imagem ilustrativa) - Sputnik Brasil, 1920, 01.05.2023
Ciência e sociedade
Mercado acredita que 25% das empresas no mundo esperam cortes de empregos em função da IA

No entanto, essa técnica de autoajuda claramente não está mais funcionando agora, pois ele planeja fazer uma campanha ativa para conter a IA porque representa "riscos profundos para a sociedade e a humanidade".
No NYT de hoje, Cade Metz insinua que deixei o Google para poder criticar o Google. Na verdade, saí para poder falar sobre os perigos da IA sem considerar como isso afeta o Google. O Google agiu com muita responsabilidade
Hinton começou como especialista em psicologia cognitiva, mas logo mudou para ciências da computação, porém, nunca esquecendo o que aprendeu em sua Alma Mater. É possível alegar que essas combinações únicas de habilidades permitiram que ele tivesse a ideia da agora conhecida rede neural em 1972. Uma rede neural é um modelo matemático de autoaprendizagem que se desenvolve analisando novas informações. Muitos cientistas ficaram bastante céticos sobre suas ideias no início, mas a história provou que eles estavam errados.
Em 2012, Geoffrey Hinton, juntamente com seus alunos Ilya Sutskever e Alex Krishevsky, criaram uma rede neural, capaz de analisar e identificar imagens. Em outras palavras, poderia dizer a diferença entre uma flor e um cachorro, ou um cachorro e um humano. Esse projeto chamou a atenção dos executivos do Google, e a gigante da tecnologia comprou a start-up de Hinton por US$ 44 milhões (cerca de R$ 221,9 milhões), integrando-a ao projeto Google Brain (Cérebro do Google).
As ideias de Hinton se tornaram a base para o desenvolvimento das atuais tecnologias de ponta de IA, como ChatGPT ou Google Bard. Em 2018, ele recebeu o Prêmio Turing por seu trabalho pioneiro em redes neurais.

Minha lista de blogs