OpenAI descobre ferramenta chinesa de vigilância baseada em IA

Segundo informações do The New York Times, tecnologia foi projetada para monitorar postagens críticas à China em redes sociais ocidentais

Publicado: 24/02/2025 às 14:00

Redação

Leitura 2 minutos

A imagem mostra duas pessoas em uma reunião profissional, sentadas frente a frente em poltronas verdes, diante de uma grande janela de vidro que oferece vista para um ambiente urbano com edifícios ao fundo. Descrição da cena Ambiente: Espaço corporativo moderno, com ampla iluminação natural graças às janelas do chão ao teto. O fundo mostra carros estacionados e prédios, sugerindo que a sala está localizada em um edifício comercial. Interação: Uma pessoa está com um bloco de anotações, em postura ativa de escuta, sugerindo entrevista, reunião de alinhamento ou acompanhamento profissional. A outra pessoa, vestindo um terno azul, segura óculos na mão, em posição inclinada para frente, indicando atenção e diálogo direto. Entre eles, há um laptop aberto sobre uma pequena mesa, reforçando o contexto corporativo e colaborativo. Clima geral: A cena transmite profissionalismo, troca de informações e um ambiente de negócios acolhedor. A composição sugere um momento de tomada de decisão, mentoria, entrevista ou negociação. (trabalho)

Imagem: Shutterstock

A OpenAI revelou ter encontrado evidências de que uma operação de segurança da China desenvolveu uma ferramenta de vigilância baseada em inteligência artificial (IA) para monitorar, em tempo real, postagens críticas ao governo chinês em redes sociais ocidentais.

Segundo informações divulgadas pelo jornal The New York Times, a descoberta foi feita após um dos desenvolvedores do sistema utilizar tecnologias da OpenAI para corrigir erros no código do programa, o que permitiu que os pesquisadores identificassem a atividade. O caso, apelidado de Peer Review, marca a primeira vez que a OpenAI detecta uma ferramenta de vigilância desse tipo, segundo Ben Nimmo, investigador principal da empresa.

As melhores notícias de tecnologia B2B

Acompanhe todas as novidades diretamente na sua caixa de entrada

IA como ferramenta de controle e manipulação

O relatório da OpenAI também aponta que a tecnologia Llama, desenvolvida pela Meta e disponibilizada como código aberto, pode ter sido a base para o desenvolvimento do sistema de vigilância chinês. O estudo destaca preocupações crescentes sobre o uso da IA para vigilância, ataques cibernéticos e campanhas de desinformação, embora a tecnologia também possa ser usada para combater tais ameaças.

Além da ferramenta de vigilância, a OpenAI descobriu outra operação chinesa chamada Sponsored Discontent, que utilizou IA para criar postagens em inglês atacando dissidentes chineses. Esse mesmo grupo também usou IA para traduzir artigos para o espanhol e distribuí-los na América Latina, propagando narrativas críticas à sociedade e política dos Estados Unidos.

Outra campanha, identificada como tendo origem no Camboja, usou IA para gerar e traduzir comentários em redes sociais, impulsionando um esquema de fraude conhecido como pig butchering, no qual golpistas seduzem vítimas online e as envolvem em esquemas fraudulentos de investimento.

*com informações do The New York Times

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!