Google alerta funcionários sobre uso de chatbots para evitar vazamentos

Controladora do Google aconselhou equipe a não incluir materiais confidenciais na IA. Medida vale para o ChatGPT e, até mesmo, o Bard
Google alerta funcionários sobre uso de chatbots para evitar vazamentos

A Alphabet, controladora do Google, alertou seus funcionários sobre como eles devem usar chatbots, incluindo o seu próprio Bard — concorrente direto do ChatGPT, da OpenAI. De acordo com a Reuters, a companhia aconselhou a equipe a não incluir materiais confidenciais nesses sistemas IA (Inteligência Artificial), pelo risco de vazamento de dados.

As informações foram divulgadas por colaboradores da empresa e o Google confirmou, mencionando sua política de longa data sobre proteção de dados. A questão é que os revisores humanos podem ler os chatbots, e uma pesquisa mostrou possíveis perigos em relação a isso.

Divulgado nesta quinta-feira (15), pela Universidade Cornell, de Nova York (EUA), um estudo concluiu que uma inteligência artificial semelhante pode reproduzir os dados que absorveu durante o treinamento, criando um risco de vazamento.

A Alphabet também alertou os engenheiros sobre o uso da ferramenta para a programação de serviços. À Reuters, a empresa disse que o Bard pode fazer sugestões indesejadas de código, apesar de a tecnologia ajudar os programadores. A big tech também afirmou que pretende ser transparente sobre as limitações de sua tecnologia.

Segundo a Reuters, outras empresas, como Amazon, Samsung e Deutsche Bank, criaram mecanismos de proteção para ferramentas de inteligência artificial, de modo a evitar o vazamento de informações internas.

Retenção de dados é a grande preocupação

As preocupações mostram como o Google pretende evitar prejuízos comerciais por conta do software recém-lançado. A empresa lançou o Bard em fevereiro deste ano, e a plataforma está disponível para 180 países. O Brasil ainda não entrou para a lista.

Um aviso de privacidade do Google atualizado em 1º de junho afirmava: “Não inclua informações confidenciais ou sensíveis em suas conversas com o Bard”.

Algumas empresas desenvolveram softwares para lidar com essas preocupações, como a Cloudflare, que protege sites contra ataques cibernéticos e oferece outros serviços em nuvem. A companhia está comercializando uma ferramenta para que as empresas restrinjam o fluxo externo de alguns dados.

O Google e a Microsoft também estão oferecendo ferramentas de conversação para clientes corporativos que terão um preço mais alto, mas se abstêm de absorver dados em modelos públicos de inteligência artificial. A configuração padrão no Bard e no ChatGPT é salvar o histórico de conversas, mas os usuários podem optar por excluir.

Assine a newsletter do Gizmodo

fique por dentro
das novidades giz Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas