“As divulgações e as opções do consumidor em torno das configurações de privacidade são ridicularizadas”, diz Ben Winters, diretor de IA e privacidade de dados da Federação Consumidora da América. “Eu só o usaria para instruções divertidas de nível superficial ou coisas que não têm nada a ver com suas informações pessoais, desejo, preocupações, medos ou qualquer coisa que você não transmitisse para a Internet”.
Problemas de privacidade personalizados da IA
Um assistente virtual que pode antecipar suas necessidades – ou mesmo ser seu terapeuta – é o Santo Graal da IA. E a Meta não é a única empresa que impulsiona mais profundamente os dados pessoais.
O Google recentemente adicionou uma opção a Gemini que permite usar o histórico de pesquisa do Google para personalizar suas respostas. O ChatGPT acrescentou a capacidade de lembrar detalhes nas conversas.
Mas a era da IA personalizada também traz novas complicações de privacidade: como gerenciamos o que queremos que os bots saibam e como eles usam nossas informações? “Só porque essas ferramentas agem como seu amigo não significa que elas sejam”, diz Miranda Bogen, diretora do Centro de Democracia e Tecnologia que pesquisou as trocas de privacidade da personalização da IA.
Durante uma conversa com a Meta AI, Bogen mencionou mamadeiras. Depois disso, ela diz, o chatbot decidiu que deveria ser pai. Os sistemas de IA, já notórios por estereótipos, podem levar a novos tipos de preconceitos quando são personalizados. “Isso poderia começar a orientar as pessoas em direções que talvez não sejam o que elas pretendem e se baseiam em informações nas quais eles não se sentem confortáveis com esse conselho”, diz ela.
E imagine o “espelho preto” da vida real quando a IA começar a inserir anúncios personalizados em suas respostas e conselhos. Está recomendando um restaurante porque pensa que vou gostar ou porque está sendo pago? A Meta AI não tem anúncios hoje, mas Zuckerberg sinalizou que ele vê “uma grande oportunidade de mostrar recomendações ou anúncios de produtos” durante uma chamada de ganhos na semana passada.
O Openai diz que não compartilha conteúdo do ChatGPT com terceiros para fins de marketing. (O Washington Post tem uma parceria de conteúdo com o OpenAI.) O Google diz que as conversas de Gemini não estão sendo usadas para mostrar anúncios e que a empresa “comunicaria claramente” uma mudança nos usuários.
“A idéia de um agente é que ele está trabalhando em meu nome – não tentando me manipular em nome dos outros”, diz Justin Brookman, diretor de política de tecnologia da Consumer Reports. A publicidade personalizada alimentada pela IA “é inerentemente adversária”, diz ele.
Assumindo o controle de seus dados
Há três coisas que fazem a Meta AI parecer uma grande mudança para nossa privacidade.
Primeiro, o Meta AI é fisgado no Facebook e Instagram. Se você configurar um perfil para o aplicativo usando sua conta de mídia social existente, a IA terá acesso a uma montanha de informações coletadas por esse aplicativo social. Tudo isso moldará as respostas que o Bot Meta Ai lhe dará, mesmo que algumas das idéias do Facebook ou Instagram sobre você estejam fora da base.
Tudo o que você conversou com a Meta Ai, basta imaginar Zuckerberg assistindo.
Se você não deseja que todos esses dados sejam combinados, precisará configurar uma conta Meta AI separada.
Segundo, a Meta AI se lembra de tudo por padrão. Ele mantém uma transcrição ou gravação de voz de todas as conversas que você tem com ela, juntamente com uma lista do que considera fatos -chave sobre você – como tópicos que você menciona que está “interessado” – em um arquivo de memória separado. Você pode visualizar suas memórias suas nas configurações do aplicativo.
Mas e se houver algo que você não quer que a IA lembre? Isso é compreensível: há muitas coisas – como meu teste envolvendo técnicas de fertilidade e sonegação de impostos – as pessoas sabem que apenas o Google em particular.
A Meta diz que tenta não adicionar tópicos confidenciais ao seu arquivo de memória, mas meus testes descobriram que ele registrou bastante – como fertilidade e empréstimos do dia de pagamento. O que é pior, o aplicativo Meta AI não oferece a capacidade de impedir que ele salve bate -papos ou memórias. (O mais próximo que você pode obter é usar o site da Meta AI sem fazer login.) Nem a Meta AI oferece um modo “temporário”, como o ChatGPT faz, que mantém uma conversa fora de sua história.
O aplicativo Meta AI permite excluir bate -papos e o conteúdo do seu arquivo de memória após o fato. Mas quando tentei excluir minhas memórias, o aplicativo alertou que eles não se foram totalmente. O bate -papo original contendo as informações permaneceu na minha história e ainda poderia ser usado. Então eu também tive que cavar minha história de bate -papo e encontrar esse bate -papo original, e excluí -lo também. (A opção nuclear era tocar em uma configuração instruindo -a a excluir tudo.
E há mais uma preocupação sutil da privacidade também. O conteúdo de seus bate -papos – suas palavras, fotos e até voz – acabará sendo alimentado de volta aos sistemas de treinamento da AI da Meta. O ChatGPT permite optar por não participar do treinamento, desligando uma configuração rotulada “Melhore o modelo para todos”. A Meta AI não oferece uma opção de exclusão.
Carregando
Por que você pode não querer contribuir com os dados de treinamento da Meta? Muitos artistas e escritores discutiram com o trabalho deles sendo usado para treinar IA sem compensação ou reconhecimento.
Alguns defensores da privacidade dizem que também devemos nos preocupar que os sistemas de IA podem “vazar” dados de treinamento em bate -papos futuros. Essa é uma das razões pelas quais muitas empresas prendem seus funcionários para usar apenas sistemas de IA que não usam seus dados para treinamento.
A Meta diz que treina e sintoniza seus modelos de IA para limitar a possibilidade de informações privadas aparecerem em respostas a outras pessoas.
Ainda assim, a Meta tem um aviso em seus termos de serviço: “Não compartilhe informações que você não deseja que o AIS use e retenha”.
Eu os levaria na palavra deles.
The Washington Post
Obtenha notícias e críticas sobre tecnologia, gadgets e jogos Nosso boletim de tecnologia toda sexta -feira. Inscreva -se aqui.