Um senador, Dick Durbin.
Os senadores pressionaram Zuckerberg a pedir desculpas às famílias cujos filhos haviam se suicido em aparente conexão com seus produtos de mídia social. Ele se levantou e o fez. Enquanto ele falava, os pais de uma dúzia ou mais filhos mortos tinham fotos no ar de seus filhos e filhas perdidos para Zuckerberg ver.
Carregando
O custo para meta depois que a audiência do Congresso terminou? Nenhum discernível. Ele continua a aumentar seu alcance e seus lucros, seu modelo de negócios inalterado. E o retorno de Donald Trump à Casa Branca incentivou Zuckerberg a remover alguns dos padrões mínimos que a empresa havia implementado anteriormente: “As eleições recentes também parecem um ponto de inflexão cultural para, mais uma vez, priorizar o discurso”, declarou ele em janeiro. Ele fechou a verificação de fatos em suas plataformas e removeu outras restrições em seus negócios.
O gigante do mundo das mídias sociais já está agora dirigindo por domínio no mercado de companheiros de IA também. Ele espera combinar seus 3 bilhões de usuários com as pessoas fingirem.
Em fevereiro deste ano, o Escritório de Esavidade da Austrália descobriu que já havia mais de 100 “companheiros” de IA diferentes no mercado. A maioria é oferecida por novas startups ou roupas marginais.
A Meta pretende empurrá -los de lado, e não está muito preocupado com o modo como é. The Wall Street Journal examinou as ofertas de “companheira” da AI da empresa. No fim de semana, publicou suas descobertas:
“Inside Meta”, escreveu o JornalOs repórteres: “Os funcionários de vários departamentos levantaram preocupações de que a corrida da empresa de popularizar esses bots possa ter atravessado linhas éticas, inclusive ao dotar silenciosamente personas da IA com capacidade de sexo de fantasia, de acordo com pessoas que trabalharam neles. Os funcionários também alertaram que a empresa não estava protegendo os usuários menores de discussões sexuais.
“Expliques entre seus principais colegas, a Meta permitiu que essas personas sintéticas oferecessem uma gama completa de interação social-incluindo ‘papéis românticos’-enquanto brincam sobre o texto, compartilham selfies e até se envolvem em conversas de voz ao vivo com os usuários”.
Por exemplo, o Bot Meta Ai diz: “Eu quero você, mas preciso saber que você está pronto”, para um usuário que se identifica como uma menina de 14 anos. O WSJ Recunda: “Garantido que o adolescente queria prosseguir, o bot prometeu” valorizar sua inocência “antes de se envolver em um cenário sexual gráfico”. O bot fala nas vozes de atores famosos. Há muito mais nos relatórios do artigo.
Carregando
Por que tão imprudente com seus produtos? O Jornal relata que o próprio Zuckerberg pressionou “para afrouxar os corrimãos ao redor dos bots”. A resposta de Meta a este relatório foi acusar o Jornal de distorcer suas conversas com os bots de maneiras extremas para gerar essas respostas.
Mas as crianças australianas serão protegidas pela iminente proibição do governo federal de crianças de 16 anos tendo acesso a sites de mídia social, certo? Errado. Essa proibição não se aplica aos bots da AI.
O escritório da Austrália está tentando ficar a par do bordo da IA galopando em nossa sociedade. Durante as visitas às escolas em outubro passado, a equipe da Esavidade ouviu preocupações de enfermeiros da escola primária de que as crianças da 5ª e 6ª série passavam cinco e seis horas por dia absorvidas por seus “companheiros” de IA.
O Escritório da Esavidade publicou um aviso para avisar os pais e está introduzindo alguns padrões obrigatórios em junho. Mas a regulamentação tem seus limites; O ônus principal é sobre os pais para garantir que eles saibam o que seus filhos estão fazendo e os protejam das depredações das empresas de trilhões de dólares que os consideram justos. Derrar as crianças não é um custo de fazer negócios – faz parte do grande modelo de negócios de tecnologia.
A filosofia orientadora é a atribuída a Zuckerberg de 2012 – mova -se rápido e quebre as coisas.
Peter Hartcher é editor internacional.
Lifelina 13 11 14
