Falando hoje na Devcom, a estrategista de conteúdo criativo da Red Meat Games, Judy Ehrentraut, discutiu a importância do treinamento ético de modelos de IA generativa e como certas ferramentas podem ser utilizadas durante o desenvolvimento de jogos.
“IA é a palavra da moda e ou é promovida como a nova maneira de resolver todos os problemas de produtividade, ou é recebida com ressentimento”, reconheceu Ehrentraut.
“Acho que ambas as tomadas são realmente valiosas, porque tecnologias disruptivas não são necessariamente boas ou ruins. Depende de como elas são usadas, e realmente depende da abordagem que adotamos e se é ética ou não.”
Mas, como Ehrentraut destacou, a IA só pode aprender aquilo para o qual está sendo treinada.
“A IA não é inteligente da maneira que continuamos pensando que é, ou que as pessoas estão exagerando que seja. É apenas uma ferramenta que pode aprender com as instruções que damos a ela, seja um grande modelo de linguagem ou algoritmos coletando um monte de dados, varrendo-os da internet e criando algo chamado arte quando, na verdade, é apenas uma mistura do trabalho de muitos artistas – não há nenhuma intenção humana real por trás disso.”
Ela observou que, por causa disso, as ferramentas de IA de geração estão dando às pessoas uma certa percepção da arte que elas criam.
“Muitos artistas estão debatendo os efeitos dessa tecnologia disruptiva, e muitos dirão que gostam do processo de criação”, disse Ehrentraut.
“Eles gostam do tempo que isso leva, é tudo parte do aprendizado e da produção. Eles não tendem a gostar que algo possa ser produzido em um segundo por uma máquina, porque isso tira a intenção por trás disso. Tira o trabalho, a prática, a inteligência coletiva que as pessoas compartilharam com outras.”
Ela continuou: “Sabemos neste ponto que remover artistas do processo criativo não é a melhor ideia. Não é justo usar a arte uma vez e depois produzir, produzir, produzir, até chegar a algo que é quase nada – e é isso que estamos vendo agora.
“A internet está ficando cheia de imagens de IA em um ritmo muito rápido, e a IA está usando o conteúdo que ela produz para se treinar ainda mais. Ela não está sendo treinada em conteúdo humano – ela está se treinando em seu próprio conteúdo, e então ela não entende que está errando e continua.”
Atualmente, há muita controvérsia em torno da IA de geração, especialmente com ferramentas como Midjourney e Dall-E da Open AI, que são acusadas de extrair obras de arte da internet sem a permissão do artista.
“A IA não é inteligente da maneira que continuamos pensando que é, ou como as pessoas estão exagerando que seja”
A Red Meat Games tem sido muito aberta sobre o uso de IA de geração durante o desenvolvimento de seu último jogo, Moriarty.
Mas em vez de usar algo como o Midjourney, eles optaram pelo Scenario, uma ferramenta que permite que os artistas insiram seus trabalhos e treinem um modelo de IA em vez de ele pegar arte da internet sem consentimento.
“Nossos artistas desenharam todas essas coisas, e estamos treinando a Scenario para criar mais versões de nossos personagens”, explicou Ehrentraut.
“Não estamos usando o Scenario para replicar assuntos, objetos e estilo. Estamos usando-o para gerar novas artes em tempo real, porque estamos tentando dar ao nosso jogo rejogabilidade de longo prazo.
“Temos uma pequena equipe de artistas, e isso [sort of tool] pode ser muito útil para estúdios que têm uma equipe pequena e querem uma produção maior, porque você está essencialmente apenas expandindo o que já criou. Você não está apenas criando algo do nada. E quando digo nada, quero dizer arte que a IA que você está usando foi roubada do Google.”
Ehrentraut esclareceu que, ao usar o Scenario, a equipe tem mais controle do processo, pois a ferramenta faz especificamente o que lhe é solicitado.
“Acredito que isso seja mais ético, pois não estamos treinando tanto a IA do zero – o sistema já tem uma compreensão básica de conceitos e objetos. O que ele está aprendendo agora é o que você realmente dá a ele.”
Para a Red Meat Games, o objetivo é utilizar a IA de geração como uma ferramenta para “encapsular uma relação mais simbiótica entre o sistema humano e a IA”.
“Precisamos atribuir muito mais responsabilidade ética e transparência à IA”, concluiu Ehrentraut. “Precisamos pensar na IA como uma [aspect] em uma produção maior, de modo que não seja o artista ou criador – é apenas uma ferramenta que os artistas e criadores estão usando, e juntos todos criam essa coisa que chamamos de arte.”
