Sumário
Google proíbe treinamento deepfake em seu próprio serviço de nuvem Colab. Qual é a razão para isto?
Graças a ferramentas deepfake gratuitas como DeepFaceLab, DeepFaceLive e FaceSwap, qualquer pessoa com algum conhecimento técnico e hardware poderoso pode criar seus próprios deepfakes hoje. As ferramentas e algoritmos são constantemente aprimorados e o conhecimento acumulado pela comunidade ajuda os iniciantes a obter melhores resultados.
No entanto, há um grande obstáculo: para convencer deepfakes, você precisa de modelos suficientemente treinados.
Quanto mais dados de treinamento e maior a resolução, maior o modelo se torna – e rapidamente ultrapassa os limites da memória de vídeo disponível (VRAM) em placas de vídeo em PCs convencionais. Os usuários estão, portanto, recorrendo a GPUs na nuvem, que oferecem até 80 gigabytes de VRAM.
Google Colab proíbe treinamento deepfake
Um serviço em nuvem frequentemente usado para experimentos de aprendizado de máquina é o Colab do Google, uma implementação de ambientes de notebook Jupyter que permite treinamento remoto em placas de vídeo em nuvem da Nvidia.
Além de diversas assinaturas pagas que garantem o acesso a GPUs como o A100 da Nvidia, o serviço também oferece acesso gratuito que distribui os demais recursos disponíveis entre todos os usuários.
Até agora, o Colab também poderia ser usado para treinar algoritmos deepfake do DeepFaceLab e FaceSwap. No entanto, o Google agora está mudando isso para a versão gratuita do Colab: a lista de atividades proibidas nos termos de uso agora também inclui treinamento deepfake, além de ataques DDOS ou mineração de criptomoedas.
Proibição de deepfake: desenvolvedor do FaceLab não assume motivação ética
O uso do DeepFaceLab no Colab já gera um alerta, relatam os usuários. De acordo com isso, a execução do código pode levar a uma restrição de uso por parte do Google.
O código do FaceSwap não gera um aviso até agora – no entanto, a ferramenta também é muito menos difundida. Matt Tora, co-desenvolvedor do FaceSwap, assume que o motivo da proibição não é ético. Em vez disso, o Colab pretende ser uma plataforma para pesquisadores de IA, não para treinamento em massa e computacionalmente intensivo de modelos deepfake.
“Entristece-me que um caminho tenha sido fechado para as pessoas experimentarem nosso código, no entanto, em termos de proteção desse recurso específico para garantir sua disponibilidade para o público-alvo real, acho compreensível”, disse Tora.
proibição do Google remove o que é indiscutivelmente a melhor opção para treinamento deepfake gratuito. Ainda não está claro se a restrição também se aplica às variantes “Pro” e “Pro+” do Colab.
No final da lista de banidos, ele simplesmente afirma: “Existem restrições adicionais para usuários pagos”. No entanto, deepfakes não aparecem na lista de restrições para as variantes Pro até agora – criptomoedas ou compartilhamento de arquivos são explicitamente mencionados duas vezes lá, no entanto.
No entanto, isso não impedirá a propagação do vírus. Deepfakes cada vez melhores : vários provedores de nuvem oferecem acesso relativamente barato a GPUs poderosas. Em nosso artigo sobre a história dos deepfakes você aprenderá mais sobre sua criação e possível futuro.