Desde os primórdios da internet, o assédio e o abuso têm sido um problema e, à medida que cada vez mais pessoas passam seu tempo online, observa-se um aumento no comportamento tóxico no ambiente virtual. Isso inclui o envio de fotos obscenas não solicitadas digitalmente – também conhecido como cyberflashing. No Brasil, a prática do envio de conteúdos contendo nudez sem consentimento pode ser configurada como importunação sexual, crime no país desde 2018.
É por isso que o Bumble, primeiro aplicativo de namoro e rede social com enfoque nas mulheres, disponibilizará uma versão gratuita globalmente do Private Detector™ para a comunidade tecnológica.
O Private Detector™ é um recurso pioneiro do Bumble que utiliza inteligência artificial (IA) para detectar e desfocar imagens de nudez obscenas. Em seguida, ele alerta o destinatário que pode optar por visualizar, excluir ou denunciar a imagem. O recurso foi lançado em 2019 nos aplicativos Bumble e Badoo em resposta à ascensão do cyberflashing, o envio digital de fotos de nudez não solicitadas.
A ferramenta foi desenvolvida em conjunto com a primeira incursão do Bumble em defender um projeto de lei em seu estado natal do Texas para aprovar uma legislação que efetivamente tornou o envio de fotos obscenas não solicitadas uma ofensa punível. Desde a aprovação do HB 2789 no Texas em 2019, o Bumble continuou a defender leis semelhantes nos EUA e no mundo.
O código-fonte do Private Detector estará disponível publicamente no GitHub para ajudar outros colegas do setor a obter acesso aos recursos necessários para inovar em segurança e responsabilidade online.
Rachel Haas, vice-presidente de segurança de membros da Bumble, declarou: “No Bumble, a segurança está no centro de tudo o que fazemos e queremos usar nosso produto e tecnologia para ajudar a tornar a Internet um lugar mais seguro para as mulheres. Em 2019, lideramos o projeto desenvolvendo o Private Detector e adotando uma postura clara contra o assédio online. Abrir esse recurso é permanecer firme em nossa convicção de que todos merecem relacionamentos saudáveis e justos, interações respeitosas e conexões gentis online.”
Payton Iheme, chefe de políticas públicas do Bumble para as Américas, disse: “No Bumble, estamos focados em nossa missão de ajudar a criar relacionamentos saudáveis e equitativos por meio de conexões mais gentis e construir um espaço onde as mulheres se sintam seguras e empoderadas online. O Bumble foi um dos primeiros aplicativos a abordar o cyberflashing e o lançamento do Private Detector foi sobre dar à nossa comunidade o poder de decidir consensualmente se eles gostariam de ver certas fotos e criar um padrão de segurança, caso contrário.
Estamos trabalhando para lidar com o cyberflashing e criar mais responsabilidade online há anos, mas esse problema é maior do que apenas uma empresa e não podemos fazer isso sozinhos. Estamos entusiasmados por poder abrir o código-fonte de uma versão do modo de IA do Private Detector do Bumble e permitir que outras pessoas apliquem nossas ferramentas para ajudar a combater o assédio online em geral.”
Você pode ler mais sobre o código aberto do Private Detector™ aqui.
*Todos os artigos publicados são de responsabilidade exclusiva de seus autores e não expressam a linha editorial do portal e de seus editores.
