AI

Indústria de tecnologia atende apelos por melhor proteção contra abuso infantil online

Indústria de tecnologia atende apelos por melhor proteção contra abuso infantil online


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

De acordo com a pesquisa, até 1 bilhão de crianças de 2 a 17 anos sofreram algum tipo de abuso em 2014. Embora os avanços tecnológicos tenham trazido muitos benefícios, o boom da internet, plataformas de redes sociais e computação móvel também criaram canais, por meio quais abusos e atos predatórios em crianças podem acontecer.

Os governos da Five Eyes - Austrália, Canadá, Nova Zelândia, Reino Unido e Estados Unidos - estão liderando o processo para obrigar as partes interessadas da indústria de tecnologia a aumentar o envolvimento e a lutar contra práticas e atos abusivos online. Em uma coletiva de imprensa no Departamento de Justiça dos Estados Unidos, o grupo revelou onze princípios voluntários para ajudar a prevenir e mitigar a exploração e o abuso sexual infantil online. Representantes dos gigantes da tecnologia Facebook, Google e Microsoft estiveram presentes no evento.

Felizmente, o problema também está na mira de algumas iniciativas no setor de tecnologia.

A L1ght está entre os poucos empreendimentos focados na proteção da segurança online das crianças. Posicionada como uma empresa anti-toxicidade, a L1ght é desenvolvida como uma plataforma capaz de identificar e prever com precisão comportamentos e conteúdos nocivos online, utilizando inteligência artificial (IA). Esse recurso pode ajudar as plataformas online a agir rapidamente contra usuários e conteúdos abusivos antes que eles causem danos aos jovens usuários da Internet.

Combate ao abuso online

As plataformas online se tornaram um meio para criminosos e predadores consumirem e compartilharem conteúdo envolvendo crianças vítimas de abuso. UMA New York Times relatório descobriu que 45 milhões fotos e vídeos online de crianças sendo abusadas foram relatados por empresas de tecnologia em 2018. O mesmo relatório indicou que o ecossistema do Facebook foi usado em 12 milhões de casos que incluiu tais imagens.

A maioria das plataformas possui medidas para prevenir a propagação de conteúdo prejudicial. Normalmente, o conteúdo pode estar sujeito a revisão, moderação e filtragem. O Facebook e o YouTube já possuem mecanismos para remover e marcar conteúdo abusivo e evitar que sejam recarregados. O Facebook tem agentes de moderação dedicados que revisam o conteúdo denunciado e sinalizado. Infelizmente, as lacunas nessas medidas ainda permitem a propagação de conteúdo prejudicial, especialmente novo conteúdo compartilhado por violadores experientes em tecnologia.

Entre os princípios promovidos pelo esforço estão: revisar minuciosamente os processos de segurança, entender a natureza do abuso infantil online, identificar áreas de alto risco nas plataformas, identificar lacunas nas medidas existentes, investir em ferramentas e soluções inovadoras e responder às ameaças em evolução.

Como a IA pode ajudar

Parece fortuito que, à medida que apelos por melhores soluções são feitos, esforços que visam fornecê-los também surgem. A plataforma da L1ght está prestes a se tornar uma virada de jogo na luta contra conteúdo nocivo e exploração infantil. A empresa possui algoritmos proprietários que são capazes de analisar e marcar texto, imagens, áudio e conteúdo de vídeo nocivos em tempo real, que podem ser implantados e integrados a plataformas de mídia social, aplicativos de comunicação e mensagens e videogames online. Isso ajudaria a impulsionar ainda mais os recursos de medidas de filtragem e moderação para que a plataforma possa agir instantaneamente contra tais violações.

Sua IA também pode aprender e se adaptar continuamente aos métodos de mudança dos perpetradores. A filtragem de texto convencional baseada em dicionário, por exemplo, pode prevenir prontamente palavras ou expressões abusivas conhecidas, mas podem ser contornadas usando código ou ortografia.

L1ght recentemente recebeu US $ 15 milhões de financiamento inicial para acelerar seu desenvolvimento.

Um esforço concentrado

O que é realmente necessário na luta contra esta crise ainda crescente é um esforço conjunto de todas as partes interessadas. O estabelecimento de esforços globais, como a WePROTECT Global Alliance, que é composta por governos, agências de aplicação da lei, instituições privadas e organizações sem fins lucrativos que visam adotar os princípios e avançar na luta contra o abuso infantil, é um passo na direção certa .

Os gigantes da tecnologia e suas enormes plataformas online arcam com grande parte do fardo no estabelecimento de medidas que dificultarão a entrada de conteúdo prejudicial em suas plataformas. Laços mais fortes entre instituições privadas e agências de aplicação da lei também devem preencher a lacuna entre a identificação de perpetradores e vítimas e o tratamento adequado. O surgimento de novas soluções destinadas especificamente a resolver o problema é definitivamente um desenvolvimento bem-vindo.


Assista o vídeo: Exploração sexual de crianças e adolescentes no Brasil - Conexão - Canal Futura (Pode 2022).