Google e Meta estão usando inteligência artificial para mitigar problemas como suicídio, violência e machismo

O Google apresentou inovações em sistemas de inteligência artificial que nutrem seu mecanismo de busca. Essas melhorias visam otimizar o conteúdo que os usuários acessam ao pesquisar informações sobre suicídio, agressão sexual, abuso de substâncias e violência doméstica.

Mais precisão ao procurar informações em situações críticas

As informações de contato das linhas diretas nacionais relevantes agora serão vistas com mais destaque, juntamente com os resultados mais importantes e de alta qualidade disponíveis.

Para obter maior precisão nos resultados, o sistema de aprendizado de máquina foi aprimorado para entender a linguagem da pesquisa, conforme explicou a empresa em uma coletiva de imprensa com a participação da Infobae.

“Agora, usando nosso modelo de IA mais recente, o MUM, podemos detectar de forma automática e precisa uma variedade maior de pesquisas pessoais de crises. O MUM é capaz de entender melhor a intenção por trás das perguntas das pessoas para detectar quando uma pessoa está precisando. Isso nos ajuda a exibir de forma mais confiável informações confiáveis e acionáveis no momento certo. Começaremos a usar o MUM para fazer essas melhorias nas próximas semanas”, enfatizaram a empresa.

Melhorias na pesquisa segura: do que se trata

Há algum tempo, o mecanismo de pesquisa tem a ferramenta Pesquisa segura, que oferece aos usuários a capacidade de filtrar resultados explícitos. Essa é a configuração padrão das Contas do Google para crianças menores de 18 anos. Você pode optar por desativar essa opção, mas os sistemas de inteligência artificial ainda reduzem a aparência de conteúdo inesperado nas pesquisas.

Para limitar ainda mais esse tipo de conteúdo indesejado, a empresa anunciou novas atualizações por trás do BERT (a sigla em inglês para Encoder Representações) transformadores bidirecionais), uma técnica usada pelo Google para pré-treinamento em processamento de linguagem natural.

A grande contribuição dessa técnica é que ela permite uma interpretação bidirecional, ou seja, interpretar um termo em contexto, tanto a palavra que o precede quanto a que o segue são levadas em consideração.

Agora, o BERT melhorou a compreensão e pode entender melhor a intenção de pesquisa, o que reduz ainda mais as chances de o usuário encontrar resultados de pesquisa inesperados.

“Este é um desafio complexo que enfrentamos há anos, mas só no último ano, essa melhoria no BERT reduziu a presença de resultados inesperados em 30%. Ele teve um impacto especial na redução de conteúdo explícito para pesquisas relacionadas a etnia, orientação sexual e gênero, o que pode afetar desproporcionalmente mulheres e especialmente mulheres de cor”, enfatizam a empresa.

O MUM pode transferir conhecimento em todos os 75 idiomas em que é treinado, permitindo que as proteções de segurança sejam dimensionadas em todo o mundo com mais eficiência. A IA é usada para ajudar a reduzir páginas de spam inúteis e às vezes perigosas que podem aparecer nos resultados da pesquisa.

“Nos próximos meses, usaremos o MUM para melhorar a qualidade de nossas proteções contra spam e expandir para idiomas onde temos muito poucos dados de treinamento. Também poderemos detectar melhor as consultas pessoais de crise em todo o mundo, trabalhando com parceiros locais confiáveis para mostrar informações práticas em vários outros países”, anunciaram.

Meta

A Meta anunciou o desenvolvimento de um sistema de IA que pode pesquisar e escrever os primeiros rascunhos de publicações biográficas no estilo de Wikipédia. O objetivo desse modelo é resolver a falta de representação que existe neste site e em outros semelhantes. Apenas 20% das biografias na Wikipedia são de mulheres, relataram a empresa ao fazer esse anúncio.

A desenvolvedora deste projeto é Angela Fan, pesquisadora da Meta AI. “Ainda há trabalho a ser feito, mas esperamos que esse novo sistema um dia ajude os editores da Wikipédia a criar milhares de entradas biográficas precisas e cativantes sobre pessoas importantes que não estão atualmente no site”, ressaltou o cientista.

As mulheres estão sub-representadas nessa plataforma, apesar do impacto que tiveram na ciência e em outros campos. Para ilustrar essa ideia, Fan compartilha o caso da física canadense, Donna Strickland. Ela ganhou o Prêmio Nobel de Física em 2018, no entanto, assim que ganhou o prêmio ninguém teria conseguido encontrar informações sobre ela na Wikipédia, porque ela simplesmente não tinha. Uma publicação só foi feita nesse site alguns dias após o prêmio, o mais importante em seu campo de estudo.

“Nosso trabalho é puramente pesquisa neste momento, e esperamos que a comunidade de pesquisa de Inteligência Artificial aproveite nosso modelo e conjunto de dados como ponto de partida para o desenvolvimento e o avanço. A ideia é um dia poder usar a IA para compensar os desequilíbrios de gênero no conteúdo biográfico da Wikipedia, uma das referências de informação mais notáveis da web. As mulheres foram e são fundamentais em muitos aspectos da sociedade, mas suas contribuições não recebem tanta visibilidade como se fossem vistas nas contribuições feitas pelos homens. A representação é importante, e queremos contribuir com essa pesquisa”, disse Fan quando questionado pela Infobae sobre o escopo desse desenvolvimento.

Como o modelo funciona

O modelo desenvolvido pela primeira vez recupera informações relevantes da Internet para apresentar o tópico. Em seguida, o módulo de geração cria o texto, enquanto na terceira etapa, o módulo de citação constrói a bibliografia com links para as fontes usadas. O processo é então repetido, com cada seção para cobrir todos os elementos que estão presentes em uma biografia completa da Wikipedia.

CONTINUE LENDO: