Última atualização: novembro de 2024
Para versões anteriores, consulte os arquivos aqui.
Nossa Abordagem de Pesquisa
Reconhecemos que, em nosso mundo movido pela tecnologia, os mecanismos de pesquisa são, em muitos aspectos, a porta de entrada para a Internet e a principal maneira pela qual as pessoas encontram o conteúdo que estão procurando entre os trilhões de páginas da Web em constante mudança disponíveis online. Motores de busca como o Bing desempenham um papel vital na defesa do direito fundamental ao acesso livre e aberto à informação e à liberdade de expressão, e esforçamo-nos por ajudar os utilizadores a encontrar as informações mais úteis e relevantes que procuram. Ao mesmo tempo, reconhecemos que muitas vezes devemos equilibrar o direito de acessar informações em relação a outros direitos e interesses importantes, como privacidade ou segurança do usuário. Para ajudar a orientar como determinamos quais páginas devem ser fornecidas em resposta às consultas de pesquisa, nos baseamos nos seguintes princípios:
Fornecemos resultados confiáveis e com autoridade relevantes para consultas dos usuários.
-
Fornecemos conteúdo da mais alta qualidade e autoridade, relevante para os termos de pesquisa dos usuários.
-
Nosso objetivo é sempre fornecer conteúdo justo, equilibrado e abrangente. Quando há várias perspectivas confiáveis, tentamos exibi-las de maneiras informativas. Quando não há uma fonte confiável, nosso objetivo é evitar a promoção de informações tendenciosas ou potencialmente enganosas.
-
Respeitamos a intenção do usuário. Quando um usuário expressa uma intenção clara de acessar informações específicas, fornecemos resultados relevantes mesmo que sejam menos confiáveis, enquanto (conforme descrito em mais detalhes abaixo) trabalhamos para garantir que os usuários não sejam enganados por esses resultados de pesquisa.
Promovemos acesso livre e aberto às informações dentro dos limites da lei e com respeito à legislação local e outros direitos fundamentais, como privacidade e segurança pública.
-
Fornecemos acesso aberto ao máximo possível da Web, mas, em casos limitados, podemos realizar determinadas intervenções (como remoção de um site ou a queda da classificação), como quando o conteúdo viola a legislação local ou as políticas ou valores principais da Microsoft.
-
Ao limitar o acesso ao conteúdo, esforçamo-nos por garantir que as nossas ações são estritamente adaptadas, para que não restrinjamos indevidamente interesses importantes, como a liberdade de expressão, o acesso aberto à informação e o pluralismo dos meios de comunicação social, e fornecemos transparência em relação às nossas ações.
Tomamos medidas para proteger os usuários de conteúdo ofensivo prejudicial e inesperado.
-
Reconhecemos que existem muitas razões pelas quais alguém pode querer pesquisar ou rever conteúdos prejudiciais ou controversos, mas também reconhecemos a importância de garantir que os utilizadores não são inadvertidamente induzidos em erro por esses conteúdos.
-
Para determinados tipos de conteúdo em que identificámos que os resultados da pesquisa podem incluir informações prejudiciais ou enganosas, podemos fornecer informações suplementares, como avisos e anúncios de serviço público, para informar os utilizadores sobre potenciais riscos. Damos aos usuários controle sobre o tipo de conteúdo que eles encontram no Bing por meio de recursos como a Pesquisa Segura e a Proteção para a Família.
-
Sem uma intenção clara de acessar conteúdo específico, presumimos uma intenção de encontrar resultados de alta autoridade.
Somos transparentes sobre os nossos princípios e práticas, bem como as nossas decisões e ações.
-
Fornecemos aos usuários informações sobre nossos princípios sobre classificação e relevância e nossas políticas de moderação.
-
Quando limitamos o acesso ao conteúdo, quando relevante, fornecemos aviso aos usuários de que o conteúdo foi removido.
-
Publicamos relatórios de transparência regularmente com informações sobre as reclamações que recebemos e as ações tomadas.
Dica: Se as informações já tiverem sido removidas do site, mas ainda estiverem aparecendo nos resultados da pesquisa do Bing, você poderá usar a Ferramenta de Remoção de Conteúdo para enviar uma solicitação de remoção de página ou de remoção de cache desatualizada. Para saber mais sobre a Ferramenta de Remoção de Conteúdo, acesse Ajuda e Instruções do Webmaster do Bing.
Noções Básicas da Pesquisa
Retornar resultados de pesquisa não é tarefa fácil e envolve cálculos algorítmicos complexos e quase instantâneos. Uma pesquisa por algo tão simples quanto "gato" pode render mais de 55 milhões de resultados. Então, como escolhemos quais resultados serão mostrados primeiro? Começamos rastreando a Web e criando um índice de páginas da Web disponíveis. Em seguida, usamos algoritmos para classificar e otimizar esse conteúdo para que possamos dar aos usuários os melhores resultados de pesquisa da mais alta qualidade disponíveis.
Veja abaixo mais detalhes sobre cada uma dessas etapas.
A primeira etapa na criação da pesquisa é descobrir quais páginas existem na Internet para indexá-las, normalmente chamado de rastreamento. No Bing, chamamos carinhosamente nosso rastreador de “Bingbot”. Rastreamento é como o Bingbot descobre páginas e conteúdo novos e atualizados para adicionar ao nosso índice de pesquisa. O Bingbot usa um algoritmo para decidir o que rastrear e com que frequência, trabalhando para minimizar seu impacto em sites. Somos todos sobre eficiência, mesmo à medida que pesquisamos biliões de URLs todos os dias. Priorizamos páginas conhecidas relevantes que ainda não foram indexadas e aquelas que achamos que foram atualizadas para ajudar a fornecer os resultados mais recentes.
À medida que o Bingbot rastreia a Web, ele envia informações ao Bing sobre o que encontra. Essas páginas são então adicionadas ao índice do Bing e os algoritmos são usados para analisar as páginas para que possamos incluí-las efetivamente nos resultados da pesquisa, incluindo determinar quais sites, artigos de notícias, imagens ou vídeos serão incluídos no índice e disponibilizados quando os usuários pesquisarem palavras-chave específicas. Saiba mais sobre como o Bing localiza e indexa páginas aqui.
Algoritmos complexos geram resultados de pesquisa do Microsoft Bing usando a consulta de pesquisa do usuário, combinando-a com páginas da Web de terceiros em nosso índice. O Bing projeta e melhora continuamente seus algoritmos para fornecer a coleção de resultados de pesquisa mais abrangente, relevante e valiosa disponível.
Dada a escala da internet e a complexidade de operar um mecanismo de pesquisa, o Bing conta com o aprendizado de máquina para garantir que os usuários vejam os melhores resultados para suas consultas entre os trilhões de páginas de conteúdo na Web. O aprendizado de máquina é a ciência de fazer com que os computadores atuem sem serem programados explicitamente identificando padrões em dados e generalizando com base em um pequeno conjunto de exemplos. Para classificação da Web, isso significa criar um modelo que examinará alguns resultados ideais para saber quais recursos são mais preditivos de sua utilidade, contando com sinais automatizados, como interações do usuário com o site do Bing e dados de treinamento rotulados por juízes humanos e/ou por meio de sistemas de IA com supervisão humana. O Bing orienta seus juízes para garantir que suas avaliações estejam alinhadas com as metas de classificação do Bing e se envolve no monitoramento e supervisão contínuos de seus sistemas de classificação e ajusta suas práticas conforme necessário para garantir que os resultados da pesquisa permaneçam alinhados com os princípios do Bing.
Principais parâmetros de classificação
Abaixo está uma visão geral de alto nível dos principais parâmetros que o Bing usa para classificar páginas nos resultados da pesquisa. Esses parâmetros são listados em ordem geral de importância. Os sistemas complexos do Bing usam esses critérios para fornecer resultados de pesquisa. A importância relativa de cada um dos parâmetros abaixo pode variar de pesquisa para pesquisa e evoluir ao longo do tempo.
-
Relevância: Relevância refere-se à proximidade com que o conteúdo na página de destino corresponde à intenção de um usuário por trás de uma consulta de pesquisa. Isso inclui termos correspondentes diretamente na página e frases usadas em links referentes à página. O Bing também considera equivalentes semânticos, incluindo sinônimos ou abreviações, que podem não ser correspondências exatas dos termos de consulta, mas são compreendidos com o mesmo significado. Muitas consultas podem ter mais de uma intenção possível. O Bing tenta fornecer um conjunto abrangente de resultados que refletem todas as intenções possíveis, mas Bing presume que o usuário busque conteúdo autoritativo de alta qualidade, a menos que o usuário indique claramente a intenção de pesquisar conteúdo de baixa qualidade.
-
Qualidade e Credibilidade: Determinar a qualidade e a credibilidade (QC) de um site inclui avaliar a clareza da finalidade do site, sua usabilidade e apresentação. O QC também consiste em uma avaliação da "autoridade" da página, que inclui fatores como:
-
Reputação: quais tipos de outros sites vinculam ao site? Um site de notícias conhecido é considerado como tendo uma reputação mais alta do que um blog novinho em folha.
-
Nível de discurso: o propósito do conteúdo é apenas causar danos a indivíduos ou grupos de pessoas? Por exemplo, um site que promove a violência ou recorre a xingamentos ou bullying será considerado com um baixo nível de discurso e, portanto, uma autoridade menor do que um artigo de notícias equilibrado.
-
Nível de distorção: quão bem o site diferencia o fato da opinião? Um site que é claramente rotulado como sátira ou paródia terá mais autoridade do que um que tenta ocultar sua intenção.
-
Origem e transparência da propriedade: o site está relatando informações em primeira mão ou resume ou republica conteúdo de outras pessoas? Se o site não publica conteúdo original, ele atribui a fonte? Uma conta em primeira mão publicada em um blog pessoal pode ter mais autoridade do que conteúdo sem fontes.
-
-
Participação do usuário: O Bing também considera como os usuários interagem com os resultados da pesquisa. Para determinar o envolvimento do usuário, o Bing faz perguntas como: Os usuários clicaram para pesquisar os resultados de uma determinada consulta e, em caso afirmativos, quais resultados? Os usuários gastaram tempo nesses resultados de pesquisa que clicaram ou retornaram rapidamente ao Bing? O usuário ajustou ou reformulou sua consulta? Para webmasters, o Painel de Webmaster do Bing fornece insights sobre como os usuários interagem com suas páginas da Web.
-
Atualização: Geralmente, o Bing prefere conteúdo novo. Uma página que fornece consistentemente informações atualizadas é considerada recente. Em muitos casos, o conteúdo produzido hoje ainda será relevante daqui a alguns anos. Em alguns casos, no entanto, o conteúdo produzido hoje ficará desatualizado rapidamente.
-
Localização e Idioma: Em resultados de classificação, o Bing considera a localização do usuário (país/região e cidade), onde a página está hospedada, o idioma da página e a localização de outros visitantes na página.
-
Tempo de carregamento da página: O tempo de carregamento lento da página pode levar o visitante a sair do site, possivelmente antes mesmo de o conteúdo ser carregado, para buscar informações em outro lugar. Na maioria dos casos, o Bing considerará esta uma experiência de utilizador fraca e um resultado de pesquisa menos útil.
Uso de dados pessoais
O Bing usa informações específicas para um usuário individual para melhorar a relevância e o desempenho. Essas informações incluem histórico de pesquisa, localização, idioma, características do dispositivo, como sistema operacional ou navegador e se um usuário está em um dispositivo móvel, tablet ou desktop. Os usuários podem atualizar sua localização, idioma e outras configurações por meio das Configurações do Bing e excluir o histórico de pesquisa no Painel de Privacidade.
Conteúdo pago e conteúdo promovido pela Microsoft
Os sites podem optar por anunciar no Bing através do Microsoft Advertising; os anúncios pagos que aparecem nos resultados da pesquisa são etiquetados como tal. O Bing não permite que os sites melhorem suas posições de classificação orgânica (os "links azuis") por meio do pagamento. Saiba mais sobre como os anúncios de pesquisa pagasão classificados nos resultados de pesquisa de publicidade.
O Bing não prioriza produtos ou serviços Microsoft em vez de produtos e serviços de terceiros em resultados de pesquisa algorítmica. Fora dos resultados de pesquisa orgânica, o Bing às vezes fornece uma caixa de resposta autônoma ou uma faixa promovendo um produto ou serviço da Microsoft quando relevante para o termo de pesquisa fornecido.
Natureza das empresas
As características dos bens ou serviços oferecidos num site não afetam a forma como o Bing classifica os resultados, exceto nos casos em que o conteúdo é potencialmente ofensivo ou prejudicial para um utilizador. Por exemplo, páginas que oferecem conteúdo adulto não estão disponíveis quando os usuários definem a Pesquisa Segura para o modo “Estrito”. Como outro exemplo, páginas que promovem conteúdo potencialmente prejudicial, como onde um site promove métodos de suicídio ou pretende vender opioides ou outras drogas potencialmente prejudiciais, seriam consideradas conteúdo de baixa autoridade.
Experiências de Pesquisa Avançadas
Além das principais funções de pesquisa algorítmica, o Bing fornece aos usuários recursos adicionais para ajudar a fornecer contexto e informações adicionais e aprimorar a experiência de pesquisa. Por exemplo, se os utilizadores quiserem saber que equipa ganhou o jogo de ontem à noite, quando os utilizadores procurarem um nome de equipa no Bing, é provável que vejam a pontuação final e uma recapitulação na parte superior da página, uma snapshot com mais informações sobre a equipa, notícias, vídeos e pesquisas relacionadas, juntamente com os resultados de pesquisa mais relevantes. Para ajudar os usuários a encontrar o que eles estão procurando com mais facilidade, também permitimos que os usuários reduzam seus resultados de pesquisa com categorias como imagens, vídeos, notícias e compras. Esses recursos também contam com os princípios de classificação e os principais parâmetros descritos acima, mas, em alguns casos, levam em consideração considerações adicionais para fornecer aos usuários os resultados mais relevantes e de alta qualidade disponíveis. Em alguns casos, o Bing pode determinar que uma consulta de pesquisa específica não é adequada para estas funcionalidades de pesquisa melhoradas, mas garantirá sempre que os utilizadores podem encontrar informações relevantes nas ligações azuis. Abaixo, mais detalhes sobre esses recursos.
"Respostas" é como o Bing descreve os resultados de pesquisa avançados fornecidos geralmente na parte superior ou lateral dos resultados da pesquisa que fornecem conteúdo mais rico em resposta à consulta de um usuário, muitas vezes com uma resposta direta à pergunta feita ou com recursos adicionais relacionados. Por exemplo, se um usuário digitar "Qual é a altura da Torre Eiffel?" O Bing responderá com a resposta de "330 m" para permitir que os utilizadores encontrem rapidamente as informações de que precisam, juntamente com um painel de barra lateral com mais informações sobre a Torre Eiffel, incluindo factos interessantes sobre quando foi construída, onde está localizada, e outros detalhes. Para estas consultas, o Bing analisa os resultados da pesquisa na Web, devolve uma resposta resumida e liga às respetivas origens. Algumas destas respostas podem ser alimentadas por IA geradora para proporcionar uma experiência ainda mais rica, ligando a origens-chave.
Se a consulta estiver relacionada a uma empresa, o Bing pode retornar informações relevantes sobre a empresa, como horário e localização da loja. Os proprietários de empresas podem reivindicar e verificar listagens existentes no Bing usando o Bing Places for Business (disponível em mercados limitados) para criar, editar ou atualizar suas informações de listagem. Em alguns casos, o Bing pode fazer uma parceria com fornecedores de conteúdos de terceiros, como sites de revisão de restaurantes locais, para melhorar ainda mais a experiência do utilizador
As experiências de imagem e vídeo do Bing fornecem ao usuário resultados de imagem e vídeo relevantes para suas consultas de pesquisa, que podem aparecer nas verticais de imagem e vídeo, bem como na página principal de resultados de pesquisa, onde o conteúdo de imagem ou vídeo é relevante para a consulta do usuário. A classificação nas experiências de imagem e vídeo geralmente depende dos mesmos parâmetros da página principal de resultados de pesquisa na web, ou seja, relevância, qualidade, atualização, autoridade e popularidade. Quando um usuário acessa as páginas iniciais da experiência de imagem ou vídeo, antes de inserir uma consulta, a página inicial mostra o conteúdo recomendado com base em interações anteriores com o site, como o histórico de pesquisa do usuário, envolvimento com resultados de imagem, imagens salvas e, quando o usuário permitir, o histórico de navegação do Edge. Os usuários podem controlar essa experiência excluindo dados usados para influenciar a personalização de seu Painel de Privacidade, aproveitando o consentimento para a atividade de navegação do Microsoft Edge para publicidade personalizada e experiências ou, se não estiverem conectados, iniciando uma nova sessão. Em alguns mercados, o Bing também oferece um recurso chamado Bing Saves que permite que usuários autenticados mantenham coleções de links de imagem relevantes. A atividade do usuário no Bing Saves é regida pelo Contrato de Serviços da Microsoft e pelo Código de Conduta.
Na experiência do Bing Mapas ou na página de resultados da pesquisa principal em que a consulta indica uma intenção de localização, os usuários podem digitar consultas na barra de pesquisa e o mapa exibirá uma lista de locais nessa proximidade que respondem a essa pesquisa ou identificam um endereço específico. O Bing Mapas depende de dados de localização licenciados e disponíveis publicamente e usa os mesmos parâmetros de classificação descritos acima. As empresas podem melhorar a precisão dos resultados do Bing Mapas registrando-se noBing Places e fornecendo informações atualizadas para os usuários do Bing sobre informações relevantes para essa empresa, como localização, informações de contato e horário de funcionamento.
O Bing tem uma página inicial dedicada a notícias chamada Bing Notícias, que faz a curadoria de conteúdo de notícias para usuários do Bing. Sempre que relevante, o Bing também pode apresentar uma caixa de resposta focada em notícias na página main resultados da pesquisa a solicitar o conteúdo das Notícias do Bing.
Embora o Bing News se baseie nos mesmos parâmetros main para resultados de classificação do Bing, o conteúdo que aparece nos resultados da pesquisa de notícias do Bing tem de cumprir as Diretrizes específicas do Publicador de Notícias do Bing, descritas em detalhe no Hub de Publicação de Notícias do Bing. Os sites interessados em ser incluídos no índice de Notícias do Bing podem aplicar-se através do PubHub. Quando o mesmo artigo está disponível num site de terceiros e no MSN.com ou no Microsoft Start (como conteúdo licenciado da Microsoft), os resultados da pesquisa do Bing News poderão apresentar a versão Microsoft Start desse conteúdo. Isso permite uma experiência de usuário mais consistente e de maior qualidade. O conteúdo do Microsoft Start licenciado que aparece no Bing é marcado pelo rótulo da “plataforma Microsoft Start.”
O Bing Shopping é um recurso de pesquisa para ajudar os usuários a descobrir produtos de vários vendedores em uma única exibição, retornando resultados de compras relevantes da Web e de anunciantes. Em alguns casos, a experiência de compra pode utilizar ferramentas de IA geradoras para fornecer melhores resultados aos utilizadores. Em alguns casos, a Microsoft pode receber uma compensação para os utilizadores que clicam nos resultados gerados algoritmos, mas essa compensação não tem qualquer efeito na classificação ou relevância dos resultados gerados algoritmos mostrados ao utilizador.
O Bing Shopping também pode fornecer cupões relevantes para a consulta do utilizador ou onde um utilizador o permite, com base no envolvimento anterior com as experiências de Compras. Em alguns casos, a Microsoft pode receber receitas para a utilização dos cupões e compras através do Bing Shopping, embora não seja considerado um pagamento por parte de uma parte da receita na classificação de cupões do Bing apresentada aos utilizadores.
O Bing Shopping também oferece funcionalidades de IA geradoras, como Guias de Compra e Resumo de Revisão de Especialistas/Resumo da Revisão do Utilizador para ajudar os utilizadores a tomar decisões de compras de forma eficiente. Estas funcionalidades foram concebidas, compiladas e testadas de acordo com a norma de IA Responsável da Microsoft. Uma vez que os LLMs podem ocasionalmente cometer erros, são fornecidas informações adequadas aos utilizadores para garantir que os utilizadores estão cientes das limitações.
Os utilizadores que permitem à Microsoft recolher e utilizar dados pessoais para personalizar e anunciar podem ver resultados na vertical Compras adaptada aos seus interesses; os utilizadores podem visitar o Dashboard de Privacidade da Microsoft ou o botão de alternar de compras do Edge para optar ativamente por participar ou não em anúncios personalizados e controlar os dados que influenciam a personalização.
A segurança é sempre a principal prioridade do Bing. Temos várias maneiras de ajudar a manter os usuários seguros, incluindo sempre usar uma conexão segura da Web https, notificar os usuários se acharmos que um site contém malware, permitir que os usuários controlem o que veem com a Pesquisa Segura e integrar-se ao Windows Proteção para a Família para ajudar os cuidadores a protegerem seus filhos. Nosso recurso Pesquisa Segura ajuda a manter o conteúdo adulto fora dos resultados da pesquisa. Visite a configuração da Pesquisa Segura para fazer alterações nessa experiência.
A sugestão automática e as sugestões relacionadas ("sugestões") são sugestões de consulta fornecidas pelo Bing para ajudar os usuários a usarem a pesquisa e o chat de maneira mais conveniente. A sugestão automática é um recurso que ajuda os usuários a concluir pesquisas mais rapidamente, prevendo as consultas de pesquisa à medida que os usuários começam a digitar na caixa de pesquisa. As sugestões relacionadas são uma funcionalidade que mostra tópicos nos quais os utilizadores podem estar interessados junto aos resultados da pesquisa (por exemplo, "Pessoas também podem perguntar"). O Bing também fornece sugestões para tópicos de conversa em suas experiências de chat.
As sugestões são geradas algoritmicamente e com base na popularidade das pesquisas relacionadas no Bing, juntamente com outros sinais de relevância, como histórico de pesquisa, tendências, localização e idioma. As sugestões do Bing também usam a tecnologia de geração de linguagem natural treinada em conjuntos de consultas para ajudar a prever a consulta pretendida pelo usuário.
Recursos de IA Generativa
O Bing inclui determinadas funcionalidades de IA geradoras que são executadas numa variedade de tecnologias avançadas da Microsoft e openAI, incluindo GPT, um modelo de linguagem grande (LLM) de ponta e DALL-E, um modelo de aprendizagem profunda para gerar imagens digitais a partir de descrições de linguagem natural, ambas a partir do OpenAI. Trabalhámos com ambos os modelos durante meses antes do lançamento público para desenvolver um conjunto personalizado de capacidades e técnicas para associar esta tecnologia de IA de ponta e pesquisa na Web no novo Bing. Por exemplo, o Bing por vezes mostra resultados resumidos gerados por LLM sobre a página de resultados da pesquisa do Bing main em resposta a consultas de utilizador, tornando a experiência de pesquisa ainda mais fácil e rápida. Outro exemplo: no Bing Shopping, oferecemos Guias de Compra gerados por IA e Resumos de Revisão de Especialistas/Resumos de Revisão de Utilizadores para ajudar os utilizadores a tomar decisões de compras de forma eficiente.
Na Microsoft, levamos a sério o nosso compromisso com a IA responsável. As experiências de IA geradas do Bing foram desenvolvidas de acordo com os Princípios de IA da Microsoft, o Standard de IA Responsável da Microsoft e em parceria com especialistas responsáveis em IA em toda a empresa, incluindo o Office de IA Responsável da Microsoft, as nossas equipas de engenharia, a Microsoft Research e o Aether. Pode saber mais sobre a IA responsável na Microsoft aqui.
Tal como outras tecnologias transformacionais, tirar partido dos benefícios da IA não é isento de riscos e uma parte fundamental do programa de IA Responsável da Microsoft foi concebida para identificar potenciais riscos, medir a sua propensão e criar mitigações para os abordar. Orientados pelos nossos Princípios de IA e pelos nossos Standard de IA Responsável, procurámos identificar, medir e mitigar potenciais riscos ao mesmo tempo que protegemos as utilizações transformadoras e benéficas que a nova experiência proporciona. Nas secções abaixo, descrevemos a nossa abordagem iterativa para identificar, medir e mitigar potenciais riscos.
Identificar o
A nível de modelo, o nosso trabalho começou com análises exploratórias de GPT-4 no final do verão de 2022. Isto incluiu a realização de testes extensivos da equipa vermelha em colaboração com a OpenAI. Este teste foi concebido para avaliar como a tecnologia mais recente funcionaria sem quaisquer salvaguardas adicionais aplicadas à mesma. A nossa intenção específica neste momento era produzir respostas prejudiciais, encontrar potenciais vias para utilização indevida e identificar capacidades e limitações. As nossas aprendizagens combinadas no OpenAI e na Microsoft contribuíram para os avanços no desenvolvimento de modelos e, para nós, na Microsoft, informámos a nossa compreensão dos riscos e contribuímos para estratégias de mitigação antecipadas para funcionalidades de IA geradoras no Bing.
Além dos testes da equipa vermelha ao nível do modelo, uma equipa multidisciplinar de especialistas realizou inúmeras rondas de testes de equipas vermelhas ao nível da aplicação nas experiências de IA Copilot no Bing anteriores antes de as disponibilizar publicamente na nossa pré-visualização de lançamento limitada. Este processo ajudou-nos a compreender melhor como o sistema poderia ser explorado por atores adversos e melhorar as nossas mitigações. Os técnicos de teste de stress não adversos também avaliaram extensivamente as novas funcionalidades do Bing quanto a deficiências e vulnerabilidades. Após o lançamento, as novas experiências de IA no Bing estão integradas na infraestrutura de teste e medição de produção existente da organização de engenharia do Bing. Por exemplo, os técnicos de teste de equipas vermelhas de diferentes regiões e fundos tentam, de forma contínua e sistemática, comprometer o sistema e as suas conclusões são utilizadas para expandir os conjuntos de dados que o Bing utiliza para melhorar o sistema.
Medir
Os testes da equipa vermelha e os testes de esforço podem apresentar instâncias de riscos específicos, mas na produção os utilizadores terão várias consultas no Bing com diferentes níveis de intenção de pesquisa. Para compreender melhor e abordar o potencial de riscos nas experiências de IA geradas do Bing, desenvolvemos métricas para medir o risco potencial de conteúdo prejudicial ser mostrado aos utilizadores. As métricas são utilizadas para a nova avaliação de funcionalidades como parte das revisões de IA Responsáveis, bem como para a monitorização contínua das funcionalidades após o lançamento. Também ativemos a medição em escala através de pipelines de medição parcialmente automatizados. Sempre que o produto é alterado, as mitigações existentes são atualizadas ou são propostas novas mitigações, atualizamos os nossos pipelines de medição para avaliar o desempenho do produto e as métricas de IA responsáveis.
Os nossos pipelines de medição permitem-nos realizar rapidamente medições para potenciais riscos em escala. À medida que identificamos novos problemas durante o período de pré-visualização e os testes da equipa vermelha em curso, continuamos a expandir os conjuntos de medição para avaliar riscos adicionais.
Mitigar
À medida que identificámos potenciais riscos e utilização indevida através de processos como testes de equipa vermelha e testes de stress e medimo-los com as abordagens inovadoras descritas acima, desenvolvemos mitigações adicionais às utilizadas para a pesquisa tradicional. Abaixo, descrevemos algumas dessas mitigações. Continuaremos a monitorizar as experiências de IA geradas no Bing para melhorar o desempenho e as mitigações dos produtos.
-
Lançamento faseado, avaliação contínua. Estamos empenhados em aprender e melhorar continuamente a nossa abordagem de IA responsável à medida que as nossas tecnologias e o comportamento dos utilizadores evoluem. A nossa estratégia de lançamento incremental tem sido uma parte fundamental da forma como movemos a nossa tecnologia de forma segura dos laboratórios para o mundo e estamos empenhados num processo deliberado e atencioso para garantir os benefícios das funcionalidades de IA geradoras no Bing. Estamos regularmente a fazer alterações às funcionalidades de IA geradoras no Bing para melhorar o desempenho do produto, melhorar as mitigações existentes e implementar novas mitigações em resposta às nossas aprendizagens durante o período de pré-visualização.
-
Base nos resultados da pesquisa. As respostas na pesquisa geradora do Bing baseadas nos resultados da pesquisa incluem referências aos sites de origem para os utilizadores verificarem a resposta e saberem mais. Os utilizadores também recebem um aviso explícito de que estão a interagir com um sistema de IA e são aconselhados a marcar os materiais de origem de resultados da Web para os ajudar a utilizar o seu melhor julgamento.
-
Classificadores baseados em IA e metaprompmpting para mitigar potenciais riscos ou utilização indevida. A utilização de LLMs pode produzir conteúdo problemático que pode levar a riscos ou utilização indevida. Exemplos podem incluir saída relacionada com auto-danos, violência, conteúdo gráfico, propriedade intelectual, informações imprecisas, discurso odioso ou texto que possa estar relacionado com atividades ilegais. Classificadores e metaprompting são dois exemplos de mitigações que foram implementadas no Copilot no Bing para ajudar a reduzir o risco destes tipos de conteúdo. Os classificadores classificam texto para sinalizar diferentes tipos de conteúdo potencialmente prejudicial em consultas de pesquisa, pedidos de chat ou respostas geradas. O Bing utiliza classificadores e filtros de conteúdo baseados em IA, que se aplicam a todos os resultados de pesquisa e funcionalidades relevantes; Concebemos classificadores de pedidos adicionais e filtros de conteúdo especificamente para resolver possíveis riscos gerados pelas funcionalidades de IA geradoras. Os sinalizadores levam a potenciais mitigações, como não devolver conteúdo gerado ao utilizador ou redirecionar o utilizador para a pesquisa tradicional. O metaprompting envolve dar instruções ao modelo para orientar o seu comportamento, incluindo para que o sistema se comporte de acordo com os Princípios de IA da Microsoft e as expectativas dos utilizadores.
-
Divulgação de IA. As funcionalidades de IA geradas do Bing fornecem a divulgação de IA em que os utilizadores são notificados de que estão a interagir com um sistema de IA, bem como oportunidades para saber mais sobre as funcionalidades. Capacitar os utilizadores com este conhecimento pode ajudá-los a evitar a dependência excessiva da IA e a saber mais sobre os pontos fortes e limitações do sistema.
-
Operações e resposta rápida. Também utilizamos os processos operacionais e de monitorização em curso do Bing para resolver problemas de segurança observados.
-
Comentários, monitorização e supervisão. As experiências de IA geradas no Bing baseiam-se em ferramentas existentes que permitem aos utilizadores submeter comentários e comunicar preocupações, que são revistas pelas equipas de operações da Microsoft. Os utilizadores podem utilizar a página Comunicar uma Preocupação para comunicar conteúdos potencialmente prejudiciais ou enganadores gerados pela IA.
A nossa abordagem para identificar, medir e mitigar riscos continuará a evoluir à medida que aprendemos mais e estamos continuamente a fazer melhorias com base nos comentários recolhidos.
Melhorando os resultados da pesquisa
Antes que os usuários vejam uma melhoria ou um novo recurso no Bing, estamos trabalhando duro nos bastidores. Nossos pesquisadores frequentemente recrutam usuários para experimentar novos recursos e nos dar suas opiniões. Assim que estiverem satisfeitos, liberamos o recurso para um pequeno grupo de usuários reais para ver como eles interagem com ele. Quando recebe o sinal verde, nós o liberamos para todos. Mas não termina aí. Depois que cada recurso é lançado, monitoramos regularmente o uso e os comentários para avaliar o que está funcionando e como podemos melhorar.
Seus comentários ajudam a melhorar o Bing. Na parte inferior de cada página do Bing, você verá um link de Comentários. Não solicitamos seu nome ou outras informações de identificação quando você envia comentários. Essas informações são compartilhadas com equipes em todo o Bing para melhorar sua experiência e resultados de pesquisa. Tentamos ler todos os comentários que você envia. Além disso, não podemos deixar de observar o que os usuários gostam e não gostam no Bing à medida que você usa o site, como, por exemplo, em quais links você clica e quais pesquisas você precisa revisar para encontrar o que está procurando e usamos essas informações quando estamos trabalhando em recursos novos ou existentes.
Controles
Para muitos cenários de pesquisa comuns, como procurar empresas locais, como restaurantes, lojas ou atendimento médico, para fornecer resultados úteis de pesquisa, é essencial que o Bing entenda o idioma, a localização e as preferências semelhantes do usuário. Ao mesmo tempo, o Bing deseja garantir que o usuário permaneça no controle de sua experiência. Os usuários podem ver quais informações o Bing está usando para fornecer resultados de pesquisa relevantes e fazer alterações a qualquer momento em Configurações do Bing.
Para localização, o Bing tentará identificar a área na qual você está localizado usando sinais como seu endereço IP, mas você também pode atualizar seu local preferencial a qualquer momento aqui. Em alguns casos, como o Mapas, pode ser importante que o Bing compreenda mais especificamente onde o utilizador está localizado para fornecer serviços dependentes da localização, como direções. Os usuários também podem controlar quais informações de localização específicas são fornecidas à Microsoft por meio dos controles do produto e do sistema operacional de seus dispositivos.
Se você permitir, usaremos seu histórico de pesquisa para ajudar a melhorar os resultados e fornecer resultados de pesquisa mais relevantes. Para controlar essas informações, consulte o histórico de pesquisa do Bing. (https://www.bing.com/profile/history)
Os usuários também podem acessar e modificar outros controles relevantes nas configurações do Bing, como configurações da Pesquisa Segura, controles de pesquisa por voz, sugestões de pesquisa e opções de personalização.
Os usuários conectados à conta Microsoft também têm controles mais robustos sobre seu histórico de localização, histórico de pesquisa e outros dados coletados pela Microsoft, no Painel de Privacidade da Microsoft.
Entrar com sua conta Microsoft é uma maneira fácil de gerenciar seus dados e ajustar os controles, incluindo publicidade direcionada.
Para saber mais sobre como a Microsoft usa dados pessoais, consulte a política de privacidade da Microsoft.
Nossa Integridade de Pesquisa
A Microsoft respeita a liberdade de expressão e o direito de acessar informações. Ao mesmo tempo, de acordo com as políticas e princípios da Microsoft em torno da IA Responsável, privacidade, segurança digital, integridade da informação e outros problemas críticos, o Bing desenvolveu um sistema de segurança, incluindo filtragem de conteúdo, monitoramento operacional e detecção de abuso para fornecer uma experiência de pesquisa segura para nossos usuários.
Se a Microsoft receber solicitações para remover o conteúdo de indivíduos, empresas e governos, em casos limitados em que existam qualidade, segurança, demanda do usuário, leis relevantes e/ou preocupações com políticas públicas, o Bing poderá remover os resultados, informar os usuários sobre determinados riscos ou fornecer aos usuários opções para revisar seu conteúdo. O Bing limita a remoção dos resultados da pesquisa a um conjunto estreito de circunstâncias e condições para evitar restringir o acesso dos usuários do Bing a informações relevantes.
Abaixo, descrevemos as circunstâncias em que o Bing pode tomar medidas em termos de conteúdo. Quando os resultados da pesquisa são removidos, o Bing se esforça para ser transparente sobre a remoção. Isso inclui fornecer aos usuários aviso de remoção dos resultados da pesquisa na parte inferior da página. Além disso, publicamos informações sobre os resultados da pesquisa removidos pelo Bing como parte do Hub de Relatórios da Microsoft, incluindo o Relatório de Pedidos de Remoção de Conteúdo de Direitos de Autor, Relatório de Pedidos de Remoção de Conteúdo Esquecido e Pedidosgovernamentais para o Relatório de Remoção de Conteúdo.
Quando é reportada uma potencial violação de conteúdo ou conduta no Bing, um revisor humano especialmente preparado pode analisar o conteúdo e a conduta.
Determinados países têm leis ou regulamentos que se aplicam aos provedores de serviços de pesquisa e exigem mecanismos de pesquisa para remover links em determinadas páginas indexadas dos resultados da pesquisa. Algumas dessas leis permitem que indivíduos ou entidades específicas exijam a remoção de resultados (como por violação de direitos autorais, calúnia, difamação, informações de identificação pessoal, discurso de ódio ou outros direitos pessoais), enquanto outras são administradas e aplicadas pelos governos locais.
Quando a Microsoft recebe uma solicitação ou uma demanda, o Bing visa equilibrar seu suporte à liberdade de expressão e ao acesso gratuito a conteúdo relevante com conformidade com as legislações locais. Analisamos e avaliamos a solicitação ou demanda, incluindo o motivo e a base da solicitação ou demanda, a autoridade ou direitos da parte solicitante, nossas políticas aplicáveis e nossos compromissos com nossos usuários em relação à liberdade de expressão, direitos humanos e liberdade de informação e determinamos se e para até que ponto devemos remover o acesso ao conteúdo. Veja abaixo exemplos de áreas de solicitação legal com abordagens globais.
Imagens de exploração sexual infantil e agressão e materiais relacionados
A produção e distribuição e o acesso a materiais de abuso sexual infantil são universalmente condenados e ilegais na maioria das jurisdições. Também é uma violação das políticas do Bing e da Microsoft. O Bing trabalha com grupos de tecnologia e setores de terceiros, aplicação da lei e organizações governamentais e não governamentais para ajudar a parar a propagação desse conteúdo horrível online. Uma maneira de fazer isso é removendo páginas que foram revisadas por agências confiáveis (ou identificadas por meio de ferramentas de detecção de conteúdo via Microsoft PhotoDNA) e encontradas para conter ou se relacionar com a exploração sexual ou abuso de crianças.
Em específico, removemos páginas do nosso índice que foram identificadas pelo Internet Watch Foundation (Reino Unido) NCMEC (EUA) FSM (Alemanha) como, em seu bom senso de boa-fé, hospedagem ou provedores de acesso ao material de abuso sexual infantil. A remoção desses links dos resultados de pesquisa exibidos não impede que os materiais sejam acessados na Web ou descobertos por meios diferentes do Bing, mas reduz a disponibilidade dessas páginas para aqueles que o procurariam ou lucrariam com isso.
O Bing também usa a tecnologia de correspondência de hash do PhotoDNA para verificar imagens carregadas pelos usuários no recurso de pesquisa visual de possíveis explorações e imagens de abuso. A atividade do usuário no Bing é governada pelo Contrato de Serviços da Microsoft. Mais informações sobre o uso do PhotoDNA pela Microsoft e pelo Bing e sobre as práticas de moderação de conteúdo estão disponíveis em Moderação e Aplicação da Segurança Digital.
Violação de direitos autorais
O Bing incentiva o respeito pelos direitos de propriedade intelectual, incluindo direitos autorais, ao mesmo tempo em que reconhece os direitos dos usuários de se envolverem em usos permitidos pelas leis de direitos autorais aplicáveis. O Bing pode remover dos seus resultados de pesquisa os links das páginas da Web que contenham material que viole os direitos do proprietário do conteúdo protegido por direitos autorais, desde que recebamos um aviso legalmente suficiente de violação dos direitos autorais do proprietário dos direitos autorais ou do seu agente autorizado.
Se você for um detentor de direitos e tiver uma preocupação de propriedade intelectual em relação ao conteúdo de um site vinculado pelo Bing ou a um anúncio do Bing, consulte nossa página Violação de Relatório.
Em determinadas circunstâncias relacionadas com qualidade, segurança e valor do utilizador, o Bing pode decidir remover determinados resultados ou podemos avisar ou educar os utilizadores ou fornecer opções para personalizar os resultados.
Spam
Determinadas páginas capturadas no índice Bing podem revelar-se páginas de pouco ou nenhum valor para os utilizadores e/ou podem ter características que manipulam artificialmente a forma como os sistemas de pesquisa e publicidade funcionam para distorcer a sua relevância em relação a páginas que oferecem informações mais relevantes. Algumas dessas páginas incluem apenas anúncios e/ou links para outros sites que contenham principalmente anúncios, e nenhum ou apenas o conteúdo superficial relevante para o assunto da pesquisa. Para melhorar a experiência de pesquisa dos usuários e fornecer conteúdo mais relevante, o Bing pode remover esses resultados de pesquisa ou ajustar algoritmos do Bing para priorizar páginas mais úteis e relevantes nos resultados da pesquisa.
Informações pessoais confidenciais, incluindo distribuição não consensual de imagens íntimas
De tempos a tempos, as páginas Web publicamente disponíveis podem conter, intencional ou inadvertidamente, informações pessoais confidenciais publicadas sem o consentimento da pessoa identificada ou em circunstâncias que criam riscos de segurança ou privacidade. Os exemplos incluem postagem inadvertida dos registros privados, números de telefone privados, números de identificação e similares, ou postar intencional e maliciosamente senhas de email, credenciais de logon, números de cartão de crédito ou outros dados destinados a serem usados para fraude ou hacking. Após a verificação, o Bing removerá esses resultados de pesquisa.
Outro exemplo é quando alguém compartilha imagens adultas ou sexualmente explícitas de outra pessoa online – seja uma imagem real ou "deepfake" criada usando IA ou outras ferramentas de edição de fotos - sem o consentimento dessa pessoa. Isso é comumente chamado de imagens íntimas não consensuais ou "pornografia de vingança". A Microsoft considera isso uma grave invasão de privacidade pessoal. Para ajudar as vítimas a recuperar o controlo das suas imagens e a respetiva privacidade, o Bing pode remover ligações para essas fotografias e vídeos dos resultados da pesquisa. Para relatar fotos e vídeos online não autorizados, incluindo deepfakes, as vítimas devem concluir um formulário em nossa página da Web de relatórios.
Conforme observado no formulário de relatório, é importante lembrar que as informações permanecerão disponíveis no site original, mesmo que Bing tenha removido o link dos resultados da pesquisa. O proprietário do site está na melhor posição para resolver as preocupações de privacidade das informações publicadas. As vítimas precisarão entrar em contato com os proprietários do site onde o conteúdo está hospedado para remover o conteúdo da Web.
Conteúdo adulto
O Bing oferece um recurso de Pesquisa Segura, que permite que a maioria dos usuários defina o tipo de filtragem de conteúdo adulto que eles preferem aplicar aos resultados da pesquisa. O Bing se esforça para evitar fornecer conteúdo que pode ser ofensivo ou prejudicial quando não foi solicitado e fornece configurações de Pesquisa Segura para permitir que os usuários personalizem sua experiência de pesquisa. Por padrão, na maioria dos países ou regiões, a Pesquisa Segura é definida como Moderado, o que restringe os resultados de pesquisa visualmente explícitos, mas não restringe o texto explícito. Os usuários podem optar por alterar suas configurações de Pesquisa Segura a qualquer momento.
Diferentes países ou regiões podem ter diferentes costumes locais, normas religiosas ou culturais, ou leis locais da exibição de conteúdo adulto (ou resultados de pesquisa que acessam conteúdo adulto). Isto pode afetar as predefinições de Pesquisa Segura para o Bing em alguns países.
Produtos farmacêuticos ilegais
Além do compromisso do Bing em fornecer aos usuários resultados de pesquisa confiáveis, o Bing tomou medidas para minimizar a probabilidade de que os usuários sejam prejudicados por vendas farmacêuticas online. Nos EUA, o Bing bloqueia Farmácias online desonestos listados no site de Cartas de Aviso da Farmácia da Internet da FDA. O FDA, como órgão regulador federal para a indústria farmacêutica nos EUA, mantêm essa lista pública de farmácias online envolvidas em práticas ilegais e inseguras. O FDA tem mais informações no BeSafeRx: Conheça Sua Farmácia Online.
Anúncios e avisos do serviço público
Para alguns tópicos, pode ser difícil encontrar informações de qualidade. Quando identificamos essas lacunas, às vezes inserimos conteúdo útil para que os usuários possam explorar um tópico mais rapidamente. Eles podem assumir muitas formas diferentes. Você pode ver uma resposta de "serviço público", uma resposta que explica notícias de última hora ou um aviso em um determinado site conhecido por conter informações potencialmente prejudiciais. Para garantir que estamos obtendo os detalhes corretos, sempre procuraremos fontes confiáveis para conteúdo original e com curadoria. Se estivermos usando uma fonte de terceiros, sempre mostraremos seu nome ou site para que você saiba de onde os dados estão vindo.
Por exemplo, o Bing fornece links de recursos de prevenção ao suicídio quando a consulta de um usuário expressa uma possível intenção de suicídio. O Microsoft Bing também fornece avisos sobre determinadas URLs que aparecem nos resultados da pesquisa, onde há informações confiáveis de que o link contém conteúdo possivelmente prejudicial. Esses avisos aparecem em links de sites que o Microsoft Bing determinou conter malware prejudicial que possa danificar o computador do usuário. O Microsoft Bing também fornece um aviso aos usuários no Estados Unidos nos links identificados pela Associação Nacional de Conselhos de Farmácia® (NABP®) como um "Site Não Recomendado".
Em alguns casos, o Bing pode descobrir que determinados tópicos de pesquisa estão a devolver resultados que não estão em conformidade com os princípios do Bing, como, por exemplo, quando os maus atores manipulam intencionalmente os resultados da pesquisa para obter conteúdo de baixa autoridade, exploram um vazio de dados ou violam as Diretrizes do Webmaster do Bing num esforço para manipular incorretamente os resultados da pesquisa. As práticas proibidas são descritas de forma detalhada emDiretrizes para Webmaster – Ferramentas de Webmaster do Bing. Quando isto ocorre, o Bing pode aplicar intervenções algorítmicas adicionais para impedir que os utilizadores sejam inesperadamente expostos a conteúdos prejudiciais ou enganadores que não tenham uma intenção de procurar. O Bing prioriza intervenções em tendências conhecidas de desinformação, tópicos em que há riscos elevados de manipulações ativas e áreas em que há riscos de danos aos nossos usuários.
Embora não removamos esse conteúdo inteiramente de nosso índice, aplicamos intervenções algorítmicas para que os usuários sem uma intenção clara de encontrar essas informações sejam protegidos contra a exibição acidental de informações prejudiciais ou enganosas. O Bing monitora ativamente as tendências de manipulação em áreas de alto risco identificadas e implanta métodos de mitigação conforme necessário para garantir que os usuários sejam fornecidos com resultados de pesquisa de alta qualidade e alta autoridade.
Fornecer sugestões de pesquisa úteis
O Bing toma medidas para garantir que os usuários não sejam inadvertidamente direcionados a conteúdo potencialmente prejudicial, ofensivo ou enganoso por meio de sugestões de pesquisa. Definimos proteções para impedir que os usuários sejam expostos inesperadamente a conteúdo potencialmente prejudicial ou ofensivo usando uma combinação de intervenções manuais e algoritmos proativas e reativas. Essas intervenção se aplicam somente a sugestões de pesquisa; os usuários nunca são impedidos de inserir manualmente uma consulta de pesquisa.
Pode ativar e desativar a funcionalidade de sugestão automática na página Definições do Bing (Pesquisa - Definições (bing.com))ao selecionar ou desmarcar a caixa de verificação "Ver sugestões de pesquisa à medida que escreve".
Relatando conteúdo problemático
Se você encontrar conteúdo censurável no Bing, denuncie-o. Valorizamos seus relatórios e trabalhamos continuamente para melhorar sua experiência de pesquisa.
Para webmasters: apelar para decisões de remoção de conteúdo de página da web
Se o Bing tiver removido seu site ou página do índice e você tiver resolvido os problemas e quiser que seu site seja reavaliado, você poderá apelar usando as Ferramentas de Webmaster do Bing. Saiba mais sobre o processo.
Apelações do Usuário
O uso de todos os produtos e recursos do Bing é regido pelo Contrato de Serviços da Microsoft. O envolvimento persistente em atividades que violam o Contrato pode resultar em suspensão permanente e/ou restrição da Conta Microsoft de um usuário.
Os usuários podem recorrer de restrições/suspensões por meio do formulário Relatório um Problema do Bing. A equipe de suporte do Bing examinará as decisões. Se as ações originais forem consideradas incorretas, as ações serão revertidas e as notificações serão enviadas aos usuários afetados, caso as informações de contato tenham sido fornecidas ao Bing.
Transparência
A cada seis meses, a Microsoft publica relatórios de transparência que incluem o número de solicitações de remoção que recebemos em determinadas categorias e aprovadas durante esse período. Pode ver alguns detalhes sobre os pedidos no Hub de Relatórios | Microsoft CSR.
Tópicos relacionados
Remover páginas armazenadas em cache do Bing
Enviar uma solicitação para remover conteúdo do Bing