Как Bing предоставляет результаты поиска

Последнее обновление: март 2025 г.

Предыдущие версии можно найти в архивах здесь.

Наш подход к поиску

Мы понимаем, что в нашем технологическом мире поисковые системы во многих отношениях являются воротами в Интернет и основным способом, с помощью которого люди находят контент, который ищут среди триллионов постоянно меняющихся веб-страниц, доступных в Интернете. Поисковые системы, такие как Bing, играют жизненно важную роль в защите фундаментального права на свободный и открытый доступ к информации и свободу выражения мнений, и мы стремимся помочь пользователям находить наиболее полезную и актуальную информацию, которую они ищут. В то же время мы признаем, что нам часто приходится сопоставлять право на доступ к информации с другими ключевыми правами и интересами, такими как конфиденциальность или безопасность пользователей. Чтобы помочь нам определить, какие страницы должны предоставляться в ответ на поисковые запросы, мы опираемся на следующие принципы:

Мы предоставляем надежные и авторитетные результаты, соответствующие запросам пользователей.

• Мы предоставляем высококачественный авторитетный контент, соответствующий условиям поиска пользователей.
• Наша цель — всегда предоставлять честный, сбалансированный и исчерпывающий контент. Когда есть несколько заслуживающих доверия точек зрения, мы пытаемся представить их информативно. Когда нет авторитетного источника, наша цель — избежать предвзятости или потенциально вводящей в заблуждение информации.
• Мы уважаем намерения пользователя. Когда пользователь выражает явное намерение получить доступ к определенной информации, мы предоставляем релевантные результаты, даже если они менее достоверны, при этом (как более подробно описано ниже) мы работаем над тем, чтобы такие результаты поиска не вводили пользователей в заблуждение.

Мы продвигаем свободный и открытый доступ к информации в рамках закона и при соблюдении местного законодательства и других основных прав, таких как неприкосновенность частной жизни и общественная безопасность.

• Мы предоставляем открытый доступ к как можно большей части Интернета, но в ограниченных случаях мы можем предпринимать определенные действия (например, удаление веб-сайта или понижение рейтинга), например, когда контент нарушает местное законодательство, политики или основные ценности Microsoft.
• Ограничивая доступ к контенту, мы стремимся к тому, чтобы наши действия были узконаправленными, поэтому мы не ограничиваем необоснованно важные интересы, такие как свобода выражения мнений, открытый доступ к информации и плюрализм СМИ, а также обеспечиваем прозрачность наших действий.

Мы принимаем меры для защиты пользователей от вредоносного и неожиданного оскорбительного контента.

• Мы понимаем, что существует множество причин, по которым кто-то может захотеть изучить или просмотреть вредоносный или противоречивый контент, но также признаем важность обеспечения того, чтобы пользователи не были непреднамеренно введены в заблуждение таким контентом.
• Для определенных типов контента, результаты поиска которого, как мы определили, могут содержать вредную или вводящую в заблуждение информацию, мы можем предоставлять дополнительную информацию, например предупреждения и объявления общественной службы, чтобы информировать пользователей о потенциальных рисках. Мы предоставляем пользователям контроль над типом контента, с которым они сталкиваются в Bing, с помощью таких функций, как безопасный поиск и семейная безопасность.
• При отсутствии явного намерения получить доступ к конкретному контенту мы предполагаем намерение найти результаты с высоким авторитетом.

Мы прозрачны в отношении наших принципов и практики, а также наших решений и действий.

• Мы предоставляем пользователям информацию о наших принципах ранжирования и релевантности, а также о нашей политике модерации.
• Когда мы ограничиваем доступ к контенту, в соответствующих случаях мы уведомляем пользователей о том, что контент был удален.
• Мы публикуем регулярные отчеты о прозрачности, содержащие информацию о полученных нами жалобах и предпринятых действиях.

Основы поиска

Возврат результатов поиска — непростая задача, требующая сложных, почти мгновенных алгоритмических вычислений. Поиск чего-то такого простого, как «кошка», может дать более 55 миллионов результатов. Итак, как мы выбираем, какие результаты показывать первыми? Мы начинаем с обхода сети и построения индекса доступных веб-страниц. Затем мы используем алгоритмы для ранжирования и оптимизации этого контента, чтобы предоставить пользователям наилучшие доступные результаты поиска самого высокого качества.

Более подробная информация о каждом из этих шагов приведена ниже.

Как Bing сканирует Интернет

Первый шаг в построении поиска — выяснить, какие страницы существуют в Интернете, чтобы проиндексировать их — обычно это называется сканированием. В Bing мы ласково называем наш поисковый робот «Bingbot». Сканирование — это то, как Bingbot обнаруживает новые и обновленные страницы и контент для добавления в наш поисковый индекс. Bingbot использует алгоритм, чтобы решить, что сканировать и как часто, чтобы свести к минимуму его влияние на веб-сайты. Мы все стремимся к эффективности, даже если ежедневно сканируем миллиарды URL-адресов. Мы отдаем приоритет релевантным известным страницам, которые еще не проиндексированы и которые, по нашему мнению, были обновлены, чтобы обеспечить самые свежие результаты.

Как Bing создает индекс

Когда Bingbot сканирует Интернет, он отправляет в Bing информацию о том, что находит. Эти страницы затем добавляются в индекс Bing, и алгоритмы используются для анализа страниц, чтобы мы могли эффективно включать их в результаты поиска, включая определение того, какие сайты, новостные статьи, изображения или видео будут включены в индекс и будут доступны при поиске пользователей. по конкретным ключевым словам. Подробнее о том, как Bing находит и индексирует страницы, читайте здесь.

Как Bing ранжирует результаты поиска

Сложные алгоритмы генерируют результаты поиска Microsoft Bing, используя поисковый запрос пользователя, сопоставляя его со сторонними веб-страницами в нашем индексе. Bing разрабатывает и постоянно совершенствует свои алгоритмы, чтобы предоставлять наиболее полный, актуальный и ценный набор доступных результатов поиска.

Учитывая масштабы Интернета и сложность работы поисковой системы, Bing полагается на машинное обучение, чтобы пользователи могли видеть наилучшие результаты своего запроса из триллионов страниц контента в Интернете. Машинное обучение — это наука о том, как заставить компьютеры действовать без явного программирования путем выявления закономерностей в данных и обобщения на основе небольшого набора примеров. Для веб-рейтинга это означает создание модели, которая будет рассматривать некоторые идеальные результаты, чтобы узнать, какие функции наиболее предсказуемы для их полезности, полагаясь на автоматические сигналы, такие как взаимодействие пользователя с веб-сайтом Bing, и обучающие данные, помеченные экспертами-людьми и/или через Системы искусственного интеллекта под контролем человека. Bing направляет своих судей, чтобы убедиться, что их оценки соответствуют целям ранжирования Bing, и занимается постоянным мониторингом и надзором за своими системами ранжирования и при необходимости корректирует свои методы, чтобы результаты поиска оставались в соответствии с принципами Bing.

Основные параметры ранжирования

Ниже представлен общий обзор основных параметров, которые Bing использует для ранжирования страниц в результатах поиска. Эти параметры перечислены в общем порядке важности. Сложные системы Bing используют эти критерии для предоставления результатов поиска. Относительная важность каждого из приведенных ниже параметров может варьироваться от поиска к поиску и меняться с течением времени.

• Актуальность: Релевантность — это то, насколько контент на целевой странице соответствует намерениям пользователя, стоящим за поисковым запросом. Сюда входят совпадающие термины непосредственно на странице и фразы, используемые в ссылках, ведущих на страницу. Bing также рассматривает семантические эквиваленты, в том числе синонимы или сокращения, которые могут не совпадать с терминами запроса в точности, но считаются имеющими такое же значение. Многие запросы могут иметь более одного возможного намерения. Bing пытается предоставить исчерпывающий набор результатов, отражающих все возможные намерения, но Bing предполагает, что пользователь ищет высококачественный авторитетный контент, если пользователь явно не указывает на намерение исследовать низкокачественный контент.

• Качество и достоверность: Определение качества и достоверности (QC) веб-сайта включает в себя оценку ясности цели сайта, его удобства использования и представления. QC также состоит из оценки «авторитета» страницы, которая включает такие факторы, как:

  • Репутация: какие типы других веб-сайтов ссылаются на сайт? Считается, что известный новостной сайт имеет более высокую репутацию, чем новый блог.
  • Уровень дискурса: Является ли целью контента исключительно причинение вреда отдельным лицам или группам людей? Например, сайт, который пропагандирует насилие или прибегает к оскорблениям или издевательствам, будет считаться имеющим низкий уровень дискурса и, следовательно, более низкий авторитет, чем сбалансированная новостная статья.
  • Уровень искажения: насколько хорошо сайт отличает факты от мнений? Сайт, явно помеченный как сатира или пародия, будет иметь больший авторитет, чем тот, который пытается скрыть свои намерения.
  • Происхождение и прозрачность прав собственности. Предоставляет ли сайт информацию из первых рук или же он обобщает или повторно публикует контент, полученный от других? Если сайт не публикует оригинальный контент, указывают ли они источник? Учетная запись из первых рук, опубликованная в личном блоге, может иметь больший авторитет, чем контент без источников.

• Вовлечение пользователей: Bing также учитывает, как пользователи взаимодействуют с результатами поиска. Чтобы определить вовлеченность пользователей, Bing задает такие вопросы, как: нажимали ли пользователи на результаты поиска по заданному запросу, и если да, то какие результаты? Тратили ли пользователи время на эти результаты поиска, по которым они просматривали, или быстро возвращались в Bing? Пользователь скорректировал или переформулировал свой запрос? Для веб-мастеров панель инструментов Bing для веб-мастеров предоставляет информацию о том, как пользователи взаимодействуют со своими веб-страницами.

• Свежесть: Как правило, Bing предпочитает свежий контент. Страница, которая постоянно предоставляет актуальную информацию, считается свежей. Во многих случаях контент, созданный сегодня, будет актуален и через много лет. Однако в некоторых случаях контент, созданный сегодня, быстро устаревает.

• Местоположение и язык: При ранжировании результатов Bing учитывает местоположение пользователя (страну и город), где размещена страница, язык страницы и местонахождение других посетителей страницы.

• Время загрузки страницы: Медленная загрузка страницы может привести к тому, что посетитель покинет веб-сайт, возможно, еще до того, как контент загрузится, чтобы искать информацию в другом месте. В большинстве случаев Bing сочтет это плохим пользовательским интерфейсом и менее полезным результатом поиска.

Использование персональных данных

Bing использует информацию, относящуюся к конкретному пользователю, для повышения релевантности и производительности. Эта информация включает в себя историю поиска, местоположение, язык, характеристики устройства, такие как операционная система или браузер, а также то, использует ли пользователь мобильное устройство, планшет или настольный компьютер. Пользователи могут обновлять свое местоположение, язык и другие параметры с помощью параметров Bing, а также удалять историю поиска на панели мониторинга конфиденциальности.

Платный контент и контент, продвигаемый Microsoft

Веб-сайты могут разместить рекламу в Bing через Microsoft Advertising; Платная реклама, которая появляется в результатах поиска, помечается как таковая.  Bing не позволяет веб-сайтам улучшать свои позиции в органическом рейтинге («синие ссылки») за счет оплаты. Подробнее о том, как платная поисковая реклама ранжируется в результатах рекламного поиска...

Bing не отдает приоритет продуктам или службам Microsoft по сравнению с продуктами и службами третьих сторон в результатах алгоритмического поиска. Помимо обычных результатов поиска, Bing иногда предоставляет отдельное поле для ответов или баннер, рекламирующий продукт или услугу Microsoft, когда это имеет отношение к предоставленному поисковому запросу.

Характер бизнеса 

Характеристики товаров или услуг, предлагаемых на сайте, не влияют на результаты ранжирования Bing, за исключением случаев, когда содержимое потенциально оскорбительно или вредно для пользователя. Например, страницы, предлагающие содержимое для взрослых, недоступны, если пользователи установили для безопасного поиска режим «Строгий». В качестве другого примера, страницы, продвигающие потенциально опасный контент, например, сайты, рекламирующие методы самоубийства или предназначенные для продажи опиоидов или других потенциально вредных наркотиков, будут считаться контентом с низким авторитетом.

Улучшенные возможности поиска

В дополнение к основным функциям алгоритмического поиска Bing предоставляет пользователям дополнительные функции, помогающие предоставлять дополнительный контекст и информацию и повышать удобство поиска. Например, если пользователи хотят узнать, какая команда выиграла вчерашнюю игру, при поиске в Bing названия команды они, скорее всего, увидят окончательный счет и подведение итогов в верхней части страницы, snapshot с дополнительной информацией о команде, новостями, видео и похожими поисковыми запросами, а также наиболее релевантными результатами поиска. Чтобы помочь пользователям легче находить то, что они ищут, мы также позволяем пользователям сузить результаты поиска с помощью таких категорий, как изображения, видео, новости и покупки. Эти функции также основаны на принципах ранжирования и основных параметрах, описанных выше, но в некоторых случаях учитывают дополнительные соображения, чтобы предоставить пользователям наиболее качественные и релевантные доступные результаты. В некоторых случаях Bing может определить, что конкретный поисковый запрос не подходит для этих расширенных функций поиска, но всегда будет следить за тем, чтобы пользователи могли найти соответствующую информацию по синим ссылкам. Более подробная информация об этих функциях приведена ниже. 

Ответы

«Ответы» — это то, как Bing описывает расширенные результаты поиска, которые часто отображаются вверху или сбоку от результатов поиска, которые предоставляют более подробный контент в ответ на запрос пользователя, часто с прямым ответом на заданный вопрос или с дополнительными связанными ресурсами.  Например, если пользователь вводит «Какова высота Эйфелевой башни?» Bing ответит ответом «330 м», чтобы пользователи могли быстро найти нужную им информацию, а также боковую панель с дополнительной информацией об Эйфелевой башне, включая интересные факты о том, когда она была построена, где она находится и другие детали. Для этих запросов Bing просматривает результаты поиска в Интернете, возвращает обобщенный ответ и ссылается на его источники.  Некоторые из этих ответов могут быть основаны на генеративном ИИ, чтобы обеспечить еще более богатый опыт, связанный с ключевыми источниками.

 Если запрос связан с бизнесом, Bing может вернуть соответствующую информацию о бизнесе, например часы работы и местонахождение магазина. Владельцы бизнеса могут заявлять и проверять существующие объявления в Bing с помощью Places Bing для бизнеса (доступно на некоторых рынках) для создания, изменения или обновления своих сведений о списке. В некоторых случаях Bing может сотрудничать со сторонними поставщиками контента, такими как местные сайты отзывов о ресторанах, для дальнейшего улучшения взаимодействия с пользователем

Изображения и видео

Возможности изображений и видео Bing предоставляют пользователю результаты изображений и видео, соответствующие его поисковым запросам, которые могут отображаться в вертикалях изображений и видео, а также на главной странице результатов поиска, где изображение или видеоконтент имеет отношение к запросу пользователя. Ранжирование изображений и видео обычно зависит от тех же параметров, что и главная страница результатов веб-поиска, т. е. релевантности, качества, свежести, авторитетности и популярности. Когда пользователь впервые попадает на главные страницы изображений или видео, перед вводом запроса на главной странице будет отображаться рекомендуемый контент на основе предыдущих взаимодействий с сайтом, таких как история поиска пользователя, взаимодействие с результатами изображений, сохраненные изображения и, где пользователь разрешает это, история просмотра Edge.  Пользователи могут управлять этим взаимодействием, удаляя данные, используемые для влияния на персонализацию, со своей информационной панели конфиденциальности, используя согласие на действия в браузере Microsoft Edge для персонализации рекламы и интерфейсов или, если они не вошли в систему, запуская новый сеанс. На некоторых рынках Bing также предлагает функцию Bing Saves, которая позволяет пользователям, прошедшим проверку подлинности, сохранять коллекции соответствующих ссылок на изображения. Действия пользователей в Bing Saves регулируются Соглашением об использовании служб Майкрософт и Кодексом поведения. 

Карты

В интерфейсе Bing Maps или на главной странице результатов поиска, где запрос указывает намерение местоположения, пользователи могут вводить запросы в строку поиска, и на карте будет отображаться список местоположений в этом районе в ответ на этот поиск или указание определенного адреса. Bing Maps использует лицензированные и общедоступные данные о местоположении и использует те же параметры ранжирования, что и описанные выше. Предприятия могут повысить точность Карты Bing результатов, зарегистрировавшись в Bing Places и предоставив пользователям Bing актуальные сведения об этом бизнесе, такие как местонахождение, контактные данные и часы работы.

Новости

У Bing есть специальная домашняя страница новостей под названием Bing News, которая курирует новостной контент для пользователей Bing.  В соответствующих случаях Bing может также отображать на главной странице результатов поиска поле для ответов, посвященное новостям, из содержимого новостей Bing.

Хотя Bing News полагается на те же основные параметры для ранжирования результатов, что и Bing, содержимое, отображаемое в результатах поиска новостей Bing, должно соответствовать определенным рекомендациям издателя новостей Bing, подробно описанным в Центре публикации новостей Bing. Веб-сайты, заинтересованные во включении в индекс Bing News, могут подать заявку через PubHub. Если одна и та же статья доступна как на стороннем веб-сайте, так и в MSN.com или Microsoft Start (как контент, лицензированный Microsoft), в результатах поиска новостей Bing может отображаться версия этого контента Microsoft Start. Это обеспечивает более последовательный и качественный пользовательский опыт. Лицензионный контент Microsoft Start, появляющийся в Bing, помечается меткой «на основе Microsoft Start».

Покупка

Bing Shopping — это функция поиска, которая помогает пользователям находить продукты от нескольких продавцов в одном представлении, возвращая релевантные результаты покупок из Интернета и от рекламодателей. В некоторых случаях при совершении покупок могут использоваться генеративные инструменты искусственного интеллекта, чтобы предоставить пользователям лучшие результаты. В некоторых случаях Microsoft может получать компенсацию за пользователей, которые нажимают на результаты, сгенерированные алгоритмом, но такая компенсация не влияет на рейтинг или релевантность результатов, сгенерированных алгоритмом, отображаемых пользователю.

Bing Shopping также может предоставлять купоны, соответствующие запросу пользователя, или, когда пользователь разрешает, на основе предыдущего участия в покупках.  В некоторых случаях Microsoft может получать доход от использования купонов и покупок через Bing Shopping, хотя получение доли от дохода не учитывается при ранжировании Bing купонов, показываемых пользователям.

Bing Shopping также предлагает функции генеративного искусственного интеллекта, такие как руководства по покупке и сводка экспертных отзывов/сводка отзывов пользователей, которые дополнительно помогают пользователям эффективно принимать решения о покупках. Эти функции разработаны, созданы и протестированы в соответствии со стандартом ответственного искусственного интеллекта Майкрософт. Поскольку LLM иногда могут допускать ошибки, пользователям предоставляются соответствующие сведения, чтобы пользователи знали об ограничениях. 

Пользователи, которые разрешают корпорации Майкрософт собирать и использовать персональные данные для персонализации и рекламы, могут увидеть результаты в вертикали покупок, соответствующие их интересам; пользователи могут посещать панель мониторинга конфиденциальности (Майкрософт ) или переключатель покупок в Edge, чтобы включить или отказаться от персонализированной рекламы, а также управлять данными, влияющими на персонализацию.

Безопасный поиск

Безопасность всегда является главным приоритетом в Bing. У нас есть несколько способов обеспечить безопасность пользователей, в том числе всегда использовать безопасное веб-соединение https, уведомлять пользователей, если мы думаем, что сайт содержит вредоносное ПО, позволяя пользователям контролировать то, что они видят, с помощью SafeSearch и интегрируя с семейной безопасностью Windows, чтобы помочь лицам, осуществляющим уход. защитить своих детей. Наша функция безопасного поиска помогает не допустить попадания контента для взрослых в результаты поиска. Перейдите в раздел "Безопасный поиск ", чтобы внести изменения в этот интерфейс.

Предложения

Автоподсказки и связанные с ними подсказки («предложения») — это подсказки запросов, предоставляемые Bing, чтобы помочь пользователям более удобно использовать поиск и чат.  Autosuggest — это функция, которая помогает пользователям выполнять поиск быстрее, прогнозируя поисковые запросы, когда пользователи начинают вводить текст в поле запроса.  Связанные предложения — это функция, которая показывает темы, которые могут заинтересовать пользователей, рядом с результатами поиска (например, «People также могу спросить»).  Bing аналогичным образом предлагает темы для разговоров в своем чате.

Предложения генерируются алгоритмически и основаны на популярности похожих поисковых запросов в Bing, а также на других сигналах релевантности, таких как история поиска, тенденции, местоположение и язык. Предложения Bing также используют технологию генерации естественного языка, обученную на наборах запросов, чтобы помочь предсказать предполагаемый запрос пользователя.

Функции генеративного ИИ

Bing включает в себя определенные функции генеративного искусственного интеллекта, которые работают на основе различных передовых технологий от Microsoft и OpenAI, включая GPT, передовую большую языковую модель (LLM), и DALL-E, модель глубокого обучения для создания цифровых изображений на основе описаний на естественном языке, обе от OpenAI. Мы работали с обеими моделями в течение нескольких месяцев до публичного выпуска, чтобы разработать настраиваемый набор возможностей и методов, чтобы объединить эту передовую технологию ИИ и веб-поиск в новой Bing. Например, Bing иногда отображает обобщенные результаты, сгенерированные LLM, в верхней части главной страницы результатов поиска Bing в ответ на запросы пользователей, что делает поиск еще проще и быстрее. Другой пример: в Bing Shopping мы предлагаем сгенерированные искусственным интеллектом руководства по покупке и сводки экспертных отзывов / сводки отзывов пользователей, чтобы помочь пользователям эффективно принимать решения о покупках.  

Корпорация Майкрософт серьезно относится к своей приверженности ответственному применению ИИ. Возможности генеративного ИИ Bing были разработаны в соответствии с принципами искусственного интеллекта Microsoft, Standard ответственного ИИ Microsoft и в партнерстве с экспертами по ответственному ИИ по всей компании, включая Управление ответственного применения ИИ Microsoft, наши команды инженеров, Microsoft Research и Aether. Узнать больше об ответственном ИИ в корпорации Майкрософт можно здесь.   

Выявление, измерение и снижение рисков

Как и другие трансформационные технологии, использование преимуществ ИИ не лишено риска, и основная часть программы ответственного применения ИИ корпорации Майкрософт направлена на выявление потенциальных рисков, измерение вероятности их возникновения и создание мер по их снижению. Руководствуясь нашими принципами ИИ и нашим Standard ответственного применения ИИ, мы стремились выявлять, измерять и смягчать потенциальные риски, обеспечивая при этом трансформацию и пользу, которую приносит новый опыт. В разделах ниже описывается наш итеративный подход к выявлению, измерению и снижению потенциальных рисков.     

Идентификация

На уровне моделей наша работа началась с исследовательского анализа GPT-4 в конце лета 2022 года. Это включало проведение обширного тестирования красной команды в сотрудничестве с OpenAI. Это тестирование было разработано, чтобы оценить, как новейшие технологии будут работать без каких-либо дополнительных мер безопасности. Наше конкретное намерение в то время состояло в том, чтобы вызвать вредные ответы, выявить потенциальные возможности для злоупотреблений и определить возможности и ограничения. Наши совместные знания в области OpenAI и Microsoft способствовали прогрессу в разработке моделей и для нас в Корпорации Майкрософт помогли нам понять риски и внесли вклад в ранние стратегии снижения рисков для функций генеративного ИИ в Bing. 

В дополнение к тестированию красной команды на уровне модели многопрофильная группа экспертов провела множество раундов тестирования красной команды на уровне приложений на предыдущих возможностях ИИ Copilot в Bing, прежде чем сделать их общедоступными в нашей ограниченной предварительной версии. Этот процесс помог нам лучше понять, как злоумышленники могут использовать эту систему, и улучшить меры по смягчению последствий. Несостязательные стресс-тестеры также тщательно оценивали новые функции Bing на предмет недостатков и уязвимостей. После выпуска новые возможности ИИ в Bing интегрируются в существующую производственную измерительную и испытательную инфраструктуру инженерной организации Bing. Например, тестировщики красной команды из разных регионов и слоев общества постоянно и систематически пытаются скомпрометировать систему, и их результаты используются для расширения наборов данных, которые Bing использует для улучшения системы.  

Измерение

Тестирование Red Team и стресс-тестирование могут выявить случаи определенных рисков, но в производственной среде пользователи будут иметь разные запросы в Bing с разными уровнями поискового намерения. Чтобы лучше понять и устранить потенциальные риски в интерфейсах генеративного ИИ Bing, мы разработали показатели для измерения потенциального риска отображения пользователям вредоносного содержимого. Метрики используются для оценки новых функций в рамках проверок ответственного применения ИИ, а также для постоянного мониторинга функций после их запуска. Мы также обеспечили измерение в масштабе с помощью частично автоматизированных измерительных конвейеров. Каждый раз, когда продукт изменяется, обновляются существующие меры защиты или предлагаются новые меры защиты, мы обновляем наши конвейеры измерений для оценки как производительности продукта, так и ответственных показателей ИИ.   

Наши измерительные конвейеры позволяют нам быстро измерять потенциальные риски в масштабе. По мере выявления новых проблем в предварительном периоде и продолжающемся тестировании Red Team мы продолжаем расширять наборы измерений для оценки дополнительных рисков.  

Смягчение последствий 

По мере того, как мы выявляли потенциальные риски и злоупотребления с помощью таких процессов, как тестирование красной команды и стресс-тестирование, и измеряли их с помощью инновационных подходов, описанных выше, мы разработали дополнительные меры по смягчению последствий для традиционного поиска. Ниже мы описываем некоторые из этих мер по смягчению последствий. Мы продолжим следить за возможностями генеративного ИИ в Bing, чтобы повысить производительность продукта и уменьшить риски.   

• Поэтапное высвобождение, постоянная оценка. Мы стремимся постоянно учиться и совершенствовать наш подход к ответственному применению ИИ по мере развития наших технологий и поведения пользователей. Наша стратегия добавочного выпуска была ключевой частью того, как мы безопасно переносим нашу технологию из лабораторий в мир, и мы стремимся к преднамеренному, продуманному процессу обеспечения преимуществ генеративных функций ИИ в Bing. Мы регулярно вносим изменения в функции генеративного ИИ в Bing, чтобы повысить производительность продукта, улучшить существующие средства защиты и внедрить новые средства защиты в ответ на наши знания, полученные в течение периода предварительного просмотра.
• Граундинг в результатах поиска. Ответы в генеративном поиске Bing, основанные на результатах поиска, включают ссылки на исходные веб-сайты, чтобы пользователи могли проверить ответ и узнать больше. Пользователям также предоставляется четкое уведомление о том, что они взаимодействуют с системой ИИ, и рекомендуется провести проверку исходных материалов результатов в Интернете, чтобы помочь им использовать свое лучшее суждение.
• Классификаторы и метасуфлеры на основе ИИ для снижения потенциальных рисков или неправильного использования. Использование LLM может создать проблемное содержимое, которое может привести к рискам или ненадлежащему использованию. Примеры могут включать выходные данные, связанные с членовредительством, насилием, графическим контентом, интеллектуальной собственностью, неточной информацией, ненавистническими высказываниями или текстом, который может относиться к незаконной деятельности. Классификаторы и метасуфлеры — это два примера мер по смягчению последствий, которые были реализованы в Copilot в Bing для снижения риска таких типов содержимого. Классификаторы классифицируют текст, чтобы помечать различные типы потенциально опасного содержимого в поисковых запросах, подсказках чата или сгенерированных ответах. Bing использует классификаторы и фильтры содержимого на основе ИИ, которые применяются ко всем результатам поиска и соответствующим функциям; мы разработали дополнительные классификаторы запросов и фильтры содержимого специально для устранения возможных рисков, связанных с функциями генеративного ИИ. Пометки ведут к потенциальным мерам по смягчению последствий, например, к невозврату сгенерированного контента пользователю или перенаправлению пользователя к традиционному поиску. Метасуфлинг включает в себя предоставление модели инструкций для управления ее поведением, в том числе для того, чтобы система вела себя в соответствии с принципами ИИ Майкрософт и ожиданиями пользователей.
• Раскрытие информации ИИ. Функции генеративного ИИ Bing обеспечивают раскрытие информации ИИ, когда пользователей уведомляют о том, что они взаимодействуют с системой ИИ, а также возможность узнать больше о функциях. Предоставление пользователям этих знаний может помочь им избежать чрезмерной зависимости от ИИ и узнать о сильных сторонах и ограничениях системы.
• Операции и быстрое реагирование. Мы также используем текущие процессы мониторинга и операционные процессы Bing для решения обнаруженных проблем безопасности.
• Обратная связь, мониторинг и надзор. Возможности генеративного ИИ в Bing основаны на существующих инструментах, которые позволяют пользователям отправлять отзывы и сообщать о проблемах, которые рассматриваются операционными группами Microsoft. Пользователи могут использовать страницу "Сообщить о проблеме", чтобы сообщить о потенциально опасном или вводящем в заблуждение содержимом, созданном ИИ.

Наш подход к выявлению, измерению и снижению рисков будет продолжать развиваться по мере того, как мы узнаем больше, и мы постоянно вносим улучшения на основе собранных отзывов.

Улучшение результатов поиска

Исследования и испытания

Прежде чем пользователи увидят улучшение или новую функцию в Bing, мы усердно работаем за кулисами. Наши исследователи часто приглашают пользователей опробовать новые функции и поделиться с нами своим мнением. Как только они будут удовлетворены, мы предоставим эту функцию небольшому количеству реальных пользователей, чтобы увидеть, как они взаимодействуют с ней. Когда она получает зеленый свет, мы публикуем ее для всех. Но это еще не все. После выпуска каждой функции мы регулярно отслеживаем использование и отзывы, чтобы оценить, что работает и что можно улучшить.

Отзывы и предложения

Ваши отзывы помогают сделать Bing лучше. Внизу каждой страницы Bing вы увидите ссылку для обратной связи. Нам не требуется ваше имя или другая идентифицирующая информация, когда вы отправляете отзыв.  Эта информация передается командам Bing для улучшения вашего опыта и результатов поиска. Мы стараемся читать каждый отзыв, который вы отправляете. Кроме того, мы не можем не заметить, что пользователям нравится и не нравится в Bing, когда вы используете сайт, например, какие ссылки вы нажимаете и какие поисковые запросы вам нужно пересмотреть, чтобы найти то, что вы ищете, и мы используем эту информацию, когда мы работаем над новыми или существующими функциями. 

Элементы управления

Параметры Bing

Для многих распространенных сценариев поиска, таких как поиск местных предприятий, таких как рестораны, магазины или медицинские учреждения, для предоставления полезных результатов поиска важно, чтобы Bing понимал язык пользователя, местоположение и аналогичные предпочтения.  В то же время Bing хочет убедиться, что пользователь сохраняет контроль над своим опытом.  Пользователи могут в любое время просматривать информацию, которую Bing использует для предоставления релевантных результатов поиска и вносить изменения в настройках Bing.

Для определения местоположения Bing попытается определить область, в которой вы находитесь, с помощью сигналов, таких как ваш IP-адрес, но вы также можете в любое время обновить предпочтительное местоположение здесь. В некоторых случаях, таких как Карты, для Bing может быть важно более точно понять, где находится пользователь, чтобы предоставлять услуги, зависящие от местоположения, такие как маршруты.  Пользователи также могут контролировать, какая конкретная информация о местоположении предоставляется Microsoft с помощью встроенных элементов управления и операционной системы их устройств.  

Если вы разрешите это, мы используем вашу историю поиска, чтобы помочь улучшить результаты и предоставить более релевантные результаты поиска. Чтобы управлять этой информацией, просмотрите историю поиска Bing. (https://www.bing.com/profile/history) 

Пользователи также могут получить доступ и изменить другие соответствующие элементы управления в настройках Bing, такие как параметры безопасного поиска, элементы управления голосовым поиском, поисковые подсказки и параметры персонализации. 

Учетная запись Майкрософт

Пользователи, вошедшие в свою учетную запись Майкрософт, также имеют более надежные средства управления журналом местоположений, журналом поиска и другими данными, собираемыми корпорацией Майкрософт, на панели мониторинга конфиденциальности Майкрософт. 

Вход с учетной записью Майкрософт — удобный способ управления данными и корректировки средств управления, в том числе целевой рекламы.

Чтобы узнать больше о том, как корпорация Майкрософт использует персональные данные, ознакомьтесь с политикой конфиденциальности Майкрософт.

Наша честность поиска

Microsoft уважает свободу выражения мнений и право на доступ к информации.  В то же время, в соответствии с политиками и принципами Microsoft в отношении ответственного искусственного интеллекта, конфиденциальности, цифровой безопасности, целостности информации и других важных вопросов, Bing разработала систему безопасности, включающую фильтрацию содержимого, операционный мониторинг и обнаружение злоупотреблений для обеспечения безопасного поиска для наших пользователей.

Если Microsoft получает запросы на удаление контента от отдельных лиц, предприятий и правительств, в ограниченных случаях, когда существуют проблемы с качеством, безопасностью, требованиями пользователей, соответствующими законами и/или общественной политикой, Bing может удалить результаты, информировать пользователей об определенных рисках или предоставить пользователям возможность редактировать свой контент. Bing ограничивает удаление результатов поиска узким набором обстоятельств и условий, чтобы не ограничивать доступ пользователей Bing к соответствующим сведениям.

Ниже мы описываем обстоятельства, при которых Bing может принять меры в отношении контента. При удалении результатов поиска Bing старается быть прозрачным в отношении удаления. Это включает уведомление пользователей об удалении результатов поиска внизу страницы. Кроме того, мы публикуем сведения о результатах поиска, удаленных Bing, в рамках Центра отчетов Майкрософт, включая отчет о запросах на удаление контента, защищенного авторским правом, отчет о запросах на удаление контента с правом на забвение и отчет о запросах государственных организаций на удаление контента.

Когда сообщается о потенциальном нарушении контента или поведения в Bing, специально обученный человек-рецензент может просмотреть контент и поведение. 

Модерация контента на основании юридических требований

В некоторых странах действуют законы или правила, которые применяются к поставщикам поисковых услуг и требуют, чтобы поисковые системы удаляли ссылки на определенные проиндексированные страницы из результатов поиска. Некоторые из этих законов позволяют отдельным лицам или организациям требовать удаления результатов (например, за нарушение авторских прав, клевету, диффамацию, информацию, позволяющую установить личность, разжигание ненависти или нарушение других личных прав), в то время как другие регулируются и обеспечиваются местными органами власти.

Когда Microsoft получает запрос или требование, Bing стремится сбалансировать свою поддержку свободы выражения мнений и свободного доступа к соответствующему контенту с соблюдением местных законов. Мы рассматриваем и оцениваем запрос или требование, включая причину и основание для запроса или требования, полномочия или права запрашивающей стороны, наши применимые политики и наши обязательства перед нашими пользователями в отношении свободы выражения мнений, прав человека и свободы информации, а также определяем, должны ли мы и в какой степени закрыть доступ к контенту. Ниже приведены примеры областей юридических запросов с глобальными подходами.

Изображения сексуальной эксплуатации и насилия над детьми и связанные с ними материалы

Производство и распространение материалов о сексуальном насилии над детьми, а также доступ к ним повсеместно осуждаются и являются незаконными в большинстве юрисдикций. Это также является нарушением политик Bing и Microsoft. Bing работает со сторонними технологическими и отраслевыми группами, правоохранительными органами, а также правительственными и неправительственными организациями, чтобы помочь остановить распространение этого ужасающего контента в Интернете. Один из способов сделать это — удалить страницы, проверенные заслуживающими доверия агентствами (или идентифицированные с помощью средств обнаружения содержимого Microsoft PhotoDNA ) и признанные содержащими или связанными с сексуальной эксплуатацией или насилием над детьми.

В частности, мы удаляем из нашего индекса страницы, которые были идентифицированы Internet Watch Foundation (Великобритания), NCMEC (США) и FSM (Германия), по их добросовестному суждению, как хостинг или поставщик доступа к материалам о сексуальном насилии над детьми. Удаление этих ссылок из отображаемых результатов поиска не блокирует доступ к материалам в Интернете или обнаружение с помощью средств, отличных от Bing, но снижает доступность этих страниц для тех, кто будет их искать или получать от этого прибыль.

Bing также использует технологию сопоставления хэшей PhotoDNA для сканирования изображений, загруженных пользователями в функцию визуального поиска, на предмет потенциальных злоупотреблений и злоупотреблений. Действия пользователей в Bing регулируются Соглашением об использовании служб Майкрософт. Дополнительные сведения об использовании PhotoDNA корпорацией Майкрософт и Bing и методах модерации содержимого см. в разделе Модерация и принудительное применение цифровой безопасности. 

Нарушение авторского права

Bing поощряет уважение прав интеллектуальной собственности, включая авторские права, а также признает права пользователей на использование, которое может быть разрешено применимыми законами об авторском праве. Bing может удалить из результатов поиска ссылки на веб-страницы, содержащие материалы, нарушающие права владельца содержимого, защищенного авторским правом, при условии, что мы получим юридически достаточное уведомление о нарушении авторских прав от владельца авторских прав или его уполномоченного агента.

Если вы являетесь правообладателем и у вас есть сомнения в отношении интеллектуальной собственности в отношении контента веб-сайта, на который ссылается Bing, или рекламы Bing, см. нашу страницу «Сообщить о нарушении».

Модерация контента на основе качества, безопасности и спроса пользователей

В определенных обстоятельствах, связанных с качеством, безопасностью и ценностью для пользователя, Bing может принять решение об удалении определенных результатов, или мы можем предупредить или обучить пользователей или предоставить варианты для адаптации результатов.

Спам

Некоторые страницы, включенные в индекс Bing, могут оказаться страницами, не имеющими или не имеющими никакой ценности для пользователей, и/или могут иметь характеристики, которые искусственно манипулируют работой поисковых и рекламных систем для искажения их релевантности по сравнению со страницами, которые предлагают более релевантную информацию. Некоторые из этих страниц содержат только рекламу или ссылки на другие веб-сайты, содержащие в основном рекламу и не содержащие или содержащие только поверхностное содержимое, относящееся к предмету поиска. Чтобы улучшить возможности поиска для пользователей и предоставлять более релевантное содержимое, Bing может удалить такие результаты поиска или изменить алгоритмы Bing, чтобы отдавать приоритет более полезным и релевантным страницам в результатах поиска.

Конфиденциальные личные сведения, включая распространение интимных изображений без согласия

Время от времени общедоступные веб-страницы могут преднамеренно или непреднамеренно содержать конфиденциальные личные сведения, размещенные без согласия идентифицированного лица или в обстоятельствах, которые создают риски для безопасности или конфиденциальности. Примеры включают непреднамеренное размещение личных записей, личных телефонных номеров, идентификационных номеров и т. п. или преднамеренное и злонамеренное размещение паролей электронной почты, учетных данных для входа в систему, номеров кредитных карт или других данных, предназначенных для использования в целях мошенничества или взлома. После проверки Bing удалит такие результаты поиска.

Другой пример — когда кто-то публикует в Интернете изображения другого человека для взрослых или откровенно сексуального характера — будь то реальные или «дипфейковые» изображения, созданные с помощью ИИ или других инструментов для редактирования фотографий, — без согласия этого человека.  Это обычно называют интимными образами без согласия или «порно-месть». Microsoft считает это грубым вторжением в личную жизнь. Чтобы помочь жертвам вернуть контроль над своими изображениями и своей конфиденциальностью, Bing может удалить ссылки на такие фотографии и видео из результатов поиска. Чтобы сообщить о несанкционированных фотографиях и видео в Интернете, включая дипфейки, жертвы должны заполнить форму на нашей веб-странице для отчетов.

Некоторые веб-страницы используют вводящие в заблуждение и эксплуататорские методы удаления. Примеры этой деятельности включают просьбы или требования оплаты для физических лиц за удаление их личных данных или отсутствие какого-либо процесса удаления конфиденциальной личной информации на сайте. После отправки и проверки отчета Bing может удалить такие результаты поиска из индекса. Чтобы сообщить о сайтах, которые используют такую практику, перейдите на нашу веб-страницу отчетов. 

Как указано в форме отчета, важно помнить, что информация останется доступной на исходном веб-сайте, даже если Bing удалит ссылку из результатов поиска. Владелец веб-сайта находится в лучшем положении для решения вопросов конфиденциальности информации, которую он публикует. Жертвы должны будут связаться с владельцами веб-сайта, на котором размещен контент, чтобы удалить контент из Интернета.

Содержимое для взрослых

Bing предлагает функцию безопасного поиска, которая позволяет большинству пользователей устанавливать тип фильтрации контента для взрослых, который они предпочитают применять к своим результатам поиска. Bing старается избегать доставки содержимого, которое может быть оскорбительным или вредным, если оно не было запрошено, и предоставляет параметры безопасного поиска, позволяющие пользователям настраивать свой поиск. По умолчанию в большинстве стран и регионов Безопасный поиск установлен на Умеренный, что ограничивает визуальные результаты поиска, но не ограничивает нецензурный текст.  Пользователи могут изменить свои настройки безопасного поиска в любое время.

В разных странах или регионах могут быть разные местные обычаи, религиозные или культурные нормы или местные законы, касающиеся отображения материалов для взрослых (или результатов поиска, предоставляющих доступ к материалам для взрослых). Это может повлиять на параметры безопасного поиска по умолчанию для Bing в некоторых странах.

Незаконные фармацевтические препараты

В соответствии с обязательством Bing по предоставлению пользователям достоверных результатов поиска компания Bing предприняла шаги, чтобы свести к минимуму вероятность причинения вреда пользователям в результате незаконных продаж фармацевтических препаратов в Интернете. В США Bing блокирует интернет-аптеки, перечисленные на сайте FDA с предупреждающими письмами об интернет-аптеках. FDA, как федеральный регулирующий орган фармацевтической промышленности в Соединенных Штатах, ведет этот общедоступный список интернет-аптек, занимающихся незаконными и небезопасными методами. У FDA есть дополнительная информация на BeSafeRx: Know Your Online Pharmacy.

Объявления и предупреждения службы общественной информации

По некоторым темам может быть трудно найти качественную информацию. Когда мы выявляем эти пробелы, мы иногда вставляем полезный контент, чтобы пользователи могли быстрее изучить тему. Они могут принимать самые разные формы. Вы можете увидеть ответ «общественной службы», ответ, объясняющий экстренные новости, или предупреждение на конкретном сайте, который, как известно, содержит потенциально опасную информацию. Чтобы убедиться, что мы правильно понимаем детали, мы всегда ищем авторитетные источники тщательно отобранного и оригинального контента. Если мы используем сторонний источник, мы всегда показываем его имя или веб-сайт, чтобы вы знали, откуда поступают данные.

Например, Bing предоставляет ссылки на ресурсы по предотвращению самоубийств, когда запрос пользователя выражает возможное намерение совершить самоубийство. Microsoft Bing также предоставляет предупреждающие уведомления об определенных URL-адресах, появляющихся в результатах поиска, если у него есть достоверная информация о том, что ссылка содержит потенциально опасный контент. Такие уведомления отображаются на ссылках на сайты, которые Microsoft Bing определила как содержащие вредоносное ПО, которое может повредить компьютер пользователя.

Дополнительные вмешательства в рейтинг

В некоторых случаях Bing может обнаружить, что определенные темы поиска возвращают результаты, не соответствующие принципам Bing, например, когда злоумышленники намеренно манипулируют результатами поиска для отображения содержимого с низким авторитетом, используют пустоту данных или иным образом нарушают руководство Bing для веб-мастеров в попытке ненадлежащего манипулирования результатами поиска. Запрещенные действия описаны далее в Руководстве для веб-мастеров - Инструменты Bing для веб-мастеров. Когда это происходит, Bing может применить дополнительные алгоритмические вмешательства, чтобы предотвратить неожиданное знакомство пользователей с вредоносным или вводящим в заблуждение содержимым, искать которое они не намеревались. Bing отдает приоритет вмешательству в известные тенденции дезинформации, темы, в которых существует повышенный риск активных манипуляций, и области, в которых существует риск причинения вреда нашим пользователям.  

Хотя мы не удаляем такой контент полностью из нашего индекса, мы применяем алгоритмические вмешательства, чтобы пользователи, не имеющие явного намерения найти такую информацию, были защищены от случайного представления вредоносной или вводящей в заблуждение информации. Bing активно отслеживает тенденции манипуляций в выявленных областях высокого риска и развертывает методы смягчения последствий по мере необходимости, чтобы обеспечить пользователям высококачественные результаты поиска с высоким авторитетом. 

Безопасность расширенных функций поиска

Предоставление полезных предложений по поиску

Bing предпринимает шаги, чтобы гарантировать, что пользователи не будут непреднамеренно перенаправлены на потенциально опасный, оскорбительный или вводящий в заблуждение контент с помощью поисковых подсказок.  Мы устанавливаем барьеры, чтобы предотвратить неожиданное знакомство пользователей с потенциально опасным или оскорбительным контентом, используя комбинацию упреждающих и реактивных алгоритмических и ручных вмешательств. Эти вмешательства применяются только к поисковым предложениям; пользователям никогда не запрещается вручную вводить поисковый запрос.

Вы можете включить и отключить функцию автозаполнения на странице параметров Bing (Поиск - Параметры (bing.com)), установив или сняв флажок "Отображать предложения поиска по мере ввода".

Отчеты и апелляции

Сообщение о проблемном содержании

Если вы обнаружите нежелательный контент в Bing, сообщите об этом. Мы ценим ваши отчеты и постоянно работаем над улучшением вашего поиска.

Для веб-мастеров: обжалование решений об удалении контента веб-страницы

Если Bing удалил ваш сайт или страницу из индекса, и вы устранили проблемы и хотите, чтобы ваш сайт прошел повторную оценку, вы можете подать апелляцию с помощью средств веб-мастера Bing. Узнайте больше о процессе.

Апелляции пользователей

Использование всех продуктов и функций Bing регулируется соглашением об использовании служб Майкрософт. Постоянное участие в действиях, нарушающих Соглашение, может привести к бессрочной приостановке и/или ограничению действия учетной записи Microsoft пользователя.

Пользователи могут обжаловать ограничения/приостановки с помощью формы "Сообщить о проблеме Bing". Служба поддержки Bing рассмотрит решения. Если будет обнаружено, что первоначальные действия были выполнены по ошибке, действия будут отменены, и уведомления будут отправлены затронутым пользователям, если контактная информация была предоставлена Bing.

Прозрачность

Каждые шесть месяцев Microsoft публикует отчеты о прозрачности, которые включают количество запросов на удаление, которые мы получили в определенных категориях и одобрили в течение этого периода времени. Вы можете просмотреть некоторые сведения о запросах в Центре отчетов | Корпоративная социальная ответственность Майкрософт.

Статьи по теме

Удалить кэшированные страницы из Bing

Отправить запрос на удаление содержимого из Bing

Сообщить о содержимом для взрослых или оскорбительном содержимом

Блокируйте содержимое для взрослых с помощью функции Безопасного поиска.