Последнее обновление: март 2025 г.
Предыдущие версии можно найти в архивах здесь .
Наш подход к поиску
Мы понимаем, что в нашем технологическом мире поисковые системы во многих отношениях являются воротами в Интернет и основным способом, с помощью которого люди находят контент, который ищут среди триллионов постоянно меняющихся веб-страниц, доступных в Интернете. Поисковые системы, такие как Bing, играют жизненно важную роль в поддержании основного права на свободный и открытый доступ к информации и свободному выражению мнений, и мы стремимся помочь пользователям найти наиболее полезную и релевантную информацию, которую они ищут. В то же время мы признаем, что нам часто приходится сопоставлять право на доступ к информации с другими ключевыми правами и интересами, такими как конфиденциальность или безопасность пользователей. Чтобы помочь нам определить, какие страницы должны предоставляться в ответ на поисковые запросы, мы опираемся на следующие принципы:
Мы предоставляем надежные и авторитетные результаты, соответствующие запросам пользователей.
-
Мы предоставляем высококачественный авторитетный контент, соответствующий условиям поиска пользователей.
-
Наша цель — всегда предоставлять честный, сбалансированный и исчерпывающий контент. Когда есть несколько заслуживающих доверия точек зрения, мы пытаемся представить их информативно. Когда нет авторитетного источника, наша цель — избежать предвзятости или потенциально вводящей в заблуждение информации.
-
Мы уважаем намерения пользователя. Когда пользователь выражает явное намерение получить доступ к определенной информации, мы предоставляем релевантные результаты, даже если они менее достоверны, при этом (как более подробно описано ниже) мы работаем над тем, чтобы такие результаты поиска не вводили пользователей в заблуждение.
Мы продвигаем свободный и открытый доступ к информации в рамках закона и при соблюдении местного законодательства и других основных прав, таких как неприкосновенность частной жизни и общественная безопасность.
-
Мы предоставляем открытый доступ к как можно большей части Интернета, но в ограниченных случаях мы можем предпринимать определенные действия (например, удаление веб-сайта или понижение рейтинга), например, когда контент нарушает местное законодательство, политики или основные ценности Microsoft.
-
При ограничении доступа к контенту мы стремимся обеспечить, чтобы наши действия были узко адаптированы, поэтому мы не чрезмерно ограничиваем важные интересы, такие как свобода выражения мнений, открытый доступ к информации и плюрализм средств массовой информации, и мы предоставляем прозрачность в отношении наших действий.
Мы принимаем меры для защиты пользователей от вредоносного и неожиданного оскорбительного контента.
-
Мы признаем, что существует множество причин, по которым кто-то может захотеть исследовать или просматривать вредоносный или спорный контент, но также признаем важность обеспечения того, чтобы пользователи не случайно вводились в заблуждение таким содержимым.
-
Для некоторых типов контента, в которых мы определили, что результаты поиска могут содержать вредную или вводящую в заблуждение информацию, мы можем предоставить дополнительную информацию, например предупреждения и объявления государственных служб, чтобы информировать пользователей о потенциальных рисках. Мы предоставляем пользователям контроль над типом контента, с которым они сталкиваются в Bing, с помощью таких функций, как безопасный поиск и семейная безопасность.
-
При отсутствии явного намерения получить доступ к конкретному контенту мы предполагаем намерение найти результаты с высоким авторитетом.
Мы прозрачны в отношении наших принципов и практики, а также наших решений и действий.
-
Мы предоставляем пользователям информацию о наших принципах ранжирования и релевантности, а также о нашей политике модерации.
-
Когда мы ограничиваем доступ к контенту, в соответствующих случаях мы уведомляем пользователей о том, что контент был удален.
-
Мы публикуем регулярные отчеты о прозрачности, содержащие информацию о полученных нами жалобах и предпринятых действиях.
Совет: Если сведения уже удалены с веб-сайта, но по-прежнему отображаются в результатах поиска Bing, вы можете отправить запрос на удаление страницы или устаревшего кэша с помощью средства удаления контента. Чтобы узнать больше об инструменте для удаления контента, перейдите в разделы справки и инструкций по Bing для веб-мастеров.
Основы поиска
Возврат результатов поиска — непростая задача, требующая сложных, почти мгновенных алгоритмических вычислений. Поиск чего-то такого простого, как «кошка», может дать более 55 миллионов результатов. Итак, как мы выбираем, какие результаты показывать первыми? Мы начинаем с обхода сети и построения индекса доступных веб-страниц. Затем мы используем алгоритмы для ранжирования и оптимизации этого контента, чтобы предоставить пользователям наилучшие доступные результаты поиска самого высокого качества.
Более подробная информация о каждом из этих шагов приведена ниже.
Первый шаг в построении поиска — выяснить, какие страницы существуют в Интернете, чтобы проиндексировать их — обычно это называется сканированием. В Bing мы ласково называем наш поисковый робот «Bingbot». Сканирование — это то, как Bingbot обнаруживает новые и обновленные страницы и контент для добавления в наш поисковый индекс. Bingbot использует алгоритм, чтобы решить, что сканировать и как часто, чтобы свести к минимуму его влияние на веб-сайты. Мы все о эффективности, даже если мы ежедневно сканируем миллиарды URL-адресов. Мы отдаем приоритет релевантным известным страницам, которые еще не проиндексированы и которые, по нашему мнению, были обновлены, чтобы обеспечить самые свежие результаты.
Когда Bingbot сканирует Интернет, он отправляет в Bing информацию о том, что находит. Эти страницы затем добавляются в индекс Bing, и алгоритмы используются для анализа страниц, чтобы мы могли эффективно включать их в результаты поиска, включая определение того, какие сайты, новостные статьи, изображения или видео будут включены в индекс и будут доступны при поиске пользователей. по конкретным ключевым словам. Узнайте больше о том, как Bing находит и индексирует страницы здесь .
Сложные алгоритмы генерируют результаты поиска Microsoft Bing, используя поисковый запрос пользователя, сопоставляя его со сторонними веб-страницами в нашем индексе. Bing разрабатывает и постоянно совершенствует свои алгоритмы, чтобы предоставлять наиболее полный, актуальный и ценный набор доступных результатов поиска.
Учитывая масштабы Интернета и сложность работы поисковой системы, Bing полагается на машинное обучение, чтобы пользователи могли видеть наилучшие результаты своего запроса из триллионов страниц контента в Интернете. Машинное обучение — это наука о том, как заставить компьютеры действовать без явного программирования путем выявления закономерностей в данных и обобщения на основе небольшого набора примеров. Для веб-рейтинга это означает создание модели, которая будет рассматривать некоторые идеальные результаты, чтобы узнать, какие функции наиболее предсказуемы для их полезности, полагаясь на автоматические сигналы, такие как взаимодействие пользователя с веб-сайтом Bing, и обучающие данные, помеченные экспертами-людьми и/или через Системы искусственного интеллекта под контролем человека. Bing направляет своих судей, чтобы убедиться, что их оценки соответствуют целям ранжирования Bing, и занимается постоянным мониторингом и надзором за своими системами ранжирования и при необходимости корректирует свои методы, чтобы результаты поиска оставались в соответствии с принципами Bing.
Основные параметры ранжирования
Ниже представлен общий обзор основных параметров, которые Bing использует для ранжирования страниц в результатах поиска. Эти параметры перечислены в общем порядке важности. Сложные системы Bing используют эти критерии для предоставления результатов поиска. Относительная важность каждого из приведенных ниже параметров может варьироваться от поиска к поиску и меняться с течением времени.
-
Релевантность: Релевантность — это то, насколько контент на целевой странице соответствует намерениям пользователя, стоящим за поисковым запросом. Сюда входят совпадающие термины непосредственно на странице и фразы, используемые в ссылках, ведущих на страницу. Bing также рассматривает семантические эквиваленты, в том числе синонимы или сокращения, которые могут не совпадать с терминами запроса в точности, но считаются имеющими такое же значение. Многие запросы могут иметь более одного возможного намерения. Bing пытается предоставить исчерпывающий набор результатов, отражающих все возможные намерения, но Bing предполагает, что пользователь ищет высококачественный авторитетный контент, если пользователь явно не указывает на намерение исследовать низкокачественный контент.
-
Качество и надежность: Определение качества и достоверности (QC) веб-сайта включает в себя оценку ясности цели сайта, его удобства использования и представления. QC также состоит из оценки «авторитета» страницы, которая включает такие факторы, как:
-
Репутация: какие типы других веб-сайтов ссылаются на сайт? Считается, что известный новостной сайт имеет более высокую репутацию, чем новый блог.
-
Уровень дискурса: Является ли целью контента исключительно причинение вреда отдельным лицам или группам людей? Например, сайт, который пропагандирует насилие или прибегает к оскорблениям или издевательствам, будет считаться имеющим низкий уровень дискурса и, следовательно, более низкий авторитет, чем сбалансированная новостная статья.
-
Уровень искажения: насколько хорошо сайт отличает факты от мнений? Сайт, явно помеченный как сатира или пародия, будет иметь больший авторитет, чем тот, который пытается скрыть свои намерения.
-
Происхождение и прозрачность прав собственности. Предоставляет ли сайт информацию из первых рук или же он обобщает или повторно публикует контент, полученный от других? Если сайт не публикует оригинальный контент, указывают ли они источник? Учетная запись из первых рук, опубликованная в личном блоге, может иметь больший авторитет, чем контент без источников.
-
-
Вовлеченность пользователей: Bing также учитывает, как пользователи взаимодействуют с результатами поиска. Чтобы определить вовлеченность пользователей, Bing задает такие вопросы, как: нажимали ли пользователи на результаты поиска по заданному запросу, и если да, то какие результаты? Тратили ли пользователи время на эти результаты поиска, по которым они просматривали, или быстро возвращались в Bing? Пользователь скорректировал или переформулировал свой запрос? Для веб-мастеров панель инструментов Bing для веб-мастеров предоставляет информацию о том, как пользователи взаимодействуют со своими веб-страницами.
-
Свежесть: Как правило, Bing предпочитает свежий контент. Страница, которая постоянно предоставляет актуальную информацию, считается свежей. Во многих случаях контент, созданный сегодня, будет актуален и через много лет. Однако в некоторых случаях контент, созданный сегодня, быстро устаревает.
-
Местоположение и язык: При ранжировании результатов Bing учитывает местоположение пользователя (страну и город), где размещена страница, язык страницы и местонахождение других посетителей страницы.
-
Время загрузки страницы: Медленная загрузка страницы может привести к тому, что посетитель покинет веб-сайт, возможно, еще до того, как контент загрузится, чтобы искать информацию в другом месте. В большинстве случаев Bing будет считать это плохим взаимодействием с пользователем и менее полезным результатом поиска.
Использование персональных данных
Bing использует информацию, относящуюся к конкретному пользователю, для повышения релевантности и производительности. Эта информация включает в себя историю поиска, местоположение, язык, характеристики устройства, такие как операционная система или браузер, а также то, использует ли пользователь мобильное устройство, планшет или настольный компьютер. Пользователи могут изменить свое местоположение, язык и другие параметры в Настройках Bing и удалить историю поиска на Панели конфиденциальности .
Платный контент и контент, продвигаемый Microsoft
Веб-сайты могут выбрать объявление в Bing через Microsoft Advertising; Платные объявления, отображаемые в результатах поиска, помечены как таковые. Bing не позволяет веб-сайтам улучшать свои позиции в органическом рейтинге («синие ссылки») за счет оплаты. Узнайте больше о том, как платные поисковые объявления ранжируются в результатах поиска рекламы.
Bing не уделяет приоритетное внимание продуктам или службам Майкрософт по сравнению со сторонними продуктами и службами в результатах алгоритмического поиска. Помимо обычных результатов поиска, Bing иногда предоставляет отдельное поле для ответов или баннер, рекламирующий продукт или услугу Microsoft, когда это имеет отношение к предоставленному поисковому запросу.
Характер бизнеса
Характеристики товаров или услуг, предлагаемых на сайте, не влияют на результаты ранжирования Bing, за исключением случаев, когда содержимое является потенциально оскорбительным или вредным для пользователя. Например, страницы с содержанием для взрослых недоступны, если пользователи установили Безопасный поиск в "Строгий" режим. В качестве другого примера, страницы, продвигающие потенциально опасный контент, например, сайты, рекламирующие методы самоубийства или предназначенные для продажи опиоидов или других потенциально вредных наркотиков, будут считаться контентом с низким авторитетом.
Улучшенные возможности поиска
В дополнение к основным функциям алгоритмического поиска Bing предоставляет пользователям дополнительные функции, помогающие предоставлять дополнительный контекст и информацию и повышать удобство поиска. Например, если пользователи хотят узнать, какая команда выиграла игру прошлой ночью, когда пользователи ищут в Bing имя команды, они, скорее всего, увидят окончательную оценку и резюме в верхней части страницы, snapshot с дополнительными сведениями о команде, новостями, видео и связанными поисками, а также наиболее релевантными результатами поиска. Чтобы помочь пользователям легче находить то, что они ищут, мы также позволяем пользователям сузить результаты поиска с помощью таких категорий, как изображения, видео, новости и покупки. Эти функции также основаны на принципах ранжирования и основных параметрах, описанных выше, но в некоторых случаях учитывают дополнительные соображения, чтобы предоставить пользователям наиболее качественные и релевантные доступные результаты. В некоторых случаях Bing может определить, что конкретный поисковый запрос не подходит для этих расширенных функций поиска, но всегда будет следить за тем, чтобы пользователи могли найти соответствующую информацию по синим ссылкам. Более подробная информация об этих функциях приведена ниже.
«Ответы» — это то, как Bing описывает расширенные результаты поиска, которые часто отображаются вверху или сбоку от результатов поиска, которые предоставляют более подробный контент в ответ на запрос пользователя, часто с прямым ответом на заданный вопрос или с дополнительными связанными ресурсами. Например, если пользователь вводит «Какова высота Эйфелевой башни?» Bing ответит "330 м", чтобы позволить пользователям быстро найти нужную информацию, а также панель боковой панели с дополнительными сведениями об Эйфелевой башне, включая интересные факты о том, когда она была построена, где она находится, и другие сведения. Для этих запросов Bing просматривает результаты поиска в Интернете, возвращает сводные ответы и ссылки на его источники. Некоторые из этих ответов могут быть на основе генеративного ИИ, чтобы обеспечить еще более широкий опыт, связываясь с ключевыми источниками.
Если запрос связан с бизнесом, Bing может вернуть соответствующую информацию о бизнесе, например часы работы и местонахождение магазина. Владельцы бизнеса могут запрашивать и проверять существующие списки в Bing с помощью Bing Places for Business (доступно на ограниченных рынках) для создания, редактирования или обновления информации о своих списках. В некоторых случаях Bing может сотрудничать со сторонними поставщиками контента, такими как местные сайты отзывов ресторанов, для дальнейшего улучшения взаимодействия с пользователем.
Возможности изображений и видео Bing предоставляют пользователю результаты изображений и видео, соответствующие его поисковым запросам, которые могут отображаться в вертикалях изображений и видео, а также на главной странице результатов поиска, где изображение или видеоконтент имеет отношение к запросу пользователя. Ранжирование изображений и видео обычно зависит от тех же параметров, что и главная страница результатов веб-поиска, т. е. релевантности, качества, свежести, авторитетности и популярности. Когда пользователь впервые попадает на главные страницы изображений или видео, перед вводом запроса на главной странице будет отображаться рекомендуемый контент на основе предыдущих взаимодействий с сайтом, таких как история поиска пользователя, взаимодействие с результатами изображений, сохраненные изображения и, где пользователь разрешает это, история просмотра Edge. Пользователи могут управлять этим взаимодействием, удаляя данные, которые влияют на персонализацию, со своей панели конфиденциальности, используя согласие на действия в браузере Microsoft Edge для персонализированной рекламы и взаимодействия или, если они не авторизованы, начиная новую сессию. На некоторых рынках Bing также предлагает функцию Bing Saves, которая позволяет пользователям, прошедшим проверку подлинности, сохранять коллекции соответствующих ссылок на изображения. Действия пользователей в Bing Saves регулируются Соглашением об использовании служб Майкрософт и Кодексом поведения.
В интерфейсе Bing Maps или на главной странице результатов поиска, где запрос указывает намерение местоположения, пользователи могут вводить запросы в строку поиска, и на карте будет отображаться список местоположений в этом районе в ответ на этот поиск или указание определенного адреса. Bing Maps использует лицензированные и общедоступные данные о местоположении и использует те же параметры ранжирования, что и описанные выше. Компании могут повысить точность результатов Bing Maps, зарегистрировавшись в Bing Places и предоставив пользователям Bing актуальную информацию, относящуюся к их бизнесу, такую как местоположение, контактные данные. информация и часы.
Bing имеет специальную новостную домашнюю страницу под названием Bing News, на которой публикуются новости для пользователей Bing. Если это применимо, Bing также может отображать поле ответов, ориентированное на новости, на странице main результатов поиска, извлекаемой из содержимого Bing News.
Хотя Bing News использует те же main параметры для ранжирования результатов, что и Bing, содержимое, которое отображается в результатах поиска новостей Bing, должно соответствовать определенным рекомендациям издателя новостей Bing, подробно описанным в Центре публикации новостей Bing. Веб-сайты, заинтересованные в включении в индекс новостей Bing, могут применяться через PubHub. Если одна и та же статья доступна как на стороннем веб-сайте, так и в MSN.com или Microsoft Start (в качестве содержимого, лицензированного Майкрософт), в результатах поиска новостей Bing может отображаться начальная версия этого содержимого (Майкрософт). Это обеспечивает более последовательный и качественный пользовательский опыт. Лицензионный контент Microsoft Start, появляющийся в Bing, помечается меткой «на основе Microsoft Start».
Bing Shopping — это функция поиска, которая помогает пользователям находить продукты от нескольких продавцов в одном представлении, возвращая релевантные результаты покупок из Интернета и от рекламодателей. В некоторых случаях при покупках могут использоваться средства генеративного ИИ, чтобы обеспечить лучшие результаты для пользователей. В некоторых случаях корпорация Майкрософт может получать компенсацию для пользователей, которые нажимают на алгоритмически созданные результаты, но такая компенсация не влияет на ранжирование или релевантность алгоритмически созданных результатов, отображаемых пользователю.
Bing Shopping также может предоставлять купоны, относящиеся к запросу пользователя или, если пользователь разрешает, на основе предварительного взаимодействия с магазинами. В некоторых случаях корпорация Майкрософт может получать доход за использование купонов и покупок через Bing Shopping, хотя то, будет ли получена выплата доли дохода, не учитывается в рейтинге купонов Bing, отображаемых пользователям.
Bing Shopping также предлагает генеривные функции ИИ, такие как руководства по покупке и обзор экспертов / обзор пользователей, чтобы помочь пользователям эффективно принимать решения о покупках. Эти функции разрабатываются, создаются и тестируются в соответствии со стандартом Ответственного ИИ Майкрософт. Так как LLM могут иногда совершать ошибки, пользователям предоставляется соответствующая информация, чтобы убедиться, что пользователи знают об ограничениях.
Пользователи, которые разрешают корпорации Майкрософт собирать и использовать персональные данные для персонализации и объявления, могут видеть результаты в вертикали покупок с учетом их интересов; пользователи могут посетить панель мониторинга конфиденциальности Майкрософт или переключатель магазина Edge, чтобы согласиться на персонализированную рекламу или отказаться от нее, а также контролировать данные, влияющие на персонализацию.
Безопасность всегда является главным приоритетом в Bing. У нас есть несколько способов обеспечить безопасность пользователей, в том числе всегда использовать безопасное веб-соединение https, уведомлять пользователей, если мы думаем, что сайт содержит вредоносное ПО, позволяя пользователям контролировать то, что они видят, с помощью SafeSearch и интегрируя с семейной безопасностью Windows, чтобы помочь лицам, осуществляющим уход. защитить своих детей. Наша функция безопасного поиска помогает не допустить попадания контента для взрослых в результаты поиска. Посетите настройку безопасного поиска , чтобы внести изменения в этот интерфейс.
Автоподсказки и связанные с ними подсказки («предложения») — это подсказки запросов, предоставляемые Bing, чтобы помочь пользователям более удобно использовать поиск и чат. Autosuggest — это функция, которая помогает пользователям выполнять поиск быстрее, прогнозируя поисковые запросы, когда пользователи начинают вводить текст в поле запроса. Связанные предложения — это функция, которая показывает темы, которые могут заинтересовать пользователей рядом с результатами поиска (например, "Люди также может спросить"). Bing аналогичным образом предлагает темы для разговоров в своем чате.
Предложения генерируются алгоритмически и основаны на популярности похожих поисковых запросов в Bing, а также на других сигналах релевантности, таких как история поиска, тенденции, местоположение и язык. Предложения Bing также используют технологию генерации естественного языка, обученную на наборах запросов, чтобы помочь предсказать предполагаемый запрос пользователя.
Функции генеративного ИИ
Bing включает в себя определенные генеративные функции ИИ, которые работают на различных передовых технологиях От Майкрософт и OpenAI, включая GPT, передовую модель большого языка (LLM) и DALL-E, модель глубокого обучения для создания цифровых изображений на основе описания естественного языка, как из OpenAI. Мы работали с обеими моделями в течение нескольких месяцев до общедоступного выпуска, чтобы разработать настраиваемый набор возможностей и методов для присоединения к этой передовой технологии ИИ и веб-поиска в новом Bing. Например, Bing иногда показывает сводные результаты, созданные LLM, поверх страницы результатов поиска main Bing в ответ на запросы пользователей, что упрощает и ускоряет поиск. Другой пример: в Bing Shopping мы предлагаем руководства по покупке, созданные на основе искусственного интеллекта, и сводки экспертных обзоров / сводки по обзору пользователей, чтобы помочь пользователям эффективно принимать решения о покупках.
Корпорация Майкрософт серьезно относится к нашим обязательствам по ответственному ИИ. Возможности генеративного ИИ Bing были разработаны в соответствии с принципами ИИ Корпорации Майкрософт, ответственной Standard ИИ Корпорации Майкрософт, а также в сотрудничестве с ответственными экспертами по искусственному интеллекту в компании, включая Отдел ответственного ИИ Корпорации Майкрософт, наши инженерные команды, Microsoft Research и Aether. Дополнительные сведения об ответственном ИИ в Корпорации Майкрософт см. здесь.
Как и другие трансформационные технологии, использование преимуществ ИИ не является безрисковый, и основная часть программы ответственного ИИ Майкрософт предназначена для выявления потенциальных рисков, измерения их склонности к возникновению и создания мер по устранению этих рисков. Руководствуясь принципами ИИ и нашими Standard ответственного использования ИИ, мы стремились выявить, измерить и снизить потенциальные риски, обеспечивая при этом преобразующее и полезное использование, которое предоставляет новый интерфейс. В разделах ниже описан наш итеративный подход к выявлению, измерению и снижению потенциальных рисков.
Отождествлять
На уровне модели наша работа началась с исследовательского анализа GPT-4 в конце лета 2022 года. Это включало проведение обширного тестирования красной команды в сотрудничестве с OpenAI. Это тестирование было разработано для оценки того, как будет работать новейшая технология без каких-либо дополнительных мер предосторожности, применяемых к ней. В настоящее время мы намеревались создать вредные меры реагирования, выявить потенциальные пути для неправильного использования, а также выявить возможности и ограничения. Наши объединенные учебные курсы в OpenAI и Майкрософт способствовали прогрессу в разработке моделей. Для нас в Корпорации Майкрософт мы узнали о рисках и внесли вклад в ранние стратегии устранения рисков для функций генеративного ИИ в Bing.
В дополнение к тестированию красной команды на уровне модели, междисциплинарная группа экспертов провела многочисленные раунды тестирования красной команды на уровне приложений для предыдущих Copilot в Bing интерфейсов ИИ, прежде чем сделать их общедоступными в нашей ограниченной предварительной версии. Этот процесс помог нам лучше понять, как система может быть использована состязаемыми субъектами, и улучшить наши меры по устранению рисков. Не-состязаители стресс-тестеров также тщательно оценили новые возможности Bing на наличие недостатков и уязвимостей. После выпуска новые возможности ИИ в Bing интегрируются в существующую рабочую инфраструктуру измерения и тестирования организации Bing. Например, тестировщики красной команды из разных регионов и слоев постоянно и систематически пытаются скомпрометировать систему, и их результаты используются для расширения наборов данных, используемых Bing для улучшения системы.
Измерять
Красное командное тестирование и стресс-тестирование могут вылиться в экземпляры определенных рисков, но в рабочей среде пользователи будут иметь различные запросы в Bing с разными уровнями намерений поиска. Чтобы лучше понять и устранить потенциальные риски, связанные с генеративным интерфейсом ИИ Bing, мы разработали метрики для измерения потенциального риска отображения пользователям вредоносного содержимого. Метрики используются для оценки новых функций в рамках проверок ответственного ИИ, а также для текущего мониторинга функций после запуска. Мы также включили измерение в масштабе с помощью частично автоматизированных конвейеров измерения. При каждом изменении продукта, обновлении существующих мер по устранению рисков или предложении новых мер по устранению рисков мы обновляем конвейеры измерений, чтобы оценить производительность продукта и метрики ответственного использования ИИ.
Наши конвейеры измерений позволяют нам быстро измерять потенциальные риски в большом масштабе. По мере выявления новых проблем в течение периода предварительной версии и текущего тестирования красной команды мы продолжаем расширять наборы измерений для оценки дополнительных рисков.
Смягчать
Так как мы определили потенциальные риски и неправильное использование с помощью таких процессов, как тестирование красной команды и стресс-тестирование, и измерили их с помощью описанных выше инновационных подходов, мы разработали дополнительные способы устранения рисков для тех, которые используются для традиционного поиска. Ниже описаны некоторые из этих мер. Мы продолжим мониторинг возможностей генеративного ИИ в Bing для повышения производительности продукта и устранения рисков.
-
Поэтапный выпуск, непрерывная оценка. Мы стремимся постоянно учиться и совершенствовать наш подход к ответственному ИИ по мере развития наших технологий и поведения пользователей. Наша стратегия добавочного выпуска была основной частью того, как мы безопасно переносим наши технологии из лабораторий в мир, и мы привержены преднамеренному, вдумчивый процесс для обеспечения преимуществ генеривных функций ИИ в Bing. Мы регулярно вносим изменения в функции генеративного ИИ в Bing для повышения производительности продукта, улучшения существующих мер по устранению рисков и реализации новых мер по устранению рисков в ответ на наши знания в течение периода предварительной версии.
-
Заземление в результатах поиска. Ответы в генеративном поиске Bing, основанные на результатах поиска, включают ссылки на исходные веб-сайты, чтобы пользователи проверили ответ и узнали больше. Пользователям также предоставляется явное уведомление о том, что они взаимодействуют с системой ИИ, и рекомендуется проверка исходные веб-материалы результатов, чтобы помочь им использовать их наилучшее суждение.
-
Классификаторы на основе ИИ и метавыкания для снижения потенциальных рисков или неправильного использования. Использование LLM может создать проблемное содержимое, которое может привести к рискам или неправильному использованию. Примерами могут быть выходные данные, связанные с самоповреждения, насилием, графическим контентом, интеллектуальной собственностью, неточной информацией, ненавистнительной речью или текстом, который может относиться к незаконной деятельности. Классификаторы и метавыкания — это два примера мер по устранению рисков, которые были реализованы в Copilot в Bing для снижения риска таких типов содержимого. Классификаторы классифицируют текст, чтобы помечать различные типы потенциально опасного содержимого в поисковых запросах, запросах чата или созданных ответах. Bing использует классификаторы на основе ИИ и фильтры содержимого, которые применяются ко всем результатам поиска и соответствующим функциям; Мы разработали дополнительные классификаторы запросов и фильтры содержимого, специально для устранения возможных рисков, связанных с генеративными функциями ИИ. Флаги приводят к устранению потенциальных рисков, таких как не возврат созданного содержимого пользователю или перенаправление пользователя на традиционный поиск. Метавыставка включает в себя предоставление модели инструкций по ее поведению, в том числе для того, чтобы система вела себя в соответствии с принципами ИИ Майкрософт и ожиданиями пользователей.
-
Раскрытие ИИ. Функции генеративного ИИ Bing обеспечивают раскрытие информации об ИИ, когда пользователи получают уведомления о том, что они взаимодействуют с системой ИИ, а также возможности узнать больше о функциях. Предоставление пользователям этих знаний поможет им избежать чрезмерной зависимости от ИИ и узнать о сильных сторонах и ограничениях системы.
-
Операции и быстрое реагирование. Мы также используем текущие процессы мониторинга и эксплуатации Bing для решения наблюдаемых проблем безопасности.
-
Обратная связь, мониторинг и надзор. Возможности генеративного ИИ в Bing опираются на существующие инструменты, которые позволяют пользователям отправлять отзывы и отчеты о проблемах, которые проверяются операционными группами Майкрософт. Пользователи могут использовать страницу Сообщить о проблеме , чтобы сообщить о потенциально опасном или вводяя в заблуждение содержимое, созданное ИИ.
Наш подход к выявлению, измерению и устранению рисков будет продолжать развиваться по мере того, как мы узнаем больше, и мы постоянно вносим улучшения на основе собранных отзывов.
Улучшение результатов поиска
Прежде чем пользователи увидят улучшение или новую функцию в Bing, мы усердно работаем за кулисами. Наши исследователи часто приглашают пользователей опробовать новые функции и поделиться с нами своим мнением. Как только они будут удовлетворены, мы предоставим эту функцию небольшому количеству реальных пользователей, чтобы увидеть, как они взаимодействуют с ней. Когда она получает зеленый свет, мы публикуем ее для всех. Но это еще не все. После выпуска каждой функции мы регулярно отслеживаем использование и отзывы, чтобы оценить, что работает и что можно улучшить.
Ваши отзывы помогают сделать Bing лучше. Внизу каждой страницы Bing вы увидите ссылку для обратной связи. Нам не требуется ваше имя или другая идентифицирующая информация, когда вы отправляете отзыв. Эта информация передается командам Bing для улучшения вашего опыта и результатов поиска. Мы стараемся читать каждый отзыв, который вы отправляете. Кроме того, мы не можем не заметить, что пользователям нравится и не нравится в Bing, когда вы используете сайт, например, какие ссылки вы нажимаете и какие поисковые запросы вам нужно пересмотреть, чтобы найти то, что вы ищете, и мы используем эту информацию, когда мы работаем над новыми или существующими функциями.
Элементы управления
Для многих распространенных сценариев поиска, таких как поиск местных предприятий, таких как рестораны, магазины или медицинские учреждения, для предоставления полезных результатов поиска важно, чтобы Bing понимал язык пользователя, местоположение и аналогичные предпочтения. В то же время Bing хочет убедиться, что пользователь сохраняет контроль над своим опытом. Пользователи могут видеть, какую информацию Bing использует для предоставления релевантных результатов поиска, и в любое время вносить изменения в настройках Bing .
Что касается местоположения, Bing попытается определить область, в которой вы находитесь, используя такие сигналы, как ваш IP-адрес, но вы также можете обновить предпочтительное местоположение в любое время здесь . В некоторых случаях, таких как карты, Bing может быть важно понять, где находится пользователь, чтобы предоставить зависимые от расположения службы, такие как маршруты. Пользователи также могут контролировать, какая конкретная информация о местоположении предоставляется Microsoft с помощью встроенных элементов управления и операционной системы их устройств.
Если вы разрешите это, мы используем вашу историю поиска, чтобы помочь улучшить результаты и предоставить более релевантные результаты поиска. Чтобы управлять этой информацией, просмотрите историю поиска Bing. (https://www.bing.com/profile/history)
Пользователи также могут получить доступ и изменить другие соответствующие элементы управления в настройках Bing, такие как параметры безопасного поиска, элементы управления голосовым поиском, поисковые подсказки и параметры персонализации.
Пользователи, выполнившие вход в свою учетную запись Майкрософт, также имеют более надежные средства управления своей историей местоположений, историей поиска и другими данными, собираемыми корпорацией Майкрософт, на Панели конфиденциальности Майкрософт .
Вход с помощью учетной записи Microsoft — это простой способ управлять своими данными и настраивать элементы управления, включая таргетированную рекламу.
Чтобы узнать больше о том, как Microsoft использует личные данные, ознакомьтесь с политикой конфиденциальности Microsoft.
Наша честность поиска
Microsoft уважает свободу выражения мнений и право на доступ к информации. В то же время, в соответствии с политиками и принципами Microsoft в отношении ответственного искусственного интеллекта, конфиденциальности, цифровой безопасности, целостности информации и других важных вопросов, Bing разработала систему безопасности, включающую фильтрацию содержимого, операционный мониторинг и обнаружение злоупотреблений для обеспечения безопасного поиска для наших пользователей.
Если Microsoft получает запросы на удаление контента от отдельных лиц, предприятий и правительств, в ограниченных случаях, когда существуют проблемы с качеством, безопасностью, требованиями пользователей, соответствующими законами и/или общественной политикой, Bing может удалить результаты, информировать пользователей об определенных рисках или предоставить пользователям возможность редактировать свой контент. Bing ограничивает удаление результатов поиска узким набором обстоятельств и условий, чтобы не ограничивать доступ пользователей Bing к соответствующим сведениям.
Ниже описаны обстоятельства, при которых Bing может принимать меры по содержимому. При удалении результатов поиска Bing старается быть прозрачным в отношении удаления. Это включает уведомление пользователей об удалении результатов поиска внизу страницы. Кроме того, мы публикуем сведения о результатах поиска, удаленных Bing в рамках Центра отчетов Майкрософт, включая отчет о запросах на удаление содержимого с авторским правом, отчет о запросах на удаление содержимого о правах на забвение и правительственные запросы на удаление содержимого.
Когда сообщается о потенциальном нарушении содержимого или поведения в Bing, специально обученный рецензент может просмотреть содержимое и поведение.
В некоторых странах действуют законы или правила, которые применяются к поставщикам поисковых услуг и требуют, чтобы поисковые системы удаляли ссылки на определенные проиндексированные страницы из результатов поиска. Некоторые из этих законов позволяют отдельным лицам или организациям требовать удаления результатов (например, за нарушение авторских прав, клевету, диффамацию, информацию, позволяющую установить личность, разжигание ненависти или нарушение других личных прав), в то время как другие регулируются и обеспечиваются местными органами власти.
Когда Microsoft получает запрос или требование, Bing стремится сбалансировать свою поддержку свободы выражения мнений и свободного доступа к соответствующему контенту с соблюдением местных законов. Мы рассматриваем и оцениваем запрос или требование, включая причину и основание для запроса или требования, полномочия или права запрашивающей стороны, наши применимые политики и наши обязательства перед нашими пользователями в отношении свободы выражения мнений, прав человека и свободы информации, а также определяем, должны ли мы и в какой степени закрыть доступ к контенту. Ниже приведены примеры областей юридических запросов с глобальными подходами.
Изображения сексуальной эксплуатации и насилия над детьми и связанные с ними материалы
Производство и распространение материалов о сексуальном насилии над детьми, а также доступ к ним повсеместно осуждаются и являются незаконными в большинстве юрисдикций. Это также является нарушением политик Bing и Microsoft. Bing работает со сторонними технологическими и отраслевыми группами, правоохранительными органами, а также правительственными и неправительственными организациями, чтобы помочь остановить распространение этого ужасающего контента в Интернете. Один из способов сделать это — удалить страницы, которые были проверены заслуживающими доверия агентствами (или идентифицированы с помощью инструментов обнаружения контента Microsoft PhotoDNA ), и было обнаружено, что они содержат или связаны с сексуальной эксплуатацией детей или жестоким обращением с ними.
В частности, мы удаляем из нашего индекса страницы, идентифицированные Internet Watch Foundation (Соединенное Королевство), NCMEC (Соединенные Штаты Америки), и FSM (Германия), по их добросовестному суждению, в качестве размещающих или являющихся поставщиками доступа к материалам о сексуальном насилии над детьми. Удаление этих ссылок из отображаемых результатов поиска не блокирует доступ к материалам в Интернете или обнаружение с помощью средств, отличных от Bing, но снижает доступность этих страниц для тех, кто будет их искать или получать от этого прибыль.
Bing также использует технологию сопоставления хэшей PhotoDNA для сканирования изображений, загруженных пользователями в функцию визуального поиска, на предмет потенциальных злоупотреблений и злоупотреблений. Действия пользователей в Bing регулируются Соглашением об использовании служб Майкрософт. Дополнительную информацию об использовании PhotoDNA корпорацией Microsoft и Bing и методах модерации контента можно найти на странице Модерация и обеспечение цифровой безопасности .
Нарушение авторского права
Bing поощряет уважение прав интеллектуальной собственности, включая авторские права, а также признает права пользователей на использование, которое может быть разрешено применимыми законами об авторском праве. Bing может удалить из результатов поиска ссылки на веб-страницы, содержащие материалы, нарушающие права владельца содержимого, защищенного авторским правом, при условии, что мы получим юридически достаточное уведомление о нарушении авторских прав от владельца авторских прав или его уполномоченного агента.
Если вы являетесь правообладателем и у вас есть сомнения в отношении интеллектуальной собственности в отношении контента веб-сайта, на который ссылается Bing, или рекламы Bing, см. нашу страницу сообщения о нарушении.
В определенных обстоятельствах, связанных с качеством, безопасностью и ценностью пользователей, Bing может решить удалить определенные результаты, или мы можем предупредить или обучить пользователей или предоставить варианты для адаптации результатов.
Спам
Некоторые страницы, захваченные в индексе Bing, могут оказаться страницами, имеющими малое значение или не имеющими значения для пользователей, и /или могут иметь характеристики, которые искусственно управляют способом работы поисковых и рекламных систем, чтобы исказить их релевантность по отношению к страницам, предлагающим более релевантную информацию. Некоторые из этих страниц содержат только рекламу или ссылки на другие веб-сайты, содержащие в основном рекламу и не содержащие или содержащие только поверхностное содержимое, относящееся к предмету поиска. Чтобы улучшить возможности поиска для пользователей и предоставлять более релевантное содержимое, Bing может удалить такие результаты поиска или изменить алгоритмы Bing, чтобы отдавать приоритет более полезным и релевантным страницам в результатах поиска.
Конфиденциальные личные сведения, включая распространение интимных изображений без согласия
Время от времени общедоступные веб-страницы могут намеренно или непреднамеренно содержать конфиденциальную личную информацию, размещенную без согласия идентифицированного лица или в обстоятельствах, создающих угрозу безопасности или конфиденциальности. Примеры включают непреднамеренное размещение личных записей, личных телефонных номеров, идентификационных номеров и т. п. или преднамеренное и злонамеренное размещение паролей электронной почты, учетных данных для входа в систему, номеров кредитных карт или других данных, предназначенных для использования в целях мошенничества или взлома. После проверки Bing удалит такие результаты поиска.
Другой пример — когда кто-то публикует в Интернете изображения другого человека для взрослых или откровенно сексуального характера — будь то реальные или «дипфейковые» изображения, созданные с помощью ИИ или других инструментов для редактирования фотографий, — без согласия этого человека. Это обычно называют интимными образами без согласия или «порно-месть». Microsoft считает это грубым вторжением в личную жизнь. Чтобы помочь жертвам получить контроль над своими изображениями и конфиденциальностью, Bing может удалить ссылки на такие фотографии и видео из результатов поиска. Чтобы сообщить о несанкционированных онлайн-фото и видео, включая дипфейки, жертвам необходимо заполнить форму на нашей веб-странице для сообщений .
Некоторые веб-страницы участвуют в обманных и эксплуататорских методах удаления. Примерами этой деятельности являются запросы или требования к оплате для физических лиц за удаление их личной информации или отсутствие какого-либо процесса удаления конфиденциальной личной информации на сайте. После отправки и проверки отчета Bing может удалить такие результаты поиска из индекса. Чтобы сообщить о сайтах, которые используют эти методики, перейдите на нашу веб-страницу отчетов.
Как указано в форме отчета, важно помнить, что информация останется доступной на исходном веб-сайте, даже если Bing удалит ссылку из результатов поиска. Владелец веб-сайта находится в лучшем положении для решения вопросов конфиденциальности информации, которую он публикует. Жертвы должны будут связаться с владельцами веб-сайта, на котором размещен контент, чтобы удалить контент из Интернета.
Содержимое для взрослых
Bing предлагает функцию безопасного поиска, которая позволяет большинству пользователей устанавливать тип фильтрации контента для взрослых, который они предпочитают применять к своим результатам поиска. Bing старается избегать доставки содержимого, которое может быть оскорбительным или вредным, если оно не было запрошено, и предоставляет параметры безопасного поиска, позволяющие пользователям настраивать свой поиск. По умолчанию в большинстве стран и регионов Безопасный поиск установлен на Умеренный, что ограничивает визуальные результаты поиска, но не ограничивает нецензурный текст. Пользователи могут изменить свои настройки безопасного поиска в любое время.
В разных странах или регионах могут быть разные местные обычаи, религиозные или культурные нормы или местные законы, касающиеся отображения материалов для взрослых (или результатов поиска, предоставляющих доступ к материалам для взрослых). Это может повлиять на параметры SafeSearch по умолчанию для Bing в некоторых странах.
Незаконные фармацевтические препараты
В соответствии с обязательством Bing по предоставлению пользователям достоверных результатов поиска компания Bing предприняла шаги, чтобы свести к минимуму вероятность причинения вреда пользователям в результате незаконных продаж фармацевтических препаратов в Интернете. В США Bing блокирует интернет-аптеки, перечисленные на сайте предупреждений об интернет-аптеках Управления по санитарному надзору за качеством пищевых продуктов и медикаментов . FDA, как федеральный регулирующий орган фармацевтической промышленности в Соединенных Штатах, ведет этот общедоступный список интернет-аптек, занимающихся незаконными и небезопасными методами. У FDA есть дополнительная информация на BeSafeRx: Know Your Online Pharmacy.
Объявления и предупреждения службы общественной информации
По некоторым темам может быть трудно найти качественную информацию. Когда мы выявляем эти пробелы, мы иногда вставляем полезный контент, чтобы пользователи могли быстрее изучить тему. Они могут принимать самые разные формы. Вы можете увидеть ответ «общественной службы», ответ, объясняющий экстренные новости, или предупреждение на конкретном сайте, который, как известно, содержит потенциально опасную информацию. Чтобы убедиться, что мы правильно понимаем детали, мы всегда ищем авторитетные источники тщательно отобранного и оригинального контента. Если мы используем сторонний источник, мы всегда показываем его имя или веб-сайт, чтобы вы знали, откуда поступают данные.
Например, Bing предоставляет ссылки на ресурсы по предотвращению самоубийств, когда запрос пользователя выражает возможное намерение совершить самоубийство. Microsoft Bing также предоставляет предупреждающие уведомления об определенных URL-адресах, появляющихся в результатах поиска, если у него есть достоверная информация о том, что ссылка содержит потенциально опасный контент. Такие уведомления отображаются на ссылках на сайты, которые Microsoft Bing определила как содержащие вредоносное ПО, которое может повредить компьютер пользователя. Microsoft Bing также предоставляет пользователям в США предупреждение о любой ссылке, обозначенной Национальной ассоциацией фармацевтических советов® (NABP®) как "Нерекомендуемый сайт."
В некоторых случаях Bing может обнаружить, что некоторые темы поиска возвращают результаты не в соответствии с принципами Bing, например, когда злоумышленники намеренно управляют результатами поиска, чтобы вывести на поверхность содержимое с низким уровнем авторитета, используют пустоту данных или иным образом нарушают руководство Bing для веб-мастеров в попытке неправильно управлять результатами поиска. Запрещенные приемы подробно описаны в Руководстве для веб-мастеров — инструменты Bing для веб-мастеров . В этом случае Bing может применить дополнительные алгоритмические вмешательства, чтобы предотвратить неожиданное попадание пользователей в опасное или вводящее в заблуждение содержимое, которое они не замечают искать. Bing отдает приоритет вмешательству в известные тенденции дезинформации, темы, в которых существует повышенный риск активных манипуляций, и области, в которых существует риск причинения вреда нашим пользователям.
Хотя мы не удаляем такой контент полностью из нашего индекса, мы применяем алгоритмические вмешательства, чтобы пользователи, не имеющие явного намерения найти такую информацию, были защищены от случайного представления вредоносной или вводящей в заблуждение информации. Bing активно отслеживает тенденции манипулирования в выявленных областях высокого риска и по мере необходимости развертывает методы смягчения последствий, чтобы гарантировать пользователям высококачественные результаты поиска с высоким авторитетом .
Предоставление полезных вариантов поиска
Bing предпринимает шаги, чтобы гарантировать, что пользователи не будут непреднамеренно перенаправлены на потенциально опасный, оскорбительный или вводящий в заблуждение контент с помощью поисковых подсказок. Мы устанавливаем барьеры, чтобы предотвратить неожиданное знакомство пользователей с потенциально опасным или оскорбительным контентом, используя комбинацию упреждающих и реактивных алгоритмических и ручных вмешательств. Эти вмешательства применяются только к поисковым предложениям; пользователям никогда не запрещается вручную вводить поисковый запрос.
Вы можете включить и отключить функцию автозаполнения на странице параметров Bing (Поиск — параметры (bing.com)),установив или сняв флажок "Просмотреть варианты поиска по мере ввода".
Сообщение о проблемном содержании
Если вы обнаружите нежелательный контент в Bing, сообщите об этом . Мы ценим ваши отчеты и постоянно работаем над улучшением вашего поиска.
Для веб-мастеров: обжалование решений об удалении контента веб-страницы
Если служба Bing удалила ваш сайт или страницу из индекса, а вы устранили проблемы и хотели бы провести повторную оценку вашего сайта, вы можете подать апелляцию с помощью инструментов Bing для веб-мастеров. Узнайте больше о процессе.
Апелляции пользователей
Использование всех продуктов и функций Bing регулируется Соглашением об использовании служб Майкрософт . Постоянное участие в действиях, нарушающих Соглашение, может привести к бессрочной приостановке и/или ограничению действия учетной записи Microsoft пользователя.
Пользователи могут обжаловать ограничения/приостановки с помощью формы "Сообщить о проблеме Bing". Служба поддержки Bing рассмотрит решения. Если будет обнаружено, что первоначальные действия были выполнены по ошибке, действия будут отменены, и уведомления будут отправлены затронутым пользователям, если контактная информация была предоставлена Bing.
Прозрачность
Каждые шесть месяцев Microsoft публикует отчеты о прозрачности, которые включают количество запросов на удаление, которые мы получили в определенных категориях и одобрили в течение этого периода времени. Вы можете просмотреть некоторые сведения о запросах в Центре отчетов | Microsoft CSR.
Статьи по теме
Удалить кэшированные страницы из Bing
Отправить запрос на удаление содержимого из Bing
Сообщить о содержимом для взрослых или оскорбительном содержимом
Блокируйте содержимое для взрослых с помощью функции Безопасного поиска.