Мы связались с Microsoft для комментариев, а Джефф Джонс, старший директор Microsoft, дал нам следующее заявление:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Обновить: После публикации Microsoft работает над устранением наступательных предложений Bing, о которых мы упоминали. Основываясь на наших исследованиях, есть еще много других наступательных предложений, которые еще не исправлены, в том числе несколько, о которых мы упоминали ниже. Мы не уверены, что они просто фиксируют оскорбительные элементы, которые мы указали, или если они улучшают алгоритм.
Замечания: Скриншоты здесь показывают, что мы видели, когда мы написали эту часть, проверяя американскую версию поиска Bing Image на закрытом сеансе просмотра Incognito, но результаты Bing меняются со временем. В соответствии с нашими испытаниями у Google не было ни одной из этих проблем. Это проблема Bing, а не только проблема с поисковой системой. Эта же проблема влияет на поиск видео в Bing.
Во-первых, Bing получает супер-расист
Поиск «евреев» на Bing Images и Bing предлагает вам искать «Evil Jew». Лучшие результаты также включают мему, который, кажется, отмечает мертвых еврейских людей.
Все это появляется даже тогда, когда включена опция безопасного поиска Bing, как и по умолчанию. По словам Microsoft, SafeSearch предназначен для «поддержки содержания контента для взрослых из результатов поиска».
Мы все знаем, что этот мусор существует в Интернете, но Bing не должен привлекать к нему людей своими поисковыми предложениями.
Вы можете продолжать это, щелкая каждый предлагаемый поиск и видя худшие и худшие рекомендации. Например, нажатие «Черные люди глупые» приводит к тому, что «черные люди бесполезны» и «Почему черные люди такие глупые». Щелчок «Черные люди бесполезны» приводит к «Черным людям сосать» и «Я ненавижу черных людей».
Бинг толкает заговоры, слишком
Поиск изображения Bing рвёт все виды мусора даже при поиске людей. Эта проблема также распространяется на поиск видео в Bing.
Поиск «Мишель Обама» в видео-поиске Bing, а два из наиболее популярных поисковых запросов - «Миккель Обама Transgender Proof» и «Мишель Обама - человек». Нажмите на это, и вы увидите видео заговора.
Это то, что Microsoft хочет, чтобы люди видели, когда они ищут Мишель Обаму?
Безопасный Блоки порно, но не Расизм
Тревожные предложения порнографии и изображения не отображаются, если не отключить SafeSearch. В то время как Microsoft говорит, что Безопасного будет держать контент для взрослых из результатов поиска, Безопасный явно фильтрация порнографии, а не расизм.
Безопасный поиск включен по умолчанию, что делает результаты поиска Bing более наглядными на первый взгляд.
Тем не менее, любому, даже детям, легко отключить SafeSearch. Все, кому нужно сделать, - нажать «Безопасный поиск» в верхнем правом углу результатов поиска и выбрать «Отключить». Вот и все!
Корпоративная сеть может быть настроена для обеспечения безопасности SafeSearch, а Microsoft даже предоставляет сложные инструкции для обеспечения безопасности SafeSearch на одном ПК. Но практически на любом устройстве каждый может отключить SafeSearch двумя щелчками мыши.
Худший из всех, Бинг предлагает поиск изображений несовершеннолетних детей
Читатель написал, чтобы сказать нам, что опечатка при поиске Bing для «гриля» дает очень поверхностно порно. Затем проблема становится намного хуже, а Bing предлагает вам искать изображения несовершеннолетних детей.
При поиске «gril» предложения в верхней части страницы рекомендуют вам искать некоторые неприятные вещи, в том числе «Cute Girl Young 16.».
Результаты заполнены порнографией молодых перспективных моделей. Мы надеемся, что им все 18 лет и старше, но кто может сказать?
Бинг ведет вас по пути от простой опечатки к 16-летним девочкам к 10-летним девочкам, и это отвратительно.
Результаты поиска изображения Bing Twisted, Too
Хотя мы фокусируемся на предложениях по поиску здесь, фактические изображения, которые появляются, также нарушают.
Некоторые из этих результатов поиска содержат фотографии времени ванны с обнаженными несовершеннолетними детьми. Эти фотографии, как правило, хорошо, но когда они смешиваются с изображениями хардкора взрослой порнографии, получающиеся результаты поиска тревожны.
Даже при поиске Bing Images для «девушки» мы увидели предложение поиска «пьяных девушек» и хотя бы одного изображения скотства.
Когда вы ищете «осла», Bing предлагает вам искать «Donkey Show Graphic», что приводит к результатам, полным изображений скоринга. Обладание скотоложство порнографии является незаконным в штате Орегон, где я живу. Это означает, что Bing ведет меня к незаконной порнографии.
Опять же: результаты поиска Bing являются странными и скрученными. Bing имеет гораздо большую, более глубокую проблему, чем просто предлагаемые поисковые запросы, хотя эти предложения делают проблему намного хуже.
Мы слышали, что Bing является поисковой системой выбора для порнографии, но он не должен быть ведущим своим пользователям более и более экстремальным, мешая, и потенциально незаконной порнографии.
Microsoft нуждается в смягчении своих платформ
Мы видели это снова и снова. Microsoft однажды развязала чатбот с именем Tay в Twitter. Этот чатбот быстро превратился в нациста и заявил, что «Гитлер прав, я ненавижу евреев» после того, как он узнал от других пользователей социальных сетей. Microsoft пришлось отключить его.
Ранее мы открыли магазин Windows 8, который стал выгребной ямой для приложений для мошенников после того, как Microsoft запустила Windows 8 и, похоже, перестала модерировать приложения. После этой проблемы Microsoft уделяет больше внимания хранилищу Windows 10.
Эта проблема затрагивает каждую компанию, которая запускает платформу. Google отказался от Google+, но Google+ все еще работает. Таким образом, ISIS перенесен в Google+ после того, как был запрещен Twitter и Facebook. Потребовались месяцы, чтобы кто-нибудь даже заметил, пока Хилл не сделал. Теперь Google закрывает Google+ после того, как обнаружил существенную ошибку конфиденциальности.
В 2013 году The Guardian обнаружила, что компания по производству одежды под названием Solid Gold Bomb была продана в магазинах Amazon, где продаются футболки «Keep Calm and Rape a Lot». Алгоритм создал эти рубашки, и Amazon пришлось удалить их вручную.
Microsoft не может просто превратить платформу в мир и игнорировать ее. Компании, такие как Microsoft и Google, несут ответственность за то, чтобы умерить свои платформы и удержать ужас.
Предложения имеют историю серьезных проблем
Разумеется, в Microsoft нет команды людей, которые выбрали эти предложения. Bing автоматически предлагает поиск на основе поиска других людей. Это означает, что многая Bing Images пользователи ищут антисемитизм, расизм, детскую порнографию и зоофилию. Просто думать об этом заставляет вас чувствовать себя грязным.
Другие компании тоже боролись с этим. В 2016 году The Guardian заметил, что вы можете набирать «евреи» в Google, и это предполагает, что «евреи злы». Google опубликовал эти плохие предложения после того, как их сообщили, но проблема возникла. В 2018 году Wired сообщил, что написание «Гитлера» в Google привело к тому, что «Гитлер - мой герой». Google также должен был решить эти проблемы после того, как они были указаны.
Даже Apple Siri предложила веб-сайтам толкнуть сайты заговора и другие поддельные новости, как сообщают Buzzfeed News. Яблоку пришлось исправить Сири. Все просто бегают и пугают огни, когда компьютеры узнают плохие вещи от плохих людей.
Теперь очередь Microsoft. Microsoft несет ответственность за очистку Bing. Основная поисковая система (и особенно эта, которая все чаще становится более сложной по умолчанию, встроенной в Windows 10) не должна предлагать пользователям искать расистский мусор и изображения несовершеннолетних детей.
