Черный «, но не» белый

Tldr

• Реддитор заметил странное несоответствие в фильтре содержания ИИ Galaxy в отношении цвета кожи.
• В некоторых примерах ИИ указал, что было бы уместно описать цвет кожи как белый, но не как черный.
• Другие онлайн -плакаты ранее отмечали экземпляры фильтра контента, который, по -видимому, действует чрезмерно усердно.

Балансировать фильтр контента Galaxy AI для всех LLMS должен был быть сложным из-за необходимости избегать оскорбления пользователей, а не в чрезмерной моделировании. Samsung стремится к последовательному подходу, особенно при обработке чувствительных тем. Это озадачен, что ИИ, кажется, избирательно подвергает цензуре определенные упоминания о цветах кожи, что может извлечь выгоду из более равномерной обработки в фильтрации контента.

В понедельник пользователь Reddit P26601 опубликовал скриншот, демонстрирующий возможности орфографии Galaxy AI и проверки грамматики. Система не помечала предложение «моя кожа белая», но она отказалась проверить предложение «моя кожа черная», возможно, из -за опасений по поводу неуместного содержания.

Мы хотели проверить достоверность этого отчета, поэтому член Android Authority Команда попробовала те же примеры. Мы получили те же результаты, обнаружив, что описание кожи как белого или коричневого цвета не вызвало фильтра содержания ИИ Galaxy, в то время как пример, использующий термин «черный». Вы можете увидеть наши результаты на скриншотах ниже.

Помимо запутанной части несоответствия, интригует, что ИИ показывает такую ​​уверенность в регулировании того, как люди выражают свои собственные тона кожи. Чтобы дополнительно уточнить, мы попытались использовать идентичные описания для тона кожи другого человека. Результаты ниже только углубляют наше любопытство, а не дают четкие ответы.

В этом случае Galaxy AI решил пересмотреть утверждение «его кожа коричневая», но он отметил предложения о цвете кожи другого человека как потенциально неуместным, в частности, те, которые относятся к черному или белому. Понятно, что при описании других должна быть более строгая модерация, потому что вы можете непреднамеренно вызвать оскорбление легче, чем при описании себя, но сохраняется несоответствие.

Ранее мы заметили некоторую онлайн -критику в отношении фильтра контента Galaxy AI на устройствах Samsung Galaxy S24, особенно в прошлом году, когда пользователи тестировали функцию искусственного интеллекта. Пользователи, особенно те, которые экспериментируют с ИИ для обмена сообщениями или письмом, вызывали обеспокоенность по поводу умеренности. Например, один пользователь пожаловался, что не может использовать слово «какашка» в разговоре с врачом своего ребенка. Другой пользователь, ищущий советы по написанию романтики, обнаружил, что ИИ отказался описать женского персонажа как «привлекательного».

Эти старые случаи могут быть интерпретированы как Galaxy AI, стремясь избежать содействия ненормативной лексике или уничижительному языку по отношению к женщинам, хотя некоторые могут рассматривать эти действия как чрезмерно строгие модерации содержания. Это было на ранней стадии разработки Galaxy AI, и неясно, были ли внесены изменения на основе отзывов пользователей для решения этой проблемы.

Мы связались с Samsung, ищущим их ответ относительно предполагаемых расхождений, обнаруженных в системе фильтрации контента ИИ, используемой с устройствами Galaxy.

Смотрите также

• Как убить лидера зимних разбойников в игре Assassin’s Creed Shadows

• Прохождение миссии ‘Турнир’ из Assassin’s Creed Shadows

• Как победить Годаи Водной в Assassin’s Creed Shadows?

• Кто озвучивал Орикса в Destiny 2? 10-летняя тайна наконец раскрыта?

• Руководство по Assassin’s Creed Shadows: Все локации самурайских даишо в замке Азути, награды и многое другое

• Who Is Sister Lily in Black Clover?

• Лучшие настройки для RTX 4060 и 4060 Ti в игре Assassin’s Creed Shadows

• Инзои: Все карьеры и вакансии, доступные в игре

• Умрёт ли Сон Джин-Ву при прокачке персонажа в одиночку?

• Все Активные Коды Бесплатных Наград fragPunK и Как Их Получить (Проверено Март 2025)

2025-02-18 20:47