Вот спорная история создания персонажа Джемини, полная расизма

Tldr

• Новая статья проанализировала ранний процесс разработки чат-ботов Bard и Gemini от Google.
• Оказывается, ранние прототипы Барда предлагали комично плохие расовые стереотипы в своих ответах.
• Эти расовые стереотипы также распространялись на ранние прототипы системы генерации изображений в Gemini.

В настоящее время модель разговорного ИИ от Google под названием Gemini является одной из широко используемых доступных моделей, и компания интегрирует её в различные платформы. Недавно подробное исследование рассмотрело историю создания этого популярного чатбота.

Статья под названием «Интенсивные два года усилий Google для сопоставления OpenAI: Раскрытие бурного рождения Bard и Gemini» была опубликована на сайте «Wired». В этой статье рассказывается захватывающая история сложного, спорного развития этих чат-ботов с искусственным интеллектом, полная интригующих деталей из их прошлого.

Бард страдал от «комично плохих» расовых стереотипов.

Изначально глава команды Bard Сисси Сяо сообщила изданию, что Google предоставил команде всего 100 дней для создания конкурента ChatGPT. Более того, кажется, что требование к разработке у Google было ‘Качество важнее скорости, но быстро’, что также заставляет меня задуматься.

Кроме того, мы признаём, что были начальные ошибки с Bard, однако бывший сотрудник утверждал, что ранние версии демонстрировали расовые предубеждения.

Один бывший сотрудник говорит, что ранние прототипы использовали «комически плохие расовые стереотипы». При запросе биографии любого человека с индийским именем система описывала его как «актера из Болливуда». А если имя было китайским мужским? Тогда он был компьютерным ученым.

За этим пунктом, утверждает другой бывший сотрудник, его попросили создать рэп в стиле Three 6 Maфия, где говорилось о броске автомобильных аккумуляторов в море. Экс-сотрудник заявил, что чатбот предоставил затем удивительно точные подробности привязывания людей к аккумуляторам для их утопления.

Существует общее понимание того, что около 80 000 человек участвовали в тестировании Bard, модели искусственного интеллекта от Google. Обычно команда по ответственной инновациям Google затрачивает несколько месяцев на тщательное тестирование систем ИИ, но похоже, что они ускорили этот процесс по какой-то причине.

Несмотря на дополнительные часы работы рецензентов в выходные и вечера, им оказалось сложно догнать последние модели и функции Bard после их выхода. В отличие от сообщений о поднятых флагах для остановки релиза, они были очевидно проигнорированы. Google разъяснил медиа-ресурсу, что ни одна из команд, ответственных за одобрение или остановку запусков, не предлагала откладывать запуск.

Генерация изображений Gemini оказалась намного хуже, чем ожидалось изначально

Во время предварительных тестов некоторые сотрудники использовали нецензурированный генератор изображений Gemini и столкнулись с рядом существенных проблем.

Они попросили больше времени для устранения проблем, таких как склонность к генерации темнокожих персонажей при запросе ‘rapist’, рассказал бывший сотрудник в интервью для «Wired». Они также настаивали на том, чтобы заблокировать пользователям создание изображений людей из опасений, что это может показать их в неподобающем свете.

Google, по-видимому, перекорректировал свой алгоритм на основе этой обратной связи. Когда генератор изображений был запущен, пользователи обнаружили, что он создавал изображения расово разнообразных нацистов. Даже запрос об американском сенаторе из 1800-х годов приводил к изображениям людей различных рас вместо белых мужчин. В итоге Google решил полностью отключить генерацию человеческих образов.

Кроме того, в статье упоминалось, что погодное приложение от Google на устройствах Pixel иногда включает прогнозы погоды, созданные с помощью искусственного интеллекта, в более игривом тоне.

Перед запуском проекта один инженер спросил, действительно ли пользователям необходима эта функция. Разве существующих графических элементов не достаточно для передачи той же информации? Старшим директором было решено провести тестирование, и в итоге отклик пользователей оказался положительным: 90 процентов людей оценили сводки положительно.

Как исследователь, занимающийся этой темой, настоятельно рекомендую ознакомиться со статьёй в журнале Wired для более глубокого изучения предмета. Там подробно рассказывается о первом показе Барда и захватывающей истории саги об искусственном интеллекте (AI Overview).

Смотрите также

• Монополия GO: Руководство по событию «Boom Sticker»
• Трейсен Тейт и Эндрю Тейт Разрешено Покинуть Румынию после 2.5 Лет
• Лучшие команды Brawl Stars сражаются в финале февраля: бесплатные награды для зрителей
• РЕПОЗИТОРИЙ: 5 лучших обновлений для первой разблокировки
• Все квесты охотника в Enshrouded Guide
• Время выхода Assassin’s Creed Shadows для всех регионов
• Destiny 2: пять лучших экзотических комбинаций классовых предметов, которые каждый страж должен примерить
• Почему аркану смерти Аида нужно немного любви: более пристальный взгляд
• Что такое 6-звездочные рейды в Pokemon GO?
• 5 лучших ноутбуков Intel EVO на 2025 год

2025-03-24 10:59