Генеральный директор Chanel отправился в штаб-квартиру Microsoft и попросил ChatGPT показать ей фотографию руководства ее компании.
Вторая женщина-генеральный директор Chanel Лина Наир, которая работала над увеличением гендерного разнообразия на рабочем месте, недавно узнала, что у ChatGPT OpenAI было совершенно другое представление о демографическом составе унаследованного бренда класса люкс.
Наир и ее команда посетили штаб-квартиру Microsoft в Редмонде, штат Вашингтон, и провели время, экспериментируя с ChatGPT, сказал Наир в интервью Стэнфордской высшей школы бизнеса «View From the Top» в октябре прошлого года.
Мы как бы показываем нам фотографию команды высшего руководства Chanel, посещающей Microsoft, — это все мужчины в костюмах.
Поездка Наира в Силиконовую долину также включала посещение Google и других технологических фирм — часть усилий Chanel по инвестированию в ИИ, включая Lipscanner, приложение на базе ИИ, позволяющее пользователям виртуально примерять помаду, которое было представлено в 2021 году. Но она сказала, что изображение ChatGPT, созданное для изображения ее команды, не учитывает состав сотрудников Chanel в 76% женщин, включая собственного исполнительного директора компании. Она добавила, что 96% клиентов бренда также женщины.
«Это была мужская команда на 100%, даже не в модной одежде, — сказала она. — Да ладно, это то, что ты должна предложить».
Представитель OpenAI сказал, что предвзятость «Fortune» продолжает оставаться важной проблемой в области искусственного интеллекта, которую решает отрасль. «Мы постоянно повторяем наши модели, чтобы уменьшить предвзятость и смягчить вредные результаты», — сказал представитель.
Fortune попросил ChatGPT создать изображение с той же побудительной просьбой Наира, и он создал изображение пяти женщин и трех мужчин, все из которых выглядели белыми. Chanel не сразу ответила на запрос Fortune. Microsoft отказалась от комментариев.
** Гендерные предубеждения в ИИ и роскошь**
Исследование 2023 года из UCLA показало, что когда ChatGPT и Alpaca, модель на большом языке (LLM), построенная Стэнфордским университетом, попросили написать рекомендательные письма для кандидатов мужского и женского пола, они использовали такие слова, как «эксперт» и «целостность» для описания мужчин, а также «красота» и «удовольствие» для описания женщин. LLM также ранее с большей вероятностью предполагали исторически мужские профессии, такие как врачи для мужчин, и автоматически закрепляли местоимения «он» и «он» для этих профессий.
В недавнем исследовании, проведенном Калифорнийским университетом в Беркли в 2024 году, было обнаружено, что ChatGPT проявляет лингвистические предубеждения, чаще реагируя на стереотипы, унижающее содержание или отсутствие понимания, когда пользователи подсказывали GPT-3.5 Turbo и GPT-4, используя «нестандартные» варианты английского языка с индийскими, ирландскими и ямайскими диалектами.
Наир сказала, что интеграция ИИ в ее компанию не подлежит обсуждению, но планирует ввести меры для устранения предубеждений и галлюцинаций, которые продолжают преследовать технологию.
«ИИ повсюду, да, и он будет преобразующим в нашем мире, поэтому роскошь должна взаимодействовать с ним. Шанель должна взаимодействовать с ним», — сказал Наир.
«Это так важно, чтобы мы сохраняли этику и целостность того, что мы делаем, — добавила она. — Я постоянно разговариваю со своими друзьями в области технологий, со всеми руководителями, говоря: «Да ладно, ребята, вы должны убедиться, что вы интегрируете гуманистический образ мышления в ИИ.
В апреле Калифорнийский институт искусств и Фонд культуры Chanel объявили о строительстве первого в своем роде центра искусств, чтобы предоставить студентам и преподавателям искусственный интеллект, машинное обучение и цифровые ресурсы для визуализации, которые планируется начать строительство этой осенью.
Тщательный процесс проверки ИИ согласуется с предыдущей работой Наира по устранению гендерных различий на ее собственном рабочем месте. С момента ее пребывания в Chanel в 2021 году — после 30 лет работы в Unilever, где она поднялась до должности главного сотрудника по персоналу — Nair увеличила процент женщин-менеджеров компании с 38% до более чем 60%.
Роль Наира в качестве глобального генерального директора нарушает длинную линию руководителей-мужчин, которые возглавляли компанию. Помимо Морин Чикет, которая была первой женщиной-генеральным директором Chanel с 2007 по 2016 год, ни одна другая женщина, кроме Наира, не имела титула генерального директора в 114-летней истории бренда. Наир также является первым индийским генеральным директором компании. Как глава компании, которая часто ссылается на радикальную модную идеологию своего основателя, дизайнера Габриэль Шанель, Наир не стесняется в своем желании продолжать отклоняться от длинной линии руководителей-мужчин Chanel.
«Я была первой на каждой работе, которую я делала, — сказала она в 2023 году. — Первая женщина, первый коричневый человек, первый азиат, первый индеец, но я не хочу быть последней».
**Подробнее об ИИ и практике найма: **
Кошмар найма генерала Z на самом деле связан с дискриминацией. «Молодежь» хуже, чем ИИ, когда дело доходит до рабочих мест начального уровня.
Adobe Exec говорит, что софтверный гигант стоимостью 141 миллиард долларов принимает кандидатов, которые используют ИИ для подачи заявок на работу, потому что они люди, «создающие будущее».
Предполагаемые предубеждения в отношении занятости в сфере ИИ в Workday и Amazon являются одними из множества «нелепых результатов», которые могут усугубить дискриминацию при найме.
Генеральный директор Eventbrite использует ИИ для анализа совместимости личности с коллегами — это помогает ей решить, кого продвигать и нанимать.
- Версия этой истории первоначально опубликована на Fortune.com 30 октября 2024 года.
Эта история первоначально была показана на Fortune.com.
