Вы можете получить отказ на следующем собеседовании из-за вашего лица.
** Что случилось: ** Представьте себе: вы идете на собеседование и перед тем, как сказать «привет», вам отказывают. Не из-за вашего резюме, а потому, что компьютер решил, что вам не нравится ваше лицо.
Это звучит как научно-фантастический кошмар, но исследователи из Университета Пенсильвании только что сделали большой шаг к тому, чтобы сделать его реальным. Новое исследование, возглавляемое Мариусом Гюнцелем, скормило фотографии почти 96 000 выпускников MBA в ИИ.
Работа ИИ заключалась в том, чтобы сканировать их лица и пытаться угадать их личность — то, что исследователи называют «Фото Большой Пятерки» (подумайте: насколько приятными, добросовестными или общительными они выглядят). Затем они проверили, соответствуют ли предположения ИИ реальной карьере выпускников, например, сколько денег они заработали или насколько успешными они были.
И вот жуткая часть: это сработало. Ошибочные суждения ИИ, основанные только на фотографии, имели реальную силу предсказать, кто будет успешным. Оказывается, наши лица могут давать крошечные подсказки о наших личностях, и ИИ действительно хорошо их обнаруживает.
Почему это важно: Это масштабная и, честно говоря, очень спорная сделка.
Мы уже используем тесты личности для работы, но с помощью сканирования лица угадываем, хороший ли кто-то работник? Это законное и этическое минное поле. Такое ощущение, что именно для этого были написаны антидискриминационные законы.
Исследователи быстро говорят, что это не хрустальный шар, а просто еще одна часть данных. Но критики (справедливо) сходят с ума. Большинство компаний не будут касаться такого рода технологий с десятифутовым столбом, потому что он настолько полон потенциальных предубеждений и юридических рисков.
Но… если это сработает? И это даст компании конкурентное преимущество? Можно поспорить, что кто-то где-то будет испытывать соблазн использовать его, как бы жутко это ни казалось.
Почему это должно меня волновать: Это не просто странный научный эксперимент; это одна из тех вещей, которые заставляют вас сомневаться… ну, много.
Если ваше лицо может играть определенную роль в ваших перспективах работы, что это означает для самосовершенствования или тяжелой работы?
Имеет ли значение, что алгоритм решает, что ваши «файс-данные» не подходят? Это страшная грань между тем, чтобы вас судили по вашим заслугам, и тем, чтобы вас судили по заранее написанной судьбе компьютера.
Идея компаний, сканирующих наши лица, чтобы решить, можем ли мы быть «работоспособными», — это просто огромный шаг к нормализации корпоративного наблюдения таким образом, чтобы еще больше людей могли лишиться возможностей.
** Что дальше: ** Исследователи не останавливаются на работе. Они уже тестируют эту технологию, чтобы увидеть, сможет ли она предсказать, вернете ли вы кредит.
«Приятный» поворот в том, что это может помочь людям без кредитной истории получить кредит. Страшная обратная сторона: «Извините, наш алгоритм проанализировал ваше лицо, и вы выглядите как риск. Кредит отрицается».
Помимо юридического кошмара, есть только человеческий фактор: большинство из нас все еще считают, что мы заслуживаем честного выстрела, реального разговора, чтобы доказать себя, а не просто сканирование нашей картины.
Поможет ли ИИ этому процессу или просто заменит его, это большой вопрос на ближайшие несколько лет.
