Комментарии 9
ИИ от Amazon, Clarifai, Microsoft и других поддерживает уровень точности выше 95% для цисгендерных мужчин и женщин, но ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев. Н
О, нашел что-то общее у меня с ИИ от Microsoft'a :)
Не понял, а как модель должна определять трансгендерность? Тем более, если она будет только в голове у отвечающего? Можно ведь только определить, с какой вероятностью человек относится к женскому или мужскому полу, и всё. Если Василий наденет парик, накрасит губы и будет называть себя Василисой — то, боюсь, если он не прошел мощную гормональную терапию и не сделал десяток пластических операций, алгоритм, скорее всего, распознает в нем мужчину, чего бы там себе Василий не нафантазировал.
«Специалисты по этике» лишь говорят что должна; как — это уже вопрос к специалистам по машинному обучению.
… чего бы там себе Василий не нафантазировал
Василий ничего себе не нафантазировал. А, если и «нафантазировал» то вероятно это было как минимум за 10 лет до того, когда было сделано фото. А, именно в период полового созревания. То есть, до примерно 12 летнего возраста.
… как модель должна определять трансгендерность?
Иди знай, может быть модель сможет уловить, то что человеческий глаз уловить не может.
Как пример, у многих животных зрение на порядок «мощнее», чем у человека.
Ранее исследования показали, что в современные модели классификации изображений, обученные в ImageNet, популярном наборе данных из открытых источников, автоматически закладываются человеческие предубеждения относительно расы, пола, веса и т. д.
Немного не так мне кажется. В научной статье речь о «human like biases», а не о «автоматически закладываются человеческие предубеждения». И не в сетях дело, а в том на чем их тренируют. Сетям все равно, белый или черный.
А так согласно цитате получается сети расисты и их надо как то исправить. Наверное все картинки с человеками делать одного цвета при обучении, обрезать всякие выпуклости на теле итд. И будет мир во всем мире.
Ну допустим, модель они поломаютпереобучат, а что делать с ДНК?
ИИ от Amazon, Clarifai, Microsoft и других поддерживает уровень точности выше 95% для цисгендерных мужчин и женщин, но ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев.
Я не совсем понял: т.е. ИИ определяет пол по чисто биологическим признакам и считается, это ошибка? Или наоборот? Что значит «ошибочно идентифицирует трансгендерных мужчин и женщин в 38% случаев» — ошибочно с точки зрения биологии или их собственного о себе представления? И что сделали в фейсбуке — в качестве ground truth подали то, что люди сами о себе написали? И что — помогло? Ну т.е. стало «лучше»?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Facebook опубликовала датасет лиц с указанием пола, возраста и тональности цвета кожи