Comments 6
Про этичность есть другая неплохая статья на хабре.
А насчет интерпретируемости моделей — можно провести параллель с человеком. В психологии есть такое понятие как рационализация, попытка объяснения человеком своих действий с помощью рациональных доводов — так вот это просто защитная реакция психики, реальные объяснения чаще всего недоступны сознанию ввиду их рациональности. В морали и этике рациональности тоже маловато. Скорее может быть речь о смещении или открытии новых моральных закономерностей. Реальность совершенно равнодушна к нашему пониманию справедливости.
А насчет интерпретируемости моделей — можно провести параллель с человеком. В психологии есть такое понятие как рационализация, попытка объяснения человеком своих действий с помощью рациональных доводов — так вот это просто защитная реакция психики, реальные объяснения чаще всего недоступны сознанию ввиду их рациональности. В морали и этике рациональности тоже маловато. Скорее может быть речь о смещении или открытии новых моральных закономерностей. Реальность совершенно равнодушна к нашему пониманию справедливости.
Если от решения ИИ зависит скажем постановка диагноза больному, то интерпретируемость и понятность его решений очень важна. Без понимания 'логики', которой руководствовался ИИ, доверять ему такие задачи нельзя. Да и бизнес-руководители, например, также не захотят принимать решения только потому что инновационный черный ящик просчитал, что сделать лучше так, а не иначе, не предоставив при этом внятных объяснений.
«настроен предвзято по отношению к темнокожим американцам»
ага, потом такие вот «войны добра и света» требуют грешить против истины, занижая веса в моделях, чтобы не дай Б-г, не отразить реальное положение вещей.
ага, потом такие вот «войны добра и света» требуют грешить против истины, занижая веса в моделях, чтобы не дай Б-г, не отразить реальное положение вещей.
Так чем они занимаются-то???
Sign up to leave a comment.
Чем на самом деле занимаются специалисты по анализу данных? Выводы из 35 интервью