Авторы доклада опасаются, что предвзятость может войти и в систему кодирования, из-за чего новые разработки не будут отражать позиции и потребности всех людей.
Искусственный интеллект проникает во все сферы технологической вселенной: от транспорта до здравоохранения и розничной торговли. Но будет ли он отражать позиции и потребности большинства людей? Эксперты Всемирного экономического форума опасаются того, что проблемы в сфере ИИ слишком похожи на то, что происходит в обычном корпоративном мире.
В докладе ВЭФ, опубликованном 17 декабря, говорится о том, что в кадровой политике в отрасли ИИ в США наблюдается серьезный разрыв: женщины занимают менее четверти рабочих мест.
“Абсолютно важно, чтобы люди, которые создают ИИ, представляли население в целом”, - подчеркивает Кей Ферт-Баттерфилд , глава подразделения ВЭФ по искусственному интеллекту и машинному обучению. Эксперт отмечает, что предвзятость может повлиять на процессы кодирования, поэтому отсутствие гендерного равенства означает, что “на самом деле мы не отражаем население, и у нас огромные проблемы”.
Анализ ВЭФ показал, что гендерный разрыв в отрасли ИИ в три раза больше, чем в других отраслях, женщины, занимающиеся искусственным интеллектом, с меньшей вероятностью будут занимать высокие руководящие должности. При этом аналитики подчеркивают, что эти несоответствия будут иметь реальные последствия.
В 2016 году Microsoft запустила в Twitter качестве эксперимента по диалоговому обучению чат-бота под названием “Tay”. Эксперимент быстро столкнулся с рядом проблем, так как пользователи Twitter начали писать на странице бота с женоненавистнические и расистские комментарии, и “Tay” начал повторять эти высказывания.
Неудачным оказался и эксперимент Google, запустившей интеллектуальную текстовую функцию в Gmail. “Smart Compose”, должна была завершать целые предложения и даже абзацы в письмах пользователей популярного почтового сервиса. Она была основана на функции “умного ответа”. Пользователи даже писали, что их пугают “предсказания” Gmail, и что ИИ “читает их мысли”. Однако алгоритм не справился с обычными местоимениями, не разобравшись, какое же подходит к слову “медсестра”.
Ферт-Баттерфилд также указала на тот факт, что самые популярные виртуальные помощники из Apple, Amazon и Google, предназначенные для обслуживания и приема заказов, обладают женским голосом.
Программисты “повторяют тот факт, что люди, которые принимают вызовы в колл-центрах, как правило, женщины, но мы могли бы создать другой мир с ИИ, если бы у нас было больше разных команд”, - заявила эксперт ВЭФ.
Не все преимущества разнообразия сразу очевидны, но в отчете говорится, что изменение соотношения потребует принятия активных мер.
“Когда вы привлекаете больше людей к процессу, вы получаете больше творческих результатов”, - отмечает Тесс Познер, генеральный директор AI4All, некоммерческой организации, работающей над увеличением разнообразия во многих областях, включая искусственный интеллект.
Ферт-Баттерфилд и Познер утверждают, что компании с большей долей диверсификации коллектива работают лучше.
“Мы видим, что разнообразие улучшает инновации и саму технологию”, - сказал Познер. Если люди разного происхождения строят системы ИИ, “это будет лучше отражать общество”, утверждает эксперт.
