Сочинение на тему Являются ли роботы решением для равенства в процессе собеседования?

Однако использование роботов с целью устранения предвзятости не является панацеей, и к ним следует подходить с осторожностью. Хотя роботы действуют логически, они действуют только в пределах параметров своих запрограммированных алгоритмов. Если программа закодирована как изначально смещенная, то из этого следует, что машина, на которой она работает, будет увековечивать это смещение. В прошлом году Amazon обвинили в использовании «расистского алгоритма», который исключает районы проживания меньшинств в крупных городах из службы Prime Free Same-Day Delivery, одновременно предлагая специализированные услуги преимущественно белым кварталам. Данные алгоритма, связывающие максимальную прибыль с преимущественно белыми кварталами, были прямым результатом десятилетий системного расизма, который привел к джентрификации между районами с высоким доходом, белыми и низкими доходами, меньшинствами. По иронии судьбы, районы с низким доходом, которые были исключены из этой услуги, больше всего выиграли бы от бесплатных дополнительных услуг, в то время как районы с высоким уровнем дохода, которые получили его, с большей вероятностью имели бы более легкий доступ к недорогим, качественным товарам. В то время как Amazon утверждал, что они использовали только факты, которые утверждали, что они не будут получать прибыль в районах, которые они исключили (Gralla), в конечном итоге они использовали алгоритм, основанный на социально-экономически предвзятых данных, для увековечивания расистских моделей.

Другим похожим и, возможно, более уместным примером предвзятого программирования является эксперимент Twitter-робота Microsoft в Twitter. В прошлом году Microsoft выпустила программное обеспечение для чат-ботов под названием Tay, которое было разработано для взаимодействия с подростками в Twitter с помощью имитации их языка. Вскоре после его выхода тролли в Твиттере заставили Тэя высказаться о расистских оскорблениях и других уничижительных заявлениях. Поскольку Тэй опубликовал больше оскорбительных твитов, Microsoft отключила программу и выпустила заявление с извинениями. В своем заявлении Питер Ли, вице-президент корпорации Microsoft Research, извинился за отсутствие контроля за программой, заявив, что «системы ИИ питаются как от позитивного, так и от негативного взаимодействия с людьми. В этом смысле проблемы не только технические, но и социальные »(Фицпатрик). В заявлении Ли говорится о широко распространенной проблеме создания искусственного интеллекта, на которую не влияют те самые предрассудки, которых он создавал, чтобы избежать. Таким образом, коммуникационные роботы являются жизнеспособным вариантом для создания более справедливого интервью; Тем не менее, необходимо признать, что роботы также чувствительны к предубеждениям человека. В случае расистского алгоритма Амазонки роботы использовали данные, отражающие закономерности расовой джентрификации; в случае с Tay от Microsoft чат-бот имитировал уничижительный язык других пользователей Twitter. Оба случая служат для освещения всепроникающей и многогранной роли предвзятости человека в отношении искусственного интеллекта, который часто ошибочно считают объективным и справедливым. Искусственный интеллект податлив и легко манипулируется предрассудками; таким образом, создание коммуникационных роботов, которые не отражают предрассудков, должно быть главным приоритетом для Университета Ла Троб и других, которые создают подобные машины.

Две цели, которые ранее упоминались в отношении коммуникационных роботов, заключались в том, чтобы проверить, что потенциальные работники будут «эмоционально настроены и культурно совместимы» («Робот Матильда»). Но что значит быть «эмоционально настроенным» или «культурно совместимым»? Существует ряд потенциальных факторов, которые могут повлиять на то, как человек выражает эмоции, такие как культурное наследие, пол и психическое здоровье, но формулировка заявления Университета Ла Троб неясно, учитывают ли его коммуникационные роботы эти факторы или если они наказывать тех, кто не подходит по эмоциональному шаблону идеального кандидата. Например, если квалифицированные кандидаты на работу, которые не являются родными для определенной культуры, не выражают нормативный язык тела и, следовательно, не проходят тестирование Матильды на основании культурной несовместимости, то предполагается, что иностранцы не должны быть наняты. Поскольку многие американские компании начинают воспринимать концепцию разнообразной рабочей среды, коммуникационные роботы в процессе собеседования, основанные на специальном алгоритмическом шаблоне идеального кандидата, могут препятствовать разнообразию, а не стремиться к равенству и прогрессу. К сожалению, доступная информация о коммуникационных роботах Университета Ла Троб ограничена, и на эти вопросы невозможно дать конкретный ответ. Однако все компании, которые создают искусственный интеллект, должны стремиться к прозрачности и постоянно подвергать сомнению себя на протяжении всего процесса проектирования, чтобы они могли помочь, а не препятствовать продвижению к равенству, создавая действительно объективные машины.

В заключение, коммуникационные роботы, такие как Матильда, показывают потенциал, чтобы помочь продвинуться к равенству в поиске работы. Однако алгоритмы, на которых они работают, должны тщательно контролироваться, поскольку искусственный интеллект легко подвержен влиянию предвзятости человека. Чтобы гарантировать, что эти роботы способны продвигать справедливость и равенство, технологическая индустрия должна активно искать разнообразную среду, в которой представлены все виды людей, чтобы различные голоса могли перепроверить процесс инноваций, чтобы предотвратить такие инциденты, как расизм Амазонки. алгоритм и чат-бота от Microsoft Tay. Кроме того, создатели Matilda должны стремиться точно определить, что значит быть «эмоционально пригодным и культурно совместимым», чтобы гарантировать, что некоторым людям не присуще и произвольно дано значительное преимущество при опросе коммуникационными роботами («Matilda the Robot») , Признание глубокого влияния человеческого предубеждения на искусственный интеллект может помочь нам понять технологию на более глубоком уровне, чем просто восхищаться ею как магией, не тронутой человеческими предубеждениями. Возможно, это первый шаг к демистификации компьютерных технологий и, в конечном итоге, человеческого разума.