Сочинение на тему Этические проблемы искусственного интеллекта

ИИ захватил очарование общества, восходящего к древним грекам; Греческая мифология изображает автоматическую похожую на человека машину под названием Талос, защищающую греческий остров Крит. [1] Тем не менее, этические проблемы такого искусственного интеллекта начали серьезно решаться только в 1940-х годах, когда был выпущен рассказ Исаака Азимова «Обход». Здесь главный герой заявляет «Три закона робототехники» [2], которые: 1. Робот не может причинить вред человеку, или в результате бездействия позволяет человеку причинить вред. 2. Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы противоречат Первому Закону. 3. Робот должен защищать свое существование, пока такая защита не противоречит Первому или Второму Законам. Правила, изложенные здесь, довольно двусмысленны; Б. Хиббард в своей статье «Этический искусственный интеллект» [3] приводит ситуацию, противоречащую этим законам, например, «полицейский ИИ наблюдает, как наемный убийца направляет оружие на жертву», что, например, потребует полиции офицер выстрелил из пистолета в киллера, чтобы спасти жизнь жертвы, что противоречит первому закону, указанному выше. Таким образом, необходима структура для определения того, как такой искусственный интеллект будет вести себя этично (и даже вносить некоторые моральные улучшения); Другими факторами, которые будет обсуждаться в этом эссе (главным образом с помощью «Этики искусственного интеллекта» Н. Бострома и Э. Юдковского [4]), являются прозрачность проверки и предсказуемость искусственного интеллекта. Прозрачность для проверки Инженеры должны при разработке искусственного интеллекта сделать его прозрачным для проверки.

Чтобы искусственный интеллект был прозрачен для проверки, программист должен хотя бы понять, как алгоритм будет определять действия искусственного интеллекта. В статье Бострома и Юдковского приводится пример того, как это важно, используя машину, которая рекомендует заявки на ипотеку для одобрения. Если машина дискриминирует людей определенного типа, в документе утверждается, что, если машина не была прозрачна для проверки, не было бы никакого способа выяснить, почему или как она это делает. Кроме того, А. Теодору и соавт. в документе «Почему мой робот ведет себя так?» [5] подчеркивает три момента, которые диктуют прозрачность для проверки: чтобы позволить оценку надежности; выявлять неожиданное поведение; и разоблачить принятие решений.

Документ развивает это путем реализации того, какой должна быть прозрачная система, которая включает ее тип, назначение и людей, использующих систему – при этом подчеркивая, что для различных ролей и пользователей система должна выдавать информацию, доступную для чтения последней. [5] Хотя в документе не упоминается искусственный интеллект как отдельная тема, принципы прозрачной системы могут быть легко переданы инженерам, разрабатывающим искусственный интеллект. Поэтому при разработке новых технологий, таких как ИИ и машинное обучение, инженеры и программисты в идеале не должны забывать о том, почему и как ИИ выполняет свои решения, и должны стремиться добавить в ИИ некоторую структуру для защиты или хотя бы информирования. пользователь о неожиданном поведении, которое может выйти. Предсказуемость ИИ Несмотря на то, что ИИ оказался более умным, чем люди, в конкретных задачах (например, поражение Каспарова от Deep Blue на чемпионате мира по шахматам [4]), большинство современных искусственных интеллектов не являются общими.

Однако с развитием технологий и разработкой более сложного искусственного интеллекта их предсказуемость вступает в игру. Бостром и Юдковский утверждают, что обработка искусственного интеллекта, который является общим и выполняет задачи во многих контекстах, является сложной; выявление проблем безопасности и прогнозирование поведения такого интеллекта считается сложным [4]. В нем подчеркивается необходимость того, чтобы ИИ действовал безопасно в неизвестных ситуациях, экстраполируя последствия, основанные на этих ситуациях, и по существу думая этично, как это делал бы человеческий инженер. В статье Хиббарда говорится, что при определении реакции искусственного интеллекта тесты должны проводиться в моделируемой среде с использованием «системы поддержки принятия решений», которая изучала бы цели обучения искусственному интеллекту в окружающей среде – с моделированием, выполняемым без вмешательства человека.

Однако Хиббард также продвигает «стохастический» процесс [3], используя случайное распределение вероятностей, которое будет способствовать снижению его предсказуемости при определенных действиях (распределение вероятностей все еще можно анализировать статистически); это послужит защитой от другого искусственного интеллекта или людей, стремящихся манипулировать искусственным интеллектом, который в настоящее время создается. В целом, предсказуемость искусственного интеллекта является важным фактором при его создании, особенно когда общий ИИ сделан для выполнения крупномасштабных задач в совершенно разных ситуациях. Однако, хотя ИИ, который неясен в том, как он выполняет свои действия, нежелателен, инженерам следует учитывать и другую сторону – ИИ должен обладать определенной непредсказуемостью, которая, если не что-нибудь еще, будет сдерживать манипулирование таким ИИ для злая цель. ИИ мыслит этически Можно утверждать, что наиболее важным аспектом этики ИИ является структура того, как искусственный интеллект будет мыслить этически и учитывать последствия своих действий – по сути, как инкапсулировать человеческие ценности и признать их развитие во времени в будущее. Это особенно верно для суперинтеллекта, где проблема этики может означать разницу между процветанием или разрушением. Бостром и Юдковский утверждают, что для того, чтобы такая система мыслила этично, она должна реагировать на изменения в этике во времени и решать, какие из них являются признаком прогресса – приводя пример сравнения Древней Греции с современным обществом, использующим рабство , [4] Здесь авторы опасаются создания этически «стабильной» системы, которая была бы устойчивой к изменению человеческих ценностей, и все же они не хотят систему, чья этика определяется случайным образом. Они утверждают, что для понимания того, как создать систему, которая ведет себя этично, нужно было бы «понять структуру этических вопросов» [4] таким образом, чтобы учесть этический прогресс, который еще даже не был задуман.