Этичный дизайн: практическое руководство по началу работы

К настоящему времени большинство людей, работающих в сфере технологий, сталкиваются с глубокими проблемами, которые связаны с наблюдением и отслеживанием, что взращивается и поощряется IT-гигантами. Мы понимаем, что корень проблемы лежит в бизнес-модели капитализации и монетизации пользовательских данных. Истории об эксплуатации людей публикуются ежедневно, как, к примеру, недавний случай с отказом Instagram от уведомлений о лайках для определенных пользователей с целью увеличения процента входа в приложение. Также бывшие высокопоставленные сотрудники Facebook рассказали The Globe and Mail ужасающие истории о том, как возможности скрупулезно разрабатываются для эксплуатации пользовательского поведения и делают нас зависимыми от социальных сетей.

Являясь дизайнерами и разработчиками, мы должны создавать лучший опыт взаимодействия. В этой статье мы расскажем о том, что представляет собой неэтичный дизайн, и как сделать дизайн этичным с помощью набора лучших практик. Это поможет вам понять, как подтолкнуть свою компанию к положительным изменениям, даже если вы не относитесь к управляющим должностям. Изменения начинаются с постепенных действий!

Начнем с основной терминологии. Согласно Merriam Webster, этика – это «дисциплина, посвященная тому, что является хорошим, а что плохим, связанная с моральным долгом и ответственностью». В рамках данной статьи мы будем рассматривать этику как систему моральных принципов, определяющую то, что воспринимается добром, а что злом. Таким образом, этичный дизайн связан с намерением делать добро, в то время как неэтичный – с намерением сеять зло.

Ind.ie – социальная корпорация, стремящаяся к справедливости в эпоху цифровых технологий. Она основана Аралом Балканом и Лаурой Калбаг, определивших «этичную пирамиду потребностей», которая очень хорошо описывает суть этичного дизайна.

Этичная пирамида потребностей

Как и в любой пирамидальной структуре, каждый уровень в этичной пирамиде потребностей основан на предыдущем. Если какой-либо из уровней ломается, то и все оставшиеся верхние уровни также разрушаются. Если дизайн не отвечает правам человека, то он не является этичным. Если он поддерживает права человека, но не отвечает человеческим потребностям в плане функциональности, удобства и надежности, то в таком случае он не является этичным. Если он поддерживает человеческие потребности, но не отвечает человеческому опыту взаимодействия (не стремится улучшить жизнь людей, использующих его), то в таком случае он по-прежнему не является этичным.

С практической точки зрения это означает, что продукты и сервисы, которые эксплуатируют пользовательские данные, используют «черные» паттерны и, как правило, делают все только для заработка денег, не обращая внимания на человеческие цели, являются неэтичными. Давайте посмотрим, как неэтичный дизайн находит свое отражение в бизнес-моделях и дизайнерских решениях.

Капитализм наблюдения

Дизайн, основанный на данных, может использоваться для достижения положительных результатов. Но чаще всего он используется с финансовыми целями, что также известно как «капитализм наблюдения».

Как отметил Арал Балкан, этичный дизайнер и основатель ind.ie:

«Когда компания, подобная Facebook, улучшает опыт взаимодействия для своих продуктов, это напоминает массаж, который мы делаем корове Кобе: он производится не для помощи самой корове, а для того, чтобы улучшить качество говядины. В этой аналогии вы – корова».

Капитализм наблюдения неэтичен по своей природе, поскольку он использует преимущества богатых данных для профилирования людей и понимания их поведения с единственной целью – для заработка денег. Самое ужасное, что данные используются не только для прогнозирования и управления текущим поведением, но и для того, чтобы профилировать наши будущие действия через машинное обучение, что в конечном счете дает компаниям возможность влияния на наши будущие решения и поведенческие модели.

Как отмечал Cracked Labs, независимый исследовательский институт и креативная лаборатория, в своем отчете Data Against People:

«Системы, принимающие решения о людях, основываясь на их данных, приводят к неблагоприятным последствиям, которые могут заметно ограничивать выбор, возможности и жизненные шансы людей».

Это случается ежедневно с теми, кто использует Facebook, где персонализированная лента тщательно фильтруется, чтобы выдавать посты, которые в большей степени приведут к взаимодействию и активности. Цены также становятся все более персонализированными, поскольку компании могут использовать богатые данные для расчета долговременной ценности клиентов (убеждения, основанные на данных).

Торговля данными и отслеживание данных – большой бизнес. Согласно отчету «Corporate Surveillance in Everyday Life», Oracle предлагает доступ к 5 млрд уникальных пользовательских ID (это подтверждается на официальном сайте Oracle). И это действительно ужасает.

Таблица демонстрирует огромное количество данных, хранящихся в крупных онлайн-платформах, агентствах кредитных карт и брокерах данных.

Можно только представить себе, как компании применяют эти данные для профилирования того, кто из нас в большей степени склонен к физическим или психическим проблемам, чтобы навязать нам кучу бесполезных приложений. Я боюсь за наше будущее.

Некоторые фразы звучат так, словно они взяты из научно-фантастических фильмов, однако они вполне себе реальны. Неэтичные компании раскрываются ежедневно, начиная от VPN приложений, которые утверждают, что защищают данные своих 24 млн пользователей, но потом продаются Facebook, и заканчивая программами, такими как Alphonso, которая, согласно The New York Times, использовалась в более чем 250 игровых приложений (некоторые из них разрабатывались для детей), чтобы отслеживать, какую телевизионную рекламу смотрят пользователи. Список компаний, собирающих и использующих данные с неэтичными целями, можно продолжать бесконечно.

«Черный» дизайн

Отслеживание данных – далеко не единственный метод, который используется в неэтичном дизайне. «Черные» модели и паттерны также попадают под неэтичный дизайн, поскольку они представляют собой методы, специально предназначенные для того, чтобы обмануть нас и заставить сделать что-то, что мы не хотим делать. Возможно, нельзя называть неэтичным такой метод, как Roach Motel, когда удалить свой аккаунт практически невозможно (пример: Skype). Однако, рассматривая бизнес-мотивацию, нельзя не разглядеть неэтичную природу дизайна, как в случае с китайской обувной компанией, которая заставляла пользователей смахнуть нарисованный волос на их объявлении Instagram.

Гарри Бриньюлл, один из создателей и движущих сил Dark Patterns, утверждает, что «черные» паттерны работают потому, что они используют слабости человеческого мозга и наши привычки. Я считаю это неэтичным, и люди, разрабатывающие продукты, улучшающие их, имеют моральные обязательства перед пользователями.

Компании, которые подпитывают консьюмеризм и манипулируют людьми, заставляя их покупать больше вещей, неэтичны в плане дизайна. Это обычная практика в электронной коммерции, и она использует феномен, который называется «боязнь потери». Hotels.com особенно агрессивен в этом деле, он отправляет несколько уведомлений в течение пары секунд о том, сколько людей уже забронировали номера за последние сутки и сколько людей в данный момент просматривают тот же самый номер.

Сайт Hotels.com позволяет нам узнать, сколько других людей просматривают номер, чтобы мотивировать нас быстро его забронировать.

Общий регламент по защите данных (GDPR)

Общий регламент по защите данных (GDPR), вступающий в силу в конце мая 2018 года, позволит бороться с компаниями, использующими неэтичный дизайн.

GDPR – это обширный регламент, который включает в себя следующие правила:

• Требование к любой организации, собирающей и хранящей данные, делать это безопасным образом.
• Значительные штрафы за утечки данных.
• Данные должны собираться только с явного согласия пользователя, а объяснение, описывающее то, почему происходит сбор данных, должно быть простым и понятным. Кроме того, пользователь должен иметь возможность отказаться от своего согласия на сбор данных, причем это должно быть так же легко сделано, как и в случае с его предоставлением (к примеру, возможность удаления профиля).
• «Право быть забытым», что означает, что пользователи имеют право удалить свои данные.
• Право для людей получать доступ к своим личным данным в любой организации наряду с информацией о том, как эти данные обрабатываются.
• Переносимость данных, что означает, что пользователи имеют право получить свои данные в одной компании и перенести их в другую компанию.
• Значительные штрафы за несоблюдение GDPR.

25 мая 2018 года – это, определенно, позитивный день для всех людей, и это символ совершенно иного будущего для всех неэтичных организаций.

Однако не стоит обманывать себя и считать, что изменения произойдут в одночасье во всех организациях. Нужны более глубокие изменения, которые будут реализованы лишь со временем.

Изменение статус-кво через изменение значения

GDPR вряд ли решит все наши проблемы. Полагать так было бы наивно. Хорошей новостью является то, что внесение изменений возможно даже в том случае, если вы не являетесь частью управленческой команды, отвечающей за бизнес-модель.

Переход к более этичному дизайну не осуществляется в одночасье. Можно лишь постепенно вносить изменения и способствовать долгосрочным организационным переменам посредством того, что Дон Норман и Роберто Верганти называют «инновациями, основанными на значении».

Инновации, основанные на значении, являются результатом того, что люди начинают формулировать мысли и мнения по созданию обновленных движущих сил, что приводит к кардинально новым смыслам.

Дон Норман и Роберто Верганти считают, что радикальные инновации происходят лишь тогда, когда случается одно из следующих событий:

• Становится доступной новая технология, имеющая надежную, экономически выгодную форму (для сенсорных интерфейсов потребовалось порядка 20 лет, чтобы покинуть стены лабораторий и выйти на рынок планшетов и телефонов).
• Меняется значение чего-либо в обществе – это также относится к инновациям, основанным на значении.

Я считаю, что растущая осведомленность, концентрация и забота о нашей приватности в контексте бизнеса, основанного на данных, приведет к вспышке радикальных инноваций и изменений в обществе. По иронии судьбы, компании, основавшие капитализм наблюдения, пробудили к жизни изменения в том, как мы воспринимаем наше право на конфиденциальность, и мы уже видим рост числа компаний и организаций, продвигающих решения, основанные на приватности.

Значение компаний, которые отслеживают и контролируют нас, уже меняется. Раньше мы не слишком задумывались об этом, и, возможно, даже считали удобным, когда реклама на Facebook основывалась на нашей истории просмотров. Но с эскалацией капитализма наблюдения, по моему мнению, мы пришли к изменению значения, поскольку все больше и больше людей считают не только неудобным, но и попросту неприемлемым отслеживание своих действий в угоду компаниям.

DuckDuckGo, поисковая система, которая не следит за пользователями, имела в среднем 16 млн поисковых запросов в день в 2017 году, что свидетельствует о том, что приватность становится все более актуальным вопросом для людей, обращающихся к интернету. Кроме того, мы видим приложения, которые посвящены обеспечению конфиденциальности, такие как Signal – безопасный мессенджер, разработанный для защиты приватности. Кроме того, весьма вероятно, что GDPR будет стимулировать дальнейшее изменение значения в области приватности.

Переход к дизайну, в центре которого находится человек

Человеко-центрированный дизайн – философия, разработанная Доном Норманом (среди других). Согласно User Experience Professionals Association (UXPA), человеко-центрированный дизайн определяется «активной вовлеченностью пользователей и четким пониманием требований пользователей и задач».

Дон Норман и Роберто Верганти в своем исследовании приходят к выводу, что человеко-центрированный дизайн подходит только для инкрементных инноваций – поэтапных усовершенствований, — поскольку новые идеи не выявляются в ходе постоянного изучения текущего состояния вещей, как это реализуется в рамках пользовательских исследований.

Я считаю, что человеко-центрированный дизайн может оказаться смещением к инновациям, основанным на значении, что в конечном счете приведет к более широкому изменению значения того, что люди будут принимать и не будут принимать от неэтичных организаций. Человеко-центрированный дизайн способствует более глубокому пониманию эмпатии, чем любой другой метод дизайна взаимодействия.

Человеко-центрированный дизайн – это точка зрения, а также мировоззрение. По своей сути, работоспособные концепции «фокуса на человеке» означают вовлечение людей в процесс еще на ранней стадии и на постоянной основе, т.е. используется исследование для того, чтобы понять потребности людей, узнать их проблемы, а также то, как ваш продукт помогает решить эти проблемы.

Работа с задачами, связанными с человеко-центрированным подходом, относится к прямой компетенции дизайнеров опыта взаимодействия, однако как быть, если вы постоянно загружены обзорами и ежедневными задачами?

Работая с удаленной командой разработчиков, я узнал, что эти разработчики не имели никакого контакта с людьми, использующими продукт. Это часто приводило к горячим дискуссиям, в которых основными аргументами были «Я думаю…» или «С технической позиции…» и «Я чувствую…».

Самая большая проблема с принятием решений на базе того, что вы думаете или чувствуете или что проще реализовать с технической точки зрения, состоит в том, что вы не вовлекаете людей, для которых вы все это делаете. Люди, для которых вы создаете продукт или услугу. Здесь нам и помогает человеко-центрированный дизайн.

Дизайнеры UX обычно проводят исследования, документируют идеи и передают их в рафинированном виде команде дизайнеров или команде продукта, представляя все в виде персонажей, описания пользовательских потребностей, пользовательских действий, переходов и т.д. Все это хорошо. Проблема, однако, скрывается в том, что остается дистанция между организацией и пользователями, которых она обслуживает, поскольку никто, кроме дизайнеров UX, не разговаривал с людьми и не видел, как они используют продукт. Поэтому разработчики и продолжают возвращаться к «я чувствую…», «я думаю…», «с технической позиции…» и т.д.

Есть несколько великолепных вещей, которые могут сделать дизайнеры, разработчики и остальные члены коллектива, чтобы сформировать эмпатию к клиентам.

Привлекайте всех членов команды к просмотру видео с сеансов пользовательского тестирования.

Очень важно пропускать через себя все те проблемы и радости людей, которые используют ваши продукты (или прототипы, что зависит от того, что именно вы тестируете). Полезно следить за тем, как другие люди взаимодействуют с вашими продуктами и как они комментируют весь процесс (именно другие люди, а не ваша команда!)

Если этот момент не входит в типичные действия вашей компании, попросите включить его. Конечно, подавляющее большинство UX дизайнеров не будут в восторге от организации и вовлечения в такие сеансы. Вы гарантированно переживете боль, агонию, фрустрацию, счастье и получите массу открытий для себя, и все это станет новым шагом к раскрытию мышления, ориентированного на человека.

Запросите реальные, живые портреты людей, для которых вы ведете разработку.

Сюда следует отнести фотографии и видео из контекстных исследований, истории из их повседневной жизни и истории о них. Получите лучшее представление о людях, стоящих по ту сторону от вашего продукта, чтобы сформировать мгновенную эмпатию и остановить создание вещей, усложняющих им жизнь и являющихся плохими для них.

Настаивайте на непрерывном тестировании.

Тестирование в человеко-центрированном дизайне – критически важный аспект. Сюда относятся ранние тесты proof of concept, тесты прототипов и тесты юзабилити. Бонус от раннего и непрерывного участия людей, для которых создается продукт, заключается в том, что это экономит деньги в долгосрочной перспективе. Чем раньше вы выявите плохие методики или ошибки, тем дешевле это будет исправить.

Много уже говорилось о ядерной тревоге, которая была вызвана по ошибке на Гавайях 13 января. Раннее и непрерывное тестирование позволило бы предотвратить такие случаи.

Плохо спроектированный экран был назван причиной ложного предупреждения о баллистических ракетах на Гавайях.

Всегда спрашивайте «почему?»

Чтобы запустить изменение значения в организации или сообществе, первым важным шагом является постановка вопроса «почему?» Спросите себя, почему что-то делается неэтично; почему вам сказали делать неэтичную возможность; подвергайте сомнению текущее положение вещей.

Спросите, на каких основаниях принимаются дизайнерские решения. Если так считает генеральный директор или кто-то еще, и эти люди попросту не понимают людей, для которых создается продукт, предложите это исправить. Изменение значения производится путем небольших шагов.

Лучшие практики этичного дизайна

Наряду с введением в организацию основ человеко-центрированного дизайна, важно также использовать лучшие практики этичного дизайна. Пользователи, которые делают это, принимают на себя руководящую роль и показывают остальному коллективу, как сделать то или иное в более этичном ключе, и все это приводит к постепенному, инкрементному изменению значения. Подобно тому, как «черные» паттерны попадают в категорию неэтичного дизайна,  имеются и «белые» паттерны проектирования, которые можно использовать в рамках этичного дизайна. Ниже представлены некоторые из них.

Используйте данные для улучшения опыта взаимодействия

Несмотря на то что многие компании используют данные для неэтичных целей, таких как увеличение покупок и трафика, данные фактически могут использоваться и для реального улучшения опыта взаимодействия.

Так обстоит дело на форуме ind.ie, где создание аккаунта предлагается в качестве способа улучшения опыта взаимодействия — чтобы запомнить то, что вы прочли.

Всплывающее окно при регистрации Indie объясняет, как компания использует те небольшие данные, которые она собирает.

Форум ind.ie подчеркивает преимущества создания аккаунта – при этом ваши данные не будут собираться и храниться для каких-либо неэтичных целей.

В текущем проекте, которым я занимаюсь, мы создаем приложение для студентов, чтобы они могли получить простой доступ к системе управления обучением. Мы сортируем индивидуальные курсы студентов по «последнему посещению». Мы знаем благодаря исследованиям, что студенты чаще всего пересматривают небольшое количество страниц, которые в основном связаны с последними просмотренными курсами. Эта настройка не предназначена для изменения их поведения или принуждения их к использованию каких-либо специальных частей приложения, с которыми они не планировали работать. Вместо этого приложение было разработано так, чтобы сделать их опыт взаимодействия максимально быстрым и эффективным.

Мы использовали знания о текущем использовании продукта для повышения эффективности приложения и сортировки курсов студентов по «последнему посещению».

Еще один положительный пример демонстрирует американская фармацевтическая компания Walgreens, которая отправляет напоминания о том, что пришло время пополнить свою аптечку – к примеру, витаминами. Это очень полезная функция, которая решает проблему, с которой мы все сталкиваемся время от времени.

Данные позволяют получить информацию о том, с какими пользовательскими проблемами вы недостаточно хорошо боретесь.

Skyscanner, туристическая поисковая система, обнаружила благодаря своим данным, что их новый дизайн не подходит клиентам, использующим их сервис для вылетов из Амстердама. Эти данные были переданы исследовательской группе, которая в конечном счете разработала индивидуальное решение для людей, вылетающих в Амстердам и обратно, что позволило сломать барьеры, созданные новым дизайном.

Реклама без отслеживания

Реклама не обязательно неэтична. К примеру, реклама на основе детальных данных – неэтична. Неосторожно (и глупо) полагаться на отдельную платформу для решения большинства маркетинговых задач бренда, особенно если учесть, что эта платформа владеет и управляет данными, используемыми брендом для своего рекламного таргетинга.

Facebook, Instagram и Google так же мало заботятся о своих рекламодателях, как и о своих пользователях, т.е. они могут вносить любые изменения, которые они хотят, не обращая внимания на любые последствия для бизнеса или людей, работающих с их платформами. К примеру, было время, когда они блокировали фейковые аккаунты в массовом порядке, что нанесло вред многочисленным компаниям, имеющих свои страницы в социальных сетях. Люди создавали фейковые аккаунты для управления бизнес-страницами, поскольку не хотели использовать для этих целей свои частные аккаунты. Facebook разрешает иметь только один профиль на человека (вероятно, вследствие того, что поддержка нескольких профилей может привести к «загрязнению» отслеживаемых данных).

Платформа всегда выступает слабым звеном в маркетинговой стратегии, поскольку она является третьей стороной, выходящей из-под контроля компании. Вернемся к 90-м, когда я работал в маркетинговом отделе небольшой региональной газеты – тогда у нас не было детального отслеживания данных. Когда магазин публиковал объявление в газете о каком-то событии, он просто отслеживал, сколько людей пришло, и сравнивал это со своими ожиданиями, чтобы определить успешность.

Хотя «старые добрые времена» не были «добрыми» во всех аспектах, мысль о том, что реклама не должна базироваться на детальном отслеживании данных, является полезной и привлекательной. Daring Fireball – пример сайта, который не позволяет отслеживать объявления. Вместо этого владелец сайта предлагает рекламодателям добавлять произвольную ссылку к своим объявлениям, чтобы они могли отследить процент кликов на своей стороне.

Как отметил Джон Грубер, основатель сайта:

«Если вы платите, к примеру, Facebook за рекламу, почему вы, рекламодатель, верите циферкам Facebook, которые они вам показывают?»

Еще один пример – Goodwings, сайт бронирования отелей, который жертвует половину своей комиссии на благотворительность. Они могут так поступать благодаря тесному сотрудничеству с большим количеством неправительственных организаций, т.е. они тратят очень мало средств на традиционный маркетинг.

Если вы считаете, что Google Analytics – ваш единственный способ сбора осмысленных данных, то задумайтесь: есть вариант Matamo, который имеет открытый код и ставится непосредственно на ваш сервер. Он гарантирует, что данные не будут передаваться рекламным агентствам, таким как Google.

Всегда ставьте в приоритет юзабилити

Капитализм наблюдения и отслеживание данных в значительной степени говорят о проблемах, связанных с этичным дизайном. Но мы не должны забывать и о важности соблюдения лучших практик юзабилити. Без этого дизайн будет неэтичным, поскольку отсутствие юзабилити практически всегда ведет за собой использование «черных» паттернов.

Якоб Нильсен выявил 5 основных компонентов юзабилити:

• Обучаемость,
• Эффективность,
• Запоминаемость,
• Наличие ошибок,
• Удовлетворенность.

Чтобы обеспечить полезный продукт, важно, чтобы эти 5 компонентов были в центре процесса проектирования и разработки.

Хотя это, возможно, и не самая интересная страница 404, версия от Apple позволяет предотвратить ошибки, предлагая нам прямой выход.

Не спрашивайте больше, чем вам нужно

Как и в случае с любыми другими жизненными аспектами, если вы просите больше, чем вам нужно, то это выливается в эксплуатацию. Обычно сайты электронной коммерции запрашивают тонну информации, когда пользователи создают аккаунт или покупают продукт. Но если кто-то покупает цифровой продукт (к примеру, книгу), то нет никакой необходимости в том, чтобы спрашивать что-то кроме email.

Хороший пример — Signal. Приватный по своей сути, он не запрашивает ничего лишнего, а потому пользователи могут сразу начать работать с приложением.

Будьте прозрачны

Norwegian.com имеет, пожалуй, одну из лучших систем бронирования авиабилетов в мире. Она не только удобна и проста в использовании, но и обеспечивает полную прозрачность в отношении дополнительных сборов за обслуживание, что часто скрывается. Любой, кто живет за пределами страны с пунктами Amazon, знает, как тяжело найти фактическую стоимость доставки до своей локации.