Технологии на службе корпораций: Заметки специалиста по этике дизайна Google (статья 2019 года)
Тристиан Харрис, специалист по философии продуктов в Google, о десяти уловках технологических компаний, которые эксплуатируют уязвимость человеческого разума. Иллюзионисты начинают с поиска слепых зон, уязвимостей и границ человеческого восприятия, чтобы влиять на поведение людей так, чтобы никто об этом не догадывался. Как только вы понимаете, на какие кнопки в человеке нажать, можно играть на нем, как на пианино. Это именно то, что делают продуктовые дизайнеры, которые используют психологические уязвимости (сознательные и бессознательные) в погоне за вниманием клиента. Оглавление: 1 Уловка №1: Если вы контролируете меню, вы контролируете выбор 2 Уловка №2. Положите игровой автомат в миллиарды карманов 3 Уловка №3: Страх упустить что-то важное 4 Уловка №4: Социальное одобрение 5 Уловка №5: Социальная взаимность (Зуб за зуб) 6 Уловка №6: Бездонные тарелки, бесконечные ленты и автоматическое воспроизведение 7 Уловка №7: Мгновенное отвлечение против «вежливой» доставки 8 Уловка №8: Объединение ваших целей с их целями 9 Уловка №9: Неудобный выбор 10 Уловка №10: Предсказывание ошибок и стратегия «всовывания ноги в дверь» 👉🏻 Уловка №1: Если вы контролируете меню, вы контролируете выбор Западная культура построена вокруг идеалов индивидуального выбора и свободы. Миллионы из нас свирепо защищают свое право делать «свободный» выбор, но в то же время игнорируют, как этим выбором манипулируют при помощи меню, которые нам навязаны кем-то другим. Это именно то, что делают фокусники. Они дают людям иллюзию свободного выбора, строя меню так, чтобы выигрывать вне зависимости от того, что вы выберете. Когда людям дают список вариантов, они редко спрашивают: «Что не вошло в этот список?», «Почему мне дали эти варианты, а не другие?», «Знаю ли я цели того, кто предоставил мне этот список?», «Отвечает ли этот список моим первоначальным желаниям или эти варианты на самом деле лишь отвлекают мое внимание?» Представьте, что вы выбрались провести время с друзьями вечером вторника и хотите где-то сесть и поболтать. Вы открываете Yelp, чтобы найти рекомендованные места поблизости, и видите список баров. Ваша компания начинает пялиться в экраны смартфонов, сравнивая бары. Вы обсуждаете фото каждого бара, сравниваете коктейли. Вы уверены, что это занятие все еще отвечает вашим первоначальным намерениям? Дело не в том, что бары – плохой выбор. Просто Yelp заменил изначальный вопрос людей («куда бы нам пойти, чтобы пообщаться?») на другой («у какого бара неподалеку красивые фото и вкусные коктейли?»), предложив другое меню. Более того, у вас появляется заблуждение, что меню, предложенное Yelp, отображает полный список вариантов, куда можно пойти. Пока люди смотрят в смартфоны, они не замечают парка через дорогу, где играет молодая группа. Они не видят фургончик с сендвичами и кофе. Ни того, ни другого нет в меню Yelp. Yelp тонко формирует потребность группы «куда мы можем пойти, чтобы продолжить разговор?» с точки зрения фотографий коктейлей. Чем больше выбора дают нам технологии в почти каждом аспекте наших жизней (информация, события, места для отдыха, друзья, свидания, работа), тем больше мы относимся к смартфону, как к «жизненному меню» c максимальным количеством представленных вариантов. Но так ли это? Меню с максимальным количеством возможностей отличается от меню с наибольшим количеством вариантов. Но когда мы слепо сдаемся в руки меню, которые нам дают, легко утратить чувство разницы: «Кто хочет встретиться сегодня вечером?» превращается в меню людей, с которыми мы списывались в последнее время; «Что происходит в мире?» становится меню новостных лент; «Кто без пары и готов пойти на свидание?» превращается в меню лиц для свайпов в Tinder (вместо локальных событий с друзьями или загородных приключений); «Я должен ответить на это письмо» становится кнопкой для написания ответа (вместо расширения возможностей коммуникации с человеком). Когда мы просыпаемся утром и переворачиваем телефон, то видим список уведомлений, который формирует опыт «утреннего пробуждения» вокруг списка «того, что я пропустил вчера». Формируя меню доступных вариантов, технологии захватывают наше восприятие выбора и заменяют его. Но чем больше мы уделяем внимания опциям, которые нам дают, тем больше мы начинаем замечать, что они не соответствуют нашим настоящим нуждам. 👉🏻 Уловка №2. Положите игровой автомат в миллиарды карманов Если вы приложение, то как зацепить людей? Превратиться в игровой автомат. Средний человек проверяет свой смартфон 150 раз в день. Почему мы делаем это? Совершаем ли мы 150 сознательных выборов? Одна из основных причин схожести приложений с игровыми автоматами состоит в подкреплении. Если вы хотите максимизировать привыкание, то все, что нужно сделать дизайнерам технологии, – это связать действие пользователя (например, нажатие рычага автомата) с переменной наградой. Вы дергаете за рычаг и сразу получаете или заманчивое вознаграждение, или ничего. Привыкание максимизируется, когда соотношение вознаграждения и проигрыша является вариативным. Действительно ли этот эффект работает на людях? Да. Игровые автоматы приносят больше денег в США, чем бейсбол, кино и тематические парки вместе взятые. Согласно исследованию профессора Нью-йоркского университета Наташи Доу Скалл, игровые автоматы вызывают «проблемную зависимость» в 3-4 раза быстрее, чем другие виды азартных игр. Но вот безрадостная правда – несколько миллиардов людей носят игровые автоматы в своих карманах: Когда мы достаем наш телефон из кармана, мы дергаем за рычаг игрового автомата, чтобы увидеть полученные уведомления; Когда мы обновляем нашу почту, мы запускаем игровой автомат, чтобы увидеть новые письма; Когда мы проводим пальцем вниз, прокручивая ленту Instagram, мы играем, чтобы увидеть следующую фотографию; Когда мы свайпим фото влево или вправо в дейтинг-приложениях вроде Tinder, мы играем, чтобы увидеть совпадение пары; Когда мы нажимаем на красную цифру уведомлений, мы дергаем ручку автомата, чтобы увидеть, что нам пришло. Приложения и вебсайты используют подкрепление постоянно, потому что это хорошо для бизнеса. Но в других случаях игровые автоматы возникают случайно. За всей электронной почтой не стоит никакая злая корпорация, которая сознательно превращает ее в игровой автомат. Никто не получает прибыль от того, что миллионы проверяют свою почту. Дизайнеры Apple и Google тоже не хотели, чтобы смартфоны превращались в игровые автоматы. Это произошло случайно. Но сейчас на компаниях вроде Apple или Google лежит ответственность сократить этот эффект, преобразуя «подкрепление» во что-то менее захватывающее и более предсказуемое, с лучшим дизайном. Они могут дать людям возможность установить конкретное время дня или недели, когда они хотят проверить «игровые автоматы» приложений и подстроить под это время получение новых сообщений. 👉🏻 Уловка №3: Страх упустить что-то важное Другой способ захватить сознание пользователей – встроить «1% шанс пропустить что-то важное». Если у меня выйдет убедить вас в том, что я – канал важной информации, сообщений, дружбы или потенциальных сексуальных отношений, вам будет сложно выключить, отписаться или удалить свой аккаунт. Вы ведь можете пропустить что-то важное: Это заставляет нас продолжать подписки на новостные рассылки, даже если пока они не принесли ничего стоящего («а что если я пропущу важное объявление?»); Это заставляет нас держать в друзьях людей, с которыми мы не разговаривали годами («вдруг у них случится что-то важное?»); Поэтому мы продолжаем свайпить фото в дейтинговых приложениях, даже если мы не ходили на свидания последний год («а что если я пропущу ту красивую девушку, которой понравился?»); Это заставляет нас использовать социальные медиа («что если я пропущу важную новость или выпаду из контекста и утрачу тему для разговора с друзьями?»). Но если мы внимательно присмотримся к этим страхам, то увидим, что обречены: мы всегда пропускаем что-то важное каждый раз, когда откладываем смартфон. В Facebook происходят волшебные вещи, пока мы не открываем приложения 76 раз в день (старый друг гостит неподалеку); Мы упускаем прекрасные возможности в Tinder (романтического партнера нашей мечты); Мы пропускаем срочные звонки, если не держим телефон в руке 24х7. Но жить от момента к моменту под страхом упустить что-то – это не то, для чего мы созданы. Невероятно, как быстро мы пробуждаемся от этой иллюзии, как только отпускаем этот страх. Когда мы уходим в офлайн на день, отписываемся от уведомлений или идем в поход без связи, наши опасения не оправдываются. Мы не пропускаем того, чего не видим. Мысль «а что, если я пропущу что-то важное?» тревожит нас до ухода в офлайн, не после. Представьте, если бы технологические компании поняли это и помогли нам проактивно строить дружеские и деловые отношения с точки зрения «хорошо проведенного времени», а не боязни что-то упустить. 👉🏻 Уловка №4: Социальное одобрение Мы уязвимы к социальному одобрению. Необходимость поддержки и одобрения нашими сверстниками – одна из главных мотиваций человека. И сейчас она находится в руках технологических компаний. Когда меня тегает мой друг Марк, я думаю, что он сделал сознательный выбор. Но я не вижу, как компания вроде Facebook руководила его действиями во время этого выбора. Facebook, Instagram или Snapchat могут манипулировать частотой упоминания людей на фотографиях, автоматически предлагая отметить те или иные лица (например, показывая сообщения «Отметить Тристана на этом фото?» с подтверждением в один клик). Поэтому, когда меня тегает Марк, он на самом деле отвечает на предложение Facebook, а не делает сознательный выбор. Благодаря такому подходу к дизайну, Facebook определяет, как часто миллионы людей получают социальное одобрение. То же самое происходит, когда мы меняем фото профиля. Facebook знает, что в этот момент мы чувствительны к социальному одобрению («что думают мои друзья о новой аватарке?») Facebook может вывести сообщение о смене аватара вверх новостной ленты, чтобы оно дольше висело на виду и получило больше лайков и комментариев. И каждый раз, когда они делают это, мы по новой втягиваемся во все вышеописанное. Каждый из нас врожденно реагирует на социальное одобрение, но некоторые слои населения более уязвимы, чем другие. Поэтому так важно понимать, сколько власти получают дизайнеры, когда используют подобные уязвимости. 👉🏻 Уловка №5: Социальная взаимность (Зуб за зуб) Вы делаете мне услугу – в следующий раз помощь за мной. Вы говорите «спасибо» – я должен ответить «пожалуйста». Вы отправляете мне письмо – грубо не ответить вам. Вы фолловите меня – грубо не ответить взаимностью (особенно для молодежи). Мы уязвимы перед необходимостью отвечать другим. Но, как и с социальным одобрением, технологические компании манипулируют нашей взаимностью перед другими людьми. В некоторых моментах это происходит случайно. Электронная почта и мессенджеры – фабрики социальной взаимности. Но в других случаях компании намеренно используют эту уязвимость. LinkedIn – самый откровенный злоумышленник. Он хочет, чтобы как можно больше людей создавали социальные обязательства друг перед другом, потому что каждый раз когда люди отвечают взаимностью (принимая предложение о знакомстве, отвечая на сообщение или подтверждая чей-то навык в ответ), они должны вернуться на linkedin.com . Как и Facebook, LinkedIn использует асимметричность восприятия происходящего. Каждый раз, когда вы получаете запрос от кого-либо, вы думаете, что человек отправил вам его осознано, однако, скорее всего, он просто увидел вас в списке, который подсунула ему платформа. Иными словами, LinkedIn превращает ваши бессознательные импульсы (добавить человека в друзья) в новое социальное обязательство. Миллионы людей чувствуют необходимость отплатить взаимностью. А LinkedIn получает прямую выгоду от того, как много времени на это тратится. Представьте себе миллионы людей, которые отрываются от работы, бегая как курицы с отрубленными головами, чтобы подтвердить заявки в друзья. И все это разработано компаниями, которые получают от этого выгоду. Представьте, если бы у технологических компаний были обязанности минимизировать социальную взаимность. Или если бы существовала независимая организация, представляющая публичные интересы, которая бы отслеживала, когда компании злоупотребляют этими уязвимостями? Читать далее: https://whatisgood.ru/raznoe/internet/tehnologii-na-s ..
Научи хорошему
Технологии на службе корпораций: Заметки специалиста по этике дизайна Google (статья 2019 года)
Тристиан Харрис, специалист по философии продуктов в Google, о десяти уловках технологических компаний, которые эксплуатируют уязвимость человеческого разума.
Иллюзионисты начинают с поиска слепых зон, уязвимостей и границ человеческого восприятия, чтобы влиять на поведение людей так, чтобы никто об этом не догадывался. Как только вы понимаете, на какие кнопки в человеке нажать, можно играть на нем, как на пианино. Это именно то, что делают продуктовые дизайнеры, которые используют психологические уязвимости (сознательные и бессознательные) в погоне за вниманием клиента.
Оглавление:
1 Уловка №1: Если вы контролируете меню, вы контролируете выбор
2 Уловка №2. Положите игровой автомат в миллиарды карманов
3 Уловка №3: Страх упустить что-то важное
4 Уловка №4: Социальное одобрение
5 Уловка №5: Социальная взаимность (Зуб за зуб)
6 Уловка №6: Бездонные тарелки, бесконечные ленты и автоматическое воспроизведение
7 Уловка №7: Мгновенное отвлечение против «вежливой» доставки
8 Уловка №8: Объединение ваших целей с их целями
9 Уловка №9: Неудобный выбор
10 Уловка №10: Предсказывание ошибок и стратегия «всовывания ноги в дверь»
👉🏻 Уловка №1: Если вы контролируете меню, вы контролируете выбор
Западная культура построена вокруг идеалов индивидуального выбора и свободы. Миллионы из нас свирепо защищают свое право делать «свободный» выбор, но в то же время игнорируют, как этим выбором манипулируют при помощи меню, которые нам навязаны кем-то другим. Это именно то, что делают фокусники. Они дают людям иллюзию свободного выбора, строя меню так, чтобы выигрывать вне зависимости от того, что вы выберете.
Когда людям дают список вариантов, они редко спрашивают: «Что не вошло в этот список?», «Почему мне дали эти варианты, а не другие?», «Знаю ли я цели того, кто предоставил мне этот список?», «Отвечает ли этот список моим первоначальным желаниям или эти варианты на самом деле лишь отвлекают мое внимание?»
Представьте, что вы выбрались провести время с друзьями вечером вторника и хотите где-то сесть и поболтать. Вы открываете Yelp, чтобы найти рекомендованные места поблизости, и видите список баров. Ваша компания начинает пялиться в экраны смартфонов, сравнивая бары. Вы обсуждаете фото каждого бара, сравниваете коктейли. Вы уверены, что это занятие все еще отвечает вашим первоначальным намерениям?
Дело не в том, что бары – плохой выбор. Просто Yelp заменил изначальный вопрос людей («куда бы нам пойти, чтобы пообщаться?») на другой («у какого бара неподалеку красивые фото и вкусные коктейли?»), предложив другое меню.
Более того, у вас появляется заблуждение, что меню, предложенное Yelp, отображает полный список вариантов, куда можно пойти. Пока люди смотрят в смартфоны, они не замечают парка через дорогу, где играет молодая группа. Они не видят фургончик с сендвичами и кофе. Ни того, ни другого нет в меню Yelp. Yelp тонко формирует потребность группы «куда мы можем пойти, чтобы продолжить разговор?» с точки зрения фотографий коктейлей.
Чем больше выбора дают нам технологии в почти каждом аспекте наших жизней (информация, события, места для отдыха, друзья, свидания, работа), тем больше мы относимся к смартфону, как к «жизненному меню» c максимальным количеством представленных вариантов. Но так ли это?
Меню с максимальным количеством возможностей отличается от меню с наибольшим количеством вариантов. Но когда мы слепо сдаемся в руки меню, которые нам дают, легко утратить чувство разницы:
«Кто хочет встретиться сегодня вечером?» превращается в меню людей, с которыми мы списывались в последнее время;
«Что происходит в мире?» становится меню новостных лент;
«Кто без пары и готов пойти на свидание?» превращается в меню лиц для свайпов в Tinder (вместо локальных событий с друзьями или загородных приключений);
«Я должен ответить на это письмо» становится кнопкой для написания ответа (вместо расширения возможностей коммуникации с человеком).
Когда мы просыпаемся утром и переворачиваем телефон, то видим список уведомлений, который формирует опыт «утреннего пробуждения» вокруг списка «того, что я пропустил вчера». Формируя меню доступных вариантов, технологии захватывают наше восприятие выбора и заменяют его. Но чем больше мы уделяем внимания опциям, которые нам дают, тем больше мы начинаем замечать, что они не соответствуют нашим настоящим нуждам.
👉🏻 Уловка №2. Положите игровой автомат в миллиарды карманов
Если вы приложение, то как зацепить людей? Превратиться в игровой автомат. Средний человек проверяет свой смартфон 150 раз в день. Почему мы делаем это? Совершаем ли мы 150 сознательных выборов? Одна из основных причин схожести приложений с игровыми автоматами состоит в подкреплении.
Если вы хотите максимизировать привыкание, то все, что нужно сделать дизайнерам технологии, – это связать действие пользователя (например, нажатие рычага автомата) с переменной наградой. Вы дергаете за рычаг и сразу получаете или заманчивое вознаграждение, или ничего. Привыкание максимизируется, когда соотношение вознаграждения и проигрыша является вариативным.
Действительно ли этот эффект работает на людях? Да. Игровые автоматы приносят больше денег в США, чем бейсбол, кино и тематические парки вместе взятые. Согласно исследованию профессора Нью-йоркского университета Наташи Доу Скалл, игровые автоматы вызывают «проблемную зависимость» в 3-4 раза быстрее, чем другие виды азартных игр.
Но вот безрадостная правда – несколько миллиардов людей носят игровые автоматы в своих карманах:
Когда мы достаем наш телефон из кармана, мы дергаем за рычаг игрового автомата, чтобы увидеть полученные уведомления;
Когда мы обновляем нашу почту, мы запускаем игровой автомат, чтобы увидеть новые письма;
Когда мы проводим пальцем вниз, прокручивая ленту Instagram, мы играем, чтобы увидеть следующую фотографию;
Когда мы свайпим фото влево или вправо в дейтинг-приложениях вроде Tinder, мы играем, чтобы увидеть совпадение пары;
Когда мы нажимаем на красную цифру уведомлений, мы дергаем ручку автомата, чтобы увидеть, что нам пришло.
Приложения и вебсайты используют подкрепление постоянно, потому что это хорошо для бизнеса. Но в других случаях игровые автоматы возникают случайно. За всей электронной почтой не стоит никакая злая корпорация, которая сознательно превращает ее в игровой автомат. Никто не получает прибыль от того, что миллионы проверяют свою почту. Дизайнеры Apple и Google тоже не хотели, чтобы смартфоны превращались в игровые автоматы. Это произошло случайно.
Но сейчас на компаниях вроде Apple или Google лежит ответственность сократить этот эффект, преобразуя «подкрепление» во что-то менее захватывающее и более предсказуемое, с лучшим дизайном. Они могут дать людям возможность установить конкретное время дня или недели, когда они хотят проверить «игровые автоматы» приложений и подстроить под это время получение новых сообщений.
👉🏻 Уловка №3: Страх упустить что-то важное
Другой способ захватить сознание пользователей – встроить «1% шанс пропустить что-то важное». Если у меня выйдет убедить вас в том, что я – канал важной информации, сообщений, дружбы или потенциальных сексуальных отношений, вам будет сложно выключить, отписаться или удалить свой аккаунт. Вы ведь можете пропустить что-то важное:
Это заставляет нас продолжать подписки на новостные рассылки, даже если пока они не принесли ничего стоящего («а что если я пропущу важное объявление?»);
Это заставляет нас держать в друзьях людей, с которыми мы не разговаривали годами («вдруг у них случится что-то важное?»);
Поэтому мы продолжаем свайпить фото в дейтинговых приложениях, даже если мы не ходили на свидания последний год («а что если я пропущу ту красивую девушку, которой понравился?»);
Это заставляет нас использовать социальные медиа («что если я пропущу важную новость или выпаду из контекста и утрачу тему для разговора с друзьями?»).
Но если мы внимательно присмотримся к этим страхам, то увидим, что обречены: мы всегда пропускаем что-то важное каждый раз, когда откладываем смартфон.
В Facebook происходят волшебные вещи, пока мы не открываем приложения 76 раз в день (старый друг гостит неподалеку);
Мы упускаем прекрасные возможности в Tinder (романтического партнера нашей мечты);
Мы пропускаем срочные звонки, если не держим телефон в руке 24х7.
Но жить от момента к моменту под страхом упустить что-то – это не то, для чего мы созданы. Невероятно, как быстро мы пробуждаемся от этой иллюзии, как только отпускаем этот страх. Когда мы уходим в офлайн на день, отписываемся от уведомлений или идем в поход без связи, наши опасения не оправдываются. Мы не пропускаем того, чего не видим.
Мысль «а что, если я пропущу что-то важное?» тревожит нас до ухода в офлайн, не после. Представьте, если бы технологические компании поняли это и помогли нам проактивно строить дружеские и деловые отношения с точки зрения «хорошо проведенного времени», а не боязни что-то упустить.
👉🏻 Уловка №4: Социальное одобрение
Мы уязвимы к социальному одобрению. Необходимость поддержки и одобрения нашими сверстниками – одна из главных мотиваций человека. И сейчас она находится в руках технологических компаний. Когда меня тегает мой друг Марк, я думаю, что он сделал сознательный выбор. Но я не вижу, как компания вроде Facebook руководила его действиями во время этого выбора.
Facebook, Instagram или Snapchat могут манипулировать частотой упоминания людей на фотографиях, автоматически предлагая отметить те или иные лица (например, показывая сообщения «Отметить Тристана на этом фото?» с подтверждением в один клик). Поэтому, когда меня тегает Марк, он на самом деле отвечает на предложение Facebook, а не делает сознательный выбор. Благодаря такому подходу к дизайну, Facebook определяет, как часто миллионы людей получают социальное одобрение.
То же самое происходит, когда мы меняем фото профиля. Facebook знает, что в этот момент мы чувствительны к социальному одобрению («что думают мои друзья о новой аватарке?») Facebook может вывести сообщение о смене аватара вверх новостной ленты, чтобы оно дольше висело на виду и получило больше лайков и комментариев. И каждый раз, когда они делают это, мы по новой втягиваемся во все вышеописанное.
Каждый из нас врожденно реагирует на социальное одобрение, но некоторые слои населения более уязвимы, чем другие. Поэтому так важно понимать, сколько власти получают дизайнеры, когда используют подобные уязвимости.
👉🏻 Уловка №5: Социальная взаимность (Зуб за зуб)
Вы делаете мне услугу – в следующий раз помощь за мной.
Вы говорите «спасибо» – я должен ответить «пожалуйста».
Вы отправляете мне письмо – грубо не ответить вам.
Вы фолловите меня – грубо не ответить взаимностью (особенно для молодежи).
Мы уязвимы перед необходимостью отвечать другим. Но, как и с социальным одобрением, технологические компании манипулируют нашей взаимностью перед другими людьми. В некоторых моментах это происходит случайно. Электронная почта и мессенджеры – фабрики социальной взаимности. Но в других случаях компании намеренно используют эту уязвимость.
LinkedIn – самый откровенный злоумышленник. Он хочет, чтобы как можно больше людей создавали социальные обязательства друг перед другом, потому что каждый раз когда люди отвечают взаимностью (принимая предложение о знакомстве, отвечая на сообщение или подтверждая чей-то навык в ответ), они должны вернуться на linkedin.com .
Как и Facebook, LinkedIn использует асимметричность восприятия происходящего. Каждый раз, когда вы получаете запрос от кого-либо, вы думаете, что человек отправил вам его осознано, однако, скорее всего, он просто увидел вас в списке, который подсунула ему платформа. Иными словами, LinkedIn превращает ваши бессознательные импульсы (добавить человека в друзья) в новое социальное обязательство. Миллионы людей чувствуют необходимость отплатить взаимностью. А LinkedIn получает прямую выгоду от того, как много времени на это тратится.
Представьте себе миллионы людей, которые отрываются от работы, бегая как курицы с отрубленными головами, чтобы подтвердить заявки в друзья. И все это разработано компаниями, которые получают от этого выгоду.
Представьте, если бы у технологических компаний были обязанности минимизировать социальную взаимность. Или если бы существовала независимая организация, представляющая публичные интересы, которая бы отслеживала, когда компании злоупотребляют этими уязвимостями?
Читать далее: https://whatisgood.ru/raznoe/internet/tehnologii-na-s ..