Юзабилити-тестирование своими руками. Алгоритм юзабилити-тестирования. Анализ действий респондентов

Как выявить проблемы юзабилити на своем сайте? Можно отдать его на анализ эксперту, проверить по одному из множества чек-листов, часами всматриваться в видеоролики Вебвизора, а можно провести юзабилити-тестирование с реальными посетителями вашего сайта.

В статье я рассмотрю методику самостоятельного юзабилити-тестирования, которое не требует больших денежных затрат и доступно каждому владельцу сайта.

Что такое юзабилити-тестирование

Юзабилити-тестирование — это процесс наблюдения за тем, как люди пользуются вашим сайтом/продуктом с целью выявить проблемы взаимодействия.

Как это выглядит: приглашенным участникам тестирования предлагается решить тестовые задачи-сценарии на сайте и дать во время выполнения этих тестов свои комментарии.

Каким должно быть тестирование?

Те, кто хоть раз проводил юзабилити-тестирование, делятся на два воинствующих лагеря. Одни вторят Стиву Кругу, который утверждал, что даже один участник тестирования — это на 100 % лучше, чем полное их отсутствие. При этом им может быть кто-то из ваших знакомых, друзей или родственников.

А другие присоединяются к лагерю «профессионального тестирования», допускающего только целевую аудиторию по принципу «чем больше людей посмотрело сайт, тем больше выявлено проблем».

И те и другие правы.

Разумеется, если ваш сайт занимается продажей электротехнического оборудования профессионалам, тестирование на членах семьи и коллегах не даст такого результата, как полноценное тестирование несколькими сериями с участием электротехников, подобранных кадровым агентством. Но даже в этом случае «самостоятельное бытовое тестирование» тоже не будет лишним.

Вам подойдет самостоятельное тестирование, если:

• ваша аудитория неспецифична и разнородна,
• ваши тематики — бытовые: например, мебель для дома, косметика, детские товары, одежда, туризм и многое другое.
• нет ресурсов и времени на проведение полноценного тестирования, например, силами юзабилити-агентства.

Сколько участников нужно для тестирования?

Стив Круг утверждает, что для того, чтобы узнать впечатление о сайте, а также выявить серьезные проблемы с навигацией и структурой, достаточно 3—5 человек.

Защитники статистики, конечно, скажут о нерепрезентативности выборки и малом количестве данных и будут в общем-то правы. Но опыт даже полноценных серьезных юзабилити-тестирований показывает, что уже первые несколько тестируемых выявляют львиную долю существенных проблем.

С кем проводить тестирование?

По возможности старайтесь даже для самостоятельного тестирования подобрать людей, которые похожи на тех, кто мог бы пользоваться вашим сайтом. Самая простая сегментация — по половому признаку, возрасту.

Кого можно привлечь к мини-тестированию?

• Начните с себя любимого, если до сих пор этого не сделали.
• Обратитесь к коллегам (желательно привлечь сотрудников, не имеющих технических знаний в работе сайта, например, бухгалтерию).
• Проведите вечер в кругу семьи за тестированием сайта.
• Обратитесь к друзьям и друзьям друзей.

Если аудитория сайта специфическая, а провести бюджетное тестирование хочется, то очевидные недостатки вам помогут найти и члены семьи, а для выявления глубинных проблем можно поискать представителей вашей аудитории там, где они обычно водятся (например, на профильных форумах, в группах соцсетей), и предложить им принять участие в тестировании.

Привлекая людей к тестированию, помните, что они тратят свое время, и обязательно вознаграждайте их, даже если это ваша супруга или лучший друг. Для знакомых и коллег поощрением за тестирование может быть вкусное угощение, а для посторонних людей лучший стимул — деньги.

Составляем задания для тестирования

Итак, представим, что с тем, кто будет нашим подопытным, мы определились и договорились.

Следующий шаг — самый важный в тестировании. Это составление тестовых сценариев, которые будут выполнять наши тестируемые на сайте.

Зачем нужен сценарий, ведь можно просто попросить человека походить по сайту и сказать, нравится ему или нет? Практика показывает, что каков вопрос, таков и ответ. Задавая человеку неконкретный вопрос («Как вам сайт?»), вы получите такой же размытый ответ («Нормально…»). Поэтому нужно придумать определенные задания.

Первое, что нужно сделать, — это определить самые важные задачи, которые пользователи решают у вас на сайте (то есть, зачем они приходят). Мы всегда ограничены во времени и ресурсах, поэтому выбирать нужно:

• критичные конверсионные цепочки.

Если у вас сайт стоматологической клиники, то критичной задачей будет запись к врачу на прием. Катастрофа для владельца сайта, если это действие совершить невозможно или с ошибками и трудностями на пути.

• задачи, с решением которых у посетителей могут быть трудности: например, ваши опасения относительно непонятных названий пунктов меню, вложенности разделов и т. п.
• задачи, с которыми уже у посетителей есть проблемы. Для сбора информации посмотрите, с какими вопросами обращаются в службу поддержки сайта пользователи.

Все задачи должны быть реальными, т. е. выявленными из обычной деятельности пользователей: не поддавайтесь желанию сделать задания посложнее, чтобы найти разом много проблем, так как нет смысла искать проблемы, с которыми никто не сталкивается.

Итак, задачи мы сформулировали. Следующий шаг — превратить эти задачи в сюжетные сценарии.

Зачем? Психологические исследования показывают, что людям приятнее работать по сценарию, чем по инструкции.

Поясним разницу между задачей и сценарием на примере.

Задача: Записаться на прием к врачу.

Сценарий: У вас неожиданно разболелся зуб. Вы планируете после работы заехать в ближайшую поликлинику. Узнайте, успеете ли вы посетить врача сегодня, и запишитесь к нужному специалисту на прием.

Сценарий должен описывать реальные условия использования вашего сайта, наиболее частые возможные ситуации, типичных представителей вашей целевой аудитории, мотивацию их действий, чтобы помочь тестируемому вжиться в роль и почувствовать ситуацию как реальную. При этом не стоит давать лишней информации, которая может только запутать.

Задания должны быть сформулированы так, чтобы исключить их неправильное толкование. Если вас с самого начала поймут не так, получить хоть сколько-либо полезные данные будет невозможно.

Еще один важный момент — отсутствие подсказок . По тексту задания не должно быть понятно, как его нужно выполнять. Например, недопустимо использовать терминологию сайта — вместо каждого термина нужно расписывать его значение, иначе тестирование превратится в игру «найди слова из задания на сайте», и вы не выявите никаких проблем.

Рассмотрим примеры сценариев и их плюсы и минусы:

Пример 1

Зайдите в «Каталог продукции» и выберите «Дрели». Затем перейдите на страницу «О нас» и узнайте наш телефон.

Минусы: терминология сайта, формат пошаговой инструкции.

Пример 2

Вы умный и красивый мужчина 45 лет с двумя высшими образованиями, женились в 1988 году после окончания Самарского госуниверситета. Ваш друг позвал вас на свой юбилей в ресторан «Плакучая ива» в Химках. Вы задумались, что ему подарить, и зашли в интернет-магазин «Подарки.ру». Выберите подарок вашему другу на сумму 3000 рублей и узнайте, как его получить.

Плюсы: сценарий по реальной ситуации, однозначность, отсутствие терминов.

Минусы: слишком много лишних подробностей.

А теперь давайте попробуем создать задание для реального сайта.

Возьмем всем известный ресурс booking.com.

Основная задача посетителя сайта : выбрать и забронировать номер в отеле для предстоящего путешествия.

Тестовое задание: Вам неожиданно дали премию, и вы решили потратить ее на отдых на море с женой и дочкой 5 лет. Вы приобрели билеты на самолет в штат Гоа, Индия, с датами вылета 10—17 апреля.

К выбору жилья вы подходите основательно: вы планируете следить во время отпуска за своими делами в интернете, а ваша жена боится страшных историй о тараканах и антисанитарии в индийских гостиницах.

Вам необходимо выбрать, где вы проведете свой отдых в течение недели отпуска, и забронировать размещение на эти даты.

Итак, в задании мы проверим, как посетители выбирают даты заезда, место, кол-во проживающих, а дополнительные условия (ребенок, отель с интернетом, звездность отеля) позволят увидеть, как пользователь взаимодействует с фильтрами при поиске. Задание не включает термины с сайта — однозначно, информации хватает для выполнения сценария.

Проведение тестирования

Задания составлены. Распечатываем их на отдельных карточках и пробуем выполнить сами для проверки.

Затем необходимо подготовить помещение для тестирования. Если вы будете тестировать только знакомых или членов семьи, а затем самостоятельно устранять обнаруженные проблемы, то достаточно отдельной комнаты с ноутбуком. Но для удобства последующего анализа действий респондентов, а также для получения аргументов необходимости изменений на сайте (например, если вы работаете над конверсией ресурса, а не являетесь владельцем бизнеса), можно установить на ноутбук программу записи содержимого экрана, чтобы потом в формате видеороликов просматривать повтор и слушать комментарии тестируемых. В таком случае пригодится и микрофон для получения более качественного звука.

Стоит учесть, что внимание человека начинает рассеиваться при длительном выполнении одной и той же деятельности, поэтому рассчитывайте на одного тестируемого не больше получаса.

Попросите участников тестирования активно комментировать вслух свои действия на сайте, высказывать свои эмоции и мысли. Постарайтесь разговорить тестируемого, спрашивайте, что он ожидал увидеть, что он подумал, особенно если видите замедления при выполнении вашего сценария.

Анализ результатов

Итак, тестирование проведено, и у нас на руках часы видеозаписей действий пользователей на нашем сайте с комментариями. Что дальше? Многие видеозаписи вызывают только одно желание — сделать новый сайт. Но не спешите отчаиваться, а правильно проанализируйте действия респондентов, ведь не каждая ошибка тестируемого свидетельствует о том, что сайт безнадежно плох.

Выделяйте самые серьезные проблемы, которые требуют немедленного разрешения.

Если процент людей, обнаруживших проблему, высок, а степень причиняемого ею неудобства критична, то такая проблема серьезна и требует изменений на сайте.

Выделяйте из слов респондентов потребности, а не готовые решения.

Очень часто тестируемые считают необходимым дать вам несколько советов и пожеланий («…а вот здесь бы сделать раздел с дипломами и сертификатами…»). Постарайтесь увидеть проблему, а не руководство к изменению на сайте, ведь подобные пожелания являются признаком потребности в чем-то. Возможно, в данном случае посетителю не хватило доверия к сайту. А еще лучше переспросить у респондента, чем подобный раздел может ему помочь.

Выводы

Сколько бы ни было написано статей о юзабилити, неудобных сайтов с ошибками проектирования меньше не становится. Взгляд владельца ресурса зачастую замылен, ведь мы настолько свыклись с проблемами на нашем сайте, что для нас они становятся неочевидны. Но другие люди не знают, как работает наш ресурс, и могут взглянуть на него непредвзято.

Самостоятельное тестирование совсем не трудно провести и в «домашних условиях» с небольшими затратами денег и времени. Попробуйте и убедитесь, какую пользу оно может принести вашему сайту.

Важно: статья появилась еще 10 лет назад (дата сверху это не дата написания, а дата последней редакции). Статья ужасно устарела и мы не убираем ее вовсе потому, что по непонятной причине на русском языке за эти годы никто не написал лучше и новее.

Юзабилити-тестирование появилось в крайне бюрократизированных областях - в военной промышленности и сфере рискованного гражданского производства (самолеты, электростанции и т.п.). Как следствие, юзабилити-тестирование само было чрезвычайно бюрократизировано - нужно было не просто найти проблему, но, что было даже более важно, доказать, что эта проблема действительно существует. Кроме того, юзабилити-тестирование наследовало приемы и правила научных исследований, в которых не просто важно обнаружить феномен, но также нужно убедиться, что он не является следствием посторонних обстоятельств. Из-за вынужденного усложнения процесса тестированием занимались целые команды узких специалистов: один пишет тестовые задания, другой собственно тестирует, третий данные анализирует, а еще один подтаскивает и оттаскивает респондентов.

Легко понять, что такое тестирование, при всех своих достоинствах, очень уж длительно и неприемлемо дорого.

В последние годы ситуация начала меняться: вместо крайне формальных и крайне же дорогих тестов популярными становятся тесты неформальные и дешевые. Вместо небольшой толпы с кучей дорогого оборудования на первый план выходит единственный человек с минимум вещей. Квинтэссенция такого подхода описана в книге Веб-дизайн: книга Стива Круга или «не заставляйте меня думать!» .

Конечно, простые тесты не универсальны. Для приборной панели самолета, они, пожалуй, не подойдут. Но для обычного ПО простые тесты гораздо лучше, хотя бы потому, что их можно провести больше.

Здесь вы научитесь проводить юзабилити-тестирование, используя как раз методики быстрого тестирования. Более сложные и более формальные методы вы сможете почерпнуть в специализированной литературе или же изобрести самостоятельно.

Что такое юзабилити-тестирование

Юзабилити-тестированием является любой эксперимент, направленный на измерение качества интерфейса или же поиск конкретных проблем в нем.

Польза юзабилити-тестирования многогранна. Тестирование позволяет:

• Понять, насколько плохо или хорошо работает интерфейс, что может либо побудить улучшить его, либо, если он уже достаточно хорош, успокоиться; в любом случае достигается польза.
• Сравнить качество старого и нового интерфейсов и тем самым дать обоснование изменениям или внедрению.
• Найти и опознать проблематичные фрагменты интерфейса, а при достаточном объеме выборки также и оценить их частотность.

В то же время юзабилити-тестирование не может сделать из плохого продукта продукт хороший; оно всего лишь делает продукт лучше.

Первое тестирование крупных систем всегда показывает, что интерфейс работает гораздо хуже, чем думает его владелец или создатель, и гораздо лучше, чем изначально уверен тестер.

Почему по дешевке

Резко снизить трудоемкость, а значит, и себестоимость юзабилити-тестирования позволяют три подхода:

1. Некоторое упрощение понятие юзабилити.
2. Отказ от сбора количественных данных.
3. Снижение стоимости оборудования и уменьшение оплаты времени респондентов.

Третий подход заключается в использовании только мобильных лабораторий, что подробно описано в разделе . Оставшиеся два подхода описаны ниже.

Effectiveness и efficiency

В главной и наиболее употребимой трактовке (стандарт ISO 9241–11) понятие юзабилити определяется как

The extent to which a product can be used by specified users to achieve specified goals with effectiveness, efficiency and satisfaction in a specified context of use.

Мой перевод этой формулировки на русский язык:

Cтепень эффективности*, трудоемкости** и удовлетворенности, с которыми продукт может быть использован определенными пользователями при определенном контексте использования для достижения определенных целей.

* Например, скорость работы или количество человеческих ошибок и длительность их исправления.

** Например, количество операций, которые нужно выполнить для достижения результата или объем информации, которую нужно переработать для принятия решения. Термин efficiency до сих пор часто переводят на русский как продуктивность ; на мой взгляд, это грубая ошибка, поскольку в оригинальном стандарте ISO 9241–11 под efficiency понимается нечто близкое к понятию КПД.

Главными показателями эффективности являются скорость работы пользователя, скорость обучения и количество человеческих ошибок (более детальный список метрик см. в разделе ). Это нужные показатели, еще как влияющие на дизайн. Что приятно, измерять их не особо проблематично.

C показателями трудоемкости все несколько сложнее. В эту группу входят:

• Успешность, т.е. соотношение выполненных тестовых заданий к невыполненным или выполненным полностью неправильно.
• Мощность, т.е. соотношение задач из деятельности пользователя к задачам, для решения которых данный продукт предназначен.
• Нагрузка на пользователя (как ментальная нагрузка, так и, к примеру, количество действий пользователя на тестовое задание).

Проблемы здесь две. Мощность - вообще не измеряемый показатель (большая или меньшая мощность продукта есть целиком и полностью вопрос дизайна). Нагрузка же на пользователя либо тяжело измеряется, либо неактуальна, поскольку все равно проявляется в показателях эффективности - при интенсивной нагрузке снижается скорость работы. Таким образом, от всех показателей трудоемкости на практике остается только успешность.

В этом упрощении нет ничего крамольного. В реальном тестировании все равно никогда не собирается весь набор показателей - как-никак для каждой конкретной системы важны только некоторые из них. Однако принципиальное последствие данного упрощения формулировки - значительное упрощение методологии юзабилити-тестирования - не может быть достигнуто никаким другим способом.

Cтепень эффективности, успешности и удовлетворенности, с которыми продукт может быть использован определенными пользователями при определенном контексте использования для достижения определенных целей.

Нет количеству!

Вторая возможность снизить трудоемкость юзабилити-тестирования - отказ от сбора большей части количественных данных. Делается это по двум причинам:

• Каждый конкретный тест может быть направлен либо на получение количественных данных, либо качественных данных. Качественные данные, как правило, более востребованы при дизайне, поэтому тест лучше планировать именно в расчете на них.
• Количественные данные все равно получаются ненадежными. Их можно измерить надежно, но дело это чрезвычайно трудоемкое.

Качество или количество?

Юзабилити-тестирование может быть направлено либо на получение количественных данных (нужных для измерения эргономичности интерфейса), либо на получение данных качественных (нужных для того, чтобы понять, что именно плохо и как это исправить). Как правило, в едином тесте достичь обеих целей не получается.

Предположим, мы измеряем скорость работы с системой. В этом случае тест должен быть спланирован таким образом, чтобы исключать любые несвойственные реальной работе замедления пользователя. Например, когда пользователь совершит ошибку, не получится задать ему никаких вопросов, чтобы выявить причины этой ошибки. С другой стороны, если ориентироваться на качественные данные, все количественные результаты окажутся сомнительными.

На самом деле количественные данные есть вообще роскошь юзабилити, поскольку они более приятны, нежели реально нужны. Нужнее динамика, т.е. степень изменения этих данных, что сильно облегчает жизнь. Неважно, насколько точно посчитаны ошибки - если до и после оптимизации интерфейса они подсчитывались одинаково, динамика, по-видимому, оказывается верной. Например, если при подсчете число человеческих ошибок сократилось вдвое, можно рассчитывать (только не просите меня обосновать это суждение), что их действительно стало вдвое меньше, хотя нельзя точно сказать, сколько их было и сколько их стало в действительности.

Ненадежные цифры

Кроме того, рассмотрения заслуживает вопрос, верить ли результатам юзабилити-тестирования вообще. В конце концов, тестирование это не волшебство, так что, предположив, что тестирование может быть плохим, необходимо прийти к выводу, что плохими могут быть и его результаты.

Ответ на этот вопрос прост и печален - оснований верить в результаты юзабилити-тестирования нет вовсе.

В самом деле, несмотря на то, что при юзабилити-тестировании на входе у нас совершенно реальные данные, наш неизбежный волюнтаризм не позволяет в полной мере им доверять. Слишком уж много у нас потенциальных источников ошибок:

• Реальные пользователи могут отличаться от выбранных нами респондентов. В условиях маленькой выборки даже незначительная флуктуация в поведении респондентов может привести юзабилити-специалиста к ложным выводам.
• Тестовые задания могут неадекватно отражать реальную деятельность пользователей в системе.
• Юзабилити-специалист может не заметить части проблем или неправильно понять сущность замеченных проблем.

Рольф Молич (Rolf Molich) регулярно проводит сравнительное тестирование самого юзабилити-тестирования (en). Результаты шокирующие. Так, во втором тесте, в котором девять групп юзабилити-специалистов самого разного уровня тестировали службу HotMail, разброс результатов был очень велик, даром, что тестовые задания были идентичны. Все группы нашли в общей сложности 310 проблем с интерфейсом. Но три четверти процентов проблем были найдены только какой-либо одной группой и не найдены остальными группами (в эти проценты входят и двадцать девять действительно серьезных проблем).

В целом, юзабилити-тестирование может быть научным исследованием, к которому вполне применимы все требования к научным исследованиям вообще.

К примеру, сравним юзабилити-тестирование с социологическим исследованием. Социолог предпринимает специальные меры, замечу - сложные и трудоемкие - чтобы обеспечить корректность выбора респондентов. Мы - нет. Социолог пользуется проверенными, корректными со статистической точки зрения, инструментами, как при сборе данных, так и при их анализе. Мы - нет.

Так что всякий раз, когда мы пытаемся что-либо измерить точно, мы ошибаемся. Когда мы даже и не пытаемся добиться точности, мы тоже ошибаемся, разве что не так сильно, поскольку планка уже занижена почти до пола.

Что это значит конкретно? Мы, как правило, не можем с уверенностью сказать, к примеру, что мы изъяли из интерфейса все причины человеческих ошибок. Просто потому, что с другими, возможно, более корректно подобранными респондентами, мы - опять возможно - нашли бы больше ошибок. Это же соображение верно и для остальных показателей качества интерфейса и уж тем более верно для других тестовых заданий. А что было бы, если бы тестирование планировал и проводил кто-то более опытный, чем мы! И представить страшно.

Таким образом, мы должны замерять эргономические показатели лишь для сравнения с новым интерфейсом, сознавая при этом, что наши измерения ни в коей мере не верны. Нужны они только для планирования ближайших оптимизаций. С уверенностью можно сказать только одно - независимо от того, сколько мы тестируем, резерв улучшения есть всегда. Как резерв улучшения самого интерфейса, так и наших методик его тестирования.

Зачем все-таки нужны цифры

Разругав количественные данные, как неинтересные и ненадежные, я не могу не указать их истинного предназначения. Количественные данные абсолютно необходимы при сравнительном юзабилити-тестировании. Если есть несколько решений, из которых нужно выбрать лучшее - количественным данным просто нет альтернативы, собирать их надо обязательно и нужно принять все возможные меры, чтобы обеспечить их надежность (тем более что при сравнительном юзабилити-тестировании качественные данные вовсе не нужны). Однако сравнительное тестирование - редкость, соответственно, здесь эта тема вовсе не рассматривается. Если вам понадобится провести сравнительное тестирование, обращайтесь к .

Что именно измерять?

Количество измеряемых показателей в конкретном тесте может быть довольно велико, но все они, как правило, сводятся к набору из пяти базовых характеристик. Ниже приведен список этих характеристик с примерами метрик, созданных на их основе.

• Скорость работы пользователя. Метрики: длительность выполнения операции; время, затраченное на обнаружение ошибок; время, затраченное на исправление ошибок; количество команд, исполняемых при выполнении операции (подразумевается, что чем больше команд, тем дольше их отдавать); длительность поиска сведений в документации; количество команд, более эффективных, чем использованные пользователем; снижение производительности при длительной работе.
• Ошибки. Метрики: процент операций, вызвавших ошибку; среднее число ошибок на операцию у опытных пользователей (именно у опытных, т.к. у неопытных могут действовать и факторы из группы скорости обучения); количество ошибок, не обнаруженных и не исправленных пользователями.
• Обучаемость навыкам работы с системой. Метрики: количество и частота обращений к справочной системе; длительность периода между началом использования системы и точкой, в которой скорость работы/количество ошибок пользователей перестает расти; разница в количестве ошибок/скорости работы у пользователей с опытом использования системы и без такого опыта.
• Субъективная удовлетворенность пользователя. Измерение этой характеристики сопряжено с определенными трудностями, заслуживающими отдельного рассмотрения. Метрики этого свойства см. ниже.
• Сохранение навыков работы с системой. Метрики: разница в скорости работы/количестве ошибок у пользователя после часа работы с системой и у того же пользователя в начале использования системы после длительного перерыва.

Как видно, измерение качества интерфейса может быть довольно сложным, так, например, тест сохранения навыков может занять больше месяца. Но это только тесты на вторую и третью составляющие юзабилити, а именно на эффективность и удовлетворенность. Помимо них есть еще и успешность, которая более важна и которую измерить гораздо проще - нужно всего лишь подсчитать, какой процент заданий пользователь либо выполняет полностью неправильно, либо не может выполнить вовсе. Это сильно упрощает жизнь юзабилиста.

Насколько глубоко удовлетворение?

В отличие от прочих характеристик, удовлетворенность находится не в реальном мире, а в голове у пользователя. Как следствие, ее невозможно «пощупать», а значит, и объективно измерить. Но, по крайней мере, ее можно измерить опосредованно.

Существует два возможных направления действий. Во-первых, респондента можно спросить, насколько интерфейс кажется ему удовлетворительным. Во-вторых, по поведению респондента можно определить, нравится или не нравится ему интерфейс в любой конкретный момент времени; подсчитав количество проявленных реакций, можно оценить удовлетворенность. Разумеется, эти оценки относительны; их ценность проявляется только в сравнении с новым интерфейсом или в сравнении с конкурентами.

Ниже приведены некоторые методы измерения удовлетворенности.

Анкетирование

Если пытаться определить удовлетворенность через опрос респондентов, не обойтись без формальных анкет. В самом деле, если формат опроса не фиксирован, не может быть уверенности, что респондентам задан один и тот же вопрос, а значит, и ответы становятся сомнительными.

К сожалению, анкетирование имеет в российских условиях крупный недостаток - надежных анкет просто не существует. Несмотря на то, что в странах загнивающего Запада создано множество вполне работоспособных анкет (SUMI , QUIS ,MUMMS , IsoMetrics и др.), ни одна из них не переведена на русский язык и не протестирована заново. В результате эти анкеты, будучи, кстати сказать, весьма дорогими, ничем не надежней любых анкет, которые вы можете придумать самостоятельно.

К сожалению, разработка и тестирование надежных анкет является очень долгими трудоемким процессом, так что рассчитывать на скорое появление качественных отечественных анкет не приходится.

Ниже приводятся две работоспособные, хотя и ненадежные, анкеты.

Анкета по словам

Впервые эту анкету предложили исследователи из Microsoft Usability Laboratory как способ очень быстро, пускай и заведомо ненадежно, оценить удовлетворенность. Анкета очень проста. Респонденту предъявляется лист бумаги с набором случайно подобранных прилагательных, одна половина которых скорее позитивна, вторая - негативна. Респонденту предлагается подчеркнуть слова, которые, на его взгляд, применимы к продукту (сходство анкеты с анкетами, использующимися в методике семантического дифференциала, не значимо - это совершенно разные методы). После того, как анкета заполнена, подсчитывается разница между числом негативных и позитивных терминов.

Я использую следующий набор прилагательных:

Устаревший - Эффективный - Нечеткий - Неудобный - Замусоренный - Тусклый - Яркий - Чистый - Прямой - Ясный - Непоследовательный - Неуправляемый - Привлекательный - Стандартный - Управляемый - Хороший - Интуитивный - Веселый - Любительский - Неэффективный - Опасный - Скучный - Радостный - Безопасный - Жесткий - Раздражающий - Треугольный - Неприятный - Комфортабельный - Холодный - Умный - Бесполезный - Халтурный - Теплый - Светлый - Последовательный - Загадочный - Качественный - Интересный - Ненадежный - Гибкий - Красивый - Некрасивый - Непривлекательный - Полезный - Глупый - Запутанный - Удобный - Понятный - Непредсказуемый - Четкий - Тяжелый - Современный - Легкий - Дружественный - Нестандартный - Плохой - Надежный - Сложный - Простой - Темный - Профессиональный - Медленный - Круглый - Печальный - Недружественный - Предсказуемый - Непонятный - Быстрый - Головоломный - Грустный - Приятный

Обратите внимание, что слова неслучайно даны вперемешку, именно так и нужно предъявлять их респондентам.

Формальная анкета

В отличие от анкеты по словам, эта анкета не может быть использована без адаптации под конкретный проект. Часть ее вопросов порой неактуальна, порой нуждается в смене формулировки. В любом случае, для респондентов-женщин нужно менять половую принадлежность формулировок анкеты.

Анкета представляет собой несколько вопросов, для каждого из которых респондент может выбрать один из пяти вариантов ответа. Обратите внимание, что я проектировал эту анкету только как пост-тестовую, ее применение в другом качестве сомнительно.

Вопросы анкеты:

Во время выполнения заданий я ошибался Нет/Да

Система способна делать все, что мне нужно и даже больше Нет/Да Система работает достаточно быстро Нет/Да

Мне нравится внешний вид интерфейса Нет/Да

Я чувствую, что если я лучше изучу систему, я смогу делать в ней вещи, о которых сейчас даже и не подозреваю Нет/Да

Систему можно легко настроить под мои нужды Нет/Да

Начать работу было легко; я не столкнулся с существенными трудностями Нет/Да

Всякий раз, когда я ошибался, я с легкостью замечал и исправлял свою ошибку Нет/Да

Я доволен своей скоростью работы Нет/Да

Во время выполнения заданий я чувствовал себя вполне уверенно Нет/Да

В любой момент времени я понимал, что должен сделать дальше Нет/Да

Система представляется мне полезной, я бы с удовольствием использовал бы её для решения моих задач Нет/Да

Результаты нужно подсчитывать по следующему алгоритму: центральное значение дает ноль баллов, крайние значения дают либо –2 балла (левый вариант ответа), либо +2 балла (правый вариант), промежуточные значения либо –1 либо, +1 балл соответственно. Сумма баллов является сравниваемым значением.

Наблюдение за эмоциональными реакциями

Помимо анкетирования можно подсчитывать эмоциональные реакции респондента. К примеру, респондент улыбнулся - ставим плюс, ругнулся или поморщился - ставим минус. Количество и знак реакций и составляет искомую величину показателя.

Проблемы есть и с этим методом.

Во-первых, непонятно, как подсчитывать реакции разной силы. Сколько раз респондент должен улыбнуться, чтобы уравновесить восемь секунд отборной брани? А девять секунд брани?

Во-вторых, подсчитывать реакции всех респондентов должен один и тот же человек, поскольку нескольким людям невозможно синхронизировать свои представления о том, что, собственно, входит в понятие эмоциональной реакции. В результате сильно возрастает ресурсоемкость теста.

Не связывайтесь с этим тестом, если хоть чуть-чуть не уверены в своей способности улавливать эмоции других людей (например, если вы Эм, а не Жо).

Вторую проблему составляет неопределенность теста. Наблюдается только операциональная удовлетворенность, сиречь удовольствие, а воспринимаемая удовлетворенность, почти всегда более важная, остается за кадром.

Что нужно для тестирования

Теперь, когда принципиальные вопросы в целом разобраны, можно переходить и к практике. Начать стоит с перечня того, что нужно собрать в одном месте для проведения юзабилити-тестирования (ниже эти пункты будут описаны более подробно). Итак, что нам нужно:

• респонденты
• метод тестирования
• тестовые сценарии
• рабочее место для теста и отлаженный метод фиксации материала
• протестированный тест.

Респонденты

При выборе респондентов для тестирования сначала удобно определить общие требования к респондентам, а уж потом подбирать респондентов из целевой аудитории, пользуясь сформированными требованиями.

Учтите, что выбор респондентов, не входящих в целевую аудиторию, гораздо более опасен, чем кажется на первый взгляд. Вы либо выявите несуществующие проблемы, либо не выявите существующие. В худшем случае вы настолько упростите интерфейс, что им будет тяжело пользоваться даже среднеопытным пользователям, которых на самом деле большинство.

Общие требования к респондентам

Первый пункт - нужен ли респондентам опыт работы с системой. Общее правило: если оптимизируется интерфейс существующей системы, половина респондентов должна иметь опыт работы (на них можно определить проблемы переучивания при внедрении), а половина нет (на них определяется скорость обучения). Если существуют конкурирующие системы, лучше другая пропорция: треть с опытом работы с предыдущей версией, другая треть - с опытом использования конкурирующих систем, оставшаяся треть - без опыта работы с системой.

Второй пункт - уровень компьютерной грамотности. При прочих равных предпочтительным выбором является реальный, т.е. совпадающий с опытом целевой аудитории, уровень у трех четвертей респондентов и низкий уровень - у оставшейся четверти (на ней можно определить большее количество проблем).

Уровень компьютерной грамотности удобно определять по следующей шкале:

1. Высокий. Респондент имеет компьютер на работе и дома, большая часть трудовой деятельности выполняется на компьютере, респондент самостоятельно использует компьютер как средство саморазвития, активно пользуется сервисами в интернете (например, регулярно покупает товары и услуги в онлайновых магазинах).
2. Выше среднего. Респондент имеет компьютер на работе и дома, большая часть трудовой деятельности выполняется на компьютере, но респондент не использует компьютер для решения задач, выходящих за пределы его основной деятельности (работает на компьютере «от звонка до звонка» и не больше).
3. Средний. Работа с компьютером является частью обычной (трудовой или личной) деятельности в течение двух лет или больше.
4. Низкий. Либо на работе, либо дома есть компьютер, но опыт работы с компьютером не превышает двух лет и компьютер не является значимым инструментом в работе.
5. Очень низкий. Опыт использования компьютера спорадический, по длительности не превышает трех лет. Компьютер не используется ни на работе, ни дома.

На третьем месте стоит возраст. Оптимальная пропорция: три четверти респондентов имеет возраст целевой аудитории системы, оставшаяся четверть старше (на ней можно определить большее количество проблем).

Меньшее влияние на результаты имеет пол респондентов - но это не значит, что подбирать респондентов корректного пола необязательно. Стоит увеличить количество женщин среди респондентов по сравнению с пропорцией в целевой аудитории, поскольку на женщинах легче определять проблемы при внедрении (женщины, в целом, медленнее обучаются, но, обучившись, лучше работают).

Последняя значимая характеристика - уровень эмоциональной открытости респондентов. Чем более скован респондент, тем меньше он способен сказать вам ценного. Даже определив наличие проблемы, вы не сможете добиться от него никакой информации о том, что эту проблему вызвало. Существует прекрасный способ решить проблему недостаточной эмоциональной открытости - стоит иметь базу респондентов и использовать их повторно. Респондент, уже знающий на опыте, что в юзабилити-тестировании нет ничего страшного, значительно охотнее идет на контакт и вообще более разговорчив.

Наконец, когда желаемые для теста свойства пользователей уже определены, пришло время подобрать таких респондентов, которые не только удовлетворяют вышеперечисленным требованиям, но и входят в целевую аудиторию системы.

Сколько нужно респондентов

В 1992 году Роберт Вирзи (Robert Virzi) в статье Refining the test phase of usability evaluation: how many subjects is enough? предположил, что для теста достаточно пяти респондентов. Через год эстафету приняли Якоб Нильсен и Томас Ландауэр (Jakob Nielsen и Thomas K. Landauer) со статьей A mathematical model of the finding of usability problems, в которой утверждали, что пяти респондентов достаточно для того, чтобы выловить 70% проблем и еще три респондента нужны для того, чтобы довести результативность до 85%.

Юзабилити-сообщество полюбило эти цифры всей душой. С тех пор фраза «5–8 респондентов» стала чуть ли не мантрой. Увы, эта мантра ложна.

Во-первых, все три автора писали только о тестировании маленьких систем. Что делать, если система слишком велика, чтобы можно было уместить тест на каждом респонденте в полтора часа (это максимум, который может выдержать человек, как респондент, так и экспериментатор; гораздо лучше тесты по 40 минут). В этом случае придется выполнять несколько разных тестов на разных респондентах; без этого охватить весь интерфейс системы окажется попросту невозможно. Сколько респондентов при этом понадобится - зависит от системы, четких градаций тут быть не может. Так, для тестирования крупного корпоративного сайта, по-хорошему, нужно человек двадцать несколькими сериями по 5 человек.

Во-вторых, восемь человек - это слишком мало, чтобы говорить хотя бы о какой-нибудь точности измерения эргономических характеристик. Для измерения нужно хотя бы человек двенадцать.

В-третьих, в восемь человек не вместить ни гендерное, ни возрастное, ни какое-либо другое разнообразие респондентов. Если нужно протестировать интерфейс, рассчитанный на несколько четких групп аудитории, каждая группа должна получить свои пять-восемь респондентов.

С другой стороны, всё-таки первые несколько респондентов позволяют выявить львиную долю проблем. Посему единственным реально возможным выходом является тестирование сериями: первая серия проходит, выявленные проблемы решаются, затем вторая серия, проблемы решаются опять и так далее. Если в первой серии использовать респондентов всех типов, остальные серии можно будет безбоязненно прервать, когда количество выявляемых данных сильно упадет. Первая серия при этом должна быть побольше, остальные поменьше.

Организационные вопросы

Помимо собственно требований к респондентам, открытым остается вопрос: как убедить потенциального респондента участвовать в тестировании?

Если вы проектируете интерфейс на заказ, старайтесь переложить поиск респондентов на заказчика. Почти всегда у системы есть реальные или потенциальные пользователи, с которым у заказчика сложились особые отношения и которые - что приятно - особо заинтересованы в новом интерфейсе, отчего весьма коммуникабельны.

Если вы проектируете интерфейс для системы с широкой (обычной) целевой аудитории, не пренебрегайте своими близкими. Они и коммуникабельны и легко доступны.

Многие компании по подбору персонала занимаются подбором респондентов для фокус-групп, соответственно, они могут подобрать респондентов и для юзабилити-тестирования. К сожалению, фокус-группа является разовым, сравнительно непродолжительным мероприятием. Юзабилити-тестирование потребует назначать встречи с респондентами поочередно, по одному человеку за раз, что сильно утяжеляет процесс.

Ведите базу людей, которых вы уже использовали для тестирования. Как правило, с ними легче договориться, чем с теми, кто не имеет опыта участия в тестировании.

Договариваясь с респондентом о встрече, проявляйте максимальную гибкость и податливость. Респондент, даже если его время оплачивается, делает вам одолжение, соглашаясь участвовать в тестировании.

Если респондента нашли вы сами, даже если это ваш друг или родственник, он должен быть вознагражден за затраченное им время (можно обойтись без вознаграждения, если респонденты предоставлены заказчиком интерфейса, если же вы воспользовались услугами служб подбора персонала, вознаграждение нужно обсуждать с представителем службы). Для неспецифической аудитории лучшим стимулом являются деньги - оптимальной суммой оплаты является удвоенная часовая ставка конкретного респондента с учетом времени, которое респондент затратил на дорогу. Для специфической аудитории часто нужны очень большие суммы вознаграждений, в таких условиях респондентов разумно вознаграждать ценными подарками, на которые можно получить крупную оптовую скидку (лично я предпочитаю использовать дорогой алкоголь).

Методы тестирования

Основных методов юзабилити-тестирования всего три: пассивное наблюдение за выполнением тестовых заданий, поток сознания и активное вмешательство; первый предназначен для сбора количественных данных, последний - качественных:

• Пассивное наблюдение за выполнением тестовых заданий. Сущность метода очень проста: респондент выполняет тестовые задания, его действия анализируются (во время теста или после, по протоколам), что позволяет как найти проблематичные фрагменты, так и замерить эргономические характеристики интерфейса.
• Поток сознания (think aloud). Соответствует проверке посредством пассивного наблюдения, но респондента при этом просят также устно комментировать свои действия. Затем комментарии анализируются. Метод довольно нестабильный, но порой дающий интересные результаты (очень зависит от разговорчивости респондента). Крупный минус потока сознания - измерения эргономических характеристик интерфейса весьма сомнительны.
• Активное вмешательство. В этом методе юзабилити-специалист не ждет милостей от природы в лице респондента, а старается взять их сам. После каждого действия респондента экспериментатор выспрашивает его, почему респондент действует именно так; на каждом экране экспериментатор спрашивает, как именно респондент понимает назначение и функции этого экрана. Этот метод ближе к фокусированному интервью, чем к собственно тестированию - например, метод можно использовать даже без тестовых заданий, лишь бы был интерфейс для обсуждения. Понятно, что при активном вмешательстве никакие измерения попросту невозможны, но зато объем получаемых качественных данных наиболее велик.

Тестовые сценарии

Тестовый сценарий - это тестируемый аспект системы. На мой взгляд, адекватно подобранные тестовые сценарии являются важнейшей предпосылкой качества тестирования.

Сценарии состоят из пользовательской задачи и сопутствующих ей:

• значимых эргономических метрик
• тестовых заданий респондентам (заданий может быть несколько)
• признаков успешности выполнения задачи.

Разберем их подробно.

Пользовательская задача

Первым шагом определения сценариев является определение значимых пользовательских задач. Эти задачи - исходный материал для составления сценариев.

Что такое пользовательская задача? Это задача, которую ставит перед пользователями их деятельность, и которая имеет самостоятельную ценность для пользователей. Пользовательская задача выполняется как одна или несколько операций (пользовательская операция не имеет самостоятельной ценности). Например, для программы-почтового клиента задачами являются:

• написание и отправка письма
• прием сообщений с сервера
• настройка программы под свои нужды (например, настройка автоматического приема почты через заданные интервалы).

А вот выбор адресата из адресной книжки при написании нового письма уже не является задачей, потому что это действие не самоценно. Это операция, состоящая из многих действий (нажать на кнопку Кому… > выбрать контакт > подтвердить выбор).

При выборе задач для тестирования следует руководствоваться двумя соображениями:

• Все задачи должны быть реальными, т.е. выявленными из актуальной деятельности пользователей: желание сделать задания посложнее, чтобы найти разом много проблем, несостоятельно - задания должны быть обычными, поскольку нет смысла искать проблемы, с которыми никто не сталкивается.
• Поскольку протестировать весь интерфейс на всех пользовательских задачах возможно только в идеале, приходится ограничивать себя и выбирать только важные задачи. Важными задачами являются, во-первых, частотные задачи, т.е. которые выполняются всеми пользователями и/или выполняются часто, во-вторых, все остальные задачи, которые, как вы подозреваете, выполняются в системе плохо и, наконец, задачи, неправильное выполнение которых приводит к крупным проблемам.

Значимые эргономические метрики задачи

Для каждой задачи нужно выбрать значимые для нее характеристики интерфейса. Конечно, в нашем распоряжении есть метрики из раздела «Что именно измерять». Однако эти метрики неудобны: их трудно измерять и трудно понять (правда, их легче сравнивать). С практической точки зрения гораздо удобнее более приземленные характеристики.

Например, можно посчитать число человеческих ошибок. Но влияние этой метрики на интегральный результат настолько сложно, что все равно при анализе не обойтись без элементов волюнтаризма и субъективизма. Гораздо проще определить влияние тех же ошибок сразу же, еще до теста, например, установив значимой интерфейсной характеристикой «Пользователь способен установить программу менее чем за пять минут, совершив при этом не более двух незначительных ошибок» (где под незначительной ошибкой подразумевается ошибка, которую сам пользователь заметил и исправил). Разумеется, произвола в таком требовании много. Но его все равно меньше, чем в сомнительных спекуляциях о числе выявленных человеческих ошибок. Таким образом, «приземленные» метрики удобнее метрик универсальных.

Кроме того, простые декларативные метрики удобны еще и тем, что позволяют понять, когда нужно продолжать оптимизацию интерфейса, а когда можно и остановиться. Возвращаясь к примеру из предыдущего абзаца, можно сказать, что оптимизировать интерфейс нужно до тех пор, пока установка не станет занимать меньше пяти минут. Если после оптимизации интерфейса программа устанавливается за шесть минут, это повод еще раз модифицировать интерфейс и протестировать его заново.

Вот примеры таких метрик:

• Успешность - респонденты правильно выполняют 90% заданий.
• Эффективность - скорость работы пользователя: регистрация на сайте выполняется меньше чем за 7 минут.
• Эффективность - ошибки: при вводе 10 форм количество ошибок ввода не превышает двух.
• Эффективность - обучаемость навыкам работы с системой: при выполнении задания 9, отличающегося от задания 2 только вводимыми данными, респонденты не совершают ни одной ошибки (не считая опечаток).
• Удовлетворенность - по результатам анкетирования число баллов выросло на 20% по сравнению с прежними результатами.

Тестовые задания

Тестовое задание - это то, что получает от вас респондент, задание, позволяющее провести респондента через фрагмент интерфейса системы и определить характеристики этого фрагмента.

Тестовые задания, помимо того, что должны соответствовать пользовательским задачам, должны обладать еще и следующими свойствами:

• Однозначность. Задания должны быть сформулированы так, чтобы исключить их неправильное толкование респондентом. Если респондент поймет задание неправильно, вам почти наверняка не удастся походу теста направить его на правильный путь, не подсказав ему одновременно последовательности выполнения задания.
• Полнота. В тексте задания должна присутствовать вся информация, необходимая для выполнения этого задания.
• Краткость. Если вы замеряете скорость выполнения заданий, задания должны быть достаточно краткими, чтобы длительность чтения заданий респондентами не влияла на продолжительность выполнения самих заданий (люди читают с разной скоростью). Если текст задания будет велик по объему, вам придется вручную отсекать длительность чтения для каждого задания, что очень трудоемко.
• Отсутствие подсказок. По тексту задания не должно быть понятно, как это задание нужно выполнять. Например, недопустимо использовать терминологию системы - вместо каждого термина нужно расписывать его значение, иначе респонденты просто нажмут кнопки с теми же словами и вы не выявите никаких проблем.
• В задании должна присутствовать точка начала выполнения задания , т.е. должно быть прописано то окно или экран, на котором респондент должен находиться в начале. Если такой информации представлено не будет, респонденты неизбежно будут переходить к другим фрагментам интерфейса, а значит, задание разными респондентами будет выполняться по-разному, что делает бессмысленным все статистические расчеты. Фиксировать начальную точку задания нужно еще в конце предыдущего задания. Если задание начинается с чистого листа, в конце предыдущего задания должно быть написано «вернитесь на главный экран». Если задание должно начинаться с места, на котором закончилось предыдущее задание, предыдущее задание должно заканчиваться словами «закончив, не закрывайте текущее окно/останьтесь на этом экране».

Помимо этих общих требований нужно учитывать еще и следующее:

• Возможно, что на одну пользовательскую задачу нужно будет написать несколько тестовых заданий. Типичный случай - задача слишком велика, чтобы ее можно было вместить в одно задание. Кроме того, если пользовательская задача является частотной, вас не должно особо интересовать, как она выполняется в первый раз - гораздо интереснее узнать, как пользователи будут выполнять ее во второй, третий, четвертый (и так далее) разы. В этом случае в пределах теста на одном респонденте прогонять эту задачу потребуется несколько раз, каждый раз варьируя задания.
• Помимо заданий, в которых респондент должен выполнить какое-либо действие, допустимы и желательны двойные задания, в которых респондент должен сначала решить, нужно ли ему в данное время это действие выполнять. Например, если мы тестируем программу дефрагментации диска, вместо задания «Дефрагментируйте диск компьютера» лучше использовать задание «Проверьте степень фрагментации диска и, если вы сочтете это необходимым, дефрагментируйте диск компьютера». Такие задания должны быть составлены таким образом, чтобы респондент не мог отказаться от принятия решения, не глядя сказав, что, дескать, все хорошо и дефрагментация не нужна. Кроме того, перед таким тестом разумно намеренно фрагментировать диск, чтобы респондент не смог избежать задания.
• Порой по ходу задания нужно насильственно изменить состояние системы. К примеру, если вы хотите узнать, как именно пользователи решают определенную проблему, вам придется эту проблему создать. Прерывать для этого выполнение теста недопустимо, поскольку это отвлечет респондента. В таких случаях перед соответствующим заданием можно вставить другое задание, в котором респондент должен создать проблему самостоятельно. Разумеется, никаких сведений об интерфейсе такое задание не предоставит.
• Анализ результатов и подведение статистики сильно упрощаются, если делать не малое число длительных заданий, а большое число заданий кратких, требующих перемещения всего на пару экранов или заполнения одной–двух форм.
• Первое задание теста должно быть вводным, предназначенным исключительно для введения респондента в процесс. Соответственно, оно должно быть простым, а его результаты можно не учитывать.

Не забудьте проверить, что ваши сценарии могут быть выполнены респондентами за ожидаемое время теста. Вероятно, список сценариев придется сокращать.

Признаки успешности выполнения задачи

Последней составляющей сценария являются признаки успешности выполнения задач. Дело вот в чем: не всегда одно и то же задание можно выполнить единственным способом. Запускать же тест, не зная всех этих способов, некорректно, поскольку дальнейший анализ получится сомнительными. Предположим, респондент А выполнил задание способом А, а респондент Б способом Б. Оба респондента справились с заданием, но один все таки лучше другого. Как-никак разные способы, по-видимому, имеют разную эффективность, например, число действий, входящих в способ Б в полтора раза выше числа действий способа А. Способ А в такой ситуации предпочтителен, в идеальной системе (к которой нужно стремиться) все пользователи должны использовать только его.

Кроме того, порой правильный результат теста с точки зрения экспериментатора на самом деле не является правильным, особенно, если предметная область сложна, а юзабилити-специалист знает ее недостаточно. Чтобы убедиться, что правильный результат именно таков, как считает юзабилист, ему необходимо найти специалиста по системе и предметной области, и спросить. Не зная твердо всех способов выполнения задания, вы просто не сможете опознать ошибки.

Рабочее место и способы фиксации данных

Существует два подхода к организации рабочего места для юзабилити-тестирования: стационарное рабочее место и мобильное. Здесь приводятся только рекомендации, относящиеся к мобильным рабочим местам, поскольку мобильные лаборатории и сами дешевле и позволяют уменьшить вознаграждения респондентам (правда, за счет стоимости времени юзабилити-специалиста, которому приходится ездить к респондентам самому).

Итак, что нужно иметь для полноценного тестирования:

1. Ноутбук. Требования к ноутбуку просты. Во-первых, как можно более мощный процессор для одновременной записи содержимого экрана (хотя даже самые слабые процессоры Intel Centrino позволяют записывать видео-поток в фоновом режиме, на более мощных процессорах будет быстрее работать сам тестируемый интерфейс, да и качество видео будет выше). Во-вторых, если вы собираетесь записывать видео с самим респондентом (см. ниже), потребуется экран побольше, чтобы на него уместились и тестируемый интерфейс и окно с физиономией респондента.

2. Веб-камера , если вы собираетесь фиксировать мимику и направление взгляда респондента. Как правило, чем дороже камера, тем лучшего качества изображение она дает. Желательна камера с креплением на экран ноутбука, поскольку ей удобней пользоваться.

3. Микрофон. В принципе, подойдет любой. Лично я пользуюсь обычным микрофоном Genius стоимостью в семьдесят рублей. Если в веб-камеру встроен микрофон, вполне подойдет и он. С другой стороны, более качественный микрофон дает лучшее качество записи, так что будет меньше шипения (но оно ничему не мешает).

4. Программа записи содержимого экрана. Фактическим стандартом является TechSmith Camtasia, если же позволяют средства, инвестируйте в TechSmith Moraе, специально предназначенную для юзабилити-тестирования (она записывает не только содержимое экрана, но и регистрирует действия пользователя, что позволяет сильно ускорить последующий анализ - с другой стороны, Moraе в четыре раза дороже, чем Camtasia, которая и так штука недешевая).

Перед первым тестированием как можно лучше изучите ваше оборудование. Исследуйте, как эффективнее всего располагать камеру и микрофон для получения наилучших результатов. Заучите горячие клавиши программы записи содержимого экрана, научитесь быстро запускать ее в любом режиме. Ничто так не подрывает доверия респондента к тестированию, как зрелище суетящегося экспериментатора, пытающегося правильно включить запись в последний момент перед тестом.

5. Если вы собираетесь фиксировать длительность выполнения заданий, полезно обзавестись спортивным секундомером с записью кругов (Laps), позволяющим запоминать серию интервалов. В противном случае вам придется лишний раз просматривать видеозаписи, чтобы вычислить продолжительность заданий, а это очень утомительно.

6. Тестовые задания для предъявления респондентам. Как правило, оптимальный вариант - распечатка, каждое задание на отдельном листе, чтобы респондент не мог забежать вперед и прочесть задания, которые он еще не выполнил. На первом листе нужно выводить вводную форму. Пример такой формы (в квадратных скобках - переменные данные):

Уважаемый [Имя респондента]!

Предлагаем Вам выполнить ряд заданий, предназначенных для оценки простоты и удобства использования [Наименование системы]. При выполнении заданий чувствуйте себя свободно. Целью исследования является оценка качеств изучаемого интерфейса, а не Вас лично. Если Вы что-то сделаете неправильно, это будет значить, что интерфейс и только интерфейс нуждается в улучшении.

При выполнении заданий Вы должны действовать так, как считаете нужным. Например, если Вы решите воспользоваться Справкой, вы можете это сделать, не спрашивая разрешения экспериментатора.

Обратите внимание, что Ваши действия и слова записываются для дальнейшего изучения, но все собранные данные останутся строго конфиденциальными и будут доступны только исследователям.

Внимательно прочитайте задание и точно следуйте изложенным в нем инструкциям.

Старайтесь довести выполнение каждого задания до конца, но если во время выполнения задания Вы поймете, что не можете или не хотите его заканчивать, сообщите об этом экспериментатору и перейдите к следующему заданию.

Пожалуйста, переворачивайте страницу с заданием только тогда, когда выполните задание на открытой странице.

Если Вы не понимаете какое-либо задание, не стесняйтесь, переспросите проводящего тестирование специалиста.

С другой стороны, в некоторых случаях гораздо эффективнее выдавать респондентам задания не на бумаге, а способом, более приближенным к реальности. Например, тестируя интерфейс кассового терминала, лучше притвориться клиентом, а клиенты редко излагают свои потребности в письменной форме.

7. Если вы собираетесь анкетировать пользователей, понадобятся распечатанные анкеты.

8. Если вы собираетесь находиться рядом с респондентом и сразу фиксировать какой-либо параметр, вам понадобятся планшет с бумагой и ручка. Удобно заранее напечатать несколько листов с именем респондента и номерами страниц - если вы проводите несколько тестирований подряд, это гарантированно позволит избежать мучений с перепутанными бумагами.

Как видим, нужно не так уж много. Стоимость необходимого оборудования и ПО (не считая ноутбука, в 21-ом веке он не роскошь) составляет в экономичном варианте не более 450 долларов. Достоинства такого решения - надежность и простота работы; кроме того, мобильность позволяет проводить тестирование у самих респондентов, что в разы повышает их число (многие потенциальные респонденты ни при каких условиях не поедут в офис к юзабилити-специалисту).

Запись мимики респондентов

Если вы собираетесь анализировать результаты уже после теста (а не во время него), крайне полезно будет сделать видеозапись с мимикой и жестикуляцией респондентов. Без видео с респондентом придется анализировать движения курсора (сопровождающиеся, поскольку записан и звук, шипением и вскриками). С записью получится анализировать взаимодействие человека с интерфейсом, так как появятся предпосылки для гештальта. Объективно незначительная разница в методе аукнется объективно значительным улучшением результатов.

Проблема в том, что запись видео с самим респондентом сопряжена с определенной трудностью - нужно автоматически синхронизировать лицо респондента и запись его действий.

Не располагайте микрофон возле распечаток тестовых заданий. Оглохнете при просмотре видео.

В стационарной юзабилити-лаборатории это достигается тем, что видео с камеры аппаратно микшируется с видео-потоком от видео-карты компьютера. Крупные недостатки этого решения - высокая стоимость и низкое качество записанной картинки экрана (количество пикселей на экране в разы превышает то, что можно записать на магнитофон). Кроме того, с такими записями неудобно работать.

Можно синхронизировать запись и вручную, записывая на компьютере одновременно потоки с камеры и с экрана. Но в этом случае после каждого теста придется потратить некоторое время на скучную работу по микшированию двух разных видео-файлов.

Раньше было доступно только тупое, хотя и работоспособное решение (новый, лучший способ описывается ниже). Перед тестированием:

1. Выключите ускорение графики в Windows (в Панели управления выберите Экран , на вкладке Параметры нажмите кнопку Дополнительно , в открывшемся окне на вкладке Диагностика переведите ползунок Аппаратное ускорение в левую часть). После теста ускорение можно включить снова.
2. Запустите любую программу, способную выводить приходящее с камеры видео. Такие программы придаются к веб-камерам, кроме того, подходят программы для видеочата.
3. Установите в правый нижний край экрана окно с приходящей с камеры картинкой (там оно менее всего отвлекает респондента), а окно самой тестируемой системы расположите так, чтобы оно не заслоняло картинки. Окно с видео стоит заклеить бумажкой (благодарю Дмитрия Сатина за идею).
4. Попросите респондента не изменять размер окна тестируемой системы.
5. Включите запись всего содержимого экрана.

Благодаря этому во время выполнения теста записывается все содержимое экрана, включая как действия респондента, так и его изображение с камеры.

Вид экрана при записи мимики таким способом.

Дополнение : В третьей версии TechSmith Camtasia Studio появился режим «картинка-в-картинке» (в угол видеозаписи с содержимым экрана вставляется поток от видеокамеры), так что теперь все стало гораздо проще.

Единственная проблема записи мимики респондента заключается в том, что если вы ездите к респондентам сами, никто не даст гарантии того, что на заднем плане видео не окажется какой-нибудь гадости - респонденты часто любят встречаться с юзабилити-специалистами просто-таки в клоповниках.

Протестированный тест

Наконец, нам нужно проверить сам тест. Нужно убедиться, что:

1. аппаратура работоспособна
2. вы умеете с ней обращаться как младой полубог
3. все настройки по умолчанию правильны
4. у вас достаточно чистых кассет или места на диске
5. все необходимые бумаги распечатаны и проверены на актуальность и ошибки
6. тестовые задания содержат все необходимые сведения и не требуют дополнительных пояснений
7. в тестовых заданиях нет скрытых подсказок
8. вы умеете быстро приводить тестируемую систему в изначальное состояние, чтобы следующие респонденты не видели изменений, вносимых предыдущими участниками
9. ваше представление о том, что является правильным выполнением заданий, истинно
10. тест на одном респонденте может быть проведен за разумное время (не более полутора часов).

Как видим, пунктов, в которых можно допустить ляпы, настолько много, что сама по себе их проверка станет источником ошибок (сложные задачи трудно выполнить вообще без ошибок). Соответственно, нужен надежный метод проверки. Таким методом является тестирование самого теста, т.е. прогон теста на ком-то, кого не жалко и кого нетрудно отловить (например, на сослуживце). Если тестовый прогон показал хотя бы одну ошибку в подготовке теста, иcправьте ее и повторите прогон снова.

Учтите, однако, что тестовый прогон не отменяет необходимости проверять тест и самому, поскольку некоторые аспекты протестировать прогоном невозможно.

Проведение тестирования

Итак, тест подготовлен и можно приступать. Процедура проста. Включив запись и усадив респондента за компьютер:

1. введите респондента в задачу
2. выясните у него его ожидания от системы
3. протестируйте интерфейс
4. выясните, насколько оправдались ожидания респондента
5. завершите тест.

Ниже эти шаги описаны подробно.

Введение в задачу

Введение респондента в задачу состоит в том, что вы последовательно объясняете ему правила тестирования. Все эти объяснения крайне важны, если вы пропустите хотя бы один пункт, результаты будут искажены.

• Объясните респонденту, что такое юзабилити-тестирование и зачем оно нужно.
• Объясните респонденту (здесь допустимо приврать), что именно он и только он нужен для проведения тестирования - почувствовав свою нужность, респондент приободрится.
• Упомяните, что интерфейс разрабатывали не вы (можно и нужно врать), так что вы не обидитесь, если респондент будет ругать интерфейс.
• Перед тестированием не забудьте выключить свой сотовый телефон и попросите сделать то же самое респондента.
• Объясните респонденту, что вы тестируете не его, а систему. Предупредите о том, что все его проблемы - на самом деле проблемы системы, и что если он совершит ошибку, его никто не будет винить, напротив, вы будет знать, что проблема не в нем, а в системе.
• Извинитесь, что вынуждены записывать его действия. Заверьте респондента, что собранные данные останутся при вас и вы передадите заказчику результаты тестирования, перед этим обезличив их. Если вы записываете содержимое экрана, дополнительно попросите респондента не вводить свою фамилию в экранных формах (чтобы ее не увидел ваш клиент, которому вы отдадите видеозапись).
• Объясните респонденту, что он в любой момент может отказаться от продолжения теста и что в этом случае ему все равно будет выплачено вознаграждение. Объясните, что респондент в любой момент может попросить прервать тест, чтобы отдохнуть.
• Наконец, объясните респонденту, что вам бесполезно задавать вопросы об интерфейсе, но зато вас можно и нужно спрашивать, если какое-либо задание респонденту непонятно.

Заучите список того, что нужно говорить перед тестированием. Это еще как влияет на результаты.

Выявление ожиданий от системы

Независимо от типа и назначения теста при тестировании нового интерфейса полезно определить, насколько он соответствует ожиданиям пользователей. Если ожидания оправдались, внедрение и начальная поддержка будут существенно облегчены; если же ожидания оказались обманутыми, система сразу же вызовет отторжение.

Выявление ожиданий, вообще говоря, следует проводить до проектирования интерфейса - но, к сожалению, на ранних этапах работы дело это исключительно трудное и требующее вдобавок незаурядного таланта слушать и задавать правильные вопросы. Однако на стадиях, когда уже есть что тестировать, например при тестировании прототипов, выявлять ожидания пользователей легче легкого, так что глупо не воспользоваться такой возможностью.

Процедура выявления ожиданий состоит из двух шагов:

1. Перед проведением теста у респондента нужно выспросить, что он ожидает от системы. Слушать респондента нужно с внимательным видом, а все, что он скажет, можно благополучно забыть, поскольку все его слова - не более чем фантазии. Спрашивать нужно не для того, чтобы узнать что-то, а для того, чтобы подготовить респондента ко второму этапу.
2. После теста у респондента нужно выспросить, насколько показанный интерфейс соответствует его ожиданиям. Здесь респонденту уже вполне можно верить: во-первых, он подготовлен своими предыдущими ответами, а во-вторых, показанный ему интерфейс может побудить его сформулировать требования, которых он раньше не осознавал.

Тестирование

При тестировании нужно следовать следующим шести «никогда»:

• Никогда не извиняйтесь за несовершенство тестируемой системы.
• Никогда не говорите «Мы потом это исправим».
• Никого не обвиняйте в том, что интерфейс плох («Разработчики, конечно, придурки, и создали нечто несуразное, но мы с вами это щас исправим»).
• Никогда не называйте процесс тестирования «пользовательским тестированием» - респондент решит, что тестируют его, и будет бояться. Идеально, если вы всегда будете называть процедуру «юзабилити-тестирование интерфейса» или просто «тестирование интерфейса».
• Никогда не прерывайте респондента. Даже если он говорит нечто неактуальное, дайте ему полностью выговориться и только тогда задавайте свои вопросы.
• Никогда не формируйте поведение респондента. Некоторые люди подстраиваются под ожидания экспериментатора, например, почувствовав, что вам хочется найти в интерфейсе побольше ошибок, они будут постоянно ошибаться сами, даже если в интерфейсе нет предпосылок для этого. Чтобы избежать такого результата, все ваши слова должны быть подчеркнуто нейтральными. Достигнуть нейтральности помогают два простых метода. Во-первых, не стоит задавать вопросы с единственным вариантом ответа. Вместо того, чтобы спрашивать респондента, насколько простой показалась ему система (это явно наводящий вопрос, поскольку его можно задать иначе с другим отношением к теме - «насколько сложной показалась вам система?»), лучше спросить, простой или сложный у системы интерфейс. Во-вторых, часто респонденты сами задают вам вопросы, стараясь избежать необходимости принимать решение самому. Ответить на такие вопросы легко, вот только ответы, из-за их спонтанности, будут наводящими. В таких случаях лучший ответ - встречный вопрос. Я справляюсь? - А как вы сами думаете? Я выполнил задание правильно? - А как вы сами считаете? И так далее, пока респондент не угомонится. Невежливо, но действенно.

Кроме того, есть несколько не столь категоричных правил:

• Если во время теста вы следите за каким-либо свойством интерфейса, например, считаете ошибки респондента, не следует следить больше чем за одним показателем. К примеру, если вы считаете ошибки, время выполнения операций считать не стоит - вероятность вашей собственной ошибки слишком уж возрастает. На мой взгляд, во время теста можно только записывать свои гипотезы о потенциальных улучшениях интерфейса - т.е. то, что вы видите сразу же. Высчитывать показатели интерфейса лучше по видеозаписям.
• Даже при активном вмешательстве старайтесь не задавать респонденту вопросов, не относящихся напрямую к его текущей операции. Лучше задать их после теста.
• По возможности сидите справа сзади от респондента - так, чтобы он мог увидеть ваше лицо, слегка повернув голову. Ваше присутствие для респондента обременительно, но в таком положении он хотя бы будет менее напряжен.
• Во время теста вы часто не можете увидеть проблемы с интерфейсом в целом. Например, вы заметили ошибку пользователя. Но чем она объясняется? Аномалия ли это, вызванная тем, что пользователь менее подготовлен, чем остальные? Уверены ли вы в том, что эту ошибку повторяют все? Из-за этого фиксировать нужно максимум наблюдений. Некоторые вы отбросите впоследствии, но это лучше, чем упустить проблему.

• Скорость работы. Между заданиями переводите секундомер на новый круг. Если респондент по какой-либо причине отвлекается, ставьте секундомер на паузу.
• Ошибки. На листе бумаги ставьте черточку при каждой человеческой ошибке. Удобно ставить мелкие черточки при мелких ошибках и длинные - при ошибках крупных. После теста достаточно посчитать количество черточек. Если вы раздельно считаете ошибки разных типов (например, просто ошибки и отдельно неправильно выбранные элементы меню) лучше пользоваться разными кодами, например, теми же черточками при простых ошибках и буквами М при ошибках, связанных с меню.
• Проблемы, которые вы видите сразу же. Кратко записывайте на бумажке сущность проблемы и текущее время (время первым!). Если вы будете точно знать, когда произошла проблема, вам будет легче найти соответствующий фрагмент видеозаписи.
• Эмоциональные реакции респондента. Ставьте знак плюса при положительных реакциях и знак минуса - при отрицательных. Реакции, происходящие в момент завершения тестовых заданий, не считаются.

Завершение теста

Закончив тест:

• Задайте респонденту накопившиеся вопросы.
• Дайте респонденту заполнить анкеты, если вы проводите анкетирование.
• Спросите у респондента, понравился ли ему интерфейс; независимо от ответа попросите уточнить, что именно понравилось и что не понравилось.
• Расплатитесь с респондентом.
• Поблагодарите его за участие в тесте. Заверьте респондента, что он справился прекрасно и что благодаря ему вы смогли выявить много интерфейсных проблем (сделайте это даже если респондент оказался замкнутым, неприятным в общении типом, тест на котором не выявил ничего нового).
• Если респондент особо хорош, спросите его, можно ли обращаться к нему в будущем для новых задач тестирования. Респондент с опытом тестирования всегда лучше такого же, но без опыта.

Тестирование на прототипах

Особо следует остановиться на тестировании на прототипах. При тестировании на прототипах у вас есть две возможности:

• Можно ограничиться тестом по методу активного вмешательства, лишаясь возможности получить какие-либо количественные данные. Для этого вам не нужен никакой специальный прототип, поскольку вы всегда имеете возможность объяснить респонденту значение служебной информации и причины лакун в прототипе.
• Можно вдобавок к обычному создать тестовый прототип и получить немного количественных данных, потеряв прорву ресурсов, затраченных на тестовый прототип.

Под тестовым прототипом подразумевается вид прототипа, в котором респондент может выполнить тестовые задания. Например, если прототип состоит из последовательности изображений экранов:

• В обычном прототипе на каждом изображении экрана будут представлены все возможные при разных обстоятельствах фрагменты интерфейса; вместо реальных данных будут выводиться обобщенные данные с пометками о том, какой у них возможен максимальный и минимальный объем.
• В тестовом прототипе тот же интерфейс будет представлен так, как он отображается в любой момент выполнения тестовых заданий: если на каком-либо экране по тестовому заданию производится редактирование данных, в прототипе придется нарисовать оба варианта этого экрана, а возможно и больше (состояние до, во время и после редактирования).

Создание тестового прототипа всегда трудоемко. Ладно еще, что экраны в таком прототипе приходится рисовать по нескольку раз. Хуже другое - ограничиться созданием только тестового прототипа не получится, так что придется вам делать и обычный и тестовый прототипы. А если вы итерационно тестируете, придется еще вносить исправления в оба прототипа сразу.

Справедливости ради надо сказать, что создавать тестовые прототипы иногда все-таки приходится. Например, если на каком-то экране взаимодействие слишком сложное и вариативное, заказчик не сможет в нем разобраться (вам самому будет трудно это сделать). Единственным выходом в такой ситуации будет прорисовать этот экран во всех возможных состояниях со всеми возможными вариантами взаимодействия, т.е. создать тот же тестовый прототип.

Таким образом, использование нефункциональных тестовых прототипов есть контролируемый, но все-таки кошмар (собственно говоря, это и есть главный довод в пользу создания функциональных прототипов, которые изначально являются тестовыми). Нужен ли вам этот кошмар - решайте сами.

Анализ результатов

Наконец, пришло время для анализа результатов тестирования. Здесь важны три вещи:

• когда начинать анализ
• как анализировать действия респондента
• что можно почерпнуть из количественных данных.

Особняком стоит вопрос, когда начинать оптимизировать интерфейс.

Когда начинать анализ

Анализировать результаты можно как во время, так и после теста. Анализ во время тестирования имеет достоинства и недостатки. К достоинствам относится то, что он:

• Позволяет сэкономить время на этапе анализа, т.к. часть анализа производится во время более раннего этапа.
• Дает наиболее непосредственное впечатление от теста (гештальт), что позволяет увидеть проблемы, не замечаемые никаким другим способом.

Есть и недостатки:

• Не позволяет фиксировать более одного эргономического показателя за раз, да и то на практике можно замерять только скорость работы пользователя и число человеческих ошибок (правда, это самые востребованные показатели).
• Возможен только при значительном опыте юзабилити-специалиста.
• Невозможен, если тест проводит один специалист, а анализ делает другой (с другой стороны, этому другому человеку обязательно пригодятся наблюдения того, кто проводил тест).

Анализ после тестирования лишен этих недостатков и достоинств. Он позволяет внимательно и вдумчиво проанализировать материал, независимо от количества и сущности измеряемых показателей. Кроме того, он легко масштабируется на сколько угодно исполнителей.

Таким образом, оптимальной стратегией, по-видимому, является начало анализа во время теста. В некоторых случаях этим анализом можно и ограничиться. Если же это окажется невозможным, всегда можно проанализировать еще и видеопротоколы тестирования.

Анализ действий респондентов

Почти любое юзабилити-тестирование направлено на поиск и выявление проблем. Но как увидеть проблему в действиях респондентов?

Ошибки

Не любая ошибка респондента объясняется проблемами интерфейса, например, респондент мог проявить элементарную невнимательность. Тем не менее, любая ошибка требует рассмотрения:

• Если ошибка критическая, т.е. респондент ошибся из-за непонимания структуры интерфейса и ошибка привела к другим ошибкам (например, посетитель сайта перешел в ненужный ему раздел и там заблудился), соответствующий фрагмент должен быть переделан: нужно предпринять шаги по устранению неоднозначности, добавить подсказок и т.п.
• Если ошибка некритическая, т.е. респондент сразу ее заметил сам и сам же ее исправил, вам нужно решить, исправлять ли ее или оставить ее без внимания. Исправлять проблему стоит, если вы чувствуете, что понимаете, почему ошибка произошла (здесь вам поможет только опыт). Если не чувствуете, оставьте интерфейс как есть. Разумеется, если проблема повторится, ошибку нужно исправлять - но зато у вас будет больше информации о ней, так что исправлять будет легче.
• Возможно, ошибка объясняется несовершенством тестового задания. Обязательно убедитесь, что это не так - попросите респондента своими словами пересказать задание и если он ошибся, значит он понял задание неправильно и задание нужно срочно переделывать, ошибку же можно оставить без внимания.

Замедления выполнения задания

Если респондент без видимых причин приостановился, это значит, что он пытается понять, что ему нужно делать дальше. Вероятно, интерфейс недостаточно самоочевиден или однозначен. Проблему необходимо исправлять.

Увидеть замедление можно не только по собственно замедлению, оно как раз не всегда явно заметно, сколько по сопутствующим ему случайным движениям курсора мыши (многие люди, потеряв нить действия, машинально перемещают курсор).

Юзабилити тестирование помогает повысить конверсию сайта или интернет-магазина, найти скрытые интенты и пожелания пользователей, принять решение о разработке дополнительного функционала. Это не единственный метод исследования сайта. Принимайте решение о выборе метода, опираясь на поставленные задачи. Если нужно

найти огрехи в интерфейсе или проверить удобство пользовательских сценариев, тестируйте юзабилити сайта. Когда требуется сравнить конверсию двух вариантов лендингов, лучше сделайте А/В-тест.

Цели проведения тестирования у каждой компании разные: кто-то тестирует прототип или концепцию, кто-то проверяет гипотезы, кто-то исследует пользовательские сценарии, поэтому методы и метрики различаются. Но правила проведения, этапы подготовки и комплект сопроводительной документации схожие. Подготовили подробную инструкцию, как провести юзабилити тестирование сайта.

С чего начать

Цели и задачи. Поставьте главную цель тестирования, которая определит дальнейшее направление: задачи, задания, методы и выбор респондентов. Исходя из цели сформулируйте проблему или задачу. Это может быть проверка разработанного продукта или поиск недочетов после редизайна. Например, компания поменяла дизайн формы заказа, после этого снизилась конверсия. С помощью тестирования исследователи будут разбираться, почему так произошло и что делать.

Гипотезы. Составьте гипотезу, которую исследование подтвердит или опровергнет. Допустим, пользователи при бронировании отеля заказывают трансфер из аэропорта отдельным сообщением, не используя специальную форму заказа. В таком случае вариант гипотезы может быть такой: «пользователи не понимают, что это форма для заказа трансфера, или считают ее громоздкой для заполнения».

Сценарии. Отдельно тестируйте сценарии поведения пользователей - то, как люди взаимодействуют с сайтом. Для каждой страницы работает собственный сценарий. Для его составления ответьте на четыре вопроса:

1. Откуда пришел пользователь?
2. Что он должен увидеть на этой странице?
3. С какой целью он пришел на страницу?
4. Чем должно закончиться посещение?

Сценарий пользователя не обязательно должен быть длинным и сложным. Иногда чем короче взаимодействие, тем лучше конверсия. Например, для бизнеса по доставке картриджей, зарядок, линз важна скорость, поэтому желательно, чтобы пользователь сразу понимал, что служба доставка ему подходит.

Когда на сайт приходят разные группы посетителей, разработайте для каждой группы собственные сценария поведения. Допустим, сайт по продаже товаров оптом и в розницу имеет три группы клиентов: крупные оптовики, мелкие оптовики и розничные покупатели. Создайте для каждой группы отдельные разделы и составьте сценарии, основываясь на ответах на типовые вопросы.

Что можно померить

Количественные исследования всегда конкретны и сфокусированы, нацелены на получение числовых показателей. Это может быть время выполнения действий на сайте или доля респондентов, выполнивших задание. Результаты «да/нет» тоже можно представить в виде цифр. Например, привести их в бинарную систему: да - 1 балл, нет - 0 баллов.

Часто в тестировании применяют метод Якоба Нильсена, который переводит результаты в процентное соотношение и считает процент успешности. Рекомендуем упростить шкалу оценок и оперировать тремя вариантами:

• выполнил самостоятельно - 100%;
• выполним с помощью модератора - 50%;
• не выполнил - 0%.

Чтобы определить, насколько часто пользователи сталкиваются с проблемами, вычисляйте их частотность. Для этого посчитайте количество респондентов, которые не смогли выполнить задание из-за одной и той же проблемы. Давайте участникам тестирования одинаковые задания, тогда показатель частотности будет достоверным.

Качественные исследования выбирают, чтобы получить много разных замечаний, понять мышление пользователей, найти скрытые проблемы. Тестирование основано на открытых и гибких вопросах. Для этого проводится интервью, которое показывает степень удовлетворенности респондентов. Существует множество методик и опросников для проведения качественных исследований.

Например, модель Кано, которая была разработана японским ученым. С ее помощью узнавайте не только удовлетворенность текущей версией сайта, но и ожидания пользователей. Все ответы респондентов переводятся в баллы и ранжируются по шкале ожиданий от «мне нравится» и «я ожидаю это» до «мне не нравится и я не могу это принять». В результате исследователи строят график, который показывает, что именно аудитория считает:

• само собой разумеющимся;
• конкурентным преимуществом сайта;
• функциями, которые вызывают у них восторг;
• неважным.

По итогу проведения качественных исследований необходимо правильно интерпретировать полученные результаты. Возможно респонденты дадут много интересных предложений, но оцените их с точки зрения технической реализации и затрат на их разработку. В любом случае постарайтесь понять, какую именно потребность закрывает их предложение. Это нужно, чтобы найти способ улучшить юзабилити сайта, подходящий для вашей компании.

Какой выбрать метод

Наблюдение - самый простой метод: респондент работает в обычном режиме, модератор смотрит и анализирует его действия. В завершении респондент заполняет опросник и делится впечатлениями о сайте. Метод хорош тем, что пользователь взаимодействует с сайтом естественно, на него не давят окружающие обстоятельства.

Но есть и недостаток: респондент заполняет опросник после завершения тестирования, поэтому может не вспомнить точно, почему он поступил так или иначе. Тогда это приведет к неверному толкованию действий респондента.

Мысли вслух. Этот популярный метод был предложен Якобом Нильсеном. Суть его заключается в том, что пользователь все свои действия проговаривает вслух. Однако при подобном поведении респонденты начинают более вдумчиво подходить к выполнению заданий и часть естественности теряется.

Диалог с модератором. Метод больше всего подходит для проведения качественных исследований прототипов и концепций. Во время тестирования респонденты активно общаются с модератором, задают ему вопросы и сразу дают фидбек.

Теневой метод. Одновременно работают три участника: респондент, модератор и эксперт. Респондент свободно и независимо выполняет задания, модератор фиксирует, эксперт комментируют действия респондента.

Ретроспектива. Это метод, который сочетает в себе наблюдение и «мысли вслух». Сначала респондент выполняет задания, затем - смотрит видеозапись своих действия и комментирует их. Основной недостаток - значительное увеличение времени тестирования.

Как проводить тестирование

Личный контакт. Пусть модератор установит доброжелательный контакт с респондентами. Расскажите о тестировании и его целях, обратите внимание участника, что его ответы помогут компании сделать продукт лучше. Проведите краткий инструктаж, в котором объясните суть заданий, озвучьте регламент тестирования.

Документация. Подпишите с респондентом необходимые документы: соглашение об обработке персональных данных и договор о неразглашении результатов тестирования, если он необходим. Когда в тестировании участвуют дети, подписывайте с родителями документ о согласии на участие в исследовании.

Пробное тестирование необходимо, когда продукт сложный или задания могут вызвать затруднения у респондентов. Так они познакомятся с сайтом и поймут требования. Когда предстоит масштабное и длительное исследование, сделайте пробное тестирование перед основным. Так вы найдете недочеты в подготовке и устраните их.

Отчет о тестировании. По итогу составляется сводный отчет с результатами. Он начинается с введения, в котором указаны цели, задачи и проверяемые гипотезы. В отчете укажите используемые методы и измеряемые метрики. Все полученные результаты и выводы должны быть интерпретированы, в заключении даются рекомендации. В качестве приложений добавьте результаты каждого респондента.

Запомните

Взаимодействие пользователя с usability каждого сайта должно быть эффективным, продуктивным и удовлетворенным. Стремитесь к оправданию ожиданий пользователей. Для этого тестируйте прототипы, действующий или новый дизайн сайта. Проводите тестирование при возникновении проблем или для улучшения текущих показателей.

Материал подготовила Светлана Сирвида-Льорентэ.

«Шеф-редактор блога GetGoodRank, веб-аналитик, блоггер.
Пошаговая инструкция, как провести юзабилити тест самостоятельно с минимальными вложениями. Как анализировать результаты и какие есть альтернативы.»

Юзабилити тестирование выявляет неочевидные, нетехнические проблемы сайта, приложения, интерфейса, которые препятствуют конверсии посетителей в клиентов. А так, компания теряет доход. Ошибки юзабилити приводят к ухудшению поведенческих факторов, что влияет на ранжирование сайта в поиске и приводит к проседанию позиций. В этом обзоре рассказываем, как провести юзабилити тестирование самостоятельно.

Зачем проводить юзабилити тест?

Оптимизированный интерфейс, удобный для пользователя, создает положительное первое впечатление.

Правильная, простая структура сайта позволяет клиенту быстро найти нужную информацию, заказать товар, ознакомиться с услугой, связаться с компанией.

Оптимизированные сайты помогают пользователям проще принимать окончательные решения о покупке, заказе.

Удобный сайт вызывает доверие, повышает лояльность к бренду.

Как проводить юзабилити тест самостоятельно?

Кто будет тестировать сайт и где найти пользователей для теста?

В идеале тестировать сайт должны пользователи, близкие вашей целевой аудитории. Чем точнее будет соответствие, тем репрезентативнее станут результаты теста. Кто может стать тестировщиком:

Фактические посетители сайта/клиенты - вы можете пригласить посетителей сайта принять участие в коротком исследовании/опросе/тесте, чтобы улучшить сайт. Обращение может быть оформлено сквозным информационным блоком, всплывающим окном на выходе с сайта, личными e-mail сообщениями по базе подписчиков/клиентов.

Преимущества: максимальное соответствие тестировщика целевому пользователю.
Недостатки: пользователи уже знакомы с сайтом, а так, уже умеют обходить «косяки».

Фриланс-биржи, социальные сети - некоторые компании пытаются привлечь новых пользователей к тестированию, разместив предложение в социальных сетях или на фриланс биржах. Как правило, такая услуга стоит недорого, но и отклик пользователей не особо активный.

Преимущества: это новые пользователи, которые не знакомы с сервисом, сайтом, приложением, компанией, услугой, товаром.

Недостатки: требует вложений. Не всегда удается получить оправданный результат. Отношение наемных сотрудников к заданию может быть безответственным. Не всегда удается найти именно близких целевой аудитории пользователей для теста.

Специализированные компании - выбрав платный вариант тестирования, можно обратиться в агентство, которое предоставит нужную целевую аудиторию для проведения теста.

Преимущества: быстрый способ получить достаточное количество целевых пользователей для тестов.

Недостатки: часто высокая стоимость.

Как провести юзабилити тест?

Существует два типа тестирования:

Модерируемое или контролируемое - вы непосредственно принимаете участие в тесте, инструктируете участника, задаете вопросы, делаете пометки. Для проведения контролируемого юзабилити теста вам понадобится любое приложение с поддержкой видеозвонков и совместного доступа к интерфейсу сайта (Skype, Google Hangouts). Чтобы получить возможность записать тест, вам потребуются платные инструменты как GoToMeeting или Zoom.

Немодерируемое или неконтролируемое тестирование - пользователь тестирует сайт или приложение, следуя предоставленной инструкции. Такой тест максимально приближен к реальному использованию сайта, так как пользователь рассчитывает исключительно на себя, ожидать помощи или подсказки неоткуда. Создать тестовое задание можно при помощи различных платных и бесплатных онлайн-сервисов.

Немодерируемое тестирование обеспечит более точный результат в отличие от модерируемого теста. К тому же, у вас не будет соблазна и возможности вмешаться в ход теста.

Как написать сценарий теста

Вне зависимости от выбранного для проверки сайта типа теста, вам понадобится сценарий, который направит пользователя по сайту и укажет, какие именно разделы, функции сайта следует проверить.

Обычно, это серии заданий, которые ведут пользователя от знакомства с компанией к предложению, выбору, принятию решения и заказу.

Основные правила сценария проверки сайта:

1. Тест должен имитировать реальный путь пользователя, заинтересованного в товаре/услуге. Для этого можно использовать данные из системы аналитики.

2. Тест должен быть понятным, логичным и простым для выполнения.

3. Тест должен предоставлять пользователю предысторию: кто, что, когда, зачем, почему.

4. Тест должен состоять из целей, а не предлагать инструкции, как этой цели достичь. К примеру, задание теста - купить красное платье 42 размера, а не откройте каталог, раздел «летние платья», установите фильтр по размеру и цвету, выберите красное платье, на странице товара укажите размер, цвет и кликните добавить в корзину (это символ «плюс» рядом с изображением товара).

5. Не используйте термины и профессиональный жаргон для постановки задач. Они должны быть простыми и ясными.

Какие данные собирать

В проведении юзабилити теста важно получить две записи:

• видеозапись экрана участника, чтобы видеть путь пользователя, передвижение курсора и понять логику действий.
• голос тестировщика - в ходе теста пользователь комментирует задание и происходящее на экране, указывая, что ему не понятно, что не может найти, что не получается выполнить.

Из этих записей вы поймете, почему пользователь кликнул именно эту кнопку или перешел именно в этот раздел, почему пользователь застрял именно на этом этапе.

Другие полезные данные, которые вы сможете извлечь из записей:

• время на выполнение задания
• количество пользователей, которым удалось выполнить задание
• количество кликов, понадобившихся для выполнения задания

Сколько проводить тестов

Эксперты NNGroup указывают, что для проведения теста достаточно привлечь всего 5 пользователей. Этого будет достаточно, чтобы выявить до 80% ошибок юзабилити сайта или приложения. Чтобы получить более точную выборку по количественным данным, для теста понадобится до 20 пользователей.

В некоторых случаях, когда речь идет о тестировании отдельных опций сайта, может быть достаточно 3 пользователей.

Как анализировать полученные результаты

Получив результаты тестирования, важно определить в чем расходится видение пользователей и фактическое использование функций и инструментов сайта с тем, как предполагалось изначально использовать функционал.

Разделите сценарий проведения теста на тематические подразделы: главная страница, каталог, поиск по сайту, карточка товара, корзина, контакты и т. д. Записывайте комментарии пользователей, ошибки, сложности в ходе проведения теста в соответствующих разделах.

Вы всегда можете провести комплексный анализ сайта и конкурентов в GetGoodRank . Это проще, быстрее и достовернее. Мы проверяем не только юзабилити, но и оцениваем уровень доверия к сайту и компании в целом, информационную и коммерческую релевантность, а также указываем, в чем преимущества сайтов конкурентов.

От автора: не будем кривить душой: любой сайт создается для получения прибыли. Владельцы интернет-магазина «спят и видят», как бы продать побольше товаров. Разум блоггеров постоянно занят поисками . Даже сайты благотворительных организаций - и те создаются с целью извлечения выгоды, в частности, для привлечения внимания спонсоров и общества к проблеме. Однако, максимальную отдачу можно получить только если сайтом удобно пользоваться. Как лучше проверить юзабилити сайта? Об этом и поговорим сегодня.

Согласитесь, на сайт с удобной навигацией, красивым дизайном, качественной информацией и хорошей функциональностью хочется возвращаться снова и снова. Чего не скажешь о неудобных веб-ресурсах, которых совсем не заботит комфорт пользователей. А те, в свою очередь, чувствуя неуважение к себе и своим потребностям, быстренько ретируются с такого сайта, так ничего и не купив. Чтобы этого не произошло, нужно обязательно проверять юзабилити сайта.

Юзабилити сайта (от англ. Usability) - это удобство в его использовании. Чем выше юзабилити, тем выше качество сайта, тем проще и быстрее посетитель может достичь свой цели - например, сделать заказ или найти какую-то информацию.

Основными проблемами, которые можно выявить при проверке юзабилити сайта, являются:

Наличие даже одной из вышеупомянутых проблем может довольно плачевно повлиять на место сайта в поисковой выдаче, его посещаемость потенциальными клиентами и в целом, на их лояльность к ресурсу.

Что такое юзабилити-тестирование?

Это исследование, направленное на определение степени удобства и соответствия веб-страницы или пользовательского интерфейса их предполагаемому применению. Этот процесс, называемый также проверкой эргономичности, предполагает привлечение пользователей в качестве тестировщиков, чтобы на выходе получились объективные данные.

Как проходит процесс тестирования в «лабораторных условиях»?

Пример тестирования юзабилити: пользователю предлагают решить некоторые задачи, для выполнения которых создавался данный веб-ресурс, и в процессе выполнения теста фиксировать свои замечания. Фиксация замечаний осуществляется обычно с помощью видео- или аудиозаписи, чтобы затем их можно было детально проанализировать.

В процессе могут участвовать наблюдатели, которые следят за ситуацией и делают свои заметки о ходе тестирования. Возможен такой вариант проверки юзабилити и функциональности сайта: разрабатывается «идеальный» сценарий поведения пользователя и его «путешествия» по сайту, а затем фиксируются отклонения от этого маршрута и выполняются соответствующие правки.

После нескольких кругов ада итераций «тест/доработка» можно получить интерфейс, приемлемый для решения той или иной задачи, удобный клиенту и приносящий прибыль владельцу сайта.

Использование фокус-группы

Одна из разновидностей описанного выше способа - тестирование продукта с помощью фокус-группы. Его суть состоит в том, что реальные пользователи заходят на сайт и осуществляют различные действия вплоть до совершения конверсии.

В результате вы получите обратную связь «со стороны», список вопросов и возникших трудностей и, возможно даже, предложений по доработке. В таком исследовании должны участвовать представители целевой аудитории, которые отличаются между собой уровнем владения компьютером, профессией, социально-демографическими и другими характеристиками.

Данный вид проверки юзабилити сайта онлайн позволит проанализировать продукт с позиции конечного пользователя и получить ответы на следующие вопросы:

отвечает ли структура и дизайн интерфейса целям бизнеса;

на какие элементы пользователь обращает больше всего внимания;

удобная ли навигация;

быстро ли пользователь может адаптироваться к интерфейсу и его функционалу;

нормально ли работает механизм обратной связи;

Современные тенденции и подходы в веб-разработке

Узнайте алгоритм быстрого роста с нуля в сайтостроении

производит ли продукт правильное впечатление;

имеются ли различия в реальных и конверсионных пользовательских маршрутах.

Где взять эти самые фокус-группы? Для этого существует множество сервисов для тестирования юзабилити с помощью фокус-групп (askusers.ru, usabilla.com, sitepolice.ru и др.); можно также воспользоваться помощью специализированных компаний.

Минусом данного метода является его платность. Для получения нормальной выборки (не из 2-х человек) вам потребуется немалый бюджет. Кроме этого, привлекая к исследованию фокус-группы, вы, скорее всего, получите только перечень проблем, решение которых вам придется искать либо самостоятельно, либо с помощью специалистов.

Инструменты для оценки юзабилити

Как еще можно проверить юзабилити сайта онлайн? В интернете существует огромное количество различных инструментов, как платных, так и бесплатных. Приведу самые полезные, на мой взгляд:

Google Analytics Content Experiments. Это бесплатный и доступный всем инструмент, с помощью которого вы можете тестировать практически любые изменения на веб-сайте, чтобы понять, способствуют ли они снижению показателя отказов или увеличению конверсии.

Для подключения инструмента перейдите в Google Analytics и найдите вкладку «Поведение» - «Эксперименты». Чтобы настроить эксперимент, нужно произвести несколько действий:

задать название и цель эксперимента. Целью может быть посещение веб-страницы, покупка товара, присутствие пользователя определенное время. Цель можно создать свою или выбрать из предложенных Google Analytics;

выбрать процент распределения трафика. Это количество посетителей, которые будут видеть тот или иной целевой вариант;

задать минимальное время эксперимента. Обычно это недели две;

настроить порог достоверности. Чем он выше, тем точнее будет определен выигрышный вариант, однако, это увеличит время эксперимента.

К недостаткам использования данного инструмента можно отнести невозможность проверки сразу нескольких задач, отсутствие поливариантности тестирования и сегментации трафика.

Visual Website Optimizer. Он позволяет эффективно повысить конверсию, обладает простым онлайн-редактором для настройки множества вариантов своей посадочной страницы, создает уникальные связки таргетинга. К примеру, вы можете указать ему: если посетитель пришел к нам с Вконтакте и пользуется OS Windows, то, будь добр, покажи ему эту веб-страницу, а если он заходит с MacBook, то вот эту…Также Visual Website Optimizer может похвастаться удобной системой отчетности и еще кучей разных фишек.

Qualaroo. Бесплатный опросник пользователей, позволяющий узнать непредвзятое мнение о веб-ресурсе. С его помощью вы сможете определить проблемы и увеличить вашу прибыль. Этот инструмент обратной связи существенно облегчает работу юзабилити-аналитикам.

Яндекс.Метрика. Позволяет проанализировать этапы заполнения формы и выяснить, какие из них вызвали наибольшие затруднения у посетителей, какие пользователи не стали заполнять тот или иной пункт и т. д.

Тепловые карты. К ним можно отнести «Карту кликов» Яндекс.Метрики, статистику веб-страниц Google Analytics, usabilitytools.com, feng-gui.com и т. д. Эти инструменты позволяет оценить суммарное поведение пользователей на сайте. С помощью тепловых карт вы сможете увидеть, куда кликает большинство людей, а куда - нет. В зависимости от результата вносятся соответствующие корректировки.

Чек-лист для проверки

Быстро ли загружаются веб-страницы? Перегруженность анимациями, тяжеловесными картинками и флеш-заставками могут повлиять на рейтинг вашего сайта в поисковой выдаче и, конечно же, на лояльность пользователей.

Есть ли логотип на каждой странице? На нем должна присутствовать ссылка на главный ресурс.

Как оформлен контент? В тексте должна быть хорошая структура: заголовок, подзаголовки, списки и т. д. И не должно быть ошибок. Недооформленный текст с ошибками плохо читается и воспринимается как людьми, так и роботами поисковых систем. Заголовки и подзаголовки должны быть емкие и краткие, соответствовать той рекламе, что размещается в сети.

Надеюсь, данная статья была вам полезна в оценке юзабилити сайта. Подписывайтесь на обновления нашего блога и узнайте еще много чего полезного о юзабилити, веб-дизайне, и других областях . До скорых встреч!

Современные тенденции и подходы в веб-разработке

Узнайте алгоритм быстрого роста с нуля в сайтостроении