В главе 2 рассказывается о первом этапе –
Второй этап рассматривается в главе 3 и охватывает наиболее интересующие читателей методы
В главе 4 рассматривается третий и последний этап количественного анализа, ничуть не менее важный, чем остальные, но часто игнорируемый, –
В остальных главах рассматриваются некоторые частные вопросы аналитического подхода. В частности, в главе 5 мы говорим о роли креативности в аналитической работе: оказывается, эти понятия вполне совместимы! В главе 6 описаны несколько способов развития аналитических способностей для тех, кто почувствовал вкус к аналитике. Глава 7 посвящена налаживанию конструктивных взаимодействий менеджеров и квантов для принятия более эффективных решений. Нечего и говорить, что успех этих взаимодействий зависит от обеих сторон. Мы приводим много разнообразных примеров, иллюстрирующих возможности использования аналитических методов для решения проблем (или, напротив, то, как из-за пренебрежения ими возможности были упущены; см. вставку «Почему опасно пренебрегать аналитическими методами»). Кроме того, в этой главе показаны примеры расчетов и описаны самые простые возможности применения аналитики, для внедрения которых не требуется много времени и сил.
Мы учимся как на положительных, так и на отрицательных примерах, но почему-то отрицательные обычно производят более сильное впечатление. Трудно найти более яркий образец, чем история Джо Кассано, практически в одиночку доведшего до кризиса огромную компанию, а заодно и экономику США, да черт возьми, всего мира!
Кто же такой Кассано и чего он не знал об аналитике? Возможно, вы вспомните этого человека, если назвать его должность – глава AIG Financial Products (AIGFP), подразделения с четырьмя сотнями сотрудников, входящего в состав гиганта страховой отрасли AIG. Именно он несет ответственность за потерю компанией колоссальной суммы денег, о точной ее величине все еще идут споры, но что-то около 85 миллиардов долларов. Столько американским налогоплательщикам пришлось заплатить, чтобы удержать AIG на плаву и погасить ее долги.
Не один Кассано терял деньги, но, по словам расследовавшего эту историю репортера Мэтта Тайбби из журнала Rolling Stone, он был «виновником № 1 мирового экономического кризиса»[12]. Тайбби описывал его как «толстого лысеющего коротышку с глазами-бусинками и высоким лбом, окончившего Бруклинский колледж», хотя это не имеет особого отношения к нашей истории. Уверены, если бы он зарабатывал деньги вместо того, чтобы их терять, его внешность показалась бы репортеру более привлекательной.
Итак, к чему же привело пренебрежение аналитикой и количественным анализом? AIGFP потеряла эти деньги в результате активной продажи финансового продукта, называемого кредитным дефолтным свопом (CDS) и представляющего собой своего рода страховку ипотечных деривативов. Репортер New York Times Гретчен Моргенсон вскоре после этих событий писала: «Хотя крах рынка жилой недвижимости в США часто называют непосредственной причиной кризиса, надо отметить, что экономическая система в целом отличалась неустойчивостью из-за широкого распространения загадочных ценных бумаг – кредитных деривативов, предоставлявших кредиторам страховку на случай неплатежеспособности должников. Их выпускали частным образом, не привлекая внимания регуляторов фондового рынка, а иногда и не слишком включая мозги менеджеров, ответственных за их выпуск»[13].
Кассано уж точно оказался одним из топ-менеджеров, не перегружавших мозги размышлениями о последствиях. И деривативы, и CDS принадлежат к числу сложных финансовых инструментов, разрабатываемых методами статистического и математического анализа, но, как позже выяснилось, на этот раз математика и статистика подвели. Если ипотечные заемщики оказывались неплатежеспособными, деривативы обесценивались и AIG сталкивалась с необходимостью выплачивать их держателям страховую стоимость ценных бумаг. Стоит ли говорить, что именно это и произошло?
Майкл Левис описал суть проблем подразделения AIGFP в журнале Vanity Fair[14]:
«Трейдеры AIGFP считают загадкой причины, приведшие их компанию к катастрофе. А начиналось все просто – с изменения процедуры принятия решений новым руководством. В конце 2001 года второй по счету генеральный директор компании Том Саваж ушел в отставку и на эту должность назначили его бывшего заместителя Джо Кассано. Саваж имел солидную математическую подготовку и хорошо разбирался в моделях оценки риска, применявшихся трейдерами AIG для гарантии получения достаточной компенсации. Кроме того, Саваж любил и часто проводил внутрикорпоративные обсуждения достоинств тех или иных моделей, а также сделок. Новый генеральный директор намного хуже разбирался в математике и не имел особого желания вести дискуссии по этим вопросам.
Кассано не слишком беспокоился о том, насколько точна оценка риска и адекватны ли модели, на основе которых она получена. Он не задавал лишних вопросов аналитикам AIG и Уолл-стрит, разрабатывавшим эти модели. Он просто продавал CDS всем, кто желал их купить. Мысль о том, что их цена рассчитана на основе неверных допущений, в частности о том, что люди, бравшие эти недорогие ипотечные кредиты, окажутся неспособны их выплатить, кажется, никогда не приходила ему в голову. И даже если приходила, то не слишком его беспокоила».
Развить в себе аналитические способности путем самостоятельных занятий очень сложно. Мы создали специальный сайт (http://keepingupwiththequants.weebly.com), где читатели могут задавать любые вопросы об аналитике, аналитических процедурах или трудностях, с которыми приходится сталкиваться при решении конкретных проблем. Не стесняйтесь обращаться туда со всем, что показалось непонятным. На сайте подробно проанализированы некоторые ситуации, описанные в этой книге. Периодически мы будем ссылаться здесь на этот сайт.
Глава 2
Формулирование проблемы
Хотя в мире существует множество разных видов количественного анализа, все они имеют некоторые общие черты и порядок проведения. Как мы уже говорили в главе 1, количественный анализ включает три основных этапа и шесть шагов.
Формулирование проблемы
• Определение проблемы
• Изучение предыдущих поисков решения
Решение проблемы
• Отбор переменных и разработка модели
• Сбор данных
• Анализ данных
Результаты и необходимые меры
• Демонстрация итогов и дальнейшие действия
В этой главе и в главах 3 и 4 мы рассмотрим по отдельности каждый этап и шаг, а также приведем несколько примеров количественного анализа, которые включают в себя все шесть шагов и показывают их отличительные особенности в той или иной ситуации. В конце каждой главы для иллюстрации шести шагов даны два примера, обычно один – из сферы бизнеса, а второй – из сферы общественных или личных отношений. Наша трехэтапная и шестишаговая методика выполнения количественного анализа не единственная в своем роде (например, существует методика анализа отклонений качества продукции «Шесть сигм», направленная на обеспечение уровня брака не выше 3,4 единицы на миллион единиц произведенной продукции), но мы думаем, что б
Шаг 1. Определение проблемы
Количественный анализ начинается с идентификации проблемы и подходов к ее решению. В анализе принятия решений этот этап называется
• обыкновенное любопытство (здравый смысл, наблюдение за событиями);
• опыт работы;
• потребность в решении либо действии;
• актуальные события, требующие внимания (сотрудника, организации в целом, нации);
• ранее проводившиеся исследования и уже существующие концепции;
• разработка проектов решений и анализ имеющегося и необходимого финансирования.
Заметим, что на этом этапе анализ как таковой пока отсутствует. Решение о проведении анализа часто принимают на основе интуитивных догадок. Особых доказательств их правильности не требуется. Главная цель количественного анализа в том и состоит, чтобы путем исследования массива данных проверить правильность интуитивной догадки. Аналитики отличаются от других людей именно тем, что тестируют свои предположения, используя массивы данных и аналитические процедуры.
На этапе формулирования проблемы самое главное – глубоко осознать, в чем ее суть и что делает ее актуальной. Именно правильный ответ на эти два вопроса позволяет не только оценить, что нам может дать ее решение, но и спланировать действия на последующих этапах.
Кто заинтересован в результатах?
Очевидно, что в наибольшей степени в результатах анализа заинтересованы менеджеры и те, кто принимает решение (владельцы бизнеса и менеджеры, ответственные за конкретные корпоративные вопросы). Тем не менее даже на этом этапе опытные количественные аналитики, имеющие представление о сути проблемы, процедурах принятия решений и возможных методах количественного анализа, могут оказать существенную помощь. Если не удается найти одного человека, разбирающегося во всех этих вопросах, надо создать группу, включив в нее тех, кто обладает необходимыми компетенциями.
Стоит серьезно задуматься: кто составит основной круг заинтересованных в результатах предполагаемого анализа и что они думают по поводу проблемы, для решения которой анализ проводится?
Если вы не можете ответить «да» на большинство приведенных вопросов, предполагаемый аналитический проект с самого начала под угрозой провала.
1. Знаете ли вы, кто именно из топ-менеджеров кровно заинтересован в результатах количественно-аналитического проекта?
2. Имеют ли они представление о проблеме и возможных вариантах ее решения?
3. Могут ли они предоставить необходимые ресурсы и внедрить преобразования, необходимые для успеха проекта?
4. Готовы ли они использовать аналитику и анализ данных в процессе принятия решений?
5. Соответствуют ли предлагаемая методика анализа и способы ее представления их традиционному образу мышления и методам принятия решений?
6. Предусмотрели ли вы меры для регулярного информирования и обратной связи с теми, кто заинтересован в результатах анализа?
Обладают ли они необходимыми полномочиями, чтобы предпринимать какие-либо действия на основе полученных результатов? Может быть, они не уверены в существовании проблемы, для решения которой разрабатывается аналитический проект? Можно ли их убедить в необходимости принятия мер, диктуемых результатами анализа?
Аналитики вообще склонны сразу переходить к выбору методики и способов анализа, не слишком задумываясь о тех, кто будет пользоваться результатами их труда. Чем больше они полагаются на свои аналитические навыки, тем меньше беспокоятся о распространении результатов и переходе к действиям.
Если вы убеждены, что вашему аналитическому проекту нужно внешнее руководство, то следует принять некоторые меры. Они, в частности, включают:
1) выявление всех заинтересованных в результатах анализа;
2) документирование их требований;
3) оценку и анализ интересов и сфер влияния тех, кто заинтересован в результатах анализа;
4) управление их ожиданиями;
5) принятие мер;
6) контроль результатов предпринятых действий и повторный анализ[15].
Анализ пользователей позволяет установить, кто является ключевыми лицами, принимающими решения, и достаточно ли убедительными окажутся для них результаты аналитического проекта. Даже наиболее корректный и точный аналитический подход окажется бесполезным, если его результаты не побудят к действиям тех, кто принимает решения. Иногда имеет смысл применить даже сомнительный с методологической точки зрения аналитический подход, если он окажется единственным средством убедить пользователей в достоверности полученных результатов.
Вот пример. Рон Дубофф возглавляет компанию по маркетинговым исследованиям и стратегиям Hawk Partners. Вообще говоря, он убежден в том, что количественный анализ полезен и продуктивен практически в любой ситуации. Но он давно уже понял, что некоторые топ-менеджеры не понимают, какие он дает возможности для изучения покупательских потребностей и пожеланий, и гораздо больше доверяют качественным методам изучения спроса, например методике целевых групп. Суть ее такова: отбирают небольшую группу фактических или потенциальных покупателей, которым предлагают ответить на несколько вопросов о продуктах компании, при этом наблюдая за их реакцией и фиксируя ответы. Дубофф считает, что целевые группы – это методологически сомнительный подход. Специалистам по маркетинговым исследованиям хорошо известно, что покупатели склонны говорить то, что интервьюеры хотят от них услышать. Так что если они утверждают, что им нравится продукт, это еще не означает, что они будут его покупать. Опытный руководитель исследования целевой группы в некоторой степени может сгладить эту проблему, но результаты опроса нельзя распространять на более широкую аудиторию. Тем не менее Дубофф считает, что хоть какое-то изучение лучше, чем никакого, и если топ-менеджер доверяет результатам опроса целевых групп и не доверяет результатам количественного анализа, то пусть будет целевая группа.
Подобным же образом те, для кого предназначены результаты анализа, могут помочь определить, как и в какой форме их представить в отчете. У всех разные предпочтения о том, как лучше преподносить количественные данные: кто-то предпочитает табличную форму, кто-то графики и диаграммы, а еще кто-то – текст, описывающий количественные закономерности. Очень важно выявить эти предпочтения на относительно ранней стадии. Если данные предназначены для компьютерной обработки (а такое бывает все чаще и чаще по мере полной или частичной автоматизации процедур принятия решений), то не имеет смысла разрабатывать идеальный формат визуального представления. Просто скормите компьютеру цифры, и это окупится!
Может оказаться, что те или иные аналитические подходы лучше других помогают вовлечь пользователей в процесс анализа. Например, в компании Cisco Systems при выборе метода прогнозирования было установлено, что статистические методы позволяют получить намного более точные и надежные прогнозы (мы приведем описание всех шести шагов этого проекта в главе 7). Некоторые топ-менеджеры сразу поддержали эту идею, но кое-кто сомневался, что прогноз окажется более качественным. Руководитель проекта Энн Робинсон решила применить поэтапный подход: каждые несколько недель появлялись новые результаты, которые немедленно сообщали всем заинтересованным. Такое постоянное предъявление новой порции результатов помогло пользователям осознать преимущества проекта и втянуться в его выполнение. В итоге даже наиболее скептически настроенные менеджеры убедились в том, что прогнозы, полученные с помощью статистических методов, надежнее, делаются быстрее и охватывают более широкий круг продуктов, чем при применении прежних качественных методов.
Сконцентрируйтесь на решении
Мы обнаружили, что фокусировать внимание на конкретных решениях, которые будут приниматься по итогам анализа, весьма полезно уже на этапе формулирования проблемы. Тому есть много причин. Во-первых, внимание к будущим решениям заставляет всех участников проекта помнить о том, что количественный анализ проводится не просто из любопытства, а с конкретной практической целью. Во-вторых, внимание к ключевым решениям помогает определиться с ключевым «потребителем» результатов анализа – человеком или группой людей, которые будут принимать решение на основе полученных результатов. В-третьих, если не удается определить, какие решения будут приняты по итогам, то возникает вопрос: целесообразно ли проводить исследование?
Вот как описывает переговоры с клиентом на этапе формулирования проблемы Майк Томпсон, SEO фирмы First Analytics. Клиент, представитель сети ресторанов, считал, что первоочередным вопросом для анализа должна стать рентабельность продуктов. Топ-менеджеры сети ресторанов хотели, чтобы First Analytics оценила, насколько рентабельно каждое блюдо в их меню. Майк разделяет мысль о том, что необходимо сосредоточиться на будущих решениях уже на этапе формулирования проблемы, поэтому он спросил, какие решения его собеседники собираются принять по итогам анализа рентабельности. Последовало долгое молчание. Один менеджер предположил, что ключевым должно стать решение о том, оставить ли блюдо в меню. Но другой отметил, что за последние двадцать лет в их ресторанах не было случаев исключения блюд из меню. После короткой дискуссии представители клиента пришли к выводу, что в фокусе анализа должна быть не рентабельность, а цена блюд. «Мы периодически меняем цены на протяжении всего времени существования», – заявил один из менеджеров.
Какой проект количественного анализа вам нужен
Если вы определили, какие решения собираетесь принимать, можно переходить к следующему этапу анализа – изучению предыдущих попыток решить проблему. В главе 4 мы поговорим о том,
Проект CSI: полиция Майами. Некоторые проекты количественного анализа напоминают детективные телесериалы, только в них вопросы бизнеса «расследуются» методами количественного анализа. Обнаруживается определенная проблема, и анализируются данные, для того чтобы удостовериться в правильности ее идентификации и найти пути решения. Часто в такой ситуации не нужен углубленный статистический анализ – достаточно корректно подготовленных и представленных данных. В интернет-магазинах, например, каждый щелчок покупателя мышью несет в себе огромное, иногда даже слишком, количество информации для анализа.
Одним из главных действующих лиц в нашей «следственной истории» станет Джо Меджибов – вице-президент и SEO онлайнового туристического агентства Expedia из США. Когда-то Джо был специалистом по веб-аналитике. Он и сейчас им остается, и его подходы к решению бизнес-проблем на основе количественного анализа данных привели к нескольким блестящим решениям.
Во многих онлайновых исследованиях Expedia возникал вопрос о том, почему транзакции по некоторым заказам не завершаются. В частности, руководство отеля хотело выяснить, почему уже в процессе оформления заказа не удается довести дело до перечисления средств на счет компании. Анализ данных показал, что после выбора отеля и заполнения формы с данными о сроках путешествия и стоимости номера, а затем щелчка по кнопке «Оплатить сейчас» часть транзакций оказываются незавершенными. Группа аналитиков под руководством Меджибова решила разобраться в причинах неудач, используя систему показателей интернета и лог-файлы операций, хранящиеся на сервере.
Очевидно, проблемы возникали из-за поля «Компания», размещенного под полем фамилии клиента. Некоторые клиенты считали, что в нем надо указать название банка, эмитировавшего их кредитную карту, а в поле «Адрес, на который будет направлен счет» указывали адрес этого банка. В результате в процессе списания средств с карты клиента операция отменялась как некорректная. После того как поле «Компания» просто убрали из формы, прибыль Expedia возросла на 12 миллионов долларов. Меджибов говорит, что специалисты Expedia расследовали несколько таких историй, и это всегда либо приносило фирме дополнительную прибыль, либо эффективность операционной деятельности повышалась.
Иногда расследование требует более глубокого статистического и количественного анализа. Один из сотрудников Меджибова изучал вопрос о том, какие точки взаимодействия с покупателями важнее всего для стимулирования продаж. Аналитик использовал
Проект «Эврика!». Проекты этого типа напоминают проекты CSI, но только целенаправленно подходят к выявлению и решению проблемы в отличие от ситуаций, когда трудности возникают неожиданно. Обычно рассматриваются проблемы, порождаемые глобальными переменами в стратегии компании или ее бизнес-модели. Как правило, такие аналитические проекты требуют больше времени для реализации и предполагают больший объем статистического и математического анализа. Иногда проекты типа «Эврика!» включают в себя элементы проектов других видов, поскольку ожидаемые результаты очень важны для заказавших анализ организаций.
Вернемся к анализу в компании Expedia. Встретился там и проект типа «Эврика!», когда требовалось отменить штрафы за перенос сроков и отмену бронирования номеров в отелях, туров и автомашин. До 2009 года Expedia и ее конкуренты взимали до 30 долларов за перенос сроков или отмену брони – в дополнение к соответствующим санкциям со стороны отелей. При заказе отеля через Expedia или другие онлайновые агентства номер обходился клиентам значительно дешевле, чем при заказе непосредственно в отеле, поэтому они мирились со штрафами за перенос или отмену заказа. Но к 2009 году стало ясно, что это превратилось в проблему. Стоимость номера при заказе через Expedia существенно приблизилась к расценкам самих отелей, поэтому Expedia сделала упор на удобство обслуживания, а штрафы за перенос и отмену бронирования стали неудобны. Аналитики изучили коэффициенты удовлетворенности клиентов, и оказалось, что у тех, кому пришлось платить этот штраф, уровень удовлетворенности существенно ниже. Сотрудники колл-центра Expedia имели право отменить штраф только по одной причине – в случае смерти кого-либо из членов семьи клиента. Темпы роста численности освобожденных от штрафа по этой причине за последние три года составляли двузначную цифру. То ли в это время свирепствовала эпидемия с высоким процентом смертельных исходов, то ли клиенты поняли, что это единственный способ вернуть свои деньги.
Топ-менеджеры агентства поняли, что на рынке туристических услуг произошли существенные изменения, но штрафы за отмену и перенос сроков бронирования составляли значительную часть общей выручки. Возник вопрос, как поведет себя коэффициент перехода контактов в продажи (то есть процент оплативших номер по отношению к числу приславших заявку), если отменить эти штрафы. В апреле 2009 года Expedia объявила о временном (сроком на месяц) моратории на штрафы за перенос сроков и отмену бронирования (в чем-то похоже на историю об эксперименте сумасшедшего ученого, описанную ниже). Коэффициент перехода контактов в продажи существенно вырос. Топ-менеджеры поняли, что получено достаточно доказательств того, что отмена штрафов целесообразна, и очень скоро примеру Expedia последовали другие компании отрасли.
В центре Сиэтла находится штаб-квартира компании Zillow, предоставляющей информацию о жилой недвижимости в регионе. Вероятно, эта компания известна в среде квантов прежде всего благодаря разработанному ее сотрудниками алгоритму Zestimates, позволяющему рассчитать стоимость объектов недвижимости. Но, как и в Expedia, корпоративная культура Zillow построена на культе данных и аналитики, что и неудивительно, поскольку основателем обеих этих компаний является Рик Бартон.
Один из проектов типа «Эврика!» посвящен глобальной проблеме: реорганизации отношений с агентами по недвижимости. Zillow начала работать с агентами по недвижимости в 2008 году, а до этого взаимодействовала непосредственно с покупателями. Особенность бизнес-модели, построенной на работе с агентами, в том, что компания рекламирует своих агентов и направляет к ним потенциальных покупателей. За каждого покупателя с агента взимаются комиссионные, но, с точки зрения топ-менеджеров, их размер недостаточен. Директор Zillow по продуктам и стратегии Хлоя Харфорд особенно заинтересована в разработке адекватной модели оптимизации комиссионных за направленных к агентам покупателей.
Харфорд, получившая ученую степень по вулканологии, уже проводила довольно сложные математические анализы раньше. Тем не менее она и ее коллеги первоначально полагалась на методы, которые называли «расчетами на салфетке», чтобы оценить другие пути, позволяющие привлечь больше потенциальных покупателей и установить справедливые комиссионные с агентов. В апреле 2010 года Zillow внедрила новую модель взаимоотношений с агентами, немедленно скопированную конкурентами и включавшую помимо прочего продажу рекламных услуг агентам. В результате поток контактов с потребителями резко возрос, причем они были переключены непосредственно на агентов. Zillow также внедрила интеллектуальный алгоритм расчета комиссионных за потенциальных покупателей с учетом их экономической стоимости и коэффициента перехода контактов в продажи. Конкуренты в той или иной степени старались повторить эти новшества, но не в таком объеме, как Zillow. Контакты потенциальных покупателей и определение комиссионных за их направление к агентам настолько важны для Харфорд и ее коллег, что постоянно тестируются различные подходы к их оценке, в том числе и с использованием методов, описанных в истории о безумном ученом. Коротко говоря, проекты «Эврика!» тесно связаны с моделью бизнеса компании и ее коммерческим успехом.
Проект «Сумасшедший ученый». Мы знаем, как широко распространены научные эксперименты в высокотехнологичных отраслях, например фармацевтической. Производящие лекарства компании тестируют продукты на целевых и контрольных группах, давая членам последних плацебо (лекарства-«пустышки», вещества без лечебных свойств). Они уделяют огромное внимание соблюдению случайного метода распределения участников между целевой и контрольной группами, чтобы их состав был однородным и не влиял на оценку эффективности лекарства. Этот действенный аналитический прием делает возможным причинно-следственный анализ и распространение выводов, сделанных на основе данных, полученных в целевой группе, на генеральную совокупность.
Строгий эксперимент больше не является прерогативой одних только ученых; сейчас он стал аналитическим приемом, необходимым каждой крупной компании. Сейчас широко распространено программное обеспечение, помогающее менеджерам и аналитикам проводить анализ. Компании получили возможность принимать решения на основе строго научных экспериментов. В прошлом любое вторжение в область рандомизированного тестирования (случайного распределения участников целевой и контрольной групп, о котором мы только что говорили) требовало приглашения дипломированного специалиста по статистике или по разработке научных экспериментов. Теперь магистр делового администрирования, прошедший курс статистического анализа, вполне может организовать процесс с помощью нужного программного обеспечения, помогающего определить численность целевой и контрольной групп, сайты для тестирования и контроля, а также сделать оценку статистической значимости любых отклонений, выявленных в ходе эксперимента.
«Проекты сумасшедших ученых» особенно удачно подходят для розничных сетей с многочисленными супермаркетами, банков с множеством отделений и других подобных компаний. Это упрощает использование части торговых точек или отделений в качестве целевых, а остальных – в качестве контрольных. Стало легко проводить эксперименты на сайтах, где часть посетителей можно направить на одну версию интернет-страницы, а вторую часть – на другую ее версию, а потом проверить, окажутся ли результаты существенно отличными (это называется
Некоторые примеры «проектов сумасшедших ученых» приведены ниже[17].
• Способствует ли установка аквариумов с живыми омарами их продажам в супермаркетах Food Lion? Видимо, ответ будет утвердительным, если покупатели этого супермаркета уже привыкли покупать здесь омаров (то есть принадлежат к группе лиц со сравнительно высокими доходами), и отрицательным, если обеспеченные покупатели не заходят сюда.
• Увеличится ли общая выручка супермаркета Kmart, если часть его торговых площадей отвести под магазины супермаркета Sears? Председатель совета директоров компании Sears Holdings Эдди Ламперт является большим поклонником рандомизированного тестирования. Он протестировал различные комбинации использования торговых площадей. На этот конкретный вопрос у нас ответа нет, но можно предположить, что если бы он был положительным, то таких комбинированных супермаркетов было бы гораздо больше.
• Какие из сети ресторанов морепродуктов Red Lobster (с высоким, средним или низким уровнем цен) обеспечивают максимальный объем продаж и что важнее для привлечения клиентов: внешний вид ресторана или его внутренняя отделка? Топ-менеджеры Red Lobster утверждают, что наибольшие продажи обеспечивают рестораны средней ценовой категории. Внешний вид ресторана играет очень большую роль в привлечении новых клиентов, но если они увидят, что его внутренняя отделка не соответствует внешнему виду, то второй раз в этот ресторан не придут.
Проект «Опрос». Опросы – это классический метод количественного анализа. Аналитики, проводящие их, имеют дело с уже произошедшими или происходящими в данный момент событиями. Аналитик не пытается повлиять на результаты, он только наблюдает, классифицирует и анализирует их. В типичном случае интервьюер стремится выявить статистически значимую зависимость между рядом исходных и рядом изучаемых факторов или переменных. Самый простой пример – опрос в выборке покупателей конкретного продукта об их личных характеристик, в том числе демографических (возраст и пол). Задавая вопросы о том, какие продукты они предпочитают, можно выяснить, пользуется ли конкретный продукт спросом в большей степени у мужчин, чем у женщин, будут ли определенные продукты пользоваться спросом преимущественно у молодых покупателей.
Опросы весьма популярны и несложны с точки зрения организации и проведения. Однако следует помнить, что полученные результаты могут существенно отличаться в зависимости от постановки вопросов и изменения их формулировок с течением времени. Например, Бюро переписи населения США десятилетиями работает над формулировкой вопроса о национальной принадлежности граждан. Количество вариантов ответа на этот вопрос постоянно увеличивается; в 2010 году предлагалось выбрать из пятнадцати вариантов, в том числе «другая национальность». Этот ответ пользовался большой популярностью среди граждан США – латиноамериканцев: 18 миллионов из более чем 50 миллионов отметили именно его[18]. Если уж вопрос о национальности вызывает столько сомнений, то что говорить о таких скользких темах, как политика, религия, социальный статус или сексуальные привычки!
Кроме того, нам следует помнить, что сама по себе связь между двумя переменными еще не говорит о ее причинно-следственном характере. Мы поговорим об этом подробнее в главе 6, а пока просто отметим, что вполне могут существовать и другие переменные, оставшиеся за рамками анализа; именно они, возможно, обусловливают выявленную зависимость. Опросы предполагают выяснение убеждений или отношений людей к тем или иным событиям, но их вопросы не должны задевать эмоции интервьюируемых. Рассмотрим в качестве классического примера (приводимого во многих учебниках по статистике) устроенный во время Второй мировой войны опрос об организации ремонта самолетов.
Во время Второй мировой войны нужно было обеспечить максимально длительное функционирование самолетов, поэтому было решено выяснить, можно ли сократить количество трудоемких ремонтов моторов без роста аварийности. Был проведен ретроспективный опрос о самолетах, потерпевших катастрофу, и вопреки всем ожиданиям оказалось, что количество аварий из-за проблем с моторами достигало максимума непосредственно после ремонтов, а затем постепенно снижалось. В результате было принято решение существенно удлинить интервалы между ремонтами и, естественно, пересмотреть их характер, чтобы убедиться в том, что все гайки и болты затянуты как надо[19].
Если вы планируете провести опрос или проанализировать его результаты, сначала убедитесь, что смысл включенных в анкету вопросов, равно как и отобранных для анализа переменных, тщательно продуман. Переменной называется любая количественно измеримая характеристика параметров людей, ситуаций или поведения с двумя или больше уровнями или вариантами значений. Пол, балл на экзамене, температура в помещении, любовь, счастье, сплоченность команды – все это примеры переменных.
Кроме того, важно убедиться, что выборка для опроса репрезентативна для той группы населения, которую вы собираетесь тестировать. Способы проведения опроса могут повлиять на результаты. Например, если хотите изучить поведение молодежи или ее отношение к чему-то, не стоит нанимать маркетинговую компанию, проводящую опросы исключительно по стационарным телефонам. Да, это стандартный способ их проведения, но мы ведь знаем, что у многих молодых людей просто нет стационарных телефонов, да они и не собираются ими обзаводиться. В результате выборка для молодежи будет нерепрезентативной[20].
Проект «Предсказание». Все проекты этого вида имеют целью прогнозирование того, что должно произойти в будущем. Получить надежную информацию о грядущих событиях довольно трудно, но если речь идет о прошлых событиях и их причинах, то для количественного аналитика это несложно. Обычно проекты такого рода относятся к предсказательной аналитике или предсказательному моделированию.
Проекты вида «Предсказание» весьма разнообразны. Приведем некоторые ситуации, в которых они целесообразны.
Существует много других вариантов того, как можно применить результаты предсказательного анализа. В бизнесе чаще всего нужно определить, какое именно коммерческое предложение, скорее всего, примет потребитель. Более сложные варианты анализа «следующего по привлекательности предложения» все чаще проводятся с помощью прикладного программного обеспечения. Во-первых, содержание коммерческих предложений нужно хранить в тайне, пока не наступит время довести его до потребителя; во-вторых, таких предложений могут быть сотни и даже тысячи.
Например, Microsoft, как мало кто другой, постоянно разрабатывает все новые усовершенствования для своей поисковой системы Bing (поисковик бесплатный, поэтому компания старается таким образом просто привлечь как можно большее количество пользователей). Эти новшества побуждают вас испробовать предлагаемый поисковик, ввести панель инструментов Bing в браузер, испытать дополнительные свойства Bing и т. п. Модификация поисковика в соответствии с предпочтениями пользователя производится по разным параметрам: возраст, место жительства, пол, часто посещаемые сайты и т. п., определяемым на основе
Зачастую проекты вида «Предсказание» весьма напоминают ловлю рыбы сетью. Мы точно не знаем, какие именно факторы позволят сделать обоснованный прогноз, поэтому тестируем все и отбираем те, которые срабатывают. Иногда это дает неожиданные результаты. Например, в ситуации с усовершенствованием поисковика Bing, о котором мы только что рассказали, оказалось, что в зависимости от количества контактов пользователя в Microsoft Messenger можно с уверенностью предсказать, захочет ли он использовать Bing.
Google поставила цель выяснить, какими особенностями отличаются наиболее эффективные сотрудники компании. Анализ показал, что те критерии, на которые компания обращала внимание изначально, – диплом университета и рейтинг по итогам собеседования – практически бесполезны при прогнозировании будущей эффективности работы. Поскольку неизвестно было, какие критерии окажутся более надежными, сотрудникам предложили заполнить анкету из трехсот вопросов. Как отметил начальник отдела персонала Google Ласло Бок, «мы решили забросить очень широкую сеть. В нашей компании нет ничего необычного в том, чтобы выйти в коридор и наткнуться на человека с собакой. Может быть, у владельцев собак есть общие черты характера, говорящие об их творческих качествах?»[22]
Вряд ли привлечение собак к прогнозированию даст какой-либо результат, но Google все же удалось найти некоторые неожиданные критерии. Например, если претендент на рабочее место ставил мировые или национальные рекорды в любой области, учреждал некоммерческую организацию или клуб, то чаще всего он оказывался высокоэффективным работником. Сейчас Google включил вопросы об этом в свои онлайновые анкеты для претендентов на вакансии.