Глокальность оценки

1-5 июня Всемирный банк проводит очередную Глокальную неделю оценки. Прилагательное «глокальный» - гибрид слов «глобальный» и «локальный». Глокальная неделя призвана напомнить профессиональному сообществу специалистов в области оценки, что, с одной стороны, международные тренды в теории оценки влияют на ее практику на местном уровне, а с другой стороны, осмысление местного опыта оценки влияет на развитие теории оценки в глобальном масштабе.

В 1980-е, когда я изучала экологию и устойчивое развитие, одним из лозунгов в области окружающей среды было: «Мысли глобально, действуй локально». Сегодня этот лозунг дошел и до оценки проектов и программ. Например, в рекомендациях по применению новых критериев КСР ОЭСР указано, что хотя критерии задуманы как универсальные, то есть, по сути глобальные, на практике они должны быть интерпретированы в случае каждой конкретной оценки с учетом ее контекста, то есть, локализованы. А в рамках подхода Blue Marble evaluation (оценки в масштабе Земного шара), предложенного Майклом Пэттоном, важными критериями оценки являются глобальность, который измеряет действительно ли проект работает в глобальном (планетарном) масштабе, и соответствие действий в рамках проекта на локальном уровне его глобальной задаче.

Новые критерии оценки

В декабре прошлого года Комитет содействия развитию Организации экономического сотрудничества и развития (КСР ОЭСР), также широко известный по своей английской аббревиатуре OECD-DAC, принял обновленный набор критериев оценки. Новая версия критериев стала результатом широкого обсуждения среди специалистов в области оценки. Любопытно, что специалист Комитета, представляя новые критерии на недавнем вебинаре, специально подчеркнула, что на новые формулировки критериев в значительной мере повлияла Повестка 2030, определяющая цели в области устойчивого развития (ЦУР). Примеры такого влияние – усиление фокуса на благополучателей при описании критерия «Актуальность», появление критерия «Согласованность», который анализируем «совместимость» оцениваемого проекта с другими проектами, реализуемыми в том же секторе, и указание на то, что нужно анализировать результаты проекта для разных групп заинтересованных сторон, при описании критерия «Результативность».

Момент, который мне очень понравился в описании того, как надо применять критерии, – это принцип осознанности, вдумчивости. Критерии нельзя применять механически, в случае каждой оценки нужно учитывать ее контекст и потребности заинтересованных сторон.

Ниже привожу сокращенный перевод описания новых критериев на сайте КСР ОЭСР. С полной версией – на английском – можно познакомиться на сайте организации: DAC criteria

Зачем нужны критерии оценки

Критерии нужны, чтобы можно было определить ценность оцениваемого проекта, программы или другой интервенции. Каждый критерий представляет собой особый угол зрения, под которым можно рассматривать интервенцию. А в совокупности критерии дают возможность получить комплексное представление о процессе реализации и результатах проекта или программы.

Критерии также выполняют роль нормативов. Они описывают характеристики, которыми должны обладать проекты и программы: все проекты и программы должны соответствовать условиям своей реализации, быть согласованными с другими программами и проектами, достигать ожидаемых результатов, рационально использовать выделенные ресурсы и иметь позитивное долгосрочное влияние.

Критерии используются не только при проведении оценки, но и при планировании интервенций и в целом в рамках управления по результатам.

Как нужно использовать критерии оценки

При применении критериев нужно придерживаться следующих принципов:

1. Критерии нужно применять осознанно, вдумчиво. Это позволит обеспечить высокое качество оценки. Критерии нужно обязательно интерпретировать в контексте конкретной оценки с учетом особенностей оцениваемого проекта и его заинтересованных сторон. Основой для интерпретации критериев служат вопросы оценки и то, как будут использоваться ответы на них.
2. Использование критериев зависит от назначения оценки. Критерии нельзя применять механически. Нужно учитывать потребности заинтересованных сторон и контекст оценки. Количество времени и ресурсов, выделяемых на анализ каждого критерия, может меняться в зависимости от назначения оценки. Доступность данных, ограничения по объему имеющихся ресурсов и времени, методологические соображения – все это может влиять на решение, какие критерии оценки использовать в конкретном случае.

Критерии – определение

Актуальность – соответствие целей и дизайна проекта или программы потребностям благополучателей, а также международным и национальным политикам, приоритетам и потребностям и политикам, приоритетам и потребностям организаций партнеров. Цели и дизайн проекта или программы должны быть актуальными как на момент разработки проекта или программы, так и в процессе их реализации, даже если условия этой реализации меняются.

При анализе актуальности проекта или программы нужно рассмотреть наличие возможных конфликтов между приоритетами различных заинтересованных сторон. Также нужно проанализировать, как менялись условия реализации проекта или программы, и как при этом изменялся сам проект или программа, чтобы сохранить актуальность.

Согласованность/ гармоничность – совместимость проекта или программы с другими проектами или программами, которые реализуются в данной стране, секторе или организации.

В ходе оценки нужно проанализировать, в какой степени данный проект или программа способствуют или, наоборот, мешают реализации других проектов, программ и политик. Есть внутренняя и внешняя согласованность. Анализ внутренней согласованности предполагает рассмотрение наличия синергии между оцениваемой интервенцией и другими интервенциями данной организации или правительства, а также с международными нормами и стандартами, которых данная организация или правительство придерживаются. Анализ внешней согласованности предполагает рассмотрение степени гармонизации, скоординированности, отсутствия дублирования или, наоборот, наличия противоречий и дублирования между оцениваемой программой или проектов и программами и проектами других организаций, работающих в том же секторе.

Результативность – степень достижения ожидаемых результатов и наличие различных результатов для различных групп. При анализе результативности необходимо учитывать степень значимости тех или иных результатов.

Рациональность использования ресурсов – насколько экономно и своевременно использовались выделенные ресурсы для получения результатов. Анализ экономичности предполагает сравнение реальных затрат на получение результатов с затратами, которые бы возникли при других, альтернативных способах получения таких же результатов. Анализ своевременности предполагает сравнение фактических и запланированных сроков реализации проекта или программы с учетом их адаптации к меняющимся условиям.

Влияние – в какой степени проект или программа привели или могут привести к заметным позитивным или негативным запланированным или незапланированным результатам высокого уровня.

При анализе влияния нужно рассматривать значимость и потенциальные трансформационные эффекты проекта или программы: социальные, экологические и экономические. Эффекты могут включать изменение в существующих системах и нормах, которые приводят к изменению уровня благосостояния людей, степени соблюдения прав человека, гендерного равенства и качества природной среды.

Устойчивость – как долго сохранятся или могут сохраниться позитивные результаты проекта или программы.

Анализ устойчивости предполагает рассмотрение финансового, экономического, природного и институционального потенциала систем, на которые воздействовал проект или программа, с точки зрения того, насколько эти системы смогут обеспечить сохранение позитивных результатов проекта с течением времени. 

Простой анализ эффективности использования ресурсов

Разбирала старые материалы по оценке эффективности, и нашла описание – на русском – симпатичного метода для оценки эффективности использования ресурсов. (Сейчас уже и не вспомню, когда и для чего делала это описание.) Метод, который представляет собой упрощенный вариант анализа затрат и полученных результатов, был разработан Брайаном Кугельманом и Евой Отеро для сравнительного анализа эффективности отдельных компонентов адвокационной кампании, посвященной вопросам изменения климата, британской некоммерческой организации Oxfam. Он так и называется - простой анализ эффективности использования ресурсов (Basic efficiency resource analysis).

Метод предполагает определение субъективной оценки заинтересованными сторонами объема ресурсов, выделенных различным подразделениями или на различные направления работы, и размера результатов, полученных этими подразделениями или этими направлениями. Затем полученные оценки накладываются на следующую матрицу (модель):

Процесс начинается с определение единицы анализа – это может быть структурное подразделение или компонент проекта – и составления перечня этих единиц. Делается это на основании анализа проектной документации или данных, собранных с помощью полуструктурированных интервью с заинтересованными сторонами, либо обоих этих источников информации одновременно. Полученный перечень единиц анализа необходимо согласовать с заказчиком. Если у проекта много компонентов, то для экономии сил и времени можно ограничиться анализом только самых важных компонентов.

Например, для адвокационной кампании Oxfam Кугельман и Отеро выделили следующие компоненты:

• Построение коалиций;
• Лоббирование;
• Работа со СМИ;
• Коммуникации в социальных сетях;
• Научные публикации.

Следующий шаг – составление так называемой карты заинтересованных сторон. Она представляет собой полный список заинтересованных сторон с указанием, относительно работы каких компонентов программы или каких структурных подразделений можно получить информацию у представителей той или иной заинтересованной стороны.

Далее нужно принять решение, по каким параметрам будет измеряться объем использованных ресурсов и размер полученных результатов по каждому компоненту. Примеры параметров, которые можно использовать, приведены ниже:

Параметры для определения объема использованных ресурсов	Параметры для определения размера полученных результатов
Бюджет (субъективная оценка респондентов или реальный) Число сотрудников Уровень квалификации сотрудников	Как часто ключевое понятие упоминается в принятой политике Число публикаций Число участников мероприятий Субъективная оценка влияния компонента Измеряемые изменения в законодательстве и нормативной базе

Сбор данных для оценки объема использованных ресурсов и размера можно проводить как методом полуструктурированных интервью, так и методом опроса. В первом случае полученную качественную информацию нужно будет обработать, используя следующий инструмент:

Компонент	Оценка объема использованных ресурсов	Оценка размера полученных результатов
Компонент А	Ниже среднего Средний Выше среднего Респондент затруднился ответить	Ниже среднего Средний Выше среднего Респондент затруднился ответить

При проведении опроса Кугельман и Отеро рекомендуют использовать шестиступенчатую шкалу Ликкерта. Ниже приведен пример того, как может выглядеть анкета для участников опроса:

Вопрос 1. Насколько вы согласны с тем, что организации В удалось добиться изменения законодательных и нормативных актов благодаря указанным ниже действиям?

Действие	1 Совершенно не согласен	2	3	4	5	6 Совершенно согласен	Затрудняюсь ответить
Кампания в социальных сетях
Научные публикации
Лоббирование

Вопрос 2. Для реализации данных действий организация использовала различные ресурсы: финансовые средства, время, силы, знания и навыки сотрудников. На ваш взгляд, сколько ресурсов организация В использовала для осуществления указанных ниже действий?

Действие	1 Слишком мало	2	3	4	5	6 Слишком много	Затрудняюсь ответить
Кампания в социальных сетях
Научные публикации
Лоббирование

Использование шестиступенчатой шкалы вынуждает людей более тщательно обдумывать свои ответы, а также упрощает проведение дальнейшего анализа. Полученные данные можно разделить либо на две категории (мало (1-3) или много (4-6)), либо три (мало (1-2), средне (3-4), много (5-6)).

При возможности данные, полученные в ходе интервью и опроса полезно сравнить с количественными характеристиками использованных ресурсов и полученных результатов, потому что субъективная оценка заинтересованных сторон может быть существенно искажена. Но, как отмечают Кугельман и Отеро, можно ограничиться и только субъективными данными.

Кугельман и Отеро предложили несколько вариантов графического представления данных для сравнительного анализа компонентов программы:

1. Квадранты (вверху). Данный вариант позволяет наглядно показать относительное количество использованных ресурсом и полученных результатов по разным компонентам проекта.
2. Столбчатая диаграмма (внизу). Она позволяет сравнить эффективность различных компонентов.

Описанный метод анализа эффективности использования ресурсов позволяет выделить компоненты проекта, которые работают с эффективностью выше и ниже среднего. Авторы метода рекомендует рассматривать результаты анализа как отправную точку для обсуждения работы компонентов программы и факторов, которые на нее влияют. Они отмечают, что низкая эффективность может быть связана с тем, что данный компонент работает в неблагоприятных условиях, а высокая эффективность может связана с благоприятными внешними условиями.