影响力评估|影响力评估的十大误区( 二 )


类型2
未做就评:评估的时机尚不成熟
2、 项目设计不到位 。
运用变革理论是设计一项监测或评估的第一步 。变革理论说明的是一个项目应该包含哪些内容、需要完成哪些工作 , 以及因此而预期产生哪些改变 。没有类似的梳理 , 执行人员就无法对如何运作项目、为什么要这么做形成清晰的理解 , 而这可能导致执行当中出现巨大的偏差 。如果在变革理论中的关键假设经过检验之前就开展大规模影响力评估 , 很可能产生误导和对如何解读结果的意见不一 。
替代办法:对变革理论中的基本步骤进行验证是影响力评估开展前的关键 。以一个通过向准妈妈传播儿童健康发育和营养信息 , 来改善产前护理成果的项目为例 , 如果在尚未了解准妈妈们是否会出席培训、采纳推荐的做法之前就开始影响力评估 , 那就毫无意义 。因此 , 首先要确保的就是项目得到基本的参与 。
如果一个变革理论尚在搭建的过程中 , 那么要做的显然是围绕该项目搭建理论 , 根据项目执行的每个步骤来检验做出的相应假设 , 并收集数据进行测试 , 接着是收集项目执行和使用的监测数据 , 最后才是影响力评估 。
3、 项目执行不给力 。
如果发现一个执行不力的项目缺乏影响力 , 这样的评估是很难说清楚的 。这一发现是执行不力的结果呢 , 还是因为内乱以及其他外部因素的干扰?不管怎样 , 如果项目的执行情况不给力 , 那么此时进行影响力评估实为不妥 。
替代办法:采集优质的监测数据 , 并将其用于项目执行情况的改善 。评估者可以与项目领导者合作来改善执行情况 , 也可以决定某一组织并不适合进行影响力评估 。
4、为时已晚 。
对影响力评估的渴望常常出现在一个项目已经扩大规模且无继续扩张的计划之时 。然而 , 此时可能为时已晚 。
替代办法:为将来的扩展制订计划 。这一项目会在其他地方扩大规模吗?如果会 , 那么可以考虑影响力评估是否可行 。此外 , 如果这一项目随着非营利组织的学习与改进已经发生了很大的变化 , 那么影响力评估可能正当其时 。
类型3
力不从心:没有足够的能力完成评估
5、 没有足够的资源 。
资源受限会从两个方面影响评估的质量:项目规模可能太小 , 或者资源太少以至于无法进行高质量的评估 。
替代办法:如果你的规模有限 , 就不要试图勉强回答关于影响力的问题 , 而是去考虑一下其他的选择 。因为你面对的百思特网问题多半在别处已经有了答案 。通过查阅文献可以了解其他相关领域的评估对此有何回应 。如果资金有限 , 非营利组织需要重新考虑成本的构成 。数据的获取是评估的一项主要花费 。而随机对照试验的随机部分实际上是没有成本的 。
6、 无法确定项目的间接影响 。
许多项目都包含对项目变革理论至关重要的间接影响 。例如:一个农业信息干预项目在教授农民新科技的同时 , 期待他们把所学在邻里家族中分享 。正确衡量这些间接影响对于理解一个项目真正的影响力非常重要 。
替代办法:对项目间接影响的评估可以是高质量评估的一个重要组成部分 。在考虑如何应对间接影响的时候 , 首先应当回顾现有的文献和理论来预测这些要素的重要性 。
7、项目环境有太多变数 。
有些情境不适合开展影响力评估 。例如 , 很多救灾行动随着形势的变化必须不断地进行调整 。此时 , 严格遵照设计方案执行会增加成本 , 影响项目执行的质量 。
替代办法:追踪项目执行情况 , 并收集其他可用于强化项目的管理数据 。例如 , 可以考虑是否存在有价值的操作性问题 。一些操作性测试可以帮助改进执行情况 , 例如:通过短信提醒服务对象是否会影响其短期行为?
8、 执行层级“高不可攀” 。
试想一下货币或贸易政策 。这类改革通常发生在国家层面 , 在全国范围内进行政策的随机对照试验显然是不可行的 。同样 , 政策倡导运动常常瞄准国家或地区等较高层级 , 因此也不容易进行影响力评估 。
替代办法:预期政策如何变化的清晰理论是关键所在 。然后就是追踪执行情况 , 获取反馈信息 , 并收集管理数据 , 以显示该理论所暗含的变化是否如期发生 。