Step1 ロジックモデルをつくる
ロジックモデルとは、どのような資源を投入し、どのような活動を行って、どのような社会的成果を生み出すかという事業の流れを示したものです。
ロジックモデルのフレームとしては下図のようになっています。
Step2 評価するアウトカムを考える
①評価するアウトカムに優先順位を付ける
全てのアウトカムを測定するのは現実的ではなく、より重要なアウトカムは何かを考える必要があります。作成したロジックモデル上のアウトカムを見て、優先順位を付けましょう。アウトカムの測定にかかるコストなどにも考慮し、根拠を持った順位付けをする必要があります。
②測定可能な段階の指標を選ぶ
最終アウトカムを測ることができればベターですが、ひとつの団体やひとつの活動だけでは達成できない状態を最終アウトカムとしている場合は、その状態を小さく要素分解して指標を検討しましょう。
中間アウトカム、初期アウトカムなど、手前にあるアウトカム指標で測る方法もあります。
Step3 アウトカムの測定方法を決める
①成果の評価指標を考える
評価したいアウトカムが決まったら、それを測定するための指標も考えましょう。どのようなデータが取得できれば、成果を実現したと判断できるでしょうか?また、データには定量的なもの(例:サービスの利用者数、満足度など)と定性的なもの(例:そのサービスがもたらした変化は何か)があり、区別が必要です。
②測定方法を考える
代表的な測定方法には下記のようなものがあります。
① 統計、文献、既存資料のレビュー
② 観察
③ 測定/テスト
④ 質問標(アンケート)
⑤ インタビュー調査
⑥ フォーカス・グループ・ディスカッション
⑦ ワークショップ
Step4 評価のデザインを決める
調査の設計表:ワークシート
検討したアウトカムと、データ取得方法に基づいて、データ収集についての計画を立案します。
Step5 データを収集する
●データは全て自団体が収集するのではなく、協力団体や行政等からのデータを活用することも検討し、できるだけ効率的な評価を行います。
●サンプル数については、可能な限り多い方が統計分析等については有効ですが、実行可能性や調査の工数、現場への負荷を考えて、サンプル数を設定します。
●質問紙での調査に変えて、Google Form等を使ったオンラインでの調査も有用です。
●アウトカムデータに合わせて、調査対象の属性データを取得することも重要です。年齢・性別性別・居住地・職業等の基礎的属性に加えて、プログラムへの参加頻度・参加時期・参加プログラムの種類・グループ別の属性データ等があると、データ取得後の分析に有用です。
●可能であれば、通常業務において取得しているデータベースを活用できるとよいでしょう。
Step6 データを分析する
分析手法の選び方
何を知りたいのか、何を伝えたいのか
●プログラムのインパクトはあったか
「差分の差」の分析
●プログラムの成果に影響があるものは何か(相関関係)
「クロス集計」「相関関係」
※「相関関係」≠「因果関係」
代表的な分析手法
「平均値による前後比較」「分散」「クロス集計」「セグメント分析」など
Step7 事業改善につなげる報告する
●分析結果をインパクトレポート(報告書)として作成します。外部の資金提供者への報告や、組織内部の経営者・職員全員が情報を共有に役立ちます。
●事業の進捗確認や課題に対応するための事業見直しにも活用できます。
●一般的には、以下のような項目を含むレポートを作成します。ただし、項目は、内部評価なのか、外部評価なのか、また評価の目的によって適切に調整します。
① 評価の目的
② 対象となる事業
③ 評価の手法とアプローチ
④ 評価の結果と得られた知見
⑤ 事業への提言
⑥ 参考文献