교육실험실21의 연구, 교육, 활동모습을 확인하실 수 있습니다.

연구활동


교육실험실21의 연구, 교육, 활동모습을 확인하실 수 있습니다.

기획연재저 잘하고 있습니까? (교육분야 소셜임팩트 측정 연구)

Gschool
2022-11-22
조회수 2771

'뉴욕시의 상징이 된 3선 시장'(폭스뉴스), '뉴욕시청의 거장 쇼맨'(뉴욕타임스), '뉴욕시를 위한 치어리더'(USA투데이). 78년부터 89년까지 뉴욕시장을 3회 연임한 애드 카치 전 뉴욕 시장을 칭하는 언론의 평가이다. 그는 에이즈와 노숙자, 범죄, 인종 갈등 등의 문제로 어려움을 겪던 뉴욕시의 시장으로 당선되어, 파산 직전의 뉴욕시 정부를 재정 붕괴 직전에서 벗어나게 했다(뉴욕타임스). 재임기간 동안 시민을 만나면 언제나 "제가 잘하고 있습니까?"하고 물어보는 것으로도 유명했는데, 거리에서 만나는 사람들에게 이런 질문을 던지는 것은 시장으로서 자신과 뉴욕시의 성과를 확인할 수 있는 직접적이고 효과적인 방법이었다.

애드 카치 시장과 같은 직접적인 방법이 아닐지라도 지속적으로 성과를 확인하는 것은 매우 중요하다. 때문에 많은 기업은 BSC, MBO와 KPI 등 전통적 방법이나 최근 구글의 방법론으로 알려진 OKR에 이르기까지 다양한 성과 관리 방법을 도입하여 운영하고 있다. 기업 뿐만 아니라 많은 비영리 단체에서도 사회문제 해결을 위해 제시한 자신들의 솔루션이 정말로 그 문제를 해결하고 있는지 확인하고, 만약 그렇지 않다면 어떻게 솔루션을 보완하고 발전시킬 것인지 확인하기 위해서 소위 '임팩트(impact) 측정'을 위해 노력하고 있다. 임팩트 측정의 필요성을 웅변하는 대표적인 사례로 '캄보디아 우물파주기 프로젝트'가 있다. 캄보디아의 심각한 식수 부족 문제를 해결하기 위해 국제구호단체와 많은 NGO 등이 캄보디아에 지난 30년간 우물파주기 사업을 실시했고, 그 결과 수만개의 우물이 캄보디아에 만들어졌다. 그러나 이렇게 만들어진 많은 우물들은 현재 운영 예산 부족으로 방치되거나 심각한 오염으로 무용지물이 되었고, 유네스코에 의하면 오염된 우물물을 먹고 사망하는 5세 이하 캄보디아 어린이가 2000명 이상일 정도로 여전히 식수 문제가 심각한 상황이다. 만약 '캄보디아의 식수 부족' 문제에 집중하면서, 단순히 우물을 많이 만드는 것이 아니라 사람들이 지속적으로 안전한 식수를 확보할 수 있도록 수질 검사와 개선 등 사후 관리까지 고르게 자원을 투여했다면 상황은 달라졌을 것이다. 임팩트 측정이 필요한 이유가 여기에 있다. 부작용을 최소화하면서 목적한 긍정적 임팩트를 최대화할 수 있도록 한정된 자원을 효율적으로 배분하려면 의사결정을 위한 객관적이고 과학적인 근거가 필요하고, 이러한 자료를 도출하는 과정이 임팩트 측정인 것이다.

최근 임팩트 생태계의 성장과 함께 임팩트 측정 방법과 프래임워크에 대한 논의도 활발하게 진행되고 있는데 '아웃컴 씽킹(Outcome Thinking)'은 이러한 논의에 중요한 시사점을 제공한다. 아웃컴 씽킹은 경영 구루인 스티븐 코비(Stephen R. Covey)가 강조한 "끝을 염두에 두고 시작하라"는 명제와 깊은 관련이 있다.  '아웃컴 씽킹'이 '무엇을 했느냐'가 아니라 '그 서비스(영향)을 받는 사람들에게 어떤 결과(outcome)가 발생했느냐'에 초점을 맞추는 사고방식을 의미하기 때문이다. 앞에서 예시로 든 캄보디아아의 사례에서 '우물을 몇 개 만드느냐'가 아니라 '식수문제로 고통받는 사람들의 삶이 어떻게 달라졌느냐'에 초점을 맞추어 생각하는 것이 아웃컴 씽킹이라 할 수 있다. 아웃컴 컨설턴트 루시나이트가 제안한 수혜자 중심의 용어인 BACKS - 행동(behavior), 태도(attitude), 상태(condition), 지식(knowledge), 지위(status) - 는 우리가 수혜자들에게 발생한 아웃컴을 확인할 수 있는 기준을 제시한다.

수혜자에게 발생한 아웃컴을 중심으로 임팩트를 측정하고, 그 결과를 다시 의사결정의 근거로 활용하여 임팩트 관리를 하는 이러한 아웃컴 씽킹은 교육 분야에서 특히 주목할 가치가 있다. 교육은 특성상 그 성과를 확인하기 위해 오랜 시간이 필요하고, 교육을 받은 때와 그 결과가 나타나는데 시간 간격이 크다. 기업에서 흔히 볼 수 있는 것처럼 그 성과를 화폐가치로 환산하여 확인할 수도 없고, 무엇을 성과로 잡아야 할지에 대한 기준 조차 불분명하기 쉽다. 이런 특성으로 인해 자칫 교육의 성과는 '무엇을 했느냐'에 의해 규정되기 쉽고, 교육 관련 정부 기관이나 학교에서 발표한 결과보고서에서 이런 경향은 쉽게 확인된다. 때로는 성과 측정이 교육에 대한 단순한 수요자의 만족도 평가로 치환되면서 의사결정을 위한 자료로 활용되기에는 과학적 근거가 부족해지기도 한다. 만약 과학적이고 객관적으로 교육 성과를 측정할 수 있고, 이를 의사결정을 위한 자료로 활용할 수 있다면 교육 목적을 달성하는데 큰 힘이 될 것이다. 

'아웃컴 씽킹을 기반으로 한 과학적이고 객관적인 교육분야 임팩트 측정 방법이 필요하다'는 문제 의식에서 교육실험실21은 이 분야의 전문가들과 함께 교육분야 소설임팩트 측정 프래임워크 개발을 진행하였다. 2022년 1월부터 약 6개월간 성과 측정모형(프래임워크)개발과 이를 통한 측정 과정을 진행하였고, 7월부터 약 5개월간 측정 결과를 분석하고 정리하여 측정모형(프래임워크)를 보완하는 과정을 추가로 가졌다. 프래임워크 개발 과정을 아래 그림과 같다.

[교육분야 소셜임팩트 측정 프래임워크 개발 과정]

프래임워크 개발은 첫째, 타당성과 효과성이 입증된 선행연구를 바탕으로 과학적이고 객관적인 모형을 개발 둘째, 학생, 교사, 학부모 등 교육 주체의 요구를 최대한 반영하여 교육의 특성을 반영 셋째, 프래임워크 개발에 그치지 않고 개발한 프래임워크가 실효성을 가지는지 검증 하는 것을 원칙으로 진행하였다. 먼저 경험에 근거한 과학적이고 객관적인 프래임워크 개발을 위하여 다양한 조직개발과 성과 관리 컨설팅 경험을 축적하고 있는 쿠퍼실리테이션그룹과의 협업하였고, 교육 분야가 전문성을 담보하기 위하여 관련 분야 박사학위 소지자,  대학 교수, 전직 학교장 등 전문가들의 자문 과정을 거쳤다. 교육 주체의 요구를 반영하기 위하여 프래임워크 개발 과정 이전에 광범위한 요구분석 과정을 진행하였으며, 학생, 학부모, 교사, 후원자 등 이해관계자들을 대상으로 FGI(Focus Group Interview)을 통해 시사점을 도출하여 프래임워크 개발에 반영하였다. 프래임워크의 효과성 검증을 위하여 서울 소재 대안교육기관인 '거꾸로캠퍼스'를 대상으로 임팩트 측정을 진행하였고, 그 결과를 공유하고 이를 발전의 밑거름으로 삼기 위한 워크숍을 진행하였다. 또 측정 결과를 결과보고서로 정리하여 이후 의사결정의 자료로 참고할 수 있도록 하였다.

프래임워크 개발 과정은 변화이론(Theory of Change)에 기초를 두고 진행되었다. 프로젝트 로직 모델을 중심축으로 임팩트 측정 프래임워크를 개발하였고, 로직 모델로 측정하기 어려운 다각적 성과를 놓치지 않도록 '척도와 사다리 모형'과 '결과 매핑 모형'의 일부 요소를 반영하였다. 프래임워크의 얼개를 제시하면 다음 그림과 같다.

[성과지표(프래임워크) 얼개]

'프로젝트 로직 모델(Project Logic Model)'은 유나이트드웨이오브아메리카(United Way of America)와 켈로그재단(Kellogg Foundation)이 제안한 모델로 현재 가장 광범위하게 적용되는 아웃컴 모델이다. 주어진 프로그램을 위해 '누구와', '무엇을', '왜' 해야 하는지에 대한 로드맵을 다이어그램으로 보여준다. '척도와 사다리 모형(Scales and Ladders, S&L)는 매트릭스에 기반을 둔 아웃컴 시스템으로 척도를 개발하여 일련의 매트릭스 내에 연속적으로 배치하는 것을 핵심 개념으로 한다. 이때 척도는 다른 상태나 상황의 조건을 설명하는 연속체로 정의되는데, 척도의 연속적인 변화를 관찰하여 어떤 상황 내에서 증가 또는 감소하는지 여부와 상대적인 진전이나 안정성을 확인할 수 있다. '결과 매핑(Result Mapping) 모형'은 배리 키벨(Barry Kibel) 박사가 개발하고 '퍼시픽 연구평가연구소(Pacific Institude for Reserch and Evaluation)에 의한 확산된 것으로 유용하지만 정량화하거나 입증하기 어려운 증언(evidance)이 담은 풍부한 의미(rechness)을 담아내기 위한 방법이다. 핵심적인 개입이나 반응, 중요한 성과 지점을 순차적으로 배열하고 이 점에서 '가장 훌륭한 몇개의 스토리'을 발굴함으로써 성공으로 이끈 동력을 확인할 수 있다.

개발한 프래임워크를 기반으로 세부 측정 요소를 도출하였고, 정성적, 정량적 방법을 통하여 성과(Impact) 측정을 진행하고 그 결과를 분석하였다. 측정된 결과를 바탕으로 교직원 전체가 참여하는 1일 워크숍을 진행하였고, 이 과정에서 프래임워크의 효과성, 측정의 타당성, 그리고 측정 결과로부터 얻어지는 정보의 유용성 등을 검증하였다. 도출된 시사점을 정리하면 다음과 같다. 첫째, 교육 과정 전반에 걸친 다양한 성과를 확인하는데 프래임워크는 효과적이었다. 자칫 놓치기 쉬운 학생, 학부모의 요구가 실제 교육에 반영하는지를 확인할 수 있었고, 특히 실제 교육이 목표와 같은 방향으로 진행되고 있는지를 확인할 수 있었다. 둘째, 측정 결과의 타당성면에서는 여러 의견이 제시되었다. 측정 결과 교직원 또는 학교가 막연하게 생각하고 있는 교육 성과와 학생 또는 학부모가 생각하는 교육 성과에 다소의 차이가 있었다. 이러한 차이는 프래임워크 설계 시 측정 요소로 마련된 척도가 평가 참여자의 주관적 관점에서 자유로울 수 없는 것에 기인하기 때문으로 판단되었다. 그러나 이처럼 평가 결과를 객관적 기준으로 활용하는데 한계가 있음에도 불구하고, 정기적으로 임팩트 측정을 한다면 변화 추이로부터 의사 결정에 필요한 유용한 정보를 얻을 수 있을 것이라는 점에는 모두가 합의하였다. 셋째, 임팩트 측정 결과로부터 얻을 수 있는 정보가 매우 유용하다는 점에는 의견이 일치되었다. 상반되는 두가지 점에서 정보의 유용성을 확인할 수 있었다. 하나는 성공의 요인을 분석할 수 있다는 측면이었다. 여러 가지 교육활동 중에서 어떤 것이 더 효과적인지 또 교육의 성과를 이끌고 있는 원동력이 무엇인지를 도출할 수 있었고, 이를 바탕으로 유지되거나 더 강화해야할 요소가 무엇인지를 구분할 수 있었다. 반대로 투자된 자원 대비 성과를 내고 있지 못한 것은 무엇인지 또 교육 목표와 방향이 일치하고 있지 못한 것은 무엇인지 확인할 수 있었다. 이는 원인 분석과 대책 마련을 위한 추가적인 토론으로 이어질 수 있는 소중한 씨앗이 되었고, 나아가 임팩트를 높이는 소중한 도구가 될 것이다.

임팩트 생태계가 빠르게 성장하고 있다. 피터 드러커는 "21세기는 비영리기관의 세기가 될 것이다. 더 많은 경제, 돈과 정보가 지구화되고, 더 많은 공동체가 중요해질 것이다. 그리고 오로지 비영리단체만이 공동체에서 성과를 만들고, 기회를 개척해서 지역의 자원을 활성화하여 결국 문제를 해결할 수 있다" 고 비영리기관의 역할을 강조하였다. 'ESG 경영'으로 대표되는 기업의 사회에 대한 책무성 강화 노력도 과거 어느 때보다 더 커지고 있다. 이 대목에서 '진짜와 가짜를 구별'하는 문제 또한 대두되고 있다. 이른바 '임팩트 워싱(impact washing)'에 대한 문제다. 교육 분야로 눈을 돌리면 교육이 잘 이루어지고 있는지 확인하고, 교육 목표와 교육 활동의 방향성이 일치하고 있는지 확인하는 것에 대한 요구 또한 적지 않다. 교육실험실21에서 지난 11개월 동안 진행한 교육분야 소셜임팩트 측정은 부족하나마 이런 요구에 응답하는 의미있는 시도라고 생각한다. 곧 발간된 소셜임팩트 측정 프래임워크 개발 과정에 대한 보고서에도 많은 관심을 가져주기를 바라는 이유이다.



[참고문헌]
로버트 펜나, 윌리엄 필립스 <비영리를 위한 아웃컴 핸드북> 아름다운재단(역), 나남, 2016.
엘렌 하리즈, 린지 호지슨, 제임스 노블 <변화이론(Theory of Change) 만들기> 아름다운재단 (역), 2014.
피터 센게, 넬다 캠브론-맥카베, 티모시 루카스, 브라이언 스미스, 제니스 더튼, 아트 클라이너 <학습하는 학교> 한국복장성연구회(역), 도서출판 씨아이얼, 2019.
피터 드러커 <비영리단체의 경영> 한영하 (역), 한국경제신문 한경 BP, 2019.
짐 콜린스 <Good To Great and The Social Sectors> 강주헌 (역), 김영사, 2021.
짐 콜린스 <플라이휠을 돌려라> 이무열 (역), 김영사, 2021.

4 0

 사)교육실험실21

대표이사 이정백  

                            주소 [03086]서울특별시 종로구 대학로 116  4층    

메일 contact@gschool.kr    

전화 02-742-0077


(사) 교육실험실21     

대표이사 이정백     

메일 contact@gschool.kr     전화 02-742-0077        사업자등록번호 489-82-00285

주소 [03086] 서울특별시 종로구 대학로 116 4층 (공공일호)