본문 바로가기

언어평가연구

(14)
영어능력평가론 시리즈 안내: 영어시험을 이해하기 위한 100개의 질문 — 영어능력평가론 아카이브영어시험은 현대 사회에서 매우 강력한 영향력을 가진 제도다. 학교 교육, 대학 입학, 취업, 자격 인증 등 다양한 영역에서 영어시험의 결과는 중요한 판단 기준으로 사용된다. 그러나 많은 사람들은 영어시험을 단순한 점수 산출 도구로 이해한다. 시험을 보고 채점을 하면 점수가 나오고, 그 점수가 개인의 영어 능력을 설명한다고 생각하기 때문이다.이 블로그의 영어능력평가론 시리즈는 이러한 단순한 이해에서 벗어나, 영어시험이 어떤 구조와 판단 체계 위에서 작동하는지를 분석하기 위해 시작되었다. 이 시리즈는 영어시험을 하나의 기술적 도구가 아니라 사회적 판단을 수행하는 제도적 장치로 바라본다.이 글은 시리즈 전체의 흐름을 안내하는 아카이브 글로, 앞으로 다루게 될 주요 주제와 질문을 정리한..
왜 시험의 공정성은 구조적으로 흔들릴 수밖에 없는가 — 영어능력평가론 시리즈 ⑱이 글은 영어능력평가론 시리즈의 열여덟 번째 글이다. 앞선 글에서는 시험 공정성이 실제 설계와 운영 단계에서 어떻게 확보되는지를 살펴보았다. 이 글에서는 많은 시험이 공정성을 의도함에도 불구하고, 왜 구조적으로 불공정해질 수밖에 없는지를 제도적·환경적 관점에서 분석한다. 다음 글에서는 이러한 구조적 한계를 완화하기 위한 평가 설계의 방향을 다룬다.대부분의 시험은 공정성을 목표로 설계된다. 시험 안내문과 운영 지침에는 공정성과 형평성이 반복적으로 강조된다. 그러나 현실에서는 공정성에 대한 문제 제기가 끊이지 않는다. 이 모순은 개별 시험 관계자의 태도만으로 설명하기 어렵다. 많은 경우 공정성은 개인의 의지와 무관하게 구조적으로 흔들린다. 이 글에서 필자는 시험 공정성이 왜 반복적..
시험의 공정성은 실제 설계와 운영에서 어떻게 확보되는가 — 영어능력평가론 시리즈 ⑰이 글은 영어능력평가론 시리즈의 열일곱 번째 글이다. 앞선 글에서는 평가에서 공정성과 형평성이 어떻게 다른 개념으로 작동하는지를 살펴보았다. 이 글에서는 이러한 공정성 원칙이 실제 시험 설계와 운영 과정에서 어떤 방식으로 구현되는지, 그리고 현장에서 공정성이 가장 자주 흔들리는 지점은 어디인지를 중심으로 설명한다. 다음 글에서는 시험 공정성을 위협하는 구조적 요인을 보다 비판적으로 분석한다.시험의 공정성은 선언으로 확보되지 않는다. 시험 안내문에 공정성을 강조한다고 해서 실제 평가가 공정해지는 것은 아니다. 공정성은 시험이 설계되고 운영되는 모든 단계에서 반복적으로 선택되고 관리되어야 하는 조건이다. 특히 시험이 대규모로 운영되거나 그 결과가 중요한 결정에 사용될수록 공정성은 ..
구인 타당도란 무엇이며 왜 가장 이해하기 어려운 개념인가 — 영어능력평가론 시리즈 ⑬이 글은 영어능력평가론 시리즈의 열세 번째 글이다. 앞선 글 「내용 타당도를 훼손하는 가장 흔한 오류들」에서는 실제 평가 현장에서 내용 타당도가 어떻게 훼손되는지를 살펴보았다. 이번 글에서는 내용 타당도만으로 설명하기 어려운 평가의 문제를 다루기 위해 구인 타당도(construct validity) 가 무엇인지, 그리고 왜 이 개념이 가장 이해하기 어려운 타당도 유형으로 여겨지는지를 설명한다.다음 글에서는 구인 타당도가 왜 필연적으로 시험 결과 해석과 연결되는지를 살펴볼 것이다.영어능력평가를 공부하는 많은 학습자는 내용 타당도까지는 비교적 쉽게 이해한다. 시험 내용이 측정 대상과 잘 맞는지를 판단하는 개념은 직관적으로 받아들이기 어렵지 않기 때문이다. 그러나 구인 타당도에 이르..
내용 타당도를 훼손하는 가장 흔한 오류들 — 영어능력평가론 시리즈 ⑫이 글은 영어능력평가론 시리즈의 열두 번째 글이다. 앞선 글 「내용 타당도는 어떻게 검토하고 판단해야 하는가」에서는 내용 타당도를 실제 평가 과정에서 어떻게 검토하고 판단해야 하는지를 살펴보았다. 이 글에서는 실제 평가 현장에서 내용 타당도를 훼손하는 대표적인 오류들이 무엇인지, 그리고 왜 이러한 오류가 반복되는지를 중심으로 설명한다. 다음 글에서는 내용 타당도를 넘어 구인 타당도(construct validity) 로 논의를 확장한다.많은 시험은 형식적으로는 잘 만들어진 것처럼 보인다. 문항 수는 충분하고, 난이도도 적절해 보이며, 외형적으로는 완성도가 높다. 그러나 이러한 시험이 항상 타당한 것은 아니다. 특히 내용 타당도는 시험의 외형만으로 판단하기 어렵기 때문에, 설계 ..
내용 타당도는 어떻게 검토하고 판단해야 하는가 — 영어능력평가론 시리즈 ⑪내용 타당도의 중요성을 이해했다고 해서 자동으로 타당한 시험이 만들어지는 것은 아니다. 내용 타당도는 선언이 아니라 검토 과정에서 확보되는 특성이다. 시험 설계자는 시험이 측정하려는 능력을 정의하는 것에서 멈추지 않고, 그 정의가 시험 내용에 어떻게 구현되었는지를 체계적으로 점검해야 한다.앞선 글 「내용 타당도는 무엇이며 왜 시험 설계의 출발점이 되는가」에서는 내용 타당도의 기본 개념과 시험 설계에서의 역할을 살펴보았다. 이번 글에서는 내용 타당도를 실제 평가 현장에서 어떻게 검토하고 판단해야 하는지를 단계별로 설명한다. 이 과정은 시험 설계의 직관을 검증하는 절차이자 평가의 책임성을 확보하는 핵심 과정이다.측정 대상의 명확한 정의내용 타당도 검토는 시험 문항을 보기 전에 시작..
내용 타당도는 무엇이며 왜 시험 설계의 출발점이 되는가 — 영어능력평가론 시리즈 ⑩타당도에 대한 논의가 추상적으로 느껴지는 이유는 많은 경우 그 개념이 실제 시험 설계 과정과 분리되어 설명되기 때문이다. 그러나 평가 실무에서 타당도는 매우 구체적인 질문에서 출발한다.시험은 무엇을 묻고 있는가, 그리고 그 질문은 측정하려는 능력을 제대로 대표하고 있는가라는 질문이 바로 그것이다. 이 질문에 답하는 과정이 내용 타당도(content validity) 논의의 핵심이다.앞선 글 「타당도 관점의 변화는 시험 설계를 어떻게 바꾸었는가」에서는 현대적 타당도 관점이 시험 설계 전반에 어떤 영향을 미쳤는지를 살펴보았다. 이번 글에서는 타당도를 구성하는 첫 번째 핵심 근거인 내용 타당도가 무엇이며 왜 시험 설계의 출발점으로 여겨지는지를 중심으로 설명한다.내용 타당도의 기본 개..
타당도 관점의 변화는 시험 설계를 어떻게 바꾸었는가 — 영어능력평가론 시리즈 ⑨타당도 개념의 변화는 단순한 이론적 논쟁에 그치지 않았다. 타당도를 시험 도구의 속성으로 보던 관점에서 시험 결과 해석과 사용을 중심으로 이해하는 관점으로 이동하면서 평가 실무 전반이 달라지기 시작했다.앞선 글 「타당도 개념의 변화: 전통적 타당도에서 해석 중심 타당도로」에서는 타당도를 바라보는 관점이 어떻게 변화해 왔는지를 살펴보았다. 이번 글에서는 이러한 변화가 실제 영어시험 설계와 평가 운영에 어떤 구체적인 변화를 가져왔는지를 중심으로 설명한다.현대적 타당도 관점에서 시험 설계자는 더 이상 문제를 만드는 기술자에 머물 수 없다. 시험 결과가 어떻게 해석되고 어떤 영향을 미치는지까지 고려해야 하는 책임이 강조되기 때문이다.시험 설계의 출발점이 달라졌다전통적인 시험 설계는 측..
타당도 개념의 변화: 전통적 타당도에서 해석 중심 타당도로 — 영어능력평가론 시리즈 ⑧타당도라는 개념은 오랜 기간 영어능력평가의 핵심 기준으로 논의되어 왔다. 그러나 타당도를 이해하는 방식은 시대에 따라 크게 변화해 왔다. 초기 평가 이론에서는 시험이 측정하려는 능력을 얼마나 정확하게 측정하는지가 타당도의 중심 기준이었다. 하지만 평가 연구가 발전하면서 시험 자체보다 시험 결과가 어떻게 해석되고 사용되는지가 더 중요한 문제로 인식되기 시작했다.앞선 글 「왜 타당도는 영어능력평가에서 가장 중요한 기준인가」에서는 타당도가 시험 품질의 핵심 기준으로 여겨지는 이유를 살펴보았다. 이 글에서는 타당도 개념이 어떤 배경 속에서 변화해 왔는지, 그리고 이러한 변화가 영어능력평가를 이해하는 방식에 어떤 의미를 가지는지를 단계적으로 살펴본다.전통적 타당도 관점의 출발초기 평가 ..
왜 타당도는 영어능력평가에서 가장 중요한 기준인가 — 영어능력평가론 시리즈 ⑦영어능력평가를 논의할 때 가장 자주 등장하는 개념 가운데 하나가 타당도(validity)다. 많은 사람은 타당도를 시험이 얼마나 정확한지를 판단하는 기술적 기준으로 이해한다. 그러나 언어평가 연구에서 타당도는 단순한 정확성의 문제가 아니다. 타당도는 시험이 무엇을 측정하고 있는지, 그리고 그 점수 해석과 사용이 정당한지를 묻는 핵심 개념이다. 강의 자료에서도 전통적 관점은 “시험이 측정하려는 바를 정확히 측정하는 정도”로 설명하지만, 최근 관점은 시험 점수의 해석과 사용을 이론과 증거가 얼마나 지지하는가에 초점을 둔다. 앞선 글 「평가가 학습을 지원하기 위해 반드시 갖춰야 할 설계 원칙」에서 살펴보았듯이, 학습을 지원하는 평가는 학습 목표와 평가 목표가 연결될 때 가능하다. 이..