여론조사 설문 사례
지지도·적합도·호감도…질문 따라 결과 달라질수도
오차범위 안 차이는 무의미…응답률 낮으면 신뢰도 약점
오차범위 안 차이는 무의미…응답률 낮으면 신뢰도 약점
[성한용 선임기자의 대선읽기]
후보들은 여론조사 결과에 울고 웃는다. 민심을 반영한 성적표이기도 하지만, 조사 결과가 다시 민심에 영향을 준다.
여론조사 수치를 인용해, “정동영이 20%를 돌파했다”, “이회창이 15%로 3등이라더라”고 쉽게 말할 수 있다. 언론도 이런 수치를 별 고민없이 보도한다. 그런데 바로 그런 수치가 정확히 여론을 반영한 것이라고 보기 어렵다.
여론조사 수치를 읽을 때는 몇 가지 조심할 대목이 있다.
첫째, 질문이 무엇인지 잘 살펴야 한다. 조사기관에 따라 제각각 지지도, 적합도, 투표 의향 등을 묻는다.
예를 들어, <리서치 플러스>는 ‘누가 대통령으로 당선되는 것이 가장 낫다고 생각하십니까’라고 묻는다. 1차 질문에 응답하지 않는 사람들에게는 ‘그래도 좀 더 나은 사람을 고른다면’이라고 2차 질문을 한다. ‘적합도’를 묻는 것이다.
<한국리서치>는 ‘내일이 대통령 선거일이라면 누구에게 투표하겠느냐’고 묻는다. 2차 질문은 ‘그럼 가장 호감이 가는 사람은 누구냐’다. ‘투표 의향’과 ‘호감도’를 묻는 방식이다. 열거하는 후보들의 명단도 순서가 다르다.
따라서 결과가 당연히 다르게 나온다. ‘가’ 회사의 결과가 50%였는데, 1주일 뒤에 ‘나’회사는 40%가 나왔다고 해서, 지지율이 10%포인트 떨어졌다고 하면 안된다. 비교하려면 같은 회사의 조사 결과를 가지고 해야 한다. 둘째, 같은 조사기관에서 같은 방식으로 조사를 해도 조사 결과가 일정하게 나오는 것은 아니다. 조사 결과가 ‘튀는’ 수가 있다. 특히 ‘무응답’ 관리가 어렵다고 한다. 최근 한 회사에서는 무응답이 전에 비해 너무 적은 비율로 나오자, 혹시 조사원들이 바뀌었는지, 설문에 문제가 없었는지 사후 점검을 했다. 그러나 특별한 원인을 찾지 못했다. 이 조사에서는 무응답이 적은 대신, 이명박, 정동영, 문국현 후보의 지지율이 모두 높게 나왔다. 이런 문제 때문에 전문가들은 여론조사 결과를 읽을 때, 무응답 비율을 먼저 살펴보기도 한다. 셋째, 오차범위를 꼭 확인해야 한다. 전수조사가 아닌한 여론조사에서 오차는 불가피하다. 여론조사 기사에는 보통 ‘95% 신뢰수준에서 ±3.1%포인트’ 등 ‘오차한계’가 반드시 붙는다. 신뢰도 95%를 목표로 할 때, 위 아래로 3.1%포인트씩 오차가 있을 수 있다는 얘기다. 이런 오차범위에서는, 30%를 얻은 후보가 25%를 얻은 후보를 앞섰다고 할 수 없다. 오차범위 안에 있기 때문이다. 넷째, 지금 쏟아지고 있는 대부분의 여론조사 결과는 응답률이 너무 낮다는 치명적 약점이 있다. 보통 10%~15% 수준이다. 이해찬 전 총리는 “서구에서는 응답률이 30% 이하면 결과를 발표하지 않는다”고 국내 여론조사를 비판한 적이 있다. 여론조사 회사 사람들도 “그런 문제 제기를 할 수 있다”고 인정한다. 언론사와 ‘헐값’으로 계약을 하다보니 단기간에 조사를 마쳐야 하고 당연히 응답률이 떨어질 수밖에 없다는 것이다. 표본 추출을 전화번호부에서 하는 데도 원인이 있다. 집전화를 사용하는 사람은 갈수록 줄고 있다. 휴대전화, 인터넷 등으로 보완해야 한다는 의견이 나오고 있지만, 아직 프로그램이 개발되지 않았다. 그밖에, 자동응답장치(ARS)를 이용한 조사는 전화면접과 많이 다르다. 기계가 하는 것이라 응답률과 신뢰도가 현저히 떨어진다. 함부로 인용할 일이 아니다. 여론조사는 매우 유용한 ‘도구’일 뿐이지, ‘만능’은 아니다.shy99@hani.co.kr
따라서 결과가 당연히 다르게 나온다. ‘가’ 회사의 결과가 50%였는데, 1주일 뒤에 ‘나’회사는 40%가 나왔다고 해서, 지지율이 10%포인트 떨어졌다고 하면 안된다. 비교하려면 같은 회사의 조사 결과를 가지고 해야 한다. 둘째, 같은 조사기관에서 같은 방식으로 조사를 해도 조사 결과가 일정하게 나오는 것은 아니다. 조사 결과가 ‘튀는’ 수가 있다. 특히 ‘무응답’ 관리가 어렵다고 한다. 최근 한 회사에서는 무응답이 전에 비해 너무 적은 비율로 나오자, 혹시 조사원들이 바뀌었는지, 설문에 문제가 없었는지 사후 점검을 했다. 그러나 특별한 원인을 찾지 못했다. 이 조사에서는 무응답이 적은 대신, 이명박, 정동영, 문국현 후보의 지지율이 모두 높게 나왔다. 이런 문제 때문에 전문가들은 여론조사 결과를 읽을 때, 무응답 비율을 먼저 살펴보기도 한다. 셋째, 오차범위를 꼭 확인해야 한다. 전수조사가 아닌한 여론조사에서 오차는 불가피하다. 여론조사 기사에는 보통 ‘95% 신뢰수준에서 ±3.1%포인트’ 등 ‘오차한계’가 반드시 붙는다. 신뢰도 95%를 목표로 할 때, 위 아래로 3.1%포인트씩 오차가 있을 수 있다는 얘기다. 이런 오차범위에서는, 30%를 얻은 후보가 25%를 얻은 후보를 앞섰다고 할 수 없다. 오차범위 안에 있기 때문이다. 넷째, 지금 쏟아지고 있는 대부분의 여론조사 결과는 응답률이 너무 낮다는 치명적 약점이 있다. 보통 10%~15% 수준이다. 이해찬 전 총리는 “서구에서는 응답률이 30% 이하면 결과를 발표하지 않는다”고 국내 여론조사를 비판한 적이 있다. 여론조사 회사 사람들도 “그런 문제 제기를 할 수 있다”고 인정한다. 언론사와 ‘헐값’으로 계약을 하다보니 단기간에 조사를 마쳐야 하고 당연히 응답률이 떨어질 수밖에 없다는 것이다. 표본 추출을 전화번호부에서 하는 데도 원인이 있다. 집전화를 사용하는 사람은 갈수록 줄고 있다. 휴대전화, 인터넷 등으로 보완해야 한다는 의견이 나오고 있지만, 아직 프로그램이 개발되지 않았다. 그밖에, 자동응답장치(ARS)를 이용한 조사는 전화면접과 많이 다르다. 기계가 하는 것이라 응답률과 신뢰도가 현저히 떨어진다. 함부로 인용할 일이 아니다. 여론조사는 매우 유용한 ‘도구’일 뿐이지, ‘만능’은 아니다.shy99@hani.co.kr
항상 시민과 함께하겠습니다. 한겨레 구독신청 하기