우리는 새로운 전자기기를 다루거나 복잡한 문제를 해결할 때, 처음부터 완벽한 정답을 찾아내기보다 이것저것 시도해 보며 실패를 거듭하다가 점차 요령을 터득하곤 합니다. 이처럼 수많은 실패 속에서 성공적인 반응을 찾아내며 지식을 정립해 나가는 과정을 심리학에서는 '시행착오 학습'이라고 부릅니다. 이러한 학습 메커니즘을 동물을 활용한 엄격한 실험을 통해 최초로 규명하고, 현대 교육심리학의 주춧돌을 놓은 인물이 바로 미국의 위대한 심리학자 에드워드 리 손다이크(Edward Lee Thorndike, 1874~1949)입니다. 경력의 대부분을 컬럼비아 대학교에서 보내며 교육심리학의 아버지로 추앙받은 그가 인간과 동물의 학습 과정을 어떻게 과학화했는지 그 깊숙한 내막을 살펴보겠습니다.
1. 에드워드 손다이크의 독창적인 퍼즐 상자 실험
1874년 매사처세츠주에서 태어난 손다이크는 하버드 대학교를 거쳐 컬럼비아 대학교에서 심리학의 새로운 역사를 쓰기 시작했습니다. 그의 박사 학위 논문인 <<동물의 지능>>은 심리학사 최초로 인간이 아닌 동물을 주된 연구 대상으로 삼아 진행된 혁신적인 시도였습니다. 당시 학계에서는 동물이 인간처럼 고도의 '통찰력'이나 지성, 혹은 타인을 관찰하고 흉내 내는 '모방 능력'을 통해 학습한다고 믿는 경향이 강했습니다. 손다이크는 이러한 주관적인 추측을 검증하기 위해 정밀하게 설계된 목재 '퍼즐 상자(Puzzle Box)'를 직접 제작했습니다.
이 퍼즐 상자는 가로 20인치, 세로 15인치, 높이 12인치 크기의 작은 우리로, 내부에 설치된 발판이나 막대를 누르거나 레버를 당기면 도르래와 연결된 줄이 움직이며 문이 열리는 독특한 구조를 지니고 있었습니다. 손다이크는 이 상자 안에 배고픈 고양이를 집어넣고, 상자 바깥에는 고양이가 좋아하는 음식을 놓아둔 뒤 고양이가 탈출하는 데 걸리는 시간을 초 단위로 정밀하게 측정했습니다. 처문에 상자 안에 갇힌 고양이는 빠져나가기 위해 벽을 긁고 울부짖으며 무작위적인 행동을 남발했습니다. 그러다 우연히 발판을 밟아 문이 열리는 보상을 경험하게 되었습니다. 손다이크는 고양이를 다시 상자에 넣는 실험을 수십 번 반복하며 동물 학습의 본질을 데이터로 기록했습니다.
2. 모방과 통찰을 넘어선 점진적 학습 곡선의 발견
실험을 시작하기 전, 손다이크는 두 가지 흥미로운 가정을 세웠습니다. 만약 고양이가 다른 고양이의 탈출 모습을 보고 배우는 '모방 능력'이 있다면 학습 속도가 비약적으로 빠를 것이고, 만약 상황을 단번에 이해하는 '통찰력'이 있다면 어느 순간 탈출 시간이 수직으로 급격하게 줄어들 것이라 예상했습니다. 그러나 실험 결과는 세간의 환상과 완전히 달랐습니다. 다른 동물의 탈출 모습을 미리 관찰한 고양이나 그렇지 않은 고양이나 탈출하는 데 걸리는 시간은 유의미한 차이가 없었습니다. 모방을 통한 지적 학습은 일어나지 않았던 것입니다.
또한 고양이가 상자에서 빠져나오는 데 걸리는 시간은 어느 한순간에 급격히 단축되지 않았습니다. 대신 횟수가 반복될수록 탈출 시간이 서서히, 그리고 완만하게 줄어드는 부드러운 완경사의 'S자 형태 학습 곡선(Learning Curve)'을 나타냈습니다. 이는 고양이가 어떤 깨달음이나 통찰을 얻어서 문제를 해결한 것이 아니라, 무수한 실패 행동을 반복하는 과정에서 쓸모없는 행동은 서서히 배제되고 성공적인 행동만이 점진적으로 각인되었음을 증명하는 결정적 증거였습니다. 손다이크는 이 위대한 발견을 통해 유기체의 학습이란 한순간의 지적 도약이 아닌, 반복적인 '시행착오'를 통해 축적되는 정교한 과정임을 학계에 선언했습니다.
3. 자극과 반응을 결합하는 연결주의와 효과의 법칙
손다이크는 퍼즐 상자 실험을 바탕으로 자신의 독창적인 심리학 이론인 '연결주의'를 정립했습니다. 그는 학습이란 유기체가 처함 외부의 '자극'과 그로 인해 유기체가 표출하는 '반응'사이의 신경학적 결합이라고 보았습니다. 상자 안의 굶주린 상태라는 자극과 발판을 누른다는 특정 행동이 단단하게 연결되는 과정이 곧 학습의 본질이라는 뜻입니다. 이 연결을 지배하는 가장 핵심적인 원리로 그는 그 유명한 '효관의 법칙'을 발표했습니다.
효과의 법칙이란 어떤 행동을 한 뒤에 만족스러운 결과(보상)가 뒤따르면 그 자극과 반응 사이의 결합이 더욱 튼튼해져 향후 같은 행동을 반복할 확률이 높아지고, 반대로 불만족스럽거나 고통스러운 결과가 따르면 그 결합이 악화되어 해당 행동을 다시 하지 않게 된다는 이론입니다. 고양이가 발판을 누른 후 '음식'이라는 강력한 만족을 얻었기 때문에 발판을 누르는 신경적 연결이 강화된 것입니다. 이와 더불어 행동을 자주 반복할수록 결합이 강해진다는 '연습의 법'칙, 학습할 준비가 되어 있을 때 학습이 효율적으로 일어난다는 '준비성의 법칙'을 함께 제시하며 인간과 동물의 행동 변화를 설명하는 거대한 이론적 체계를 완성했습니다.
4. 행동주의 심리학의 개척과 교육학적 역사적 의의
에드워드 손다이크의 연구는 20세기 심리학과 교육학의 패러다임을 완전히 바꾸어 놓았습니다. 그의 연결주의 이론은 훗날 행동주의 심리학의 거장인 존 왓슨과 B.F. 스키너에게 직접적인 영감을 주었습니다. 특히 스키너가 정립한 '조작적 조건형성'과 보상을 통한 행동 수정'의 모태가 바로 손다이크의 퍼즐 상자와 효과의 법칙이었다는 점은 학계에서 널리 인정받는 사실입니다. 그는 보이지 않는 마음의 세계를 가설로 다루던 과거의 관행에서 벗어나, 동물의 행동을 객관적으로 통제하고 수량화함으로써 심리학이 든든한 과학적 토대 위에 우뚝 설 수 있도록 기여했습니다.
나아가 그는 이 원리를 인간의 교육 현장에 과감하게 접목한 선구자였습니다. 학생들에게 무조건적인 주입식 교육을 하기보다, 적절한 보상과 긍정적인 피드백을 통해 올바른 학습 행동을 형성해 나가는 체계적인 교육 공학의 기틀을 마련했습니다. 또한 기업의 인사 관리나 직원에 대한 표준화된 적성 시험 등 산업적인 문제를 해결하는 데도 자신의 측정 이론을 적극적으로 활용했습니다. 비록 인간의 고차원적인 인지 과정과 내면의 근본적 법칙을 밝혀낸 그의 위대한 유산은 오늘날의 교육 현장과 인지행동치료 속에서 여전히 지대한 가치를 발휘하고 있습니다.