학습과 학습성과에 의도적 성찰이 미치는 영향(Med Educ, 2019)

Effects of deliberate reflection on students’ engagement in learning and learning outcomes

Ligia Maria Cayres Ribeiro,1 Silvia Mamede,2 Eliza Maria de Brito,1 Alexandre Sampaio Moura,1 Rosa Malena Delbone de Faria3,4 & Henk G Schmidt2




도입

INTRODUCTION


낯선 들판의 등산객이 갈림길을 마주보고 있다. 어떤 방향을 따라야 할지 확신이 서지 않는 그는 옵션을 면밀히 살피고 기억 속에서 참고문헌을 검색하고 시각과 소리를 탐구하며 나침반을 이용하거나 심지어 나무에 오르기도 하면서 한 가지 또는 다른 방향으로 유리한 증거를 찾으려고 한다. John Dewey1은 성찰을 설명하기 위해 이 간단한 예를 사용한다: 

망설임이나 의심에 직면할 때 우리가 관여하는 주의 깊은 사고, 그리고 [다른 관점에서] [적절한 해결책을 찾을 때까지] 도전을 탐구하는 신중한 추론 과정. 1,2 

등산객은 무작위가 아니라 성찰을 통해 올바른 길을 찾을 수 있는 기회를 가 더 높다. 하지만 그러기 위해서는 맥락에 대한 관련 지식을 가지고 있어야 한다. 예를 들어 나침반이 있어도 사용할 수 없으면 무용지물이 된다.

A hiker in an unfamiliar field faces a branching. Unsure of what direction to follow, he or she scrutinises the options and tries to find evidence in favour of one or another direction, searching references in memory, exploring sights and sounds, using a compass or even climbing a tree. John Dewey1 uses this simple example to illustrate reflection: 

the attentive thought we engage in when facing hesitation or doubt; and the deliberate reasoning process of exploring a challenge, from different perspectives, until finding a proper solution for it.1,2 

The hiker has a better chance to find the right way through reflection than by randomly choosing a direction, but only if he or she has relevant knowledge of the context. A compass, for example, will be useless if he or she cannot use it.


성찰은, 학습에 대한 참여를 촉발할 수 있는 잠재력이 있기에, 중요한 교육 전략으로 간주될 수 있다.3,4 그러나, 확고한 이론에 기초하지만, 이러한 현상이 실제로 일어나는 경험적 증거는 거의 없다는 점에 유의해야 한다. 특히 의학 교육에서 말이다.

Because of its potential to trigger engagement in learning, reflection, therefore, can be – and indeed has been – considered an important educational strategy.3,4 It should be noted, however, that although based on solid theory, there is little empirical evidence that this actually happens, especially in medical education.


'갈림길' 상황은 [임상적 소견이 환자의 진단 불확실성을 높이는 경우가 자주 발생하는 등] 모호한 사례가 자주 발생하는 의료실무에서 흔히 볼 수 있다. 이러한 상황에서 임상의는 환자와의 만남 가운데서도 성찰을 할 수 있는 반면, 도날드 슈어런이 말한 'Reflection-in-action, RIA'이다.2 진단 과제에 직면한 의사의 경우라면, 이는 다른 잠재적 설명을 마음에 둔 채로 환자의 문제를 살펴보는 것을 것이다. 사용가능한 임상 데이터로부터 서로 다른 가설을 설정하고, 환자를 위한 진단을 내릴 검증testing하는 것을 염두에 두는 것이다.

‘Forked-road’ situations are common in medical practice because cases are often ambiguous, with patients frequently presenting clinical findings that raise diagnostic uncertainty. In these situations, clinicians may engage in reflection in the midst of the encounter with the patient, while it is still possible to respond to the situation at hand, what Donald Sch€on called ‘reflection-in-action’.2 For a medical doctor facing a diagnostic challenge, this would involve looking at the patient’s problem with different potential explanations in mind, confronting different hypotheses with available clinical data and testing them until setting a diagnostic solution for the patient.5,6


실제로 이전 실험에서는 감별진단을 내리는 데 있어서, [의도적인 성찰]이 기존의 접근 방식과 비교했을 때 의대생들의 사례에 대한 [상황적 관심]을 키웠다. [의도적인 성찰]이란 임상 사례를 해결할 때, 자신의 진단 가설을 주장하면서 동시에 반박하는 것으로, 환자의 finding중에서 가설에 부합하는 것과 반박하는 것을 모두 열거하는 것이다이러한 의도적인 성찰이 의대생들의 학습을 촉진한다고 가정하는 것은 타당하다. 왜냐하면, [지식에 대한 '갈증'으로 묘사되는 일시적이고 맥락과 관련된 관심]을 의미하는 '상황적 관심'이란 것이 의학교육 외 분야에서 학습에 대한 참여 및 학습 성과의 좋은 예측 변수임이 입증되었기 때문이다.

Indeed, in a previous experiment, deliberate reflection while solving clinical cases by arguing for and against one’s diagnostic hypotheses, listing patient’s findings that match and refute them, fostered medical students’ situational interest in the cases compared with the more conventional approach of giving differential diagnoses.7 It is reasonable to assume that this deliberate reflection procedure would foster medical students’ learning, because situational interest, a transient and context-related interest also described as ‘thirst’ for knowledge, has proved to be a good predictor of engagement in learning and learning outcomes in experiments with audiences outside medical education.8–11


이것은 [의도적 성찰]의 전도유망한 교육적 효과일 것이다. 왜냐하면, 수년간의 교육, 며칠간의 교육, 또는 몇 시간의 수업으로 측정되든 간에, 학습 활동에 대한 참여는 학습 성과를 향상시키는 것으로 반복적으로 보여왔기 때문이다.12 의대생이나 의사가 진단을 내려야 하는 상황은 (장기간에 걸친 활동이라기보다는) 개별적으로 선택된 의학적 주제에 대한 본문을 읽는 것과 같은 단기적 학습 활동에 가깝다. 그러나 아무리 단기간이라도, 이 시간은 차이를 만들 수 있다. 기존 연구에 따르면, 심지어 분 단위로 측정된 짧은 학습 활동에서조차 [참여]는 학습 성과에 긍정적인 효과를 보여주었다.

This would be a promising educational effect of deliberate reflection because engagement in learning activities, whether measured as years of schooling, days of instruction or hours of classes, has repeatedly been shown to improve learning outcomes.12 Rather than undertaking long-term activities, a medical student or a physician facing a diagnostic challenge is likely to engage, possibly individually, in short-term learning activities such as reading a text on a selected medical topic. However short, this time may make a difference. Research has shown a positive effect on learning outcomes of engagement, even in short learning activities measured in minutes of study time.



방법

METHODS


설계 

Design


이 연구는 실험 또는 통제 조건에 참가자를 무작위로 할당하는 실험이었다. 실험은 진단 과제, 연구 과제, 리콜 과제 등 세 부분으로 나뉜 단일 세션으로 구성됐다. 진단 과제에서 참가자들은 사례에 대한 성찰(실험)이나 차등 진단(통제)을 하기 위한 구조화된 절차를 따라 임상 2건을 진단했다. 사례를 진단한 후, 두 조건의 참가자들에게 황달의 차등 진단에 대한 동일한 연구 자료를 제공하였다. 그 후, 그들은 방금 연구한 자료에 대해 대기록 작업을 수행했다.

The study was an experiment with random allocation of participants to either an experimental or a control condition. The experiment consisted of a single session divided into three parts: a diagnostic task, a study task and a recall task. In the diagnostic task, participants diagnosed two clinical cases by following either a structured procedure to reflect upon the cases (experimental) or to make a differential diagnosis (control). After diagnosing the cases, participants from both conditions were presented with the same study material about the differential diagnosis of jaundice. Subsequently, they performed a cued-recall task about the material that they had just studied.


세팅과 참여자 

Setting and participants


브라질 벨로 호라이즌테(Belo Horizonte)에 있는 조스 에도 로스 아리오 벨라노 대학(UNIFENAS) 4학년 의대생 123명 전원이 자발적으로 연구에 참여하도록 초청받았다. UNIFENAS는 6년제 문제 기반 커리큘럼을 가지고 있으며, 최종 2년은 임상실습을 한다. 우리는 4학년 학생들을 선발했다. 왜냐하면 이 시점에서 그들은 튜토리얼 그룹과 강의 중에 황달환자에 대한 지식은 있지만, 임상경험은 부족했기 때문이다.

All 123 fourth-year medical students at Jos edo Ros ario Vellano University (UNIFENAS) in Belo Horizonte, Brazil, were invited to voluntarily participate in the study. UNIFENAS has a 6-year problem-based curriculum, with the two final years dedicated to clerkships. We selected fourth year students because at this point in their training they have been exposed to knowledge about patients with jaundice during tutorial groups and lectures but have limited clinical experience with them.


재료 및 절차

Materials and procedure


학생들의 학습 자료의 학습을 측정하기 위해, 황달의 차등 진단에 관한 임상 기록, 신체 검사 및 실험실 테스트에 관한 주제를 다루는 8개의 개방형 문항으로 구성된 cued-recall test 가 작성되었다. 각 문항에서 자료의 특정 부분에 대한 cued recall을 했고, 그 부분에 대해서는 참가자들에게 방금 읽은 본문에서 기억한 모든 정보를 기록하도록 요청했다. cued question의 예로는 '황달환자의 평가에 관련된 신체검사 결과를 모두 열거하고 그것들이 차등진단에 어떻게 도움이 되는지 설명하라'가 있다. 전체 연습의 파일럿은 이전에 본 연구에 참여하지 않은 의대 4학년 학생 15명과 함께 이해가능성을 확인하기 위해 실시되었고, 몇 가지 조정 결과를 낳았다.

To measure students’ learning of the study material, a cued-recall task with eight open-ended questions, addressing topics on clinical history, physical examination and laboratory tests concerning the differential diagnosis of jaundice, was created. Each item cued recall of a specific part of the material and, for that part, requested the participants to write down all the information that they remembered from the text that they had just read. An example of a cued question is ‘List all the relevant physical examination findings to the evaluation of patients with jaundice and explain how they help on the differential diagnosis’. A pilot of the whole exercise was previously conducted with 15 fourth-year medical students, non-participants in this study, to check for understandability, and resulted in a few slight adjustments.


각각의 경우에, 학생들은 그들이 수행하는 실험 조건에 따라 일련의 다른 단계를 따르도록 요구 받았다. 의도적인 반영 조건에서, 학생들은 다음과 같이 요청받았다: 

(i) 사례를 읽고 사례에 가장 가능성이 높은 진단을 타이핑하는 것; 

(ii) 구조화된 절차를 따름으로써 사례를 성찰하는 것, 6 이 절차는 간략하게, 다음을 타이핑하는 것으로 구성된다. 

      • 첫 번째 진단 가설과 일치하는 임상 결과, 

      • 그것과 모순되는 임상 결과

      • 첫 번째 가설에서 기대되었지만, 사례에 묘사되지 않은 것, 

      • 마지막으로, 결론을 내리기 전에 두 개의 대체 진단을 입력하고 각 진단에 대해 동일한 분석을 실행.

For each case, the students were asked to follow a set of different steps depending on the experimental condition under which they performed. In the deliberate reflection condition, students were requested to: 

(i) read the case and type down the most likely diagnosis for the case; 

(ii) reflect upon the case by following a structured procedure,6 which, briefly, consists of typing 

      • the clinical findings that are in line with their first diagnostic hypothesis, 

      • those that contradict it, and 

      • those that are expected were this first hypothesis true but are not described in the case, 

      • then typing two alternative diagnoses and running the same analysis for each diagnosis before making a conclusion.


통제 조건의 학생들은 다음과 같은 단계를 수행하도록 요청받았다: 

(i) 사례를 읽고, 사례에 가장 가능성이 높은 진단과 두 가지 대안 진단에 대해 타이핑을 하고, 

(ii) 사례와 관련이 없는 의학 용어를 포함하는 크로스워드 작업을 하고, 

(iii) 사례에 대해 가장 가능성이 높은 진단에 대한 결론을 타이핑한다. 

Students from the control condition were asked to carry out the following sequence of steps: 

(i) read the case, type down the most likely diagnosis for the case and two alternative diagnoses; 

(ii) work on a crossword containing medical terms not related to the cases; and 

(iii) type down their conclusion on the most likely diagnosis for the case. 


크로스 워드는 작업에서 유사한 시간을 보장하고 제어 조건의 사람들이 반사하는 정도를 최소화하기 위해 사용되었다. 사례를 진단한 후 크로스워드 작업을 하는 것은 학생들에게는 이례적인 일로, 준수사항을 방해할 수 있기 때문에, 우리는 통제조건에 대한 가이드에, 비록 그것이 무관해 보일 수 있지만, 그것과 같은 작업이 사고 과정에 도움이 될 수 있고, 따라서 심각하게 고려되어야 한다고 명시했다. 각 실험 조건에 대한 지침이 화면에 독점적으로 제시되어, 한 가지 또는 다른 조건에서 수행된 학생 사이의 지침이 교차하는 것을 방지하였다.

The crossword was used to ensure a similar time on task and to minimise the degree to which those in the control condition would engage in reflection. As working on a crossword after diagnosing a case is unusual for students, which could hinder compliance, we stated in the instructions to the control condition that, although it could seem irrelevant, a task like it might help the thinking process and should, therefore, be taken seriously. The instructions for each experimental condition were presented exclusively on screen, thereby preventing crossing instructions between students who performed under one or the other condition.


자료 분석

Data analysis


연구의 주요 결과 측정은 [(학습 과정의 척도로서) 학습 자료에 소비한 시간]과 [(학습 성과의 척도로) cued-recall task 수]로 측정했다. 평균 연구 시간은 각 실험 조건에 대해 계산되었다. 대기 중인 리콜 과제에 대한 점수는 각 참가자의 점수를 합산한 후 각 실험 조건에 대한 평균을 계산했다. 평균 진단 정확도 점수는 유사한 절차를 통해 계산되었다.

The main outcome measurements of the study were the time students spent on the study material, which has been taken as a measure of the learning process, and their scores on the cued-recall task, assumed to be a measure of learning outcomes. The mean study time was computed for each experimental condition. The scores on the cued-recall task were computed by summing the scores of each participant and, subsequently, averaging themfor each experimental condition. Mean diagnostic accuracy scores were computed through a similar procedure.


결과

RESULTS


표 1은 실험 조건의 함수로 임상 사례에 대한 황달 및 초기 진단 정확도를 가진 환자에 대한 연령, 성별, 이전 경험을 제시한다.

Table 1 presents age, gender, previous experience with patients with jaundice and initial diagnostic accuracy for the clinical cases as a function of experimental condition.


두 실험 조건에 대한 평균 연구 시간 및 누적 리콜 작업 점수는 표 2에 표시된다.

The mean study time and cued-recall task scores for the two experimental conditions are displayed in Table 2.




고찰

DISCUSSION


[의도적 성찰]로 공부한 학생들은 학습 활동에 31% 더 오래 참여했고, 시험에서 40% 더 높은 점수를 받았다. 의도적인 반사 조건의 선호 차이는 중간 효과 크기로 두 측정에서 모두 유의했다.

Students who worked with deliberate reflection engaged 31% longer in the learning activity and attained a 40% higher score on the cued-recall test. The difference in favour of the deliberate reflection condition was significant in both measurements, with a medium effect size.


이러한 결과는 우리의 기대와 일치한다: 진단받을 임상 사례를 의도적으로 성찰하는 학생들은 감별진단 작업을 한 학생들보다 더 도전적인 과제를 수행했다. 사례에 대한 대안적 진단을 의뢰받은 학생들이 어느 정도 성찰하여 과제를 수행하도록 기대하는 것이 타당하다. 그러나 [의도적 성찰]은 학생들이 대안적 진단들을 서로 비교하고 대조하여, 각 진단을 뒷받침하는 증거를 찾고, 체계적으로 반박하도록 요구한다. 이러한 과정은 불확실성을 높이고 지식 격차를 인식하는 것을 촉진할 수 있는데, 이것은 (다른 분야에서 이미) 학습에 대한 관심과 참여를 촉진하는 것으로 입증되었다.8,9 따라서 의도적인 성찰이 학습 활동에 더 오래 관여하도록 이끈 것은 놀라운 일이 아니다. 의도적 성찰이 학습 자료의 실제 참여에 미치는 긍정적인 효과는 또한 의도적 성찰이 사례에 대해 더 많이 알고 있는 의대생들의 관심을 조장한다는 이전의 연구 결과와도 일치한다.7

These results are in line with our expectations: students who deliberately reflected upon to-be- diagnosed clinical cases had a more challenging task than those who worked with differential diagnosis. It is reasonable to expect that students who are requested to provide alternative diagnoses for a case engage in some degree of reflection to perform the task. The deliberate reflection, however, requires students to compare and contrast the alternative diagnoses, searching for evidence supporting and refuting each one in a systematic way. This process might raise uncertainty and facilitate recognition of knowledge gaps, which has already been shown to foster interest and engagement in learning within students outside medical education.8,9 It is not surprising, therefore, that deliberate reflection led to longer engagement in the learning activity. This positive effect of deliberate reflection on actual engagement in studying the learning material is also consistent with previous findings showing that deliberate reflection fostered medical students’ interest in knowing more about the cases.7


신중한 성찰이 공부 시간과 시험 점수를 모두 증가시켰기 때문에, 향상된 점수는 늘어난 시간의 결과였을 수도 있다. 학습 자료를 공부하는 데 더 많은 시간을 투자하도록 유도함으로써, 의도적 성찰은 학습 성과를 증가시켰다. 이러한 가정은 한 학술지의 품질 평가에 관한 연구와 같이, 참가자가 개별적으로 학습work하도록 했던 실험에서 관찰된, [학습 시간과 학습 결과 사이의 긍정적인 관계]와 일치한다. 무엇보다, [학습에 대한 참여engagement]는 학습의 일관되고 중요한 매개요인인 것으로 나타나고 있다. 이는 [의사나 의대생이 불확실한 진단에 직면했을 때 발생하는 것처럼] 그 시간이 몇 분 단위로 짧더라도 마찬가지이다. 그러나, 또 다른 가능한 설명도 가능하다: [의도적인 성찰]은 학생들이 사전 지식을 동원하게 만들었을 수 있으며, 일단 사전지식이 활성화되면, 연구 자료에 제시된 새로운 정보를 이해하고 그것을 기존의 지식 구조에 통합하는 것이 더 쉬워질 것이다.22,23

As deliberate reflection increased both study time and test scores, the latter may have been a consequence of the former. By leading to investment of more time in studying the learning material, deliberate reflection increased learning outcomes. This assumption is consistent with the positive relationship between the amount of study time and learning results observed in experiments in which students worked individually,13,14 as our participants did, such as in research on a teaching journal’s quality assessment. Engagement in learning, after all, has been shown to be a consistent and important mediator of learning, even if the time engagement is short, a matter of minutes,12 such as what is expected to happen when physicians or medical students are confronted with an uncertain diagnosis. However, another possible explanation for our findings has to be considered: deliberate reflection may have mobilised students’ prior knowledge and, once activated, it would make it easier to understand the new information presented in the study material and to integrate it into existing knowledge structures.22,23


교육적 함의

Educational implications


우리의 연구결과는 의대생과 개업의 핵심역량으로서 의도적 성찰의 중요성에 실증적 지원support을 더하고 있다. 즉, 임상 사례에 대한 의도적 성찰이 학생들의 학습 활동 참여의 동기부여로서 작용할 가능성을 보여준다. 이 때 의도적 성찰은 [환자의 임상 데이터로 진단 가설과 대치되는 측면을 찾아보는 간단하고 짧은 과정]이다. 임상 교사들은 이것을 학생들이 임상 사례와 관련된 의학 주제를 연구하도록 동기를 부여하는 전략으로 사용할 수 있다. 또한 의료영역에서 학습 성과의 중요한 중재자로서 학습에 관여한다는 증거를 확대한다.

Our findings add empirical support to the importance of deliberate reflection as a key competence for medical students and practitioners. It demonstrates the potential of deliberate reflection upon clinical cases, a simple, short-time- consuming process of confronting diagnostic hypotheses with patients’ clinical data, as a motivational force for students’ engagement in learning activities. Clinical teachers could use it as a strategy to motivate their students to study medical topics related to clinical cases. It also expands the evidence of engagement in learning as an important mediator of learning outcomes in the medical domain.


한계

Limitations


우리의 연구는 단일 의과대학에서 진행되었는데, 같은 연도의 연수 참가자들과 단일 임상 주제인 황달로 연구했는데, 이는 연구 결과의 일반성을 제한하는 것이다.

Our study was run in a single medical school, with participants in the same year of training and who worked with a single clinical topic, jaundice, which limits the generalisability of its findings.


결론

CONCLUSIONS


의대생들의 중요한 역량으로 이를 지탱할 수 있는 증거를 추가하는 두 가지 모두에 대해 의도적 성찰의 긍정적인 효과를 발견했다. 또한 임상 교사들이 학생들에게 동기부여를 하기 위해 쉽게 사용할 수 있는 의도적 성찰의 절차의 잠재적인 이익에 대한 증거를 실제 임상 환경과 시뮬레이션 임상 환경 모두에서 확대한다. 그럼에도 불구하고 여전히 관련 질문이 있다. 어떻게 의도적 성찰이 학습을 촉진시켰는가? 지식의 확대 또는 재구성을 통해? 여기서 관찰된 의도적 성찰의 효과는 [예를 들어, 경험이 많은 학생 또는 적은 학생 같은] 다른 맥락에서 유사할까?

We found positive effects of deliberate reflection on both, which adds evidence to sustain it as an important competence for medical students. It also expands the evidence on the potential benefits of a deliberate reflection procedure that can be easily used by clinical teachers to motivate their students, possibly in both real and simulated clinical environments. Nevertheless, there are still relevant questions. How did deliberate reflection foster learning? Through expansion or reorganisation of knowledge? Would the observed effect of deliberate reflection be similar in different contexts, for example, with more or less experienced students?





7 Ribeiro LMC, Mamede S, Moura AS, de Brito EM, de Faria RMD, Schmidt HG. Effect of reflection on medical students’ situational interest: an experimental study. Med Educ 2018;52 (5):488–96.


8 Rotgans JI, Schmidt HG. Situational interest and learning: thirst for knowledge. Learn Instruction 2014;32:37–50. XXX








. 2019 Apr;53(4):390-397.
 doi: 10.1111/medu.13798. Epub 2019 Jan 24.

Effects of deliberate reflection on students' engagement in learning and learning outcomes

Affiliations 

Affiliations

  • 1Department of Medical Education Development, José do Rosário Vellano University (UNIFENAS) Medical School, Belo Horizonte, Brazil.
  • 2Institute of Medical Education Research Rotterdam, Erasmus MC University Medical Center Rotterdam, Erasmus School of Social and Behavioural Sciences, Erasmus University Rotterdam, the Netherlands.
  • 3Department of Clinical Pathology and Medical Education, Minas Gerais Federal University (UFMG), Belo Horizonte, Brazil.
  • 4José do Rosário Vellano University (UNIFENAS) Medical School, Belo Horizonte, Brazil.

Abstract

Context: Reflection in practice is assumed to enhance interest in knowing more about a topic, increasing engagement in learning and learning outcomes. However, this claim lacks empirical evidence, particularly in medical education. The authors investigated the effects of deliberate reflection upon clinical cases on medical students' engagement in a learning activity and learning outcomes.

Methods: A three-task (diagnostic task; learning activity; test) experiment was conducted in August 2017. Seventy-two fourth-year students from UNIFENAS-BH Medical School, Brazil, diagnosed two clinical cases with jaundice as the chief complaint, either by following a deliberate reflection procedure or making differential diagnosis. Subsequently, all participants received the same study material on the diagnosis of jaundice. Finally, they took a recall test on the study material. Outcome measurements were study time and test scores.

Results: There was a significant effect of experimental condition on students' engagement in the learning activity and on learning outcomes. Students who deliberately reflected upon the cases invested more time in studying the material than those who made a differential diagnosis (respectively, mean = 254.97, standard deviation = 115.45 versus mean = 194.96, standard deviation = 111.68; p = 0.02; d = 0.53). Deliberate reflection was also related to higher scores in the test relative to differential diagnosis (respectively, mean = 22.08, standard deviation = 14.94 versus mean = 15.75, standard deviation = 9.24; p = 0.03; d = 0.51). Medium effect sizes (Cohen's d) were observed in both measurements.

Conclusions: Relative to making differential diagnosis, deliberate reflection while diagnosing cases fostered medical students' engagement in learning and increased learning outcomes. Teachers can employ this relatively easy procedure, possibly both with simulated and real scenarios, to motivate their students and help them expand their knowledge, an important requirement for their professional development.

+ Recent posts