교육 근거를 진지하게 수용하면 어떤 일이 발생할 것인가? (Perspect Med Educ, 2014)

What would happen to education if we take education evidence seriously?

C. P. M. van der Vleuten • E. W. Driessen



"여전히 강의는 대부분의 의대에서 가장 지배적이며, 가장 많이 사용되는 수업방식이다. 우리는 흔히 '정보 전달(information delivery)'이 - 특히 전문가로부터의 정보전달이 - 좋은 학습결과(good learning)를 낳을 것이라고 가정하기 때문이다. 하지만 교육에 관한 근거를 모아보면, 이러한 생각이 얼마나 순진한지 알 수 있다."

학습(learning)은 '정보 전달'의 문제가 아니라 '정보 처리'의 문제이기 때문이다. 좋은 교육은 바로 이 '정보 처리'를 촉진할 수 있어야 한다. 물론 정보 전달은 학습의 일부이다. 그러나 말 그대로 '일부'이다."


"여태껏 의과대학에서는 '정보 처리' 과정의 대부분을 그저 학습자에게 맡겨두었고, 거기에 대한 서포트는 거의 하지 않았다." "우리는 '정보 전달'에 들어가는 시간과 자원을 더 줄이는 대신, 학습 과정(process of learning)을 서포트하기 위한 교육 전략에 더 많은 시간을 투자해야 한다."


"만약 우리가 교육에 근거를 사용하지 않는다면, 근거는 다락방에 둔 미술품에 지나지 않을 것이다"


도입

Introduction


21세기의 교육은 18세기의 교육과 크게 다르지 않다. 대부분의 교육은 선생님들이 학습자에게 정보를 전달하는 것에 크게 의존한다. 대조적으로, 20세기 의학의 실행은 18세기 의학과 상당히 다르다.

Education in the twenty-first century is not that different from education in the eighteenth century. Most education relies heavily on teachers transmitting information to learners. In sharp contrast, the practice of medicine in the twenty first century is quite different from medicine in the eighteenth century.


우리는 대부분의 의대나 다른 보건 과학 프로그램들이 여전히 가장 지배적인 형태의 수업방식으로서 강의에 크게 의존하고 있다고 주장할 것이다. 학습에 대한 우리의 공통된 개념에서 우리는 [정보 전달, 특히 전문가로부터 기인할 때 좋은 학습으로 이어진다고 가정]한다. 교육에 관한 모든 증거들이 우리가 가지고 있는 것처럼, 교육에 대한 이러한 견해는 다소 순진하다. 우리의 중심 주장은 학습은 정보 전달의 문제가 아니라 정보 처리의 문제라는 것이다. 좋은 교육은 이러한 정보 처리를 용이하게 하기 위한 전략을 제공한다. 당연히, 정보 전달은 학습의 일부일 뿐이지만, 매우 제한적인 부분이다. 우리는 (학습의) 많은 과정을 그저 학습자에게 맡긴다. 그리고 학습자에게 맡겨진 학습 과정의 그 부분에 대한 서포트는 정말 없다.

we would argue that most schools of medicine or other health sciences programmes in university still rely heavily on the lecture as the most dominant form of instruction. In our common conception of learning we assume that information delivery, particularly when stemming from an expert, leads to good learning. With all the evidence on education as we have it, this viewon education is rather naive. Our central argument is that learning is not so much a matter of information delivery, but of information processing. Good education provides strategies to facilitate this processing of information. Naturally, information delivery is part of learning, yet only a very limited part. A lot of the processing we simply leave to the learner. We do not really support that part of the learning process.


사람들은 또한 두 가지 건강관리 시스템의 효과에 대해 물어볼 수 있다; "건강관리 시스템은 또한 의미 있게 비교되기에는 너무 복잡하다"라고 말한다. 이렇게 큰 비교에 관한 자료를 모으는 것이 불가능하다고 말하는 것은 아니다. 당연히 PBL을 중심으로 데이터를 모았지만(그래서 합리적으로 PBL의 효과를 보여줌) [1], 이러한 비교에는 주요한 방법론적 문제가 있으며, 왜 PBL이 효과가 있는지에 대한 해답은 없다[3].

One might also ask about the effectiveness of two health care systems; health care systems are also too complex to be compared meaningfully. This is not to say that it is not possible to assemble data on such large comparisons. Naturally such data have been assembled around problem-based learning (reasonably showing its effectiveness) [1], but there are major methodological problems in these comparisons and it does not answer why problem-based learning works [3].


우리는 큰 단위의 교육 시스템의 (작은) 구성 요소들에 대한 증거가 필요하며, 어떤 것이 왜, 어떤 조건에서 작용하는지를 설명해야 한다[4]. 그러므로 교육에서의 증거는 교육 연구와 다른 관련 영역에서 기인하는 경험적 증거에서 나온 통찰력 그 이상이다. 경험적 증거에 근거한 이론도 포함하고 있다. 이론은 왜 어떤 것이 교육에 효과가 있는지 설명해준다.

We need evidence on the building blocks of the larger educational system, preferably also explaining why things work under which conditions [4]. Evidence in education is therefore more than insights from empirical evidence stemming from educational research and other related domains. It also includes theories that are based on empirical evidence. Theories provide explanations why things may work in education.


근거의 영역

Areas of evidence


설명하기

Elaboration


인지과학은 교육과 학습에 대한 엄청난 함의와 함께 심리학[6]에 혁명이 되어 왔다. 그것은 우리의 기억이 어떻게 작동하는지, 그리고 우리가 정보를 어떻게 장기 기억 속에 저장하고 회수하는지를 연구한다.

Cognitive science has been a revolution to psychology [6] with massive implications for education and learning. It studies how our memory works and how we store and retrieve information in long-term memory.


인지심리학은 학습자가 정보를 처리할 때 학습이 촉진된다는 것을 알려준다. 학습은 정보를 소비하는 것이 아니라 학습자가 정보를 적극적으로 처리하는 것이다. 정교화라는 용어는 이러한 현상을 설명하기 위해 사용된다 [7, 8].

Cognitive psychology tells us that learning is facilitated when the learner processes the information. Learning is not so much a matter of consuming information but of active processing of the information by the learner. The term elaboration is used to describe this phenomenon [7, 8].


정교한 작업은 여러 가지 방법으로 할 수 있다. 학습자가 정보를 사용할 수 있는 모든 활동은 유용하다. 정교화를 촉진하기 위한 무한한 전략이 있다. 예를 들어, 다른 사람과 토론하거나, 도식화하거나, 요약하거나, 자신의 말로 말하거나, 다른 상황이나 문제에 정보를 적용함으로써 정교화가 촉진된다. 학습자가 수동적으로 정보를 소비할 때 정교화가 방해된다. 순수하게 전통적인 강의 기반 시스템에서는, 대부분의 학습 컨텐츠에 대한 정교화 작업이 강의 수업강의실이 아닌 다른 곳에서 이루어질 것이다.

Elaboration can be done in many various ways. Any activity that allows learners to use the information is useful. There are infinite strategies to promote elaboration. For example, elaboration is facilitated by discussing with others, by schematizing, by summarizing, by verbalizing it in one’s own words, or by applying the information to another situation or problem. Elaboration is hindered when the learner passively consumes the information. In purely traditional lecture- based systems, most elaboration on learning content will not take place in the lecture theatre but elsewhere.


아마도, 가장 많은 정교화는 학습자가 과정을 마칠 때 시험을 준비해야 할 때 일어날 것이다. 학습자가 직접 상세히 설명할 것이다.

In all probability, most elaboration will occur when the learner needs to prepare for the exam at the end of the course. The learner will elaborate by him or herself.


결론적으로, 정보를 가지고 일하는 것working with은 정보를 이해하고 배우기 위해 매우 중요하다.

In conclusion, working with information is very important for understanding and learning the information.


협동학습

Cooperative learning


타인과 협력하여 배우는 것이 혼자 배우는 것보다 훨씬 더 효과적이라는 것을 보여주는 풍부한 증거가 있다[9]. 우리는 또한 다른 사람들과 함께 배우는 것이 가장 생산적인 조건도 알고 있다. 이러한 조건에는 

    • 참여의 평등, 

    • 개인의 책임을 지는 구성원, 

    • 상호 긍정적 상호의존성이 요구되는 과제, 그리고 

    • 협력적 학습을 촉진하는 동시에 이루어지는 상호작용이 포함된다[9].

There is a wealth of evidence showing that learning in cooperation with others is much more effective than learning alone [9]. We also know the conditions under which learning with others is most productive. These conditions include 

    • equality in participation

    • members carrying individual responsibility

    • tasks that require mutual positive interdependence, and 

    • finally simultaneous interactions promoting cooperative learning [9].


대부분의 전통적인 교육 제도에서, 우리는 개인 학습자에게 매우 의존한다. 어떤 형태로든 협력적 학습을 사용하지 않음으로써, 우리는 교육을 실제처럼 효과적으로 만들지 못하고 있다. 게다가, 전문직업적 삶에서는 사실상 모든 일이 팀 기반이다. 그러므로 다른 사람들과 협력하는 것은 더 효과적인 교육으로 이어질 뿐만 아니라, 바람직한 학습 성과, 즉 다른 사람들과 함께 일하는 능력을 나타낼 수도 있다.

In most traditional educational systems, we highly rely on the individual learner. By not using cooperative learning in some form, we are not making education as effective as it could actually be. Moreover, in later professional life virtually all work is team-based. Working in cooperation with others will therefore not only lead to more effective education, it may also represent a desirable learning outcome: the ability to work with others.


피드백

Feedback


거의 상투적인 것처럼 보이지만, 피드백은 효과가 있다[10]. 학습에 피드백보다 더 강력한 것은 거의 없다.

It almost seems like a platitude, but feedback works [10]. There is hardly anything that is more powerful to learning than feedback.


피드백 출처의 신뢰성, 관심의 초점(사람 지향적이기 보다는 관심의 초점), 그리고 환경에서의 피드백 문화. 또 다른 매우 효과적인 전략은 [피드백에 대한 후속 조치가 f/u되고, 도움과 지원이 제공되는 대화]를 중심으로 피드백 대화를 만드는 것이다 [13].

the credibility of the source, the focus of attention (task oriented rather than person oriented), and the feedback culture in the environment. Another very effective strategy is to create a dialogue around feedback, a dialogue in which follow-up on the feedback is promoted and where help and support is being provided [13].


학습에 대한 피드백의 효과성은 상투적으로 보일 수 있지만, 우리는 그것을 교육실무에서 극적으로 저용하고 있다. 많은 교육 관행은 피드백을 다소 환원주의적 방식으로 취급한다. 대부분의 전통적인 시스템에서 학생들이 받는 피드백은 종종 평가의 결과, 종종 성적의 형태로 제한된다. 성적은 어떻게 보면 피드백의 가장 빈약한 형태다[10]. 학습에 대한 서술적 피드백의 중요성에 대한 설득력 있는 증거가 있지만, 동일한 연구는 그것이 의학 교육에서 덜 사용되고 있다는 것을 보여준다[14]. 더욱이, 직장에서의 학습 피드백은 종종 암묵적으로 남거나 아예 주어지지 않는다[15].

The effectiveness of feedback for learning may seem a platitude, but we underuse it dramatically in educational practice. A lot of educational practices treat feedback in a rather reductionist way. In most traditional systems the feedback that students receive is often restricted to the outcomes of assessments, often in the formof grades. Grades are in a way the poorest formof feedback one can get [10]. Although there is convincing evidence for the importance of narrative feedback for learning, the same research tells us that it is underused in medical education [14]. Furthermore, in workplace learning feedback is often left implicit or not given at all [15].


멘토링

Mentoring


우리는 이미 앞 단락에서 학습 정보를 다른 사람과 공유하는 가치에 대해 암시했다. 멘토링을 둘러싼 연구는 정말 긍정적이다. 피드백 사용 증가, 전문성 개발 개선, 경력 준비 및 성공(더 높은 (임상) 생산, 더 높은 직위 포함), 그리고 예를 들어 번아웃을 통한 생산 손실 방지[17]와 관련이 있다. 스포츠나 음악과 같은 다른 많은 영역[18]에서는 학습자와 지속적인 개인적 관계가 존재하며, 이는 종종 의학교육 훈련 프로그램에 결여되어 있다.

We already hinted in the previous paragraph at the value of sharing learning information with someone else. The research around mentoring is really very positive. It is associated with increased use of feedback, improved professional development, career preparation and success (including higher (clinical) production, higher positions) and prevention of production loss such as for example through burnout [17]. In many other domains, such as sports or music [18], enduring personal relationships exist with learners, which are often lacking in our educational training programmes.


멘토들은 학습자의 자율성을 지원해야 한다. 예를 들어, 학생들의 관점을 듣고 인정하며 학생들이 무엇을 원하는지 탐색해야 한다[20]. 따라서 멘토의 임무는 주로 코칭이며, 답을 주기보다는 질문을 하는 것이다. 우리는 학습에 감정이 개입될 때 멘토링 프로그램을 가장 잘 계획할 수 있다. Transition은 전형적으로 감정과 스트레스의 순간일 뿐만 아니라 직장 같은 내재된 감정이 풍부한 학습 환경이다[23]. 아니면 우리가 가장 필요로 하는 사람들을 위해 그것을 사용할 수도 있다.

Mentors should support learners autonomy, e.g. listening to and acknowledging student’s perspectives, enquiring what students want [20]. The task of the mentor is thus primarily coaching, and to ask questions rather than give answers. We could schedule mentoring programmes best when emotions come into play in learning. Transitions are typically moments of emotions and stress [21, 22], as well as inherent emotion-laden learning environments such as workplaces [23]. Or we could use it for those who need it most.


그래서 멘토링의 장점이 널리 인정받고 있음에도 불구하고, 멘토링은 의학 교육에서 크게 활용되지 않고 있다: 의대생과 전고의의 50% 미만이 멘토를 가지고 있다. 더욱 놀라운 것은 잘 표현되지 않은 소수민족 거주자들과 여성들이 그들의 동료들보다 멘토를 가질 가능성이 적다는 것이다 [24].

So even though the benefits of mentoring are widely acknowledged, mentoring is largely underused in medical education: less than 50 % of medical students and residents have a mentor. What is even more striking is that underrepresented minority residents and females are less likely to have a mentor than their peers [24].


멘토링의 활용 부족은 몇 가지 요인 때문일 수 있다[17, 25, 26]. 

    • 첫 번째 요인은 교사에 대한 수업 시간과 인센티브의 부족이다[25, 26]. 

    • 두 번째 요인은 짧은 로테이션에 대한 임상 훈련의 구조화인데, 이것은 학생과 교사 사이의 더 많은 종적 관계를 방해한다. 

    • 멘토링의 낮은 활용 대한 세 번째 설명은 공식적인 멘토링 프로그램의 부족과 때때로 멘토를 찾는 것이 나약함의 표시로 보여지는 문화, 그리고 학생이나 거주자가 스스로 멘토를 찾을 수 없다는 것이다.

The underuse of mentoring could be due to several factors [17, 25, 26]. A first factor is the lack of teaching time and incentives for teachers [25, 26]. A second factor is the structuring of clinical training in short rotations, which hampers more longitudinal relationships between students and teachers. A third explanation for the underuse of mentoring is a lack of formal mentoring programmes, in combination with a culture in which looking for a mentor is sometimes seen as a sign of weakness, and the inability of students or residents to find mentors by themselves.


어떤 상황에서 멘토링이 효과적인가? 성공적인 멘토링 관계는 상호주의, 개인적 연결, 상호 존중, 공유된 가치와 분명한 기대감으로 특징지어진다. 멘토링은 멘토가 멘티를 착취하거나, 멘토가 학생이 해야 할 선택에 대해 선입견을 가지고 있을 때 기능하지 않는다[27]. 멘토는 멘티들이 무엇을 선택해야 할지 조언하고 문제에 대한 해결책을 제시하는 대신, (멘토는) 질문을 하고 멘티들이 자신의 선택에 대해 성찰할 수 있도록 도와야 한다. 멘토는 성찰에 의문을 제기하고 격려함으로써 멘티가 스스로 결정을 내리고 자신만의 해결책에 도달할 수 있도록 한다.

Under which circumstances is mentoring effective? Successful mentoring relationships are marked by reciprocity, personal connection, mutual respect, shared values and clear expectations. Mentoring is dysfunctional when the mentor takes advantage of the mentee or when the mentor has preconceived ideas about the choices students should make [27]. A mentor should ask questions and help mentees reflect on their choices, instead of advising them what to choose and offering solutions to their problems. By questioning and encouraging reflection the mentor enables the mentee to make their own decisions and arrive at their own solutions.


멘토링을 효과적으로 하기 위해서는 멘티가 적극적으로 나서 멘토에게 자신의 (학습) 필요와 기대를 알려 멘토링의 소유권을 가져가야 한다[29]. 이를 위해서는 멘티가 자유롭게 자신의 멘토와 자신의 발전을 자유롭게 토론할 수 있는 분위기[30]가 필수적이다.

In order to make mentoring effective, a mentee should be active and take ownership of the mentoring by informing the mentor about their (learning) needs and expectations [29]. To do this, a safe environment is essential, an atmosphere in which the mentees feel free to discuss in an open manner their development with their mentor [30].


참여

Engagement


참여는 활력, 헌신, 흡수력이 특징으로 하며, employee의 만족도가 가장 높은 상태를 말한다[33]. Engagement는 어떻게 보면 소진과는 정반대의 상태를 말한다.

Engagement is a state of highest satisfaction in employees that is characterized by vitality, dedication and absorption [33]. Engagement is, in a way, the opposite to burnout.


참여는 자율성, 자기 통제, 사회적 지원과 코칭, 끊임없는 변화, 다양성, 팀워크, 흥미로운 도전 등을 통해 연관되고 촉진된다. 외부통제, 규정된 업무, 지루함, 개성 등과 정반대다. Work Engagement Theory는 우리가 이미 언급한 자기 결정과 본질적 또는 외적 동기 부여[36]를 둘러싼 작업과 강하게 공명하며 교육에도 강한 영향을 미친다[20].

Engagement is associated and promoted through autonomy, self-control, social support and coaching, constant change, diversity, teamwork, interesting challenges, etc. It is the opposite from external control, prescribed tasks, boredom, individuality, etc. Work engagement theory resonates strongly with the work around self-determination and intrinsic or extrinsic motivation [36] that we have already mentioned and also has strong repercussions for education [20].


우리의 교육 관행은 외부 통제, 지루한 과제(수시간 교사의 말을 듣는 것), 지루하고 불안한 시험, 제한적인(조직화된) 사회적 지원, 모든 (불량) 학습을 지배하는 완전한 종합 시험 시스템 등으로 가득 차 있다. 우리는 학습자들이 매우 외부적으로 동기부여가 되어있다는 것이나 학습자로서의 역할에 관여하지 않는다는 사실에 놀라서는 안 된다. 교사 중심 프로그램은 열악한 학습 환경과 더 우울한 시스템 및 소모량과 관련이 있다[37]. 직장 내 학습자도 마찬가지다[38]. 직장 등 매우 잠재적으로 challenging한 교육 환경에서도, 그저 반복적인 학습 과제를 수행하는 비활성 학습자는 disengage된다.

Our education practices are full of external control, boring tasks (listening to teachers for hours), dull and anxious exams, limited (organized) social support, complete summative exam systems dominating all (poor) learning, etc. We should not be surprised that our learners are so externally motivated or are not engaged in their role as a learner. Teacher-centred programmes are associated with a poorer learning climate and more depressive systems and burnout [37]. The same is true for learners in the workplace [38]. Even in very potentially challenging education environments such as workplaces, inactive learners doing very repetitive learning tasks become disengaged.


학습자는 소속감을 경험하는 의료팀의 일원으로서 실제로 (감독된) 책임감을 가지고 작업에 참여할 때 [39] 가장 잘 배운다[40]. 우리의 교육은 의무와 최소한의 기준을 이행하는 것이 아니라 참여와 우수성에 맞춰져야 한다. 학습자에게 도전적인 과제를 제공해야 한다. 예를 들어, 종이 환자 문제가 문제 기반 학습 환경에서 실제 환자 접촉으로 대체되었을 때, 학생들의 동기는 엄청나게 증가되었다[41]. 학습자들은 더 많은 신뢰와 책임감과 자율성을 받아야 한다. 요컨대, 근로자들이 작업 환경에 어떻게 관여하게 되는가는 학습자들이 어떻게 학습 환경에 관여하게 되는가와 매우 유사하다.

Learners learn best when they actually participate in the work with their own (supervised) responsibility [39], as part of the health care team where they experience a sense of belonging [40]. Our education should be geared to engagement and excellence, not to fulfilling obligations and minimum standards. It should provide learners challenging tasks. For example, when paper patient problems were replaced by real patient encounters in a problem-based learning setting, the motivation of students was tremendously boosted [41]. Our learners should receive more trust, responsibility and autonomy. In sum, how workers become engaged in a work environment is very similar to how learners become engaged in a learning environment.


사회적 맥락에서 배우기

Learning in a social context


최근 몇 년 동안 의미 있는 사회적 관계와 실천의 맥락에서 배우는 것은 매우 중요한 것으로 간주된다[42]. Situated Learning은 사회문화적 학습 이론 중 하나이며 [견습]이라는 고전적 개념을 [관찰과 모방에 의한 학습]에서 [전문가 커뮤니티에서 능동적인 참여 학습]으로 확장한다[43].

In recent years learning from the context of meaningful social relationships and practices is considered to be very important [42]. Situated learning is one of the social cultural learning theories and extends the classic notion of apprenticeship as learning by observation and imitation through to active participation learning in a community of professionals [43].


의료 훈련 프로그램의 임상 단계는 전형적으로 견습-학습 모델을 따른다. 학생들은 정해진 과별 로테이션을 한다. 로테이션에서 transition이 많은 것은 학습에 해로운 것으로 보인다 [21]. Attachment의 수와 기간은 종종 관성적으로 결정되며, 또한 종종 개별 분야의 상태에 대한 치열한 논쟁의 결과이기도 하다.

The clinical phase of medical training programmes typically follows the classic through of apprenticeship-learning model. Students rotate a set disciplinary rotations. Creating many transitions in workplace rotations seems to be harmful to learning [21]. The number of disciplines and the time of duration of the attachments is often historically determined and also often a result of fierce debates on the status of individual disciplines.


사회 학습 이론은 임상 로테이션에 대한 새로운 접근법에 영감을 주었다.

Social learning theories have inspired newer approaches to clinical rotations.


한 가지 예는 학습자가 더 오랜 기간 동안 임상 환경에 몰입하는 LIC의 촉진이다[44–46]. 이러한 임상실습에서는 짧은 전통 버전보다 더 많은 연속성과 책임감이 있다.

One example is the recent promotion of longitudinally integrated clerkships where a learner is immersed in a clinical environment for a longer period of time [44–46]. There is more continuity and responsibility in these clerkships than in the shorter traditional versions of them.


사회문화학습 이론이 영향을 미치는 또 다른 예는 최근 업무 기반 평가에 대한 관심이다[48]. 그 목적은 직장에서 관련된 전문가[49]로부터 학습자에게 보다 의미 있는 피드백을 제공함으로써 학습을 지도하기 위한 지속적 관계에서 존경 받는 감독자와의 대화를 통해 자기주도적 학습을 유도하는 것이다[13].

Another example of where sociocultural learning theory is influential is the recent attention to work- based assessment [48]. The intent is to provide more meaningful feedback to the learners from the professionals involved in the workplace [49], to drive self- directed learning through the use of reflection and dialogues with respected supervisors in enduring relationships to guide learning [13].



이론에서 실천으로: 덜 함으로써 더 하기

From theory to practice: do more with less


포괄적이 되려는 시도조차 실제로 포괄적이지 않고 빠르게 시대에 뒤떨어진다. 이것은 교육 연구가 어떻게 진화하고 있는지를 보여준다. 증거의 대표성보다 더 중요한 것은 증거와 교육 관행의 괴리다. 만약 우리가 이 6개 정도의 임의적인 증거 영역만을 진지하게 받아들인다면, 우리는 기존의 관행을 근본적으로 바꿀 수 있을 것이다!

Even attempts to be comprehensive [50] are not really comprehensive and become quickly outdated. This shows how research in education is evolving. More important than the representativeness of the evidence is the gap between the evidence and educational practice. If we would only take these six more or less arbitrary areas of evidence seriously, we could radically change existing practices!


우리는 독자의 생각을 쉽게 짐작할 수 있다. 이것들은 값비싼 제안들이야! 이 모든 것의 비용은 얼마인가? 경제적 어려움의 시기에 누가 그것을 감당할 수 있을까? 우리의 주장은 우리가 자원을 잘못 쓴다는 것이다. 대부분의 커리큘럼에서 우리는 대부분의 시간과 노력을 실제로 정보 전달에 소비한다. 대부분의 전통적인 프로그램(아마도 여전히 세계 대부분의 프로그램)에서는 정보 전송이나 전달에 20시간에서 30시간을 쉽게 소비한다. 위에서 분명히 알 수 있듯이, 정보 전달은 좋은 학습에서 아주 작은 부분만을 차지한다.

We can easily guess the thoughts of the reader. These are expensive suggestions! What is the cost of all this? Who can afford that in times of economic hardship? Our argument would be that we spend our resources incorrectly. In most of our curricula we spend most time and effort actually on information delivery. In the most conventional programmes—probably still the vast majority of programmes in the world—20 to 30 h is easily spent on information transfer or delivery. As is clear from the above, good learning is considerably more than information delivery.


위의 학습 증거를 따른다면, 우리는 자원의 상당 부분을 전달에 소비하는 것을 중단해야 한다. 우리는 컴퓨터에 모든 정보 전달을 캡처하여 웹을 통해 배포하는 것을 제안할 것이다. MOOCs(Modern Online Open Course)와 온라인 콘텐츠를 갖춘 온라인 아카데미와 같은 이니셔티브가 세계를 정복하고 있다[51]. 일부는 심지어 학계의 파괴를 두려워한다[52]. 호주의 해부학과 교수가 캐나다의 해부학과 교수와 같은 정보를 다루는 것은 어느 정도 부끄러운 일이다. 정보를 포착해 매력적인 영상 자료를 부록이나 서면 자료의 대체물로 만드는 것이 어떨까?

With the above evidence on learning we should stop spending substantial parts of our resources on delivery. We would propose to capture all information delivery on the computer and distribute that through the web. Initiatives such as Modern Online Open Courses (MOOCs) and online academies with online content are conquering the world [51]. Some even fear the destruction of academia [52]. To some extent it is a shame that a professor in for example anatomy in Australia covers the same information as the anatomy professor in Canada. Why don’t we capture the information and construct attractive video material as an addendum or replacement to written materials?


일단 정보 전달이 가능하게 되면, 아마도 공개적으로라도, 우리는 학습 과정을 지원하기 위해 모든 노력을 기울일 수 있다. 프로그램의 질은 최고의 교사들로부터 최고의 정보를 어떻게 제공하는가에 달려 있는 것이 아니라, 교사로서 우리가 학습 과정을 최대한 용이하게 할 수 있는 방법에 달려 있다. 그리고 나서 우리는 작은 규모의 상황에서 그리고 학습자들과 긴밀한 상호작용으로 내용을 토론할 시간을 갖는다. 우리는 학습자 성과에 대해 적절한 피드백을 줄 수 있을 것이며, 프로그램을 진행하는 동안 그들을 지도하고 조언하는 시간을 가질 것이다. 학습자는 engage하게 된다. 재미는 학습자와 교사 모두에게 필수적인 요소가 될 것이다. 탁월함도 그렇다.

Once the information delivery is available, perhaps even publically, we can put all our efforts into supporting the learning process. The quality of programmes will not depend on howto give the best information fromthe best teachers, but on the way we as teachers are able to scaffold the learning process that maximally facilitates that learning. Then we have time to discuss content in small-scale situations and in close interaction with our learners. We will be able to give appropriate feedback on learner performance, and we will have time to guide and mentor them throughout a programme. Learners will become engaged. Fun will be an essential element for both learners and teachers. So is excellence.


고찰

Discussion


코스 내용을 배포하고 학생 중심의 학습에 집중한다는 발상은 새로운 것이 아니다. 프로버와 히스는 이 접근법을 '극장 없는 강당'이라고 불렀다[53]. 보다 일반적인 용어는 '거꾸로 교실'[54]이며, 우리는 보건 교육 프로그램에서 이러한 아이디어를 구현하기 위한 보고서와 첫 번째 시도를 기록한다[55]. 이것들은 위대한 이니셔티브들이다. 우리는 학습자의 학습 과정을 지원하는 교육 전략에 초점을 맞출 필요가 있다. [연구에 근거한 전략]과 [어떤 것이 어떤 상황에서 교육에서 효과가 있는지 설명하는 이론]에 초점을 둬야 한다.

The idea of distributing course content and focussing on student-centred learning is not new. Prober and Heath have called the approach ‘lecture halls without theatres’ [53]. A more common term is ‘flipped classroom’ [54] and we note reports and first attempts on implementing these ideas in health education programmes [55]. These are great initiatives. We need to focus on education strategies that support the learning process of the learner. Strategies that are based on research information and theories that explain why things work in education under which circumstances.


그렇게 함으로써 우리는 커리큘럼 X와 Y를 비교하는 것을 잊어야 한다. 대신에 우리는 교육과학의 증거와 이론을 숙지해야 하며, 아마도 참여해서 학술적인 작업에 기여해야 할 것이다. 그렇다면 이론부터 교육실무로 이어지는 [최적화된 translation을 만드는 교육전략]을 창의적으로 설계하는 데 참여해야 한다.

In doing so we should forget about comparing curriculum X versus Y to see which is superior. Instead we should acquaint ourselves with evidence and theory from the educational sciences, perhaps even participate and contribute to the scholarly work. Then we should engage ourselves in creatively designing educational strategies that make optimized translations from theory to education practice.


교육에 대한 이러한 접근방식에서 필수적인 것은 연구 정보에 입각한 [56] 교육 전략의 창의적 설계와 우리가 그것들을 실행하는 방법이다. Implementation은 종종 커리큘럼의 궁극적인 품질을 결정하지만, 동시에 종종 무시된다. [57]실행 실패 때문에 제대로 작동하지 않는 문제 기반 학습 커리큘럼의 구현을 보았다[58]. 변화에 대한 교수진의 참여가 성공의 열쇠다. 교육과학에 대한 연구는 [(부분적으로는 무의식적인) 학습에 대한 교사의 인식과 학습에 대한 신념 체계]가 교육실무에서 행동하는 방식을 결정한다는 것을 보여준다[59]. 이는 계획된 행동[60]에서 심리학의 광범위한 이론에서 비롯되며, planned behavior에 관한 이론은 건강 관련 행동을 변화시키는데 종종 사용된다[61]. 행동을 바꾸는 것은 어떤 전문 분야에서도 도전적인 일이다. 의사들이 최근의 증거를 사용하도록 설득하기 위한 시도가 이루어지고 있는 지속적인 전문가 개발에 대한 연구에 따르면, 전문가들로 하여금 어떻게 해야 할지를 설명하도록 하는 가장 일반적인 접근법은 가장 효과적이지 않다[62]. 의사의 요구에 밀접하게 부합하는 다중모드 접근법이 가장 잘 작동하는 것 같다[63].

Essential in this approach to education is the research-informed [56] creative design of instructional strategies and the way we implement them. Implementation often determines the ultimate quality of curricula and is often neglected. [57]We have seen implementations of problem-based learning curricula that did not work properly, simply because the implementation failed [58]. Buy-in from faculty about change is key to any success. Research in the educational sciences tells us that teachers’ perceptions on learning and their belief system on learning, partly being unconscious, determines the way they act in education practice [59]. This stems from a wider theory in psychology in planned behaviour [60], often used for changing health-related behaviours [61]. Changing behaviours is a challenging task in any professional field. In the research on Continuous Professional Development, where attempts are being made to convince doctors to use recent evidence, the most common approach of having experts explain what to do is least effective [62]. A multimodal approach closely aligned to the needs of the doctor seems to work best [63].


그러므로 학생 학습자에 대한 학습 증거가 선생님들에게도 똑같이 적용된다. 단순히 교수들에게 변화하라고 말하는 것만이 재앙을 낳는 가장 좋은 방법이 될 것이다. 우리는 그들을 참여시키고, 그들이 다른 방식으로 일하는 것을 경험할 수 있도록 해야 할 것이다. 변화를 이끄는 리더나 매니저가 있어서, 신뢰받고, 코칭하고, 도움을 줘야 할 것이다. 이것을 잘 한다면 교사들도 참여하게 될 것이고 이것은 변화 과정에 기름을 부을 것이다. 학습에 관한 증거를 참작하면서 교수개발 및 변화 관리 전략의 설계에 [변화 이론[57]]을 translate하기 위해서는 동일한 창의성이 필요하다.

We would therefore argue that the learning evidence on student learners equally applies to our teachers. Simply by telling them to change will be the best recipe for disaster. We will need to involve them, allow them to experience working in different ways, having a change leader or manager who is entrusted, who coaches, who helps. By doing this well, teachers will also become engaged and this will fuel the change process. We need the same creativity to translate the theory of change [57] to designs of faculty development and change management strategies, while taking the evidence on learning into account.


우리는 교육에서 증거의 사용에 대한 관점을 스케치했기를 바란다. 우리는 정보 전달에 더 적은 시간과 자원을 소비해야 한다, 그러나 학습 과정을 더 잘 지원하는 교육 전략에 더 많은 시간을 투자해야 한다. 우리는 전체 커리큘럼의 맹목적인 비교를 하는 것에 신중해야 한다. 왜 교육전략이 작동하는지, 어떤 조건에서 어떤 조건에서 교육전략이 작동하는지 설명하는 교육증거를 찾거나 기여해야 한다.

We hope to have sketched a perspective on the use of evidence in education. We should spend less time and resources on information delivery, but rather on educational strategies that better support the process of learning. We should be cautious doing rather blind comparisons of full curricula. We should seek or contribute to education evidence that explains why educational strategies work and under which conditions.


우리는 [단순히 전통과 직관에 근거하여 계속할 것인지], 아니면 [우리의 미래 교육 관행을 형성하기 위해 증거를 사용할 것인지]를 결정해야 한다. 만약 우리가 교육에 증거를 사용하지 않는다면, 그 증거는 다락방의 미술에 지나지 않는다.

We have a choice to simply continue based on tradition and intuition, or we could use the evidence to shape our future educational practices. Alternatively, if we do not use evidence in education, than the evidence is no more than fine art in the attic.


필수사항

Essentials


• 교육 관행 및 교육 연구가 잘못 조정됨

• Educational practice and educational research are misaligned.


• 효과적이지 않은 instruction에 너무 많은 노력을 기울인다.

• Too much effort is given to instruction which is not effective.


• 학습자에 대한 정보 전달은 웹으로 배포되어야 한다.

• Information delivery to learners should be web-distributed.


• 연구 증거는 학습을 지원하는 보다 효과적인 접근법에 대한 영감을 제공한다.

• Research evidence provides inspiration for more effective approaches supporting learning.


• 연구 증거는 교육 전략이 작동하는 이유를 설명하는 방향을 추구해야 한다.

• Research evidence should be directed on explaining why an education strategy works.







. 2014 Jun;3(3):222-32.
 doi: 10.1007/s40037-014-0129-9.

What Would Happen to Education if We Take Education Evidence Seriously?

Affiliations 

Affiliation

  • 1Department of Educational Development and Research, Maastricht University, PO Box 616, 6200 MD, Maastricht, the Netherlands, c.vandervleuten@maastrichtuniversity.nl.

Abstract

Educational practice and educational research are not aligned with each other. Current educational practice heavily relies on information transmission or content delivery to learners. Yet evidence shows that delivery is only a minor part of learning. To illustrate the directions we might take to find better educational strategies, six areas of educational evidence are briefly reviewed. The flipped classroom idea is proposed to shift our expenditure and focus in education. All information delivery could be web distributed, thus creating more time for other more expensive educational strategies to support the learner. In research our focus should shift from comparing one curriculum to the other, to research that explains why things work in education and under which conditions. This may generate ideas for creative designers to develop new educational strategies. These best practices should be shared and further researched. At the same time attention should be paid to implementation and the realization that teachers learn in a way very similar to the people they teach. If we take the evidence seriously, our educational practice will look quite different to the way it does now.


프로그램평가 데이터를 질적연구에 활용하기 (J Grad Med Educ, 2016)

Using Data From Program Evaluations for Qualitative Research

Dorene F. Balmer, PhD Jennifer A. Rama, MD, MEd Maria Athina (Tina) Martimianakis, PhD Terese Stenfors-Hayes, PhD





도전

The Challenge


질적 연구자들에게 제기되는 일반적인 질문은 ''우리 프로그램의 평가에서 수집한 자유 텍스트 항목으로 질적 연구를 할 수 있는가? 거기에는 좋은 피드백이 있다!'라고 말했다. 하지만, 과정 종료 또는 로테이션 종료 평가에 자유 텍스트 항목으로서 풍부하고 건설적인 데이터가 있을 수 있지만, 그 텍스트를 연구를 위한 데이터로 사용하는 것은 프로그램 평가 목적으로 수집될 때 문제를 일으킬 수 있다.

A common question posed to qualitative researchers is, ‘‘Can I do qualitative research with the free-text entries from our program’s evaluations? There’s good feedback in there!’’ While there may be rich, constructive data as free-text entries on end-of-course or end-of-rotation evaluations, using that text as data for research can present problems when it is collected for program evaluation purposes.


알려진 내용(또는 토론된 내용)

What Is Known (or Debated)


연구와 프로그램 평가 모두 철저하고 체계적인 질의지만, 다음과 같은 오랜 논쟁이 있다. 연구와 프로그램 평가는 이론적으로 구별되는가, 실질적으로 구별되는가, 아니면 같은 것인가? 이 둘의 구분은, (만약 이 둘의 구분이 존재한다면) 프로그램 평가를 위한 설문조사에 대한 주관식 서술 항목과 같이 질적인 데이터를 이용가능한 상황에서 이 둘의 구별은 덜 명확해진다. 교육 프로그램은 일반적으로 동적 구성요소로 구성되며 복잡하고 예측 불가능한 맥락에서 펼쳐지기 때문에, 프로그램 평가는 프로그램 목표가 명확해지거나 개입이 새로운 학습에 길을 내줄 때 시간이 지남에 따라 적응해야 할 수 있다.2,3

Although research and program evaluation are both thorough, systematic inquiries, there is a long-standing debate: Are research and program evaluation theoretically distinct, practically distinct, or one-and-the-same?1 The distinction, if it exists, becomes less clear when available data are qualitative in nature, as when the data are free-text entries on surveys intended for program evaluation. Because educational programs typically consist of dynamic components and unfold in complex, unpredictable contexts, program evaluation may have to adapt over time as program goals are clarified or as interventions give way to new learning.2,3


그러나 연구와 프로그램 평가 사이에는 핵심적인 차이가 있다. 이 글에서 우리는 이러한 질의는 

(1) 이 둘이 다루는 문제, 

(2) 의도된 범위, 

(3) 일반적으로 Work의 질을 판단하기 위해 사용하는 표준(특히 데이터)

However, there are key differences between research and program evaluation. In this article, we propose that these inquiries are distinct in (1) the issues they address; (2) their intended scope; and (3) the standards they use to judge the quality of the work in general, and the data in particular.



이슈와 스콥

Issues and Scope


질적 연구는 대개 이론적인 문제를 다루며 "왜 이런 일이 생기는가?"와 같은 질문을 던진다.

Qualitative research usually addresses theoretical issues, asking questions such as, ‘‘Why is this happening?’’


반대로, 프로그램 평가는 대개 실제적인 문제를 다루고 "실제로 무슨 일이 일어나고 있는가?" 또는 "무슨 일이 일어나야 하는가?"와 같은 질문을 던진다. 이러한 질문에 대한 답은 [(연구 결과를) 다른 맥락으로 transfer할 수 있다는 엄격한 주장보다는], 프로그램 개선전략이나 프로그램의 가치에 대한 판단을 로컬하게 알리는 것을 목표로 한다.

Conversely, program evaluation usually addresses practical issues and asks questions such as, ‘‘What is actually happening’’ or ‘‘What should be happening?’’ Answers to these questions aim to inform strategies for program improvement or judgments about the worth of a program locally, without stringent claims for transferability to other contexts.


질적 연구에서도 때때로 "무슨 일이 일어나야 하는가?"라고 질문할 수 있고 프로그램 평가에서도 "왜 이런 일이 일어나는가?"를 다룰 수 있다. 그러나, 일반적인 문제들과 프로젝트의 범위는 다르다.

Qualitative research may occasionally ask, ‘‘What should be happening?’’ and program evaluation may address, ‘‘Why is this happening?’’ However, the general issues addressed and the project’s scope are different (TABLE).


품질판단기준

Standards for Judging Quality


정성적 연구의 방법론적 엄격성에 대한 표준은 다음을 포함한다. 

    • 신뢰할 수 있는 데이터(내부 타당성을 위한 프록시), 

    • 양도 가능한 데이터(외부 타당성을 위한 프록시), 

    • 신뢰할 수 있는 데이터(신뢰성을 위한 프록시), 

    • 확인 가능한 데이터(객관성을 위한 프록시)가 있는가?5

Standards for methodological rigor in qualitative research include the following: Are the data 

    • credible (a proxy for internal validity), 

    • transferable (a proxy for external validity), 

    • dependable (a proxy for reliability), and 

    • confirmable (a proxy for objectivity)?5


프로그램 평가(의 질 판단)를 위한 표준은 실제 관심사에 대한 방법론적 초점이 다르다. 데이터가 의사결정에 유용한가?, 데이터를 수집할 수 있는가?, 이해관계자 관점을 정확히 대표하고 있는가?6

Standards for program evaluation have a different methodological focus on practical concerns: Are the data useful for informing decisions, feasible to collect, and accurate representations of stakeholder perspectives?6


연구에서 차이가 중요한 이유

Why Differences Matter in Scholarship


의학 교육자들은 프로그램 평가를 위해 수집된 자유 텍스트 질문에 대한 응답을 후향적으로 질적 연구 기준에 맞추려고 애쓸 수 있다. 이것은 보통 학술지에 논문을 출판하고자 하는 욕구와 함께 일어날 수 있다.

Medical educators may try, inadvisably, to retrospectively fit responses to free-text questions collected for program evaluation into rigorous standards for qualitative research. This may occur with the desire to disseminate their work in academic journals.


예를 들어, 로테이션 평가에 대한 자유 텍스트 항목의 정보가 교육 프로그램을 refine하기 위해 어떻게 사용되었는지 설명하기 보다는(프로그램 평가자가 관심이 있음), 그들은 데이터의 풍부함과 신뢰성에 초점을 맞춘다(연구자가 관심이 있음). 마찬가지로, 교수진과의 인터뷰를 통해 수집된 데이터가 평가자에게 중요한 온라인 CME 프로그램의 국지적local 가치를 확립하는 데 어떻게 도움이 되었는지에 대해 걱정하기보다는, 편의 샘플링 전략을 사용한 것이 다른 연구자들에게 어떻게 보여질지에 대해 걱정한다.

For example, rather than describing how information in free-text entries on end-of-rotation evaluations was used to refine an educational program, which would be of interest to evaluators, they focus instead on abundance and credibility of data, of interest to researchers. Similarly, rather than discussing how data collected from interviews with faculty members helped establish the local worth of an online continuing medical education program, which would be of concern to evaluators, they fret about their convenience sampling strategy, of concern to researchers.


그렇다고 해서 프로그램 평가가 연구보다 체계적이거나 생각적으로 덜 진행되어야 한다는 뜻은 아니다. 오히려, 요점은 각 프로젝트에 대한 초기 결정은 (비록 유일하진 않지만) 서로 다르다는 점이다: 주로 이론적인 문제를 다룰 것이냐(연구)나 실제적인 문제를 다룰 것이냐(프로그램 평가)

This is not to say that program evaluation should be conducted less systematically or thoughtfully than research. Rather, the point is that initial decisions about each project will be guided differently: primarily, although not solely, by theoretical issues (research) or by practical issues (program evaluation).


선을 흐리게 하는 것으로 돌아가기

Back to Blurring the Lines


최근 일부 의학 교육 학자들은 (학습자가 배우는 방법과 같은) 교육 과정을 뒷받침하는 메커니즘을 이해하는 것이 프로그램 평가와 유사하다고 제안했다.2 이러한 관점에서, 인간의 작용 과정human process을 이해하기 위해서는 연구의 방법론적 엄격성이 요구된다.

Recently, some medical education scholars have proposed that understanding mechanisms underpinning educational processes, such as how learners learn, is akin to program evaluation.2 From this point of view, methodological rigor of research is required to understand the human processes at play.



오늘 시작할 수 있는 것

How You Can Start TODAY


1. 프로젝트 시작 시 질적 데이터가 관련될 때(예: 자유 텍스트 항목) 그 목적에 대해 명확히 하십시오. 질적 연구를 위한 표준과 프로그램 평가를 위한 표준 중 어떤 표준을 제시하는가?

1. Be clear at the start of your project about its purpose when qualitative data are involved (eg, free-text entries). Which standards are indicated: those for qualitative research or those for program evaluation?


2. 프로젝트의 목적이 명확해지면 적절한 기준에 따르십시오.

2. Once the purpose of your project is clear, attend to the appropriate standards.


3. 질적 연구와 프로그램 평가가 충족시켜야 할 기준의 세트가 서로 다르다는 것을 안다.

3. Expect qualitative research to meet one set of standards and program evaluation to meet another.


장기적으로 할 수 있는 것

What You Can Do LONG TERM


1. 활용 중심의 평가, 개발 평가, 현실주의 평가 등 질적탐구에 잘 맞는 프로그램 평가 모델을 숙지한다.1–3

1. Become familiar with models of program evaluation that fit well with qualitative inquiry such as utilization-focused evaluation, developmental evaluation, or realist evaluation.1–3


2. 프로그램 평가 작업을 배포할 때, 청중에게 데이터의 품질을 판단하는 데 사용한 표준을 알려야 한다. 이 기준은 질적 연구와는 다르지만 여전히 중요하다.

2. When disseminating your program evaluation work, inform your audience of the standards you used to judge the quality of your data, standards which are as important as, but different from, qualitative research.


3. 의학교육에서 표준적합성 질적 연구와 표준적합성 프로그램 평가를 모두 보급할 수 있는 추가 장소를 지지한다.

3. Advocate for additional venues in which to disseminate both standard-conforming qualitative research and standard-conforming program evaluation in medical education.









. 2016 Dec;8(5):773-774.
 doi: 10.4300/JGME-D-16-00540.1.

Using Data From Program Evaluations for Qualitative Research


의학교육에서 4C/ID: 어떻게 전-과제 학습 기반의 교육프로그램을 설계할 것인가?(AMEE Guide No. 93) (Med Teach, 2015)

4C/ID in medical education: How to design an educational program based on whole-task learning: AMEE Guide No. 93

MIEKE VANDEWAETERE1, DOMINIQUE MANHAEVE1, BERT AERTGEERTS1, GERALDINE CLAREBOUT1, JEROEN J. G. VAN MERRIE¨ NBOER2 & ANN ROEX1

1University of Leuven, Belgium, 2Maastricht University, the Netherlands




도입

Introduction


의학 커리큘럼은 결과 및 역량 기반이어야 한다는 일반적인 합의가 있다(Fernandez et al. 2012). 이는 현대 의학의 일차적인 목표가 학생들이 역량있는 의사가 되도록 훈련시키는 것임을 암시한다(역량 기반 의료 교육 또는 CBME).

There is a general agreement that medical curricula should be outcome- and competency-based (Fernandez et al. 2012). This implies that the primary goal of modern medical education is to train students to become competent physicians (competency-based medical education or CBME).


전문가를 위한 캐나다 의학 교육 지침(CanMEDS; Frank & Danoff 2007), 대학원 의학 교육 인증 위원회(Swing 2007), 던디 성과(Davis 2003),

Canadian Medical Education Directives for Specialists (CanMEDS; Frank & Danoff 2007), Accreditation Council for Graduate Medical Education (Swing 2007) and the Dundee Outcomes (Davis 2003),


현실에서, CanMEDS 프레임워크에 기술된 역할은 [의사들의 일상적인 활동을 반영하여 매끄러운 전체로 통합]되어야 한다. 따라서, 의사(이 경우, 일반 개업의)가 일상에서 성공적인 수행을 하기 위해서는, 예를 들어 당뇨병에 대한 지식과 통찰력을 갖는 것만으로는 충분하지 않다.

In practice, the roles as described in the CanMEDS framework have to be integrated into a seamless whole, reflecting the daily activities of the physician. Hence, for a physician’s (in this case, a general practitioner) successful performance in daily practice, it is not sufficient just to have the knowledge about and insight in, for example, diabetes.


따라서 CanMEDS 프레임워크와 그 구체적 구현은 의학교육이 지식, 기술 및 태도의 통합적 획득을 촉진하는 교육 및 학습 환경에서 이익을 얻을 수 있음을 의미한다. 프랭크(2005)와 반 헤르와든 외 (2009년) 보건 전문가들이 다루어야 할 진짜real, 진짜authentic 업무에 집중하는 것이 그러한 통합 학습을 뒷받침할 것이라고 주장한다. 그렇게 함으로써, 그들은 복잡한 학습 또는 전과제 학습이라고 불리는 것을 가리킨다(박스 1).

Consequently, the CanMEDS framework and its specific implementations imply that medical education may benefit from instruction and learning environments that foster the integrated acquisition of knowledge, skills and attitudes. Frank (2005) and van Herwaarden et al. (2009) argue that focusing on the real, authentic tasks that health professionals need to deal with will support such integrated learning. By doing so, they refer to what is called complex learning or whole-task learning (Box 1).


복잡한 학습

Box 1. Complex learning.


복잡한 학습이란 [지식, 기술 및 태도의 통합적 획득]과 [질적으로 다른 구성 기술의 조정coordination]을 말한다. 더욱이 복잡한 학습은 또한 학교와 훈련 환경에서 배운 것을 일상 생활이나 전문적 환경으로 전이transfer하는 것을 포함한다(반 메리  n nboer & Kirschner 2013).

Complex learning refers to the integrated acquisition of knowledge, skills and attitudes and to the coordination of qualitatively different constituent skills. Moreover, complex learning also involves the transfer of what is learned in school and training settings to daily life or professional settings (van Merrie¨ nboer & Kirschner 2013).



의학교육에서 전과제 학습

Whole-task learning in medical education


의학 교육에서 복잡한 학습이나 전과제 학습의 접근법을 사용하는 데는 두 가지 설득력 있는 이유가 있다.

There are two compelling reasons for using the approach of complex or whole-task learning in medical education.


첫째, 전과제 모델은 가변적이고 복잡한 환경에서 학생들의 기능을 육성하는 학습 활동의 개발을 위한 탄탄한 틀을 제공한다(Yardley et al. 2013). 전과업 접근법을 사용한 결과, 풍부한 정신 모델과 인지 전략의 개발이 촉진되어, 학생들이 다양한 건강 관리 상황에서 효율적인 문제 해결 전략을 사용할 수 있다. 실제의 진실한 과제를 사용함으로써, 복잡한 학습이 지원되고, 따라서 커리큘럼에서 직장으로의 이전이 더욱 실현가능해진다(2010년 시장, 반 메리 ̈nboer & 스위블러 2010).

First, whole-task models provide a solid framework for the development of learning activities that foster students’ functioning in variable and complex settings (Yardley et al. 2013). As a result of using a whole-task approach, the development of a rich set of mental models and cognitive strategies is facilitated, allowing students to use efficient problem solving strategies in various health care situations. By using real-life authentic tasks, complex learning is supported and hence the transfer from the curriculum to the workplace becomes more feasible (Mayer 2010; van Merrie¨nboer & Sweller 2010).


둘째, 전과제 학습 모델은 의학교육에서 근거기반 원칙을 보다 명시적으로 사용해야 한다는 요구를 충족할 수 있다(Gibbs et al. 2011). 역량 기반 커리큘럼CBME의 핵심 측면에 대한 일반적인 합의가 있지만, 그것의 실제 구현은 과학적인 기반이 거의 없었다.

Second, models of whole task learning may meet the call for a more explicit use of evidence-based principles in the practice of medical education (Gibbs et al. 2011). Although there is a general agreement on the key aspects of competency-based curricula, its practical implementation has had little scientific underpinning.


4가지 구성요소의 교육적 설계 모델(4C/ID모델; 상자 2) (반 메리 nnboer & Kirschner 2007, 2013; 반 메리 nnboer & 스웨터 2010)은 전과업 학습 환경의 설계 및 개발 프로세스를 지원하는 증거 기반 교육적 설계 모델이다. 그것은 구체적인 지침과 사용 가능한 설계를 제공함으로써 그렇게 한다(Hogveld et al. 2011). 이 모델은 복잡한 기술을 습득하기 위해 이미 여러 영역에 적용되었다.

The four-component instructional design model (4C/ID model; Box 2) (van Merrie¨nboer & Kirschner 2007, 2013; van Merrie¨nboer & Sweller 2010) is an evidence-based instructional design model that supports the design and development process of whole-task learning environments. It does so by providing concrete guidelines and usable designs (Hoogveld et al. 2011). This model has already been applied in several domains for the acquisition of complex skills


상자 2. 4C/ID 모델

Box 2. The four-component instructional design (4C/ID) model.


4가지 구성 요소 교육 설계(4C/ID) 모델은 [개별 요소와 그 요소들 간의 관계에 대한 시야를 놓치지 않으면서도]실제 업무의 복잡성을 처리함으로써 학습과 교육에 전체론적 접근방식을 적용한다(Ban Merrie  n nboer 1997). 

이 접근법은 다음과 같은 지속적인 문제를 다룬다. 

  • 구획화: 선언적 지식, 절차적 지식 및 태도와 같은 뚜렷한 부분 또는 범주에서 전체 역량의 분리시키는 것

  • 파편화: 부품 간의 상호작용을 고려하지 않고 작은 부품에서 복잡한 기술 또는 역량을 분해하는 것

  • 전이 패러독스학생들이 복잡한 과제를 고립된 방식으로 배울 때, 그들이 배운 것을 작업 환경의 현실로 이전하는 것은 더 어려운 것. 왜냐하면 고립되고 구체적인 목표는 통합적인 목표에 도달하는 경우에 종종 효과가 없기 때문이다.

The four-component instructional design (4C/ID) model applies a holistic approach to learning and instruction, hereby dealing with the complexity of real-life tasks without losing sight of the separate elements and the relationships between those elements (van Merrie¨ nboer 1997). This approach deals with persistent problems like: 

  • compartmentalization, separation of a whole competence in distinct parts or categories like declarative knowledge, procedural knowledge and attitudes; 

  • fragmentation, breaking complex skills or competencies in smaller parts without taking into account the interactions between the parts; and 

  • the transfer paradox, when students learn complex tasks in an isolated manner, it will be more difficult for them to transfer what they have learned to the reality of the work settings because what works well for reaching isolated, specific objectives often does not work when it comes to reaching integrated objectives.


4C/ID 모델: 이론에서 실천으로

The 4C/ID model: From theory to practice


모델은 네 가지 주요 구성 요소로 구성된다(그림 1 참조).

the model comprises four major components, (see Figure 1).



4가지 구성요소는 

  • (1) 학습 과제, 

  • (2) 지원 정보(이론), 

  • (3) 절차 정보(how to's) 및 

  • (4) 파트태스크 실습(초점 반복 연습 또는 '드릴')

The four components that are identified are as follows: (1) learning tasks; (2) supportive information (the theory); (3) procedural information (the how to’s) and (4) part-task practice (focused repetitive practice or ‘‘drill’’).


  • 그림 1에서 학습 과제는 원으로 표시된다. 그들은 교육 프로그램의 근간을 제공한다. 직장에서 수행되는 학습 과제를 훈련training 과제라고 한다. 학습자가 학습 과제를 수행할 때 종종 지원 및 안내가 제공되기도 한다. 이는 원을 채우는 것으로 표시된다. 학습자가 더 많은 전문 지식을 습득함에 따라 지원 및 지침support and guidance은 일반적으로 감소할 것이다. 게다가 학습자들은 종종 그들의 과제 수행의 질에 대해 성찰을 요구받게 되는데, 커다란 원과 연결된 다이아몬드로 표시되어있다.

In Figure 1, the learning tasks are indicated by the circles. They provide the backbone of the educational program. Learning tasks that are performed in the workplace are called training tasks. Often, learners will receive support and guidance when they are working on the learning tasks; this is indicated by the filling of the circles. Support and guidance will typically decrease as learners acquire more expertise. Moreover, learners will often be asked to reflect on the quality of their task performance, which is indicated by the diamonds connected to the large circles.


  • 지원 정보는 L자형으로 표시된다. 이 정보는 학습자가 학습 과제, 즉 문제 해결, 추론 및 의사결정이 필요한 측면을 수행하도록 돕는다.

The supportive information is indicated by the L-shaped figure. This information helps learners to perform non-routine aspects of learning tasks, that is, aspects that require problem solving, reasoning and decision making.


  • 절차 정보 또는 적시 정보는 위쪽 화살표가 있는 직사각형으로 표시된다. 이 정보는 과제 레벨에서 제공되며 학습자에게 학습 과제의 '반복적recurrent' 요소를 수행하는 방법을 알려준다. 즉 교육 프로그램이 완료된 후 일상적으로 수행해야 하는 측면에 대해 알려준다.

The procedural information or just-in-time is indicated by the rectangle with upward information pointing arrows. This information is offered at the task-level and informs learners on how to perform ‘‘recurrent’’ aspects of learning tasks, that is, aspects to be performed as routines after the educational program has been completed.


  • 마지막 구성 요소는 직사각형으로 그룹화된 작은 원으로 표시되는 파트 작업 관행이다. 파트-태스크 연습은 많은 반복적인 연습을 포함하며, 작업의 특정 반복적인 측면에 대해 매우 높은 수준의 자동화가 필요할 때 제공된다. 더욱이, 부분과제part-task 연습은 연습 시리즈(다이아몬드로 표시)의 마지막에 성찰 과제를 수반할 수 있다. 목적은 스키마 자동화를 강화하는 것이며, 따라서 일반적으로 연장된 반복 연습이 필요하다.

The last component is the part-task practice, indicated by the small circles grouped in a rectangle. Part-task practice involves a lot of repetitive practice and is provided when a very high level of automaticity is required for a particular recurrent aspect of the task. Furthermore, part-task practice can be accompanied by a reflection task at the end of the practice series (indicated by a diamond). The aim is to strengthen schema automation, and hence it typically involves extended repetitive practice.


  • 그림 1에 표시된 마지막 요소는 테스트(우측 화살표로 표시됨)이다. 이 시험은 학생의 이미 이용할 수 있는 관련 지식을 평가하는 것 이상의 것으로, 학생들에게 수행 기준에 대해 알리고 학습 과제의 주제와 복잡성을 소개한다.

A last element that is represented in Figure 1 is the test (indicated by the right-pointing arrow). More than assessing a students’ already available relevant knowledge, this test informs students about the performance standards and introduces them to the topic and complexity of the learning tasks.


네 가지 구성요소를 확인하는 것은 설계 프로세스의 한 부분일 뿐이다. 4C/ID 기반 학습 환경의 우수한 설계를 지원하는 추가적인 보조 활동이 있다.

identifying the four components is only one part of the design process. There are additional, auxiliary activities that support the good design of a 4C/ID-based learning environment.


이 활동들은 함께 설계 과정을 구성하는 10단계(전 과업 코스 개발로) 또는 10단계(반 메리 nnboer & Kirschner 2013)로 기술된다.

Together, these activities are described as the 10 steps (to whole-task course development) or the 10 activities that make up the design process (van Merrie¨nboer & Kirschner 2013).


전과제 기반 의료 코스의 내용 개발 10단계

Ten steps to develop the content of the whole-task based medical course


구성 요소 1: 학습 태스크

Component 1: Learning tasks



첫 번째 요소(그림의 순서 1에서 큰 원으로 표시됨)는 학습 과제(반 메리 nnboer & 반 데르 벨루텐 2012)로 구성되며, 이는 의사의 전문적인 과제를 더 많이 반영한다. 그것들은 세 단계로 요약될 수 있다.

The first component (indicated with large circles in Figure sequence 1) comprises a of learning tasks (van Merrie¨nboer & van der Vleuten 2012), which more or less mirrors the physician’s professional tasks. They can be concretized in three steps.


1단계: 학습 과제 설계

Step 1: Design learning tasks


학습과제는 의사들이 일하는 것을 대표할represent 수 있는 방법으로 선택된다. 이른바 ‘전체적인 과제’나 복잡한 문제다. 더 높은 학습 전달에 기여하기 위해, 실제 상황에서처럼, 과제마다 서로 다르다.

The learning tasks are chosen in such a way that they are representative for the physicians work. They are so-called ‘‘whole tasks’’ or complex problems. In order to contribute to a higher transfer of learning, the tasks vary from one another as they would in a real-life situation.


예를 들어 당뇨병 환자의 발을 평가하는 법을 배울 때, 과제는 간단하고 복잡한 상황, 신경증이나 궤양이 없거나 없는 발 평가, 환자의 건강 상태에 대한 거의 또는 많은 정보를 갖는 것 등에 초점을 맞출 수 있다. 이 '연습의 가변성'은 지식, 기술 및 태도가 익숙하지 않은 다른 상황에 전이transfer되는 데 크게 기여한다(Norman 2009).

For example, when learning to assess the diabetic patient’s foot, tasks can focus on simple and complex situations; assessing the foot without or with neuropathy or ulcers; having little or much information about a patient’s health condition, and so forth. This ‘‘variability of practice’’ greatly contributes to the transfer of knowledge, skills and attitudes to other, non-familiar situations (Norman 2009).


대부분의 학습 과제에는 일상적 측면과 비 루틴적 측면이 모두 포함된다

      • 일상적인 측면은 예를 들어, 병력 청취 중 일련의 질문을 하거나 당뇨병 환자의 발을 임상적으로 검사하는 것으로, 학생들이 교육 프로그램을 완료한 후 일상적으로 수행될 것임을 나타내기 위해 '반복적recurrent' 측면이라고도 한다. 

      • 루틴적인 측면은 학생들에게 다소 생소하고, 노력이 필요하며, 특정한 결과를 가지고 있는 행동이다; 그것들은 학생들이 교육 프로그램을 마친 후에도 여전히 문제 해결, 추론 또는 의식적인 의사결정을 요구한다는 것을 나타내기 위해 '비반복적인' 측면이라고도 불린다.

Most learning tasks include both routine and non-routine aspects. 

      • Routine aspects are, for example, asking a sequence of questions during history taking or a clinical examination of the diabetic’s foot; they are also called ‘‘recurrent’’ aspects, in order to indicate that they will be performed as routine after students have completed the educational program. 

      • Non-routine aspects are actions that are rather new to students, require effort and have a problem specific outcome; they are also called ‘‘non-recurrent’’ aspects to indicate that they still require problem solving, reasoning or conscious decision making after students have finished the educational program.


예를 들어, 다양한 출처의 정보(병력 청취, 임상 검사 및 혈액 검사 결과)를 결합하는 것은 문제 해결 행동과 인지 전략의 적용에 참여하기 위해 인지 스키마타의 조합을 필요로 하는 비반복적 기술이다(van Merrie bonboer et al. 2002).

For example, combining information from various sources (history taking, clinical examination and blood test results) is a non-recurrent skill that requires the combination of cognitive schemata in order to engage in problem-solving behavior and the application of cognitive strategies (van Merrie¨nboer et al. 2002).


과제마다 내용과 제시방식에 차이가 있을 뿐 아니라, 과제마다 instruction이 다를 수 있다. 또한, 학생이 프로그램을 진행함에 따라 지원 및 지침이 감소하고(그림 1의 원 채우기 참조), 특정 과제에 대해서는 과제 완료 후 학생들이 성찰이 요구된다(그림 1의 줄무늬 다이아몬드 참조).

Besides varying in their content and presentation, tasks may also vary in their instruction. Moreover, there is a decrease in support and guidance as the student proceeds through the program (see the filling of the circles in Figure 1) and for particular tasks, students are invited to reflect after task completion (see striped diamonds in Figure 1).


제공되는 방법에 대한 표시가 있는 모든 유형의 학습 과제는 부록 A http://informahealthcare.com/journal/mte에서 보충 자료로 제공된다.

All types of learning tasks with indications on how they can be offered are listed in Appendix A, available as Supplemental Material at http://informahealthcare.com/journal/mte.


학습 과제의 또 다른 다양성은 [과정 중에 완료할 수 있는 과제]와 [직장 기반 학습 과제]의 구별이다. 그러한 과제의 예는 다음과 같다: 병력청취를 관찰하고 성찰하는 것, 다원적 팀 회의에 참여하는 것, 처방전을 작성하는 것, 그리고 의사나 인턴십 트레이너로부터 피드백을 요청하는 것.

Another variation in learning tasks is the distinction between tasks that can be completed during the course and workplace-based learning tasks. Examples of such tasks are as follows: observing and reflecting on history taking; participating in a multidisciplinary team meeting, writing prescriptions and asking feedback from the physician or internship trainer.


2단계: 평가 도구 개발

Step 2: Develop assessment instruments


다른 역량 기반 커리큘럼에서와 같이 평가 도구는 복잡한 학습 과정에서 중요한 요소다.

As in any other competency-based curriculum, assessment instruments are crucial elements in the process of complex learning.


4C/ID 모델에서 주요 목표는 지식, 구성 기술 및 태도의 통합과 조정을 필요로 하는 일련의 '전체 과제whole task'를 성공적으로 완료하는 것이다. 모든 구성적 기술이 평가 도구에서 표현되도록 하기 위해, 모든 업무, (구성적) 기술 및 그 기술 사이의 상호 관계를 나타내는 평가 매트릭스를 개발할 수 있다.

In the 4C/ID model, the main objective is the successful completion of a set of ‘‘whole tasks’’, which requires the integration and coordination of knowledge, constituent skills and attitudes. To ensure that all constituent skills are represented in the assessment instruments, one could develop an assessment matrix representing whole tasks, (constituent) skills and interrelations between those skills.


목표의 일부는 [허용 가능한 수행능력에 대한 표준]이다. 이 표준에는 관련 기준(예: 오류 없이 10분 이내), 값(예: 당뇨병 관리에 대한 최근 지침을 고려하고 전자 건강 기록에 따라) 및 (예: 치료에 대한 관련 태도를 제시하고 대화에서 능동적인 청취 기법을 사용하는)이 포함된다.

Parts of the objectives are standards for acceptable performance. These standards include relevant criteria (e.g. without error and within 10 minutes), values (e.g. taking into account the recent guidelines for diabetes management and in accordance with the electronic health record) and (e.g. giving relevant attitudes arguments for treatment and using active listening techniques in a conversation).


학생들에게 성능 기준에 대해 알리기 위해 학습 모듈 시작 시 [자기 평가 퀴즈]를 제공할 수 있다.

To inform students about the performance standards, one could offer a self-assessment quiz at the beginning of a learning module.


이 시험은 학생들의 선행지식을 활성화시키는 반면, 학생들은 그들의 성과를 평가할 기준에 익숙해진다.

this test activates a students’ prior knowledge (Merrill 2002); while on the other hand, students become familiar with the standards by which their performance will be evaluated.


학생들에게 전문적 행동과 연계된 원하는 수행 기준을 알려주는 한 가지 방법은 worked example를 사용하는 것이다. 작업한 예worked example는 상담 비디오, 환자로부터 동기부여 면접을 받기 위한 단계별 접근, 모범적 해결책(부분)을 제공함으로써 학생이 가장 적절하거나 정확한 답을 얻는 지식 테스트 등의 형태를 취할 수 있다. Worked example의 핵심은 전문가의 행동인 '황금기준'을 보여주는 것이다. 이와 같이, 업무 예제 업무는 해결책뿐만 아니라 해결책까지 나올 수 있는 모델링 작업이 된다. 이것은 학생들이 허용 가능한 성과에 대한 표준을 인식하고 결과에 도달하기 위해 적절히 행동하도록 돕는다.

One way to inform students about the performance desired standards linked to the professional behavior (to what standards will their performance be compared?) is to use worked examples. A worked example can take the form of a video of a consultation, a step-by-step approach for taking a motivational interview from a patient, a knowledge test where the student is guided toward the most appropriate or correct answer by offering (parts of) a model solution and so forth. Central in a worked example is that it reflects the ‘‘golden standard’’, the expert behavior. As such, a worked example task becomes a modeling task where not only the solution is offered but also the process to come to the solution. This helps students to recognize the standards for acceptable performance and to act accordingly to reach the outcomes.


그러나 우리는 모든 학생들이 기초적인 기준을 인식할 수 있거나, 전문가의 행동에서 중요한 것과 그렇지 않은 것을 구별할 수 있다고 가정할 수는 없다. 따라서 학생들은 과제를 완료하는 동안 또는 완료 후에 평가될 허용 가능한 성과에 대한 기준에 따라 전문가의 성과를 평가하도록 요청받을 수 있다(Gulikers et al. 2008, Fastre et al. 2010). 그렇게 함으로써, 수행 목표와 표준은 실제적인 맥락에서 학생들에게 소개된다. worked example는 지원 정보의 일부로 제공되어서, 필요할 때 사용할 수 있도록 유지하는 것이 이상적이다(그림 1의 가장 낮은 막대 표시, 우리는 작업 예를 나타낸다). 이로서 학생들은 자기주도적 방식으로 worked example과 그에 딸린 표준을 참조할 수 있다.

However, we cannot assume that all students are able to recognize the underlying standards, or that they can distinguish what is crucial in the expert’s behavior and what is not. Therefore, students can be asked to evaluate the performance of the expert according to the standards for acceptable performance by which they will be evaluated during or after task completion (Gulikers et al. 2008, Fastre´ et al. 2010). By doing so, performance objectives and standards are introduced to students in a real context. A worked example ideally stays available as part of the supportive information (indicated by the lowest bar in Figure 1; WE stands for worked example). Students are thus able to consult the worked example and its accompanying standards on a self-directed basis.


자기주도학습 촉진에 발맞추어 의학교육 설정에서 두 가지 유형의 평가를 적용할 수 있다(반 메리  dernboer & 반 데르 블뤼텐 2012): 

In line with promoting self-directed learning, two types of assessments can be applied in the setting of medical education (van Merrie¨nboer & van der Vleuten 2012): 


(1) Supported assessment: 모든 보조교재를 이용할 수 있는 상태, 상담이 제공되는 상태에서 학생을 평가.

(1) supported assessment in which students are assessed while all supporting materials are available and can be consulted in the learning environment


(2) Unsupported assessment: 학습환경에서 더 이상 지원을 받을 수 없고 학생이 정규 의료실무와 같이 자기주도적인 기준으로 정보를 찾아야 하는 상태에서 평가

(2) unsupported assessment in which support is no longer available in the learning environment and students have to seek information on a self-directed basis as in regular medical practice.


필요한 경우, 학생들에게 작업 중 [작은 부분의 자동화]를 촉진하기 위한 파트타임 실습 교육을 받는다. (예: 동기부여 커뮤니케이션 기술 연습). 학생들은 전반적인 업무 성과를 개선하기 위해 과제의 일부에 대한 이해를 깊게 할 수 있다 (예: 환자와의 동기부여 대화에서 여러 단계를 구별하는 방법). 즉각적인 피드백이 제공되며, 파트-태스크 연습과 작업의 작은 부분을 반복적으로 수행할 수 있는 기회가 제공된다.

If necessary, students are instructed with part-task practice to foster automation of smaller parts of the task (e.g. practicing motivational communication skills) to deepen the understanding of parts of the task (e.g. how to distinguish the different phases in a motivational conversation with the patient) in order to improve their overall task performance. Furthermore, immediate feedback is provided as well as the opportunity to repeatedly perform the part-task practice and smaller parts of the task.


3단계: 학습 태스크 순서배열

Step 3: Sequence learning tasks


위에서 기술한 바와 같이, 일련의 다양한 업무들이 학습 환경의 중추를 형성한다. 이는 지식, 기술 및 태도의 통합을 촉진하며, 따라서 Merrie ̈nboer 역량 획득(van der & van Vleuten 2012)을 촉진한다. 따라서, 4C/ID 모델은 이른바 과제 수업에서 유사한 복잡성 수준과 유사한 필수 지식을 가진 [학습 과제를 그룹화]할 것으로 예측한다. 교육 프로그램 전체에 걸쳐 학습자는 [쉽고 간단한 작업 수업에서 점점 더 어렵고 복잡한 작업]으로 안내될 것이다.

As described above, a sequence of varying tasks forms the backbone of the learning environment. This facilitates the integration of knowledge, skills and attitudes, hence the Merrie¨nboer acquisition of competences (van der & van Vleuten 2012). Therewith, the 4C/ID model foresees to group learning tasks that have a similar complexity level and similar required knowledge in so-called task classes. Throughout the training program, learners will be guided from easy and simpler task classes to increasingly more difficult and complex task classes.


태스크 클래스는 성공적 수행을 위해 다른 지식이나 보다 정교한 지식을 요구하는 다른 복잡도 수준의 과제를 구성한다는 점에서 서로 다르다. 단, 한 업무 클래스 내의 업무는 복잡성과 관련하여 유사하지만, 다른 여러 측면에서는 서로 다를 수 있다. [태스크 클래스 내에서 태스크의 가변성을 보장]함으로써, 학습자가 스키마 기반 학습 전송을 허용하는 풍부한 인지 스키마를 개발할 수 있(Paas & van Merrie ̈nboer 1994).

Task classes differ from each other in that they comprise tasks of a different complexity level requesting different knowledge or more elaborated knowledge for their successful performance. However, although tasks within one task class are similar with respect to complexity, they may differ from each other on many other aspects. Ensuring task variability within a task class, should enable learners to develop rich cognitive schemata, which allow for schema-based transfer of learning (Paas & van Merrie¨nboer 1994).


따라서 한 태스크 클래스 내의 여러 태스크는 현실의 가변성을 보여줘야 하며, 태스크와 관련된 지원 또는 지침의 양도 달라야 한다. 태스크 클래스 내에서 학습자에게 제공되는 지원은 점차 줄여나가야 한다: 첫 번째 태스크는 최대 지원을 수반하는 반면 마지막 태스크는 추가 지원이 없거나 최소한의 지원만 있어야 한다(그림 1의 원 채움으로 표시됨). 후속 작업 클래스에서 다시 한 번, 첫 번째 작업에는 최대 지원이 수반된다.

Tasks within a task class should therefore show variability of practice and, differ in the amount of support or guidance that is associated with the tasks. Within a task class, there is a decrease in the support offered to the learner: the first task is accompanied by maximal support, while the last task has no or minimal additional support (indicated by the filling of the circles in Figure 1). In the subsequent task class, then again, the first task is accompanied by maximal support.


표 1은 학습 과제 개발을 위한 관련 원칙을 요약한 것이다.

Table 1 summarizes the relevant principles for the development of learning tasks



삽화

Illustration



학습 모듈. 본 가이드에서는, KU Leuven General Practice 부서에서 개발한 "당뇨병 환자"와 "열병을 앓고 있는 어린 아이"라는 모듈을 사용하여 4C/ID 기반 학습 환경을 개발하고 구축할 수 있는 방법을 설명한다.

Learning modules. Within this Guide, the modules ‘‘Patient with diabetes’’ and ‘‘The young child with fever’’, both developed at the KU Leuven General Practice Department, are used to illustrate how one can develop and structure a 4C/ ID-based learning environment.


태스크 클래스. 학습 모듈에 들어가면 모듈의 구조(과제 수업)와 과제의 양에 대한 개요를 받을 뿐만 아니라, 과제 수업당 성과목표(과제수업을 마친 후 무엇을 할 수 있을 것인가), 시기 및 마감시간, 퀘스트시 누구에게 연락할 것인가에 대해서도 알려준다.내용에 관한 토막글

Task classes. When students enter the learning module, they not only receive an overview of the structure of the module (task classes) and the amount of tasks but they are also informed about the performance objectives per task class (i.e. what they will be able to do after finishing the task class), the timing and deadlines and who to contact in case of questions about the content.


학습 모듈. '당뇨병 환자'에서는 4개의 과제 클래스로 과제를 지시하는데, 모두 학습 모듈의 메인 화면을 그림 2에 그래픽으로 표시하였다. 각 태스크 클래스는 CanMEDS 역할 중 하나에 추가로 초점을 맞추고 있으며 이전 태스크 클래스보다 더 복잡하다. 학습 모듈의 첫 번째 과제 클래스는 당뇨병에 대한 선언적 지식(진단 및 치료 등)에 초점을 맞춘 과제와 사례 연구로 구성된다. 2차 과업수업도 진단과 치료에 대한 과제를 제공하지만 연습의 초점을 당뇨병 환자의 관리로 옮겨 협업자 및 전문가로서의 의사의 역할을 강조한다. 그 후 세 번째 과제수업은 관리자의 역할을 강조하는 과제를 제공하고, 네 번째(그리고 마지막) 과제수업은 통신자의 역할을 강조한다. 한 태스크 클래스에서 다른 태스크 클래스에 포커스(각각 더 많은 도메인 지식의 획득을 의미한다)를 추가함으로써 복잡성은 점차 증가한다.

In the learning module ‘‘Patient with diabetes’’, the tasks are ordered in four task classes, all presented graphically in Figure 2 showing the main screen of the learning module. Each task class focuses additionally on one of the CanMEDS roles and is more complex than a previous task class. The first task class of the learning module comprises tasks and case studies focusing on the declarative knowledge about diabetes (like diagnosis and treatment). The second task class also provides tasks on diagnosis and treatment but shifts the focus of the exercises to management of patients with diabetes, hence stressing the role of the doctor as a collaborator and professional. The third task class then provides tasks emphasizing the role of manager, while the fourth (and last) task class stresses the communicator’s role. By adding foci (which each imply the acquisition of more domain knowledge) from one task class to the other, the complexity gradually increases.



과제. 학습 환경에서는 몇 가지 과제가 제공된다. 표 2는 다양한 유형의 작업에 대한 아이콘을 제공한다.

Tasks. Several tasks are offered in the learning environment. Table 2 provides the icons for different types of tasks.


학생이 완료할 수 있는 첫 번째 과제(그림 3 파트 A 참조)는 문제 기반 지식 테스트의 실무 예다. 이 시험의 질문에 답함으로써 학생들은 자신의 지식에 대한 정보를 얻고, 그들의 답에 대한 피드백을 받고, 질문에 대한 전문가의 대답과 답을 얻기 위한 추리 과정을 제공받는다. 또한, 태스크 클래스의 내용과 허용 가능한 성능에 대한 표준이 무엇인지에 대해 소개된다. 따라서 학생들은 과제수업을 마친 후에 어떤 지식, 기술 및 태도를 보여줄 것으로 예상되는지(즉, 성과목표).

The first task (the large circle, see Figure 3, part A) for students to complete is a worked example, in this case, a problem-based knowledge test. By answering the questions on this test, students obtain information about their knowledge, receive feedback on their answers and are provided with the expert’s answer to the question and the reasoning process to come to the answer. Furthermore, they are introduced to the content of the task class and what the standards are for acceptable performance. Hence, students are informed about what knowledge, skills and attitudes they are expected to demonstrate after completing the task class (i.e. the performance objectives).


두 번째 과제(책 아이콘이 있는 사각형, 그림 3, 파트 B 참조)는 전체 작업 클래스에 대한 지원 정보를 나타낸다. 학생들은 이 과제를 완료하기 위해 자료를 읽도록 지시 받는다. 이것들은 이론적 개요와 과정 장에 초점을 맞춘 문서와 웹 링크에 의해 제공된다. 이 지원 정보는 모든 업무에서 이용할 수 있다. 이것은 또한 가장 낮은 막대로 시각적으로 표시된다(그림 3 파트 F 참조). 다음 절에서는 지원 정보의 설계에 대해 좀 더 자세히 설명한다.

The second task (the square with the book icon, see Figure 3, part B) represents the supportive information for the whole task class. Students are instructed to read the materials as to complete this task. These are provided by documents and web links focusing on theoretical overviews and course chapters. This supportive information is available throughout all tasks. This is also visually presented by the lowest bar (see Figure 3, part F). In the next section, the design of the supportive information is described in more detail.



학생이 두 번째 과제의 일부로 지원 정보 문서를 읽은 후에는 몇 가지 과제가 제공된다(큰 원들에 의해 제시됨, 그림 3, 파트 C 참조). 예를 들어, 모듈 "당뇨병 환자"의 두 번째 작업 클래스는 관리에 초점을 맞추었다. 이 과업수업에서 두 번째 과제는 당뇨병에 걸린 환자의 관리 및 치료의 최적화 및 업데이트에 보다 구체적으로 초점을 맞추었다. 이 과제를 완료하기 위해 학생들은 10개의 질문에 다른 형식으로 답해야 했다(복수 답변, 정렬, 즉 빈칸 채우기, 완료 등). 그림 4는 끌어서 놓기 형식으로 질문의 예를 보여준다.

After a student has read the supportive information documents as part of the second task, several tasks are offered (presented by the large circles, see Figure 3, part C). For example, the second task class in the module ‘‘Patient with Diabetes’’ focused on management. The second task in this task class more specifically focused on the optimization and update of management and treatment for patients with diabetes. To complete this task, students had to answer 10 questions in different formats (multiple answer, sort, fill-in-the-blank, complete, etc.). Figure 4 presents an example of a question in drag-and-drop format.


이 과제에 포함된 모든 질문들은 동일한 구조를 가지고 있었다. 즉, 환자 사례를 제시하거나 (이전 질문에 비해) 더 상세하게 제시하거나 (이전의 치료와 같이) 고려해야 할 더 많은 요소를 제시한다.

All questions in this task had the same structure: a patient case is presented, or is presented in more detail (as compared to a previous question), or is presented with more elements to take into account (like previous treatments).


과제의 대다수는 개별적인 완료를 목표로 하고 있지만, 다른 과업은 수업시간에 완료되거나 논의되는 그룹 과제나 과업이다. 이것은 사람 아이콘이 있는 원으로 표시된다(그림 3, 부분 D, 마지막 원 참조). 이러한 그룹 과제의 예는 다음과 같다: 수업시간 동안 그룹 토론이 뒤따른 환자 사례의 온라인 준비, 강의 시간 동안 피드백을 제공하는 강사와의 토론 포럼에서 환자 사례의 그룹 토론, 치료 계획의 공동 작성 등이다.

While the majority of tasks aim for individual completion, other tasks are group tasks or tasks that are completed or discussed during class hours. This is indicated by the circle with a people icon within (see Figure 3, part D, last circle). Examples of such group tasks are as follows: the online preparation of a patient case followed by a group discussion during class hours, the group discussion of a patient case on the discussion forums with the instructor providing feedback during class hours, a collaborative writing of a treatment plan, and so forth.


그림 3 (E부)에 묘사된 마지막 아이콘은 대면 클래스다. 이 수업에서 강사는 학습 모듈의 학습 결과에 대한 피드백을 제공할 수 있다. 강사는 컴퓨터 기반 환경에서 과제 완료 학습 중에 지식, 기술 또는 태도의 차이가 확인되면 추가 정보를 제공할 수 있다(작업의 컴퓨터 기반 수정에 기반함).학습 모듈에서 논의된 특정 주제에 대한 광석(포럼 게시물 및 토론 스레드 기준) 또한 대면 수업 아이콘은 언제 학생들이 과제를 완료할 것으로 예상되는지를 나타낸다. 즉, 수업이 구성되기 전, 수업 전후 또는 후에 말이다.

A last icon that is depicted in Figure 3 (part E) is the face-to-face classes. During these classes, instructors can provide feedback on students’ learning outcomes of the learning module; they can provide additional information if any gaps in knowledge, skills or attitudes were identified during task completion learning in the computer-based environment (based on computer-based correction of tasks); and they can elaborate more on certain topics that were discussed in the learning module (based on forum posts and discussion threads). also The face-to-face class icon indicates when students are expected to complete the tasks: before, around or after the class is organized.


마지막 유형의 업무는 훈련 또는 직장에 기반한 업무와 관련된다. 예를 들어, 학습 모듈 "노인을 위한 관리"의 교육 과제 중 하나는 다음과 같다: " 인턴 기간 동안 당신은 나이든 환자들을 만나게 될 것이다. 해당 환자 중 한 명의 이니셜을 기록하고 이 환자를 훈련 감독관과 상의하십시오. 노인을 위한 장기적인 건강관리 계획을 어떻게 수립하십니까? 당신이 자신의 일반적인 관행에서 할 수 있는 일은 무엇인가? 주의가 필요한 포인트는 무엇인가? '노인을 위한 돌봄' 3급으로 보고서를 가지고 오십시오. 과제 수업 내 업무의 복잡성이 증가함에 따라 학생은 노인 의료에 대한 모든 지식과 기술을 통합해야 하며, 일반 개업의(의료 전문가, 환자, 가족, 간호사, 동료, 건강과의 커뮤니케이션 및 협업자)로서 의사로서 그리고 좀 더 구체적으로 여러 역할을 수행할 수 있어야 한다. 환자 및 관리 및 계획에 관한 전문가)를 대상으로 교육 또는 작업 공간 작업을 완료한다. 더욱이 훈련 과제에는 지원되지 않는 평가가 수반된다(반 메리 ̈nboer & 반 데르 벨루텐 2012). 모든 지원 자료를 이용할 수 있고 업무에 대한 지원의 양이 점차 줄어든 컴퓨터 기반 학습 환경에서 과제 완료 중 (지원) 평가와 달리, 학생들은 이제 자신의 미래 의료 관행에서도 정보를 찾아야 하기 때문에 자기 주도적인 기준으로 정보를 찾아야 한다. 이는 업무수업 내에서 업무에 대한 지원 및 지침의 양을 줄이는 원칙과 일치한다. 마지막 과제 집합에는 기본 제공 지원이 없으므로 학생들에게 최소한의 지원이나 지원을 제공하지 않는다. '자신의 의술에서 할 수 있는 일이 무엇인가?'와 같은 질문들은 학생들이 고의적인 연습을 하고 그들 자신의 (미래) 수행을 반성하도록 장려한다. 또한, 학생들은 훈련 감독관( 인턴 기간 중)과 강사(수업 시간 중)로부터 피드백을 받고, 다시 의도적인 실천을 도모한다. 학생들의 인턴십을 학습 과정의 연장선상으로 명시적으로 고려함으로써, 교실 학습과 인턴십 학습 사이의 이전(그리고 그 반대).

A last type of tasks pertains to training or workplace-based tasks. For example, one of the training tasks in the learning module ‘‘Care for the elderly’’ is the following: ‘‘During your internship you will meet older patients. Note the initials of one of those patients and discuss this patient with your training supervisor. How do you set up a long-term healthcare plan for the elderly? What is possible for you to do in your own general practice? What are the points that need attention? Please bring your report with you to class 3 of ‘Care for the elderly’’’. Because of the increasing complexity of tasks within a task class, a student needs to integrate all knowledge and skills about elderly healthcare and should be able to take multiple roles as physician and more specifically, as a general practitioner (medical expert; communicator to and collaborator with patients, family, nurses, colleagues; health promoter towards patients and professional with respect to management and planning) to complete the training or workplace tasks. Moreover, the training tasks are accompanied with unsupported assessment (van Merrie¨nboer & van der Vleuten 2012). Unlike the (supported) assessment during task completion in the computer-based learning environment where all support materials were available and where the amount of support decreased gradually over tasks, students now have to seek information on a self-directed basis as they also should seek information in their future medical practice. This is in line with the principle of decreasing the amount of support and guidance for tasks within a task class. The last set of tasks has no built-in support hence providing minimal or no support to students. Questions such as: ‘‘What is possible for you to do in your own medical practice?’’ encourage students to engage in deliberate practice and to reflect on their own (future) performance. Moreover, students receive feedback from both the training supervisor (during internship) and the instructor (during class hours), again fostering deliberate practice. By explicitly considering the students’ internship as the extension of their learning process, transfer between classroom learning and internship learning (and the other way around) is increased.




구성 요소 2: 지원 정보

Component 2: Supportive information



전통적으로 '이론'이라고 불리는 지원 정보는 학습자들이 학습 과제의 문제 해결과 추론적인 측면을 이해하는데 도움을 준다. 일반적으로, 지원 정보는 학습 과제의 비반복적 측면, 즉 교육 프로그램의 완료 후에도 문제 해결, 추론 또는 의식적인 의사결정이 필요한 측면의 결실을 맺기 위해 중요하다.

Supportive information, traditionally called ‘‘the theory’’, helps learners with the problem solving and reasoning aspects of the learning tasks. Typically, supportive information is important for the fruitful completion of non-recurrent aspects of learning tasks, that is, those aspects that require problem solving, reasoning or conscious decision making even after the completion of the educational program.




그림 3

Figure 3,


4-6단계: 설계 지원 정보

Steps 4–6: Design supportive information


지원 정보는 학습자에게 학습 과제의 [비루틴적 측면]을 완료하는 데 필요한 새로운 정보를 제공한다. 따라서 제공된 지원 정보는 각 태스크 클래스의 내용에 맞춰 조정되며, 학습자는 필요에 따라 액세스할 수 있다. 지원 정보는 학습자가 [인지 스키마](예: 임상 추론이나 의사결정을 위한 질병 스크립트, 치료 프로토콜, 체계적인 접근법 및 규칙)를 구성하도록 도울 뿐만 아니라, 학습자가 자신의 스키마를 전문가 또는 동료 학생의 스키마와 비판적으로 비교하고 대조하도록 유도하여 [인지적 피드백]을 제공할 수 있다.

The supportive information provides the learner with new information that is needed to complete the non-routine aspects of learning tasks. The provided supportive information is hence tailored to the content of each task class and can be accessed in accordance with the learners’ needs (already existing and yet to be acquired knowledge). It helps learners to construct cognitive schema (e.g. illness scripts, treatment protocols, systematic approaches and rules-of-thumb for clinical reasoning or decision making), but it can also provide cognitive feedback, inviting the learners to critically compare and contrast their own schema with those of experts or peer students.


지원 정보에 의해 반영되는 [인지적 스키마]는 두 가지 형태로 나타난다.

The cognitive schema, as reflected by the supportive information, come in two forms.


첫째, 인지 전략(5단계)이 있으며, 휴리스틱스 및 일반 규칙과 같은 이 영역에서 문제 해결에 대한 체계적인 접근법을 제공한다.

First, there are the cognitive strategies (step 5), providing systematic approaches to problem solving in this domain, like heuristics and rules-of-thumb


둘째, 학습영역이 어떻게 구성되어 있는지를 반영하는, 학습영역 내에서 추론을 가능하게 하는 정신적 모델(6단계)이 있다.

second, there are the mental models (step 6) that reflect how the learning domain is organized and hence allow for reasoning within the learning domain.


예를 들어 당뇨병 환자에 대한 치료 계획은 내과의사에게 당뇨병 환자의 치료와 추적에 대한 체계적인 접근법을 제공한다. 반면에 멘탈 모델은 적극적으로 만들어지고 비슷한 상황을 겪은 이전의 경험에 의해 알려지는 개인적인 이론으로 묘사될 수 있다.

For example, treatment plans for patients with diabetes provide physicians with a systematic approach toward treatment and follow-up of patients with diabetes. Mental models, on the other hand, can be described as personal theories that are actively created and are informed by previous experiences with similar situations.


태스크 클래스 내의 서로 다른 태스크에 대한 이 지원 정보의 관련성을 고려할 때, 지원 정보는 태스크 클래스의 시작 부분에서 제공되며 태스크 클래스의 작업 동안 계속 사용할 수 있어야 한다. 새로운 태스크 클래스는 조금 다르거나 더 정교한 지원정보를 필요로 할 것이다.

Given the relevance of this supportive information for the different tasks within a task class, this information is offered at the beginning of a task class and should stay available during the work in a task class. A new task class will also request (partly) different or more elaborated supportive information.


정신 모델과 인지 전략을 제공하는 것 외에, 지원 정보도 [인지적 피드백]을 제공한다. 이러한 유형의 피드백은 비반복적인 퍼포먼스 측면에 대해 제공된다(van Merrie rienboer et al. 2002). 수행의 비반복적인 측면은 단순히 '올바른' 또는 '잘못된' 것으로 평가될 수 없기 때문에, 인지적 피드백은 학습자가 문제 해결 과정에 대한 접근방식의 퀄리티를 성찰하도록 자극한다. 이는 세션, 동료 또는 전문가 비평 및 그룹 토론에 의해 수행될 수 있다(van Merrie nnboer et al. 2002). 이와 같이 인지 피드백은 학습자가 일련의 과제를 완료했거나 전체 과제 수업을 마친 후에 가장 잘 제공된다(Ban Merrie ̈nboer et al. 2002).

Next to the provision of mental models and cognitive strategies, supportive information also encompasses cognitive feedback. This type of feedback is provided on the quality of non-recurrent aspects of performance (van Merrie¨nboer et al. 2002). Because non-recurrent aspects of performance cannot simply be rated as ‘‘correct’’ or ‘‘incorrect’’, but rather as ‘‘more or less effective’’, cognitive feedback stimulates learners to reflect on the quality of their approach to the problem-solving process. This can be done by debriefing sessions, peer or expert critiques and group discussions (van Merrie¨nboer et al. 2002). As such, cognitive feedback is best offered after learners have completed a series of tasks or have finished a whole task class (van Merrie¨nboer et al. 2002).


요약하면, 지원 정보는 학습자가 학습 과제를 완료하는 동안 문제 해결, 추론 및 의사 결정과 관련된 비복구적 또는 비루틴적 측면을 수행하는 데 도움이 된다. 지원 정보의 단위는 태스크 클래스 수준에서 정의된다(단일 태스크 레벨이 아님).

Summarizing, supportive information helps the learner to carry out the non-recurrent or non-routine aspects related to problem solving, reasoning and decision making while completing the learning tasks. Units of supportive information are defined at the level of a task class (not at the level of single tasks).


표 3에는 지원 정보를 명시하기 위해 수행해야 할 단계가 요약되어 있다.

Table 3 summarizes the steps to be undertaken to specify the supportive information.



삽화

Illustration


지원 정보(그림 3, 파트 F)는 여러 가지 방법으로 제공된다. 첫째, 과제수업을 시작할 때, 학생들은 과제수업을 위해 설정된 성과목표(즉, 학습과제를 완료한 후에 무엇을 할 수 있을 것인가)와 성과기준(예: 허용가능한 성과를 기술하는 기준, 가치관, 태도)에 대해 알게 된다.

Supportive information (Figure 3, part F) is offered in several ways. First, at the start of the task class, students are informed about the performance objectives that are set for the task class (i.e. what they will be able to do after completing the learning tasks), and performance standards (i.e. criteria, values, attitudes that describe acceptable performance).


' 당뇨 환자와의 상담에 대비하여, 학생은 증거 기반 문헌을 집중적으로 검색하고, 관련 결론을 도출하며, 이를 사용하여 당뇨병 환자의 더 나은 진료 품질을 목표로 하며, 지배적 의료 정책과 일치하는 관리 계획을 도출할 수 있다.'

‘‘In preparation for a consultation with a diabetic patient, the student is able to perform a focused search for evidence-based literature, to faultlessly draw relevant conclusions, to use these to draw a management plan that aims at a better quality of care for his diabetic patient and that is in line with the ruling healthcare policy’’.


또한 첫 번째 과제(예제) 동안 학생들은 그들의 답에 대한 피드백을 받고 질문에 대한 전문가의 대답과 가장 적절하거나 수용 가능한 답에 도달하는 추론 과정을 제공한다. 이와 같이 학생들은 전문가들이 사용하는 인지전략과 정신모델에 대해 성찰하고, 도메인이 어떻게 구성되어 있는지에 대한 자신의 모델과 도메인 내 업무에 체계적으로 접근하는 방법을 강화할 수 있다.

Furthermore, during the first task (worked example) students get feedback on their answer and are provided with the expert’s answer to the question and the reasoning process to come to the most appropriate or acceptable answer. In this way, students are encouraged to reflect on the cognitive strategies and mental models that are used by experts and they can strengthen their own models of how the domain is organized and strategies of how to systematically approach tasks in the domain.


작업 예제(첫 번째 과제)를 완료한 후 학생들은 지원 자료를 읽게 된다. 전형적으로 이러한 자료들은 이론에 초점을 맞추고, 당뇨병 환자의 치료에 관련된 이론적이고 실용적인 통찰력에 초점을 맞춘 강의, 서술적 발표, 과정 문서와 연구 기사로 구성되어 있다. 이 정보는 필수 정보(즉, 학생은 모든 문서를 읽도록 강력히 권장됨)와 옵션 정보(즉, 학생은 나중에 과제수업과 학습 모듈의 과제를 진행하면서 문서를 읽을 수 있다)로 나뉜다.

After completing the worked example (first task), students are instructed to read a selection of supportive materials. Typically, these materials focus on the theory and comprise a lecture, a narrative presentation, course documents and research articles focusing on theoretical and practical insights that are relevant in the treatment of patients with diabetes. This information is divided into compulsory information (i.e. the student is strongly encouraged to read all documents) and optional information (i.e. the student can read the documents at a later time, while progressing through the tasks in the task class and learning module).


학생들에게 지원 정보를 제공하는 마지막 방법은 과제 수행에 대한 [인지적 피드백]을 제공하는 것이다. 이러한 유형의 피드백은 학생들에게 [정답을 제공하고 (가장) 적절한 답에 도달하기 위한 문제 해결 접근법을 제시]함으로써 학생들의 대답과 솔루션에 대한 정교한 피드백을 포함한다. 이와 같이, 이 피드백은 기존의 [정신 모델과 관련될 수 있는 정보]와 [문제 해결을 위한 학생의 인지 전략(이론적인 통찰력, 배제 및 포함 기준 등)]에 연결되며, 궁극적으로는 학생들에게 지원 정보를 consult or re-consult하도록 제안한다.

A last way by which supportive information is offered to students is by providing them cognitive feedback on task performance. This type of feedback comprises elaborated feedback on students’ answers and solutions by providing the student with the correct answer and by presenting the problem solving approach to reach the (most) appropriate answer. As such, this feedback links to information that can be related to existing mental models and to a students’ cognitive strategies for problem solving (like theoretical insights, exclusion and inclusion criteria) and eventually suggests students to consult or re-consult the supportive information.


과제 수행에 대한 [인지적 피드백]의 구체적인 형태는 '성찰 촉진자prompt'에 의해 제공된다. 이러한 프롬프트를 사용하면 학생들이 전문가나 동료의 성과를 반성하거나 자신의 성과에 대해 스스로 성찰하도록 촉구할 수 있다(Paas & van Gog 2009). 실제적인 관점에서, 성찰 프롬프트는 [강사가 제공한 토론 주제 또는 동료가 제공한 과제 솔루션에 대하여 협력적으로 토론]하도록 권장하는 보조과제로 주어질 수 있다. 동료들로부터의 이러한 피드백을 바탕으로, 학생들 스스로도 다시 그들의 성과를 성찰하도록 유도되어, 의도적인 연습 기술의 개발을 장려한다.

A specific form of cognitive feedback on task performance is provided by ‘‘reflection prompts’’. The use of such prompts can urge students to reflect on experts’ or peers’ performance or to self-reflect on their own performance (Paas & van Gog 2009). From a practical point of view, reflection prompts can be given as side-tasks where students are encouraged to collaboratively discuss topics provided by the instructor or task solutions provided by peers. Based on this feedback from peers, students themselves are again prompted to reflect on their performance, encouraging the development of deliberate practice skills.


구성요소 3: 절차 정보

Component 3: Procedural information



과제의 비-루틴적인 측면에 초점을 맞춘 지원 정보와는 대조적으로, 절차적 정보 또는 '적시 정보'는 [학습자가 학습 과제의 반복적 측면을 어떻게 수행해야 하는가], 즉 교육 프로그램이 완료된 후 일상적으로 수행해야 하는 측면에 대한 정보를 제공한다.

In contrast to supportive information that focuses on non-routine aspects of tasks, procedural information or ‘‘just-in-time information’’ provides information on how to perform recurrent aspects of learning tasks, that is, those aspects that need to be performed by the learner as routines after the educational program has been completed.


제시된 절차 정보는 [스키마 자동화]를 촉진해야 하며, 그렇게 하기 위해서는 작업 중에 스키마 자동화를 가장 잘 이용할 수 있어야 한다. 이것은 학습자가 과제를 수행하는 동안 필요한 정보로서, 따라서 과제를 수행하는 데 처음 필요할 때 정확히 주어지는 것이 가장 좋다(즉, 정확 and 적시). 이러한 유형의 정보는 절차를 수행하는 데 필요한 절차와 규칙, 사실 및 개념을 구성하므로 단계별로 제공된다.

The presentation of procedural information should facilitate schema automation and in order to do so, it should best be available during working on the task. This is information that learners need while performing a task, and hence it is best given exactly when they first need it to perform a task (i.e. precisely and just-in-time). This type of information is given step-by-step, since it constitutes the procedures and rules, facts and concepts needed to perform the routine;


이 정보는 전체 과제에 걸쳐 언제나 이용할 수 있으며, 학습자의 기술이 증가함에 따라 점차 사라지거나 줄여나가야 한다. 절차 정보를 제공하는 한 가지 방법은 교정적 피드백이다. 학습자가 효과적인 수행을 기술하는 규칙을 올바르게 적용하지 않으면 오류를 범한다고 지적하는 것이다. 이처럼 잘못된 규칙 적용이 감지된 직후, 교정적 피드백을 제시해야 한다(반 메리 ̈nboer & Kirschner 2013).

The information is available throughout the whole task and gradually disappears or fades away as the learner’s skill increases. One way to offer procedural information is corrective feedback. When learners do not correctly apply the rules that describe effective performance, it is said that they make an error. Immediately after such a misapplication of a rule is detected, corrective feedback should be presented (van Merrie¨nboer & Kirschner 2013).


7–9단계: 설계 절차 정보

Steps 7–9: Design procedural information


지원 정보의 개발에서와 같이 이미 유용한 지침 자료(예: 매뉴얼, 체크리스트, 빠른 참조 가이드 및 직무 지원서)가 있는 경우, 추가 개발이 필요 없으며, 해당 자료를 적절한 학습 과제와 연계할 수 있다. 그러나 새로운 절차 정보가 개발되어야 한다면 8단계와 9단계가 도움이 될 수 있다.

As in the development of supportive information, if there are already useful instructional materials available (e.g. manuals, checklists, quick reference guides and job aids), then no further development is required, and the materials can be linked to the appropriate learning tasks. However, if new procedural information needs to be developed, then steps 8 and 9 can be helpful.


표 4에는 절차 정보와 관련된 단계가 요약되어 있다.

Table 4 summarizes the steps related to the procedural information.




삽화

Illustration


절차 정보(그림 3, 파트 G)는 개별 과제의 수준에서 제공되며, 학습 과제의 일상적인 측면을 수행하는 방법에 초점을 맞추고, 따라서 적시에 제공하는 것이 가장 좋다. 이 절차 정보를 제시하기 위한 바람직한 방법은 단계별 지시다.

Procedural information (Figure 3, part G) is offered at the level of individual tasks, focuses on how to perform routine aspects of learning tasks and is therefore best provided just-in-time. A preferable way to present this procedural information is step-by-step instruction.


예를 들어 당뇨병 학습 모듈에서 첫 번째 과제는 상담의 일상적인 단계를 통해 학생들을 단계별로 지도하는 데 집중한다. 과제들은 '방문의 이유가 무엇인가?' '역사에서 가장 중요한 질문은 무엇인가?' '진단 가능성이 가장 높은 것은 무엇인가' '어떤 것이 가장 적절한 치료법인가?'와 같은 질문들에 초점을 맞추었다.

For example, in the Diabetes learning module, the first tasks concentrate on guiding the students stepwise through the routine steps of a consultation. Tasks focused on questions like ‘‘what is the reason for the visit?’’; ‘‘what is the key question in the history taking?’’; ‘‘what is the most likely diagnosis?’’; ‘‘what is the most suitable treatment?’’


절차 정보는 작업 수행 중 또는 작업 수행 후 교정적 피드백의 형태로 제공될 수도 있다. 업무는 몇 가지 연습이나 항목으로 나눌 수 있는데, 이는 업무에서 덜 효과적이거나 비효율적인 수행으로 이어질 수 있는 규칙의 오용을 즉각적으로 감지할 수 있다. 결과적으로, 학생들이 과제 내에서 해결한 모든 운동이나 항목 후에 교정 피드백을 제공할 수 있다.

Procedural information can also be offered in the form of corrective feedback during or after task performance. Tasks can be split up in several exercises or items as to be able to immediately detect misapplications of rules that could lead to less effective or non-effective performance on tasks. Consequently, corrective feedback can be offered after every exercise or item students solved within a task.



구성 요소 4: 부분과제 연습

Component 4: Part-task practice



직무의 특정 반복적인 측면에 대해 매우 높은 수준의 자동화가 요구되는 경우, 파트-태스크(부분과제) 연습이 도움이 될 수 있다. 목적은 스키마 자동화를 강화하는 것이며, 따라서 일반적으로 반복적인 연습을 많이 포함한다(표 5 참조). 부품 작업 연습이 항상 학습 환경의 일부인 것은 아니다.

Part-task practice may be helpful when a very high level of automaticity is required for a particular recurrent aspect of the task. The aimis to strengthen schema automation, and hence it typically involves a lot of repetitive practice (see Table 5). Part task practice is not always part of the learning environment,



10단계: 파트-태스크 실습 설계

Step 10: Design part-task practice


의료 교육에서 부분과제 연습은 일반적으로 임상 기술(혈압 측정, 간 팔팔 측정 및 근육 강화)과 기술 기술(예: 정맥주사, 봉합, 심폐소생술)뿐만 아니라 현장 진단 실습에도 초점을 맞춘다. 열이 있는 아동과 상담하여 학습 환경을 설계할 때 소아 전염병의 프로토타입적 예(스폿 진단) 진단에 대한 부분과제를 선택할 수 있다. 올바른 스폿 진단을 수행하는 이 기술은 매우 자동화될 필요가 있다. 학생이 관련 증상을 빠르게 인식하고, 무관한 증상을 배제하고, 진단 추론 과정을 완료하기 위한 다음 단계를 식별할 수 있어야 하기 때문이다. 모든 질문에 대한 사진과 즉각적인 피드백이 포함된 온라인 퀴즈가 좋은 선택이 될 것이다.

Within medical education, part-task practice typically will focus on to-be-automatized parts of a consultation not only like clinical skills (measuring blood pressure, liver palpation and auscultation) and technical skills (e.g. venipuncture, suturing and CPR) but also practicing spot diagnoses. When designing a learning environment on the consultation with a child with fever, one may choose to offer part-task practice on the diagnosis of prototypical examples of childhood infectious diseases (spot diagnosis). This skill of performing a correct spot diagnosis needs to be highly automatized because it requires that a student is able to quickly recognize the relevant symptoms, to exclude irrelevant symptoms and to identify the next steps for completing the diagnostic reasoning process. An online quiz with photos and immediate feedback on every question would be a good option.


삽화

Illustration


그림 5는 복수 선택 형식의 일련의 파트타임 연습에 대한 개요를 제공한다.

Figure 5 provides an overview of a set of part-task practice exercises in the multiple-choice format.




구현 전략 및 관리 계획

Implementation strategy and management plan


(4C/ID 모델과 같이) 전체 작업 모델의 개발과 구현은 많은 실용적, 이론적 및 기술적 문제에 의해 억제되거나 심지어 억제되는 경우가 많다. 따라서 실행전략관리계획을 수립하는 것이 바람직하다.

the development and implementation of whole-task models (like the 4C/ID model) is often inhibited, even restrained, by many practical, theoretical and technical issues. Therefore, it is advisable to have an implementation strategy and management plan.


kotter(1995)가 제시하고 Steinert 등이 의학 교육에 적용한 변화를 선도하는 모델을 사용할 수 있다. (2007). kotter(1995)는 변화 과정에서 자주 발생하는 8가지 오류를 제시하고 성공적인 변화의 기회를 늘리기 위해 동일한 수의 조치를 제안했다표 6에서는 Kotter(1995년)가 설명한 바와 같이 의료 교육에서 혼합된 전체 직무 학습을 지향하는 변경 주기에서 취해야 할 추가 단계와 함께 그 조치가 나열되어 있다.

one could use a model for leading change, presented by Kotter (1995) and applied in medical education by Steinert et al. (2007). Kotter (1995) presented eight frequently made errors in the process of change and suggested an equal number of actions in order to increase the chance for successful change. In Table 6, the actions, as described by Kotter (1995), are listed together with additional steps to be taken in the change cycle toward blended, whole-task learning in medical education.





조치 1: 긴박감 설정

Action 1: Establish a sense of urgency


(의료) 교육의 어떤 관행을 개선할 수 있는지 정의하라. 단기 및 장기적 개선 사항 정의 

Define what practices of (medical) education can an dshould be improved. Define short-term and long-term improvements 


우리의 경우 이론과 실천의 통합이 충분하지 않고, 수업 중에 배운 것에서 인턴십 중에 본 것(그리고 그 반대로)으로 이전하는 것도 부족하다는 관측이 있었다. 그러나, 의학 교육이 복수의 역량의 통합적 획득을 점점 더 강조함에 따라, [학생들에게 교육을 제공하는 방법]과 [의학의 교육 목표] 사이에는 차이가 있었다. 이것은 교육 관행을 더 높은 수준으로 조정할 필요성에 대한 인식을 높였다. 

In our case, there was the observation that there was not sufficient integration of theory and practice and that there was also a lack of transfer from what had been learned during classes to what was seen during internship (and the other way around). However, as medical education increasingly stresses the integrated acquisition of multiple competences, there was a discrepancy between the way instruction was offered to students and the goals of medical education. This led to a raised awareness for adjusting the educational practice toward a higher standard. 


액션 2: 강력한 유도 연합 구성

Action 2: Form a powerful guiding coalition


이해관계자를 정의하라: 학습 환경의 최종 사용자, 학습 환경에 익숙한 교육 전문가, 콘텐츠 개발자, 교사 및 관리

Define the stakeholders: end-users of the learning environment, educational specialists familiar with (blended) learning environments, content developers,teachers and management


돌만스 외 연구진(2013년)이 제공하는 팁에 따라 이 과정에서 가장 중요한 것은 다음과 같다. 

      • (1) 여러 의료 분야(통신 전문가, 당뇨병 전문가 및 의료 영상 전문가)와 교육 디자이너로 구성된 다분야 팀을 구성한다. 

      • (2) 팀원이 서로 다른 역할(의료전문가, 콘텐츠 제작자, 콘텐츠 리바이저, 교육업무 감독자 등)을 수행하고, 교육방법에 대해 성찰할 수 있도록 준비 및 동기 부여한다. 

In line with the tips that Dolmans et al. (2013) provide, it is of utmost importance in this process to 

      • (1) form multidisciplinary teams comprising several medical disciplines (like communication experts, diabetes experts and medical imaging experts)and instructional designers, and 

      • (2) prepare and motivate team members to fulfill different roles (medical expert, content creator, content reviser, supervisor for training tasks, etc.) and to reflect on their methods of instruction. 


      • 전자는 Authentic한 과제의 다양한 측면을 통합하는 균형 잡힌 전체 과제의 개발에 중요하다. 

      • 후자는 학습 환경의 개발, 성공적인 구현 및 후속 조치에 있어 부가 가치가 있다.

The first is crucial for the development of balanced, whole-tasks that integrate different aspects of authentic tasks; 

the latter is of added value when it comes to the development, successful implementation and follow-up of the learning environment.


예를 들어, 학습 환경의 재/개발을 지원하기 위해 ID 모델을 사용하기로 결정하면 이해관계자는 모델의 모든 요소를 자산 가치asset value에 맞게 평가할 필요가 있다. 이를 설명하기 위해, 일반 사례 4C/ID 모델에서 일부 학습 모듈에서는 선택한 작업 측면에 대한 높은 수준의 자동성이 특정 학습 모듈의 목표의 일부가 아니기 때문에 파트 작업 관행의 구성요소를 제외했다. 강력한 guiding coalition은 [모델의 모든 요소를 자산으로 간주하는 교육설계자]와 [쉽고 실용적인 요소만을 고려하는 교사 및 콘텐츠 개발자] 사이에서 균형을 잡아준다.

For example, once decided to use an instructional design model to support the re/development of a learning environment, the stakeholders need to assess every element of the model to its asset value. To illustrate this, in the General Practice 4C/ID model, the component of part-task practice was left out in some learning modules because high levels of automaticity for selected task aspects were not part of the objectives of that specific learning module. A powerful guiding coalition forms a counterbalance for instructional designers that consider all elements in the model as assets (‘‘it is a validated model, after all’’), and for teachers and content developers that consider only those elements that are easy and practical to implement.


조치 3: 비전 생성

Action 3: Create a vision


증거 기반 원칙을 적용하라

Apply evidence-based principles


의학 교육 연구는 교육 디자인 연구로부터 경험적으로 타당한 원리를 조사하고 적용함으로써 진화할 수 있다. 예를 들어 인지 심리 연구는 의학 교육에 큰 가치가 있을 수 있다(2010년 추월). 이 값의 예시는 반 메리 nnboer & 스웨터(2010)가 보건 전문 교육에 인지 부하 이론을 적용할 수 있는 방법을 논의하는 데 있다. 이러한 맥락에서 매우 목적적합한 한 가지 원칙은 [초보 학습자에게 잘 적용되는 원칙이 항상 유익하지는 않으며 심지어 더 진보된 학습자에게 해로울 수 있음]을 나타내는 expertise reversal effect다.

Medical education research can genuinely evolve by investigating and applying empirically sound principles from instructional design research. Cognitive psychological research, for example, can be of great value for medical education (Schuwirth 2010). An illustration of this value is given by van Merrie¨nboer & Sweller (2010) discussing how cognitive load theory can be applied in health professional education. One principle that is highly relevant in this context is the expertise reversal effect indicating that principles that work well for novice learners are not always beneficial, and can even be detrimental, for more advanced learners.


예를 들어, 태스크 클래스의 시작 부분에서 제공되는 worked example는 이미 지식이 충분한 학습자에게는 불필요하다. Worked example는 [주의 깊은 학습을 필요로하는 완전한 해결책]을 제공하여 (novice) 학습자의 인지 부하를 줄이기 위해 도입되었다. 학습자는 해결책을 생성하기 위해 노력을 기울이는 대신, 전문적인 해결책을 연구하고 예를 상세히 설명하는데 모든 노력을 투자할 수 있다. 교육 혁신에 대한 비전을 정의하기 위해 어떤 교육적 설계 원칙이 사용되는지에 관계없이, 그들은 대개 기술 혁신의 설계, 개발 및 구현에서 내려야 할 선택을 정의할 것이다. 따라서, 이러한 비전과 그 기본 원칙을 설명하고 전달하는 것은 모든 이해관계자들이 교육 혁신 과정에 진정으로 기여할 수 있도록 지원할 것이다.

For example, a worked example that is offered at the beginning of a task class becomes redundant for more knowledgeable learners. Worked initially examples are introduced to reduce a (novice) learner’s cognitive load by providing a full solution that needs to be studied carefully. Instead of investing effort in trying to generate a solution, learners can invest all effort to studying the expert solution and elaborating on the example. Irrespective of what instructional design principles are used to define the vision towards educational innovation, they will largely define the choices to be made in the design, development and implementation of the innovation. Hence, explaining and communicating this vision and its underlying principles will support all stakeholders to genuinely contribute in the process of educational innovation.


조치 4: 비전 전달

Action 4: Communicate the vision


모든 이해관계자와 교육적 접근 방식 논의

Discuss the instructional approach with all stakeholders


이 조치는 비전과 그 기본 원칙을 모든 이해관계자에게 명확히 하기 위한 것이다. 초기 회의에서는 교육 설계 방법(본 연구에서는 4C/ID모델)을 도입하여 교육 변경에 관련된 강사 및 콘텐츠 개발자와 논의할 수 있다. 원래 4C/ID 모델에서 시작할 수 있지만, 초기 미팅에서 주어진 이해관계자의 피드백을 바탕으로 수정할 필요가 있을 수 있다. 우리의 구체적인 사례에서, 선생님들과 학생들은 4C/ID 모델에서 구성요소의 구조와 표현이 그들에게 완전히 명확하지 않다는 것을 나타냈다. 결과적으로, 모델의 시각적 표시는 의학 교육에 4C/ID 모델을 적용하기 위해 특별히 개발된 아이콘으로 더 명확해졌다.

This action is intended to make the vision, and its underlying principles, clear toward all stakeholders. In an initial meeting, the instructional design method (in this study, the 4C/IDmodel) can be introduced to and discussed with the instructors and content developers involved in the educational change. One can start from the original 4C/ID model but may need to make modifications based on the feedback of the stakeholders that is given during the initial meeting. In our specific case, teachers and students indicated that the structure and wording of the components in the 4C/ID model was not entirely clear to them. Consequently, the visual presentation of the model was made clearer with icons that were specifically developed for this application of the 4C/ID model in medical education.


결과적으로 이러한 아이콘을 사용하여 작업, 지원 및 절차 정보, 작업 예제 등에 라벨을 붙임으로써, 학생, 강사 및 콘텐츠 개발자는 학습 환경의 구조에 익숙해졌고, 쉽게 자신의 길을 찾고 과제와 과제 수업을 탐색할 수 있었다. 또한 과제물의 총 집합을 표시하고 과제수업을 통해 학생들의 진행상황을 알려줌으로써 학생들은 과제와 과제수업 완료를 쉽게 관리할 수 있었다. 접근법을 보다 명확하게 하기 위해 아이콘을 추가하는 것은 초기 단계에서 이해관계자들과 비전에 대해 토론한 결과였다.

By consequently using these icons to label tasks, supportive and procedural information, worked examples and so forth, students, instructors as well as content developers became familiar with the structure of the learning environment and could easily find their way and navigate through tasks and task classes. Furthermore, by indicating the total set of tasks and informing students of their progress through the taskclasses, students could easily manage the completion of tasks and tasks classes. Adding icons to make the approach more clear was a consequence of discussing the vision with the stakeholders at an early stage.


조치 5: 다른 사람이 비전에 따라 행동할 수 있도록 권한 부여

Action 5: Empower others to act on the vision


선생님들을 교육한다.

Teach the teachers


로드맵이나 템플릿은 콘텐츠 개발자에게 개발 과정을 단계적으로 안내하며, 태스크 클래스별로 필요한 요소를 중심으로 구축되어 요소별 추가 정보를 제공한다. 로드맵을 도입하기 위해, 교육적 접근방식이 실제 사례와 함께 설명되는 교사와 콘텐츠 개발자를 위한 실습 세션을 구성할 수 있다. General Practice 4C/ID 모델 개발에 사용된 로드맵은 부록 B에 제시되어 있으며, 부록 B에 보충 자료로 제공되어 있다.

Roadmaps or templates guide the content developers stepwise through the development process and are built around the elements that are required per task class, providing additional information per element. To introduce the roadmap, one could organize a hands-on session for teachers and content developers wherein the instructional approach is illustrated with practical examples. The roadmap as used for the development of the General Practice 4C/ID model is provided in Appendix B, available as Supplemental Material at http:// informahealthcare.com/journal/mte.


조치 6: 단기 성공을 계획하고 이루기

Action 6: Plan for and create short-term wins


단기적 성공을 향한 계획: 고품질의 학습 자료 사용 또는 재사용

Plan for short-term wins: use or reuse learning materials of high quality


의학적 지식, 기술 및 태도의 습득을 위한 (컴퓨터 기반) 학습 환경의 개발에서, 이용 가능한 모든 학습 콘텐츠는 다음 세 가지 각도에서 보아야 한다.

In the development of a (computer-based) learning environment for the acquisition of medical knowledge, skills and attitudes; all available learning content should be viewed at from three angles:


(1) 기존 학습자료는 의사들이 임상현장에서 갖춰야 하는 다양한 역할을 고려하여, 지식, 기술 및 태도의 통합적 개발을 촉진하기에 충분한 양질의 학습자료가 되는가?

(1) Are the existing learning materials of sufficient high quality to foster the integrated development of knowledge, skills and attitudes, taking into account the different roles a physician should be able to take in his/her practice?


(2) 학습 모듈 내에 과제 유형과 상호작용의 변동이 충분한가? 높은 변동성과 다양한 상호작용성을 보장하기 위해, 기존 학습 자료는 이미 존재하는 변동성과 상호작용성의 정도를 식별하여 분류해볼 수 있다. 다양성과 다양한 형태의 상호작용을 촉진하기 위해, 여러 유형의 학습 과제를 개괄적으로 작성하고, 유형을 나타낼 수 있다. 

      • 어떤 컨텍스트를 제공할 수 있는지(인턴트 교육 과정에서의 과제, 온라인 텍스트 질문, 온라인 비디오) 

      • 어떤 상호작용이 가능했는가(학생, 학생 환경, 학생 강사, 학생 수업) 및 

      • 어떻게 학생 성과를 평가하는지(2단계: 평가 도구 개발)

(2) Is there sufficient variability in task type and interactivity within the learning modules? To assure high variability and a range of interactivity, existing learning materials can be categorized into the way they are presented (see roadmap in Appendix B, available as Supplemental Material at http://informahealthcare.com/journal/mte) as to identify the degree of variability and interactivity that is already present. 

To foster variability and different forms of interactivity, one could create an overview of several types of learning tasks (see Appendix A, available as Supplemental Material at http://informahealthcare.com/ journal/mte), and indicate for all types in 

      • what context the task can be offered (training task in internship, task in course class, online text questions, online video), 

      • what interactivity was possible (student–student; student–environment; student–instructor; student–class) and 

      • how student performance could be evaluated (step 2: develop assessment instruments).


(3) (기존) 학습자료가 컴퓨터 기반 교육을 통해 제공될 수 있을 정도로 적합한가? 이 질문은 온라인 콘텐츠 관리 시스템에서 이 콘텐츠를 학습 환경의 인프라로 제공할 때 종이와 연필을 사용하여 얻은 효과와 효율성이 반드시 유지되는 것은 아니라는 개념에서 비롯된다. 이는 학습 자료의 특성뿐만 아니라 내용이 제공되는 환경의 기술적 특성과 제한에도 기인한다.

(3) Are the (existing) learning materials suitable enough to be offered via computer-based instruction? This question stems from the notion that the effectiveness and efficiency as obtained by the use of paper-and-pencil materials does not necessarily hold when this content is offered in an online content management system as the infrastructure for the learning environment. Not only is this due to the nature of the learning materials but also to the technical characteristics and restrictions of the environment in which the content is offered.


단기적인 승리 창출: 최종 사용자를 통한 프로토타입 테스트

Create short-term wins: prototype testing with end-users


환경의 장단점에 대한 피드백을 받을 때 [미래의 최종 사용자로서의 학생과 교사의 기여는] 과소평가되어서는 안 된다(Dolmans et al. 2013). 설계, 개발 및 시험 단계의 주요 함정은 미래 사용자의 통찰력을 이용하지 않는 것이다. 이 경우, 강사와 학생 모두 학습 환경의 최종 사용자로 간주되었고, 이미 그들은 학습 환경의 요소를 비판적으로 반영하기 위해 참여하였다. 혁신적인 전과제 접근방식의 이면에 있는 아이디어를 설명하자는 돌만스 외 연구진(2013)의 제안에 따라, 학습 환경의 원칙과 구조를 제시하고 논의하는 사용자 그룹을 구성하였다. 사용자 그룹의 논의는 학습 환경을 더욱 세분화하기 위한 귀중한 정보를 제공했다. 설계와 개발 과정에 사용자를 지속적으로 참여시킴으로써, 첫눈에 중요한 사용자는 새로운 접근법의 최고의 옹호자가 될 수 있다. 게다가, 학생들은 교육 방법과 기대되는 학습 접근법에 익숙해진다.

The contribution of students and teachers as future end-users should not be underestimated when it comes to receiving feedback on the environment’s strengths and weaknesses (Dolmans et al. 2013). A major pitfall in the design, development and testing phases is not making use of future users’ insights. In this case, both instructors and students were considered as end-users of the learning environment and already in the conceptual design phase they were involved to critically reflect on the elements in the learning environment. In line with the suggestion by Dolmans et al. (2013) to explain the ideas behind the innovative whole-task approach, user groups were organized in which the principles and structure of the learning environment were presented and discussed. The discussions in the user groups provided valuable information to further refine the learning environment. By continuously involving the users in the process of design and development, at first sight, critical users may become the best advocates of the new approach. Moreover, students become familiar with the instructional methods and the expected learning approaches.


조치 7: 개선 사항 통합 및 더 많은 변화 창출

Action 7: Consolidate improvements and produce still more change


미래지향적 작업

Work future-oriented


향후의 학습 환경의 발전과 지속가능성에 관해서는, 학습자료에 메타데이터를 접목시킬 수 있다메타데이터는 학습 자료를 [주제, 교육 수준, 성과 목표, 의도된 사용자, 통합할 역할 수] 등의 값을 활용하여 라벨링할 수 있다. 메타데이터가 있을 경우 필수 기준에 맞는 콘텐츠를 찾기 위해 학습 자료의 저장소 검색이 가능해지는 장점이 있으며(Ellaway & Masters 2008) 다른 환경에서 학습 자료의 재사용도 촉진할 수 있다. 본 가이드에서는 학습 자료를 분류하는 기준과 그 매개변수를 기술함으로써 메타데이터 개요에 대한 첫 번째 시도를 제안했다.

With respect to future development and sustainability of the learning environment, learning materials can be provided with metadata. Metadata can label learning materials with values for subject, education level, performance objectives, intended users, number of roles to integrate, and so forth. The added value of metadata is that they allow for searching repositories of learning materials in order to find content that meets the required criteria (Ellaway & Masters 2008), but they also foster reuse of learning materials in other environments. In this Guide, we have proposed a first attempt to a metadata overview by describing the criteria and their parameters by which learning materials are categorized.


모든 최종 사용자와 함께 평가

Evaluate with all end-users


학생들이 학습 환경에서 모든 과제를 완료한 후( 인턴십 과제를 포함), 질적 평가와 양적 평가를 모두 수행할 수 있다. 세 개의 최종 사용자 그룹이 평가에 참여해야 한다

        • 학습 환경의 주요 최종 사용자로 간주될 수 있는 학생, 

        • 교육 관행의 도구로 학습 환경을 사용한 교사, 그리고 

        • 미래의 혁신 사이클에서 다루어질 필요가 있는 기술적, 실제적인 문제에 직면할 가능성이 있는 개발자 또는 교육 전문가.

평가는 콘텐츠의 품질뿐만 아니라 사용자 친화성과 학습 환경의 기능성에 초점을 맞출 수 있다.

After students complete all tasks in the learning environment (including internship tasks), both qualitative and quantitative evaluations can be performed. Three end-user groups need to take part in the evaluations: 

      • students as they can be considered as the primary end-users of the learning environment; 

      • teachers as they have used the learning environment as a tool in their educational practice; and 

      • developers or educational specialists as they likely have encountered technical and practical issues that need to be dealt with in a future cycle of innovation. 

Evaluations may focus on the quality of the content as well as on the user-friendliness and functionality of the learning environment.


문서화

Document


학습 환경을 개발하고 구현하는 점진적인 프로세스에서, 무엇이 개발되었는지, 어떤 단계가 취했는지, 어떤 문제가 처리되었는지, 그리고 어떻게 하면 모든 팀 구성원이 존재하는 흐름을 방해하는 다소 불안한 작업으로 보일 수 있다. 그러나, 문서화는 다음 번 성공적인 교육 혁신의 백본 중 하나이기 때문에 큰 이점을 제공한다.

In the progressive process of developing and implementing a learning environment, documenting what has been developed, what steps have been taken, what issues have been dealt with and how may seem like a rather disturbing task that interrupts the flow wherein all team members are. However, documenting offers great advantages as it is one of the backbones of the next successful educational innovation.


문서 작성에 충분한 시간을 할애하기로 결정할 수 있는 여러 가지 이유가 있다. 

      • 모든 팀 구성원을 궤도에 올리고, 이해관계자에게 알린다. 

      • 팀 구성원에게 백업을 제공하고 명확성과 추적성을 제공한다. 

      • 그것은 보급의 출발점을 제공하고 좋은 문서로 교사를 지원하고 훈련시키는 데 필요한 시간을 줄인다.

There are a number of reasons why one could decide to spend enough time on documenting: 

      • it keeps all team members on track, it keeps the stakeholders informed; 

      • it provides a back-up for the team members; it provides clarity and traceability; 

      • it provides a starting point for dissemination and with good documentation, the time needed to support and train teachers is reduced.


문서화할 항목을 결정할 때 다음 요소를 포함해야 한다. 

      • 직면했던 위험 및 기술적 문제, 그리고 그 문제가 어떻게 처리되었는지

      • 아이콘, 비디오, 사진 등 재사용 가능한 모든 자료 

      • 웹 사이트의 교육 자료 식별 

      • 개발 및 구현에 대한 보고서 

      • 소규모 사용자 그룹의 테스트에 대한 보고서 

      • 이해관계자의 제안 

      • 학습 환경의 미래 최종 사용자를 위해 '할 것'과 '하지 말아야 할 것'이 열거된 문서

When deciding what to document the following elements should be included: 

      • risks and technical issues that were encountered and how they were dealt with; 

      • all re-usable materials like icons, videos, pictures; 

      • identification of educational materials on websites; 

      • reports on development and implementation; 

      • reports on testing by small user groups; 

      • suggestions made by stakeholders and 

      • a separate document where do’s and don’ts are listed for future end-users of the learning environment.


조치 8: 새로운 접근법 제도화

Action 8: Institutionalize new approaches


배포하고 토론

Disseminate and discuss


변경 과정의 마지막 단계로서, Steinert 등. (2007)은 새로운 접근방식을 기관의 문화에 정착시킬 것을 제안했다. 이러한 앵커링을 위해서는 의료 커리큘럼에서 새로운 접근방식을 지지하기 위한 광범위한 지원을 창출하기 위해 보급이 필요하다. 개발 및 구현 과정을 보급함으로써 동료 연구자, 동료 교사 및 동료 설계자로부터 피드백을 받아 현재와 미래의 학습 환경을 최적화하기 위한 input으로 다시 사용한다. 게다가, dissemination은 의학교육의 혁신을 더욱 촉진하기 위해서, 변화 과정의 어떤 성공적인 요소들이 의료 커리큘럼의 다른 부분으로 이전될 수 있는지에 대해 논의할 수 있게 한다.

As a last step in the change process, Steinert et al. (2007) suggested to anchor the new approaches in the culture of the institution. For this anchoring, dissemination is needed in order to create a widespread support for endorsement of the new approach in the medical curriculum. By disseminating the process of development and implementation, one gets feedback from peer researchers, peer teachers and peer designers, which again provides input for optimization of the current and future learning environments. Moreover, dissemination allows to discuss what successful elements in the change process can be transferred to other parts of the medical curriculum as to further stimulate innovation in medical education.


결론

Conclusion


4C/ID 모델은 교육 설계, 인지 심리학 및 정보 처리 이론에 대한 연구로부터 광범위한 증거 기반 원칙에 기초한다. 따라서 밴 메리 ̈nboer & Kirschner(2013)에 의해 설명된 단계에 따라 모델의 일부를 구현하면 지침 설계가 개선될 가능성이 있다.

The 4C/ID model is based on a broad range of evidence-based principles from research on instructional design, cognitive psychology and information processing theories, hence implementing parts of the model in accordance with the steps as described by van Merrie¨nboer & Kirschner (2013) and in this Guide, is likely to improve the instructional design.






, 37 (1), 4-20
 

4C/ID in Medical Education: How to Design an Educational Program Based on Whole-Task Learning: AMEE Guide No. 93

Affiliations 

Affiliation

  • 1University of Leuven , Belgium .

Abstract

Medical education increasingly stresses that medical students should be prepared to take up multiple roles as a health professional. This requires the integrated acquisition of multiple competences such as clinical reasoning and decision making, communication skills and management skills. To promote such complex learning, instructional design has focused on the use of authentic, real-life learning tasks that students perform in a real or simulated task environment. The four-component instructional design model (4C/ID) model is an instructional design model that starts from the use of such tasks and provides students with a variety of learning tools facilitating the integrated acquisition of knowledge, skills and attitudes. In what follows, we guide the reader on how to implement educational programs based on the 4C/ID model and illustrate this with an example from general practice education. The developed learning environment is in line with the whole-task approach, where a learning domain is considered as a coherent, integrated whole and where teaching progresses from offering relatively simple, but meaningful, authentic whole tasks to more complex tasks. We describe the steps that were taken, from prototype over development to implementation, to build five learning modules (patient with diabetes; the young child with fever; axial skeleton; care for the elderly and physically undefined symptoms) that all focus on the integrated acquisition of the Canadian Medical Education Directives for Specialists roles in general practice. Furthermore, a change cycle for educational innovation is described that encompasses practice-based challenges and pitfalls about the collaboration between different stakeholders (students, developers and teachers) and the transition from traditional, fragmented and classroom-based learning to integrated and blended learning based on sound instructional design principles.


교육환경평가도구(ECI): 전임상과 임상단계에서 의과대학생의 인식 측정(Acad Med, 2017)

The Educational Climate Inventory: Measuring Students’ Perceptions of the Preclerkship and Clerkship Settings

Edward Krupat, PhD, Nicole J. Borges, PhD, Richard D. Brower, MD, Paul M. Haidet, MD, MPH, W. Scott Schroth, MD, MPH, Thomas J. Fleenor Jr, MEd, and Sebastian Uijtdehaage, PhD




초등학교부터 레지던트까지의 환경에서는 학습환경에 대한 학생들의 긍정적 인식이 학습 의욕 증가, 성취도 향상, 피로감 감소 등 다양한 결과와 연관되어 있음을 입증했다.1 66 이와 일관되게 미국과 캐나다에서는 의료교육연락위원회7과 캐나다 의과대학 인가위원회8은 긍정적인 환경이 존재함을 보장한다는 목표를 가지고 의과대학이 학습환경을 감시할 것을 명시적으로 요구한다.

In settings from elementary school through residency, it has been demonstrated that students’ perceptions of the learning environment as positive are associated with a variety of outcomes such as greater motivation for learning, higher levels of achievement, and lower levels of burnout.1–6 Consistent with this, in the United States and Canada, the Liaison Committee on Medical Education7 and the Committee on Accreditation of Canadian Medical Schools8 explicitly require medical schools to monitor their learning environments, with the goal of ensuring that a positive environment exists.


의과대학 학습환경을 평가하기 위한 여러 척도가 존재하며, 졸업후의학교육환경을 평가하는 도구도 등장하기 시작하고 있다.10 그러나, 최근 2014,11,12, 2010,13에 발표된 의과대학 기울기 환경기구에 대한 세 가지 체계적인 리뷰는 이러한 계측기 대부분이 적절한 심리측정적 표준을 충족하지 않음을 보여준다.

Several instruments exist to assess the medical school learning environment, and instruments that assess the graduate medical education environment are beginning to appear.10 However, three recent systematic reviews of medical school leaning environment instruments, published in 2014,11 2012,12 and 2010,13 indicated that most of these instruments do not meet appropriate psychometric standards.


환경 심리학자들이 지적한 바와 같이 "환경"은 여러 가지 방법으로 특징 지을 수 있다.14,15 의과대학 환경을 평가하는 대부분의 기구들은 여러 가지 관점에서 폭넓게 고려한다. 전세계적으로 널리 사용되고 있는 던디 레디 교육 환경 측정 16,17은 4요소 구조를 가지고 있다. 의대 학습환경조사, 18,19 최근 수정하여 28개 학교 연구의 일부로 사용, 18개 또한 다양한 영역을 다룬다.

As noted by environmental psychologists, the “environment” can be characterized in many different ways.14,15 Most instruments that assess the medical school environment consider it broadly, from multiple perspectives. The Dundee Ready Educational Environment Measure,16,17 which has been used widely throughout the world, has a four-factor structure . The Medical School Learning Environment Survey,18,19 recently modified and used as part of a 28-school study,18 also covers a variety of domains


존스 홉킨스 학습 환경 척도20,21은 동급생 커뮤니티("다른 SOM [의학 학교] 학생들과 얼마나 연결되어 있다고 생각하십니까?")에서 포함 및 안전("SOM에서 학생들이 학대를 당할까 염려된다")에 이르는 7가지 항목으로 구성되어 있다.

The Johns Hopkins Learning Environment Scale20,21 has seven subscales ranging from 

  • community of peers (“How connected do you feel to other SOM [school of medicine] students?”) to 

  • inclusion and safety (“I am concerned that students are mistreated at the SOM”).


이와는 대조적으로, 우리가 여기서 소개하는 기구는 의대 환경의 한 가지 중요한 측면인 교육 분위기climate에 초점을 맞추고 있다. 잘 존중되는 캐롤 드벡222424의 이론적 모델을 의학 교육에 접목시켜 우리는 의과대학의 교육적 가치와 문화가 두 가지 방법 중 하나로 집중될 수 있다는 점에 주목한다.

In contrast, the instrument we introduce here is focused on one critical aspect of the medical school environment, the educational climate. Adapting the well- respected theoretical model of Carol Dweck22–24 to medical training, we note that the educational values and culture of a medical school can be focused in one of two ways.


  • 학습 지향적 또는 숙달 지향적 환경에서는, 커리큘럼(공식적·비공식적)이 지식과 기술을 향상시킬 뿐만 아니라 비판적 사고와 자기주도적 학습을 장려하는 쪽으로 맞춰지는 풍토를 조성하는 데 초점이 맞춰져 있다. 그러한 환경에서는 불확실성은 두려워하기 보다는 수용되어야 할 것으로 여겨진다; 교수들은 학생들의 답이 옳은지 아닌 이성적인 능력을 중시한다; 그리고 학생들은 많은 세부적인 피드백을 받고 어떻게 개선할 것인지에 대해 성찰하도록 권장된다. 형성적 평가 시스템 개발 필요성에 대한 최근의 논의는 이 접근법과 일치한다.25,26

In a learning- or mastery- oriented climate, the focus is on students’ development and growth, on creating a climate in which the curriculum (formal and informal) is geared toward not only increasing knowledge and skills but also encouraging critical thinking and self-directed learning. In such a climate, uncertainty is to be embraced rather than feared; faculty value students’ ability to reason, not just whether their answers are correct; and students receive a great deal of detailed feedback and are encouraged to reflect on how to improve. Recent discussions about the need to develop formative assessment systems are consistent with this approach.25,26


  • 이와는 대조적으로, 성과 지향적인 분위기는 역량의 발전보다는 역량의 demonstration에 중점을 둔다. 이런 분위기 속에서 학생들은 역량의 성장보다 역량의 외관에 더 신경을 쓴다. 그들은 다른 사람들의 눈에는 자신만만한 것처럼 보이려고 애쓰면서, 그리고 부정적인 결과를 초래할 수 있는 것에 대한 두려움 때문에 피드백을 피하려고 애쓰면서, 불확실성을 감추기 쉽다.

In contrast, a performance-oriented climate places the emphasis on the demonstration of competence rather than its development. In such a climate, students are concerned more about the appearance of competence than the growth of competence. They are likely to hide their uncertainty, while trying to seem confident in the eyes of others, and to avoid feedback for fear of its possible negative consequences.


방법

Method


자료 수집

Data collection


2014년 봄 6개 의과대학에서 자료를 수집했다.

Data were collected in spring 2014 at six medical schools.


비록 이것이 의과대학의 무작위 표본은 아니었지만, 6개는 지리적 위치, 크기, 민간의 지위가 다양하며, 그들의 주요 교육 임무에서는 상당히 다르다. 자료수집 당시 이들 학교 중 3곳은 최소 3단계 이상 등급이 매겨진 전점제를, 3곳은 단순 합격불합격제를 사용했다. 6개 학교 모두 핵심 사무소에서 학생들에게 점수를 주었다.

Although this was not a random sample of medical schools, the six are diverse in geographical location, size, and public–private status, and they differ considerably in their primary educational missions. At the time of data collection, three of these schools used a preclerkship grading system with at least three levels of grades, and three used a simple pass–fail system. All six schools gave grades to students in their core clerkships.


확장 개발 및 관리

Scale development and administration


의대 교실이나 임상 환경과 동등하게 관련이 있다고 표현된 50개 항목의 풀은 학생들의 평가를 위해 생성되었다. 대부분의 항목은 첫 번째 작성자(E.K)가 작성했으며, 모든 항목은 전체 공동연구자에 의해 피드백과 가능한 수정에 대해 검토되었다. 이 문항들은 드벡의 학습-퍼포먼스 구별의 다양한 측면을 포착하기 위해 의도적으로 작성되었다.22–24 블루프린트는 다음의 차원이 포함한다.

    • 학습의 목표 또는 집중(예: 적용 대 사실 유지) 

    • 교직원 관계와 학생 관계의 특성 

    • 숨겨진 커리큘럼의 존재(즉, 명시된 목표와 실제 정책 및 교수진의 조치 사이의 불일치)


A pool of 50 items, phrased to be equally relevant to the medical school classroom or clinical setting, was generated for rating by students. Most items were written by the first author (E.K.), and all were reviewed for feedback and possible revision by the full set of co-investigators. The items were written intentionally to capture various aspects of Dweck’s learning–performance distinction.22–24 The blueprint included specific dimensions, such as 

    • goal or focus of learning (e.g., application vs. retention of facts); 

    • nature of faculty–student relationships and student–student relationships; and 

    • presence of a hidden curriculum (i.e., inconsistencies between stated goals and actual policies and actions by faculty). 


50문항은 긍정적이고 부정적인 단어를 모두 포함했다. 모든 응답은 "강력하게 동의한다"부터 "강력하게 반대한다"에 이르는 4개항의 리커트 척도를 사용하여 이루어졌다. 분석을 위해, 모든 부정적으로 단어화된 항목은 역코딩되어 더 높은 점수가 항상 더 학습 지향적인 환경을 반영하도록 하였다.

The 50 items included both positively and negatively worded items. All responses were made using a four-point Likert scale, which ranged from “strongly agree” to “strongly disagree.” For analysis purposes, all negatively worded items were reverse coded so that a higher score always reflected a more learning-oriented climate.


이 평가도구에서는 학생들에게 "의과대학"에서 경험했던 대로 "PRECLERKSHIP (또는 3학년 학생, CLERKSHIP) 학습 환경에 관한 느낌"을 제공하도록 요청했다. 학생들은 50개 항목에 동의하거나 동의하지 않는 정도를 나타내기 위해 4점 척도를 사용하도록 지시받았고, 의대에 대한 만족도를 2개 항목으로 평가하도록 했다(지금까지 의과대학에서의 경험에 대해 극도로 만족한다, 친구가 물어보면 우리 의과대학에 오라고 적극 추천하고 싶다). 그리고 직업으로서의 의학의 선택(1항목: 나는 내가 의학에 들어갈 때 올바른 선택을 했다고 확신한다.)을 물어보았다. 학생들에게는 제한된 인구통계학적 정보를 제공하도록 요청하였.

The instrument’s instructions asked students to provide their “feelings concerning the PRECLERKSHIP [or for third-year students, CLERKSHIP] learning environment as you have experienced it here at [medical school name].” Students were instructed to use the four-point scale to indicate the extent to which they agreed or disagreed with the 50 items as well as to rate their satisfaction with their medical school (2 items: “I am extremely satisfied with my medical school experience so far”; “If asked by a friend, I would strongly recommend that he or she go to my medical school”) and their choice of medicine as a career (1 item: “I feel certain that I made the right choice in going into medicine”). They were also asked to supply limited demographic information.


마지막으로, 학생들은 그들의 노력과 성적에 따라 평가받기를 원하는 비율과 성과에 기초하여 평가받기를 원하는 비율을 표시함으로써, 그들의 노력과 성적에 따라 평가 받는 것에 대한 선호도를 100퍼센트까지 증가시키기 위해 평가하도록 요구받았다. 학생들이 실제 숫자로 노력 대 평가 수행에 선호되는 상대적 가중치를 나타냈지만, 분석 목적을 위해 이 변수는 세 가지 범주로 분류되었다. 

    • 력보다 성과(이상 51%)로 평가받기를 더 좋아하는 사람

    • 50대 50을 선호하는 사람

    • 과보다 노력(이상 51%)으로 평가받기를 더 좋아하는 사람.

Finally, students were asked to rate their preference for being judged by faculty according to their effort versus their performance, by indicating the percentage they desired to be assessed based on effort and the percentage based on performance, to add up to 100%. Although students indicated in real numbers the relative weight that they preferred to be given to effort versus performance in assessments, for analysis purposes this variable was coded into three categories: 

    • those who preferred to be judged more by their performance (≥ 51%) than by their effort, 

    • those who preferred a 50–50 split, and 

    • those who preferred to be judged more by their effort (≥ 51%) than by their performance.


임상 전 학생들에게 보내진 평가 계측기 사본은 http://links.lww.com/ACADMED/A452에서 보충 디지털 부록 1로 이용할 수 있다. 임상 학생에게 보낸 기구는 위에서 언급한 한 가지 예외를 제외하고 동일했다.

A copy of the survey instrument that was sent to preclinical students is available as Supplemental Digital Appendix 1 at http://links.lww.com/ACADMED/A452. The instrument sent to clinical students was identical, with the one exception noted above.


척도 분석

Scale analysis


총 표본의 크기가 안정된 요인 분석 결과를 생성하는 데 필요한 항목별 응답 비율을 훨씬 초과했기 때문에,31 우리는 50개 항목에 대한 탐색 요인 분석(EFA)을 수행하기 위해 표본의 절반을 무작위로 선택했다. EFA의 경우, 최대우도 분석과 함께 구획의 상호 상관 관계를 설명하기 위해 판촉 회전을 사용했다. 요인은 생성된 스크리 플롯의 팔꿈치 위에 있고 고유값이 1보다 높은 경우 유지되었다. 이러한 요인 내의 항목은 1차 요인에 대해 ≥ 0.40을 로드한 경우 또는 1차 요인에 대해서만 0.35를 로드한 경우 유지되었다.

Because the size of the total sample far exceeded the respondents-per-items ratio required to generate stable factor analytic results,31 we selected half the sample at random to perform an exploratory factor analysis (EFA) on the 50 items. For the EFA, we used a promax rotation to account for the subscales’ intercorrelation along with a maximum likelihood analysis. Factors were retained if they were above the elbow of the generated scree plot and had eigenvalues > 1. Items within those factors were retained if they loaded ≥ 0.40 on their primary factor— or, if they were not factorially complex, if they loaded ≥ 0.35 on one factor only.


EFA의 경험적 발견을 이용하여 저울의 기초구조를 확립한 결과, 보유품목만을 이용하여 표본의 나머지 절반에 대해 확인인자분석(CFA)을 수행하였다. 이는 계측기의 잠재적 구조를 검증하고, 항목 요인 관계의 패턴을 검증하며, 적절한 요인의 수를 추가로 결정하기 위해 수행되었다.

Having established the underlying structure of the scale using the empirical findings of the EFA, we performed confirmatory factor analysis (CFA) on the other half of the sample using the retained items only. This was done to verify the latent structure of the instrument, validate the pattern of item–factor relationships, and further determine the appropriate number of factors.


결과

Results


표본

The sample


총 1441명의 학생이 설문조사를 완료했으며, 조사 대상 6개 학교 각각에서 99~407명의 응답자가 응답했다. 학교 A–F의 응답률은 각각 59%, 47%, 78%, 49%, 81%, 22%로 전체 응답률은 56%(1,441/2,590명)로 나타났다.

A total of 1,441 students completed the surveys, with 99 to 407 respondents from each of the six schools surveyed. The response rates of Schools A–F, respectively, were 59%, 47%, 78%, 49%, 81%, and 22%, yielding an overall response rate of 56% (1,441/2,590).


총표본의 특성은 표 1에 대략 절반의 남성(48%)이었다.

The characteristics of the total sample, which was approximately half male (48%), are reported in Table 1.



요인 분석 및 ECI 항목 선택

Factor analysis and ECI item selection


50개 항목의 평균 점수 중 어느 것도 너무 극단적이지 않았고 표준 편차도 너무 좁지 않았다. 결과적으로 모든 항목은 EFA에 대해 유지되었다.

None of the 50 items’ mean scores were too extreme, nor were their standard deviations too narrow; as a result, all items were retained for the EFA.


보유기준을 충족하지 못한 품목을 삭제한 후 각각 10, 6, 4개 항목으로 3가지 요소를 남겨 두었다(표 2 참조).

After eliminating items that did not meet the criteria for retention, we were left with three factors of 10, 6, and 4 items, respectively (see Table 2).


요인 1에 대해서는 "학습 중심성과 상호존중"이라고 표기된 항목(0.65)이 가장 많았다.(0.65)는 "이 의과대학에서는 발견의 감각과 탐구에 대한 열정에 초점을 맞추고 있다" "나는 종종 어떻게 개선할 것인가에 대한 교직원의 가치 있고 지지적인 조언을 받는다."

For Factor 1, labeled “centrality of learning and mutual respect,” the highest loading items (0.65) were “In this medical school, we focus on a sense of discovery and the excitement of inquiry” and “I often get invaluable and supportive advice from faculty on how to improve.”


요인 2에 대해서는, "경쟁과 스트레스"라는 라벨을 붙였다. 가장 loading이 큰 문항은 "여기의 분위기는 경쟁이 심하다""이곳 주변은 자신이 하는 것이 뭔지 몰라도 당당하게 행동해야 한다"라고 하는 것이 가장 많았다.

For Factor 2, labeled “competiveness and stress,” the highest loading items were “The atmosphere here is highly competitive” and “Around here you have to act confidently even if you have little idea what you are doing.”


요인 3은 "수동적 학습과 암기"라고 명명했으며, "여기서 하는 일은 대부분 지식의 수동적 전달에 초점이 맞춰져 있다" "여기에서의 교육은 가능한 한 많은 내용을 암기하는 것"의 loading이 가장 컸다.

For Factor 3, labeled “passive learning and memorization,” the highest loading items were “Most of what we do here is focused on the passive transfer of knowledge” and “Education here is all about memorizing as much content as you can.”


표본의 무작위화된 하반기를 사용하는 CFA는 EFA에서 추출한 3인자 구조를 지원했다.

The CFA using the randomized second half of the sample supported the three- factor structure extracted from the EFA.



ECI 점수와 다른 변수 간의 관계

Relationship of ECI scores to other variables


학교 전체에 걸쳐 변동성이 존재하는지 여부를 판단하기 위해, 각 학교의 평균 점수(총 규모와 세 가지 요인 각각에 대해)를 비교했다(표 3 참조). 6개 학교의 점수는 상당히 달랐다(P < .001, eta2 = 0.08). 더욱이, 요소들이 적당히 상관관계가 있었지만, 주어진 요소들에 대한 학교의 상대적 지위는 다른 요소들에 대해 동일한 상대적 지위를 유지한다는 것을 보장하지 않았다.

To determine whether variability existed across schools, we compared the mean scores for each school, both for the total scale and for each of the three factors (see Table 3). Scores for the six schools differed considerably (P < .001, eta2 = 0.08). Moreover, although the factors were moderately correlated, a school’s relative standing on any given factor did not ensure that it would hold the same relative standing for a different factor.


표 4에서 보듯이, 응답자 성별이나 대학 전공에 따른 총점수에서 차이가 없음을 발견했다. 그러나 (노력보다는) 성과에 의해 평가받는 것을 선호하는 학생들은, 특히 요인 2(경쟁력 및 스트레스)의 측면에서, 학교 환경을 더 learning oriented되어있다고 볼 가능성이 상당히 높았다.

As shown in Table 4, we found no differences on total score according to respondent sex or college major. However, students who preferred to be judged more by performance than by effort were significantly more likely to see their school’s environment as learning oriented, most notably on Factor 2 (competitiveness and stress)


임상실습 학생들의 총 점수는 전임상실습 학생들에 비해 현저히 낮았고, 임상실습 학생들이 학습 환경을 상당히 더 성과(퍼포먼스) 지향적인 것으로 평가했음을 나타낸다(점원 = 58.4, 점원 = 52.9, P < .001; eta2 = 0.07).

the total scores of the clerkship students were significantly lower than those of the preclerkship students, indicating that the clerkship students rated their learning climate as significantly more performance oriented (preclerkship = 58.4; clerkship = 52.9; P < .001; eta2 = 0.07).


또한 학습기후를 보다 숙달지향적으로 인식한 학생들과 비교했을 때, 자신의 환경을 보다 성과지향적으로 본 학생들은 자신의 의과대학에 대한 만족도가 낮고(5.79 대 7.29; P < .001; eta2 = 0.25)과 직업으로서의 의학을 추구하기로 한 결정에 대한 만족도가 낮았다(3.35 대 3.77; P <001; eta2 = 0.10). 이러한 관계는 학생들이 임상 또는 재직 연도에 관계없이 동일했다.

In addition, compared with students who perceived their learning climate as more mastery oriented, students who viewed their environments as more performance oriented were less satisfied with their own medical school (5.79 vs. 7.29; P < .001; eta2 = 0.25) as well as their decision to pursue medicine as a career (3.35 vs. 3.77; P < .001; eta2 = 0.10). This relationship was the same regardless of whether students were in their clinical or preclerkship years


마지막으로, 훨씬 더 많은 수의 전임상 학생들이 노력(20%)보다 그들의 성적에 의해 더 많이 평가 받는 것을 선호한다고 말했다. 이러한 관계는 임상실습 학생들 사이에서 역전되었는데, 그 중 성적(27%)보다는 노력(41%)에 의해 평가받는 것을 더 선호한 비율이 더 높았다(P < .001).

Finally, a far greater percentage of preclerkship students indicated that they preferred to be judged more by their performance (56%) than by their effort (20%). This relationship was reversed among clerkship students, among whom a greater percentage preferred to be judged more by their effort (41%) than by their performance (27%) (P < .001).


고찰

Discussion


우리의 예측과 일치하여 

  • 학생들에 의해 전임상(교실) 경험보다 임상실습 경험이 더 성과performance 지향적인 것으로 평가되었고

  • 학생들의 전임상실습 학습 분위기에 대한 평가는 P-F 시스템 학교보다 grade 시스템 학교에서 성과performance 지향적이라고 여겨졌다(후자의 효과 크기는 작았다)

Consistent with our predictions, we found that the clerkship experience was rated by students as more performance oriented than the medical school classroom experience, and that students’ ratings of the preclerkship learning climate were more performance oriented in schools with grades than in schools with a pass–fail system, although the effect size for the latter was small.


ECI 점수는 또한 만족스러운 일관된 연관성을 보여주었다. 자신의 환경을 보다 performance oriented된 것으로 인식한 학생들은 (mastery oriented된 것으로 인식하는 학생들에 비해) 직업으로서의 의대 선택과 의대 자체에 만족하지 않았다.

ECI scores also demonstrated a consistent set of associations with satisfaction: Students who perceived their environment as more performance oriented were less satisfied with both their choice of medicine as a career and with their medical school itself compared with students who perceived their learning climate as more mastery oriented.



ECI의 신뢰성 및 유효성

Reliability and validity of the ECI


한계

Limitations


한 가지 주목할 만한 제한은 학교 전체의 응답률의 변동성에 관한 것이며, 전체 비율은 22%에서 81%까지 개별 학교 비율에서 파생된 56%이다. 많은 의학 교육 연구자들이 "조사 결과를 신뢰할 수 없다고 보아야 하는 절대적인 기준"을 갖고 있지만, 이것을 심층적으로 연구한 사회과학자들은 서로 다른 결론에 도달했다. Singer36은 이 문제에 전념하는 여론 분기 특별호에서 "조사 추정치가 반드시 편향되었다고 볼 수 있는 최소 응답률은 없으며, 반대로 절대 편향되지 않았다고 볼 응답률 기준도 없다"고 결론지었다. 최근, Meterko와 동료들은 "‘낮은’ 응답률 조사의 결과는 인구의 태도를 정확하게 나타낼 수 있다. 따라서 응답률이 낮다고 해서 결과를 uninformative라고 치부해서는 안 된다고 말했다.

One notable limitation concerns the variability in response rates across the schools, with an overall rate of 56% derived from individual school rates as low as 22% and as high as 81%. While many medical education researchers have set absolute thresholds below which they believe survey findings cannot be trusted, social scientists who have studied this in depth have come to differing conclusions. In a special issue of the Public Opinion Quarterly devoted to this issue, Singer36 concluded that “there is no minimum response rate below which a survey estimate is necessarily biased; and conversely, no response rate above which it is never biased.” More recently, Meterko and colleagues37 stated, “Results from ‘low’ response rate surveys may accurately represent attitudes of the population. Therefore, low response rates should not be cited as reasons to dismiss results as uninformative.”


학생들이 평가받기를 원하는 방법

How students want to be assessed


전임상시기의 대다수의 학생들이 그들의 성적에 의해 평가되는 것을 선호한다는 것은 놀라운 일이 아니다. 이들은 의과대학에 들어가기 위해 꾸준히 높은 성취를 보이는 교실 수행자들이어야 했기 때문이다. 그러나 이러한 학생들을 위하여 많은 교육자들이 학습과 숙달을 지원하는 교육적 환경을 조성하려고 시도하고 있음에도 이러한(노력보다 성과로 평가받길 원하는) 결과가 나온 것은 아이러니하다. 

It is not surprising that the majority of students in their preclerkship years indicated that they preferred to be judged by their performance, as they had to be consistently high-achieving classroom performers to get into medical school, although it is ironic that many educators are attempting to create educational climates for these students that support learning and mastery—that is, environments consistent with assessment on effort over performance.


우리는 학생들이 (임상교수들이 높은 수준의 성과를 기대하는) 필수 임상실습을 마쳤을 때 이 패턴이 뒤집어진다는 것에 다소 놀랐다. 이에 대한 한 가지 가능한 설명은 일단 병동에서 학생들의 임상 능력에 대한 불확실성과 교직원과 거주자의 높은 기준에 따라 수행하지 못할지도 모른다는 두려움이 학생들을 그들이 통제할 수 있는 한 가지 것에 따라 평가받기를 원하게 만든다는 것이다.

We were somewhat surprised to find the reverse pattern for students completing their core clerkships, where high levels of performance are expected by clinical faculty. One possible explanation for this is that once on the wards, students’ uncertainty about their clinical competence and fear that they may not be able to perform to the high standards of the faculty and residents lead students to want to be judged according to the one thing they can control: their effort.


이 설명과 일관되게, 학습자의 선호(노력에 따른 평가 vs 성과에 따른 평가)는 시간에 따라 달라질 수 있다

    • 초보자(예: 핵심 실습 또는 레지던트 1학년)인 환경에서는, 노력에 근거한 평가를 선호할 수 있다. 

    • 더 경험이 많고 자신감 있는 상황(예를 들어, 서브인터네셔널이나 레지던트 3학년)에서는 수행 능력에 따라 판단되는 것을 선호하게 된다.

Consistent with this explanation, we would predict that the preference for being judged on effort versus performance may vary over time as learners move 

    • from settings in which they are novices (e.g., core clerkships or first year of residency), where they may prefer assessment based on their effort, 

    • to settings in which they are more experienced and confident (e.g., subinternships or third year of residency), where they may prefer to be judged according to their ability to perform.


Conclusions









Multicenter Study
 
, 92 (12), 1757-1764
 

The Educational Climate Inventory: Measuring Students' Perceptions of the Preclerkship and Clerkship Settings

Affiliations 

Affiliation

  • 1E. Krupat is associate professor of psychology, Department of Psychiatry, Beth Israel Deaconess Medical Center, Boston, Massachusetts. At the time of the research, the author was also director, Center for Evaluation, Harvard Medical School, Boston, Massachusetts. N.J. Borges is assistant dean, Medical Education Research and Scholarship, and professor, Department of Pediatrics, University of Mississippi Medical Center, Jackson, Mississippi. At the time of the research, the author was on the faculty of Wright State University Boonshoft School of Medicine, Dayton, Ohio. R.D. Brower is associate dean for medical education, associate professor of medical education, and clinical associate professor of neurology, Paul L. Foster School of Medicine at Texas Tech University Health Sciences Center, El Paso, Texas. P.M. Haidet is professor of medicine, humanities, and public health sciences and director of medical education research, Penn State College of Medicine, Hershey, Pennsylvania. W.S. Schroth was associate dean for administration, George Washington University School of Medicine and Health Sciences, Washington, DC, at the time of the research. T.J. Fleenor Jr is project manager, Office of Educational Quality Improvement, Harvard Medical School, Boston, Massachusetts. S. Uijtdehaage is professor of medicine and associate director, graduate programs in health professions education, Uniformed Services University of the Health Sciences, Bethesda, Maryland. At the time of the research, the author was on the faculty of the David Geffen School of Medicine at the University of California, Los Angeles, California.

Abstract

Purpose: To develop an instrument to assess educational climate, a critical aspect of the medical school learning environment that previous tools have not explored in depth.

Method: Fifty items were written, capturing aspects of Dweck's performance-learning distinction, to distinguish students' perceptions of the educational climate as learning/mastery oriented (where the goal is growth and development) versus performance oriented (where the goal is appearance of competence). These items were included in a 2014 survey of first-, second-, and third-year students at six diverse medical schools. Students rated their preclerkship or clerkship experiences and provided demographic and other data. The final Educational Climate Inventory (ECI) was determined via exploratory and confirmatory factor analysis. Relationships between scale scores and other variables were calculated.

Results: Responses were received from 1,441/2,590 students (56%). The 20-item ECI resulted, with three factors: centrality of learning and mutual respect; competitiveness and stress; and passive learning and memorization. Clerkship students' ratings of their learning climate were more performance oriented than preclerkship students' ratings (P < .001). Among preclerkship students, ECI scores were more performance oriented in schools with grading versus pass-fail systems (P < .04). Students who viewed their climate as more performance oriented were less satisfied with their medical school (P < .001) and choice of medicine as a career (P < .001).

Conclusions: The ECI allows educators to assess students' perceptions of the learning climate. It has potential as an evaluation instrument to determine the efficacy of attempts to move health professions education toward learning and mastery.


보건전문직 교육에서 학습환경의 개념화(Acad Med, 2019)

Conceptualizing Learning Environments in the Health Professions

Larry D. Gruppen, PhD, David M. Irby, MDiv, PhD, Steven J. Durning, MD, PhD, and Lauren A. Maggio, MS(LIS), PhD



교육자, 연구자, 인증관련 담당자는 보건 직업 교육에 대한 학습 환경(LEs)의 긍정적 효과와 부정적인 영향을 모두 강조해 왔다.133 학습자는 환영, 참여, 지원, 도전을 받는 환경에서는 잘 성장하지만, 학습자가 LE에서 배제당하거나, 지지받지 못하거나, 학대당한다고 인식할 경우 일반적으로 높은 수준의 우울증, 소진, 한계화 및/또는 탈진으로 이어진다.

Educators, researchers, and accreditors have highlighted both the positive and negative effects of learning environments (LEs) on health professions education.1–3 Learners thrive in settings where they are welcomed, engaged, supported, and challenged, but when learners perceive the LE to be exclusionary, unsupportive, and/or abusive, this typically leads to high levels of depression, burnout, marginalization, and/or exhaustion.


그러나 LE의 정의나 LE를 측정하는 도구에는 균일성이 거의 없다.4,5

yet there is little uniformity in definitions and measuring instruments.4,5


환경이라는 용어는 중세 프랑스어 엔비론(environ)에서 온 말로, ‘주변’으로 번역된다. 그러므로 환경은 "주변에 있거나 둘러싸고 있는 것:으로서, '특정 환경의 물리적 또는 사회적 세계'를 의미한다. 그래서 "학습 환경"은 문자 그대로 "배움을 둘러싸고 있는 환경"을 의미한다. 또 다른 정의는 "각 상황에 성격, 정신, 문화를 부여하고 그 조직 내에서 학습자가 되는 것이 어떤 것인지 설명하는 특징들의 집합"이다7(p554)

The term “environment” comes from the Middle French word “environ,” which is translated as “around.” Thus, environment means “that which is around or surrounds”—the physical or social world of a particular setting.6 So the “learning environment” literally means “that which surrounds learning.” Another definition is “a set of features that gives each circumstance and institution a personality, a spirit, a culture and describes what it is like to be a learner within that organization.”7(p554)


LE는 분위기, 학습기후, 조직문화 또는 환경, 교육환경과 자주 동의어처럼 쓰인다. 그것은 사람들이 서로 교류하는 일상적인 방식과 사회문화적 풍토의 어조뿐만 아니라 학습을 둘러싸고 있는 조직구조와 물리적 공간을 묘사한다.8 LE와 관련된 연구 전반에 걸쳐 일관된 것은 [LE의 목적은 그 환경 내에서 모든 것의 학습과 개발을 지원하는 것]이라는 관측이다.

LE is a term that is often used synonymously with atmosphere, learning climate, organizational culture or milieu, and educational environment. It describes the routine ways in which people interact with each other and the tone of the social and cultural climate as well as the organizational structures and physical spaces that surround learning.8 What is consistent across research pertaining to the LE is the observation that its purpose is to support the learning and development of all within that setting.


Josiah Macy Jr.를 위해 실시된 범위 검토에 기초하여. 2018년 4월 보건 분야의 학습 환경 개선에 관한 기초 합의 회의. 우리는 LE에 대해 다음과 같은 정의를 제안했다. 

"학습 환경은 학습자의 경험, 인식, 학습을 둘러싸고 형성하는 사회적 상호작용, 조직 문화와 구조, 물리적·가상적 공간을 말한다."

On the basis of a scoping review conducted for a Josiah Macy Jr. Foundation consensus conference on improving environments for learning in the health professions in April 2018,9 we proposed the following definition: 

“Learning environment refers to the social interactions, organizational culture and structures, and physical and virtual spaces that surround and shape the learners’ experiences, perceptions, and learning.”


LE 개념틀 개발

Developing a Conceptual Framework for LEs


특히 LE의 구성은 특정 이론이나 관점이 "소유"하고 있는 것이 아니다. 실제로, 학습 이론에서 LE가 무시되는 경우가 너무 잦아서, LE의 구조는 이론적인 애매모호한 무언가에 남겨진다. LE의 강력한 개념적 프레임워크를 이용할 수 있을 때까지, LE의 평가와 개선에는 한계가 있을 것이다.

Notably, the construct of the LE is not “owned” by any particular theory or perspective. Indeed, all too often the LE is ignored in theories of learning, leaving this construct in something of a theoretical limbo. Until a robust conceptual framework of the LE is available, there will be limited progress in assessing and improving the LE.


2012년 숄록-아데마와 동료들의 문헌 검토에 따르면, 이전에 LE를 frame하려는 시도가 있었다고 한다. 

  • 첫 번째 틀은 1938년 머레이의 작품에서 비롯되었다. 그는 개인의 성격과 이것이 환경에 대한 인식에 어떤 영향을 미치는지 설명하는 데 초점을 맞췄다. 

  • 두 번째 틀은 1970년대 무스의 작품이었다. 고등교육의 맥락에서 일하면서 Mos는 각 LE를 세 가지 넓은 영역으로 개념화했다. 

    • 개인적 개발 또는 목표 지향교육 목표, 건설적 비판 및 피드백, 관련 학습 내용과 관련된 

    • 관계: 학습자와 교직원이 서로를 어떻게 지원하는지에 초점을 맞추고, 제휴와 정서적 지지를 보여주며, 공개적인 커뮤니케이션 

    • 시스템 유지와 시스템 변화: 명확한 기대, 개방적이고 질서 있는 환경, 혁신, 학생 영향력의 범위와 같은 것 

There have been previous attempts to frame the LE, according to a 2012 review of the literature by Schönrock-Adema and colleagues.4 

  • The first framework arose from the work of Murray10 in 1938. He focused on describing the individual’s personality and how this influenced his or her perceptions of the environment. 

  • The second framework was the work of Moos11,12 in the 1970s. Working in the context of higher education, Moos conceptualized each LE in terms of three broad domains: 

    • personal development or goal direction, which relates to educational goals, constructive criticism and feedback, and relevant learning content; 

    • relationships, which focus on how learners and faculty members support each other, demonstrate affiliation and emotional support, and have open communication; and 

    • system maintenance and system change, which addresses such things as clear expectations, an open and orderly environment, innovation, and the extent of student influence. 


Moos의 프레임워크는 LE의 많은 기존 학습자 자체 보고서 척도에 사용되어 왔으며, 그러한 계측기 항목의 90% 이상을 차지한다. 숄록-아데마와 동료들은 Moos의 프레임워크를 기반으로 건강 전문가들을 위한 LE의 3-도메인 프레임워크를 주장하고 있다. 목표 지향, 관계, 조직/규제.

Moos’s framework has been used in many of the existing learner self-report measures of the LE and accounts for over 90% of the items in those instruments.4 Building on Moos’s framework, Schönrock-Adema and colleagues4 argue for a three-domain framework of the LE for the health professions: goal orientation, relationships, and organization/regulation.


Genn의 2001년 LE 분석에서는, 학습에 영향을 미칠 경우 거의 모든 것이 LE의 일부로 간주될 수 있다고 지적하면서, LE의 이론을 발전시키기 위한 주요 도전을 강조한다. 그는 시간표, 수업 구성, 여가 시간, 임상 팀원 등 많은 변수로 이러한 복잡성을 설명한다. Genn이 제시한 포괄적인 프레임은 반대로 [LE가 아닌 것이 무엇인가]에 대한 의문을 제기한다. LE의 개념적 틀은 [무엇을 포함하느냐] 만큼 [무엇을 배제하느냐]를 제시하는 것으로서 가치가 있다.

Genn’s5,13 2001 analysis of the LE highlights a major challenge to developing a theory of the LE when he notes that almost anything can be considered part of the LE if it has an impact on learning. He illustrates this complexity with a number of variables, such as time tables, class composition, leisure time, clinical team members, and many others. Such a comprehensive framing raises the question of what isn’t part of the LE. A conceptual framework of the LE is valuable as much for what it would leave out as for what it would include.


우리는 LE란 [특정한 환경에서 개인, 사회 그룹 및 조직에 의해 고취되고 상황별 분위기와 문화에 의해 형성되는 복잡한 정신-사회-물리적 구조]라고 생각할 수 있다고 주장한다.8 

We argue that the LE can be thought of as a complex psycho-social-physical construct that is cocreated by individuals, social groups, and organizations in a particular setting and shaped by contextual climate and culture.


위에서 설명한 각 프레임워크는 [타인과의 상호작용과 협업의 중요성]을 강조한다. 왜냐하면, (상호작용과 협업은) "[다른 사람들로부터 지식과 기술을 배움으로써, 또한 자신이 속한 지역사회에 존재하는 규범과 문화적 신념과 태도와 친숙하게 됨으로써] 학생들이 학습하고 참여하는 수단이기 때문이다. 그러나 LE는 단순한 사회적 상호작용이 아니다. 또한 물리적 공간과 가상(디지털) 환경뿐만 아니라 개별적인 심리적 특성을 포함해야 한다.

Each of the frameworks described above emphasizes the importance of interactions and collaborations with others “as the means for students’ learning/participation, both through learning knowledge and skills from others, and through becoming familiar with the norms, cultural beliefs and attitudes existing in the communities to which they (the learners) are being introduced.”4(p739) However, the LE is more than just social interactions. It must also encompass intraindividual psychological characteristics as well as physical spaces and virtual (digital) environments.


우리는 심리사회적 관점이 개념적 틀을 구축하기 위한 확고한 기초를 제공한다고 믿는다.

We believe that a psychosocial perspective provides a solid foundation for building a conceptual framework.


  • situated learning 관점에서, 학습은 적극적인 참여를 통해 (공동체의 일원이 됨) 새로운 지식 공동체로의 적응을 수반한다.14

Within a situated learning perspective, learning involves acculturation into a new knowledge community (becoming a member of a community) through active participation.14


  • 생태 심리학이나 근무지 학습과 같은 관련 이론들은 학습자들이 적극적으로 참여하는 환경의 여유에 의해 학습과 관련된 사회적 상호작용이 촉진된다는 것을 강조한다.15

Related theories, such as ecological psychology and workplace learning, emphasize that social interactions related to learning are facilitated by affordances in the environment with which learners actively engage.15


  • 인지 및 활동 이론16 또한 학습자의 사회적 특성과 환경과의 상호작용을 강조한다. 구체적으로는 지식이 습득되는 활동, 맥락, 문화에 내재되어 있다.17

Situated cognition and activity theory16 also emphasizes the social character of learning and the interactions of the learner with the environment. Specifically, knowledge is embedded in the activity, context, and culture in which it is learned.17


  • 사회물질성 이론은 기술, 업무, 조직의 교차점에 기초하고 있다. 이 이론에서는 작업의 물질적 차원과 심리사회적 차원이 서로 얽히고설켜 불가분의 관계에 있다고 상정한다.

Sociomateriality theory builds on the intersection of technology, work, and organizations—suggesting that the material dimensions and psychosocial dimensions of work are intertwined and inseparable.18,19



LE를 위한 개념틀 제안

Proposing a Conceptual Framework for the LE


LE의 규범적 이론이 없었기 때문에, 우리는 생명시스템 관점(모든 생명 시스템, 그들의 구조, 상호작용, 행동 및 개발에 관한 일반적인 이론)을 따라 다중 개념 프레임워크를 합성하고 2차원을 형성하는 5개의 중첩 및 쌍방향 핵심 구성요소를 식별했다.

Lacking a canonical theory of the LE, we followed a living systems perspective20 (a general theory about all living systems, their structure, interaction, behavior, and development) to synthesize multiple conceptual frameworks3,4,11–13,19,21,22 and identified five overlapping and interactive core components that form two dimensions.


LE의 여러 측면

aspects of the LE (Figure 1).




심리사회적 차원

Psychosocial dimension


개인 요소

Personal component.


LE의 개인 구성 요소: 개별 학습자가 어떻게 LE와 상호 작용하는지, 어떻게 LE에 대한 인식을 개발하는지, 어떻게 (LE가) 개인의 성장에 관여하며, 전문직 정체성을 개발하는지.

The personal component of the LE : how individual learners interact with the LE, develop perceptions of the LE, engage in personal growth, and develop professional identity.


Scoping review 에서 우리는 LE의 개인 수준 요소와 긍정적으로 연관된 개입 또는 요인을 식별했다. 

      • 직접 환자 치료에 집중하는 시간, 

      • 동료들의 공동체를 갖는 것, 

      • 좋은 삶의 질과 높은 수준의 회복력, 

      • 웰빙 훈련, 

      • "의미있는" 실천으로 배우는 것, 

      • 학습자를 지원하는 규제된 제도를 신뢰하다.

From our scoping review,9 we identified interventions or factors positively associated with the personal component of the LE: 

      • time focused on direct patient care, 

      • having a community of peers, 

      • a good quality of life and high levels of resilience, 

      • training in well-being, 

      • learning in a “meaningful” practice, and 

      • trust in a regulated system that supports learners.


LE와 부정적인 연관성을 가진 요인은 

      • 삶의 질이 나빠지면 더 감정적으로 지치는 것

      • 도덕적 디스트레스

      • 탈인간화

      • 미래까지 버틸 수 있는지와 자기 능력에 대한 걱정

Factors with negative associations with the LE were 

      • poor quality of life leading to more emotional exhaustion, 

      • moral distress, 

      • depersonalization, and 

      • worries about future endurance and capacity.


교육자들에게 있어, LE에 대한 학습자들의 개인요인은 가장 중요하다. LE의 이러한 개인적이고 학습자 중심적인 구성요소는 학습자 경험, 학습자 및 인식에 강하게 영향을 미친다. 실제로, LE를 측정하기 위해 고안된 대부분의 도구들은 개별 학습자가 LE를 인지하는 방식에 초점을 맞추고 있지만, 이러한 척도는 LE의 더 큰 사회적, 조직적, 물리적, 가상적 요소를 다루지 못하면서 개인에 집중한다는 한계가 있다.

For educators, the personal dimensions of their learners are of paramount importance. This personal, learner-centered component of the LE strongly influences learner experience, learning, and perceptions. Indeed, most inventories designed to measure the LE are focused on how individual learners perceive it, but this imposes a limitation by focusing on the individual while failing to address the larger social, organizational, physical, and virtual components of the LE.


사회 요소

Social component.


(개인적인 차원에 더해져서) LE의 사회적 요소는 다른 사람들과의 상호작용과 사회적 관계에 대한 부분을 다룬다. 이러한 관계에는 다음의 요소가 있다.

      • 동료-대-동료(경쟁력, 협업, 공유 가치 및 학습자 문화)

      • 학습자-대-교수/직원(신뢰, 피드백, 기대의 명확성, 커뮤니케이션, 교육 전략, 멘토링)

      • 학습자-대-환자(책임, 수용, 신뢰) 

The social component of the LE characterizes interactions and social relations with others, thus adding to the personal dimension. These relationships include 

      • peer-to-peer (competition, cooperation, shared values and learner culture), 

      • learner-to-faculty/staff (trust, feedback, clarity of expectations, communication, instructional strategies, mentoring), and 

      • learner-to-patient (responsibility, acceptance, trust) elements. 


사회적 구성요소는 이러한 상호작용의 퀄리티를 설명한다(형평성과 inclusion, 학습자의 괴롭힘과 학대를 포함) .

The social component describes the quality of these interactions, including equity and inclusion, and harassment and abuse of learners.


사회적 요소를 개선하기 위해 설계된 개입에는 다음이 있다.

      • 긍정적인 학습 환경을 조성하는 데 초점을 맞춘 교수개발 워크숍, 

      • 동료 코칭 프로그램, 

      • 다양성/자본성/적폐성 교육, 

      • 팀워크 교육 

Interventions designed to improve the social component include 

      • faculty development workshops focusing on creating a positive learning climate, 

      • peer coaching programs, 

      • diversity/ equity/inclusion training, and 

      • teamwork training.9


사회적 요소에 대한 조사는 전형적으로 사회학자, 인류학자, 민족지학자들의 관심사이며, 이 연구자들은 개인이 시스템 내에서 어떻게 상호작용하는지에 높은 가치를 둔다.

Investigations of the social component typically fall under the purview of sociologists, anthropologists, and ethnographers, who place high value on how individuals interact with each other and within a system.


이 요소와 관련된 이론은 위치 학습, 위치 인식, 사회 물질성 및 신중한 실천을 포함한다.

Theories that pertain to this component include situated learning, situated cognition, sociomateriality, and deliberate practice.


조직 요소

Organizational component.


사회적 요소와는 달리, 조직 요소는 주로 다음을 다룬다.

      • 아티팩트(또는 사람들이 환경의 물체나 요소와 상호작용하는 방법) 

      • 일군의 개인(개인의 일반적인 사회적 영역에 속하지 않는 사람들)

unlike the social component, the organizational component primarily addresses 

      • artifacts (or how people interact with objects or elements in their environment) and/or 

      • groups of individuals (who are not just a part of the individual’s typical social circle). 


따라서 이 요소는 개인이 어떻게 정책과 상호 작용하는지, 어떻게 조직 성과 척도에 대응하는지, 어떻게 문화 및 특정한 리더십에 대응하는지 등이 포함된다.

Thus, this component emphasizes how individuals interact with policies, navigate organizational performance measures, and respond to culture and/or particular leadership actions.


조직은 학습을 위한 구조, 지침, 지원을 제공한다. 이러한 지원은 커리큘럼 자원, 지리적 배치 인증 규칙뿐만 아니라 조직 관행, 문화 및 정책(예: 근무 시간, 규제 환경, 교사 통제, 커리큘럼)의 형태를 취할 수 있다.

Organizations provide structure, guidance, and/or support for learning. This support can take the form of curriculum resources, geographic placements, and accreditation rules, as well as organizational practices, culture, and policies (such as duty hours, regulatory environment, teacher control, curriculum).


우리는 또한 이 조직 구성 요소의 지역사회(지리적 설정/위치)에 배치placement도 포함한다.

We also include placements in the community (geographical settings/locations) in this organizational component.


계약, 규제 기관 및 정책 입안자는 일반적으로 LE의 조직 요소에 초점을 맞춘다.

Deans, regulatory bodies, and policy makers typically focus on the organizational component of the LE.



물질 차원

Material dimension


물리적 공간

Physical spaces.


LE 프레임워크의 물질적 차원은 다음을 포함한다. 

      • 학습과 실습이 이루어지는 물리적/가상적 공간 

      • 학습에 영향을 미치는 환경의 객체object (예: 전자 건강 기록 및 주문 입력 시스템, 청진기, 복강경). 

The material dimension of our LE framework includes 

      • the physical and virtual spaces in which learning and practice occur as well as 

      • objects (artifacts) in the environment that affect learning (e.g., electronic health record and order entry systems, stethoscopes, laparoscopes). 


물리적 공간은 벽돌로 된 캠퍼스 기반의 교육 및 학습 건물, 병원과 클리닉 및 커뮤니티 사이트를 포함한다. 학생들은 공부, 토론, 팀 배움의 좋은 장소를 찾는다. 작은 회의실은 환자 진료가 한창인 상황에서 임상 교육에 매우 중요하다. 학생과 레지던트가 일반적으로 환자를 진찰하는 데 전문의보다 시간이 더 오래 걸리는 점을 감안할 때, 적절한 수의 진찰실을 이용할 수 있는 것은 임상 학습에 필수적이다. 

Physical space includes brick-and-mortar campus-based teaching and learning buildings, hospitals and clinics, and community sites. Students search for conducive spaces for study, discussion, and team learning. Small conference rooms are critical to clinical education in the midst of patient care. Availability of an adequate number of examination rooms is essential for clinical learning, given that students and residents typically take longer to examine patients than do board-certified physicians. 


물리적 공간과 관련된 LE를 개선하기 위해 설계된 개입에는 종단적 실습 또는 지역사회 배치가 포함된다.9 공간은 또한 시뮬레이션 시설, 해부 실험실, 컴퓨터화된 시험실 등 다양한 교육 자원의 핵심이다. LE의 공간 구성요소는 주로 특정 학습 활동에 관련된 공간의 양과 질에 대한 것이다.

Interventions designed to improve the LE associated with physical space include longitudinal and community placements.9 Space is also key to various educational resources, such as simulation facilities, anatomy labs, and computerized testing rooms. The space component of the LE directs attention to the quantity and quality of spaces relevant to specific learning activities.


가상 공간

Virtual spaces.


물리적 공간 외에도 학습자에게 콘텐츠를 전달하고 상호 작용과 학습을 위한 포럼을 제공하는 전자 학습 환경, 커리큘럼 관리 도구, 디지털 도우미가 모두 물질 차원에 속한다. 그러나 재료 차원에는 환경의 다른 어포던스(예: 전자 건강 기록 시스템에 내장된 적시 학습, 휴대용 장치, 컴퓨터 네트워크)도 포함된다.

In addition to physical space, the electronic learning environments, curriculum management tools, and digital assistants that deliver content to learners and provide forums for interaction and learning are all part of the material dimension. However, the material dimension also includes other affordances in the environment (e.g., just-in-time learning built into electronic health record systems, handheld devices, computer networks).


사회 물질성 이론과 일치하여 물질적 차원은 두 차원이 불가분의 상호작용을 할 수 없는 심리사회적 차원과 "실천에서 얽히게entangled in practice"된다.18,19 예를 들어 EHR은 가상공간에 존재하는 LE이지만, 이러한 환경은 일반적으로 학습자마다, 팀마다, 기관마다 다르게 정의되고 경험된다. 

In alignment with sociomateriality theory, the material dimension is “entangled in practice” with the psychosocial dimension such that the two dimensions inextricably interact.18,19 For example, the electronic health record is a virtual LE, but this environment is typically defined and experienced differently for the individual learner, the medical team, and the institution overall.


물리적 공간을 개선하고 온라인 강좌를 설계하는 데 전념하는 자원에도 불구하고, 문헌에서 물질 차원의 영향에 대한 연구는 충분하지 않으며, LE에 관련해서도 그렇다. 이는 LE의 물질적 차원이 연구자로 하여금 정신사회적 및 물질적 차원의 통합을 연구할 것을 강력히 권고하는 환경심리학, 비즈니스 및 고등교육에서 수행된 연구와 대조된다.18,26

Despite the resources devoted to improving physical spaces and designing online courses, the study of the impact of the material dimension is underrepresented in the literature25 and notably so in the study of the LE.9 This contrasts with studies undertaken in environmental psychology, business, and higher education where the material dimension of the LE has led researchers to strongly recommend studying the integration of the psychosocial and material dimensions.18,26


개념틀 적용

Applying the Conceptual Framework


지역사회 병원 실습

Community placements


서호주의 시골임상학교는 1학년 의대생을 10개의 다른 시골과 외딴 곳에 3-10명의 회원으로 구성된 세로 통합 사무소에 배치한다.27

The Rural Clinical School of Western Australia places first-year medical students in longitudinal integrated clerkships, in groups of 3 to 10 members, in 10 different rural and remote sites.27


소규모 사이트와 대규모 사이트 간에는 결과 차이가 없었다. 중간기간의 인터뷰는 학생들의 인식 면에서 DREEM 설문지의 조사 결과와 상당히 관련이 있는 것으로 나타났다. 소규모 사이트의 학생들은 더 큰 사이트의 학생들보다 그들의 교육 경험에 더 만족했다. 연말 성적과 학습자 만족도는 사이트 규모 간에 차이가 없었다.

There were no differences in results between smaller sites and larger sites. Midyear interviews were shown to correlate significantly with the findings from the DREEM questionnaire in terms of student perceptions. Students at small sites were more satisfied with their educational experience than those at the larger sites. End-of-year grades and learner satisfaction showed no differences among site sizes.


동료학습공동체와 웰빙

Peer learning community and well-being


한 국제 연구는 LE에 대한 호의적인 학생 인식과 삶의 질, 고갈, 공감에 대한 학생 보고서 사이의 관계를 조사했다.29 그들의 발견은 긍정적인 LE 인식이 웰빙과 밀접하게 연관되어 있고 동료 커뮤니티를 육성하는 것이 삶의 질을 향상시키고 고갈을 줄일 수 있다는 것을 보여주었다. 그러나 LE에 대한 인식과 공감은 밀접한 상관관계가 없었다.

An international study examined the relationship between favorable student perceptions of the LE and student reports on quality of life, burnout, and empathy.29 Their findings indicated that positive LE perceptions were closely associated with well-being and that fostering peer community may enhance quality of life and reduce burnout. However, perceptions of the LE and empathy were not closely correlated.


LE의 문제진단 예시

Diagnosing a problem in the LE


예를 들어, 의과대학은 3학년 학생들의 경험에 대한 일상적인 감시를 통해 전반적인 학생 스트레스가 갑자기 증가한다는 것을 발견할 수 있다.

For example, a medical school might discover through its routine surveillance of third-year student perceptions of their experiences that there is a sudden increase in overall student stress.


    • 우선 심리사회적 차원의 개인적 요소를 고려하면, 행정부는 이러한 갑작스런 스트레스의 증가에 기여하는 개인의 특성을 고려할 수 있다. 스트레스가 소수의 학습자에게만 국한된 경우, 공유 속성(예: 대학 1세대, 의학에서 잘 표현되지 않음, 경제적 지위, 회복력)이 있을 수 있다. 만약 스트레스가 광범위하게 분포되어 있다면, 개인의 특성은 덜 가능성이 있어 보일 것이다.

Considering first the personal component of the psychosocial dimension, the administration might consider individual characteristics that are contributing to this sudden rise in stress. If the stress is limited to a small number of learners, there may be a shared attribute (e.g., first generation in college, underrepresented in medicine, economic status, resilience). If the stress was broadly distributed, individual characteristics would seem less likely.


    • 심리사회적 차원의 사회적 또는 대인관계적 요소는 스트레스를 유발하는 역학 또는 사건의 발생원이 될 가능성이 있다. 학습자들 사이에 스트레스가 널리 퍼지면 사회적 요소가 일을 할 가능성이 더 높다. 이 경우에 고려해야 할 사회적 원인은 갑작스런 경쟁의 증가, 수업의 부분들 간의 갈등, 교직원과 학생들 간의 건강하지 못한 상호작용, 또는 학생 괴롭힘과 학대에 대한 널리 공유된 인식일 수 있다. 갑작스런 스트레스의 시작은 이러한 잠재적인 원인들 중 일부를 더 가능성 있게 만들 것이다.

The social or interpersonal component of the psychosocial dimension would be a likely source of stress-inducing dynamics or events. The social component is more likely to be at work if the stress is widely disseminated among learners. Social causes to consider in this case might be a sudden increase in competition, conflicts among segments of the class, unhealthy interactions between faculty and students, or broadly shared perceptions of student harassment and mistreatment. The sudden onset of stress would make some of these potential causes more likely.


    • 조직적 요소나 제도적 요소도 기여자가 될 수 있다. 원 소속 기관에서 떨어진 기관에서의 필수 로테이션, 교직원과 행정 사이의 갈등, 병원의 합병과 확장, 또는 새로운 리더십에 따라 교육과정 변화는 모두 환경이 위협적이거나 불확실한 톤을 취한다면 학생들의 스트레스에 영향을 미칠 수 있는 기관 수준의 사건들이다.

The organizational or institutional component may also be a contributor. Curriculum changes with required rotations away from home, strife between faculty and administration, mergers and expansions of hospitals, or new leadership are all institutional events that can trickle down to affect student stress if the environment takes on a threatening or uncertain tone.


    • 물질 차원에서도, 연구와 사회적 상호작용을 위한 공식적으로 접근 가능한 공간이 오프라인으로 전환되거나 건설이 접근과 수용량을 방해하는 경우(예: 도서관 시간 및 강의실 접속이 축소되는 경우) 물리적 공간은 스트레스에 기여할 수 있다. 마찬가지로 가상 인프라는 LE에서 스트레스를 유발할 수 있다.

On the material dimension, physical spaces may also contribute to the stress, if formally accessible spaces for study and social interaction are taken offline or construction interferes with access and capacity (e.g., library hours and classroom access curtailed). Similarly, virtual infrastructure can trigger stress in the LE.


이 예는 또한 작업 환경work environment과 LE 사이의 상호작용을 강조한다. 보건직업교육은 실생활에서의 학습과 밀접하게 연관되어 있기 때문에, workplace의 특성과 역학관계도 LE의 일부가 된다. 본 연구의 모델에서도 작업 환경의 영향을 연과지을 수 있다.

    • 개인 수준 요소의 경우, 작업 환경은 성능, 역량 및 실패의 결과에 대한 개인의 불안으로 인해 발생하는 스트레스를 강조할 수 있다. 

    • 작업 환경은 또한 연습과 학습을 위한 대인관계의 내용, 형식 및 속도에 큰 영향을 미치기 때문에 LE의 대인관계에 영향을 미친다. 괴롭힘과 학대가 없는 환영하고 포용적인 근무 환경은 긍정적인 LE를 창출한다. 

    • 그것은 아마도 조직 차원에서 작업 환경이 LE에 가장 큰 영향을 미치는 것이다. 임상 생산성, 조직 구조, 다른 임상 시스템과의 합병 및 경쟁에 관한 제도적 정책 및 많은 다른 측면은 모두 학습이 이루어지는 환경에 기여한다. 이것은 의사 소진이 자주 발생하는 곳으로, LE의 사회적 상호작용에 직접적인 영향을 미친다. 

    • 마찬가지로 작업 환경은 실습과 학습을 위한 물리적 공간 내에서, 학습자가 숙지하고 사용해야 하는 가상 공간과 시스템(예: 전자 의료 기록 시스템) 내에서 발생한다.

This example also highlights the interaction between the work environment and the LE. Health professions education is tightly tied to learning in practice, so the characteristics and dynamics of the workplace also become part of the LE. The influence of the work environment can be considered within each of the components of our model. 

    • For the personal component, the work environment may accentuate stress created by individual anxiety about performance, competence, and the consequences of failure. 

    • The work environment also affects the interpersonal component of the LE because it heavily influences the content, format, and pace of interpersonal interactions, both for practice and for learning. A welcoming and inclusive work environment, free of harassment and abuse, creates a positive LE. 

    • It is, perhaps, at the level of the organization that the work environment has its greatest impact on the LE. Institutional policies on clinical productivity, organizational structure, mergers and competition with other clinical systems, and many other facets all contribute to the environment in which learning takes place. This is where physician burnout often occurs, which has a direct impact on the social interactions of the LE. 

    • Similarly, the work environment takes place within the physical spaces for practice and learning and the virtual spaces and systems (e.g., electronic medical record system) that the learners must master and use.


마무리

Concluding Observations


우리의 정신 사회/물질적 프레임워크는 몇 가지 장점을 가지고 있다. LE의 사회적 측면과 물리적 측면을 통합함으로써 다른 개념적 프레임워크보다 더 포괄적이다. 그것은 사회적 상호작용이 ([심리사회적 차원]과 [특정 LE의 구성요소들 사이의 복잡한 상호작용을 생각하는 비계scaffold]를 따라) 다층적 수준(개인, 사회, 조직)에서 일어난다는 것을 인식한다. 

our psychosocial/materiality framework has several strengths. By incorporating the social and the physical aspects of the LE, it is more inclusive than other conceptual frameworks. It recognizes that social interactions take place at multiple levels (personal, social, organizational) along the psychosocial dimension and scaffolds thinking about complex interactions among the components of any given LE.


우리의 개념적 틀은 자연스럽게 많은 권고사항으로 이어진다. 

  • 첫째, 학술 저널은 저자가 LE를 정의하지 않은 경우 또는 저자가 자신들의 개념적 프레임워크와 구체적인 LE를 고려하지 않은 경우 논문을 발행해서는 안 된다.

  • 둘째, 연구자들은 LE의 전체 차원성을 정확하게 평가하기 위해 심리사회적, 물질적 차원를 반영하는 평가 방법을 개발할 필요가 있다. 

  • 셋째, 연구자들은 LE에 대한 [학습자 인식]마나 사용하는 현실을 넘어서야 한다. 대신 물리적 공간과 가상 공간을 평가하는 것은 물론 사회적, 조직적 차원에서 대책을 개발할 필요가 있다. 

  • 넷째, 교육자들은 이 구조의 중요성을 인식해야 하며, 교육 혁신을 제안하고 시험하기 위해 문헌에 기반할 필요가 있다.

Our conceptual framework naturally leads to a number of recommendations. 

  • First, academic journals should not publish articles on the LE without the authors having defined the LE, describing their conceptual framework and specific LE(s) under discussion. 

  • Second, researchers need to develop assessment methods that reflect the psychosocial and material dimensions to accurately assess the full dimensionality of LEs. 

  • Third, researchers need to move beyond the sole use of learner perceptions of the LE. Instead, they need to develop measures at the social and organizational level, as well as assess physical and virtual spaces. 

  • Fourth, educators need to recognize the importance of this construct and use the literature to propose and test educational innovations.



9 Gruppen L, Irby DM, Durning S, Maggio L. Interventions designed to improve the learning environment in the health professions: A scoping review. https:// www.mededpublish.org/manuscripts/1944. Published 2018. Accessed March 4, 2019.


29 Tackett S, Wright S, Lubin R, Li J, Pan H. International study of medical school learning environments and their relationship with student well-being and empathy. Med Educ. 2017;51:280–289.






, 94 (7), 969-974
 

Conceptualizing Learning Environments in the Health Professions

Affiliations 

Affiliation

  • 1L.D. Gruppen is professor, Department of Learning Health Sciences, University of Michigan Medical School, Ann Arbor, Michigan; ORCID: http://orcid.org/0000-0002-2107-012. D.M. Irby is professor emeritus, Department of Medicine, University of California, San Francisco, San Francisco, California. S.J. Durning is professor, Department of Medicine, and director, Graduate Programs in Health Professions Education, Uniformed Services University of the Health Sciences, Bethesda, Maryland. L.A. Maggio is associate professor, Department of Medicine, and associate director, Graduate Programs in Health Professions Education, Uniformed Services University of the Health Sciences, Bethesda, Maryland; ORCID: http://orcid.org/0000-0002-2997-6133.

Abstract

The learning environment (LE) is an important and frequently discussed topic in the health professions education literature. However, there is considerable inconsistency in how the LE is defined and described. The authors propose a definition of the LE and a conceptual framework to facilitate health professions educators in understanding, studying, and designing interventions to improve the LE. To arrive at this conceptual framework, the authors employed a living systems perspective that draws on various frameworks and theories, including ecological psychology, workplace learning, situated cognition, and sociomateriality theory. The conceptual framework identifies five overlapping and interactive core components that form two dimensions: the psychosocial dimension and material dimension. The psychosocial dimension comprises three components: the personal, social, and organizational. Intertwined with the psychosocial dimension at each level is the material dimension, which encompasses physical and virtual spaces. This theoretical lens can facilitate identifying and analyzing problems in the LE and guide development of interventions to mitigate them. The authors conclude with several practical suggestions for health professions educators, investigators, and editors.


의학교육에서 통합 교육과정: AMEE Guide No. 96 (Med Teach, 2015) (181101)

The integrated curriculum in medical education: AMEE Guide No. 96

DAVID G. BRAUER1 & KRISTI J. FERGUSON2

1Washington University School of Medicine, USA, 2University of Iowa, USA




도입

Introduction


기초 및 임상 과학 지식의 발전 및 교수 전략의 발전에도 불구하고, "2+2" 커리큘럼 구조는 전 세계의 많은 의과대학에서 여전히 유지되고 있지만, 미래의 의사들을 21세기 의학을 준비하기에는 불충분한 시스템으로 여겨진다.

Despite a century of evolution of the fund of knowledge in basic and clinical sciences as well as advancements in teaching strategies, ‘‘2+2’’ curricular structure still persists in many medical schools around the world, yet is viewed as an inadequate system to prepare future physicians for twenty-first Century medicine (Cooke et al. 2006; Irby et al. 2010).


AMC(Australian Medical Council)는 의과대학 졸업에 대한 요구사항을 4개의 영역으로 구성한다.  기본적인 "과학 및 연구" 및 "임상 의학"에 더하여 이제는 '건강과 사회'와 '전문성과 리더십'의 현대적 영역까지 강조하여 조화되었다.

The Australian Medical Council (AMC) organizes the requirements for medical school graduation into four domains; traditional domains – ‘‘science and scholarship’’ and ‘‘clinical practice’’ – are now matched in emphasis with more modern domains of ‘‘health and society’’ and ‘‘professionalism and leadership’’ (AMC 2012).


Flexner 보고서를 처음 발행한 카네기 교육진흥재단이 최근에는 "화석화된 커리큘럼 구조""폐물이 된 평가 관행"이 커리큘럼 개혁에 관심이 있는 사람들에게 지속적인 어려움을 유발한다고 말하였다(Cooke et al. 2006).

The Carnegie Foundation for the Advancement of Teaching, who originally published the Flexner Report, has more recently suggested that ‘‘ossified curricular structures’’ and ‘‘archaic assessment practices’’ present continuing challenges for those interested in significant curricular reform (Cooke et al. 2006). 


국제 의학 교육자 협회의 플렉스너 영향 100년 검토 결과, 특히 기초 및 응용 과학 전반에 걸쳐 지식의 유지를 더 잘 촉진할 수 있는 "통합 커리큘럼" 모델이 나왔다.

The International Association of Medical Science Educators’ review of 100 years of Flexner’s influence proposed that modern curriculum alternatives exist, particularly the ‘‘integrated curriculum’’ model, which could better promote the retention of knowledge across the basic and applied sciences (Finnerty et al. 2010).


Beane (19977)은 처음에 일반 교육 분야에서 통합 커리큘럼을 검토했고, 그 후 곧 의학교육에도 이 용어가 등장했다.(Harden et al. 1984) 캐나다의 McMaster University는 지난 수십 년 동안 개발, 수정, 복사된 모든 커리큘럼(소위 McMaster 접근법)에 걸쳐 혁신적인 커리큘럼 구조를 최초로 구현한 대학 중 하나입니다. 반복적이지만 진보적으로 설계된 "통합 커리큘럼"은 기초과학과 임상과학 사이의 장벽을 무너뜨리는 것이 이러한 분야 간의 연결을 개선하고 졸업생들의 임상 기술의 지식과 개발을 향상시킨다는 믿음으로 빠르게 인기를 얻었다(그림 1).

Beane (1977) first reviewed integrated curricula in the general education literature and the term soon thereafter appeared in medical education (Harden et al. 1984). McMaster University in Canada was one of the first to implement a progressive, trans-disciplinary curriculum structure across all years of its curriculum (the ‘‘McMaster approach’’), which has been developed, revised, and copied over the past several decades (Neufeld et al. 1989). Designed to be repetitive yet progressive, the ‘‘integrated curriculum’’ has rapidly risen to popularity with the belief that breaking down the barrier between the basic and clinical sciences improves connections between these disciplines and enhances graduates’ retention of knowledge and development of clinical skills. (Figure 1).



그 컨셉의 인기는 전세계적으로 퍼져있다. 

The popularity of the concept has spread globally 


모든 미국 의과대학 인증을 담당하는 기관인 의료 교육 관련 연락 위원회(LCME)는 최근 자격 기준을 갱신하고 다음의 요구사항을 포함했다. "교육과정이 'Coherent and coordinated'되어야 하며, '전 교육과정 및 학업에 걸쳐within and across 통합'되어야 한다고 권고했다 (LCME 2013) 다음의 조직들도 통합 커리큘럼에 대해 권고하였다. 미국 의료 대학 협회(AAMC; Corbett & Whitcomb 2004), 영국의료원(2010년), 캐나다 의과협회(2009년), 호주 의료 위원회(2012년), 스웨덴의 의학 교육 조사(2013년 Lindgren).

Liaison Committee on Medical Education (LCME), the body responsible for the accreditation of all US medical schools, recently renewed its licensing standards and included the requirement that a curriculum be ‘‘coherent and coordinated’’ and ‘‘integrated within and across the academic periods of study’’ (LCME 2013). Recommendations for integrated curriculum have also been published by the Association of American Medical Colleges (AAMC; Corbett & Whitcomb 2004), the General Medical Council in the United Kingdom (2010), the Association of Faculties of Medicine of Canada (2009), the Australian Medical Council (2012), and the Inquiry on Medical Education in Sweden (Lindgren 2013).


우리는 "통합"이라는 유행어를 사용하지만, 개발, 구현 및 평가에 대한 생산적인 지침이나 제안은 거의 동반되지 않았다. 또한, "통합 커리큘럼"은 문헌에 느슨하게 정의되어 있으며, 여러가지 형태의 커리큘럼 혁신을 나타내는 용어로 사용되었다. 여기에는 다음이 포함됩니다.

We have increasingly observed use of the term ‘‘integration’’ often serving as a buzzword rarely accompanied by productive directions or suggestions for its development, implementation, and evaluation. In addition, ‘‘integrated curriculum’’ is loosely defined in the literature, having been used to represent a number of distinct curricular innovations. These include:


  • - 1년 과정(Brunger & Duke 2012)에 대한 윤리 및 임상 기술 교육을 구현하거나 모든 년도에 걸친 완화의료 교육(Radwany et al., 등)과 같은 연구 과정 내 개별 주제 통합
    - The integration of discrete topics within a course of study, such as a implementing ethics and clinical skills education into first-year courses (Brunger & Duke 2012) or palliative care education across all years (Radwany et al. 2011).

  • - 기초 과학 과정(Schwartz et al. 1999; Klement et al. 2011), 임상 또는 임상 준비 교육(Drybay et al. 2011),
    - Integrating once separate courses or clinical experiences into a single unit, including combining basic science courses (Schwartz et al. 1999; Klement et al. 2011), preclinical or clinical preparatory education (Drybye et al. 2011), or clinical education (Ogur et al. 2007).

  • - 의료 교육의 초기 단계에 임상 피폭 통합(Yu et al. 2009).
    - Integrating clinical exposure into earlier stages of medical education (Yu et al. 2009).


이는 몇 가지 예에 불과합니다. 

These are but a few examples loosely organized into categories; 


기본 원칙이나 통일된 정의가 없는 채로, 통합은 교수, 임상의사, 학생 및 관리자들에게 서로 다른 의미를 갖는 개념과 프로세스가 되어버렸으며, 이는 커리큘럼의 개선과 현대화를 복잡하게 만드는 위협이 되고 있다.

Without guiding principles or unified definitions, integration becomes a concept and a process that means different things to professors, clinicians, students, and administrators, threatening to complicate the improvement and modernization of a curriculum. 


교육 이론 및 통합 모델

Educational theories and models of integration


첫째, 성인 학습 이론은 원래 'andragogy'이라고 불리며 성인 학습의 몇 가지 일반적인 특징을 나타낸다. dmlgkr교육과 특별히 관련이 있는 것은 성인 학습자가 의미 있는 학습(Kaufman & Mann 2010)에 관심을 갖는다는 것입니다. 학습자는 해당 과목의 관련성을 이해한 후에만 주제를 배우는 데 시간을 투자할 의지를 갖게 된다. 의학 교육에서 기초 과학 세부 사항은 임상 노출이 제한적이거나 없는 초보 학습자를 위한 임상 시나리오에 연결하기가 어렵다. 이 과제는 종종 환자 기반 또는 사례 기반 학습을 통해 기초과학 자료를 임상 문제와 연결함으로써 극복된다. 

First, adult learning theory, originally termed andragogy (Knowles 1980), identifies several general characteristics of adult learning. Of particular relevance to medical education is adult learners’ interest in meaningful learning (Kaufman & Mann 2010) – learners are willing to invest time learning a topic only after they understand the topic’s relevance. In medical education, basic science details are difficult to connect to clinical scenarios for beginning learners with limited or no clinical exposure; this challenge is overcome by linking basic science material to clinical problems, often through patient-based or case-based learning. 


또 다른 관련 학습 이론은 인지 심리학 분야와 학습자의 지식 구성 방식에서 비롯됩니다. 지식은 지식이 조직화된 방식이 그 지식을 사용하는 방식과 일치할 때 가장 효과적입니다(Ambros et al. 2010). 따라서 의료 학생들에게 임상 사례의 맥락에서 기초 과학에 대해 가르치고, 통합적인 자료 표시를 통해 개념들 사이의 연결을 명확하게 하는 것은 통합이 장기적인 보존과 깊은 이해를 증진시킬 수 있는 두 가지 방법이다.

Another relevant learning theory comes from the field of cognitive psychology and details how learners’ organize knowledge: knowledge is most effective when the organization of that knowledge matches the way in which the knowledge is to be used (Ambrose et al. 2010). Thus, teaching medical students about basic science in the context of clinical examples and explicitly making connections among concepts through integrated presentation of material are two ways that integration can enhance long-term retention and deeper understanding.


마지막으로, 또한 인지 심리학의 세번째 측면은 학습의 전이transfer에 대한 우리의 이해에 관한 것입니다. 임상 사례와 비교해가면서 학생들은 기초 과학 개념의 깊은 특징을 파악하는데 도움이 될 수 있으며, 학생들이 임상 교육을 받게 될 때 그 지식을 상세히 설명하는데elaborate 도움을 줄 수 있다(National Research Council 2000).

Finally, a third aspect of learning theory, also from cognitive psychology, concerns our understanding about transfer of learning. Using comparisons of clinical examples can help students identify deep features of basic science concepts that will help them elaborate on that knowledge as they progress into clinical education (National Research Council 2000).


'교육목표의 분류 체계: 교육목표 분류'라는 책에서 Bloom 등 (1956년)은 학습이 인지, 정신운동, 감정의 세 가지 영역으로 묘사하고 있다. 이러한 세 가지 영역은 현재의 의료 교육 형식에 맞게 지식, 기술, 태도조정하는 것이 더 나을 수 있다. (기초 과학에 이어 임상 교육을 받는) 기존의 파편화된 커리큘럼은 학생들에게 두 번째 영역(임상 기술)을 개발할 기회를 주기에 앞서서 교실에서 첫 번째 영역(지식)을 개발하게 한다. 한편 학생들은 이상적으로는 교육 과정 내내 교실에서든 병원에서든 의술의 "태도"에 노출되어야 한다. 통합의 진정한 과제는 커리큘럼 전반에 걸쳐 파편화된 지금의 상태에서 이 세 개의 영역을 종합적으로 제공하는 방식으로 전환하는 것입니다.

Taxonomy of Educational Objectives: the Classification of Educational Goals, Bloom et al. (1956) describes learning as having three domains: cognitive, psychomotor, and affective. These three domains might better be tailored to current formats of medical education if defined instead as knowledge, skills, and attitudes. Traditional fragmented curricula (in which basic science is followed by clinical education) develop the first domain, knowledge, in the classroom before allowing students the opportunity to develop the second domain, clinical skills; students are ideally exposed to the ‘‘attitudes’’ of medical practice (professionalism, ethics, etc.) throughout their education, either in the classroom or in practice. The real challenge of integration is how to transition from fragmented delivery to a synthesized delivery of these three domains throughout a medical curriculum.


통합은 정보 제공을 결합하면 효율성이 향상되고 정보의 보존과 적용의 용이성이 향상될 것이라는 희망에 찬다. 

Integration has come into favor with the hope that combining the delivery of information will increase efficiency and promote retention and ease of application. 


"ICE"와 같은 교육 모델들은 이 개념을 지지한다. 학생들은 

  • 처음에 기초 개념(이데아)을 접하게 되며, 

  • 그 후에 기초 개념(이데아)을 다른 학습(연결)과 연결하거나 통합하여 기본적인 개념의 틀을 개발하게 됩니다. 

  • 학습자는 개념을 실제 사례에 적용합니다(확장)

Educational models such ‘‘ICE’’(Fostaty-Young & Wilson 2000) support this concept. Students are 

  • first introduced to foundational concepts (ideas), 

  • after which they connect or incorporate them with other learning(connections) to develop a fundamental conceptual frame-work. 

  • Learners then apply the concepts to real-life examples(extensions). 


하덴이 정의한 통합은 "과목 또는 교실에서 별도로 교육되어온 과목들을 상호 연관시키거나 통합하기 위한 교육자료의 조직화"이다(Harden et al. 1984).  이후 하덴은 "통합 래더"를 따라 별도의 범주를 설정함으로써 이 스펙트럼 통합을 매핑하기 위한 보다 구체적인 프레임워크를 개발했다(Harden 2000; 그림 2). 

Integration as defined by Harden is ‘‘the organisation of teaching matter to interrelate or unify subjects frequently taught in separate academic courses or departments’’ (Harden et al. 1984).  Harden has since developed a more concrete framework on which to map this spectrum integration by establishing discrete categories along an ‘‘integration ladder’’ (Harden 2000; Figure 2). 


마지막 단계는 커리큘럼의 모든 기간 동안 "trans-disciplinary teaching"과 완벽하게 통합되며, 학습자의 통합, 적용 및 보존을 촉진하기 위해 의과대학 커리큘럼이 구성되는 이상적인 방법을 나타낸다. 

The final step, complete integration with ‘‘trans-disciplinary teaching’’ throughout all years of a curriculum,represents the ideal way in which medical school curricula would be organized to promote the learner’s synthesis,application, and retention of material. 



관련 모델

Relevant models


(1) 수평적 통합 

(1) Horizontal integration 


수평적 통합은 한정된 기간 내에 이루어지는 여러 분야의 통합으로 정의됩니다. 문헌의 수평적 통합의 예로는 전형적으로 기초 과학과 같이, 한 때 분리된 과목으로 존재하였던 과목을 결합하여 일 년 동안 통일된 입문 과정으로 통합하는 것이다. 해부학, 생리학, 생화학, 신경생물학 등의 1년 과정을 통합한 한 예로 2011년 내용과 시험의 중복성을 감소시킴으로써 독립적인 연구와 교육에 더 많은 시간을 할애했다고 보고했다. McMaster 접근방식은 학생들이 임상 학습을 시작하기 전에 과정을 단위 또는 "학문 블록"으로 결합함으로써 수평적 통합을 나타냅니다(그림 3).

defined as integration across disciplines but within a finite period of time. Examples of horizontal integration in the literature frequently describe the combination of once-separate courses, typically the basic sciences, into a unified, yearlong introductory course. One example, which combined first-year courses in anatomy, physiology, biochemistry, and neurobiology, took two years to design and implement but, by diminishing redundancy in content and examinations, students reported more time for independent study and greater satisfaction with their education (Klement et al. 2011). The McMaster approach represents horizontal integration by combining courses into units or ‘‘interdisciplinary blocks’’ before students begin their clinical learning (Figure 3).




(2) 수직적 통합 

(2) Vertical integration 


이는 시간 경과에 따른 통합을 나타내며, 기초과학과 임상과학 사이의 전통적인 장벽을 무너뜨림으로써 교육을 개선하고자 한다.예를 들면, Wijnen-Meijer와 네덜란드의 다른 사람들이 기술한 'Z 모양 커리큘럼 모델'이 있다(2009; 그림 4).

represents integration across time,attempting to improve education by disrupting the traditional barrier between the basic and clinical sciences.Examples include the ‘‘Z-shaped curriculum model’’ described by Wijnen-Meijer and others from the Netherlands (2009; Figure 4).


Z 모델은 생물의학 및 임상 사례를 '병합' 또는 '상호 연계' 한다. 교육과정의 초반은 거의, 완전히는 아니지만, 기초 과학 교육으로 시작하고, 이는 임상의학 교육과정이 거의 종료될 때까지 이어진다. 이 모델의 장점은 조기 임상 노출에 기인하며, 이는 미래 전공을 선택하는데 있어 학생들의 자신감을 높이고 대학원 훈련을 위한 인식된 준비를 향상시킨다(Wijnen-Meijer et al. 2009).

The Z model presents biomedical sciences and clinical cases ‘‘in parallel or in connection with one another’’. A student begins his or her education with mostly, but not entirely, basic science education and progresses through all years of a curriculum to finish with mostly, but not entirely, clinical science education. Benefits of this model are attributed to earlier clinical exposure, which increases student confidence in selecting a future specialty and improves perceived preparation for post-graduate training (Wijnen-Meijer et al. 2009, 2010).



(3) 나선형 통합 

(3) Spiral integration 


가장 이상적인 형태의 통합은 시간 및 여러 분야의 통합을 통합하여 수평 및 수직 통합의 조합하는 것이다. 그러한 모델은 이전에 "나선형 통합"으로 설명되었으며, 최근에는 "시간과 주제 모두에 걸쳐 과학[기본 및 임상]을 모두 학습하는 과정"을 포함하는 커리큘럼으로 정의되었다(Bandiera et al. 2013). 이 개념은 처음에 Branuner에 의한 초등 교육 문헌에 소개되었는데, 그는 reading을 가르침에 있어 학년이 올라감에 따라 개념이 진화되도록 해야 한다고 제안했다. "중요한 것은 뒷부분에서 가르치는 것이 문학에 대한 그 앞에서의 반응에 기초하고, 과학에서도 훨씬 더 분명하고 성숙한 이해를 추구한다는 것입니다. 학년이 올라감에 따라 한 주제가 개발 및 재개발되어야 한다.' (Bruner 1960, 페이지 53–54). 이렇게 하면 학습자가 처음 학습한 교육자료를 점점 '더 복잡한 버전'으로 만들어갈 수 있습니다.

Integration in its most ideal form might then represent a combination of both horizontal and vertical integration, uniting integration across time and across disciplines. Such a model has previously been described as ‘‘spiral integration’’, recently defined as a curriculum involving ‘‘learning both sciences [basic and clinical] across both time and subject matter’’ (Bandiera et al. 2013). This concept was originally introduced in the elementary education literature by Bruner, who proposed that teaching reading should involve an evolution of concepts over time. ‘‘What matters is that later teaching builds upon earlier reaction to literature, that it seek[s] to create an ever more explicit and mature understanding . . . . so too in science. Let the topics be developed and redeveloped in later grades’’ (Bruner 1960, p. 53–54). In this way, the learner is able to progress ‘‘to more complex versions’’ of the material originally introduced.


나선형 모델은 그 후 영국의 의료 커리큘럼에 적용되었다(Harden et al. 1997; Harden & Straffive 1999에서 검토됨, 그림 5).

The spiral model was then applied to the medical curriculum in the UK (Harden et al. 1997; reviewed in Harden & Stamper 1999; Figure 5).




이 모델은 GMC의 요청에 따라 도입되었습니다. GME는 "과목을 수평 및 수직으로 진정으로 통합하려면, 그 용어를 interdisciplinary synthesis라는 의미로 사용해야 하며, 단순히 교실별로 구성 요소를 조정하거나 시기를 맞추는 것은 아니다"(GMC 1993)라고 했다.

This model was introduced in response to the GMC’s call for ‘‘true integration of the course, both horizontal and vertical, using the term in the sense of interdisciplinary synthesis and not simply coordination or synchronization of departmentally based components’’ (GMC 1993).


LCME는 "학문적 기간(즉, 수평적 및 수직적 통합") 내에서 또는 학구적 기간에 걸쳐 컨텐츠를 조정하고 통합해야 합니다. 이와 유사하게 AMC는 "목적성 있는 커리큘럼 디자인의 증거가 필요하며, 그 근거는 수평 및 수직적 통합을 보여주며, 그리고 다음 단계의 훈련과 연결을 보여주어야 할 것"를 요구한다.

The LCME requires that content ‘‘is coordinated and integrated within and across the academic periods of study, i.e., horizontal and vertical integration’’ (LCME 2013, p. 14) and the AMC similarly calls for ‘‘evidence of purposeful curriculum design which demonstrates horizontal and vertical integration and articulation with subsequent stages of training’’ (AMC 2012, p. 8).






  • 1단계는 고립이며, 다른 과목이나 학과를 고려하지 않고 교수진이 교사를 조직한다.

    Step 1 is isolation, in which faculty organize their teaching without considering other subjects or disciplines.

  • 2단계는 인식입니다. 한 과목의 선생님들이 다른 곳에서 다뤄지는 것을 알고 있지만, 학생들이 과목을 통합적으로 보도록 돕기 위해 어떤 명시적인 시도도 하지 않습니다.

    Step 2 is awareness, in which teachers of one subject are aware of what is covered elsewhere, but no explicit attempt is made to help students look at a subject in an integrated manner.

  • 3단계는 코스에 대해 서로 의사소통하고 그에 따라 내용을 조정하는 조화입니다.

    Step 3 is harmonization, in which teachers communicate with each other about their courses and adapt their content accordingly.

  • 4단계는 둥지이고, 주입이라고도 하며, 이 곳에서 교사들은 자신의 과정 내에서 다른 과정의 내용을 목표로 한다.

    Step 4 is nesting, also called infusion, in which teachers target content from other courses within their own courses.

  • 5단계는 시간 조정으로 유사한 내용이 코스 전체에 걸쳐 병렬로 적용됩니다.

    Step 5 is temporal co-ordination, in which similar content is covered in parallel across courses.

  • 6단계는 공유 또는 공동 교육이며, 종종 콘텐츠의 공통 영역이 있거나 커리큘럼에 새 콘텐츠를 포함시킬 필요가 있을 때 수행됩니다.

    Step 6 is sharing or joint teaching, often conducted when there are common areas of content or there is a need to include new content in a curriculum.

  • 7단계는 상관관계이며, 과목 기반 교육 외에도 통합 교육 세션도 도입될 수 있습니다.

    Step 7 is correlation, in which an integrated teaching session may be introduced in addition to subject-based teaching.

  • 8단계는 보완 프로그래밍이며, 여러 부문이 기여할 수 있는 주제나 주제와 관련되는 경우가 많다.

    Step 8 is complementary programming, often related to a theme or topic to which several disciplines can contribute.

  • 9단계는 여러 학문으로 구성되며, 테마를 식별하고, 때로는 실질적인 의사결정이 필요한 영역과 관련이 있으며, 다른 때에는 주체가 주제의 경계를 초월할 수 있습니다. 이러한 주제나 문제는 학문이 자신의 정체성과 문제에 대한 이해를 유지하면서도 다원적 렌즈를 통해 볼 수 있다.

    Step 9 is multi-disciplinary, in which themes are identified, sometimes related to an area in which practical decisions need to be made, other times when the subject matter transcends subject boundaries. These themes or problems are viewed through a multidisciplinary lens even though the disciplines maintain their own identity and understanding of the problem.

  • 10단계는 inter-disciplinary이며, 여러 학문 간 공통점의 추가 개발이다.

    Step 10 is inter-disciplinary, in which there is further development of the commonalities across disciplines.

  • 11단계는 교육과정이 정보와 경험으로부터 의미를 구성하는 학습자의 과정에 초점을 맞추는 학문 간 융합이다. 예를 들어, 학생들이 113개의 임상 문제나 경험을 통합하기 위한 과제를 중심으로 학습하는 던디 커리큘럼의 마지막 2년(Harden et al. 1997)이 인용된다.

    Step 11 is trans-disciplinary, in which the curriculum focuses on the learner’s process of constructing meaning from information and experience. An example cited is the last two years of the Dundee curriculum (Harden et al. 1997), in which students focus their learning around 113 clinical problems or tasks to integrate their experience.


통합의 도입

Implementing integration


통합 커리큘럼을 만드는 것은 시간과 리소스가 많이 소모될 수 있습니다. 이상적인 "건설 매뉴얼"은 존재하지 않습니다.

Creating an integrated curriculum can be time consuming and resource-intensive. No ideal ‘‘instruction manual’’ exists,


AMEE 가이드 (Harden 2001). 

"과정 매핑은 다음의 것을 고려해야 한다.

  • 엇을 가르칠 것인가(내용, 전문 분야 및 학습 성과) 

  • 어떻게 가르칠 것인가(학습 리소스, 학습 기회), 

  • 언제 가르칠 것인가(학습 시간표 및 커리큘럼 순서)

  • 생이 예상 학습 성과를 달성했는지 여부를 어떤 척도로 결정할 것인가(평가)

매핑은 다음과 같은 두 가지 주요 기능을 제공합니다. 

  • (1) 커리큘럼의 투명성 제고 

  • (2) 커리큘럼 내within 링크 제공

AMEE Guide (Harden 2001). ‘‘Curriculum mapping is concerned with what is taught (the content, the areas of expertise addressed, and the learning outcomes), how it is taught (the learning resources, the learning opportunities), when it is taught (the timetable and the curriculum sequence) and the measures used to determine whether the student has achieved the expected learning outcomes (assessment)’’ (ibid. p.3). Mapping offers two key functions: (1) making the curriculum more transparent and (2) demonstrating links within the curriculum. 


이 논의와 관련된 특별한 관련성은 기대 학습 성과, 커리큘럼 내용 및 학생 평가 간의 연결고리다. 이러한 관계를 가시적인 방식으로 표현하는 것은 다음에 도움이 된다.

  • 습 성과를 통합된 개념의 측면에서 명시하고, 

  • 학습 내용이 통합을 요구하는 방식으로 전달하며, 

  • 가 방법이 학생들이 이러한 이해를 보여줄 것을 요구한다.

Of particular relevance for this discussion are the links between expected learning outcomes, the curriculum content, and student assessment. Representing these relationships in a visible way helps ensure that learning outcomes are stated in terms related to the integration of concepts, that the content is delivered in a manner that requires integration, and that assessment methods require students to demonstrate this understanding.



통합의 모든 단계에서 주의할 필요가 있다고 간주되는 세 가지 영역

three areas deemed in need of careful consideration during all phases of integration


학습자료의 동기화된 제시

Ensuring synchronous presentation of material


로지스틱 측면의 변화가 학생들로 하여금 기초과학과 임상적 지식의 적극적인 통합을 유도할지는 불분명하다; 단순히 통합 커리큘럼을 만드는 것이 자동적으로 인지적 상호작용을 만들어내지 않는다. 마찬가지로 단순히 컨텐츠를 조정coordinate한다고 해서 통합이 자동으로 이루어지는 것은 아닙니다.

Whether logistical changes lead to active integration of basic sciences and clinical knowledge by students is unclear; simply creating an integrated curriculum does not automatically create cognitive interaction. Similarly, simply coordinating content does not automatically establish integration.


"통합형 임상실습"은 전형적으로는 기초의학 교육의 일환으로 이루어지며, 일반적으로 전통적인 임상실습보다 더 짧고, 더 일찍 이뤄진다. 그러나 기초의학 교육기간 동안 기초과학 과정 내용과 직접적인 관련성 없이 수행하는 임상실습은 통합을 전혀 반영하지 않는다.

‘‘integrated clerkships’’, such experiences are shorter and occur earlier in a curriculum than traditional clerkships, typically as part of the basic science years. However, Clerkships occurring during the basic science years without direct correlation to basic science course content do not reflect integration at all.


마찬가지로, 시간적으로 coordinate되어있지만, 서로간의 connection없이 개별 교수들에 의해 개별적 강의로 제공되는 multi-disciplinary 과목도 통합integrated가 아닌 단지 조정coordinated된 과정일 뿐이다.

Likewise, multi-disciplinary courses with objectives that are temporally coordinated but delivered as separate lectures by separate lecturers without connections to each other are merely coordinated courses, not integrated.


두 개의 지식 영역을 단순히 가까이 두는 것 만으로는 충분하지 않으며, 이는 정확히 통합 사다리 중 가장 낮은 수준의 통합에 해당한다.

creating proximity between two knowledge domains is simply not enough and sits squarely on the lowest rung of Harden’s integration ladder.


Malik & Malik (2011)은 신중한 계획과 더불어, 기초과학과 응용과학에서 적절한 대표성을 갖춘 커리큘럼 개발 그룹의 창설을 강조한다. 예를 들어 특정 임상실습 모듈 커리큘럼 그룹은 다수 임상의학교수를 적절히 포함해야 하지만 기초의학 교육자의 참여도 강조해야 한다. 저자들은 또한 커리큘럼이 단순히 조정coordinate이 아니라 통합integrate되도록 하려면 "교수자는 다른 수업에서 다뤄진 내용을 언급refer하면서, 다른 수업에서 배운 내용을 기반으로 자신이 가르치는 내용을 구축build on해야 한다."

Malik & Malik (2011), In addition to careful planning, they stress the creation of curriculum development groups with appropriate representation from both the foundational and applied sciences. For instance, a curriculum group for a particular clerkship module should appropriately include a majority of clinicians but must also emphasize participation from basic medical science educators. The authors also highlight the essential need that ‘‘lecturers refer to the contents of other teaching sessions and link and build on what was taught in the other disciplines’’ to ensure that a curriculum is integrated, not merely coordinated.


교육자 간의 trans-disciplinary 협력cooperation의 추가적 이점은 임상학자와 기초 과학자들 사이의 연결고리를 확립하고, 이러한 통합과목이 없었다면 협력하지 않았을 사람들로 하여금, 교육 및 연구에 관한 스핀오프 효과를 창출"할 수 있는 가능성이다.

Additional benefits of trans-disciplinary cooperation among educators could be realized through the establishment of connections between clinicians and basic scientists with the potential to ‘‘produce spin-off effects in teaching and research’’ among professionals that otherwise might not have collaborated (Malik & Malik 2011, p. 99).


기초과학 보존

Preserving the basic sciences


GMC는 교육과정은 "균형잡힌 학습 기회를 제공하고 기초 및 임상 과학의 학습을 통합하기 위해" 구조화되어야 한다고 요구하며, 그렇게 함으로써 학생들은 "이론 및 실천" 연계시킬 수 있을 것이다. 그러나, 시간적 제약과 통합된 기초 과학 및 임상 커리큘럼의 "구조" 또는 "균형" 방법에 대한 추가적 지침이 거의 없기 때문에, 우리는 실용적 지식을 증가시키려는 압력이 결국엔 이론(기초의학) 훈련의 감소를 초래했다는 것을 목격했다.

The GMC calls for curricula to be ‘‘structured to provide a balance of learning opportunities and to integrate the learning of basic and clinical sciences’’ so students may ‘‘link theory and practice’’ (GMC 2009) but, with constraints on time and little additional direction for how to ‘‘structure’’ or ‘‘balance’’ an integrated basic science and clinical curriculum, we have observed that the pressure for increasing applied knowledge has resulted in a subsequent decrease in theoretical training.


AAMC는 이러한 현상을 공통된 결함으로 확인하고 다음을 강조하였다. "교육과정 3, 4년차에 기초 과학 콘텐츠의 통합에 대한 관심이 부족해왔으며, 의학의 과학적 기초는 학부 의학교육의 4년 과정 동안 (지속적으로) 교육될 수 있도록 통합되어야 한다'

The AAMC exposes this shift as a common flaw , emphasizing ‘‘in the strongest possible terms of its conviction that there has been insufficient attention paid to the integration of basic science content into the third and fourth years of the curriculum’’ and that ‘‘the scientific basis of medicine should be integrated into coursework offered throughout the four years of the undergraduate medical education curriculum’’ (AAMC 2001).


교육과정의 현대화는 "기본과학"의 정의 자체를 바꾸고 있다. 분자, 생화학, 세포 메커니즘이 의료 실습을 위한 필수적인 토대가 되어 왔으며 앞으로도 그럴 것이지만, 약학, 유전학, 단백질학, 행동 생물학 같은 임상적 관련성이 증가하는 과학 분야의 목표들이 추가되고 있으며, 이는 학생들에게도 도움이 될 것이다.

modernizing curricula is shifting the very definition of ‘‘basic science’’. While molecular, biochemical, and cellular mechanisms have been and will continue to be essential foundations for medical practice, adding objectives from scientific fields with increasing clinical relevance such as pharmacology, genomics and proteomics, and behavioral biology is essential to curricular modernization and can only benefit students.


LCME는 최근 이러한 "기본과학"의 광범위한 개념을 재차 강조하면서, 현대 과학 지식을 적절히 지원하기 위해서는 생의학 교육을 유지하면서, 행동과 사회경제 과목도 포함할 것을 요구했다.

The LCME recently reiterated this broader concept of ‘‘basic sciences’’, requiring the inclusion of behavioral and socioeconomic subjects while maintaining biomedical science education to properly support contemporary scientific knowledge (LCME 2013).


진정한 통합은 의과대학 교과과정의 어떤 단계에도 기초과학 요소가 부재해서는 안됨을 요구한다. 브루너(1960, 페이지 13)는 "교육과정은 이러한 기초의학의 아이디어를 반복적으로 재검토하고, 학생이 학년이 올라가면서 기초의학이라는 도구를 완전히 형식적으로 이해할 수 있도록 그것들을 바탕으로 해야 한다"고 말하였다.

True integration demands there never be an absence of the foundational science component at any stage of the medical school curriculum. Bruner (1960, p. 13) supports this notion, stating, ‘‘A curriculum as it develops should revisit these basic ideas repeatedly, building upon them until the student has grasped the full formal apparatus that goes with them’’.


교육자들은 커리큘럼의 모든 단계에서 기초 과학을 유지하고 강화해야 하는 중요한 책임이 있다. 기초 과학 과정을 통합하거나 조기에 임상 경험을 커리큘럼으로 확장하는 데 많은 중점을 두어왔으나, 여전히 기초 과학 콘텐츠를 임상교육 기간까지 확장하는 것은 중대한 도전이자 현재 통합 커리큘럼의 주요 결점이다.

educators bear a significant responsibility in maintaining and reinforcing the fundamental sciences throughout all stages of the curriculum. With so much emphasis on integrating basic science courses or extending clinical experiences earlier into a curriculum, extending basic science content into the clinical years has been a challenge and a major shortcoming of integrated curricula (Schmidt 1998).



통일된 정의의 활용

Using unified definitions


통합 커리큘럼의 정의에 대해서 명확성과 통일성이 부족하다. 통합 커리큘럼과 통합 커리큘럼 단위를 설계, 구현 및 검토하는 데 도움이 되는 정확한 정의가 필요하다. Spiral(나선형) 모델을 이상적인 목표로 활용하여 "통합 커리큘럼"을 정의하기를 제안합니다: 의과대학 과정 내내 기초과학과 응용과학 사이의 완전히 동기화된 학문 간 정보 전달

The integrated curriculum lacks clarity and unity in the literature. a precise definition is necessary to aid in designing, implementing, and reviewing integrated curricula and integrated curricular units. Utilizing the spiral model as the ideal goal, we propose that ‘‘integrated curriculum’’ be defined as: a fully synchronous, transdisciplinary delivery of information between the foundational sciences and the applied sciences throughout all years of a medical school curriculum.


다양한 기초 과학 분야를 수평적으로 통합하는 1학년 과정은 "통합 과목"으로 일관되게 정의될 수 있으며, 이는 통합 교육과정은 아니다(이 '과목'은 내부적으로 통합된 커리큘럼을 갖췄다고 말할 수 있지만, 우리는 문헌의 명확성을 위해 '과목'의 커리큘럼과 '전체 의과대학'의 커리큘럼 사이의 차이점을 강조한다.)

A first year course uniting a variety of foundational science fields in a horizontal fashion could be consistently defined as an ‘‘integrated course’’, not an integrated curriculum (while we understand that this course may be described as having an internally integrated curriculum, we wish to emphasize the distinction between a course’s curriculum and that of an entire medical school program for the sake of clarity in the literature).


통합에 대한 평가

Assessing integration


아마도 통합 커리큘럼에 관한 문헌에서 관찰된 가장 실망스러운 공통점은 그러한 노력의 공개된 장기적 효과의 부족하다는 점일 것이다. 유용한 후향적 리뷰가 있지만, 그룹 합의나 설문 조사에 근거한 의견에 불과하다(Lowitt 2002; Davis & Harden 2003; Brunger & Duke 2012).

Perhaps the most discouraging commonality observed in the literature on integrated curricula is the scarcity of published long-term effectiveness of such efforts. Useful retrospective reviews are available but are often limited to opinions based on group consensus or surveys (Lowitt 2002; Davis & Harden 2003; Brunger & Duke 2012).


많은 그룹은 새로운 커리큘럼에 대한 목표와 기대치를 보고하지만, 이러한 목표가 충족되는지 평가하기 위한 객관적 데이터를 수집하는 평가 방법을 설명한 그룹은 거의 없다. 우리는 이것이 이용 가능한 평가 기준에 대한 이해 부족 때문일 수 있다고 생각한다. Kulasegaram et al. (2013)이 실시한 대규모 문헌 검토에서는'학생들이 임상적 추론과 기술의 수행에 있어서 기초 과학 콘텐츠를 어떻게 사용하는지 평가하는 것은 특정 통합 전략의 효과에 대한 귀중한 증거를 제공할 것이다.' 라고 제안한다.

many groups report goals and expectations for their new curriculum but few describe methods of evaluation for gathering objective data to evaluate whether these goals are met. We hypothesize that this could be due to a lack of understanding of available standards of evaluation. The large literature review by Kulasegaram et al. (2013) suggests that ‘‘ . . . assessing howstudents use that basic science content in clinical reasoning or in the performance of a skill would provide valuable evidence for the effectiveness of a specific integration strategy’’.


성찰은 일반적인 평생학습에 중요하며, 특히 개념을 통합하는데 있어 중요한 기술이다. 

  • 통합 전략을 커리큘럼 전략으로 설명할 때, 골드만과 슈롯(2012년)은 수업 전후에 구체적인 성찰 질문을 하는 것은 교수진이 추가 반사에 대한 등급 피드백과 의견을 제공할 때 학생들의 성찰 능력을 향상시킬 수 있다고 제안한다. 

  • Bier는 여러 선택 질문(자체 평가 질문 또는 SAQ)을 학습자에게 서술적 설명을 요구하는 에세이 질문(시험 개념 평가 또는 CAPP)과 함께 설명한다. 

  • Wood 및 동료는 학습자가 특정 환자 문제의 메커니즘을 설명하는 단일 단락을 작성하도록 요청하는 임상 추론 연습의 검증 연구를 설명한다(Wood et al. 2009). 그런 다음, 이 실습에서 학습자의 성과가 다른 측정치와 관련이 있는지 여부를 평가하기 위해 이러한 과제를 독립적인 평가자가 채점합니다.

  • Williams와 Klamen(2012년)은 학습자에게 감별진단을 개발하고 해당 차이에 질병/조건이 포함된 근거를 설명하도록 하는 시뮬레이션된 환자 접촉에 사용되는 Diagnostic Justification Exercise을 설명했다. 

  • 마지막으로, [확률에 기초한 질병지향적 교육을 받은 학생]들과 [특정 질병과 관련된 개념적 기초 과학 교육을 받은 학생]들을 비교한 인터벤션 연구는, 기초 과학 그룹의 학생들(후자)이 그 발생 가능성 기반의 교육을 받은 학생보다 더 정확하게 사례를 진단할 수 있다는 것을 보여주었다.(Woods et al. 2005). 저자들은 "... 기초과학 정보는, 그것의 개념적 일관성 때문에, 그 자체로 더 기억에 남았고, 또한 초기 증상 목록이 잊혀진 후에 개별 질병 범주의 특징들을 재구성하는 방법을 제공했다는 것이다."

Reflection is an important skill for lifelong learning in general and for integrating concepts in particular. 

  • In describing strategies for integration as a curricular strategy, Goldman and Schroth (2012) suggest that posing specific reflection questions either before or after class sessions can enhance students’ reflective abilities when faculty provide graded feedback and comments for additional reflection. 

  • Bierer combines and others describe an approach that multiple-choice questions (Self-Assessment Questions or SAQs) with essay questions (termed Concept Appraisals or CAPPs) that ask learners to provide a narrative interpretation of the mechanisms behind or reasons for the findings in a clinical scenario (Bierer et al. 2008,2009). 

  • Wood and colleagues describe a validation study of a Clinical Reasoning Exercise in which learners are asked to write a single paragraph explaining the mechanisms behind a particular patient problem (Wood et al. 2009); these assignments are then graded by independent raters to assess whether learners’ performance on this exercise correlates with other measures. 

  • Williams and Klamen (2012) have described a Diagnostic Justification Exercise used with simulated patient encounters in which learners are asked to develop a differential diagnosis and explain their rationale for including the diseases/ conditions on that differential. 

  • Finally, an intervention study comparing students who received probability-based disease-oriented instruction with students who received conceptually based basic science instruction related to a particular disease showed that students in the basic science group were able to more accurately diagnose cases after a delay than were those in the probability-based group (Woods et al. 2005). The authors suggest that ‘‘... the basic science information, because of its conceptual coherence, was itself more memorable and that it also provided a means to reconstruct the features of individual disease categories after the initial symptom lists had been forgotten’’ (p. 111).


개념 맵은 지식의 통합을 평가하기 위한 또 다른 전략을 나타낸다. 

  • McGaghie et al. (2000)은 호흡 생리학의 교육적 단위에 참여한 결과, 폐 생리학적 개념에 관한 학생들의 지도가 더 일관성 있게 되었음을 입증했다. 

  • 그리고 개념 맵은 그들의 강사들이 개발한 지도와 더욱 유사해졌다. 

  • 그러나 이전 연구(McGaghie et al. 1994)에서 그들은 전문가의 전공에 따라 map이 상당히 달랐기 때문에 학생들의 map를 평가하는 'Gold standard'을 개발하는 작업을 복잡하게 만든다. 

  • 통합의 정신에서, 아마도 전문가 그룹이 개념 지도를 함께 개발하게 하는 것은 중요한 핵심 개념을 식별하고 학생들의 그러한 개념의 통합을 평가하는 방법을 고안하는데 도움이 될 것이다.

Concept maps represent another strategy for assessing integration of knowledge. 

  • McGaghie et al. (2000) demonstrated that students’ maps regarding pulmonary physiology concepts became more coherent as a result of participating in an instructional unit on respiratory physiology, 

  • and the maps became more similar to maps developed by their instructors. In an earlier study (McGaghie et al. 1994), 

  • however, they showed that maps of experts differ significantly depending on the discipline of the expert (internist, anesthesiologist or physiologist), 

  • thus complicating the task of developing a ‘‘gold standard’’ by which to assess students’ maps. 

  • In the spirit of integration, perhaps having groups of experts develop concept maps together would be helpful in both identifying important core concepts and in devising ways to assess students’ integration of those concepts.


마인드맵 평가 루브릭(MMAR)은 개념 지도의 계층적 채점에 그림과 색상의 치수를 더한다. 의대생들이 작성한 마인드맵 채점 시 인터랙터 신뢰도를 입증하였다(D'Antoni 등 2009).

The Mind Map Assessment Rubric (MMAR), which adds dimensions of pictures and colors to hierarchical scoring of concept maps, has demonstrated interrater reliability in scoring of mind maps constructed by medical students (D’Antoni et al. 2009).


  • 최근의 시범 연구에서, 쿠마르 외 연구진들은 학생들이 핵심 개념에 대한 이해를 테스트하는 데 사용되는 pathogenesis 지도를 개발했다. 전문가들은 처음에 'gold standard' 지도를 개발했는데, 이 지도는 주요 용어 목록을 만드는 데 사용되었다. 그리고 나서 중재 그룹의 학생들은 이 용어를 그들 자신의 지도를 만들기 위해 사용하고 지도의 정확성에 대한 피드백을 받았다. 연구 그룹의 학습자들은 마인드맵 개입에 참여하지 않은 학생들보다 지도의 내용과 관련된 퀴즈 항목에서 더 높은 점수를 받았다. (Kumar et al. 2011) 

  • 또 다른 연구에서 PBL(환자 기반 학습) 자습서(PBL)의 개념 맵 사용에 대한 학생들의 반응을 본 결과, 학생들은 이 연습이 환자-기반 학습(Veronese et al. 2013)의 개념을 통합하는 데 도움이 되었다고 생각했고 개념들 사이의 인과관계와 연관성에 대해 좀더 자세히 살펴보게 해주었다

  • 마지막으로, 마지막으로, 모니 외 연구진(2005)은 다음을 포함한 채점 루빅을 세분화하기 위해 학생들의 피드백을 사용했다. 

    • Map의 내용(예: 관련 개념 포함) 

    • Map에 의해 증명된 논리 및 이해 

    • Map의 제시 방식

    • Map을 평가하기 위한 루브릭은 점점 더 정교해지고 있지만, 테스트 목적으로 사용하기 위해서는 타당성과 신뢰성을 더욱 확고히 하기 위해 지속적인 작업이 필요하다.

  • Karpicke와 Blunt(2011)는 retrieval practice (텍스트 학습, free recall 테스트에서 가능한 많은 양의 리콜, 재학습)가 구두 시험과 추론 시험에서 보다 정확한 장기 recall을 보여줌을 입증하였다. 그들은 그것이 단지 암기일 뿐만 아니라 이러한 효과를 가진 정보를 적극적으로 처리하는 것이라고 지적한다.

  • In a recent pilot study, Kumar et al. developed pathogenesis maps that were used to test students’ understanding of key concepts. Experts first developed the ‘‘gold standard’’ map, which was then used to generate a list of key terms. Students in the intervention group then used these terms to construct their own maps and received feedback on the accuracy of their maps. Learners in the study group scored higher on quiz items related to content in the maps than had students who had not participated in the mind map intervention (Kumar et al. 2011). 

  • In another study, student response to the use of concept maps in Patient-Based Learning (PBL) tutorials (Veronese et al. 2013) indicated that students believed the exercise helped them integrate knowledge about the case and look more carefully at causality and connections among the concepts. 

  • Finally, Moni et al. (2005) used feedback from students to refine a scoring rubric that included: 

    • the content of the maps (e.g., were relevant concepts included), 

    • the logic and understanding demonstrated by the map, and 

    • the presentation of the map. 

    • While rubrics for grading concept maps are becoming more sophisticated, continued work is needed to further establish the validity and reliability of using them for testing purposes. 

  • Karpicke and Blunt (2011) demonstrated that retrieval practice, i.e., studying text, recalling as much as possible on a free recall test, studying again, and recalling again demonstrated better long-term recall on verbatim questions and inference questions than the elaborative strategy of concept mapping. They point out that it is not just memorization, but actively processing the information that has this effect.


에세이는 또한 문제 기반의 학습 사례에서 학생들의 지식 통합을 평가하기 위한 수단으로 제안되었다. 

  • 예를 들어, 퍼거슨(2006)은 몇 주 동안 소규모 그룹으로 학습한 사례에 대해 개별 학습자에게 설명을 요청하는 방법을 설명합니다. 학습자는 환자와 대화하는 형태로 글을 쓰도록 요청 받는다. 

    • 환자의 징후, 증상, 실험실 및 영상 결과가 질병의 근본적인 메커니즘과 어떻게 관련되는지 여부 

    • 치료 권고사항이 어떻게 이 이해에 근거하는지 

    • 그리고 환자가 질병과 치료로부터 기대할 수 있는 것. 

  • 대화의 형태로 이야기를 쓰는 것은 [어려운 개념]을 [이해할 수 있는 용어로 설명하는 기술]을 연습하는 추가적인 목적을 달성한다.

Longer essays have also been suggested as a means for assessing students’ integration of knowledge from a problem-based learning case. 

  • For example, Ferguson (2006) describes a method by which individual learners are asked to write a narrative about a case that they have studied in small groups over several weeks. The learner is asked to write, in the form of a conversation with a patient, 

    • how the patient’s signs, symptoms and laboratory and imaging results relate to underlying mechanisms of disease, 

    • how the treatment recommendations are based on this understanding, 

    • and what the patient can expect from the disease and treatment. 

  • Writing the narrative in the form of a conversation accomplishes an additional purpose of practicing the skill of explaining difficult concepts in understandable terms.

아이오와 대학교(아이오와 시티, 미국 아이오와)의 Carver 의과 대학의 사례 기반 학습 커리큘럼에서 학습자는 주간 학습 문제에 대한 서면 보고서를 작성해야 합니다. 이러한 보고서의 중요한 구성요소는 "사례 적용" 섹션으로, 주제검색에서 학습한 정보를 특정 환자 시나리오에 적용하여 통합하는 practice and reinforcement를 제공한다(Fuguson et al. 1997).

In the University of Iowa (Iowa City, Iowa, USA) Carver College of Medicine’s case-based learning curriculum, learners are required to do written reports of weekly learning issues. A significant component of those reports is the ‘‘application to case’’ section, which gives them practice and reinforcement in integrating information they learn from searching a topic by applying it to a particular patient scenario (Ferguson et al. 1997).


유럽에서는 과정 전반의 통합을 평가하기 위해 progress test가 광범위하게 사용되고 있습니다. 이러한 테스트는 커리큘럼 전체에 걸쳐 주기적으로 제공되며, 시험문항은 과정 전체에 걸쳐 그리고 커리큘럼 전체에 걸쳐 수직적으로 누적된 지식을 테스트하기 위한 것이다. 진행 상태 테스트를 위한 타당하고 고품질 항목을 구축하는 데 있어 핵심 요소는 새 졸업생들의 지식을 테스트하는 데 있어 관련성을 보장하는 데 있습니다. 최근 검토(Wrigley et al. 2012)에서는 관련성을 개선하기 위한 5가지 기준을 설명한다. 

  • 의학 전문 분야에 특화된 지식을 시험하고 

  • 준비 지식을 테스트합니다 (실제 상황에서 작동하기 위한 전제 조건으로 필요한 지식). 

  • 성공적인 의료행위에 필요한 중요한 지식을 평가한다

  • 고유병률 또는 고위험 의료 상황의 성공적으로 해결하는 데에 실질적인 관련성을 갖는다. 

  • 지식은 커리큘럼의 하나 또는 그 이상의 중요한 개념에 대한 기초를 형성해야 한다.

Progress tests have been used extensively in Europe to assess integration across courses. These tests are given periodically throughout the curriculum, and the items are intended to test cumulative knowledge across courses and vertically across the curriculum. A key component to constructing valid, high quality items for progress tests concerns ensuring their relevance in testing a new graduate’s knowledge. 

A recent review (Wrigley et al. 2012) describes five criteria for improving relevance: ‘‘. . . items should 

  • test knowledge that is specific to the specialty of medicine, 

  • test ready knowledge (knowledge required as a prerequisite to function in a practical situation), 

  • be important knowledge which is required for the successful practice of medicine, 

  • have a practical relevance for the successful handling of high-prevalence or high-risk medical situations, 

  • and the knowledge should form the basis of one or more important concepts of the curriculum’’. 

Progress test는 학생들의 지식 증가를 평가할 수 있는 고유한 기회를 제공하고(윌리엄 등 2011년) 개별 학생을 위한 교정 전략뿐만 아니라 커리큘럼 전체에 대한 결정을 내릴 수 있는 데이터를 제공할 수 있다. 그러나 이러한 목표를 달성하기 위해서는 교수진과 행정 시간이 대폭 투자되어 항목 은행을 개발하고 시험이 타당성을 유지하도록 해야 한다.

Progress tests provide a unique opportunity for assessing growth in students’ knowledge (Williams et al. 2011), and can provide data on which to base decisions about the curriculum as a whole as well as remediation strategies for the individual student. To accomplish these goals, however, requires significant investment of faculty and administrative time to develop item banks and ensure that exams remain relevant.


Swanson과 Case(1997)는 기본 과학과 임상 지식의 통합을 테스트하는 환자 시나리오에 기초한 MCQ의 예를 제공한다. 또한, 그들은 특히 학습자가 과학 문학을 적용하도록 요구하는 오픈북 시험이 특히 자료의 통합과 같은 더 높은 수준의 사고력을 평가하는 데 도움이 될 수 있다고 제안했다. 또 다른 이점은 그러한 시험들이 교수들이 책에서 바로 찾아서는 답할 수 없는 질문들을 쓰도록 만든다는 것이다.

Swanson and Case (1997) provide examples of multiple-choice questions based on patient scenarios that test integration of basic science and clinical knowledge. In addition, they have suggested that open-book exams, especially those that require learners to apply scientific literature, may be especially helpful in assessing higher-order thinking skills such as integration of material. An additional benefit is that such exams drive faculty to write questions that cannot be answered by turning to a page in a book.


임상 교육 동안, 학습자의 진단 추론 기술을 통해 기본적인 과학 개념을 적용하는 능력을 평가하는 것은 종종 환자 치료의 맥락에서 이루어집니다. Bowen(2006)은 다음 6개 영역에서 학습자 기술을 식별합니다. 

  • 데이터 수집 및 보고 

  • 문제 표현, 

  • 가설 생성, 

  • 디퍼렌셜에 대한 적절한 진단 확인 

  • 사건 관련 경험을 쌓고 

  • 일반적인 프레젠테이션/조직 기술 

During clinical education, assessing learners’ ability to apply basic science concepts through their diagnostic reasoning skills often occurs in the context of patient care. Bowen (2006) identifies learner skills in six areas: 

  • data acquisition and reporting, 

  • problem representation, 

  • generation of hypotheses, 

  • identifying appropriate diagnoses on the differential, 

  • having relevant experience for the case, 

  • and general presentation/organizational skills. 

그녀는 이 분야의 부족한 영역을 발견할 단서들을 찾아내고 임상 교육 동안 각각의 문제를 해결하기 위한 교육 전략을 제공하였다. 그녀는 또한 임상 선생님들이 "암기보다 개념화를 촉진하는 reading를 장려해야 한다"고 제안하였다. 이와 관련하여 "학습자는 점진적으로 더 광범위하고 복잡한 문제를 식별하도록 권장해야 합니다. 또한 그 문제를 더 깊이 탐구하도록 장려되어야 한다"고 말했고, 따라서 임상 기간 동안 나선형 커리큘럼의 개념을 강화한다. 

She identifies clues that will uncover deficits in each of these areas and offers educational strategies for addressing each of them during clinical education. She further suggests that clinical teachers should ‘‘encourage reading that promotes conceptualization rather than memorization’’ On a related note, ‘‘Learners should be encouraged to identify progressively broader and more complex issues, [and] explore them more deeply’’, thus reinforcing the notion of a spiral curriculum during the clinical years. 


이러한 재방문 평가를 위한 한 가지 전략은 기초 과학을 온라인 임상 사례에 통합하고 임상실습 시험 중에 기초 과학 개념과 관련된 여러 가지 선택 항목을 작성하는 것이다. 국제 의학 교육 협회(IAMSE)와 의료U 컨소시엄은 혁신적인 전략을 개발하고 교육적 연구를 수행하기 위해 함께 일하는 의료 교육자 및 학생 그룹으로서, 현재 질병과 치료의 인과 메커니즘에 초점을 맞춘 가상 환자를 개발하기 위해 MedU Science라는 프로젝트에 협력하고 있다(MedU Science 2014).

One strategy for assessing this re-visiting would be incorporating basic science into online clinical cases and writing multiple choice items related to basic science concepts during clerkship examinations. The International Association of Medical Science Educators (IAMSE) and the MedU Consortium, a group of medical educators and students working together to develop innovative strategies and conduct educational research, are currently collaborating on a project called MedU Science to develop virtual patients that focus on causal mechanisms of disease and therapy (MedU Science 2014).


Conclusion

그럼에도 불구하고, 그리고 아마도 그 인기 때문에, 통합 커리큘럼은 의학 교육 문헌에 현저한 명확성이 부족했고 그것의 설계자들에게 중요한 도전을 제공한다. 카네기 교육진흥재단은 (의료 교육에 대한 Flexner 보고서 100년주년에) 커리큘럼 현대화의 어려움은 "적절한 내용을 정의하는 것이 아니라, 그 내용을 [기존의 생의학 콘텐츠에 상대적인 중요성을 강조하는 방식으로] 커리큘럼에 통합하고, 이렇게 수정된 커리큘럼을 가르칠 교수진을 찾고 준비하는 것입니다." (Cooke et al. 2006)라고 정확하고 간결하게 보고했다. 

Despite and perhaps due to its popularity, the integrated curriculum has lacked significant clarity in the medical education literature and offers significant challenges to its designers. The Carnegie Foundation for the Advancement of Teaching, celebrating 100 years of the influence of the Flexner Report on medical education, accurately and succinctly reported that the difficulty in modernizing a curriculum is ‘‘not defining the appropriate content but rather incorporating it into the curriculum in a manner that emphasizes its importance relative to the traditional biomedical content and then finding and preparing faculty to teach this revised curriculum’’ (Cooke et al. 2006). 


내용을 선택하는 것은 전투의 일부일 뿐입니다. 여러 분야에 걸쳐, 그리고 시간 경과에 따라 이를 성공적으로 통합하여 학생 준비를 극대화하는 것이 진정한 과제입니다.

Selecting content is only part of the battle; successfully integrating it across disciplines and across time to maximize student preparation is the true challenge.





Australian Medical Council Limited. 2012. Standards for assessment and accreditation of primary medical programs by the Australian Medical Council 2012. Kingston, ACT: AMC.


Lindgren S. 2013. For future health – A new medical school (SOU 2013:15). Report of the Medical Education Survey. State Public Inquiries, SOU 2013:15. Stockholm: Swedish Government Publishing Service.


Malik AS, Malik RH. 2011. Twelve tips for developing an integrated curriculum. Med Teach 33:99–104.




 2015 Apr;37(4):312-22. doi: 10.3109/0142159X.2014.970998. Epub 2014 Oct 16.

The integrated curriculum in medical educationAMEE Guide No. 96.

Author information

1
Washington University School of Medicine , USA .

Abstract

The popularity of the term "integrated curriculum" has grown immensely in medical education over the last two decades, but what does this term mean and how do we go about its design, implementation, and evaluation? Definitions and application of the term vary greatly in the literature, spanning from the integration of content within a single lecture to the integration of a medical school's comprehensive curriculum. Taking into account the integrated curriculum's historic and evolving base of knowledge and theory, its support from many national medicaleducation organizations, and the ever-increasing body of published examples, we deem it necessary to present a guide to review and promote further development of the integrated curriculum movement in medical education with an international perspective. We introduce the history and theory behind integration and provide theoretical models alongside published examples of common variations of an integratedcurriculum. In addition, we identify three areas of particular need when developing an ideal integrated curriculum, leading us to propose the use of a new, clarified definition of "integrated curriculum", and offer a review of strategies to evaluate the impact of an integrated curriculumon the learner. This Guide is presented to assist educators in the design, implementation, and evaluation of a thoroughly integrated medicalschool curriculum.

PMID:
 
25319403
 
DOI:
 
10.3109/0142159X.2014.970998


잠재교육과정, 윤리, 프로페셔널리즘: 임상학습환경을 의사의 Becoming과 Being에 초점두기(Ann Intern Med, 2018)

Hidden Curricula, Ethics, and Professionalism: Optimizing Clinical Learning Environments in Becoming and Being a Physician: A Position Paper of the American College of Physicians

Lisa Soleymani Lehmann, MD, PhD; Lois Snyder Sulmasy, JD; and Sanjay Desai, MD; for the ACP Ethics, Professionalism and Human Rights Committee*




숨겨진 커리큘럼은 문화에 내재되어 있고 명시적으로 의도되지 않은 교훈이다.

Hidden curricula are lessons learned that are embedded in culture and are not explicitly intended.


학습자들은 [롤모델의 행동이나 말]이 [전문직이 옹호하는 가치]와 일치하지 않을 때 윤리와 전문성에 대한 상반된 메시지를 받는다.

Learners receive conflicting messages about ethics and professionalism when the actions or words of role models are not consistent with the values espoused by the profession.


숨겨진 커리큘럼의 개념은 새롭지도 않고 의학 교육에만 국한되지도 않는다. 그것은 초등교육을 사회화 과정 (2) 즉 [가입하는being joined 집단의 가치, 기술, 태도가 도입되는adopted 방법]이라고 설명한 필립 잭슨이 확인했다. 의학에서는, 기관에서 인가하는 과정과 강의실의 "공식 커리큘럼", 애드혹 강의의 "비공식 커리큘럼"(침상 회진 등), 가르쳐지지 않은 것에 대한 "존재하지 않는null 커리큘럼"과 구별된다(정의표 참조).

The concept of a hidden curriculum is neither new nor limited to medical education. It was identified by Philip Jackson, who described elementary education as a socialization process (2)—the method by which the values, skills, and attitudes of a group being joined are adopted. In medicine, it is distinct fromthe “formal curriculum” of coursework and classroom lessons sanctioned by the institution, the “informal curriculum” of ad hoc instruction (such as bedside rounds), and the “null curriculum” of what is not taught (see the Table for definitions).


의학의 "문화"는 예시, 이야기, 의식, 상징, 그리고 정의된 위계구조를 통해 전해진다(4, 5).

The “culture” of medicine is passed down through examples, stories, rituals, symbols, and defined hierarchies (4, 5).


숨겨진 커리큘럼은 광범위한 효과를 가지고 있다. 예를 들어, 1차 진료에 대한 시스템적 편견은 미국 의료 시스템이 고령화 인구의 요구를 충족시킬 준비가 되어 있지 않은 데 기여한다(6, 7).

The hidden curriculum has large-scale effects. For example, systemic bias against primary care contributes to the U.S. health care system being unprepared to meet the needs of an aging population (6, 7).


방법

METHODS


이 직책 논문은 ACP 윤리, 전문가 및 인권 위원회(EPHRC)를 대표하여 개발되었다.

This position paper was developed on behalf of the ACP Ethics, Professionalism and Human Rights Committee (EPHRC).


ACP입장과 권고사항

ACP POSITIONS AND RECOMMENDATIONS


1. 숨겨진 커리큘럼은 공식 커리큘럼과 일치하는 긍정적인 커리큘럼이 되어야 한다. 교수진과 선임 임상의사는 공감대를 형성하고, 훈련 환경에서 긍정적이고 부정적인 행동에 대한 반성과 논의를 장려해야 하며, 임상의사의 안녕을 촉진해야 한다. 교실에서 가르치는 것은 머리맡에서 행해지는 것에 의해 강화되고 강화되어야 한다.

1. The hidden curriculum must become a positive curriculum that aligns with the formal curriculum. Faculty and senior clinicians should model empathy, encourage reflection and discussion of positive and negative behaviors in the training environment, and promote clinician wellness. What is taught in the classroom must be reinforced and enhanced by what is practiced at the bedside.


2. 학습 환경은 존중, 탐구, 정직성을 길러야 하며, 학습자를 포함한 모든 개인이 윤리, 전문성, 돌봄 제공에 대한 우려를 제기할 수 있도록 해야 한다. 팀워크와 동료에 대한 존경을 가르치고 입증해야 한다.

2. The learning environment should foster respect, inquiry, and honesty and empower every individual, including learners, to raise concerns about ethics, professionalism, and care delivery. Teamwork and respect for colleagues must be both taught and demonstrated.


3. 리더는 윤리적 우려에 대한 논의를 장려하고, 일상적 의사결정에 가치를 명시하며, 환자의 복지가 핵심 가치인 전문성에 대한 기대를 구체화함으로써 강력한 윤리 문화를 창조하고 유지해야 한다.

3. Leaders should create and sustain a strong ethical culture by encouraging discussion of ethical concerns, making values in everyday decision making explicit, and embodying expectations of professionalism in which patient well-being is a core value.


결론

CONCLUSION


의료 학습 환경의 교육 및 사회적 환경은 복잡한 영향력 체계다. 동료 관계에 걸친 역할 모델과 의학의 위계는 미래의 의사들의 직업적 정체성, 행동 및 태도의 형성에 기여한다. 숨겨진 커리큘럼의 영향에 대한 최선의 해결책은 그것을 밝혀내고, 그것의 긍정적인 측면을 공식적인 커리큘럼에 통합하며, 교육자와 임상의에 의해 그것의 부정적인 측면을 이해하고 완화시키는 접근법의 개발을 이끌어 내는 것이다.

The educational and social milieu of medical learning environments is a complex system of influences. Role models across peer relationships and the hierarchy of medicine contribute to the formation of professional identity, behaviors, and attitudes of future physicians. The best solutions to the influence of the hidden curriculum will uncover it, integrate its positive aspects into the formal curriculum, and lead to development of approaches to understand and mitigate its negative aspects by educators and practicing clinicians.




APPENDIX:EXPANDED RATIONALE FOR HIDDEN CURRICULA,ETHICS, AND PROFESSIONALISM:OPTIMIZING CLINICAL LEARNING ENVIRONMENTS IN BECOMING AND BEING A PHYSICIAN: A POSITION PAPER OF THE AMERICAN COLLEGE OF PHYSICIANS


Position 1 

숨겨진 커리큘럼은 공식적인 커리큘럼과 일치하는 긍정적인 커리큘럼이 되어야 한다. 교수진과 선임 임상의사는 공감대를 형성하고, 훈련 환경에서 긍정적이고 부정적인 행동에 대한 반성과 논의를 장려해야 하며, 임상의사의 안녕을 촉진해야 한다. 교실에서 가르치는 것은 머리맡에서 행해지는 것에 의해 강화되고 향상되어야 한다.


The hidden curriculum must become a positive curriculum that aligns with the formal curriculum. Faculty and senior clinicians should model empathy, encourage reflection and discussion of positive and negative behaviors in the training environment, and promote clinician wellness. What is taught in the classroom must be reinforced and enhanced by what is practiced at the bedside.


역할 모델로서 숙련된 의료진

Experienced Clinicians as Role Models


임상실습생, 인턴, 레지던트들은 환자와 가족과 대화하는 법, 옷 입는 법, 동료들과 교류하는 법, 환자를 진찰하고 돌보는 법을 배우는 견습생들이다. 만약 그들이 동정, 호기심, 존경, 공감의 문화에 참여한다면, 그들은 이러한 미덕을 채택할 가능성이 더 높으며, 특히 그것이 명시적 가치와 기대라고 확인될 때 더욱 그러하다. 이것은 긍정적인 잠재교육과정이다. 그러나 롤모델이 무례하거나 냉소적인 경우, 그러한 특성은 지속적 영향을 미치며, 그런 행동이 수용가능하다고 인식된다. 그것은 환자를 "301호실의 담낭"이라고 지칭하는 것처럼 간단하고 해로울 수 있다. 예를 들어 비만이나 물질 사용 장애로 곤경을 겪는struggle 환자를 대상화하거나 판단적으로 대하는 선임내과의사의 코멘트가 학습자 및 다른 사람들에게 영향을 미친다(9–11).

Clerkship students, interns, and residents are apprentices learning how to speak with patients and family members, dress, interact with colleagues, and examine and care for patients. If they participate in a culture of compassion, curiosity, respect, and empathy, they are more likely to adopt these virtues, especially when they are identified as explicit values and expectations. This is a positive hidden curriculum. If role models are disrespectful or cynical, however, those traits are perceived as acceptable, with lasting effects. It can be as simple—and harmful—as referring to a patient as “the gallbladder in room 301.” Comments by senior physicians who objectify or are judgmental of patients who, for example, struggle with obesity or substance use disorder affect learners and others (9–11).


문제를 의학적으로 다루는 사회에서 의사는 기초적인 것으로 돌아가서 강력한 환자-의사 관계를 모델링하고 "지식의 한계에 대한 겸손"(12)를 보여야 한다. 이것은 의사소통, 경청, 공감을 위한 시간과 윤리와 전문성에 대한 헌신이 필요하다.

In a society that tends to medicalize problems, physicians should get back to basics to model strong patient–physician relationships and demonstrate “humility about the limits of our knowledge” (12). This takes time—for communication, listening, and empathy—and a commitment to ethics and professionalism.


공감과 웰니스

Empathy and Wellness


환자는 공감하는 의사(13명)를 원하고, 공감의 증식은 의학교육의 1차 목표(14)이다. 그러나 의과대학과 레지던트 기간에는 공감이 감소하며, 이는 위태로운compromised 전문성 (15)과 관련이 있을 수 있다. 의사 공감은 긍정적인 임상 결과와 관련이 있지만, 이러한 이점을 실현하려면 공감을 유지하고 강화하는 방법(16)을 개발해야 한다.

Patients want empathic physicians (13), and cultivation of empathy is a primary objective of medical education (14). However, empathy declines during medical school and residency, and this may be associated with compromised professionalism (15). Physician empathy is associated with positive clinical outcomes, but realizing these benefits requires developing ways of maintaining and strengthening empathy (16).


소진이나, 낮은 웰빙, 우울 등에 의하여 이차적인 2차적으로 스트레스를 받는 것이 의사에게 공감의 감소(17, 18)와 관련이 있을 수 있다. 잠재커리큘럼이 학습자의 스트레스distress에 기여할 수 있다(19). 학생들이 동료들로부터 굴욕을 당하고, 사회적 지지가 부족하며, 과중한 업무량을 경험하는 환경은 공감의 감소에 기여할 수 있다. 지속적인 업무 내용 변경과 "압축적 업무"은 높은 수준의 의사 소진(20)과 비전문화에 기여한다. 교수들은 종종 그들 자신의 challenge에 대해 토론하기를 꺼려하는데, 이것은 웰빙을 소외시키는 숨겨진 커리큘럼을 강화할 수 있다.

Clinician distress secondary to burnout, low sense of well-being, or depression can be associated with a decline in empathy (17, 18). The hidden curriculum may contribute to learner distress (19). An environment in which students are humiliated by colleagues, lack social support, and experience intense workload can contribute to diminished empathy. Ongoing changes in work content and “work compression” contribute to high levels of physician burnout (20) and deprofessionalization. Faculty are often reluctant to discuss their own challenges, which can reinforce a hidden curriculum that marginalizes wellness.


의대와 레지던트 프로그램은 전문직업성, 의사 웰빙, 회복력(스트레스에 적응하는 능력)을 길러야 한다. 의대생의 4분의 1 이상이 우울증(21)을 앓고 있으며 미국정신과협회(ANS)는 전공의 자살률(22)에 대해 경각심을 나타냈다. 대학원 의학 교육 인증 위원회는 의사 복지를 촉진하기 위해 전공의와 기관에 대한 새로운 요구사항을 포함시켰다(23)

Medical schools and residency programs should foster professionalism, physician well-being, and resilience (the ability to adapt to stressors). More than one quarter of medical students have depressive symptoms (21), and the American Psychiatric Association has voiced alarm over rates of resident suicide (22). The Accreditation Council for Graduate Medical Education has included new requirements for residencies and institutions to promote physician well-being (23).


긍정적 역할 모델, 전문성, 경험 및 의료인의 건강 증진을 위한 모범 사례 제안

Best Practice Suggestions to Promote Positive Role Models, Medicine as a Profession, Empathy, and Clinician Wellness


환자와 학습자에 대한 공감과 존중을 모델링하는 것은 직업으로서의 의학의 핵심 가치를 재확인한다. 이러한 행동들은 훈련에서 실습을 통한 경험의 연속성에 영향을 미치고 의술과 과학의 실천에서 평생 윤리에 대한 반성을 함양하는 힘을 가지고 있다. 숙련된 임상의들은 그들의 감정적으로 도전적인 경험을 공유하도록 격려되어야 한다.

Modeling empathy and respect for patients and learners reaffirms core values of medicine as a profession. These behaviors have the power to influence the continuum of experiences from training through practice and foster lifelong reflection on ethics in the practice of the art and science of medicine. Experienced clinicians should be encouraged to share their emotionally challenging experiences.


숨겨진 커리큘럼을 공개하고 재정립하기 위한 전략에는 연습생이 환자의 죽음과 같은 정서적으로 도전적인 상황을 설명하기debrief 위해 확보된 시간, 그리고 전문직 정체성의 형성에 기여하는 암묵적 메시지와 긍정적인 경험에 대한 성찰을 위해 확보된 시간이 포함된다. 전문적인 형성은 명확한 커리큘럼 목표 (24)가 되어야 한다.

Strategies for revealing and realigning the hidden curriculum include dedicated time for trainees to debrief emotionally challenging situations, such as the death of a patient, and for reflection on positive and negative experiences and the implicit messages that contribute to formation of professional identity (Appendix Tables 2 and 3). Professional formation should become an explicit curricular objective (24).


웰니스 위원회는 임상의가 스트레스를 해소하고 직원과 연습생들에게 자신의 건강에 참여하는 것의 가치에 대한 메시지를 보내는 것을 도울 수 있다. 지원은 의미 있고, 비밀이 지켜져야 하고, 종적이며, 개인에 맞게 조정되어야 한다. 예를 들면 조언, 코칭, 비밀 동료 지원 단체, 그리고 사망한 환자들을 위한 병원 전체의 추도 예배 등이 있다.

Wellness committees may help clinicians address stress and send a message to staff and trainees about the value of attending to one's own health. Support must be meaningful, confidential, longitudinal, and tailored to individuals. Examples include advising, coaching, confidential peer support groups, and hospitalwide memorial services for deceased patients.


임상 기술 개발: 환자의 서비스에서... 아니면 아이패티엔트?

Clinical Skills Development: In the Service of the Patient ... or the iPatient?


마스터 임상가-교육자인 윌리엄 오슬러는 침대 머리맡에서 배우는 것이 의학 교육의 가장 중요한 부분이며, 그의 묘비가 오직 "그는 의대생을 BST를 위하여 병동으로 데려왔다"(25)라고만 읽히기를 원한다고 말했다. 간단하지만 강력한 침대 머리맡 기술을 보여줌으로써 닥터링doctoring의 기쁨을 나누는 의사는 교사의 위대한 혈통의 일부분이다. 이들은 그런 지식과 연민을 물려주고 학생에게 경이로움을 일깨우는 보상을 아는 사람이다. 심장 잡음을 강조하기 위한 침대 머리맡의 기술처럼 기본적인 것을 보여주고 그것을 환자의 역사와 연관시키는 것은 신체 진단과 중요한 교훈의 힘을 전달한다. 여기에는 뛰어난 임상 기술이 불필요한 영상검사를 피하는 데 도움이 된다는 것을 포함한다.

The master clinician-educator William Osler said that learning at the bedside was the most important part of medical education and wanted his headstone to read only, “He brought medical students into the wards for bedside teaching” (25). The physician who shares the joy of doctoring by demonstrating simple but powerful bedside skills is part of the great lineage of teachers who have passed down such knowledge and compassion and who know the reward of awakening a sense of wonder in a student. Demonstrating something as basic as bedside maneuvers to accentuate a cardiac murmur and correlating it with the patient's history conveys the power of physical diagnosis and important lessons, including that excellent clinical skills help to avoid unnecessary imaging studies.


BST는 효율을 우선시하는 문화에 의해 위협받을 수 있다. 교육자들이 침대 머리맡에서 가르치는 시간은 25% 미만이지만, 이 곳이야말로 학생들이 환자 중심 진료에 기초하는 치료적 관계, 공감, 전문성, 그리고 임상 및 커뮤니케이션 기술에 대해 가장 많이 배우는 곳이다.

Bedside teaching can be threatened by a culture that prioritizes efficiency. Educators spend less than 25% of teaching time at the bedside (26), but that is where students learn the most about therapeutic relationships, empathy, professionalism, and clinical and communications skills that are foundational to patientcentered care.


학생들은 공식적으로 상세한 병력청취와 신중한 신체검사 수행법을 배우면서 환자-의사 관계를 중시하도록 가르친다. 그럼에도 불구하고, 임상실습 기간 동안 학생들은 환자보다 컴퓨터와 더 많은 시간을 보내는 의사와 자주 마주친다. 이는 흔히 모든 곳에 존재하는omnipresent 전자건강기록(28, 29)에 의해 추진되지만, 규정(근무시간 제한 등), 기술 접근 용이성, 의사들에 대한 행정업무의 부담 증가(30) 등에 의해서도 유도된다. 혁신은 환자 관리의 질을 향상시킬 수 있지만 환자와의 상호작용을 대체해서는 안 된다. 학습자가 BST를 경험할 때, 그들은 미래의 교육방식으로 위해 그러한 회진을 선호하는 경향이 있다. 학생들은 회진에서 선생님들이 환자와 상호작용하고 신체 진단을 배우는 것을 볼 수 있는 유일한 기회를 제공한다고 언급하면서, 이것이 환자가 추상적인 질병이나 숙주가 아니라 독특한 사람(26)이라는 관점을 강화한다고 이야기한다.

Students are formally taught to value patient encounters and the patient–physician relationship by learning to take detailed histories and perform careful physical examinations. Nevertheless, during clerkship, students frequently encounter physicians who spend more time with computers than with patients (27). This is often driven by the omnipresent electronic health record (28, 29) but is also promoted by regulations (such as duty hour limits), easy access to technologies, and the increasing burden of administrative tasks (30) on physicians. Innovations can enhance the quality of patient care but should not supplant interactions with patients. When learners “experience bedside teaching, they tend to prefer such rounds for future instruction, commenting that bedside rounds provide them their only opportunity to see teachers interact with patients, learn physical diagnosis, and reinforce the perspective that patients are not abstract diseases or hosts but instead unique persons” (26).


내과 레지던트들은 환자와 직접 접촉하는 데 시간의 9%에서 12%를 소비하고(31~34) 환자의 컴퓨터 차트 검토, 주문 입력 및 문서화에 40%를 소비한다(35). 학생들은 "iPatient"가 전자 건강 기록, 실험실 및 영상 결과 및 기타 테스트에 기초하여 치료되는 작업실 또는 "snug 벙커"로 후퇴하는 것을 알아차린다. 그 팀은 가장 중요한 팀원이라고 할 수 있는 "실제 환자"는 빼 놓은 채로 화면 주위를 서성거리는 것이다.

Internal medicine residents spend 9% to 12% of their time in direct contact with patients (31–34) and 40% of their time on computer chart review, order entry, and documentation away from patients (35). Students notice the retreat to the workroom or “snug bunker,” where the “iPatient” is treated on the basis of the electronic health record, laboratory and imaging results, and other tests (36). The team huddles around the screen without the most important team member: the actual patient.


테크놀로지는 의료 서비스를 발전시키지만 환자, 교수, 전문성에 대한 의도하지 않은 결과가 과소평가될 수 있다. 기초적인 병력청취와 신체검사 기술은 의과대학 초기에 가르치지만 레지던트(37) 기간동안 위축될 수 있다. 또한 이러한 기술을 가르치고 모델링할 수 있는 임상의 수가 줄어드는 것에 대한 우려도 증가하고 있다. 현재의 건강관리 환경에서는 가르치고 역할 모델로서 행동할 시간을 찾는 것은 어려운 일이지만, 가르침은 practice의 의미와 기쁨에 기여할 수 있다. medicine이 천직이나 소명이라는 인식이 쇠퇴하는 것은 현재의 실천 상태에 대한 임상의들의 시각에 영향을 미칠 뿐만 아니라 수련자에게도 전달된다.

Technology advances medical care, but unintended consequences for patients, teaching, and professionalism can be underappreciated. Fundamental history-taking and physical examination skills are taught early in medical school but can atrophy by residency (37). There is also growing concern about the diminishing number of clinicians who are capable of teaching and modeling these skills. Finding the time to teach and act as a role model is challenging in the current health care environment, but teaching can contribute to the meaningfulness and joy of practice. A waning sense of medicine as a vocation or a calling not only affects the views of clinicians about the current state of practice but also is communicated to trainees.


환자와의 상호작용에 초점을 맞추면 의학의 실천에 내재된 인간성과 불확실성을 우리에게 일깨워준다. iPatient에게는 접촉touch과 눈맞춤이 신체적으로든 감정적으로든 어떤 것도 가져다 주지 않지만, 실제 환자들은 touch and eye contact를 크게 중시한다(36). 편안함과 치유적인 연결의 부재는 또한 신뢰와 치료적 관계를 형성하는 능력 그리고 후대에 의해 얼마나 훌륭한 치료를 보고 실천할 것인가에 지속적인 영향을 미칠 수 있다. 테크놀로지가 환자-의사 관계의 신성한 공간을 방해할 필요는 없다.

Focusing on interacting with the patient reminds us and learners of the humanity and uncertainty inherent in the practice of medicine. Touch and eye contact bring nothing, physically or emotionally, to the iPatient, but real patients value them greatly (36). The absence of comfort and healing connections can also have lasting effects on trust and the ability to form therapeutic relationships and on how excellent care will be viewed and practiced by future generations. Technology need not hamper the sacred space of the patient–physician relationship.


급격한 상태 변화를 겪는 환자를 진찰할 때 얻을 수 있는 것을 모델링하면 모든 팀 구성원이 환자를 재검진하고 임상적 추론 기술을 다듬는 데 도움이 된다. (부록 표 1의 표 2 참조). [컴퓨터 앞에 앉기 전에 침대 머리맡에 가는 이유]를 성찰하는 것도 patient-guided assessment의 중요성을 강조하는데 도움이 된다.

Modeling what can be gleaned from examining a patient with a sudden change in condition helps all team members refocus on the patient and refine clinical reasoning skills (see vignette 2 in Appendix Table 1). Reflecting on the reasons for going to the bedside before the computer helps emphasize the importance of patient-guided assessment.


"Medicine에서 가르침(teaching)이란 근본 가치(fundamental value)이다. "doctor"라는 단어가 "가르치다(to teach)"라는 의미의 라틴어 docere에서 왔다는 사실은 동료 및 학습자와 지식을 공유해야 할 의사의 의무를 확인시켜준다. 이러한 지식의 공유는 (수업 등을 통하여) 공식적(formally)으로 이루어질 수도 있으며, 역할모델(role model)로서 이루어질 수도 있다." 기관들은 교육에 대한 그들의 헌신을 확인해야만 하고 그것에 대한 적절한 자원, 시간, 그리고 인정을 제공해야 한다.

Teaching is a fundamental value in medicine. The word doctor, from the Latin docere (“to teach”), affirms the duty of physicians to share knowledge with colleagues and learners, formally and as role models (38). Institutions must affirm their commitment to teaching and provide appropriate resources, time, and recognition for it.


BestPractice 제안 Bedside 지식 재산권 교육 및 임상 스킬 개발을 홍보하기 위한.

Best Practice Suggestions to Promote Bedside Teaching and Clinical Skill Development


침대 옆에서 늘 경험이 풍부한 임상의로 모델링 되야 한다. 학습자를 관찰하고 개인화된 피드백을 공유하는 것이 아마도 임상 기술을 가르치고 침상 의학의 중요성을 전달하는 가장 효과적인 방법일 것이다. "hi-tech, lo-think" 의료 환경에서는 임상 기술과 환자-의사 관계를 희생하지 않고 디지털 스테토스코프, 휴대용 초음파 기계, 시뮬레이션, 비디오 아틀라스 등의 기술을 통합하는 방법의 개발이 시급하다(36).

Presence at the bedside must be modeled by experienced clinicians. Observing learners and sharing individualized feedback is perhaps the most effective method to teach clinical skills and convey the importance of bedside medicine. In a “hi-tech, lo-think” medical environment, the development of ways to integrate technology, such as digital stethoscopes, portable ultrasound machines, simulation, and video atlases, without sacrificing clinical skills and patient–physician relationships is urgently needed (36).


혁신적인 훈련 모델과 훈련생을 침상으로 데려오는 구조화된 침상 의료 커리큘럼은 신체 진단, 임상 추론, 의사소통 기술, 환자 중심 치료를 양성한다.

Innovative training models and structured bedside medicine curricula that bring trainees back to the bedside cultivate physical diagnosis, clinical reasoning, communication skills, and patient-centered care.


Position 2 

학습 환경은 존중, 탐구, 정직성을 길러야 하며, 학습자를 포함한 모든 개인이 윤리, 전문성 및 관리 제공에 대한 우려를 제기할 수 있도록 해야 한다. 팀워크와 동료에 대한 존경을 가르치고 입증해야 한다.


The learning environment should foster respect, inquiry, and honesty and empower every individual, including learners, to raise concerns about ethics, professionalism, and care delivery. Teamwork and respect for colleagues must be both taught and demonstrated.


안전·품질·윤리 향상을 위한 발언문화

A Culture of Speaking Up to Advance Safety, Quality, and Ethics


강력한 윤리적 문화를 조성하려면 팀원들이 자유롭게 우려를 표명할 수 있게 해야 한다(예: 낮은 품질의 케어나 방해 또는 문제가 있는 동료에 대해). 마르티네즈와 동료들은 [역할 모델에 대한 노출]이 [유해한 의료 오류의 공개]와 관련하여 연습생의 태도와 행동을 예측하는 것을 발견했다(43) 부정적인 역할 모델에 대한 더 많은 노출은 더 많은 부정적인 태도와 (공시와 관련된) 비전문적 행동의 가능성 증가와 독립적으로 연관되었다. [고위 임상의가 환자와 가족에 대해서 오류에 대한 책임을 회피하거나 투명하지 않게 처리하는 것을 보는 경우], 혹은 [공포의 문화를 경험하는 경우] 학생과 레지던트는 실수를 관찰하거나 실수를 저질렀을 때 말하지 않게 된다.

Creating a strong ethical culture requires that team members feel free to voice concerns (for example, about low-quality care or disruptive or impaired colleagues). Martinez and colleagues found that exposure to role models predicted trainee attitudes and behavior with regard to disclosure of harmful medical errors (43). Greater exposure to negative role models was independently associated with more negative attitudes and increased likelihood of unprofessional behavior related to disclosure. Students and residents who see senior clinicians evade responsibility to and transparency with patients and families about errors or who experience a culture of fear speak up less when observing or making a mistake.


환자 안전 이니셔티브의 중요성은 강의실에서 배우지만, 가장 설득력 있는 교훈은 임상 환경(44, 45)에서 배운다. 부록 표 1의 vignette 3에서와 같이 각 환자가 마주치기 전과 후에 손씻기를 관찰하는 것은 손씻기 캠페인이나 감염관리 강의보다 학생들의 행동에 더 큰 영향을 미칠 가능성이 있다.

Although the importance of patient safety initiatives is taught in the classroom, the most compelling lessons are taught in clinical environments (44, 45). Observing handwashing before and after each patient encounter, as in vignette 3 in Appendix Table 1, is likely to have a greater effect on student behavior than handwashing campaigns or infection control lectures.


위계

Hierarchy


[탐구, 학술, 지속적 개선의 환경 및 문화를 확립]하기 위해서는 위계계층으 상부에서 [모든 팀 구성원의 기여가 중요하다는 것]명시적으로 밝히는 것이 필요하다. 이러한 문화가 확립되어야 학습자가 겪는 윤리적 이슈나 도덕적 고통의 근원을 제기할 수 있다. Gaufberg와 동료들은 숨겨진 커리큘럼을 돌아본 의대생들의 절반이 의료 계층에서 "그들의 분수를 알아야 한다"는 강한 압박감을 느낀다는 것을 발견했다. 학생들은 또한 환자들이 의사 권한을 받아들여야 한다는 압박감을 느낀다고 인식했다(46).

Establishing an environment and culture of inquiry, scholarship, and continuous improvement that fosters the raising of ethical issues and sources of moral distress by learners (38) requires explicit reminders from the top of the hierarchy of the importance of contributions from all team members. Gaufberg and colleagues found that half of medical students reflecting on the hidden curriculum reported feeling intense pressure to “know their place” in the medical hierarchy. Students also perceived that patients felt pressured to accept physician authority (46).


표 3(부록 표 1)에서 학생은 주치의가 이전에 입력에 대한 개방성을 표시했었던 어떤 것을 말했을 수 있다. 학생들에게 [[환자의 최선의 이익]에 초점을 맞춘 우려를 전달하도록 가르치는 것]은 심지어 상급 팀 구성원들이 피드백을 요청하지 않을 때에도 학생들에게 힘을 준다.

In vignette 3 (Appendix Table 1), the student may have said something had the attending physician previously expressed openness to input. Teaching students to convey concerns focused on the best interests of patients empowers students even when senior team members do not invite feedback.


임상 환경에서 역할, 경험 및 평가의 위계적 구조는 귀중한 통찰력을 침묵시킬 위험이 있으며 도덕적 고통과 권력의 남용 가능성을 지니고 있다. 2016년 의과대학 졸업생의 절반 가까이가 교직원들의 공개적인 당혹감을 경험했고, 4분의 1 가까이가 공개적인 굴욕(1)을 경험했다. 졸업생들은 괴롭힘, 성차별주의 혹은 인종 차별주의적인 발언, 원치 않는 성적 진보, 성별에 근거한 훈련이나 보상의 기회 거부, 그리고 가장 흔히 임상 환경에서 나타난다. 졸업생의 36%가 아무 조치도 없을 것으로 보고 신고하지 않은 것으로 나타났고, 27%는 보복이 두려워 신고하지 않은 것으로 나타났다(1).

The hierarchical structure of roles, experience, and evaluation in clinical environments risks silencing valuable insights and carries the potential for moral distress and abuses of power. Almost half of 2016 medical school graduates experienced public embarrassment by faculty, and almost one quarter experienced public humiliation (1). Graduates highlighted bullying, sexist or racist remarks, unwanted sexual advances, denial of opportunities for training or rewards based on gender, and physical harm, most commonly in clinical settings. It is alarming to note that 36% of graduates indicated that they did not report these behaviors because they believed nothing would be done, and 27% did not report them because they feared reprisal (1).


환자 안전 및 평면 계층화를 위한 모범 사례 제안

Best Practice Suggestions to Promote Patient Safety and Flatten Hierarchy


교직원들과 레지던트들은 책임감의 문화culture of accountability 속에서 적극적으로 발언하도록 격려받아야 한다. 지식의 위계는 항상 존재할 것이고, 많은 면에서 다양한 학위와 지식을 가진 팀 구성원을 갖는 것은 효과적인 관리와 교육을 보장하는 데 도움이 된다. 교수개발과 학습 환경의 개입을 통해 개방성openness을 배양할 수 있으며, 이를 통해 학대mistreatment를 감시할 수 있다.

Faculty and residents should actively encourage speaking up in a culture of accountability. Hierarchy of knowledge will always exist, and in many ways having team members with varying degrees and knowledge helps ensure effective care and education. Openness can be nurtured through faculty development and interventions in the learning environment to monitor for mistreatment.


[환자 안전과 관련된 우려를 전달하고 해결하는 방식으로 의사소통 기술을 가르치는 것]이 팀 관계를 위태롭게 만들 가능성은 낮을 것이다. 질문의 형태로 우려를 제기하는 것은 위계적 환경에서 효과적일 수 있으며, 그러한 기법을 가르치는 것은 도덕적 용기를 강화시킬 수 있다(47). 기관은 보고를 권장해야 하는데, 종종 [익명의 메커니즘]이나 [관리나 감독에 직접 관여하지 않는 옴부즈퍼슨]을 사용하는 것이 가장 효과적일 수 있다.

Teaching communication skills in a manner that conveys and addresses concerns related to patient safety may be less likely to jeopardize team relationships. Raising concerns in the form of a question may be effective in a hierarchical setting, and teaching such techniques may bolster moral courage (47). Institutions should encourage reporting, which is often best accomplished using anonymous mechanisms or an ombudsperson not directly involved with care or supervision.


팀워크 및 프로페셔널 관계

Teamwork and Interprofessional Relationships


[정직과 존중을 담아 수행하는 팀워크]는 수준 높은 환자 진료(38)의 특징이다. 의사, 간호사, 레지던트 및 의대생 사이의 위계는 팀워크를 억제할 수 있다(48).

Teamwork performed with honesty and respect is a hallmark of high-quality patient care (38). Hierarchy among physicians, nurses, residents, and medical students can inhibit teamwork (48).


의료 서비스 제공은 점점 더 복잡해지고 있다. 일반적인 메디케어 환자는 1차 진료 의사 2명과 1차 진료 전문의 5명(49)을 본다. 컨설턴트 또는 부문 간의 논쟁은 고품질의 팀 기반 진료(48)를 방해한다. 성공적인 팀들은 존경, 신뢰, 동료애, 열린 의사소통, 그리고 상호 지원으로 특징지어진다. 단어의 선택, 상호작용의 톤, 그리고 문제를 제기하는 것에 대한 안전감 등이 효과적 협력을 유도할 수 있다.

Health care delivery is becoming increasingly complex. The typical Medicare patient sees 2 primary care physicians and 5 subspecialists annually (49). Discord between consultants or disciplines hinders high-quality, team-based care (48). Successful teams are characterized by respect, trust, collegiality, open communication, and mutual support. Choice of words, tone of interactions, and comfort level with raising issues drive the ability to work together effectively.


Vignette 4 (부록 표 1)에서는, 비록 교직 회진 중에 간호사의 방해를 받았을지라도, 환자의 요구가 우선한다. 겸손함을 모델링하고 모든 출처에서 관련 임상 정보를 수집할 기회를 놓쳤다. 검소함과 간호사의 관찰에 대한 고마운 인정은 좀더 적절한 대응이었을 것이다. 매일 라운드에서 간호 참여를 유도하는 구조는 팀워크를 키워 징계 사일로를 극복할 수 있다. 무례하거나 감사하지 않는 문화에 기여하는 근소한 메시지들은 다음 세대에 전달된다.

In vignette 4 (Appendix Table 1), although being interrupted by the nurse during teaching rounds may have been frustrating, patient needs come first. An opportunity to model humility and gather relevant clinical information from all sources was missed. Collegiality and grateful acknowledgment of the nurse's observations would have been a more appropriate response. A structure that invites nursing participation in daily rounds can foster teamwork and overcome disciplinary silos. Subtle and not-so-subtle messages contributing to a culture of disrespect or lack of appreciation are passed to the next generation.


팀워크 및 프로페셔널 관계 증진을 위한 모범 사례 제안

Best Practice Suggestions to Promote Better Teamwork and Interprofessional Relationships


의과대학과 훈련프로그램은 관계와 수준 높은 힘을 기르기 위해 전문직간 교육의 모델을 개발하고 있다. 전문직간 라운드는 로지스틱 측면에서 실행하기가 어렵지만, 병동에서의 가치에 대한 인식은 증가하고 있다. 병원은 병동을 보다 효과적인 임상 마이크로시스템이 되도록 accountable care unit으로 개편하고 있다. Accountable care unit에는 유닛 기반 팀, 구조화된 학제 침대 옆 라운드, 유닛 레벨 성과 보고, 유닛 레벨의 간호사와 의사 공동 책임(50)이 포함된다. 학제간 회진에는 의사, 간호사, 약사, 사회복지사, 사례 관리자, 물리치료사 및 가정치료 전문가가 포함될 수 있다.

Medical schools and training programs are developing models for interprofessional education to build relationships and level power. Although interdisciplinary rounds are logistically challenging to implement, there is increasing recognition of their value on the wards. Hospitals are reorganizing wards into accountable care units so that they are more effective clinical microsystems. Accountable care units include unit-based teams, structured interdisciplinary bedside rounds, unitlevel performance reporting, and unit-level nurse and physician co-leadership (50). Interdisciplinary rounds may include physicians, nurses, pharmacists, social workers, case managers, physical therapists, and home care specialists, creating in-person, synchronous communication.


Position 3

지도자들은 윤리적 우려에 대한 논의를 장려하고, 일상적인 의사결정에 가치를 명시하며, 환자의 복지가 핵심 가치인 전문성에 대한 기대를 구체화함으로써 강력한 윤리 문화를 만들고 유지해야 한다.


Leaders should create and sustain a strong ethical culture by encouraging discussion of ethical concerns, making values in everyday decision making explicit, and embodying expectations of professionalism in which patient well-being is a core value.


윤리와 전문직업성의 문화

A Culture of Ethics and Professionalism


의료진과 학습자는 양식, 프로세스 메트릭스 및 변제에 많은 시간을 할애하여 시간이 부족하다고 보고한다. 체계적이고 조직적인 힘은 연습과 학습 환경에 크게 영향을 미쳤다. 블록과 동료들은 레지던트들이 하루 중 12%만 직접 환자 진료에 쓰고, 하루에 한 명의 환자를 돌보는 데 8분도 걸리지 않는다는 것을 발견했다. 1989년과 2000년(31) 사이에 이루어진 관측에 비해 이러한 시간이 줄어들었다.

Clinicians and learners report insufficient time as a major challenge, with much time spent on forms, process metrics, and reimbursement. Systemic and organizational forces have profoundly affected practice and the learning environment. Block and colleagues found that residents spent only 12% of their day in direct patient care, with less than 8 minutes on the care of any one patient per day. These times were reduced compared with observations made between 1989 and 2000 (31).


2011년 업무 시간 제한은 환자 직접 진료를 위한 시간을 강조하게 만들었다. 대부분의 병원에서는 임상 업무량과 임상의 수가 그대로 유지되었다. 레지던트들은 같은 양의 일을 더 짧은 시간 안에 끝내야 하고, 힘든 선택을 강요하는 업무 압축을 경험하고 있다. 환자 진료는 항상 우선순위가 되어야 하기 때문에, 많은 레지던트들은 제한된 시간 내에 노트와 오더 작성을 완료하기를 것을 선택하고, bedside instruction이나, 가족미팅이나, 컨설턴트와의 토론에 참석하지 않는다. 이런 일이 일어날 때, medicine은 과제를 완료하는 데 더 집중하게 되고 환자나 독특한 교육 기회를 포착하는 것에 덜 집중하게 된다.

A stress on time for direct patient care is the 2011 duty hour restrictions. In most hospitals, the clinical workload and number of clinicians remained the same. Residents have to complete the same amount of work in less time and are experiencing work compression, forcing difficult choices. Because patient care should always be the priority, many residents choose to complete notes and place orders in limited time and miss attending bedside instruction, family meetings, or discussions with consultants. When this occurs, medicine becomes more focused on completing tasks and less focused on the patient and seizing unique educational opportunities.


레지던트는 전문직업성의 충돌을 경험한다(부록 표 1의 5번 참조). 프로그램 책임자와 교직원들은 종종 인가 상태를 유지하기 위해 [의무 시간에 대한 준수]를 강제해야 한다고 느끼는 반면, 훈련생들은 전문직업성이란 [환자의 요구와 교육]을 [의무 시간에 대한 엄격한 준수]보다 우선하는 것이라 믿는다. 훈련생들은 [중증 환자의 치료 목표를 논의하기 위해 가족 모임에 참여하는 것]이 [병원 내에서 근무할 수 있는 시간을 제한하는 규정을 지키는 것]보다 더 중요하다고 당연히 느낄 수 있다. 선임 레지던트와 교직원은 임상의사가 구현해야 할 가치에 대한 역할 모델 대신 '근무시간 경찰'이 될 수 있다. 교수진들은 그렇게 할 때 환자의 관리를 소유하는 전문성이 근무 시간과 상충된다는 메시지를 전달하는 것이 어려울 수 있다. 관행과 정책의 불일치는 윤리와 전문성을 훼손하며, 훈련생과 교수진에게 혼란스럽고 불공평unfair하다. 연습생들에게 갈등을 해결할 수 있는 대화를 장려하는 것은 그들이 전문가로서 발전하는 데 도움이 될 것이다.

Residents encounter conflicts with professionalism (51, 52) (see vignette 5 in Appendix Table 1). Program directors and faculty often feel compelled to enforce adherence to duty hours to maintain accreditation status, whereas trainees believe that professionalism dictates that patient needs and education should be prioritized over strict adherence to duty hours. Trainees may rightly feel that participating in a family meeting to discuss a critically ill patient's care goals is more important than obeying a rule limiting the number of hours they can stay in the hospital. Senior residents and faculty can become the “duty hour police” instead of role models for the values that clinicians should embody. Faculty may find it challenging to convey the message that professionalism means owning the patient's care when doing so conflicts with duty hours. A misalignment of practice and policy undermines ethics and professionalism and is confusing and unfair to trainees and faculty. Encouraging conversations that allow trainees to resolve conflicts will help them develop as professionals.


윤리 및 프로페셔널리즘 문화를 촉진하기 위한 모범 사례 제안

Best Practice Suggestions to Promote a Culture of Ethics and Professionalism


기관의 정책과 구조는 핵심이 되는 직업적 가치를 육성하고 촉진해야 한다. 스케줄링 정책은 각각의 고유한 임상 환경의 장점을 홍보하고 약점을 완화해야 한다. Trainee가 [환자를 돌보기 위해 present하기를 원하는 것]과 [Trainee의 건강 및 환자 안전을 증진하기 위한 규정을 존중하는 것] 사이에서 딜레마에 빠지지 않도록 명확한 기대가 있어야 한다. 프로그램 리더들은 고수할 수 있는 일정을 만들어 충돌을 최소화해야 한다.

Institutional policies and structures should nurture and promote core professional values. Scheduling policies should promote the strengths and mitigate the weaknesses of each unique clinical environment. Expectations should be sufficiently clear so that trainees do not feel caught between wanting to be present to care for patients and respecting regulations intended to promote trainee wellness and patient safety. Program leaders should minimize conflicts by creating schedules that enable adherence.


39. Stanford Medicine. Stanford Medicine 25: Promoting the Culture of Bedside Medicine. 2017. Accessed at http://stanfordmedicine25.stanford.edu on 22 November 2017.


40. University of Washington Medicine. The Colleges. 2017. Accessed at 

www.uwmedicine.org/education/md-program/current-students/the-college on 22 November 2017.


47. Thompson MP. The skills of inquiry and advocacy. Management Commune Q. 1993;7:95-106. XXX


41. Johns Hopkins Medicine Center for Innovative Medicine. Aliki Initiative. 2017. Accessed at www.hopkinscim.org/initiatives/aliki-initiative on 22 November 2017.


44. Lucey C, Souba W. Perspective: the problem with the problem of professionalism. Acad Med. 2010;85:1018-24. [PMID: 20505405] doi: 10.1097/ACM.0b013e3181dbe51f







 2018 Apr 3;168(7):506-508. doi: 10.7326/M17-2058. Epub 2018 Feb 27.

Hidden CurriculaEthics, and ProfessionalismOptimizing Clinical Learning Environments in Becoming and Being a Physician: A Position Paper of the American College of Physicians.

Author information

1
Veterans Health Administration, Washington, DC, and Harvard Medical School and Harvard T.H. Chan School of Public Health, Boston, Massachusetts (L.S.L.).
2
American College of Physicians, Philadelphia, Pennsylvania (L.S.S.).
3
Johns Hopkins University, Baltimore, Maryland (S.D.).

Abstract

Much of what is formally taught in medicine is about the knowledge, skills, and behaviors required of a physician, including how to express compassion and respect for patients at the bedside. What is learned, however, includes not only admirable qualities but also behaviors and qualities that are inconsistent with ethics and professionalism. Positive role models may reinforce the character and values the profession seeks to cultivate; negative ones directly contradict classroom lessons and expectations of patients, society, and medical educators. These positive and negative lessons, which are embedded in organizational structure and culture, are the hidden curricula conveyed in medical schools, residency programs, hospitals, and clinics. This position paper from the American College of Physicians focuses on ethicsprofessionalism, and the hidden curriculum. It provides strategies for revealing what is hidden to foster the development of reflective and resilient lifelong learners who embody professionalism and clinicians who are, and are perceived as, positive role models. Making the hidden visible and the implicit explicit helps to create a culture reflecting medicine's core values.

PMID:
 
29482210
 
DOI:
 
10.7326/M17-2058


학부의학교육에서 지속적 교육과정 개선을 위한 학생-교수 파트너십 촉진(Acad Med, 2019)

Fostering Student–Faculty Partnerships for Continuous Curricular Improvement in Undergraduate Medical Education

Kirstin W. Scott, MPhil, PhD, Dana G. Callahan, Jie Jane Chen, Marissa H. Lynn, David J. Cote, Anna Morenz, Josephine Fisher, Varnel L. Antoine, Elizabeth R. Lemoine, Shaunak K. Bakshi, Jessie Stuart, Edward M. Hundert, MD, Bernard S. Chang, MD, and Holly Gooding, MD, MSc




문제

Problem


학습 환경의 주요 이해당사자로서, 성인 학습자는 지속적인 품질 개선(CQI) 이니셔티브와 교육 개혁에 대한 의견을 제공할 수 있는 고유한 위치에 있다. 불행하게도, 의과대학들은 일반적으로 학생들을 교육 컨설턴트로 충분히 활용하지 못했으며, 커리큘럼 설계 과정에 부적절하게 참여시킬 수도 있다.1

As key stakeholders in the learning environment, adult learners are uniquely positioned to provide input on continuous quality improvement (CQI) initiatives and educational reforms. Unfortunately, medical schools have generally underused students as educational consultants and may inadequately engage them in the curricular design process.1


2015년 가을, 하버드 의과대학(HMS)은 학부 의과 교육을 위한 새로운 커리큘럼인 Pathways를 시행하였다.6 이 구현에는 커리큘럼 구조, 교육학, 내용 및 교수 역할의 완전한 변환이 포함되었다. 

(1) 핵심 교수진이 제공하는 CBCL(case based collaborative learning) 전임상 커리큘럼의 구현, 

(2) 초기 임상 노출의 통합 

(3) 임상실습을 3학년에서 2학년으로 이동. 

In fall 2015, Harvard Medical School (HMS) implemented Pathways, a new curriculum for undergraduate medical education.6 This implementation involved a complete transformation of curricular structure, pedagogy, content, and teaching roles, including the 

(1) implementation of a casebased collaborative learning (CBCL) preclerkship curriculum delivered by core teaching faculty, 

(2) integration of earlier clinical exposure, and 

(3) movement of the clerkship year from the third to the second year. 


또한, 이러한 변화에는 학생 평가의 변경과 임상실습후 통합 과학 과정의 개발이 포함되었다. Pathway 교육 대표단(Ed Reps) 프로그램은 새로운 커리큘럼의 배치와 함께 발생하는 불가피한 과제를 해결하고 새로운 커리큘럼의 최종 사용자(학생)를 이 과정에 참여시킴으로써 CQI를 가속화하기 위해 동시에 만들어졌다.

Additionally, this transformation included changes to student assessment and the development of postclerkship integrated science courses. The Pathways Education Representatives (Ed Reps) program was created simultaneously to address the inevitable challenges that come with the deployment of a new curriculum and to accelerate CQI by engaging the new curriculum’s end users—students—in this process.



접근

Approach


Pathways 커리큘럼 개시를 예상하고 Ed Reps 프로그램을 개발하기 위해, HMS 교직원들은 기존의 외부 및 내부 학생 참여 이니셔티브를 검토했다.

To develop the Ed Reps program in anticipation of the Pathways curriculum launch, HMS faculty examined existing external and internal student engagement initiatives.


HMS에서, 학생들은 역사적으로 공식적인 거버넌스 위원회의 참여와 코스 종료 평가의 완료를 통해 커리큘럼에 대한 피드백을 제공하였다(표 1).

At HMS, students historically provided feedback on the curriculum through participation on official governance committees and completion of end-of-course evaluations (Table 1).


Ed Reps 프로그램은 지속적이고 실시간 커리큘럼 개선을 위해 교직원과 학생 간의 더 큰 파트너십을 증진하는 문화를 육성하기 위해 2015년에 신설되었다. Ed Reps 프로그램은 학생들을 CQI 과정의 중심에 배치하고, 교수진과 훈련된 학생 대표자들 사이의 양방향 피드백을 위한 의사소통 메커니즘을 시기적절하고 효율적인 방법으로 제도화했다는 점에서 이전의 내부 노력과는 달랐다. CQI를 중심으로 한 이 실시간 학생-학업 제휴는 기존의 프로그램 보완에서 큰 변화를 의미하며(위 참조), 새로운 커리큘럼 출범 이후 필요할 것으로 예상되는 과정 내용과 교육학의 빈번한 미세조정refinement을 지원하기 위한 것이었다.

the Ed Reps program was created in 2015 to launch alongside the new curriculum with the aim of fostering a culture that promoted a greater sense of partnership between faculty and students for continuous and real-time curricular improvement. The Ed Reps program differed from previous internal efforts by placing students at the center of the CQI process and institutionalizing a communication mechanism for bidirectional feedback between faculty and trained student representatives in a timely, efficient manner. This real-time student–faculty partnership centered around CQI represented a major shift from the existing complement of programs (see above) and aimed to support the frequent refinement of course content and pedagogy that was anticipated to be needed following the launch of a new curriculum.



Ed Reps 선정, 교수진 멘토링 및 교육

Ed Reps selection, faculty mentorship, and training


학생들은 입학 후 2개월 이내에 이 [자발적인 지원 기반 프로그램]에 선발되는데, 이는 그들이 임상실습 기간과 그 이후까지 종단적으로 서비스를 계속할 것이라는 기대에서이다. 처음 2년 동안에는 Ed Reps 프로그램에 지원한 모든 학생들이 선발되었다(2015–2016 [AY15], 2016–2017 [AY16]). 3년차(학술년 2017~2018년 [AY17])부터는 제안된 자리가 줄어들었고(총 8개), 수석 에드 렙스는 지원서를 토대로 후보 순위를 매겼다.

Students are selected into this voluntary, application-based program within two months of matriculation with the expectation that they will continue their service longitudinally through their clerkship year and beyond. All students who applied to the Ed Reps program in the first two years were selected (21 in academic year 2015–2016 [AY15] and 19 in academic year 2016–2017 [AY16]). Starting in the third year (academic year 2017–2018 [AY17]), fewer slots were offered (8 in total), and senior Ed Reps ranked candidates based on their applications.


교수 멘토는 Ed Reps의 격주 회의에 참여함으로써 지원을 제공하며(아래 참조), 임시로 Ed Reps와 만날 수 있다. 멘토는 또한 다음에 대한 교육을 제공한다. 

    • 성인 학습 이론, 

    • Pathways 커리큘럼을 뒷받침하는 증거 기반 교육 전략, 

    • 교수진 및 동료에게 피드백을 제공하기 위한 모범 사례 

    • 필요에 따라 동료 학생을 제도적 지원에 연결하는 절차(예: 장애 사무소, 상담 및 정신 건강 서비스, 익명 학습 환경 보고 도구)

A faculty mentor provides support by participating in the Ed Reps’ biweekly meetings (see below) and is available to meet with Ed Reps on an ad hoc basis. The mentor also provides training in 

    • adult learning theory, 

    • the evidence-based teaching strategies underpinning the Pathways curriculum, 

    • best practices for providing feedback to faculty and peers, and 

    • procedures for connecting fellow students to institutional supports as needed (e.g., the disability office, counseling and mental health services, anonymous learning environment reporting tools).


프로그램 구조

Program structure


과정 감독과의 커뮤니케이션을 효율화하기 위해, Ed Reps가 각 사전 커리큘럼 과정과 4개 학습 커뮤니티의 리드 컨택 역할을 했다. 한 학습 커뮤니티는 40명의 학생과 2명의 리드 교직원으로 구성되어 있다. 수업 전 과정의 CBCL 세션마다 학생들은 4인 1조로 협력하여 새로운 지식을 수업 중인 사례에 적용하고, 그 후 교직원들이 전체 40인 학습 커뮤니티와 함께 사례 검토를 주도한다. 각 학습 커뮤니티는 교과과정이 일관성 있게 시행되도록 하기 위해 각 세션에 대해 동일한 준비 작업, 사례, 수업 내 자료 및 평가를 사용한다.

To streamline communication with course directors, one or two Ed Reps served as the lead contact for each preclerkship course and for each of four learning communities. A learning community comprises 40 students and two lead faculty. During each CBCL session in the preclerkship course, students work collaboratively in groups of four to apply new knowledge to in-class cases, after which faculty lead a review of the cases with the entire 40-person learning community. Each learning community uses the same preparatory work, cases, in-class materials, and assessments for each session to ensure that the curriculum is implemented consistently.


Ed Reps는 과정 내용, 교육학, 강의실 역학, 평가 및 학습에 미치는 영향에 대한 실시간 학생 피드백을 탐색했다. 피드백을 수집하는 방법이 진화했지만, 피드백은 일반적으로 비공식적인 동료 대화 및 학습 커뮤니티 미팅 외에 격주로 익명의 온라인 설문조사를 통해 수집되었다. 에드 레퍼스 

    • 격주로 만나 수집된 피드백을 검토하고 과제를 파악하며 해결책을 도출한다. 

    • 코스 이사 및 핵심 교직원과 정기적으로 만나 양방향 피드백을 전달하여 실시간으로 학습 환경을 최적화하십시오. 

    • 주간 이메일과 직접 발표를 통해 학생들의 피드백에 대한 교수진의 반응을 업데이트했다. 

Ed Reps sought real-time student feedback about course content, pedagogy, classroom dynamics, assessments, and their impact on learning. Although methods for gathering feedback evolved, feedback was typically gathered through optional biweekly anonymous online surveys in addition to informal peer conversations and learning community meetings. The Ed Reps 

    • met biweekly to review the gathered feedback, identify challenges, and generate solutions; 

    • met regularly with course directors and core faculty to convey bidirectional feedback (see below) to optimize the learning environment in real time; and 

    • updated their class on faculty responses to student feedback via weekly emails and in-person announcements. 


Ed Reps는 또한 주기적으로 학생들의 학습 환경에 대한 준비 및 참여 수준에 대한 교수 피드백을 검토했다. 또한 효과적인 학습 습관에 대한 제안을 검토했고, 동료들과 함께 Pathway 커리큘럼 뒤에 숨겨진 과학적 근거 등을 검토했다.

Ed Reps also periodically reviewed faculty feedback on students’ level of preparation for and engagement in the learning environment, suggestions for effective study habits, and the scientific rationale behind the Pathways curriculum with their peers.


성과

Outcomes


우리는 3명의 학생 조사와 1명의 교직원 조사를 포함하는 Ed Reps 영향 조사 프로젝트의 데이터를 제시한다.

We present data from the Ed Reps impact survey project, which includes three student surveys and one faculty survey.


학생 관점

Student perspectives


총 222명의 Pathway 학생들이 프로그램 초기 3년 동안 설문조사를 완료했다(AY15: 77/152 [50.7% 응답률(RR)], AY16: 68/145 [46.9% RR], AY17: 77/159 [48.4% RR], P = .94).

A total of 222 Pathways students completed the survey across the initial three years of the program (AY15: 77/152 [50.7% response rate (RR)]; AY16: 68/145 [46.9% RR]; AY17: 77/159 [48.4% RR]; P = .94).


대다수의 학생들은 에드 레퍼스(217; 97.7%)를 알고 있었으며, 대부분의 학생들은 에드 레퍼스에게 피드백을 제공했다고 보고했다(156; 70.3%). 응답자 중 대다수는 Ed Reps가 커리큘럼(202; 91.0%)에 긍정적인 영향을 미쳤고, 교직원에게 학생 피드백을 촉진했으며, 진행 중인 과정을 실시간으로 개선하는 데 도움이 되었다고 보고했다(194; 87.4%) 상대적으로 Ed Reps가 교수진과의 직접 소통의 장벽이라고 느끼는 학생은 거의 없었다(24; 10.8%).

The vast majority of students were aware of their Ed Reps (217; 97.7%), and most students reported providing feedback to their Ed Reps at some point in the year (156; 70.3%). A strong majority of respondents reported that Ed Reps had a positive impact on the curriculum (202; 91.0%), facilitated student feedback to faculty (212; 95.5%), and helped make real- time improvements to ongoing courses (194; 87.4%). Relatively few students felt that the Ed Reps were a barrier to direct communication with faculty (24; 10.8%).


여러 가지 중심 주제가 학생들의 자유 텍스트 응답에서 나왔다(표 2).

Several central themes emerged from the students’ free-text responses (Table 2).


학생들은 Ed Reps가 학생 투입을 위한 체계적인 경로를 제공함으로써 교직원들에게 적시에 통합된 피드백을 용이하게 해준다는 것을 인정했다. 학생들의 입력을 바탕으로 한 수업 변경의 실시간 방식에 주목하면서 학생 임파워먼트를 가치있게 여겼다. 일부 학생들은 피드백이 전체 클래스를 더 대표할 수 있도록 Ed Repers의 피드백 요청 및 커뮤니케이션 프로세스의 투명성을 높일 필요가 있다고 제안했다.

Students appreciated that Ed Reps facilitated timely, synthesized feedback to faculty by offering a structured path for student input. Student empowerment was valued, with students noting the real- time manner in which course changes were implemented based on their input. Some students suggested a need to increase the transparency of the Ed Reps’ feedback solicitation and communication processes to ensure that feedback was more representative of the entire class.



교수 관점

Faculty perspectives


총 47명(적격자 64명 중 73.4% RR)의 교수진이 설문조사를 완료했으며, 대부분 AY15와 AY16(42/47; 89.4%)에서 경로 커리큘럼에서 강의했다.

A total of 47 (out of 64 eligible) faculty members completed the survey (73.4% RR), most of whom taught in the Pathways curriculum in both AY15 and AY16 (42/47; 89.4%).


대다수의 교직원들은 Ed Reps가 학습 환경(34/37; 91.9%) 학생-학업 관계(33/37; 89.2%) 교수 및 학습 활동(32/36; 88.9%)에서 긍정적인 영향을 미친다는 데 동의했다. 여전히 과반수지만, Ed Reps가 학습 목표(19/33; 57.6%)와 기관의 규칙과 절차에 긍정적인 영향을 미친다는 데 동의한 교수 수는 더 적었다(16/30; 53.3%). Ed Reps의 피드백을 받은 교수들 중 거의 모든 교수들이 이 인풋에 기초하여 과목을 개선했다고 보고했다(35/37; 94.6%). 진행 중인 과정과 향후 과정에 대해 교수진이 보고한 커리큘럼 변경의 구체적인 영역은 그림 1과 같다.

The majority of faculty agreed that the Ed Reps had a positive impact in the following areas: the learning environment (34/37; 91.9%), student–faculty relationships (33/37; 89.2%), and teaching and learning activities (32/36; 88.9%). Although still a majority, fewer faculty agreed that the Ed Reps had a positive impact on learning objectives (19/33; 57.6%) and institutional rules and procedures (16/30; 53.3%). Of faculty who received feedback from the Ed Reps, almost all reported making changes to their course based on this input (35/37; 94.6%). Specific domains of curricular change reported by faculty for ongoing and future courses are shown in Figure 1.




다음 단계

Next Steps


프로그램 인식, 사용 및 만족도

Program awareness, use, and satisfaction


Ed Reps 프로그램에 대한 인식, 사용 및 만족도는 교직원과 학생들 사이에서 높았다. 상당수의 학생들은 Ed Reps가 커리큘럼에 긍정적인 영향을 끼치고, 교직원들에게 학생들의 피드백을 용이하게 하며, 진행 중인 과정의 실시간 개선을 돕는다고 생각했다. 중요한 것은, 대다수의 교직원들이 이 프로그램에 대해 긍정적인 반응을 보임에 따라, 학생들의 견해가 교직원의 반응과 echo하였다는 점이다. 교수진은 에드 렙스가 긍정적인 학습 환경을 조성하고 학생-학생-학생-교수간 파트너십을 촉진하는 데 미치는 영향을 긍정적으로 보고, 이 프로그램이 의도된 문화 변화, 즉 새로운 커리큘럼을 만드는 데 진정한 동반자 의식을 달성하는 데 도움이 되었음을 시사했다. 우리의 결과는 Ed Reps 프로그램 또한 실시간 커리큘럼 개선을 촉진한다는 목표를 달성했으며, 교수진의 거의 95%는 Ed Reps의 피드백에 대응하여 커리큘럼을 변경했다.

Awareness of, use of, and satisfaction with the Ed Reps program was high among faculty and students. A significant majority of students felt that the Ed Reps had a positive effect on the curriculum, facilitated student feedback to faculty, and helped make real-time improvements to ongoing courses. Importantly, students’ perspectives were echoed in faculty responses, with the majority of faculty reporting positive responses to the program. Faculty viewed the impact of Ed Reps in promoting a positive learning environment and facilitating student–faculty partnerships favorably, suggesting that the program helped to achieve the intended culture change: a true sense of partnership in creating the new curriculum. Our results demonstrate that the Ed Reps program also achieved its objective of facilitating real-time curricular improvement, with nearly 95% of faculty reporting making curricular changes in response to Ed Reps’ feedback.


연구 한계

Study limitations


당면 과제 및 향후 방향

Challenges and future directions


매년 Ed Reps impact survey를 학생들에게 계속 배포함에 따라, 연간 비교는 Ed Reps 프로그램 자체의 CQI(즉, 추세에 관한 모든 것을 식별, 추적 및 다루기 위해)에 사용될 것이다. impact survey에서 비롯되는 CQI의 한 가지 예는 (지원자들이 AY17에서 구현된 Ed Rep로서 직면할 수 있는 다섯 가지 시나리오에 대한 접근방식을 공유하도록 요구하는) 보다 엄격한 Ed Reps 선발 과정이다. 또한, Ed Reps는 동료 피드백을 수집하고 동료에게 교직원 반응을 다시 전달하는 방법을 개선하기 위해 이러한 impact survey 데이터를 계속 사용한다(예: 구조화된 주간 이메일 업데이트와 같은 표준화된 커뮤니케이션 프로세스를 통해).

As we continue to distribute the Ed Reps impact survey to students annually, the year-to-year comparisons will be used for CQI of the Ed Reps program itself (i.e., to identify, track, and address any concerning trends). One example of CQI resulting from the impact survey is the more rigorous Ed Reps selection process that requires candidates to share their approach to five scenarios they might encounter as an Ed Rep, which was implemented in AY17. Additionally, Ed Reps continue to use these impact survey data to improve their methods for collecting peer feedback and conveying faculty responses back to their peers (e.g., via standardized communications processes such as structured weekly email updates).








 2019 Jul;94(7):996-1001. doi: 10.1097/ACM.0000000000002726.

Fostering Student-Faculty Partnerships for Continuous Curricular Improvement in Undergraduate Medical Education.

Author information

1
K.W. Scott is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts; ORCID: https://orcid.org/0000-0002-5415-6479. D.G. Callahan is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts; ORCID: https://orcid.org/0000-0002-1413-5331. J.J. Chen is a third-year medical student, Harvard Medical School, Boston, Massachusetts; ORCID: https://orcid.org/0000-0002-5380-4825. M.H. Lynn is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. D.J. Cote is a fourth-year medical student and PhD student, Harvard Medical School and Harvard T.H. Chan School of Public Health, Boston, Massachusetts. A. Morenz is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. J. Fisher is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. V.L. Antoine is a second-year medical student, Harvard Medical School, Boston, Massachusetts. E.R. Lemoine is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. S.K. Bakshi is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. J. Stuart is a fourth-year medical student, Harvard Medical School, Boston, Massachusetts. E.M. Hundert is dean for medical education and Daniel D. Federman, M.D. Professor in Residence of Global Health and Social Medicine and Medical Education, Harvard Medical School, Boston, Massachusetts. B.S. Chang is advisory dean and director, Francis Weld Peabody Society, and course director, Mind, Brain and Behavior, Harvard Medical School, Boston, Massachusetts. H. Gooding is faculty mentor, Education Representatives Program, Harvard Medical School, and adolescent medicine specialist, Division of Adolescent and Young Adult Medicine, Boston Children's Hospital, Boston, Massachusetts.

Abstract

PROBLEM:

A number of medical schools have used curricular reform as an opportunity to formalize student involvement in medical education, but there are few published assessments of these programs. Formal evaluation of a program's acceptability and use is essential for determining its potential for sustainability and generalizability.

APPROACH:

Harvard Medical School's Education Representatives (Ed Reps) program was created in 2015 to launch alongside a new curriculum. The program aimed to foster partnerships between faculty and students for continuous and real-time curricular improvement. Ed Reps, course directors, and core faculty met regularly to convey bidirectional feedback to optimize the learning environment in real time.

OUTCOMES:

A survey to assess the program's impact was sent to students and faculty. The majority of students (202/222; 91.0%) reported Ed Reps had a positive impact on the curriculum. Among faculty, 35/37 (94.6%) reported making changes to their courses as a result of Ed Reps feedback, and 34/37 (91.9%) agreed the program had a positive impact on the learning environment. Qualitative feedback from students and faculty demonstrated a change in school culture, reflecting the primary goals of partnership and continuous quality improvement (CQI).

NEXT STEPS:

This student-faculty partnership demonstrated high rates of awareness, use, and satisfaction among faculty and students, suggesting its potential for local sustainability and implementation at other schools seeking to formalize student engagement in CQI. Next steps include ensuring the feedback provided is representative of the student body and identifying new areas for student CQI input as the curriculum becomes more established.

PMID:
 
30920449
 
DOI:
 
10.1097/ACM.0000000000002726



'PBL 교육과정의 효과성: 이론, 실천, 논문다트'의 리비지팅(Med Educ, 2016)

Revisiting ‘Effectiveness of problem-based learning curricula: theory, practice and paper darts’

Geoffrey R Norman1 & Henk G Schmidt2




우리는 모두 문제 기반 학습(PBL)이 그것의 옹호자들에 의해 약속된 만병통치약이 아니라는 것에 동의했다. 우리가 말했듯이, 우리는 콜리버와 그 증거에 대해 크게 동의하지 않는다. 효과 크기가 중간 정도인지 중간 정도인지, 그리고 주의를 기울여야 하는지 또는 할인되어야 하는지에 대해서는 의견이 다를 수 있지만, 우리는 PBL이 인지적 성과 측면에서 극적인 차이를 가져오지 않는다는 것에 동의한다.'2

We all agreed that problem-based learning (PBL) is not the panacea promised by its advocates. As we said: ‘...we are not in substantial disagreement with Colliver about the evidence. While we may disagree as to whether an effect size is moderate or medium, and should be attended to or discounted, we do agree that PBL does not result in dramatic differences in cognitive outcomes.’2


두 논문 모두 몇 개의 고립된 사례와 체리선택된 사례에 근거하여 다음에 대해서 각자 허황된 주장을 사용했다: 

(i) 인지심리는 형편없는 과학이다, 

(ii) 인지심리는 훌륭한 과학이다. 


콜리버는 다음과 같이 썼다. '문제는 내가 보기에 이론이 약하다는 것이다. 이론적 개념은 부정확하며, 그들의 상호 관계와 중재와 결과와 같은 관찰 대상과의 관계에 대한 명확한 설명이 결여되어 있다. 또한 기초 연구는 이론과 관계없이 예상된 결과를 보장하는 것처럼 보이는 조작을 사용함으로써, 어쨌든 관측 가능한 것들에 실질적인 제약을 가하기에는 너무 비한정적이다. 간단히 말해서 이론과 연구의 관계는 기껏해야 느슨하다.'1

Both papers1,2 used flimsy arguments based on a couple of isolated and cherry-picked examples to illustrate that: (i) cognitive psychology is poor science, and (ii) cognitive psychology is wonderful science. Colliver wrote: ‘The problemis, as I see it, that the theory is weak; its theoretical concepts are imprecise, lacking explicit descriptions of their interrelationships and of their relationships with observables, such as interventions and outcomes. In addition, the basic research is contrived and ad hoc, using manipulations that seem to ensure the expected results regardless of the theory, which is too indefinite to place any real constraints on the observables anyway. In brief, the ties between theory and research are loose at best.’1


  • 콜리버1은 모든 이론에 기초한 연구를 포기하고, 실용적인 커리큘럼 개입의 무작위화된 실험에 초점을 맞추는 것을 주장했다. 

  • 우리는 문제 기반이든 그렇지 않든 학습의 근간을 이루는 메커니즘을 더 잘 이해하기 위해 이론에 기초한 환원주의적 연구를 옹호했다.

Colliver1 advocated abandoning all theory-based research and focusing on randomised experiments of practical curriculum interventions. We advocated (and continue to advocate) the opposite: more theory-based reductionist research to better understand the mechanisms underlying learning, whether problem-based or otherwise.


첫째, 이제 우리는 PBL의 효과에 대해 무엇을 알고 있는가? PBL이 학생들에게 하는 행동에 대한 연구는 두 가지 다른 경로를 따랐다. 즉, 보다 인기 있는 커리큘럼 비교, 2000년 논문, 1에서 비판받았고 인지적 관점에서 접근방식의 기본 요소에 대한 연구. 이러한 연구들은 일반적으로 초기에 문제에 직면하는 것이 후속 학습에 미치는 긍정적인 영향을 보여주었다.3

Firstly, what do we now know about the effectiveness of PBL? Research into what PBL does to students has followed two separate paths: 

  • the more popular curriculum comparisons, criticised in our 2000 paper,1 and 

  • studies into the basic elements of the approach from a cognitive perspective. 

These studies, have generally demonstrated positive effects of the initial confrontation with problems on subsequent learning.3


둘째로, 우리는 통제된 시험과 실질적인 개입에 대한 체계적인 검토를 통해 촉진된 교육 전략을 어느 정도까지 채택했는가? 어디로 이어졌는가?

Secondly, to what extent have we adopted the educational strategies promoted through controlled trials and systematic reviews of practical interventions? Where has this led?


이러한 체계적인 검토가 그 분야에 얼마나 기여했는가? David Cook은 e-러닝과 같은 교육 개입의 무작위화된 시험의 최우선적 결론은 그런 교육개입의 이득이 minimal하다는 것을 나타낸다고 지적한다. 그들은 교육을 하는 것은 교육을 하지 않는 것보다 낫지만, 어떤 유형의 교육도 다른 어떤 교육보다 무조건 낫지는 않다는 것을 보여준다.

How much have these systematic reviews contributed to the field? David Cook, points out that the overriding conclusions of randomised trials of education interventions like e-learning indicate minimal advantage; they show that education is better than no education and that no one type of education is robustly better than any other,7


시뮬레이션은 다른 대안적인 접근법보다는 약간 더 나은 것 같지만, 6 고충실도의 시뮬레이션은 고충실도의 시뮬레이션보다 장점이 없다.8 우리는 또한 무작위적인 실험을 통해 피드백이 학습을 향상시킨다는 것과 더불어 꽤 자명한 몇 가지 진리들을 배웠다.

Simulations seem to be a bit better than alternative approaches,6 but high-fidelity simulations have no advantage over those of low fidelity.8 We have also learned, from randomised trials, for example, that feedback enhances learning, along with a few other fairly self-evident truths.


셋째, 인지심리학 이론에 근거한 연구를 어느 정도까지 채택하였는가? 이게 어디서부터 시작됐지?

Thirdly, to what extent have we adopted research grounded in theories of cognitive psychology? Where has this led?


2000년 이전에 이미 학문으로서의 인지심리학이 의학 교육 내에서 상당한 영향력을 행사한 반면에, 연구가 사용되고 있던 인지심리학자들은 최근에야 이 분야로 이주하기 시작했다.

Whereas cognitive psychology as a discipline already had considerable influence within medical education prior to 2000, cognitive psychologists whose research was being used have themselves only recently begun to migrate nto the field.


콜리버의 요약과 대조적으로, 이 개인들이 행한 연구의 공통적인 특징은 인지심리의 기원 이후 50년 이상 동안 진화해 온 마음에 대한 모델이다.

By contrast with Colliver’s1 summary of the field, the common feature of the investigations these individuals have conducted is a model of the mind that has evolved over the 50-plus years since the origin of cognitive psychology


하나의 요소를 예로 들자면, 작업기억의 용량 제한이 개입 연구의 두 영역으로 이어져 상당한 실질적인 결과를 가져왔다.

To choose one element as an example, the limited capacity of working memory has led to two domains of intervention research with considerable practical consequences.


첫째, 메이어와 그의 동료들에 의해 수행되는 멀티미디어 학습에 대한 연구10,11은 큰 효과를 가져오는 교육 자료의 발표를 위한 겉보기에는 작은 전략을 탐구한다. 이러한 개입의 공통분모는 인지 부하에 초점을 맞춘다. 모든 개입은 생성 부하를 최대화하고 관련 없는 부하를 최소화하도록 설계된다.

First, research into multimedia learning conducted by Mayer and his associates10,11 explores seemingly small strategies for the presentation of educational materials that result in large effects. The common denominator of these interventions is the focus on cognitive load: all the interventions are designed to maximise generative load and minimise extraneous load.


둘째, 특히 시뮬레이션 영역에서 많은 연구가 인지 부하를 조작하였고, 학습에 직접적인 영향을 주었다. 그 결과 이론은 시뮬레이션, 가상 환자 프레젠테이션 및 기타 학습 영역에 대한 연구의 표준 관점이 되었다.12

Second, many studies, particularly in the simulation domain, have manipulated cognitive load and shown direct effects on learning. The resulting theory has become a standard perspective in research on simulation, virtual patient presentations and other areas of learning.12


이와 유사하게 장기기억의 연관적 특성associative nature은 학습과 실천 전략에 관한 실질적인 함의를 보여 주었다. 이 견해에 따르면, 모든 학습은 [서로 다른 기억 흔적memory traces 사이의 연관성을 강화하는 것]에 해당한다. 이러한 관점의 채택은 다양한 유형의 예시를 '혼합하는 것'의 가치에 대한 질문으로 이어지는데, 이 예시는 추가적인 기사에서 설명한 것처럼 학습자가 문제의 개념적 기초를 이해하는 데 도움이 될 수 있다.13

Similarly, the associative nature of long-term memory has demonstrated practical implications with regard to strategies for learning and practice. In this view, all learning amounts to strengthening the associations between different memory traces. The adoption of this perspective leads to questions about the value of ‘mixing’ examples of different types to facilitate practice that can help learners understand the conceptual basis of problems, as described in a further article.13


마찬가지로 '시험 강화 학습'에 관한 연구14,15는 기억력 회복을 촉진하는 반복적인 작은 시험에 시간을 바치는 것이 공부하는데 같은 시간을 소비하는 것보다 훨씬 효과적이라는 것을 반복적으로 보여줌으로써 심오한 영향을 끼쳤다.

Similarly, studies on ‘test-enhanced learning’14,15 have had a profound impact by showing repeatedly that devoting time to repeated small tests, which encourages memory retrieval, is far more effective than spending an equivalent amount of time studying.


11 Issa N, Mayer RE, Schuller M, Wang E, Shapiro MB, DaRosa DA. Teaching for understanding in medical classrooms using multimedia design principles. Med (4):388–96. Educ 2013; 47








 2016 Aug;50(8):793-7. doi: 10.1111/medu.12800.

Revisiting 'Effectiveness of problem-based learning curriculatheorypractice and paper darts'.

Author information

1
Hamilton, Ontario, Canada.
2
Rotterdam, the Netherlands.
PMID:
 
27402036
 
DOI:
 
10.1111/medu.12800


상황에 맞는 재교육: 의학교육시스템에서 성공과 실패에 부응하기(Acad Med, 2018)

Situating Remediation: Accommodating Success and Failure in Medical Education Systems

Rachel H. Ellaway, PhD, Calvin L. Chou, MD, PhD, and Adina L. Kalet, MD, MPH




CBME의 채택은 점점 더 높은 품질의 평가를 수행하는 데 초점을 맞추고 있으며, 이는 어려움을 겪고 있는 의료 학습자에게 교정하기 위한 통합 전략의 필요성을 강조하였다.2 그러나 교정조치remediation 관행은 CBME와 관련된 의학교육 관행의 변화에 따른 광범위한 결과에 거의 주의를 기울이지 않은 채로 수행되는 것으로 보인다.

The adoption of CBME has focused on conducting more and higher-quality assessments, which has highlighted the need for integrated strategies to remediate struggling medical learners.2 However, remediation practices appear to take place with little attention to broader consequences of the changes to medical education practice associated with CBME.


의학교육의 재교육

Remediation in Medical Education


의학교육의 재교육(remediation)은 "의사가 되기 위한 여정을 시작하였으나 항로를 벗어난 연수생에 대한 교정을 촉진하는 행위"로 정의되었다.3(p.xvii)

Remediation in medical education has been defined as “the act of facilitating a correction for trainees who started out on the journey toward becoming a physician but have moved off course.”3(p.xvii)


재교육은 학습자, 재교육자 역할을 하는 교수, 재교육이 발생하는 학습 맥락에 따라 서로 다른 형태를 갖는다.

Remediation takes different forms according to the particular problems involved, as well as the learners, the faculty who act as their remediators, and the learning contexts in which this takes place.


일반적으로 재교육 조치는 

  • (1) 해결해야 할 요구나 결손need or deficit을 식별

  • (2) 요구나 결손need or deficit을 학습 또는 성과 목표의 관점에서 프레이밍 

  • (3) 추가 훈련 및 모니터링으로 구성된 일련의 사전정의된, 공식적 인가된 절차를 개발하고 실행

  • (4) 학습자가 이를 충족했는지를 확인하기 위해 사전정의된 재교육 목표 달성 여부를 평가하고 종결.1,5,6

Generally, remediation involves 

  • (1) identifying the need or deficit to be addressed; 

  • (2) framing it in terms of required learning or performance goals; 

  • (3) developing and executing a series of defined and officially sanctioned episodes of additional training and monitoring; and 

  • (4) concluding with an assessment of whether the learner has met the predetermined remediation goals.1,5,6


재교육 조치는 하나 또는 그 이상의 감독자가 만족할 수 있도록, 특정 성과 부족을 해결하기 위한 집중적, 시간제한적, 고도로 구조화된 일련의 에피소드들이다.

Remediation is (or should be) a focused, time-limited, and highly structured series of episodes within which specific performance deficits must be addressed to the satisfaction of one or more supervisors.


  • 따라서 프로젝트로서 재교육 조치는 반응적이기도 하고 적응적이기도 하다. 재교육은 개별 학습자가 실패의 위험에 처했을 때에만 시행되지만, 학습자가 어려움을 겪고 있는 특정 문제에 초점을 맞춰 이루어진다. 

  • 재교육은 또한 경계적 프로젝트liminal undertaking이다. 재교육은 "메인스트림"의학교육의 바깥에 있다. 이는 학습자가 재교육을 받는 동안 학습자의 (발달)궤적이 중단되거나, 교정 활동이 학습자의 "정상" 학업과 병행하여 계속될 수 있기 때문이다.

  • Remediation as an undertaking is therefore both reactive and adaptive; it is invoked only when individual learners are at risk of failing, with each instance focusing on the particular issues with which the learner is struggling. 

  • Remediation is also a liminal undertaking. It sits outside “mainstream” medical education because a learner’s trajectory may be suspended while the learner is being remediated, or the remediation activity may continue in parallel with the learner’s “normal” studies.


재교육 조치는 정규 교육과 동일하지 않다. 더 구체적이고, 강렬하고, 집중되어 있으며, 부담stake이 평소보다 높다. 학습자는 추가 제재를 피하기 위해 필요한 퍼포먼스 개선 사항을 명확하고 안정적으로 입증해야 한다. 성공적으로 재교육 조치를 완료하는 것은 "정상적인" 훈련으로 다시 복귀함을 의미하고, 재교육에 실패하는 것은 probation되거나, 프로그램에서 완전히 제외되는 것이다.

remediation is not the same as regular training: It is more specific, intense, and focused, and the stakes are higher than usual. The learner must unambiguously and reliably demonstrate the required performance improvements to avoid further sanctions. To successfully complete remediation is to be rehabilitated back into “normal” training; to fail is to face probation or exclusion from the program.


대부분의 학습자에게는 교육과정을 거치며 재교육 조치가 거의 또는 전혀 수행되지 않지만, 재교육을 받는 학생은 과도한 양의 교수 및 행정적 시간 및 리소스를 요구한다.7 사실, 의료 교육 프로그램 지도자들 사이에서 흔한 불평은 그들이 상대적으로 소수에 해당하는 어려움을 겪고 있는 학습자들을 돕는 데 너무 많은 시간을 보낸다는 것이다.

Most learners undergo little or no remediation as they progress through their training, but those who do require a disproportionate amount of faculty and administrative time and resources.7 Indeed, a common complaint amongst medical education program leaders is that they spend much of their time helping relatively small numbers of struggling learners.


분명히 재교육 조치와 나머지 의료 교육 사이에는 교차점이 있다. 따라서 우리는 의학교육 시스템의 광범위한 맥락에서 재교육 조치를 고려할situate 필요가 있다. 이를 통해 단순히 재교육 practice를 guide할 뿐만 아니라, 다음의 문제도 다룰 수 있을 것이다.

  • 건설적인 정렬, 

  • 교정조치의 숨겨진 커리큘럼, 

  • 교정조치 규칙 및 프로세스의 투명성 및 일관성 

  • 교정조치가 의학교육 전반에 미치는 영향

Clearly, there are intersections between remediation and the rest of medical education. We therefore need to situate remediation in the broader context of medical education systems, not just to guide remediation practices but also to address issues of 

  • constructive alignment, 

  • the hidden curricula of remediation, 

  • the transparency and consistency of remediation rules and processes, and 

  • the impact of remediation on medical education as a whole.

교육자로서 우리는 실패에 따르는 각종 비용을 본다. 여기에는 학습자의 (시간, 비용, 평판, 스트레스), 교사(시간, 스트레스) 및 프로그램(보급, 생존자의 죄책감) 등이 있다. 학습자에게 fail 주는 것을 어려워하면서 만성적인 "실패 실패" 현상이 발생하였다

As educators, we see the costs of failure for learners (time, fees, reputation, stress), their teachers (time, stress), and their programs (coverage, survivor guilt). The difficulties associated with failing learners have led to a chronic “failure to fail” phenomenon,10


이런 점에서 의학교육 제도의 실패는 의료시스템의 문제가 된다. 비록 "실패실패"가 세계적이며, 여러 학문분야에서 생기는 문제지만, 12 캐나다와 미국과 같은 개인주의 문화와 연관되는 것 같이 보이며, 이 두 나라에서는 의과대학 교육과정에서 유급률attrition이 다. 학부 의과대학 교육 프로그램의 국제적으로 attrition rate는 약 11%,13%로 추정되었지만, 이 비율은 미국(3.4%)에서는 훨씬 낮고 캐나다(0.4%)에서는 심지어 더 낮다.15

The failure of the medical education system in this regard becomes a health care system problem. Although “failure to fail” is a worldwide and multidisciplinary problem,12 it seems particularly relevant to the more individualist cultures of Canada and the United States, which have low rates of attrition from medical training. The international rate of attrition for undergraduate medical education programs has been estimated at around 11%,13 but the rate is far lower in the United States (3.4%)14 and an order of magnitude lower still in Canada (0.4%).15


각 기관에서는 다음을 우려한다.

  • 학습자 제적에 따른 법적 영향, 

  • 막대한 금융부채의 현실, 

  • 훈련을 마치지 못하는 개인에게 있어, 만족스럽고 합리적인 대안 부족

institution concerns regarding 

  • the legal implications of dismissing a learner, 

  • the reality of heavy financial debt, and 

  • a lack of satisfying and reasonable alternatives to the medical profession for individuals who are unable to complete their training.


지역 기반 교정 모델

A Zone-Based Model of Remediation


우리는 규범적인 의학 교육 관행을 두 개의 하위 시스템 측면에서 설명할 수 있다. 하나는 성공과 완성에 초점을 맞추며, 다른 하나는 실패와 배제에 초점을 맞추고 있다. 각각은 서로 다른 규칙과 관행을 가지고 있으며, 각각 자체의 문헌과 증거 기반을 가지고 있다.9,16–18 우리는 두 서브시스템 사이의 교량으로서 재교육 조치를 고려할 수 있다.

We can describe normative medical education practice in terms of two intertwined subsystems: one focused on success and completion, the other focused on failure and exclusion. Each has different rules and practices, and each has its own literature and evidence base.9,16–18 We can consider remediation as a bridge between these two subsystems:


세 서브시스템 간의 주요 차이는 표 1에 제시되어 있다.

Key differences between the three subsystems are set out in Table 1.



우리는 5개 실천구역의 관점에서 이러한 차이점들을 재도입할 것을 제안한다.

We propose reframing these differences in terms of five zones of practice.


  • 구역 1과 2는 성공 서브시스템을 반영한다. 

    • 영역 1에서 학습자는 예상 수준 이상에서 수행하며, 가르치는 것은 학습자의 독립적인 실천에 대한 지속적인 진행을 지원하는 데 초점을 맞추고 있다. 

    • 영역 2에서 학습자는 예상 수준 이하를 수행하고 있으며(끔찍하게 그렇지 않지만), 학습자가 영역 1로 돌아갈 수 있도록 가르치는 것은 본질적으로 수정된다. 

Zones 1 and 2 reflect the success subsystem. 

  • In Zone 1, the learner is performing at or above expected levels, and teaching is focused on supporting the learner’s continued progression toward independent practice. 

  • In Zone 2, the learner is performing below expected levels (although not egregiously so), and teaching is intrinsically corrective to enable the learner to return to Zone 1. 


  • 교정조치 하위시스템인 구역 3에서 학습자는 허용 가능한 최소 표준 이하로 수행하며 능동적인 교정조치를 수행하고 있으며, 학습자는 성공 또는 실패 하위시스템으로 종료해야 한다. 

  • In Zone 3, the remediation subsystem, the learner is performing below an acceptable minimal standard and is undergoing active remediation; the learner must exit to either the success or failure subsystem. 


  • 마지막으로, 고장 서브시스템은 구역 4와 5로 나뉜다. 

    • 구역 4에서 학습자는 지속적으로 허용 가능한 표준 이하로 수행해 왔으며, 중단되거나, 보호관찰에 처해지거나, 프로그램의 구성 요소를 다시 수강해야 한다. 

    • 5구역에서는 학습자가 프로그램에서 제외된다. 

  • Finally, the failure subsystem is divided into Zones 4 and 5. 

    • In Zone 4, the learner has consistently been performing below an acceptable standard and is either suspended, placed on probation, or required to retake a component of the program. 

    • In Zone 5, the learner is excluded from the program. 




구역 1-3의 규칙과 비교하여, 구역 4의 규칙은 더 엄격한 경향이 있다. 왜냐하면 학습자가 분명히 정규 프로그램 활동에 덜 참여하고 배제될 가능성이 있기 때문이다. 3구역처럼, 4구역은 일시적이며 위나 아래로 해결해야 한다. 구역 5의 규칙은 학습자를 프로그램에서 제외하는 방법에 관한 것이다. 배제에 문제가 없는 경우 짧은 단계가 될 수 있지만, 항소appeal가 수반될 경우 종종 길어진다drawn out.

Compared with the rules in Zones 1–3, the rules in Zone 4 tend to be more austere, because the learner explicitly participates less in regular programmatic activities and there is a very real possibility of exclusion. Zone 4, like Zone 3, is temporary and must resolve up or down. The rules in Zone 5 are about how to exclude a learner from a program—this may be a brief phase if the exclusion is unchallenged, but it is often drawn out if appeals are involved.



구역 사이의 임계값을 시간 경과에 따라 상승하는 방식으로 다시 매핑할 수 있다(그림 2). 이 모델의 주요 결과는 학습자의 성과가 학습자가 어려움을 겪거나 실패하기 시작하기 위해 절대치absolute term로 분류될 필요가 없다는 것이다. 예상 파라미터에 대한 진전없음nonprogression도 교정조치 또는 심지어 제외로 이어질 수 있다.

we can remap the thresholds between zones as rising over time (Figure 2). A key consequence of this model is that a learner’s performance need not fall in absolute terms for the learner to begin to struggle or fail: Nonprogression within expected parameters can lead to remediation or even exclusion.



실제로 영역 간 임계값은 시험, 과제, 임상 기술 이정표 또는 기대 성능의 동등한 기준점으로 표시된다. 이와 같이, 구역의 상대적 크기는 다를 수 있으며, 임계값은 우리가 제시한 것과 같이 선형이거나, 또는 서로 평행하지 않을 것이다. 전문성과 같이 실체가 덜 드러나는 역량의 경우, 평가 데이터는 거의 항상 해석에 개방되어 있다. 그러므로, 맥락은 언제나 중요할 것이다.

In practice, thresholds between zones would be marked by exams, assignments, clinical skills milestones, or equivalent reference points of expected performance. As such, the relative sizes of zones may differ, and the thresholds are unlikely to be as linear or parallel as we have presented them. in the case of less tangible aspects of competence, such as professionalism, assessment data are nearly always open to interpretation. Therefore, context will always matter,


의학교육 시스템의 구역 기반 모델을 구현하는 데에는 다음을 포함할 것이다. 

  • (1) 어떤 practice 차원을 지도화할 것인지 결정(CanMEDS19 또는 대학원 의학 교육 인증 위원회21 역량) 

  • (2) 사용할 임계값 이벤트 선택(과제, 시험, 관찰된 실습 등) 

  • (3) 퍼포먼스 척도가 다른 수준의  통합 모델에 의미 있게 매핑될 수 있도록 보장한다. 

  • (4) 기대 퍼포먼스, 허용 퍼포먼스 및 허용할 수 없는 퍼포먼스를 구별하기 위해 가능한 한 정확하게 성능 임계값을 고정한다. 

  • (5) 각 단계에서 경계 퍼포먼스를 구성하는 측면에서 이러한 성능 임계값을 매핑한다. 

  • (6) 임계값이 접근(형식적) 또는 교차(요약적)될 때 교직원과 학습자의 역할 및 책임 측면에서 적용할 규칙 정의.

Implementing a zone-based model of a medical education system would involve 

  • (1) deciding what dimensions of practice to map (such as CanMEDS19 or Accreditation Council for Graduate Medical Education21 competencies); 

  • (2) selecting the threshold events (assignments, exams, observed practice, etc.) to use; 

  • (3) ensuring that performance measures can meaningfully map to an integrated model of different levels of performance; 

  • (4) anchoring performance thresholds as precisely as possible to differentiate between expected, acceptable, and unacceptable performance; 

  • (5) mapping these performance thresholds in terms of what constitutes borderline performance at each stage; and 

  • (6) defining the rules to apply in terms of faculty and learner roles and responsibilities when thresholds are approached (formative) or crossed (summative).


함의

Implications


이러한 방식으로 시스템을 전체적으로 고려할 때, 각 구역이 다른 구역에 비해 조정될 수 있고, 구역은 모두 CBME의 원칙과 일치할 수 있다(CBME는 거의 전적으로 1과 2에만 초점을 맞추는 경향이 있다).

Considering the system as a whole in this way allows for each zone to be adjusted relative to the others and that the zones can all align with the tenets of CBME (which has tended to focus almost exclusively on Zones 1 and 2).


우리 모델의 중요한 의미는, [시간을 학습자 progression의 한 요소로만 고려되는] 가장 이상적인 역량 기반 프로그램에서도, 학습자는 결국 실패하고 제적dismissed될 수 있다는 것이다. 이 모델은 학교가 의학교육 과정에서 모든 학습자에 대해 투자할 수 있는 노력이 내재적으로 현실적 한계가 있음을 인정함으로써 CBME의 맥락에서 학습자의 저성능 관리에 대한 체계적인 대응을 제공한다.

One key implication of our model is that, even in the most idealized competency- based program where time is all but ignored as a factor in learner progression, a learner can still eventually fail and be dismissed. By acknowledging intrinsic practical limits to the effort schools can invest in getting all of their learners through medical training, this model provides a systematic response to managing learner underperformance in the context of CBME.


이 접근법은 또한 우리가 의료 교육 시스템에 관한 더 많은 전체론적 질문들을 고려할 수 있게 해준다. 예를 들어.

This approach also allows us to consider more holistic questions regarding medical education systems. For instance,


대부분의 학습자(즉, 교정되지 않은 학습자)는 성적이 낮은 소수의 학습자보다 관심을 덜 받는다. 우리는 능력이 떨어지는 소수의 급박한 필요성보다는 모든 학습자의 기회에 더 고르게 초점을 맞춰야 하는가? 우리는 아마도 학업적으로나 사회적으로 회복력이 있는 학습자들을 선택함으로써 실패한 학습자들의 문제를 해결하기 위해 입학 절차를 살펴봐야 할까?

most learners (i.e., those who are not remediated) receive less attention than the few learners who underperform. Should we focus more evenly on opportunities for every learner rather than on the acute needs of the less able few? Should we perhaps look to the admissions process to fix the problem of failing learners by selecting more academically or socially resilient learners?


이러한 질문들은 단순히 심리학적 또는 형평성 차원에서 해결될 수 없다; 이 질문에 대한 대답은 제한된 자원과 증가하는 책무수준을 감안할 때 의료 교육 시스템이 (현실적으로) 감당할 수 있는 것을 반영해야 한다.

These questions cannot be resolved purely on psychometric or equity grounds; their answers must also reflect what the medical education system can afford given its limited resources and increasing levels of accountability.


한걸음 더 나아가자면, 우리는 remedial action과 remediation의 차이를 구별해야 한다

  • 교정조치Remedial action은 전문적 숙달과 독립적인 의료행위를 향해 학습자의 발전을 촉진하는 것으로서, 대체로 구역 2에서 발생하고, 지지적이고, 비공식적이며, 단기적인 사건으로 정의할 수 있다. 

  • 반면, 재교육Remediation은 Zone 3에서 일어나는 것이며, 메인스트림 교육과정(Zones 1과 2)과는 다른 스키마(수집된 규칙, 역할, 책임 및 임계값)로 지속적인 저성능underperformance에 대한 공식적인 대응이다.

In advancing this argument, we should differentiate between remedial action and remediation. 

  • We define remedial action as largely supportive, informal, and short-term events in Zone 2 in which a preceptor facilitates a learner’s progression toward professional mastery and independent practice. 

  • Remediation (Zone 3), on the other hand, is a formal response to sustained underperformance, with a different schema (its collected rules, roles, responsibilities, and thresholds) than the ones for the mainstream curriculum (Zones 1 and 2).


교정 조치와 재교육은 모두 course correction이지만, 사건을 유발하는 저성능의 깊이와 지속 시간, 그리고 무엇보다 실패에 따른 결과에 차이가 있다.

While both remedial action and remediation are course corrections, they differ in terms of the depth and duration of underperformance that triggers the event and the rules of engagement involved—in particular, the consequences of failure.


선의를 가진 remediator들은 너무 자주 [개선이 일어날 가능성이 훨씬 떨어지는] 때까지도 학습자를 돕기 위해 노력할 것이기 때문에 이 차이는 중요하다. 이는 결국 '실패 실패' 현상에 기여한다.10

This difference is important because well-meaning remediators will too often keep trying to help a learner well beyond the point where improvement is likely to occur. This, in turn, contributes to the “failure to fail” phenomenon.10


이 모델을 제안하며, 재교육조치는 의학교육 시스템의 일부로 명시적으로 구성되어야 하며, 나중에 하려고 미뤄두거나afterthought, "아웃사이더" 활동으로 구성되어서는 안 된다고 주장한다. 또한 재교육은 선택된 일부 교수에게 맡겨져서는 안되며, 교육자 공동체에서 갖는 공동의 책임이 되어야 한다.22 재교육의 영역에서 학습자와 engage하는 것은 일반적으로 정규 교과과정에서 가르칠 때보다 더 많은 교수의 시간을 필요로 하고 더 많은 노력을 소비하며 더 많은 고급 기술을 보유해야 한다.

In proposing this model, we argue that remediation should be explicitly structured as part of medical education systems, and not as an afterthought or an “outsider” activity as too often seems to be the case. Moreover, remediation should be a shared responsibility for a community of educators rather than being left to a select few.22 When engaging with learners in the remediation zone, faculty typically need to take more time, expend more effort, and possess more advanced skills than when they teach in the routine curriculum.


우리의 구역 모델은 교정조치와 나머지 의료 교육을 통합하기 위한 시스템 수준의 대응이며, 따라서 그것은 더 많은 전술적 해결책과 연계될 수 있다. 

  • 예를 들어, "심각하지 않은" 전문성 과실을 보인 의학 학습자에게 제안된 한 가지 예는(예: 그림 1과 2의 학습자 B의 궤적 참조) 학습자의 관점을 듣고 그 학습자에게 안내된 성찰 기회를 제공하는 협의회를 포함한다.

  • 또 다른 기법은 학습자가 자신의 교정적 개입을 설계하고 구현하는 데 관여하는 것이다. 이는 자율성과 자기조절학습을 촉진할 수 있는 저비용 모델이다.

  • 보다 통합된 접근방식은 완전한 교정조치가 필요하기 전에 학습자를 교정하는 데 도움이 될 수 있으며, 이는 다시 스트레스를 줄이고 교수진의 자원을 더 잘 활용할 수 있다.

Our model of zones is a systems-level response to integrating remediation with the rest of medical education, and as such it can be linked to a number of more tactical solutions. 

  • One example, proposed for medical learners with “moderate” professionalism lapses (e.g., see the trajectory of Learner B in Figures 1 and 2), involves a council that hears the learner’s perspective and provides a guided reflection opportunity for that learner.23 

  • Another technique is to involve learners in designing and implementing their own remedial interventions—a low- cost model that can promote autonomy and self-regulated learning.24 

  • A more integrated approach may help to correct learners before full remediation is needed, which may in turn reduce stress and make better use of faculty resources.18,25,26


이 모델을 발전시킬 때, 우리는 서로 다른 역량에 대한 서로 다른 문제들은 [심각성과 교정가능성] 측면에서 서로 다른 과제를 제시한다는 것을 인정해야 한다. 예를 들어 전문직업성 문제는 의료 지식의 결핍이나 격차보다 더 심각하고 다루기 어려운 경향이 있다.

In advancing this model, we should also acknowledge that different problems in different competencies present different challenges in terms of both seriousness and remediability. For instance, professionalism problems tend to be more serious and less tractable than lapses or gaps in medical knowledge.


교정조치가 필요한 학습자는 다음의 여러 가지에 대해 동시적 struggle을 나타낸다.

Learners requiring remediation often present several simultaneous struggles involving 

  • personal issues, 

  • problems with institutional cultures, 

  • extraprogram challenges (e.g., mental health), 

  • learning-related issues (e.g., learning disabilities), and/or 

  • professionalism-related issues.


의료 교육자로서, 우리는 환자 치료의 이상으로 여기는 것과 동일한 휴머니즘적 접근방식을 재교육에도 통합하도록 노력해야 한다. 학습자를 교정조치에 이르게 하는 여러 측면을 완전히 이해하려면 인내심, 능동적 경청 및 성찰이 필요하다. 그러나, 우리는 학습자가 failure subsystem에 들어갔을 때, 동정심으로 인해 궁극적인 판단이 흐려지는 것을 허락해서는 안 된다. 이는 임상적으로 비유하자면, (말기환자에 대한) 완화의료로의 전환일 수 있다.

As medical educators, we should try to incorporate the same humanistic approach in remediation situations that we ideally bring to patient care. Fully understanding the multiple facets that bring a learner to remediation requires patience, active listening, and reflection. Yet, we cannot allow our acceptance and compassion to cloud our ultimate judgment when a learner enters the failure subsystem. A clinical analogy could be the consideration of and transition to palliative care.


비록 우리는 이 다섯 가지 영역에 대한 간단한 모델, 그것들을 정의하는 스키마, 그것들을 횡단하는 학습자들을 위한 가능한 표현형 및 교육적 반응을 제시하지만, 우리는 현실이 더 복잡하고 모델이 추상화되고 이상적이라는 것을 인정한다. 대부분의 학습자들은 서로 다른 역량을 개발하는 데 있어서 고르지 못한 길을 택할 것이다. CBME의 개념을 구축함에 있어, 우리는 역량의 측정은 실용적이어야 하고 목적에 적합해야 한다는 그들의 공통된 과제를 계승한다.

Although we present a simple model for these five zones, the schemas that define them, and possible phenotypes and educational responses for the learners who traverse them, we acknowledge that reality is more complex and that the model is perforce abstract and idealized. Most learners will likely take an uneven path in developing different competencies. In building on concepts of CBME, we inherit their common challenge: that measurements of competencies need to be practical and fit for purpose.


결론들

Conclusions







 2018 Mar;93(3):391-398. doi: 10.1097/ACM.0000000000001855.

Situating RemediationAccommodating Success and Failure in Medical Education Systems.

Author information

1
R.H. Ellaway is professor, Department of Community Health Sciences, Cumming School of Medicine, University of Calgary, Calgary, Alberta, Canada; ORCID: http://orcid.org/0000-0002-3759-6624. C.L. Chou is professor, Department of Clinical Medicine, University of California, San Francisco, and staff physician, San Francisco VA Health Care System, San Francisco, California; ORCID: http://orcid.org/0000-0002-2391-4337. A.L. Kalet is professor, Division of General Internal Medicine and Clinical Innovation, Departments of Medicine and Surgery, New York University, New York, New York; ORCID: http://orcid.org/0000-0003-4855-0223.

Abstract

There has been a widespread shift to competency-based medical education (CBME) in the United States and Canada. Much of the CBME discourse has focused on the successful learner, with relatively little attention paid to what happens in CBME systems when learners stumble or fail. Emerging issues, such as the well-documented problem of "failure to fail" and concerns about litigious learners, have highlighted a need for well-defined and integrated frameworks to support and guide strategic approaches to the remediation of struggling medical learners.This Perspective sets out a conceptual review of current practices and an argument for a holistic approach to remediation in the context of their parent medical education systems. The authors propose parameters for integrating remediation into CBME and describe a model based on five zones of practice along with the rules of engagement associated with each zone. The zones are "normal" curriculum, corrective action, remediation, probation, and exclusion.The authors argue that, by linking and integrating theory and practice in remediation with CBME, a more integrated systems-level response to differing degrees of learner difficulty and failure can be developed. The proposed model demonstrates how educational practice in different zones is based on different rules, roles, responsibilities, and thresholds for moving between zones. A model such as this can help medical educators and medical education leaders take a more integrated approach to learners' failures as well as their successes by being more explicit about the rules of engagement that apply in different circumstances across the competency continuum.

PMID:
 
28767496
 
DOI:
 
10.1097/ACM.0000000000001855



교육, 훈련, 실천의 연속성 부족은 'Do No Harm' 원칙을 위배한다(Acad Med, 2018)

A Lack of Continuity in Education, Training, and Practice Violates the “Do No Harm” Principle

Robert Englander, MD, MPH, and Carol Carraccio, MD, MA





1910년 Flexner 보고서는 의료 교육 시스템의 주요 개혁을 촉진했다.1 그 이후, 의료 교육, 훈련, 그리고 실천의 단계가 허겁지겁 짜여졌다. Flexner는 커리큘럼을 의학적 교육의 원동력으로 강조하였는데, 이는 2년짜리 연속된 세그먼트로 기초 과학과 임상 경험을 구획화하여 오늘날까지 지속되는 사일로를 구축하게 했다. Practice는 의과대학을 마치고 나서야 실습이 시작되었다.

The 1910 Flexner Report prompted major reform of the medical education system.1 Since then, the phases of medical education, training, and practice have been haphazardly pieced together. Flexner’s emphasis on curricula as the driving force for medical education led to compartmentalized basic science and clinical experiences in two-year sequential segments, building silos that persist today. Practice began when medical school was complete.


그러나 제1차 세계 대전 이후, 더 많은 환자의 요구를 충족시키기 위한 서비스 요구사항과 함께 새로운 의학적 진전에 대한 학습의 필요성이 증가하면서, 1년인턴십이 늘어나게 되었다.2 의과대학에게는 인턴을 지원할 재원이 없었기 때문에 병원이 인턴십을 감독했고, 이는 "연속체"에 또 다른 seam을 추가했다. 1930년대에는 제3의 이해당사자인 전문 위원회specialty board에 의해 주도되어 레지던트가 늘어났고, 이는 practice를 하기 위한 전제조건으로 특정 시간 동안의 훈련을 요구하였다.2

However, after World War I, the growing need to learn about new medical advances, coupled with service requirements to meet the needs of greater volumes of patients, resulted in an increasing prevalence of one-year internships.2 Hospitals oversaw internships, as medical schools did not have the resources to support them, adding another seam in the “continuum.” Residencies flourished in the 1930s driven by yet a third stakeholder, specialty boards, that required specific time-based training as a prerequisite to practice.2


그 뿌리에서부터, practice continuum을 위한 학부 의학 교육(UME)과 대학원 의학 교육(GME)은 거의 연속성을 반영하지 못했다. 그것들은 연속적이었지만, 즉 시간과 순서에 있어서 중단되지 않았지만, 연속체의 특징이라 할 수 있는 "정연한 전체coherent whole"는 결여되어 있었다.3

From its roots, then, the undergraduate medical education (UME) to graduate medical education (GME) to practice continuum reflected little continuity. They were continuous—that is, uninterrupted in time and sequence—but lacked the “coherent whole” that characterizes a continuum.3


지속성에 대한 중요 요구사항 실현: 왜 지금일까요?

Realizing the Critical Need for Continuity: Why Now?


21세기 초 역량 기반 의료 교육(CBME)으로의 패러다임 전환의 원동력은 care quality에 대한 대중의 항의였다.4 CBME 시스템을 구현하려는 시도는 훈련과 연습의 단계 내 및 전체에서 연속성의 결여를 강조하였다. CBME는 Flexner에 의해 주창된 [시간-고정된 교육 및 훈련]이라는 오랜 기간 동안 지속되어온 결과에 도전하였다. [시간 고정 훈련]에서 보장되는 유일한 결과는 [학생마다 다른 성과]일 뿐이었다.

A driving force for the paradigm shift to competency-based medical education (CBME) at the turn of the 21st century was the public outcry regarding care quality.4 Attempts to implement a CBME system underscored the lack of continuity within and across the phases of training and practice. CBME challenged the long-standing outcome of fixed time education and training advocated by Flexner, the only guaranteed result of which is variable outcomes.1


이 시스템의 커리큘럼은 인구집단의 요구에 따라 이루어지며, 의사는 이러한 요구를 충족시킨다는 것을 입증해야 한다.5 이러한 backward visioning process ("처음부터 최종 상태를 염두에 두고 시작")은 연속체에 걸친 공통적인 비전과 매끄러운 전환을 의미한다.6

Curriculum in this system, is driven by the needs of populations and the desired outcomes physicians must demonstrate to meet those needs.5 This backwards visioning process—“starting with the end in mind”—begs for a common vision and seamless transitions across the continuum.6


이는 학습자가 다음 레벨로 전환하기 전에 필수 역량에서 필요한 performance level에 도달하는 데 필요한 시간 가변성을 허용한다. 전국의 모든 의대생들이 [졸업을 하는 해 7월 1일에] 레지던트 훈련을 시작하는 데 필요한 모든 역량을 어느 정도 달성할리가 만무하다.

It allows for the time variability that is needed for learners to reach the necessary performance levels in the requisite competencies before transitioning to the next level. The notion that every medical student across the nation has somehow achieved all the competencies necessary to start residency training on July 1 of their graduation year is magical thinking.



연속성이 없는 "연속성"의 결과

Consequences of a “Continuum” Without Continuity


인구의 건강 요구를 충족시키는 practice의 바람직한 outcome과 그 목적을 달성하기 위해 필요한 커리큘럼을 reverse engineering하는 데 초점을 둔다면, transition에 따른 커리큘럼의 misalignment은 [역량의 추구]를 어렵게 하며, 궁극적으로는 환자와 학습자 모두에게 부정적인 영향을 미친다. 필요한 역량의 광범위하고 다양한 영역은 커리큘럼이 연속체에 걸쳐 align될 것을 요구한다.

With a focus on the desired outcomes of practice that meet populations’ health needs and a reverse engineering of the curricula needed to achieve that end, the misalignment of curricula across transitions makes the pursuit of competence elusive, negatively impacting both patients and learners. The broad and diverse domains of required competencies necessitate that curricula be aligned across the continuum.


연속성의 부족은 우리의 학습자와 환자에게 많은 해를 끼쳤다.

The lack of continuity has resulted in a number of harms to our learners and patients.



위험 #1: 위상 내 연속성 부재

Harm #1: Absence of continuity within phases


UME에서, 커리큘럼의 수직적 및 수평적 통합은 역량 개발을 향상시키고 학습을 강화시키는 반면, 그러한 연속성의 부재는 반대로 학습 능력을 저하시킴으로써, 학습자를 harm 한다.7 예를 들어 의과대학에서 기초과학과 임상과학의 분리는 우리가 어떻게 배우는지에 대해 이치에 맞지 않는다. 기초과학 원리를 임상 의학에 즉시 적용할 수 있는 능력은 retention을 크게 향상시킨다.8

In UME, both vertical and horizontal integration of curricula enhance the development of competencies and reinforce learning, while the absence of that continuity, by contrast, “harms” learners by impairing their capacity to learn.7 As an example, the separation of the foundational sciences from the clinical sciences in medical school makes no sense for how we learn. The ability to immediately apply basic science principles to clinical medicine significantly improves retention.8


예를 들어 심혈관 검사를 가르치는 동시에 심장의 해부학과 생리학을 가르치는 것이 더 이치에 맞으며, 학생들이 수직 통합이라는 교육적 원리에 따라 시뮬레이션 실험실에서 정상적이고 병리적 상태를 practice할 수 있도록 하는 것이 더 이치에 맞다.9

for example, it makes more sense to teach the anatomy and physiology of the heart at the same time you teach the cardiovascular examination and allow students to practice with normal and pathological states in a simulation lab, an educational principle called vertical integration.9


또한 현재 우리의 임상실습의 편화(일반적으로 의과대학 3학년)도 우리가 배우는 방법과 잘못 정렬되어 있다. 예를 들어, 학생들은 각각의 임상실습(예: 내과, 소아과)에서 병력청취와 신체 검사를 "배울 것"을 기대한다. 이와는 대조적으로, 통합적 1차 치료 임상 경험에서 학습의 시너지 효과를 상상해 보십시오. 여기서는 학생이 유아, 아동, 청소년 및 노인 환자에 대한 병력청취와 신체 검사를 수행하고, 그 후 throughout the experience에 걸쳐 practice할 것이다 (수평적 통합).10

Additionally, the current fragmentation of our clinical clerkships (generally in the third year of medical school) is also misaligned with how we learn. We expect that students will “relearn” the history and physical exam, for example, in each subsequent clerkship (e.g., internal medicine, pediatrics). In contrast, imagine the synergy of learning in an integrated primary care clinical experience, where a student learns to perform a history and physical examination on an infant, child, young adult, and geriatric patient and then practices throughout the experience (horizontal integration).10


유해 #2: 지속적이고 의미 있는 관계의 부재

Harm #2: Absence of sustained, meaningful relationships


편화된 연속체에서 학습자에게 발생하는 또 다른 해악은 관계 형성에 방해가 된다는 것이다.

Another harm that comes to learners in a fragmented continuum is the disruption to forming relationships—


학습자가 고기능 팀에서 활동할 것으로 예상하는 경우, 피드백을 제공하고 받아들일 수 있도록 팀원들과의 관계를 발전시킬 필요가 있다.11 그러나 여전히 UE와 GME에 만연하고 있는 블록 로테이션 모델은 이러한 필수적인 능력을 약화시킨다. 베르나베오 등은 레지던트를 대상으로 실시한 정성적 연구에서, "빈번한 transition이 환자와 관계를 맺는 그들의 능력을 얼마나 떨어뜨렸는가"를 기술했다. 교수들의 "on service" 시간이 점점 짧아지면서, 학생 및 레지던트의 스케줄과 sync가 맞지 않았고, 이것도 관계 발전에 해로운 영향을 끼친다.

If we expect learners to work in high-functioning teams, they need to develop relationships with their team members to enable the provision and acceptance of feedback.11 The block rotation model that still pervades UME and GME, however, undermines this essential ability. In a qualitative study by Bernabeo et al,12 residents described how “frequent transitions detracted from their ability to relate to patients.” The increasingly short duration of faculty “on service” time, often out of sync with the schedules of students and residents, also contributes to the harmful effect on relationship development.


마지막으로, 2003년에 근무 시간 제한이 도입되어 레지던트와 펠로우 사이에 더 많은 환자 인계 작업이 필요하게 되면서 블록 로테이션으로 인해 발생한 환자들과의 일시적인 관계의 기존 문제가 악화되었다.13 은유적으로 말하면, 수많은 병동입구의 입구였던 이중 문이 회전문으로 교체된 것이다.

Finally, the introduction of duty hours restrictions in 2003, requiring more patient handovers among residents and fellows, exacerbated the existing problem of transient relationships with patients that occurred because of block rotations.13 Metaphorically speaking, the double doors marking the entrance to so many inpatient units have been replaced by revolving doors.


이러한 지속적이고 의미 있는 관계의 부재는 완화될 수 있다. UME의 임상 몰입 경험에 대한 혁신적인 지속적 접근방식에 따르면, 이것이 학습과 전문적인 발전에 긍정적인 영향을 보여주었다.14,15 LICs에서 Hirsh 등 16은 학생들이 [환자와의 관계가 환자의 웰빙에 실질적 영향을 준다는 것]을 인지했음을 보여주었다. 또한 학생과 preceptor와의 관계가 더 많은 피드백과 멘토링을 유도하는 것 같다. 학습자와 교사 모두 [타당성, 숙련도 평가 품질, 제공된 건설적 피드백]을 토대로, 블록형 임상실습보다 LIC에서 평가를 선호했다.17

This absence of sustained, meaningful relationships can be mitigated. Early experience, over three continents, with an innovative continuous approach to the clinical immersion experience in UME called the longitudinal integrated clerkship (LIC), has demonstrated positive effects on learning and professional development.14,15 In LICs, Hirsh et al16 demonstrated that students perceived their relationships with patients as having a real impact on their patients’ well- being and that their relationships with preceptors resulted in more feedback and mentoring than a comparison group. Both learners and preceptors favored evaluation in the LIC over the block clerkship based on validity, quality of skill assessment, and the constructive feedback provided.17



상처 #3: 공감의 감소

Harm #3: Decline in empathy


UME에서 학습자에게 발생하는 세 번째 해악은 공감의 감소다. 관계와 피드백에 대한 효과 외에도, LIC 학생들은 LIC가 완성될 때 공감 점수의 증가를 보여주었는데, 이는 점수의 감소를 보여준 전통적인 임상실습을 완료하는 학생들과 대조적이다. 더우기, 이러한 긍정적인 결과가 OSCE나 NLE에서 기존 수준 또는 기존보다 더 높은 점수를 받으면서 발생했다.

A third harm that comes to learners in UME is a decline in empathy. In addition to the effects on relationships and feedback, LIC students also demonstrated an increase in empathy scores at the completion of the LIC in contrast to students completing a traditional clerkship year, who demonstrated a decrease in scores.16 Moreover, these positive results occurred in the face of maintaining or surpassing scores on local objective structured clinical examinations and national licensing examinations.


유해 #4: 사망률 증가

Harm #4: Increase in mortality


가장 우려되는 것은 Denson 외 연구진(19)이 짧은 로테이션의 네 번째 위해harm로 지적하였다. 즉 인턴이 한 로테이션에서 다른 로테이션으로 전환할 때 사망률이 증가한다는 것이다. 23만 명 이상의 성인 환자를 대상으로 한 그들의 연구는 레지던트 전용 전환과 대조군에 비해 인턴 전환 및 인턴+레지던트의 전환과 관련된 병원 내 사망률이 훨씬 더 높다는 것을 보여주었다.

Most concerning, Denson et al19 demonstrated a fourth harm of brief block rotations: an increase in mortality at times of intern transition from one rotation to another. Their study of over 230,000 adult patients demonstrated significantly higher in-hospital mortality associated with intern transitions and intern-plus-resident transitions as compared with resident-only transitions and controls.




역량 기반 교육을 통한 지속성 구축

Building Continuity Through Competency-Based Education


CBME의 완전한 구현은 연속체 전체에 걸쳐 연속성을 보장하는 경로를 제공한다. 우리는 이미 그러한 제도를 시행하는 데 많은 진전을 보았다; 우리는 [21세기에 의사의 필수적인 역량의 delineation]이라는 첫 단계를 마쳤다.

The full implementation of CBME provides a path to ensuring continuity across the continuum. We have already come a long way toward implementing such a system; we have completed the first step—the delineation of the requisite competencies of a doctor in the 21st century.5


역량은 "지식, 기술, 가치 및 태도를 통합하는 특정 활동과 관련된 보건 전문가의 관찰 가능한 능력"으로 정의된다.20 역량의 예는 "환자에 대한 필수적이고 정확한 정보를 얻는다."가 있다.21

A competency is defined as “an observable ability of a health professional related to a specific activity that integrates knowledge, skills, values, and attitudes.”20 An example of a competency is “gather essential and accurate information about the patient.”21


CBME 시스템의 완전한 구현을 위한 두 번째 단계는 역량에 대한 퍼포먼스 수준의 개발이다.5 각 역량에 대한 마일스톤은 "발달 연속체를 따라 개인의 능력을 관찰할 수 있는 표식"으로 정의된다.20 이러한 서술적 설명은 [특정 성과 수준에서 관찰할 행동]의 공유된 정신적 모델을 제공한다. 

The second step toward full implementation of a CBME system is the development of performance levels for the competencies.5 Milestones for each of the competencies are defined as an “observable marker of an individual’s ability along a developmental continuum.”20 These narrative descriptions provide a shared mental model of the behaviors one would observe at a specific performance level.


세 번째 단계는 역량 및 평가 프레임워크를 가르치는 커리큘럼을 개발하는 것이다.5 주요 장벽 중 하나는 역량의 평가였다.28 역량은 추상적이면서도 맥락에 의존적이지 않아야 하므로 평가하기 어렵다. 그들은 또한 우리가 주로 모든 수준에서 학습자들을 가르치고 평가하는 방식과 완벽하게 일치하지 않는다. 이 문제에 대한 한 가지 해결책은 평가와 커리큘럼 개발의 틀로서 위임 가능한 전문 활동(EPA)을 도입하는 것이었다.29

The third stage of implementation requires the development of curricula to teach the competencies and a framework for assessment.5 One of the main barriers has been the challenge of assessing competence.28 Competencies are both abstract and context independent, making them difficult to assess. They also do not seamlessly align with the way that we predominantly teach and assess learners at all levels. One solution to this problem has been the introduction of entrustable professional activities (EPAs) as a framework for both assessment and curriculum development.29


Core EPAs는 미국 의과대학 협회에 의해 개발되었으며 많은 의과대학에서 시행되고 있다.30,31

The Core EPAs for Entering Residency (Core EPAs) were developed by the Association of American Medical Colleges and are being implemented at many medical schools.30,31


직접적인 연계의 예로는 Core EPA에서 "전문간 팀의 일원으로 협력"과 소아 EPA에서 "전문직 간 팀을 이끈다"가 있다

An example of a direct link would be 

  • the Core EPA “collaborate as a member of an interprofessional team” and 

  • the pediatric EPA “lead an interprofessional team.” 

기본블록의 예로는 소아 EPA가 "우수한 어린이들을 위한 의료 가정 제공"에 기초하는 Core EPA "공통 진단 및 선별 테스트 권장 및 해석"이 있다.

An example of a foundational building block would be 

  • the Core EPA “recommend and interpret common diagnostic and screening tests” 

  • which is foundational to the pediatric EPA “provide a medical home for well children.”


EPA와 역량/마일스톤 프레임워크의 통합은 연속체에 걸쳐 평가 프로그램을 정렬해야 하는 과제에 대한 잠재적인 해결책을 제공한다. 위탁을 유도하는 감독 척도 수준과 같이 학습자를 평가하기 위해 개발된 도구의 유형을 UME 및 GME에서 사용할 수 있으며, 궁극적으로는 실무에서도 사용할 수 있어 평가를 위한 교수개발을 단순화한다.33,40

The integration of the EPA and competency/milestone frameworks provides a potential solution to the challenge of aligning a program of assessment across the continuum. The types of tools developed to assess learners, such as level of supervision scales leading to entrustment, can be used in UME and GME and ultimately even practice, simplifying faculty development for assessment.33,40


위에서 설명한 실행 계획에서 가정으로 전달되는 한 가지 메시지는, 그것이 [평가의 developmental model]과 [longitudinal experience]의 이상적인 결합을 강조한다는 것이다. LIC 또는 longitudinal ambulatory block과 같은 종방향 경험은 EPA, 역량, 이정표의 프레임워크에 구축된 역량 기반 평가 시스템에 이상적인 setting을 제공한다. 잉글랜더와 ten Cate는 LICs와 EPA를 "완벽한 조합"이라고 부르기까지 했다.

One take-home message from the implementation scheme outlined above is the extent to which it underscores the ideal marriage of longitudinal experiences with a developmental model of assessment. Longitudinal experiences, such as an LIC or a longitudinal ambulatory block, provide the ideal setting for a competency- based assessment system that is built on a framework of EPAs, competencies, and milestones. Englander and ten Cate43 have gone so far as to call LICs and EPAs “the perfect match.”


파이널 프런티어: 교육훈련의 시간변동향

The Final Frontier: Time Variability in Education and Training


시간 변동성은 우리의 의학교육 시스템이 가진 적응력에 대한 궁극적인 테스트가 될 것이지만, 결국 그것은 모든 학습자들이 그들의 직업 전반에 걸쳐 어떤 전환이나 어떤 새로운 과제에 대비할 수 있는 유일한 방법이다. 이것은 위압적으로 보일지 모르지만, 다음의 관찰은 우리에게 큰 희망을 준다. 이전 모델("Flexner-type, 고정 시간")에서 역량 기반 교육이 채택된 프로그램에서 역량 달성에 필요한 평균 시간은 감소하는 경향이 있었다.44,45 

Time variability will be the ultimate test of the capacity of our medical education system to adapt, but in the end it is the only way to ensure that all learners are prepared for any transition or any new task throughout their careers. This may seem daunting, but the following observation gives us great hope. In programs where competency-based education has been adopted in a previous model (“Flexner-type,” fixed time), the average time to competence has tended to decline.44,45 


궁극적으로 대부분의 학습자가 미리 정해진 정해진 시간보다 적은 시간에 필수 역량을 보여줄 것임을 의미한다. 만약 시스템상으로 아직 그 시점에서 easy transition이 가능하지 않다면, 우리는 적어도 그러한 학습자들이 전문지식을 향한 발달적 연속체를 따라 더 진보할 수 있는 advanced opportunities를 제공할 수 있을 것이다. 더 중요한 측면은 발달을 위해 추가적인 시간이 필요한 학습자들과, 이 학습자들을 수용하기 위한 시스템의 적응성에 있을 것이다. 그러나 우리가 반드시 달성해야 할 것은 단순히 훈련 시간에 근거하여, transition에 필요한 요건을 입증하지 못한 학습자들을 transitioning하는 관행을 제거하는 것이다.

Ultimately, this means that most learners will demonstrate the requisite competencies in advance of the predetermined, fixed time. If the system has not yet adapted to allow easy transition at that point, we can at least provide advanced opportunities for those learners to progress along the developmental continuum toward expertise. The more important aspect will be for those few learners who need additional time to develop and the adaptability of the system to accommodate them. What we must accomplish, however, is eliminating the practice of transitioning learners who have not demonstrated the requirements for that transition simply based on their time in training.


CBME를 완전히 구현하기 위한 네 번째이자 마지막 단계인 프로그램 평가는 CBME의 궁극적인 성공에 매우 중요할 것이다. 이것이 우리가 알려진 harm을 완화시켰는지 영구화시켰는지 알 수 없는 것을 식별하는 유일한 방법이다. 이것은 우리에게 실수로부터 배우고 우리가 한 일을 개선할 기회를 준다. 그래야만 우리는 "CBME이 더 나은 의사들을 만든다는 증거는 어디에 있는가?"라는 지난 17년의 메아리치는 질문에 대답할 수 있다.

Program evaluation, the fourth and final step to full implementation of CBME, will be critical to its ultimate success.5 This is the only way we will know whether we have mitigated or perpetuated the harms that are known and identify any that are unknown. This gives us the chance to learn from our mistakes and improve on what we have done. Only then can we answer the echoing question of the last 17 years: “Where’s the proof that CBME makes better doctors?”46


이 산을 옮기려면 무엇이 필요할까?

What Will It Take to Move This Mountain?


우리는 교육, 훈련, 연습 연속체의 연속성이 결여된 결과에 대해 반성했다.

We have reflected on the consequences of the lack of continuity in the education, training, and practice continuum.


커리큘럼은 모든 단계에서 인구집단의 요구에 근거하기보다는 여전히 전문가의 의견에 의해 추진되는 경우가 많다. 결과적으로 여러 단계를 거쳐 커리큘럼이 잘못 정렬되면 전환 과정 전반에서 학습을 강화할 기회가 낭비된다. 커리큘럼에 대한 블록 접근방식은 환자와 학습자 사이의 관계, 그리고 교훈자와 학습자 사이의 관계 개발을 방해한다. 전자는 환자의 불만족으로 이어지고 후자는 수용자 피드백의 거부로 이어진다. 의료의 품질에 중요한, 고기능 팀 개발에 필요한 관계를 구축할 기회는 없다. 관계를 발전시킬 기회가 없는 학습자들은 공감의 침식을 보여준다. 그리고 최근의 문헌에 의하면 인턴 전환 기간 동안 더 높은 사망률을 보이고 있다.19

The curriculum is often still driven by expert opinion rather than by the needs of populations at all phases. The resulting misalignment of the curriculum across phases wastes the opportunity to reinforce learning across transitions. A block approach to curriculum interferes with the development of relationships between patients and learners and between preceptors and learners. The former leads to patient dissatisfaction and the latter to rejection of preceptor feedback. Although care quality depends on it, there is no opportunity to build the relationships that are necessary for developing high-functioning teams. Learners who do not have opportunities to develop relationships demonstrate an erosion of empathy. And recent literature suggests a higher mortality during times of intern transitions.19


우리가 진정으로 학습자에게 고부가가치 교육을 제공하는 의료 교육 및 훈련 시스템을 만들어 환자에게 고부가가치 진료를 제공하기를 원한다면 연속성을 계속해야 한다.

We must put continuity into the continuum if we want to ever truly create a system of medical education and training that provides high- value education to learners so that they can deliver high-value care to patients.




 2018 Mar;93(3S Competency-Based, Time-Variable Education in the Health Professions):S12-S16. doi: 10.1097/ACM.0000000000002071.

Lack of Continuity in EducationTraining, and Practice Violates the "Do No HarmPrinciple.

Author information

1
R. Englander is associate dean for undergraduate medical education, University of Minnesota Medical School, Minneapolis, Minnesota. C. Carraccio is vice president of competency-based assessment, American Board of Pediatrics, Chapel Hill, North Carolina.

Abstract

The paradigm shift to competency-based medical education (CBME) is under way, but incomplete implementation is blunting the potential impact on learning and patient outcomes. The fundamental principles of CBME call for standardizing outcomes addressing population health needs, then allowing time-variable progression to achieving them. Operationalizing CBME principles requires continuity within and across phases of the educationtraining, and practice continuum. However, the piecemeal origin of the phases of the "continuum" has resulted in a sequence of undergraduate to graduate medical education to practice that may be continuous temporally but bears none of the integration of a true continuum.With these timed interruptions during phase transitions, learning is not reinforced because of a failure to integrate experiences. Brief block rotations for learners and ever-shorter supervisory assignments for faculty preclude the development of relationships. Without these relationships, feedback falls on deaf ears. Block rotations also disrupt learners' relationships with patients. The harms resulting from such a system include decreases in patient satisfaction with their care and learner satisfaction with their work. Learners in this block system also demonstrate an erosion of empathy compared with those in innovative longitudinal training models. In addition, higher patient mortality during intern transitions has been demonstrated.The current medical education system is violating the first principle of medicine: "Do no harm." Full implementation of competency-based, time-variable education and training, with fixed outcomes aligned with population health needs, continuity in learning and relationships, and support from a developmental program of assessment, holds great potential to stop this harm.

PMID:
 
29485481
 
DOI:
 
10.1097/ACM.0000000000002071


의학에서 역량바탕교육의 정의를 향하여: 체계적 문헌고찰(Med Teach, 2010)

Toward a definition of competency-based education in medicine: a systematic review of published definitions

JASON R. FRANK1, RANI MUNGROO2, YASMINE AHMAD3, MIMI WANG4, STEFANIE DE ROSSI5 & TANYA HORSLEY6






도입

Introduction


역량 기반 프로그램의 의도된 산출물은 [지역적 조건에 따라 지역적 필요를 충족하기 위해 정의된 숙련도 수준에서 의학을 실천할 수 있는 보건 전문가]이다....하나의 정의가 있다고 제안하는 것은 무의미할 것이다. (McGaghie 등, 1978년, 페이지 18년)

The intended output of a competency-based programme is a health professional who can practice medicine at a defined level of proficiency, in accord with local conditions, to meet local needs ...It would be pointless to suggest that there is a single definition. (McGaghie et al. 1978, p. 18)


그러나, 이 문헌은 또한 건강 직업에서 '역량 기반 교육'이 정확히 무엇을 의미하는지에 대한 지속적인 논쟁을 설명한다(McGaggie et al. 1978; Leung 2002).

However, the literature also describes an ongoing debate about what exactly is meant by ‘‘competency-based education’’ in the health professions (McGaghie et al. 1978; Leung 2002).


한눈에 봐도, 지금까지의 문헌은 현저하게 다양하며, 모델과 논평에 크게 비중을 두고 있는 것처럼 보인다. 의학 교육의 증거 기반을 전반적으로 강화하자는 최근의 제안에도 불구하고, 아직 진전은 suboptimal하다(Chen et al. 2004).

At a glance, the scholarship to date appears remarkably diverse and heavily weighted to models and commentaries. Despite recent proposals to enhance the evidence base of medical education in general, progress is suboptimal (Chen et al. 2004).


방법

Methods


공통의 정의(Ainoda et al. 2005; Oh et al. 2005)를 만들기 위한 다른 체계적인 검토에 사용되는 방법과 유사한 방법을 사용하여 영어 또는 프랑스어로 정의를 제공하는 CBE와 관련된 학술적 출처에 대한 종합적인 조사를 실시했다.

Using methods similar to those used in other systematic reviews intended to create common definitions (Ainoda et al. 2005; Oh et al. 2005), we conducted a comprehensive inquiry of the scholarly sources related to CBE that provided definitions in English or French.


Inclusion/exclusion criteria



Search strategy



Selection methods


Data extraction


Data analysis


결과

Results


검토에 포함된 문헌 개요

Overview of literature included in the review


정의의 길이는 13 단어에서 205 단어 사이였다. 출판 연도는 수십 년 동안 검색되었으며, 2000년과 2009년 사이에 출판된 간행물의 대다수는 (74.6퍼센트), 2005년 이후로는 44.5퍼센트였다(그림 2 참조).

Definitions ranged in length between 13 and 205 words. Year of publication spanned all decades searched, the majority (74.6%) being published between 2000 and 2009, and 44.5% since 2005 (see Figure 2).



반복 CBE 테마 식별

Identifying recurring CBE themes


173개 포함 정의에 대한 엄격하고 철저한 정성적 분석에 따라, 6개의 서술적 하위 테마(결과 정의, 역량 커리큘럼, 시연 가능, 평가, 학습자 중심 및 사회적 필요성)를 포함하는 4개의 주요 주제(조직 프레임워크, 이론적 근거, 시간과의 대비, CBE 구현)를 식별했다. 주제와 광범위한 분류의 요약은 빈도수와 함께 표 2에 제시되어 있다.

Following a rigorous and thorough qualitative analysis of the 173 included definitions, we identified 4 major themes (organizing framework, rationale, contrast with time, and implementing CBE), which included 6 descriptive sub-themes (outcomes defined, curriculum of competencies, demonstrable, assessment, learner-centred and societal needs). A summary of themes and broad categorizations, along with frequency counts, are presented in Table 2.


원본 정의를 포함하는 기록은 표 3에 제시되어 있다. 이러한 식별된 정의는 표 4의 테마에 의해 코드화된다. (표 3과 4는 온라인 www.medicalteacher.org.)에서 이용할 수 있다.

Records containing original definitions are presented in Table 3; these identified definitions are coded by theme in Table 4. (Tables 3 and 4 are available online at www.medicalteacher.org.)



고찰

Discussion


의학의 CBE 요소

The elements of CBE in medicine


의학 CBE 문헌에는 커다란 이질성이 있다.

There is great heterogeneity in the medical CBE literature,


거의 모든 출판물은 CBE가 [사전에 정의된 졸업성과에 대한 헌신을 조직원리](표 2의 주제 1)로 한다는 것이 CBE를 특징짓는 접근법이라는 기본 생각을 강조하였다(Harden et al.199a). 이 검토의 최종 선택에 포함된 논문에서는 이러한 결과를 식별하고 정의하기 위한 다양한 방법을 설명했다(Harden et al. 1999b). 저자들은 또한 '역량의 진전progression'라는 개념을 집단적으로 홍보했는데, 이는 학습자들이 [일련의 정의된 이정표를 따라 훈련의 명확한 성과 목표(테마 1a)로 나아간다]는 것을 의미한다(레인과 로스 1994b; 반디에라 & 렌드럼 2008). 이것은 Ben-David(1999년)은 이렇게 말한다. "성과 기반 프레임워크는 성과를 향해 나아가는 progression의 레벨에 대해서 사전에 정의된 scheme이 있어야 한다"

Nearly every publication emphasized the cardinal idea that CBE is a distinct approach because of its dedication to predefined graduate abilities as the organizing principle (theme 1 in Table 2) (Harden et al.1999a). The papers included in the final selection for this review described a variety of methods for identifying and defining these outcomes (Harden et al. 1999b). The authors also collectively promoted the concept of ‘‘progression of competence,’’ meaning that learners advance along a series of defined milestones on their way to the explicit outcome goals of training (theme 1a) (Lane and Ross 1994b; Bandiera & Lendrum 2008). This is articulated by Ben-David (1999): ‘‘Outcome-based frameworks require a defined scheme of levels of progression towards the outcome.’’


CBE에서, 교육과정 및 평가는 프로그램 성과와 마일스톤에 대해서 사전에 정의된 표준에 따라 구성되어야 한다(Craton & Mateson 1993; Lane & Ross 1994; Martin et al. 1998; Harden et al. 1999a). 확인된 정의 중 다수는 또한 보건 직업에 CBE를 채택하는 근거에 대한 주장rationale을 포함했다(테마 2)(Newble et al. 2005).

In CBE, it is suggested that curriculum and assessment are to be organized around the defined standards of the program outcome abilities and their milestones (Craton & Matheson 1993; Lane & Ross 1994; Martin et al. 1998; Harden et al. 1999a). Many of the identified definitions also included arguments as to the rationale for adopting CBE for the health professions (theme 2) (Newble et al. 2005).


CBE를 도입하는 것은 [그 노력이 사회적 또는 환자의 요구에 부합한다는 것]이 채택의 주요 근거였다(Long 2000; Davis & Harden 2003; Lee 2003). 저자들은 환자에게 가장 잘 봉사serve하는 데 필요한 역량에 따라 조직되는 CBE 프로그램이 대중에게 더 큰 책임이 있는 시대에 올바른 선택이라고 주장했다(Glasgow et al. 2006). 또한 여러 저자들은 학습자 중심성(테마 2a)을 강조했다: 

    • 커리큘럼 구성의 유연성, 

    • 표준, 목표, 절차의 투명성, 

    • 학습자의 참여 확대, 

    • 학습자가 자신의 페이스에 따라 진행 

That all of the efforts to employ CBE would be aligned with societal or patient needs was a major rationale for adoption (Long 2000; Davis & Harden 2003; Lee 2003). Authors argued that a CBE program, when organized around the competencies needed to best serve patients, is the right choice in an era of greater accountability to the public (Glasgow et al. 2006). Furthermore, several authors (e.g., Broski et al. 1977; Demczuk 2009 et al.; Levinson 2009) emphasized the attraction of learner-centredness (theme 2a): 

    • greater flexibility in organizing a curriculum, 

    • greater transparency of standards, goals and procedures, 

    • greater engagement of learners, and 

    • the ability of learners to progress at their own pace.


학습자 중심성과 밀접한 관련이 있는 세 번째 주요 주제인 시간과 프로세스 기반 훈련을 강조하지 않는다는 약속도 CBE의 정의에서 두드러졌다(예: 브라운 외, 1973년, 웨인슈타인 & 러셀 1976년, 보티첼리 & 앤더슨 1981년, 카라치오 외, 2002년).

Closely related to learner-centredness, the third major theme, the promise of de-emphasizing timeand process-based training, was also prominent in the definitions of CBE (e.g., Brown et al. 1973; Weinstein & Russell 1976; Botticelli & Anderson 1981; Carraccio et al. 2002).


마지막으로 CBE에 대해 확인된 여러 설명에서는 교수진 개발 및 참여, 새로운 평가 방법, 변화 관리, 자원 등과 같이 CBE접근방식을 성공적으로 구현할 필요가 있다고 강조하였다.

Finally, several of the identified descriptions of CBE emphasized elements (theme 4) needed to successfully implement this approach, such as faculty development and engagement, new assessment methods, change management, and resources (Broski et al. 1977; McGaghie et al. 1978).


의학의 CBE 정의에 대하여

Toward a definition of CBE in medicine


우리는 의료 교육을 위한 CBE에 대한 제안된 21세기 정의를 개발했다.

we have developed a proposed 21st century definition of CBE for medical education, namely:


CBE(Competency-based Education)는 의사를 practice에 준비시키는 접근방식으로서, 근본적으로 졸업성과능력을 지향하며, 사회 및 환자 니즈의 분석에서 역량을 중심으로 조직된다. CBE는 시간 기반 훈련을 탈강조하며, 유연성을 약속하며, 더 많은 책무성과 학습자 중심성을 강조한다.

Competency-based education (CBE) is an approach to preparing physicians for practice that is fundamentally oriented to graduate outcome abilities and organized around competencies derived from an analysis of societal and patient needs. It deemphasizes time-based training and promises flexibility, and greater accountability, learner centredness.


Study limitations


결론

Conclusion


우리는 10가지 핵심 테마를 식별하고 CBE에 대한 논의를 진전시키기 위해 교육자가 고려해야 할 CBE의 작업 정의를 제안한다.

We identified 10key themes and propose a working definition of CBE that should be considered by educators to advance the discourse on CBE in medicine.






 2010;32(8):631-7. doi: 10.3109/0142159X.2010.500898.

Toward a definition of competency-based education in medicine: a systematic review of published definitions.

Author information

1
Royal College of Physicians and Surgeons of Canada, Canada. jfrank@royalcollege.ca

Abstract

BACKGROUND:

Competency-based education (CBE) has emerged in the health professions to address criticisms of contemporary approaches to training. However, the literature has no clear, widely accepted definition of CBE that furthers innovation, debate, and scholarship in this area.

AIM:

To systematically review CBE-related literature in order to identify key terms and constructs to inform the development of a useful working definition of CBE for medical education.

METHODS:

We searched electronic databases and supplemented searches by using authors' files, checking reference lists, contacting relevant organizations and conducting Internet searches. Screening was carried out by duplicate assessment, and disagreements were resolved by consensus. We included any English- or French-language sources that defined competency-based education. Data were analyzed qualitatively and summarized descriptively.

RESULTS:

We identified 15,956 records for initial relevancy screening by title and abstract. The full text of 1,826 records was then retrieved and assessed further for relevance. A total of 173 records were analyzed. We identified 4 major themes (organizing framework, rationale, contrast with time, and implementing CBE) and 6 sub-themes (outcomes defined, curriculum of competencies, demonstrable, assessment, learner-centred and societal needs). From these themes, a new definition of CBE was synthesized.

CONCLUSION:

This is the first comprehensive systematic review of the medical education literature related to CBE definitions. The themes and definition identified should be considered by educators to advance the field.

PMID:
 
20662573
 
DOI:
 
10.3109/0142159X.2010.500898


의학의 시간-변동 훈련: 이론적 고려사항 (Acad Med, 2018)

Time-Variable Training in Medicine: Theoretical Considerations

Olle ten Cate, PhD, Larry D. Gruppen, PhD, Jennifer R. Kogan, MD, Lorelei A. Lingard, PhD, and Pim W. Teunissen, MD, PhD




20세기 교육 이론이 대두된 이후, 연구자들은 시간, 노력, 그리고 학습의 관계를 연구해왔다. 그러나 의학교육에서 훈련 프로그램의 선택된 길이를 뒷받침하는 근거는 잘 논의된 적이 없다. 예를 들어, 비슷한 신체 부위의 질병과 기능장애에 초점을 맞춘 치과 및 안과 전문의의 훈련 기간 차이(미국에서는 각각 8년과 12년, 유럽에서는 5년, 6년, 11년)는 근거기반의 결정이라기보다는 역사의 유산이다.

Since the rise of educational theory in the 20th century, researchers have examined the relationship between time, effort, and learning. In medical education, however, the rationale underpinning the chosen length of training programs has never been well argued.6 As an example, the difference in training length for specialists in dentistry and ophthalmology (in the United States, 8 vs 12 years after secondary school, respectively; in Europe, 5 or 6 vs 11 years)—both specialties that focus on disease and dysfunction in a similarly sized segment of the body—is a legacy of history more than an evidence- informed decision.


캐럴 모델: 배움의 공식에 시간을 넣는 것

The Carroll Model: Putting Time in the Equation of Learning


역량과 성과 기반 교육의 근원은 교육학자 Ralph Tyler.10 에 의해 시작된 2차 세계대전 후 교육목적에 관한 교육적 사고에서 발견될 수 있다. Tyler는 학교는 자신의 목적을 재고하고, 목적을 향해 학습자들의 경험을 조직해야 한다고 제안했다. Tyler의 작업은 의학교육에도 영향을 주었는데, 이는 그가 Case Western Reserve University와 의료 훈련 목표를 정의하기 위하여 밀접하게 함께 작업했기 때문이다. 타일러의 통찰력 뒤에 교육목표의 분류법을 확장하는 벤자민 블룸의 연구가 뒤따랐다.12,13

The roots of competency- and outcomes- based education may be found in the educational thinking that emerged in the post–World War II period around educational objectives, initiated by educational scientist Ralph Tyler.10 Tyler proposed that schools should rethink their purpose and organize learners’ experiences toward those purposes.11 His work affected medical education as he worked intimately with Case Western Reserve University to define objectives for medical training. Tyler’s insights were followed by Benjamin Bloom’s work expanding taxonomies of educational objectives.12,13


일단 교육의 목표가 받아들여지자, 교육심리학자 존 캐롤은 적성과 인내력을 포함하는 교육 모델을 제안했다. 캐롤은 [발생한 학습의 정도]는 [학습자가 투입한 시간]과 [학습자가 교육 목표를 달성하기 위해 필요한 시간]의 함수라고 제안했다. 즉, 학습 효과 = f(투입한 시간/필요한 시간) 즉, 학습자는 주어진 과제를 배우는 데 필요한 시간 대비 얼마나 학습에 시간을 투입했느냐에 따라 학습하는데, 이 '필요한 시간'이 학습자마다 다르다. 오직 개별적인 요인에만 초점을 맞춘 이 일반적인 사고는 1960년대와 1970년대 행동주의 교육 이론에 널리 영향을 미쳤으며 당시 의학 훈련에도 적용되었다.17

Once objectives for education became accepted, John Carroll, an educational psychologist, proposed an educational model that included aptitude and perseverance. He proposed that the degree of learning that occurs is a function of the time spent by the learner and the time needed by the same learner to attain an educational objective— that is, learning effect = f (time spent/time needed). In other words, a learner succeeds in learning a given task to the extent that he or she spends the amount of time that he or she requires to learn the task, which is different for each individual.14–16 This general thinking, which focuses solely on individual factors, had pervasive influence on behaviorist educational theory in the 1960s and 1970s and was also applied to medical training at that time.17


숙달된 학습, 신중한 실습 및 학습 곡선

Mastery Learning, Deliberate Practice, and Learning Curves


캐럴 모델은 이후 블룸18에 영감을 주어고, 의학교육자들의 관심을 빠르게 사로잡은 개념인 숙달학습이라고 불리는 교육 모델을 개발하게 했다.19 마스터리 러닝은 행동주의 원칙에 뿌리를 두고 있으며 1980년대에 성공으로 자리매김했다. 학습 효과는 잘 문서화되어 있으며, 특히 인지 영역20.21 숙달 학습에서 학습자는 반복적인 실습에 참여하여 학습 경험 중 피드백을 받는 동시에 난이도가 증가하는 과제를 수행한다. 숙달 학습 프로그램에서 목표하는 학습 성과는 균일하다. 즉 학습자들 간에 차이가 거의 없거나 전혀 없다. 중요한 것은, 표준화된 결과를 얻기 위한 교육 시간은 학습자들 사이에서 다양할 것으로 기대되었다.

The Carroll model subsequently inspired Bloom18 to develop a model of education called mastery learning, a concept that quickly caught the attention of medical educators.19 Mastery learning is rooted in behaviorist principles and established itself as successful in the 1980s. Its learning effects are well documented, particularly in the cognitive domain.20,21 In mastery learning, learners engage in repetitive practice, practicing tasks with increasing levels of difficulty while receiving feedback during the learning experiences. Learning outcomes from mastery learning programs were meant to be uniform—that is, with little or no variation among learners. Importantly, educational time to achieve standardized outcomes was expected to vary among learners.


시뮬레이션 기법의 확대로, 숙달된 학습은 의학 교육에서 부활을 누렸다.22–24 McGaghie 외 연구진 25,26은 이 맥락에서 숙달 학습의 7가지 특징을 설명했다(목록 1 참조). 숙달 학습에 구성요소로 중 [필요시간의 다양성]은 일곱 번째 특징에서 파악된다(목록 1 참조).

With the expansion of simulation techniques, mastery learning has enjoyed a revival in medical education.22–24 McGaghie et al25,26 described seven features of mastery learning in this context (see List 1). Time variation as a necessary component of mastery learning is captured in the seventh feature (see List 1):


McGagghie 외 연구 결과에 기초한 마스터 학습의 특징 목록 개요

List 1 Features of Mastery Learning, Based on the Work of McGaghie et al25


1. 숙달된 학습 코스는 기준선 또는 엔트리 레벨 진단 테스트로 시작해야 한다.

2. 본 코스는 일반적으로 증가하는 어려움에서 단위로 배열된 명확한 학습 목표를 명시해야 한다.

3. 목표 달성에 초점을 맞춘 교육 활동(예: 계획적인 기술 연습, 계산, 데이터 해석, 읽기)에 참여해야 한다.

4. 각 교육 단위에 대해 최소 합격기준(예: 시험점수)을 정한다.

5. 형태별 시험은 반드시 학습자에게 단위 완료에 대해 알려야 한다.

6. 다음 교육단위로의 발전은 이전 단위가 숙달기준 이상에서 완료되는 것에 달려있다.

7. 숙달된 표준에 도달할 때까지 교육 단위에 대한 지속적인 연습이나 학습이 있어야 한다.


1. A mastery learning course should start with baseline or entry-level diagnostic testing.

2. The course must state clear learning objectives, sequenced as units usually in increasing difficulty.

3. There must be engagement in educational activities (e.g., deliberate skills practice, calculations, data interpretation, reading) focused on reaching the objectives.

4. For each educational unit, a minimum passing standard is set (e.g., test score).

5. Formative testing must inform the learner about unit completion.

6. Advancement to the next educational unit is contingent upon completion of the previous unit at or above the mastery standard.

7. There must be continued practice or study on an educational unit until the mastery standard is reached.



숙달 학습은 모든 학생을 위한 유사한 시험으로 측정해야 하는 표준화된 성과 목표를 설정하는 반면에, 의도적 연습에 기초한 에릭슨의 전문가 퍼포먼스 접근은 개개인에게 [재현 가능한 우수한 성과를 개발]하는 데 초점을 맞추고 있다.

Whereas mastery learning sets standardized performance goals to be measured with similar tests for all students, Ericsson’s expert performance approach with deliberate practice is focused on developing reproducibly superior performance in an individual.


에릭슨은 타고난 재능보다는 의도적 연습이 전문가 수행의 핵심이라고 제안했고, 이는 합당한 능력을 가진 사람이라면 전문가 수행 목표를 달성할 수 있다는 것을 암시한다.

Ericsson proposed that, rather than innate talent, deliberate practice is the key to expert performance,28 which implies that anyone with reasonable capability can attain expert performance goals.


보다 최근에 Ericsson28은 의도적 연습을 동반하는 전문가 퍼포먼스 접근법을 의사의 훈련에 어떻게 적용할 수 있는지를 설명했다. 

  • 숙달학습은 단기적 목표(예: 중앙 정맥 카테터 삽입 마스터)를 제공하는 반면에, 

  • 전문가 성과 접근법은 학습자가 직업 경력 동안 통합된 스킬 획득을 지속할 수 있도록 돕기 위한 장기적 목표를 달성하는 것을 목표로 한다.

More recently, Ericsson28 described how the expert performance approach with deliberate practice could be applied to physicians’ training. 

  • Whereas mastery learning provides short-term goals (such as mastering the insertion of a central venous catheter), 

  • the expert performance approach aims to attain long-term goals to help learners continue with integrated skill acquisition throughout their professional careers.


의도적 연습29에 대한 조건이 학습자에 의해 적용되고 교육적인 맥락에서 지원된다면, 그것들은 시간 효율적인 기술 습득으로 이어져야 한다. 의도적 연습의 필수요소는 다음과 같다. 

  • 확한 성과 목표, 

  • 집중적이고 반복적인 연습, 

  • 엄격하고 신뢰할 수 있는 결과 측정, 

  • 유익한 피드백(예: 시뮬레이터 또는 교사로부터), 

  • 감시와 오류 수정, 그리고 

  • 이후의 추가 연습이다.

If the conditions for deliberate practice29 are applied by the learner and supported by the educational context, they should lead to time-efficient skills acquisition. The essentials of deliberate practice are 

  • clear performance goals; 

  • focused, repetitive practice; 

  • rigorous, reliable measurements of results; 

  • informative feedback (e.g., from simulators or teachers); 

  • monitoring and error correction; and 

  • subsequent further practice.


의도적 연습이 적용될 수 있는 영역과 상황에 대해 약간의 논쟁이 있다.30 그러나, 시뮬레이션 센터와 같은 직장 밖에서는 의도적 연습이 설득력 있게 효과적이라는 것이 입증되었다.24,29

There is some debate about the domains and contexts in which deliberate practice can be applied.30 Outside the workplace, however, such as in simulation centers, deliberate practice has been convincingly shown to be effective.24,29


임상 의학의 일부 분야에서는 연습 노력, 시간, 숙련도의 관계가 잘 확립되어 있다. 한 가지 예는 대장내시경 수술이다. Chung et al31은 200회의 대장내시경 연습이 합당한 효율로 대장내시경들을 수행하는 숙련도를 얻기 위해 필요하다고 결론지었다. 그러나 그래프가 보여주듯이, 개인들은 다르다.

In some areas of clinical medicine, the relationship between practice effort, time, and proficiency has been well established. One example is in colonoscopy procedures. Chung et al31 concluded that, at their center, 200 colonoscopies are necessary to attain the proficiency to conduct colonoscopies with reasonable efficiency; however, as the graph shows, individuals differ.


전문가 수행에는 각기 다른 시간이 걸리지만, 내시경 능력을 달성하는 데는 적어도 일정량의 경험이 필요한 것 같다. 그러나 다른 직장 환경에서의 의료 관행은 대부분 목표의 복잡성, 엄격하고 시기 적절한 피드백의 부재, 피드백을 통합하는 방식으로 작업을 재시도할 수 있는 기회가 부족하기 때문에, 의도적 연습을 위한 지정된 조건을 충족하지 못하는 경우가 매우 많다.

Although expert performance takes different people different amounts of time, there seems to be at least a floor of experience required for anyone to achieve endoscopic competence. However, the practice of health care in other workplace settings may very often not meet the conditions specified for deliberate practice, in large part because of the complexity of the goals, the absence of rigorous and timely feedback, and the lack of opportunities to reattempt the work in a manner that incorporates the feedback.


직장에서의 학습이 (대장내시경 훈련에서처럼) 언제나 [표준화된 환경에서 반복적이고 계획적인 연습 기회]를 제공하는 방식으로 조직되는 것은 아니다. 그렇다고 해서 개별 연수생들 간의 time variation을 보여줄 수 없는 것은 아니다. 훈련의 숙련도와 길이에 관련된 또 다른 영역은 progress testing이다.

Learning in the workplace is not always organized to provide repetitive, deliberate practice opportunities in a more or less standardized setting as occurs in colonoscopy training. That does not mean that time variation between individual trainees cannot be shown. One other area that relates proficiency and length of training is progress testing,


대부분의 레지던트는 3년 후에 이 임계값을 통과하게 되지만, 일부 5년차 레지던트는 여전히 교육 종료 시 이 기준을 충족하지 못하며 교정조치가 필요하다.

Most residents will have passed this threshold after three years, but some fifth-year residents still do not meet this criterion at the end of training and require remediation


이러한 예로부터, 학습자가 최소한의 능력 수준을 달성하는 데 필요한 시간이 다양하여 교육 이론으로부터의 일반 개념을 뒷받침하는 것이 명백해진다. 연습이 필요하고, 숙달된 목표를 설정하는 것이 유용하며, 계획적인 연습은 학습을 향상시키고, 시간을 줄이고, 더 높은 수준의 숙달로 이어질 수 있다. 그러나 Time-variable 훈련 모델이 훈련 시간을 특별히 단축하도록 설계되었다고 가정하는 것은 정확하지 않다. 더 느린 학습자는 높은 수준의 숙련도에 도달하기 위해 더 많은 시간이 필요할 수 있으며 그렇게 하기 위해 시간과 공간이 주어져야 한다.

From these examples, it becomes clear that the time learners need to attain a minimum level of competence varies, supporting the general notions from education theory. Practice is needed, setting mastery goals is useful, and deliberate practice may enhance learning, decrease time, and lead to higher levels of proficiency. Assuming that a time-variable training model is designed to specifically reduce training time, however, would be incorrect. Slower learners may need more time to reach high levels of proficiency and should have time and space to do so.


시간변화와 자기규제와 동기부여의 이론

Time Variability and the Theories of Self-Regulation and Motivation


학습자의 주도성은 행동 동기부여에 의존한다. 임상 작업장에서, 학습의 자기조절은 임상 전 교실 교육에서보다 훨씬 더 역량 개발에 중요하다.34 사전 사고 단계, 수행 단계 및 반성 단계, 35 주기적 경험 학습 과정과 호환되는 일련의 사고 및 계획 패턴이 필요하다.36 이 단계들은 "내가 어디로 향하는 중이었는가?" "내가 거기 어떻게 갔지?" "다음은 어디로 갈까?"37 와 같은 질문으로 마무리될 수 있다. 

Learners’ agency is dependent on their motivation to act. In clinical workplaces, self-regulation of learning is key in the development of competence, much more so than in preclinical classroom education.34 It requires a sequenced pattern of thinking and planning that includes a forethought phase, a performance phase, and a reflection phase,35 which is compatible with a cyclical experiential learning process.36 These phases may be concluded with questions like “Where was I going?” “How did I get there?” and “Where to next?”37


역량 개발에 소요되는 시간의 개개인 간 차이는 부분적으로 동기부여와 자기조절학습 능력에 의해 설명될 수 있다. 비록 어느 정도 동기가 개별적인 특성이지만, 그것은 또한 맥락적 요소와 감정에 의해 영향을 받아 성취에 영향을 미친다.38–40

Individual variation in the time it takes to develop competence may in part be explained by motivation and self- regulated learning ability. Although motivation to some extent is an individual characteristic, it is also affected by contextual factors and emotions that in turn affect achievement.38–40


목표 지향 이론과 자기 결정 이론(SDT).

goal orientation theory and self-determination theory (SDT).


학습자는 목표 지향이 다를 수 있다. 

  • 진정한 학습(숙달 목표 지향이라 함)을 목표로 하는 사람은 성과에 덜 집중하고 새로운 지식과 기술을 얻는 것에 더 관심을 갖는다. 

  • 이와는 대조적으로 성과목표(퍼포먼스 지향이라 함)를 가진 사람은 긍정적인 평가를 받고 능력에 대한 부정적인 판단을 피하는 데 초점을 맞추고 있다.41

Learners may have different goal orientations. 

  • Someone with a goal of true learning (called mastery goal orientation) is less focused on performance and more concerned with gaining new knowledge and skills. 

  • In contrast, someone with a goal of performance (called performance goal orientation) is focused on receiving positive and avoiding negative judgments of his or her competence.41


필요한 수준의 퍼포먼스 달성에 초점을 맞춘 역량 기반 커리큘럼은 학습자, 특히 의학의 경쟁적 학습 문화에서 퍼포먼스 목표 지향성을 우선적으로 강화할 위험이 있으며, (최소) 표준에 도달한 후에 동일한 맥락에서 보내는 추가적인 시간은 쓸데없는 시간이거나 경쟁적 세계에서 능력이 떨어지는 신호로 여겨질 수 있다.

Competency- based curricula that focus on attaining a required level of performance carry the risk of preferentially strengthening a performance goal orientation in learners, particularly in medicine’s competitive learning culture, with the possibility that additional time in the same context after reaching (minimum) standards could be considered wasted time or a sign of less capability in a competitive world.42


SDT는 또 다른 주요한 동기부여 이론이다. 그것은 본질적인 동기를 창출하고 유지하기 위해 충족되어야만 하는 인간의 선천적인 심리학적 욕구, 즉 능력감, 자율감, 그리고 친구나 가족이나 동료와 같은 집단이나 공동체와의 관련성 등을 묘사하고 있다. 또한 이러한 요구를 충족시키는 임상적 맥락은 내재적 동기를 촉진할 것으로 기대할 수 있는데, 여기에는 역량을 보상하고, 가능하다면 책임을 부여하며, 직장에서 자율성을 제공하는 것(예: 학습자를 의료 팀의 중요한 구성원으로 받아들임)이 필요하다.


SDT is another major motivational theory. It describes three innate psychological needs of human beings that must be satisfied to generate and maintain intrinsic motivation: a feeling of competence, a feeling of autonomy, and a feeling of relatedness to a group or community, such as friends, family, or colleagues. A clinical context that satisfies these needs—by rewarding competence, granting responsibilities when possible, and providing autonomy at work (e.g., by accepting learners as important members of the health care team)—can be expected to foster intrinsic motivation.43


SDT는 외재적-내재적 동기의 스펙트럼에서 동기부여의 내재적 측면(자율적 동기부여라고 함)이 학문적 성취 및 웰빙과 관련이 있다고 가정한다.44 그러나 불행하게도, 임상적 맥락은 점점 더 자율적인 조건에 도움이 되지 않고 있고, 그리고 연습생들의 웰빙은 점점 더 악화되고 있다. Time-variable 훈련은 [동기부여를 유도하는 맥락]에 의존하기 때문에 의대와 병원은 학습 풍토learning climate를 알아야 한다.48

SDT posits that motivation weighted toward the intrinsic side of the extrinsic–intrinsic spectrum of motivation—often called autonomous motivation—correlates with academic achievement and well-being.44 Unfortunately, clinical contexts are increasingly not conducive to autonomy- supportive conditions,45 and trainee well-being is increasingly challenged.46,47 As time-variable training is dependent on a context that drives motivation, medical schools and hospitals should be aware of their learning climate.48


시간과 학습의 신경인식적 관점

Neurocognitive Perspectives of Time and Learning


성공적인 학습은 명시적overt 학습 활동만으로 전락할 수 없다. 신경인식의 관점에서 학습은 또한 학습에 명시적으로 헌신하지 않는 기간 동안에 일어난다.49

Successful learning cannot be reduced to overt learning activities alone. From a neurocognitive perspective, learning also happens during periods that are not explicitly devoted to learning.49


수면은 기억력 통합을 촉진한다.50–53 광범위한 리허설이 필요한 학습 목표의 경우, 장기간의 간격 연습이 응축된 시간에 대량 연습보다 더 효과적이라는 것은 잘 확립되어 있다.54~57 분명히, non-practice기간에도 학습 효과에 기여하는 어떤 일이 일어나며, 이는 체력 단련 후 근육 발달과 비슷하다.

Sleep fosters memory consolidation.50–53 It is well established that, for learning goals requiring extensive rehearsal, spaced practice over a prolonged time is more effective than massed practice in a condensed time, despite similar investments of practice hours.54–57 Evidently, something happens in periods of nonpractice that contributes to a learning effect, akin to muscle development after physical training.


그러므로 교육 프로그램은 학습 활동으로 채워지지 않은 시간의 중요성을 고려해야 한다. 적어도 짧은 시간 내에 유사한 활동을 반복해서는 안 된다. 또한 학문에 있어서 정신적 휴식의 중요성을 고려해야 한다.

Educational programs should therefore consider the importance of time that is not filled with learning activities, at least not with repetition of similar activities in a short period of time, and the importance of mental rest for learning.


Time-variable 훈련과 관련된 또 다른 인지과학적 관점은 covert 또는 잠재적latent 학습이다. 이것은 명백한 강화나 눈에 띄는 행동 변화가 없는 상태에서 일어나는 학습 58이며, 이는 임상 추론 기술을 개발하는 데 필요하다. 임상적 추론은 다음 두 가지 정신적 과정을 수반한다고 가정한다. 시스템 1 또는 고속, 자동 사고 및 시스템 2 또는 저속 분석 사고.59,60

Another cognitive science perspective relevant to time-variable training is covert or latent learning—the learning that occurs in the absence of any obvious reinforcement or noticeable behavioral change58—which is necessary to develop clinical reasoning skills. Clinical reasoning is assumed to involve two mental processes: System 1 or fast, automatic thinking and System 2 or slow, analytic thinking.59,60


대략 패턴 인식으로 개념화된 시스템 1 사고는 광범위한 임상 경험을 필요로 한다. 이 중 상당수는 교육 과정에서는 가르칠 수 없다.61 패턴인식은 임상 실습 중에 발달하며, 이는 환자를 경험하고 환자에 대한 경험이 illness script의 형성에 추가될 때 일어난다. Illness script란 숙련된 임상의가 가지고 있는 mental repository로서, 과거에 마주친 환자들을 기준으로 특정 환자의 징후와 증상들의 패턴을 빠르게 인식할 수 있게 해준다.


Adequate System 1 thinking, roughly conceptualized as pattern recognition, requires extensive clinical experience. Much of that cannot be taught in educational courses.61 It develops during clinical practice, when patient encounters and their management add to the creation of illness scripts, a mental repository that an experienced clinician has and that allows for the rapid recognition of a pattern of signs and symptoms in a particular patient based on patients encountered in the past.62,63


이 mental illness script 저장소를 구축하는 데에는 쉽게 계획되지 않은 시간과 경험이 필요하다. 경험한 환자의 다양성은 사후적으로 이해되고 평가될 수 있지만, 정해진 기간 동안 적절한 임상 배치를 통해 사전 계획을 수립하는 일차적인 접근방식은 환자 만남의 의도적인 혼합을 보장하지 않는다. 대신 현재의 로테이션 시스템은 "무작위 기회에 의한 커리큘럼"이라고 불렸다.64

Building this mental illness script repository takes time and experiences that are not easily planned. Patient encounters and their diversity may be understood and valued in hindsight, but a primary approach of preplanning through allocating suitable clinical placements for a designated duration does not guarantee a deliberate mix of patient encounters. The current rotational system has instead been called a “curriculum by random opportunity.”64


프로페셔널 아이덴티티 형성의 관점에서 본 시간적 변화

Time Variability From the Perspective of Professional Identity Formation


의사의 직업적 정체성은 "의료전문직의 특성, 가치, 규범 등이 내실화되어 의사처럼 개인의 사고, 행동, 느낌을 초래하는, 시간이 지남에 따라 단계적으로 달성되는 자기 자신을 나타내는 것"으로 정의되어 왔다."65

The professional identity of a physician has been defined as “a representation of self, achieved in stages over time during which the characteristics, values, and norms of the medical profession are internalized, resulting in an individual thinking, acting, and feeling like a physician.”65


숙달 학습에서 예시된 바와 같이 지식과 기술의 관점에서 시간변동적 훈련은 전문직 정체성 개발에는 (특정 스킬 습득과는 무관하게) 시간이 걸릴 수 있다는 것을 고려하지 않는다. Hafferty66은 "모든 직업 훈련은 새로운 지식과 기술을 배우는 것을 포함하지만, 사회화를 훈련과 차별화하는 것은 정체성의 변화altered sense of self를 동반한 지식과 기술의 융합이다."라고 언급했다.

Time-variable training from the perspective of knowledge and skills, as exemplified in mastery learning, does not take into account that professional identity development may take time, independent of specific skill acquisition. As Hafferty66 noted, “While any occupational training involves learning new knowledge and skills, it is the melding of knowledge and skills with an altered sense of self that differentiates socialization from training.”


전문직 정체성은 훈련 후에도 계속 발달하게되며, 졸업시점까지 연습생들이 반드시 달성해야 할 정체성 형성 목표가 미리 정해져 있지 않다. 모든 수련자에게 공통적인 정체성 형성 과정도 있지만, 이 과정이 자신의 정체성에 어떤 영향을 미치는가는 물론, 정체성 형성에 걸리는 시간에서도 개인마다 차이가 있을 가능성이 있다. 교육 프로그램은 이러한 과정에 영향을 미칠 수 있다.67 WCC와 같은 의료훈련에서의 각종 의식이 그 예이다.

Professional identity continues to develop after training, and there is no predetermined identity formation goal that trainees must achieve before graduating. Although there are processes related to identity formation that are common to all trainees, it is likely that individuals differ not only in how this process affects their identity but also in the time identity formation takes. Educational programs can affect this process.67 For instance, rituals in medicaltraining


정체성 형성은 specific time frame에 쉽게 포착되지 않는다. 그러나 훈련이 크게 짧아진다면 방해 받을 수 있다. 또한 학습자들은 전문직 정체성 형성에 준비되어 있다고 느끼지 않더라도, 전문직답게 행동해야 한다. 몇몇 이론들이 학습과 직업 발전에 영향을 미치는 (임상적) 일터의 특징에 대한 이해에 도움을 준다. 연습과 인지적 도제, 성찰 연습, 사회적 인지 이론, 경험적 학습 등의 공동체. 이 이론들 중 어느 것도 정체성 형성의 관련 변수로서의 시간에 명백히 초점을 맞추지는 않지만, 대부분은 전문직이 되는 것은 일정량의 시간과 사회적 상호작용이 필요하다는 생각을 암묵적으로 지지한다.

Identity formation is not easily captured in a specific time frame, but it may be hampered when training is substantially shortened and learners must act as professionals while not feeling ready for it. Several theories have added to our understanding of the features of the (clinical) workplace that affect learning and professional development, such as communities of practice and cognitive apprenticeship, reflective practice, social cognitive theory, and experiential learning.36,69–72 None of these theories explicitly focuses on time as a relevant variable, yet many or all implicitly support the idea that becoming a professional takes time and social interaction.


교육목표로서의 신뢰

Entrustment as an Objective of Training


비록 객관화된 지식과 기술은 대개 교육 프로그램 졸업의 궁극적인 표준으로 간주되지만, 전문적 업무를 수행하도록 위임한다는 개념이 보건 직업에서 더 적절한 접근법일 수 있다.

Although objectified knowledge and skills are usually regarded as the ultimate standard for graduation from an educational program, the concept of entrustment to perform professional tasks may be a more suitable approach in the health professions.


위임 결정이 이루어지는지 여부는 

(1) 연습자의 특징, 

(2) 감독자의 특징, 

(3) 컨텍스트의 특징, 

(4) 위임될 작업의 성격, 

(5) 연습자와 감독자의 관계 

...등 5가지 요소로 분류된 여러 요인에 의해 결정된다.

Whether an entrustment decision is made is determined by several factors, grouped into five sources: 

(1) features of the trainee, 

(2) features of the supervisors, 

(3) characteristics of the context, 

(4) the nature of the task that is being entrusted, and 

(5) the relationship between trainee and supervisor.74–76


시간은 매우 중요하다. 신뢰는 시간에 따라 발전하고, 위임 프로세스는 종단적 attachment에서 가장 잘 이루어질 수 있기 때문이다.77,78 신뢰에 대한 결정은 [위험의 평가]를 수반한다. 위험은 감당가능한 정도인가? 그리고 trainee는 EPA의 감독되지 않은 수행을 정당화 할 임계값을 통과했는가?79–81

Time is critical, as trust develops over time and entrustment processes may be best served by longitudinal attachments.77,78 Decisions to trust involve the valuation of risks: Are the risks acceptable? and Has the trainee passed a threshold that justifies her or his unsupervised execution of an EPA?79–81


EPA는 time variability를 의미한다. 훈련이 진행됨에 따라, 훈련자는 점차 자격을 갖추어 한 번에 하나씩 EPA를 획득하는 동시에, 연습생에서 전문가로 변신할 수 있다.73

EPAs imply time variability. As training progresses, trainees may become gradually qualified and entrusted with EPAs one at a time, while transforming from a trainee into a professional.73


EPA를 숙달하는 데 필요한 시간의 개별적인 차이를 반영하려면, 학습자가 감독되지 않은 과제를 능숙하게 수행할 수 있을 때에만 수행하기 시작할 수 있도록 시간 가변성을 허용하는 개별화된 교육 경로가 필요할 것이다. 프로그램의 모든 필수 EPA에 걸쳐 학습자에 대한 신뢰가 조기에 확립되는 경우, 해당 개인에 대한 전체 프로그램 길이의 감소를 고려할 수 있다. 그러나, 일부 학습자들은 총 (훈련) 시간이 늘어날 것이라고 기대하는 것은 타당하다. 

To account for individual differences in the time needed to master EPAs, individualized training pathways allowing for time variability will be necessary,82,83 so that learners only begin performing unsupervised tasks when they can perform them competently. If trust in a learner is established early across all essential EPAs of a program, a decrease in total program length for thatindividual can be considered. However, it is just as reasonable to expect that some learners will require an increased total time. 


결론

Conclusion


특정 교육 목표를 달성하는 데 필요한 시간은 학습자마다 다를 수 있다. 1963년 캐럴은 이러한 관찰을 학습효과가 학습자가 필요로 하는 시간의 함수라는 방정식으로 제시했다. 그러나 현재의 지식과 통찰력에 따르면, 보건의료전문직 교육의 경우, 이 방정식은 전체의 일부에 불과하다고 결론 내릴 수 있다. 이 모델은 초등학교와 중등학교의 교실 학습에서 영감을 받은 반면, 건강 직업 교육에서는 임상 작업장이라는 중요한 차원이 존재한다.

The time needed to attain specific educational objectives may vary among learners. Carroll made this observation in 1963, when he proposed an equation saying that the learning effect is a function of the time needed by the learner divided by the time spent on learning. With current knowledge and insights, we can conclude that for health professions education, this equation is only part of the story. The model was inspired by classroom learning in primary and secondary school, while in health professions education, the clinical workplace adds a significant dimension.


절차 영역에서의 시뮬레이션과 훈련에서 가장 두드러지게 예시되는 건강 직업 교육에서의 숙달된 학습과 계획적인 연습은 대략 Carroll의 모델을 따르지만, 임상 환경에서의 훈련은 이 방정식에 몇 가지 다른 요소들을 가져온다. 캐럴은 명백하고 시험 가능한 학습 목표에 초점을 맞추었다. 캐롤은 경험적 학습을 고려하지 않았고, 그것을 직업적 정체성 형성과 관련시키지 않았으며, 확실히 직업적 책임을 수행하도록 위임하는 것을 훈련의 목표로 생각하지 않았다. 고강도의 경험과 휴식 시간을 교대로 하는 것은 학습에 특히 도움이 될 수 있다. 직업적 정체성의 발달은 시간이 필요하다. 그리고 자기 조절 습관, 목표 지향, 그리고 동기 부여는 개인이 학습에 쏟는 시간과 노력에 영향을 미친다. 마지막으로 신뢰와 위임이 임상수련의 평가의 중심적 요소가 되려면, 시간도 하나의 요인이 되어야 한다.

Mastery learning and deliberate practice in health professions education, most prominently exemplified in simulation and training in the procedural domains, does roughly follow Carroll’s model, but training in the clinical environment brings several other factors to this equation. Carroll was focused on overt and testable learning objectives; he did not take experiential learning into account, did not relate it to professional identity formation, and certainly did not think of entrustment to perform professional responsibilities as the objective of training. Alternating high- intensity experiences and rest time may be particularly conducive to learning; the development of professional identity requires time; and self-regulation habits, goal orientation, and motivation influence the time and effort an individual puts into learning. Finally, time is a factor if trust and entrustment become central components of the assessment of clinical trainees.


이러한 기본 개념의 풍부함을 검토하면서, 우리는 접근 시간 변동성에 있어 캐럴의 방정식은 의료 훈련에 적용하기에는 다소 단순하다는 결론을 내릴 수 있다.

Reviewing the richness of these underlying concepts, we can conclude that, in approaching time variability, the Carroll equation is somewhat simplistic in its application to the breadth of medical training.




 2018 Mar;93(3S Competency-Based, Time-Variable Education in the Health Professions):S6-S11. doi: 10.1097/ACM.0000000000002065.

Time-Variable Training in MedicineTheoretical Considerations.

Author information

1
O. ten Cate is professor of medical education, Center for Research and Development of Education, University Medical Center Utrecht, Utrecht, the Netherlands. L.D. Gruppen is professor, Department of Learning Health Sciences, University of Michigan Medical School, Ann Arbor, Michigan. J.R. Kogan is professor of medicine, Department of Medicine, Perelman School of Medicine at the University of Pennsylvania, Philadelphia, Pennsylvania. L.A. Lingard is professor, Department of Medicine, and director, Centre for Education Research & Innovation, Schulich School of Medicine & Dentistry, Western University, London, Ontario, Canada. P.W. Teunissen is professor, School of Health Professions Education, Maastricht University, Maastricht, the Netherlands, and maternal fetal medicine specialist, VU University Medical Center, Amsterdam, the Netherlands.

Abstract

The introduction of competency-based medical education has shifted thinking from a fixed-time model to one stressing attained competencies, independent of the time needed to arrive at those competencies. In this article, the authors explore theoretical and conceptual issues related to time variability in medical training, starting with the Carroll model from the 1960s that put time in the equation of learning. They discuss mastery learning, deliberate practice, and learning curves.While such behaviorist theories apply well to structured courses and highly structured training settings, learning in the clinical workplace is not well captured in such theories or in the model that Carroll proposed. Important in clinical training are self-regulation and motivation; neurocognitive perspectives of time and learning; professional identity formation; and entrustment as an objective of training-all of which may be viewed from the perspective of the time needed to complete training. The authors conclude that, in approaching time variability, the Carroll equation is too simplistic in its application to the breadth of medical training. The equation may be expanded to include variables that determine effective workplace learning, but future work will need to examine the validity of these additional factors.

PMID:
 
29485480
 
DOI:
 
10.1097/ACM.0000000000002065


CBME에서 교육-훈련-실천의 진정한 연속체를 그리기(Acad Med, 2019)

Envisioning a True Continuum of Competency-Based Medical Education, Training, and Practice

Olle ten Cate, PhD, and Carol Carraccio, MD, MA




의학 교육, 훈련 및 실습 단계는 지난 수백 년 동안 단편적으로 발전해 왔다. 이러한 기회주의적 발전은 의사가 인구 건강 요구를 충족하기 위해 달성해야 하는 역량이 아니라, [임의로 발생하는 고립된 커리큘럼]으로 이어졌다.1 일단 훈련을 마친 후에도, 어떤 사람들은, 의사들이 그들의 경력 내내 최신 상태를 유지하고 전문적 능력의 자기 정의 영역으로 그들의 관행을 제한할 것이라고 가정했다.

The stages of medical education, training, and practice have developed piecemeal over the last few hundred years. This opportunistic development has led to siloed curricula, which have arisen arbitrarily rather than from the competencies that physicians must attain to meet population health needs.1 Once out of training, some members of the profession assume that physicians remain up-to-date throughout their careers and limit their practice to self-defined areas of professional competence.


1세기 전에, 이 모델은 정당화되었을지도 모른다. 의학 학위는 평생 동안 연습을 가능하게 하는 데 필요한 많은 지식과 기술을 포함했고, 소수의 졸업생만이 전문 교육에 진출했다. 오늘은 그렇지 않다. 현재까지 많은 국가에서 의료면허는 여전히 면허를 받은 의사의 능력을 넘어서는 일련의 의료행위까지도 허용하고 있다.

A century ago, this model may have been justified. The medical degree covered much of the knowledge and skills physicians needed to enable practice for a lifetime, and only a minority of graduates advanced to specialized training. This is not the case today. To date, however, a medical license in many jurisdictions still permits a scope of practice beyond a given physician’s capabilities.


생물 의학적 지식이 증가하고 의료 시스템이 더 정교해짐에 따라, 교육에서 확인된 지배적인 반응은 교육 시간을 더 연장하는 것이었. 교육기간을 더 전문화된 영역을 다루도록 확장하는 것이다. 우리는 이제 이러한 접근법이 더 이상 작동하지 않는 시점에 도달했다고 믿는다; 더 이상의 훈련 연장은 단순히 지속 가능하지 않다.3 훈련 프로그램은 너무 길어질 것이다. 교육 기간이 길어지면, 

  • 의사가 감독되지 않은 의료행위를 시작하는 나이가 늦어지고4; 

  • 교육을 완료하고, 인증을 받고, 인증을 계속해야 하는 요건이 너무 복잡해지고5; 그리고 

  • 비용이 너무 많이 들 것이다.

As biomedical knowledge has increased and health care systems have become more sophisticated, the dominant reaction in education has been to extend training for longer periods of time,2 with each extension representing a more subspecialized domain. We believe that medical education has now arrived at a point where this approach is no longer functional; further lengthening of training is simply unsustainable.3 Training programs will become too long; the age at which physicians begin unsupervised clinical practice too high4; the requirements to complete training, become certified, and continue certification too complex5; and the costs too prohibitive.


학습-실제적 차이 고려

Reconsidering the Learning–Practice Divide


우리는 작금의 학습과 실천의 지배적인 교육학적 모델은 시대에 뒤떨어진 것이라고 주장한다. 현재 모델에서는, 졸업장이 충분한 지식과 기술을 보장하고, no practice에서 full practice로의 표시mark가 된다. 높은 수준의 진료를 실시하기 위해서는 의료연수생들은 입학부터 의과대학까지 교육, 훈련, 실습의 연속을 통해 필요한 역량을 습득하고, 실천하며, 유지하는 법을 배워야 한다. 따라서 교육자는 교육, 훈련 및 실습이 [별도의 순차적 단계가 아니라], 서로 보완하고 시간이 지남에 따라 쌓여져나가는 지속적인 병렬 프로세스로 바라보는 연속적인 관점을 개발해야 한다. 실천은 학부 의과 교육(UME)에서부터 지속적인 전문적 개발에 이르기까지 모든 직업 단계에서 필수적인 요소가 되어야 한다.

We argue that the dominant pedagogical model of learning and then practice is outdated. It suggests that a diploma guarantees sufficient knowledge and skills and marks the transition from no practice to full practice. To deliver high-value care, medical trainees must learn to acquire, practice, and maintain the requisite competencies from entry to medical school through the continuum of education, training, and practice to retirement. Educators must therefore develop a continuum view of medicine, in which education, training, and practice are not separate, sequential stages but, rather, ongoing parallel processes that supplement each other simultaneously and build over time. Practice should be an essential component in all career stages, from undergraduate medical education (UME) through continuing professional development.



지속적 자격 증명 가치

The Value of Ongoing Credentialing


전문성의 성취은 다년간의 경험과 의도적 실천DP이 필요하다.6 어떤 사람들은 느린 속도로 전문 지식을 개발하고, 어떤 사람들은 빠르게 발전해나가는데, 이는 개인 능력, 태도, 주체성, 제공된 커리큘럼과 학습 및 직장 환경에서 제공되는 기회에 달려있다.7

The attainment of expertise requires many years of experience and deliberate practice.6 Some develop expertise slowly and others rapidly, depending on their individual capabilities, attitudes, and agency, and on the curricula offered and the opportunities in their learning and workplace environments.7


일반 의료 면허와 전문 인증은, 인증을 받는 그 순간에 일반 지식과 기술을 갖추었음을 성공적으로 입증하였다는 것을 인정해주는 것이다. 그러나 인증을 받을 때 갖춘 지식과 스킬이, 그 이후에 이어지는 의사의 커리어동안 [practice 영역 내에서 갖춰나가야 할 구체적 역량에 맞추어] 지속적으로 진화해나간다는 보장은 없다. 전통적인 면허 과정은 [광범위한 관행과 제한적인 특수성에 기반을 두고 있으며], 끊임없이 전문화되어가는 의사의 practice에 잘 align하지 않는다. 

A general medical license and a specialty certification recognize the physician’s ability to successfully demonstrate the requisite general knowledge and skills at that moment in time. They do not necessarily evolve along with the physician’s career to mirror the specific competencies that individuals build within their defined scope of practice. The traditional licensing process, which is based on a broad scope of practice andlimited specificity, is no longer aligned with the ever-increasing specialization of physicians’ practices. 


따라서 결정적 질문은, 학습자가 자신의 인지적, 테크닉적 기술을 [감독 없이 환자를 돌보는 데] 적용할 준비가 되어 있는지, 그리고 의사가 지난 시간 동안 지식과 기술을 꾸준히 유지했는지 여부를 어떻게 알 수 있는가 하는 것이다. 광범위한 차원에서 졸업장과 자격증은 증가된 책임을 assuming하기 위해 필요한 문턱이 될 수는 있겠으나, 졸업장과 자격증만으로 의사의 장기적 역량이나, 시간에 따른 새로운 능력의 획득을 입증하기에는 부족하다. 의사가 역량을 개발하고, 달성하고, 유지하며, 전문지식을 발전시키려면 지속적인 계획적 실천DP이 의사의 경력 전반에 걸쳐 지속되어야 한다.

The critical questions are how to know whether learners are ready to be trusted to apply their cognitive, technical, and other skills to care for patients without supervision and whether physicians have maintained their knowledge and skills over time. Broad diplomas and certificates can be necessary thresholds for assuming increased responsibilities, but they are insufficient to attest to physicians’ longerterm competence or their acquisition of new competencies over time. Ongoing deliberate practice must continue throughout physicians’ careers for them to develop, achieve, and maintain competence and advance toward expertise.


실무의 범위에 맞춘 역량 개발

Competence Development Targeted at Scope of Practice


CBME 프레임워크에서 필요한 훈련 능력과 결과는 제공된 환자 모집단의 요구에 따라 정의된다.9 CBME의 도입으로, 교육, 훈련 및 실무를 일치시킬 수 있는 잠재력은 현실화되었지만, 완전한 잠재력까지는 실현되지 못했다. EPA는 이러한 단계를 통합 연속체로 통합하기 위한 개발 모델을 제공할 수 있다.10,11

In the CBME framework, the required abilities and outcomes of training are defined according to the needs of the patient populations served.9 With the introduction of CBME, the potential to align education, training, and practice has become real but has not been realized to its full potential. EPAs can provide a developmental model to unite these stages into an integrated continuum.10,11


CBME에 EPA를 도입함으로써 의료계는 교육, 훈련 및 실천의 진정한 연속체를 만들 수 있는 잠재력을 갖게 되었다.10,11 교육자들은 EPA를 브리지로 사용하여 직업 단계에 걸쳐 링크를 만들 수 있다. 한 걸음 물러서서 Core EFAs(Core Eversible Professional Activities for Engustable Professional Activities)를 사용함으로써, 교육자들은 [필요한 역량을 갖춘 상태로 GME에 들어갈 수 있도록 하는] UME의 커리큘럼을 만들 수 있다. 의사 훈련의 더 앞 단계일수록 EPA의 구체성은 낮을 것이다.

The introduction of EPAs into CBME has presented the medical community with the potential to create a true continuum of education, training, and practice.10,11 Using EPAs as the bridge, educators can create a link across career stages. Taking a step back and using the Core Entrustable Professional Activities for Entering Residency (Core EPAs),14 educators can create a curriculum for UME that will enable learners to enter GME with the requisite competencies; the earlier in training a physician is, the less specific the EPAs will be.


본질적으로, EPA는 빌딩 블록 역할을 한다. 예를 들어, 많은 집의 기초는 비슷하다. 그것들은 모두 벽돌이거나 돌이다. 일단 기초가 세워진 뒤에, 어떤 집이든 그 집을 짓는 재료의 수는 제한될 것이지만, 궁극적으로는 [GME의 EPA나 개별 의사의 practice처럼] 각각의 집의 크기와 스타일은 서로 다를 것이다.

In essence, EPAs act as building blocks. For example, the foundations of many houses are similar— they all may be brick or stone. Once the foundations are laid, the houses will be built with a limited number of materials, but they ultimately will become different sizes and styles, like the EPAs in GME and practice for individual physicians.


전체적으로 EPA는 교육 프로그램의 practice outcome를 반영한다. 이러한 결과는 대개 훈련 프로그램이 끝날 때까지 달성되지 않는다. 오히려 EPA 모델을 사용하면 학습자가 초기 단계부터 환자 치료에 안전하게 기여하기 시작할 수 있다.15 그들은 점차적으로 감독이 줄어들면서 의료 실천의 공동체로 성장하며, 궁극적으로 감독 없이 자신에게 맡겨지는 전문 활동을 완료하는 것이 점점 더 허용된다.16–18

In aggregate, EPAs reflect the practice outcomes of an educational program. These outcomes are usually not achieved until the very end of the training program. Rather, with an EPA model, learners can safely start contributing to patient care from an early stage.15 They gradually grow into a community of medical practice as supervision lessens, and they become increasingly permitted to complete professional activities that are ultimately entrusted to them without supervision.16–18


개인화된 시간 가변 훈련은 CBME에서 직접적으로 도출되는 현상이(어야 한)다. 훈련 성과가 고정된 표준이라면, 당연히 각 결과에 도달하는 데 필요한 시간은 학습자마다 다를 것이다. 그러나, 그러한 가변성에 대한 허용은 쉽지도 않고 아직 흔하지도 않다19 그러나 학습자가 그러한 결과를 달성하기 위해 다소 시간이 필요할 때 원하는 결과의 달성을 촉진할 필요가 있다.

Individualized, time-variable training is a direct consequence of CBME. If training outcomes are the fixed standard, the time needed to attain each outcome will vary among learners. Allowing for such variability is not easy and not yet common,19 but it is necessary to facilitate the achievement of desired outcomes when learners need more or less time to achieve those outcomes.


개인화는 시간적 변화뿐만 아니라 학습자가 기초적인 핵심 커리큘럼을 넘어서면 내용적 변화에도 관련된다. 여기에 EPA의 구조가 CBME 프레임워크에 추가 값을 제공하는 것이다. 

  • 전체 연습 영역과 관련을 갖는 핵심 EPA에서는 모든 학습자가 역량을 갖추어야 하지만, 

  • 선택 EPA는 학습자가 스스로 예상하는 미래의 practice에서 중요하다고 생각되는 영역에 주의를 집중할 수 있도록 함으로써 교육 시간의 효율성을 극대화한다.

Individualization does not only pertain to time variation but also to content variation once a learner gets beyond the foundational core curriculum. Here is where the construct of EPAs provides additional value to the CBME framework. Although all learners must become competent in all Core EPAs relevant to their entire practice domain, elective EPAs may be offered to allow them to focus their attention on areas they feel to be of critical importance in their anticipated future practice, maximizing the efficiency of their training time.


경력개발 및 역량투명성

Career Development and Transparency of Competence


Mastered EPA는 전문적인 작업의 기본 블록이다. 이러한 EPA의 역동적 포트폴리오를 구축하려면 다음이 필요하다

  • (1) 포괄적 위탁 결정이 내려진 EPA의 지속적인 실천 

  • (2) 기술과 통찰력이 발전한 경우, 최신 능력을 반영하여 향상된 practice 표준에 대한 적응 

  • (3) 실무 분야에서 추가 EPA를 위임받을 수 있도록 새로운 지식과 기술을 습득한다. 

  • (4) practice하지 않는 EPA가 있다면, 의도적으로 그러한 EPA는 leave behind함

Mastered EPAs constitute the building blocks of professional work. Building a dynamic portfolio of these EPAs requires 

  • (1) continued practice of those EPAs for which summative entrustment decisions have been made; 

  • (2) adaptation to enhanced standards of practice, reflecting up-to-date abilities if techniques and insights have evolved; 

  • (3) acquisition of new knowledge and skills leading to entrustment for additional EPAs in one’s field of practice; and 

  • (4) deliberately leaving behind those EPAs, beyond the requirements of the appropriate certifying bodies, that one is not practicing.


의료행위는 달라질 것이며, 따라서 의사의 practice를 정의하는 EPA도 바뀔 것이다. 의료 분야의 기술 혁신(예: 인공지능의 급속한 발전)은 의사가 자신의 실습을 적응시켜야 할 것이다.

Practice, and thus the EPAs that define a physician’s practice, will change. Technological innovations in health care (e.g., rapid advances in artificial intelligence22) will require physicians to adapt their practice.


중요한 것은, EPA가 역량을 통합하고 평가하기 위한 프레임워크를 제공하지만, 개입 전후에 의사의 실습 데이터를 검토했을 때 가장 잘 평가할 수 있는 PBLI(연습 기반 학습 및 개선)와 같은 역량도 있다.

Importantly, although EPAs provide a framework for integrating and assessing competencies, there are some competencies, such as practice-based learning and improvement, that are best assessed by a review of the physician’s practice data before and after an intervention.


교육, 교육 및 실습 연속체 시각화

Visualizing the Education, Training, and Practice Continuum


전통적인 Flexner 의과대학 교육과정은 학습자가 임상 경험을 시작하기 전에 건전한 지식 기반을 갖도록 요구하였다(그림 1 패널 A 참조). 이와는 대조적으로 현대 UME 프로그램은 의과대학 초기 기초과학과 임상경험을 통합하여 UME.25 교육과정 초기부터 점차적으로 구축되는 학습과 실천의 이 통합적 접근방식은 H에서 Z로의 전환으로 지정되었다. 

  • 전통적으로 교육과 실습(문자 H; 그림 1, 패널 A 참조) 사이에 급격한 수평적 분할이 있었지만, 

  • 보다 현대적이고 통합된 커리큘럼에서는 임상 경험이 점진적으로 증가하고 있다(문자 Z와 유사하다; 그림 1 패널 B 참조).26

The traditional Flexnerian medical school curriculum required learners to have a sound knowledge foundation before they began their clinical experience (see Figure 1, Panel A). In contrast, modern UME programs integrate the basic sciences and clinical experiences in the early years of medical school, thus smoothing the transitions within UME.25 This integrated approach of learning and practice, which gradually builds from the beginning of the curriculum, has been designated as an H to Z transition. Traditionally, there was a sharp horizontal divide between education and practice (which looked like the letter H; see Figure 1, Panel A), yet in more modern, integrated curricula, there is a gradual increase of clinical experience (which looks like the letter Z; see Figure 1, Panel B).26


학습과 실천의 통합이 확립된 접근법이 되었음에도 불구하고, 27 그것은 교육, 훈련, 실천의 연속에 걸쳐 적용되지 않았다. 그림 1의 패널 C는 환자 치료에 대한 책임이 광범위하고 깊이 있게 증가하면서, supervision이 감소하는 동시에, 학습자가 점차 실무자가 되는 미래를 반영한다.

Although the integration of learning and practice has become an established approach,27 it has not been applied across the continuum of education, training, and practice. Panel C in Figure 1 reflects a future in which learners not only gradually become practitioners, with supervision decreasing while responsibilities in patient care increase in breadth and depth, but learning also remains an integral part of practice.





그림 2는 학습자가 의과대학, 레지던트 및 실습을 통해 발전하는 EPA 포트폴리오를 나타낸다.

Figure 2 depicts the EPA portfolio of a learner as she advances through medical school, residency, and practice.


  • 일부 EPA는, 그것을 꾸준히 수행하지 않거나 실력이 유지되지 않을 경우, 타당성validity을 상실할 수 있다. 

  • 반대로, [생의학 기술의 진보하거나] [의사가 새로운 의료 분야를 선택할 때]에는 새로운 EPA가 나타날 수 있다. 

  • Entrustment for some EPAs may lose validity if they are not practiced or maintained, 

  • while the need for entrustment for new EPAs may emerge as biomedical science and technology advance or when a physician chooses new practice areas. 



멘토링 및/또는 동료 관찰 및 평가 시스템은 기존 규제 시스템에 통합될 수 있다.

A system of mentoring and/or peer observation and assessment could be integrated into the existing regulatory system.



자격 증명의 특정성 문제 해결

Addressing the Specificity of Credentials


다수의 개업 의사 협회는 자격증 있는 기관들이 practice의 niche 영역을 인식할 것을 요청했다. EPA의 동적 포트폴리오를 구축하면 그러한 요청을 충족할 수 있다. 2017년 미국 의료 전문 위원회(ABMS)는 성인 병원 의학에서 최초로 중점 진료 관행을 지정하였다. 그렇게 하는 것은 기회를 나타냈고 규제 기관이 인증을 통해 추가 전문지식의 영역에 대한 표준을 수립, 평가 및 인식할 수 있는 프로세스를 공식화했다.

Multiple communities of practicing physicians have asked for credentialing organizations to recognize niche areas of practice. Building dynamic portfolios of EPAs may fulfill such requests. In 2017, the American Board of Medical Specialties (ABMS) put into effect the first focused practice designation in adult hospital medicine. Doing so represented an opportunity and formalized a process for regulators to set standards for, assess, and recognize areas of additional expertise through certification.28,29


niche practices마다, 그에 해당하는 소수의 의사를 대상으로 심리측정적으로 견고한 검사를 만드는 것은 비용이 많이 든다. 보안 시험 센터에서 제공되는 지속적인 인증을 위한 정기적인 closed-book 시험이, 종방향 온라인 시험으로 대체되고 있다.30 포트폴리오 문서화된 작업장 개입은 또한 의사가 시간이 지남에 따라 그들의 기술을 입증, 관찰, 평가 및 개선할 수 있는 지역 품질 개선 노력에 종방향으로 참여하도록 하기 위해 사용된다.31

creating psychometrically sound examinations for small numbers of physicians in niche practices can be costly. Increasingly, periodic closed-book examinations for continuing certification, offered in secure testing centers, are being replaced with longitudinal online tests.30 Portfolio-documented workplace interventions are also being used to engage physicians longitudinally in local quality improvement efforts during which their skills can be demonstrated, observed, assessed, and improved over time.31


리뷰를 받는 임상의는 그 다음에는 자신의 전문 분야에서 타인을 검토할 수 있다. 이를 통해서 이상적으로는 표준을 준수하는 성숙한 전문 커뮤니티를 형성할 것이며, 여기서 모든 사람이 다른 사람으로부터 피드백과 지침을 받고, 다른 사람에게 피드백과 지침을 제공할 것이다.

clinicians being reviewed would in turn review others in areas of their own expertise, ideally creating a mature professional community that upholds standards and in which everyone receives and provides feedback and guidance from and to others.


역량 결정은 규제 당국에 제출하거나, 충분히 구체적인 결과를 이용할 수 있는 경우 자동 또는 중앙 집중식 판단을 내릴 수 있다.

Determinations of competence could be submitted to a regulatory authority, or, if a sufficiently specific outcome is available, automated or centralized adjudications could be made.


기타 고려사항

Other Considerations


현재의 의료 교육 구조는 지속 가능하지 않은 것으로 보인다. 

  • 통합 프로그램보다는 순차적이고 분리된 프로그램. 

  • 일률적이고 고정된 훈련 기간 

  • 세부전공에 규정된 기간과 순서의 추가 교육 

  • 개인, 직업 및 대중에게 지속적으로 증가하는 비용

The current structure of medical education appears unsustainable. 

  • with sequential and separated rather than integrated programs; 

  • one-size-fits-all, fixed lengths of training; 

  • additional training sequences of prescribed duration for subspecialties; and 

  • ever-increasing costs to the individual, the profession, and the public—


그러나, 교육자들은 지금 할 수 있다. 

  • 매우 다양한 실습 유형에서 의사에게 필요한 EPA를 정의한다. 

  • 이들을 위탁 결정을 내리는 데 중요한 역량에 매핑한다. 

  • 진보적인 자율성으로 학습 경험을 육성하는 커리큘럼과 평가를 구축한다.

However, educators now can 

  • define the EPAs needed for physicians within highly diverse practice types, 

  • map them to the competencies that are critical to making an entrustment decision, and 

  • build curricula and assessments that foster learning experiences with progressive autonomy. 


학습자는 특정 책임을 준수하고 준비된 것으로 간주되는 즉시 감독을 통해 환자 치료에 기여하기 시작해야 한다. 학습자는 레지던트와 펠로우십 훈련을 마친 후 곧바로 전문가가 되지는 않겠지만, 적어도 그 시점에서 unsupervised practice의 문턱을 넘었을 것이다. 수련을 마친 전공의도 꾸준한 시간동안 계획적인 연습을 해야만 전문가가 될 것이다. 학위를 이수하고 전문 자격증을 받는 주요pivotal 순간들은 덜 중요해 진다.

Learners should start contributing to patient care with supervision as soon as they have been observed and deemed ready for those specific responsibilities. Learners will not be experts after they complete residency and fellowship training, but they will have passed a threshold for unsupervised practice at that point. They will become expert only with time and deliberate practice. the pivotal moments of completing a degree and receiving a specialty certification become less significant.


의사의 경력에 대한 역량 관리에 대한 중앙 집중식 접근방식이 필요할 것이다. 이러한 시스템의 핵심은 [전문적 삶의 과정 중 주어진 순간에 지속적으로 유효한 EPA에 의해 정의되는 의사의 실천 범위를 보여주는] 포트폴리오일 것이다.

A centralized approach to competency management over the career of a physician will be necessary. Key to such a system would be a portfolio that showed physicians’ scopes of practice, defined by continuously valid EPAs at any given moment in the course of their professional life.


이 비전은 먼 미래처럼 보일지 모르지만, 더 나은 치료, 더 나은 건강, 억제 가능한 비용, 회복력이 있는 의사라는 네 가지 목표가 달성된다면, 그것은 우리가 의학계에 가장 잘 도움이 될 것이라고 믿는 방향이다.

This vision may seem like a distant future, but it is the direction that we believe will best serve the medical profession if the quadruple aim of better care, better health, containable costs, and resilient physicians is to be attained.


마지막으로, 의사들의 생각도 바뀌어야 할 것이다. 가장 중요한 원칙은 professional practice를 위해서는 지속적인 학습과 참여가 필요하며, 이것은 입학에서부터 의과대학, 그리고 은퇴할때까지 연속적으로 전달되어야 한다는 것이다. 교육자들이 전문직의 새로운 구성원들이 배움을 중요시하기를 원한다면 평생학습과 professional development의 중요성을 분명히 하는 것이 중요하다.

Finally, physicians’ mindsets will need to change. Their guiding principle should be that professional practice requires ongoing learning and engagement, which must be conveyed throughout the continuum, from admission to medical school until retirement. Making the importance of lifelong learning and professional development explicit in teaching about professional responsibilities is key if educators want new members of the profession to value learning.








 2019 Sep;94(9):1283-1288. doi: 10.1097/ACM.0000000000002687.

Envisioning a True Continuum of Competency-Based Medical EducationTraining, and Practice.

Author information

1
O. ten Cate is professor of medical education and senior scientist, Center for Research and Development of Education, University Medical Center Utrecht, Utrecht, the Netherlands; ORCID: https://orcid.org/0000-0002-6379-8780. C. Carraccio is vice president of competency-based assessment, American Board of Pediatrics, Chapel Hill, North Carolina; ORCID: https://orcid.org/0000-0001-5473-8914.

Abstract

The existing structure of physician education has developed in siloed stages, with consecutive degrees and certifications and progressively longer training programs. As further fragmentation of health care and training systems will not improve the quality of care and education, the authors argue that a new vision of educationtraining, and practice as a continuum is needed.They advocate for a model of competency-based medical education that merges with competency-based medical practice. In this system, education and training will result in individual, dynamic portfolios of valid entrustable professional activities (EPAs) for which physicians are certified. Physicians can maintain and renew that entrustment as long as the EPAs remain within their scope of practice. Entrustment occurs initially during training but is then granted for new activities as physicians' careers evolve.This model accounts for the need to keep pace with changes in population health needs and expectations of competence over time. It de-emphasizes the divides between the stages of training and views the continuum from undergraduate medical education until retirement as a whole. Key obligations of self-regulating medical professionals include both the reception and the provision of supervision from and for others, respectively. Learning must be embedded in practice to address expectations regarding new knowledge and skills as they evolve with scientific and technological advances.Entrusting physicians to deliver effective and safe care, based on their performance of the requisite EPAs without supervision, should ensure that they provide high-value, quality care to patients.

PMID:
 
31460916
 
DOI:
 
10.1097/ACM.0000000000002687


보건전문직에서 역량 기반 시간 변동 교육: 갈림길(Acad Med, 2018)

Competency-Based, Time-Variable Education in the Health Professions: Crossroads

Catherine R. Lucey, MD, George E. Thibault, MD, and Olle ten Cate, PhD




의학교육기관은 신뢰성 있는 안전성, 시기적절성, 효과적, 효율적, 공평하고 환자 중심적인 관리를 제공할 수 있고 이를 위해 헌신할 수 있는 의사인력을 준비할 책임이 있다. 전세계의 교육자들은 건강 전문가들이 고부담 객관식 시험으로 시험할 수 있는 영역보다 훨씬 더 확장된 영역에서 역량을 습득할 필요성을 받아들였다.1–3

Medical education institutions are entrusted with preparing a physician workforce that is capable of and committed to providing reliably safe, timely, effective, efficient, equitable, and patient-centered care. Educators around the world have accepted the need for health professionals to master competencies in domains that extend well beyond those that can be tested with a high-stakes multiple-choice exam.1–3


필요한 모든 것을 숙달하는 데 걸리는 시간이 제대로 정해진 적이 없다.

The amount of time it takes to master all that is needed has never been adequately established.


의사가 21세기 환자에게 봉사하기 위해 숙달해야 하는 광범위한 역량을 가르치고 평가해야 할 필요성을 인식하는 것은 역량 기반, 시간 가변 교육의 토대를 제공했다. 교육자들과 규제자들은 그 개념을 열렬히 지지한다.

This recognition of the need to teach and assess the broad set of competencies that physicians must master to serve 21st-century patients has provided the foundation for competency-based, time-variable education. Educators and regulators enthusiastically support the concept.


불행하게도, 대부분의 의학교육 프로그램에는 역량에 기초한 시간 가변 교육의 구성 요소가 존재하지만, 역량 기반 교육의 철학을 완전히 수용한 기관은 거의 없다.1213 심지어 이 프레임워크의 잠재력을 완전히 실현하기 위해 필요한 조직 재설계에 참여한 기관은 더 적다.6,11,14 교육을 위한 목표를 정의하는 것은 일부에 불과하며, 모든 학생과 레지던트가 이러한 목표를 달성하도록 보장하는 프로그램을 만드는 것은 아직 실행되지 않은 단계다.

Unfortunately, although the building blocks of competency-based, time-variable education exist in most medical education programs, few institutions have fully embraced the philosophy of competency-based education.12,13 Even fewer have engaged in the organizational redesign required to fully realize the potential of this framework.6,11,14 Defining the objectives for education is one thing, but creating programs that ensure that every individual student and resident meet these objectives is a step that has not been taken.


의료 교육에 대한 오늘날의 접근 방식과 관련한 당면 과제

Challenges With Today’s Approach to Medical Education


오늘날의 의료 교육 환경에서 시간은 우리의 적이다. 교육구조는 시간이 제한되어 있다. 학습자는 미리 정해진 시간 동안 별도의 교육 단계에 거주하며, 시간 제한 과정을 거쳐 다음 단계의 훈련 단계로 전환하고, 주로 사실에 입각한 지식을 숙지하는 시험에 만족스러운 성과를 보여 준다.

In today’s medical education environment, time is our nemesis. Educational structures are time bound. Learners dwell in discrete phases of education for a predetermined amount of time , and they transition to the nextphase of training after passing time- bound courses and demonstrating satisfactory performance on exams that focus primarily on their mastery of factual knowledge


학습자와 교직원은 시간에 쫓긴다. 임상실습이나 레지던트 로테이션에 대한 교수진의 감독 업무는 효과적이고 비판적인 평가에 필요한 신뢰 관계를 발전시키기에는 짧고 불충분하다.15 그러한 짧은 순환 속에서 교수진은 역량 기반 교육이 요구하는 직접적인 관찰에 참여할 시간이 거의 없다.16 코칭 대화에서 학습자와 대화를 나눌 기술과 시간이 모두 부족하여, 이것 대신 전자 양식을 통해 이러한 평가 판단을 소통한다.17,18

Learners and faculty are time challenged. Faculty supervisory assignments on clerkships or residency rotations are brief and insufficient to develop the trusting relationships needed for effective, critical assessment.15 Within those short rotations, faculty have little time to engage in the direct observation that competency-based education demands.16 They lack both skills and time to engage in coaching dialogues with their learners and instead communicate these assessment judgments through electronic forms.17,18


학생들은 자신들이 가진 짧은 시간 내에 가고자 하는 전공과의 교수진에게 깊은 인상을 줘야 한다는 것을 깨닫기에, 평가를 포용해야하는 기회로 보기보다는, 피해야 할 위협으로 본다.18–21 그들은 직장에서 환자 치료 능력을 최적화하기 보다는 고부담 시험에서 더 높은 점수를 얻기 위해 공부하는 데 시간을 사용한다. 역량을 충족하기 위해 추가 시간이 필요하거나 필요한 것으로 확인된 학습자는 실패로 간주된다.

Students, realizing the short time they have to impress a faculty member and earn the grades they need to pursue their desired residency, view assessment as a threat to be avoided rather than as an opportunity to be embraced.18–21 They use time to study to earn higher scores on episodic high-stakes examinations rather than to optimize patient care competencies in the workplace. Learners identified as needing or desiring additional time to meet competencies are viewed as failures.


정규 교육에서 더 빠른 속도로 학습가능한 학습자는 현행 제도에서는 그렇게 할 수 없다.

Learners who are capable of accelerating their progress through formal education are unable to do so in the current system


프로그램 책임자들은 졸업하는 의대생이나 레지던트가 인턴이나 펠로우로서 그들이 떠맡아야 할 역할에 준비가 되어 있지 않다는 우려를 제기한다.22~26

Program directors raise concerns that the graduating medical students or residents are not prepared for the roles they need to assume as interns or fellows.22–26



혁신을 위한 기회로서 경쟁력 기반, 시간적 가치 있는 교육

Competency-Based, Time-Variable Education as an Opportunity for Transformation


역량 기반, 시간 변동 교육은 관찰 가능하고 평가 가능한 능력의 프레임워크에 기초하는 커리큘럼, 교육 방법, 학습 전략, 평가 프로그램 및 프로그램 평가에 대한 포괄적인 접근 방식이다.29

Competency-based, time-variable education is a comprehensive approach to curriculum, instructional methods, learning strategies, assessment programs, and program evaluation that is based on a framework of observable and assessable abilities.29


역량 기반 교육은 [의료, 간호, 약국, 치과 등 모든 분야에서] 의료 개선을 위한 현대 사회의 요구를 보건 전문가가 숙달해야 하는 역량으로 translating하는 uncompromising focus에서 시작한다.

Competency-based education begins with an uncompromising focus on translating the needs of contemporary society for improved health care into competencies that must be mastered by health professionals across all disciplines, from medicine to nursing, pharmacy, dentistry, and beyond.4


역량 기반 시간 변동 교육은 보건전문직 교육을 연속적인 과정으로 본다. 학생이 전문직 학교에 입학할 때 시작되고 그 개인이 그 직업에서 은퇴할 때 끝나는 것이다. 시간 변동성은 중요한 역량을 숙달했을 때에만 교육 단계를 거쳐 개인의 진보가 바로 이루어지도록 하기 위해 훈련의 속도, 강도 또는 기간을 조정할 필요성을 제도적으로 수용하는 것을 말한다. 정규 교육의 단계를 넘어 실천practice으로 나아가는 것은 시간의 경과가 아니라 신뢰성의 입증에 기초한다. 비록 시간 제약이 완전히 없는 것은 아니지만, 그것들은 부차적인 것이다.

Competency-based, time-variable education views health professions education as a continuous process, beginning when a student enters a health professions school and ending when that individual retires from the profession. Time variability refers to the institutional acceptance of the need to adapt the pace, intensity, or duration of training to ensure that the progress of an individual through and across the phases of education occurs as soon as and only when she or he has mastered essential competencies. Advancement through the stages of formal education and into practice is based not on the passing of time but on the demonstration of trustworthiness. Although time constraints are not totally absent, they are secondary.


역량에 기반한 시간 가변 시스템에서 평가는, 순환이 끝날 때 이루어지는, 무시무시한, 주기적, 지식중심의, 고부담 시험 후에 전문가로부터 받는 등급이 아니다. 평가는 개인의 학습과 향상(즉, 학습에 대한 평가)을 지도하기 위해 열성적으로 관여하는 것은 진행 중인 다방식multi-modal 측정과 코칭의 과정이다.

In a competency-based, time-variable system, assessment is not a grade that one receives from an expert at the end of a rotation or after fearfully taking a periodic, knowledge-focused, high-stakes exam. Instead, it is a process of ongoing, multimodal measurement and coaching that one enthusiastically engages in to guide personal learning and improvement (i.e., assessment for learning).


일단 [충분한 증거가 이 개인이 다양한 상황에서 다양한 환자에게 안전한 치료를 제공할 수 있다는 주장을 뒷받침]한다면 훈련 사이의 transition 또는 out of training 사이의 고부담 결정이 내려진다. 이 증거는 다양한 맥락에 걸쳐 여러 역량 영역에서 개인의 능력에 대한 다양한 관점(교수, 환자, 동료, 기타 전문적 동료)에서 취합하여 미래의 성공에 대한 가장 신뢰할 수 있는 평가를 제공한다.30

High-stakes decisions about transitions between and out of training are made once sufficient evidence supports the assertion that this individual can be trusted to provide safe care for a variety of patients in a diversity of contexts. This evidence is aggregated from diverse viewpoints (faculty, patients, peers, other professional colleagues) of the individual’s abilities in multiple competency domains across different contexts to provide the most reliable assessment of future success.30


역량기반 시간가변 교육에서 시간은 위협이라기 보다는 학습자를 위한 자원이다. 주어진 교육 단계가 끝나기 전에 일련의 역량을 숙달할 수 있는 학습자는 남은 시간을 사용하여 더 진보된 수준 또는 추가된 역량을 지향하는 작업을 추구할 수 있다.

In competency-based, time-variable education, time is a resource for the learner, rather than a threat. Learners who are able to master a set of competencies before the end of a given stage of education can use the remaining time to pursue work on a more advanced level or toward an added competency,


CBTV교육의 미덕은 가능한 한 짧은 시간에 훈련하는 것이 아니라, 가장 높고 넓은 수준의 전문성 추구에 있다.

The virtue lies not in training in the shortest possible time but at the highest professional level and breadth.


동시에 역량 기반 교육은 한 역량 영역(예: 의료 지식)에서의 수월성이 다른 역량 영역(예: 대인 커뮤니케이션)에서 한계 성과를 보상하는 방식을 허용하지 않는다. 일련의 역량을 숙달하기 위해 추가 시간이 필요한 학습자는 교정조치가 필요함에도 불구하고 "충분히 훌륭하다" 평가를 받고 넘어가거나, "실패자"로 낙인찍히지 않는다. 이들에게는 효과적인 전문가가 되기 위해 필요한 기술을 습득할 수 있는 추가 기회가 제공된다.

At the same time, competency- based education does not allow excellence in one competency domain (e.g., medical knowledge) to compensate for marginal performance in another (e.g., interpersonal communication). Learners needing additional time to master a set of competencies are not passed along as “good enough” or branded as “failures” in need of remediation; they are provided with additional opportunities to master the skills they need to be effective professionals


역량 기반 평가를 위해서는 교수진과 학습자가 새로운 역할과 기술을 익혀야 한다. 

  • 교수진은 [학습자가 어떤 성적을 받는지를 결정하는 것]이 아니라, [원하는 미래 상태와 관련하여 학습자의 현재 능력을 관찰하고 기술하고 학습자가 진행하도록 구체적인 제안을 제공하는 것]에 초점을 맞춘다.17 

  • 학습자는 다음 단계로 전환하기 위해 반드시 달성해야 하는 역량 목표를 알고, 이러한 목표를 달성하는 데 도움이 되는 학습 경험과 중요한 피드백을 적극적으로 탐색한다..20 

  • 특별히 교육을 받은 교직원 및 위원회는 학습자의 성과를 분석하고, 학습자가 다음 교육 수준으로 전환할 준비가 되었을 때 확인하기 위한 형태별 평가 데이터를 통합하고 분석할 책임이 있다.31 

Competency-based assessment is supported by new roles and skills for faculty and learners. 

  • Faculty focus on observing and describing learners’ current abilities in relation to the desired future state and providing concrete suggestions for learners to progress, rather than on deciding what grade the learners receive.17 

  • Learners know the competency goals they must achieve to transition to the next phase of their career and actively seek out both learning experiences and critical feedback to help them achieve those goals.20 

  • Committees of specially trained faculty and staff analyze learners’ performance and are responsible for assembling and analyzing formative assessment data to identify when learners are ready to transition to the next level of education.31 


테크놀로지는 이러한 과정과 관계를 서포트 할 수 있다. 학습자들은 준비가 되는 즉시 수업에 접근할 수 있도록 디지털 학습 도구에 접근할 수 있다. 행정 기술은 피드백과 평가의 여러 인스턴스를 수집하여 종합적인 의사결정에 필요한 데이터를 제공한다. 성과 및 성취 데이터는 학습자가 정규 교육 프로그램을 거쳐 실습으로 이동함에 따라, 의료 교육의 연속적인 학습과 역량 향상을 촉진한다.

Technology supports this process and these relationships. Learners have ready access to digital learning tools so that they can access lessons as soon as they are ready. Administrative technology collects multiple instances of feedback and assessment to provide the data needed to make summative decisions.6,30 Performance and achievement data follow the learner as she or he moves through formal educational programs and into practice, facilitating continuous learning and competency enhancement across the continuum of medical education and into practice.


역량에 따른 시간가변 훈련의 이론적 기초와 새로운 사례

The Theoretic Basis for and Emerging Examples of Competency-Based, Time-Variable Training


이 보충 자료에서, 케이트와 동료는 훈련 기간이 단순히 다른 능력을 숙달하고 입증하는 데 필요한 시간의 합으로 설명될 수 없다는 점에 주목한다. 즉, 건강 직업 프로그램에 몰두하는 개인이 학습을 통합하고 전문가로서 성숙하기 위해서는 추가 시간이 필요하다.

In this supplement, ten Cate and colleagues32 note that the duration of training cannot simply be described as the sum of the time required to master and demonstrate different competencies; additional time is needed for individuals immersed in a health professions program to consolidate their learning and mature as professionals.


의료 및 기타 의료 직업 프로그램에서 제공하는 역량 기반 시간 가변 프로그램 설계의 여러 예가 있다. 예를 들어, Hoff와 동료들34는 네덜란드의 개인화된, 역량 기반, 시간 가변 레지던트 프로그램을 설명한다. 여기서는 레지던트들이 파트타임 훈련을 받고, 가족을 위한 시간을 제공받으며, 추가적 임상업무와 연구경험을 제공받는다. 진정한 역량 기반 형태의 프로그램에서는, 어느 단계의 훈련에서 전문성을 획득하였다고 입증되면, 후속 단계에서 훈련을 단축하는 데 사용할 수 있다.

There are a number of examples of competency-based, time-variable program designs from medical and other health professions programs. For example, Hoff and colleagues34 describe individualized, competency-based, time-variable residency programs in the Netherlands that allow residents to pursue training part-time, affording them time for family building, additional clinical work, and research experiences. In true competency-based fashion, demonstrated expertise gained in one stage of training may be used to shorten training in a subsequent stage.


경쟁력 있는 시간적 가변적 교육 구현 전략 및 과제

Strategies and Challenges to Implementing Competency- Based, Time-Variable Education


많은 의료전문직 교육 프로그램에서 역량 기반 평가 요소(예: 마일스톤 및 위탁 가능한 전문 활동)를 채택했지만, 역량 기반 시간 가변 교육 접근방식에 필수적인 것으로 기술된 강력한 "평가 프로그램"은 드물다. Englander와 Carraccio41은 역량 기반 교육이 기반을 둔 평가와 코칭 전략의 유형을 구현하고 싶다면, 현재와 같은 불연속적인 의학 교육 시스템을 뒤집고, 교수들과 학습자들 사이의 새로운 역할과 관계를 지원해야 하는 필요성을 주장한다.

Many health professions education programs have adopted elements of competency- based assessment (such as milestones and entrustable professional activities), but the robust programs of assessment described by as essential to the competency-based, time-variable training approach are rare. Englander and Carraccio41 describe the imperative of reversing our current system of discontinuity in medical education and supporting new roles and relationships between faculty and learners if we wish to implement the types of assessment and coaching strategies on which competency-based education is based.


마지막으로, Custers와 Cate는 현재와 같은 time-bound practice는 시간과 숙련도 개념이 역사적으로 진화한 것에 기초하고 있으며, 진정한 emperic basis는 없음을 상기시킨다.

Finally, Custers and ten Cate46 remind us that current time-bound practices are based in the historical evolution of the concepts of time and proficiency and have no true empiric basis.


결론

Conclusion


우리는 갈림길에 서 있다. 역량에 기반한 교육이 의미 있는 움직임이 되었으며, 돌아갈 길은 없다. 환자 안전을 위한다면, [의료전문직 교육 연속체의 단절된 분획속에서 표준화된 훈련 시간]은 미래의 모습이 될 수 없다. 그보다는 개인화된 교육 경로는 우리의 모습을 조차장marshalling yard로 변화시킬 것이며, 그래야만이 개개인이 자신의 요구와 의료 환경의 요구 모두에 대하여 융통성 있고 맞춤화된 역동적인 개인 포트폴리오를 개발하고 인증받을 수 있을 것이다. 이렇게 하면 의료 전문가의 일생 동안 역량 기반, 안전, 고품질 의료 관행이 보장된다.

We are at a crossroads. Competency- based education has become a significant movement, and there is no way back. For the sake of patient safety, a standardized duration of training, in unconnected compartments of the health professions education continuum, is likely not the landscape of the future. Rather, individualized educational pathways, could transform the landscape into a marshalling yard, in which individuals develop a dynamic personal portfolio of certified qualifications that are flexible and tailored to both their individual needs and the needs of the health care environment. Doing so will ensure competency-based, safe, high-quality medical practice throughout a health care professional’s life.



12 Eva KW, Bordage G, Campbell C, et al. Towards a program of assessment for health professionals: From training into practice. Adv Health Sci Educ Theory Pract. 2016;21:897–913.


13 Schuwirth L, Ash J. Assessing tomorrow’s learners: In competency-based education only a radically different holistic method of assessment will work. Six things we could forget. Med Teach. 2013;35:555–559.


14 Holmboe ES, Batalden P. Achieving the desired transformation: Thoughts on next steps for outcomes-based medical education. Acad Med. 2015;90:1215–1223.


41 Englander R, Carraccio C. A lack of continuity in education, training, and practice violates the “do no harm” principle. Acad Med. 2018;93:S12–S16.


32 ten Cate O, Gruppen LD, Kogan JR, Lingard LA, Teunissen PW. Time-variable training in medicine: Theoretical considerations. Acad Med. 2018;93:S6–S11.


33 Teunissen PW, Kogan JR, ten Cate O, Gruppen LD, Lingard LA. Learning in practice: A valuation of context in time-variable medical training. Acad Med. 2018;93:S22–S26.


46 Custers EJFM, ten Cate O. The history of medical education in Europe and the United States, with respect to time and proficiency. Acad Med. 2018;93:S49–S54.





 2018 Mar;93(3S Competency-Based, Time-Variable Education in the Health Professions):S1-S5. doi: 10.1097/ACM.0000000000002080.

Competency-BasedTime-Variable Education in the Health ProfessionsCrossroads.

Author information

1
C.R. Lucey is executive vice dean, vice dean for education, and professor of medicine, University of California, San Francisco, School of Medicine, San Francisco, California. G.E. Thibault is president, Josiah Macy Jr. Foundation, New York, New York. O. ten Cate is professor of medical education, Center for Research and Development of Education, University Medical Center Utrecht, Utrecht, the Netherlands.

Abstract

Health care systems around the world are transforming to align with the needs of 21st-century patients and populations. Transformation must also occur in the educational systems that prepare the health professionals who deliver care, advance discovery, and educate the next generation of physicians in these evolving systems. Competency-basedtime-variable education, a comprehensive educational strategy guided by the roles and responsibilities that health professionals must assume to meet the needs of contemporary patients and communities, has the potential to catalyze optimization of educational and health care delivery systems. By designing educational and assessment programs that require learners to meet specific competencies before transitioning between the stages of formal education and into practice, this framework assures the public that every physician is capable of providing high-quality care. By engaging learners as partners in assessment, competency-basedtime-variable education prepares graduates for careers as lifelong learners. While the medical education community has embraced the notion of competencies as a guiding framework for educational institutions, the structure and conduct of formal educational programs remain more aligned with a time-based, competency-variable paradigm.The authors outline the rationale behind this recommended shift to a competency-basedtime-variable education system. They then introduce the other articles included in this supplement to Academic Medicine, which summarize the history of, theories behind, examples demonstrating, and challenges associated with competency-basedtime-variable education in the health professions.

PMID:
 
29485479
 
DOI:
 
10.1097/ACM.0000000000002080


의학교육의 결정적 시기: 역량기반 교육과정 개혁의 위험(Adv in Health Sci Educ, 2012)

A critical time for medical education: the perils of competence-based reform of the curriculum

Karen Malone • Salinder Supri




미국, 캐나다, 영국을 포함한 주요 선진국의 의료 교육자들은 의료 커리큘럼에 대한 역량 기반 접근 방식의 채택을 옹호하고 있다. 이것은 커리큘럼의 방향을 [규정된 강좌의 가르침에 중점을 두지 않고], [의학의 실천에 필요한 특정한 과학, 사회 및 행동 역량]에 초점을 맞춘다. (캐나다 의과대학 2000, 종합 의과대학 2002, 2009, 스코틀랜드 의과대학 교육과정 그룹 2002, 미국 의과대학 협회 2009).

Medical educators across major industrialised countries, including the United States, Canada, and the United Kingdom, are advocating the adoption of a competence-based approach to the medical curriculum. This seeks to steer the curriculum away from an emphasis on the teaching of prescribed courses, towards a focus on the specific scientific, social and behavioural competencies that students need for the practice of medicine (Royal College of Physicians and Surgeons of Canada 2000; General Medical Council 2002, 2009; Scottish Medical Deans CurriculumGroup 2002; Association of American Medical Colleges 2009).


그러나 의료 커리큘럼에 대한 역량 기반 접근방식이 이러한 의도된 목표를 달성할 수 있을지는 논란의 여지가 있다. 거의 40년 동안, 역량 기반 커리큘럼은 전 세계에 걸쳐 국가 직업 교육과 훈련의 기초를 형성해 왔는데, 특히 영국, 호주, 뉴질랜드, 아시아, 라틴 아메리카 및 본토 유럽(아르구 ̈elles and Gonczi 2000)에서 두드러진다.

However, it is debatable whether a competence-based approach to the medical curriculum will fulfill these intended aims. For nearly 40 years, competence-based curricula have formed the basis of national vocational education and training across the world, most notably in the United Kingdom, Australia, New Zealand, Asia, Latin America and mainland Europe (Argu¨elles and Gonczi 2000).


역량 기반 커리큘럼은 주로 교육 성과와 employer의 요구 스킬 사이에 더 큰 일관성을 제공함으로써 교육과정의 직무 관련성을 높이기 위해 수동 거래manual trades에 처음 도입되었다(West 2004). 즉, 역량 기반 접근법은 본질적으로 수동 거래에서의 훈련을 평가하도록 설계된 평가 시스템이었다. 그것은 교육 및 학습 프로세스 전체를 포함하는 포괄적인 교육학적 접근방식으로 개발되지 않았다(West 2004).

Competence-based curricula were first introduced for the manual trades, primarily to increase the vocational relevance of courses by providing greater coherence between training outcomes and the skill needs of employers (West 2004). The competence-based approach was thus essentially a system of assessment designed to evaluate training in the manual trades; it was not developed as a comprehensive pedagogical approach encompassing the whole of the teaching and learning process (West 2004).


능력은 복잡하며, 전체는 부품의 합보다 크기 때문에 분리된 요소로 축소할 수 없다.

Competence is complex and cannot be reduced into isolated elements, since the whole is more than the sum of the parts


의문은, 특정 영역의 전체적인 역량이 더 좁고 분리된 역량의 집합을 숙달함으로써 달성될 수 있는가 하는 문제다. 현실 세계의 역량은 일련의 단순한 측정 가능한 과제나 단계로 축소할 수 없는 복잡하고 다면적인 현상이라고 주장되고 있다(Hyland 1993; Halsall 1995; West 2004). 다른 방법으로, 개별 역량 요소의 숙달력이 특정 직무나 기술과 관련된 전반적인 역량을 생산하기 위해 반드시 추가되는 것은 아니다(Ashworth and Saxton 1990; Erridge and Perry 1994).

At issue is the question of whether overall competence in a particular area can be attained by mastering a set of narrower, discrete competencies. It is argued that real world competence is a complex, multi-faceted phenomenon which cannot be reduced to a series of simpler measurable tasks or steps (Hyland 1993; Halsall 1995; West 2004). Put another way, mastery of individual elements of competence do not necessarily add up to produce overall competence in relation to a particular task or skill (Ashworth and Saxton 1990; Erridge and Perry 1994).


임상 성과를 절차적 지식과 기술의 분리된 요소로 원자화한 것을 다시 합한다고 해서 임상 맥락에서의 역량으로 다시 합산되는 것은 아니다(Hudding and Heudebert 2007). 따라서 복잡한 학습 과정에 적용되는 역량의 개념의 타당성은 철학적으로 의문시된다.

Atomising clinical performance into isolated elements of procedural knowledge and skill cannot be added back together to create competence in the clinical context (Huddle and Heudebert 2007). Hence, the validity of the concept of competence as applied to the complex process of learning is philosophically questionable.


역량 기반 접근법은 고도로 숙련된 직업에 적합하지 않다.

Competence-based approaches are not suitable for highly skilled professions


역량 기반 교육은 비교적 일상적인 업무와 간단한 시험 가능한 기술을 포함하는 하위 수준의 직업에 더 적합하다는 것이 오랫동안 주장되어 왔다(Erridge and Perry 1994; Hodkinson and Issitt 1995). 따라서 일상적인 업무와 표준화된 업무의 만족스러운 완료보다 훨씬 더 많은 것을 요구하는 의료와 같은 상위 수준의 직업에는 적합하지 않다. 대신 의학은 임상 문제를 이해하고 감별진단을 실시하기 위해, [분석, 판단, 이전 경험에 대한 성찰과 '상황 읽기 능력'을 포함한] 보다 높은 수준의 인지 능력을 필요로한다(허들 및 휴드버트 2007). 이러한 상위 순위의 기술은 역량 기반 접근법에 쉽게 내어주지 않는다(Cave and McKeown 1993; Winter 1995; Grundy 2001; Cox 2007).

It has long been argued that competence-based education is better suited to lower-level occupations that involve relatively routine tasks and simple testable skills (Erridge and Perry 1994; Hodkinson and Issitt 1995). It is therefore not appropriate to higher-level professions, such as medicine, which require far more than the satisfactory completion of routine and standardised tasks. Instead medicine necessitates higher-order cognitive skills, including analysis, judgment, reflection on previous experience, and ‘‘reading the situation,’’ in order to understand a clinical problem and undertake differential diagnosis (Huddle and Heudebert 2007). Such higher-order skills do not easily lend themselves to a competence-based approach (Cave and McKeown 1993; Winter 1995; Grundy 2001; Cox 2007).


의료 분야의 역량 기반 커리큘럼은 하위 수준 및 특정 목표 업무 또는 위생 절차 및 이력 취사와 같은 프로토콜이 존재하는 분야의 훈련에 적합할 수 있지만, 의학과 같이 강력하고 신뢰할 수 있는 상위 수준의 역량 개발은 여전히 어렵(Leung 2002).

While competence-based curricula in medicine may be suited for training in areas involving lower-level and specific objective tasks, or where protocols exist, such as hygiene procedures and history taking, the development of robust and reliable higher-order competencies in medicine has remained elusive (Leung 2002).


역량 기반 접근방식이 커리큘럼의 내용을 제한

Competence-based approaches limit the content of the curriculum


  • 첫째, 그것은 특정한 상황의 집합에서 특정한 범위의 과제를 완료하는 데 필요한 지식과 기술로 초점을 좁힘으로써 전통적인 광범위한 커리큘럼을 reduce시킨다.

  • 둘째, 커리큘럼을 (역량의) 정의에 들어맞는 것, 즉 구체적이고 직접 측정할 수 있는 것으로 제한한다(1995년 겨울).

First, it reduces traditional broad curricula, by narrowing their focus towards the knowledge and skills required to complete a specific range of tasks in a particular set of contexts. Second, it limits the curriculum to what is amenable to definition, that is, to what is concrete and directly measurable (Winter 1995).


예를 들어, 환자들은 종종 심장마비와 같은 복잡한 다면적인 건강 문제를 겪는다. 이러한 의학적 조건을 다루는 방법을 가르치는 것은 역량 기반 접근법을 사용하여 문제가 된다. 왜냐하면 역량기반 접근법에서는 학생들에게 그러한 의학적 필요의 복잡성을 실제로 다룰 수 있는 데 필요한 깊이의 이해를 제공하지 않기 때문이다.

Patients often present with complex multi-faceted health problems, such as heart failure for example. Teaching how to treat such medical conditions is problematic using a competence-based approach, because it does not provide students with the depth of understanding needed to be able to deal with the complexity of such medical needs in practice.


역량 기반 접근 방식은 "테스트에 대한 교육"으로 귀결된다.

Competence-based approaches result in ‘‘teaching to the test’’


실제로 적용하다보면, 역량 기반 접근방식은 "시험을 잘 보기 위한 교육"이라고 불려온 접근방식으로 귀결된다(Grundy 2001). 즉, 가르치는 입장에서는 [시험을 보는 측면에 불과한] 역량 목록에 명시된 것만으로 교육을 제한하는 경향이 있다. 학생들은 결국 그들의 학업을 평가되는 것에 크게 제한한다. 그러므로, 가르치고 배우는 것은 좁고 피상적일 수 있다.

When applied in practice, competence-based approaches result in what has been termed ‘‘teaching to the test’’ (Grundy 2001). In other words, educators tend to limit teaching to what is specified in the list of competencies, because it is only those aspects of the curriculum that are tested. Students in turn largely restrict their studies to what is assessed. Thus, teaching and learning can become narrow and superficial,


역량 기반 접근 방식은 관료적이고 부담스럽다.

Competence-based approaches are bureaucratic and burdensome


(CBA에서) 시스템의 작동과 신뢰성을 보장하기 위해 상당한 양의 문서화된 지침이 작성되어야 한다(Grundy 2001). 따라서 교육자들은 학생들의 교육의 내용과 질보다 시스템을 관리하는 데 더 많은 시간을 소비할 수 있다. 역량 기반 커리큘럼은 각종 형식과 체크박스의 완성으로, 궁극적으로 교육을 문서업무로 축소시키고, 교육자들의 역할을 형식을 채우는 관료들의 역할로 평가절하하는 필요성에 의해 지배될 수 있다(West 2004). 실제로, 이 접근방식의 평가 연구에서 발표된 결과 데이터는 유익한 교육 효과에 대한 명확한 증거는 없이, 행정 부담의 증가를 보여주었다(Bates 1999).

A significant quantity of written guidance needs to be produced to ensure the operation and reliability of the system (Grundy 2001). Educationalists thus may spend more time in administering the systemthan on the content and quality of students’ education. The competence-based curriculum can become dominated by the need to complete forms and check-boxes, ultimately reducing education to a paper chase, and devaluing the role of educators into that of form-filling bureaucrats (West 2004). Indeed, published outcome data from evaluative studies of this approach has revealed an increase in administrative burden, coupled with no clear evidence of beneficial educational effects (Bates 1999).


역량 기반 의료 교육에 대한 비판적이고 창의적인 접근의 필요성

The need for a critical and creative approach to competence-based medical education


그 증거는 이 접근법을 의료 커리큘럼에 무비판적으로 적용하는 것은 의도된 목적을 달성하지 못할 것임을 시사한다.

The evidence suggests that the uncritical application of this approach to the medical curriculum will not achieve its intended aims.


실제로 역량 기반 접근법을 채택하는 것은 쉽지 않다는 것을 인식해야 한다. 역량 기반 커리큘럼은 역량 개발, 교육 및 평가 방법에 있어 새로운 방법론적 과제를 제시하여, 학생들이 요구되는 학문적 및 전문적 수준에서 수행하는 데 필요한 지식과 기술에 대한 강력한 기반을 제공하도록 한다. 더욱이, 역량기반 접근법을 시행할 경우, 현재의 커리큘럼의 상당한 강점을 간과하지 않도록 보장할 필요가 있다. "목욕물을 버리면서 아기도 버리면 안 된다"고 했다. 역량 기반 교육으로 완전히 전환wholesale swing하는 대신, 전통적인 최고의 것을 역량기반 접근법과 어떻게 조화시킬 것인지를 고려해야 한다.

It should be recognised that adopting a competence-based approach in practice is not easy. The competence-based curriculum presents new methodological challenges in terms of how best to develop, teach and assess competencies, so that students are provided with strong foundations in the knowledge and skills needed to perform at the required academic and professional levels. Moreover, educators also need to ensure that, if implementing a competence-based approach, they do not lose sight of the considerable strengths of the current curriculum. They must not ‘‘throw out the baby with the bathwater.’’ Instead of a wholesale swing to competencebased education, they should consider how to blend the best of traditional with competence-based approaches.



 2012 May;17(2):241-6. doi: 10.1007/s10459-010-9247-2. Epub 2010 Sep 14.

critical time for medical education: the perils of competence-based reform of the curriculum.

Author information

1
University of Medicine and Dentistry of New Jersey, Newark, 07107-1709, USA. karen_m_malone@yahoo.com

Abstract

Rapid expansion in scientific knowledge, changes in medical practice, and greater demands from patients and society necessitate reform of the medical curriculum. In recognition of this, medical educators across the world have recommended the adoption of competence-based education. This is intended to increase the rigour and relevance of the curriculum, move students beyond a focus on the memorisation and regurgitation of scientific facts, and better enable them to understand scientific principles and apply them to the practice of medicine. Experience from 40 years' use of competence-based curricula across the world suggests that the uncritical application of this approach to the medical curriculum may not achieve its intended aims. There are valuable lessons to be learnt from the history of competence-based education. By taking on board these lessons, confronting the pitfalls of this approach, and devising new and creative solutions to the problems inherent in this methodology, medical educators can better achieve their aim of providing a strong foundation for the practice of medicine in the twenty-first century. It is only through such a strategy-rather than the uncritical adoption of this educational approach-that we will have real movement and progress both in competence-based education in general, and in its applications to medicine in particular.

PMID:
 
20838880
 
DOI:
 
10.1007/s10459-010-9247-2


CBME 프로그램의 도입평가를 위한 핵심요소 프레임워크(Acad Med, 2019)

A Core Components Framework for Evaluating Implementation of Competency-Based Medical Education Programs

Elaine Van Melle, PhD, Jason R. Frank, MD, MA(Ed), Eric S. Holmboe, MD, Damon Dagnone, MD, MSc, MMEd, Denise Stockley, PhD, and Jonathan Sherbino, MD, MEd, on behalf of the International Competency-based Medical Education Collaborators





역량 기반 의료 교육(CBME)이 전 세계적으로 빠르게 채택되고 있음.1 결과적으로, 교육자와 프로그램 리더들은 혁신적인 커리큘럼의 구현을 연구하고 결과를 평가해야 하는 전례 없는 위치에 있다. 그러나, 이러한 연구는 CBME 프로그램을 구성하는 것에 대한 공통적인 설명이 부족하여 방해받고 있다. 이와 유사한 상황은 30년 전 PBL이 직면한 것과 비슷하다. 표준 설명이 부재하여 이것이 일관되지 않고 결론에 도달하지 못한 일련의 논쟁으로 이어졌다.

Competency-based medical education (CBME) is rapidly being adopted across the globe.1 Consequently, educators and program leaders are in an unprecedented position to study implementation and evaluate outcomes of innovative curricula. However, these studies are hampered by the lack of a common description of what constitutes a CBME program. A similar situation faced problem-based learning (PBL) three decades ago when the absence of a standard description contributed to a series of inconsistent and inconclusive arguments regarding the impact of PBL.2–4


CBME 프로그램 구현 평가의 중요성

The Importance of Evaluating CBME Program Implementation


실행평가는 "프로그램이 의도한 대로 운영되고 있는가?"라는 질문을 검토하는 프로그램 평가의 구체적인 형태이다.6 연구자가 프로그램 작동의 "블랙박스"를 열 수 있도록 한다.7 이러한 정보가 없다면, 제3형 오류의 위험에 빠진다. 제3형 오류란 부정적인 결과가 있을 때, 실제로는 프로그램 구현의 문제인데, 이것을 프로그램 이론의 실패로 귀속시키는 것이다. 

Implementation evaluation is a specific form of program evaluation that examines the question “Is the program operating as intended?”6 It allows researchers to open the “black box” of program functioning.7 Without this information, the risk is present of producing a Type III error—that is, attributing negative findings to a failure in program theory when negative findings may actually reflect an error in program implementation.8


예를 들어, 2013년 한 연구에서는 역량 기반 커리큘럼이 의학 실습을 위해 더 잘 준비된 졸업생을 배출하지 않는다고 결론지었다9 따라서 CBME의 기초가 되는 핵심 가정에 도전한다. 그러나 이 연구에서 구현된 CBME는 커리큘럼 시간의 15%를 교수학습의 별다른 변화 없이 역량 개발에 할애하는 것으로 설명되었다. 지식 이와는 대조적으로, CBME의 획기적인 설명에 따르면, "이러한 시스템(CBME)의 구현은 교직원 및 학생 역할과 책임 관계의 실질적인 재정립을 요구한다."10(p55)

For example, a 2013 study concluded that competency-based curricula do not produce graduates who are better prepared for medical practice,9 thereby challenging a key assumption underlying CBME. The implementation of CBME that was studied, however, was described as devoting 15% of curriculum time to competency development without any significant changes to teaching or learning. In contrast, the landmark description of CBME states, “Implementation of such a system demands substantial redefinition of faculty and student roles and responsibilities.”10(p55)


제3형 오류의 회피는 실행 평가를 수행하기 위해 인용되는 가장 일반적인 이유다. 다른 이유로는 

  • 구현의 차이 및 차이 문서화 

  • 개입에 대해서 보다 의미 있는 비교를 허용한다. 

  • 적절한 이행 지침을 제공하여 외부 타당성을 촉진

Avoiding a Type III error is the most common reason cited for undertaking implementation evaluation. Other reasons include 

  • documenting deviations from, and differences in, implementation; 

  • allowing for more meaningful comparisons of interventions; and 

  • promoting external validity by providing adequate guidelines for implementation.11


공통 프레임워크의 필요성

The Need for a Common Framework


그러나 CBME에서 설계 요소의 충실도를 평가하는 것을 방해한 것은 CBME 프로그램을 구성하는 것에 대한 공통의 이해가 부족하다는 것이었다..14 예를 들어 역량 기반 교육을 기술할 때 Spady15는 역량 기반 교육을 규정짓는 네 가지 최소한의 특성으로 성과, 시간, 교육 및 측정을 나열한다. 역량 기반 교육을 의료 분야로 translate함에 있어서, 프랭크와 동료 16은 커리큘럼 성과, 능력에 대한 강조, 시간 기반 교육에 대해서 탈-강조, 학습자 중심성의 촉진을 핵심 요소로 설명한다.

Evaluating the fidelity of design elements in CBME, however, has been hampered by the lack of a shared understanding of what constitutes a CBME program.14 For example, in describing competency- based education, Spady15 lists outcomes, time, instruction, and measurement as the four absolute minimum defining characteristics of competency-based education. In translating competency- based education to the medical field, Frank and colleagues16 describe a focus on curricular outcomes, an emphasis on abilities, a de-emphasis on time- based training, and the promotion of learner centeredness as key elements.


보다 최근에, Carraccio와 Englander1은 CBME프로그램의 필수적 실천요소로서 다음의 특징을 포함했다.

  • 기대 성과의 표준화. 

  • 의사 전문직이 되기 위한 궤적의 명확한 모델 

  • 증거 기반 학습 전략 

  • 케어 제공에 기초한 평가 도구 

  • 형성 평가에 대한 강조 

  • 학습자 직접 관찰 

  • 환자, 멘토 및 의료 팀원과의 학습자 간 양질의quality 관계 존재

More recently, Carraccio and Englander1 expanded the qualities of CBME to include 

  • the standardization of desired outcomes; 

  • a clear model of the trajectory for becoming an expert physician; 

  • evidence-based learning strategies; 

  • assessment tools based on care delivery; 

  • an emphasis on formative assessment; 

  • direct observation of learners; and 

  • the existence of quality relationships between learners with patients, mentors, and health care team members 

...as essential practices in a CBME program.


공통 CBME 프레임워크를 만드는 데 있어서의 과제

Challenges in Creating a Common CBME Framework


전통적으로 프로그램 구현을 평가하는 연구에 "이행 충실도"(FOI)라는 용어를 적용한다. FOI는 "실제로 실행된 프로그램 구성요소의 비율"로 정의되며, 따라서 "실제, 원래 개발된 프로토콜을 따랐느냐adherence"를 나타낸다.17(p316) 간단히 말해서 충실도는 매번 정확히 동일한 방식으로 설계된 프로그램을 구현하는 것을 의미한다.18

Traditionally, the term “fidelity of implementation” (FOI) is applied to studies that evaluate program implementation. FOI is defined as the “proportion of program components that were implemented” and so represents “the adherence of actual, treatment delivery to the protocol originally developed.”17(p316) Simply stated, ensuring fidelity means implementing a program as designed exactly the same way every time.18


일반적으로 충실도 연구는 특정 프로그램에서 기대되는 필수적 practice에 대한 합의를 도출하는 데 의존한다.19,20 일반적인 중요 범주는 기준을 구성하기 위해 사용될 수 있지만 최종 결과는 FOI를 측정하고 등급을 매기기 위해 사용되는 특정 활동의 체크리스트가 된다.17,21,22

Typically, fidelity studies rely on creating consensus regarding the essential practices one would expect to see in a particular program.19,20 Although generic overarching categories can be used to organize the criteria , the end result tendsto be a checklist of specific activities used to measure and rate FOI.17,21,22


이러한 체크리스트와 관련된 한 가지 문제는 "프로그램의 역동적 특성을 포함하는" 접근이다. 왜냐하면 어떤 프로그램 활동이 필수적인지에 대한 판단은 시간이 지남에 따라 진화하기 때문이다. 예를 들어, CBME 프로그램 구현에서 임상 역량 위원회(CCC)의 설립은 최근에야 필수적인 실행으로 떠오르고 있는 것처럼 보인다.

One issue with a checklist approach “involves the dynamic nature of programs”17(p330) because judgments about which program activities are essential evolve over time. For example, in CBME program implementation, the establishment of a clinical competency committee (CCC) seems to only recently be emerging as an essential practice.23,24


더욱이, 필수적인 practice에 대한 합의가 있을 수 있다고 가정하더라도, 체크리스트와 같은 것의 목적은 이분법적인 예-아니오 판단으로 만드는 것이다.19,20 이 때 구현의 퀄리티는 고려되지 않는다. 그러나 구현 품질은 상당한 차이를 보인다. 예를 들어, 최근의 연구는 모든 CCC가 공통적인 방식으로 작동하지 않는다는 것을 보여준다.25

Furthermore, even assuming that there could be consensus regarding the essential practices, the intent of such lists is to create a dichotomous yes-or-no judgment.19,20 The quality of the implementation is not taken into consideration. Quality of implementation, however, makes a significant difference. For example, recent research reveals that all CCCs do not operate in a common fashion.25


또 다른 과제는 CBME와 같은 교육 혁신은 종종 복잡하다는 것이다. 그들은 다양한 결과에 기여할 수 있는 많은 다른 운영 부분을 가지고 있다.27 그러한 혁신은 맥락에 매우 민감하며,28 따라서 프로그램은 모든 상황에서 정확히 같은 방식으로 구현될 것이라는 FOI의 기대는 그저 비현실적이다. Pérez 등 29는 그러한 조건의 적응, 즉 기술혁신의 무결성이 훼손되지 않는 한 원래 설계의 변경을 허용하는 것이 주된 관심사가 되어야 한다고 주장한다. 이 문제를 해결하기 위해서는, 체크리스트나 레시피 같은 접근방식을 피하고, 오히려 "맥락적으로 해석하고 적용될 수 있는 지침을 제공하는" 구성 요소를 식별해야 한다."18(p254)

Another challenge is that educational innovations such as CBME are often complex26; they have many different operating parts that can contribute to a variety of outcomes.27 Such innovations, therefore, are highly sensitive to context,28 and so the expectation of FOI—that a program will be implemented exactly the same way, using exactly the same practices in every circumstance—is simply unrealistic. Pérez et al argue29 that under such conditions adaptation—that is, allowing for changes to the original design as long as the integrity of the innovation is not compromised—should be the primary concern. Meeting this challenge requires avoiding a checklist or recipe-like approach and, rather, identifying components that “provide guidance that must be interpreted and applied contextually.”18(p254)


방법

Method


이러한 과제를 해결하기 위해 Cousins et al19는 실무적 체크리스트보다는 혁신의 중요한 요소들에 초점을 맞춘다고 설명한다. "개입의 필수 불가결한 요소"로 정의되는 이 핵심 요소들은 중요한 조직체를 제공한다. 이러한 요소들은 혁신과 구체적으로 연관되지만, 다양한 실무적 실행을 수용할 수 있을 만큼 충분히 견고하다. 다시 말해서, 그것들은 다양한 프로그램 상황에 적용될 수 있다. 그러한 핵심 구성요소는 변화를 프레임하는 기본 관점을 명시하고 관점에 맞는 핵심 구성요소를 식별함으로써 식별된다.

To meet these challenges, Cousins et al19 describe focusing on important components of the innovation rather than on a checklist of practices. Defined as “an essential and indispensable element of an intervention,”31(p3) these core components provide an overarching organizer. The components are specific to the innovation yet robust enough to embrace different practices; in other words, they can be applied to a range of program contexts. Such core components are identified by making explicit the underlying perspective framing the change and identifying the key components that align with the viewpoint.


Cousins et al은 유효성 및 사용을 강화하기 위해 공동작업 방식으로 개발이 진행되었다고 기술한다.19 따라서 이것은 CCF(CBME Core Components Framework)를 개발할 때 취해진 접근방식이었다. 보다 구체적으로, 우리는 프레임워크를 개발하고 CBME CCF에 대한 국제 의료 교육 전문가 그룹 간의 합의를 달성하기 위해 2단계 방법을 사용했다.

Cousins et al describe the development as taking place in a collaborative fashion in order to strengthen validity and use.19 Accordingly, this was the approach taken in developing the CBME Core Components Framework (CCF). More specifically, we used a two- step method to develop a framework and then to achieve consensus among an international group of medical education experts on a CBME CCF.



1단계: 초안 CCF 개발

Step 1: Developing a draft CCF


따라서, CBME CCF는 세 개의 연속적인 레이어를 사용하여 설계되었다.32

    • 토대 레이어는 각 핵심 구성요소를 CBME.33에 대한 이론, 모델 또는 모범 사례에 연결한다. 

    • 원칙 레이어는 "부유한 고차원의 자문"34(p195)를 제공하여 구현을 가이드할 수 있으며, 

    • 실행 레이어는 실행의 세부사항을 포착한다

Accordingly, the CBME CCF was designed using three successive layers.32 

    • The foundational layer links each core component to theories, models, or best practices informing CBME.33 

    • A principles layer offers “a form of rich high-level counsel”34(p195) that can be used to guide implementation, and 

    • a practice layer capture the details of implementation.


2단계: 합의점 결정

Step 2: Determining consensus


우리는 CBME CCF.35,36 두 개의 층을 검증하기 위해 델파이 접근방식을 채택했다. 델파이 접근방식은 의견의 일치 기법으로 익명으로 표현될 수 있기 때문에, 따라서 대면 회의를 통해 발생할 수 있는 영향을 제거하기 때문에 선택되었다.37 우리는 프레임워크의 두 계층, 핵심 요소 및 원칙에 초점을 맞추었다. 설명, 왜냐하면 델파이 접근방식은 주제에 대한 심층 탐사와는 달리 상위 수준의 개념으로 가장 잘 작동하기 때문이다.38

We adopted a Delphi approach to validate two layers of the CBME CCF.35,36 The Delphi approach was selected because, as a consensus technique, it allows for views to be expressed anonymously, thereby eliminating the influence that can occur through face-to-face meetings.37 We focused on two layers of the framework, the core components and principle statements, because the Delphi approach works best with higher-level concepts as opposed to an in-depth exploration of the topic.38


델파이 연구에서 합의점을 정의하는 표준 방법이 없기 때문에, 결정 지점의 선택에 대해 명시하는 것이 중요하다.42 우리의 경우, 연구팀은 응답자의 70% 이상이 합의를 나타내기 위한 합리적인 사전 정의된 표준이라는 데 동의했다.  70% 수준에 도달했는지를 판단하기 위해 "동의"와 "수정후 동의"이라는 응답이 함께 추가되었다.

Because there is no standard method for defining consensus in a Delphi study, it is important to be explicit about the choice of decision point.42 In our case, the research team agreed that ≥ 70% of the respondents was a reasonable predefined standard for indicating consensus. The responses “agree” and “agree with rewording” were added together to determine whether we had reached the ≥ 70% level.


결과

Results


CCF 초안 개발

Developing a draft CCF


CBME를 통해 의도된 커리큘럼 변화에 대한 명확한 이해를 위해 노력하면서, 우리는 생산개혁이라는 두 가지 다른 관점을 발견했다. (표 1).43,44 

    • 생산 관점은 "공장 같은 의대, 사용자의 요구와 요구에 맞춘 매우 바람직한 제품을 생산할 수 있다."43(pS41) 

    • 개혁 관점은 "유연한 개별 맞춤 프로그램으로 다양한 역량 달성율에 적응할 수 있다."43(pS4)

As we worked to make explicit our understanding of the intended curricular change through CBME, we found two different perspectives used to frame the change to an outcomes-based approach in medical education: production and reform (Table 1).43,44 

    • The production viewpoint draws from the manufacturing industry, where “medical schools, like factories, can produce highly desirable products adapted to user needs and desires.”43(pS41) 

    • Alternatively, the reform position focuses on “flexible, individually tailored programs that can adapt to variable rates of competence attainment.”43(pS4)



CBME에 대한 두 가지 다른 관점은 어떤 커리큘럼 요소를 강조하는지에도 영향을 준다. 예를 들어, 

    • 생산 관점에서, 문제 학습자를 식별하기 위한 목적으로 주로 평가에 중점을 둔다. 그러나 

    • 개혁 관점에서 모든 학습자가 필요한 역량을 개발할 기회를 가질 수 있도록 정렬된 모든 커리큘럼 요소에 대해 동등한 중요성을 부여한다.

These different perspectives of CBME can lead to emphasizing the importance of different curricular elements. 

    • For example, in the production perspective, emphasis is placed primarily on assessment for the purposes of identifying problem learners. 

    • In the reform scenario, however, equal importance is placed on all curricular elements, aligned in such a way so that all learners have the opportunity to develop the required competencies.44,45


CBME CCF를 만드는 과정을 이끌 하는 관점을 결정함에 있어서, 우리는 CBME의 채택이 종종 변화로 설명된다는 점에 주목했다.1,46,47 즉 (학습자) 행동의 상당한 변화를 필요로 한다.48 결과적으로, 우리는 프레임워크를 개발할 때 개혁 관점을 채택했다.

In deciding which perspective should guide the creation of the CBME CCF, we noted that the adoption of CBME is often described as a transformative change,1,46,47 requiring a significant shift in behaviors.48 Consequently, we adopted a reform characterization in developing the framework.


구체적인 핵심요소를 파악하고, 개혁적 관점에 맞추는 과정에서, 균형 잡힌 생태계에서 서로 지탱하고 존재하는 모든 커리큘럼 요소의 중요성을 강조하는 "건설적 정렬"의 교육적 개념에서 도출했다.44 좀 더 구체적으로, 결과 기반 커리큘럼에서 건설적 정렬을 위해서는 교수, 학습, 평가 관행이 학습 성과를 지향해야 한다.

To identify specific core components, and in keeping with the reform perspective, we drew from the educational concept of “constructive alignment,” which emphasizes the importance of all curricular elements supporting each other and existing in a balanced ecosystem.44 More specifically, in an outcomes-based curriculum, constructive alignment requires teaching, learning, and assessment practices to be oriented toward learning outcomes.44,45


그런 다음 우리는 CBME를 알리는 대표적 문헌을 통해 이러한 커리큘럼 요소를 탐구했다. CBME를 결과 기반 커리큘럼으로 기술함으로써 생태계 조성이 지원되었다. "역량은 교육 프로그램의 목표를 나타내며 커리큘럼은 역량을 획득하는 메커니즘을 제공한다."10(p51) 따라서, 명시적 성과 역량의 표현은 교육, 학습 및 평가 개발을 이끄는 중심 핵심 요소로 식별되었다. 또한, CBME 커리큘럼의 교수, 학습, 평가에 관한 문헌은 CBME 커리큘럼의 포함을 강화하는 뚜렷한 이론적 토대를 별도의 핵심 요소로 기술하였다.

We then explored these curricular elements in light of our search for seminal literature informing CBME. Creating an ecosystem was supported by the description of CBME as an outcomes-based curriculum where “competence represents the goal of an educational programme, and a curriculum provides the mechanism through which competence is to be acquired.”10(p51) Accordingly, the articulation of explicit outcome competencies was identified as a central core component guiding the development of teaching, learning, and assessment. Furthermore, the literature on teaching, learning, and assessment in a CBME curriculum described distinct theoretical foundations reinforcing their inclusion as separate core components.


그러나 우리는 CBME의 기본 개념인 숙달 학습이 아직 프레임워크 개발단계에서 표현되지 않았다는 점에 주목했다. 이는 개별 학습자의 진행에 있어 상당한 유연성을 허용하면서도, "프로그램을 통한 순차적 경로"로서 역량을 정비할 필요성을 의미했다. 완전 학습은 어떻게 CBME가 작동해야 하는가에 대한 토대 개념 프레임워크였다.

We noted, however, that mastery learning, a concept fundamental to CBME, was not yet represented in the evolving framework. Described as the need to arrange competencies as a “sequential path through the programme” while still allowing for considerable flexibility in individual learner progression, mastery learning is a fundamental conceptual framework illuminating how CBME is supposed to work.33,49


따라서 개혁적 관점에서 CBME를 개념화함으로써 다음과 같은 5가지 핵심요소를 식별하게 되었다.

Accordingly, Conceptualizing CBME from a reform perspective therefore resulted in identification of the following five core components:


• 성과 역량

• 순차적 진행 

• 맞춤 학습 경험 

• 역량 초점 교육 

• 평가 프로그램

• Outcome competencies 

• Sequenced progression 

• Tailored learning experiences 

• Competency-focused instruction 

• Programmatic assessment


생태계 내에서 발생하는 건설적 정렬의 특성화에 대응하여, 우리는 결과적 역량과 순차적 진행을 학습, 교육 및 평가 관행의 개발을 이끄는 중심 핵심 요소로서 상상하였다(그림 1).

Responding to the characterization of constructive alignment as occurring within an ecosystem, we envisioned the outcome competencies and sequenced progression as central core components guiding the development of learning, teaching, and assessment practices (Figure 1).



또한, 이 생태계는 프로그램의 크기, 학습 경험을 포함한 자원의 가용성, 학습 환경의 퀄리티과 같은 국지적 맥락의 고유한 특징에 의해 매개moderate된다.

In turn, this ecosystem is moderated by features unique to the local context such as the size of the program, availability of resources including learning experiences, and qualities of the learning environment.


그런 다음 이 다섯 가지 핵심 구성요소를 사용하여 전체 프레임워크를 구성하고 채웠으며, 각 계층은 다음 계층을 알려 CBME 프로그램에 맞게 특별히 맞춤화된 핵심 구성요소 프레임워크를 허용했다(그림 2). 우리는 또한 links.lww.com/ACADMED/A670).에서 이용할 수 있는 각 핵심 구성 요소(보조 디지털 부록 1)를 알리는 데 중요한 작업에서 나온 신학 기사 목록을 만들었다.

These five core components were then used to organize and populate the full framework, with each layer informing the next, allowing for a core components framework specifically customized for a CBME program (Figure 2). We also created a list of seminal articles emerging from our work critical to informing each of the core components (Supplemental Digital Appendix 1, available at http:// links.lww.com/ACADMED/A670).




5가지 핵심 구성 요소에 대한 의견 수렴

Reaching consensus on the five core components


국제 CBME 협력단 59명 중 25명이 참여하기로 합의했다. 패널 크기는 참가자가 10명에서 30명 사이여야 한다고 제안되었기 때문에 이상적인 크기가 10,37명 이상인 50명은 이 패널 크기가 적절하다고 간주되었다.

Of the 59 members of the international CBME collaborators group, 25 agreed to participate. Because it is suggested that a panel size should range from 10 to 30 participants,50 with an ideal size being no less than 10,37 this panel size was considered to be adequate.


1라운드 동안 핵심 요소 5개 모두에 대해 70% 이상의 합의에 도달했다(그림 3).

During Round 1, over 70% agreement was reached for all five of the core components (Figure 3).


원칙적 진술은 2라운드의 구체적인 초점이었다. 다시 한 번, 합의는 모든 원칙 진술에 대해 70%의 사전 정의된 합의 수준에 도달했다(그림 3).

The principle statements were the specific focus of Round 2. Once again, agreement reached the predefined consensus level of 70% for all of the principle statements (Figure 3).





고찰

Discussion


우리는 CBME의 채택에 포괄적인 커리큘럼 개혁이 필요하다는 우리의 견해를 분명히 함으로써 CBME 프로그램 구현의 평가를 안내하기 위한 공통 프레임워크의 개발을 시작했다(표 1).

We began development of a common framework to guide evaluation of CBME program implementation by making explicit our perspective that the adoption of CBME requires comprehensive curricular reform (Table 1).


실천의 체크리스트가 아니라, 핵심 구성요소에 초점을 맞춘다면, 이 프레임워크가 모든 맥락에 동일하게 적용될 수 있을 것이다.

The focus on core components, rather than a checklist of practices, ensures that the framework can be applied equally across all contexts.


맥락의 영향을 수용하는 것은 역동적 조건 하에서는 "one size does not fit all"이라고 인식되는 [프로그램 평가의 최근 양상]과 일치한다. 따라서 [엄격한 규칙에 대한 의존]은 [가이딩 원칙guiding principle]으로 대체되고 있다.51 따라서 FOI는 프로그램이 특정 관행보다는 핵심 개념에 대한 integrity를 예시하는 정도에 초점을 맞춘다. 이러한 방식으로 핵심 요소의 사용은 충실도가 유지되는 동안 국지적 혁신의 촉진을 가능하게 한다.

Embracing the influence of context is consistent with recent developments in program evaluation where it is recognized that under dynamic conditions, “one size does not fit all,” and so the reliance on rigid rules is being replaced by guiding principles.51 FOI accordingly focuses on the extent to which the program exemplifies integrity to key concepts rather than specific practices.18 In this fashion, the use of core components allows for the promotion of local innovation while fidelity is maintained.


국지적 혁신의 가능성은 시간이 지남에 따라 다양한 형태의 CBME가 나타날 수 있음을 시사한다.

The possibility for local innovation suggests that various configurations of CBME may emerge over time.


또한, CBME는 여러 활동과 결과로 구성된 복잡한 서비스 개입이다. 따라서 구현이 진행될 때 활동과 성과 사이의 관계를 심층적으로 이해하는 것이 중요하다. 다섯 가지 핵심 구성 요소는 구현 평가에 대한 보다 체계적이고 조직적인 접근 방식을 지원할 수 있다. 이는 모든 (프로그램) 평가에서 중요시되는 '예상치 못한 결과를 식별할 수도 있는 접근방식'을 말한다.

As well, CBME is a complex service intervention consisting of multiple activities and outcomes. Therefore, creating an in-depth understanding of the relationship between activities and outcomes as implementation unfolds is critical.27 The five core components can support a more systematic and organized approach toward implementation evaluation—an approach that also allows for the identification of unanticipated outcomes, which is an important aspect of any evaluation effort.


연구 한계

Limitations of the study


그러나 우리는 의료 교육 혁신으로서 CBME가 아직 시행 초기 단계에 있다는 것을 완전히 인식하고 있다. 구현 경험을 쌓으면서 다른 관점들이 계속해서 나타날 가능성이 매우 높다.

We fully recognize, however, that as a medical education innovation, CBME is still in the early stages of implementation. It is very possible that other perspectives will continue to emerge as we gain more experience with implementation,


또한 CCF는 주로 CBME의 설계 요소에 초점을 맞추고 있다. 그러나 최근에는, [교육 모델을 뒷받침하는 학습 조건]도 충실도에 영향을 미치는 데 중요하다고 제안되었다.47 CBME를 구현할 때 서로 다른 두 가지 방향을 식별함으로써 서로 다른 학습 조건이 존재할 수 있다. 문제 접근법과 개발 접근법.25 실제로, 결핍에 초점을 맞춘 환경에서 배우는 경험은 성장 사고방식에 의해 움직이는 것과 매우 다르다는 것을 시사하는 증거가 있다.55

As well, the CCF is primarily focused on the design elements of CBME. It has been recently proposed, however, that the learning conditions underpinning the educational model are also important in influencing fidelity.47 That different learning conditions may exist is supported by our identification of two different orientations when implementing CBME: a problem approach and a developmental approach.25 Indeed, there is evidence to suggest that the experience of learning in an environment that focuses on deficiencies is very different from that driven by a growth mindset.55



결론

In conclusion


PBL과 유사하게, CBME의 광범위한 채택에 많은 어려움이 있다는 것이 제안되었다. 그럼에도 불구하고, CBME는 빠르게 실용화되고 있는 혁신이다. CBME 프로그램의 초기 평가는 구현에 대한 보다 정교한 이해의 필요성을 지적한다. PBL에 대한 우리의 경험을 통해 배운 이 글은 이 권고안을 진전시키기 위한 표준화된 접근법을 제공한다. CBME CCF는, 모든 학습자의 성장과 발전을 촉진하기 위해 설계된 [변혁적 혁신으로서의 CBME]에 초점을 두고 있으며, 프로그램 구현 평가의 명확성과 일관성을 촉진한다.


Similar to PBL, it has been suggested that there are many challenges to the widespread uptake of CBME.59 Nonetheless, CBME is an innovation that is rapidly being adopted into practice. Initial evaluation of CBME programs points to the need for a more sophisticated understanding of implementation. Learning from our experience with PBL, this article provides a standardized approach to moving this recommendation forward. With a focus on CBME as a transformative innovation, designed to promote the growth and development of all learners, the CBME CCF promotes clarity and consistency in evaluating program implementation.


이러한 연구가 이론에 기초해야 한다는 필요성 또한 PBL에 대한 우리의 경험에서 비롯된 권고사항이다. 이 교훈은 프로그램 평가 분야에서 더 많은 이론 중심적인 노력에 대한 요구와 유사하다.62

The need for these studies to be theory based is also a recommendation stemming from our experience with PBL.60,61 This lesson learned parallels the call for more theory-driven efforts in the field of program evaluation.62



10 McGaghie WC, Miller GE, Sajid AW, Tedler TV. Competency-Based Curriculum Development in Medical Education: An Introduction. Geneva, Switzerland: World Health Organization; 1978.


16 Frank JR, Mungroo R, Ahmad Y, Wang M, De Rossi S, Horsley T. Toward a definition of competency-based education in medicine: A Canada. systematic review of published definitions. Med Teach. 2010;32:631–637.



32 Varpio L, Bell R, Hollingworth G, et al. Is transferring an educational innovation actually a process of transformation? Adv Health Sci Educ Theory Pract. 2012;17: 357–367.


61 Norman GR, Schmidt HG. Revisiting “Effectiveness of problem-based learning curricula: Theory, practice and paper darts.” Med Educ. 2016;50:793–797.









 2019 Jul;94(7):1002-1009. doi: 10.1097/ACM.0000000000002743.

Core Components Framework for Evaluating Implementation of Competency-Based Medical Education Programs.

Author information

1
E. Van Melle is senior education scientist, Royal College of Physicians and Surgeons of Canada, Ottawa, Ontario, Canada. J.R. Frank is director of specialty education, strategy and standards, Office of Specialty Education, Royal College of Physicians and Surgeons of Canada, Ottawa, Ontario, Canada. E.S. Holmboe is senior vice president for milestones development and evaluation, Accreditation Council for Graduate Medical Education, Chicago, Illinois. D. Dagnone is competency-based medical education faculty lead and associate professor, Department of Emergency Medicine, Faculty of Health Sciences, Queen's University, Kingston, Ontario, Canada. D. Stockley is professor and scholar in higher education, Office of the Vice-Provost (Teaching and Learning), Queen's University, Kingston, Ontario, Canada. J. Sherbino is assistant dean, Program for Education Research and Development, Faculty of Health Sciences, McMaster University, Hamilton, Ontario, Canada.

Abstract

PURPOSE:

The rapid adoption of competency-based medical education (CBME) provides an unprecedented opportunity to study implementation. Examining "fidelity of implementation"-that is, whether CBME is being implemented as intended-is hampered, however, by the lack of a common framework. This article details the development of such a framework.

METHOD:

A two-step method was used. First, a perspective indicating how CBME is intended to bring about change was described. Accordingly, core components were identified. Drawing from the literature, the core components were organized into a draft framework. Using a modified Delphi approach, the second step examined consensus amongst an international group of experts in CBME.

RESULTS:

Two different viewpoints describing how a CBME program can bring about change were found: production and reform. Because the reform model was most consistent with the characterization of CBME as a transformative innovation, this perspective was used to create a draft framework. Following the Delphi process, five core components of CBME curricula were identified: outcome competencies, sequenced progression, tailored learning experiences, competency-focused instruction, and programmatic assessment. With some modification in wording, consensus emerged amongst the panel of international experts.

CONCLUSIONS:

Typically, implementation evaluation relies on the creation of a specific checklist of practices. Given the ongoing evolution and complexity of CBME, this work, however, focused on identifying core components. Consistent with recent developments in program evaluation, where implementation is described as a developmental trajectory toward fidelity, identifying core components is presented as a fundamental first step toward gaining a more sophisticated understanding of implementation.

PMID:
 
30973365
 
DOI:
 
10.1097/ACM.0000000000002743


일개 기관에서 교육과정 변화 도입에 대한 의과대학생의 관점(Acad Med, 2017)

Medical Students’ Perspectives on Implementing Curriculum Change at One Institution

Aaron M. Yengo-Kahn, MD, Courtney E. Baker, and Kimberly D. Lomis, MD



다른 이들은 이전에 교육 변화 관리 과정을 그들 자신의 기관의 경험의 렌즈를 통해 기술했다.4–6 이러한 연구들은 행정관과 교수진이 효율적인 전환을 확보하기 위해 무엇을 할 수 있는지에 주로 초점을 맞추고 있다. 교직원 및 행정관의 저항에 부딪힐 수 있는 커리큘럼 개편 가능성은 충분히 문서화되었다.4,7 그러나 그러한 변화에 직접적으로 영향을 받는 학생들은 또 다른 잠재적 저항의 지점이다. 커리큘럼 정비가 성인 학습자를 위한 학습 환경을 긍정적으로 재구성할 수 있지만, 관리자는 종종 학생들이 그러한 혁신적이고 익숙하지 않은 교육 개념에 어떻게 인식하고 반응할지에 대해 가정한다. 이것은 학생들과 그들의 커리큘럼 사이에 단절을 만들 수 있다. 

Others have previously described the education change-management process through the lens of their own institution’s experience.4–6 these works primarily focus on what administrators and faculty can do to secure efficient transition; the potential for curricular overhaul to encounter resistance from faculty and administrators has been well documented.4,7 However, the students, who are directly affected by such change, are another potential point of resistance. Although curricular overhaul can positively restructure the learning environment for the adult learner, administrators often make assumptions about how students will perceive and respond to such innovative and unfamiliar educational concepts. This can create a disconnect between students and their curriculum. 


그러나 대규모 커리큘럼 정비에서 학생의 역할은 주로 교직원과 관리자로 구성된 소수의 실무그룹 구성원으로 제한되는 경우가 많으며,4 또는 학생위원회는 커리큘럼의 하위 집합을 검토하는 것으로 엄격하게 제한된다.12

However, the student role in larger curriculum overhaul is often restricted to minority membership of working groups primarily comprising faculty and administrators,4 or the student committee is strictly tasked with reviewing a subset of the curriculum.12


밴더빌트 대학 의과대학의 커리큘럼 개혁

Curricular Reform at Vanderbilt University School of Medicine


배경

Background


VUSM(Vanderbilt University School of Medicine)은 오랫동안 의학 교육 혁신의 리더였다.

Vanderbilt University School of Medicine (VUSM) has long been a leader in medical education innovation.


2006년 커리큘럼 변경 이전에, 학생 커리큘럼 위원회(SCC)는 주로 과정 완료 시 공식적인 학생 피드백을 수집하고 전달하는 업무를 담당하는 학생 선출 기관으로 활동했다. 2006년 개정과 함께, 그들의 역할은 학생 지도자와 교수들 사이의 격주 7:30 회의를 통해 커리큘럼에 대한 비공식적인 급속 주기 피드백을 제공하도록 확대되었다.

Prior to the 2006 curricular changes, the Student Curriculum Committee (SCC) had primarily served as a student-elected organization tasked with gathering and relaying formal student feedback upon the completion of courses. With the 2006 revision, their role was expanded to provide informal rapid-cycle feedback on the curriculum via biweekly 7:30 am meetings between student leaders and faculty.


2011년, VUSM이 2013년에 시행될 또 다른 주요 커리큘럼 개편을 계획함에 따라, 행정가들은 "Curriculum 2.0"의 설계에 학생들을 포함시키기 위한 구체적인 조치를 취했다. 특히, 그들은 커리큘럼 2.0의 특정 측면을 설계하고 실행한 혐의로 기소된 각 실무그룹에 학생과 최근 동문들을 배치했다. 또한, 그들은 학생들에게 임박한 변경pending transition에 대해 교육하기 위해 기존 수업들과 함께 타운홀 미팅을 주최했다. 행정부는 사전경험이 중요하다고 생각되는 모든 면에서 의도적으로 학생들을 참여시켰다. 그럼에도 불구하고, 최근 학생 중심의 커리큘럼 2.0으로의 전환은 예상하기 어려운 독특한 과제를 제시하였다. 커리큘럼 2.0을 시행하는 동안, SCC 구성원들은 행정부, 교직원 및 동료 학생들과 긴밀하게 협력하여 비판적 피드백을 제공하고 광범위한 전환 과제를 해결했다.

In 2011, as VUSM embarked on planning another major curricular overhaul to be implemented in 2013, administrators took specific measures to include students in the design of “Curriculum 2.0.” Specifically, they placed students and recent alumni on each of the working groups charged with designing and implementing specific aspects of Curriculum 2.0. Additionally, they hosted town hall meetings with existing classes to educate students about the pending transition. Administrators engaged students deliberately and in all ways that previous experience deemed important; nevertheless, the recent transition to a student-centered Curriculum 2.0 presented unique challenges that were difficult to anticipate. During the implementation of Curriculum 2.0, SCC members worked closely with administrators, faculty, and fellow students to provide critical feedback and to tackle a wide range of transitional challenges.


커리큘럼 2.0으로의 전환 과정 중 일부는 2012년 가을부터 "혼성 커리큘럼"을 시행하고 2016년 봄에 졸업할 것으로 예상된다. 하이브리드 커리큘럼은 VUSM(VUSM 2006~2011년 입학하는 학생)의 기존 커리큘럼에서 커리큘럼 2.0(2013년 이후 입학하는 학생)으로 전환하기 위해 특별히 설계되었다.

Part of the transition to Curriculum 2.0 involved implementing a “Hybrid Curriculum” for a single class starting in fall 2012 with anticipated graduation in spring 2016. The Hybrid Curriculum was specifically designed to bridge the transition from the existing curriculum at VUSM (students entering 2006 through 2011) to Curriculum 2.0 (students entering 2013 and thereafter).



커리큘럼 개정 및 초기 학생 반응의 핵심 요소

Key elements of the curricular revision and initial student reactions


커리큘럼 2.0의 한 가지 특징은 핵심실습이 3학년에서 2학년으로 옮겨졌다는 것이다. 과도기적 하이브리드 커리큘럼은 핵심실습의 의도된 전환에 시차를 두도록 설계되어, 그로 인해 발생할 임상적 배치에서 학생들의 과도한 부담을 완화시켰다. 또한, 과도기 하이브리드 커리큘럼은 본격적인 구현 전에 새로운 학습 형식을 시험할 수 있는 기회를 제공했다. 커리큘럼 전환의 주요 측면은 표 1에 요약되어 있다. 각 개입에 대한 행정부의 의도와 초기 학생 반응 사이의 단절은 표 2에 요약되어 있다.

One feature of Curriculum 2.0 was that core clerkships were shifted from year 3 to year 2. The transitional Hybrid Curriculum was designed to stagger the intended shift of core clerkships, mitigating the excess load of students in clinical placements that would result. Additionally, the transitional Hybrid Curriculum offered an opportunity to pilot novel learning formats before full-scale implementation. Major aspects of the curricular transition are summarized in Table 1. Disconnects between the administration’s intent for each intervention and initial student reactions are summarized in Table 2.


주 1회 진료 의무.

Preclerkship weekly clinical duties.


하이브리드 커리큘럼 수업은 weekly 임상 업무를 포함하여, 가장 먼저 전임상 시기에서 임상 배치를 경험했다. 모든 학생들을 수용하기 위해, 다양한 임상 환경에 걸쳐 개별적인 배치를 했다. 이 경험의 주된 목적은 임상적 맥락을 제공하고 의료 시스템 문제에 대한 인식을 높이기 위한 것이었지만, 학생들(그리고 많은 교사들)은 자연스럽게 임상적 기술 개발에 초점을 맞추었다. 이는 결국 학생들 사이에서 이러한 무수한 환경 전반에 걸친 임상 기회의 variation에 대한 우려를 낳았다. 임상 의무의 증가는 또한 1학년 학생들의 주간 일정에서 flexibility를 감소시켰다.

The Hybrid Curriculum class was the first to experience clinical placements in the preclerkship phase, with weekly clinical duties. To accommodate all students, individual placements were made across a variety of clinical settings. Although the primary intent of this experience was to provide clinical context and to raise awareness of health care systems issues, the students (and many preceptors) naturally focused on clinical skills development. This, in turn, led to concerns among students about variation in clinical opportunities across these myriad settings. The addition of clinical duties also created less flexibility in the weekly schedule of first-year students.




보다 능동적이고 팀 기반의 학습 양식 통합.

Incorporation of more active and team-based learning modalities.


하이브리드 커리큘럼 클래스는 커리큘럼 2.0 전임상 경험의 주요 초점인 능동적 학습 형식과 팀 기반 활동의 파일럿을 경험했다. 교수진들은 사례와 기술을 개발하고 있었고, 이 새로운 도구들을 현재의 학생들과 공유하게 되어 흥분했다. 그러나 하이브리드 커리큘럼 학생들은 새로운 기술을 배워야 하는 부담을 완전히 극복할 수 있는 충분한 반복적인 연습이 없었다. 일부 학생들은 이것이 만들어낸 비효율성에 좌절했다. 또한, 하이브리드 커리큘럼 학생들은 이질적이면서 그룹 환경에서 개인의 취약성을 증가시키는 교육접근방식과 관련된 상당한 불편함을 표현하는 데 중요한 역할을 했다.

The Hybrid Curriculum class experienced pilots of the active learning formats and team-based activities that are a primary focus of the Curriculum 2.0 preclerkship experience. Faculty were developing cases and techniques and were excited to share these new tools with current students. The Hybrid Curriculum students, however, did not have sufficient repeated practice with these formats to fully overcome the burden of learning a new technique. Some students became frustrated by the sense of inefficiency that this created. Additionally, Hybrid Curriculum students served an important role in voicing to faculty the significant discomforts associated with approaches that feel foreign and that raise individual vulnerability in a group setting.


예체능 과목의 단축.

Reduction of preclerkship course work.


2년에서 1.5년까지의 전임상단계의 하이브리드 커리큘럼 수업 단축은 기존의 필수 연구 경험을 임상후단계로 옮기고 방학 기간을 변경함으로써 크게 달성되었다. 교수진의 노력이 후속 교육과정 2.0에 대해 계획된 중요한 개정안에 초점을 맞출 수 있도록 기초 과학 블록의 내용과 길이를 최소한으로 변경해야 했다. 그러나, 어떤 변화도 미국 의료 면허 시험(USMLE) 1단계 준비와 관련하여 학생들 사이에 불안을 야기할 수 있다. 또한, 하이브리드 커리큘럼 수업은 핵심실습을 2학년으로 옮기는 과정에서 큰 타격을 입었고, 이는 대부분의 로테이션에서 다른 학년의 추가 학생이 있었던 것과 관련이 있다.

The Hybrid Curriculum class reduction of the preclerkship phase from 2 to 1.5 years was largely accomplished by moving an existing required research experience to the postclerkship phase, and altering break periods. Only minimal changes in content and length of the foundational science blocks were required, such that faculty efforts could focus on the significant revision planned for the subsequent Curriculum 2.0. However, any change can generate anxiety among students regarding preparation for the United States Medical Licensing Examination (USMLE) Step 1. Additionally, the Hybrid Curriculum class bore the brunt of the transition to moving core clerkships to year 2, with most of their rotations involving the presence of extra students from other classes.


종단 코스는 임상 로테이션과 병행하여 작용한다.

Longitudinal course work in parallel with clinical rotations.


하이브리드 커리큘럼 클래스와 함께 몇 가지 종단 커리큘럼 요소가 도입되었다. 보건 시스템 과학, 연구와 탐구, 그리고 의학 인문학과 윤리학은 교과과정의 모든 단계에 걸쳐 운영되도록 설계되었다. 하이브리드 커리큘럼 학생들은 주제가 재방문됨에 따라 재빨리 중복성을 지적했다. 또한, 임상실습 단계와 이후 단계에서, 이러한 종단적 활동과 임상적 로테이션에 대한 학생 역할에 대한 전통적인 견해 사이에 상당한 sense of competition이 있었다. 

Several longitudinal curricular elements were introduced with the Hybrid Curriculum class. Courses in health systems science; research and inquiry; and medical humanities and ethics were designed to run throughout all phases of the curriculum. The Hybrid Curriculum students quickly noted redundancy as topics were revisited. Additionally, in the clerkship phase and beyond, there was a significant sense of competition between these longitudinal activities anda traditional view of student roles on clinical rotations. 


당면 과제 해결.

Addressing the challenges.


학생들이 하이브리드 커리큘럼을 경험하면서 제기한 대부분의 우려는 실제로 개발팀(학생 포함)에 의해 설계 단계에서 잠재적인 이슈로 확인되었다. 진행 결정은 그러한 변화에 대한 교육적 근거에 기초하여, 숙고하여 이루어졌다. 그러나 학생들의 실제lived 경험은 이러한 모든 개입에 걸쳐 누적되었다. 이는 행정부가 충분히 예상하지 못한 불안감이 만연하는 결과를 낳았다. VUSM의 학생들 사이에서 칭찬할 만한 전통은 거의 개인 멘토링의 과정이다; 하이브리드 커리큘럼 학생들 사이에서 어떤 불안감이 있다는 것이 명백해졌다. 하이브리드 커리큘럼 클래스는 부담의 상당 부분을 인식했지만, 진정한 커리큘럼 2.0 코호트가 궁극적으로 경험하게 될 누적적 이득에 대해서는 잘 인식하지 못했다.

The majority of concerns that students raised during their Hybrid Curriculum experiences had actually been identified as potential issues during the design phase by development teams (which included students). Decisions to proceed were deliberate and based on the educational rationale for such changes. The lived experience of students, however, was cumulative across all of these interventions. This led to a pervasive sense of instability that was not adequately anticipated by the administration. A laudable tradition among students at VUSM is a process of near-peer mentoring; it became apparent that some anxiety among the Hybrid Curriculum students was on behalf of subsequent classes. The Hybrid Curriculum class perceived much of the burden, but less of the cumulative benefit, that the true Curriculum 2.0 cohort would ultimately experience.


커리큘럼 전환에서 학생 중심 5가지 고려사항

Five Student-Centric Considerations in Curricular Transition



우리는 학생 중심의 커리큘럼 변경을 실행할 때 관리할 5개의 넓은 영역을 제안한다.

we propose five broad areas to manage when implementing student-centered curriculum change.


1. Rationale를 소통하라

1. Communicate rationale


SCC가 설계한 설문 조사, 비공식 피드백 및 시청 회의를 통해, 우리는 하이브리드 커리큘럼 학생들이 파일럿 커리큘럼 2.0 요소에 참여하지 않은 것은 주로 이러한 변화가 일어나는 이유에 대한 충분한 배경 정보를 가지고 있지 않기 때문이라는 것을 발견했다. 물론, 새로운 수업의 진입은 제안된 변화가 그들의 경력에서 학생들에게 어떻게 도움이 될 것인지 "왜"와 "어떻게" 전달함으로써 모든 후속 학습의 장을 마련할 분명한 기회를 제공한다. 특히, 새로 입학하는 학생들은 커리큘럼의 차이와 유사성에 대한 자세한 설명을 들었다.

Through SCC-designed surveys, informal feedback, and town hall meetings, we found that the Hybrid Curriculum students’ lack of engagement with piloted Curriculum 2.0 elements largely stemmed from having insufficient background information for why these changes were taking place. Of course, the entry of a new class provides an obvious opportunity to set the stage for all subsequent learning by communicating “why” and “how” the proposed changes will benefit students in their careers. Notably, entering students had received detailed explanation of the differences and similarities across curricula.


변화의 근거를 조기에 그리고 자주 다루지 않는다면, 교육자들은 커리큘럼의 시행이 성공하기 전에 학생 상당수를 "잃어버릴" 수 있다. VUSM의 관리자들은 이것을 올바르게 인식하고 타운홀 회의를 기존 학생들에게 다가올 변화에 대해 적극적으로 교육하기 위한 장소로 이용했다. 그러나 그것은 아마도 관리자들에게 힘든 싸움이 될 것이다. 캘리포니아, 샌프란시스코, 의과대학의 커리큘럼이 바뀌었을 때, 루저와 동료5는 "우리는 우리가 아무리 많은 의사소통을 해도 충분하지 않다는 것을 발견했다"고 쓰고 있다.

If the rationale for change is not addressed early and often, educators may “lose” a key student population before the implementation of the curriculum has the chance to succeed. Administrators at VUSM correctly recognized this and used town hall meetings as venues to proactively educate existing students about upcoming changes. However, it was and will probably always be an uphill battle  for administrators. When the University of California, San Francisco, School of Medicine’s curriculum changed, Loeser and colleagues5 write, “we found that no matter how much communicating we did, it was not enough.”


이 결함을 확인한 후, 행정부는 후속 학년을 위한 표적형 입학전 온라인 오리엔테이션 모듈을 개발했다. 이 모듈들은 신입생을 대상으로 변화 배후의 근거를 소개하고, 첫 해에 특화된 혁신적인 학습 방식을 설명하며, 각 학생들에게 커리큘럼 2.0이 제기하는 과제와 학생들이 이러한 과제를 극복하는 데 어떻게 성공할 수 있는지를 고려하도록 하였다.

After identifying this deficiency, administrators developed targeted online prematriculation orientation modules for subsequent incoming classes. These modules introduced incoming students to the rationale behind changes, explained innovative learning modalities featured in their first year, and prompted each student to consider the challenges that Curriculum 2.0 posed and how the student might be successful in overcoming these challenges.


학생들을 대상으로 한 조사에 따르면 78%가 이 모듈들이 기대되는 바expectation를 이해하는 데 도움이 된다고 답했다. 중요한 것은, 신입생의 42%가 이 모듈들이 교육에 대한 그들의 관점에 영향을 미쳤다고 보고했는데, 이것은 이 간단한 개입의 범위를 보여준다. 온라인 preorientation 모듈의 사용은 커리큘럼 변경의 근거를 전달하는 간단하지만 효과적인 방법이다.

Surveys of students indicated that 78% found the modules helpful in understanding expectations. Importantly, 42% of incoming students reported that the modules influenced their perspectives on education, indicating the reach of this simple intervention. The use of an online preorientation module is a simple but effective method to communicate the rationale of a curriculum change.


2. 불안의 다요소성 인식

2. Acknowledge the multifactorial nature of anxiety


우리 기관의 커리큘럼 진화가 시작된 이래, 학생 피드백에서 공통적인 주제는 [변화에 수반되는 불안]이었다. 관리자가 실시한 연례 설문지는 커리큘럼 변경 전 수업과 비교하여 1학년 학생들이 스스로 보고한 "건강"의 양이 처음 감소하는 것을 보여주었다.

Since the beginning of curricular evolution at our institution, a common theme in student feedback was the anxiety that accompanies the changes. Annual questionnaires conducted by administrators showed an initial decrease in the self-reported amount of “wellness” by first-year students compared with classes before the curricular change.


학생들과 행정가들이 도출한 결론은 변화가 불확실성을 가져오고, 이것이 불편과 불안을 유발하여 "웰니스"을 감소시킨다는 것이었다. SCC는 그 때 행정부가 다룰 수 있는 불안의 근원을 신속하게 설명하고 명확하게 설명할 수 있었다.

The conclusion drawn by students and administrators alike was that change brings uncertainty, which is uncomfortable and provokes anxiety leading to decreased perceived “wellness.” The SCC was able to quickly elucidate and articulate sources of anxiety that the administration could then address.


첫째, 학생들의 불안의 한 측면은 새로운 학습양식을 숙달하고 새로운 일work과 공부습관을 개발하는 것과 관련이 있었다. 이러한 새로운 양식에서 성공하는 것을 배우는 것은 시간이 걸리고, 학생에게 처음에는 당연하게도 비효율적일 것이다. 앞에서 언급했듯이, 의대를 시작하기 전에 이러한 새로운 교육 개념을 도입하는 것은 처음부터 학생들이 이러한 도전들에 대처하도록 더 잘 준비시킨다. 또한, 행정부는 이 적응 기간이 정상이라는 것을 학생들에게 자신 있게 안심시킬 수 있다.

First, one aspect of the students’ anxiety was related to mastering new learning modalities and the development of new work and study habits. Learning to succeed in these new modalities takes time, and students will be understandably inefficient at first. As mentioned previously, introducing these novel educational concepts before starting medical school better prepares students to tackle these challenges from the start. Also, administrators can confidently reassure students that this period of adjustment is normal.


둘째, 학생들의 불안은 완성해야 할 과제의 복잡함에서 비롯되었다. 현대의학 커리큘럼의 한 가지 목표는 학생들을 가능한 한 빨리 그리고 자주 임상 환경에 노출시키는 것이다. 교육자는 학습 경험을 임상 환경 내에 통합하고 계층화하려고 한다. 그러나, 커리큘럼 2.0의 과정은 의도하지 않게 임상 환경을 미세하게 관리하였다.

Second, student anxiety stemmed from the complexity of assignments needing completion. One goal of modern medical curricula is to expose students to the clinical environment as soon and as often as possible. Educators attempt to integrate and layer learning experiences within the clinical setting. However, the course in Curriculum 2.0 tasked with organizing this initial clinical experience inadvertently micromanaged the clinical environment.


예를 들어, 학생들은 자신의 임상 의무를 상황에 맞는 질문을 가지고 고도로 구조화된 온라인 형태로 기술해야 하는 과제를 부여 받았다. 학생들이 임무와 관련된 임상 의무를 추상화하고 자유형 방식으로 반영하도록 하는 대신에 말이다. 이 엄격한 과제 설계는 학생들이 임상 진료에 참여하고 성찰하는 것보다, 학생들이 과제를 완료하는 것에 대해 더 많이 생각하게 했다. 게다가 이러한 책임이 누적되면 낯선 환경에서 신입 의대에 대한 인지 부하를 증가시키고, 임상 경험을 보완해주기 보다는 임상 경험으로부터 멀어지게 한다.

For example, students were given assignments that required describing their clinical duties in highly structured online forms with situation-specific questions, rather than allowing students to abstract their clinical duties pertinent to the assignment and reflect in a freeform manner. This regimented assignment design caused students to think more about completing the assignment than participating in and reflecting on clinical care. Moreover, this stacking of responsibilities increases the cognitive load for new medical students in an unfamiliar setting and causes the assignment to detract from, rather than supplement, the clinical experience.


셋째, USMLE 단계 시험에서 커리큘럼 변화가 학생 성적에 미칠 잠재적 영향에 대한 우려는, 이러한 점수가 경쟁이 심한 전공의 선발에 사용될 때 가정한 상당한 영향을 미친다는 것을 고려한다면 이해할 수 있다. 비록 궁극적으로 USMLE 1단계에서 학생들의 성적이 실제로 향상되었지만, 특히 저조한 수행자들 사이에서 그러한 위험 인식은 상당한 스트레스 요인이 되었다.

Third, anxiety about potential impacts of curricular change on student performance in the USMLE Step exams is understandable, given the significant influence these scores have assumed upon placement in competitive residencies. Although ultimately student performance on USMLE Step 1 did indeed improve, particularly among lower performers, that perceived risk was a significant stressor.


넷째, 새로운 커리큘럼은 피어멘토링의 역할을 바꾸고 전통적인 조언 채널을 교란시켰다. 이전에, 1학년 학생들은 [시간을 할당하고, 일과 삶의 균형을 유지하고, 효과적으로 공부하고, 추구할 과외와 과외 기회를 선택하는 방법에 대해] 2학년 학생들의 비공식적인 조언에 크게 의존했다. 새로운 커리큘럼에 대해 선제적으로 교육을 받고 가능한 한 후배들에게 조언을 구했지만, 상급생들은 커리큘럼 2.0의 구체적인 요구와 모범 사례에 대해 신뢰할만한 조언을 할 수 없다는 것을 알게 되었다. 또한, 새로운 커리큘럼의 2학년 학생들은 그들의 첫 번째 임상적 로테이션에 참여했고 광범위한 멘토링을 제공할 수 있는 스케줄의 유연성이 부족했다. 효과적인 동료의 조언이 없었기에, 후배들은 새로운 커리큘럼을 통해 고립되고 "자신의 길을 찾아야 한다"고 느끼면서 불안감을 조성했다.

Fourth, the novel curriculum altered peer-mentoring roles and disrupted the traditional advising channels. Previously, first-year students relied heavily on the informal advising from second-year students as to how to allot their time, maintain work–life balance, study effectively, and choose extra-and intracurricular opportunities to pursue. Although more senior students were preemptively educated about the new curriculum and sought to advise junior students as much as possible, the senior students found that they were not able to speak reliably about the specific demands and best practices of Curriculum 2.0. Additionally, second-year students in the new curriculum were engaged in their first clinical rotations and lacked the flexibility in scheduling to offer extensive mentoring. Without effective peer advising, junior students felt isolated and forced to “find their way” through a new curriculum, provoking anxiety.


많은 학생리더들의 도움으로, 또래 멘토링 감소와 관련된 불안을 완화하기 위해 다각적인 해결책이 마련되었다. 한 가지 측면은 금요일 오후의 "소셜 라운지"의 개발로, 네 학급 모두가 학생 라운지에서 만나 휴식을 취하고 따라잡을 수 있었다. 또한, 주요 행정 인사들(예: 학생 학장, 보건과학 교육 수석 부학장)은 학생들이 겪고 있는 불안과 좌절에 대해 직접 소통할 수 있는 추가 배출구(예: 사무실 시간, "학장과의 베이글")를 설립하였다.

With the help of the many student leaders, a multifaceted solution was organized to mitigate the anxiety associated with reduced peer-to-peer mentoring. One aspect was the development of Friday afternoon “Social Rounds” where all four classes could meet in the student lounge, relax, and catch up. Additionally, key administrative figures (e.g., dean of students, senior associate dean of health sciences education) established additional outlets (e.g., office hours, “Bagels with the Dean”) for students to communicate with them directly about the anxieties and frustrations they were experiencing.


3. 과외 리더십 역할 조정 및 참여 독려

3. Adjust extracurricular leadership roles and encourage participation


과외활동은 의과대학 시절 생활과 교육의 균형을 이루는 수단이다. 게다가, 레지던트 자리가 더 경쟁적이 되면서, 과외 경험은 이력서를 더 강력하게 만들 것으로 기대되는 요소들이다. 직접 출석해야 하는 소그룹과 팀 기반 학습 방식이 커리큘럼 2.0 일정을 지배하면서 학생들은 요구되는 학업 부하에 맞춰 과외 활동을 할 수 있는 유연성이 떨어졌다. 스케줄 유연성의 감소는 중학생들에게 인식된 학업 부하의 증가로 해석된다. 이것은 학생들이 과외활동을 배제하기 위해 학업에만 집중하거나 선택하도록 강요당함에 따라 후배들의 과외활동 참여가 감소하는 결과를 낳았다. 

Extracurricular activities are a means of achieving balance in life and education during medical school. Furthermore, as residency positions become more competitive, extracurricular experiences are an expected component of a strong resume. As small-group and team-based-learning modalities requiring in-person attendance dominated the Curriculum 2.0 schedule, students had less flexibility to fit extracurricular activities around their required academic load. A decrease in schedule flexibility translated into a perceived increase in academic load for junior students. Together, this resulted in decreased engagement of junior students in extracurricular activities as students either chose or were compelled to focus on academic studies to the exclusion of extracurricular pursuits. 


VUSM의 학생이 운영하는 클리닉에서 한 가지 주요 사례가 발생했다. 이 클리닉은 학생들에게 형태 형성적 경험뿐만 아니라 우리 사회의 보험이 없거나 보험이 부족한 환자들에게 필수적인 건강 관리도 제공한다.

One major example occurred at VUSM’s student-run clinic. The clinic provides not only a formative experience for students but also essential health care for uninsured or underinsured patients in our community.


커리큘럼 2.0의 첫 해(2013~2014년) 동안, 학생들이 이 클리닉에 참여할 시간이 부족하다고 인식함에 따라, 중학생 자원봉사자들의 수가 줄어들었다. 그 후, 2학년 때의 병동에서는, 학생들이 임상 의무 때문에 중요한 과외 활동을 할 것으로 예상되지 않았다. 3학년이 되었을 때, 그 클리닉에서 중요한 경험을 한 학생은 거의 없었고, 리더쉽 역할에 지원한 학생은 거의 없었다.

During the first year of Curriculum 2.0 (AY 2013–2014), the number of junior student volunteers waned as students perceived inadequate time to participate in the clinic. Then, on the wards in their second year, students were not expected to hold significant extracurricular roles because of clinical obligations. When third year came, few students had significant experience at the clinic, and few applied for leadership roles.


우리는 과외(동아리) 조직의 리더쉽이 주로 2학년이나 3학년 학생들에게 할당되어야 한다고 권고한다. 그 중 어느 누구도 주로 그들의 기관에서 병동에 있는 그들의 초기 핵심 사무소에 종사하지 않는다. 이 학생들은 학교 문화에서 충분히 경험이 있으면서, 초기 임상 경험에 부담이 아직 없는 상태고, oncoming residency의 요구에 사로잡혀 있거나 정신이 팔리지 않는다. 행정적인 측면에서 학생들은 다양한 과외 활동에 노출될 수 있도록 의과대학 초기에 과외 활동에 참여할 수 있는 융통성을 가지고 있어야 한다.

We recommend that leadership of extracurricular organizations be predominantly allocated to second-or third-year students—whichever is not primarily occupied with their initial core clerkships on the wards at their respective institution. Those students are sufficiently experienced in the school’s culture, are not burdened with their initial clinical experience, and are not occupied or distracted by the demands of an oncoming residency. On the administrative side, students should be encouraged and have the flexibility built into their schedules to participate in extracurricular activities early in medical school to gain exposure to a variety of extracurricular pursuits.


4. "The Bulge" 관리

4. Manage “The Bulge”


새로운 커리큘럼에서 전임상 단계가 짧아짐에 따라, 더 많은 비율의 학생들이 [다양한 목표, 능력 및 경험을 가진 학습자들이 함께 배치받는] 임상 환경에 있게 될 것이다. 또한 적절한 학습 기회를 제공하는 것이 임상 팀에 부담이 된다면 학습자의 유입이 해로울 수 있다. 비록 이 커리큘럼 변화의 측면이 사전에 인식되었지만, 학생들은 [병동에 학습자가 갑자기 증가하는 것]을 의미하는 구어체 "The Bulge"에 대한 구체적인 문제와 해결책에 대한 피드백을 제공하는데 필수적이었다.

As new curricula move to a shorter preclerkship phase, a greater portion of the student body will be in the clinical environment, which places learners with varying objectives, abilities, and experience together. Furthermore, the influx of learners can be detrimental if providing adequate learning opportunities is a strain on the clinical team. Although this facet of the curricular change was recognized beforehand, students were essential in providing feedback on specific issues and solutions for “The Bulge,” the colloquial term for a sudden increase in learners on the wards.


"The Bulge"에 대한 해결책은 두 가지 형태를 띤다. 한 가지 해결책은 학생들이 어디에 배치되어 있는지 다시 생각해보고 활용도가 낮은 임상 팀을 고용하는 것이다. 행정부는 이전에 미개척된 임상 팀과 학생들을 유치할 수 있는 자원을 사전에 파악했다. 학생들은 학과장이 학생들을 가장 잘 배포할 수 있도록 임상 팀에 대한 자신의 경험에 기초한 피드백을 제공함으로써 이러한 노력을 보충했다. 예를 들어, 학생들은 우리의 외과 이식 서비스가 학습 기회를 희생하지 않고 더 많은 학생 부담을 수용할 수 있는 것으로 확인했고, 반면에 우리의 "위장관(GI)-라파로스코픽" 수술 서비스는 더 적은 수의 학생으로 더 나은 경험을 제공했다.

Solutions to “The Bulge” take two forms. One solution is to rethink where students are placed and employ underused clinical teams. The administration proactively identified previously untapped clinical teams and resources that could host students. Students supplemented this effort by providing feedback based on their personal experience on clinical teams such that course directors could best distribute students. For example, students identified our surgical transplant service as being able to accommodate a greater student load without sacrificing learning opportunities, while our “GI (gastrointestinal)–laparoscopic” surgical service afforded a better experience with fewer students.


두 번째 해결책은 피어멘토십을 위한 기회를 수용하는 것이다. 그래서 코스 책임자들은 학년별로 분리하는 것보다 다른 학년 학생을 함께 배치하는 것에 대해 심사숙고한다. 교수와 레지던트에게 있어서, 수십 년 동안 3학년과 4학년 학생들이 함께 임상 공간을 공유해 왔기 때문에, 한 번의 서비스에 대해 서로 다른 수준의 학습자들을 가지는 것에 익숙하다. 커리큘럼 2.0은 특정 학생 중심 주제를 대상으로 하는 보다 다양하고 미묘한 과정 카탈로그를 포함하며, 이를 통해 학생들이 임상 팀과 학습 우선순위를 명확히 할 수 있는 역량을 갖추어야 한다.

A second solution is to embrace the opportunity for peer mentorship such that course directors are deliberate about placing senior and junior students together rather than segregating the class years. Faculty and residents are familiar with having learners of different levels on a single service, since third-and fourth-year students have shared the clinical space for decades. Curriculum 2.0 involves a more diverse and nuanced course catalog that targets specific student-driven topics; this necessitates faculty development and empowerment of students to clarify learning priorities with their clinical teams


5. 학생과 관리자 간의 지속적인 협업 촉진

5. Foster ongoing collaboration between students and administrators


새로운 커리큘럼으로의 전환은 초기 큰 변화 이후 많은 작은 조정이 있는 긴 과정이며, 각각의 후속 조정은 학생들에게 중요하다. 반드시 작은 변화가 필요하겠지만 의사소통이 잘 되지 않으면 학생들의 자신감을 잠식할 수 있다. SCC 또는 유사한 학생 리더 그룹에 의존하여 향후의 변경 사항과 이를 학생 단체에 제시하는 방법에 대해 토론하는 것은 커리큘럼의 성공적인 구현을 위해 필수적이다. 또한, 모든 수준의 커리큘럼 검토에 학생 대표가 참여하는 것은 커리큘럼 구현의 학생 소유권을 증가시킬 수 있다.

The transition to a new curriculum is a lengthy process with many small adjustments following the initial major change, and each subsequent adjustment is significant to students. Invariably, small changes will be necessary but can erode student confidence if not communicated well. Relying on an SCC or similar group of student leaders to discuss upcoming changes and how to present them to the student body is imperative to successful implementation of a curriculum. Furthermore, the involvement of student representatives at all levels of curricular review allows for increased student ownership of the curricular implementation.


우리 기관에서, 관리자는 학생 대표가 교직원들과 만나 학생들이 어려움을 겪고 있거나 학습자의 경험을 빠르게 개선할 수 있는 실행 가능한 항목을 토론하는 "급속 주기" 피드백 세션(매 2~3주)의 필요성을 기대했다.

At our institution, administrators anticipated the need for “rapid-cycle” feedback sessions (every two to three weeks) where student representatives meet with faculty leaders to discuss any issues with which students were struggling or actionable items that could rapidly improve the learner experience.


또한 이러한 급속한 회의를 통해 교직원들은 다가올 변화를 알릴 수 있으며, 이러한 변경사항을 학생들에게 전달한 것에 대한 피드백을 받을 수 있다. 급속 주기 피드백 회의를 개최하는 것은 학생들이 로테이션 동안 과제가 학생 경험에 미치는 영향에 대한 우려를 표명할 수 있게 했다. 우리는 학생들의 임상 경험에 부정적인 영향을 주지 않고 그 가치와 목표를 유지하기 위해 공개 전에 과제assignment를 조정할 수 있었다. 학생과 교직원 사이에 정기적인 스탠딩 급속 주기 피드백 회의를 개최하는 것은 신뢰와 협업의식을 가져오고, 이는 원활한 커리큘럼 전환의 중요한 요소다.

These rapid-cycle meetings also allow faculty to present upcoming changes and receive feedback from the students on messaging these changes. Standing rapid-cycle feedback meetings allowed for students to voice concerns regarding the impact of the assignment on the student experience during the rotation. We were able to make adjustments to the assignment before its release to maintain its value and objectives without negatively impacting the students’ clinical experience. Holding regular standing rapid-cycle feedback meetings between students and faculty leads to a sense of trust and collaboration—an important component of smooth curricular transition.


고찰

Discussion


버니어와 동료들이 발표한 8개의 "두 개의 의과대학에서 과목을 극복하기 위해 사용하는 장애요인과 과정"에 대한 6개의 리스트에는 새로운 교과과정에 대한 학생들의 수용에 의해 만들어진 도전은 하나도 포함되지 않았다.

Bernier and colleagues’6 list of eight “Barriers Encountered and Processes Used to Overcome Them at Two Medical Schools” does not include a single challenge created by student receptiveness to the new curriculum,


버니어와 동료의 장벽 목록과 우리 자신의 장벽 목록의 차이는 Kotter가 원래 제시한 변경 관리 이론의 최근 진화를 반영한다.13 대표업적의 2014년 업데이트에서 kotter는 다음을 강조했다.

(1) 변화 관리 프로세스에 대한 지속적인 피드백 

(2) 폭넓은 참가자 기반에서 "buy-in"을 모집한다. 

(3) 전통적인 위계의 내부 및 외부에서의 유연한 기능 

(4) 끊임없이 새로운 기회를 발굴하고 활용한다.13

The difference between Bernier and colleagues’ list of barriers and our own reflects recent evolutions in change-management theory originally put forth by Kotter.13 In the 2014 update to his seminal work, Kotter emphasizes 

(1) continuous feedback to the change-management process, 

(2) recruiting “buy-in” from a broad participant base, 

(3) functioning flexibly within and outside of a traditional hierarchy, and 

(4) constantly seeking out and capitalizing on new opportunities.13


kotter에 따르면, 21세기에 학생 중심의 커리큘럼을 바꾸는 것에 관심이 있는 행정부는 [현재의 학생들로부터 퍼진 정보와 같은] 실시간 정보와 기회를 반복적이고 창의적으로 활용하고자 하는 보다 포괄적인 변화 관리팀으로부터 이익을 얻을 것이라고 한다. 따라서 우리는 학생 중심의 커리큘럼 변경을 고려하는 모든 행정부에 대해 학생들의 잠재력을 최대한 활용하고, challenge가 발생한다면 역동적으로 대응하도록 조언한다.

According to Kotter, an administration interested in making student-centered curriculum changes in the 21st century would benefit from a more inclusive change-management team looking to iteratively and creatively capitalize on real-time information and opportunities, such as those that percolate up from current students. Therefore, we are emboldened to advise any administrations considering student-centered curriculum change to utilize their student body’s full potential and dynamically respond to challenges as they arise.


결론

Conclusion


대규모의 학생 중심의 커리큘럼 변경에 대한 우리의 경험은 학생들 스스로가 이러한 전환을 돕는 생산적인 자원이라는 것을 보여주었다.

Our experience of large-scale, student-centered curriculum change demonstrated that students themselves were a productive resource for aiding this transition.








 2017 Apr;92(4):455-461. doi: 10.1097/ACM.0000000000001569.

Medical Students' Perspectives on Implementing Curriculum Change at One Institution.

Author information

1
A.M. Yengo-Kahn is a first-year resident physician, Vanderbilt University Medical Center, Nashville, Tennessee. C.E. Baker is a fourth-year medical student, Vanderbilt University School of Medicine, Nashville, Tennessee. K.D. Lomis is associate dean for undergraduate medical education, Vanderbilt University School of Medicine, Nashville, Tennessee.

Abstract

Training physicians to be effective practitioners throughout their careers begins in undergraduate medical education with particular focus on self-directed inquiry, professional and interprofessional development, and competency-based assessment. A select number of medical schools are restructuring their curricula by placing the student at the center of content delivery to enhance the learning experience. While this restructuring may benefit the adult learner, administrators often make assumptions about how students will perceive and respond to such innovative and unfamiliar educational concepts. This can create a disconnect between students and their curriculum. Administrative mindfulness of student experiences is needed to ensure successful implementation of curricular change, facilitate the transition from old to new modalities, and train competent physician graduates.Vanderbilt University School of Medicine (VUSM) recently completed a curriculum update, and student representatives have been essential participants in the transition, from the earliest stages in preplanning to rapid-cycle feedback as the curriculum runs. Two of the authors are members of VUSM's Student Curriculum Committee, which facilitates gathering and relaying student feedback to the administration. Drawing from their experiences, five specific considerations to address and manage when implementing student-centered curricular change are presented: (1) Communicate the rationale, (2) acknowledge anxiety, (3) adjust extracurricular leadership roles, (4) manage "The Bulge" of learners in the clinical environment, and (5) foster ongoing collaboration of students and administrators. For each consideration, examples and proposed solutions are provided.

PMID:
 
28099177
 
DOI:
 
10.1097/ACM.0000000000001569


학부의학교육에서 교육시간 감소는 학습성과와 과목평가에 영향이 미미하다(Med Teach, 2019)

Minimal effects of reduced teaching hours on undergraduate medical student learning outcomes and course evaluations

Derek L. Choi-Lundberga , Hayder A. Al-Aubaidya,b , John R. Burgessa, Christine A. Clifforda , William A. Cuellara , Judi A. Erreya, Amanda J. Harperc , Roslyn C. Malleya , Renee M. Rossa , Anne-Marie M. Williamsa,d and Richard Haysa



도입

Introduction


많은 의과대학들은 여러 방향에서 오는 경쟁적인 압박과 함께 그들의 프로그램을 개선하기 위해 노력하고 있다. 

Many medical schools are striving to improve their programs, with competing pressures from several directions. 


첫째, 학생과 대학은 학습, 과외, 직장, 가족, 사회 및 여가 활동(Brint and Cantwell 2010, Hall 2010, Burston 2017, Ask and Abidin 2018)의 균형을 더 잘 맞추고, 자기 관리를 통해 건강과 웰빙를 돌볼 수 있는 시간을 만들기 위해 학습의 유연성을 높이고 싶어한다(Warnecke et al. 2011; Slavin et). al. 2014; Ask and Abidin 2018). 

First, students and universities are seeking greater flexibility in learning to allow a better balance of study, extra-curricular, work, family, social and leisure activities (Brint and Cantwell 2010; Hall 2010; Burston 2017; Ask and Abidin 2018) and to provide time for self-care to look after health and well-being (Warnecke et al. 2011; Slavin et al. 2014; Ask and Abidin 2018). 


둘째, 온라인 리소스 가용성이 증가함에 따라 학습 자원과 활동에 대한 학생 선호도는 달라진다(Wanner and Palmer 2015, ChoiLundberg et al. 2016, Rickes 2016, Henderson et al. 2017). 

Second, student preferences for learning resources and activities vary as online resource availability increases (Wanner and Palmer 2015; ChoiLundberg et al. 2016; Rickes 2016; Henderson et al. 2017). 


셋째, 대학들은 더 강력한 연구 성과(파커 2013)를 통해 평판을 높이는 한편, 학생 수를 늘리고(소득을 증가), 직원 수를 줄임으로써(비용 절감) 운영 효율성을 추구하고 있다. 

Third, universities are seeking operating efficiencies by increasing student numbers (raising income) and decreasing staff (lowering costs), while enhancing reputations through stronger research outcomes (Parker 2013).



넷째, 규제 기관과 고용주들은 전문적 역할, 고용 가능성 및 작업 준비 상태에 대한 현대의 관점을 바탕으로 변화를 모색하고 있다(Frenk 등, 2010; 호주의료위원회 2012; 머독-이튼과 휘틀 2012; 잭슨 2016; Merga 2016; Rowe and Zegwaard 2017). 

Fourth, regulators and employers are seeking changes based on contemporary views on professional roles, employability and work readiness (Frenk et al. 2010; Australian Medical Council 2012; Murdoch-Eaton and Whittle 2012; Jackson 2016; Merga 2016; Rowe and Zegwaard 2017). 


다섯째, 최근 제안된 학부 의료 커리큘럼 변화는 다음이 있다.

  • 상 전 커리큘럼 단축, 

  • 기초, 임상 및 사회 과학과 임상 경험을 통합하고, 

  • 기반의 환자 중심 양질의 헬스케어, 인구 건강, 전문직 정체성 형성, 협업 및 자기주도적 학습과 탐구에 보다 중점을 두는 것. (윌커슨 등 2009; Irby 등, 2010; Fischel 외, 2018). 

Fifth, recent and proposed undergraduate medical curricular changes include 

  • shortening the preclinical curriculum; 

  • integrating basic, clinical and social sciences with clinical experience; and 

  • placing a greater focus on team-based patient-centered quality health care, population health, professional identity formation, and collaborative and self-directed learning and inquiry (Wilkerson et al. 2009; Irby et al. 2010; Fischel et al. 2018). 


여섯째, 과학지식의 기하급수적인 성장(Bornmann과 Mutz 2015)은 모든 것을 가르치는 것이 불가능하다는 것을 의미하므로, 학생들은 정보를 찾고 비판적으로 평가하는 것을 포함한 평생 학습 능력을 개발해야 한다(Murdoch-Eaton and Whittle 2012).

Sixth, the exponential growth of scientific knowledge (Bornmann and Mutz 2015) means it is impossible to teach everything, so students must develop lifelong learning skills including finding and critically evaluating information (Murdoch-Eaton and Whittle 2012).


한편, 교직원들은 상충하는 커리큘럼 요구에 반사적으로 반응하는 경우가 많다. 강의와 워크숍을 추가하는 것은 지식, 기술 또는 태도 등 새로운 콘텐츠를 위한 공간을 만들기 위해 삭제하는 것보다 쉽다(Densen 2011, Lomis et al. 2017, Doukas and Volpe 2018, Gonzalo et al. 2018). 이것은 학생들을 위한 자기주도 학습 시간을 줄이고 교직 업무량을 증가시키는 과밀 프로그램을 야기할 수 있다. 이와는 대조적으로, 대면 강의 시간을 줄이면 연구 및 기타 학술 활동을 위한 직원 시간을 자유롭게 하는 동시에, 학생들의 수업 시간 단축과 자기 주도 학습 기회 증대를 위한 요구를 충족시킬 수 있다(보이어 1990). 따라서, 학업과 학생 모두를 관리하는 업무량은 교육과정 개정의 필수적인 부분이다.

Meanwhile, teaching staff often respond to competing curricular demands in a reflexive way. Adding lectures and workshops is easier than removing them to make space for new content, whether knowledge, skills, or attitudes (Densen 2011; Lomis et al. 2017; Doukas and Volpe 2018; Gonzalo et al. 2018). This may result in overcrowded programs with less time for self-directed learning for students and increased teaching workloads for staff. In contrast, reducing face-to-face teaching hours can liberate staff time for research and other academic activities (Boyer 1990) while satisfying student demands for less classroom time and more opportunity for self-directed learning. Hence, workloads managing both academic and student is an essential part of curriculum revision.


교육의 핵심 입력사항인 교육 시간이 증가하면 학습이 증가할 것이라고 가정하는 것이 합리적으로 보일 수 있다. 이는 초등 및 중등 교육에서 나타나며, 학교 수업 시간과 작업 시간의 증가는 학생들의 성취도를 향상시킨다(Carroll 1989). 마찬가지로, 여러 다른 대학 과정(예: 교사 교육, 생물학 및 공학)에 걸쳐 예정된 강의 수와 실습은 더 많은 연구 단위를 통과하는 학생들과 긍정적으로 연관되어 있으며, 강의와 실습의 출석은 점수 평균 및 학급 성적과 긍정적인 상관관계를 갖는다(Cred e et al. 20).10; Torenbeek 등 2013). 

It may seem reasonable to assume that increased instructional time, a key input in education (Duncheon and Tierney 2013), would increase learning. This appears true in primary and secondary schooling, where increasing schooling time and time-on-task improves student achievement (Carroll 1989). Similarly, across several different university courses (e.g. teacher education, biology and engineering), the number of scheduled lectures and practicals is positively associated with students passing more units of study, and attendance at lectures and practicals has positive correlations with grade point average and class grades (Cred e et al. 2010; Torenbeek et al. 2013). 


그러나, 정규 교육의 양과 학생들이 자기 주도적 학습에 몰두하는 시간 사이에는, 시간을 희소하고 고정된 자원으로 보는 시간 사이에 tradeoff가 있을 수 있다(둔천과 티어니 2013). 의료, 엔지니어링 및 기타 까다로운 프로그램의 보고에 따르면, 교육 시간이 증가하면 처음에는 자율 학습에 더 많은 시간이 소요되지만, 과도한 교육 시간(때로는 주당 20시간 이상으로 정의됨)은 자율 학습에 쓰일 시간을 감소시킨다 (Gizelaers 및 Schmidt 1995에서 논의됨; Kember). 등. 1996; Torenbeek 등 2013). 

However, there may be a tradeoff between the quantity of formal teaching and the time students devote to self-directed learning, viewing time as a scarce, fixed resource (Duncheon and Tierney 2013). Reports from medical, engineering and other demanding programs show that although increasing instruction time leads initially to more time spent on selfstudy, excessive instruction time (sometimes defined as more than 20 hours per week) reduces time spent on selfstudy (studies by Vos and colleagues, discussed in Gijselaers and Schmidt 1995; Kember et al. 1996; Torenbeek et al. 2013). 


네덜란드의 8개 의과대학을 모두 비교했을 때, 주당 더 많은 강의가 있는 프로그램은 자기 학습 시간을 줄이고, 졸업률을 낮추며, 졸업하는 데 더 많은 시간이 걸리는 것과 관련이 있었다(슈미트 외 2010). 또한 높은 수업 시간이 학생들이 과중한 업무량을 인식하게 하여 심층 학습을 저해하고 표면 학습 접근법을 장려할 수 있다는 우려도 있다(Kember 2004). 

Comparing all eight medical schools in the Netherlands, programs with more lectures per week were associated with less self-study time, lower graduation rates, and more years taken to graduate (Schmidt et al. 2010). There are also concerns that high teaching hours cause students to perceive a heavy workload, which may discourage deep learning and encourage surface learning approaches (Kember 2004). 


따라서, 학습자가 새로운 지식을 반영하고 통합하는 데 더 많은 시간을 할애할 수 있도록 전달된 내용을 줄이자는 요구가 최근 수십 년 동안 되풀이되었다(Newble and Entwistle 1986; Kember and Leung 1998; Baeten et al. 2010). 예를 들어, 불필요한 세부사항을 제거하여 교수 시간을 10% 단축하되, 동시에 선택적 프로그램, 학습 공동체 및 주의력 경험을 도입하면, 국가면허시험에서 학문적 학습 성과를 유지하면서 임상 전 의대생들의 스트레스, 불안, 우울증을 완화한다(Slavin 등).. 2014).

Hence, calls have echoed through recent decades to reduce delivered content to allow more time for learners to reflect and integrate new knowledge (Newble and Entwistle 1986; Kember and Leung 1998; Baeten et al. 2010). For example, reducing teaching hours by 10% through eliminating unnecessary detail, but simultaneously introducing elective programs, learning communities and mindfulness experiences, lowered stress, anxiety and depression in preclinical medical students while maintaining academic learning outcomes at a national licensure examination (Slavin et al. 2014).


방법

Methods


연구 방법론

Research methodology


교수 학습 맥락

Teaching and learning context


UTAS의 5년제 대학생 MBBS 프로그램은 코호트당 약 120명의 학생이 있으며, 그들 대부분은 12년제에 직접 입학한 후 다른 학부 과정 중 일부 또는 전부를 마친 후에 입학한다.

The 5-year undergraduate MBBS program at UTAS has approximately 120 students per cohort, most of whom after some enter directly completing year 12, although enter after completing part or all of another undergraduate university course.


커리큘럼의 추가 세부사항은 보충 부록 1에 수록되어 있다.

Further details of the curriculum are provided in Supplementary Appendix 1.


교육시간을 줄이기 전 시간

Teaching hours before and after reductions


교육과정에 적용된 축소의 특징

Characterization of reductions made to curriculum


총괄평가로 측정한 학습성과

Students’ learning outcomes as measured on summative assessments


평가 과제에 대한 설명은 unit outlines에서 얻었으며, 수업 시간 단축 전후에 동일하게 유지되었다. 요약은 보충 부록 2에 수록되어 있다.

Descriptions of assessment tasks were obtained from unit outlines and remained the same before and after teaching hour reductions; a summary is provided in Supplementary Appendix 2.


MBBS 코스에서 학생 피드백

Student feedback on units of the MBBS course


학생 피드백은 UTAS의 교육과정 및 품질, 학부의 평가 팀이 유닛 코디네이터에게 제공한 eVALUate 유닛 보고서에서 얻어졌다.

Student feedback was obtained from eVALUate unit reports provided to unit coordinators by the Survey Team from Curriculum & Quality, Academic Division at UTAS.


eVALUate 기구(Oliver et al. 2008)는 4점 리커트 척도의 11개 선택된 응답 항목(표 4)을 통해 학습 환경의 다양한 측면과 학습 단위 참여 및 전반적인 만족도에 대한 학생들의 의견을 구한다. 11⁄4ly discons(SD), 21⁄4disagree (D), 31⁄4agree (A) 및 41⁄4강력하게 동의; '판단할 수 없음'(UJ)도 대응 옵션으로 사용할 수 있다(Oliver et al. 2008). eVALUate 기기에는 '이 기기에서 가장 도움이 되는 측면은 무엇인가?'와 '이 단위가 어떻게 개선될 것이라고 생각하는가?'라는 두 가지 개방형 응답 질문도 있다(Oliver et al. 2008).

The eVALUate instrument (Oliver et al. 2008) seeks students’ opinions on the extent to which various aspects of the learning environment contribute to achieving learning outcomes, their engagement in the unit of study and overall satisfaction through 11 selected-response items (Table 4) with four-point Likert scales: 1¼strongly disagree(SD), 2¼disagree (D), 3¼agree (A) and 4¼strongly agree(SA); ‘Unable to judge’ (UJ) is also available as a response option (Oliver et al. 2008). The eVALUate instrument also has two open-response questions: ‘What are the most helpful aspects of this unit?’ and ‘How do you think this unit might be improved?’ (Oliver et al. 2008).


통계 분석

Statistical analyses


문헌 분석

Document analysis


eVALUate에 대한 개방형 응답 항목의 학생 피드백 정성적 분석

Qualitative analysis of student feedback from open-response items on eVALUate


결과

Results


교육시간 축소

Reductions in teaching hours


Y1(89시간), Y2(63시간), Y3(46시간)에 걸쳐 14%(198시간)의 수업시간을 단축했다(그림 1과 표 1). 강의 시간이 19%(153시간) 감소했으며 Y1(81시간)과 Y2(60시간)가 Y3(13시간)에 비해 크게 줄었다. 이와는 대조적으로, 다른 학습 활동은 7%(45시간) 감소했고, Y1(8시간)과 Y2(4시간) 감소는 적었지만, 상대적으로 Y3(33시간) 감소는 컸다. 본문에 표시된 숫자는 반올림으로 인해 표 1에 제시된 데이터와 1시간 차이가 날 수 있다. 표 2는 커리큘럼의 각 주요 영역에 대한 수업 시간 단축을 요약한 것이다. 보충 부록 3은 추가적인 서술적 세부사항을 제공한다. 

A reduction in teaching hours of 14% (198hours) was achieved (Figure 1 and Table 1) across Y1 (89hours), Y2 (63 hours), and Y3 (46hours). Lecture hours were reduced by 19% (153hours), with greater reductions in Y1 (81 hours) and Y2 (60hours) compared with Y3 (13 hours). In contrast, other learning activities were reduced by 7% (45 hours), with small reductions in Y1 (8 hours) and Y2 (4hours), but comparatively large reductions in Y3 (33hours). Numbers presented in the text may differ by one hour from data presented in Table 1 due to rounding. Table 2 summarizes teaching-hour reductions in each major area of the curriculum. Supplementary Appendix 3 provides additional descriptive details. 





총괄평가 점수와 Progression 속도

Summative assessment scores and progression rates


학년을 이수하지 못한 학생 비율(drew, 또는 최종 시험을 치르지 않은 학생 비율)은 물론, 한 해를 이수했지만 실패한 학생의 비율도 수업 시간 단축 전후에 차이가 없었다. 한 해를 수료한 학생(합격 또는 불합격) 중 전체 종합평가 점수는 수업시간 단축 전후에 차이가 없었다(표 3). 

The percentage of students not completing the academic year (withdrew or did not sit final examinations), as well as the percentage of students that completed the year but failed, did not differ before and after teaching-hour reductions. Of those students who completed the year (whether pass or fail), the overall summative assessment scores did not differ before and after teaching-hour reductions(Table 3). 



학생 의견: eVALUate 설문지 리커트 규모 질문 

Student opinions: eVALUate questionnaire Likert-scale questions 


eVALUate의 11개 리커트 척도 항목은 신뢰성이 좋았고, 크론바흐의 알파값은 0.86(N = 909 사용 가능 응답; N1⁄4184 응답은 적어도 하나의 '판단 불가' 또는 누락된 응답으로 인해 제외되었다. 각 항목은 다른 항목과 지나치게 유사하지 않았으며, 항목 간 상관관계는 r = 0.142 ~ 0.683 사이, 평균 0.375이다. 각 항목은 r = 0.408 - 0.711 범위의 설문지의 나머지 부분(다른 10개 항목의 합계)과 중간에서 강한 상관관계를 가지고 있었다. 평균 0.566. 

The eleven Likert-scale items of eVALUate had good reliability, with Cronbach’s alpha of 0.86 (N = 909 usable responses; N¼184 responses were excluded due to at least one ‘unable to judge’ or missing response). Each item was not overly similar to other items, with weak to strong inter-item correlations ranging from r = 0.142 to 0.683, mean 0.375. Each item had moderate to strong correlation with the remainder of the questionnaire (sum of the other 10 items), ranging from r = 0.408 to 0.711, mean 0.566. 


eVALUate 11개 항목과 개별 항목 11개 항목 중 9개 항목의 평균은 수업 시간 단축 후와 크게 다르지 않았다(표 4). 

The average across all 11 eVALUate items and 9 of the 11 individual items did not differ significantly before vs after teaching-hour reductions (Table 4). 




본 코스에 대한 학생들의 평가: eVALUate 설문지 공개 응답 항목의 정성적 분석

Students’ evaluation of the course: Qualitative analysis of eVALUate questionnaire open response items


감소 전과 감소 후 '가장 도움이 되는' 질문과 '개선하는 방법' 질문에 대한 응답 비율에 변화가 없었다(v21⁄40.06, p1⁄40.81): 6개 단위에 걸친 수업시간 단축에 앞서 2년 동안 총 702건의 코멘트가 있었는데, 이는 각각 342건(48.7%), 360건(51.3%)이었다.

There were no changes in the percentages of responses to the ‘most helpful’ and ‘how to improve’ questions before vs after the reductions (v2¼0.06, p¼0.81): In the two years prior to teaching-hour reductions across six units, there were a total of 702 comments, 342 (48.7%) and 360 (51.3%) to the two questions, respectively.


너무 많은 내용 또는 과도한 수업 시간을 나타내는 코멘트 수가 40개(5.7%)에서 이후 23개(3.9%)로 크게 감소했다.

There was a non-significant reduction in the number of comments indicating too much content or excessive teaching hours, from 40 (5.7%) comments before reductions to 23 (3.9%) comments afterwards


감원 후, 

    • 일부 학생들은 'contact hour 시간을 줄이면 지식을 통합하고 메모를 작성할 수 있는 시간이 더 많아진다'(Y1S2 이후), 더 많은 교육 시간이 학습에 도움이 될 것이라고 느끼는 반면, 

    • 다른 학생들은 'contact hour 시간을 늘리면 더 많은 자료의 양이 더 많은 것이 연결성을 더 좋게 할 수 있고, 따라서 더 나은 연결성을 제공할 수 있다'고 말했다. 재료 시멘트가 더 좋다.' (Y1S2 후)

Some students, after the reductions, appreciated having less teaching time: ‘Less contact hours … meant we had more time to consolidate knowledge and write up notes’ (Y1S2 after), while others felt more teaching time would assist learning: ‘More contact hours, while increasing the amount of material, may help give better connections and hence make material cement better’ (Y1S2 after).


추가 자습서 및/또는 실습실을 요청하는 의견이 이전 47개(6.7%)에서 감소 후 72개(12.3%)로 크게 증가했다(v21⁄411.98, p1⁄40.001). 예를 들어, '나는 개인 학습 시간을 갖는 것에 대해 기꺼이 튜토리얼에 참석하고 싶다. 그들이 각 강의의 방대한 양을 보충하기 위해 필요하다고 생각하기 때문이다.' (Y1S1 이후) 단 4개의 의견(<1%>)만이 감소 전후에 더 적은 수의 자습서 및/또는 실제 실험실을 요청했다. 

There was a significant increase in comments requesting more tutorials and/or practical laboratories, from 47 (6.7%) before to 72 (12.3%) after the reductions (v2¼11.98, p¼0.001). For example, ‘I would happily attend tutorials over having private study time as they provide more guided teaching/learning, which I think is necessary to complement the vast quantity delivered each lecture’ (Y1S1 after). Only 4 comments (<1%) requested fewer tutorials and/or practical laboratories both before and after the reductions. 


강의 추가 요청 건수가 13건(1.9%)에서 감소 전후 21건(3.6%)으로 증가하였지만 유의미하지는 않았다(v21⁄43.75, p1⁄40.053). 강의 수를 줄여달라는 코멘트는 전과 후에 비슷해서, 강의가 줄어든 후 27개(v21⁄41.24, p1⁄40.27)는 줄어들기 전에는 30개(5.1%)를 요구하였다. 예를 들어 '이번 학기에 너무 많은 강의가 예정되어 있다'(Y3S2 이전).

There was a non-significant increase in the number of comments requesting more lectures, from 13 (1.9%) to 21 (3.6%) comments before and after the reductions, respectively (v2¼3.75, p¼0.053), e.g. ‘I would have liked more lectures … to cover content completely’ (Y1S2 after). A similar number of comments requested fewer lectures, 27 (3.8%) before and 30 (5.1%) after the reductions (v2¼1.24, p¼0.27), e.g. ‘There are WAY too many lectures scheduled this semester’ (Y3S2 before).


8개의 논평은 특히 수업 시간의 감소를 높이 평가했는데, 주로 자기 주도적인 연구를 위한 더 많은 시간을 가능하게 한 것에 대해: 'contact hour 시간이 줄어들었기 때문에, 독립적인 학습에서 더 많이 배울 수 있었다' (Y2S1 이후). 이와는 대조적으로, 6개의 논평은 '시간은 현저하게 줄어들었지만 그 시간 내에 때로는 동일한(또는 매우 유사한) 양의 콘텐츠를 전달하려고 시도한 것처럼 느꼈다'(이후 Y1S2).

Eight comments specifically praised the reduction in teaching hours, mostly for enabling more time for selfdirected study: ‘It has been great since the contact hours have been reduced, learn much more when doing independent study’ (Y2S1 after). In contrast, six comments criticized the reduction, for example, ‘At times I felt as though the same (or very similar) amount of content was attempted to be delivered in a significantly reduced amount of time’ (Y1S2 after).



고찰

Discussion


이 사례 연구는 학부 의과정의 사전임상 커리큘럼에서 비핵심 및 반복적인 내용을 제거함으로써 교육 시간을 약 200시간 단축할 수 있다는 것을 보여주었다. 동시에 커리큘럼 적용범위, 향상 속도, 평가 결과 및 교육 환경과 그들의 참여의 많은 측면에 대한 학생들의 의견들은 거의 변화가 없었다. 게다가, 수업 시간의 감소, 특히 강의 시간의 19% 감소는 일반적으로 학생들에게 부담을 줄여주는 것으로 보였으며, 더 많은 학생들이 학습 성과를 달성하는 데 업무량이 적절하다는 데 동의하였다

This case study demonstrated that it is possible to reduce instructional time by approximately 200hours (14%) through eliminating non-core and repetitious content in the preclinical curriculum of an undergraduate medical course without significantly impacting on curriculum coverage, progression rates, assessment outcomes, and student opinions of many aspects of the educational environment and their engagement. Furthermore, teaching-hour reductions, particularly the 19% reduction in lecture hours, were generally seen as less burdensome by students, with more students agreeing that the workload was appropriate to achieving learning outcomes. 


이 연구결과는 세인트루이스 의과대학의 보고서와 일치하는데, 이 보고서에서는 불필요한 세부사항이 커리큘럼에서 삭제되어 대략 10%의 시간 단축이 가능했다. 이 때 학습 환경을 개선하기 위한 다른 이니셔티브의 도입이 이루어졌고, 그 결과 학생의 웰빙이 개선되고, USMLE 결과로 볼 때 학습 성과는 유지되었다(Slavin et al. 2014).

These findings align with a report from Saint Louis University School of Medicine, in which unnecessary detail was eliminated from the curriculum, enabling an approximately 10% contact-hour reduction, along with introduction of other initiatives to improve the learning environment, resulting in improved student wellness and maintenance of academic learning outcomes assessed through the pre-clinical step of the United States Medical Licensing Examination (Slavin et al. 2014). 


이러한 결과는 모든 참가자들에게 reassuring하여야 한다. 교직원의 경우, 학생 학습이나 학습 경험의 인지된 품질을 저하시키지 않고 교직 부하를 줄일 수 있다. 학생들의 경우, 만약 그들이 자기 주도적인 학습이나 동료들과 함께 공부하는데 시간을 소비한다면, 추가 강의는 거의 추가되지 않는다. 시간 단축은 (단기적으로 강의를 줄이기 위한 설계와 도입에 필요한 추가작업이 종료되면) 궁극적으로는 교수들이 연구, 관리, 서비스 및 지역사회 참여 활동에 투자할 수 있는 시간을 증가시켰다. 그러나, 감축을 준비하는 해와 감축한 첫 해에는 학사 직원의 업무량이 현저하게 증가하였다. 커리큘럼 변경에 대한 토론 및 결정, 의사 결정 문서화, 시간표 작성, 평가 청사진 작성, 실험실 실습 및 자습서에 대한 강의 및 학생 노트 재작성 등을 포함한 변경사항 이행 등이 과제였다.

These results should be reassuring for all participants. For staff, teaching loads can be reduced without reducing student learning or perceived quality of learning experiences. For students, additional lectures add little if they consume time that may otherwise be invested in self-directed learning or studying with peers. Teaching-hour reductions eventually allowed for increased time for staff to invest in research, administration, service, and community engagement activities after the additional workload associated with designing and implementing the reductions was completed. However, there was significantly increased workload for academic staff in the year leading up to the reductions and the year of the reductions. Tasks included 

  • meeting to debate and decide on curriculum changes, 

  • documenting decisions, and 

  • implementing the changes including timetabling, assessment blueprinting, and 

  • rewriting lectures and student notes for laboratory practicals and tutorials.


이 프로젝트의 성공은 커리큘럼 변경에 대한 종합적이고 팀 전체의 접근방식에 덕분이었을 수 있으며, 이는 모든 교직원의 변경 과정 전반에 걸친 참여를 장려한다(Genn 2001a). 교육 변화 문헌에서 학자academics나 교사 참여가 강조된다(Hopkins et al. 2015). 처음에 검토와 학생 피드백에 대응하여 프로그램 리더에 의해 제안되었지만, 변화에 대한 rationale(예: 인증기준 및 학생과 교직원 시간 증가)이 설명되고 논의되었을 때, 대다수의 직원은 과제를 수용하고 목표를 향해 협력적이고 엄격하며 체계적으로 일했다 (블랜드 외 2000). 각 과목별 담당 교수는 무엇을 제거할지를 결정할 수 있도록 하였다. 교육 시간은 커리큘럼의 모든 영역에서 균등하게 감소해야 했기 때문에(표 2), 직원들은 커리큘럼에서 자신이 맡은 과목의 가치나 중요성이 감소했다고 인식하지 않았고, 만약 그렇지 않았다면 변화에 대한 참여가 줄어들었을 수 있다(Venance et al. 2014).

The success of this project may lie in the comprehensive and whole-team approach to changing the curriculum, encouraging participation throughout the change process by all teaching staff (Genn 2001a). Engaging academics or teachers is emphasized in educational change literature (Hopkins et al. 2015). Although initially suggested by program leadership in response to reviews and student feedback, when the rationales for change (e.g. accreditation drivers and increased time for students and staff) were explained and discussed, the vast majority of staff embraced the task and worked collaboratively, rigorously and systematically towards the goal (Bland et al. 2000). Staff responsible for each subject area were empowered to decide what to remove. Because teaching hours were to be decreased equally in all areas of the curriculum (although there was variability in implementation, Table 2), staff did not perceive diminished value or emphasis of their subject in the curriculum, which otherwise may have decreased engagement in change (Venance et al. 2014).



한계

Limitations


결론

Conclusion


의학 프로그램은 다른 많은 대학 프로그램들보다 더 붐비는 커리큘럼과 더 적은 자유 시간으로 학문적으로 강하다고 알려져 있다. 이 프로젝트는 학생 학습에 부정적인 영향 없이 수업 시간을 14%까지 줄일 수 있다는 것을 보여주었다. 이것은 다른 학문적 활동을 위한 직원 시간을 자유화하고 학생 자기 주도적 학습에 더 많은 시간을 제공하는 이점을 제공한다. 이러한 긍정적인 결과 달성은 커리큘럼 변경에 대한 팀 전체의 접근방식을 통해 향상될 수 있다.

Medical programs are reputed to be academically intense, with more crowded curricula and less free time than in many other university programs. This project demonstrated that it is possible to reduce teaching hours by 14% (including lectures by 19%) without negative impacts on student learning. This offers the advantages of freeing staff time for other academic activities and providing more time for student self-directed learning. Achieving these positive outcomes may be enhanced through a whole-team approach to curriculum change.


Doukas DJ, Volpe RL. 2018. Why pull the arrow when you cannot see the target? Framing professionalism goals in medical education. Acad Med. 93(11):1610–1612.












 2019 Aug 22:1-8. doi: 10.1080/0142159X.2019.1652258. [Epub ahead of print]

Minimal effects of reduced teaching hours on undergraduate medical student learning outcomes and course evaluations.

Author information

1
Division of Medicine, School of Medicine, College of Health and Medicine, University of Tasmania , Hobart , Australia.
2
School of Life Sciences, La Trobe University , Melbourne , Australia.
3
Student Learning, Retention and Success, Academic Division, University of Tasmania , Hobart , Australia.
4
Division of Paramedicine, School of Medicine, College of Health and Medicine, University of Tasmania , Hobart , Australia.

Abstract

Introduction: Various pressures exist for curricular change, including economic forces, burgeoning knowledge, broadening learning outcomes, and improving quality and outcomes of learning experiences. In an Australian 5-year undergraduate medical course, staff were asked to reduce teaching hours by 20% to alleviate perceived overcrowded preclinical curriculum, achieve operating efficiencies and liberate time for students' self-directed learningMethods: A case study design with mixed methods was used to evaluate outcomesResults: Teaching hours were reduced by 198 hours (14%) overall, lectures by 153 hours (19%) and other learning activities by 45 hours (7%). Summative assessment scores did not change significantly after the reductions: 0.4% increase, 1.5% decrease and 1.7% increase in Years 1, 2 and 3, respectively. The percentage of students successfully completing their academic year did not change significantly: 94.4% before and 93.3% after the reductions. Student evaluations from eVALUate surveys changed little, except workload was perceived to be more reasonable. Conclusions: Teaching hours, particularly lectures, can be moderately reduced with little impact on student learning outcomes or satisfaction with an undergraduate medical course.

PMID:
 
31437065
 
DOI:
 
10.1080/0142159X.2019.1652258


새로운 의무를 충족하기: 의학교육 연속체에서 지속가능한 헬스케어 교육(Med Teach, 2019)

Fulfilling a new obligation: Teaching and learning of sustainable healthcare in the medical education curriculum

May Sanyu Tun (SanYuMay Tun)

Centre for Environmental Policy, Imperial College London, London, UK





도입

Introduction


의학교육 분야의 새로운 의무

A new mandate for the field of medical education


의료 전문가들이 지속가능성을 수용하기 위한 국제적인 추진이 탄력을 받자 영국이 앞장서고 있다. 종합의료위원회의 2018년 졸업생을 위한 성과(이하 "성과Outcome"라 한다) 문서에서, 의료 규제 기관은 의료 교육에 대한 새로운 의무를 부과했다(일반 의료 위원회 2018). 영국에서 자격을 얻거나 등록하는 의사들은 지속 가능한 건강관리 원칙을 이해하고 의료 관행에 적용해야 할 것이다. 이것을 가르치는 것은 의과대학과 의학 교육에 관련된 의사들의 책임이다.

As the international drive for healthcare professionals to embrace sustainability gains momentum, the UK has taken the lead. In the General Medical Council’s document Outcomes for graduates 2018 (“Outcomes”), the medical regulator has placed a new obligation on medical education (General Medical Council 2018). Doctors qualifying or registering in the UK will be required to understand and apply the principles of sustainable healthcare to medical practice. Teaching this is the responsibility of medical schools and of doctors who are involved in medical education.


지속가능한 헬스케어

Sustainable healthcare


국가적으로 그리고 전 세계적으로 의료는 경제 활동의 1/10를 책임지고 있으며, 이 비율은 증가하고 있다(지속가능 개발 단위 2018; 쉬 외, 2018). 그러나 치료는 항상 환자에게 이익이 되는 것은 아니며 해를 끼칠 수 있으며 점점 기술 기반의 비용이 증가하며 의료 예산의 대부분은 라이프스타일과 환경 요인에 의존하는 장기적 조건에 소비된다(Crisp 2017; 몽고메리 등. 2017). 따라서 환자 결과를 개선하고 품질을 개선하기 위해 서비스에 대한 압력을 줄이려면 예방에 더 중점을 두어야 한다(Naylor and Appleby 2012; Hensher et al. 2017; 경제 협력 개발 기구 2017). 의료 제공이 환경에 미치는 부정적인 영향도 해결해야 한다(Roberts 2009).

Healthcare nationally and globally is responsible for one tenth of economic activity and this proportion is growing (Sustainable Development Unit 2018; Xu et al. 2018). However, treatments do not always benefit the patients and can cause harm, and are increasingly technology-based and expensive, while the majority of healthcare budgets are spent on long-term conditions which are dependent on lifestyle and environmental factors (Crisp 2017; Montgomery et al. 2017). More emphasis on prevention is therefore necessary for better patient outcomes and to reduce pressure on services to improve their quality (Naylor and Appleby 2012; Hensher et al. 2017; Organisation for Economic Co-operation and Development 2017). The adverse impact of healthcare delivery on the environment also needs to be addressed (Roberts 2009).


지속 가능한 건강관리는 질병의 늦은 개입보다는 건강의 향상과 의료의 더 나은 제공에 초점을 맞추고 있으며, 결과적으로 환자와 인간의 건강이 의존하는 환경에 대한 공동 수혜를 가져온다. 따라서 그것은 미래에 의료 서비스를 제공할 수 있는 능력에 영향을 주지 않고 현재 고품질의 의료 서비스를 제공하는 역할을 할 것이다.

Sustainable healthcare focuses on the improvement of health and better delivery of healthcare, rather than late intervention in disease, with resulting co-benefits to patients and to the environment on which human health depends. It would thus serve to provide high-quality healthcare now without compromising the ability to provide healthcare in the future.



근거의 필요성

A need for evidence


지속 가능한 건강관리 교육은 지금까지 문헌이 요구되지 않았기 때문에, 그 구현을 연구하기 보다는 이를 가르치는 사례를 만드는 데 초점을 맞추고 있다(Mortimer 2010; G omez et al. 2013; Walpole et al. 2016).

As sustainable healthcare education has not literature has been a requirement to date, the understandably focused on making the case for teaching it rather than researching its implementation (Mortimer 2010; G omez et al. 2013; Walpole et al. 2016).


훌륭한 자원은 의학 교육에 관한 챕터가 포함된 지속 가능한 건강 관리 책이다(Schroeder et al. 2013). 문헌 검토 결과, 의학 커리큘럼에 새로운 주제를 포함시키기 위한 모범 사례에 대한 증거가 부족했으며, 그랜트는 커리큘럼 설계의 원칙으로서 목적과 맥락의 역할을 강조한다(Bland et al. 2000; Grant 2014; Thomas 등 2016).

An excellent resource is the book Sustainable Healthcare, which has a chapter on medical education (Schroeder et al. 2013). The literature review found a scarcity of evidence for best practice for embedding a new topic into the medical curriculum, and Grant emphasizes the role of purpose and context as principles of curriculum design (Bland et al. 2000; Grant 2014; Thomas et al. 2016).


목적

Aim and objectives


본 연구의 목적은 다음과 같다. 의료 교육 커리큘럼에서 지속 가능한 보건의료의 교육 및 학습을 구현하기 위한 모범 사례에 대한 증거 기반 권장사항을 작성한다.

The aim of this research is: To make evidence-based recommendations on best practice for implementing the teaching and learning of sustainable healthcare in the medical education curriculum.



방법론

Methodology


질적 탐구 접근법을 사용하여 복수의 데이터 소스의 삼각 측량 및 분석을 통해 주제를 생성했다(Kennedy and Lingard 2006; Gibbs 2008; Bryman 2016). 표 1은 사용된 연구 방법과 그것들이 충족하도록 설계된 구체적인 목표에 대한 개요를 제공한다.

A qualitative exploratory approach was used, employing grounded theory to generate themes through the triangulation and analysis of multiple sources of data (Kennedy and Lingard 2006; Gibbs 2008; Bryman 2016). Table 1 gives an overview of the research methods used and the specific objectives they were designed to meet.



맥락적 데이터 소스 선택

Selection of contextual data sources


반구조화 면담을 위한 의학교육자 선발

Selection of medical educators for semi-structured interviews


데이터 분석의 타당도

Validity of data analysis


연구윤리

Ethical approval



결과와 분석 - 문헌자료 분석과 핵심 이해관계자 면담

Results and analysis – document analysis and interviews with key stakeholders


Outcome 분석

Document analysis of “Outcomes for graduates”


"지속 가능한 의료"는 결과의 26개 섹션 중 하나의 섹션에 대한 헤드라인 요구사항으로 나타난다. 본 섹션 25: 건강 증진 및 질병 예방은 2015년 개정판이 강조된 이후 추가 사항과 차이점을 포함하여 그림 1에 재현되어 있다.

“Sustainable healthcare” appears as the headline requirement for one entire section of the 26 sections in Outcomes. This section, 25: Health promotion and illness prevention, is reproduced in Figure 1 with the additions and differences since the 2015 version highlighted.



지속가능한 헬스케어를 위한 센터

Centre for Sustainable Healthcare


2015년부터 GMC는 CSH의 SHE 네트워크(Thompson et al. 2014; 지속 가능한 의료 센터 2015; Walpole et al. 2015)에서 생산한 지속 가능한 의료 교육을 위한 우선순위 학습 결과(PLO)를 인정하였다.

Since 2015, the GMC has recognized the Priority Learning Outcomes (PLO) for educating for sustainable healthcare, produced by the SHE network of CSH (Thompson et al. 2014; Centre for Sustainable Healthcare 2015; Walpole et al. 2015).


SDU

NHS trust sustainability department/Sustainable Development Unit


고등교육 맥락

The higher education context


이 컨퍼런스에서 반복되는 두 가지 주제는 다음과 같다.

  • 교육의 리더 혹은 파트너로서 학생

  • 고용과 지속가능성의 관계의 강점.

Two recurring themes in the conference were:

  •   Students as leaders or partners of teaching

  •   The strength of the relationship between employment and sustainability.


대학들 사이에는 "지속 가능한 것으로 인정받아야 한다"는 경쟁이 있다. 그러므로 지속가능성이 우선이라는 최고 수준의 기관으로부터 일관된 메시지를 받는 것이 중요하다.

There is competition between universities to be seen as sustainable. It is therefore important to have consistent messaging from the highest levels of institutions that sustainability is a priority.


결과와 분석 - 의학교육자와 면담

Results and analysis – interviews with medical educators


의료 교육자와의 반구조적 인터뷰 분석에서 확인된 주요 주제는 표 2에 요약되어 있다.

The key themes identified from analysis of the semi-structured interviews with medical educators are summarized in Table 2.



지속가능한 헬스케어 교육을 도입하는데 장애물

Barriers to implementing sustainable healthcare education


1. 지속 가능한 의료 분야의 지식이 풍부한 교사 부족: 인터뷰에서 나온 가장 난해한 문제는 의료 지속가능성을 가르치는 박식한 교육자들의 부족이었다. 이것은 이 새로운 개념에 대한 기존 의료 직업의 인식된 저항에 의해 복합되었다.

1. Lack of knowledgeable teachers of sustainable healthcare: The most intractable problem emerging from the interviews was to the lack of knowledgeable educators teach healthcare sustainability. This was compounded by a perceived resistance from the established medical profession to this new concept.


정보원들은 Engaged and Involved 가능한 동료들을 많이 찾아야 한다고 강조했고, 교수진 개발이나 "교사를 가르치는" 것이 필요했다.

Informants stressed the need to find a number of colleagues who would be engaged and involved, and faculty development or “teaching the teacher” was needed.


2. 교육과정의 공간 부족: 교과과정은 이미 꽉 찼거나 과밀하다는 데 의견이 일치했고, 강렬하게 변호된 수업 시간은 추가 주제에 대한 지속적인 압박과 씨름하고 있었다.

2. Lack of space in the curriculum: There was consensus that the curriculum was already full or overcrowded, with staunchly defended teaching time contending with continual pressure to fit additional topics.


3. 커리큘럼에서의 위치 불확실성: 지속 가능한 건강관리는 토픽topic이 아니라 핵심 교과과정의 모든 세월을 거치며 나아가야 하는 윤리, 전문성 또는 리더십과 유사한 주제theme라는 강한 느낌이 들었다. 향후 몇 년 동안 낭비 및 임상 환경의 주제는 관리 품질 및 환자 안전과 관련이 있을 수 있다.

3. Uncertainty of location in the curriculum: There was strong feeling that sustainable healthcare is not a topic but a theme akin to ethics, professionalism, or leadership that should spiral through all the years in the core curriculum. For later years, the topics of wastefulness and the clinical environment could be related to quality of care and patient safety:


4. 학습 리소스 필요: 정보 제공자들은 지속 가능한 의료 책임자가 아마도 최신 토론 주제를 사용하여 일관성 있는 과정을 제공하기 위해 참여할 수 있다고 제안했다.

4. Need for learning resources: Informants suggested that a sustainable healthcare lead could be engaged to offer a coherent course, perhaps using current topics of debate:


많은 사람들은 녹음된 강의, 독서, 전자 학습 자료와 슬라이드와 같은 학습 자원을 모아서 의대 간에 널리 보급해야 한다고 제안했다. 비록 도움이 되지 않는 자금 지원 모델과 지적 재산에 대한 우려는 있지만, 이러한 접근법은 각 의과대학이 자체 자원을 생산하는 것보다, 특히 지식이 있는 교사가 거의 없는 과목에서 지속 가능한 것으로 보였다.

Many proposed that learning resources such as recorded lectures, reading and e-learning material and slides should be pooled and widely disseminated between medical schools. Although there are unhelpful funding models and possible concerns about intellectual property, this approach was seen as more sustainable than for each medical school to produce its own resources, especially in a subject with few knowledgeable teachers.


5. 학습 평가의 어려움: 지속 가능한 건강관리는 examine하기 어려운 것으로 여겨졌다. 많은 정보제공자와 저자의 견해에서, 성공의 척도는 학생의 태도 변화와 임파워먼트, 그리고 그들의 미래 의료행위의 변화일 것이다. 이를 달성하기 위해, 교육자들은 모든 시험 문제가 환경적, 생활 양식적 요인이 문제의 병을 일으키는 정도에 대해 질문하는 것으로 시작되기를 원했다. 이것은 인지도를 높이는 데 어느 정도 도움이 될 수 있다. 하지만, 현재의 평가 방식은 학습자가 원하는 결과를 달성했는지 여부를 탐지하는 데 완전히 도움이 되지 않는다. 프라이도(2007년)가 관찰한 바와 같이, "의료 교육의 새로운 내용과 새로운 상징은 새로운 평가 방법을 필요로 한다."

5. Difficulty in assessing learning: Sustainable healthcare was seen as challenging to examine. In many informants’ and the author’s view, the metric of success would be attitudinal change and empowerment in the student and change in their future clinical practice. To achieve this, educators wanted every exam question to begin by asking about the extent to which environmental and lifestyle factors cause the disease in question. This may go some way to increasing awareness; however, current modalities of assessment do not fully lend themselves to detecting whether the learners have achieved the desired outcomes. As observed by Prideaux (2007), “new content and new emphases in medical education require new methods of assessment.”


6. 회복력이 필요한 감정적 영향: 지속가능성은 감정적으로 다루기 어려운 주제로서, 이 문제가 요구하는 대규모 사고와 함께 회복탄력성을 가르칠 필요가 있다. 이 주제는 압도적일 수 있기 때문에 교사들과 학습자들 모두 긍정적인 시각을 유지하는 것이 중요하다.

6. Emotional impact needing resilience: Sustainability is a challenging subject to handle emotionally, and there is a need to teach resilience alongside the large-scale thinking that the issue requires. It is important for both teachers and learners to keep a positive outlook, as the topic can be overwhelming:


'지속가능성'에 대한 이해도가 높아짐에 따라 긴박감, 사명감 및 책임감이 생겨난다.

With growing understanding comes a sense of urgency, mission, and responsibility:


여긴 내 행성이 아니야 우리 행성이야, 하나밖에 없어. 없어지면 없어진다. 우리는 의료 서비스 내에서 재정적인 제약에 대해 부담을 느끼고 있다. 이것은 학생들에게 이것이 진짜인지 볼 수 있는 기회를 주었다. (교육자 2)

This is not my planet. It’s our planet, and there’s only one of them. When it’s gone, it’s gone. We’re burdened with financial constraints within the health service. This gave [the student] the opportunity to see this is real. (educator 2)


교육자와 학생 모두를 위한 학습은 정서적 회복탄력성을 보장하기 위해 뒷받침될 필요가 있으며, 변화를 초래하는 실용적인 프로젝트를 사용하면 사기를 향상시킬 수 있다.

Learning for both educators and students needs to be supported to ensure emotional resilience, and the use of practical projects that result in change could improve morale.


지속가능한 헬스케어 교육을 구현하기 위한 지원자 및 동인

Enablers and drivers for implementing sustainable healthcare education


1. 학생으로부터의 요구: 학생들은 지속 가능한 건강관리 교육의 원동력으로 여겨졌으며, 성취도가 높은 학생들은 가장 관심 있는 것들 중 하나이다.

1. Demand from students: Students were seen as a driver for sustainable healthcare education, with high achievers being some of the most interested:


의과대학들은 [현존하는 구조에 대한 환멸을 통해 잃을 수도 있는 신규 의사들의 손실을 막는데 도움이 될 수 있는 행동]에 대한 기대를 직면하고 있기 때문에, 최고 수준의 후보들을 유지하는 것이 중요하다. 교육자들은 학생들이 시스템이 어떻게 다를 수 있는지에 대한 성찰을 중시했고, 그 피드백은 압도적으로 긍정적이라고 말했다. 한 사람은 약 300명의 학생들이 그들의 강의를 얼마나 잘 듣는지 묘사했다.

Retaining the highest quality candidates is important as medical schools face an expectation to act to help stem the loss of recently qualified doctors, who may leave through disillusionment with existing structures. Educators said that students valued reflecting on how the system could be different, and that feedback was overwhelmingly positive. One described how well their lectures are received by a cohort of approximately 300 students:


사전 인식의 변동성이 있었다. 그러나, 교육자들은 실습 시간을 크게 즐기고 학생들은 매우 빠르게 지속가능성을 가르치는 데 열중했다고 보고했다.

There was variability in prior awareness: However, educators reported greatly enjoying practical sessions and students warmed to sustainability teaching quite rapidly:


2. 지속가능성을 포함하려는 고등교육의 움직임: 대학 전반의 지원은 지속가능성에 대한 혁신적인 교육을 장려할 수 있으며, 이는 학생들에게 어필과 진로 기회를 모두 향상시키는 것으로 보인다.

2. The move in higher education to include sustainability: University-wide support can encourage innovative teaching of sustainability, which is seen to enhance both appeal to students and career opportunities for students:


교육자들은 커리큘럼 개편 기간을 핵심 교육에 지속가능성을 도입할 수 있는 좋은 기회로 보았다. 그리고 기관적 리더십과 윤리가 중요하다.

Educators saw a time of curriculum review as a to good opportunity introduce sustainability into core teaching, and institutional leadership and ethos are important.


3. GMC 권한을 통한 새로운 합법성: 많은 이들은 헤드라인에서 우선순위를 정하는 것이 하위 범주에 중대한 변화를 나타낸다는 점에 주목했다.

3. A new legitimacy through GMC mandate: Many noted that prioritization in the headline signaled significant change in the subcategories.


그러나 이 문구의 한 측면은 많은 교육자들 사이에서 개인의 행동에 대한 행동과 더 넓은 건강의 결정요인에 대한 구별에 대한 견해를 강하게 제기하였다.

One aspect of the wording however brought out strongly held views among many educators, on the distinction between action on individual behaviors and on the wider determinants of health:


나는 이것이 싫다 – '생활 방식의 변화' – 우리는 몇몇 사람들이 가지고 있는 제한된 선택들에 대한 증거의 무게를 무시하고 있다. 그것은 구 [결과]에 비해 근본적으로 개인주의적 개념화다. (교육자 5)

I hate this –‘lifestyle changes’–we are ignoring the weight of evidence around the constrained choices that some people have. That is fundamentally an individualistic conceptualisation compared with the old [Outcomes]. (educator 5)


우리는 위험 그룹을 목표로 하는 것이 효과가 없다는 것을 안다. 여러분이 해야 할 일은 모집단의 평균을 바꾸고, 정상분포를 아래로 이동한 다음 엄청난 규모의 변화를 얻는 것이다. (교육자 3)

We know targeting risk groups doesn’t work. What you need to do is shift the population mean, move the normal distribution down and then you get a huge change of scale. (educator 3)


이런 문제들의 결과에 대해 계속 사람들을 대할 수 있는 여력이 없다, 더 나은 방법을 찾아야 한다.(교육자 8).

We can’t afford to keep treating people for the consequences of these problems, we have to find a better way. (educator 8)



4. 다른 이해관계자의 리더십: 졸업생을 배출할 때 의과대학은 의학의 실천에 있어서 다른 이해관계자의 정책과 전략을 고려해야 한다. 의학교육은 고등교육뿐만 아니라 대학원 의료훈련에서도 지속가능성을 가르치는 데 있어 다른 교육보다 뒤떨어져 있다. 대학원 교육을 받는 의사들은 이제 QI 프로젝트를 설계 및 시행하고, 자원 관리 방법과 폐기물 회피의 중요성을 이해할 것으로 예상된다(General Medical Council 2017). 지속가능성은 왕립의사대학이 품질을 정의하기 위해 사용하는 7가지 영역 중 하나이며, "다른 영역을 통과하여 운영해야 한다. 의료는 오늘날 개인에게 전달될 수 있는 것뿐만 아니라 일반 인구와 미래의 환자에게도 고려해야 한다."(Atkinson et al. 2010). 한 교육자는 다음과 같이 명확히 표현했다.

4. Leadership from other stakeholders: In producing graduates, medical schools must consider the policy and strategy of other stakeholders in the practice of medicine. Medical education lags behind its counterparts in teaching sustainability not only in higher education generally but also in postgraduate medical training. Doctors in postgraduate training are now expected to design and implement QI projects, and understand how resources are managed and the importance of avoiding waste (General Medical Council 2017). Sustainability is one of the seven domains used by the Royal College of Physicians to define quality, and “must run through and moderate other domains. Healthcare should be considered not only in terms of what can be delivered to an individual today, but also to the population in general and the patient of the future” (Atkinson et al. 2010). One educator expressed this with clarity:


5. 지원 및 리소스 출처: 교육자들은 CSH, 의료 왕립 대학 웹사이트, NHS 트러스트 에스테이트 및 시설 부서의 지속가능성 팀을 통해 학생들이 저축과 동시에 QI에 대한 중요한 길을 식별할 수 있는 많은 지원 및 학습 자원의 출처를 지적했다. 다음과 같은 많은 교육 과정이 적합한 것으로 확인되었다. 

    • 강의, 강연 또는 세미나 

    • SSC 또는 일련의 반나절에서 완전한 2주에서 6주 블록에 이르는 실제 프로젝트 

    • SSC에 기초한 에세이 

    • 소규모 그룹 논의를 촉진하는 워크샵 및 사례 기반 시나리오 

    • 미니 QI 프로젝트. 

    • 일반 의료 또는 병원 트러스트 내의 임상 배치의 일부로, 그리고 공중 보건 및 글로벌 보건 교육에 통합.

5. Sources of support and resources: Educators indicated many sources of support and learning resources, such as through the CSH, the websites of the medical Royal Colleges, and NHS trust Estates and Facilities departments’ sustainability teams where students may identify significant avenues for QI at the same time as savings. Many pedagogies were found to be suitable including: 

    • lectures, talks, or seminars; 

    • SSCs or practical projects ranging from a series of half days to a complete two-week to six-week block; 

    • essays based on an SSC; 

    • workshops and case-based scenarios with facilitated small group discussions; 

    • mini QI projects; 

    • as part of clinical placements within general practice or hospital trusts; and incorporation into public health and global health teaching. 


교육자들은 학생들이 다음과 같은 교육을 받을 때 특히 긍정적이라고 보고했다. 

    • 임상적으로 환자 치료와 관련이 있는 경우 

    • 에너지 사용 또는 폐기물 관리와 같은 지역적 맥락에서 실제 문제와 관련된 경우, 

    • 탄소 발자국과 같은 사용된 콘크리트 예제 

    • 소규모 그룹 교육 또는 지속 가능한 의료에 대해 생각하는 것으로 보이는 임상의에 의한 강의에 실용적인 요소를 포함시켰다.

Educators reported that students were particularly positive when the teaching was clinically relevant to patient care, concerned with real issues in a local context such as energy use or waste management, used concrete examples such as carbon footprinting, involved a practical element in small group teaching or when a lecture was by a clinician seen to be thinking about sustainable healthcare.


고찰

Discussion


관측에서 이론을 개발하기

Developing theory from observation


그림 2는 장벽, 지원자, 솔루션 및 이점 간의 관계에 대한 이론적 프레임워크를 제공한다.

Figure 2 provides a theoretical framework for the relationships between the barriers, enablers, solutions, and benefits



가장 중요한 문제는 교육자들, 특히 가르치는 임상의들의 지속가능성에 대한 지식의 부족이고, 가장 바람직한 가르침은 바로 이 사람들에 의한 것이라는 점을 고려하면, 교사들이 지속가능성에 대해 배우는 것과 동시에 학생들에게 그것을 가르치는 것에 대해 배우는 것이 해결책이다. 이는 지속 가능한 의료 서비스(Schroeder et al. 2013, 페이지 224)에서 제안되었다.

Given that the foremost problem is lack of knowledge of sustainability in educators, especially the clinicians who teach, and that the most desirable teaching is by these very people, a solution is that the teachers learn about sustainability at the same time that they are teaching it to students. This has been suggested in Sustainable Healthcare (Schroeder et al. 2013, p. 224):


...학생들은 종종 아이디어와 계획들로 가득 차 있고, 기회만 주어진다면 표현할 것이다. 지속가능성 교육이라는 새로운 분야로 인해 일반적인 학문의 계층구조가 어떻게 해체되는가를 보는 것은 즐거운 일이다.

… students often teem with ideas and initiatives, once given the freedom to express them. It is a pleasure to see how sustainability teaching often dissolves the usual academic students hierarchies, where, due to this being a new field, frequently teach as much as they learn.


지속가능성을 받아들일 만큼 개방적인 교수진들은 그들이 가르치기로 되어 있는 학생들과 함께 공공연하게 배우는 개념을 가치 있게 여길 것이다. 이것은 GP 강사들이 학생들의 학습과 학생들이 그들의 실습에 가져다 준 신선한 관점을 중요시했던 건강 증진 교육에 기록되었다(Wylie and Leedham-Green 2017). 실제로 EAUC 컨퍼런스의 첫 기조연설자는 웨일스인들이 가르치는 것과 배우는 것에 대해 "dysgu"라는 단어만 가지고 있다고 지적했다. "나는 당신을 가르친다. 나는 당신으로부터 배운다. 누가 전문가이고, 교수자이고, 학습자인가?"

Teaching faculty who are open enough to embrace sustainability may well value the concept of openly learning alongside the students they are meant to be teaching. This has been documented in health promotion education where GP tutors valued learning from the students and the fresh perspective that students brought to their practice (Wylie and Leedham-Green 2017). Indeed the first keynote speaker at the EAUC conference pointed out that the Welsh have only one word “dysgu” for both teaching and learning, and so: “I teach you, I’m learning from you. Who is expert, teacher, learner?” (Fazey 2018)


따라서 교육과정의 공간과 위치에 대한 문제는 Royal College of Physics에서 확인한 바와 같이 헬스케어분야에서 지속가능성이 핵심 주제임을 이해함으로써 함께 해결할 수 있다(Atkinson et al. 2010).

The questions of space and place in the curriculum can thus be addressed together by understanding that sustainability in healthcare is a core theme, as identified by the Royal College of Physicians (Atkinson et al. 2010).


따라서 기초 이론을 통해 발전된 이론적 관계는 다음과 같다. 지속가능성을 모든 의학 교육을 통해 흐르는 테마로 포함시킴으로써, 교육자와 학생들은 전공에 관계 없이 지속 가능한 의료에 대해 배우는 것과 동시에 서로 가르치고 배울 수 있다.

The theoretical relationship developed through groundedtheory is therefore as follows: By embedding sustainability as a theme running through all of medical education, educators and students can teach and learn from each other at the same time as learning about sustainable healthcare, irrespective of specialization.


강점과 약점

Strengths and limitations of the research


결론과 권고

Conclusions and recommendations


후속 연구 우선순위

Priorities for future work


지속가능한 헬스케어 교육 구현을 위한 권고

Recommendations for implementation of sustainable healthcare education


  •   주제가 아닌 테마로서의 지속가능성을 시간표상에 배치하기. 이것은 모든 의학적 교육을 통해 이루어지기 때문에 대부분의 교수진들에게 알려질 필요가 있고 많은 교육자들이 참여해야 한다.

  •   학습자들과 함께 교사들을 훈련시킨다. 학생들이 기후 변화에 대해 더 잘 알고 있을 수 있다는 것이 받아들여지는 세션에서 역량을 가르치는 직원을 양성한다.

  •   가능한 한 임상의사를 참여시킨다. 강의와 환자의 의료실무와 임상치료를 연관시키는 것은 학생들에게 가장 큰 영향을 미친다.

  •   중복 방지를 위한 교육 리소스 풀. 지속 가능한 의료에 정통한 교육자는 거의 없기 때문에 지속 가능성의 정신으로 강의, 프레젠테이션 슬라이드, 비디오 필름, 온라인 모듈과 같은 기록된 자료를 다른 의과대학과 공유한다.

  •   다른 지원 소스를 사용하십시오. 학습 자원은 CSH, 대학원 의학 왕립 대학, 조직, World Health가 국제적으로 개발한 MOOC 등을 이용할 수 있다. 병원 트러스트 지속가능성 관리자들은 프로젝트에 도움을 줄 수 있고 확인된 잠재적 개선사항으로부터 이익을 얻을 수 있다.

  •   Timetable sustainability as a theme not a topic. This runs through all of medical education, so most faculty need to be informed and many educators should be involved.

  •   Train the teachers alongside the learners. Build up staff teaching capacity in sessions where it is accepted that students may well be more knowledgeable, e.g. on climate change.

  •   Involve clinicians as much as possible. Relating teaching to medical practice and clinical care of patients has the greatest impact on students.

  •   Pool teaching resources to avoid duplication. As few educators are well versed in sustainable healthcare, share with other medical schools recorded material such as lectures, presentation slides, video film, online modules – in the spirit of sustainability.

  •   Use other sources of support. Learning resources are available from CSH, the postgraduate medical Royal Colleges, Organization, World Health internationally developed Massive Open Online Courses. Hospital Trust sustainability managers can help with projects and benefit from the potential improvements that are identified.

  •   여러 교육 방법을 활용하십시오. 기본 토대를 마련한 후, 커리큘럼의 상황에 따라 더 지속 가능한 옵션을 고려하고, 필수 및 선택적 프로젝트, 사례 기반 시나리오를 갖는 실용적인 세션을 포함시키십시오.

  •   평가에 반영한다. 평가 방법에는 사실에 입각한 지식을 위한 MCQ, 임상 실습과의 통합을 보장하기 위한 OSCE의 일부, 질병의 예방 가능한 원인 식별을 강조하기 위한 서면 질문에 통합이 포함된다.

  •   기관적 지원을 요구하다. 지속가능성 교육과 대학의 기풍 및 전략과 관련된 최고 수준의 일관성 있는 메시징은 교육 도입의 진전을 원활하게 할 수 있다.

  •   정서적 회복탄력성 뒷받침할 계획. 지속가능성 문제에 대처하는 것은 직원이나 학생들에게 강력하거나 overwhelming한 반응을 일으킬 수 있으며, 이는 관련 지원의 원천으로 인식되고 지시되어야 한다.

  •   혁신을 평가한다. 전체 코호트 대상의 핵심내용 교육 필요성에 더하여 추가적 선택프로젝트를 제공할 필요성을 염두에 두고, 일반적인 new teaching과 마찬가지로 계획, 파일럿 및 평가한다.

  •   Employ multiple pedagogies. After a basic grounding, include practical sessions to think about more sustainable options, have compulsory and optional projects, case-based scenarios – depending on the context in the curriculum.

  •   Embed in assessment. Assessment modalities include: multiple choice questions for factual knowledge; as part of objective structured clinical exams to ensure integration into clinical practice; incorporation into written questions to emphasize the identification of preventable causes of disease.

  •   Demand institutional backing. Consistent messaging from the highest levels which relates sustainability teaching to the university’s ethos and strategy can smooth progress in embedding teaching.

  •   Plan to support emotional resilience. Addressing sustainability issues can cause strong or overwhelming reactions in staff or students, which need to be recognized and directed to relevant sources of support.

  •   Evaluate the innovation. Plan, pilot, and evaluate as with any new teaching, bearing in mind the need for core teaching of the whole cohort, and the desirability of offering further optional projects.


지속 가능한 의료 서비스: 질병의 늦은 개입보다는 건강의 향상과 의료의 더 나은 제공에 초점을 맞추고, 결과적으로 환자와 인간의 건강이 의존하는 환경에 대한 혜택을 제공함으로써, 미래의 건강 요구를 충족시키는 능력을 훼손하지 않고 지금 양질의 의료 서비스를 제공하는 데 기여한다.

Sustainable healthcare: Focuses on the improvement of health and better delivery of healthcare, rather than late intervention in disease, with resulting benefits to patients and to the environment on which human health depends, thus serving to provide high-quality healthcare now without compromising the ability to meet the health needs of the future.










 2019 Jun 25:1-10. doi: 10.1080/0142159X.2019.1623870. [Epub ahead of print]

Fulfilling a new obligationTeaching and learning of sustainable healthcare in the medical education curriculum.

Author information

1
Centre for Environmental Policy, Imperial College London, London, UK.

Abstract

Aims: Leading the growing international recognition of the need for sustainability in healthcare delivery, the UK medical regulator has mandated that newly qualified doctors must be able to apply the principles of sustainable healthcare to medical practice. This original research investigates how best to incorporate this new learning into the medical curriculumMethods: Data from multiple sources were triangulated to generate themes through grounded theory. Meetings were held with representatives of key stakeholder organizations, relevant documents were reviewed and semi-structured interviews were conducted with diverse medical educators who teach sustainable healthcareResults: There is continual pressure on space in the curriculum, and faculty lack the knowledge to teach this emerging subject, which is also difficult to examine. Students increasingly demand that sustainability be addressed in their education and future careers. Many sources of support and learning resources are available. Conclusions: Practical recommendations for implementation in any medical school include: teaching sustainability as a cross-cutting theme rather than a topic, clinicians and students learning from each other in this developing field, and embedding into assessment the wider determinants of disease. Sustainable healthcare emphasizes prevention rather than late intervention, with benefits to the environment on which health depends, healthcare systems and patients.

PMID:
 
31237167
 
DOI:
 
10.1080/0142159X.2019.1623870


헤지혹 개념을 학부의학교육 변혁에 적용하기(Acad Med, 2019)

Applying the Hedgehog Concept to Transform Undergraduate Medical Education

Samara B. Ginzburg, MD, Joanne M. Willey, PhD, Carole Bates, MPH, MBA,

Sally A. Santen, MD, PhD, David Battinelli, MD, and Lawrence Smith, MD





새로운 의대를 만드는 것은 혁신을 위한 풍부한 기회를 제공한다. 2000년 이후 개교한 의과대학들은 정치적, 지리적, 재정적 제약을 탐구하는 독창적인 접근법을 고안하면서 분배를 위한 새로운 접근법을 도입했다. 그러나 이러한 노력은 미래의 의료 인력 수요를 충족시키기 위한 학부 및 대학원 의료 교육(UME, GME) 설계의 선구적인 변경에는 미치지 못했다.1

Creating a new medical school offers rich opportunities for innovation. Medical schools that have opened since 2000, sometimes called “millennial” medical schools, have devised original approaches to navigate political, geographic, and financial constraints while introducing fresh approaches for distributed learning. However, these efforts have fallen short of pioneering change in the design of undergraduate and graduate medical education (UME and GME) to meet future health care workforce needs.1


전통적인 의사의 책임은 바뀌고 있으며, 의료전문직은 의사가 하는 것과 하지 않는 것에 대해 이전에 가지고 있던 개념을 재평가할 필요가 있다.

Traditional physician responsibilities are shifting, and the medical profession needs to reevaluate previously held notions of what a physician does and does not do.


고슴도치 개념을 UME 변혁에 적용하기

Applying the Hedgehog Concept to Transforming UME


비즈니스 텍스트 "Good to Great"에서: 왜 어떤 회사는 이윤을 남기는가 ... 그리고 다른 회사는 그렇지 않은가, 짐 콜린스2는 "헤지호그 컨셉"을 소개한다. 콜린스는 "여우는 많은 것을 알고 있지만 고슴도치는 한 가지 큰 것을 알고 있다"고 쓴 그리스 시인 아르킬로쿠스를 인용한다. 콜린스는 고슴도치처럼, 특이한 초점을 가진 회사들이 성공할 가능성이 더 높으며, 따라서 "좋은 기업"에서 "훌륭한 기업"으로 변화할 것이라고 주장한다. 콜린스는 (1) 조직의 정열, (2) 조직이 생각하는 최고의 기회, (3) 조직의 경제 및 자원 엔진의 원동력 등 세 가지 고슴도치 원칙을 정의하고 있다. 이 세 가지 원칙의 교차점은 조직의 고슴도치 개념을 식별하는데, 이 개념은 조직의 주요 의사결정을 안내하고 전체적인 성공을 이끄는 데 사용될 수 있는 단일 미션이다(그림 1).

In the business text Good to Great: Why Some Companies Make the Leap … And Others Don’t, Jim Collins2 introduces the “hedgehog concept.” Collins draws upon the Greek poet Archilochus, who wrote that “the fox knows many things, but the hedgehog knows one big thing.” Like the hedgehog, Collins argues, companies with a singular focus are more likely to succeed, thereby transforming from “good to great.” Collins defines three hedgehog principles: (1) the organization’s passion, (2) what the organization sees the opportunity to be the best at, and (3) the drivers of the organization’s economic and resource engine. The intersection of these three principles identifies the organization’s hedgehog concept, which is the single mission that can be used to guide the organization’s key decisions and drive its overall success (Figure 1).


Figure 1



본 초청 논평에서는 노스웰과 호프스트라 대학의 제휴로 설립된 밀레니얼 의대, 호프스트라/노스웰(Zucker SOM)의 도날드·바바라 의과대학(UME)의 UME 프로그램과 의료 전달 목표를 통합하기 위해 이 고슴도치 개념을 어떻게 적용했는지 설명한다.  ZuckerSOM은 2015년에 첫 졸업생이 나왔으며, 연간 100명이 입학하고 있다.

In this Invited Commentary, we describe how we applied this hedgehog concept to unite UME program and health care delivery goals at a millennial medical school, the Donald and Barbara Zucker School of Medicine at Hofstra/Northwell (Zucker SOM), which was founded as a partnership between Northwell Health and Hofstra University. Zucker SOM graduated its first class in 2015 and has a full complement of 100 students per year.


고슴도치 원칙 1: 열정

Hedgehog principle 1: Passion


성공하기 위해서는 조직의 열정을 발견해야 한다. 콜린스2는 조직은 "행해지고 있는 일에 대한 열정"을 일으키려 하기보다는, "구성원이 (원래) 열정을 갖고 있는 목표"를 추구함으로써 "선"에서 "위대한"으로 나아간다고 주장한다. UME에서, 미래의 의료 인력 및 의료 시스템을 위하여 학습자를 준비하는데 필요한 혁신적인 커리큘럼 경험을 만드는 것은 [혁신에 대한 열정이 있기 때문에, 현상에 도전하는 것을 두려워하지 않게 만드는 비전 있는 교육자]들을 요구한다.

To succeed, an organization must discover its passion. Collins2 posits that an organization goes from “good to great” by pursuing goals about which its workforce is passionate, rather than trying to create passion for what is being done. In UME, creating innovative curricular experiences to prepare learners for future health care workforce and delivery system needs demands visionary educators whose passion to innovate makes them unafraid to challenge the status quo.


가장 중요한 것은 석벽stonewall 커리큘럼이 바뀌는 사일로와 영토성의 제거였다. 우리의 해결책은 커리큘럼을 함께 설계하고 전달하는 기초과학자와 임상의가 포함된 학제간 과학교육부(DSE)를 만드는 것이었습니다. 기초과학교실이든 개인이든 모두 강좌나 커리큘럼 시간을 '소유'하지 않는다. 대신, 우리 교육과정은 처음 2년은 한 번에 한 개씩 완전히 통합된 7개의 코스로 구성되어 있다.5 교수진은 패러다임적인 질병paradigmatic illnesses만을 포함시키는 명령 하에 운영되며, 모든 것을 다루려고 애쓰는 부담을 덜어주고, 배움에 대한 개념적인 접근을 촉진한다.

Of paramount importance was the elimination of silos and territoriality that stonewall curricular change. Our solution was to create an interdisciplinary Department of Science Education (DSE) that includes basic scientists and clinicians who design and deliver curricula together. Neither basic science departments nor individuals “own” courses or curricular time. Instead, the first two years of our curriculum consist of seven fully integrated courses that are taken one at a time.5 Faculty operate under a mandate to include only paradigmatic illnesses, relieving them of the burden of trying to cover everything and promoting a conceptual approach to learning.


학습자와의 접촉 시간은 제한되어 있어 자기주도 학습을 위한 시간을 보호한다. 새로운 커리큘럼 콘텐츠는 기존 세션에 통합되거나 가치가 낮은 세션을 대체한다. 학생들은 [교직원 주도의 대화형 수업]을 위해 수업시간 밖에서outside of class정보를 적용해야 할 책임을 진다. 예를 들어, 우리는 과목으로서 해부학을 없애고 대신 학생들에게 2년간의 종적 경험을 제공했다. 매주 학생들은 환자 중심의 스테이션을 통해 해부학, 배아학, 역사학, 병리학, 의료 이미지의 해석, 기술 기반 POST(Point-of-care) 초음파 검사, 신체 진단 등의 신체 시스템을 탐구한다. 이것은 문제 탐구의 조력자 역할을 하는 교수진들과 함께 작은 그룹으로 이루어진다. 학생들은 수업 전에 미리 학습 목표를 연구하고 이러한 응용 연습을 통해 이해도를 평가한다.

Contact time with learners is limited, protecting time for self-directed learning. New curricular content is integrated into existing sessions or replaces less valuable sessions. Students prepare outside of class for faculty-led, interactive sessions in which they are held accountable for applying information. For example, we have eliminated anatomy as a course and instead provide our students with a two-year longitudinal experience. Every week, students explore a body system through patient-centered stations, examining components of anatomy, embryology, histology, pathology, interpretation of medical imaging, skills-based point-of-care ultrasonography, and physical diagnosis. This is done in small groups with faculty serving as facilitators of problem exploration. Students research learning objectives in advance of class and assess their understanding through these application exercises.


고슴도치 원칙 2: 가장 잘 하는 것을 하라

Hedgehog principle 2: Be the best at


조직은 또한 자신의 전문지식 분야를 검토하고 이해해야 한다.2,3 UME의 경우, 이 원칙은 보건 시스템 자원을 활용하는 것이 졸업생들이 [시스템 기반 진료 분야에서 뛰어난 능력을 발휘할 수 있도록 교육]하는데 최고가 되도록 요구한다고 제출한다. 그러나 전통적인 UME 모델은 학습자가 고가치, 팀 기반, 비용에 민감한 치료를 제공할 수 있도록 적절하게 준비하지 않는데, 이러한 교육은 ambulatory setting에서 주로 가능하며, 텔레헬스 및 인구 기반 예측 데이터의 사용 증가를 포함할 것이다. 이러한 유형의 의료 서비스를 제공하도록 설계된 관리 모델을 기반으로 한 새로운 교육 경험이 필요하다.

An organization must also examine and understand its area of expertise.2,3 For UME, we submit that this principle requires leveraging health system resources to be the best at training graduates to excel in systems-based care. However, traditional UME models do not adequately prepare learners to deliver high-value, team-based, and cost-conscious care, most of which will occur in ambulatory settings and will include growing use of telehealth and population-based predictive data.1 New training experiences based in care models designed to deliver this type of health care are needed.


처음 2년 동안 계속하여, 우리 학생들은 5개 분야의 수용자들과 함께 종단적 일대일 임상 경험에 참여한다. 학생들은 쉐도잉하기보다는, 응급의료기술자(EMT) 인증을 받았기 때문에, 매주 authentic ambulatory 임상 활동에 참여하도록 위임받는다.7 우리는 학습자가 특정 병리학을 이해하기 전에 환자와 대화하는 것을 허용해서는 안 된다는 개념을 거부하며, 의료 인터뷰 동안 학습자가 3가지 기능 모델을 조기에 적용하는 것을 수용한다.8

continuing throughout the first two years, our students participate in longitudinal, one-on-one clinical experiences with preceptors in five disciplines. Rather than shadowing, students are entrusted, as a result of their emergency medical technicians (EMTs) certification, to engage in weekly, authentic ambulatory clinical activities.7 We reject the notion that learners should not be allowed to talk with patients prior to understanding their specific pathology and embrace learners’ early application of the three-function model during medical interviews.8


이를 위해 7주간의 집중적인 커뮤니케이션 커리큘럼이 의과대학의 첫 주에 시작하여 4년동안 thread로 이어진다. 이 종단적 커리큘럼은 환자들이 점점 더 자신의 의료팀과 동일한 온라인 의료 정보에 접근할 수 있기 때문에 대인관계 기술과 교육자와 코치의 의사의 역할을 강조한다. 환자와 일대일로 상호작용하도록 위임받는 것은 임상적 추론과 기술의 의도적인 실천에 대한 기회를 제공한다9. 또한, 우리의 하이브리드 사례/문제 기반 학습 프로그램은 의료 변화의 원동력 내에서 생물 의학의 맥락화 이상의 범위로 확장하며, 리더십, 프로세스 개선 및 팀워크 교육을 포함한다.10

To that end, an intensive seven-week communications curriculum begins the first week of medical school and launches a four-year curricular thread. This longitudinal curriculum emphasizes the development of interpersonal skills and the physician’s role of educator and coach, as patients can increasingly access the same online medical information as their health care team. Being entrusted to interact with patients one-on-one then provides opportunities for the deliberate practice9 of clinical reasoning and skills. In addition, our hybrid case/problem-based learning program extends beyond contextualizing biomedical sciences within the drivers of changes to health care and includes training in leadership, process improvement, and teamwork.10


우리의 임상실습은 교육편의성보다는 고부가가치 진료의 연속성에 대한 이해를 발전시킬 수 있도록 설계되었다. 이것은 임상실습이 ambulatory 상황에서의 시간과 보완적인 서비스에서의 시간을 더 많이 포함하는 결과를 낳는다. 예를 들어, 우리의 신경과 실습은 신경외과, 물리 의학 및 재활을 포함한다. 학습자는 책임 있는 치료 부서에 대한 학제간 팀으로 일함으로써 관리 비용과 환자 만족도를 정기적으로 고려한다.

Our clerkships are designed for students to develop understanding of the high-value continuum of care, rather than for convenience for teaching. This results in clerkships that include more time in ambulatory settings as well as time in complementary services; for example, our neurology clerkship includes neurosurgery and physical medicine and rehabilitation. Learners regularly consider costs of care and patient satisfaction by working in interdisciplinary teams on accountable care units.


고슴도치 원칙 3: 경제와 자원 엔진

Hedgehog principle 3: The economic and resource engine


조직의 경제 및 자원 엔진의 driver는 조직이 자신의 임무를 서포트 할 수 있도록 한다. UME의 경우 GME와 실무에서 뛰어난 학습자를 배출하는 건강 관리 제공 기반 교육 환경을 확립한다. 콜린스3는 사회분야에서 자원엔진은 시간, 돈, 브랜드로 이루어져 있다고 주장한다. 경제 및 자원 엔진을 재개념화하면 UME 프로그램이 미래의 의료 인력 수요에 맞게 학습자를 교육할 수 있다. UME 임무와 의료 제공 요구를 더 잘 일치시키기 위해, 의학교육 기관은 어떻게 조직 기반 구조를 프레임하는지 재고해야 한다. Zucker SOM에서는 [교수 시간, 두 후원 기관의 재정 및 인프라 지원, 평판 구축 측면]에서 경제 및 자원 엔진을 구성한다.

The drivers of an organization’s economic and resource engine2,3 enable the organization to support its mission—in the case of UME, establishing a health-care-delivery-based training environment that produces learners ready to excel in GME and practice. Collins3 argues that in the social sector, the resource engine is composed of time, money, and brand. Reconceptualizing the economic and resource engine can enable UME programs to train learners for future health care workforce needs. To better align the UME mission with health care delivery needs, medical education institutions must reconsider how they frame their organizational infrastructure. At Zucker SOM, we frame our economic and resource engine in terms of faculty time, financial and infrastructure support from our two sponsoring institutions, and reputation building.


교수 시간

Faculty time.


임상적 추론과 기술의 의도적인 실행은 전문가들에 의한 빈번한 직접 관찰과 코칭이 필요하며,9 이것은 경쟁적인 교수진의 요구 때문에 종종 적절하게 달성하기가 어렵다. 노스웰헬스는 수백 명의 잠재 교직원이 있는 대형 건강관리 시스템이기 때문에, 우리는 Zucker SOM의 교육 임무에 맞춘 교수 임용 및 승진 지침을 작성했다. 교수진 임명은 이러한 노력에 특정한 보상 없이 UME 및/또는 GME에 연간 100시간까지 기여하도록 모든 교직원에게 요청될 수 있도록 규정되어 있다.

The deliberate practice of clinical reasoning and skills requires frequent direct observation and coaching by experts,9 which is often difficult to adequately achieve because of competing faculty demands. As Northwell Health is a large health care system with hundreds of potential faculty members, we wrote faculty appointment and promotion guidelines tailored to Zucker SOM’s educational mission. Faculty appointments are made with the stipulation that any faculty member can be called on to contribute up to 100 hours per year to UME and/or GME without compensation specific to these efforts.


재정과 시설 지원

Financial and infrastructure support.


의과대학의 성공은 [헬스케어와 대학의] 상충하는 이해관계를 탐색하는 능력에 달려 있다. 우리는 Northwell Health와 Hofstra University 둘 다에게 혜택을 주는 UME 프로그램을 만들었는데, 이 프로그램은 우리의 재정, 인적, 인프라 자원을 제공한다. GME 프로그램의 대규모 스폰서인 Northwell Health는 SOM 설립 이후 레지던트 프로그램에 대한 지원자들의 질이 향상되었다. 호프스트라 대학이  Zucker SOM을 지원한 것은 과학, 기술, 공학, 수학(STEM) 교육 지형에서 그 존재를 확대하려는 대학의 교육 사명을 반영한다. 호프스트라는 또한 매우 뛰어난 STEM 학부생들의 입학이 증가하는 것을 보았다.

The success of any medical school rests on its ability to navigate the competing interests of its health care and academic homes. We created a UME program that benefits both Northwell Health and Hofstra University, which provide our financial, human, and infrastructure resources. Northwell Health, a large sponsor of GME programs, has seen an improvement in the quality of applicants to its residency programs since the founding of Zucker SOM. Hofstra University’s support of Zucker SOM reflects the university’s educational mission to expand its presence in the science, technology, engineering, and math (STEM) educational landscape. Hofstra has likewise seen increased enrollment of highly accomplished STEM undergraduates.


명성 확보

Reputation building.


우리는 뛰어난 레지던트가 될 졸업생들을 배출하기 위해 헬스케어-전달-기반의 학습 환경을 배양하는 열망적인 자질을 인정한다. 이 목표를 달성하고 명성을 쌓는 데 있어 우리의 진보를 평가하기 위해, 우리는 미국 의학 면허 시험 단계와 미국 의과대학 졸업 설문지에 대한 학생들의 반응을 포함한 일련의 성과를 고려한다(표 1 참조).

We recognize the aspirational quality of cultivating a health-care-delivery-based learning environment to produce graduates who become outstanding residents. To evaluate our progress in meeting this goal and building our reputation, we consider an array of outcomes, including United States Medical Licensing Examination Step exam scores and our students’ responses to the Association of American Medical Colleges’ Medical School Graduation Questionnaire (see Table 1).


각 데이터 소스의 결과 분석을 강점을 식별하고 지속적인 개선 프로세스를 위한 전략을 개발할 수 있는 기회로 본다. 성공의 최종 척도는 실제로 환자 중심의 건강 개선을 달성하는 데 효과적인 졸업 의사여야 한다.

We view the analysis of results from each data source as an opportunity to identify strengths and develop strategies for our ongoing process of improvement. The final metric of success must be graduating physicians who are effective in achieving patient-centered improvements in health in practice.




Conclusion








 2019 Apr;94(4):477-481. doi: 10.1097/ACM.0000000000002564.

Applying the Hedgehog Concept to Transform Undergraduate Medical Education.

Author information

1
S.B. Ginzburg is associate dean for case-based learning, Donald and Barbara Zucker School of Medicine at Hofstra/Northwell, Hempstead, New York; ORCID: https://orcid.org/0000-0003-0466-0316. J.M. Willey is Leo A. Guthart Professor of Biomedical Sciences and chair, Department of Science Education, Donald and Barbara Zucker School of Medicine at Hofstra/Northwell, Hempstead, New York; ORCID: https://orcid.org/0000-0003-4544-4417. C. Bates is assistant dean for curricular affairs and special projects, Donald and Barbara Zucker School of Medicine at Hofstra/Northwell, Hempstead, New York. S.A. Santen is senior associate dean for evaluation, assessment, and scholarship of learning, Virginia Commonwealth University School of Medicine, Richmond, Virginia; ORCID: https://orcid.org/0000-0002-8327-8002. D. Battinelli is senior vice president and chief medical officer, Northwell Heath, and dean for medical education and Betsy Cushing Whitney Professor of Medicine, Donald and Barbara Zucker School of Medicine at Hofstra/Northwell, Hempstead, New York. L. Smith is executive vice president and physician-in-chief, Northwell Health, and dean, Donald and Barbara Zucker School of Medicine at Hofstra/Northwell, Hempstead, New York.

Abstract

As the U.S. health care system changes and physician responsibilities shift, medical educators must reconsider how best to prepare medical school graduates for the future practice of medicine. Thoughtful reexamination of the goals of undergraduate medical education (UME) and the roles of educators, medical students, and physicians is warranted to ensure that they align with evolving health care environments and delivery systems. In this Invited Commentary, the authors apply Jim Collins's "hedgehog concept" from Good to Great-a business-world framework designed to transform companies-to UME. The hedgehog concept is defined by the intersection of an organization's passion, area of expertise, and economic and resource engines. Focusing on this single concept can guide key decisions, reject what does not align conceptually, and drive overall organizational success. The authors use the hedgehog concept to frame the programmatic development of the Donald and Barbara Zucker School of Medicine at Hofstra/Northwell (Zucker SOM), a millennial medical school, as an organization with the passion to develop innovative UME curricula by challenging the status quo; the drive to be the best at leveraging health system resources to train graduates to excel in systems-based care; and the economic and resource engine of faculty time, financial and infrastructure support, and reputation building. The success of this approach is assessed at Zucker SOM through student and graduate outcomes data. The authors suggest that this hedgehog concept is generalizable to other UME programs whose leaders seek to transform medical education to meet 21st-century workforce and health care delivery needs.

PMID:
 
30570497
 
DOI:
 
10.1097/ACM.0000000000002564


공중보건교육: 교육을 위한 역량지도(Acad Med, 2013)

Teaching Population Health: A Competency Map Approach to Education

Victoria S. Kaprielian, MD, Mina Silberberg, PhD, Mary Anne McDonald, DrPH, MA, Denise Koo, MD, MPH, Sharon K. Hull, MD, MPH, Gwen Murphy, RD, PhD, Anh N. Tran, PhD, MPH, Barbara L. Sheline, MD, MPH, Brian Halstater, MD, Viviana Martinez-Bianchi, MD, Nancy J. Weigle, MD, Justine Strand de Oliveira, DrPH, PA-C, Devdutta Sangvai, MD, MBA, Joyce Copeland, MD, Hugh H. Tilson, MD, DrPH, F. Douglas Scutchfield, MD, and J. Lloyd Michener, MD





현재의 시스템은 지탱할 수 없다untenable. 비록 일대일 방문과 임상의사-환자 파티가 항상 중요하겠지만, 그 제한된 범위는 국가 전체 건강의 더 큰 우려를 해결할 수 없다.

The current system is untenable. Although the one-on-one visit and clinician–patient dyad will always be important, that limited scope cannot address the larger concerns of the nation’s overall health.


2012년 IOM(Institute of Medicine) 보고서 1차 진료 및 공중 보건: 인구 건강 개선을 위한 통합을 모색하는 것이 의학과 공중 보건 사이의 더 강력한 연계를 요구하는 최근 요청의 수이다.

The 2012 Institute of Medicine (IOM) report Primary Care and Public Health: Exploring Integration to Improve Population Health8 is the latest in the growing number of calls for stronger links between medicine and public health.


전통적인 임상 훈련만으로는 우리나라가 직면하고 있는 건강 문제를 해결하기에 충분하지 않을 것이다.3,7,12–15.

Traditional clinical training alone will not be adequate to address the health problems that face our nation.3,7,12–15


지난 10년 동안 의과대학 커리큘럼에서 예방과 건강증진의 적용범위가 증가했지만, 인구보건 관점(예: 보건의 생태학적 모델과 사회적 결정요인, 지역사회 참여, 공공정책이 건강에 미치는 영향)은 유사한 이득을 얻지 못했다.16

Although coverage of prevention and health promotion has increased in medical school curricula over the last decade, the population health perspective (e.g., the ecologic model and social determinants of health, community engagement, and the impact of public policy on health) has not made similar gains.16


의료종사자에게 필요한 인구 건강 기술은 무엇인가?

What kinds of population health skills do health care providers need?


매우 협력적인 전문가들 간의 진료 제공이 두드러지고 있다. 2011년, 전문직간 교육 협업 전문가 패널이 전문직간 협력적 실무에 대한 핵심 역량을 발표함 17

The delivery of care by highly collaborative interprofessional teams is gaining prominence. In 2011, the Interprofessional Education Collaborative Expert Panel published core competencies for interprofessional collaborative practice 17


IOM은 21세기 의료 시스템을 재설계하기 위해서는 임상의사의 리더십이 강화되어야 한다고 거듭 밝혔다.15,16 그러한 시스템은 공공 보건 시스템과 함께 인구 건강을 다루어야 한다.

The IOM repeatedly has stated that increased clinician leadership is necessary for redesigning our health care system for the 21st century.15,16 Such a system must address population health, in concert with the public health system,


오늘날의 지도자들은 또한 프로그램, 인사 및 재무 관리, 전문가간 및 부문간 팀워크, 갈등 해결, 의사소통, 합의 구축, 데이터 분석, 그리고 복잡하고 변화하는 의료 환경을 성공적으로 조작하기 위한 비판적 사고를 필요로 한다.

today’s leaders also need skills in program, personnel, and financial management; interprofessional and intersector teamwork; conflict resolution; communication; consensus building; data analysis; and critical thinking to successfully maneuver the complex and changing health care environment.


Duke University’s Population Health Initiatives

듀크 대학의 인구보건 이니셔티브


듀크는 상당한 건강상의 필요성이 있는 지역에 위치해 있다.19,20 듀크 대학의 임무는 "고난을 겪고 병을 고치고 건강을 증진시키는 사람들을 돕는 것"과 "지역사회에 다양한 방법으로 기여하는 것"을 포함한다.21 커뮤니티 건강 개선은 또한 "이노 만들기"에 중점을 둔 듀크 의학의 임무의 일부로서, 22건강과 웰빙에 대한 대증적 접근"과 "우리 사회의 건강 불균형 해소"이다. 게다가 듀크 메디신은 더럼 인구의 대다수를 위한 건강관리를 제공하고 카운티의 유일한 응급부서를 운영하기 때문에 지역 주민의 건강을 향상시키는 데 기득권을 가지고 있다.

Duke is located in an area with considerable health needs.19,20 Duke University’s mission includes the mandate “to help those who suffer, cure disease, and promote health” and “to contribute in diverse ways to the local community.”21 Improving community health also is explicitly part of the mission of Duke Medicine,22 with a focus on “creating innovative approaches to health and wellness” and “addressing health disparities in our community.” Moreover, Duke Medicine has a vested interest in improving the health of the local populace because it provides health care for the majority of the Durham population and runs the county’s only emergency departments.


더럼의 가장 중요한 협력 중 하나는 건강한 더럼을 위한 파트너십이다.

One of Durham’s most important health-related collaborations is the Partnership for a Healthy Durham.


Duke's Department of Community and Family Medicine(CFM)은 지역사회의 건강을 개선하기 위한 기관의 노력을 주도했다.24–27 CFM은 5개 중분류로 구성된다. 가정의학, 지역사회 건강, 직업 및 환경 의학, 의사 보조자(PA) 및 물리 치료 의사(DPT) 프로그램. 지난 10년 동안 CFM은 더럼 카운티 보건부 및 다른 지역사회 파트너들과 협력하여 더럼 거주자들의 건강을 개선하기 위한 일련의 프로그램을 설계하고 시행해 왔다.20

Duke’s Department of Community and Family Medicine (CFM) has led institutional efforts to improve community health.24–27 CFM comprises five divisions: Family Medicine, Community Health, Occupational and Environmental Medicine, and the Physician Assistant (PA) and Doctor of Physical Therapy (DPT) programs. During the last decade, CFM has worked with the Durham County Health Department and other community partners to design and implement a succession of programs to improve the health of Durham residents.20


CFM은 또한 의료 홈 모델을 통해 노스캐롤라이나 전역의 메디케이드 환자들에게 협력적이고 조정된 치료를 제공하는 비영리 단체인 노스캐롤라이나의 커뮤니티 케어(Cocial Care of North Carolina)의 회원인 DCHN(Durham Community Health Network)의 대표 기관이기도 하다.28

CFM is also the lead agency in the Durham Community Health Network (DCHN), which is a member of Community Care of North Carolina, a central, not-for-profit organization providing cooperative, coordinated care for Medicaid patients across North Carolina through a medical home model.28


Duke는 또한 이웃과 학교에 기반을 둔 1차 진료소와 가정 내 1차 진료, 영양, 직업 치료, 공공 주택의 노인 및 장애인 거주자를 위한 사례 관리 등을 포함한 다른 지역 건강 프로그램을 후원한다.29

Duke also sponsors other local health programs, including neighborhood- and school-based primary care clinics and in-home primary care, nutrition, occupational therapy, and case management for older and disabled residents in public housing (known as Just for Us).29


2006년 듀크는 듀크 트랜지컬 의학 연구소의 커뮤니티 참여 기둥인 듀크 커뮤니티 연구 센터(Duke Center for Community Research, DCR)와 함께 인구 건강 이니셔티브를 확대하였다. DCCR은 2008년 지역사회의 가장 시급한 건강 요구(예: 출생 결과, 비만, 당뇨병, 천식, 심혈관 질환)를 해결하기 위한 중앙 조정 우산으로 DHI(Durham Health Innovations)를 출범시켰다.

In 2006, Duke expanded its population health initiatives with the Duke Center for Community Research (DCCR), the community engagement pillar of the Duke Translational Medicine Institute. The DCCR launched Durham Health Innovations (DHI) in 2008 as a central coordinating umbrella for addressing the community’s most pressing health needs (e.g., birth outcomes, obesity, diabetes, asthma, cardiovascular disease).


이러한 경험을 바탕으로, 우리는 성공적인 인구 건강 프로그램의 열쇠로 다음을 확인하였다. 

  • (1) 예방과 공공보건부서와의 협업을 강조하는 등 공공보건 방법을 사용

  • (2) 다양한 지역사회 파트너를 참여

  • (3) 분석 및 데이터 기반 접근법을 사용한 비판적 사고 및 평가, 

  • (4) 전문직간 팀에서 함께 작업

On the basis of these experiences, we have identified as the keys to successful population health programs 

(1) using public health methods, including an emphasis on prevention and collaboration with public health departments, 

(2) engaging diverse community partners, 

(3) critical thinking and assessment, using analytic and data-driven approaches, and 

(4) working together in interprofessional teams.




경쟁력 지도: 인구보건교육 개선을 위한 조직체계

The Competency Map: An Organizational Framework to Improve Population Health Education


각 프로그램에 대해 이러한 학습 목표를 독립적으로 식별하는 대신, 우리는 여러 분야에 적용할 수 있는 중요한 프레임워크를 만드는 것을 선택했다.

Rather than identify these learning objectives independently for each program, we chose to create an overarching framework that can be applied across disciplines.


이 글을 쓰면서 우리는 세 가지 비판적 개념을 사용했다.

In writing this article, we used three critical concepts.


  • 첫째, 우리는 공공 보건에 대한 IOM의 정의를 "사람들이 건강해질 수 있는 조건들을 보장하는데 대한 사회의 관심을 충족시키는 것"으로 받아들였다.31 건강 상태를 보장하기 위해, 공공 보건은 사회의 건강을 증진시키기 위해 서로 다른 방법으로 일하는 다양한 공공 및 민간 이해당사자들을 통합한다. 

  • 다음으로, 우리는 Kindig와 Stoddart의 '인구 건강'에 대한 정의를 "개개인 집단의 건강결과로서, 여기에는 그룹 내에서의 건강결과의 분포도 포함한다"로 채택했다. 그러므로, 인구 건강(즉, 인구의 건강)이 궁극적인 목표다; 우리는 그것을 달성하기 위해 공공 보건 방법과 접근방식을 채택해야 한다. 

  • 마지막으로 국립보건원, 질병통제예방센터, 기타 연방기관의 지역사회 참여 정의를 다음과 같이 준수하였다.

  •  First, we accepted the IOM’s definition of public health as “fulfilling society’s interest in assuring conditions in which people can be healthy.”31 To ensure healthy conditions, public health incorporates diverse public and private stakeholders working in different ways to advance society’s health. 

  • Next, we adopted Kindig and Stoddart’s32 definition of population health as “the health outcomes of a group of individuals, including the distribution of such outcomes within the group.” Thus, population health (i.e., the health of populations) is the ultimate goal; we must employ public health methods and approaches to achieve it. 

  • Finally, we followed the National Institutes of Health, the Centers for Disease Control and Prevention, and other federal agencies’ definition of community engagement as



지리적 근접성, 특별한 관심 또는 그러한 사람들의 복지에 영향을 미치는 문제를 해결하기 위해 이와 유사한 상황에 의해 제휴된 사람들의 그룹과 협력하여 일하는 과정... 그것은 종종 자원 및 영향 시스템을 동원하고, 파트너들 간의 관계를 바꾸고, 정책, 프로그램 및 관행을 바꾸는 촉매제 역할을 하는 파트너십과 연합을 포함한다.33

the process of working collaboratively with and through groups of people affiliated by geographic proximity, special interest, or similar situations to address issues affecting the well-being of those people…. It often involves partnerships and coalitions that help mobilize resources and influence systems, change relationships among partners, and serve as catalysts for changing policies, programs, and practices.33


이러한 정의에 동의한 후, 이 프레임워크를 개발하는 첫 번째 단계는 모든 보건 전문가들을 위한 공공 보건 및 지역사회 참여 분야에서 우리가 원하는 결과 역량을 명확히 하는 것이었다.

After agreeing on these definitions, our first step in developing this framework was to clarify our desired outcome competencies in the areas of public health and community engagement for all health professionals.


이러한 모든 문서를 고려하여, 우리는 공중 보건과 의료 사이의 격차를 해소하고 서비스 인구의 건강을 개선하기 위해 일반적으로 임상의가 필요로 하는 역량 목록(특히 1차 진료에 종사하는 사람들)을 생성했다.

Taking into consideration all of these documents, we generated a list of competencies needed by clinicians in general (especially those in primary care) to bridge the gap between public health and medicine and to improve the health of the populations served.


2011년 9월 듀크 교수단(가정의학, PA, DPT, 지역사회 보건 등을 대표하며 본 기사의 저자를 일부 포함)은 이러한 역량을 서로 다른 학습자 그룹에 기대되는 성취도로 나누는 임무를 맡았다.

In September 2011, an interprofessional group of Duke faculty (representing family medicine, PA, DPT, and community health, and including some of the authors of this article) was charged with dividing these competencies into the degrees of achievement expected for different learner groups.


프로그램 책임자와 다른 교수진은 각 학습자의 유형과 수준에 예상되는 지식, 기술 및 태도의 수준을 설명하는 자들과 함께 측정 가능한 학습 목표를 세심하게 만들기 시작했다.

Program directors and other faculty began carefully crafting measurable learning objectives with descriptors of the levels of knowledge, skills, and attitudes expected for each learner type and level.


우리는 역량 지도가 블룸의 학습 분류 체계와 일치하는지 확인하기 위해 중요한 조치를 취했다.35

We took major steps to ensure that the competency map was consistent with Bloom’s taxonomy for learning.35


기대 성취의 세 단계

three levels of desired achievement.


1. 기초: 원칙에 대한 기본적인 인식과 지역사회 건강에 미치는 영향과 중요성에 대한 인정. 우리는 모든 임상의들이 전문성과 무관하게 적어도 이 정도의 지식과 태도를 가져야 한다고 믿는다. 미래의 모든 의사, PA, PT, 간호사 및 기타 임상의사는 인구 건강 접근법의 언어를 알아야 한다.

1. Foundational: a basic awareness of the principles and an appreciation for their impact and importance in community health. We believe that all clinicians, regardless of specialty, should have at least this level of knowledge and attitudes. All future physicians, PAs, PTs, nurses, and other clinicians need to know the language of a population health approach.


2. 적용: 중간 수준의 학습으로 지역사회 참여 인구 건강 활동에 능숙하게 참여할 수 있다. 우리는 1차 진료의 레지던트, PA, 간호사가 최소한 이 정도의 기술을 달성해야 한다는 데 동의했다. 예를 들어 환자 중심의 의료 가정에 필요한 기술이다. 이 수준은 듀크의 새로운 1차 진료 리더십 프로그램에 참여하는 MD와 PA 학생들에게도 목표다.

2. Applied: an intermediate level of learning, enabling skilled participation in community-engaged population health activities. We agreed that residents, PAs, and nurse practitioners in primary care should achieve at least this level of skills, which are needed, for example, for the patient-centered medical home. This level is also the goal for MD and PA students in Duke’s new primary care leadership programs.


3. 숙련도: 인구 보건의 독립적 실천 또는 커뮤니티 참여 건강 개선 활동의 설계 및 구현의 리더십을 발휘할 수 있는 역량을 획득하는 고급 학습자. 듀크 지역 보건 교직원들은 공중 보건에서의 경험과 훈련을 통해 이 정도의 능력을 가지고 있다. 지역사회 건강 증진에 임상의사 리더를 배출하겠다는 이 부서의 목표 때문에, 이 정도의 능력은 듀크 가의학 교수들과 레지던트 졸업생들에게 우리의 목표다. 우리는 미래 의료 시스템의 리더가 되기를 원하는 사람들은 이 정도의 전문지식이 필요할 것이라고 믿는다.

3. Proficient: advanced learners who achieve competence for the independent practice of population health or the leadership of the design and implementation of community- engaged health improvement activities. Duke community health faculty have this degree of competence, gained through experience and training in public health. Because of this department’s goal to produce clinician leaders in community health improvement, this level of competence is our target for Duke family medicine faculty and residency graduates. We believe that those who wish to be leaders in the future health care system will need this level of expertise.


4개 도메인의 기본 구조를 가지고, 각 역량 영역에서 각 학습자 유형에 대해 예상되는 성취 수준을 정의하기 위해 역량 맵 테이블의 셀을 채웠다.

With the basic structure of four domains created, we filled in the cells of the competency map table to define the level of accomplishment expected for each learner type in each competency area.


2011년 12월, 본 개정 초안을 듀크 커뮤니티 내외의 컨텐츠 전문가에게 배포하여 입력을 촉진하고 더욱 정교하게 다듬었다.

In December 2011, we distributed this revised draft to content experts within and outside the Duke community for input and further refinement.


역량 맵은 인구 기반 관리 및 건강 개선에 필요한 새로운 기술과 지식에 대한 교육자의 생각을 구조화하는 데 도움이 되는 조직 프레임워크로 의도되었다. 각각의 역량을 단일 도메인에 할당했지만, 네 개의 도메인은 상호 연관성이 높다.

The competency map is intended as an organizational framework that helps to structure educators’ thinking about the new skills and knowledge needed for population-based care and health improvement. Although we assigned each competency to a single domain, the four domains are highly interrelated.


역량 맵 적용

Applying the Competency Map


역량 맵은 우리의 각 건강 직업 프로그램에 통합될 인구 건강 컨텐츠의 개요를 제공한다. 지도 제작 전에, 인구 건강 증진에 있어 훈련생들을 준비시키기 위해 더 많은 것을 해야 한다는 도전을 받았을 때, 교수진들은 무엇이 누락되었는지 알아내기 위해 애썼다. 역량 맵을 갖는 것은 교수진이 다양한 커리큘럼에 인구 건강을 추가하려는 현재 시도에서 누락된 것을 볼 수 있게 한다.42 듀크에서 역량 맵이 어떻게 적용되고 있는지를 보여주는 세 가지 간단한 예.

The competency map provides an outline of the population health content to be incorporated into each of our health professions programs. Before the mapping, when challenged to do more to prepare trainees in population health improvement, faculty struggled to identify what was missing. Having a competency map allows faculty to see what is missing from current attempts to add population health to various curricula.42 Three brief examples of how the competency map is being applied at Duke follow.


Medical students


Family medicine residents


PA students


평가를 능력 맵을 도입한다면.

Incorporating the Competency Map Into Evaluations


바쁜 훈련생과 교수진을 위한 시험의 양을 최소화하기 위해, 우리는(능력 지도에 따라)가능할 때마다 기존의 평가나 평가에 필요한 도메인을 채택했다. 예로는 교육 포트폴리오,learner 만족도 설문 조사를 실시, 지식 시험 팀 훈련 평가를 발표 피드백이고, 인구 건강 프로젝트에 멘토 발언(필요한 포함한다.각각의 프로그램을). 

To minimize the amount of testing for busy trainees and faculty, we have incorporated the needed domains (based on the competency map) into existing evaluations or assessments whenever possible. Examples include educational portfolios, learner satisfaction surveys, knowledge tests, team training evaluations, presentation feedback, and mentor comments on population health projects (required by each program). 


적용되고 능숙한 수준에서 프로젝트 요구 사항은 학습자가 이러한 성취 수준과 관련된 인구 건강 기술을 입증해야 함 

At the applied and proficient levels, project requirements necessitate that learners demonstrate the population health skills associated with those achievement levels 


(예: 모집단 데이터를 사용하여 개선 기회를 식별하고, 증거 기반 및 상황에 맞는 개입 전략을 제안, 구현 및 평가하고, 지역사회 또는 임상 파트너와 일관되게 협력한다.) 

(e.g., using population data to identify opportunities for improvement; proposing, implementing, and evaluating evidence-based and context-appropriate intervention strategies; and consistently working collaboratively with community or clinical partners). 


교수진은 인구보건 멘토에 대한 교육을 받고 이러한 학습자들의 기술을 평가한다. 프로그램 책임자는 프로그램의 지속적인 개선을 위해 집계 데이터를 검토할 것이다.

Faculty trained in population health mentor and assess these learners’ skills. Program directors will review aggregate data for continual improvement of the programs.


그 Broader 적용과 역량 지도의 한계.

The Broader Application and Limitations of the Competency Map


IOM의 2012년 보고서는 의학과 공중 보건의 통합을 위한 가장 상세한 풍경을 제공한다. 또한 인구 보건 개선과 보다 효율적인 의료 시스템을 위한 로드맵 역할을 할 수 있는 원칙과 함께 제공한다.

The IOM’s 2012 report offers the most detailed portrait yet of the landscape for integrating medicine and public health, along with principles that can serve as a road map toward improved population health and a more efficient health care system.8


그 보고서의 결론 중 두 가지는 다음과 같다. 

  • 의료 센터가 통합 노력을 용이하게 할 수 있고 

  • 의료 및 공공 의료 종사자가 협력하도록 교육되어야 한다.

 Two of the report’s conclusions are that academic health centers can facilitate integration efforts and that the clinical and public health workforces should be trained to collaborate.


시나리오 앞으로

Going Forward


그 능력 지도 우리 사회와 협력의 인구 건강을 향상시키는 과정에 대해서 무엇을 배웠는가 가지고 우리의 교육 프로그램 제휴에 신중한 단계를 나타낸다. 우리가 교육 프로그램 전문적인 규범들에 의해 지배에서 역사적으로 우리 지역 사회 협력 관계에서 고립된 더욱 통합된 경력으로 이사를 하게 되면 우리의 여정은 아직 초기 단계이다.교육과 사회 전문적인 동료들의 다양한 간부의 강점에 건물 보건 결과 개선에 집중했다. 만약 달성하기 위해 인구 건강 요구하는 사무실과 공동체 속에서 팀 인구 건강에 대해를 가르치고 그렇게 한다.

The competency map represents a deliberate step in aligning our educational programs with what we have learned about the process of improving population health in collaboration with our community. Our journey is still in its early stages as we move from educational programs governed by professional norms and historically isolated from our community partnerships to more integrated team-oriented education focused on improving health outcomes and building on the strengths of a diverse cadre of professional and community colleagues. If achieving population health requires teams in the office and community, so, too, does teaching about population health.



Appendix 1 A Competency Map for Integrating Population Health Into Clinician Education, Duke University School of Medicine, 2011


Public health (PH)


Community engagement (CE)


Critical thinking (CT)


Team skills (TS)







 2013 May;88(5):626-37. doi: 10.1097/ACM.0b013e31828acf27.

Teaching population health: a competency map approach to education.

Author information

1
Department of Community and Family Medicine, Duke University School of Medicine, Durham, North Carolina, USA. kaprielianv@campbell.edu

Abstract

A 2012 Institute of Medicine report is the latest in the growing number of calls to incorporate a population health approach in healthprofessionals' training. Over the last decade, Duke University, particularly its Department of Community and Family Medicine, has been heavily involved with community partners in Durham, North Carolina, to improve the local community's health. On the basis of these initiatives, a group of interprofessional faculty began tackling the need to fill the curriculum gap to train future health professionals in public health practice, community engagement, critical thinking, and team skills to improve population health effectively in Durham and elsewhere. The Department of Community and Family Medicine has spent years in care delivery redesign and curriculum experimentation, design, and evaluation to distinguish the skills trainees and faculty need for population health improvement and to integrate them into educationalprograms. These clinical and educational experiences have led to a set of competencies that form an organizational framework for curricular planning and training. This framework delineates which learning objectives are appropriate and necessary for each learning level, from novice through expert, across multiple disciplines and domains. The resulting competency map has guided Duke's efforts to develop, implement, and assess training in population health for learners and faculty. In this article, the authors describe the competency map development process as well as examples of its application and evaluation at Duke and limitations to its use with the hope that other institutions will apply it in different settings.

PMID:
 
23524919
 
PMCID:
 
PMC3636155
 
DOI:
 
10.1097/ACM.0b013e31828acf27


임상학습환경 측정을 위한 도구의 심리측정적 특성(Med Educ, 2007)

Psychometric properties of an instrument to measure the clinical learning environment

K Boor,1 F Scheele,2 C P M van der Vleuten,3 A J J A Scherpbier,4 P W Teunissen2 & K Sijtsma5





도입

INTRODUCTION


임상 환경에서 일하고 배우는 것은 의사들에게 훈련에서 도전적인 시기를 나타낸다. Daugherty 등에 따르면, 그들은  "...환자 치료에 대한 책임, 경제적 어려움, 당직 일정, 환자 사망, 지속적인 학습의 필요성, 가르치는 일, 의사 및 노인 거주자의 요구 사항, 가정과 사생활의 필요성 등 다양한 요구 사항의 균형을 맞추는 법을 배워야 한다." 이 단계는 서유럽과 미국에서 최근 근로시간 관련 법률의 변경으로 더욱 복잡해졌다. 교육 활동에 사용할 수 있는 시간이 줄어든 반면, 임상 업무량은 증가했다.2–4 한편, 의료의 질은 대중의 관심을 더 끈다.5,6

Working and learning in the clinical environment represents a challenging phase for doctors in training. According to Daugherty et al., they  …must learn to balance such diverse demands as responsibility for patient care, economic hardships, on-call schedules, patient death, the need for constant learning, the task of teaching, the requirements of attending physicians and senior residents, along with the necessities of family and personal life .1 This phase is further complicated by recent changes in legislation for working hours in Western Europe and the USA; the clinical workload has grown, whereas the time available for educational activities has diminished.2–4 Meanwhile, the quality of health care attracts greater public attention.5,6


교육 경험의 중요한 요소 중 하나는 임상 학습 환경이다. 이러한 환경은 감독 품질, 교사의 질, 그리고 시설과 분위기와 같은 많은 중요한 측면을 포괄한다. SCOPME는 다음과 같이 명시하였다.  ...학습에 도움이 되는 작업 환경은 성공적인 훈련에 매우 중요하다.

One important component of the educational experience is the clinical learning environment. This environment encompasses many important aspects, such as the quality of supervision,7,8 the quality of teachers,9,10 and facilities and atmosphere.11,12. The Standing Committee on Postgraduate Medical Education (SCOPME) stated that  …a working environment that is conducive to learning is critically important to successful training .13,14


임상 학습 환경의 품질을 구체적으로 평가하는 기구는 몇 가지에 불과하다. Roff 등. PHEEM(Postgradors Hospital Educational Environment Measure, PHEEM)을 구성하고 검증하였다.16 설문지 개발자들은 PHEEM16,17의 항목을 검증하기 위해 대상 모집단에서 추출한 포커스 그룹, 공칭 그룹 및 델파이 패널을 포함하는 근거 이론의 형식을 사용했다.

Only a few instruments specifically assess the quality of the clinical learning environment. Roff et al. constructed and validated the Postgraduate Hospital Educational Environment Measure (PHEEM).16 The developers of the questionnaire used a form of grounded theory involving focus groups, nominal groups and a Delphi panel drawn from the target population to validate the items of the PHEEM.16,17


40항목 설문지는 교육의 질과 업무의 내용에 관한 항목으로 구성되지만, 팀의 일원이 되는 것, 감독의 질, 비난 없는 문화에서 일하는 것 등 사회적, 감정적 요소도 고려한다. 원저자는 

  • 역할자치role autonomy에 대한 인식, 

  • 사회적 지지에 대한 인식 

  • 교육에 대한 인

...을 측정하는 세 가지 항목과 이들의 항목별 점수를 표 1에 나타냈다.

The 40-item questionnaire consists of items about the quality of teaching and content of work, but also takes into account social and emotional factors, such as being part of the team, quality of supervision and working in a no-blame culture. The original authors identified 3 subscales which measured perceptions of role autonomy, perceptions of social support and perceptions of teaching.16,17 The items and their subscales are shown in Table 1.


이 기사에서 우리는 PHEEM의 두 가지 정신측정학적 특성을 조사한다. 

  • 첫 번째 심리학적 특성은 3개 하위척도의 구성 타당성이다. 우리가 아는 바로는, 이러한 구독에 대한 검증은 이전에 출판된 적이 없다. 

  • 두 번째 속성은 시간과 경우에 관계없이 데이터나 점수의 재현성으로 정의되는 설문지의 신뢰성이다. 

따라서 평가자의 개인 의견의 변동성과 불일치는 도구의 재현성에 부정적인 영향을 미칠 수 있다. 따라서 우리의 연구 목표는 PHEEM의 신뢰성에 대한 그러한 영향을 검토하는 것이다.

In this article we investigate 2 psychometric properties of the PHEEM. The first psychometric property is the construct validity of the 3 subscales. To our knowledge, no validation of these subscales has been published previously. The second property is the reliability of the questionnaire, defined as reproducibility of data or scores, independent of time and occasion.18 Variability and inconsistency among raters’ personal opinions may, hence, negatively affect the instrument’s reproducibility.18,19 Our research goal is therefore to examine such influences on the PHEEM’s reliability.


METHODS


도구

Instrument


각 과목(점원과 등록자)은 리커트 5점 만점으로 40개 항목을 채점했는데, 1점은 전혀 동의하지 않고 5점은 전적으로 동의한다. (원래 설문지에서는 0~4점의 5점 리커트 척도를 사용했는데, 우리는 이 척도를 더 통상적인 1~5 범위로 대체했다.) 4개 항목(항목 7, 8, 11, 13)에 부정적인 문구가 들어 있었기 때문에, 우리는 척도로 점수를 역전시켰다. 임상실습생과 등록의사는 본인을 지칭하는 단어를 제외하고는 똑같은 설문지를 받았다.

Each subject (clerks and registrars) scored the 40 items on a 5-point Likert scale, where 1 ¼ totally disagree and 5 ¼ totally agree. (The original questionnaire used a 5-point Likert scale of 0)4, which we replaced with the more conventional 1)5 range.) Because 4 items contained negative statements (items 7, 8, 11 and 13), we inverted the score on the scale. Clerks and registrars received the exact same questionnaire, except for the use of specific words such as  clerk  and  registrar .


대상과 절차

Subjects and procedure


PHEEM을 채운 6개 병원의 14개 부서(내과, 외과, 산부인과, 지네시스, 소아과, 신경과, 정신의학 포함)

Clerks from 14 different departments (including internal medicine, surgery, obstetrics and gynaecology, paediatrics, neurology and psychiatry) in 6 different hospitals filled out the PHEEM


25개 병원의 소아과 레지스터와 44개 병원의 산부인과 및 지내과 레지스터는 2005년 3-4월에 설문지를 작성했다.

Paediatrics registrars from 25 hospitals and obstetrics and gynaecology registrars from 44 hospitals completed the questionnaire during March–April 2005.


통계 분석

Statistical analysis


PHEEM 점수 분포의 정규성을 확인한 후 데이터의 간격 수준을 가정하고 파라메트릭 통계 방법을 사용했다.

After checking the normality of the distribution of PHEEM scores, we assumed an interval level of the data and used parametric statistical methods.


탐색적 요인분석

Exploratory factor analysis


PHEEM의 3개 항목별 구성 타당성을 평가하기 위해 탐색적 요인 분석(특히, 주요 성분 분석)에 이어 분산 분석(varimax 회전)을 사용했다. 탐색적 요인 분석을 통해 관측 변수(즉, 항목)가 상당히 적은 수의 요인에 의해 설명될 수 있는지 여부를 판단할 수 있다.20 주요 성분 분석은 설명된 항목과의 차이를 극대화하기 위해 0 상관 요인(직교 성분이라고 함)을 계산하여 통계 정보를 요약한다.가능한 한 효율적으로 항목에 n. 다음으로, 각 회전 인자와 각 항목의 상관 관계(이 맥락에서 부하)에 대해 최적의 해석을 가진 솔루션을 얻기 위해 이 선택된 인자에 대해 바리막스 회전을 수행했다. 우리는 그 결과를 고유값을 산술적으로 해석했다.

To evaluate the construct validity of the 3 subscales of the PHEEM, we used an exploratory factor analysis (specifically, principal components analysis) followed by varimax rotation. Exploratory factor analysis enables us to determine whether the observed variables (i.e. the items) can be explained by a considerably smaller number of factors.20 Principal components analysis calculates 0-correlating factors (called orthogonal components) to maximise explained variance fromthe items and thus summarises the statistical information in the items as efficiently as possible. Next, we performed a varimax rotation on these selected factors to obtain a solution that had optimal interpretation in terms of the correlations (in this context known as  loadings ) of each of the items with each of the rotated factors. We interpreted the results with a scree plot of the eigenvalues.


우리는 Mokken 척도 분석으로 알려진 연속적인 클러스터링 방법을 사용하여 탐색적 요인 분석의 결과를 확인하였다.21,22 이 방법은 동일한 구조를 클러스터로 측정하여 PHEEM 데이터의 차원성을 결정하는 데 사용할 수 있는 항목을 선택한다. 탐색적 요인 분석과 Mokken 척도 분석을 주의 깊게 비교한 결과, 이러한 방법들이 데이터의 차원성에 대한 다른 관점을 제공한다는 것이 밝혀졌다. 예를 들어 탐색적 요인 분석은 모든 항목을 동시에 고려하는 반면, Mokken 척도 분석은 항목을 하나씩 항목을 선택한다. 마찬가지로 탐색적 요인 분석은 설명된 분산을 최대화하는 것을 목표로 하고 있는 반면, Mokken 척도 분석은 심도적 확장성 기준을 최적화한다. 그러나 이들의 차이에도 불구하고, 이러한 방법들은 차원 구조가 분명히 존재할 때 같은 결론으로 이어진다.23

We checked the results of the exploratory factor analysis by means of a successive clustering method, which is known in psychometrics as Mokken scale analysis.21,22 This method selects items that measure the same construct into clusters and thus can be used to determine the dimensionality of the PHEEM data. A careful comparison of exploratory factor analysis and Mokken scale analysis revealed that these methods provide different perspectives on the dimensionality in data. For example, exploratory factor analysis considers all items simultaneously, whereas Mokken scale analysis selects items one after another. Likewise, exploratory factor analysis aims at maximising explained variance, whereas Mokken scale analysis optimises a psychometric scalability criterion. However, despite their differences, these methods lead to the same conclusions when a dimensionality structure is clearly present.23



일반화가능도 이론

Generalisability theory


우리는 신뢰성에 관한 연구 문제를 해결하기 위해 일반화 이론을 사용했다. 이 이론은 측정에 영향을 미치는 관련 영향의 크기를 추정할 수 있다. 이후 계측기의 신뢰성 추정은 다양한 신뢰성 지수에 기초한다. 여기에서 신뢰성은 측정 시 노이즈의 표준 편차(SD)로 표현되며, 즉 측정에 무작위 또는 노이즈(신호 대 노이즈에서와 같이 소음)가 발생하는 모든 영향의 SD로 표현된다. 우리는 항목을 고정 면으로 간주하고 PHEEM 총점(하위 척도)을 분석 단위로 사용했다. 우리는 사무원과 등록자를 위한 2가지 요인을 별도로 가지고 무작위 효과 분산 분석 모델을 수행했다. 그 요인은 부서(d)와 과목(s)이었다. 일반성 이론의 용어로, 우리는 사무원과 등록자를 위해 따로 부서 내에 내포된 주제를 가지고 단일 페이셋 분석을 실시했다. UrGenova 프로그램을 사용한 불균형 설계 추정 분산 성분.24 분산 성분 추정 후 사무원 및 등록자에 대해 별도로 측정(SEM)의 표준 오류를 추정했다.

We used generalisability theory to address the research questions about reliability. This theory allows estimation of the size of the relevant influences that affect the measurement. The subsequent estimation of the reliability of the instrument is based on a variety of reliability indices. Here reliability is expressed as the standard deviation (SD) of the  noise in the measurement , i.e. the SD of all influences that have a random or noisy effect on the measurement (noisy as in signal-versus-noise). We considered items to be a fixed facet and used the PHEEM total (subscale) score as the unit for analysis. We carried out a random-effects ANOVA model with 2 factors for clerks and registrars separately. The factors were departments (d) and subjects (s). In generalisability theory terms, we carried out a single-facet analysis with subjects nested within departments, separately for clerks and registrars. An unbalanced design using the UrGenova program estimated variance components.24 Following variance component estimation, we estimated the standard error of measurement (SEM), again separately for clerks and registrars.



결과

RESULTS


표 1은 두 그룹의 응답률, 기술 통계 및 평균 항목 점수를 보여준다.

Table 1 shows the response rate, descriptive statistics and mean item score for both groups.



3개 항목별 타당성 구축

Construct validity of the 3 subscales


설명요인 분석 후 점원 그룹의 분산 회전으로 고유값 > 1을 가진 10개의 요인이 나타났다. 첫 번째 인자의 고유값은 12.2(분산 30.6%에 대한 계산)였으며, 다음 9개 인자의 고유값은 <2.1(그림 1의 나무 그림)>이었다. 등록자 집단의 분석은 고유값 >1을 가진 9개의 요인을 보여주었다. 첫 번째 인자는 고유값 1⁄412.4 (분산 31.1%에 대한 계산)이었고, 다음 8은 고유값 <1.9 (그림 1의 나무 그림)>를 가지고 있었다. 이러한 결과는 3가지 뚜렷한 요인을 측정하는 설문지와 일치하지 않는다. 이러한 경우, 결과는 비교적 높은 고유값을 가진 세 가지 요인을 나타낼 것이다(이 요인은 가급적 함께 큰 비율의 분산을 고려한다). 그러나 그 결과는 1인자, 따라서 1차원 척도를 제시한다. 다음으로, 두 데이터셋에 대해 Mokken 스케일 분석을 수행했다. 그 결과 요인 분석 결과가 확인되었는데, 1개의 대형 항목 군집이 발견되어 1차원 척도를 나타냈다.

Exploratory factor analysis followed by varimax rotation of the clerk group resulted in 10 factors with an eigenvalue > 1. The first factor had an eigenvalue of 12.2 (accounting for 30.6% of variance), and the next 9 factors had eigenvalues <2.1 (scree plot in Fig. 1). The analysis of the registrar group showed 9 factors with eigenvalues >1. The first factor had an eigenvalue ¼12.4 (accounting for 31.1% of variance), and the following 8 had eigenvalues <1.9 (scree plot in Fig. 1). These findings are not consistent with a questionnaire measuring 3 distinct factors. In such a case, the results would show 3 factors with relatively high eigenvalues (which would preferably together account for a sizeable percentage of the variance). The results, however, suggest 1 factor and thus a 1-dimensional scale. Next, we performed a Mokken scale analysis on both datasets. The results confirmed the factor analysis results: 1 large item cluster was found, indicating a 1-dimensional scale.


2개의 독립적인 통계 분석 방법이 단차원 데이터 구조를 지원했고 3개의 항목별 존재에 대한 지지를 찾지 못했기 때문에, 우리는 평균 항목 점수와 함께 신뢰성 분석 결과만 제시한다.

As 2 independent statistical analysis methods supported a unidimensional data structure and we found no support of the existence of 3 subscales, we present only the results of the reliability analysis with the mean item score.



신뢰도 분석

Reliability analysis


임상실습생

Clerks


평균 항목 점수는 3.87점이었다.

The mean item score was 3.87.


표 2는 점원을 위한 우리의 추정된 SEM과 RMSE를 제시한다. 표 2의 상부는 1개 부서의 평가를 위한 SEM을 제시한다. SEM은 ‡14명의 응답자가 PHEEM을 완료했을 때 신뢰성 있는 수준 <0.13>에 도달했다.

Table 2 presents our estimated SEMs and RMSEs for clerks. The upper part of Table 2 presents SEMs for the evaluation of 1 department. The SEM reached a reliable level <0.13 when ‡14 respondents completed the PHEEM.


복수의 부서(표 2의 하위 부분)에 대한 평가의 신뢰성은 응답자 및 부서의 수에 따라 달라진다. RMSE <0.13>은 15개 부서와 2명의 응답자로 설정될 수 있다. 10개 부서와 3개 응답자도 믿을 만한 결과를 낸다. 이와는 대조적으로, 1개 부서는 응답자 수가 있을 수 없을 정도로 많지 않으면 신뢰할 수 있는 결과를 달성할 수 없다. 분명히 학과 그룹을 평가할 때는 응답자 수보다 학과 수를 늘리는 것이 효율적이다. 

The reliability of an evaluation of multiple departments (lower part of Table 2) depends on the number of respondents and departments. An RMSE <0.13 could be established with 15 departments and 2 respondents. Ten departments and 3 respondents also give a reliable result. By contrast, 1 department cannot achieve a reliable outcome unless the number of respondents is unfeasibly high. Clearly, when evaluating a group of departments, it is more efficient to increase the number of departments than the number of respondents. 


전공의

Registrars


표 3은 등록자에 대한 우리의 추정된 SEM과 RMSE를 보여준다. ‡11명의 응답자를 통해 1개 부서의 임상 학습 환경에 대한 신뢰할 수 있는 평가를 달성할 수 있다. 여러 부서에 대한 그룹 평가의 신뢰할 수 있는 결과를 얻으려면 응답자 수보다 부서의 수를 늘리는 것이 가장 쉬운 선택이다. 3개의 응답자와 10개의 부서가 신뢰할 수 있는 결과를 제공한다.

Table 3 shows our estimated SEMs and RMSEs for registrars. A reliable evaluation of the clinical learning environment of 1 department could be achieved with ‡11 respondents. For a reliable outcome of group evaluation of multiple departments the easiest option is to increase the number of departments rather than the number of respondents. Three  respondents and 10 departments give a reliable result. 



DISCUSSION


이 연구는 PHEEM으로 알려진 임상 학습 환경을 측정하기 위한 3개 항목의 구성 타당성과 기기의 신뢰성을 조사했다.

This study investigated the construct validity of 3 subscales and the reliability of an instrument to measure the clinical learning environment, known as the PHEEM


이러한 가입자의 통계적 분석은 앞에서 가설한 3차원 구조를 뒷받침하지 못했다.16 대신, 우리의 분석은 1차원 척도를 제안했다. 명백히, 원본 저자들에 의해 수행된 PHEEM의 내용 분석은 경험적으로 복제될 수 없다. 

The statistical analysis of these subscales did not support the 3-dimensional structure hypothesised earlier.16 Instead, our analysis suggested a 1-dimensional scale. Apparently the content analyses of the PHEEM as performed by the original authors cannot be replicated empirically. 


이 연구에 우리는 각각 256개와 339개의 완성된 설문지를 사용했다. 이 수치는 신뢰할 수 있는 탐색 요인 분석과 Mokken 척도 분석을 수행할 수 있을 정도로 높다. 따라서 PHEEM에 의해 측정된 1차원 구조의 발견은 그럴듯해 보인다. 설문지의 수도 PHEEM의 신뢰성을 충분히 추정할 수 있을 정도로 많다. 이와는 대조적으로, 각기 다른 전공과목과 병원은 동등하게 대표되지 않는다. 이번 연구에 포함된 45개 병원 중 소아과, 산부인과 의사만 조사했다. 임상실습생은 주로 1개의 병원과 2개의 전문분야(산부인과, 내과)에서 유래되었다. PHEEM의 광범위한 적용을 위해, 다른 나라의 다른 전문 분야들 간의 추가 연구가 필요하다.

We used 256 and 339 completed questionnaires, respectively, for this study. These numbers are high enough to perform a reliable exploratory factor analysis and a Mokken scale analysis. Thus, our finding of a 1-dimensional construct as measured by the PHEEM seems plausible. The number of questionnaires is also large enough to give a good estimation of the PHEEM’s reliability. By contrast, the different specialties and hospitals are not represented equally. Among the 45 different hospitals included in our study, we investigated only paediatrics, and obstetrics and gynaecology registrars. Clerks were mainly derived from 1 hospital and 2 specialties (obstetrics and gynaecology, and internal medicine). For widespread application of the PHEEM, further research among other specialties in different countries is necessary.


PHEEM의 기초가 되는 구조를 단 1개 발견했기 때문에 임상 학습 환경을 정확히 구성하는 것이 무엇인지 조사하는 것이 흥미로울 것이다. 다시 말해서 PHEEM의 내용 유효성은 무엇인가?

Because we found only 1 construct underlying the PHEEM, it would be of interest to investigate what exactly constitutes the clinical learning environment: in other words, what is the content validity of the PHEEM?


PHEEM은 점원과 등록자 모두의 임상 학습 환경을 측정하기 위한, 신뢰할 수 있는, 단차원 설문지이다.

The PHEEM is a 1-dimensional, reliable questionnaire for measuring the clinical learning environment for both clerks and registrars.



16 Roff S, McAleer S, Skinner A. Development and validation of an instrument to measure the postgraduate clinical learning and teaching educational environment for hospital-based junior doctors in the UK. Med Teach 2005;27 (4):326–31.











 2007 Jan;41(1):92-9.

Psychometric properties of an instrument to measure the clinical learning environment.

Author information

1
Department of Medical Education, Sint Lucas Andreas Hospital, Amsterdam, The Netherlands. k.boor@slaz.nl

Abstract

OBJECTIVES:

The clinical learning environment is an influential factor in work-based learning. Evaluation of this environment gives insight into the educational functioning of clinical departments. The Postgraduate Hospital Educational Environment Measure (PHEEM) is an evaluation tool consisting of a validated questionnaire with 3 subscales. In this paper we further investigate the psychometric properties of the PHEEM. We set out to validate the 3 subscales and test the reliability of the PHEEM for both clerks (clinical medical students) and registrars (specialists in training).

METHODS:

Clerks and registrars from different hospitals and specialties filled out the PHEEM. To investigate the construct validity of the 3 subscales, we used an exploratory factor analysis followed by varimax rotation, and a cluster analysis known as Mokken scale analysis. We estimated the reliability of the questionnaire by means of variance components according to generalisability theory.

RESULTS:

A total of 256 clerks and 339 registrars filled out the questionnaire. The exploratory factor analysis plus varimax rotation suggested a 1-dimensional scale. The Mokken scale analysis confirmed this result. The reliability analysis showed a reliable outcome for 1 department with 14 clerks or 11 registrars. For multiple departments 3 respondents combined with 10 departments provide a reliable outcome for both groups.

DISCUSSION:

The PHEEM is a questionnaire measuring 1 dimension instead of the hypothesised 3 dimensions. The sample size required to achieve a reliable outcome is feasible. The instrument can be used to evaluate both single and multiple departments for both clerks and registrars.

PMID:
 
17209897
 
DOI:
 
10.1111/j.1365-2929.2006.02651.x


교육환경(교수학습의 ABC) (BMJ, 2003)

Educational environment (ABC of learning and teaching) (BMJ, 2003)

Linda Hutchinson




배움은 몇 가지 요인에 따라 다르지만 중요한 단계는 학습자의 참여다. 이것은 그들의 동기와 관련성에 대한 인식에 의해 영향을 받는다. 이는 다시 학습자의 이전 경험과 선호하는 학습 스타일과 학습이 이루어지는 맥락과 환경에 의해 영향을 받을 수 있다. 성인 학습 이론에서 가르침은 지식을 전달하거나 전문 지식을 공유하는 것과 마찬가지로 학습의 맥락이나 풍토를 정하는 것이다.

Learning depends on several factors, but a crucial step is the engagement of the learner. This is affected by their motivation and perception of relevance. These, in turn, can be affected by learners’ previous experiences and preferred learning styles and by the context and environment in which the learning is taking place. In adult learning theories, teaching is as much about setting the context or climate for learning as it is about imparting knowledge or sharing expertise.


동기

Motivation


동기부여는 내재적(학생으로부터)이거나 외재적(외적 요인으로부터)일 수 있다.

Motivation can be intrinsic (from the student) and extrinsic (from external factors).


동기부여에 있어서 선생님의 역할은 과소평가되어서는 안 된다. 과목에 대한 열성, 학생들의 경험에 대한 관심, 명확한 방향(다른 것보다도)은 모두 학생들의 관심을 유지하고 정보와 이해의 동화를 개선하는 데 도움이 된다.

A teacher’s role in motivation should not be underestimated. Enthusiasm for the subject, interest in the students’ experiences, and clear direction (among other things) all help to keep students’ attention and improve assimilation of information and understanding.


그러나 좋은 내재적 동기 부여에도 불구하고 외부적 요인은 동기부여와 환멸을 감소시킬 수 있다. 방해, 교사들의 도움이 되지 않는 태도, 그리고 신체적 불편함은 학습자들을 혼란스럽게 할 것이다. 매슬로는 동기부여의 구성 요소를 설명하기 위한 모델을 설명했다. 각 층은 "자기 실현"의 정점에 도달하기 전에 제자리에 있어야 한다.

Even with good intrinsic motivation, however, external factors can demotivate and disillusion. Distractions, unhelpful attitudes of teachers, and physical discomfort will prompt learners to disengage. Maslow described a model to illustrate the building blocks of motivation. Each layer needs to be in place before the pinnacle of “self actualisation” is reached.



생리적 요구

Physiological needs


예를 들어, 많은 교사들은 춥거나 과열된 방에서, 다과가 없는 긴 시간 동안, 시끄러운 방에서, 불편한 좌석이 있는 시설에서 세션을 운영하는 것의 어려움을 경험했을 것이다.

many teachers will have experienced, for example, the difficulties of running sessions in cold or overheated rooms, in long sessions without refreshments, in noisy rooms, in facilities with uncomfortable seating.


신체적 요인은 학습자와 교사들이 긴장을 풀고 주의를 기울이기 어렵게 할 수 있다. 적절한 휴식을 보장하고 신체적인 환경을 배려하는 것은 선생님의 역할의 일부분이다.

Physical factors can make it difficult for learners and teachers to relax and pay attention. Ensuring adequate breaks and being mindful of the physical environment are part of the teacher’s role.


안전

Safety


교사는 학습자가 안심하고 실험하고, 우려의 목소리를 내고, 지식 부족을 파악하고, 한계를 넓히는 환경을 제공하는 것을 목표로 해야 한다. 예를 들어, 굴욕, 괴롭힘, 그리고 개인적인 세부사항의 강제적인 공개 위협을 통해 안전이 훼손될 수 있다.

A teacher should aim to provide an environment in which learners feel safe to experiment, voice their concerns, identify their lack of knowledge, and stretch their limits. Safety can be compromised, for example, through humiliation, harassment, and threat of forced disclosure of personal details.


이름을 기억하고 학습자를 기본 규칙 설정에 참여시키는 것은 상호 신뢰를 쌓는 또 다른 예다.

Remembering names and involving the learners in setting ground rules are other examples of building mutual trust.


소속감

Belonging


많은 요소들이 학생들에게 그룹이나 팀에 소속감을 주는 데 도움을 준다. 예를 들어 존경받는 멤버가 되는 것, 자신의 목소리를 듣고 경청받는 것, 유용한 역할이 주어지는 것, 비슷한 배경, 경험, 목표를 가진 동료들이 그것이다.

Many factors help to give a student a sense of belonging in a group or team—for example, being a respected member, having one’s voice heard and attended to, being given a useful role, and having colleagues with similar backgrounds, experiences, and goals.


학습자들은 포함inclusion과 상담을 통해 동기부여를 받는다. 강좌의 목적과 구조물에 그들의 의견, 평가되고 있는 철저히 추구하여야 한다. 임상실습에서 교수는 의대생들이 무시, 소외 또는 "방해"라고 느끼지 않도록 도와야 한다. 대신에 학생들은 임상 단위나 팀의 자산으로 평가value되어야 한다.

Learners are motivated through inclusion and consultation. Their input to a course’s objectives and structure should be sought, valued, and acted on. On clinical placements, staff should help to prevent medical students from feeling ignored, marginalised, or “in the way.” Students should instead be valued as assets to a clinical unit or team.


자존감

Self esteem


파괴적인 비평보다는 칭찬, 감사의 말, 건설적인 비평이 중요하다. 자존감을 형성하는 데는 많은 긍정적인 순간들이 걸릴 수 있지만, 그것을 파괴하는 데는 단지 한 가지 불친절하고 사려 깊지 못한 논평이 필요하다.

Praise, words of appreciation, and constructive rather than destructive criticism are important. It can take many positive moments to build self esteem, but just one unkind and thoughtless comment to destroy it.


의사들은 의사-환자 관계에서 그들의 역할에 잘 익숙하다. 어떤 사람들은 같은 기술과 태도를 교사-학생 관계에 번역translate하는 것을 어려워한다. 그들 자신의 교육 경험이나 그들 자신의 산만함, 시간 압박, 그리고 다른 스트레스들이 요인일 수 있다.

Doctors are well used to their role in the doctor-patient relationship. Some find it hard to translate the same skills and attitudes to the teacher-student relationship. Their own experience of education or their own distractions, time pressures, and other stresses may be factors.


자기실현

Self actualisation


불안감 없이 내재적 동기부여를 장려하는 기풍은 "깊은" 학습 접근에 도움이 된다. 하지만, 일부 사람들은 제공되는 교육에 응답하지 못할 수도 있다. 교사들은 그 과정(또는 그 특정 학습)이 그 학생에게 적합한지 여부를 고려할 필요가 있을 것이다.

An ethos that encourages intrinsic motivation without anxiety is conducive to a “deep” learning approach. However, there may be some who remain unable to respond to the education on offer. Teachers may need to consider whether the course (or that particular piece of study) is suitable for that student.


관련성

Relevance


학생들이 배우고 있는 것에 대한 관련성에 대한 인식은 학습에 필수적인 동기부여가 된다.

Students’ perception of the relevance of what they are being taught is a vital motivator for learning


학습의 관련성은 동기부여와 밀접하게 연관되어 있다. 즉, 즉각적인 필요성, 향후 작업에 대한 적합성, 내용에 관계 없이 자격증이나 학위를 취득하는 것과 관련이 있다. 학습을 위한 학습이 직업적 또는 산업적 준비를 향한 움직임 후에 고등 교육에서 다시 유행하고 있다.

The relevance of learning is closely linked to motivation: relevance for immediate needs, for future work, of getting a certificate or degree regardless of content. Learning for learning’s sake is back in vogue in higher education after a move towards vocational or industrial preparation.


어떤 의학 학위 과정들은 학생들에게 악명 높게 평가되어 왔다. 교수들은 학생들에게 왜 이런 과정이 필요한지, 그리고 어떻게 그들이 미래의 실습과 연결되는지 설명할 필요가 있다. 그들이 초기 임상 노출과 경험을 통해 스스로 볼 수 있도록 하는 것이 도움이 될 것 같다. 마찬가지로, 임상 상황의 맥락에서 기초 의학을 배우는 것은 PBL의 기초가 된다.

Certain courses in medical degrees have been notoriously poorly received by students. Faculty members need to explain to students why these courses are necessary and how they link to future practice. Allowing themto see for themselves, through early clinical exposure and experience, is likely to be helpful. Similarly, learning the basic medical sciences in the context of clinical situations is the basis for problembased learning.


교사가 자신이 잘 모르는 학습자와 일회성 세션을 수행하도록 요청받은 경우, 

세션을 시작하기 전에 학습자가 무엇을 알고, 무엇을 알고싶어하고, 무엇을 배워야하는지 결정하여 준비해야 한다. 

이것은 학습자에 대한 존경심을 포함하고 보여주며 그들이 세션에 투자하도록 격려한다.

If a teacher is asked to do a one-off session with learners they don’t know, he or she should prepare—both before and at the start of the session—by determining what the learners know, want to know, and expect to learn. This involves and shows respect for the learners and encourages themto invest in the session


롤모델로서 선생

Teacher as role model


교사나 조력자는 교육 환경에서 가장 강력한 변수 중 하나이다. 선생님의 행동, 태도(목소리, 논평에서 증명된 바와 같이), 열정, 그리고 그 주제에 대한 관심이 학습자들에게 간접적으로 영향을 미칠 것이다. 잠재의식적인 메세지의 능력은 엄청나다. 교수들에 의한 부적절한 행동이나 표현은 눈에 띌 것이다; 최악의 경우에는 학습자들은 그 행동을 따라할 것이며, 가장 좋게 봐줘봐야 학생들은 그런 행동에 대한 암묵적인 허락을 받은 것이다.

The teacher or facilitator is one of the most powerful variables in the educational environment. The teacher’s actions, attitudes (as evidenced by tone of voice, comments made), enthusiasm, and interest in the subject will affect learners indirectly. The capacity for subliminal messages is enormous. Inappropriate behaviour or expression by a staff member will be noticed; at worst the learners will want to emulate that behaviour, at best they will have been given tacit permission to do so.


(나쁜 태도를 포함하여) 태도를 "배우는" 것은 쉽다. 태도는 상대적인 권력이나 연공자의 관찰을 통해 배운다. 

그러므로 교사들은 학생들이 있는 곳에서 좋은 역할 모델을 제공한다는 것을 알아야 한다.

It is easy to “learn” attitudes—including poor attitudes. Attitudes are learnt through observation of those in relative power or seniority. Teachers must therefore be aware of providing good role modelling in the presence of students


학습환경 최대화하기

Maximising educational environment


교실, 튜토리얼, 세미나, 강의

Classroom, tutorials, seminars, lectures



실내 온도, 편안한 좌석, 배경 소음, 시각적 산만함은 모두 집중력과 의욕에 영향을 미칠 수 있는 환경의 요인이다. 일부는 선생님의 통제하에 있고, 다른 일부는 그렇지 않다.

Room temperature, comfort of seating, background noise, and visual distractions are all factors of the environment that can affect concentration and motivation. Some are within the teacher’s control, others not.


학습자와 그들의 필요성에 대한 존중, 칭찬, 참여의 격려는 모두 긍정적인 학습 경험으로 이어질 수 있다. 비록 도전은 보람 있고 즐거울 수 있지만, 개인의 진실성integrity과 자존감에 대한 위협의 부족은 필수적이다.

Respect for the learners and their needs, praise, encouragement of participation can all lead to a positive learning experience. Lack of threat to personal integrity and self esteem is essential, although challenges can be rewarding and enjoyable.


소규모 그룹 교육은 개인의 피드백을 용이하게 하지만, 사용된 좌석 배치는 학생 참여에 중요한 영향을 미칠 것이다. 예를 들어, 학생들이 전통적인 교실 줄에 앉는다면, 가장자리에 있는 학생들은 제외되었다고 느낄 것이다. 원형 형식은 상호작용을 장려한다. 그것은 교사가 말 많은 사람과 나란히 앉게 하여 눈에 띄지 않게 하고 그들의 입력을 감소시킨다. 조용한 학생은 비언어적 수단을 통해 참여를 장려하기 위해 반대편에 배치될 수 있다. 학생들은 또한 어떤 주제에 대해 무절제한 그룹으로 작업할 수 있어 팀별로 작업하고 학습 과제를 공유할 수 있다.

Small group teaching facilitates individual feedback, but the seating arrangement used will have an important effect on student participation. If, for example, students sit in traditional classroom rows, those on the edges will feel excluded. A circular format encourages interaction. It allows the teacher to sit alongside a talkative person, thus keeping them out of eye contact and reducing their input. A quiet student can be placed opposite to encourage participation through non-verbal means. Students can also work in unfacilitated groups on a topic, enabling them to work in teams and share the learning tasks.


양호한 물리적 환경을 보장하기 위한 체크리스트 

  • 그 방은 사이즈가 맞니? 

  • 온도는 편안한가? 

  • 산만함(소음, 시각적 산만함)이 있는가, 아니면 외부인가? 

  • 좌석이 적절한가, 그리고 어떻게 배치되어야 하는가? 

  • 시청각 장비가 작동하는가? 


Checklist to ensure good physical environment 

  • Is the room the right size? 

  • Is the temperature comfortable? 

  • Are there distractions (noise, visual distractions inside or outside)? 

  • Is the seating adequate, and how should it be arranged? 

  • Does the audiovisual equipment work? 


임상환경

Clinical settings


실제 생활 환경에서는 교사와 임상의사의 이중 역할이 복잡할 수 있다. 학생들은 임상에 대한 숨겨진 메시지를 수집하면서 임상의사를 면밀히 관찰할 것이다. 그들은 그들이 불필요하게 환자나 가족에게 고통을 주거나 해를 끼칠 위험이 없다는 것을 느낄 필요가 있다. 그들은 또한 굴욕으로부터 안전함을 느낄 필요가 있다. 학생이 새로운 자리나 위치에 도착할 때 환영 받고 가치 있게 느끼도록 하는 것은 내내 그들의 학습에 도움이 될 것이다.

In real life settings, the dual role of teacher and clinician can be complicated. The students will be closely observing the clinician, picking up hidden messages about clinical practice. They need to feel that there is no danger that they will unnecessarily distress or harm patients or their families. They also need to feel safe from humiliation. Making them feel welcomed and of value when they arrive at a new placement or post will aid their learning throughout.


임상 환경에서 강의하기 위한 체크리스트 

  • 환자와 가족들은 학생들이 출석할 수 있도록 동의했는가? 

  • 직원은 교육이 계획되어 있다는 것을 알고 그들의 역할이 무엇인지 이해하는가? 모든 참가자를 위한 적절한 공간이 있는가? 

  • 가르치는 데 시간이 얼마나 남았니? 

  • 학생들이 어떻게 유용하다고 느끼도록 만들 수 있는가(예: "예: 사전 클리어링" 및 프레젠테이션)


Checklist for teaching in clinical settings 

  • Have patients and families given consent for students to be present? 

  • Do the staff know that teaching is planned and understand what their roles will be? Is there adequate space for all participants? 

  • How much time is available for teaching? 

  • How may the students be made to feel useful (for example, “pre-clerking” and presenting)?


과정 및 커리큘럼 설계

Course and curriculum design


장단기 코스의 설계자는 잠재적 학습자에게 학습 환경의 관련성을 고려해야 한다. 커리큘럼 위원회에 학생 대표자를 참여시킴으로써 더 많은 학생 중심적 과정을 보장하는 하나의 수단이다.

The designers of short and long courses should consider the relevance of the learning environment to the potential learners. Student representation on curriculum committees is one means of ensuring a more student centred course.


목적, 목적 및 평가는 코스에 앞서 잘 게시되어야 하며, 명시적으로 공정해야 한다. 교수법은 [학습자의 경험]을 토대로 만들어져야 하며, 협력적인 환경을 조성해야 한다. 과정 평가 결과에 이어 직원 교육까지 보급하면 교직원들 사이에서 바람직하지 않은 행동을 파악하고 시정하는 데 도움이 된다. 평가에는 또한 학생들과 함께 코스의 목표와 목표를 검토하는 수단이 포함되어야 한다.

The aims, objectives, and assessments should be signposted well in advance of a course and should be demonstrably fair. The teaching methods should build on learners’ experience, creating a collaborative environment. Disseminating the findings of course evaluations, followed by staff training, helps to identify and correct undesirable behaviour among faculty members. Evaluations should also include a means for reviewing the course’s aims and objectives with the students.


긴 과정에서는 학생 지원 시스템과 집단 정체성을 구축하는 비공식 활동을 고려해야 한다. 어려움이 있는 학생은 조기에 파악해 추가 지원이 필요하다.

In longer courses, student support systems and informal activities that build collective identity must be considered. Students who are having difficulties need to be identified early and given additional support.






. 2003 Mar 15; 326(7389): 591–594.

PMCID: PMC1125480
PMID: 12637408
ABC of learning and teaching in medicine

Learning and teaching in the clinical environment


DREEM 파트2: osteopathic 학생에서 심리측정적 특성(BMC Med Educ, 2014)

The DREEM, part 2: psychometric properties in an osteopathic student population

Brett Vaughan1,2*†, Jane Mulcahy1† and Patrick McLaughlin1,2† 





배경

Background


DREEM(Dundee Ready Education Environment Measure)은 Roff 등에 의해 개발되었다. [1]

The Dundee Ready Educational Environment Measure (DREEM) was developed by Roff et al. [1]



이 검토[3-13] 이후 DREEM을 사용한 추가 연구들이 발표되었다. 단, Hammond 등 이외의 연구도 발표되었다. [3] 아무도 이 척도의 정신학적 특성을 조사하지 않았다.

Additional studies using the DREEM have been published since this review [3-13], however, other than Hammond et al. [3] none investigated the psychometric properties of the measure.


많은 저자들이 DREEM의 요인 구조를 조사했으며 5요소 구조를 재현하지 못했다[3,15-17]. 해먼드 외 [3] DREEM의 심리측정적 특성과 관련된 여러 가지 문제를 강조하였다. 그들의 연구는 DREEM의 원래 5요소 모델에 맞는 것을 생산하기 위해 50개 항목 중 17개를 제거해야 한다는 것을 보여주었다. 유소프 [18]는 말레이시아 의대생 모집단에서 확인 인자 분석(CFA)(1+1 요인 모델과 원래 5 요인 모델의 분석)을 사용하여 DREEM의 5개 모델을 생성했다. 모델 적합은 17개 항목의 원래 5요소 모델을 통해서만 달성되었다. Jakobsson 등이 수행한 탐색 요인 분석. [17] 스웨덴어 버전의 DREEM에 대한 연구에서 5개에서 9개의 요인 솔루션 사이에서 밝혀졌다. 이 저자들은 [3,17,18] DREEM 척도의 내부 일관성과 구성 타당성이 안정적이지 않으며, 모델 자체를 개정할 필요가 있을 수 있다고 결론지었다.

A number of authors have investigated the factor structure of the DREEM and have failed to reproduce the 5-factor structure [3,15-17]. Hammond et al. [3] highlighted a number of issues with the psychometric properties of the DREEM. Their research indicated that in order to produce a fit for the original 5-factor model of the DREEM, 17 out of the 50 items had to be removed. Yusoff [18] produced five models of the DREEM using confirmatory factor analysis (CFA) (plus one one-factor model and an analysis of the original five-factor model) in a Malaysian medical student population. Model fit was only achieved with the original five-factor model with 17 items. An exploratory factor analysis conducted by Jakobsson et al. [17] revealed between five and nine factor solutions in their study of a Swedish version of the DREEM. These authors [3,17,18] have concluded that the internal consistency and construct validity of the measure is not stable, and that the model itself may need to be revised.



방법

Methods


Study design


Participants


Data collection


Data analysis


Data were entered into SPSS for Mac (IBM Corp, USA) for analysis. A flow diagram outlining the data analysis process is found at Figure 1. The data were transformed and a CFA was performed on the data set with the 5-factor structure identified by Roff et al. [19] and then on the 5-factor structure model proposed by Hammond et al. [3]. The SPSS data file was transferred to AMOS Version 21 (IBM Corp) for the CFA calculation using the Maximum Likelihood Estimation method. CFA investigates the fit of the data to the constructed model, and presents relationships between the data in the model and estimations of error. In the CFA a range of model fit statistics are generated to describe how the data fits the model being tested. Readers are encouraged to access Brown [20] and Schreiber et al. [21] who present further detail about the CFA process and the fit statistics. The data were not normally distributed a bootstrapping procedure was applied for each of the two models, 1000 iterations of the data were generated. No changes to either of the models were made based on the results of the CFA.



Given the authors of the DREEM have recommended calculating a total score for the scale, a Rasch analysis is appropriate [22]. Rasch analysis provides a mathematical model of the data that is independent of the sample, rather than the sample dependent calculation used in classical test theory [23,24]. In this analysis, data are fitted to the Rasch mathematical model as closely as possible [23]. The data were converted in SPSS to an ASCII format and imported into the RUMM2030 (RUMM Laboratory, Australia) program for Rasch analysis, where the polytomous Partial Credit Model was used.


The RUMM2030 program produces three model fit statistics in order to determine the fit to the model. The first is an item-trait chi-square (χ2) statistic demonstrating the invariance across the trait being measured. A staχ2 tistically significant Bonferonni-adjusted indicates misfit to the Rasch model. The other two statistics relate to the item-person interaction, where the data is transformed to approximate a z distribution. A fit to the Rasch model is indicated by a mean of 0 and a standard deviation (SD) of 1. Further, individual item and person statistics are presented as residuals and a χ2 statistic. SD’s Residual greater than ± 2.5 and/or significant Bonferroni-adjusted χ2 statistics indicate poor item fit, and residual SD’s greater than ± 2.5 indicate a poorly fitting person(s). Person fit issues can produce misfitting items [25]. Internal consistency of the scale is calculated using the Person Separation Index (PSI) which is the ratio of true variance to observed variance using the logit scores [22]. The minimum PSI is 0.70 for group use which indicates acceptable internal consistency [22].


Examination of the fit of each item to the Rasch model is undertaken by observing the item thresholds and category probability curves. The threshold is the point at which there is an equal probability of the respondent selecting one option over another, in order (i.e. 2 or 3 on the item scale, not 1 or 3). RUMM2030 provides two graphical approaches for observation of the thresholds, a threshold map and the category probability curve. Disordered thresholds can exist where respondents are not selecting the responses in an ordered fashion. This can sometimes be resolved by rescoring the item in order to collapse one or more scale response options into one score. An example of this rescoring is where the original scale scoring was 1, 2, 3, 4, 5 with a disordered threshold; the item may be rescored as 1, 1, 2, 3, 4 for example. To resolve the disordering, RUMM2030 requires that scale options are coded sequentially.


Person fit issues are examined using the fit residual SD. If the SD is between −2.5 and +2.5 then the person’s response to the scale is deemed to fit the Rasch model. Generally, person’s whose responses are outside of this range are removed from the analysis.


Once any person and item issues have been resolved, differential item function (DIF) is examined. DIF is where the response to an item on the scale is consistently dependent upon a factor outside of that being measured on the scale (i.e. age, gender). In RUMM2030, DIF can be viewed graphically and in table form. In the table, a Bonferonni-adjusted statistically significant p-value indicates a significant main effect for that factor. RUMM2030 provides the opportunity to spilt items affected by DIF in order to score the item based on the factor affecting the item [25]. This may produce different subscale or total scale scores. Where DIF is undesirable, the item may need to be removed from the scale.


Residual correlations are then calculated to observe whether there is local dependency. Local dependency is where one item on the scale correlates with another, inflating the PSI. In RUMM2030, items that have a correlation of 0.20 or more are examined. Where there is a substantial change in the PSI (often a decrease), removal of one of the items is often required. When all scale issues have been resolved, a principal components analysis is undertaken to assess the unidimensionality of the scale. Unidimensionality is an underlying assumption of the Rasch model [22,26]. Performing a paired t-test on the items loading on the first factor (or Rasch factor) allows for the examination of whether the person estimate for the first factor differs from that of all of the items combined. When the person estimate is the same for the first factor and all scale items, the scale is determined to be unidimensional. Unidimensionality is a desirable outcome for scales of this type as it indicates that the scale is measuring a single underlying construct. Tennant & Conaghan [22] provide an overview of testing for dimensionality.



결과

Results


표1

Table 1.



전반적 척도

Overall scale


Statistics for the CFA for both models are presented in Table 2. The data from the present study did not fit either model for any of the fit statistics. The path models generated by AMOS are at Additional file 1 (Roff et al. [19] scale) and Additional file 2 (Hammond et al. [3] scale).



The data did not fit the Rasch model as demonstrated by the statistically significant χ2 value (p < 0.0001). The PSI (0.922) indicated internal consistency of the DREEM. The standard deviation fit residuals for both items (1.86) and persons (1.93) were greater than 1.5 indicating that both the DREEM items and person responses did not fit the Rasch model. Poor fit residuals (>2.5) were noted for items 9, 7, 19, 27, 28 and 50, along with statistically significant χ2 values for items 16, 25, 27, 28 and 35, indicating a poor fit of these items to the Rasch model. Disordered thresholds were observed for items 1, 2, 5–7, 12–16, 18–24, 27, 28, 33–35, 38, 40–45, 47 and 49. Forty-four persons also failed to fit the Rasch model. Differential item functioning was analysed for each item. Age and receiving a government allowance did not impact on any items. Gender (item 45), employment (item 31) and year level (items 2, 6, 10, 15, 17, 18, 20, 22, 24, 26, 28, 31, 38, 40, 50) demonstrated DIF. Six separate Rasch analyses failed to produce a satisfactory unidimensional model fit.


Subscale rasch analysis


Perception of teaching


The item-trait interaction was statistically significant (p = 0.000043) suggesting misfit between the data and Rasch model. The PSI was 0.853 indicating acceptable internal consistency. Person fit was acceptable (fit residual SD= 1.30) however the item fit residual SD was 1.69, beyond the recommended cut-off of 1.50.


Four separate analyses were conducted that included recoding of item response scales, and deletion of misfitting persons and items. A model fit was achieved through the deletion of 5 of 12 items (1, 7, 25, 38, 44) and the removal of data for 25 of 245 misfitting persons. No recoding of the remaining scale items was necessary. The model fit statistics were χ2 =0.694, PSI =0.819, item fit residual SD=1.25, and person fit residual SD=0.94. The remaining items were 13, 16, 20, 22, 24, 47, and 48 (Table 3). No threshold disordering was present and the residual correlations did not indicate any local dependency. Age, gender, employment status, and receiving a government allowance did not demonstrate DIF. Items 22 and 24 demonstrated DIF for year level. PCA demonstrated a unidimensional scale.


Perception of Teachers


Academic self-perception


Perception of Atmosphere


Social self-perception




라쉬 분석기반 DREEM 

Rasch-analysed DREEM


The 23 items from the Rasch-analysed subscales were then reanalysed as one whole scale using the Rasch model, in order to determine if the modified 5-factor DREEM was unidimensional. The scale fit statistics were: chi-square (χ2 < 0.001), PSI (0.872), itemfit residual (SD= 1.79) and person fit residual (SD= 1.51). These statistics indicate a poor fit to the Rasch model. Items 26, 46 and 50 demonstrated a poor fit and disordered thresholds were observed for items 13, 16, 20, 21, 22, 24, 34 and 47. Twenty-three misfitting persons were also identified.


Four Rasch models were generated. Ten items (3, 4, 10, 16, 20, 26, 31, 46, 47, 50) were deleted as were data for 28 persons. Rescoring of item 21 was required in order to resolve the threshold disordering – rather than being scored as 0, 1, 2, 3, 4 the itemwas scored 0, 0, 1, 2 and 3 (Figure 2). DIF for age was observed for item 37 and DIF for year level was observed at item 22, 24, and 37. Item 37 was subsequently deleted and this also resolved the DIF for item 22. The scale fit statistics following these modifications were: chi-square (χ2 = 0.421), PSI (0.859), item fit residual (SD= 1.04) and person fit residual (SD= 1.00). No residual correlations were observed and the PCA indicated the scale was unidimensional. The 12-item version of the DREEMcan be summed to produce a total score for the scale. The threshold map for the revised scale is at Figure 3. The personitem threshold is displayed at Figure 4 and demonstrates a mean person location of 1.578.






고찰

Discussion


본 연구는 고전적인 시험 이론과 항목 반응 이론을 모두 사용하여 DREEM의 정신학적 특성을 제시하였다. VU의 골병리학 프로그램에서 학생 모집단의 데이터는 Roff 등이 제안한 DREEM의 a-priori 5-요인 구조에 맞지 않았다. [1] 및 Hammond 등[3]이 제안한 요인 구조. 해먼드 외 [3] 17개 항목은 0.7 미만의 적합 지수를 가지고 있으므로 제거해야 한다는 점에 주목했다. 그러나 이들의 모델링은 18개 항목의 지수가 0.7 미만이고 추가 파일 2의 모델은 18개 항목의 삭제를 나타낸다. 현재 데이터에 맞는 모델을 개발하려면 두 모델에 모두 상당한 변경이 필요할 것이다. Yusoff [18]은 말레이시아 의대생 표본에서 원래의 5요소 구조에 맞추기 위해 DREEM의 단축판(17항목)이 필요하다는 것을 입증했다. 이러한 결과는 본 연구에서 수행된 바와 같이 문항응답이론을 사용하여 DREEM 구조에 대한 추가 분석의 필요성을 뒷받침한다.

This study has presented the psychometric properties of the DREEM using both classical test theory and item response theory. Data from the student population in the osteopathy program at VU did not fit either the a-priori 5-factor structure of the DREEM proposed by Roff et al. [1] nor the factor structure proposed by Hammond et al. [3]. Hammond et al. [3] noted that 17 items had fit indices less than 0.7 and should be removed. However their modelling suggested that 18 items had indices less than 0.7 and the model at Additional file 2 represents the deletion of 18 items. Significant changes to both models would be required in order to develop a model that fits the current data. Yusoff [18] demonstrated in a sample of Malaysian medical students, that a shortened version (17 items) of the DREEM was required in order to fit the original five factor structure. These results support the need for further analysis of the structure of the DREEM using item response theory, as undertaken in the present study.


Rasch 분석은 반응과 무관하게 척도를 분석할 수 있는 기회를 제공하며, 척도를 정련하여 심리측정적 가치를 높일 수 있는 역할을 할 수 있다. 데이터는 탐사 인자 분석을 통해 확인된 a-priori 구조(즉, CFA) 또는 요인 구조에 데이터를 맞추는 대신 Rasch 수학적 모델에 적합하다. DREEM의 데이터를 Rasch 모델에 입력했으며 전체 50개 항목 규모에 적합한 모델을 식별할 수 없었다. 해먼드 외 [3] DREEM이 1-요인 척도일 수 있음을 제안하였다. Rasch 모델에 맞지 않는다는 것은 50개 항목 DREEM이 단차원적이지 않으며 교육 환경의 기본적인 a-priori 구조를 측정하지 않을 수 있음을 시사한다. 이 결과는 또한 각 항목의 결과를 DREEM의 총 점수로 합산하는 것이 문제가 될 수 있으며 타당한 실천sound practice이 아닐 수 있음을 시사한다[27].

Rasch analysis provides an opportunity to analyse a scale independently of the responses and can play a part in refining a scale to enhance its psychometric value. Data is fitted to the Rasch mathematical model rather than fitting the data to the a-priori structure (i.e. CFA) or factor structure identified through an exploratory factor analysis. Data from the DREEM were entered into the Rasch model and no suitable model could be identified for the full 50-item scale. Hammond et al. [3] suggested that the DREEM may be a one-factor scale. The lack of fit to the Rasch model suggests the 50-item DREEM is not unidimensional and possibly not measuring the underlying a-priori construct of educational environment. This result also suggests that summing the result of each item into a total score for the DREEM may be problematic and not sound practice [27].



DREEM의 50개 항목 버전에 대한 PSI는 0.922로, 스케일이 내부적으로 일치함을 나타낸다. 이는 크론바흐의 알파 점수가 0.75 [28], 0.87 [5], 0.89 [29], 0.90 [6,30], 0.912 [31], 0.93 [7,18,32,33]인 저자와 일치한다. 알파 점수의 이러한 변동성은 통계의 표본 의존성을 입증하며 저자가 DREEM의 심리학적 상태를 계속 조사해야 할 필요성을 뒷받침한다. 또한 0.90을 초과하는 알파 점수는 DREEM 항목에 중복성이 있을 수 있음을 시사한다. 서로 강하게 상관관계가 있는 항목은 점수를 부풀릴 수 있기 때문이다.

The PSI for the 50-item version of the DREEM was 0.922 indicating that the scale is internally consistent. This is in agreement with a range of authors who have reported Cronbach’s alpha scores of 0.75 [28], 0.87 [5], 0.89 [29], 0.90 [6,30], 0.912 [31], and 0.93 [7,18,32,33]. This variability in alpha scores demonstrates the sample-dependent nature of the statistic and supports the need for authors to continue to investigate the psychometrics of the DREEM. Additionally, the alpha scores over 0.90 suggest that there may be redundancy in the DREEM items, as items that correlate strongly with each other can inflate the score.



DREEM에 복수의 치수가 있는지 확인하기 위해, Roff 등으로부터 식별된 각 항목에서 Rasch 분석을 실시했다. [19. 다양한 퀄리티의 5개 하위항목별 Rasch 모델 적합이 달성되었다. 가장 잘 맞는 것은 PSI가 0.80이 넘는 SPL 척도였. 이것은 이 하위 척도에 대한 크론바흐의 알파 점수가 종종 강한 이전의 연구와 일치한다. 예를 들어, Hammond 등. [3]와 De Oliveira Filho 등[34]은 비록 Ostapczuk 등이지만 의대생 모집단에서 각각 0.80과 0.82의 알파 점수를 보고했다. [9] 독일 치과의학 학생 모집단에서 알파 점수가 0.70이라고 보고했다. 현재 연구에서 이 하위 척도의 정교화는 내적 일관성에 큰 영향을 미치지 않았으며 나머지 7개 항목은 학생들의 교수에 대한 인식의 척도를 제공하는 것으로 보인다. 단일 하위 척도로서 1차원이며 각 항목에 대한 반응을 종합하여 총점을 만들 수 있다.

In order to establish whether there were multiple dimensions to the DREEM, Rasch analyses were conducted for the items on each of the subscales identified by Roff et al. [19]. Rasch model fit was achieved for each of the 5 subscales with varying degrees of quality of fit. The strongest fit was the Perception of Teaching subscale where the PSI was over 0.80. This is consistent with previous research where the Cronbach’s alpha score for this subscale is often strong. For example, Hammond et. al. [3] and De Oliveira Filho et al. [34] reported alpha scores of 0.80 and 0.82 respectively in medical student populations, although Ostapczuk et al. [9] reported an alpha score of 0.70 in a German dental student population. In the current study the refinement of this subscale has not significantly impacted internal consistency and it would appear that that the remaining 7 items provide a measure of students’ perception of teaching. As a single subscale, it is unidimensional and the responses to each item can be summed to create a total score.


본 연구에서는 교육과정의 학년에 의해 영향을 받는 항목이 몇 가지 있었다. 항목 22(교직은 나의 자신감을 계발할 만큼 충분히 염려된다)와 24(교직 시간은 잘 활용된다)는 둘 다 학년에 따른 DIF를 입증했다. 이 두 항목은 다른 여러 항목과 함께 2학년 학생들과 다른 모든 학년 수준 간에 서로 다른 응답 패턴을 보였다. 본 연구의 제1부에서는, 제2학년도의 골수학 프로그램에 대한 학생들의 인식에 여러 가지 문제가 있는 것으로 확인되었다. 이러한 인식의 차이는 이러한 항목과 함께 DIF가 존재하는 이유일 수 있으며, 향후 연구에서는 학년이 이러한 항목에 영향을 미치는지 여부를 조사해야 한다.

In the current study there were some instances of items being affected by year level in the course. Items 22 (The teaching is sufficiently concerned to develop my confidence) and 24 (The teaching time is put to good use) both demonstrated DIF for year level. These two items, along with a number of other items, exhibited different response patterns between year 2 students and all other year levels. In part 1 of this study, it was identified that there were a number of issues with the students’ perception of the osteopathy program in year 2. This difference in perception may be the reason for the presence of DIF with these items, and future studies should investigate whether student year level affects these items.


문항 자체 및 척도 완성 방법과 관련된 여러 가지 문제가 식별되었다. 이 문제는 항목의 표현이나 '중립neutral' 범주의 사용에 있을 수 있다. systematic한 응답편향 문제를 피하기 위해 사용되기는 하지만, 부정적 단어 또는 표현된 항목은 잠재적으로 문제가 될 수 있다[35].

There were a number of issues identified that related to the items themselves and the way that participants completing the measure responded to them. It is possible that the issue may lie in the wording of the item, or the use of a ‘neutral’ response category. Negatively worded or phrased items are potentially problematic [35] although they are used to avoid systematic response bias issues.


이 문구는 항목에 대한 해석이 사람마다 불균일하게 다르다는 것을 의미할 수 있으며, CTT와 IRT에서 모두 척도의 심리측정적 특성에 영향을 미칠 수 있다. 본 연구에서는, 부정적으로 표현된 많은 항목들이 척도의 단축버전에 유지되었다. 그 예로는 11항(교직은 지나치게 교사 중심적이다)이 있다. 반대로 9번 항목(교사들은 권위주의적이다)은 삭제되었다. 학생들은 이것이 상당히 강한 표현이며 그 문항에 대한 예상 점수에 부합하지 않는 방식으로 반응하는 것으로 인식될 수 있다.

The phraseology can mean that the interpretation of the item varies from person to person in a non-uniform manner and can impact on the psychometrics of a scale, both in CTT and IRT. In the present study, a number of negatively phrased items were retained in the brief version of the measure. An example is item 11 (The teaching is too teacher-centred) in the Perception of Teaching subscale. Conversely, item 9 (The teachers are authoritarian) was removed. Students possibly perceived this to be quite a strong statement and responding to the item in such a way that it did not fit the expected score for that item.


이전에 자기보고식 척도에서 중립적인neutral 응답옵션에 문제가 있을 수 있다는 주장이 제기되었으며, 일부는 이 점수 매기기 방법에 반대하였다[36,37]. 콜라 외 [38]에서는 응답 범주가 척도상의 진정한 중간점으로 인식되지 않는 경우에 특히 그러하다고 제안하였다. 이 저자들은 응답자들이 문항에 어떻게 반응해야 할지 확실하지 않을 때 이러한 유형의 중간점을 사용하는 것을 "쓰레기통dumping ground"라고 표현했다. 

It has been previously suggested there may be issues with neutral response options in self-report measures and some have counselled against this method of scoring [36,37]. Kulas et al. [38] have suggested this is particularly so if the respondents do not perceive the response category to be a true mid-point of the statements on the scale. These authors suggested the term‘dumping ground’ for this type of midpoint as respondents are likely to use it when they are unsure of how to respond to the item. 


현재 연구에서는 문항을 rescore할 수 없었기 때문에 Rasch 분석 중에 제거된 여러 항목이 있을 수 있다. 응답은 다른 인접 응답 옵션과 유사한 항목을 다시 검색하기 위해 함께 접을 수 있다[37]. 예를 들어, DREEM에서 'SD'와 'D' 반응은 모두 동의하지 않음을 나타내기 합쳐질 있다. 중립 응답은 다른 응답과 합치는collapse 것이 불가능하다. 본 연구의 항목 21은 이러한 재구성의 예를 제공하며 그 효과는 그림 2에서 입증된다.

In the current study it is possible that a number of items that were removed during the Rasch analysis because it was not possible to rescore the items. Responses can only be collapsed together to rescore the item where they are similar with another adjacent response option [37]. For example, in the DREEM the ‘strongly disagree’ and ‘disagree’ responses can be collapsed together, as they both represent the same do not agree responses. It is not possible to collapse another response with the neutral response category. Item 21 in the present study provides an example of this rescoring and the effect is demonstrated at Figure 2.


5요인 DREEM

Five-factor DREEM


본 연구는 5개 항목별 개별 Rasch 분석을 기반으로 DREEM의 수정된 버전을 개발하였다(표 3). 각 하위 척도를 분석하여 항목이 각 인자의 구조를 측정하는지 여부를 판단하였다. 비록 5개 항목 중 4개 항목에서 PSI가 허용 수준 0.70 미만이었지만, 5개 subscale 모두에 대해 Rasch 모델에 장착되었다[22]. 오직 perception of teaching 척도만이 허용 가능한 PSI를 달성했다. 저자들은 대부분의 subscale에 대한 낮은 PSI 값을 고려할 때 DREEM(50개 항목)의 원래 버전을 사용할 경우 주의를 기울여야 한다고 제안한다. 이러한 낮은 PSI 값은 크론바흐 알파와 표본에 독립적인 PSI 사이의 차이를 강조한다. 

The present study has developed a modified version of the DREEM based on individual Rasch analyses of the 5 subscales (Table 3). Each subscale was analysed to determine if the items were measuring the construct of each factor. Fit to the Rasch model was achieved for all 5 subscales albeit that the PSI for 4 out the 5 subscales was below an acceptable level of 0.70 [22]. Only the Perception of Teaching subscale achieved an acceptable PSI. The authors suggest caution should be applied if the original version of the DREEM (50 items) is to be used, given the low PSI values for the majority of the subscales. These low PSI values highlight the difference between the sample-dependent nature of Cronbach’s alpha and the sample-independent PSI. 


후속 연구가 이 5요인 버전의 DREEM을 사용하려는 경우, 5개의 독립적인 단차원 척도로 구성된다는 점을 감안할 때 총점이 생성되어서는 안 된다. 그러나 각 하위 척도 내의 항목은 합계sum될 수 있다. 본 연구와 마찬가지로, Hammond 등에 의한 연구. [3]와 Yusoff[18]는 심리측정적으로 타당한 척도를 개발하기 위해 DREEM에서 상당한 수의 문항을 제거했다.

If subsequent studies are to use this 5-factor version of the DREEM, a total score should not be generated, given that it consists of 5 independent unidimensional scales. However, the items within each subscale can be summed. As in the present study, the studies by Hammond et al. [3] and Yusoff [18] removed a substantial number of items from the DREEM in order to develop a psychometrically sound scale.


제거된 문항을 재검토하는 것이 중요하다. 

    • 왜냐하면 그 문항이 교육 풍토의 중요한 측면을 조사할 수 있고, 단어를 바꾸어 재기술 할 수 있기 때문이다. 

    • 또는 모든 항목에 대해 조정된 점수, 중립적 대응 범주를 제거하거나, 다른 유사한 항목과 함께 collapse 수 있기 때문이다 

It is important to review the items that have been removed as 

    • they may investigate important aspects of the educational climate, and could be reworded; 

    • or the scoring adapted for all items, to remove the neutral response category, or collapsed with other similar items. 


부정적인 단어 항목이 문제가 되는 것으로 보고되었지만, Rasch 분석된 항목에는 여전히 이러한 방식으로 단어화된 예들이 있다.

Although negatively worded items have been reported to be problematic, there are instances in the Rasch analysed subscales that are still worded in this manner.


단축형 DREEM

‘Short-form’ DREEM


모델 적합은 12개 항목에서 단차원적인 척도로 달성되었다. 항목24(교습 시간이 잘 사용됨)는 18~20세 사이의 연령에 대한 DIF를 입증했다. 현재 연구에서 개발된 DREEM 단축버전은 (모두 항목 22, 24 및 30만 제외하면), 유소프가 개발한 17개 항목과 거의 중복되지 않는다. 이러한 차이의 가능한 이유는 Yusoff[18] 연구에서 CTT를 사용하고 현재 연구에서 IRT를 사용하기 때문이다. Yusoff 연구에서 17개 항목을 검증하기 위한 추가 작업이 필요하다.

Model fit was achieved for a 12-item scale that was unidimensional. Item24 (The teaching time is put to good use) demonstrated DIF for age with those between 18–20 years of age. There is very little overlap with the 17-item scale developed by Yusoff [18] with only items 22, 24 and 30 appearing in both the short-form version of the DREEM developed in the present study and that developed by Yusoff. A possible reason for this difference is the use of CTT in the Yusoff [18] study and the use of IRT in the present study. Further work to validate the 17-item in the Yusoff study is required.


본 연구에서 개발된 DREEM의 12개 문항 버전은 사회적 자기 인식을 제외하고 원래 DREEM 항목별 항목을 포함하고 있다는 점을 감안할 때 잠재적으로 '단순형' 버전으로 사용될 수 있다. 이러한 규모의 장점은 응답자에 대한 잠재적인 수용성과 관리의 효율성이다. 이 개정된 버전의 DREEM은 그 단차원적 특성을 고려할 때 전체 척도에 대한 총 점수를 산출하기 위해서 합산sum할 수 있다[39]. 건강과학 학생 모집단을 대상으로 유효하거나 신뢰할 수 있는 척도로 사용하기 전에 학습 환경을 평가하기 위해 단형 버전을 검증해야 한다. 이 작업은 전체 DREEM[26]에 대한 응답과 비교하여 추가 학생 샘플을 사용하여 수행되는 것이 바람직하다.

The 12-item version of the DREEM developed in the present study could potentially be used as a ‘short-form’ version given that it contains items from each of the original DREEM subscales, except Social self-perception. The advantage of such a scale is the potential acceptability to respondents and efficiency of administration. This revised version of the DREEM can be summed to produce a total score for the entire scale given its unidimensional nature [39]. Validation of the short-form version is required to evaluate the learning environment prior to using it as a valid or reliable measure with health science student populations. Preferably this should be undertaken with additional student samples, through comparison with responses to the full DREEM[26].


결론

Conclusions


Rasch 분석과 함께 두 가지 버전의 DREEM이 생산되었다. 

  • 한 버전은 원본 저자가 제안한 5단계 척도에 기초하고 

  • 다른 버전은 12개 항목 '단순형' 버전에 기초한다.

Two versions of the DREEM were produced with the Rasch analysis. One version is based on the 5-factor scale proposed by the original authors and the other a 12-item ‘short-form’ version.


DREEM을 사용하는 기관은 자체 모집단에서 측정의 정신학적 특성을 조사하고 보고하도록 권장된다. 총점 계산 시, 본 연구 결과에 따르면, 교육 환경의 단일 기초 구조를 측정하고 있지 않음을 시사하는 50항목 DREEM도 주의할 것을 권고한다.

Those institutions that use the DREEM are encouraged to investigate and report the psychometric properties of the measure in their own populations. Caution is also advised when calculating a total score the 50-item DREEM given the results of the present study suggest that it is not measuring the single underlying construct of educational environment.







 2014 May 20;14:100. doi: 10.1186/1472-6920-14-100.

The DREEMpart 2psychometric properties in an osteopathic studentpopulation.

Author information

1
Discipline of Osteopathic Medicine, College of Health & Biomedicine, Victoria University, Melbourne, Australia. brett.vaughan@vu.edu.au.

Abstract

BACKGROUND:

The Dundee Ready Educational Environment Measure (DREEM) is widely used to assess the educational environment in health professional education programs. A number of authors have identified issues with the psychometric properties of the DREEMPart 1 of this series of papers presented the quantitative data obtained from the DREEM in the context of an Australian osteopathy program. The present study used both classical test theory and item response theory to investigate the DREEM psychometric properties in an osteopathy student population.

METHODS:

Students in the osteopathy program at Victoria University (Melbourne, Australia) were invited to complete the DREEM and a demographic questionnaire at the end of the 2013 teaching year (October 2013). Data were analysed using both classical test theory (confirmatory factor analysis) and item response theory (Rasch analysis).

RESULTS:

Confirmatory factor analysis did not demonstrate model fit for the original 5-factor DREEMsubscale structure. Rasch analysis failed to identify a unidimensional model fit for the 50-item scale, however model fit was achieved for each of the 5 subscales independently. A 12-item version of the DREEM was developed that demonstrated good fit to the Rasch model, however, there may be an issue with the targeting of this scale given the mean item-person location being greater than 1.

CONCLUSIONS:

Given that the full 50-item scale is not unidimensional; those using the DREEM should avoid calculating a total score for the scale. The 12-item 'short-form' of the DREEM warrants further investigation as does the subscale structure. To confirm the reliability of the DREEM, as a measure to evaluate the appropriateness of the educational environment of health professionals, further work is required to establish the psychometric properties of the DREEM, with a range of student populations.

PMID:
 
24884704
 
PMCID:
 
PMC4050100
 
DOI:
 
10.1186/1472-6920-14-100


DREEM 파트1: Osteopathy 교육 프로그램의 교육환경 측정(BMC Med Educ, 2014)

The DREEM, part 1: measurement of the educational environment in an osteopathy teaching program

Brett Vaughan1,2*†, Annie Carter1†, Chris Macfarlane1† and Tracy Morrison1†





배경

Background


교육 환경은 초등에서 3차까지, 심지어 대학원 교육까지 전체 스펙트럼에 걸쳐 연구되었다. 교육 환경의 구성요소에는 강의실, 자습서 및 임상 활동, 학습 촉진 및 제약 요소, 동료 학생이 만든 분위기, 그리고 교수, 임상 및 행정 직원을 포함한 교수진이 포함된다[1,2]. 

The educational environment has been studied across the entire spectrum from primary through to tertiary level, and even beyond to post-graduate training. Components of the educational environment include, but are not limited to: 

  • the physical infrastructure such as 

  • rooms for lectures, tutorials and clinical activities; 

  • facilitating and constraining factors for learning; 

  • the atmosphere created by fellow students; and 

  • faculty including teaching, clinical and administrative staff [1,2]. 

교육 환경의 개념과 문제에 대한 훌륭한 담론은 프로그램에 의해 생성된 환경이 학생들의 행동에 영향을 미친다고 지적하는 Gen[3,4], 즉 [4,5], 실천요강의 이해[6] 및 달성된 교육 결과[3,7]를 참조하십시오.

For an excellent discourse on the concepts and issues around the educational environment see Genn [3,4] who points out the environment created by a program impacts student behaviour i.e. 

  • approach to study [4,5], 

  • understanding of practice [6] and 

  • the educational outcomes achieved [3,7].


교육 프로그램 환경을 이해하는 것은 프로그램이 개선될 수 있는 위치를 식별하고, 그 후에 구현되는 변화를 평가함으로써 품질 보장에 도움이 될 수 있다[3,8,9]. 건강 전문가 교육 내에서 환경 측정은 특히 교육 결과에 미치는 영향을 탐구하는 데 어느 정도 관심을 받았다. 특정 교육 이론[1]에 근거하지는 않지만, 건강 전문가 프로그램에서의 교육 환경의 수많은 척도가 발표되었다[10]. 가장 일반적으로 활용되는 척도는 던디 준비 교육 환경 측정[11]이다.

Understanding an educational program environment can assist with quality assurance by identifying where a program can be improved, and subsequently evaluating changes that are implemented [3,8,9]. Within health professional education, measurement of the environment has received some attention exploring particularly the impact on educational outcomes. Although not based on any specific educational theory [1], numerous measures of the educational environment in health professional pro-grams have been published [10]. The most commonly utilised measure is the Dundee Ready Education Environment Measure(DREEM)[11].


Methods


Setting


Participants


Measures


DREEM


DREEM은 Roff 등이 개발한 50항목 질문이다. [11] 보건 전문 교육 프로그램의 교육 환경을 측정한다. 설문지는 다양한 환경 및 다른 국가에서 다양한 건강 전문가 교육자를 포함하는 델파이 접근법을 사용하여 개발되었다. 이와 같이, DREEM은 의료뿐만 아니라 건강 전문가 프로그램 내에서 사용하기에 적절하다고 보고되며, 문화나 맥락에 특정되지 않는다[10,14,15].

The DREEM is a 50-item questionnaire developed by Roff et al. [11] to measure the educational environment in health professional education programs. The questionnaire was developed through the use of a Delphi approach involving a range of health professional educators in different settings and different countries. As such, the DREEM is reported to be appropriate for use within health professional programs, not just medicine, and is not culture or context specific [10,14,15].


각 항목은 5점 리커트 척도를 사용하여 측정한다: 0은 강하게 반대, 1은 반대, 2는 동의 또는 반대, 3은 동의, 4는 강하게 동의한다. 응답자는 진술서를 제출하고 응답자를 선택하도록 요청한다. 항목 4, 8, 9, 17, 25, 35, 39, 48, 50은 부정적으로 단어화되며, 이것들은 총점과 하위 척도를 계산하기 전에 재코딩이 필요하다. 총점, 항목 점수에 대한 DREEM의 해석은 표 1 [2,16]에 제시되어 있다.

Each item is measured using a five point Likert scale: 0 is strongly disagree, 1 is disagree, 2 is neither agree or disagree, 3 is agree and 4 is strongly agree. Respondents are presented with a statement and asked to select a response. Items 4, 8, 9, 17, 25, 35, 39, 48 and 50 are negatively worded and these require recoding prior to calculating the total and subscale scores. The interpretation of the DREEM for the total score, subscales scores and item scores is presented in Table 1 [2,16].



Data collection


Data analysis




결과

Results


인구통계학적 변수는 표 2에 제시되어 있다.

The demographic variables are presented in Table 2.



기술통계

Descriptive statistics


각 DREEM 항목에 대한 기술 통계는 표 3에 제시되어 있으며, 연도별 각 DREEM 항목에 대한 기술 통계는 추가 파일 1로 제시되어 있다.

Descriptive statistics for each of the DREEM items are presented in Table 3 and descriptive statistics for each of the DREEM items by year level are presented as Additional file 1.




내적일관성

Internal consistency


Cronbach의 DREEM의 알파값은 0.923이었다. 제거 항목 28번(나는 좀처럼 외롭지 않다)만이 알파 점수가 0.925로 향상되었다. 항목-총상 상관관계는 DREEM 항목에 대한 표 3에 제시되어 있다. 표 4는 또한 DREEM 항목별 '삭제된 경우' 데이터를 보고한다.

The Cronbach’s alpha for the DREEM was 0.923. Only the removal item 28 (I seldom feel lonely) resulted in an improvement of the alpha score to 0.925. The item-total correlations are presented in the Table 3 for the DREEM items. Table 4 also reports the ‘if item deleted’ data for the DREEM subscales.



Relationship with demographics


Age


최고 수준의 교육 및 임상 교육

Highest level of education and clinical education


학생이 성취한 최고 수준의 교육 수준과 이전 코스의 임상적 요소가 있는지 여부는 총 DREEM 점수(r < 0.09) 또는 하위 척도 점수(r < 0.01)와 관련이 없었다.

The highest level of education achieved by the student and whether the previous course had a clinical component was not related to the total DREEM score (r < 0.09) or subscale scores (r < 0.01).



Between group analysis


Gender


Country of birth


Year level


Living arrangements


Employment


Government allowance


Clinical phase


학생들은 임상전 단계 그룹과 임상전 단계 그룹으로 나뉘었다. 1학년과 2학년은 임상전, 4학년과 5학년은 임상전형으로 분류되었다. 3학년 학생들은 임상 환경에 있지만 1차 환자 관리 책임만 있다. 이러한 이유로 그들은 분석의 임상 단계에 포함되지 않았다. 시기 간 평균 총 DREEM 점수에 대해 통계적으로 유의한 차이가 없었다(F211 =0.178, p = 0.530). 그러나 교사의 지각(F211 =0.080,p=0.014)과 학계의 자기 지각 모집단(F211 = 1.102, p <0.001)의 단계 사이에는 통계적으로 유의한 차이가 있었다. 

Students were divided into pre-clinical and clinical phase groupings. Students in year 1 and 2 were classified as pre-clinical and those in year 4 and 5 were classified as clinical. Students in year 3 are in the clinical setting but only have primary patient care responsibilities late in the year. For this reason they were not included in the clinical phase of the analysis. There was no statistically significant difference for the mean total DREEM score between the phases (F211 =0.178, p = 0.530). There were however statistically significant differences between the phases for the Perception of Teachers (F211 =0.080,p=0.014) and Academic self-perception subscales (F211 = 1.102, p <0.001). 



임상 전 단계의 학생은 교사 지각에 대해 평균점수(33.02 +/- 9.35 대 30.80 +/- 6.61)를 높였고, 임상 단계의 학생들은 학업 자기 지각에 대한 평균점수(22.68 +/- 3.53 대 19.85 +/- 3.89)를 더 많이 제공했다. 이러한 그룹 간의 개별 항목 차이는 추가 파일 2에 제시되어 있다.

Students in the pre-clinical phase provided higher mean scores (33.02 +/− 9.35 vs 30.80 +/− 6.61) for Perception of Teachers, and students in the clinical phase provided higher mean scores for Academic selfperception (22.68 +/− 3.53 vs 19.85 +/− 3.89). Individual item differences between these groups are presented in Additional file 2.


고찰

Discussion


DREEM 데이터를 조회하려면 Miles 등. [17] 결과를 i) 전체, ii) 항목, ii) 항목 세 가지 수준에서 조사해야 한다고 제안한다. 해먼드 외 [18] 또한 DREEM을 사용하는 저자들이 기본적인 정신측정학을 보고할 것을 제안한다.

To interrogate the DREEM data, Miles et al. [17] suggest the results are investigated at three levels: 

  • i) overall; 

  • ii) subscales; 

  • iii) items. 

Hammond et al. [18] also suggest that authors using the DREEM report the basic psychometrics.


DREEM의 평균 총점은 135점이었으며, Lai 등이 제안한 해석에 따르면 다음과 같다. [19] 및 McAleer와 Roff [16], VU 골병증 프로그램은 긍정적인 편인 것으로 분류된다.

The mean total score for the DREEM was 135 and according to the interpretation suggested by Lai et al. [19] and McAleer and Roff [16], the VU osteopathy program would be classified as more positive than negative


그림 3은 브라운 외 연구원이 제시한 데이터에 기초한 평균 DREEM 하위 척도 점수를 나타낸다. [12] 및 현재 연구의 데이터.

Figure 3 demonstrates the mean DREEM subscale scores based on the data presented by Brown et al. [12] and data from the present study.





인구통계

Demographics


성별

Gender


인구 통계학 및 총 DREEM 점수와 관련하여, 연령, 최고 수준의 교육 또는 학생들의 이전 프로그램이 임상 교육 구성요소를 가지고 있는지 여부에 대해 관찰된 관계는 없었다.

With regard to the demographics and total DREEM score, there was no relationship observed for age, highest level of education achieved or whether the students’ previous program had a clinical education component.


학년, 임상시기

Year level & clinical phase


통계적으로 유의한 차이는 총 DREEM 점수 및 모든 하위 척도 점수에 대해 입증되었다(그림 4).

Statistically significant differences were demonstrated for the total DREEMscore and all subscale scores (Figure 4).



문항별 응답

DREEM item responses


항목 수준 결과를 상세히 조사할 때 평균 2 이하의 항목은 주의를 요하며, 2와 3 사이의 항목은 개선할 수 있으며, 3 이상의 항목은 강항목으로 간주된다[16,17]. 강력한 항목과 주의가 필요한 항목은 표 5에 제시되어 있다. 다른 모든 품목은 '개선될 수 있다' 범위 내에 있다. 주의가 필요한 분야를 제시하는 항목 중, 두 가지는 사실적 학습의 강조와 이 정보를 암기해야 하는 후속적 필요성과 관련이 있는 것으로 보인다. DREEM을 사용한 수많은 연구[2,21,24,25]는 동일한 사실적 학습 문제를 강조하였으며, 이 응답은 학생들이 더 깊은 학습의 해악을 위해 표면 학습 전략을 채택하고 있음을 나타내는 것으로 제안되었다. 골수학 프로그램에 대한 검토가 현재 진행 중이며, 그 결과에는 내용 전달, 동료 및 근친상간 교육[2,24] 포함, 현재 포트폴리오[26]에서 5년 이상의 연도까지의 확장, 사실적 학습과 통합 커리큘럼을 강조하지 않는 평가가 포함될 것으로 예상된다[24]. 이 모든 것은 더 깊은 학습자 참여를 장려하고 교육 환경을 개선하는 데 도움이 될 것이다.

When examining the item level results in detail, those items with a mean of 2 or less require attention, those between 2 and 3 could be improved, and above 3 are regarded as being strong items [16,17]. Strong items and those that require attention are presented in Table 5. All other items are within the ‘could be improved’ range. Of the items suggesting areas that require attention, two would appear to be related to an emphasis on factual learning and the subsequent need to memorise this information. Numerous studies [2,21,24,25] using the DREEM have highlighted the same factual learning issue, and it has been suggested this response indicates that students are employing surface learning strategies to the detriment of deeper learning. A review of the osteopathy program is currently underway and it is anticipated that the result will include changes to the delivery of content, inclusion of peer and near-peer teaching [2,24], extension of the current portfolio [26] to year levels beyond year 5, assessments that do not emphasise factual learning and an integrated curriculum [24], all of which will assist in encouraging deeper learner engagement and improve the educational environment.



학생들은 사회적, 교육적 관점에서 볼 때, 교실 환경에 만족하는 것처럼 보인다. 이 결과는 아마도 매 년 수준의 학생들이 같은 해에 골병리학 학생들과 수업하는 동안만 있다는 사실 때문일 것이다; 그들은 VU에서 프로그램 동안 다른 학생들과 함께 하는 수업이 전혀 없다. (거의 전적으로 골수증 학생들과 관련된) 교직원들은 각 학생들이 강의와 자습서에서 좀더 개인적이고 편안한 분위기를 만들어내는 것에 익숙해진다. 많은 저자들은 또한 물리적 환경(예: 건물, 실험실 시설)에 대한 항목이 학생들의 전반적인 인식에 영향을 미칠 수 있기 때문에 DREEM에 추가되어야 한다고 제안했다.

Students appear to be happy with the classroom environment, both from a social and educational standpoint. This result may be attributable to the fact that the students in each year level are only ever in classes with osteopathy students in the same year; they do not have any classes at all during their program with other students at VU. The teaching staff, who are almost exclusively involved with osteopathy students, become familiar with each student creating a more personal, relaxed atmosphere in lectures and tutorials. A number of authors [27,28] have also suggested that an itemabout the physical environment (e.g. buildings, laboratory facilities) be added to the DREEM as these could influence the student’s overall perception.


DREEM의 고전검사이론적 특성

Classical test theory properties of the DREEM


해먼드 외 [18] 저자들은 DREEM의 사용을 보고할 때 정신측정학적 특성을 문서화할 것을 제안한다. 전체 알파 점수는 α=0.923으로 측정값이 내부적으로 이 코호트에 대해 일관되고 이전 연구[29]와 일치하지만 0.9 이상의 알파 점수는 항목 중복성을 나타낼 수 있다. 표 4는 각 하위 척도에 대한 알파 점수를 보고한다. 0.7 이상의 알파 점수는 내부 일관성을 나타내는 것이 일반적으로 받아들여진다. 학술적 자기 인식 및 사회적 자기 인식 subscale에서 이 임계값보다 낮았다(De Oliveria et al과 유사). [29] 및 Kossioni 등. [30]), 어떤 항목이 사회적 하위 척도에서 제거되었을 때에도.

Hammond et al. [18] suggest that authors document the psychometric properties when reporting the use of the DREEM. The overall alpha score was α =0.923 suggesting the measure is internally consistent for this cohort and consistent with previous research [29], however alpha scores over 0.9 can indicate item redundancy. Table 4 reports the alpha scores for each subscale. It is generally accepted that alpha scores over 0.7 indicate internal consistency. The Academic self-perception and Social self-perception subscales were below this threshold (similar to de Oliveria et al. [29] and Kossioni et al. [30]), even when an item was removed from the social subscale.


항목별 알파 점수를 개선하기 위해 삭제 대상으로 식별된 항목 중 많은 항목이 부정적으로 단어화된 항목이 관심이다. 응답은 가변적이며 설문지의 정신측정학적 특성에 부정적인 영향을 미칠 수 있기 때문에 이러한 유형의 항목은 포함하지 않아야 한다고 제안되었다[31,32]. 본 연구는 DREEM 개발자가 보고한 요인 구조를 검증하려고 한 것이 아니라, 이러한 저자가 보고한 항목별 구분을 사용했다. 많은 저자들이 DREEM[18,20]의 원래 요인 구조를 복제할 수 없었고, 이후 내부 일관성과 시공 타당성에 의문을 제기하였다[18]. 비록 현재 연구와 루시아니 외 연구 간에 비교가 이루어졌지만. [13] 및 Brown 등. [12], 두 사람 모두 그들의 연구에서 어떤 정신분석학도 보고하지 않았다. 따라서 DREEM의 성질에 대한 어떠한 판단도 골병증 교육 기관이나 호주 연합 건강 컨텍스트 중 하나에서 하기 어렵다. 

It is of interest that many of the items identified for removal to improve the alpha score for the subscales were negatively worded items. It has been suggested that this type of item should not be included as the responses are variable and can adversely impact the psychometric properties of the questionnaire [31,32]. The present study did not attempt to validate the factor structure reported by the DREEM developers [11], but did use the subscales reported by these authors. A number of authors have not been able to replicate the original factor structure of the DREEM [18,20] and have subsequently questioned its internal consistency and construct validity [18]. Although comparisons have been drawn between the present study and the studies by Luciani et al. [13] and Brown et al. [12], neither reported any psychometrics in their studies. Therefore is it difficult to make any judgements about the properties of the DREEM in either an osteopathy teaching institution or Australian allied health context. 


이전 저자들과 일관되게 [17,18] DREEM을 사용하는 연구자들은 모든 항목, 항목, 항목 및 총점, 성별의 영향, 항목과 항목 및 항목별 해석 방법, 총합 및 항목별 내부 일관성 통계 등을 보고해야 한다. 고전적인 시험 이론과 항목 반응 이론을 이용하여 DREEM의 정신학적 특성을 확립하는 것이 이 일련의 논문에서 파트 2의 주제가 될 것이다.

Consistent with previous authors [17,18], it is suggested that those researchers using the DREEM should report: means and standard deviations for all items, subscales and the total score; effect of gender on total and subscale scores; how the items and subscales were interpreted; and internal consistency statistics for total scale and subscales. Establishing the psychometric properties of the DREEM using classical test theory and item response theory will be the subject of Part 2 in this series of papers.


혁신과 품질 향상은 "...학생들의 학습 경험이 목적적합하고, 동기부여하며, 생산적이고, 즐겁다는 것을 보장하기 위해 모든 건강 전문가 교육 프로그램[2]에 필수적이다[15]. 본 연구에서 제시된 데이터는 호주 연합 건강 프로그램 및 전 세계의 골병증 프로그램에 있는 연구원들에게 그들 자신의 프로그램과 비교할 수 있는 물질/항목을 제공하기 위해 의도적으로 광범위하다.

Innovation and quality improvement are essential for any health professional teaching program [2] to ensure that the “…students’ learning experiences are relevant, motivating, productive, and enjoyable” [15]. The data presented in the present study is deliberately extensive in order to provide researchers in Australian allied health programs, and osteopathy programs around the world, with material/items from which they can draw comparisons with their own programs.


Strengths and limitations


Conclusions







 2014 May 20;14:99. doi: 10.1186/1472-6920-14-99.

The DREEMpart 1measurement of the educational environment in an osteopathy teaching program.

Author information

1
College of Health & Biomedicine, Victoria University, Melbourne, Australia. brett.vaughan@vu.edu.au.

Abstract

BACKGROUND:

Measurement of the educational environment has become more common in health professional education programs. Information gained from these investigations can be used to implement and measure changes to the curricula, educational delivery and the physical environment. A number of questionnaires exist to measure the educational environment, and the most commonly utilised of these is the Dundee Ready Educational Environment Measure (DREEM).

METHODS:

The DREEM was administered to students in all year levels of the osteopathy program at Victoria University (VU), Melbourne, Australia. Students also completed a demographic survey. Inferential and correlational statistics were employed to investigate the educational environment based on the scores obtained from the DREEM.

RESULTS:

A response rate of 90% was achieved. The mean total DREEM score was 135.37 (+/- 19.33) with the scores ranging from 72 to 179. Some subscales and items demonstrated differences for gender, clinical phase, age and whether the student was in receipt of a government allowance.

CONCLUSIONS:

There are a number of areas in the program that are performing well, and some aspects that could be improved. Overall students rated the VU osteopathy program as more positive than negative. The information obtained in the present study has identified areas for improvement and will enable the program leaders to facilitate changes. It will also provide other educational institutions with data on which they can make comparisons with their own programs.

PMID:
 
24884931
 
PMCID:
 
PMC4048620
 
DOI:
 
10.1186/1472-6920-14-99


DREEM의 심리측정적 평가 (BMC Med Educ, 2012)

A psychometric appraisal of the DREEM

Sean M Hammond1*, Margaret O’Rourke2, Martina Kelly2, Deirdre Bennett2 and Siun O’Flynn2




배경

Background


1998년, 세계 의학 교육 연맹은 의료 교육 프로그램의 평가 대상 중 하나로 학습 환경을 강조하였다[1]. 의학 교육자들 사이에서 academic and clinical 환경 모두에서 교육 환경의 영향이 의대생들의 태도, 지식, 기술, 진행 및 행동의 중요한 결정 요소라는 것은 널리 동의되어 있다[2,3]. 학술 사이트와 임상 사이트 모두에서 교육 환경에 대한 평가는 우수한 품질의 학생 중심의 커리큘럼을 제공하는 데 중요하다[4]. 많은 사이트에서 이러한 평가를 수행하려면, 전문 분야와 학생 집단이 포괄적이고, 유효하며, 신뢰할 수 있는 도구를 사용하는 것이 필수적이다.

In 1998, the World Federation for Medical Education highlighted the learning environment as one of the targets for the evaluation of medical education programmes [1]. It is widely agreed among medical educators that the effects of the educational environment, both academic and clinical, are important determinants of medical students attitudes, knowledge, skills, progression and behaviours [2,3]. Evaluation of the educational environment at both academic and clinical sites is key to the delivery of a high quality, student centred curriculum [4]. In order to conduct such evaluation across many sites, specialties and student groups use of a comprehensive, valid and reliable instrument is essential.


DREEM은 의료, 치과, 간호 및 지압 학습 환경과 같은 다양한 의료 환경에서 국제적으로 유용한 것으로 입증되었다[13]. 그것은 변화[18-21]을 도입하기 위한 관점에서 커리큘럼의 약점을 식별하기 위해 사용되었으며, 새로운 커리큘럼 개입의 영향을 평가하기 위해 적용되었다[22,23,16]. 학생 경험에 초점을 맞추면서 학생들의 기대와 경험[24] 또는 학생의 실제적 경험과 이상화된 경험[20] 사이의 차이를 식별하는 데 사용하게 되었다. 더욱이, 의과대학 내의 다른 현장에서의 학생 경험의 차이 [25,26]와 의학교육의 다른 단계에 있는 학생 인식의 차이[22]도 DREEM을 사용하여 조사되었다. DREEM의 한 가지 중요한 용도는 의과대학 간의 국제적 비교를 위한 효용이었다 [27,28]. 이를 통해 의과대학은 그들이 제공하고 있는 교육 환경을 벤치마킹할 수 있게 되었다 [29,30].

The DREEM has proved itself internationally useful in a variety of healthcare settings [13], such as medical, dental, nursing and chiropractic learning environments [14-17]. It has been used to identify weaknesses in curricula with a view to introducing change [18-21], and has been applied to assess the impact of new curricular interventions [22,23,16]. Its focus on student experience has led to its use in identifying the gap between student expectations and experience [24] and student actual and idealised experience [20]. Furthermore, differences between student experience at different sites within medical schools [25,26] and between students perceptions at different stages of their medical education [22], have also been examined using the DREEM. One important use of the DREEM has been as a utility for international comparisons between medical schools [27,28]. This has allowed medical schools to benchmark the educational environment they are providing [29,30].


그것의 개발자들은 DREEM에서 도출한 점수를 해석하기 위한 간단한 지침을 제공함으로써 의료 교육 환경에서 학습 환경을 평가하기 위한 접근 가능하고 사용하기 쉬운 장치를 만들었다[31]. 그럼에도 불구하고, 그것이 국가 간 비교에 매우 일반적으로 사용되고 있기 때문에, 문화적 편견으로부터 보호하기 위해서는, 지속적으로 심리측정적으로 정밀한 검토를 받는 것을 특히 중요하게 만든다. 도구의 심리측정적 특성이 국가 간에 변동이 심하다면, 척도에 기초한 결론은 (신뢰성이 떨어지고 유효성이 부족하여) 실상은 아티팩트artifact를 반영할 수 있다. cross-national하게 사용되는 척도의 정신학적 특성에 대해 엄격한 평가를 해야한다는 요구가 반복되어 왔지만[32-34], 교육 기후 연구에서는 일반적으로 적용되지 않는다.

Its developers have provided a simple guide to interpreting the scores derived from the DREEM making it an accessible and easy-to-use device for evaluating the learning environment in medical education settings [31]. Nevertheless, the fact that it is very commonly used for cross-national comparisons makes it particularly important that it is subject to close ongoing psychometric scrutiny to protect against cultural bias. If the psychometric properties of a device fluctuate across countries, conclusions based on the scale may actually reflect artifacts due to unreliability and lack of validity. There have been repeated calls for rigorous evaluation of the psychometric properties of measures used cross-nationally [32-34], but they are not commonly applied in educational climate studies.


DREEM의 개발자가 수행한 초기 정신측정학 평가[12] 외에, 발표된 연구 중 어떤 세부사항으로도 DREEM의 정신측정학 특성을 보고하는 것은 거의 없다. 두 가지 예외는 포르투갈, 그리스 및 스웨덴의 연구를 포함한다[28,29,35]. 

  • 5개 하위척도에서는 내부 일관성의 variable level을 보여주는 결과가 혼합되었다. 

  • 또한 요인 분석은 DREEM 개발자가 주장하는 5요소 구조를 지지하지 않았다. 

두 연구 모두 DREEM이 분명한 가치를 가지고 있고 서로 다른 프로그램에 걸쳐 잘 일반화되었다고 결론지었지만 그들의 연구에서 드러난 심리측정적 단점들은 추가적인 조사를 유발한다.

Apart from the initial psychometric evaluation of the DREEM carried out by its originators [12], few of the published studies report it’s psychometric properties in any detail. Two exceptions include studies in Portugal, Greece and Sweden [28,29,35]. Results were mixed showing variable levels of internal consistency for the 5 subscales. In addition, factor analyses did not support the 5-factor structure claimed by the DREEM developers. Both studies concluded that the DREEM had clear value and generalized well across different programs but the psychometric shortcomings exposed by their study do invite further scrutiny.




방법

Method


Participants


Materials/Instruments Used


Procedure


Data Management/Analyses



결과

Results


샘플에 있는 DREEM의 기본 정신계 특성은 표 1에 나와 있다.

The basic psychometric properties of the DREEM in our sample are reported in table 1.



오직 두 척도(학습 및 학업 자기 인식)만이 널리 채택된 엄지손가락 가이드의 규칙을 초과하는 알파값을 나타낸다[37]. 대조적으로 총 DREEM 점수는 허용 가능한 수준의 내부 일관성을 나타내는 것으로 보인다. 

Only two of the scales (Perception of Learning and Academic Self-perception) manifest an alpha exceeding the widely adopted rule of thumb guide of 0.70 [37]. The total DREEM score, in contrast, appears to manifest an acceptable level of internal consistency. 


하위척도가 설득력 있는 내부 일관성을 결여하고 있다는 사실은 DREEM의 구인 타당성에 대한 우려를 불러일으킨다. 설문지의 투입 하위 척도 구조를 평가하기 위해 DREEM 점수 키를 가설 매트릭스로 사용하여 다중 그룹 확인 요인 분석 [38,39]을 수행했다. 그 결과는 표 2에 제시되어 있다. 제안된 5요소 모델이 완벽하게 들어맞는다면, 각 DREEM 항목은 0으로 나타나는 다른 모든 요인에 대한 하중과의 통합 값을 생성하는 하나의 요인에만 적재되어야 한다. 그러나 실제로 그러한 완벽한 결과는 결코 발생하지 않으므로, 모델에 적합한 정도를 평가하기 위해 적합성 지수를 사용한다. 이 연구에서 플레밍 지수를 [40] 사용했다. 이것은 각 항목의 적합도(표 2의 마지막 열에 표시됨)와 각 요인이 모형에 맞는 정도(마지막 열에 표시됨)를 보여준다.

The fact that the subscales lack convincing internal consistency raises concerns about the construct validity of the DREEM. In order to evaluate the putative subscale structure of the questionnaire a multiple group confirmatory factor analysis [38,39], was carried out using the DREEM scoring key as an hypothesis matrix. The results are presented in table 2. In a perfect fit to the proposed 5-factor model each DREEM item will load on only one factor producing a value of unity with loadings on all other factors manifesting as zero. In reality such perfect solutions never arise so, in order to evaluate the degree of fit to the model, indices of fit are used. In this study, Fleming’s index is used [40]. This shows the fit for each item (seen in the last column of table 2) and also the degree to which each factor fits the model (seen in the last column).




전체적인 핏은 0.76으로 추정된다. 신호 대 잡음비로서 플레밍의 지수는 크론바흐의 알파 논리를 공유하며 유사하게 해석될 수 있다.따라서 0.76의 지수는 약하지만 수용 가능한 적합 수준을 나타낸다. 그럼에도 불구하고, 복수의 그룹 요인 분석 절차의 친크러스트 기준을 염두에 두고, 해당 모델이 견고하고 신뢰할 수 있는 경우 더 높은 수준의 적합성이 기대될 것이다. 

The overall fit is estimated as 0.76. As a signal to noise ratio, Fleming’s indices share the logic of Cronbach’s alpha and may be interpreted similarly.Therefore, an index of 0.76 represents a weak but acceptable level of fit. Nevertheless, bearing in mind the pro-crustean basis of the multiple group factor analysis procedure, a higher degree of fit would be expected if the model in question was robust and reliable. 


50개 항목 중 17개 항목이 적합 지수 0.70보다 작은 것으로 나타났다. 

It is found that 17 of the 50 items manifest fit indices less than 0.70. 


그것은 요소들 사이의 상관관계를 제공하며 이것들은 표3에 보고되어 있다. 이러한 상관관계는 매우 커서 개별 척도의 독립성에 의문이 제기될 수 있다.

it provides correlations between the factors and these are reported in table3. These correlations are very large suggesting that the independence of the separate scales is open to question.




고찰

Discussion


DREEM은 의심할 여지 없이 의학 교육의 교육 환경을 평가하는 데 유용한 도구로서, 그것의 광범위한 국제적 사용은 그러한 장치가 필요하다는 것을 보여준다. 그러나, 아마도 그것의 정신측정학 신뢰성credentials들을 확립하고 유지하는 데에는 충분히 초점을 맞추지 않았을 것이다. 본 연구는 주의가 필요할 수도 있는 두 가지 우려를 강조한다. 

  • 째, 5 척도의 내부 일관성은 상당히 가변적이며, 이 표본에서는 다소 낮게 나타난다. 

  • 째로, 구인 타당성 (5개 항목별 기준)은 잘 지지되지 않는다. 

이 두 가지 연구 결과는 모두 위에서 인용한 포르투제[28], 그리스어 [29] 및 스웨덴어 [35] 연구와 일치하는 것으로 보인다. 우리의 연구 결과가 아일랜드 의과 학생들에 기초하고 있다는 점을 감안할 때, 이러한 약점들이 번역 때문에 생겼을 가능성은 낮다. 결과적으로, DREEM 개발자들이 제안한 투입변수 5요소 모델은 지원되지 않으며 개정이 필요할 수 있다.

The DREEM is undoubtedly a useful tool for appraising the educational climate in medical education and its widespread international use reveals the need for such a device. However, there has perhaps been an inadequate focus on establishing and maintaining it’s psychometric credentials. The present study highlights two concerns that may need attention. Firstly, the internal consistency of the 5 scales is quite variable and, in this sample, appears rather low. Secondly, the construct validity (the basis for the 5 subscales) is not well supported. Both of these findings do appear to be consistent with the Portugese [28], Greek [29] and Swedish [35] studies cited above. Given that our findings are based on Irish medical students it is unlikely that these weaknesses can be attributed to translation factors. As a result it is clear that the putative 5-factor model proposed by the developers of the DREEM is not supported and may be in need of revision.


또한 요인 분석에서 확인된 가장 약한 17개 항목을 분사하여 단축된 33개 항목 DREEM을 형성할 수 있음을 제안하는 것도 유혹적일 수 있다. 그러나 이런 전략을 채택하는 데는 큰 주의가 필요하다. 

  • 첫째, 아일랜드 표본에서 가장 약한 항목은 다른 국적의 항목과 동일하지 않을 수 있으며, 

  • 째, 항목을 제거할 때 기본적인 요인 구조가 크게 변할 수 있다. 

It may also be tempting to suggest that a shortened 33 item DREEM may be formed by jettisoning the 17 weakest items identified in our factor analysis. However, great care needs to be taken in adopting such a strategy. 

  • Firstly, the weakest items in an Irish sample may not be the same as those identified in another nationality and 

  • secondly, in removing items the underlying factor structure may change dramatically. 


DREEM의 개발을 기술하는 Roff 등[12] 논문에 따르자면, 서브스케일 구조가 기존의 이론적 추론에 의해 추진된 것은 분명하다. 그러나 경험적 데이터가 이 모델에 잘 부합하지 않는다는 사실은 항목들을 모델에 맞게 재구성하거나 모델 자체를 재고할 필요가 있음을 시사할 수 있다. 이 점에서 어떤 것이 가장 유익한 경로인지를 제안하기 위해 아직 DREEM에 대하여 다양한 국가 전체에 걸쳐 발표된 정신측정학 분석이 충분하지 않다.

In the Roff et al. paper [12] describing the development of the DREEM it is clear that the subscale structure was driven by a-priori theoretical reasoning. The fact that empirical data do not conform well with this model might suggest that either the items need to be reframed to fit the model or that the model itself needs to be reconsidered. There is not yet sufficient published psychometric analysis across nationalities on the DREEM to suggest which is the most beneficial route to take in this regard.


실제로, 하위 척도 요소들 사이의 매우 높은 상관관계를 보여주는 우리의 발견은 DREEM이 본질적으로 하나의 단일 척도 instrument이라는 주장을 뒷받침할 수 있다. 5개 항목별 구분은 거의 없으며, 여러 DREEM 보고들은 일반적으로 항목별 differential validity을 검사하지 않는다.

Indeed, our finding showing very high correlations between the subscale factors may support the contention that the DREEM is essentially a one-factor single scale instrument. There is very little discrimination evident between the 5 subscales and reports of the DREEM do not typically examine the differential validity of the subscales.



결론

Conclusion


본 연구의 하위척도 요인 분석은 기본 심리측정적 특성과 구인타당도에 대한 의문을 제기한다. 확실히, DREEM이 개발된 잠재적 모델은 근본적으로 수정되어야 할 필요가 있을 것이다. 이는 새로운 경험적 기반 잠재 모델에 대한 정보를 제공하기 위해 DREEM 구조에 대한 기존의 다국적 탐색 분석을 완전히 통합함으로써 가장 잘 달성될 수 있다. 그런 다음 전체 구조 방정식 모델링 분석을 수행하는 대규모 국제 표본이 뒤따를 수 있다.

subscale factor analysis raise questions about its basic psychometric properties and construct validity. Certainly, the latent model upon which it is built may need to be radically revised. This may be best achieved by a full integration of the existing multinational exploratory analyses of the DREEM structure to inform a new empirically based latent model. This might then be followed by a large scale international sample being subjected to a full Structural Equation Modelling analysis.






 2012 Jan 12;12:2. doi: 10.1186/1472-6920-12-2.

psychometric appraisal of the DREEM.

Author information

1
School of Applied Psychology, University College Cork, Cork, Ireland. s.hammond@ucc.ie

Abstract

BACKGROUND:

The quality of the Educational environment is a key determinant of a student centred curriculum. Evaluation of the educational environment is an important component of programme appraisal. In order to conduct such evaluation use of a comprehensive, valid and reliable instrument is essential. One of most widely used contemporary tools for evaluation of the learning environment is the Dundee Ready Education Environment Measure (DREEM). Apart from the initial psychometric evaluation of the DREEM, few published studies report its psychometric properties in detail. The aim of this study was to examine the psychometric quality of the DREEM measure in the context of medical education in Ireland and to explore the construct validity of the device.

METHODS:

239 final year medical students were asked to complete the DREEM inventory. Anonymised responses were entered into a database. Data analysis was performed using PASW 18 and confirmatory factor analysis performed.

RESULTS:

Whilst the total DREEM score had an acceptable level of internal consistency (alpha 0.89), subscale analysis shows that two subscales had sub-optimal internal consistency. Multiple group confirmatory factor analysis (using Fleming's indices) shows an overall fit of 0.76, representing a weak but acceptable level of fit. 17 of the 50 items manifest fit indices less than 0.70. We sought the best fitting oblique solution to the 5-subscale structure, which showed large correlations, suggesting that the independence of the separate scales is open to question.

CONCLUSIONS:

There has perhaps been an inadequate focus on establishing and maintaining the psychometric credentials of the DREEM. The present study highlights two concerns. Firstly, the internal consistency of the 5 scales is quite variable and, in our sample, appears rather low. Secondly, the construct validity is not well supported. We suggest that users of the DREEM will provide basic psychometric appraisal of the device in future published reports.

PMID:
 
22240254
 
PMCID:
 
PMC3277479
 
DOI:
 
10.1186/1472-6920-12-2


DREEM: 도입과 활용 리뷰 (Med Teach, 2012)

The Dundee Ready Education Environment Measure (DREEM): A review of its adoption and use

SUSAN MILES, LOUISE SWIFT & SAM J. LEINSTER

University of East Anglia, UK




도입

Introduction


학생들이 접하는 교육 환경이 학습 과정, 인식된 행복, 열망 및 학업 성취도에 대한 만족도에 영향을 미친다는 증거가 있다(Plucker 1998; Pimparyon 등). 2000; Genn 2001; Lizzio et al. 2002, Audin et al. 2003; Mayya &Roff 2004). 측정 가능한 것 외에도, 교육 환경도 변화할 수 있다. 따라서 교육환경의 퀄리티과 교육 프로세스 자체를 향상시킬 수 있다(Genn &Harden 1986). [커리큘럼의 혁신]과 [의대 과정에서의 학생 모집단의 다양성 증가]는 의과대학의 교육 환경을 평가하고자 하는 욕구와 필요성 둘 다에 대한 인식을 증가시키는 결과를 가져왔다(마일 2011).

There is evidence that the educational environment encountered by students has an impact on satisfaction with the course of study, perceived well-being, aspirations and academic achievement (Plucker 1998; Pimparyon et al. 2000; Genn 2001; Lizzio et al. 2002, Audin et al. 2003; Mayya &Roff 2004). In addition to being measurable, the educational environment can also be changed; thus enhancing the quality of the environment and the medical education process itself (Genn &Harden 1986). Innovations in medical curricula and increasing diversity of the student population on medical courses have lead to increasing recognition of both a desire and a need to evaluate the educational environment of medical schools (Miles 2011).


DREEM(Dundee Ready Education Environment Measure)은 특히 의대 및 기타 보건 직업에 대한 교육 환경을 측정하도록 설계되었다(Roff et al. 1997). 10여 년 전 국제 의과대학/건강 전문직의 교수진들로 구성된 델파이 패널을 사용하여 개발된 후 여러 나라의 학생들을 대상으로 유효성 검사를 실시하였다. DREEM의 precursor인 설문을 비롯하여, MEEM(Medical Education Environment Measure) 및 특정 PGME에서 교육 환경을 측정하도록 설계된 몇 가지 후속 도구(PHEEM(Postgradstudio Education Environment Measure), STEEM(Surgical Theatre Education)Ational Environment Measure) 및 ATEEM(Annaestic Theatre Educational Environment Measure).도 개발되었다.

The Dundee Ready Education Environment Measure (DREEM) was designed to measure the educational environment specifically for medical schools and other health professions (Roff et al. 1997). It was developed over 10 years ago using a Delphi panel of faculty members from international medical schools/health professions and then tested on students in several countries for validation purposes. There are other related tools including the pre-cursor to the DREEM, the MEEM (Medical Education Environment Measure) and several subsequent tools that have been designed to measure the educational environment in specific post-graduate medical settings: the PHEEM (Postgraduate Hospital Educational Environment Measure), STEEM (Surgical Theatre Educational Environment Measure) and ATEEM (Anaesthetic Theatre Educational Environment Measure).


DREEM은 50개 문항 폐쇄형 질문이다. 이 50개 항목은 다음 5개 항목 중 하나에 속한다. 학습에 대한 학생들의 인식(12개 항목) 교사에 대한 학생들의 인식(11개 항목) 학생들의 학문적 자아 인식(8항목) 학생들의 분위기 인식(12항목)과 학생들의 사회적 자아 인식(7항목). 50개의 문장은 각각 5점 단위로 점수가 매겨지며, "강력하게 동의한다"(4), "학점"(3), "확실하지 않다"(2), "불확실하다"(2), "불합리하다"(1) 및 "강력하게 반대한다"(0)라는 라벨이 붙어 있다. 4, 8, 9, 17, 25, 35, 39, 48 및 50 항목에 대해 역코딩이 필요하다. 그러므로 점수가 높으면 긍정적인 평가를 나타낸다. DREEM은 200점 만점으로 이상적인 교육 환경을 나타낸다.

The DREEM is a 50-statement closed question questionnaire. These 50 items fall into one of the following five subscales: 

  • Students’ perception of learning (12 items); 

  • Students’ perceptions of teachers (11 items); 

  • Students’ academic self-perceptions (8 items); 

  • Students’ perceptions of atmosphere (12 items) and 

  • Students’ social self-perceptions (7 items). 

Each of the 50 statements is scored on a five-point scale, with the following labels: ‘‘Strongly agree’’ (4), ‘‘Agree’’ (3), ‘‘Unsure’’ (2) (some publications use the midpoint ‘‘Uncertain’’), ‘‘Disagree’’ (1) and ‘‘Strongly disagree’’ (0). Reverse coding is required for items 4, 8, 9, 17, 25, 35, 39, 48 and 50. Thus, higher scores indicate a more positive evaluation. The DREEM has a maximum score of 200, representing an ideal educational environment.


DREEM의 결과는 (i) 개별 항목, (ii) 하위척도, (iii) 전체 DREEM의 세 가지 수준에서 고려될 수 있다. 항목별 점수는 5개의 하위척도로 합산되며, 이 합계 점수의 평균을 소급 요약 점수를 주기 위해 취한다. 전체 DREEM 점수를 얻기 위해 하위 척도 합계 점수를 합산한다. 각 항목에 대해 모든 참가자가 획득한 평균 점수를 살펴 개별 항목을 검사하면 교육 환경 내에서 특정 강점과 약점을 파악할 수 있다.

The results of the DREEM can be considered at three levels: (i) individual items, (ii) subscales and (iii) overall DREEM. The raw scores obtained for the items making up each of the five subscales are summed for each participant, and then the mean of this summed score is taken to give subscale summary scores. To obtain the overall DREEM score, the subscale summary scores are summed. Examination of the individual items by looking at the mean score obtained across all participants for each item enables the identification of specific strengths and weakness within the educational environment.


개발자들은 DREEM을 기술한 원문에서 달성된 총점 및 하위 척도 점수를 가능한 최대 점수의 백분율로 보고하였으나, DREEM 해석과 관련하여 권고 사항은 하지 않았다. 그 후, 개발자 중 2명(McAleer & Roff 2001)은 세 가지 수준 각각에서 점수를 해석하는 방법에 대한 지침을 제공했다. 그들은 전체 DREEM과 5개 항목별 점수 범위에 대한 구두 설명을 제공한다. 이러한 점수 설명자는 항목별 해석을 할 때 가이드로 사용할 수 있다. 개별 항목에서 평균점수가 3.5인 항목은 특히 강한 영역으로 간주되며, 평균점수가 2.0인 항목은 특별한 주의가 필요하며 평균점수가 2-3인 항목은 개선될 수 있는 교육환경의 영역이다. 그러나 개발자들은 의학교육자들이 (예를 들어 서로 다른 학생 그룹 간에 또는 동일한 학생 그룹과 시간의 경과에 따라 비교하기를 원하는 경우 등에서) 세 가지 수준 중 어느 것에서도 DREEM을 분석하는 방법에 대한 권고안을 제공하지 않았다.

In the original article describing the DREEM, the developers reported the achieved total and subscale scores as a percentage of the maximum score possible, but made no recommendations regarding interpretation of the DREEM. Subsequently, two of the developers (McAleer & Roff 2001) provided guidance as to how to interpret scores at each of the three levels. They present a verbal description of a range of scores for the overall DREEM and each of the five subscales. These score descriptors can be used as a guide when interpreting the subscales. Regarding individual items, those with a mean score of  3.5 are regarded as especially strong areas, items with a mean score of  2.0 need particular attention and items with mean scores between 2 and 3 are areas of the educational environment that could be improved. The developers, however, did not provide any recommendations as to how to analyse the DREEM at any of the three levels should medical educators wish to make comparisons, for example, between different groups of students or over time with the same group of students.


DREEM은 연간 평가 과정의 일환으로 Norwich Medical School, University of East Anglia(UEA)에서 사용되며, 이를 통해 시간 경과와 코호트에 걸쳐 자신의 데이터를 비교할 수 있으며, DREEM을 사용하는 다른 의과대학과 비교할 수 있다. 그러나, DREEM을 사용하는 동안 우리는 DREEM이 보고되고 분석되는 방식에 상당한 불일치가 있다는 것을 알게 되었고, 이는 기관 간의 비교를 어렵게 만든다.

The DREEM is used at the Norwich Medical School, University of East Anglia (UEA), as part of the annual evaluation process so that we can compare our own data over time and across cohorts, and to enable comparisons to be drawn with other medical schools using the DREEM. However, whilst using the DREEM we have become aware that there is considerable inconsistency in the way the DREEM is reported and analysed, which makes comparison between institutions difficult.



방법

Method


결과

Results


DREEM의 사용

Use of the DREEM


표 1은 검토에서 확인된 DREEM 문서를 요약한다.

Table 1 outlines the DREEM articles identified in the review.


발표된 동료 검토 문헌에서 확인된 40개의 논문을 통해, DREEM은 다음과 같은 20개 국가에서 사용되었음을 알 수 있다. 호주, 브라질, 캐나다, 칠레, 중국, 인도, 이란, 아일랜드, 일본, 쿠웨이트, 말레이시아, 네팔, 나이지리아, 사우디아라비아, 싱가포르, 스리랑카, 스웨덴, 터키, 영국 및 서인도 제도. 목적상 최소 8개 언어(아랍어, 중국어, 일본어, 페르시아어, 평가 포르투갈어, 스페인어, 스웨덴어, 터키어)로 번역되었다.

Through the 40 papers identified in the published, peerreviewed literature, it is found that the DREEM has been used in 20 countries, including: Australia, Brazil, Canada, Chile, China, India, Iran, Ireland, Japan, Kuwait, Malaysia, Nepal, Nigeria, Saudi Arabia, Singapore, Sri Lanka, Sweden, Turkey, the UK and the West Indies. It has been translated into at least eight languages (Arabic, Chinese, Japanese, Persian, evaluation Portuguese, Spanish, Swedish, Turkish) for purposes.


DREEM은 학부 의대생들에게 가장 흔하게 사용되어 왔으나(n = 31 논문), 다른 그룹과도 함께 사용되어 왔다.

The DREEM has most commonly been used with medical students in undergraduate medical schools (n¼31 papers); but it has also been used with other groups


여러 가지 이슈를 탐구하는 데 사용되었으며, 크게 네 가지 그룹으로 분류할 수 있다.

It has been used to explore a number of issues, which can be broadly classified into four groups:


(1) 진단적

(1) Diagnostic


. 현재 교육 환경에 대한 인식 조사 및 강도 및 약점 영역 식별(예: Roff et al. 2001; Bassaw et al. 2003; Vieira et al. 2003; Dunne et al. 2006; Whittle et al. 2007; Thomas et al. 2009; 아하몰래이 & 파젤 2010). 

. Investigating perception of the current educational environment and identifying areas of strength and weakness (e.g. Roff et al. 2001; Bassaw et al. 2003; Vieira et al. 2003; Dunne et al. 2006; Whittle et al. 2007; Thomas et al. 2009; Aghamolaei & Fazel 2010). 


. 기성 의과대학의 기존 교육 환경을 커리큘럼 변경의 사전 커서로 측정하여 변경에 대한 우선순위 영역을 식별하고 커리큘럼 변경 후 비교의 기준 역할을 한다(예: Al-Hazimi 등). 2004a; 아발로스 외 2007; 알아이드 & 셰이크 2008). 

. Measuring the existing educational environment in the established medical schools as a pre-cursor to curriculum change, both to identify priority areas for change and to act as a baseline for comparison after curriculum change (e.g. Al-Hazimi et al. 2004a; Avalos et al. 2007; Al-Ayed & Sheik 2008). 


. 새/개정된 커리큘럼이 교육환경 인식에 미치는 영향 조사(예: Demiro ̈ren 2004; et al. 2008; O'Brien et al. 2008; Riquelme et al. 2009; Edgren et al. 2010).

. Investigating the impact of a new/revised curriculum on perception of educational environment (e.g. Till Demiro¨ren 2004; et al. 2008; O’Brien et al. 2008; Riquelme et al. 2009; Edgren et al. 2010).


(2) 비교 - 서로 다른 그룹

(2) Comparison – Different groups


. 서로 다른 의료 교육 기관 비교(예: Roff et al. 2001; Al-Hazimi et al. 2004b). 

. Comparing different medical education institutions (e.g. Roff et al. 2001; Al-Hazimi et al. 2004b). 


의학적 훈련의 다른 단계에 있는 학생들을 비교하는 것.

. Comparing students at different stages of their medical training.


임상 대 비임상/전임상(예: Jiffry et al. 2005; Dunne et al. 2006; Avalos et al. 2007; Abraham et al. 2008) 

Clinical versus non/pre-clinical (e.g. Jiffry et al.   2005; Dunne et al. 2006; Avalos et al. 2007; Abraham et al. 2008). 


다른 연도의 학생(예: 알-하지미 등) 2004b; Dunne 등 2006; Al-Ayed & Sheik 2008; Demiro ̈ren et al. 2008. 

Students in different year groups (e.g. Al-Hazimi   et al. 2004b; Dunne et al. 2006; Al-Ayed & Sheik 2008; Demiro¨ren et al. 2008). 


학생 대 졸업생(예: Bassaw et al. 2003).  

Students versus graduates (e.g. Bassaw et al. 2003).  


. 성별 비교(예: n1⁄416 논문) Mayya & Roff 2004; Dunne et al. 2006; Abraham et al. 2007; Al-Ayed & Sheik 2008; Bourhaimed et al. 2009). 

. Comparing gender (n¼16 papers, e.g. Mayya & Roff 2004; Dunne et al. 2006; Abraham et al. 2007; Al-Ayed & Sheik 2008; Bourhaimed et al. 2009). 


. 서로 다른 학습 사이트(예: 임상 배치 위치 또는 대학 사이트) 비교(예: Varma 등, 2005; Carmody 등) 2009; McKendree 2009; Bennet et al. 2010; Denz-Penhey & Murdoch 2010). 

. Comparing different sites of learning (e.g. clinical placement location or university site) (e.g. Varma et al. 2005; Carmody et al. 2009; McKendree 2009; Bennet et al. 2010; Denz-Penhey & Murdoch 2010). 


학업 성취도를 저학력 학생들과 비교하는 것은 성취도가 낮은 사람들이다(예: Mayya & Roff 2004; Abraham et al. 2007). 

. Comparing academic achievers with those students are who under-achieving (e.g. Mayya & Roff 2004; Abraham et al. 2007). 


. 직원과 학생 비교 (예: 마일즈 & 린스터 2009) 

. Comparing staff and students (e.g. Miles & Leinster 2009). 


. 커리큘럼 변경(기존과 문제 기반 학습 포함) 후 새로운 코스와 오래된 코스에 대한 인식 비교(예: Bourhaimed et al. 2009).

. Comparing perception of an old course with a new course following curriculum change (including traditional versus problem-based learning) (e.g. Bourhaimed et al. 2009).


(3) 비교 - 같은 그룹

(3) Comparison – Same groups


. 학생들이 경험한 실제 교육 환경과 의대 개학 기대치를 비교한다(예: 마일즈 & 린스터 2007). 

. Comparing the actual educational environment experienced by students with what they expected on starting medical school (e.g. Miles & Leinster 2007). 


. 학생들이 경험하는 실제 교육 환경을 이상적/우선적 환경과 비교(예: 2005년까지).

. Comparing the actual educational environment experienced by students with their ideal/preferred environment (e.g. Till 2005).


(4) 다른 척도와의 관계

(4) Relationship with other measures


. 학업성취도(예: de Oliveira Filho & Schonhorst 2005). 

. Academic performance (e.g. de Oliveira Filho & Schonhorst 2005). 


. 업무에 대한 자기 인식 능력/준비성(예: Lai 등) 2009; Tokuda et al. 2010). 

. Self perceived competency/preparedness to work (e.g. Lai et al. 2009; Tokuda et al. 2010). 


. 스트레스 (예: O'Rouke et al. 2010). 

. Stress (e.g. O’Rouke et al. 2010). 


. 질적 평가 데이터(예: Denz-Penhey & Murdoch 2009). 

. Qualitative evaluation data (e.g. Denz-Penhey & Murdoch 2009). 


. 작업 환경의 측면(예: de Oliveira Filho et al. 2005a). 

. Aspects of working environment (e.g. de Oliveira Filho et al. 2005a). 


.또 다른 학생 체험 기구(예: Sobral 2004)

. Another student experience instrument (e.g. Sobral 2004)


. 평가 척도(예. 2006년.

. An assessment measure (e.g. Thome´ et al. 2006). .




DREEM 자료 보고와 분석

Reporting and analysis of DREEM data


대다수의 저자들은 개별 항목, 항목별 평균, 총 점수를 보고한다. 일부 저자는 평균(n=15 논문)뿐만 아니라 표준 편차를 보고하지만 대부분은 그렇지 않다. 몇 가지 경우, 가능한 최대 점수의 백분율로 점수가 제시된다(Jiffry et al. 2005; Varma et al. 2005; Avalos et al. 2007; Bourhaimed et al. 2009; Riquelme 등. 2009). 50개 모든 DREEM 항목에 대해 점수를 보고하는 사람도 있고, 하위 집합에 대해서만 점수를 매기는 사람도 있다(예: 특히 점수가 낮아 주의가 필요한 항목에 대해서). 일부 저자는 각 항목에 대해 동의함, 동의하지 않음, 확신하지 못함에 해당하는 응답자의 비율을 보고한다(Till 2004; Miles & Leinster 2009). 문제 영역을 진단하는 것이 목적인 경우, 여러 저자가 위에 보고된 대로 DREEM 개발자가 권장하는 평균 접근방식의 임계값을 채택했다(즉, 2.0보다 작거나 같은 항목은 주의가 필요하며, 일부 저자는 2.5 임계값보다 작거나 같은 항목) (n = 14 논문). 일부 저자들은 그들의 결과를 다른 발표된 결과와 비교한다. 대개 그들의 기사의 "토론" 섹션에서.

The majority of authors report the means of individual items, subscales and the total score. Some authors report the standard deviation as well as the mean (n¼15 papers), but most do not. In a few cases, the score as a percentage of the maximum possible scores is presented (Jiffry et al. 2005; Varma et al. 2005; Avalos et al. 2007; Bourhaimed et al. 2009; Riquelme et al. 2009). Some report scores for all 50 DREEM items; others only for a subset (e.g. those which are particularly low and need attention). A couple report the percentages of respondents who agree, disagree or are unsure for each item (Till 2004; Miles & Leinster 2009). Where the aim is to diagnose problem areas, several authors have adopted the threshold for the mean approach recommended by the DREEM’s developers as reported above (i.e. items scoring less than or equal to 2.0 need attention, with some authors adopting a stricter less than or equal to 2.5 threshold) (n¼14 papers). Some authors compare their results with other published results, usually in the ‘‘Discussion’’ section of their article.


두 개의 분리된 학생 그룹의 점수를 비교하는 경우, 보고하는 것은 때때로 순전히 서술적이다. 그러나 일반적으로 독립적인 표본 t-시험(모수) 또는 Mann-Whitney U 검정(비모수, Wilcoxon Mann Whitney에 상당함)이 사용된다. 이 선택은 표본 크기와 관련이 없는 것으로 보인다. 일부 저자는 중요한 항목이 강조된 50개 항목 모두에 대해 시험 결과를 보고하지만, 일부 저자는 중요한 항목만 보고한다(예: Dunne 등 2006). 동의하는 비율, 동의하지 않는 비율 등에 의해 항목이 보고되는 경우 그룹 간에 카이 제곱 시험을 사용한다.

Where scores from two separate groups of students are compared, reporting is sometimes purely descriptive. However, usually either an independent samples t-test (parametric) or Mann–Whitney U test (non-parametric, equivalent to Wilcoxon Mann Whitney) is used. This choice does not appear to be related to sample size. Some authors report test results for all 50 items, perhaps with significant items highlighted, but some report significant items only (e.g. Dunne et al. 2006). Where items are reported by the percentage who agree, disagree, etc., a chi-squared test is used between groups.


3개 이상의 그룹이 비교를 필요로 하는 경우, ANOVA(모수)과 Kruskal-Wallis 검정(비모수)은 모두 하위 척도 점수 및 합계, 때로는 항목 점수에서 사용되어 왔다. 때로는 복수의 시험(예: Bonferroni 보정을 사용한 Miles and Leinster 2007)에 대해 조정이 이루어지지만, 때로는 그렇지 않다. 때때로 특정 그룹 쌍 간의 시험이 수행된다.

When three or more groups require comparison, both the one way ANOVA (parametric) and the Kruskal–Wallis test (non-parametric) have been used on subscale scores and the total, and sometimes on item scores. Sometimes adjustment is made for multiple tests (e.g. Bonferroni in Miles and Leinster 2007), but sometimes not. Sometimes tests between particular pairs of groups are performed.


점수를 예상 점수 또는 최대 예상 점수 또는 최대 점수와 비교해야 하는 경우, Wilcoxon 서명된 순위 테스트 또는 단일 샘플 t-테스트를 사용한다. 한 논문(Till 2005)은 어떤 영역이 이상으로부터 가장 먼 점수를 받는지 나타내기 위해 실제 점수와 예상 점수의 평균 차이에 따라 항목을 순위를 매긴다.

Where scores are to be compared with an expected or maximum possible score, the Wilcoxon signed rank test is used or the single sample t-test. One paper (Till 2005) ranks the items in order of the mean difference between the actual and expected scores to indicate which areas score furthest from the ideal.


또한 DREEM은 교육 환경에 대한 인식과 기타 조치(예: Lai 등) 사이의 연관성을 조사하는 데 사용되어 왔다. 2009; O'Rourke et al. 2010), 예를 들어 상관 관계 또는 선형 회귀 분석을 사용한다. 여기서 방법의 선택은 다른 조치의 성격에 따라 달라질 것이다.

The DREEM has also been used to investigate the association between perception of the educational environment and other measures (e.g. Lai et al. 2009; O’Rourke et al. 2010), for instance, using correlation or linear regression. Here the selection of a method will depend on the nature of the other measures.


검증 목표(예: 요인 분석, Cronbach의 알파 계수 계산)에 특정한 통계 분석 결과를 보고하는 것 외에, 일부 논문에서는 일차적으로 새로운 유형의 환경에서 DREEM의 사용을 검증하는 것이 목적인 경우도 있고, 이 경우 데이터를 평가 데이터로 보고한다(예: de Oliveira Filho et al. 2005b; Wang et al. 2009), 

Some papers whose primary aim is to validate the use of the DREEM in a new type of environment also report their data as evaluation data, as described above (e.g. de Oliveira Filho et al. 2005b; Wang et al. 2009), in addition to reporting the results of statistical analysis specific to the validation goal (e.g. factor analysis, calculation of Cronbach’s alpha coefficients).


고찰

Discussion


그러나, 검토는 또한 DREEM 데이터가 어떻게 분석되고 보고되었는지에 대한 합의가 거의 없음을 보여준다. 매개변수(예: t-검정, 분산 분석)와 비모수(예: Mann-Whitney–U, Kruskal-Wallis) 시험이 모두 사용되었다. 다른 접근방식의 선택은 시험의 목적이나 표본의 크기에 기인할 수 있지만, 이것은 그렇지 않은 것 같다. 일상적인 평가에 관련된 사람들은 통계적 배경이 있을 것 같지 않기 때문에 그러한 불일치는 혼란을 야기하거나, 변화가 필요한 영역을 잘 못 해석하는 것으로 이어질 수 있다. 더욱이, 그들은 다른 곳에서 수집된 것과 비교하여 한 기관에서 획득한 DREEM 데이터를 해석하는 것을 어렵게 한다.

However, the review also shows that there is little consensus on how DREEM data has been both analysed and reported. Both parametric (e.g. t-test, analysis of variance) and non-parametric (e.g. Mann–Whitney–U, Kruskal–Wallis) tests have been used. Whereas the choice of differing approaches could be due to the purpose of the test or the size of the sample, this does not seem to be the case. Those involved in routine evaluation are not likely to have a statistical background, so such inconsistencies could lead to confusion and possible misinterpretation of the areas for change. Furthermore, they make it difficult to interpret the obtained DREEM data in one institution in comparison to that collected elsewhere.


위에서 상세히 기술한 바와 같이, 종종 논문은 관심 있는 부분군 간에 유의적인 차이가 있었던 개별 항목에 대한 수단만 보고한다. 종종 저자들은 허용된 단어나 표의 수에 대한 저널의 제한으로 인해 보고할 수 있는 것에 제약을 받는다. 기관 내부에서 과정 평가 목적으로 DREEM을 사용하는 평가자는 그러한 제약조건이 없을 것이다. 기관 간 DREEM 데이터의 유용한 비교를 가능하게 하려면 이상적으로 각 항목에 대해 평균을 보고해야 하며, 성별 또는 연구 연도와 같은 주요 하위 그룹에 의해 세분되어야 한다. 실용적인 이유로 이것이 가능하지 않은 경우, 저자는 자신의 데이터를 관심 있는 당사자가 이용할 수 있도록 해야 한다.

As detailed above, often papers only report means for those individual items where there was a significant difference between subgroups of interest. Often authors are constrained in what they can report due to journal imposed limits on the number of words or tables allowed. Evaluators using the DREEM for internal course evaluation purposes would have no such constraints. To enable useful comparisons of DREEM data between institutions, ideally the means need to be reported for each item, broken down by any key subgroups such as gender or year of study. Where this is not possible for practical reasons, authors should make their data available to any interested party.


대부분의 평가는 해당 평가를 수행하는 기관의 교육 환경을 개선하는 것을 목표로 실시되므로 비교할 필요가 없다고 주장할 수 있다. DREEM을 사용하여 자신의 장단점을 파악하여 완전히 독립적으로 기관의 교육 환경을 진단할 수 있다. 그러나, 당신의 기관의 학생들이 제기한 문제들과 걱정들이 다른 기관들도 공통적으로 가진 문제인지 아는 것이 유용할 수 있다. 더욱이, 다른 기관들이 당신 자신의 기관에서 이러한 동일한 영역의 교정조치에 도움이 될 수 있는 약점 영역을 어떻게 다루고 있는지에 대한 교훈을 얻을 수 있다.

One could argue that most evaluation is conducted with the goal of improving the educational environment at the institution performing that evaluation, thus there is no need for comparisons. It is possible to diagnose the educational environment of your institution completely independently, identifying your own strengths and weaknesses using DREEM. However, it can also be argued that it is useful to know whether issues and concerns raised by students at your institution are common to other institutions. Furthermore, lessons can be learnt about how other institutions are dealing with areas of weakness that may assist in remediation of these same areas at your own institution.


최근, 사용 가능한 기구들에 대한 검토에 따라, 소에만트리 외 연구진(2010년)은 DREEM이 학부 의료기관의 교육 환경을 측정하는 데 가장 적합한 도구일 가능성이 높다고 결론지었다. 그러한 검토는 DREEM이 사용되는 빈도와 그 데이터가 보고되는 빈도를 더욱 증가시킬 수 있다. 이는 DREEM을 여러 기관들 사이에서across institution 보다 효과적이고 일관성 있게 사용할 수 있으려면, 가능한 일관된 분석 및 보고의 필요성을 강화한다.

Recently, following a review of the available instruments, Soemantri et al. (2010) concluded that DREEM was likely to be the most suitable instrument for measuring the educational environment in undergraduate medical institutions. Such a review may lead to a further increase in the frequency with which the DREEM is used and its data are reported. This reinforces the need for consistent analysis and reporting, where possible, to enable the DREEM to be used more effectively and consistently across institutions.







 2012;34(9):e620-34. doi: 10.3109/0142159X.2012.668625. Epub 2012 Apr 3.

The Dundee Ready Education Environment Measure (DREEM): a reviewof its adoption and use.

Author information

1
Norwich Medical School, Faculty of Medicine and Health Sciences, University of East Anglia, Norwich, UK. susan.miles@uea.ac.uk

Abstract

BACKGROUND:

The Dundee Ready Education Environment Measure (DREEM) was published in 1997 as a tool to evaluate educational environments of medical schools and other health training settings and a recent review concluded that it was the most suitable such instrument.

AIMS:

This study aimed to review the settings and purposes to which the DREEM has been applied and the approaches used to analyse and report it, with a view to guiding future users towards appropriate methodology.

METHOD:

A systematic literature review was conducted using the Web of Knowledge databases of all articles reporting DREEM data between 1997 and 4 January 2011.

RESULTS:

The review found 40 publications, using data from 20 countries. DREEM is used in evaluation for diagnostic purposes, comparison between different groups and comparison with ideal/expected scores. A variety of non-parametric and parametric statistical methods have been applied, but their use is inconsistent.

CONCLUSIONS:

DREEM has been used internationally for different purposes and is regarded as a useful tool by users. However, reporting and analysis differs between publications. This lack of uniformity makes comparison between institutions difficult. Most users of DREEM are not statisticians and there is a need for informed guidelines on its reporting and statistical analysis.

PMID:
 
22471916
 
DOI:
 
10.3109/0142159X.2012.668625


카이로프락틱 훈련 기관에서 학부학생들의 교육환경 재평가(J Chiropr Educ, 2015)

Reassessing the educational environment among undergraduate students in a chiropractic training institution: A study over time

Per J. Palmgren, RC,MMedEd, Tobias Sundberg, PT, DO, PhD, and Klara Bolander Laksov, PhD




도입

INTRODUCTION


지난 10년간 의료 전문 훈련에서 교육 환경의 역할에 대한 관심이 증가하고 있다. 교육의 질을 위한 교육 환경의 가치는 연구 결과에 의해 뒷받침되고 있으며, 환경이 효과적인 커리큘럼의 중요한 결정요인이며 학생들의 행동과 행복감에 영향을 미친다는 것은 널리 인정받고 있다.1-3 결과적으로, 학생 학습에서 효과적인 프레임워크로서의 교육 환경에 대한 인식이 증가하고 있다.4 연구에 따르면 학생들의 환경에 대한 인식이 교육 결과와 학업 진척도에 크게 영향을 미치고 바람직한 학습 결과가 사회 검사적 환경의 측면과 긍정적으로 연관되어 있다고 한다.8,9 게다가 기능 장애가 있는 환경은 비용이 많이 들고 비생산적인 환경이다.10,11

The last decade has witnessed a growing interest in the role of educational environments in health care professional training. The value of the educational environment for the quality of education is underpinned by research outcomes, and it is widely acknowledged that the environment is an important determinant of an effective curriculum and affects students’ behavior and sense of well-being.1–3 Consequently, there is increasing recognition of the educational environment as an effective framework in student learning.4 Studies have shown that students’ perceptions of the environment significantly influence educational results and academic advancement5–7 and that desirable learning outcomes are positively linked with aspects of sociopsychological environments.8,9 Moreover, dysfunctional environments are costly and counterproductive.10,11


교육 환경에 대한 경험적 조사는 풍부한 계층과 다양한 특징, 설정 및 이해당사자를 포괄할 수 있기 때문에 상대적으로 복잡할 수 있다. 학생들은 주요 이해당사자들 중 하나이며, 그들의 교육 환경에 대한 그들의 인식은 매우 유용한 정보의 원천이다. 따라서 교육 환경은 부분적으로 다른 이해당사자들 사이의 상호작용에 의해 특징지어질 수 있다. 그것들은 효과적인 교육에 기여할 수 있는 많은 요소들을 포함하고 있으며, 그것들은 교과 과정이 존재하는 중추다.12

Empirical investigations of educational environments can be relatively complex, as they can encompass abundant layers and a multitude of different features, settings, and stakeholders. Students are among the key stakeholders, and their perceptions of their educational environment are highly useful sources of information; thus, educational environments can be partially characterized by interactions between different stakeholders. They embody many factors that can contribute to effective education, and they are the backbone in which a curriculum resides.12


교육 환경은 개인이 사회적으로 구성되는 감정, 지적, 물리적 현으로 이루어진 복잡한 거미줄이며, 이는 여러 가지 함축이 있는 다소 모호한 구조를 구성하며, 따라서 비록 시도는 있었지만 정의내리는 것을 어렵게 만든다.2 이러한 어려움은 아마도 그것의 모든 것을 포용하는 성격 때문일 것이다.13 교육 환경은 외부적이고 가시적인 객관적 요소들뿐만 아니라 기관의 "인성" 특성과 같은 미묘하고 내적인 특징들을 구성한다고 가정할 수 있다. 그러므로, 교육 환경은 직접적으로 측정할 수 없는 이론적 구조로서, 그러나 그것의 만연하고 실질적인 영향은 학생들의 일상적인 경험과 인식에서 나타나며, 이는 탐구하고 평가할 수 있다.

The educational environment is an intricate web of emotional, intellectual, and physical strings, which are socially constructed by individuals.1,2,13 It constitutes a somewhat vague construct with a multitude of connotations, thus making definitions challenging—although there have been attempts.2 This difficulty is probably due to its all-embracing nature.13 It can be presumed that educational environments constitute not only externalized and tangible objective components but also subtle and internalized features, such as the ‘‘personality’’ traits of an institution. Thus, the educational environment is foremost a theoretical construct that cannot be measured directly; however, its pervasive and substantial effects are manifested in students’ mundane experiences and perceptions, which can be explored and assessed.


설계, 유효성 및 신뢰성의 측면에서 각각 강점과 단점을 가진 의료 전문 교육의 교육 환경을 측정하기 위해 다양한 도구를 사용할 수 있다. DREEM(Dundee Ready Education Environment Measure)은 아마도 가장 광범위하게 사용되는 도구일 것이다.14 그것은 기관간 차이, 다양한 교육단계, 16–18 커리큘럼 개혁, 19 및 성별 불일치와 같은 학부 교육 환경의 다양한 측면을 탐구, 평가 및 비교하는 데 사용되어 왔다. 

Various instruments can be used to measure educational environments in health care professional education, each with strengths and drawbacks in terms of design, validity, and reliability. The Dundee Ready Educational Environment Measure (DREEM) is perhaps the most extensively used instrument.14 It has been used to explore, evaluate, and compare various aspects of undergraduate educational environments, such as institutional differences,15 levels of training,16–18 curriculum reform,19 and gender discrepancies.20,21


DREEM은 교육적 맥락에서 환경을 측정하는 데 적합하며, 테스트 내용(내용 및 구성 유효성)22~24 및 내부 일관성(신뢰성)에 기반한 증거와 함께 다양한 맥락에서 양호한 심리측정적 특성을 가진 것으로 보고되었다그 기구는 의심할 여지 없이 전문 의료 교육에 대한 더 큰 맥락적 이해를 확립하는 데 기여했다.

 DREEM is suitable for gauging the environment in educational contexts,14 and it has been reported to have good psychometric properties in many diverse contexts, with evidence based on test content (content and construct validity)22–24 and internal consistency (reliability).19,25–28 The instrument has undoubtedly contributed to establishing a greater contextual understanding of professional health care education.


방법

METHODS


Empirical Setting


Study Design and Methodology


이 연구는 실용적 연구 전통에 입각한 혼합 방법론적 다중 사례 연구 방법론을 채택하고 있는 보다 큰 미래 연구 프로젝트의 일부였다.

The study was part of a larger prospective research project employing a mixed-method multiple–case-study methodology anchored in a pragmatic research tradition.


Participants and Sampling


Data Collection


DREEM은 교육 환경과 직접적인 관련이 있는 다양한 주제와 관련하여 자체 통제되고 폐쇄된 재고자산이다. 스웨덴에서 사용할 수 있도록 번역되고 검증된 19는 리커트 응답의 5점 만을 사용하여 0부터 4까지 점수를 매긴 50개의 문장으로 구성되어 있다: 01⁄4 반대, 1⁄4 반대, 2 1⁄4 반대, 3 1⁄4그라이, 4 1⁄4 강하게 동의한다. 이 항목들은 교육 환경의 다양한 특징을 포함하는 5개의 항목으로 수집된다. 

    • 학습에 대한 학생들의 인식(SPL; 12개 항목/최대 점수 48) 

    • 가르침에 대한 학생들의 인식(SPT; 11개 항목/최대 점수 44) 

    • 학생들의 학업 자기 인식(SASP; 8항목/최대 점수 32점)

    • 학생들의 대기에 대한 인식(SPA; 12항목/최대점수 48) 및 

    • 학생들의 사회적 자아 인식(SSSP; 7항목/최대 점수 28). 


DREEM is a self-administered, closed-ended inventory relating to a variety of topics of direct relevance to educational environments. Translated and validated for use in Sweden,19 it comprises 50 statements scored from 0 to 4 using a 5-point Likert response: 0 ¼strongly disagree, 1 ¼disagree, 2 ¼unsure, 3 ¼agree, and 4 ¼strongly agree. The items are congregated into 5 subscales covering different features of the educational environment: 

    • students’ perceptions of learning (SPL; 12 items/maximum score 48), 

    • students’ perceptions of teaching (SPT; 11 items/ maximum score 44), 

    • students’ academic self-perceptions (SASP; 8 items/maximum score 32),

    • students’ perceptions of the atmosphere (SPA; 12 items/maximum score 48), and 

    • students’ social self-perceptions (SSSP; 7 items/maximum score 28). 


항목 중 9개는 부정적이어서 역점수를 받는다. 따라서 모든 항목과 하위 척도 점수에 대해 높은 점수는 더 긍정적인 반응을 나타낸다.

Nine of the items are negative statements and are therefore scored in reverse. Thus, for all the item and subscale scores, a higher score designates a more positive response.


항목들은 3가지 레벨로 분석할 수 있다: 개별적으로, 5개의 항목으로 풀링, 그리고 전체적으로. 이 도구의 전체 점수는 200점이며 전체 및 하위 척도 점수는 표준 지침과 비교하여 해석할 수 있다.31 Edgren 등 19는 교육 환경과 항목별 전반적인 인식은 명시적인 교육 문제를 잠재울 수 있기 때문에 항목 수준에서 데이터 분석의 중요성을 강조했다. 개별 항목 점수는 또한 확정적 강점과 단점을 정확히 파악하기 위해 조사할 수 있다.31 평균 점수가 3.5보다 큰 항목은 주로 강점을 나타내고, 예상 평균 2보다 작거나 같은 점수는 문제가 있는 영역을 나타내며, 2와 3 사이의 점수는 개선이 가능한 영역을 나타낸다.

The items can be analyzed on 3 levels: individually, pooled into 5 subscales, and overall. The instrument has an overall score of 200, and overall and subscale scores can be interpreted against standard guidelines.31 Edgren et al19 highlighted the importance of analyzing data on an item level because the overall perception of the educational environment and the subscales could conceivably conceal explicit educational problems. Individual item scores can also be examined to pinpoint definitive strengths and shortcomings.31 Items with a mean score greater than 3.5 mainly represent strong areas; a score of less than or equal to the expected mean of 2 indicates problematic areas; and scores between 2 and 3 indicate areas in which improvements could be made.



데이터 분석 

Data Analysis


모든 항목이 응답자에 의해 완성되는 경우에만 해당 항목을 개별, 집합 및 전체 3단계로 분석하였다. 분석의 주된 초점은 개별 항목 수준이었다. 모든 수준의 데이터는 평균으로 보고되었다. 전체 및 하위 척도 점수는 각각 최대 달성 가능 점수의 백분율로 표현되었다.22,32

The items were analyzed on 3 levels—individually, pooled, and overall—only if all items were completed by the respondents. The main focus of the analysis was the individual item level. The data from all levels were reported as averages through means. The overall and subscale scores were expressed as percentages of the respective maximal attainable scores.22,32


데이터 분포는 중심 경향의 매개변수들 사이의 잠재적 불일치를 대조하고 분포의 편차 및 첨도를 평가하고 Kolmogorov-Smirnov 및 Shapiro-Wilk 테스트를 채택하여 상자 그림을 통해 시각적으로 평가되었다.

The data distribution was assessed visually via boxplots by contrasting potential discrepancies among the parameters of central tendency, evaluating the skewness and kurtosis of the distributions, and employing Kolmogorov-Smirnov and Shapiro-Wilk tests.


기준 변수는 재고자산의 전체, 하위 척도 및 개별 점수로 측정한 교육 환경의 인식이었으며, 예측 변수는 코호트의 연도(2009년과 2012년)와 연구 연도(1~5년)였다. Swift 외,33에 의해 설명된 지침에 따라 5개의 응답 범주는 동의/강력한 동의, 확실하지 않음, 그리고 반대/강력한 불일치로 3가지로 분류되었다.

The criterion variables were the perceptions of the educational environment as measured by the overall, subscale, and individual scores of the inventory, and the predictor variables were the cohorts’ year (2009 and 2012) and year of study (1 to 5). Following the guidelines outlined by Swift et al,33 the 5 response categories were trichotomized into agree/strongly agree, unsure, and disagree/strongly disagree.


효과 크기는 변경 점수의 평균을 합동 표준 편차로 나누어 계산했다.36 효과 크기 통계, 0.2는 작은 유의미한 변화의 크기를 나타냈으며 0.2–0.7은 중간 변화, 0.7은 큰 변화를 나타냈다. 이러한 분석은 세 가지 분석 수준 모두에 대해 수행되었다.

Effect size was calculated by dividing the mean of the change scores by the pooled standard deviation.36 Effect size statistics ,0.2 indicated a small meaningful magnitude of change, 0.2–0.7 a moderate change, and .0.7 a large change. These analyses were performed for all 3 analytical levels.



Ethical Considerations


RESULTS


하위 척도 점수를 사용하여 수행된 DREEM의 내부 일관성은 Cronbach가 2009년에 각각 SPL, SPT, SASP, SPA 및 SSSP에 대한 값을 보여주었고, 각각 0.781, 0.75, 0.512, 0.75 및 0.743의 값을 나타내었으며, 2012년에는 각각 0.710, 0.645, 621, 627, 0.569의 값을 보여주었다.

The internal consistency of DREEM, conducted using the subscale scores, showed Cronbach a values for SPL, SPT, SASP, SPA, and SSSP of .781, .725, .512, .759, and .743, respectively, in 2009; and .710, .645, .621, .727, and .569, respectively, in 2012.



Overall and Subscale DREEM Scores at 2 Points in Time




Longitudinal Overall and Subscale DREEM Scores


Comparison of Individual DREEM Scores at 2 Points in Time




Comparisons of Individual DREEM Scores of Longitudinal Matching Samples







DISCUSSION


Key Findings


The Study’s Contribution and Relation to Empirical Evidence


내적 일관성

Internal Consistency


우리의 데이터는 Cronbach가 DREEM 항목별 값이 다양하다는 것을 보여주었고, 5개의 항목 중 4개가 2009년에 임계값을 초과했지만 2012년에는 2개 항목만 해당 항목에서 내부 일관성이 저하되었음을 나타낸다. 유소프 외 37은 유사한 모집단을 다른 시간 및 경우에 유사한 결과를 제공하는 DREEM 재고의 능력을 위태롭게 할 수 있다고 주장했다. 이전의 연구는 최근 5개 항목에서 Cronbach의 가변성과 관련하여 DREEM의 불일치를 지적했다.38–40 

Our data demonstrated that the Cronbach a values for the DREEM subscales varied, with 4 of the 5 subscales surpassing the a threshold34 in 2009 but only 2 doing so in 2012, indicating that their internal consistency was compromised. Yusoff et al37 asserted that this may jeopardize the ability of the DREEM inventory to give analogous results if a similar population is being studied at different times and occasions. Previous research has recently pointed to discrepancies in the DREEM in relation to the variability of Cronbach in the 5 a subscales.38–40 


따라서 값이 낮다는 것은 부적절한 문장의 수, 항목 간 상호관련성 또는 이질적인 구성의 결과일 수 있다는 것이 문헌에서 제시되었다. 반대로, 매우 높은 값은 동일한 구조를 테스트하기 때문에 일부 항목이 중복됨을 나타낼 수 있다.41,42 낮은 값에 대한 우리의 데이터는 DREEM에 의해 측정되고 있는 5개 이상의 구조가 있음을 나타낼 수 있으며, 이는 다른 사람들에 의해 지지된 개념이다.43 이러한 다차원성으로 인해서 Cronbach alpha가 신뢰도를 과소평가하는 결과로 이어졌을 수 있다.

Thus, it has been suggested in the literature that low a values could be a result of an inadequate number of statements, poor interrelatedness between items, or heterogeneous constructs. Conversely, very high values may indicate that some items are redundant because they are testing the same construct, though in a diverse form.41,42 Our data on low a values might indicate that there are more than 5 constructs being measured by the DREEM, a notion which has been supported by others.43 Such multidimensionality could lead to Cronbach a underestimating the level of reliability.44


Overall and Pooled DREEM Scores


점수가 높은 이유는 추측만 할 수 있지만, 소규모 사립 기관들이 주로 좋은 점수를 받는지 여부를 탐구하는 것은 흥미로울 것이다. 이 개념은 최근 연구들에서 DREEM 점수가 더 높은 것은 사립기관이 규모가 작다는 것에 기인할 수 있다고 제안하면서 지원되었다.48 그러나 학자들은 DREEM 목록으로 측정했을 때 지각적으로 좋은 교육 환경을 가진 소규모 교육 기관에서도 중요한 성별, 인종 및 소수민족 관련 문제는 빈약한 교육 환경이라는 그늘을 드리울 수 있다.49 게다가 McKendree45는 이해관계자의 열정이 전체 기관에 퍼져 있는 "신규 학교"가 교육 환경에 대한 높은 인식을 부분적으로 설명할 수 있다고 제안했다. '조직적 사가'50라는 용어는 고등교육의 일부 기관이 왜 매우 좋은 것으로 간주되는지를 설명하기 위해 사용되었다. 버턴은 '사가saga'는 미션을 갖춘 소그룹의 강한 비전으로 시작되는 경우가 많으며, 이러한 현상은 소조직에서 종종 더 구체적이고 구체적이라고 지적했다. 

The reason for the high score can only be speculated upon, but it would be intriguing to explore whether small private institutions score predominantly well. This notion has recently been supported, with investigators suggesting that higher overall and subscale DREEM scores could be attributed to smaller class sizes in private institutions.48 However, scholars have shown that even in small training institutions with a perceivably good educational environment, as measured with the DREEM inventory, subtle but important gender-, ethnic-, and minority-related issues could overshadow the propensity of a scanty educational environment.49 Furthermore, McKendree45 proposed that a ‘‘new school’’ in which stakeholder enthusiasm pervades the entire institution could partly explain high perceptions of the educational environment. The term ‘‘organizational saga’’50 has been used to explain why some institutions in higher education are regarded as very good. Burton50 pointed out that a saga often begins with the strong vision of a small group with a mission, and that this phenomenon is often more tangible and concrete in smaller organizations. 


다른 연구에 따르면, 이 재평가는 교육 프로그램의 첫 해와 마지막 해에 교육 환경에 대한 인식이 가장 높은 것으로 보인다는 것을 입증한다. (우리의 경우, 3년차 및 4년차). 3,27,53–55 그러나 2009년에 1학년 학생들은 T에 대해 더 긍정적이었다.2012년에 그의 동료들보다 교육적인 환경; 비록 질량적 중요성에 대한 본페로니 조정은 이것이 유의하지 않다는 것을 보여주었지만, 같은 경사형 모양이 프로그램을 통해 명백했다. 이에 합치하여 연구자들은 많은 학생들의 초기 열정이 연구 과정 동안 감소하는 것으로 보이며, 교육 환경의 지각적 악화는 전적으로 교육 전달에 의한 것이 아니라 나이가 더 들고, 비판적이 되고, 자율성을 중요시하게 되는 것과 같은 개별적인 요소에 기인한다고 제안했다.21,56 젊은 학생들의 성인의 삶 진입과 고등 교육 연구 참여와 관련된 행복은 초기 높은 점수를 설명할 수 있으며, 학생들이 긴 교육 프로그램의 정점에 가까워짐에 따라 점수가 다시 오를 것이라는 것은 직관적으로 그럴듯해 보인다. 

In accordance with other studies, this reassessment corroborates the finding that the perception of the educational environment seems to be at its highest in the first and last years of an educational program, with a measurable slope in the middle (in our case, years 3 and 4).3,27,53–55 However, in 2009, 1st-year students were more positive about the educational environment than their peers in 2012; though the Bonferroni adjustment for mass significance showed that this was not significant, the same sloped shape was apparent halfway through the program. In congruence, researchers have proposed that the initial enthusiasm of many students appears to decrease during the course of their studies and that the perceived deterioration of the educational environment is not entirely due to educational delivery but also to individual factors, such as becoming older, more critical, and autonomous.21,56 Young students’ happiness in relation to entering adult life and taking up higher education studies could explain the initial high scores, and it seems intuitively plausible that the scores would rise again as students approach the culmination of a long educational program. 


이와는 대조적으로, 시간에 따른 최근의 비교 연구에서, 모하디디 외 30은 교육 환경에 대한 그들의 인식과 관련된 임상 단계 학생들의 점수가 임상 전 단계 학생들의 점수보다 더 높다고 보고했다. 그들은 이것이 시간이 지남에 따라 교육 환경의 변화를 나타내는 것일 가능성이 높다고 주장했다. 마찬가지로, 강 교수 등은 최근 훈련 프로그램을 중간에서 DREEM 점수가 감소하는 것은 임상 교육의 시작과 공식 대 임상 환경의 인식의 차이로 설명할 수 있다고 보고했다. 그러나, 교육 학습 환경에 대한 높은 기대를 가지고 훈련 프로그램을 시작하는 학생들은 프로그램 과정 내내 환경에 대한 보다 긍정적인 전체적인 인식을 갖게 되기 쉽다는 경험적인 증거가 있다.57

In contrast, in a recent comparative study over time, Mojaddidi et al30 reported that the scores of clinical phase students regarding their perception of the educational environment were higher than those of preclinical phase students. They argued that this was most likely an indication of change in the educational environment over time. Likewise, Kang et al57 recently reported that this decline in the DREEM scores halfway through a training program could be explained by the commencement of clinical education and the differences in perceptions of the formal vs the clinical environment. However, there is empirical evidence suggesting that students who start a training program with a higher expectation of their educational learning environment are prone to having more positive overall perceptions of the environment throughout the course of the program.57



개별 DREEM 문항

Individual Item DREEM Scores


Edgren 등이 지적한 바와 같이, 교육 환경에 대한 전체 및 subscale의 인식에서 얻은 19점은 명백한 교육 문제의 존재를 은폐할 수 있으므로, 항목 수준에서 DREEM 인벤토리를 해석하기 위해 주의를 기울여야 한다. 이와 같이 시간에 따라 지속적으로 박탈된 점수를 받는 3개 항목은 아래에서 별도의 실체로 논의한다.

As pointed out by Edgren et al,19 scores from overall and subscale perceptions of the educational environment may conceivably veil the presence of explicit educational problems; therefore, particular attention must be paid to interpreting the DREEM inventory on an item level. As such, the 3 items persistently receiving deprived scores over time are discussed below as separate entities.


스트레스 받은 학생에 대한 지원 부족

Limited Support for Stressed Students


사실적 지식의 과다한 강조

Overemphasizing Factual Learning


많은 DREEM 연구는 가르치는 것이 사실적 학습을 지나치게 강조한다는 학생들의 인식을 강조해왔다. 따라서 학생들이 더 깊은 학습을 하지 않고 표면 학습 접근법을 채택하고 있음을 암시한다.64 사실적 과부하 인식은 표면 학습 접근법과 관련이 있는 것으로 나타났다.65 실제로, 의료 전문 훈련의 많은 특징들이 학생들을 표면 학습을 유도하곤 한다.66 게다가, 학자들은 교육 환경을 부정적으로 인식하는 학생들이 학문적으로 덜 숙련된 학생일 수 있다는 것을 보여주었다.67,68

Many DREEM studies have highlighted students’ perception that teaching overemphasizes factual learning,3,18,19,47,54,57,63 thus insinuating that students are employing surface-learning approaches to the detriment of deeper learning.64 Perceptions of factual overload have been shown to be correlated with surface-learning approaches.65 Indeed, many features of health care professional training might propel students toward surface learning.66 Furthermore, scholars have shown that students who perceive the educational environment deleteriously may be those who are less academically proficient.67,68


연구에 따르면 authentic 맥락을 강화하는 교육 환경의미 부여를 촉진하고 지식의 적용을 촉진하며 반복적인 성찰을 촉진하여 교사 중심성과 사실적 학습에 대한 강조를 모두 극복한다.19,72–74

Research has shown that educational environments that enhance authentic contexts facilitate meaning making, stimulate the application of knowledge, and promote iterative reflection, thus combating both teacher centeredness and the emphasis on factual learning.19,72–74


권위주의적 교사Authoritarian Teachers


의료 전문가 교육에서 학생들의 centeredness과 자발적이며, 평생학습자 패러다임으로의 변화에도 불구하고, 그리고 선생님들의 역할이 완전히 바뀌었음에도, 많은 다른 연구와 유사하게, 우리들은 학생들에 대한 전반적인 인식 선생님들은 권위주의적임을 발견했다.

Despite a paradigmatic shift in health care professional education toward student centeredness and self-directed, lifelong learning, as well as the transformation of teachers’ roles from the ‘‘sage on stage’’ to the ‘‘guide by the side,’’75 similar to many other studies3,26,54,57,76 we found an overall perception among students that teachers were authoritarian.


그러나, 이후에 이어지는 학생들과의 질적 인터뷰에서, 참가자들은 '권위주의자'라는 단어의 함축에 대해 설명하는데 어려움을 겪었고, 따라서 이 항목이 어쩌면 instrumental artifact이며, 이는 결국 안면타당도에 의문을 제기한다. 앞서 우리가 이것에 대해 보고했으며, 우리는 권위주의라는 단어의 함축에 문화적 차이가 있을 수 있다고 믿는다. DREEM 개발자들의 이전의 주장과는 달리, 이 도구가 문화에서 독립되지 않을 수도 있다.24,40,81 반면에, 우리의 자료는 2009년과 2012년 모두 학생들이 '교실에서 교사가 화를 낸다'는 말에 동의하지 않는다는 것을 보여주었다."에 대해서 평균보다 높은 점수를 보여주었으며, strong areas로 드러났다. 그럼에도 불구하고 권위주의라는 개념은 정확성을 형성할 수 있고 학생들의 인식에 대한 평가는 더 조사되어야 한다.

However, in an ensuing qualitative interview with students (data not reported here), the participants had difficulty explaining the connotation of the word ‘‘authoritarian,’’ thereby making this item a possible instrumental artifact, which in turn, raises questions over its face validity. While we reported on this earlier,54 we believe that there may also be cultural differences in the connotation of the word authoritarian. It is possible, contrary to previous claims made by the DREEM developers,22 that the inventory might not be independent of culture, a viewpoint supported by others.24,40,81 On the contrary, both in 2009 and 2012, our data revealed that students demonstrated disagreement with the statement ‘‘The teachers get angry in class,’’ displaying scores above the estimated mean and greater than the cutoff for strong areas. Nevertheless, the notion of authoritarianism could form an accurate and assessment of the students’ perception must be investigated further.


종단적 검사의 DREEM 변경 사항

Longitudinally Examined DREEM Changes


그러나 DREEM을 이용한 많은 학술적 조사에서는 최종 단계에서 약간의 점수 상승을 제외하고는 훈련기관에서 보내는 시간에 따라 환경에 대한 인식이 감소한다는 것을 보여주었다. 그러나 중요한 것은 이러한 연구의 대부분이 종단 설계가 아닌 단면 설계를 채택했다는 점이다.

However, many scholarly investigations using DREEM have shown that perceptions of the environment decrease with the time spent in the training institution,3,27,29,53–55 except for slight score escalations in the final phase. Importantly, however, most of these studies have employed cross-sectional—not longitudinal—designs.


모델 합성

Synthesizing a Model


앞서 언급한 연구결과, 실증적 증거, 그리고 기존의 이론적 틀에 기초한 납치적 추리 접근법을 사용하여 교육환경 문제와 부정적 인식 사이의 상호적 연관성을 예증하고 묘사할 수 있는 모델을 제안한다(그림 2). 순환은 교육 과정이 학생과 교사 모두에게 스트레스 요인이 되기 보다는 격려가 되는 편안한 환경을 조성함으로써 중단되어야 한다. 

    • 스트레스 처리를 위한 적절한 지원 시스템의 구축, 

    • 선생님들을 전통적인 교육 마인드셋에서 구해내고, 

    • 교육/학습 프로세스에서 맥락화되고 결정적인 의미 있는 사실적 학습을 촉진하는 학생 중심의 환경을 구축한다.

Using an abductive reasoning approach based on the aforementioned findings, empirical evidence, and existing theoretical frameworks, we propose a model that could illustrate and depict the reciprocal connections between educational environment issues and negative perceptions (Fig. 2). This iterative cycle should be interrupted by creating a congenial environment wherein educational processes become an encouragement rather than a stressor for both students and teachers, 

    • result in the establishment of adequate support systems for handling stress, 

    • extricate teachers from traditional teaching mind-sets, and 

    • construct student-centered environments wherein teaching/learning processes promote meaningful factual learning that is contextualized and decisive.



방법론적 성찰 및 한계

Methodological Reflections and Limitations


거의 80년 동안 과학 문헌에서 논의된 주제인 Likert 데이터를 어떻게 분석해야 하는지에 대해 논란이 있으며, DREEM 목록도 이러한 담론을 적용 받아왔다. 비모수 분석을 선택한 근거는 데이터의 서수 분포와 비-가우스 분포에 기초하였다. 그러나 모수적 기법의 적합성에 대한 증거가 있다. 문항이 모여서 subscale로 구성되는 독립 항목의 합계가 덜 왜곡되고 정규 분포될 가능성이 높으며, 항목 자체보다 항목별 데이터를 서수로서 취급하는 것이 모수 통계 추론과 같은 보다 강력한 분석 모드의 사용을 평균한다고 주장할 수 있다. 

There is controversy regarding how Likert data should be analyzed—a topic debated in the scientific literature for nearly 80 years83–85—and the DREEM inventory has also been subjected to this discourse.33,86 The rationale behind our choice of nonparametric analysis was grounded in the ordinal nature and non-Gaussian distributions of data. However, there is evidence on the suitability of parametric techniques.84,85,87 One could argue that the sums of the independent items, constituting subscales, are likely to be less skewed and more normally distributed than the items themselves, and that treating the data from subscales as ordinal in character averts the use of more potent modes of analysis, such as parametric statistical inferences. 


그럼에도 불구하고 이론적으로는 5단계(리커트 항목 등)의 범주형 변수로는 정규 분포를 따를 수 없는 반면, 이론적으로는 연속 변수만 분포할 수 있다. 변수는 대칭이 될 수 있으므로 리코딩된 값을 모수적 테스트로 해석할 수 있다. 그러나 이것이 적절한지 아닌지는 오랜 문제가 되어왔다. 프라그매틱하게 민감도 분석의 한 유형으로서, 이러한 파라메트릭 방법을 채용하고 사후 분석(보고되지 않음)을 실시했지만, 항목 중 9% 미만의 diametric significance level만 제외하고, 별다른 상이한 결과는 검출하지 않았으며, 이는 평균과 비율의 차이에 기인할 수 있었다.

Nevertheless, theoretically, only continuous variables can be normally distributed, while a categorical variable with 5 levels (such as Likert items) cannot. The variable can be symmetric, thus permitting recoded values to be interpreted with parametric tests. However, whether this is appropriate or not has been a long-standing issue. Pragmatically, as a type of sensitivity analysis, we also employed these parametric methods and performed a post hoc analysis (not reported), but we did not detect any major dissimilar results, except for diametric significance levels for less than 9% of the items, which could be attributed to differences between means and proportions.


비모수 통계 분석은 중앙 경향의 척도로 중앙값을 사용하여 계산한다. 그러나, Swift al,33과 마찬가지로 중위수는 5개의 가능한 점수 중 1개만 취할 수 있기 때문에 중위수보다는 평균을 제시하는 것이 더 의미 있다고 생각한다. DREEM 항목에 대해 다소 흔해 보이는 왜곡된 분포의 경우, 만족스러운 중심 측정치를 가진 항목은 여전히 부정적인 반응의 높은 비율을 숨길 수 있다. 따라서 우리는 Swift et al33 및 trichotomized 된 Likert 반응 범주에 의해 요약된 권고사항을 준수하고 그 방법을 보고했다.

Nonparametric statistical analyses are calculated using the median as a measure of central tendency. However, concurring with Swift al,33 we believe et it is more meaningful to present means rather than medians because the median can only take 1 of the 5 possible scores. For skewed distributions, which seem rather common for DREEMitems, an itemwith a satisfactory central measure may still conceal a high proportion of negative responses. We therefore adhered to the recommendations outlined by Swift et al33 and trichotomized Likert response categories and reported the means.


또한 최근, 예상 평균 이하의 값, 즉 개발자가 권장하는 임계값은 보다 엄격한 분석을 달성하기 위해 2.5로 상향 조정될 수 있다는 제안이 제기되었다.33 그러나, 현재 연구에서 우리는 발신자22의 지침을 따르는 것을 선택하고 2.0을 한계로 채택했다.

It has also recently been proposed that values below the expected mean, the threshold as recommended by the developers, could be a priori elevated to 2.5 to attain a more stringent analysis.33 However, in the current study, we chose to follow the guidelines of the originators22 and employed 2.0 as the limit.


학생들의 고등교육에 대한 인식을 탐구하기 위해 DREEM을 활용하는 많은 연구에도 불구하고, 매우 적은 수의 심리측정적 보고만이 발표되었다. 결과적으로, DREEM 계측기의 심리측정적 robustness에 대한 최근 우려가 표면화되었다. DREEM 도구는 원래 맥락에서 양호한 construct 타당성을 가진 것으로 보고되었지만, 더 최근에는 다른 맥락에서 이 척도의 안정성과 construct 타당성에 의문을 제기하였다. Original scale structure의 재현은 일부만 성공적이었을 뿐이며, 아마도 inventory의 취약성을 나타낸다. 

Despite the large number of studies utilizing DREEM to explore students’ perceptions of their higher education, very few psychometric reports have been published. Consequently, some recent concerns have surfaced about the psychometric robustness of the DREEM instrument.24,38–40 Although the DREEM instrument was initially reported to have good construct validity in its original context,22,23 more recently, investigators have questioned the stability and construct validity of the measure in other contexts.37,38,40 Reproductions of the original scale structures have been only moderately successful, probably indicating weaknesses in the instrument.24,39 


신뢰성과 유효성은 수집된 데이터의 산물이기 때문에, 88 또한 우리의 연구에서 사용된 DREEM 도구에서 파생된 데이터의 문화적cultural 타당성에 관한 몇 가지 의문도 있다. Vaughan 등 40은 최근 osteopathic 학생의 데이터를 기반으로 한 DREEM의 새로운 짧은 버전을 제안했지만, 이는 원래 제안된 하위 척도 구조와 마찬가지로 추가 조사를 필요로 한다. 또한 이러한 저자들은 계측기가 하나의 기초적인 구조를 측정할 수 없었기 때문에 전체 합계 점수를 심령학적 결과에 기초하여 계산할 때 주의해야 한다고 주장했다. 그럼에도 불구하고 교육 환경 연구에서는 기관 간 비교를 위해 전체 DREEM 합계 점수를 보고하는 것이 관례로 되어 있으며, 이 문제가 더 심리측정적으로 탐구될 때까지 이러한 결과를 보고해야 한다.

Because reliability and validity are products of data gathered,88 there are also some questions regarding the cultural validity of data derived from the DREEM instrument used within our study. Vaughan et al40 recently proposed a new short version of the DREEM instrument based on data from an osteopathic setting, but this warrants further investigation, as does the originally proposed subscale structure. These authors40 also advocated caution when calculating the overall sum score on the basis of psychometric results, as the instrument was unable to gauge a single underlying construct. Still, it is customary in educational environment research to report overall DREEM sum scores for cross-institutional comparisons, and until this issue has been further psychometrically explored, we shall report these results.


    • 높은 계수는 항목 간 중복성과 다차원 척도를 반영할 수 있다고 가정했다. 

    • 본 연구에서, 비록 그러한 점수는 다소 높은 것 같았고 (보고되지 않은) 문항들이 서로 강하게 연관되어 있다는 것을 암시할 수도 있지만, 우리는 전체 점수를 발송하지 않았다.

    • 크론바흐 a는 각 시험항목이 동일한 척도에서 동일한 잠재 특성을 측정한다고 가정하는 "타우 등가 모형"에 기초한다.

    • DREEM 목록을 활용하는 많은 저자들 사이에서 모든 DREEM 항목에서 도출한 전체 점수의 신뢰성에 대해 보고하는 것이 관례다. 

    • 그러나 이는 모형이 구성되는 가정에 위배되기 때문에 부적절할 수 있으며, 이는 부풀려진 점수를 줄 수 있다.

    • It has been postulated that high a coefficients could reflect redundancy among items89,90 and multidimensional scales.91 

    • In the present study, we did not dispatch any overall a scores, though those scores seemed rather high (not reported) and might suggest that the items correlated strongly with each other.42 

    • Cronbach a is grounded in the ‘‘tau equivalent model,’’ which assumes that each test item measures the same latent trait on the same scale.92 

    • It is customary among many authors utilizing the DREEM inventory to report on the reliability of the overall a score derived from all the DREEM items. 

    • However, this can be inappropriate, as it violates the assumption upon which the model is constructed—which can give an inflated score.


제이콥슨 외 24명은 스웨덴어 버전의 DREEM을 사용하여 의대생 표본에 대한 심리측정학적 조사를 실시했으며, 하위규모 구조를 제외하고 타당하고 신뢰할 수 있다고 보고했으며, 새로운 5요인 솔루션을 제안했다. 그러나 그들은 후속적으로 새로운 요인 설계로 얻은 결과가 원래의 결과보다 우수하지 않다고 언급하였다. 다양한 맥락과 설정에서 DREEM 계측기의 정신학적 특성을 탐구하고 결정하기 위한 지속적인 연구가 필요함에도 불구하고, 교육 환경에 대한 맥락적 이해에 크게 기여했다.

Jakobsson et al24 performed a psychometric investigation using the Swedish version of DREEM on a sample of medical students and reported that it was valid and reliable, except for the subscale structure; they proposed a new 5-factor solution. However, they subsequently stated that the results obtained with the new factor design were not superior to those of the original. Despite the need for continued research to explore and determine the psychometric properties of the DREEM instrument in a variety of contexts and settings, it has contributed immensely to a greater contextual understanding of the educational environment.


단일 방법 접근법의 사용과 조사 기반 연구의 사용은 문제가 될 수 있고 의심스러울 수 있다. 

    • 정량적 도구는 다른 이해관계자들이 자신의 교육 환경을 어떻게 인식하는지에 대한 즉각적인 표현representation을 만들 뿐, 이러한 환경에 대한 이해관계자들의 경험 및 부족한 점수의 기초가 되는 우려에 관한 풍부한 데이터를 제공할 수 없다. 또한, 그러한 이해관계자들이 이러한 환경에 대해 포함하지 않는 다른 구조를 조명할 수 없다. 

    • 교육 환경의 다층 현상을 더 깊이 이해하기 위해서, 심층적인 질적 조사는 복잡한 특징들을 조명할 수 있고 현재 상황의 장단점에 대한 우리의 이해를 향상시킬 수 있다. 또한 교육 이해당사자의 환경에 대한 경험과 인식에 영향을 미치는 보다 다양한 요인을 알려줄 수 있다.

The use of mono-method approaches and the employment of survey-based research can be problematic and dubious. 

    • Quantitative instruments merely create an instantaneous representation of how different stakeholders perceive their educational environment but cannot offer rich data regarding the stakeholders’ experiences of these environments and the concerns underlying deprived scores; neither can they illuminate other constructs that are not encompassed by the inventories. 

    • To gain a deeper understanding of the multilayered phenomenon of the educational environment, in-depth qualitative investigations could shed light on the complex characteristics and enhance our understanding of both the strengths and weaknesses of the current context, as well as of more eclectic factors influencing educational stakeholders’ experiences and perceptions of their environment.


미래보건교육연구의 관련성

Relevance for Future Health Care Education Research


경험적이고 이론적인 증거는, 비록 교육환경의 개념이 다소 무형의 것intangible으로 잘못 이해되고 있지만 그 효과는 광범위하고 유형적이며 설득력이 있다는 것을 시사한다. 다른 사람들과 함께, 우리는 이러한 현상이 소외된 개인의 인식뿐만 아니라 교육 결과에 현저한 영향을 미치는 다차원적 요인 때문이라고 주장한다. 그러므로 교육환경과 그 구성원의 개념에 대한 정의를 포함하여 관련된 요소와 개념에 대한 추가 연구가 필요하다.

Empirical and theoretical evidence suggests that although the concept of the educational environment is rather intangible and poorly understood, its effects are extensive, tangible, and persuasive. Concurring with others,40 we argue that this phenomenon is not only due to the perceptions of marginalized individuals but also because of multidimensional factors with noticeable effects on educational outcomes. Thus, there is a need for further research on the factors and concepts involved, including definitions of the concept of the educational environment and its constituents.


비록 다수의 이질적인 맥락에서 새로 나타난 정신측정학적 증거는 DREEM의 정신학적 특성과 가능한 다중공선성에 의문을 제기할 수 있지만, 그것은 여전히 학부 보건전문직 교육환경을 평가하는데 가장 널리 사용되는 수단이다. 단, DREEM subscale의 차원에 관한 문제를 해결하기 위해 더 많은 경험적 작업을 수행해야 한다. 다양한 비례 대응 패턴과 연계하여 예상 평균보다 낮은 점수를 지속적으로 받는 개별 DREEM 항목은 항목 구성, 구문 및 구문에 관하여 심리측정적이고 질적으로 탐구되어야 한다. DREEM은 약 15년 전에 개발되었기 때문에, 항목들을 수정하고 교육 환경의 물리적, 기술적 측면에 대한 인식과 같은 새로운 특징들을 통합하는 것이 적절할 수 있다.

Although newly emerging psychometric evidence from a multitude of heterogeneous contexts may cast doubt on the psychometric properties and possible multicollinearity of the inventory, it is still the mostly widely used instrument for assessing the undergraduate professional health care educational environment. However, more empirical work should be performed to address issues of dimensionality regarding the DREEM subscales. Individual DREEM items that consistently score below the expected mean in conjunction with diverse proportional response patterns should be explored psychometrically and qualitatively with regard to item construction, syntax, and phraseology. Because the DREEM was developed about 15 years ago, the moment may be opportune to revise the items and possibly incorporate new features, such as perceptions of physical and technological aspects of the educational environment.


임상 교육 환경에 대한 학생들의 인식을 구체적으로 평가하기 위한 몇 가지 도구만 개발되었다.

Only a few instruments have been developed to specifically assess students’ perceptions of the clinical educational environment,


DREEM은 아마도 임상 환경을 측정하는 데 완전히 적합하지 않을 수 있기 때문에, 그러한 환경은 교육 환경의 모든 측면을 평등하고 명확하게 다루기 위해 더 적합한 도구를 사용하여 조사될 수 있다.

Because the DREEM is perhaps not completely appropriate for measuring clinical environments, such environments might be investigated using more suitable instruments in order to equally and unambiguously cover all aspects of the educational environment.


정량적 접근법을 이용한 연구는 현상의 측정 가능한 속성을 강조한다. 그러나 특정 근본적, 명시적 요인을 배제할 수 있기 때문에 DREEM과 같은 도구를 교육 환경에 대한 인식을 평가하기 위해 사용하는 것은 복잡하고 어려울 수 있다. 질적 접근에서 연구는 현상의 의미, 폭, 변동을 이해하려고 시도한다. 포커스 그룹, 반구조적 인터뷰 또는 인종적 접근과 같은 정성적 방법을 채택하고, 주요 이해관계자 및/또는 특이치로부터 데이터를 수집하는 것은 교육 환경의 개념을 더 탐구하고 이해하는 데 유용할 수 있다. 엄격하고 포괄적이며 심층적인 질적 조사는 기계적으로 포착되지 않는 교육환경의 측면을 탐구할 때 정당화될 수 있다고 우리는 믿는다. 예를 들어, 전체적인 경험, 감정적 측면, 이해관계자 간의 상호 의존성의 특징, 불평등의 문제 및 조직의 위계적 특성과 같은 것이다.

Studies using quantitative approaches emphasize the measurable attributes of a phenomenon. However, the use of instruments such as DREEM to assess perceptions of an educational environment can be complex and arduous because of the possibility of excluding certain fundamental and explicit factors. In qualitative approaches, research attempts to understand the meaning, breadth, and variations of a phenomenon. Employing qualitative methods, such as focus groups, semistructured interviews, or ethnographic approaches, and collecting data from key stakeholders and/or outliers could be valuable in further exploring and understanding the concept of the educational environment. It is our belief that rigorous, comprehensive, and in-depth qualitative investigations additional are justified when exploring aspects of the educational environment that are not captured instrumentally, such as overall experiences, emotional aspects, features of reciprocated dependencies among stakeholders, issues of inequity, and the hierarchical traits of the organization.


학생들은 중요한 이해당사자들 중 하나이고, 그들의 교육 환경에 대한 그들의 인식은 적절한 정보의 원천이다. 그러나 앞에서 주장했듯이, 학생 동료들 사이의 교육 환경에 대한 인식은 특이하며 매년 크게 다를 수 있다.54 그럼에도 불구하고 학생들은 동전의 한 측면일 뿐이며 교수진과 다른 이해당사자들의 인식도 똑같이 중요하다. 교사들은 종종 오랫동안 교육 환경에 머물러 있기 때문에, 그들이 환경을 더 일관되게 지각할 가능성이 있다. 학자들은 환경에 대한 교사들의 관점을 조사하는 경험적 연구의 부족에 주목해 왔다.1,2,56,97 그것들이 학생들이 인식하는 환경의 복잡한 부분이기 때문에 교사들이 환경을 어떻게 인식하고 경험하는지에 대한 추가적인 연구가 필요하다.

Students are one of the key stakeholders, and their perceptions of their educational environment are a pertinent source of information. However, as asserted earlier, the perception of the educational environment among student cohorts is idiosyncratic and may differ widely on a year-to-year basis.54 Notwithstanding, students are only one side of the coin; the perceptions of faculty and other stakeholders are equally important. As teachers often remain in an educational environment for extended periods, it is plausible that they would perceive the environment more consistently. Scholars have drawn attention to the paucity of empirical studies investigating teachers’ perspectives on the environment.1,2,56,97 There is a need for further research on how teachers perceive and experience the environment, as they are an intricate part of the environment perceived by students.


3. Till H. Identifying the perceived weaknesses of a new curriculum by means of the Dundee Ready Education Environment Measure (DREEM) Inventory. Med Teach. 2004;26(1):39–45.


27. Palmgren PJ, Chandratilake M. Perception of educational environment among undergraduate students in a chiropractic training institution. J Chiropr Educ. 2011; 25(2):151–163.


54. Palmgren PJ, Lindquist I, Sundberg T, Nilsson GH, Bolander Laksov K. Exploring perceptions of the educational environment among undergraduate physiotherapy students. Int J Med Educ. 2014;5:135–146.


55. Bouhaimed M, Thalib L, Doi SA. Perception of the educational environment by medical students undergoing a curricular transition in Kuwait. Med Princ Pract. 2009;18(3):204–208.


57. Kang I, Foster Page LA, Anderson VR, Thomson WM, Broadbent JM. Changes in students’ perceptions of their dental education environment. Eur J Dent Educ. 2015;19(2):122–130. doi: 10.1111/eje.12112.


53. Riquelme A, Oporto M, Oporto J, et al. Measuring students’ perceptions of the educational climate of the new curriculum at the Pontificia Universidad Catolica de Chile: performance of the Spanish translation of the Dundee Ready Education Environment Measure (DREEM). Educ Health (Abingdon). 2009;22(1):112.





 2015 Oct;29(2):110-26. doi: 10.7899/JCE-14-37. Epub 2015 May 29.

Reassessing the educational environment among undergraduate students in a chiropractictraining institution: A study over time.

Abstract

OBJECTIVE:

The aim of the study was twofold: (1) to compare the perceived educational environment at 2 points in time and (2) to longitudinally examine potential changes in perceptions of the educational environment over time.

METHODS:

The validated Dundee Ready Educational Environment Measure (DREEM), a 50-item, self-administered Likert-type inventory, was used in this prospective study. Employing convenience sampling, undergraduate chiropractic students were investigated at 2 points in time: 2009 (n = 124) and 2012 (n = 127). An analysis of 2 matching samples was performed on 27% (n = 34) of the respondents in 2009.

RESULTS:

A total of 251 students (79%) completed the inventory, 83% (n = 124) in 2009 and 75% (n = 127) in 2012. The overall DREEM scores in both years were excellent: 156 (78%) and 153 (77%), respectively. The students' perceptions of teachers differed significantly between the 2 cohort years, decreasing from 77% to 73%. Three items received deprived scores: limited support for stressed students, authoritarian teachers, and an overemphasis on factual learning; the latter significantly decreased in 2012. In the longitudinal sample these items also displayed scores below the expected mean.

CONCLUSION:

Students viewed the educational environment as excellent both in 2009 and 2012. The perceptions of teachers declined with time; however, this could be attributed to teachers' new roles. Certain aspects of the educational environment factored prominently during the comparative points in time, as well as longitudinally, and these ought to be further investigated and addressed to provide an enhanced educational environment.

KEYWORDS:

Chiropractic; Education; Educational Measurement

PMID:
 
26023892
 
PMCID:
 
PMC4582609
 
DOI:
 
10.7899/JCE-14-37


학부 물리치료학과 학생들의 교육환경 인식 탐색(Int J Med Educ, 2014)

Exploring perceptions of the educational environment among undergraduate physiotherapy students

Per J. Palmgren1, Ingrid Lindquist2, Tobias Sundberg2, Gunnar H. Nilsson2, Klara B. Laksov1





도입

Introduction


전문 건강 훈련의 교육 환경은 주로 다른 이해관계자 그룹과 환경의 조직 구조에 의해 형성된다. 이 환경은 때때로 "기후" 또는 "대기"라고 일컬어지며 복잡하고 다면적이며 교육 기관의 정신과 성격으로 묘사될 수 있다.1 이상적으로 교육환경은 지적 활동과 학문적 발전을 촉진하는 동시에 친근감, 협력, 지원을 장려해야 한다. 그러한 환경을 평가하는 것은 많은 설정, 특징 및 이해당사자를 포함할 수 있기 때문에 복잡한 노력이 될 수 있다. 학생들은 주요 이해관계자 그룹 중 하나로 구성되며, 연구는 교육 환경이 그들의 행동에 크게 영향을 미치고 그들의 학습, 성과, 만족 및 성공에 기여한다는 것을 보여주었다.2-5

The educational environment of professional health training is primarily shaped by the interactions between different stakeholder groups and the organizational structures of the environment. This environment occasionally referred to as “climate” or “atmosphere”, is complex, multifaceted, and can be described as the spirit and personality of an educational institution.1 Ideally, the educational environment should foster intellectual activities and academic progression while simultaneously encouraging friendliness, cooperation and support. Evaluating such an environment can be a complex endeavour because it may encompass a multitude of settings, features and stakeholders. Students comprise one of the key stakeholder groups, and research has shown that the educational environment heavily influences their behaviours and contributes to their learning, performance, contentment and success.2-5


기존의 문헌은 교육 환경의 중요성을 기술하고 있지만, 그러한 환경을 구성하는 것에 대한 개념을 탐구하기 위한 연구는 상대적으로 거의 이루어지지 않았다. '환경'이라는 단어는 물리적 공간(예: "서빙"과 "설정"과 같은 의미)과 동의어가 되지만, 사회적, 감정적, 지적 함축적 의미도 가지고 있다. 교육 환경은 주로 직접 측정할 수 없는 이론적 구조지만, 학생들의 일상적인 경험과 인식에서 나타나며, 이것을 평가할 수 있다.

While the existing literature describes the importance of the educational environment, relatively little research has been conducted to explore the concept of what constitutes such environments. Although the word “environment” is synonymous with physical space (e.g. “surroundings” and “settings”), it also has social, emotional and intellectual connotations. The educational environment is primarily a theoretical construct that cannot be measured directly; however, it is manifested in students’ mundane experiences and perceptions, which can be assessed.


질적, 정량적, 혼합적 방법 패러다임을 포함한 교육 환경의 다소 이질적인 특징의 존재를 탐구하고 정량화하기 위해 다양한 방법론이 사용되어 왔다. 학부 전문 의료 교육에서 교육 환경을 측정할 수 있는 많은 도구들이 있는데, 각각 설계, 타당성 및 신뢰성의 측면에서 장단점이 있다. 가장 널리 사용되는 기구는 던디 레디 교육환경측정(DREEM)이다.16

A variety of methodologies have been used to explore and quantify the presence of somewhat ethereal features of an educational environment, including qualitative,8 quantitative,9-13 and mixed-method14,15 paradigms. Many instruments are available to measure educational environments in undergraduate professional healthcare education, each of which has its own strengths and weaknesses in terms of design, validity and reliability. Arguably, the most widely used instrument is the Dundee Ready Educational Environment Measure (DREEM).16


DREEM 설문은 교육 환경에 대한 인식을 측정하는 도구로서 다른 교육적 맥락에서 널리 사용되어 왔다. 시험 내용(내용 타당성)과 내부 구조(구인 타당도)를 바탕으로 한 증거와 함께 우수한 심리측정적 특성을 가지고 있는 것으로 나타났으며, 다양한 환경에서 지속적으로 양호한 신뢰성을 보여 왔다. 그것은 여러 기관의 교육 환경, 다양한 교육 수준에서의 학생들, 커리큘럼 개혁의 서로 다른 단계에 있는 기관들, 그리고 성별의 불일치를 탐구, 평가, 비교하는 데 이용되어 왔다. 

The DREEM inventory is an instrument that measures the perception of an educational environment and has been widely used in different educational contexts. It has been shown to have good psychometric properties with evidence based on test content (content validity) and internal structure (construct validity)9,17,18 and has consistently displayed good reliability in diverse settings.4,19-25 It has been used to explore, evaluate and compare the following dynamics: the educational environments of different institutions,26 students at various levels of training,27-29 institutions at different phases of curriculum reform23 and gender discrepancies.30,31 


따라서, 이 조치는 광범위한 의료 커뮤니티와 관련하여 전문 의료 교육에 대한 맥락적 이해를 확립하는 데 기여했다. 최근의 체계적인 검토에서, 16 DREEM이 학부 전문 의료 교육 환경에서 환경을 측정하는 데 가장 적합한 도구가 될 가능성이 있다고 제안되었다.

Thus, the measure has contributed to establishing a greater contextual understanding of professional healthcare education, including in relation to the broader healthcare community. In a recent systematic review,16 it was proposed that DREEM was likely to be the most suitable instrument for measuring the environment in undergraduate professional healthcare educational settings.



방법

Methods


연구 설계

Study design


우리는 단면 연구 설계를 구현했다. 이 연구는 향후 혼합 방법 다중 사례 연구 방법론을 채택한 대규모 프로젝트의 일부였다. 이 방법은 실용적이고 해석적인 연구 전통 내에서 수행되었다. 연구를 수행하기 위한 윤리적 승인은 스톡홀름 지역윤리위원회(2012/416-31/5)에서 얻었다. DREEM 재고 완성은 자발적 기준으로 수행되었으며 수집된 정보 중 어느 것도 식별할 수 없어 데이터 익명성이 유지되었다. 모든 데이터는 헬싱키 선언의 원칙에 따라 처리되고 저장되었다.

We implemented a cross-sectional study design. The study was part of a larger project which employed a prospective mixed-method multiple case study methodology; it was conducted within a pragmatic and interpretive research tradition. Ethical approval to conduct the study was obtained from the Regional Ethics Committee of Stockholm (2012/416-31/5). The completion of the DREEM inventory was undertaken on a voluntary basis, and none of the information collected was identifiable, thereby maintaining data anonymity. All the data was handled and stored in accordance with the tenets of the Declaration of Helsinki.


세팅

Setting


이 연구는 스웨덴 스톡홀름의 카롤린스카 인스티투테트에서 실시되었는데, 이 의학대학은 물리치료에서 전문자격과 학사학위를 취득하는 3년제 학부과정을 제공한다.

The study was conducted at Karolinska Institutet in Stockholm, Sweden, a medical university offering a three-year, full-time undergraduate programme that culminates in a professional qualification and a Bachelor of Science degree in physiotherapy.


참여자

Participants


전통적인 커리큘럼에 참여하는 5개 코호트의 학부 물리치료 학생들에 대한 비확률적 편의 샘플이 연구에 참여하도록 초대되었다. 개별적으로 적응한 커리큘럼이나 다른 커리큘럼에 참여하는 학생들은 제외되었다. DREEM 설문은 높은 응답률을 보장하기 위해 수업 중에 시행되었다. 그러나, 응답률을 향상시키기 위해 이후 전자 버전이 보급되었다. 참여는 자발적이었고, 설문지는 익명이었다.

A non-probability convenience sample of undergraduate physiotherapy students from five cohorts, terms 1-5, attending a traditional curriculum was invited to participate in the study. Students attending an individually adapted curriculum or other curricula were excluded. The DREEM inventory was administered during classes to ensure a high response rate. However, an electronic version was subsequently disseminated to improve the response rate. Participation was voluntary, and the questionnaire was anonymous.


도구

Instrument


DREEM 설문은 스웨덴에서 사용할 수 있도록 변역 및 검증되었다.23 DREEM은 교육 환경에 직접 관련된 다양한 주제와 관련된 50항목, 자기보고형, 폐쇄형 설문이다. 각 항목은 4부터 0까지의 응답자에 의해 점수가 매겨지며, 5점 리커트 응답은 4 = 강력하게 동의한다. 3 = 동의한다. 2 = 확실하지 않다. 1 = 동의하지 않는다. 0 = 강하게 반대한다. 평균 점수가 3.5보다 큰 항목은 주로 강한 영역을 나타내며, 평균 점수가 2보다 작거나 같은 항목은 문제가 있는 영역을 나타내므로 더 꼼꼼하게 검사해야 하며, 평균 점수가 2와 3인 항목은 개선할 수 있는 영역을 나타낸다.9,32 

The DREEM instrument has been translated and validated for use in Sweden.23 DREEM is a 50-item, self-administered, closed-ended inventory relating to a variety of topics directly pertinent to educational environments. Each item is scored by respondents from 4 to 0 with a 5-point Likert response as follows: 4= strongly agree; 3 = agree; 2 = unsure; 1= disagree and 0 = strongly disagree. Items with a mean score greater than 3.5 mainly represent strong areas; items with a mean score of less than or equal to 2 should be inspected more meticulously as they indicate problematic areas; and items with mean scores between 2 and 3 indicate areas that could be enhanced.9,32 


이 기구는 총점 200점을 가지고 있으며, Lai 등,33과 McAleer와 Roff:34가 제공한 해석 지침을 따랐다. 

    • 0 ~ 50 (0–25%) = 매우 열악한 환경. 

    • 51 ~ 100 (26–50)=환경상의 많은 문제. 

    • 101~150(51~75%) = 마이너스 환경보다 긍정적이다. 

    • 151~200명(76~100%) = 우수한 환경.

The instrument has an overall score of 200, and we followed the interpretation guidelines provided by Lai et al.,33 and McAleer and Roff:34 

    • 0 to 50 (0–25%) = very poor environment; 

    • 51 to 100 (26– 50%)=plenty of problems in the environment; 

    • 101 to 150 (51–75%) = more positive than negative environment; and 

    • 151 to 200 (76–100%) = excellent environment.


이 항목은 

    • 학습(SPL-12 항목/최대 점수 48), 

    • 교육(SPT-11 항목/최대 점수 44), 

    • 학업 자기 인식(SASP – 8 항목/최대 점수 32), 

    • 분위기(SPA – 12 항목/최대 점수 48), 

    • 사회적 자아 인식(SSP – 7/최대 점수 28)

에 따라 5개 항목으로 배분된다.

The items are allocated to five subscales based on students’ perceptions of the following: learning (SPL–12 items/maximum score 48); teaching (SPT–11 items/maximum score 44); academic self-perceptions (SASP – 8 items/maximum score 32); atmosphere (SPA – 12 items/maximum score 48) and social self-perceptions (SSSP – 7 items/maximum score 28).


항목들은 세 가지 수준에서 분석할 수 있다: 개별적으로, 5개의 하위항목으로, 전체적으로. DREEM 계측기의 제작자는 해석에 대한 지침34를 제공하지만, 통계적 추론을 위한 적절한 방법을 권장하지 않는다.

The items can be analysed on three levels: individually, pooled into five subscales and overall. Although the constructors of the DREEM instrument provide guidelines34 for its interpretation, they do not recommend appropriate methods for statistical inferences.


다음의 개방형 질문은 "교육 환경에 영향을 미친다고 느끼는 다른 요인들이 있는가?"라는 목록을 마무리짓는다.

The following open-ended question concludes the inventory: “Are there any other factors that you feel have an influence on the educational environment?”


자료 분석

Data analysis


모든 항목이 응답자에 의해 완료되는 경우 전반적으로 하위 척도subscale개별 점수를 분석하였다. 정규 데이터 분포는 중심 경향의 매개변수들 사이에서 발생할 수 있는 불일치를 대조하고, 분포의 편차 및 첨도를 평가하고, Kolmogorov-Smirnov 및 Shapiro-Wilk 테스트를 채택하여 상자 그림을 통해 시각적으로 평가되었다.

Overall, subscale and individual scores were analysed if all items were completed by the respondents. Normal data distribution was assessed visually via boxplots by contrasting possible discrepancies among the parameters of central tendency, evaluating the skewness and kurtosis of the distributions and employing Kolmogorov-Smirnov and Shapiro-Wilk tests.


Cronbach의 알파값은 기기의 전체 및 하위 척도 점수의 내부 일관성을 평가하기 위해 사용되었으며, 최소 계수 알파 0.70은 적절한 수준의 일관성을 나타내기 위해 사용되었다.35 비모수 통계 시험을 수행하여 데이터 분포의 영향을 피하기 위해 선택하였다. WilcoxonMann-Whitney 테스트는 서수 데이터에 사용되었고, chisquare 테스트는 공칭 데이터를 비교하는 데 사용되었다. KruskalWallis(일방향 분산 분석) 테스트는 그룹 분석 간에 독립적으로 사용되었다. P-값은 주요 엔드포인트의 Bonferroni 보정을 채택하여 다중 비교를 위해 조정되었다. Pearson의 상관 계수는 항목별 상관 관계를 분석하는 데 사용되었다. 0.05 미만의 확률 값은 모든 통계적 검사에 대해 통계적으로 유의한 것으로 간주되었다.

Cronbach’s alpha was employed to assess internal consistency of the overall and subscale scores of the instrument, and a minimum coefficient alpha of 0.70 was used to indicate an adequate level of consistency.35 Non-parametric statistical tests were performed and selected to avoid influences of the distribution of the data. The WilcoxonMann-Whitney test was used for ordinal data while the chisquare test was used to compare nominal data. The KruskalWallis (one-way analysis of variance) test was used for independent between group analyses. P-values were adjusted for multiple comparisons by employing the Bonferroni correction of primary endpoints. Pearson’s correlation coefficients were used to analyse correlations between the subscales. Probability values less than 0.05 were considered statistically significant for all statistical tests.



결과

Results


알파값이 0.935로 높아 전반적인 신뢰성 계수는 50개 항목 중 3개 항목에서 "항목이 삭제된 경우"만 약간 증가했다. 항목별 점수가 SPL 0.867, SPT 0.746, SASP 0.676, SPA 0.805, SSSP 0.633으로 알파 값을 표시했으며, SASP와 SSSP를 제외한 임계값을 초과했다. 전체, 하위 척도 및 개별 점수

The overall reliability coefficient was high as alpha was 0.935 and did only increase marginally “if item deleted” for 3 of the 50 items. The subscales displayed alpha values at SPL 0.867, SPT 0.746, SASP 0.676, SPA 0.805, SSSP 0.633, and exceeded the threshold, except for SASP and SSSP. Overall, subscale and individual scores


Demographic distinctions


Students’ perceptions of the educational environment – Age


Students’ perceptions of the educational environment – Immigrant background


Students’ perceptions of the educational environment – Resitting exams


Students’ perceptions of the educational environment – Term


Students’ perceptions of the educational environment – Gender


Students’ perceptions of the educational environment – Previous experience of higher education


Perceptions of the educational environment – Intent upon completing degree










The open-ended question


비응답 분석

Non-response analysis


완성된 항목만 분석에 포함시켰으며, imputation도 실시되지 않았다. 응답하지 않는 그룹은 50개의 DREEM 항목을 모두 완성하지 못하고 적어도 5개 항목 중 1개 항목에서 누락된 값을 표시한 40명의 참가자(18%)가 포함되었다. 이 참가자 

  • 약간 더 나이가 많았고 (응답자: 24.2세, 무응답자: 27.0세). 

  • 2시기에 재학중이었고(응답자: 17.5%; 무응답자: 37.5%), 

  • 스웨덴이 아닌 기타 북유럽 국가 출신이었고 (응답자: 2.7%; 무응답자: 10.0%), 

  • 그러나 전체 또는 하위 척도 점수와 관련하여 참가자의 응답은 차이가 없었다.


Only completed items were included in the analysis, and no imputations were conducted. The non-respondent group included 40 participants (18%) who failed to complete all 50 DREEM items and displayed missing values on at least one of the five subscales. These participants were slightly older (respondents: 24.2 years; non-respondents: 27.0 years), attended term 2 (respondents: 17.5%; non-respondents: 37.5%) and from a country other than Sweden or other Nordic countries (respondents: 2.7%; non-respondents: 10.0%), However, the participants’ responses did not differ from those of the respondents with regards to overall or subscale scores.



고찰

Discussion


5개 항목과 전체 항목에서 조사 결과 만족스러운 내부 일관성이 나타났다. 목록의 내부 일관성은 표준 이상이었고 발표된 연구와 유사했다.20,23,24,37-39 이것은 계측기가 도구의 선택을 지원했고 물리치료 교육의 맥락에서 신뢰할 수 있게 사용할 수 있음을 의미한다.

An examination of the items on the five subscales and of the inventory as a whole revealed a satisfactory level of internal consistency. The internal consistency of the inventory was above the norm35 and similar to published studies.20,23,24,37-39 This implies that the instrument supported the choice of the tool and can be used reliably in the context of physiotherapy education.


지난 10년간, 제한된 수의 DREEM 연구가 현재 연구와 유사한 맥락에서 수행되었다(표 4). 현재 연구는 이러한 연구를 비교하기 위해 시작하지 않았지만, 전체 및 하위 척도 점수를 훨씬 낮게 보고한 틸,4의 캐나다 연구를 제외하고 유사한 결과를 도출했다. 물론 맥락의 차이, 다양한 직업, 다양한 표본 크기 때문에 비교가 어렵다. 

Over the past decade, a limited number of DREEM studies have been conducted in contexts that are analogous to the present study (Table 4). While the current study did not set out to compare these studies, they have produced similar results except for the Canadian study by Till,4 which reported much lower overall and subscale scores. Of course, contextual dissimilarities, diverse professions and different sample sizes make comparisons difficult. 




그러나 DREEM 설문 개발자가 제안한 지침과 대조하고 점수를 해석하니, 다음과 같은 이 연구의 학생들로부터 데이터의 특정한 공통 추세가 나타났다. 

  • 일반적인 교육 환경에 대해 부정적이기 보다는 긍정적이기 때문에 그들의 학습 상황을 낙관적으로 볼 수 있다. 

  • 교사들이 더 다재다능한 교육적 전략을 필요로 한다는 것을 인식하면서, 

  • 학문적으로 자신감이 있고 교육적인 분위기와 그들의 사회적 상황에 대한 전반적인 느낌이 좋다.


However, while contrasting and interpreting the scores against the guidelines proposed by the developers of the DREEM instrument, certain common trends in the data emerged from the students in these studies, such as 

  • being more positive than negative about the general educational environment thereby having an optimistic view of their learning situation, 

  • perceiving that teachers are in need of more versatile pedagogical strategies, 

  • being academically confident and having a good overall feeling of the educational atmosphere and their social situation.


본 연구에서는, term 4에 인식된 교육환경의 악화가 있었고, 학습기간이 증가함에 따라 평균적으로 더 열악한 것으로 나타났다. 하지만, 학생들이 임상 단계에 있을 때, 5학기에 다시 점수가 올랐다. Rotoff 외 연구진들은 교육환경의 가속적 악화에 대한 인식이 교육 전달에만 기인하는 것이 아니라 노화, 자율화, 그리고 더 중요해지는 것과 같은 개별적 요인에 기인한다고 가정할 수 있다고 말했다. 

In our study, there was a deterioration in the perceived educational environment in term 4, and it was found to be poorer, on average, as the study duration increased. However, the scores rose again in term 5 when the students were in the clinical phase. Rothoff et al.40 stated that it can be assumed that the perception of an accelerative deterioration of the educational environment is not exclusively due to educational delivery but also to individual factors, such as aging, becoming more autonomous and becoming more critical


더 높은 교육적 연구나 어쩌면 성인의 삶에 대한 열정과 관련된 어린 학생들의 행복과 만족은 줄어들고 있다. 마일즈와 린스터31은 어떤 유형의 부정적인 경험과도 무관하게 많은 학생들이 공부하는 동안 초기의 열정이 감소하는 것으로 보인다고 가정했다. 

  • 우리와 유사한 결과는 교육에 소요되는 시간에 따라 환경에 대한 인식이 감소하는 종적 연구와 횡단적 연구 모두에서 나타났다.4,24,38,41,42 

  • 그러나 다른 학자들은 시간이 지남에 따라 환경이 동일하게 유지되거나, 21,23,43, 또는 원격 사례만 증가한다고 가정했다.37

Young students’ happiness and contentment in relation to higher educational studies or perhaps even enthusiasm for entering adult life is diminishing. Miles and Leinster31 postulated that early enthusiasm appears to decrease for many students during the course of their studies, independent of any tangible negative experiences. Results similar to ours have been shown in both longitudinal and cross-sectional studies in which perceptions of the environment decrease with the time spent in education.4,24,38,41,42 However, other scholars have postulated that the environment remains the same over time,21,23,43 or only increases in remote cases.37


Edgren 등 23은 DREEM 결과가 교육 환경과 항목별 전반적인 인식에서 비롯될 수 있으며, 개별 문항 수준에 대한 분석이 필요하다고 지적했다. Edgren 등,23과 함께, 우리는 이러한 유형의 분석을 데이터에 적용하여 강도와 약점의 영역을 더 완전하게 탐색했다.

Edgren et al.23 indicated that DREEM results from the overall perception of the educational environment and the subscales may possibly mask the presence of explicit educational problems and that analysis on an item level is necessary. Concurring with Edgren et al.,23 we applied this type of analysis to our data to more fully explore areas of strength and weakness.


이전의 학술 연구는 시험 성적이 좋은 학생들이 시험 성적이 나쁜 학생들보다 환경을 더 긍정적으로 평가한다는 것을 보여주었다.20,37 본 연구에서, 우리는 DREEM 점수와 시험 결과를 연관시키지 않았다. 그러나 재시험을 봐야 한다고 (스스로) 밝힌 학생들은 낮은 수준의 자신감과 집중력에도 불구하고 교사의 자질에 더 긍정적이었다이해력이 떨어지는 학생들은 자율적이고 자기주도적인 학습자가 되지 못하고 더 광범위하게 학습에 대한 표면적 접근법을 채택할 가능성이 있다.60 이러한 종류의 학습 방식은 대부분 사실을 회상하고, 배운 것을 암기하며, 평가를 잘 수행하는 것에 관심이 있다. 교육 프로그램이 명시적으로 또는 암묵적으로 표면 학습을 촉진할 때, 학습 중 불안, 스트레스 및 악화가 점진적으로 증가하여 부실한 성과로 이어질 수 있다.37

Previous scholarly work has shown that students with good exam results assess the environment more positively than those with poorer exam results.20,37 In the present study, we did not correlate the DREEM scores with exam results, but students who disclosed having to resit exams were more positive towards the quality of teachers despite perceiving a low level of confidence and difficulty concentrating. It is possible that underachieving students have not become autonomous, self-directed learners and more extensively adopt a surface approach to learning.60 This kind of learning style is predominantly concerned with recollecting facts, memorizing what they have learned and performing well in their assessments. When an educational programme explicitly or implicitly promotes surface learning, it is possible that anxiety, stress and aggravation during learning can progressively increase and lead to deprived performances.37


한계

Limitations


목록의 두 항목(6, 18)이 환자와 관련된 것으로, 참가자의 30% 이상이 "불확실하다"고 응답했다. 분석하는 동안, 제1항과 제2항의 학생들이 이러한 응답자들의 대다수를 차지하고 있고 임상 훈련을 전혀 받지 않았거나 거의 받지 않았다는 것이 명백했으며, 이는 아마도 이러한 변화를 설명해 줄 것이다. DREEM에서 도출한 데이터의 분석 및 보고 방법은 교육 연구 문헌에서 일관되지 않았으며, Likert 응답 데이터를 분석해야 하는 방법에 대한 논쟁이 있다.63-65 

Two items (6 and 18) in the inventory were concerned with patients, and more than 30% of the participants responded “unsure”. During the analysis, it was evident that students from terms 1 and 2 constituted the majority of these respondents and have had no or very little clinical training, which probably explains this variation. The methods for analysing and reporting data derived from DREEM have not been consistent in the educational research literature, and the manner in which Likert response data should be analysed has been debated.63-65


최근 방법론적 연구에서 Swift 외 연구진들은 Likert 응답 데이터의 독립적인 샘플을 비교할 때 비모수 Wilcoxon-Mann-Whitney 테스트가 잘 수행되며 모수적 t-테스트보다 더 큰 힘을 가질 수 있다는 증거를 제공했다. 더욱이 skewed 분포가 DREEM 데이터에서 종종 발생하기 때문에, 적절한 central measure가 있는 항목은 부정적인 반응의 높은 비율을 mask할 수 있다. 

In their recent methodological study, Swift et al.66 provided evidence that when comparing independent samples of Likert response data, non-parametric Wilcoxon-Mann-Whitney tests perform well and may have greater power than parametric t-tests. Furthermore, because skewed distributions often occur in DREEM data, an item with an adequate central measure may mask a high proportion of negative responses. 


따라서, 우리는 새로 발표된 지침을 따라 A/SA를 합하고, D/SD를 합했다. Swift 등은 또한 연구자들이 분석에 더 엄격해지기를 원하는 경우, 개발자들이 권장하는 예상 평균 이하의 값이 2.5로 상승할 수 있다고 지적했다. 다만, 원작자가 개발한 가이드라인을 따르는 것을 선택하고, 2.0을 한계로 삼았다.

Therefore, we followed newly published guidelines66 and merged the agree/strongly agree with the disagree/strongly disagree responses. Swift et al.66 also indicated that values below the expected mean, as recommended by the developers, could be a priori raised to 2.5 if researchers wanted to be more stringent in the analysis. However, we chose to follow the guidelines developed by the originators and used 2.0 as the limit.


항목별 항목에서, 척도가 interval 유형일 때 Pearson의 상관 계수가 가장 적합하고, 척도가 ordinal 유형일 때 Spearman의 순위 상관 계수를 사용해야 한다고 주장할 수 있다. 그러나, DREEM subscale가 interval이 아니라 ordinal이라고 보기는 어렵다. 따라서, 우리는 스피어맨의 상관관계(보고되지 않음)도 분석했다. 스피어맨의 상관관계를 이용하여 얻은 결과는 피어슨의 상관관계를 이용하여 얻은 결과와 다르지 않았다.

With regards to the subscales, one could argue that Pearson’s correlation coefficient is best suited when the level of measurement is the interval type and that Spearman’s rank correlation coefficient should be employed when the level of measurement is the ordinal type. However, it is difficult to identify the subscales in the DREEM inventory as more ordinal than interval. Therefore, we also employed Spearman’s correlation (not reported); the results obtained using Spearman’s correlation did not differ from those obtained using Pearson’s correlation.


DREEM이 채용된 많은 연구에도 불구하고, 도구개발 이후 발표된 정신측정학 보고서는 거의 없다. 더 최근에는 도구의 심리측정적 robustness에 대한 우려가 일부 제기되었다.18,67,68 5요소 구조의 복제는 적당히 성공했을 뿐이며 이는 도구의 일부 불안정성을 나타낸다. 스웨덴판 DREEM 계측기는 요인 구조를 제외하고 유효하고 신뢰할 수 있는 것으로 보고되었다.18 Jakobsson 외 연구진에서는 스웨덴 버전에 대한 새로운 5요소 솔루션을 제안했지만, 원본에 비해 우수한 측정 모델임이 입증되지 않았다고 명시했다. 이것은 향후의 연구가 그 기구의 정신학적 특성을 계속 탐구하고 결정할 것을 요구한다.

Despite the large number of studies in which DREEM has been employed, very few psychometric reports have been published since the development of the inventory. More recently, there have been some concerns regarding the psychometric robustness of the instrument.18,67,68 Replications of the five-factorial structure have only been moderately successful, which indicates some instability in the instrument. The Swedish version of the DREEM instrument has been reported as valid and reliable, except for the factor structure.18 Jakobsson et al.18 proposed a new five-factor solution for the Swedish version but stated that it had not been proven to be a superior measurement model compared to the original. This calls for future research to continue to explore and determine the psychometric properties of the instrument.



함의

Implications for future healthcare education research


최근에 Schönrock 외 연구진들은 건강관리 교육에서 교육 환경을 평가하는 데 사용되는 많은 도구들이 이론에 근거하지 않는다고 보고했다. 그들은 이론적 프레임워크의 부족이 많은 연구에서 측정된 개념에 관한 차이를 설명할 수 있다고 지적했다. 이처럼 이론이 부족한 이유는 아마도 1950년대 후반, 연구가 시작되었을 때 연구자들은 개념을 개념화하고 이론화하려고 하기보다는 개념을 측정하려고 하는 데 더 몰두했기 때문일 것이다. 실제로, 여러 형태로 자주 사용되지만, 교육 환경의 개념은 거의 정의되지 않는다.

Recently, Schönrock et al.69 reported that many instruments used to assess the educational environment in healthcare education are not grounded in theory. They indicated that the deficiency of a theoretical framework may explain the differences regarding the concepts measured in many studies. The reason for this deficiency of theory is probably due to the fact that when scholarly work took off in the late 1950s, researchers were more occupied with attempting to measure the concept rather than trying to conceptualize and theorize it. Indeed, although frequently used in different forms, the notion of educational environment is rarely defined.


학생 코호트는 변동할 수 있고 매년 매우 다양하고 특색 있으며, 그렇기 때문에 우리는 이 연구에 여러 학기의 학생들을 포함시키는 것이 중요하다고 생각했다. 그러나 추가 연구는 종적 연구를 설계하고 장기간에 걸쳐 학생들로부터 데이터를 수집하는 것을 고려해야 한다. 본 연구에서는, 학생을 조사했지만, 교수진이나 다른 이해당사자들의 인식도 똑같이 중요하다. 

Student cohorts can fluctuate and be very diverse and distinctive from year to year, which is why we considered it important to include students from several terms in this study. However, further research should consider designing longitudinal studies and collecting data from students over longer periods. In the present study, we investigated students, but the perceptions of faculty and other stakeholders are equally important. 


Genn2,70은 교사의 조직 환경이 학생들의 교육 환경과 불가분의 관계에 있으며 환경을 결정짓는 강력한 요소라고 지적했다. 그러나 교사들이 오랫동안 교직에 머무르는 경우가 많기 때문에, 그들이 교육 환경을 보다 일관성 있게 인식할 것으로 짐작할 수 있다. 이것은 추측이지만, 교육 환경에 대한 교사들의 인식이 드문드문 조사되었다는 것은 놀라운 일이다.40 따라서, 학생들과 교사들의 인식들 사이의 비교에 대한 더 많은 연구가 이 분야에서 필요하다.

Genn2,70 indicated that the organizational environment of teachers is inextricably bound to the educational environment of students and is a strong determinant of the environment. However, as teachers often remain in a teaching position for a long period, it is conceivable that they perceive the educational environment as more consistent. Although this is speculative, it is surprising that teachers’ perceptions of educational environments have only been sparsely investigated.40 Thus, there is a need for further research in this area on comparisons between students’ and teachers’ perceptions.


특정 명시적 요소를 배제할 위험이 있기 때문에 교육 환경에 대한 인식을 평가하기 위한 설문지 사용은 복잡할 수 있다. DREEM은 교육 환경에 대한 인식의 스냅숏을 생성하지만, 도구가 포함하지 않는 다른 구성이나 낮은 점수 기초의 우려에 관한 데이터를 제공할 수는 없다. 포커스 그룹, 관찰 또는 주요 이해관계자 및/또는 특이치와의 반구조적 인터뷰와 같은 정성적 방법을 사용하면 교육 환경의 개념을 더 깊이 탐구하고 더 완전하게 이해하는 데 유용할 수 있다.

The use of a questionnaire to assess the perception of educational environments can be complex because there is the risk of excluding certain explicit elements. DREEM creates a snapshot of perceptions of an educational environment but cannot provide data regarding the concerns underlying poor scores or other constructs that the instrument does not encompass. Using qualitative methods such as focus groups, observations or semi-structured interviews with key stakeholders and/or outliers could be useful to further explore and more fully understand the concept of educational environment.


따라서 교육 환경은 공식 및 비공식적 설정뿐만 아니라 현미경적 수준에서의 내부 및 외부적 특징을 구성한다. 그럼에도 불구하고, 교육 환경과 그 요소들에 대한 명확한 정의는 여전히 이해하기 어렵고, 관련된 요소와 개념 측면에서 탐구되어야 할 것이 많다. 그러나 우리는 교육 환경에 대한 연구는 아마도 질적 및 정량적 방법론, 심령적으로 건전한 도구, 그리고 현상의 구성, 영향 및 영향과 관련된 모든 이해관계자 집단의 탐사를 필요로 한다고 말할 수 있다.

Thus, the educational environment constitutes internal and external features on microscopic and macroscopic levels as well as formal and informal settings. Nevertheless, a clear definition of the educational environment and its components remains elusive, and there is much to be explored in terms of the factors and concepts involved. However, we can say that research on educational environments probably requires both qualitative and quantitative methodologies, psychometrically sound instruments and an exploration of all stakeholder groups involved in constructing, affecting and influencing the phenomena.


Conclusion





 2014 Jul 19;5:135-46. doi: 10.5116/ijme.53a5.7457.

Exploring perceptions of the educational environment among undergraduate physiotherapystudents.

Author information

1
Department of Learning, Informatics, Management and Ethics, Karolinska Institutet, Sweden.
2
Department of Neurobiology, Care Sciences and Society, Karolinska Institutet, Sweden.

Abstract

OBJECTIVE:

The aim of this study was to explore areas of strength and weakness in the educational environment as perceived by undergraduate physiotherapy students and to investigate these areas in relation to the respondents' demographic characteristics.

METHODS:

This study utilized a cross-sectional study design and employed the Dundee Ready Education Environment Measure, a 50-item, self-administered inventory relating to a variety of topics directly pertinent to educational environments. Convenience sampling was used, and the scores were compared across demographic variables. All undergraduate physiotherapy students in their first five terms of the programme in a major Swedish university were invited to participate in the study.

RESULTS:

A total of 222 students (80%) completed the inventory. With an overall score of 150/200 (75%), the students rated the educationalenvironment in this institution as "more positive than negative". Two items consistently received deprived scores - authoritarian teachers and teaching with an overemphasis on factual learning. Students in term 4 differed significantly from others, and students with earlier university education experience perceived the atmosphere more negatively than their counterparts. There were no significant differences with regards to other demographic variables.

CONCLUSIONS:

This study provides valuable insight into how undergraduate physiotherapy students perceive their educational environment. In general, students perceived that their educational programme fostered a sound educational environment. However, some areas require remedial measures in order to enhance the educational experience.

KEYWORDS:

Dundee ready education environment measure; Physiotherapy; clinical narrative; educational climate; educational environmen; undergraduate

PMID:
 
25341223
 
PMCID:
 
PMC4212412
 
DOI:
 
10.5116/ijme.53a5.7457


+ Recent posts