보건전문직 선발과 모집에 관한 2018 오타와 합의문(Med Teach, 2018)

2018 Ottawa consensus statement: Selection and recruitment to the healthcare professions

F. Pattersona , C. Robertsb , M. D. Hansonc, W. Hamped, K. Evae , G. Ponnamperumaf ,

M. Magzoubg, A. Tekianh and J. Clelandi




도입

Introduction


당시의 상황을 반영하여, 앞의 합의(Pridaux et al. 2011)는 평가 체계로서의 선발의 특징에 대한 합의, 그리고 서로 다른 선발 방법의 품질에 집중하였다.

Reflecting the state of the science at the time, the previous consensus (Prideaux et al. 2011) characterized selection as an assessment system and focused on the quality of different selection methods.


(1) 선발 철학과 정책

(1) Selection philosophy and policies

개별 교육훈련기관은 자신의 선발철학을 정의하고 국가 또는 국가기반 규정, 자체 역사, 사명 및 목표, 이해관계자 조직의 맥락 안에서 선발정책(또는 정책)을 고유하게 제정한다.

Individual education and training institutions define their selection philosophy and uniquely enact a selection policy (or policies) within the context of their national- or state- based regulations, their own history, mission and goals, and stakeholder organizations.


입학 정책이 의사들의 국가적 요구에 따라 훈련된 학생 수와 일치하도록 보장하라는 세계 의학 교육 연맹의 오랜 정책 지침이 있어왔다("에든버러 선언" 1988). 그러나, 최근의 시놉시스는 많은 필요한 경험적 증거가 기다리고 있지만, 선발정책은 이용 가능한 최상의 건강 결과와 바람직한 career uptake 데이터를 고려하지 않고 있다고 제안했다(Gorman 2018).

there has been a longstanding policy directive of the World Federation of Medical Education to ensure admission policies match the numbers of students trained with national needs for doctors (“The Edinburgh Declaration” 1988). Yet, a recent synopsis suggested that while much needed empirical evidence is awaited, selection policies are not taking account of the best available health outcomes and desirable career uptake data (Gorman 2018).


어떤 사람들은 정책 입법의 주요 장벽은 선발에 정치적 관심을 갖는 다양한 이해관계자들(예: 정부, 규제 기관 및 노동조합)이라고 제안한다.

Some suggest that a major barrier to policy enactment is various stakeholders having a political interest in selection (e.g. government, the regulators, and trade unions).


적어도 세 가지 접근법이 있다.

There are at least three approaches


[개개인에 초점을 둔 프로세스]에서, 학문적 성공을 위한 능력은 전형적으로 전 세계의 의대 및 전문 선발 시스템의 대다수에서의 선발의 기초가 된다. 학문적 성공에 초점을 맞춘 것은 Flexner 보고서(Finnerty et al. 2010; Flexner et al. 1910)의 후속편이며, 미국 의과대학 입학시험(MCAT)의 전조다. 이 적성검사는 지원자의 의학교육준비도를 평가하기 위해 실시되었다(McGaggie 2002). MCAT는 더 넓은 사회적 요소보다 개별 지원자의 장점(가장 일반적으로 학문적 성과로 정의됨)을 우선시한다(Razack et al. 2015). 최근에는 "학술 준비 상태"에 대한 local한 지리적 정의에 따라 (UKCAT)와 호주 대학원 입학 시험(GAMSAT)과 같이 다양한 표준화된 시험 방법이 개발되고 맞춤화되었다.

In individually focused processes, the capacity for academic success is typically the basis for selection in the majority of medical school and specialty selection systems globally. The focus on academic success is a sequelae of the Flexner Report (Finnerty et al. 2010; Flexner et al. 1910) and a precursor for the United States Medical College Admission Test (MCAT). This aptitude test was implemented to assess applicants’ academic readiness for medical education (McGaghie 2002). MCAT prioritizes the merit (defined most commonly as academic achievement) of individual applicants over broader social factors (Razack et al. 2015). Recently, a range of standardized testing methods have been developed and tailored to local geographic definitions of “academic readiness” (e.g. UK Clinical Aptitude Test (UKCAT) and the Graduate Australian Medical School Admissions Test (GAMSAT)).


의과대학 입학에서, 국제적으로 선발의 주류는 학문적 qualification에 계속 의존하고 있지만, 이것은 선발 목적으로 특별히 고안된 것이 아니다.

In medical school admissions, the mainstay of selection internationally continues to rely on academic qualifications which again are not designed specifically for selection purposes.


개인 속성을 포함하도록 선택의 폭을 넓히기 위해, 역량기반 프레임워크(Ferguson et al. 2002; Mahon et al. 2013)는 의료 전문가 또는 학생으로서 성공을 나타내는 것으로 생각되는 바람직한 행동과 태도 분류 체계를 기반으로 구축되었다(Patterson et al. 2016b). 이것은 역량 기반 의학교육의 원칙과 유사하다(Frank and Danoff 2007). 입학시의 선발 기준은 다중 소스 다중 방법 직무 분석 연구를 통해 도출되는 경우가 많다.

To broaden selection to encompass personal attributes, competency-based frameworks (Ferguson et al. 2002; Mahon et al. 2013) are built on a taxonomy of desirable behaviors and attitudes that are thought to indicate success as a healthcare practitioner or student (Patterson et al. 2016b), and bear some resemblance to the tenets of competencybased medical education (Frank and Danoff 2007). Entry-level selection criteria are often derived through multi-source, multi-method job analysis studies.


이어지는 다중 방법 선발 프로세스에는 학업성취도 지표 외에 구조화된 인터뷰/다중 미니인터뷰(MMI)와 상황 판단 시험(SJT)이 포함될 수 있다.

The subsequent multi-method selection processes may include structured interviews/multiple miniinterviews (MMI) and situational judgment testing (SJT) in addition to metrics of academic success.


개인 속성에 대해서 다양하면서도 일치된 프레임워크를 채택하는 이러한 이니셔티브의 결합은 국제적으로 선발과정에서 [지원자의 학업 준비도]와 [의학교육에 대한 인성적 준비 상태]를 평가하는 쪽으로의 변화를 가져왔다(Kirch 2012; Niessen and Meijer 2017). 나중에 논의하듯이 두 가지 유형의 조치는 모두 사회문화적으로 구속되어 있다. 

This confluence of initiatives which adapt varying but congruent frameworks of personal attributes has seen an international shift toward the assessment of both applicants’ academic readiness and their personal readiness for medical education (Kirch 2012; Niessen and Meijer 2017). As we discuss later, both types of measure aresocio-culturally bound. 


세 번째 선발 철학은 [어느 정도의 학업 능력]을 요구하지만, 동시에 [개인의 능력과 집단 사회적 기대 사이의 역동적인 상호작용]을 다루려고 시도한다. 이는 국제적으로 학생 다양성, 사회적 책임, 인력 계획 및 참여 확대를 포함한 다양한 지정 하에서 나타난다. 이전에 의료 및 보건 전문가 교육에 있어 대표성이 낮은 학생 인구의 참여를 늘리려는 노력은 동일한 학업성취에 대한 제도적 또는 사회적으로 결정된 장벽의 영향을 완화하는 것으로 생각된다.

The third selection philosophy assumes some level of academic capability but attempts to address a dynamic interplay between individual personal competencies and collective societal expectations, appearing globally under a range of designations including student diversity, social accountability, workforce planning, and widening participation. Efforts to increase participation of previously underrepresented student populations in medical and health professional education are thought to mitigate the impact of institutionally or societally determined barriers to their achieving the same academic success.




(2) 각각의 선발 방법은 얼마나 효과적인가?

(2) How effective are selection methods?


The research evidence for eight different selection methods is summarized in Table 1.


Table 1. Summary of the evidence and implications for different selection methods (Patterson et al. 2016a; Roberts et al. 2018).

1. 학업성취도 
1. Academic achievement 
예측 타당성에 대해서는 공감대가 높지만 고교 1등급을 달성하는 학생이 늘어나면서 차별력이 떨어지고 있다는 우려도 나온다. 게다가, 다른 유형의 학교와 학교 시스템 간의 비교가능성에 대해 자주 의문이 제기된다. 학교 시스템이 사회적으로 선택적이라면 학업성적표가 접근 확대에 부정적인 영향을 미칠 수 있다.
There is a high level of consensus regarding predictive validity, but concerns that the discriminatory power is diminishing as increasing numbers of students achieve top high-school grades. Moreover, comparability across different types of schools and school systems is frequently questioned. Academic records can negatively impact widening access if school systems are socially selective

2. 적성 검사
2. Aptitude tests 
여러 적성검사들은 [순수한 능력]과 [순수한 지식] 테스트 사이의 연속체에 위치한다. 신뢰성은 호의적인 경향이 있다. 특히 자연과학에서의 지식 부분은 학업 성과를 예측한다. 적성검사의 공정성, 특히 예측 타당성에 관한 증거가 뒤섞여 있으므로 각 도구는 자체적인 평가를 필요로 한다. 지식 테스트는 또한 종종 대학원 선택에 사용되며, 이러한 맥락에서 바람직한 신뢰성과 타당성을 입증한다.
Different tests are located on a continuum between pure ability and pure knowledge tests. Reliability tends to be favorable. The knowledge parts especially in the natural sciences predict study performance. Evidence is mixed on the fairness of aptitude tests, specifically regarding predictive validity, so each tool requires evaluation in its own right. Knowledge tests are also often used for postgraduate selection and demonstrate in this context favorable reliability and validity

3. 자기소개서
3. Personal statements & CVs 
지원자의 수용도는 높지만 코칭과 표절의 가능성 역시 높다. 예측 타당성에 대한 증거는 거의 없다. 대학원 모집의 경우 CV가 면접의 일부로 사용되는 경우가 많지만, 일반적으로 표준화되지 않은 형식으로 사용됨 
Candidate acceptability is high, but susceptibility to coaching and plagiarism is also high. There is very little evidence for predictive validity. For postgraduate recruitment CVs are often used as part of an interview but usually in a nonstandardized format 

4. 추천서
4. References & Letters of recommendation
타당성이나 신뢰성을 뒷받침하는 연구가 희소하고, 채점에 비용이 많이 든다. 그러나 추천서 사용은 여전히 널리 퍼져있고 지원자 반응은 긍정적이다. 추천서는 문제가 있는 지원자를 표시하기 위해 사용될 수 있다.
Little research supporting validity or reliability and high costs for scoring. However, use of references remains widespread and candidate reactions are positive. References might be used to flag problematic applicants.

5. SJT
5. SJTs 
비학업적 특성(예: 성격 테스트)을 위한 다른 대량 선택 도구에 비해 타당도가 향상되었으며 조직의 가치에 매핑할 수 있다. SJT는 설계에 상대적으로 비용이 많이 들 수 있지만 기계에 표시하여 온라인으로 배송할 수 있으므로 대량 선택 시 비용 절감 효과를 얻을 수 있다. 텍스트 기반에서 멀티미디어 항목 프레젠테이션에 이르기까지 포맷의 유연성 적절한 설계를 통해 코칭의 신뢰성을 최소화할 수 있음
Improved validity over other high-volume selection tools for nonacademic characteristics (e.g. personality tests) and can be mapped to organizational values. Although SJTs can be relatively costly to design, they can be machine-marked and delivered online, producing cost savings in high-volume selection. Flexibility in format from text-based to multi-media item presentations. Susceptibility to coaching can be minimized through appropriate design

6. 성격 검사
6. Personality assessment 
어떤 성격적 특성은 비록 사용된 성격 도구에 따라 그 증거가 혼합되어 있기는 하지만 훈련 중 성과와 연관되어 있다. 조작이나 코칭에 취약성이 높은 경우, 성격검사를 사용하여 인터뷰 시(검증없는 독립 실행형 도구로서가 아니라) 보다 집중적인 질문을 유도할 수 있다.
Some personality traits have been linked to in-training performance although depending on the personality tool used the evidence is mixed. Where there is a high risk for susceptibility to faking or coaching, personality assessment might be used to drive more focused questioning at interviews (rather than as a standalone instrument without verification)

7. 면접
7. Interviews/MMIs 
기존의 비구조화 면접은 낮은 성능을 발휘하는 반면, 역할 분석을 기반으로 한 구조화된 면접은 표준화된 질문, 훈련된 면접관 및 적절한 점수를 통해 신뢰할 수 있고 유효한 방법이 될 수 있다. MMI는 가장 체계적인 인터뷰 유형이다. 그들은 일반적으로 6개 이상의 인터뷰 스테이션으로 구성되어 있으며, 이는 신뢰도를 높이기 위해 성능 샘플링을 넓힌다. MMI는 설계와 구현에 상대적으로 비용이 많이 들지만, 좋은 유효성과 긍정적인 후보 반응을 제공할 수 있다. 모든 유형의 면접은 지원자와의 실시간 상호작용의 기회를 만들어 제공하지만, 지원자와 프로그램 간의 보다 개인적인 연결을 가능하게 하는 것과 같은 다른 이점을 제공한다. 후보들은 다른 방법보다 인터뷰를 선호한다.
Traditional unstructured interviews perform poorly, whereas structured interviews based on a role analysis, with standardized questions, trained interviewers, and appropriate scoring, can be reliable and valid methods. MMIs are the most structured type of interviews. They typically comprise six or more interview stations, which broadens the sampling of performance to enhance reliability. MMIs are relatively expensive to design and implement but can offer favorable validity and positive candidate reactions. All types of interviews create the opportunity for a live interaction with applicants which makes them resource-intensive to deliver, but offers other advantages such as enabling a more personal connection between applicant and program. Candidates prefer interviews to other methods

8. 선발 센터
8. Selection centers (SCs) using work samples & simulations
다중 스테이션 SC는 광범위한 시뮬레이션(예: 그룹 연습, 진행 중인 작업, 프레젠테이션, 역할 참여자와의 대화형 연습)을 수반하기 때문에 설계 및 구현에 상대적으로 비용이 많이 든다. MMI와 유사한 다중 샘플링 접근법을 제공한다. SC는 대학원 선택에 사용되었으며, 학부 의료 선택에서 SC의 예측 유효성에 대한 추가 증거가 필요하다.
Multi-station SCs are relatively expensive to design and implement as they involve a range of simulations (e.g. group exercises, in-tray tasks, presentations, interactive exercises with role players). They offer a similar multisampling approach as MMIs. SCs have been used in postgraduate selection and further evidence of the predictive validity of SCs in undergraduate medical selection is required

앞의 진술에서와 같이, 후보자들의 사전 학업 성취는 국제적으로 선발 정책의 보편적인 특징으로 남아있고, 이에 대한 증거의 강점은 여전히 강하다. 기관과 프로그램 간의 비교 가능성에 대한 지속적인 우려와 성적 인플레이션에 대한 우려에도 불구하고, 이전 등급은 미래의 교육 성과에 대한 강력한 예측자로 남아 있다(Ferguson et al. 2002; Siu and Reiter 2009).

As in the previous statement, prior academic attainment of candidates remains a universal feature of selection policies internationally and the strength of evidence for this remains strong. Despite ongoing concerns about comparability across institutions and programs, and concerns about grade inflation, prior grades remain a robust predictor of future educational achievements (Ferguson et al. 2002; Siu and Reiter 2009).


적성 검사에서는 주로 사용 가능한 많은 종류의 적성 검사가 있어서 그림이 덜 명확하다. 

  • 일반 인지 능력 테스트(예: UKCAT)

  • 과학적 지식 테스트까지 포함하는 것(예: UMAT(의료 및 보건 과학 감도 테스트) 

  • 두 가지 유형의 혼합물(예: MCAT 2015). 

The picture remains less clear for aptitude tests mainly due to the large number of different aptitude tests available, ranging from 

  • tests of general cognitive ability (e.g. UKCAT) versus 

  • those that also comprise tests of scientific knowledge (e.g. Undergraduate Medical and Health Sciences Aptitude Test (UMAT)) versus 

  • hybrids of the two types (e.g. the MCAT 2015). 


적성검사에 대한 성과는 커리큘럼의 초기 및 의대 종료 시 시험 성과와 같은 주로 중간점 또는 끝점 훈련 결과 측정과 비교되었다(McManus et al. 2013). 적성검사가 특정 유형의 후보를 선호하거나 선호하지 않을 수 있다는 모호한 증거가 있으며, 이는 의학교육에 대한 공정성과 접근 확대에 영향을 미칠 수 있다(Tiffin et al. 2012; Livens et al. 2016; Kumar et al. 2018).

Performance on aptitude tests has been compared to mainly midpoint or endpoint training outcome measures, such as exam performance early in the curriculum (McManus et al. 2013) and at the end of medical school (Tiffin et al. 2016). There is equivocal evidence that aptitude tests may or may not favor certain types of candidates, which may have implications for fairness and widening access to medicine (Tiffin et al. 2012; Lievens et al. 2016; Kumar et al. 2018).


마찬가지로 일부 성격 특성이 훈련 중인 성과와 연계되어 있지만(예: 리벤스 등, 2009), 성격 평가가 선택에 유용한 정도에 관한 증거는 기껏해야 혼합되어 있다(Patterson et al. 2016a; Roberts et al. 2018 참조). 최근의 증거는 또한 성격 특성이 더 이상 행동의 안정된 결정론적 예측 인자로 간주되지 않고 대신 오랜 삶에 걸쳐 변화하며 그리고 환경적 우발성에 대응하여 변화되는 것으로 확인된다는 것을 시사한다(퍼거슨과 리븐스 2017). 이는 [성격의 역동적 특성]과 [성격 표현의 맥락 특이성]을 고려할 때 특정 성격의 선택에 초점을 맞추는 접근방식이 제한된 유효성을 가질 수 있음을 암시한다.

Similarly, although some personality traits have been linked to in-training performance (e.g. Lievens et al. 2009), the evidence regarding the extent to which personality assessment is useful in selection is mixed, at best (see Patterson et al. 2016a; Roberts et al. 2018). Recent evidence also suggests that personality traits are no longer regarded as stable deterministic predictors of behavior and are instead found to change across life span and in response to environmental contingencies (Ferguson and Lievens 2017). This implies that approaches focusing on selecting out for specific traits might be of limited validity given the dynamic nature of traits and the context specificity of trait expression,


이전의 합의문(Pridau et al. 2011) 이후 MMI와 SJT가 자기소개서, 추천서보다 의사소통 능력, 윤리적 추론, 공감 및 무결성과 같은 개인간 속성과 개인 내 속성의 보다 유효한 예측자임을 입증하는 연구가 더 많이 등장했다(Patterson et al. 2016a). MMI와 SJT는 상호 보완적이며 선택 과정의 다른 단계에서 가장 일반적으로 사용된다.

Since the previous consensus statement (Prideaux et al. 2011), more research has emerged demonstrating MMIs and SJTs to be more valid predictors of inter- and intra- personal attributes such as communication skills, ethical reasoning, empathy and integrity than personal statements, letters of recommendation or references (Patterson et al. 2016a). MMIs and SJTs are complementary and most commonly used at different stages of selection processes.


많은 항목을 포함하는 SJT의 능력은 보다 광범위한 구인의 실현 가능한 측정을 제공할 수 있으며, 더 많은 수의 지원자가 컴퓨터로 배송되고 기계 표시가 가능하기 때문에 사용할 수 있다. 이와 같이 SJT는 면접에 초대받은 사람을 심사할 목적으로 자주 사용된다.

SJTs’ capacity to include many items can offer feasible measurement of a broader range of constructs and can be used for larger numbers of applicants as they can be computer-delivered and the machine-marked. As such, SJTs are often used for purpose of screening who is invited to an interview.


반면 MMI는 미리 선정된 지원자들의 관점을 좀 더 심도 있게 조사할 수 있는 대면조회를 제공한다. 대면은 선택 방법의 심리학적 특성과 무관한 추가적인 이득을 제공할 수 있다. 예를 들어, 그것은 해당 기관이 개인적 연결personal connection을 가치있게 생각한다는 것을 보여주며, 지원자가 자신과 학습 환경 사이의 적합성fit을 평가하는 데 도움이 되는 의료 학교 또는 [전문 교육 환경을 방문한다는 것]을 나타낸다(Burgess e).t al. 2014).

On the other hand, MMIs offer a face-to-face encounter allowing the perspectives of a preselected group of applicants to be probed in more depth. Face-to-face encounters may offer additional gains unrelated to the psychometric properties of the selection method: for example, they indicate institutional valuing of personal connections and visiting the medical school or specialty training setting which help applicants to assess the fit between themselves and the learning environment (Burgess et al. 2014).


SJT와 MMI는 모두 측정 방법론이며, 각 설계 매개변수는 모집 기관의 목적에 따라 크게 달라질 수 있다(Knorr 및 Hissbach 2014). 구성 요소가 기관의 요구에 완벽하게 부합하는 사용 가능한 형식이 있을 수 있지만, 목적과 맥락에 따라서 특정한 설계를 요구할 수 있다(Reiter and Roberts 2018).

both SJTs and MMIs are measurement methodologies and the design parameters for each can vary significantly depending on the purpose of the recruiting institution (Knorr and Hissbach 2014). While there might be an available format whose components perfectly align with an institution’s needs, the purpose and context might require a specific design (Reiter and Roberts 2018).


이러한 모든 선택 방법은 [선택 목적과 특정 맥락에 의해 결정되는 다양한 설계 매개변수들]로 구성된다. 여러가지 선발방법의 명명은 어떻게 구현되어야 하는가에 대한 명확한 추론을 보여주는 것이 아니라 [선발에 필요한 데이터를 수집할 수 있는 방법의 범주]를 나타낸다. 결과적으로, 어떤 방법의 특정 버전의 타당성과 품질에 대한 보편적인 주장은 신중하게 판단되어야 한다. 

All these selection methods comprise a multitude of different design parameters, which are informed by the purpose of selection and the particular context. The labeling of differing methods indicates the categories of ways in which data can be collected to support selection rather than allowing definitive inferences to be drawn regarding how the methods were implemented. As a result, universal claims of validity and quality of any specific version of a method should be judged cautiously. 


예를 들어, 면접이나 필기시험의 형식이 다른 서로 다른 맥락에서 MMI와 SJT를 평가할 때, 시험의 효과성(Reiter 및 Eva 2018)과 다른 선택 맥락에 대한 일반성에 대한 결론을 도출하기 전에) 각 시험은 개별적으로 평가되어야 한다. 대규모 및 메타 분석 연구의 결과는 다양한 선발방법의 품질을 일반적인 관점에서 보여주지만, 특정 선발 프로세스의 효과를 결정하기 위해서는 국지적인 검증 연구가 필요하다.

For example, when evaluating MMIs and SJTs in differing contexts with differing formats of an interview or written test, each test must be evaluated individually before reaching conclusions about both its effectiveness (Reiter and Eva 2018), and generalizability to other selection contexts. Although results from large-scale and meta-analytic studies can indicate the quality of different selection methods in general, local validation studies are required to determine the effectiveness of any given selection process.


다양한 선택 방법의 품질을 판단하는 데 있어 일관된 문제는 소위 기준 문제와 관련이 있다. 즉, 어떤 결과를 예측하려고 하는가? 예측 타당성 연구는 일반적으로 합의된 "골드 스탠더드"가 필요하지만, 보건 전문가의 성과를 측정하는 데 [이론의 여지가 없는 단일 골드 표준]이란 존재하지 않는다(Patterson et al. 2017; Roberts et al. 2018).

A consistent problem in judging the quality of different selection methods relates to the so-called criterion-problem; that is, what outcomes are we trying to predict? Predictive validity studies require a generally agreed-upon “gold standard,” but there is no single undisputed gold standard that measures the performance of a practicing health professional (Patterson et al. 2017; Roberts et al. 2018).


가중치를 어떻게 부여하느냐에 따라 선택된 모집단의 측면에서 다른 결과가 초래될 것이라는 증거가 명백하다(예: 페르난도 외 2008; 티핀 외 2012; 그리핀 및 후 2015).

evidence is clearly identifies that diverse ways of weighting different methods will lead to different outcomes in terms of the population selected (e.g. Fernando et al. 2008; Tiffin et al. 2012; Griffin and Hu 2015).


선발 방법을 평가하기 위해 사용되는 결과 측정은 흔히 직무 역할에서 임상 실습 및 [일반적인(일상) 성과]와 관련된 지표보다는 성취도와 [최대 성과](예: 의대 성과, 면허 시험에서의 성과)에 초점을 맞춘다. 이용할 수 있는 (제한된) 종방향 예측 유효성 연구 중, 목표 결과 변수와 그 해석을 명확히 하기 위해 추가적인 명확성이 필요하다.

Outcome measures used to evaluate selection methods often focus on indicators of attainment and maximal performance (e.g. medical school achievements, performance in licensure exams) rather than indicators relating to clinical practice and typical (day-to-day) performance in the job role. Of the (few) longitudinal predictive validity studies available, additional clarity is needed to articulate the target outcome variables and their interpretation.


(3) 다양성과 세계화 문제

(3) Diversity and globalization issues


경제적으로 불리한 배경, 시골 배경 또는 특정 민족과 문화 그룹과 같은 특정 그룹의 사람들은 전 세계적으로 의학 부문에서 낮은 평가를 받고 있다(Bowes et al. 2013). Razack 등(2015년)은 배타적 프로세스에서 포괄성을 가능케 하기 위해 고려할 수 있는 다중 우수성을 분석한 결과, 권력 역학이 직업과 한계 그룹 사이에 어떻게 개입하는지를 입증하는 데 도움이 된다. 여기에는 역사적으로 주목받지 못한 일부 사회 집단의 앞에 놓인 상류 장애물을 보는 것도 포함된다.

People from certain groups, such as those from economically disadvantaged backgrounds, rural backgrounds, or certain ethnic and cultural groups remain under-represented in medicine worldwide (Bowes et al. 2013). Razack et al.’s (2015) analysis of the multiple excellences that might need to be considered to enable inclusiveness in an exclusive process helps to demonstrate how power dynamics intervene between the professions and marginalized groups. This includes looking upstream at impediments put before some social groups that have not historically been noticed.


예를 들어 얼마 전까지만 해도 영국의 입학 자료에는 의과대학에서 가장 과대평가된 사회반과 가장 과소평가된 사회반 사이에 600배의 차이가 있음을 알 수 있었다(힐튼과 루이스 2004; 세얀 외 2004). 민족성과 관련하여, 아프로-카리베인 노동계급 남성들은 영국에서 의학에도 적용하지 않는 경향이 있으며(Kumwenda et al. 2018), 이와 유사하게 터키 소수 집단은 독일에서의 의료 교육에서 현저하게 미흡하다. 이러한 경향은 시간이 지남에 따라 안정적이며(Mathers et al. 2016) 거의 모든 지역에서 관찰되었다(Edwards et al. 2000; Crosby et al. 2003; Frazer 2005; Young et al. 2012; Gale and Parker 2013).

For example, not so long ago, the UK admissions data indicated that there was a 600-fold difference between the most over-represented and most under-represented social classes in medical school (Hilton and Lewis 2004; Seyan et al. 2004). Regarding ethnicity, Afro-Caribbean workingclass males tend not to even apply to medicine in the UK (Kumwenda et al. 2018), and similarly, Turkish minority groups are significantly underrepresented in medical education in Germany. These trends have been stable over time (Mathers et al. 2016) and observed in almost all parts of the world (Edwards et al. 2000; Crosby et al. 2003; Frazer 2005; Young et al. 2012; Gale and Parker 2013).


엘리트로서의 의학 교육의 재생산적 성격은 영구적으로 유지된다. 덜 advantaged 사회 집단의 젊은이들이 성공을 입증하는 데 겪는 장애물로는 

  • 교육 과정 내내 낮은 수준의 학업 성취 달성(Gorard et al. 2006) 

  • 자신감 결여(Greenhalgh 등, 2006) 

  • 의료 경력과 동일하지 않음(Mathers and Parry 2009; Southgate et al. 2015) 

  • 의대(Nicholson 및 Cleland 2017)에 성공적으로 지원 및 진행하기 위해 정보 및 자원과 협상할 수 없음 

  • 의료 교육 비용과 돈을 벌어야 하는 필요성에 민감함(Sianou-Kyrgiou 및 Tsiplakides 2011) 

  • 대학 교육 이력이 없는 가정 출신(Rob et al. 2007; Southgate et al. 2015) 

  • 의학을 열망할 동기를 부여하거나 지지하지 않는 중등(고등) 학교에 다니는 것(McHarg 등, 2007).

The reproductive nature of medical education as elite is perpetually maintained. Barriers in demonstrating success for young people from less advantaged social groups include routinely 

  • achieving lower levels of academic achievement throughout their schooling (Gorard et al. 2006); 

  • lack of self-confidence (Greenhalgh et al. 2006); 

  • not identifying with a medical career (Mathers and Parry 2009; Southgate et al. 2015); 

  • being unable to negotiate to information and resources to successfully apply to, and progress through, medical school (Nicholson and Cleland 2017); 

  • being sensitive to the cost of medical education versus the need to earn money (Sianou-Kyrgiou and Tsiplakides 2011); 

  • coming from a family without a history of university education (Robb et al. 2007; Southgate et al. 2015); and 

  • attending secondary (high) schools that do not motivate or support students to aspire to medicine (McHarg et al. 2007).


많은 국가에서 주요 정책상의 의무는 특정 집단(사회-경제적 지위가 낮은 그룹, 특정 민족 배경, 외딴 지역과 시골 지역에서 유래한 지역 및/또는 토착 인구 포함)의 대표성을 높이기 위한 정부 투자의 지원을 받아 의학교육에 대한 접근 확대를 촉진한다.

In many countries, major policy imperatives promote widening access into medicine, backed by governmental investment to increase the representation of certain groups (including those from lower socio-economic status (SES), certain ethnic backgrounds, originating from remote and rural locations, and/or indigenous populations).


이에 대한 근거는 두 가지다. 

  • 첫째, 사회 정의와 사회 이동성의 사회적 이슈를 모든 배경의 사람들을 고등교육으로 장려하는 관점에서 다루기 위해서입니다출생이 사람의 사회적, 경제적 결과를 좌우하는 것이어서는 안된다(Nicholson and Cleland 2015). 

  • 둘째, 의료 인력의 다양성은 자신이 봉사하는 지역사회의 맥락과 문화를 이해하는 잘 훈련된 의사의 공급을 보장함으로써 건강관리 품질을 개선하는 데 필수적인 것으로 간주된다(Xu et al. 1997; Whitla et al. 2003; Saha et al. 2008).

The rationale for this is twofold. 

  • First, to address societal issues of social justice and social mobility in terms of encouraging people from all backgrounds into higher education rather than birth dictating one’s social and economic outcomes in life (Nicholson and Cleland 2015). 

  • Second, a diverse healthcare workforce is considered essential to improving healthcare quality by ensuring a supply of well-trained doctors who understand the context and culture of the communities they serve (Xu et al. 1997; Whitla et al. 2003; Saha et al. 2008).


역설적으로, 학업 성취도에 대한 의존에서 [역량기반 모델]로 이동하려는 노력은 입학 위원회에서 종종 지원자의"개인적 준비"의 지표로 취급하는 많은 활동에 참여할 기회에 대한 장벽을 증폭시킬 위험을 초래할 수 있다. 2018).

Paradoxically, efforts to move away from a reliance on academic achievement toward competency-based models can run the risk of amplifying these barriers as only the privileged can be expected to have opportunities to participate in many of the activities that admissions committee often treat as indicators of applicants’“personal readiness” (Wouters 2018).


접근의 확대에 대한 접근방식은 철학과 맥락에 따라 크게 달라지며, [지원자의 개인적 권리]와 [그들이 봉사할serve 사람들의 집단적 권리] 사이에 문제가 제기된다

  • 한쪽에서, 동등한 능력을 가진 지원자는 어떤 인구통계학적 그룹 출신이라는 이유로 차별받아서는 안 된다(Woolf et al. 2011; Roberts et al. 2018). 

  • 한편, 지원자를 인구학적 프로파일에 분류할 때 쿼터 같은 차별적 행동 정책이 유사한 인구학적 프로파일을 가진 지리적 지역에서 보건 전문가로 활동할 확률을 높일 것이라는 가정도 있다. 인구통계에 기초한 접근 확대가 다양한 인력 제공의 목적을 충족시킬 수 있는지에 대한 비판적 성찰과 경험적 증거가 필요하다.

The approach to widening access varies widely by philosophy and context, raising a conundrum, between the individual rights of an applicant and the collective rights of the people they will serve. 

  • On one side, no applicant of equal ability should be discriminated against by virtue of which demographic group they come from (Woolf et al. 2011; Roberts et al. 2018). 

  • On the other side, the assumption that affirmative action policies such as quotas in classifying applicants on their demographic profile will increase the probability of them practicing as a health professional in geographical areas with a similar demographic profile. There needs to be critical reflection and empirical evidence as to whether widening access on the basis of demographics can meet the purpose of providing a diverse workforce.


일부 국가는 쿼터제를 사용하여 대상 그룹으로부터 지원자를 위한 장소를 보호하는데, 이는 별로 대표되지 않은 지원자가 쿼터제 때문에 입학을 획득한 스테이그마를 만드는 데 문제가 있을 수 있다.

Some countries use quota-based systems to protect places for applicants from target groups which may be problematic in creating stigmas that under-represented problematic in creating stigmas that under-represented applicants gained entry only because of the quota system.


  • 유럽에서는 프랑스가 의과대학에 입학할 때는 거의 선발이 없지만, 교육과정의 초기에 시험에 근거해 학생 수를 대폭 줄여서 SES가 선발에 미치는 영향을 줄일 수 있다. 

  • 독일에서, 의학에 대한 자유로운 선택을 위한 헌법상의 권리는 중등학교 졸업 후 가장 오래 기다린 지원자들에게 주어지는 20%의 할당제를 낳았다. 그러나 이들 학생들의 중퇴율은 높으며 최근 헌법 재판소는 이 정원을 없앨 수 있다고 결정했다. 

  • 반면, 미국에서 선발시 인종적 고려를 금지하는 법은 의료계의 의료 불평등을 해결하기 위한 심각한 장애물을 내포하고 있다(Garces and Micki-Pabello 2015).

  • In Europe, France has little selection at entry into medical school but drastically reduces the number of students based on examinations early in the curriculum, which might reduce the impact of SES on selection. 

  • In Germany, the constitutional right for a free choice into medicine gave rise to a 20% quota of study places that are given to those applicants who have waited the longest from graduation from secondary school. However, the dropout rates among these students are high and the constitutional court recently decided that this quota can be eliminated. 

  • By contrast in the United States, state-wide laws banning the consideration of ethnicity in selection pose serious obstacles for the medical profession to address inequities in care (Garces and Mickey-Pabello 2015).


네덜란드에서는 후보자들이 더 높은 SES나 사회적 자본의 지원자를 선호하기 때문에 다양성이 결여될 수 있는 선발 시스템을 "전략적으로 게임"하기 위해 사용할 수 있는 수단을 사용할 것이라는 인식이 있다(Wouters et al. 2017; Stegers-Jager 2018). 일부 사람들은 전국 복권이 이러한 문제를 피할 수 있다고 주장한다(Hofstee 1983; Wouters et al. 2017). 그러나 다른 이들은, 만약 학문적 성공이 복권의 수를 결정한다면, 공정성을 가정할 수 없다고 말한다(Griffin과 Hu). 그러나 네덜란드의 중등교육 시스템은 모두 공공 자금으로 지원되며 계층화tiered 되어 있는데, 이는 (학업적으로) 상위 계층의 학생들만이 대학에 지원할 수 있고, 중등학교 기간 동안 최하위 계층에 입학한 학생들은 올라갈 수 있다는 것을 의미한다. 이것은 SES의 영향을 부분적으로만 받는다.

In the Netherlands, some perceive that candidates will use means available to them to “strategically game” the selection system which may create a lack of diversity as it favors applicants of higher SES or social capital (Wouters et al. 2017; Stegers-Jager 2018). Some argue that a national lottery may avoid these problems (Hofstee 1983; Wouters et al. 2017). Others state, however, that one cannot assume fairness if incoming academic success determines the number of lottery tickets one receives (Griffin and Hu 2015). The secondary school system in the Netherlands is all publicly funded and tiered however, which means that only students from the top tier – academically – can apply for university, and during the secondary school period students who have entered in the lowest tier can move up. This is only partly influenced by SES.


전반적으로, 의학의 다양성을 증가시키는 다양한 접근방식에 관한 효과의 증거는 모호하다. 긍정적인 관점에서, 새로운 선택 도구는 신청자 모집단의 다른 부분에 대한 중립성을 시험하는 것이 관례다(Moreau et al. 2006; Reiter et al. 2012; Livens et al. 2016). 좀 더 신중한deliberate 선택 기법을 사용하는 것으로의 전환은 더 나은 학생 성과 결과를 산출하는 것으로 보인다(Stegers-Jager 2018). 더 광범위한 역량 기반 선택 모델을 향한 움직임은 (예를 들어 호주에서와 같이) 일부 맥락에서 학문적 성과에만 의존하는 해로운 영향을 상쇄(어느 정도)하는 것으로 보인다(Griffin 및 Hu 2015). 조건화된 입학 절차들은 덜 준비된 배경의 지원자들이 의대에서 더 쉽게 통합되고 성공할 수 있도록 하는 것으로 나타났다. (Girotti et al. 2015)

Overall, the evidence of effectiveness regarding various approaches to increasing diversity in medicine is equivocal. On a positive note, it is customary for newer selection tools to be tested for their neutrality toward different sections of the applicant population (Moreau et al. 2006; Reiter et al. 2012; Lievens et al. 2016). The transition toward using more deliberate selection techniques appear to be yielding better student performance outcomes (Stegers-Jager 2018). The movement toward broader competency-based models of selection appear to offset (to some degree) the deleterious effects of relying solely on academic achievement in some contexts, for example, in Australia (Griffin and Hu 2015). Conditionalized admissions processes have been shown to successfully enable less prepared applicants from under-represented backgrounds to more readily integrate and succeed in medical school (Girotti et al. 2015).


"표준화된 입원비"를 생성하여 접근 확대에 대처할 수 있는 기술 솔루션(다른 사회 부문으로부터 의학을 공부하도록 인정된 비율이 모집단 비율과 일치) 또는 "제한된 최적화" 모델(Kreiter 2002)은 의과대학에서 채택하지 않았다. 반면에, 의대에 입학하기 전 또는 의과대학의 초기 단계(Girotti et al. 2015)이든, 적절한 학업 훈련을 받을 수 있는 덜 혜택 받지 못한 그룹의 학생들을 장려하기 위한 조건부 입학 및 융성 프로그램에 의해 보여지는 유망한 결과들이 있다. 

Technical solutions, which may address widening access by generating “standardized admission ratios” (where the proportion admitted to study medicine from different social segments is matched with their population proportion: McManus 2002; Seyan et al. 2004) or “constrained optimization” models (Kreiter 2002) have not been embraced by medical schools. On the other hand, there is promising results shown by conditional admissions and enrichment programs aimed toward promoting students from less advantaged groups who can receive the proper academic training, either prior to entry into medical school or early on in their medical school (Girotti et al. 2015).


선발 영역에는 두 가지 특정 영역이 있는데, 여기서 실무와 정책은 시장 힘에 의해 강하게 영향을 받는다. 많은 지역에서, 선발 도구는 "제품화"되었고, 지원자(예: 구매식 입시 대비 과정)와 학교(예: 선정 시스템에 포함될 수 있는 "사외" 제품/테스트)에 상업적으로 판매되었다. 코칭 제품이 반드시 지원자의 성공을 향상시키는 것은 아니라는 연구 결과가 일부 있다(예: Griffin et al. 2008; 리뷰는 Griffin (2018) 참조).

There are two particular areas of selection where practice and policy are strongly influenced by market forces. In many locations, selection tools have been “productized” and commercially marketed to applicants (e.g. fee-payable preparatory courses) and schools (e.g. “off-the-shelf” products/tests that can be included in the selection system). There is some research suggesting that coaching products do not necessarily improve application success (e.g. Griffin et al. 2008; see Griffin (2018) for a review).


세계화된 경제에서 의료 이주는 증가하는 이슈다. 아프리카와 중동과 같은 많은 개발도상국에서는 높은 이주율과 이주 의향이 있다(Bailey et al. 2012; Suciu et al. 2017). 이러한 의도는 일시적일 수 있다(예: 전문과 훈련을 위해 해외로 나갔다가 출신지에서 다시 일하게 된다; Tekian and Boulet 2015) 또는 영구적일 수 있다. 해외 연수 의사를 적극적으로 채용할 수 있도록 하고 장려하는 정책, 규제, 입법은 가난한 나라에서 부유한 나라로 이주하는 의료 종사자의 '두뇌 유출'을 전파할 수 있다(smith 2008). 예를 들어 사하라 사막 이남 아프리카는 (세계 질병의) 24%의 부담을 가지고 있지만, 의료 종사자의 경우는 3%에 불과하다(세계보건기구 보고서 2006). 규제 기관이 21세기 의료 마이그레이션 흐름을 조정된 글로벌 수준에서 고려할 수 있는 민첩성을 가지고 있는지 여부를 질문할 필요가 있다(Hawthorne 2015).

In a globalized economy, medical migration is an increasing issue. In many developing countries, such as in Africa and the Middle East, there are high rates of migration and intention to migrate (Bailey et al. 2012; Suciu et al. 2017). These intentions may be transient (e.g. going abroad for specialty training and then returning to work in the country of origin; Tekian and Boulet 2015) or permanent. Policy, regulations, and legislation that enable and encourage active recruitment of overseas-trained doctors can propagate the “brain drain” of health workers migrating from poor to wealthy countries (Smith 2008). For example, Sub-Saharan Africa has 24% of the burden (of global disease) but only 3% of health workers (World Health Organization Report 2006). The question needs to be asked whether regulatory bodies have the agility to consider twenty-first century medical migration flows at a coordinated, global level (Hawthorne 2015).



(4) 이론과 평가

(4) Theory and evaluation


보건 분야 종사자 선발에 관한 문헌이 급속히 증가하고 있다고 평가함에 있어서, 현장에서의 토론을 알리기 위해 "과학적 방법"을 채택한다고 주장하는 사람들의 주된 의제는 정신측정학(즉, 선택 관행에서 예측 가능한 타당성과 신뢰성을 달성하는 최선의 방법)이었다.

In appraising the rapidly increasing literature on selection into the health professions, the dominant agenda for those claiming to adopt “scientific methods” to inform the debates in the field has been psychometric (i.e. how best to achieve predictive validity and reliability in selection practices).


학습 분석을 사용하는 빅데이터 접근방식은 훈련 중인 성능 및 잠재적으로 건강 결과 데이터와 관련된 선택도 보장한다(Ellaway et al. 2014). 그러한 분석의 학제간 성격을 고려할 때, 우리는 보다 정교한 예측 타당성 연구를 예상해야 하며, 선발 관행의 맥락과 내용에 차이를 고려하는 다기관 고품질 데이터 세트에 적용해야 한다.

Big data approaches using learning analytics also bear promise in relating selection to in-training performance and potentially health outcomes data (Ellaway et al. 2014). Given the interdisciplinary nature of such analysis, we should expect more sophisticated predictive validity studies, applied to multi-site highquality data sets that take differences in context and content of selection practices into account.


선택은 (심리측정적) 진공에서 일어나지 않는다. 이를 조사하기 위한 적절한 이론적 프레임워크와 적절한 방법론을 개발하기 위해 혼합된 방법 접근법이 더 적절할 수 있다. 선발 철학, 정책 및 결과는 고정된 것이 아니라, 의료 교육의 글로벌 및 국가, 사회, 정치적 동인에 근거하여 변화한다(Cooke et al. 2010; Frenk et al. 2010; Hodges and Ringard 2012). 선발을 뒷받침하는 광범위한 사회적 세력들이 수월성을 정의하는 특정한 방법에 따라 충돌할 수 있으며, 학생이나 수습 기관의 다양성을 증가시키기 위해 노력하는 일부 의과대학과 전문 선발 위원회에 불편한 긴장을 야기할 수 있다. 이는 입학 환자, 의자, 기관 직원, 지원자, 보건 제공자, 규제자, 기금가, 대학, 사회를 포함한 행위자와 이해당사자들 사이의 다중적이고 복잡한 제도적 요구와 협상을 반영하여 서로 다른 건강 전문 기관이 다른 선택 목적과 목표를 가지도록 유도한다(클리랜드). 등, 2015; Razack 등, 2015; Alexander 등, 2017). 

Selection does not occur in a (psychometric) vacuum. To develop the appropriate theoretical frameworks and appropriate methodologies to investigate this, mixed methods approaches may be more appropriate. The philosophies, policies, and outcomes of selection are not static, rather they shift on the basis of global and national, societal, and political drivers of medical education (Cooke et al. 2010; Frenk et al. 2010; Hodges and Lingard 2012). Broadly social forces underpinning selection may conflict as particular ways of defining excellence may lead to uncomfortable tensions for some medical schools and specialty selection boards that strive to increase the diversity of its student or trainee body. This reflects multiple and complex institutional demands and negotiations among actors and stakeholders including admissions patients, chairs, institutional staff, applicants, health providers, regulators, funders, universities, and society, leading different health professional institutions to have different selection aims and objectives (Cleland et al. 2015; Razack et al. 2015; Alexander et al. 2017). 


건강 전문 교육 문헌에서 문맥에 중요한 인식이 증가하고 있다. 이는 비단 전통적인 맥락 특이성 측면에서만 그런 것이 아니라(다른 특성의 문제에 대한 성능 간의 낮은 상관관계) 또한 교육적 개입이 구현되는 환경의 차이에 의해 야기되는 거시적 가변성 측면에서도 그러하다(Bates and Elaway 2016).

There is a growing awareness in the health professional education literature that context matters, not only in the traditional sense of context specificity (poor relationships between performance on problems of different characteristics) but also in the macro sense of variability induced by differences in the environment in which educational interventions are implemented (Bates and Ellaway 2016).


우리는 선발에 관심이 있는 사람들이 보건전문직 선발을 형성하는 힘에 대한 탐구와 배려를 회피하기 보다는 포용할 것을 촉구한다. 그렇게 하기 위해서는 "측정"에 초점을 맞춘 연구를 보완하기 위해 그 분야에서 더 많은 질적 연구가 필요하다.

We urge those with interest in selection to shift their thinking, to embrace, rather than avoid, the exploration and consideration of forces that shape health professional selection. To do so requires more qualitative studies in the area to complement those focused on “measurement.”


예를 들어, 많은 졸업생들이 이주할 것이라는 이해를 가지고 과잉생산하는 국가의 의과대학의 선정 목표와 목표는 [의료 학교의 수는 국가 인력 계획 예측에 근거하여 정부에 의해 통제되는] 영국과 같은 나라의 의과대학과 매우 다를 것 같다(Bailey et al. 2012; Kizito et al. 2015; Suciu et al. 2017) 

For example, the selection aims and objectives of a medical school in a country over-producing doctors with the understanding that many graduates will migrate (Bailey et al. 2012; Kizito et al. 2015; Suciu et al. 2017) are likely to be very different from those of a medical school in a country such as the UK where the number of medical schools are controlled by government on the basis of national workforce planning forecasts.


도어와 동료(도어 외 2017)는 선발과정의 프로세스와 효과를 평가하기 위해 프로그램 로직 모델을 사용할 것을 제안한다. 이 접근방식은 종종 명시적으로 언급되지 않은 프로세스의 중요 구성 요소를 강조한다.

Dore and colleagues (Dore et al. 2017) suggest the use of program logic models to evaluate the process and effectiveness of selection processes. This approach highlights the critical components of a process that are often not explicitly stated


로직 모델에는 입력과 활동이 결과, 출력 및 영향에 어떻게 영향을 미치는지에 대한 가정, 편견 및 기대감으로 구성된 여러 구성 요소가 있다(Cooksy et al. 2001).

Logic models have multiple components which are comprised of assumptions, biases, and expectations of how the inputs and activities (of, in this case, selection) will influence the outcome, output, and impact (of a selection process; Cooksy et al. 2001).


우리의 두 번째 예는 과학적 사실주의 철학에 기초한 일련의 현실주의 접근방식에서 도출될 수 있는 반복적인 설명-구축 과정으로 정의되는 현실주의 평가다(Wong et al. 2012). 여기에는 "증거 합성 및 개입이 효과가 있을 수 있거나 없을 수 있는 이유에 대한 설명(프로그램 이론) 제공"으로서의 현실주의적 합성이 포함된다(Kehoe et al. 2016). 원래 Pawson과 Tilley(1997년)에 의해 제안된 현실주의적 평가의 주된 관심사는 컨텍스트-기전-결과(CMO) 구성을 통해 "무엇이, 누구에게, 어떤 상황에서, 어떻게 작동하는지"의 문제를 다루는 것이다(Dalkin et al. 2015). 메커니즘은 특정 상황에서 작동하여 관심의 결과를 생성하는 기본 실체, 프로세스 또는 구조로 볼 수 있다(Dalkin et al. 2015). 현실주의적 평가는 CMO 구성을 서로 다른 맥락에서 비교하는 데 유용하게 사용될 수 있으며, 한 선택 접근방식이 한 맥락 또는 국가에서 작동하지만 다른 상황에서는 작동하지 않는 이유에 대한 통찰력을 제공할 수 있다.

Our second example is realist evaluation, defined as an iterative explanation-building process, that might draw from a suite of realist approaches based on the philosophy of scientific realism (Wong et al. 2012). This includes realist synthesis as a “strategy for synthesizing evidence and providing explanations (program theories) on why interventions may, or may not, work” (Kehoe et al. 2016). Originally proposed by Pawson and Tilley (1997), the principal concern of realist evaluation is to address, through a context-mechanism-outcome (CMO) configuration, the question of “what works, for whom, under what circumstances, and how” (Dalkin et al. 2015). Mechanisms can be viewed as the underlying entities, processes, or structures that operate in particular contexts to generate outcomes of interest (Dalkin et al. 2015). Realist evaluation could usefully be used to compare CMO configurations in different contexts, to provide insight into why one selection approach works in one context or country, and yet may not work in another.


마지막으로 클렐런드 외 연구진(2018년)은 선발을  "고약한 문제"(리텔과 웨버 1973년)로 볼 수 있고 연구자가 선발과정의 복잡성을 인정할 수 있는 렌즈를 제공할 것을 제안한다. 그것은 단일한 모호하고elusive 객관적인 진리를 추구하는 것에서, 건강 전문가 선발에는 복잡성이 불가피하다는 것을 인식하고, 불확실성을 관리하고, 더 생산적으로 선택과 관련된 "문제"를 고려하는 것으로 사고와 행동을 전환한다. 의료선택을 "위키드"라고 표기하는 것은 단순하거나 선형적이거나 결정론적인 경우와는 다른 대응의 필요성을 예견하고, 선택의 개념화를 변화시킬 수 있는 문을 연다.

Finally, Cleland et al. (2018) propose that selection can be viewed as a “wicked problem” (Rittel and Webber 1973) and offer a lens through which researchers can acknowledge the complexity of selection processes. It shifts thinking and action from seeking one elusive, objective truth, to recognizing that complexity is inevitable in health professional selection, managing uncertainty, and questioning and considering “issues” associated with selection more productively. Labeling medical selection as “wicked” foregrounds the need for different responses than would be the case if it was simple, linear, or deterministic, and opens the door to shifting conceptualizations of selection.


마찬가지로, Jorm과 Roberts(2018)는 복잡성 모델과 관련 개념 내에서 프레임 의과대학 평가를 제안했다. 그들은 의료 교육자들이 자신의 환경에서 이러한 평가 접근법을 적용할 수 있도록 돕기 위한 sense-making 도구를 제안한다. 선발에만 사용되는 것은 아니지만, 복잡한 신경망 안에 위치한 신경 세포로서 의과대학을 은유하는 것은 의학 교육자들이 선택 과정과 그 결과의 평가에 대해 생각하는 방식을 재구성할 수 있게 해줄 수 있다.

Similarly, Jorm and Roberts (2018) have proposed framing medical school evaluations within a complexity model and associated concepts. They suggest the tool of sense-making to help medical educators apply this evaluation approach in their own settings. While not specific to selection, their metaphor of the medical school as a neuron situated within a complex neural network may enable medical educators to reframe the way they think about evaluating selection processes, and their outcomes.




요약, 향후 방향 및 권장 사항

Summary, future directions, and recommendations


선택 방법을 둘러싼 증거에 대한 우리의 이해는 현저하게 발전했다. 이는 실무에 반영된다. 현재 많은 기관이 영국, 네덜란드, 독일 및 호주와 같은 선택 절차에 더 많은 "증거 기반" 접근법을 사용하고 있다. 그러나 세계의 많은 지역에서는 이를 뒷받침하는 연구 증거가 거의 없거나 전혀 없는 선택 방법(예: 개인 진술, 참고문헌)을 주요 기준으로 계속 사용하고 있으며/또는 선행학문 달성에 의존하고 있다. 따라서, 기존의 연구 결과를 실천으로 옮기기 위해서는 더 많은 작업이 필요하며, 그러한 격차가 지속되는 이유를 이해하기 위해서는 더 많은 작업이 필요할 것으로 보인다.

Our understanding of the evidence surrounding selection methods has developed significantly. This is reflected in practice – many institutions are now using more “evidence-based” approaches in their selection procedures in for example the UK, Netherlands, Germany, and Australia. However, many parts of the world continue to use selection methods that have little or no research evidence supporting them (e.g. personal statements, references) and/or rely on prior academic attainment as the main criterion. It would, thus, seem that more work is required to translate existing research findings into practice and to understand why such a gap persists.



권고사항

Table 2. Recommendations.


1. 의료 실무자로서의 성공을 나타내는 바람직한 행동의 검증된 분류 체계를 사용하여 교육 단계에 걸쳐 맥락화되고 관련성이 있는 선발의 품질을 판단한다.

1. Use validated taxonomies of desirable behaviors that indicate success as a healthcare practitioner to judge the quality of selection, which are contextualized and relevant across stages of training



2. 선발 관행의 맥락과 내용에 차이를 고려한 다기관 고품질 데이터 세트를 사용하여 선정 관행의 타당성을 평가하기 위한 보다 정교한 연구 설계 및 방법론을 개발한다.

2. Develop more sophisticated research designs and methodologies to evaluate the validity of selection practices, using multi-site high-quality data sets that take differences in context and content of selection practices into account


3. 건강 결과와 관련된 선발 정책 및 실천을 평가하기 위해 복잡한 빅데이터 접근 방식을 사용할 때의 기회와 과제를 고려하십시오.

3. Consider the opportunities and challenges of using complex big data approaches to evaluate selection policies and practices linked to health outcomes


4. 대학의 사회적 책임 안건이 사회적 포용을 지원하고, 인력 문제를 해결하며, 환자 관점을 포함한 정부 및 기관의 정책 문제를 탐색하는 방법을 탐구한다.

4. Explore the ways in which social accountability agendas of universities support social inclusion, address workforce issues, and navigate government and institutional policy issues while including the patient perspective


5. 선발 방법은 모든 후보자에 대한 공정성과 책임성을 보장해야 한다. 다양성을 다루고 접근 범위를 넓히는 접근방식과 관련하여 서로 다른 맥락에서 유의한 차이가 있는 이유를 설명하기 위한 연구가 필요하다. 또한, 아웃리치, 전략, 준비 프로그램 및 접근 확대를 위한 다른 방법의 효과를 평가하기 위해 보다 강력한 증거가 필요하다.

5. Methods for selection must ensure fairness and accountability for all candidates. Research is required to explain why there is significant variation in differing contexts with respect to approaches to address diversity and widening access. In addition, more robust evidence is required to evaluate the effectiveness of outreach, targeting strategies, preparation programs, and other means to widening access


6. 많은 개발도상국에서 선진국으로의 높은 이민률에 영향을 미치는 선발과 채용 관행이 할 수 있는 역할을 더 잘 이해하기 위한 연구가 필요하다.

6. Research is required to better understand the role that selection and recruitment practices might play, in influencing the high migration rates of health profession graduates from many developing countries to those in the developed world


7. 대규모, 국가적으로 조정된 선택 접근법을 제정하는 기회와 과제를 서로 다른 맥락에서 선발과 채용을 위한 지역적 준비와 비교하고 대조해야 한다.

7. The opportunities and challenges of enacting large scale, nationally coordinated approaches to selection should be compared and contrasted with local arrangements for selection and recruitment in different contexts


8. 국제적으로 다양한 맥락에서 선발 프로세스, 선발 방법, 의사 결정 및 보고를 제공하는 데 필요한 인프라의 계량적 평가 및 비용-효익 분석을 사용하는 정책 계획에서 경제학자와 협력하는 것을 고려한다.

8. Consider working with economists in policy planning that uses econometric evaluation and cost–benefit analysis of the infrastructure required for delivering selection processes, selection methods, decision-making, and reporting in a range of contexts internationally


9. 지역적 상황 우선순위에 민감한 적절한 방법론을 사용하여 선택 정책과 실천의 미래 개발을 촉진하기 위해 학제간 이론 프레임워크를 사용한다.

9. Use interdisciplinary theoretical frameworks to facilitate the future development of both selection policy and practice using appropriate methodologies which are sensitive to local contextual priorities


10. 선발 연구 증거를 정책 및 실천으로 더 많이 번역할 수 있는 체계적인 접근 방식을 조사한다.

10. Investigate systematic approaches that can ensure a greater translation of selection research evidence into policies and practice


예측 타당도 연구에서 선형 회귀 기반 분석은 복잡성을 설명하지 않는다. 즉, 변수 간의 안정적이고 실증적인 관계를 가정한다. 이에 따라 방법론적 접근방식을 확대해야 한다. 여기에는 데이터 액세스 문제를 탐구하고 선택 정책을 건강 결과와 연관시키기 위해 복잡한 빅데이터 접근 방식을 사용할 기회와 과제를 고려하는 것이 포함된다(Gorman 2018).

In predictive validity studies, linear regression-based analyses do not account for complexity – they assume a stable, positivistic, relationship between variables. Accordingly, we must expand our methodological approaches. This includes exploring data access issues and considering the opportunities and challenges of using complex big data approaches to relate selection policies to health outcomes (Gorman 2018).


우리는 향후 연구를 이끌기 위해 몇 가지 주요 주제를 검토했으며, 선발 분야는

(a) 선택 방법 및 선택 철학, 정책 결정 간의 상호 작용에 더 많은 주의를 기울여야 하고. 

(b) 보다 정교한 평가 접근법 및 이론적 프레임워크를 사용해야한다. 

이를 통해서 다양성 및 인력 부족 문제를 해결하는 것뿐만 아니라 선택 방법의 가중치 부여 및 순서 지정과 같은 문제를 가장 잘 처리하는 방법에 대해 선발 관련자에게 도움이 되는 정보를 제공해야 한다.

We have reviewed several key topics to guide future research by suggesting the field should (a) pay greater attention to the interaction between selection methods and selection philosophy and policy-making and (b) use more sophisticated evaluation approaches and theoretical frameworks to better inform those involved in selection regarding how to best deal with issues such as the weighting and sequencing of selection methods as well as addressing diversity and workforce shortages.


이전의 합의된 진술과 일관되게, 양질의 진료 접근에 대한 미스매치와, 문화적으로 민감한 환자 치료에 대한 접근 사이의 세계적인 미스매치를 고려할 때 다양성은 계속해서 매우 중요한 주제다.

Consistent with the previous consensus statement, diversity continues to be a critically important topic given a global mismatch between access to quality, culturally sensitive patient care.


현재, 선발의 책임은 주로 교육 기관에 있는 반면, 채용은 고용주, 정부, 그리고 더 넓은 공동체가 공유하는 책임이다. 다양성과 참여 확대는 보건 전문 교육자가 경제학자 및 보건 정책 및 계획에 대한 전문 지식을 가진 사람들과 긴밀하게 협력할 수 있는 기회 및 선택 정책과 관행의 지역적 또는 지역적 법률적 함의를 염두에 둘 수 있는 기회를 포함하여 학제 간 연구를 위해 잘 알려진 영역이다(Greenhalgh et). al. 2004; and Robb et al. 2007; Cleland et al. 2015; Nicholson Cleland et al. 2015; Southgate et al. 2015; Alexander et al. 2017.

Currently, the responsibility of selection lies mainly on educational institutions whereas recruitment is a responsibility shared by employers, government, and the broader community. Diversity and widening participation is an area ripe for inter-disciplinary research, including opportunities for health professional educators to work closely with economists and those with expertise in health policy and planning, as well as being mindful of the local or regional legal implications of selection policies and practice (Greenhalgh et al. 2004; and Robb et al. 2007; Cleland et al. 2015; Nicholson Cleland 2015; Razack et al. 2015; Southgate et al. 2015; Alexander et al. 2017).


연구와 이용 가능한 자료의 대부분은 북유럽, 미국, 캐나다, 오스트랄라시아 등 제한된 수의 글로벌 지역에서 계속 생겨나고 있다. 아시아, 남미, 중동, 아프리카의 연구와 사례 연구는 부족하다.

the majority of research and available material continues to originate from a limited number of global regions: northern Europe, the USA, Canada, and Australasia. Research and case studies from Asia, South America, the Middle East, and Africa are lacking.


세계는 균질하지 않다(Schuwirth and van der Vleuten 2006). 이와 같이, 우리는 현재 목소리가 낮은 맥락에서 선택과 관련된 연구, 사례 연구, 평가를 위한 자원을 요청한다.

The world is variant, not homogeneous (Schuwirth and van der Vleuten 2006). As such, we make a plea for resources for research, case studies and evaluations related to selection from contexts whose voices are currently under-represented.



Cleland J, Dowell J, McLachlan J, Nicholson S, Patterson F. 2012. Identifying best practice in the selection of medical students (literature review and interview survey). London: General Medical Council.


Jorm C, Roberts C. 2018. Using complexity theory to guide medical school evaluations. Acad Med. 93:399–405.


Reiter H, Eva K. 2018. Vive la difference: the freedom and inherent responsibilities when designing and implementing multiple miniinterviews. Acad Med. 93:969–971.





 2018 Sep 25:1-11. doi: 10.1080/0142159X.2018.1498589. [Epub ahead of print]

2018 Ottawa consensus statementSelection and recruitment to the healthcare professions.

Author information

1
a Work Psychology Group, Derby United Kingdom of Great Britain and Northern Ireland, UK.
2
b Northern Clinical School, University of Sydney, Sydney, New South Wales, Australia.
3
c Department of Psychiatry, Faculty of Medicine, University of Toronto, Toronto, Ontario, Canada.
4
d Department of Biochemistry and Molecular Cell Biology, University Medical Center Hamburg-Eppendorf, Hamburg, Germany.
5
e Centre for Health Education Scholarship and Department of Medicine, University of British Columbia, Vancouver, British Columbia, Canada.
6
f Centre for Medical Education, Yong Loo Lin School of Medicine, Singapore.
7
g Department of Medical Education, College of Medicine, King Saud bin Abdulaziz University for Health Sciences, Riyadh, Saudi Arabia.
8
h Department of Medical Education, University of Illinois at Chicago, Chicago, Illinois, USA.
9
i Centre for Healthcare Research and Innovation (CHERI), University of Aberdeen, UK.

Abstract

Selection and recruitment into healthcare education and practice is a key area of interest for educators with significant developments in research, policy, and practice in recent years. This updated consensus statement, developed through a multi-stage process, examines future opportunities and challenges in selection and recruitment. There is both a gap in the literature around and a compelling case for further theoretical and empirical literature to underpin the development of overall selection philosophes and policies and their enactment. More consistent evidence has emerged regarding the quality of different selection methods. Approaches to selection are context-dependent, requiring the consideration of an institution's philosophy regarding what they are trying to achieve, the communities it purports to serve, along with the system within which they are used. Diversity and globalization issues continue to be critically important topics. Further research is required to explore differential attainment and explain why there are substantial differences in culturally acceptable ways of approaching diversity and widening access. More sophisticated evaluation approaches using multi-disciplinary theoretical frameworks are required to address the issues. Following a discussion of these areas, 10 recommendations are presented to guide future research and practice and to encourage debate between colleagues across the globe.

PMID:
 
30251906
 
DOI:
 
10.1080/0142159X.2018.1498589


+ Recent posts