ChatGPT로 논문쓰기: 학술 저자를 위한 능력, 한계, 함의 (Perspect Med Educ. 2023)
Writing with ChatGPT: An Illustration of its Capacity, Limitations & Implications for Academic Writers
LORELEI LINGARD

 

ChatGPT와 기타 인공지능(AI) 도구가 학계 전반에 경종을 울리고 있습니다. 이러한 우려의 대부분은 ChatGPT가 교육에 어떤 영향을 미칠 것인가에 집중되어 있습니다. 학생의 학습에 어떤 영향을 미칠까요? 학생들의 부정행위가 만연할까요? 전통적인 지식 평가[1]의 종말을 의미할까요? 최근 이러한 우려는 우리의 학문적 사명에도 영향을 미쳤습니다. 새로운 기술 자원일까요, 아니면 과학적 무결성에 대한 위협일까요? 어떤 용도가 적절하며, 어떻게 인정해야 할까요? 
ChatGPT and other artificial intelligence (AI) tools are raising alarm bells across academia. Much of the alarm centers on how ChatGPT will affect the educational mission. How will it affect student learning? Will it lead to rampant student cheating? Will it mean the death of traditional knowledge assessments [1]? Recently, the alarm has reached our scholarly mission as well. Is it a new technological resource, or a threat to scientific integrity? What uses are appropriate, and how should they be acknowledged?

이는 추상적인 질문이 아닙니다. ChatGPT는 이미 2023년 1월부터 사전 인쇄물 및 동료 심사를 거친 출판 논문에서 저자로 인정받고 있습니다[2]. 신뢰할 수 없는 또는 부정 사용에 대한 우려가 제기되어 왔으며[3], 현재 주요 학술지들은 이 문제에 대한 입장을 밝히고 있습니다.

  • 예를 들어, 스프링거 네이처 저널은 연구에 대한 책임을 질 수 없기 때문에 ChatGPT는 공동 저자가 될 수 없다고 선언했으며, 연구자가 방법 또는 감사의 말 섹션에 ChatGPT를 사용한 사실을 문서화할 것을 요구하고 있습니다[4].
  • Academic Medicine에서는 저자가 학술 연구에서 AI 도구의 사용을 공개하고, 그 사용의 성격을 투명하게 설명하며, 정확성과 무결성에 영향을 미치는 제한 사항을 인식하도록 안내합니다[5].
  • 의료 교육, 연구 및 실무 분야의 최근 체계적 검토에서는 ChatGPT의 가능성을 인정하면서도 "윤리적, 저작권, 투명성 및 법적 문제, 편견의 위험, 표절, 독창성 부족, 환각의 위험이 있는 부정확한 콘텐츠, 제한된 지식, 잘못된 인용, 사이버 보안 문제, 인포데믹의 위험"을 고려하여 "극도로 신중하게" 도입해야 한다는 결론을 내렸습니다. [6]. 

These are not abstract questions. ChatGPT has already been credited with authorship in preprints and peer-reviewed published articles since January 2023 [2]. Concerns have been raised about its uncredited or fraudulent use [3], and major journals are now declaring their positions on the issue.

  • For instance, the Springer Nature journals have declared that ChatGPT cannot be a co-author because it cannot take responsibility for the work, and they require that researchers document any use of ChatGPT in their Methods or Acknowledgements sections [4].
  • Academic Medicine guides authors to disclose the use of AI tools in scholarship, describe transparently the nature of that use, and be aware of limitations that affect accuracy and integrity [5].
  • A recent systematic review in the domain of healthcare education, research and practice acknowledged ChatGPT’s promise but concluded that it should be embraced with “extreme caution” considering concerns with “ethical, copyright, transparency, and legal issues, the risk of bias, plagiarism, lack of originality, inaccurate content with risk of hallucination, limited knowledge, incorrect citations, cybersecurity issues, and risk of infodemics.” [6].

우리는 이미 연구와 글쓰기를 지원하기 위해 테크놀로지를 사용하고 있습니다. 데이터 분석을 관리하기 위한 SPSS나 NVivo, 인용을 정리하기 위한 Reference Manager, 철자와 문법을 교정하기 위한 Grammarly 편집 소프트웨어가 없다면 어떻게 될지 상상해 보십시오. 이 작가의 기술에서는 작가들이 ChatGPT에 익숙해져서 효과적이고 적절하게 사용할 수 있도록 하는 것을 목표로 합니다. 2023년 3월과 4월에 ChatGPT4와 나눈 채팅을 바탕으로 그 기능과 한계를 설명하고, 일련의 주의 사항과 인사이트를 추출하여 점진적 프롬프트를 사용하여 소프트웨어를 '훈련'하는 방법, 브레인스토밍과 개요 및 요약과 같은 콘텐츠 생성에 사용하는 방법, 편집자로 활용하는 방법을 안내해 드립니다. 
We already use technology to assist our research and writing. Imagine how you’d function without SPSS or NVivo to manage your data analysis, Reference Manager to organize your citations, or Grammarly editing software to correct your spelling and grammar. This Writer’s Craft aims to familiarize writers with ChatGPT so that they might use it effectively and appropriately. Drawing on chats I had with ChatGPT4 in March and April 2023 to illustrate its capacity and its limitations, I extract a series of Cautions and Insights and guide writers in how to use incremental prompting to ‘train’ the software, how to use it for brainstorming and generating content like outlines and summaries, and how to employ it as an editor.

ChatGPT란 정확히 무엇인가요?
What is ChatGPT, exactly?

ChatGPT는 AI 대규모 언어 모델입니다. 현재 버전(3.5 및 4.0)은 2021년 이전에 방대한 양의 데이터로 사전 학습되어 언어 패턴과 연관성을 학습하여 프롬프트가 표시될 때 사람과 유사한 대화 텍스트를 생성하는 데 사용할 수 있습니다. ChatGPT에 프롬프트를 입력하면 입력 내용을 분석하고 인터넷 사용 시 머신 러닝을 통해 얻은 정보를 바탕으로 신속하게 응답을 생성합니다. 이 기술은 사람과 유사한 텍스트로 정보를 처리하고 추출하여 구두로 표현하는 데 탁월하며[7], 특히 시간 제약과 기타 리소스 제한을 고려할 때[8] 글쓰기 노동의 일부를 아웃소싱할 수 있다면 학술 저술가에게 중요한 자산이 될 가능성이 있습니다. 
ChatGPT is an AI large language model. Current versions (3.5 and 4.0) have been pre-trained on massive amounts of data pre-2021, allowing it to learn language patterns and associations which it uses to generate human-like conversational text when prompted. When you input a prompt into ChatGPT, it analyzes the input and rapidly generates a response drawn from information acquired via machine learning in engagement with the internet. It excels at processing, distilling and presenting information verbally in human-like text [7]; it has the potential, therefore, to be an important asset for academic writers, particularly if we can outsource some of the labor of writing [8] given time constraints and other resource limitations.

ChatGPT는 문법적으로 정확하고 의미적으로 의미 있는 응답을 생성합니다. 하지만 항상 정확한 것은 아닙니다. AI 대규모 언어 모델에는 일반적인 의미의 '지식'이 없고, 데이터를 저장하거나 검색하지 않으며, 검색 엔진처럼 웹을 크롤링하여 정보를 찾지 않기 때문입니다. 그들은 학습한 내용을 바탕으로 "시퀀스에서 다음 단어를 예측하는 데 능숙할 뿐"[9]입니다. 따라서 ChatGPT는 "사실 정확도가 고르지 못하며"[10], 텍스트의 내용이 진실하고, 견고하며, 검증 가능하고, 유효하며, 일반화 가능한지 확인하려고 하지 않습니다. [11]. 머신 러닝 용어로 "환각"을 일으켜 실제가 아닌 것처럼 보이는 자료를 자신 있게 제시할 수 있습니다[12]. 
ChatGPT generates responses that are grammatically correct and semantically meaningful. They are not, however, always accurate. This is because AI large language models don’t have ‘knowledge’ in the usual sense of the word; they don’t store or retrieve data; they don’t crawl the web like a search engine for information. They are “just good at predicting the next word(s) in a sequence” [9] based on what they have learned. Thus, ChatGPT has “uneven factual accuracy” [10]; moreover, it does not try to ensure that the content of its text is true, robust, verifiably, valid, generalizable, etc. [11]. In machine learning terms, it can “hallucinate”, confidently presenting legitimate-sounding material that it is not real [12].

점진적 프롬프트를 통한 ChatGPT 훈련
Training ChatGPT through incremental prompting

ChatGPT의 기본값은 일반적이고 설명적인 응답을 제공하는 것입니다. 점진적 프롬프트는 점차적으로 주의를 집중시키고 사용자의 관심사와 이해 수준에 맞는 응답을 제공하도록 훈련시키는 프로세스입니다. 아래 질문과 같은 일반적인 프롬프트가 시작점으로 좋습니다: 
ChatGPT’s default is to offer generic and descriptive responses. Incremental prompting is the process by which you gradually focus its attention and train it to give you responses tailored to your interests and your level of understanding. General prompts are fine as a starting point, such as my question below:

 

능동태와 피동태에 대한 설명이 이어지지만, 제가 실제로 관심을 갖고 있는 부분은 아닙니다. 저는 좀 더 구체적인 답변을 얻고자 제 이야기를 해보려고 합니다.

lf:It goes on to explain active and passive voice, but that’s not really what I’m interested in. I try to get a more specific answer by telling it about myself:

 

스타일과 어조에 대해 이야기하고 대명사의 예가 더 구체적이라는 점에서 다소 나아졌습니다. 하지만 여전히 제가 원하는 것보다 더 일반적입니다. 제가 요청합니다:

That’s somewhat better: it’s talking about style and tone, and the example of pronouns is more specific. But it is still more generic than I would like. I ask it to:

 
 

이 답변은 학술적 글쓰기에서 목소리에 대해 이야기하기 위해 좀 더 형식적인 언어적 특징을 사용하며, 딕시스, 양식 및 일관성에 대한 예를 제시합니다. 그러나 학자들이 학술적 목소리에 대해 이야기할 때 이러한 특징이 주된 관심사는 아닙니다. 그래서 다음 질문은 학술적 목소리의 저명한 언어학자에 대해 묻고 있습니다:

This response employs more formal linguistic features to talk about voice in academic writing, and offers illustrations of deixis, modality, and coherence. However, these aren’t the primary features that scholars are concerned with when they talk about academic voice. So my next prompt asks about a prominent linguistic scholar of academic voice:

 

Hyland의 이론은 세 가지 주요 구성 요소로 이루어져 있으며, 그 중 하나만 명시적으로 응답("입장")에 표현되어 있습니다. 다음 점진적 프롬프트는 이를 더욱 집중적으로 다루려고 합니다:

This is accurate, but still generic and selective: Hyland’s theory has three main components, only one of which is explicitly represented in its response (“stance”). My next incremental prompt tries to focus it further:

 

이제 ChatGPT는 Hyland의 이론에 대한 360단어 설명과 함께 세 가지 구성 요소에 대한 유용한 예시를 몇 초 만에 제공할 수 있게 되었습니다. 하지만 이제 궁금한 점이 생겼습니다. 제가 프롬프트에서 Hyland에 집중하느라 음성 관련 다른 언어 이론에 대해 알려주지 않은 것은 무엇일까요? 그래서 묻습니다:

ChatGPT is now able, in a few seconds, to offer a 360-word description of Hyland’s theory with helpful, illustrative examples of its three components. But now, I wonder, what other linguistic theories of voice did it not tell me about, due to my focusing in on Hyland in my prompting? So I ask:

 

이제 ChatGPT는 음성에 대한 네 가지 중요한 이론을 설명하며, 점진적인 프롬프트를 통해 더 자세히 살펴볼 수 있습니다. 또한 이러한 이론을 비교하거나 이론 간의 긴장을 설명하거나 더 최근의 이론가들이 이러한 이론을 어떻게 구축했는지 제안하도록 요청할 수도 있습니다. 이 정도의 구체성에 도달하면 ChatGPT는 여러분이 직접 읽고 쓸 때 추구해야 할 아이디어 간의 연결점을 지적하는 데 매우 유용할 수 있습니다. 
Now ChatGPT describes four important theories of voice, which I could probe further with incremental prompting. I could also ask it to compare these theories, or to describe tensions among them, or to suggest how more recent theorists have built on them. Once you get to this level of specificity, ChatGPT can be very helpful in pointing out connections among ideas for you to pursue in your own reading and writing.

이 대화에서 알 수 있듯이 점진적 프롬프트는 ChatGPT의 응답 가치를 극대화하는 데 핵심적인 역할을 합니다. 그러나 효과적인 증분 프롬프트를 사용하려면 도메인에 대한 지식이 필요합니다. 도메인을 이미 잘 알고 있어야 ChatGPT의 응답이 얼마나 정확하고 선택적이거나 포괄적인지 판단하고 후속 프롬프트를 사용하여 응답을 개선할 수 있습니다. 잘 모르는 도메인에 대해 질문하면 ChatGPT가 어떤 정보를 선택했는지, 왜 어떤 것을 선택했는지, 왜 다른 것을 선택하지 않았는지 불분명합니다. 
As this conversation illustrates, incremental prompting is a key to maximizing the value of ChatGPT’s responses. But effective incremental prompting requires domain-specific knowledge: you need to know the domain quite well already, so that you can judge the extent to which ChatGPT’s response is accurate, selective or comprehensive, and use follow up prompts to improve it. If you ask it about domains you don’t know well, it will be unclear what information ChatGPT has selected from, and why it has selected some things and not others.

마지막으로 '학습' ChatGPT에 대해 한 가지 더 말씀드리자면, 학습한 내용이 현재 채팅을 넘어 일관되게 전달되지 않는 것 같습니다. 별도의 채팅을 열고 "켄 하일랜드의 학문적 음성 이론에 대해 무엇을 이해하나요?"라고 다시 질문했을 때, 첫 번째 응답은 이 모델의 세 가지 특징을 모두 설명하는 것으로 이전 채팅에서 학습한 내용이 전달되는 것처럼 보였습니다. 하지만 다음 섹션에서 설명하겠지만 항상 그런 것은 아닙니다.
One final point about ‘training’ ChatGPT: what it learns does not appear to consistently transfer beyond the current chat. When I opened a separate chat and asked again “What do you understand about Ken Hyland’s theory of academic voice in writing”, the first response included described all three features of this model: that seemed to represent learning transferred from the previous chat. But this is not always the case, as I will discuss in the next section.

주의: ChatGPT의 기본 응답은 일반적이면서도 (눈에 보이지 않게) 선택적인 응답을 제공합니다.
인사이트: 점진적 프롬프트는 구체성을 높이고, 선택을 안내하며, 제외 항목을 표시할 수 있습니다.

Caution:
 ChatGPT’s default responses are both generic and (invisibly) selective.

Insight: Incremental prompting can increase specificity, guide selections & reveal exclusions.

브레인스토밍을 위한 ChatGPT 사용
Using ChatGPT for brainstorming

ChatGPT는 다른 기능보다 몇 가지 기능이 더 뛰어납니다. 가장 큰 차이점은 콘텐츠 생성과 구조적 지원입니다. 콘텐츠 생성의 경우, 앞서 학술적 글쓰기 음성에 대한 대화에서 설명한 것처럼 ChatGPT가 제공하는 콘텐츠의 품질을 판단하려면 콘텐츠를 잘 알고 있어야 합니다. 소프트웨어가 잘하는 것으로 확인된 콘텐츠 생성의 한 가지 형태는 개요 생성입니다[13]. 저는 이 작가의 기술에 대한 개요를 제공하기를 원했기 때문에 작가의 기술 장르에 대해 무엇을 알고 있는지 물어보는 것부터 시작했습니다: 

ChatGPT is better at some things than others. The main distinction is between content generation and structural support. In terms of content generation, as the previous conversation about academic writing voice illustrated, you need to know the content well to judge the quality of what ChatGPT is giving you. One form of content generation that the software has been identified to be good at is the creation of outlines [13]. I wanted it to provide an outline for this Writer’s Craft for me, so I began by asking what it knew about the Writer’s Craft genre:

 

여기서 멈추세요. '작가의 기술'은 일련의 책이 아니며, 저는 이런 제목의 책을 쓴 적이 없습니다. 이 예에서 알 수 있듯이 점진적 프롬프트의 각 단계에서 잘못된 응답을 경계해야 합니다. ChatGPT는 두뇌가 아닌 텍스트 생성기입니다. 질문한 주제와 관련하여 함께 찾을 수 있는 단어를 조합하는 것입니다. 그렇다고 해서 이 단어들이 서로 '속한다'거나 '진실'이라는 의미는 아닙니다. 사실 ChatGPT는 헛소리를 만들어내는 것을 즐기는 것 같습니다. 이 서비스가 제공하는 참고 자료를 절대 신뢰할 수 없습니다. 2021년 이후의 자료에 접근할 수 없기 때문만이 아니라, 작가의 기술 시리즈는 2015년까지 거슬러 올라가는데, 이를 알지도 못하고 찾으려고 하지도 않는 것 같습니다. 대신 "환각"을 일으켜 책 시리즈를 구성합니다. 다행히도 "생성 중지" 버튼을 누르면 이 작업을 중단할 수 있습니다. 그런 다음 수정했습니다: 

Stop right there: the Writer’s Craft is not a series of books, and I have never written books with these titles. As this illustrates, at each stage of the incremental prompting, you should be alert for false responses. ChatGPT is a text generator, not a brain: it is putting together words that are likely to be found together around the topic you’ve asked about. That doesn’t mean these words ‘belong’ together or that they are ‘true’. In fact, ChatGPT seems to enjoy making sh*t up. You absolutely cannot trust the references it gives you. And not only because it doesn’t have access to material post-2021; the Writer’s Craft series extends back to 2015, but it doesn’t know them and apparently doesn’t try to find them. Instead, it “hallucinates”, making up a book series. Happily, you can stop it in its tracks when it does this, by hitting the “Stop Generating” button, which I did. Then I corrected it:

 

이 답변 역시 프롬프트에서 말씀드린 내용을 대부분 반복하는 것이기 때문에, 집중해서 작가의 기술 시리즈 제목을 물어봄으로써 구체적인 내용을 파악하려고 노력했습니다: 

This answer too, is mostly repetition of what I told it in the prompt, so I try to focus it down and get specifics by asking for the titles of the Writer’s Craft series:

 

문제는 이러한 제목이 실제 제목이 아니라 지어낸 제목이라는 것입니다. 특정 참고 문헌을 제공하라는 메시지가 표시되면 종종 이를 만들어내는 경우가 많다는 점이 ChatGPT의 주요 약점 중 하나입니다[14]. 이러한 발명품은 단어 연관성을 기반으로 하기 때문에 키워드와 공동 저자의 현실적인 조합을 갖게 됩니다. 하지만 가짜가 아닐 가능성도 그만큼 높습니다. 이 문제를 해결하기 위해 웹에 대한 ChatGPT의 액세스를 개선하거나 Google Scholar 참조로 제한하는 확장 프로그램과 같은 기술이 등장하고 있지만, 그 효과에 대한 보고는 다양합니다[15]. 
The problem is, these aren’t real titles: they’re made up. This is one of ChatGPT’s main weaknesses: when you prompt it to provide specific references, it often invents them [14]. Because these inventions are based on word associations, they will have realistic combinations of keywords and coauthors. But they are as likely as not to be bogus. Techniques for addressing this problem are emerging, such as extensions that improve ChatGPT’s access to the Web or restrict it to Google Scholar references; however, reports of their effectiveness vary [15].

주의: ChatGPT는 사용자에게 거짓말을 할 수 있으며, 이러한 현상은 AI 환각으로 알려져 있습니다.
인사이트: 생성하는 모든 콘텐츠, 특히 참고 문헌을 다시 한 번 확인하세요.
Caution:
 ChatGPT will lie to you, a phenomenon known as an AI hallucination.

Insight: Double check any content it generates, particularly references.

하지만 ChatGPT는 제목에 있어서는 다소 창의적이라고 말할 수 있습니다. 예를 들어, 저는 이 가짜 작가의 기술이라는 제목을 썼으면 좋았을 것 같습니다: "링가드 L. 나를 설득하라: 논증의 기술. 의학 교육에 대한 관점. 2013; 2(2): 75-78." 이는 소프트웨어를 효과적으로 사용하는 한 가지 방법이 제목 제안을 요청하는 것임을 시사합니다. 실험으로, 저는 최근 '독자를 위한 글쓰기'라는 제목을 붙인 '작가의 기술'의 도입 단락을 제공했습니다: 독자를 위한 글쓰기: 독자의 기대 원칙을 사용하여 명확성 극대화하기"라는 제목을 붙인 글의 도입부를 제공하고 가능한 제목을 물어보았습니다:

I will say, though, that ChatGPT is rather creative when it comes to titles. I wish, for instance, that I had written this fake Writer’s Craft: “Lingard L. Convince me: the art of argumentation. Perspectives on Medical Education. 2013; 2(2): 75–78.” This suggests that one way to use the software effectively would be to ask it for title suggestions. As an experiment, I give it the introductory paragraphs from a recent Writer’s Craft (that I had entitled “Writing for the Reader: Using Reader Expectation Principles to Maximize Clarity) and I ask it for possible titles:

 

저는 특히 1번과 6번을 좋아하는데, 만약 제가 새 제목을 쓴다면 이 중 몇 가지를 조합해서 쓸 것 같습니다. 
Some of these are pretty good: I especially like 1 and 6, and if I were going to write a new title it would likely combine pieces of these favorites.

ChatGPT에서 이 작가의 기술에 대한 개요를 작성하기 위해 ChatGPT를 사용했던 시도로 돌아가 보겠습니다. 
Back to my attempt to get ChatGPT to create an outline for this Writer’s Craft on ChatGPT.

실제 작가 크래프트 작품에 익숙해지도록 하려고 했지만 잘 안 되더군요. 
I tried to get it to familiarize itself with actual Writer’s Craft pieces, but it resisted.

 

처음에는 능력과 시간(!)이 있는 것은 분명한데 실제로 시리즈 전체를 읽는 것을 거부하는 것이 당황스러웠습니다. 아마도 모든 참조를 제공하면 더 잘 반응 할 것입니다. 하지만 여기서는 다시 일반론으로 돌아갑니다: "이 시리즈는 약 20개의 아티클로 구성되어 있으며, 각 아티클은 학술적 글쓰기의 다른 측면에 초점을 맞출 것입니다...", "이 시리즈는 연구자들이 학술적 글쓰기에 사용할 수 있는 실용적인 조언과 전략을 제공할 것입니다..." 등등. 지금까지는 ChatGPT가 실제로 제가 예시로 제공한 특정 글쓰기를 포함하여 작가의 기술 중 어느 것도 읽지 않았다는 확신을 가질 수 없었습니다. 하지만 ChatGPT는 읽거나 분석하는 것이 아니라 언어 패턴을 인식하는 것뿐이라는 것을 기억합니다. 그래서 다시 묻습니다: 

At first I’m puzzled that it resists actually reading the entire series, as it surely does have the ability and the time (!). Perhaps if I gave it all the references it would respond better. Here though, it reverts again to generalities: “The series consists of approximately 20 articles, each of which likely focuses on a different aspect of academic writing…”; The series likely provides practical advice and strategies for researchers to use in their academic writing…”, and so on. So far, I can’t have confidence that ChatGPT has actually read any of the Writer’s Crafts, even the specific one that I provided as an example. But then I remember that ChatGPT is neither reading nor analyzing – it’s just recognizing language patterns. Thus, I prompt again:

 

점점 가까워지고 있습니다. ChatGPT가 이 작가의 기술의 주요 구조를 파악했다는 것을 알 수 있을 정도로 충분한 디테일이 있습니다. 하지만 제 자신의 기존 지식이 얼마나 중요한지 주목하세요: 저는 이 기사를 잘 알고 있기 때문에(제가 작성했습니다!) ChatGPT가 일반적인 내용을 말하는 경우와 제가 지시한 기사에 대해 실제로 이야기하는 경우를 쉽게 구분할 수 있었습니다. 
That’s getting closer. There is sufficient detail that I can tell ChatGPT has picked up the main structure of this Writer’s Craft. Notice though, how important my own existing knowledge is: I know this article well (I wrote it!) and so I have been able to readily discern when ChatGPT is spouting generic stuff and when it is actually talking about the article(s) I’ve directed it to.

주의: ChatGPT에 의존해 기사를 읽지 마세요.
인사이트: 낯선 도메인보다는 익숙한 도메인과 관련하여 ChatGPT를 사용하세요.
Caution:
 Don’t rely on ChatGPT to read articles for you.

Insight: Use ChatGPT in relation to familiar domains rather than unfamiliar ones.

 

이제 (마침내) 특정 글쓰기 기술의 특징을 인식하도록 만들었으니 원래의 목표, 즉 이 글의 개요를 브레인스토밍하는 데 ChatGPT를 사용하도록 하는 것에 도달할 수 있게 되었습니다: 
Now that I’ve (finally) gotten it to recognize the features of a specific Writer’s Craft, I can get to my original aim: getting ChatGPT to brainstorm an outline for this paper:

 
 

이것은 유용합니다. 물론 제가 가르쳤던 '작가의 기술'의 형식과 정확히 일치하는 것은 아니며, 다소 일반적인 구조로 되돌아갔습니다. 그리고 제가 실제로 이 글을 어떻게 구성하기로 결정했는지는 (눈치 채셨을 것입니다) 아닙니다. 그러나 필요한 섹션 중 일부를 개념화하는 데 도움이됩니다. 그리고 초안 작성 과정에서 다시 돌아가서 제가 무엇을 강조하고 간과했는지 확인하는 데 유용했습니다. 
This is useful. Admittedly, it’s not precisely the format from the Writer’s Craft I trained it on: it has reverted to a somewhat more generic structure. And it is not (you will have noticed) how I actually decided to organize this piece. It does, however, help me conceptualize some of the necessary sections. And it was useful to return to during the drafting process, to see what I was emphasizing and overlooking.

점진적인 프롬프트를 통해 ChatGPT를 이 단계까지 끌어올리면 모든 종류의 브레인스토밍을 할 수 있는 정점에 도달한 것입니다. 각 섹션을 완성하는 데 도움이 되는 몇 가지 구체적인 정보가 필요하다고 가정해 봅시다:

Once you get ChatGPT to this point through incremental prompting, you’re on the cusp of all kinds of brainstorming bounty. Let’s say you want some specifics to help you flush out each section:

 
Insight: If you dread the blank page, a ChatGPT outline could jumpstart your drafting process.
Caution: Its ideas are generic; use them as a starting place, not a replacement for your own.

글의 깊이를 더하기 위해 몇 가지 추가 아이디어를 짜는 데 도움이 필요하다면 어떻게 해야 할까요? 가능한 한 구체적으로 말씀해 주세요: 

What if you wanted help weaving in some additional ideas, to deepen the piece of writing? Just ask, remembering to be as specific as you can be:

 

이것들은 모두 관련성이 있는 요점들이며, 각각에 대한 이해를 마무리하기 위해 Google Scholar에 입력할 수 있는 검색어를 제공합니다. 
These are all relevant points, and they provide me with search terms I could input into Google Scholar to round out my understanding of each.

위의 채팅에서 볼 수 있듯이 ChatGPT를 사용하여 견고한 윤곽을 만들 수 있습니다. 글을 쓸 장르에 대해 훈련하고 다룰 주제 영역에 대한 지식을 판단해야 하지만, 이러한 단계를 수행한 후에는 순서, 섹션, 강조점이 다른 일련의 개요를 빠르게 요청할 수 있습니다. 이렇게 하면 원고에 접근하는 다양한 방법을 상상해보고 가장 적합한 방법을 선택하여 초안을 작성하는 데 도움이 됩니다. 
As my chat above illustrates, ChatGPT can be used to create solid outlines. You need to train it on the genre you’re going to write in and you need to judge its knowledge about the subject areas you’ll cover, but once you’ve taken those steps you can quickly request a series of outlines with different orders, sections, emphases. This can help you imagine different ways of approaching the manuscript: choose the best one, and start drafting.

ChatGPT는 일단 올바른 방향으로 안내를 받으면 빠르게 진행되지만(전체 채팅은 10분도 채 걸리지 않았습니다), 이러한 훈련 노력이 새로운 채팅으로 이어지지는 않습니다. 시스템은 모든 채팅 로그를 저장합니다. 사이드바에서 채팅 로그를 보고 다시 돌아가서 액세스할 수 있지만, 이는 개별적인 개체입니다. "컨텍스트 메모리는 현재 대화에만 적용됩니다. ChatGPT의 상태 비저장 아키텍처는 대화를 독립적인 인스턴스로 취급하기 때문에 이전 대화의 정보를 참조할 수 없습니다. 새 채팅을 시작하면 항상 모델의 상태가 초기화됩니다."[16]. 이 사실을 모르고 며칠 후 새 채팅을 시작하고 "연구자들의 학술적 글쓰기 향상을 돕기 위해 로렐라이 링가드가 (주로) 쓴 '작가의 기술' 시리즈에 대해 아는 것을 말해 주세요"라고 다시 물었더니 제가 쓴 적도 없는 책 5권에 대해 또다시 대답을 들었습니다. 저장된 채팅 로그로 돌아가서 중단한 부분부터 다시 프롬프트를 받았을 때 결과는 더 나아졌지만 일관성이 없었는데, 이는 ChatGPT의 문맥 기억의 한계 때문이거나 "관련성이 없다고 판단되는 지시를 삭제하는"[16] 경향으로 인해 "문맥을 깨뜨리는" 경향 때문일 수 있습니다. 
ChatGPT is fast once you get it pointed in the right direction (this whole chat took less than 10 minutes), but that training effort doesn’t transfer to new chats. The system saves all your chatlogs: you can see them on the sidebar and go back and access them, but they are discrete entities. “Contextual memory only applies to your current conversation. ChatGPT’s stateless architecture treats conversations as independent instances; it can’t reference information from previous ones. Starting new chats always resets the model’s state” [16]. Not knowing this, a few days later I started a new chat and asked it again “Tell me what you know about the Writer’s Craft series written (predominantly) by Lorelei Lingard to help researchers improve their academic writing”, only to be told again about 5 books I had never written. When I went back into saved chat logs and picked up my prompting where I’d left off, the result was better but not consistently so, which may be due either to limits on ChatGPT’s contextual memory or to its tendency to “break character” due to “dropping instructions it deems irrelevant” [16].

주의: ChatGPT는 여러 채팅에서 수행한 훈련을 전송하지 않습니다.
인사이트: 저장된 채팅 로그로 돌아가서 이전 프롬프트를 통해 수행한 훈련을 바탕으로 학습할 수 있을 것입니다.
Caution:
 ChatGPT doesn’t transfer the training you’ve done across chats.

Insight: Try returning to saved chat logs; you may be able to build on the training you’ve done through previous prompting.

반론, 요약 및 요약 생성하기
Generating counterarguments, summaries, and abstracts

콘텐츠 생성에 ChatGPT를 사용하는 유용한 방법은 개요뿐이 아닙니다. 또한 주장의 한 부분을 검토하고 반론을 제안하도록 요청할 수도 있습니다. 사용하는 ChatGPT 버전이 중요하다는 점을 명심하세요. 무료 ChatGPT 3.5는 읽고 응답할 수 있는 단어가 약 500단어로 제한되어 있으므로 전체 결과 또는 토론 섹션을 입력하면 이 오류 메시지가 표시됩니다: 
Outlines are not the only useful way to use ChatGPT for content generation. You can also ask it to review a section of your argument and suggest counter arguments. Keep in mind that the version of ChatGPT you use matters. The free ChatGPT 3.5 has a limit of about 500 words on what it can read and respond to, so if you input your whole results or discussion section you’ll get this error message:

 

유료 버전인 ChatGPTPlus는 한 번에 최대 25,000단어까지 처리할 수 있지만, 읽고 응답할 수 있는 단락을 몇 개 이상 입력하려고 하면 여전히 오류 메시지가 표시됩니다. 따라서 초안을 작성하는 동안 섹션에 대한 대략적인 요약을 제공하고 반론을 요청하는 것이 더 낫다고 생각합니다. 이 프롬프트에서는 현재 작업 중인 논문 결과의 요점을 요약하고, 그 결과를 바탕으로 제가 주장하고자 하는 바를 ChatGPT에 말한 다음 반론을 제시해 달라고 요청합니다: 
ChatGPTPlus (the paid version) is supposed to handle up to 25,000 words at a time, but I still received the error message when I tried to input more than a few paragraphs for it to read and respond to. Therefore, I think it’s better to give it a rough summary of a section (say, while you’re still drafting it) and ask it for counterarguments. In this prompt I summarize the gist of the results of a paper I’m currently working on, tell ChatGPT what I want to argue based on those results, and ask it to suggest counterarguments:

 

약 3초 만에 (얼마나 빨리 작동하는지 아직도 숨이 멎을 정도입니다) ChatGPT는 이를 제공합니다:

In about 3 seconds (it still leaves me breathless how quickly it works), ChatGPT offers this:

 

이 정도면 충분했습니다: 토론의 '반론' 섹션을 쉽게 작성할 수 있습니다. 이러한 아이디어 중 일부를 완전히 이해하지 못했거나 더 구체적인 내용을 원할 경우, 추가 질문을 통해 답변에 집중할 수 있습니다. 
This is enough to get my wheels turning: I could readily start writing a ‘counterargument’ section of my discussion. If I don’t understand fully some of these ideas or I want more specificity, further prompting would focus these responses.

통찰력: ChatGPT는 좋은 브레인스토밍 리소스가 될 수 있습니다.
주의: 하지만 그 제안을 맹목적으로 받아들이지 마세요. 여러분은 인공지능보다 더 똑똑합니다(적어도 현재 형태에서는).
Insight:
 ChatGPT can be a good brainstorming resource.

Caution: But don’t accept its suggestions blindly. You are smarter than it is (at least in its current form).


ChatGPT와 같은 AI 도구는 더 많은 청중이 더 쉽게 접근하고 포용할 수 있는 글을 작성하는 데에도 도움이 될 수 있습니다. 예를 들어, 최근 지원금 신청서의 첫 문단을 주고 100단어로 된 일반인용 요약문을 작성해 달라고 요청했더니 응답이 왔습니다: 

AI tools like ChatGPT can also help you to make your writing more accessible and inclusive of a wider audience. For instance, I gave it the opening paragraphs of a recent grant application and asked it to generate a 100-word lay summary, to which it responded:

 

이는 여전히 다소 형식적인 표현으로, 처음 프롬프트에서 '평이한 요약'의 의미가 자명하지 않은 것 같아서 더 자세히 설명했습니다: 

This was still a bit formal, suggesting that the meaning of ‘lay summary’ was perhaps not self-evident in my initial prompt, so I prompted it further:

 

이제 수정할 수 있는 초안이 완성되었으니, 예를 들어 '과학적 무결성'과 같이 삭제된 키워드 몇 개를 다시 넣을 수 있을 것입니다. 하지만 실행 가능한 초안이 있었기 때문에 최소 30분의 작업 시간을 절약할 수 있었습니다. 
This is an acceptable first draft that I can now rework; for instance, I would probably reinstate a few of the keywords (like “scientific integrity”) that were removed. But having a workable draft to start from has probably saved me at least 30 minutes of work.


초록은 ChatGPT가 도움을 줄 수 있는 또 다른 글쓰기 노동입니다. 프롬프트에 입력할 수 있는 단어가 제한되어 있어 논문 전체를 읽을 수 없기 때문에 첫 번째 초록 초안을 작성하는 데는 도움이 되지 않습니다. 하지만 항상 너무 긴 초록의 첫 초안을 필요한 단어 수 제한으로 줄이는 데는 도움이 될 수 있습니다. 이는 대부분의 사람들이 기꺼이 아웃소싱할 수 있는 노동력입니다: 저는 아직 초록의 단어 수를 줄이는 작업(과 시간!)을 소중히 여기는 작가를 만나지 못했습니다. 하지만 인공지능에게 완벽하게 적합한 것처럼 보이는 이 작업도 전적으로 신뢰할 수는 없습니다. 
Abstracts are another piece of writing labor that ChatGPT can help with. It can’t help you with your first abstract draft, because it can’t read your entire paper due to limits on the words you can enter in a prompt. But it can help you take your abstract’s first draft, which is invariably too long, and reduce it to the required word limit. This is labor most of us would be happy to outsource: I have yet to meet a writer who cherishes the task (and time!) of whittling words from their abstract. But even with this task which seems perfectly suited to AI, you can’t entirely trust it.

예를 들어, 제가 제공한 구조화된 초록에서 27개의 단어를 제거해 달라고 요청하면서 내용 그대로를 최대한 적게 다시 작성해 달라고 덧붙였습니다. 그 결과 약 100단어 길이의 비정형 버전이 만들어졌습니다. 저는 응답했습니다: 

As illustration, I asked it to remove 27 words from a structured abstract which I provided, adding that I wanted it to rewrite as little as possible as I liked the content as it was. It produced an unstructured version about 100 words long. I responded:

 

이제 구조화된 초록이 반환되었지만 여전히 제가 요청한 것보다 훨씬 짧았습니다. 이번에는 단어 수를 빼는 수학적 작업을 요청하지 않고 응답에 대한 단어 수 제한(300개)을 설정하여 다시 요청했습니다(약간 짜증이 났음을 고백합니다): 
Now it returned a structured abstract, but still much shorter than I had requested. I prompted again (I confess, a bit irritated), this time not asking it to do the mathematical task of subtracting the number of words, but setting a word limit (300) for its response:

 
 


이해하는 것 같지만 다음 버전도 300 단어가 아니 었습니다 (예, 이때까지 단어 수를 확인하기 위해 모든 시도를 Word 문서에 복사하여 붙여 넣었습니다): 

It seems like it understands, but the next version wasn’t 300 words either (yes, by this time I was copying and pasting all the attempts into a Word document to check the word count):

 

마지막으로 성공: 최종 버전은 310단어였습니다(이 중 10개가 구조화된 제목이었으므로 ChatGPT에 점수를 주겠습니다).
Finally, success: the last version was 310 words (we’ll give ChatGPT the point, because 10 of those were the structured headings). 

인사이트: ChatGPT는 분명히 셀 수 없습니다.
주의: 구체적인 작업을 수행하더라도 실패에 주의해야 합니다.
Insight:
 ChatGPT apparently can’t count.

Caution: Even with concrete tasks, be alert for failure.

물론 수학 문제를 풀도록 요청하면 ChatGPT는 계산할 수 있습니다. 하지만 정확한 단어 개수를 세는 것은 분명 장점은 아닙니다. 그럼에도 불구하고 ChatGPT는 기존 초록을 새로운 목적에 맞게 재구성하는 데 여전히 유용합니다. 250단어로 구성된 구조화된 컨퍼런스 초록이 있는데, 100단어로 구성된 비정형 초록이 필요한 다른 컨퍼런스에 제출하고 싶다고 가정해 보겠습니다:
ChatGPT can count, of course: if you ask it to solve math problems, it can do so. But exact word counts clearly aren’t its forte. Nevertheless, ChatGPT is still useful for reformatting existing abstracts for new purposes. I have a structured conference abstract of 250 words, which I want to submit to another conference that requires unstructured, 100-word abstracts:

 

아직 정확하게 계산하지는 못했지만(108단어) 비정형 초록으로 형식을 바꾸고 핵심 아이디어는 유지했습니다. 이 버전을 다시 작업할 때 여분의 단어 8개를 다듬을 예정인데, 전체 서식을 직접 다시 지정하는 것보다 확실히 빠릅니다.
It still hasn’t counted accurately (this is 108 words), but it has reformatted to an unstructured abstract and retained the key ideas. I’ll trim the extra 8 words when I rework this version; that’s certainly faster than doing the whole reformat myself.

명확성과 일관성을 개선하기 위해 ChatGPT로 편집하기
Editing with ChatGPT to improve clarity and coherence

이 도구를 사용하는 또 다른 방법은 초안 섹션의 명확성과 일관성을 강화하는 것입니다. 특히 독자를 잃을 수 있다고 생각되는 밀집된 부분의 명확성과 일관성을 강화하는 것입니다. 내부 일관성을 강화하려면 한 단락을 입력하고 요점을 설명하기 위해 토큰 문장을 추가할 위치를 제안하는 등 아이디어가 더 설득력 있게 전개되도록 다시 작성해 달라고 요청할 수 있습니다. 저는 초안을 작성한 단락을 입력하고 세 가지 주제 문장을 제안해 달라고 요청했고, 이에 응답했습니다: 

Another way to use the tool is to strengthen the clarity and coherence of sections of your draft, particularly those dense spots where you think you might lose the reader. To strengthen internal coherence, you could input a single paragraph and ask it to rewrite so that the ideas develop more convincingly, including suggesting where you should add token sentences to illustrate your points. I inputted a paragraph I’d drafted and asked it for three possible topic sentences, to which it responded:

 

각 주제 문장에서 서로 다른 강조점을 확인함으로써 단락에서 관심을 끌기 위해 경쟁하는 문제를 파악하고 더 일관성 있게 만드는 데 도움이 되었습니다.
Seeing the different emphases in each topic sentence helped me to identify the issues that were vying for attention in the paragraph, and make it more coherent.

인사이트: ChatGPT에 주제 문장을 요청하면 단락의 일관성 문제를 파악하는 데 도움이 될 수 있습니다.
주의: 이러한 문장을 그대로 사용하지 마세요. 이는 해결책이 아니라 신호일 뿐입니다.
Insight:
 Asking ChatGPT for topic sentences can help reveal issues with paragraph coherence.

Caution: Don’t use those sentences verbatim. They are a signal, not a solution.


이론적으로는 일련의 단락을 입력하고 새로운 주제 및 전환 문장을 제안하도록 요청하여 ChatGPT로 외부 일관성을 강화할 수도 있습니다. 저는 이번 작가의 기술을 위해 초안을 작성했던 첫 문단에 대해 ChatGPT에 도움을 요청했습니다:

Theoretically, you can also strengthen external coherence with ChatGPT, by inputting a series of paragraphs and asking it to suggest new topic and transition sentences. I asked ChatGPT for help with the opening paragraphs I had drafted for this Writer’s Craft:

 

제안한 내용은 다음과 같습니다:

Here’s what it suggested:

 

첫째, ChatGPT는 요청에 따라 주제와 전환 문장뿐만 아니라 모든 문장을 변경했습니다. 예를 들어, 수동태 구조(예: "촉발되었다", "점화되었다", "인정되었다")를 많이 사용하고, 단순한 주제를 좀 더 정교한 구조로 변경했습니다(예: "ChatGPT"가 "학계 내 ChatGPT의 영향력 증가"로 변경됨). 이제, 제가 제 글에 대해 약간 귀중하게 여길 수 있다는 것을 인정하는 첫 번째 사람이 되겠지만, 이것이 제가 부탁한 것은 아닙니다. 따라서 분명히 밝힙니다: 

I noticed two things immediately: first, ChatGPT changed all the sentences, not only the topic and transition sentences as requested. And second, it also changed the writing style: for instance, it uses many passive voice constructions (e.g., “has sparked”, “has ignited”, “has been acknowledged”), and changed out my simple subjects for more elaborate constructions (e.g., my “ChatGPT” has been changed to “the rising influence of ChatGPT within academia”). Now, I will be the first to admit that I can be a bit precious about my writing, but this is not what I asked it to do. Thus, I clarify:

 

Ugh. 은유가 지나치게 섞여 있습니다! - 은유가 지나쳤습니다. 그리고 어조가 답답한 학자에서 발랄한 청소년으로 바뀌었습니다. 다음 프롬프트는 제 짜증을 드러냅니다:

Ugh. It has overdone – and mixed! – the metaphors. And the tone has swung from stuffy academic to effusive adolescent. My next prompt reveals my irritation:

 

이 글은 제 글쓰기 스타일에 더 가깝고, 주제와 전환 문장이 시작 논거를 연결하고 발전시키는 데 효과적입니다. 글의 내적 또는 외적 일관성을 유지하는 데 어려움을 겪고 있다면 이 자료가 도움이 될 수 있습니다. 그러나 일관성 문제로 어려움을 겪고 있지 않다면(이 글에서는 특별히 그렇지 않았습니다) 이 제안이 흥미롭지 않을 수 있으며, 일부 제안은 좌절감을 줄 수도 있습니다.
This is closer to my writing style, and the topic and transition sentences are effective at connecting and developing the opening argument. If you’re struggling with internal or external coherence in a piece of writing, this could be a helpful resource. But if you’re not struggling with coherence (as I wasn’t particularly in this piece), its suggestions are unlikely to excite you – and some of them may frustrate you.

주의: ChatGPT는 콘텐츠뿐만 아니라 글쓰기 스타일도 편집합니다.
인사이트: ChatGPT가 생성한 자료를 다시 작성할 때 스타일을 자신만의 것으로 만드세요.
Caution:
 ChatGPT will edit your writing style as well as your content.

Insight: As part of your rewrite of ChatGPT-generated material, make the style your own.

ChatGPT를 통해 글쓰기에서 어떤 부분을 개선하고 싶으시다면, 그 글의 특징 뒤에 있는 문법적/수사적/언어적 개념을 ChatGPT가 이해하고 있는지 확인해야 합니다. 무엇을 "알고 있는지" 물어보기 전까지는 알 수 없습니다. 저는 제 학생 중 한 명이 왼쪽 분기 문장(많은 세부 사항을 일찍 도입하고, 주요 아이디어를 나중으로 미루어 다른 모든 세부 사항을 정리하기 위해 주요 아이디어가 필요한 독자에게 혼란을 줄 수 있는 문장)을 작성하는 경향을 파악하고 개선하는 데 도움이 될 수 있는지 알아보고 싶었습니다. 저는 먼저 물어보았습니다: 

Whatever you want ChatGPT to help improve in your writing, you need to ensure that it understands the grammatical/rhetorical/linguistic concepts behind that feature of your writing. You don’t know what it “knows” until you ask it. I wanted to see if it could help one of my students identify and improve their tendency to write left-branching sentences (those that introduce a lot of detail early, leaving the main idea until late and thus potentially creating confusion for the reader who needs the main idea to organize all the other details). I started by asking it:

 

보시다시피, 거꾸로 되어 있었습니다. 제가 수정했습니다:
As you can see, it had them backwards. I corrected it:

 
 
 

생성된 모든 문장이 마음에 들지는 않지만 오른쪽으로 더 많이 분기됩니다. 작가의 습관을 파악하고 ChatGPT가 관심 있는 문법적 특징에 대한 정확한 지식을 갖추게 되면 유용한 코칭 리소스가 될 수 있습니다. 예를 들어, 많은 작가들이 강력한 동사의 레퍼토리를 확장하는 데 어려움을 겪고 있습니다. ChatGPT에 글의 몇 단락을 제공하고 더 강하고 역동적인 동사로 다시 작성하도록 요청할 수 있습니다. 몇 가지 다른 버전을 요청하면 갑자기 선택할 수있는 새로운 동사의 멋진 카탈로그가 생깁니다. 
I don’t like all of the sentences it has created, but they are more right-branching. This would be a useful coaching resource, once a writer’s habits are identified and we have ensured that ChatGPT has accurate knowledge of the grammatical features we’re interested in. For instance, many writers struggle to expand their repertoire of strong verbs. We could give ChatGPT a few paragraphs of their writing and ask it to rewrite with stronger, more dynamic verbs. Ask it for a few different versions and suddenly you have a nice catalogue of new verbs to choose from.

더 일반적으로 ChatGPT는 영어를 추가 언어(EAL)로 쓰는 학자들을 위한 무료 언어 편집기 역할도 할 수 있습니다. 현재 많은 EAL 작가들이 언어 편집에 드는 비용(시간/노력 및 재정적 비용 모두)을 부담하고 있는데, 특히 초안 작성 및 수정 단계에서 이러한 비용을 일부 경감하고 작가들이 아이디어에 집중하고 문법에 대해 덜 걱정할 수 있게 해줄 수 있습니다. 
More generally, ChatGPT could also serve as a free language editor for scholars writing in English as an additional language (EAL). Many EAL writers now incur the costs (both time/effort and financial) of language editing: it could alleviate some of those costs, particularly during the drafting and revision stages, and free writers to focus on the ideas and worry less about the grammar.

윤리에 대한 참고 사항
A note on ethics

ChatGPT에 대한 우려의 대부분은 사용의 윤리와 관련이 있습니다. 즉, 대신 글을 써주는 것이 '공정한가' 하는 것입니다. 이미 눈치채셨겠지만, 저는 이 도구가 여러분을 대신 작성하도록 하는 것을 권장하지 않습니다. 제 글의 대부분은 제가 직접 작성한 글을 ChatGPT에 입력한 후 제안을 요청하거나(여기 소개글이 있는데 좋은 제목을 제안해 주세요), 번거로운 작업을 하거나(여기 초록이 있는데 반으로 잘라 주세요), 문법적 변화를 설명하거나(여기 왼쪽 분기 문장 패턴이 있는데 오른쪽 분기 대안을 제안해 주세요) 하는 식으로 이루어집니다. 저는 이것이 윤리적이고 적절한 ChatGPT 사용이라고 주장하고 싶습니다. 저는 모든 지적이고 창의적인 작업을 ChatGPT에 요청하는 것이 아니라 일부 노동을 아웃소싱하는 것입니다[14]. 제가 ChatGPT에게 저를 위해 무언가(개요, 가능한 반론 목록, 더 강력한 주제와 전환 문장으로 개선된 구절 등)를 만들어 달라고 요청한 경우, 저는 이를 다음 수정 작업의 출발점으로 취급합니다. 물론 이것도 물론 중요하지만, ChatGPT의 글을 제 글인 것처럼 보이지 않기 위해서만이 아닙니다. 또한 (적어도 어떤 날은) 저에게 기쁨을 주는 글쓰기 기술을 아웃소싱하고 싶지 않기 때문이기도 합니다. 그리고 저는 확실히 ChatGPT처럼 '소리'를 내고 싶지 않고 제 글이 저처럼 들리기를 원합니다. 지금까지의 경험에 비추어 볼 때, ChatGPT가 저를 흉내 내도록 하는 것보다 제 목소리로 작업하는 것이 더 적은 시간이 걸리고 더 만족스러울 것입니다. 
Much of the alarm about ChatGPT has to do with the ethics of its use: is it ‘fair’ to have it write for you? As you will have noticed, I don’t advise having it write for you. Most of my examples involve putting my own writing into ChatGPT and asking it to make suggestions (here’s my introduction, please suggest some good titles), to do some tiresome labor (here’s my abstract, please cut it in half), to illustrate grammatical changes (here’s my left branching sentence pattern, please suggest right branching alternatives). I would argue that these are ethical and appropriate uses of ChatGPT. I’m not asking it to do all the intellectual, creative work, I’m outsourcing some of the labor [14]. Where I have asked ChatGPT to create something for me (an outline, a list of possible counterarguments, a passage improved with stronger topic and transition sentences), I treat it as a starting point for my next round of revisions. This isn’t only to avoid presenting ChatGPT’s writing as my own, although that’s of course important. It is also because I don’t want to outsource the writing craft, which (on some days, at least) gives me joy. And I certainly don’t want to ‘sound’ like ChatGPT – I want my writing to sound like me. Based on my experiences so far, it will take less time (and be more satisfying) to work on my voice than to work on getting ChatGPT to mimic me.

요약하자면
In Summary

작가들은 놀라거나 불안해하기보다는 ChatGPT의 장단점을 이해할 필요가 있습니다.

  • 내용보다는 구조에 더 강합니다. 좋은 브레인스토밍 도구(제목, 개요, 반론 등)이지만, 특히 자신의 전문 영역을 벗어나는 경우 모든 내용을 다시 한 번 확인해야 합니다.
  • 복잡한 아이디어를 요약하고 다른 아이디어와 연결할 수 있지만, 일반적인 기본값에서 벗어나 관심사에 집중하도록 훈련시키는 데 필요한 점진적인 프롬프트에 대해 많은 생각을 한 경우에만 가능합니다.
  • 정보에 대한 액세스 권한은 원래 훈련받은 정보로 제한되므로, 부족한 부분과 부정확한 부분을 파악하기 위해서는 사용자가 직접 훈련하는 단계가 필수적입니다.
  • 초록의 형식을 바꾸거나 섹션의 길이를 줄이는 등의 노동에는 사용할 수 있지만, 어떤 단락이나 아이디어에 더 많은 단어가 필요한지, 어떤 단락이나 아이디어는 줄여야 하는지를 결정하는 작가의 사고를 대체할 수는 없습니다.
  • 부정확할 수 있습니다. 사실, 고집스럽게도 부정확성을 지적받은 후에도 부정확성을 고집하면서 동시에 다음 시도를 수정된 것으로 제시합니다. 나는 그것이 지각이 없고 동기나 감정이 없다는 것을 알고 있지만, 일부 교환에서 그것이 음침하고 다루기 힘들고 심지어 고의적으로 성실하지 않다는 생각을 할 수밖에 없습니다. 

Rather than being alarmed or anxious, writers need to understand ChatGPT’s strengths and weaknesses.

  • It is better at structure than it is at content. It is a good brainstorming tool (think titles, outlines, counter-arguments), but you must double check everything it tells you, especially if you’re outside your domain of expertise.
  • It can provide summaries of complex ideas, and connect them with other ideas, but only if you have put a lot of thought into the incremental prompting needed to shift it from its generic default and train it to focus on what you care about.
  • Its access to information is limited to what it was originally trained on, therefore your own training phase is essential to identify gaps and inaccuracies.
  • It can be used for labor, such as reformatting abstracts or reducing the length of sections, but it can’t replace the thinking a writer does to determine why some paragraphs or ideas deserve more words and others can be cut back.
  • It can be inaccurate: in fact, rather stubbornly so, persisting with inaccuracies even after they are pointed out, while at the same time presenting its next attempt as corrected. I know it isn’t sentient and doesn’t have motivations or emotions, but I can’t help but think in some of our exchanges that it was being sullen, intractable, even deliberately insincere.

그럼에도 불구하고 작가들은 그 힘을 활용하여 프로세스를 더 효율적으로 만들고 제품을 더 견고하게 만들 수 있습니다. AI 도구를 사용한 글쓰기에 대한 정책이 계속 생겨나고 진화하고 있으므로 대상 저널을 확인하시기 바랍니다. 하지만 저널 매개변수 내에서 ChatGPT를 최대한 활용하세요. 글쓰기 과정에서 막히는 순간을 파악하세요. 개요를 생성하거나 스토리라인의 다음 요점을 브레인스토밍하는 등 ChatGPT가 도움이 될 수 있을까요?

  • 문법 문제를 해결하는 데 사용하거나(예: 기본적으로 수동태를 사용하는 경우, 문장을 능동태로 변경하여 비교하도록 요청),
  • 복잡한 논증 부분의 일관성을 강화하는 데 사용하거나,
  • 오른쪽 분기 문장을 왼쪽 분기 문장으로 변환하여 명확성을 높이는 데 사용할 수 있습니다.

힘든 작업과 창의적인 글쓰기를 구분하세요.

  • 전자는 ChatGPT를 사용하여 지원하고, 후자는 혼자서 하세요.
  • 그리고 항상 생성된 초안을 초안으로 보고 자신만의 특별한 강조점, 고유한 목소리와 스타일을 불어넣어 다듬고 재작업할 수 있습니다. 


Still, writers can harness its power to make our processes more efficient and our products more robust. Do check your target journal, as policies about writing with AI tools are emerging and evolving. Within journal parameters, however, leverage ChatGPT to your advantage. Identify the moments in your writing process where you get stuck: can ChatGPT help you there by generating an outline or brainstorming the next points in the storyline?

  • Use it to help address your grammar challenges (e.g., if you default to passive voice, ask it to change sentences to active so you can compare);
  • use it to strengthen coherence of a complex section of your argument;
  • get it to increase clarity by converting your right-branching sentences to left-branching.

Distinguish the laborious from the creative writing tasks:

  • use ChatGPT to support the former, and keep the latter for yourself.
  • And always view what it has generated as a first draft which you will refine and rework, infusing it with your own particular emphases, your unique voice and style.

Perspect Med Educ. 2023 Jun 29;12(1):261-270. doi: 10.5334/pme.1072. eCollection 2023.

Writing with ChatGPT: An Illustration of its Capacity, Limitations & Implications for Academic Writers

Affiliations collapse

1Western University, CA.

PMID: 37397181

PMCID: PMC10312253

DOI: 10.5334/pme.1072

Free PMC article

질적연구 실용 가이드: Part 6: 일차의료 연구에서 종단적 및 복잡한 건강 주제를 위한 종단적 질적 및 혼합방법 접근(Eur J Gen Pract.2022)
Series: Practical guidance to qualitative research. Part 6: Longitudinal qualitative and mixed-methods approaches for longitudinal and complex health themes in primary care research
Irene Korstjensa and Albine Moserb,c

 

소개
Introduction

수년에 걸쳐 저희는 질적 연구를 감독하면서 질적 연구가 많은 질문과 도전을 불러일으키는 경향이 있음을 발견했습니다. 질적 연구에 대한 실용적인 지침을 제공하기 위한 시리즈[1-5]의 여섯 번째 글인 이 글에서는 일차 진료 연구에서 종단적이고 복잡한 다면적인 건강 주제를 다루기 위한 두 가지 접근법을 소개합니다. 
Over the years, in our supervisory work, we have noticed that qualitative research tends to evoke many questions and challenges. This article, the sixth in a series aiming to provide practical guidance for qualitative research [1–5], introduces two approaches for addressing longitudinal and complex multifaceted health themes in primary care research.

일차 진료의 도전 과제
Challenges in primary care practice

일차 진료는 점점 더 고령화되고 복잡하며 다질환을 앓고 있는 인구에게 고품질의 접근 가능하고 저렴한 의료 서비스를 제공하는 데 어려움을 겪고 있으며, 환자와 일반의 간의 관계는 파트너십, 개인화된 의료 서비스, 자가 관리 지원으로 변화하고 있습니다[6]. 유럽은 세계에서 가장 고령 인구가 많은 국가 중 하나이며, 특히 남유럽의 인구 고령화가 가장 빠르게 진행되고 있어 기능 장애, 허약, 장기요양 의존으로 전환될 수 있는 고령자를 다루고 있습니다[7]. 이러한 환자들의 다양한 건강 문제와 복잡한 요구로 인해 다양한 임상 환경에서 여러 의료 전문가와 빈번한 상호작용을 하게 됩니다. 이러한 도전적인 발전은 일반의의 전문가 간 협업을 점점 더 많이 필요로 합니다[8]. 현재 일상적인 진료에서 발생하는 복잡한 건강 문제를 다루는 데 도움이 되는 적절한 연구 접근법이 필요합니다. 이 백서에서는 이러한 접근법 중 두 가지에 대해 논의합니다. 
Primary care encounters challenges in providing high quality, accessible and affordable care for an increasingly ageing, complex, and multi-morbid population, while the relationship between patients and general practitioners is transforming towards partnership, personalised healthcare and supported self-management [6]. Europe has some of the world’s oldest populations – with the most rapidly ageing populations in Southern Europe – and is dealing with elderly people who may experience transitions to functional disability, frailty, and dependence on long-term care [7]. The diverse health problems and complex needs of these patients lead to frequent interactions with multiple health care professionals in different clinical settings. These challenging developments require more and more interprofessional collaboration from general practitioners [8]. Appropriate research approaches are needed to support them in dealing with the complex health issues of current day-to-day practice. In this paper, we will discuss two of these approaches.

종단 및 혼합 방법 접근법
Longitudinal and mixed-methods approaches

종단적 질적 연구는 시간을 두고 사람들을 추적합니다. 따라서 사람들이 일차 진료 및 사회 서비스와 상호 작용하면서 어떻게 변화하는지, 어떻게 자신의 상태를 관리하는지에 대한 통찰력을 제공할 수 있습니다[9]. 종단적 질적 연구는 만성 질환 환자의 궤적[10], 전문 정신 건강 서비스와 일차 진료 사이를 이동하는 정신병 청년의 전환 또는 일반의가 진료에 건강 증진 신체 활동 처방을 도입하는 과정[11,12] 등에 대한 이해를 지원합니다. 
Longitudinal qualitative research follows people over time. Therefore, it can provide insights into how people move through their transitions as they interact with primary care and social services, and how they manage their conditions [9]. Longitudinal qualitative research supports understanding of, for example, trajectories of patients with chronic conditions [10], transitions of young people with psychosis moving between specialist mental health services and primary care or processes of general practitioners introducing health promoting physical activity prescriptions in their practice [11,12].

지난 15년 동안 일차 진료 및 가정의학 연구에서 혼합 방법 연구가 일반화되었습니다[13]. 이 접근 방식은 양적 데이터와 질적 데이터를 의도적으로 수집하고 각각의 강점을 결합하여 연구 질문에 답하는 것입니다[14]. 혼합 방법 연구는 예를 들어 유용성 및 타당성(예: 개념 증명 또는 파일럿 연구)을 다룸으로써 일차 진료에서 복잡한 개입의 개발 및 평가를 지원할 수 있습니다. 종단적 질적 연구는 혼합 방법 연구 프로젝트의 일부가 될 수 있습니다[15,16].
Over the last 15 years, mixed-methods research has become common in primary care and family medicine research [13]. This approach involves the intentional collection of both quantitative and qualitative data and combines the strengths of each to answer research questions [14]. Mixed-methods research can – by addressing, for example, usability and feasibility (e.g. proof-of-concept or pilot studies) – support developing and evaluating of complex interventions in primary care. Longitudinal qualitative research can be part of mixed-methods research projects [15,16].

이 기사의 대상 및 내용
Target audience and content of this article

이 글은 종단적 질적 연구 및 혼합 방법 연구에 대한 소개입니다. 이 글은 질적 연구 경험이 있는 연구자 중 이러한 방법에 관심이 있는 연구자와 이러한 방법론을 사용한 논문을 점점 더 많이 읽게 될 일반 실무자가 처음 접할 수 있도록 작성되었습니다. 이 책에서는 이러한 접근법의 맥락과 무엇을, 왜, 언제, 어떻게 접근해야 하는지, 그리고 주요 실무적, 방법론적 과제에 대한 가능한 질문을 다룹니다. 1차 진료 및 기타 의료 영역에서 발표된 경험적 연구의 예와 추가 자료로 활용할 수 있는 출처를 제공합니다.
We regard this article as an introduction to longitudinal qualitative and mixed-methods research. It is intended as a first acquaintance for researchers – with some experience in qualitative research – who are interested in these methods and general practitioners who will increasingly read articles using these methodologies. We address possible questions about the context and the what, why, when and how of these approaches and their main practical and methodological challenges. We provide examples of published empirical studies in primary care and other health care domains and sources for further reading.

생애 과정에서의 변화를 이해하기 위한 종단적 질적 연구
Longitudinal qualitative research to understand change during the life course

컨텍스트
Context

일반 진료는 생애 과정에서 환자와 가족을 돌보는 전통을 가지고 있습니다. 일반의는 만성 질환이나 다질환을 앓고 있는 환자가 노화 과정에서 겪는 변화를 이해해야 한다는 요구가 증가하고 있습니다. 종단적 질적 연구는 생애 과정의 연속성과 변화, 그리고 개인적, 건강 관련, 사회적, 환경적 요인이 이러한 과정을 어떻게 형성하는지에 대한 통찰력을 제공할 수 있습니다[17]. 이 접근법을 사용하여 발표된 경험적 연구에는 다음이 포함됩니다:
General practice has a tradition of caring for patients and families during their life course. General practitioners face increasing demands for understanding the changes patients with chronic illness or multimorbidity undergo during ageing. Longitudinal qualitative studies can provide insights into continuity and change during the life course and how individual, health-related, social and environmental factors shape these processes [17]. Published empirical studies using this approach include:

  • 다질환을 앓고 있는 고령자가 보고한 1차 진료에서의 환자 안전 위협: 종단적 질적 연구의 기초 연구 결과 및 개입에 대한 시사점 [9].
  • 신체 활동 처방을 진료에 통합하려는 시도에 대한 가정의의 경험을 설명하는 종단적 질적 연구: '습관을 바꾸는 것은 쉽지 않다'[12].
  • 종단적 질적 연구를 사용하여 추가 케어 주택을 탐색합니다[17].
  • 정신병에 대한 조기 개입 서비스에서 벗어나는 것에 대한 서비스 사용자의 견해: 일차 진료의 종단적 질적 연구 [11].
  • Threats to patient safety in primary care reported by older people with multimorbidity: baseline findings from a longitudinal qualitative study and implications for intervention [9].
  • Longitudinal qualitative study describing family physicians’ experiences with attempting to integrate physical activity prescriptions in their practice: ‘It’s not easy to change habits’ [12].
  • Using longitudinal qualitative research to explore extra care housing [17].
  • Service users' views of moving on from early intervention services for psychosis: a longitudinal qualitative study in primary care [11].

무엇?
What?

종단적 질적 연구는 시간이 지남에 따라 경험이 어떻게 그리고 왜 변화하는지를 연구하는 것을 목표로 합니다. 종단적 질적 연구는 사회과학에 뿌리를 두고 있으며, 밀레니엄 시대에 접어들면서 뚜렷한 방법론적 패러다임으로 등장했습니다[18]. 다른 질적 연구와 구별되는 점은 시간과 변화를 분석적 관심의 중심 초점으로 의도적으로 강조한다는 점입니다[15]. 종단적 질적 연구에는 발달 또는 인과 관계에 대한 종단적 연구 질문, 여러 데이터 수집 지점을 포함하는 표본, 시간 경과에 따른 변화를 명시적으로 다루는 분석이라는 세 가지 특징적인 요소가 있습니다. 질적 연구는 건강 문제를 경험하는 이유와 방법에 관한 것이며, 종단적 질적 연구는 이러한 경험이 시간이 지남에 따라 어떻게 그리고 왜 변화하는지에 초점을 맞춥니다[17]. 
Longitudinal qualitative research aims to study how and why experiences change over time. It is rooted in the social sciences and emerged as a distinct methodological paradigm around the turn of the millennium [18]. What distinguishes it from other qualitative research is the deliberate emphasis on time and change as the central focus of analytical attention [15]. Longitudinal qualitative research has three distinguishing elements: a longitudinal research question about developmental or causal relationships, a sample that includes multiple data collection points and an analysis that explicitly addresses change over time. Qualitative research is about why and how health issues are experienced, and longitudinal qualitative research focuses on how and why these experiences change over time [17].

왜 그리고 언제?
Why and when?

종단적 질적 연구는 개인과 환자 그룹의 생활 방식을 보다 복잡하고 현실적으로 이해할 수 있는 가능성을 제공합니다[18]. 이는 노화 및 생애 과정 문제, 장기 요양 및 복잡한 건강 개입의 과정 평가를 연구하는 데 도움이 되는 것으로 입증되었습니다[15,19]. 종단적 질적 연구의 장점은 시간과 맥락 간의 상호작용을 비선형적인 방식으로 평가할 수 있는 유연한 접근 방식에서 비롯됩니다[19]. 종단적 질적 연구를 통해 참가자는 과거와 현재의 사건을 반성적으로 바라보고 미래에 대한 열망을 변화시키면서 정서적 거리를 경험할 수 있습니다. 또한, 장기간에 걸쳐 진행되는 인터뷰는 참여자와 연구자 간의 친밀감, 신뢰, 대화를 촉진하고 연구자가 일회성 인터뷰보다 더 적절한 순간에 민감한 주제를 제기할 수 있게 해줍니다[20]. 
Longitudinal qualitative research offers the possibility of generating more complex and thus realistic understanding of how individuals and patient groups live [18]. It has proved helpful for studying ageing and life course issues, long-term care and process evaluation of complex health interventions [15,19]. Its advantages stem from its ability to take a flexible approach to evaluate interactions between time and context in a non-linear manner [19]. Longitudinal qualitative research can enable participants to experience emotional distance while reflexively viewing past and present events and changing their aspirations for the future. Furthermore, interviews carried out over time promote familiarity, trust and dialogue between participant and researcher and enable a researcher to raise sensitive topics at a more opportune moment than in a one-off interview [20].

어떻게?
How?

종단적 질적 연구를 수행하려면 연구자의 관계 인식과 참여자와 소통하고 관심을 기울이려는 의지가 필요합니다[21]. 또한 상당한 규모의 질적 데이터베이스를 수집, 관리 및 유지하고 반복적인 단면 또는 종단 분석을 수행하기 위한 지식과 기술이 필요합니다(표 1)[22].
Longitudinal qualitative research requires researchers’ relational awareness and willingness to connect with and care about participants [21]. Furthermore, it requires knowledge and skills to gather, manage and maintain a sizeable qualitative database and to conduct either recurrent cross-sectional or longitudinal analyses (Table 1) [22].

질적 연구자는 연구를 설계하기 위해 이론적 접근 방식과 연구 초점, 표본 및 분석을 고려해야 합니다[3,4]. 종단적 질적 연구에는 변화 또는 시간적 관점을 다루는 연구 질문과 두 개 이상의 시점을 체계적으로 비교하는 것이 필요합니다[19]. 또한 분석에는 코드, 영역, 인터뷰 질문, 분석 매트릭스 또는 사례, 반복적인 단면 또는 종단 분석 사용 등 비교 대상에 대한 투명성이 요구됩니다. 두 가지 유형의 분석이 모두 필요한 특정 연구 질문이 있을 수 있습니다. 
To design the study, qualitative researchers need to consider the theoretical approach and research focus, the sample and the analysis [3,4]. A longitudinal qualitative study requires a research question that addresses a change or time perspective and systematic comparisons of two or more time points [19]. Furthermore, the analysis requires transparency about what is compared, such as codes, domains, interview questions, analytical matrices or cases, and the use of either recurrent cross-sectional or longitudinal analysis. There may be some specific research questions requiring both types of analysis.

혼합 방법 연구
Mixed-methods research

컨텍스트
Context

혼합 방법 연구는 다양한 환경에서 다양한 의료 요구가 있는 환자를 다루는 일차 진료의 복잡성을 이해하는 데 도움이 됩니다[13]. 이 접근 방식은 질적 방법과 양적 방법을 통합하고 일차 진료의 복잡하고 다면적인 주제를 개선하고 해결하기 위한 새로운 통찰력을 제공합니다[13]. 혼합 방법을 사용하여 발표된 경험적 연구에는 다음이 포함됩니다:
Mixed-methods research supports understanding the complexity of primary care dealing with patients with diverse health care needs in various settings [13]. This approach integrates qualitative and quantitative methods and provides new insights to improve and address the complex and multifaceted themes of primary care [13]. Published empirical studies using mixed methods include:

  • 질병별 임상 경로 - 일차 진료에서 실현 가능한가? 혼합 방법 연구 [23].
  • 네덜란드 지역 사회 간호사와 일반의 간의 의사 소통에는 구조가 부족합니다: 탐색적 혼합 방법 연구 [24].
  • 일차 진료에서 완화 치료 요구에 대한 컴퓨터 스크리닝: 혼합 방법 연구 [25].
  • COVID-19 팬데믹 이후 영국 일차 진료에서 원격 컨설팅 구현: 혼합 방법 종단 연구 [16].
  • Disease-specific clinical pathways – are they feasible in primary care? A mixed-methods study [23].
  • Communication between Dutch community nurses and general practitioners lacks structure: an explorative mixed-methods study [24].
  • Computer screening for palliative care needs in primary care: a mixed-methods study [25].
  • Implementation of remote consulting in UK primary care following the COVID-19 pandemic: a mixed-methods longitudinal study [16].

무엇?
What?

혼합 방법 연구는 실제 상황에 대한 이해와 다차원적 관점을 요구하는 연구 질문에 중점을 둡니다. 이는 구성 요소의 규모와 빈도를 평가하는 엄격한 정량적 연구와 구성 요소의 의미와 이해를 탐구하는 엄격한 정성적 연구를 사용합니다. 여러 방법을 통합하고 여러 철학적, 이론적 입장 내에서 연구의 틀을 잡습니다[14].
Mixed-methods research focuses on research questions calling for real-life contextual understandings and multi-level perspectives. It employs rigorous quantitative research assessing magnitude and frequency of constructs and rigorous qualitative research exploring the meaning and understanding of constructs. It integrates multiple methods and frames the research within several philosophical and theoretical positions [14].

정성적 데이터와 정량적 데이터를 통합하는 것은 단순히 정량적 데이터나 정성적 데이터를 수집하고 분석하는 것 이상의 추가적인 통찰력을 제공하기 때문에 혼합 방법 연구의 핵심적인 특징입니다[26,27]. '통합'이란 혼합 방법 연구에서 데이터 수집-분석 또는 정성적-정량적 결과의 해석 과정에서 정량적 요소와 정성적 요소를 명시적으로 상호 연관시키는 것을 의미합니다[28]. 
Integrating qualitative and quantitative data is a central feature of mixed-methods research as it provides additional insight beyond what might be gained from simply collecting and analyzing quantitative data or qualitative data [26,27]. ‘Integrating’ means the explicit interrelating of the quantitative and qualitative components in a mixed-methods study, e.g. during the data collection-analysis or the interpretation of qualitative and quantitative results [28].

왜 그리고 언제?
Why and when?

혼합 방법 연구는 연구의 폭과 깊이를 최적화할 수 있으며 사회 문화적 맥락과 실제 환경을 고려하여 문제와 잠재적 해결책을 더 잘 이해하는 데 도움이 됩니다[28]. 예를 들어,

  • 양적 횡단면 연구와 질적 연구, 행정 데이터베이스를 결합하면 가족 간호에 사례 관리자를 도입하기 위한 모델이나 일차 의료 서비스 평가를 위한 지표를 개발하는 데 도움이 될 수 있습니다[28].
  • 질적 연구와 무작위 대조 시험을 결합하면 프로그램의 작동 방식과 이유를 더 잘 이해하는 데 도움이 될 수 있습니다[28].

Mixed-methods research can optimize the breadth and depth of a study and helps take into account the socio-cultural context and the real-world environment to better understand the problem and potential solutions [28].

  • For example, combining quantitative cross-sectional and qualitative studies and administrative databases might support developing a model for introducing case managers in family care or indicators for evaluation of primary health care [28].
  • Combining a qualitative study with a randomized controlled trial might support better understanding of how and why a program works or not [28].

혼합 방법 연구를 하는 이유는 다음과 같습니다[28,29]:

  • 정량적 결과를 통해 정성적 결과를 강화 또는 구축하거나 그 반대의 경우,
  • 현상에 대한 포괄적 이해 제공(예: 변수 및 관점),
  • 결과 삼각 측량,
  • 다양한 관점 결합,
  • 샘플링 촉진(예: 설문조사를 사용하여 인터뷰 참가자 선정),
  • 도구 개발 및 테스트(예: 포커스 그룹을 사용한 설문지 개발).  

Reasons for mixed-methods research include [28,29]:

  • enhance or build upon qualitative findings with quantitative results and vice versa,
  • provide a comprehensive understanding of a phenomenon (e.g. variables and viewpoints),
  • triangulate results,
  • combine diverse viewpoints,
  • facilitate sampling (e.g. using a survey to select interview participants), and
  • develop and test instruments (e.g. develop a questionnaire using focus groups).

어떻게?
How?

연구자는 처음부터 혼합 방법 설계를 계획하거나 프로젝트 진행 중에 '긴급' 설계를 사용할 수 있습니다[26]. Creswell과 Hirose는 5가지 프로젝트 단계를 설명했습니다[27].

  • 첫째, 혼합 방법 연구가 연구 질문에 답하는 데 가장 적합한 방법론인지 판단하고 그 근거를 제시합니다.
  • 둘째, 정량적 및 정성적 하위 질문과 필요한 데이터를 식별하고 각 데이터베이스에 대해 엄격한 데이터 수집 및 분석 절차를 사용합니다.
  • 셋째, 혼합 방법 설계를 결정하고 명확한 다이어그램을 그립니다.
  • 넷째, 이 시리즈의 이전 간행물[3,4]에서 설명한 대로 정량적 통계 및 질적 서술 결과를 별도의 제목으로 분석하여 보고합니다. 제목에는 설계의 단계와 정량적 구성 요소와 정성적 구성 요소 간의 명확한 연결 고리가 표시되어야 합니다(표 2).
  • 마지막으로, 본문에서 정량적 결과와 정성적 결과를 나란히 논의하거나 정량적 결과, 정성적 결과 및 통합의 영향을 보여주는 표를 사용합니다.

Researchers can plan a mixed-methods design from the start or use an ‘emergent’ design during a project [26]. Creswell and Hirose described five project steps [27].

  • First, determine if mixed-methods research is the best methodology for answering the research questions and provide a rationale.
  • Second, identify the quantitative and qualitative sub-questions and the data needed and use rigorous data collection and analysis procedures for each database.
  • Third, determine the mixed-methods design and draw a clear diagram.
  • Fourth, analyse and report under distinct headings the quantitative statistical and the qualitative narrative results as described in previous publications of this series [3,4]. The headings should show the steps in the design and a clear linkage between the quantitative and qualitative components (Table 2).
  • Last, discuss the quantitative and qualitative results side by side in the text or use a table showing the quantitative results, the qualitative findings and the impact of the integration.

표 2는 가장 일반적인 3가지 혼합 방법 설계를 제시하지만, 연구 질문에 따라 연구자는 주로 '양적 중심' 연구, 동등한 지위/'상호작용' 연구, 주로 '질적 중심' 연구에 이르기까지 다양한 설계 중에서 선택할 수 있습니다[26,30,31]. 표 3은 보고에 대한 권장 사항을 제시합니다[31].
Table 2 presents three most common mixed-methods designs but depending on the research questions, researchers can choose between various designs on a continuum from a predominantly ‘quantitatively driven’ study, via an equal-status/’interactive’ study to a predominantly ‘qualitatively driven’ study [26,30,31]. Table 3 presents recommendations for reporting [31].

종단적 질적 연구와 혼합 방법 연구의 도전과 전략
Challenges and strategies in longitudinal qualitative research and mixed-methods research

종단적 질적 연구와 혼합 방법 연구의 주요 실무적, 방법론적 과제를 언급하고 이러한 과제를 해결하기 위한 전략을 표 4에 제시합니다[14,15]. 이러한 연구 프로젝트의 기간은 다양하지만, 단기 계약 자금으로는 달성하기 어려운 지속적인 자금 지원이 필요할 수 있습니다[32]. 예를 들어, 한 장기 프로젝트는 핵심 기관 자금을 지원받고 기존 연구팀이 추가 프리랜서 작업으로 참여를 지원했습니다[32]. 이러한 프로젝트를 성공적으로 수행하기 위해서는 적절한 시간과 자원을 투자해야 합니다.

We mention the main practical and methodological challenges in longitudinal qualitative and mixed-methods research and provide strategies for addressing these challenges in Table 4 [14,15]. The duration of such research projects will vary but they may demand a continuity of funding, which is difficult to achieve within short term contract funding [32]. For example, a long-term project received core institutional funding and an existing team of researchers supported their involvement with additional freelance work [32]. Investing adequate time and resources is necessary for successfully conducting these projects.

 

Longitudinal qualitative research
  • Balmer D, Richards BF. Longitudinal qualitative research in medical education Perspect Med Educ. 2017;6:306–310.
  • Calman L, Brunton L, Molassiotis A. Developing longitudinal qualitative designs: lessons learned and recommendations for health services research. BMC Med Res Methodol. 2013;13:14.
  • Derrington M. Qualitative research methods: qualitative longitudinal methods. Thousand Oaks (CA): Sage; 2019.
  • Grossoehme D, Lipstein E. Analysing longitudinal qualitative data: the application of trajectory and recurrent cross-sectional approaches. BMC Res Notes. 2016;9(1):1–5.
  • Nevedal A, Ayalon L, Briller S. A qualitative evidence synthesis review of longitudinal qualitative research in gerontology. Gerontologist. 2019;59:e791–e801.
  • Thomson R, McLeod J. New frontiers in qualitative longitudinal research: an agenda for research. J Soc Res Methodol Int. 2015;18:243–250.

Mixed-methods research:
  • Creswell JW, Hirose M. Mixed methods and survey research in family medicine and community health. Fam Med Com Health. 2019;7:e000086. Doi:10.1136/fmch-2018-000086.
  • Creswell JW, Klassen AC, Plano Clark VL, Smith KC for the Office of Behavioural and Social Sciences Research. Best practices for mixed methods research in the health sciences. 2011. National Institutes of Health. https://obssr.od.nih.gov/sites/obssr/files/Best_Practices_for_Mixed_Methods_Research.pdf.
  • Creswell JW, Plano Clark VL. Designing and conducting mixed methods research. 3rd edn. Los Angeles (CA): Sage; 2018.
  • Kaur N, Vedel I, El Sherif R, et al. Practical mixed methods strategies used to integrate qualitative and quantitative methods in community-based primary health care research. Fam Pract. 2019;36:666-671. Doi:10.1093/fampra/cmz010.
  • Mixed Methods Program University of Michigan. http://www.mixedmethods.org..
  • Schoonenboom J, Johnson R. How to construct a mixed methods research design. Köln Z Soziol. 2017;69:107–131.
  • Vedel I, Kaur N, Hong QN, et al. Why and how to use mixed methods in primary health care research. Fam Pract. 2019;36:365–368. Doi:10.1093/fampra/cmy127.

 


 

Eur J Gen Pract. 2022 Dec;28(1):118-124. doi: 10.1080/13814788.2022.2053106.

Series: Practical guidance to qualitative research. Part 6: Longitudinal qualitative and mixed-methods approaches for longitudinal and complex health themes in primary care research

Affiliations collapse

1Faculty of Health Care, Research Centre for Midwifery Science, Zuyd University of Applied Sciences, Maastricht, The Netherlands.

2Faculty of Health Care, Research Centre Autonomy and Participation of Chronically Ill People, Zuyd University of Applied Sciences, Heerlen, The Netherlands.

3Department of Family Medicine, Faculty of Health, Medicine and Life Sciences, Maastricht University, Maastricht, The Netherlands.

PMID: 35593106

PMCID: PMC9132407

DOI: 10.1080/13814788.2022.2053106

Free PMC article

Abstract

This article, the sixth in a series aiming to provide practical guidance for qualitative research in primary care, introduces two approaches for addressing longitudinal and complex health themes in primary care research. The first approach - longitudinal qualitative research - supports the study of change during the life course. The second approach - mixed-methods research - integrates quantitative and qualitative research to gain new insights to address the complex and multifaceted themes in primary care.We discuss the context, what, why, when and how of these approaches and their main practical and methodological challenges. We provide examples of empirical studies using these approaches and sources for further reading.

Keywords: Primary care; longitudinal qualitative research; mixed-methods research.

질적연구 실용 가이드: Part 5: 일차의료 연구에서 공동-생성적 질적 접근: 경험-기반 공동 설계, 사용자-중심적 설계, 공동체-기반 참여적 연구 (Eur J Gen Pract. 2022)
Series: Practical guidance to qualitative research. Part 5: Co-creative qualitative approaches for emerging themes in primary care research: Experience-based co-design, user-centred design and community-based participatory research
Albine Mosera,b and Irene Korstjensc

 

 

소개
Introduction

수년에 걸쳐 저희는 감독 업무를 수행하면서 질적 연구가 많은 질문과 도전을 불러일으키는 경향이 있다는 사실을 발견했습니다. 질적 연구에 대한 실용적인 지침을 제공하기 위한 시리즈[1-4]의 다섯 번째 글인 이 글에서는 일차 진료 연구에서 새롭게 떠오르는 주제를 다루기 위한 세 가지 공동 창조적(그리고 대부분) 질적 접근 방식, 즉 진료의 질을 개선하기 위한 경험 기반 공동 설계, eHealth 리소스 개발 및 평가를 위한 사용자 중심 설계, 지역 건강을 협력적으로 개선하기 위한 지역사회 기반 참여 연구를 소개합니다. 
Over the years, in our supervisory work, we have noticed that qualitative research tends to evoke many questions and challenges. This article, the fifth in a series aiming to provide practical guidance for qualitative research [1–4], introduces three co-creative (and mostly) qualitative approaches for addressing emerging themes in primary care research:

  • experience-based co-design to improve the quality of care,
  • user-centred design to develop and evaluate eHealth resources and
  • community-based participatory research to improve local health collaboratively.

변화하는 1차 의료
A changing primary care

일차 의료는 만성 치료 및 노인 치료 제공 증가, 공동 의사 결정 및 사전 치료 계획, e- 및 mHealth, 예방 및 커뮤니티 케어, 간호사, 구급대원 및 관련 서비스와의 전문가 간 협업 등 변화하는 상황에 직면해 있습니다[5-8]. 이러한 변화는 일차 진료 연구에 영향을 미칩니다. 일반의는 본질적으로 환자 및 다른 전문가와 협력하여 일상 진료에서 복잡한 건강 문제에 대한 해결책을 모색하는 공동 창작자입니다. 그러나 공동 창작에 대한 '명시적' 개념은 국가 정책 맥락에 따라 일반의에게 익숙하지 않을 수 있습니다[9]. 
Primary care faces a changing context, including the increasing provision of chronic care and elderly care, shared decision-making and proactive care planning, e- and mHealth, preventive and community care, and interprofessional collaboration with nurses, paramedics and relevant services [5–8]. These changes have consequences for primary care research. By nature, general practitioners are co-creators in working with their patients and other professionals on seeking solutions for complex health issues in daily practice. However, the ‘explicit’ idea of co-creation may not be very familiar to general practitioners, depending on their national policy context [9].

공동 창조적 접근 방식
Co-creative approaches

연구에서 공동 창작은 연구 연속체 전반에 걸친 반복적이고 비선형적인 프로세스와 이해관계자와 함께 일하는 학자들의 협력적인 지식 창출을 의미합니다[10]. 우리는 공동 창조적 질적 접근법이라는 용어를 포괄적인 개념으로 사용합니다. 세 가지 공동 창조적 접근법은 기원, 핵심 원칙, 목표, 이해관계자가 다르지만(상자 1) 공통점을 공유합니다.

  • 이 접근법은 현실의 문제를 해결하는 데서 출발하여, 이해관계자의 참여와 이해관계자 간의 동등한 파트너십을 지원하고, 취약한 사람/지역사회에 권한을 부여하며, 실천과 연구 간의 격차를 해소합니다.
  • 이들은 일반의 및 기타 1차 진료 전문가의 과학적 지식과 전문성을 보완합니다.
  • 이들은 다양한 관점에서 요구, 경험, 열망, 이해관계 및 변화에 대한 인사이트를 제공합니다.

공동 창조적 접근 방식은 일차 진료에서는 비교적 생소하지만 병원, 정신과 치료 또는 사회 복지와 같은 다른 환경과 간호, 사회학 또는 발달 연구와 같은 학문 분야에서는 다소 친숙한 접근 방식입니다. 
In research, co-creation means an iterative and non-linear process throughout the research continuum and the collaborative generation of knowledge by academics working alongside stakeholders [10]. We use the term co-creative qualitative approaches as an umbrella concept. The three co-creative approaches have different origins, core principles, goals and stakeholders (Box 1) but they share common ground.

  • They start from solving a problem in practice, supporting stakeholder involvement and equal partnerships among the stakeholders, empowering vulnerable people/communities and bridging the gap between practice and research.
  • They complement the scientific knowledge and expertise of general practitioners and other primary care professionals.
  • They provide insights into needs, experiences, aspirations, stakes and changes from a multi-perspective.

Co-creative approaches are relatively novel to primary care but they are rather familiar in other settings such as hospitals, psychiatric care or social care and to disciplines such as nursing, sociology or developmental research.


공동 창작이 궁극적으로 효율성과 결과를 개선하고, 환자 만족도와 신뢰도를 높이며, 연구 역량을 강화할 수 있음을 시사하는 문헌이 점점 더 많아지고 있습니다[11]. 이는 일반의와 일차 진료 전문가가 제공하는 의료 서비스와 국민 건강을 개선하기 위한 상향식 접근 방식입니다[12]. 과학 문헌에서는 공동 설계, 공동 제작, 파트너십 접근법, 이해관계자 참여, 환자 및 대중 참여, 참여 연구 등 공동 창조라는 개념에 맞는 다양한 용어가 사용되고 있음을 알고 있습니다[13]. 
A growing body of literature suggests that co-creation can ultimately result in improved efficiencies and outcomes, increased patient satisfaction and trust and greater capacity for research [11]. It is a bottom-up approach to improve health services and the population’s health that general practitioners and primary care professionals serve [12]. We are aware that in scientific literature many different terms are used that fit our notion of co-creation such as co-design, co-production, partnership approaches, stakeholder engagement, patient and public involvement, and participatory research [13].

이해관계자
Stakeholders

공동 창조는 이해관계가 있는 사람들과의 파트너십을 통해 (연구) 문제를 정의하고, 중재를 개발 및 실행하며, (연구 및 실천) 결과를 평가 및 정의하는 것을 목표로 합니다. 

  • 이 글에서는 [이해관계자]특정 진료, 과정, 결정 및 건강 결과와 이를 뒷받침하는 근거에 명시적인 이해관계가 있는 사람으로 정의합니다. 
  • 일차 진료 연구의 일반적인 이해관계자는 환자, 가족 간병인, 연구자, 의료 전문가(관리자 포함), 옹호 단체 및 기타 관련 이해관계자(예: 지역 정책 입안자, 보험 회사)입니다. 

그러나 공동 창작을 사용하는 모든 연구 프로젝트는 연구 문제를 정의하는 단계에서 [이해관계자 분석]이 필요합니다. 초기 프로젝트 멤버들은 가능한 모든 이해관계자에 대한 브레인스토밍으로 시작한 다음, 문제와 프로젝트에 대한 이해관계자의 권한, 영향력, 관심도에 따라 우선순위를 정합니다. 그리고 그들의 동기, 관심사, 입장, 기대치, 기대 이익을 탐색합니다[14].
Co-creation aims to define the (research) problem, develop and implement interventions and evaluate and define (research and practice) outcomes in a partnership with those who have a stake.

  • For this article, we define stakeholders as those who have an explicit interest in a particular practice, process, decision and/or health outcome and the supporting evidence.
  • Common stakeholders in primary care research are patients, family carers, researchers, care professionals (including managers), advocacy organisations and other relevant stakeholders (e.g. local policymakers, insurance companies).

However, every research project using co-creation requires a stakeholder analysis at the stage of defining the research problem. The initial project members start with a brainstorm of all possible stakeholders and then prioritise them according to their power over, influence on, and their interest in the problem and the project. They explore their motivations, interests, positions, expectations and expected benefits [14].

이 문서의 대상 독자 및 내용
Target audience and content of this article

이 논문은 이러한 공동 창작 디자인을 사용하고자 하는 연구자들과 이 방법론을 사용한 논문을 점점 더 많이 읽게 될 일반 실무자들에게 적합합니다. 그들은 우리의 소개를 '첫 데이트'라고 생각할 수 있습니다. 우리는 이러한 접근법의 맥락과 무엇을, 왜, 언제, 어떻게, 그리고 주요 실무적, 방법론적 과제에 대한 가능한 질문을 다룹니다. 1차 의료 및 기타 의료 영역에서 발표된 경험적 연구 사례와 추가 자료를 제공합니다.  
This paper is relevant for researchers who want to use these co-creative designs and general practitioners who will increasingly read articles using this methodology. They might consider our introduction a ‘first date’. We address possible questions about the context and the what, why, when, and how of these approaches and their main practical and methodological challenges. We provide examples of published empirical studies in primary care and other health care domains and sources for further reading.

치료의 질을 개선하기 위한 경험 기반 공동 설계
Experience-based co-design to improve the quality of care

맥락
Context

고품질의 의료 서비스를 제공하는 것은 모든 1차 의료 전문가의 목표입니다. 치료의 질을 개선하는 고전적인 방법은 생의학적 및 심리사회적 결과, 기능 및 비용 효율성을 평가하는 것입니다[15]. 최근에는 의료 서비스 설계 과정에 환자, 가족 간병인, 대중을 적극적으로 참여시켜 환자 경험을 기반으로 의료의 질을 개선하는 방향으로 전환하고 있습니다. 의료 서비스의 질을 개선하기 위한 혁신적인 접근 방식 중 하나가 경험 기반 공동 설계입니다[16]. 이 접근법을 사용하여 발표된 경험적 연구에는 다음이 포함됩니다:
Providing high-quality care services is the goal of every primary care professional. Classic ways for improving quality of care are based on evaluating biomedical and psychosocial outcomes, functioning and cost-effectiveness [15]. In recent years, there has been a shift towards quality of care improvement based on patient experiences by actively involving patients, family carers and the public in the design process of health services. An innovative approach to improving the quality of care services is experience-based co-design [16]. Published empirical studies using this approach include:

  • 사람들이 일차 진료에서 안전에 대해 발언할 수 있도록 지원: 공동 설계를 사용하여 복합 이환 환자를 위한 새로운 개입을 개발하는 데 환자와 전문가를 참여시킵니다[17].
  • 경험 기반 공동 설계를 사용하여 환자 중심 암 치료 경로에서 대장암 및 유방암 고령자의 경험 개선 [18].
  • 가보지 않은 길: 경험 기반 공동 설계를 사용하여 화상 부상 후 어린이와 가족의 정서적 여정을 매핑하고 서비스 개선 사항을 파악합니다[19].
  • Empowering people to help speak up about safety in primary care: using co-design to involve patients and professionals in developing new interventions for patients with multimorbidity [17].
  • Improving the experience of older people with colorectal and breast cancer in patient-centred cancer care pathways using experience-based co-design [18].
  • A road less travelled: using experience-based co-design to map children’s and families’ emotional journey following burn injury and identify service improvements [19].

무엇?
What?

경험 기반 공동 설계의 목표는 환자, 가족 보호자, 전문가가 치료의 질을 개선한다는 공통의 목표를 향해 협력하는 것을 촉진하는 것입니다. 이 접근 방식은 사람들이 프로세스 또는 서비스를 경험하는 방식을 포착하고 이해하고자 하는 행동 연구의 한 형태입니다[16]. 경험 기반 공동 설계 접근 방식은 환자, 가족 간병인, 일반인, 전문가의 주관적이고 개인적인 감정을 의도적으로 끌어내어, (개인의 전반적인 경험을 형성하는 핵심 순간인) 터치포인트를 식별합니다. 경험 기반 공동 설계를 통해 환자, 가족 간병인, 일반인, 전문가가 파트너로서 서비스 또는 치료 경로를 공동 설계하여 경험을 바탕으로 치료의 질을 개선할 수 있습니다.
The goal of experience-based co-design is to facilitate collaborative work between patients, family carers and professionals towards a common goal – to improve the quality of care. This approach is a form of action research that seeks to capture and understand how people experience a process or service [16]. An experience-based co-design approach deliberately draws out the subjective, personal feelings of patients, family carers, the public and professionals to identify touchpoints – key moments that shape a person’s overall experience. Experience-based co-design enables patients, family carers, the public and professionals – as partners – to co-design services or care pathways to improve the quality of care based on experiences.

왜 그리고 언제?
Why and when?

의료 전문가는 종종 자신이 치료 프로세스를 개선하고 환자를 위한 가치를 창출할 수 있는 고유한 전문 지식을 가지고 있다고 생각합니다[16]. Berwick [20]은 전문가 우위에서 벗어나 공동 창조에 더 중점을 둘 것을 제안했습니다. 환자와 대중의 참여에 대한 관심이 증가하고 있으며, 이는 종종 보건 정책 이니셔티브와 의료 서비스 전반에 걸친 가치 공동 창출에 대한 지원으로 촉발됩니다. 
Health care professionals often think they have the unique expert knowledge to improve care processes and create value for patients [16]. Berwick [20] proposed shifting away from professional dominance to a greater focus on co-creation. There is a growing interest in patient and public involvement, often triggered by health policy initiatives and support for co-creating value across health care.

환자 및 대중 참여는 의료 서비스의 계획, 제공 및 평가에 환자, 가족 간병인 및 대중의 적극적인 참여를 수반합니다. 여기에는 환자 및 서비스 사용자 시작, 호혜적 관계 구축, 공동 학습, 재평가 및 피드백의 지속적인 프로세스가 포함됩니다[21]. 환자 참여는 개별 치료 및 치료에 대한 결정에 있어 개인 수준에서, 그리고 의료 서비스 제공에 대한 결정에 있어 집단 수준에서 이루어질 수 있습니다[22]. 
Patient and public involvement entail the active participation of patients, family carers and the public in planning, delivering and evaluating health care services. It involves the ongoing process of patient and service user initiation, building reciprocal relationships, co-learning and re-assessment and feedback [21]. Involving patients can happen at the individual level – in decisions about individual care and treatment – and at the collective level – in decisions about the delivery of care services [22].

Arnstein[23]의 참여 사다리를 변형한 버전에 따라 정보, 상담, 자문, 파트너십, 시민 통제 등 다섯 가지 수준의 참여를 구분합니다(상자 2). 일차 진료 맥락에서 환자, 가족 간병인, 대중, 전문가가 적극적으로 참여함으로써 공동 설계는 이해관계자의 지식을 연결하여 진료의 질 우선순위 문제를 해결합니다.
Based on an adapted version of Arnstein’s [23] participation ladder, we distinguish five levels of involvement: information, consultation, advising, partnership and citizen control (Box 2). In the primary care context, by the active involvement of patients, family carers, the public and professionals, co-design connects the knowledge of stakeholders to address quality of care priority concerns.

어떻게?
How?

치료의 질을 개선하기 위한 경험 기반 공동 설계 프로젝트는 일반적으로 12개월 동안 진행되며[24], 이 프로세스에는 발견 및 공동 설계 단계가 포함됩니다[25](그림 1). 프로젝트의 시작은 프로젝트를 실행할 핵심 그룹을 구성하고 연구자를 모집하는 것입니다. 
Experience-based co-design projects to improve the quality of care typically last 12 months [24], and the process contains discovery and co-design phases [25] (Figure 1). The start involves setting up a core group that runs the project and recruiting a researcher.

 

발견 단계

  • 개선할 서비스가 어떻게 작동하는지에 대한 귀중한 인사이트를 제공하는 [연구자의 관찰]로 시작됩니다. 이러한 인사이트는 연구자가 후속 인터뷰를 위해 민감하게 반응하는 데 도움이 됩니다.
  • 발견 단계에서는 질병이 환자와 가족 간병인의 일상 생활에 미치는 영향을 탐색하고 학습하는 것을 목표로 하는 [발견 인터뷰]가 진행됩니다. 발견 인터뷰는 환자, 가족 간병인 및 전문가와 함께 의료 서비스 경험에 대해 실시하여 치료, 회복 및 복지에 중대한 영향을 미칠 수 있는 요구 사항에 대한 지식을 생성합니다.
  • [접점]은 참여자의 경험을 바탕으로 파악됩니다. 인터뷰를 촬영하여 환자, 가족 보호자, 전문가 간의 대화를 유도하는 비디오를 제작합니다. 

The discovery phase

  • begins with observations by the researcher that provide valuable insights into how the service to be improved works. These insights are helpful to sensitise researchers for the subsequent interviews.
  • The discovery phase proceeds with discovery interviews, which aim to explore and learn from the impact of illness on patients’ and family carers’ everyday lives. Discovery interviews – conducted with patients, family carers and professionals about their experiences with a health service – produce knowledge about needs that may significantly impact care, recovery and wellbeing.
  • The touchpoints are identified based on the experiences of participants. Interviews are filmed to develop a video to trigger a dialogue between patients, family carers and professionals.

연구자들은 영상을 편집할 때 진단, 치료, 후속 조치 등 특정 연대기 순서에 따라 품질 개선이 필요한 부분을 파악합니다. 환자 경험의 시각화는 비슷한 경험과 이야기를 가진 사람들을 (재)연결하는 데 도움이 되고 공동 설계 프로세스의 정서적, 인지적으로 강력한 출발점을 제공하기 때문에 비디오는 공동 설계 프로세스에서 중요한 촉매제 역할을 합니다[26]. 
In editing the video, researchers identify areas for quality improvement, often following a certain chronology, for example, diagnosis, treatment and follow-up. The video is an important catalyst in the co-design process as the visualisation of patient experiences helps (re)connect people with similar experiences and stories and offers an emotionally and cognitively powerful starting point for the co-design process [26].

다음으로, 공동 디자인 팀에서는 각 그룹(주로 환자, 가족 보호자, 전문가)별로 개별적으로 개선해야 할 다양한 영역의 우선순위를 정한 다음, 모든 그룹이 함께 모여 개선 방향을 논의합니다. 각 회의는 이전 단계에서 비디오로 촬영한 인용문을 통해 다양한 개선 영역을 발표하는 것으로 시작됩니다. 그런 다음 참가자들은 공동으로 3~4개 영역을 품질 개선의 핵심 우선순위로 선택합니다.
Next, the various areas for improvements are prioritised in the co-design team: separately within each group (mostly patients, family carers and professionals) and then with all the groups together. Each meeting starts with presenting the various areas for improvement, illustrated by videotaped quotes from the previous phase. Then, the participants jointly choose three or four areas as the key priority for quality improvement.

공동 설계 단계에서는 환자, 가족 보호자, 전문가로 구성된 소규모 실무 그룹인 공동 설계 품질 개선 그룹이 공동 설계 회의에서 강조된 핵심 우선순위 문제를 목표로 품질 개선 활동을 설계하고 실행합니다.
In the co-design phase, co-design quality improvement groups – small working groups of patients, family carers and professionals – design and implement quality improvement activities to target the key priority issues highlighted at the co-design meetings.

마지막으로 마무리 행사에서 개선 사항을 평가하고 공동 디자인 팀이 개선 사항을 공유하고 축하합니다. 경험 기반 공동 설계는 의료 서비스를 개선하고 변경 프로세스에 대한 과학적 인사이트를 제공하는 변경 접근 방식 및 프로세스입니다.
Finally, the improvements are evaluated in a closing event, and the gains are communicated and celebrated by the co-design team. Experience-based co-design is a change approach and process that improves health care and scientific insights into change processes.

사용자 중심 설계를 통한 eHealth 리소스 개발 및 평가
User-centred design to develop and evaluate eHealth resources

컨텍스트
Context

e헬스(디지털) 정보통신기술(ICT), 특히 인터넷 기술을 사용하여 건강 및 의료 서비스를 지원하거나 개선하는 것을 말합니다[27]. 이는 1차 진료의 질을 높이고 품질 보증, 교육 및 연구를 위한 고품질 데이터를 제공할 수 있는 포괄적인 가능성을 제공합니다[27]. 혁신적이면서도 타당한 연구 방법론은 eHealth의 지속적인 성공과 지속 가능성을 위한 전제 조건입니다[28]. 최종 사용자는 공동 제작 프로세스를 통해 전자 의료의 개발 및 구현에 참여해야 하며, 취약 계층과 전자 의료 문맹을 염두에 두고 설계해야 합니다. 적절한 접근 방식은 사용자 중심 디자인입니다.
eHealth is the use of (digital) information and communication technology (ICT), in particular internet technology, to support or improve health and health care [27]. It offers a comprehensive promise for a better quality of primary care and high-quality data for quality assurance, education and research [27]. Innovative but valid research methodology is a prerequisite for the ongoing success and sustainability of eHealth [28]. End-users need to be involved in the development and implementation of eHealth via co-creation processes, and design should be mindful of vulnerable groups and eHealth illiteracy. An appropriate approach is user-centred design.

이 접근 방식을 사용하여 발표된 경험적 연구에는 다음이 포함됩니다:
Published empirical studies using this approach include:

  • 복잡한 환자를 위한 태블릿 대기실 도구를 사용자 중심으로 설계하여 1차 진료 방문 시 논의 주제의 우선순위를 정합니다[29].
  • 향후 우울증 중증도를 예측하고 1차 진료에서 치료를 안내하기 위한 모바일 임상 예측 도구 개발: 사용자 중심 설계 [30].
  • 생리적 출산의 보호자 양성: 네덜란드의 학생 조산사를 위한 교육 이니셔티브 개발 [31].
  • User-centred design of a tablet waiting room tool for complex patients to prioritise discussion topics for primary care visits [29].
  • Development of a mobile clinical prediction tool to estimate future depression severity and guide treatment in primary care: user-centred design [30].
  • Creating guardians of physiologic birth: the development of an educational initiative for student midwives in the Netherlands [31].

무엇?
What?

사회 및 기술 디자인 과학에서 비롯된 사용자 중심 설계의 목표는 사용성이 매우 높은 eHealth 기술을 개발하는 것입니다. 이는 기술 및 조직 시스템을 평가, 설계 및 개발하는 방법으로, 설계 및 의사 결정 과정에 최종 사용자를 참여시킵니다[32]. 이 방법의 주요 특징은

  • 문제 식별 및 솔루션 생성의 빠른 주기,
  • 최종 사용자 특성에 대한 심층적 이해,
  • 설계가 구체화되는 방식에 대한 최종 사용자의 영향,
  • 전체 개발 프로세스 동안의 반복적 평가,
  • 처음부터 구현 조건을 고려한다는 점입니다[33].

이상적으로 사용자 중심 설계는 환자, 가족 간병인, 전문가 및 직원, ICT 설계자, 의료 시스템 담당자, 기술 콘텐츠를 담당하는 연구자 등 모든 잠재적 이해관계자를 고려합니다. 그러나 최종 사용자는 대부분 환자, 가족 간병인, 전문가 및 직원입니다. 
The goal of user-centred design, stemming from social and technological design sciences, is to develop eHealth technologies with very high usability. It is a method to assess, design and develop technological and organisational systems, which involves end-users in design and decision-making processes [32]. Its key features are

  • rapid cycles of problem identification and solution creation,
  • in-depth understanding of end-user characteristics,
  • the influence of end-users on how a design takes shape,
  • iterative evaluation during the entire development process, and
  • accounting for the implementation conditions from the beginning [33].

Ideally, the user-centred design considers all potential stakeholders, for example, patients, family carers, professionals and staff, ICT designers, representatives of the health care system and researchers responsible for the content of the technology. However, the end-users are mostly patients, family carers, professionals and staff.

왜 그리고 언제?
Why and when?

e헬스 개발은 복잡한 건강 문제를 겪고 있는 사용자를 위해 새로운 기술과 서비스를 사용하는 경우가 많습니다. 사용자 중심 설계는 문제를 동시에 반복적으로 이해하고 해결함으로써 eHealth 개발을 지원합니다[33]. 최종 사용자가 직접 개입을 만들고 구현하는 데 참여하면 개입에 미묘한 요소가 통합되고 최종 사용자에게 영향을 미치는 건강의 사회적, 구조적, 환경적 결정 요인을 고려할 수 있습니다. 이러한 입력이 없었다면 이러한 요소는 연구자나 전문가에게 분명하게 드러나지 않았을 것입니다[33]. 사용자 중심 디자인으로 개발된 앱은 사용자 수용성, 안면 타당도, 사용자 친화성 및 활용도가 개선된 것으로 보고되었습니다[30]. eHealth의 채택과 지속적인 사용을 위해서는 사용자 친화적이고 최종 사용자의 동기, 가치, 요구 및 능력을 충족하며 의료 조직에 적합해야 합니다
Developing eHealth often uses new technologies and services for users experiencing complex health problems. User-centred design supports developing eHealth by understanding and solving the problem simultaneously and iteratively [33]. If end users are engaged to create and implement interventions themselves, the interventions will incorporate nuanced factors and consider social, structural and environmental determinants of health that affect the end-users. Without this input, these elements would not have been evident to researchers or professionals [33]. Apps developed with user-centred design have reported improved user acceptance, face validity, user-friendliness and uptake [30]. Critical for eHealth’s uptake and continuous use is that it is user-friendly, meets end users’ motives, values, needs and abilities and fits into the organisation of care.

어떻게?
How?

사용자 중심 설계는 대부분 질적 또는 혼합 방법을 사용합니다[33].

  • 문제 개발 주기에는 사용자 및 기타 출처에서 데이터를 수집하고 분석하여 문제와 요구 사항을 정의하는 과정이 포함됩니다.
  • 솔루션 개발 주기에는 최종 사용자와 함께 프로토타입을 제작하고 테스트하기 위한 아이디어 창출이 포함됩니다.

이러한 주기 사이에는 반복적인 피드백 루프가 있습니다. 연구자와 개발자는 최종 사용자의 주요 요구 사항을 충족하는 e헬스 솔루션을 최종 확정하고 배포합니다.
User-centred design uses mostly qualitative or mixed methods [33].

  • The problem development cycle involves gathering and analysing data from users and other sources to define problems and needs.
  • The solution development cycle involves the generation of ideas to build and test prototypes with end-users.

Within and between these cycles, there are iterative feedback loops. Researchers and developers finalise and deploy an eHealth solution when it meets the end users’ key requirements.

사용자 중심 설계의 특정 유형은 교육(e-러닝) 프로그램 개발에 자주 사용되는 래피드 프로토타이핑입니다[34]. 여기에는 구현 및 평가를 위한 최종 프로토타입에 도달하기 위해 후속 프로토타입을 설계할 때 요구 사항 평가, 주요 이해관계자의 의견 및 피드백 단계가 중복적으로 포함됩니다.
A specific type of user-centred design is rapid prototyping, which is often used for developing educational (e-learning) programmes [34]. It involves overlapping stages of needs assessment, input and feedback from key stakeholders in designing subsequent prototypes to reach a final prototype for implementation and evaluation.

사용자 중심 설계 프로세스의 각 문제 및 솔루션 개발 주기 내 단계에 대한 다양한 설명이 존재하는데, 예를 들어 5단계 프로세스는 개념, 설계, 테스트 및 시험, 생산 및 배포 단계로 구성되며 최종 사용자는 생산을 제외한 모든 단계에 참여합니다[33,35](박스 3). 최종 사용자의 참여에 가장 많이 사용되는 방법은 사용성 테스트, 인터뷰 및 설문조사입니다. 다양한 단계에서 최종 사용자의 관점을 파악하는 것은 적용되는 방법에 따라 달라지므로 적절한 방법을 선택하는 것이 중요합니다[36]. 또한 모든 사용자와 그들의 활동, 실제 일상 환경, 기능적 한계, 무수한 정보 및 기술을 심도 있게 고려해야 합니다[35]. 예를 들어 조산사의 업무량이 많다는 점을 고려하여 연구자들은 포커스 그룹이 아닌 개별 인터뷰와 서면 피드백을 선택했습니다[31].
Various descriptions exist of the stages within each of the problem and solution development cycles in the user-centred design process, for example, a five-stage process consists of concept, design, testing and trials, production and deployment stages with end-users participating in all stages, except production [33,35] (Box 3). The methods most used for involving end-users are usability tests, interviews and questionnaire surveys. Since capturing end users’ perspectives at various stages depends on the method applied, selecting an appropriate method is important [36]. This also requires in-depth consideration of all users and their activities, their actual daily environment and their functional limitations, innumeracy and skills [35]. For example, considering midwives’ high workloads, researchers chose individual interviews and written feedback rather than focus groups [31].

고령자, 장애인 또는 특별한 도움이 필요한 사람을 포함하여 사용 가능한 최종 사용자의 경우 '사용자 대리인'이라고 하는 대리인이 개입할 수 있습니다[35]. 사용자 대리인이란 다른 사용자를 대신하여 작업을 수행할 수 있는 지식이나 권한을 가진 사용자를 말합니다. 사용자 대리자는 사용자에 대해 알고 있는 내용을 보고하거나 사용자가 어떻게 행동할지 역할극을 통해 보고합니다.
For less available end-users, including elderly people and people with disabilities and/or special needs, substitutes called ‘user surrogates’ might be involved [35]. A user surrogate is a user who has the knowledge or authority to perform tasks on behalf of another user. User surrogates report on what they know about the user or by role-playing how the user would behave.

지역 보건을 공동으로 개선하기 위한 커뮤니티 기반 참여 연구
Community-based participatory research to improve local health collaboratively

컨텍스트
Context

일차 진료 전문가는 종종 문화적 소수자나 빈곤한 지역사회와 같은 취약 계층을 대상으로 진료를 제공합니다. 이들은 라이프스타일 선택, 전기, 인생사, 교육 수준, 사회경제적 상황, 사회 및 물리적 환경의 영향을 받는 건강 문제로 어려움을 겪는 환자를 돌봅니다. 건강 격차를 해결하기 위한 연구 접근 방식은 커뮤니티 기반 참여 연구입니다. 이 방법은 접근하기 어렵거나 매우 취약한 지역사회에 주로 사용되어 왔습니다. 우리는 커뮤니티를 공유된 가치, 문화, 관습 또는 정체성과 같은 공통의 관심사를 가진 사람들의 그룹 또는 이웃, 지구 또는 지역과 같은 특정 지리적 영역에 거주하는 모든 사람들 또는 지리적 영역에 거주하는 공통의 관심사를 가진 사람들의 그룹으로 정의합니다.
Primary care professionals often provide care to vulnerable groups, such as cultural minorities and deprived communities. They care for patients who struggle with health problems affected by their lifestyle choices, biography, life events, educational level, socioeconomic situation and social and physical environment. A research approach to address health disparities is community-based participatory research. It has often been used for hard-to-reach or very vulnerable communities. We define community as a group of people with common interests – such as shared values, culture, customs or identity or as all people living in a particular geographical area – such as a neighbourhood, district or local area, or as groups of people with a common interest living in a geographical area.

이 접근법을 사용하여 발표된 경험적 연구에는 다음이 포함됩니다:
Published empirical studies using this approach include:

  • 마카시 개입의 참여형 개발 및 파일럿 테스트: 프랑스에서 사하라 사막 이남 및 카리브해 이민자의 성 건강 역량 강화를 위한 지역사회 기반 아웃리치 개입 [37].
  • 벨기에의 동유럽 및 터키 커뮤니티에서 약물 사용 및 서비스 이용에 대한 연구에서 커뮤니티 기반 참여 연구 실시 [38].
  • 네덜란드에서 건강과 사회의 통합을 개선하기 위한 커뮤니티 기반 참여 연구 [39].
  • Participatory development and pilot testing of the Makasi intervention: a community-based outreach intervention to improve sub-Saharan and Caribbean immigrants’ empowerment in sexual health in France [37].
  • Implementing community-based participatory research in the study of substance use and service utilisation in Eastern European and Turkish communities in Belgium [38].
  • A community-based participatory research on improving the integration of health and social in the Netherlands [39].

무엇?
What?

지역사회 기반 참여 연구의 목표는 교육, 실천 개선 또는 사회 변화를 가져오는 것입니다. 이는 지역적으로 관련된 건강 문제를 해결하고자 하는 연구에 대한 협력적 접근 방식입니다[40]. 커뮤니티 기반 참여 연구의 독특한 점은 다양한 커뮤니티 파트너가 참여하고 동등한 참여와 소유권, 호혜성, 공동 학습 및 변화를 위해 노력하는 데 중점을 둔다는 점입니다[41]. 이 접근 방식은 연구자와 커뮤니티 구성원을 요구 사항 평가 및 의제 설정, 의사 결정, 역량 구축, 지식 생성, 연구 결과의 실행 및 전파 등 연구 과정의 모든 측면에 참여시킵니다[42,43]. 지역사회 참여에 중점을 두기 때문에 지역사회 기반 참여 연구는 지역사회 파트너가 학술 파트너와 협력하여 지역사회에 영향을 미치는 건강 문제를 파악하고 해결할 수 있습니다(상자 4). 이는 변화로 이어질 수 있는 사회적 연결을 촉진하고 행동으로 이어질 수 있는 지식을 생산합니다[44].

The goal of community-based participatory research is to educate, improve practice or bring about social change. It is a collaborative approach to research, which seeks to address a locally relevant health issue [40]. What is unique to community-based participatory research is its emphasis on the diverse community partners involved and on striving for equal participation and ownership, reciprocity, co-learning and change [41]. This approach engages researchers and community members in all aspects of the research process, including needs assessment and agenda-setting, decision-making, capacity building, knowledge generation and the implementation and dissemination of findings [42,43]. Because of its focus on community engagement, community-based participatory research allows community partners working with academic partners to identify and address health problems affecting their communities (Box 4). It fosters social connections that can lead to change and produces knowledge that can lead to action [44].

왜 그리고 언제?
Why and when?

일차 진료에 대한 지역사회 참여는 1978년 알마-아타 선언[45]에서 시작되었으며, 이 선언은 사람들이 자신의 건강 관리 계획과 실행에 개별적으로나 집단적으로 참여할 권리와 의무가 있음을 명시했습니다. 연구 주제가 지역사회가 파악한 주요 이슈를 반영하도록 보장하고, 지역사회의 지혜를 활용하여 연구의 질, 타당성, 민감성을 개선함으로써 지역사회와 연구자 간의 신뢰를 증진하고, 연구 결과를 정책 및 실천으로 전환하는 과정을 개선하고, 지역사회 구성원의 연구 결과 활용도를 높이는 등의 이점이 있습니다[42]. 연구자들은 지역 사회와 함께 '상아탑' 연구라는 잘 설명된 문제를 해결하고 '현실 세계'에서 사회적 영향을 미칠 수 있습니다[46].
Community participation in primary care has its origins in the Alma-Ata Declaration of 1978 [45], which stated that people have the right and duty to participate individually and collectively in the planning and implementation of their health care. The benefits include the following: ensuring that the research topic reflects a major issue identified by the community; improving the quality, validity and sensitivity of the research by drawing upon community wisdom, thus promoting trust between communities and researchers; improving the translation of research findings into policy and practice; and enhancing uptake of the research findings by community members [42]. Researchers together with the local community might help address the well-described issue of ‘ivory tower’ research and have a social impact in the ‘real world’ [46].

어떻게?
How?

커뮤니티 기반 참여 연구는 질적 사례 연구, 환경 평가, 혼합 방법 연구, 무작위 대조 시험 등 다양한 방법론, 연구 설계 및 데이터 수집 방법을 사용할 수 있습니다. 일반적으로 7가지 단계가 있습니다[44](그림 2). 연구자와 지역 사회는 파트너로서 함께 일합니다. 
Community-based participatory research can employ diverse methodologies, study designs and data collection methods, for example, qualitative case studies, environmental assessments, mixed methods research and randomised controlled trials. In general, there are seven phases [44] (Figure 2). Researchers and the local community work together as partners.

첫 번째 단계는 잠재적인 비학계 파트너를 발굴하는 활동을 포함하여 지역사회 기반 행동 연구 파트너십을 형성하는 것입니다. 파트너에는 환자, 가족, 멘토, 친구 등 대인관계 지원 네트워크, 환자는 아니지만 이 문제를 지지하거나 믿는 일반 대중, 의사, 보건 전문가, 행정가 등 환자 및/또는 환자의 대인관계 네트워크와 직접 교류하는 사람, 서비스 제공자, 정책 입안자 등 기타가 포함될 수 있습니다. 이 활동은 신뢰와 관계를 구축하고, 운영 규범과 지역사회 기반 행동 연구 원칙을 수립하여 형평성과 권력 공유를 보장하고, 연구 인프라를 구축하는 것을 목표로 합니다[43].
The first phase is forming a community-based action research partnership involving activities to identify potential non-academic partners. Partners might include the following: patients; interpersonal support networks, including family members, mentors and friends; members of the general public who are not patients but who support or believe in the issue; those who interface directly with patients and/or patients’ interpersonal networks, including practitioners, health professionals and administrators; and others, such as service providers and policymakers. The activities aim to build trust and relationships, establish operating norms and community-based action research principles to ensure equity and power-sharing and create an infrastructure for the research [43].

두 번째 단계는 커뮤니티의 강점과 역학을 평가하는 것입니다. 여기에는 다음을 발견하고 평가하는 것이 포함됩니다[45].

  • 커뮤니티의 강점과 자원,
  • 주요 문화 및 역사적 차원,
  • 영향력 있는 조직,
  • 커뮤니티의 권력 관계,
  • 커뮤니티의 목소리를 듣기 위해 참여할 파트너

The second phase entails assessing community strengths and dynamics. This involves activities such as discovering and assessing

  • the strengths and resources in the community,
  • key cultural and historical dimensions,
  • influential organisations,
  • power relationships in the community and
  • partners to be involved to ensure that the community voice is heard [45].

세 번째 단계는 우선순위 지역 보건 문제와 연구 질문을 파악하는 것입니다. 주요 활동은 지역사회 파트너가 지역사회에 영향을 미치는 것으로 경험하고 해결해야 할 주요 건강 문제를 식별하고 건강 문제와 그 기여 요인의 우선순위를 정하는 것입니다. 마지막으로 연구자와 커뮤니티 파트너는 연구의 주요 연구 질문을 공식화합니다.
The third phase is identifying priority local health concerns and research questions. Key activities are to identify the major health problems that community partners experience as affecting the community and that need to be addressed and prioritise health concerns and their contributing factors. Finally, the researchers and community partners formulate the key research questions for the study.

네 번째 단계는 공동으로 개입 및 정책 연구를 설계하고 수행하는 것입니다. 여기에는 연구 질문과 목표의 우선순위를 정하고, 연구 설계와 데이터 수집 방법을 선택하고, 가장 적절한 개입을 결정하는 것이 포함됩니다. 또한 연구 설계와 선택한 개입을 수행하는 방법을 결정하고, 마지막으로 평가에 동의하는 단계가 포함됩니다.
The fourth phase involves collaboratively designing and conducting interventions and/or policy research. This involves prioritising the research questions and goal, selecting the research design and data collection methods and deciding the most appropriate intervention. In addition, it involves determining how to carry out the research design and the intervention selected and, finally, agreeing on the evaluation.

다섯 번째 단계는 커뮤니티 내에서 결과를 피드백하고 해석하는 단계입니다. 여기에는 설문조사, 심층 인터뷰, 포커스 그룹 토론 등을 통해 얻은 (예비) 결과를 공유하고 커뮤니티 파트너가 결과를 이해할 수 있도록 참여시키는 등 데이터 분석이 포함됩니다.
The fifth phase is feeding back and interpreting the findings within the community. This involves data analysis: sharing (preliminary) findings from surveys, in-depth interviews, focus group discussions, etc. and engaging the community partners to make sense of the findings.

여섯 번째 단계는 연구 결과를 배포하고 번역하는 것입니다. 여기에는 커뮤니티와 공유하기 위해 가장 중요한 연구 결과를 파악하고, 연구 결과를 전달하고 번역하는 데 있어 커뮤니티의 역할을 파악하고, 연구 결과를 광범위한 개입과 정책 변화로 확산하고, 연구 결과를 발표하는 것이 포함됩니다. 이는 커뮤니티 기반 행동 연구 파트너십의 형성으로 이어질 수 있습니다.
The sixth phase is disseminating and translating the research findings. This involves identifying the most important findings for sharing with the community, the community’s role in communicating and translating the findings, disseminating the findings into broader interventions and policy changes and publishing the research results. This might lead to the formation of a community-based action research partnership.

모든 단계는 커뮤니티 파트너십을 유지, 지속 및 평가하는 지속적인 프로세스를 기본으로 공유합니다. 연구자와 커뮤니티 파트너는 협력 관계에 대해 성찰하고 장기적인 목표와 역량을 공유합니다. 이러한 모든 접근 방식은 파일럿 테스트 또는 개념 증명과 같은 일부 혼합 방법 연구를 통합할 수 있습니다[47].
All phases share an underlying continuous process of maintaining, sustaining and evaluating the community partnerships. The researchers and community partners are reflective about their working relationships and shared long-term goals and capacities. All these approaches might integrate some mixed-methods research such as pilot testing or proof-of-concept [47].

공동 창작 접근법을 적용할 때의 도전 과제
Challenges in applying co-creative approaches

공동 창작 연구 프로젝트에 대한 경험과 참고한 방법론 및 경험적 논문을 바탕으로 이러한 연구 프로젝트가 직면할 수 있는 실용적 및 방법론적 과제에 대한 간략한 개요를 제공합니다.
Drawing on our experience with co-creative research projects and based on the methodological and empirical papers we referenced, we provide a brief overview of practical and methodological challenges that such research projects may face.

실질적인 과제
Practical challenges

불명확한 목적과 기대치
Unclear purpose and expectation

이해관계자와 연구자는 프로젝트의 목표가 무엇이며 공동 창작 과정이 왜 필수적인지 이해해야 합니다[40,46]. 이는 공동 창작 접근 방식의 각 단계에서 단계별로 작업하고 공유된 출발점을 설정하는 데 도움이 됩니다. 이때 연구자, 특히 연구책임자는 프로젝트의 범위와 예상 결과를 추적해야 합니다[44]. 
Stakeholders and researchers need to understand what the project goal is and why the process of co-creation is essential [40,46]. It helps to work step-by-step and establish a shared starting point in each phase of the co-creative approach. At the time, researchers, especially the principal investigator, need to keep track of the scope and expected outcomes of the project [44].

기술, 역량 및 재정 자원
SKILLS, CAPACITIES AND FINANCIAL RESOURCES

일부 이해관계자는 자신의 개인적 이해관계를 넘어서는 관점을 채택할 기술이 부족할 수 있습니다[18]. 연구자는 다양한 프로젝트 단계 또는 연구 활동에서 다양한 이해관계자의 역량을 최적으로 활용해야 합니다. 일부 이해관계자, 특히 환자와 취약한 지역사회 구성원은 회의에 참여할 수 있는 자원이 부족할 수 있습니다[43,48], 예를 들어 대중교통이나 발언에 대한 자신감이 부족할 수 있습니다. 연구자, 특히 연구책임자는 공동 작성에 선호하는 참여 방식, 이해관계자에게 의미 있는 활동, 사용 가능한 시간, 조치, 시간 요구, 재정 자원의 균형을 맞춰야 합니다[44]. 연구책임자는 연구 프로젝트에 이해관계자 참여를 위한 예산을 적절히 책정하는 것이 중요합니다. 연구비 신청 시 이해관계자 참여, 특히 환자 및 대중 참여에 대한 예산을 명시적으로 책정해야 합니다(상자 5). 자금 지원자들은 종종 의미 있는 참여를 촉진하기 위해 예산이 신중하게 배분되었는지 확인합니다. 
Some stakeholders might lack the skills to adopt a view beyond their personal stakes [18]. Researchers need to make optimal use of the various stakeholders’ capacities in different project phases or research activities. Some stakeholders, especially patients and vulnerable community members, might lack the resources to participate in meetings [43,48], for example, affording public transport or self-confidence to speak up. Researchers, especially principal investigators, need to balance preferred ways of engagement in co-creation, meaningful activities to stakeholders and the available time, enabling measures, time demands and financial resources [44]. It is important for principal investigators to budget for stakeholder involvement in their research projects adequately. When applying for research grants, stakeholder involvement, especially patient and public involvement should be explicitly budgeted (Box 5). Funders often check to ensure budgets have been thoughtfully allocated to promote meaningful participation.

다양한 관점과 갈등
MULTIPLE PERSPECTIVES AND CONFLICTS

심층 인터뷰, 포커스 그룹 토론, 워크숍 등을 통해 환자, 전문가, 관리자 등 다양한 출처에서 다양한 유형의 데이터를 수집합니다. 이러한 인식과 우려를 통합하고 우선순위를 정하는 것은 이해관계자와 연구자에게 어려운 과제입니다[49]. 서로 다른 의사결정 스타일, 가치, 우선순위, 언어 사용, 참여 이력, 인지된 권력 불균형, 경쟁 또는 이해관계자의 의견에 대한 피드백 부족으로 인해 갈등이 발생할 수 있습니다[40]. 연구자들은 민주적인 대화 과정, 공동 책임, 긍정적인 관계를 조성해야 합니다[38,39,41,46].
Various data types are collected during in-depth interviews, focus-group discussions, workshops etc., from different sources, for example, patients, professionals, and managers. The integration and prioritisation of these perceptions and concerns are challenges for stakeholders and researchers [49]. Conflicts may occur due to different decision-making styles, values, priorities, use of language, engagement history, perceived power imbalance, competition or lack of feedback on stakeholders’ input [40]. Researchers need to foster a democratic process of dialogue, shared responsibility and positive relationships [38,39,41,46].

방법론적 과제
Methodological challenges

방법론적 품질
Methodological quality

대부분의 이해관계자는 주로 프로젝트가 자신이 인지하는 건강 문제를 어떻게 해결할 것인지에 관심이 있는 반면, 연구자는 유효한 과학적 지식을 창출하기 위해 노력합니다. 연구자는 모든 연구 단계에서 실용적 관련성, 방법론적 품질, 타이밍의 균형을 맞추기 위해 유연성을 발휘해야 합니다[40,44,49].
Most stakeholders are primarily interested in how the project will address their perceived health issues, whereas researchers also strive for generating valid scientific knowledge. Researchers need to be flexible in all research steps in balancing practical relevance, methodological quality, and timing [40,44,49].

연구팀
RESEARCH TEAM

공동 창작을 위해서는 연구팀에 다양한 역량이 필요합니다. 일반적으로 다학제 연구팀의 개별 연구자는 특정 연구 단계 또는 단계에서 자신의 전문성을 발휘합니다. 연구자들은 다양한 보건 분야 방법론적 역량, 사회적 역량을 통합하여 모든 이해관계자를 공동창출 과정으로 안내하는 연구팀을 구성해야 합니다[41,49]. 유연하고 시간이 많이 걸리며 때로는 예상치 못한 공동 창작의 특성으로 인해 시간 압박이 발생할 수 있습니다[43]. 연구자는 일을 완수하는 것과 연구 과정, 방법론적 품질, 이해관계자 관계 및 자신의 역할에 대한 성찰 사이의 균형을 유지해야 합니다[18]. 
Co-creation requires various competencies in the research team. Usually, individual researchers in multidisciplinary teams bring in their specific expertise in certain research phases or steps. Researchers need to compose a research team that integrates competencies from different health disciplines, methodological competencies and social competencies in guiding all stakeholders through the co-creation process [41,49]. The flexible, time-consuming and sometimes unexpected nature of co-creation might cause time pressure [43]. Researchers need to balance getting things done and reflecting on the research process, methodological quality, stakeholder relationships and their own role [18].

디지털 연구
DIGITAL RESEARCH

넷노그래피[50], 다양한 공식 및 비공식 온라인 데이터 소스 사용, 디지털 데이터 수집 방법 및 대화형 디지털 도구와 같은 다른 질적 접근 방식이 본격적으로 개발되고 있습니다. 디지털 연구는 효율적인 데이터 수집과 관리를 지원할 수 있지만, 디지털 기술이 부족한 사람을 배제하는 등 불평등의 위험을 초래할 수도 있습니다[51]. 연구자들은 질적 연구에서 디지털화가 공동 창조적 접근 방식에서 유망한 방법이 될 수 있으므로 윤리적, 방법론적 문제를 고려해야 합니다.
Other qualitative approaches, such as netnography [50], use of various formal and informal online data sources, digital data collection methods and interactive digital tools are fully in development. Digital research might support efficient data collection and management but might also bring inequality risk, for example, exclusion of people lacking digital skills [51]. Researchers need to consider ethical and methodological issues in digitalisation in qualitative research because it might be a promising way forward in co-creative approaches.

 

Box 5. Sources for further reading on stakeholder analysis and management, patient and public involvement and three co-creative qualitative approaches.
Web sources on stakeholder analysis and management
Web sources on patient and public involvement
Web sources on budgeting involvement
Experience-based co-design
User-centred design
  • Neuhauser L. Integrating participatory design and health literacy to improve research and interventions. Inf Serv Use. 2017;37(2):153–76.
  • Shah SGS, Robinson I. User involvement in healthcare technology development and assessment: structured literature review. Int J Health Care Qual Assur. 2006;19(6):498–513.
  • Tripp SD, Bichelmeyer B. Rapid prototyping: an alternative instructional design strategy. Educ Technol Res Dev. 1990;38(1):31–44.
Community-based participatory research
  • Cargo M, Mercer SL. The value and challenges of participatory research: strengthening its practice. Annu Rev Public Health. 2008;29(1):325–50.
  • Israel BA, Eng E, Schulz AJ, et al. Methods for community-based participatory research for health. 2nd ed. San Francisco (CA): Jossey-Bass; 2012.
  • Viswanathan M, Ammerman A, Eng E, et al. Community-based participatory research. Evidence Based Practice Centre Contract No. 290 – 02 – 0016, Agency for Healthcare Research and Quality; 2004. Available from: http://www.ahrq.gov/clinic/epcsums/cbprsum.htm.
  • Wallerstein N, Duran B, Oetzel J-G, et al. Community-based participatory action research for health. San Francisco (CA): John Wiley; 2018.

Eur J Gen Pract. 2022 Dec;28(1):1-12. doi: 10.1080/13814788.2021.2010700.

Series: Practical guidance to qualitative research. Part 5: Co-creative qualitative approaches for emerging themes in primary care research: Experience-based co-design, user-centred design and community-based participatory research

1Research Centre Autonomy and Participation of Chronically Ill People, Zuyd University of Applied Sciences, Heerlen, The Netherlands.

2Department of Family Medicine, Maastricht University, Maastricht, The Netherlands.

3Research Centre for Midwifery Science, Zuyd University of Applied Sciences, Maastricht, The Netherlands.

PMID: 35037811

PMCID: PMC8765256

DOI: 10.1080/13814788.2021.2010700

Free PMC article

Abstract

This article, the fifth in a series aiming to provide practical guidance for qualitative research in primary care, introduces three qualitative approaches with co-creative characteristics for addressing emerging themes in primary care research: experience-based co-design, user-centred design and community-based participatory research. Co-creation aims to define the (research) problem, develop and implement interventions and evaluate and define (research and practice) outcomes in partnership with patients, family carers, researchers, care professionals and other relevant stakeholders. Experience-based co-design seeks to understand how people experience a health care process or service. User-centred design is an approach to assess, design and develop technological and organisational systems, for example, eHealth, involving end-users in the design and decision-making processes. Community-based participatory research is a collaborative approach addressing a locally relevant health issue. It is often directed at hard-to-reach and vulnerable people. We address the context, what, why, when and how of these co-creative approaches, and their main practical and methodological challenges. We provide examples of empirical studies using these approaches and sources for further reading.

Keywords: Primary care; co-creation; eHealth; patient and public involvement; qualitative research.

테크놀로지는 환자돌봄에 필요한 결정적 인간적 기술을 (대체가 아니라) 증강한다 (Acad Med, 2021)
Technology Can Augment, but Not Replace, Critical Human Skills Needed for Patient Care 
James Alrassi, MD, Peter J. Katsufrakis, MD, MBA, and Latha Chandran, MD, MPH

 

 

기술은 의료 분야에서 놀라운 발전을 이루었지만 때로는 바람직하지 않은 영향을 미치기도 합니다. 특히 인공지능(AI) 영역에서 기술 혁신의 엄청난 가치를 인정하면서도, 우리는 의료진 및 의료진들이 일하는 시스템이 진화하는 데 있어 인간적 특성과 행동, 즉 인간의 핵심적인 기술이 중요하다는 점을 강조합니다. 
Technology has enabled astonishing advances in medical practice, sometimes with associated undesirable effects. While acknowledging the immense value of technological innovation in medical practice, particularly in the realm of artificial intelligence (AI), we highlight the importance of humanistic characteristics and behaviors—critical human skills—for practitioners and the systems in which they work evolve.

의료 행위의 현재 상태
Current State of Medical Practice

최근 수십 년 동안 의료 관행의 변화는 많은 개선을 가져왔지만, 그 대가가 없는 것은 아닙니다. 의료 관행에 영향을 미치는 사회적 변화도 마찬가지입니다. 먼저 몇 가지 변화와 그에 따른 과제를 검토하여 이후 논의의 맥락을 설정합니다. 
Changes to the practice of medicine in recent decades have yielded many improvements, but not without costs. The same can be said for societal changes that impinge on medical practice. To begin, we review some of the changes and resulting challenges to set the context for the subsequent discussion.

미국에서 전자 의료 기록(EMR)이 도입되면서 장점과 함께 단점도 생겨났습니다. EMR은 의료 문서화와 의료 서비스 제공에 큰 변화를 가져왔지만, 의료비 청구에 최적화된 시스템은 국민 건강을 관리하거나 중요한 의사 결정을 지원하는 데 있어 약속한 잠재력을 달성하지 못했습니다.1 EMR의 이질성으로 인해 대량의 환자 데이터를 분석하는 것은 기술적으로 어려운 일입니다. 그럼에도 불구하고 EMR 데이터베이스에서 의료 서비스 결과가 수집되고 있습니다. 이러한 품질 지표는 환급과 연계되어 가치 기반 지불로의 진화를 뒷받침하고 있습니다.2 그러나 EMR은 의사의 번아웃 증가와도 관련이 있습니다. 의사들은 종종 저녁에 집에서 몇 시간 동안 하루 동안 입력한 내용을 완료하기 위해 고군분투합니다. 가정의학과 의사들을 대상으로 이벤트 로깅 기록의 데이터를 분석한 3년간의 연구에 따르면 참가자들은 하루의 절반 이상을 EMR 작업에 소비했으며, 이 작업의 거의 4분의 1이 근무 시간 이후에 발생했습니다.3 4개의 다른 전문과를 대상으로 한 또 다른 연구에 따르면 의사들은 매일 밤 1~2시간을 EMR 관련 업무에 소비합니다.4 EMR 및 사무 업무에 대한 의료진의 불만은 높은 번아웃 및 우울증 비율과 관련이 있습니다.5 번아웃은 의료진에게 부정적인 영향 외에도 환자에게 해로울 수 있는 잠재력이 있습니다.6  
The introduction of the electronic medical record (EMR) in the United States has engendered benefits as well as drawbacks. EMRs have vastly changed health care documentation and delivery, but systems optimized to bill for sick care have not achieved the promised potential to manage population health or assist in critical decision making.1 The heterogeneity of EMRs makes analyzing large amounts of patient data technically challenging. Nonetheless, health care outcomes are being collected from EMR databases. These quality metrics are being tied to reimbursements, supporting the evolution toward value-based payments.2 However, the EMR has also been linked to growing physician burnout. Physicians often struggle for hours in the evening at home to complete the day’s entries. A 3-year study of family physicians that entailed the analysis of data from event-logging records showed that participants spent more than half of their days working on an EMR and almost a quarter of this work occurred after office hours.3 Another study involving 4 different specialties indicated that doctors spend 1 to 2 hours nightly on EMR-related tasks.4 Health care provider dissatisfaction with the EMR and clerical tasks correlate with high rates of burnout and depression.5 In addition to the adverse effects on health care practitioners, burnout has the potential to harm patients.6

다른 시스템 변화도 여러 가지 이점과 비용을 가져왔습니다. 수직적으로 통합된 의료 시스템이 점점 더 보편화되고 있으며, 영리 기업에서만 볼 수 있었던 인수합병이 이제는 의료계에서도 일상적으로 이루어지고 있습니다.7,8 의사의 역할은 의료 행위와 함께 빠르게 진화하고 있습니다. 환자 치료는 과거 환자 정보의 유일한 저장소였던 의사 한 명보다는 여러 의료 서비스 제공자가 팀을 이루어 관리할 가능성이 높아졌습니다.9 '미니 클리닉'의 부상과 현재 의료 서비스 제공에서 전문간호사, 의사 보조원, 약사의 역할이 커지는 것은 의료 서비스의 게이트키퍼로서 전통적인 주치의의 시대가 끝났음을 알리는 신입니다.10 항공 산업은 직급을 허물면 더 안전한 결과를 얻을 수 있다는 것을 보여주었습니다.11 임상 의학에서 직급을 허물면 임상 의사 결정이 간호사, 약사 등으로 옮겨갈 수 있습니다.12 이러한 변화 중 일부는 환자 치료에 도움이 되지만 다른 일부는 대가를 치를 수 있습니다. 교대 근무에 따른 의료 행위는 핸드오프 횟수를 증가시켜 의료 오류의 가능성을 증가시킴으로써 진료를 세분화할 수 있습니다.13 
Other system changes have also brought a mix of benefits and costs. Vertically integrated health systems are becoming more common, and mergers and acquisitions once found only in for-profit environments are now routine in health care.7,8 The role of the physician is rapidly evolving along with the practice of medicine. Patient care is more likely to be managed by a team of health care providers rather than a single physician who was previously the sole repository of patient information.9 The rise of “minute clinics” and the greater role that nurse practitioners, physician assistants, and pharmacists currently play in health delivery signal the end of the traditional primary care physician as gatekeeper to health care.10 The airline industry has shown how breaking down hierarchies can result in safer outcomes.11 In clinical medicine, breaking down professional hierarchies may shift clinical decision making to the nurse, pharmacist, and others.12 Some of these changes benefit patient care; others may come at a cost. Shift-based medical practice can fragment care by increasing the number of handoffs, thereby increasing the likelihood of medical errors.13

소셜 미디어와 인터넷의 광범위한 사용으로 인한 정보의 민주화는 의료 행위에도 영향을 미쳤습니다. 의사는 온라인에서 찾은 정보를 임상 의사 결정에 활용할 수 있는 중요한 정보원이 되었습니다.14 인터넷은 의사와 기타 의료 서비스 제공자를 도울 뿐 아니라 환자와 일반 대중에게 여과되지 않은 정보를 제공합니다. 전체 인터넷 사용자의 약 80%가 웹에서 건강 관련 주제를 검색하고 약 3분의 2가 특정 질병을 검색하지만, 이들 중 1/4만이 정보 출처의 신뢰성을 평가합니다.15 많은 웹사이트가 잘못된 정보를 제공하기 때문에 출처를 확인하고 정보의 정확성을 검증하는 것은 매우 중요합니다. 한 예로, 웹상의 수면 안전 정보에 관한 한 연구에서 평가 대상 1,300개 웹사이트 중 절반 미만이 정확한 권장 사항을 제공했습니다.16 
The democratization of information made possible by social media and the widespread use of the Internet has also had an effect on the practice of medicine. Google has become an important source for physicians, who may use the information they find online to inform their clinical decision making.14 In addition to helping physicians and other care providers, the Internet provides unfiltered information to patients and the lay public. Almost 80% of all Internet users search the web for health-related topics and almost two-thirds search for a specific disease, yet only a quarter of these users evaluate the reliability of the information source.15 Checking the source and verifying the accuracy of information is vital as many websites provide misinformation. To illustrate, in a study regarding sleep safety information on the web, less than half of the 1,300 websites evaluated had accurate recommendations.16

의사는 인터넷 기반 건강 정보에 액세스하는 환자를 "혼란스럽다" 또는 "괴롭다"고 인식합니다.17 일반 대중이 의심스러운 정보에 의존하는 것은 환자와 의사 관계 및 환자 치료에 부정적인 영향을 미칠 수 있습니다. 한 가지 예로 백신 조작을 둘러싼 캠페인이 있습니다.18 위에서 언급한 문제들은 현재와 미래의 의료 시스템에 반영된 사회적, 기술적 변화의 축소판을 나타냅니다. 하지만 이러한 도전 속에는 기회의 씨앗도 숨어 있습니다. 

  • EMR의 사무적 요구,
  • 의사의 소진,
  • 파편화된 진료 시스템과 팀,
  • 의료진의 자율성에 대한 위협,
  • 의심스러운 정보의 광범위한 이용

Physicians perceive their patients who access Internet-based health information as “confused” or “distressed.”17 The general public’s reliance on questionable information can adversely influence the patient–physician relationship and patient care. One example is the campaign surrounding antivaccine fabrications.18 Collectively, the issues cited above—

  • the clerical demands of the EMR,
  • physician burnout,
  • fragmented care systems and teams,
  • threats to provider autonomy, and
  • the wide availability of questionable information

—represent a microcosm of the societal and technological changes reflected in current and future health care systems. However, within these challenges lie also the seeds of opportunities.

이 글에서는 기술의 발전이 환자 치료의 핵심이자 토대를 이루는 핵심적인 인간 기술을 대체하는 것이 아니라 보완해야 한다고 가정합니다. 먼저 눈부신 기술 발전을 요약한 다음, 이러한 기술 기반 미래에서 의사의 역할에 대해 논의합니다. 다음으로, 우리는 교육 시스템과 미래의 의사를 준비하는 사람들에게 필요한 변화를 살펴보고, 의사가 인문학적 중환자 치료 기술을 연마하고 발전시킬 수 있는 변화와 기술을 옹호합니다. 마지막으로, 우리는 공감적이고 인본주의적인 의사가 기술로 보강된 치료를 제공하는 시스템을 강조하면서 의료의 미래를 상상합니다.
In this article, we posit that technological advances must complement—not eclipse—the critical human skills that form the core and foundation of patient care. First, we summarize truly remarkable technical advances, and then we discuss the role for the physician in this technology-enabled future. Next, we explore the corresponding changes needed by the educational system and by those who prepare practitioners of the future, advocating changes and technology that allow practitioners to sharpen and advance their humanistic critical care skills. Finally, we envision the future of health care, emphasizing a system in which empathetic, humanistic physicians provide care augmented by technology.

의료 분야의 기술 현황
Current State of Technology in Health Care

AI의 발전은 놀라운 속도로 의료 서비스를 변화시키고 있습니다. 목록 1은 인간 전문가와 동등하거나 더 우수한 것으로 밝혀진 AI 도구 및 애플리케이션의 예를 보여줍니다. AI가 큰 성공을 거둔 특정 영역으로는 시각 및 방사선 이미지 해석, 진단 및 치료 보조 도구 제공 등이 있습니다.19-35 AI 소프트웨어는 환자와의 직접적인 상호 작용, 진료 문서화, 인구 건강 관리를 개선할 수 있는 잠재력을 보여줍니다.36-40 또한 기술은 원격 의료를 가능하게 하며, 이는 특히 시골 지역과 의사 및/또는 전문 지식에 대한 접근성이 제한된 기타 지역에서 유용한 옵션이 될 수 있습니다.41 -43 원격 의료가 시골 의사를 교육하고 환자 치료 결과를 개선하는 데 성공한 대표적인 사례는 일차 진료 의사가 C형 간염 환자에게 효과적인 전문의 지원 치료를 제공한 프로젝트 ECHO입니다.44 2015년에는 많은 환자와 장기간에 걸쳐 가상이지만 정기적으로 개별화된 상호작용을 통해 환자 관리를 제공하는 최초의 가상 병원이 미국에서 문을 열었습니다. 이 가상 병원 모델은 "비접촉식 따뜻함"이라는 개념을 장려합니다.45 오프라인 병원에서는 이제 로봇 도우미가 환자에게 음식과 약을 배달합니다.46 
The advances made in AI are transforming medical care at a remarkable speed. List 1 provides examples of AI tools and applications that have been found to be equal or superior to human experts. Specific domains where AI is highly successful include visual and radiological image interpretation and the provision of diagnostic and therapeutic aids.19–35 AI software demonstrates the potential to improve direct interactions with patients, care documentation, and population health management.36–40 Technology also enables the practice of telemedicine, a particularly valuable option in rural communities and in other areas with limited access to practitioners and/or specialty expertise.41–43 A classic example of the success of telemedicine in training rural physicians and improving patient care outcomes is Project ECHO, through which primary care physicians have provided effective specialist supported care to patients with Hepatitis C.44 In 2015, the first virtual hospital, wherein patient management is provided through virtual but regular individualized interactions with many patients longitudinally over long periods of time, opened in the United States. The virtual hospital model promotes the concept of “touchless warmth.”45 In brick and mortar hospitals, robotic helpers now deliver food and medications for patients.46

이러한 최근의 발전은 미래에 어떤 의미가 있을까요? 이러한 혁신과 기타 혁신에 대한 우려로 인해 ACGME는 "대안적 미래" 시나리오 기반 계획을 개발했습니다.47 그 결과 의료 서비스 전달의 복잡성 증가와 의료 서비스의 "상품화" 가속화를 포함한 통찰력을 얻었습니다. 여기서 상품화라는 용어는 기존 공급업체를 대체할 수 있는 저비용 적시 공급업체의 성장과 지속적으로 모니터링되는 환자 센서의 사용 가속화를 의미합니다.47 이러한 풍부한 데이터 소스는 환자의 병력, 신체 검사 및 검사 결과에 대한 기존 의존도를 높일 수 있습니다. 현재 시범 운영 중인 모델은 다중 도메인 데이터 세트에서 도출된 인사이트를 통해 환자의 질병 진행 및 향후 질병을 성공적으로 예측했습니다.48 이러한 모델은 진단 코드, 시술 코드, 검사 결과, 약물 복용 등 EMR에 일반적으로 코딩된 정보를 사용하여 최대 10년 후의 미래 질병 진단까지 예측할 수 있었습니다.48  
What do these recent advances mean for the future? Concerns about these and other innovations prompted the Accreditation Council for Graduate Medical Education (ACGME) to develop “alternative futures” scenario-based planning.47 Resulting insights include enhanced complexity in health care delivery and accelerated “commoditization” of health care services. In this context, the term commoditization refers to the growth of lower-cost, just-in-time alternatives to traditional providers, and the accelerated use of continuously monitored patient sensors.47 These rich data sources would augment traditional reliance upon a patient’s history, physical examination, and test results. Models currently undergoing piloting have successfully predicted disease progression and future diseases in patients via insights derived from multidomain datasets.48 These models were able to predict future disease diagnoses, sometimes as far as 10 years in the future, using commonly coded information in EMRs, such as diagnostic codes, procedural codes, lab results, and medications.48

다른 기술도 환자 센서로 인한 개선 사항을 보완할 수 있습니다. 자연어 처리(NLP)의 발전으로 EMR 분석이 자동화될 수 있습니다.49 스마트폰은 개인 맞춤형 의료를 개발하고 배포하는 데 중요한 도구가 될 것입니다.50 Google 지도가 거리 수준에서 대륙까지 지구의 공간적 표현을 생성하는 것처럼, 인간에 대해 수집된 대량의 데이터는 DNA 서열에서 장기 시스템에 이르기까지 인간의 공간적 표현을 생성할 수 있습니다.51 개인의 건강과 관련된 이 '개인 지리 정보 시스템'은 치료 탐색을 의사에서 환자로 전환할 수 있습니다.51 
Other technologies may augment the improvements made possible by patient sensors. Advances in Natural Language Processing (NLP) may automate EMR analysis.49 Smartphones will become important tools to develop and deploy personalized medicine.50 Just as Google Maps creates a spatial representation of Earth from the level of street to continent, the large volume of data collected on humans will allow for the creation of a spatial representation of humans from DNA sequence to organ system.51 This “personal geographic information system” pertaining to a person’s health may shift care navigation from physician to patient.51

미래 의료 종사자의 역할
The Role of the Future Practitioner of Medicine

기술 발전으로 인한 근본적인 변화로 인해 우리는 "기술 기반 미래에서 의사의 역할은 무엇인가?"라는 질문을 던지고 답을 찾으려고 합니다. 의사는 인간의 통찰력과 이해가 필요한 활동을 포기하지 않으면서도 인간의 능력을 향상시키는 기술을 수용, 적응 및 포용할 수 있도록 진화해야 합니다. 환자는 의심할 여지 없이 의료진으로부터 신뢰, 존중, 보살핌과 연결, 공감, 적극적인 경청을 포함한 효과적인 커뮤니케이션을 계속 원할 것입니다.52 효과적인 치료는 정확한 진단, 필요한 절차의 능숙한 수행, 적절한 치료법 처방에 달려 있습니다. 인간의 고통을 덜어주는 것은 공감과 연민으로 소통하고 인간의 감정과 우려를 안전하게 표현할 수 있도록 허용하는 데 달려 있습니다. 
The fundamental changes enabled by advancing technology cause us to ask, and attempt to answer, the question What is the role for the physician in this technology-enabled future? Practitioners must evolve to accept, adapt, and/or embrace the technologies that enhance human capabilities while not relinquishing those activities that require human insight and understanding. Patients will undoubtedly continue to want trust, respect, care and connection, empathy, and effective communication, including active listening, from their care providers.52 Effective care depends on accurate diagnosing, skillfully performing necessary procedures, and prescribing appropriate therapy. Relieving human suffering depends on communicating empathically and compassionately and allowing for the safe expression of human emotions and concerns.

'핵심적인 인간 기술'이란 환자 및 동료와의 의사소통, 환자의 안전한 이송, 전문가 간 팀워크, 상황 판단력 등 가까운 미래에 기술로 쉽게 대체할 수 없다고 판단되는 기술을 말합니다. 또한 공감, 겸손, 연민, 감성 지능, 지속적인 학습에 대한 열정 등의 개인적 특성도 중요한 인간 기술입니다. 자신의 감정에 대한 인식 및 환자의 감정에 관여하는 방법과 관련된 정서 지능은 특히 팀 기반 치료에서 미래의 의사에게 중요한 기술로 남을 것입니다.53 마찬가지로, 권고 사항 준수 및 환자의 전반적인 스트레스 감소와 같은 임상적으로 의미 있는 결과의 개선과 분명히 연관된 공감 능력54은 계속해서 의사의 필수 역량이 될 것입니다. 

“Critical human skills” are ones that we believe cannot be easily replaced by technology in the foreseeable future, such as communication with patients and peers, safe hand-offs of patients, interprofessional teamwork, and situational judgment. Moreover, the personal characteristics of empathy, humility, compassion, emotional intelligence, and passion for continued learning are also critical human skills. Emotional intelligence, as it relates to awareness of one’s own emotions and how to engage with patients’ emotions, will remain a vital skill for future practitioners, especially in team-based care.53 Likewise, empathy, which is clearly associated with improvements in clinically meaningful outcomes such as adherence to recommendations and overall stress reduction among patients,54 will continue to be a required physician competency.

의학을 지식 관리가 아닌 돌봄의 기술로서 바라보는 클레이본 존스턴 박사는 학술 의학 초청 논평에서 "돌봄의 기술은 환자 치료 결과 개선과도 관련이 있다"고 말합니다.55 의사는 공감하고, 방해하지 않고 경청하며, 효과적인 의사소통을 보장하기 위해 시간이 필요하다는 점을 적절히 지적하고 있습니다. AI는 현재 의사에게 필요한 업무를 자동화하거나 더 효율적으로 만들어줌으로써 의사와 환자에게 시간이라는 선물을 줄 수 있는 잠재력을 가지고 있습니다. 한 연구에 따르면 의사가 환자와 더 많은 시간을 보낼수록 재입원 위험이 8% 감소했습니다.56 방문 시간이 길어지면 의사소통이 원활해지고 신뢰가 높아지며, 무엇보다도 환자와 의료진 간의 치료 협력 관계가 개선되어 치료 결과가 향상됩니다.57
In an Invited Commentary in Academic Medicine, Dr. Claiborne Johnston, focusing on medicine as the art of caring rather than as knowledge management, states that “the skills of caring are also associated with improved patient outcomes.”55 Practitioners appropriately note that time is required to connect empathically, listen without interrupting, and ensure effective communication. By automating or making more efficient the current tasks required of a physician, AI has the potential to give practitioners and their patients the gift of time. In one study, for every extra minute that the doctor spent with the patient, the readmission risk fell by 8%.56 A longer visit promotes better communication, increased trust, and importantly, improved outcomes due to a better therapeutic alliance between the patient and the care provider.57

의학교육자는 기술과 휴머니즘을 다뤄야 합니다
Medical Educators Must Address Technology and Humanism

미래의 의료인이 변화해야 하는 것처럼, 교육 시스템과 미래의 의료인을 양성하는 교육자 모두에게 그에 상응하는 변화가 필요합니다. 인지적 기술이 효과적이고 효율적으로 테크놀로지에 위임됨에 따라, 의학교육자는 학습자가 환자와 관계를 맺고 환자의 고통을 덜어주는 데 필요한 비인지적, 핵심적인 인간 기술에 대한 교육을 강화해야 합니다. 의학교육자는 적절한 커리큘럼 요소와 교수법뿐만 아니라 미래의 의료 현장에서 성공하는 데 필요한 핵심적인 인간 기술을 평가할 수 있는 정확하고 신뢰할 수 있으며 유효한 수단을 개발하는 데 집중해야 합니다. 이 영역의 발전은 의료 서비스 제공의 발전과 함께 진행되어야 하며, 이용 가능한 기술 발전을 반영해야 합니다. 다른 사람들이 지적했듯이 미래에 대한 예측은 오류로 가득 차 있지만 종종 혁신을 촉진하기도 합니다.58 기술 발전은 때때로 고르지 않은 커리큘럼 혁신을 낳지만,59,60 의학교육을 완전히 발전시켜야 할 필요성은 부인할 수 없는 사실입니다. 
Just as future practitioners must change, corresponding changes are needed both in the educational system and in those who prepare practitioners of the future. As cognitive skills are effectively and efficiently delegated to technology, medical educators must enhance their training of the noncognitive, critical human skills that learners will need to relate to patients and relieve their suffering. Medical educators must focus on developing not only appropriate curricular elements and pedagogy but also accurate, reliable, and valid means to assess the critical human skills needed for success in the future practice of medicine. Progress in this realm must march alongside progress in health care delivery and reflect available technological advances. As others have noted, predictions about the future are fraught with error, yet they often stimulate innovation.58 Technological advances sometimes yield uneven curricular innovations,59,60 but the need to wholly evolve medical education is undeniable.

심층 신경망과 그 도구는 의료의 여러 측면에서 AI 알고리즘의 활용도를 높이는 데 큰 잠재력을 가지고 있지만61, 적절하게 사용되어야 합니다. 기술로 증강된 의료 서비스를 제공하려면 의사는 임상적 의사 결정과 환자 치료를 지원하기 위해 적절한 현장 진료 도구를 능숙하게 적용해야 합니다. 워트먼과 콤스는 다양한 출처에서 얻은 "정보의 효과적인 통합 및 활용"과 관련된 교육 기술을 강조합니다.62 이들은 미래의 의사들이 의사 결정 지원 소프트웨어를 사용하고 병원, 가정, 심지어 환자의 체내에서 센서와 로봇을 관리할 수 있도록 교육하는 의학교육의 재부팅을 주장하고 있습니다. 의과대학의 커리큘럼도 진화해야 합니다. 
Deep neural networks and the tools they engender hold great potential in increasing the use of AI algorithms in many aspects of medical care61—but only if used appropriately. Technology-augmented medical practice will require physicians to be adept at applying appropriate point-of-care tools to aid in clinical decision making and patient care. Wartman and Combs emphasize teaching skills related to the “effective integration and utilization of information” from a variety of sources.62 They advocate a reboot of medical education, training future doctors to use decision support software and to manage sensors and robots in hospitals, in homes, or even within patients’ bodies. The curriculum of medical schools must evolve.

임상 치료에서 뛰어난 AI 지원을 받더라도 의사는 환자를 돌보는 데 AI 지시 관리를 적용해야 할 때와 AI 알고리즘에서 벗어나야 할 때를 구분할 수 있어야 합니다. AI 시스템이 완전히 신뢰할 수 있게 될 때까지 의사는 독립적으로 정보를 찾고, 평가하고, 사용할 수 있는 기술이 필요합니다.

  • 가까운 미래에도 의사에게는 일차 연구 문헌을 언제, 어떻게 검색해야 하는지 아는 기술이 필요할 것이므로 학생은 근거 기반 지식을 찾고 적용하는 데 있어 명시적인 교육을 받는 것이 도움이 될 수 있습니다.63 최근 문헌 검토에 따르면 대부분의 보건과학 학생은 인터넷에서 찾은 건강 정보를 찾고, 평가하고, 효과적으로 사용하는 기술이 제한적인 것으로 나타났습니다.64
  • 비판적 연구 기술에 대한 교육은 여전히 발전하고 있지만 단일 기관에 국한된 경우가 많으며, 보고서는 다른 사람들이 개입을 완전히 평가하거나 복제할 수 있도록 충분한 정보를 제공하지 않습니다.65
  • 학습자의 기술 보유도 제한적입니다. 예를 들어, 초급 의사를 대상으로 한 한 연구에 따르면 대다수가 높은 수준의 검색 기술을 보유하지 못했으며 최상의 근거를 식별하고 적용하는 기술이 부족했습니다.66  

Even with excellent AI support in clinical care, physicians must be able to discern when to apply AI-directed management to care for a patient and when to deviate from the AI algorithm. Until AI systems become fully reliable, physicians will require the skills to seek, evaluate, and use information independently. For the foreseeable future, physicians will likely still need the skills to know when and how to search primary research literature, thus students may benefit from explicit instruction in seeking and applying evidence-based knowledge.63 A recent literature review has revealed that the majority of health sciences students have limited skills in locating, evaluating, and effectively using the health information they find on the Internet.64 Pedagogy in critical research skills is still developing, but is often limited to a single institution, and reports provide insufficient information to enable others to fully evaluate or replicate the intervention.65 Learners’ skills retention is also limited; to illustrate, one study of entry-level physicians has shown that the majority had not retained high-level search skills and lacked skills in identifying and applying the best evidence.66

위에서 언급한 핵심적인 인간 기술은 의료 실무에서 여전히 필수적입니다. 2019년 아카데믹 메디슨의 초청 논평에서 "의학의 인본주의: 그것은 무엇을 의미하며 왜 그 어느 때보다 중요한가?"라는 제목의 초청 논평에서 조지 티볼트는 "인간 상호 작용을 대체하는 기술에 대한 의존도가 높아지면서 ... 환자와 전문가의 만족도가 전반적으로 하락하고 있다."67 의학교육자는 학습자의 전체 의학교육 여정에서 의도적인 실습, 피드백, 코스 수정 기회를 통해 미래의 의사에게 인문학적 기술을 배양하여 향후 성공적인 진료에 대비하도록 노력해야 한다고 말합니다. 
The critical human skills cited above will remain essential to medical practice. In a 2019 Invited Commentary in Academic Medicine entitled “Humanism in Medicine: What does it mean and why is it more important than ever?”, George Thibault laments that “the increasing reliance on technology as a substitute for human interaction … [leads] to a general decline in patient and professional satisfaction.”67 Medical educators must strive to cultivate humanistic skills in future physicians through opportunities for deliberate practice, feedback, and course correction throughout a learner’s whole medical education journey to prepare them for successful practice in the future.

위탁 전문 활동(EPA)은 수련생이 여러 번의 만남을 통해 자신의 술기 발전을 추적할 수 있는 프레임워크를 제공하여 발달 경로를 따라 학습과 개선을 촉진합니다. 수련의는 자신이 무엇을 평가받고 있는지, 자신의 진척도가 예상되는 학습 궤적과 어떻게 일치하는지 알 수 있습니다.68 기술 증강 의료 행위의 시대에는 모든 의료 수련의에게 추가적인 EPA가 요구될 수 있습니다.

  • 빅데이터 쿼리 능력,
  • 생물정보학의 힘에 대한 명확한 인식,
  • AI 알고리즘의 강점과 한계에 대한 지식,
  • 환자 유래 생체 데이터 평가 능력,
  • 기본 컴퓨터 프로그래밍 기술 등

현재 EPA의 개발이 의학 및 교육 분야의 전문성을 갖춘 개인에게 의존하는 것처럼, 새로운 EPA의 개발은 AI 및 정보 과학 분야의 전문가에게 의존할 가능성이 높습니다. 
Entrustable professional activities (EPAs) provide a framework for trainees to track their skill progression over multiple encounters, thereby driving learning and improvement along a developmental path. Trainees know what they are being assessed on and how their progress aligns with the expected trajectory of learning.68 In the era of technology-augmented medical practice, additional EPAs may be required of all medical trainees:

  • the ability to query big data,
  • a clear awareness of the power of bioinformatics,
  • knowledge of the strengths and limitations of AI algorithms,
  • ability to evaluate patient-derived biometric data, and
  • skills in basic computer programming.

Just as the development of current EPAs relies on individuals with expertise in medicine and education, the development of new EPAs will likely rely on experts in AI and information science.

기술 증강 의료 행위가 임상적 의사 결정의 내용과 이유를 가능하게 하고 기술이 점점 더 많은 작업에서 인간의 두뇌를 능가함에 따라, 알려진 사실과 임상 의사 결정 기술에 초점을 맞춘 현재의 평가 전략도 진화해야 합니다. 교육생에 대한 평가는 기술 사용 및 빅데이터 쿼리 능력을 측정해야 합니다. 평가 전문가는 중요한 인간 기술의 다양한 측면을 측정할 수 있는 새롭고 유효한 방법을 개발해야 하며, 의학 이외의 분야에서도 유용한 지침을 제공할 수 있습니다.69 
As technology-augmented medical practice enables the what and why of clinical decisions, and as technology outperforms the human brain for an increasing number of tasks, current assessment strategies that focus on known facts and clinical decision-making skills must also evolve. Assessment of trainees must measure their ability to use technology and query big data. Assessment experts need to develop new and valid methods to measure various aspects of critical human skills; fields outside of medicine may provide useful guidance.69

또한 AI는 평가 대상뿐만 아니라 학습자를 평가하는 방법도 변화시킬 것입니다. 자연어 처리 기술은 이미 의료 면허 시험 채점에도 활용될 준비가 되어 있습니다.70 평가는 의료 임상 실무에 완전히 통합된 원활하고 장기적이며 지속적인 프로세스가 되어야 합니다. 비정기적, 총괄적, 적시 평가는 학습자의 발달에 초점을 맞추고 안내하기 위해 유효한 지속적인 피드백으로 보완되어야 합니다. 의료 기록을 해석하여 환자 치료를 안내하는 데 사용하는 것과 동일한 기술을 의료진 평가에 사용할 수 있습니다. 시간이 지남에 따라 모든 임상 상황에서 수집된 여러 데이터 포인트를 통해 신규 의료진의 기술적 능력과 중요한 인적 기술을 모두 명확하게 파악할 수 있습니다. 자연어 처리 기술은 EMR 문서를 통해 매일의 임상 활동을 자동으로 추적하는 옵션을 제공합니다. 따라서 수련의는 실제 업무 문서를 통해 특정 기술과 역량을 추적하고 평가할 수 있습니다. 
AI also promises to transform not only what is assessed but also how learners are assessed. NLP is already poised to guide scoring of medical licensing examinations.70 Assessment must become a seamless, longitudinal, and continuous process that is fully integrated into the clinical practice of medicine. Occasional, summative, point-in-time assessments must be supplemented by valid ongoing feedback to focus and guide learners’ development. The same technologies that enable interpretation of the medical record to guide patient care can be employed to assess practitioners. Multiple data points, collected at every clinical encounter over time, can create a clear picture of both the technical and the critical human skills of an emerging practitioner. NLP technology offers an option to automatically track daily clinical activities via EMR documentation. Thus, trainees can be tracked and assessed for specific skills and competencies through their authentic workplace documentation.

AI는 전임상 교육 및 평가에도 잠재력을 가지고 있습니다. 학습자의 행동에 반응하여 부족한 부분을 강화하기 위해 가중치가 부여된 콘텐츠를 간격을 두고 반복하여 제공하는 초보적인 AI 시스템이 이미 존재합니다.71 휴대폰의 마이크를 사용하여 일상적인 임상 및 교육 상호작용을 눈에 띄지 않게 캡처하고 분석할 수 있는 NLP 지원 앱을 상상해 볼 수 있습니다. 음성 언어를 수동적으로 캡처하고 분석하는 NLP 지원 앱은 사례 기반 문제에 대해 동료와 함께 작업하는 학생이나 환자 및 기타 의료 팀원과 상호 작용하는 의사 등 상호 작용에서 개인의 수행 품질에 대한 개별화된 피드백을 제공할 수 있습니다. 이러한 앱은 상호 작용 내용의 명확성과 정확성뿐만 아니라 잠재적으로 감정적인 어조까지 평가할 수 있습니다.
AI also holds promise for preclinical teaching and assessment. Rudimentary AI systems already exist that respond to the learner’s actions by providing spaced repetition of content weighted to strengthen demonstrated areas of deficit.71 One might imagine an NLP-enabled app that, through use of a phone’s microphone, could unobtrusively capture and analyze routine clinical and educational interactions. An NLP-enabled app that passively captures and analyzes spoken language could provide individualized feedback about the quality of a person’s performance in their interactions—whether a student working with peers on a case-based problem or a doctor interacting with patients and other members of the health care team. Such an app may be able to assess not just the clarity and accuracy of the content of the interaction, but even, potentially, the emotional tone.

의학교육계는 의료 서비스에서 중요한 인간 기술의 중요성을 인식하고 학생, 레지던트, 교수진의 명확한 의사소통, 공감, 팀워크와 같은 기술 역량을 평가할 수 있는 유효하고 신뢰할 수 있는 수단을 마련하기 위해 노력해 왔습니다. 의대생의 휴머니즘 평가에 대한 방법론적 검토(155개 논문에서 보고된 202개의 다양한 평가 포함)에 따르면 휴머니즘 평가는 종종 제한적이며 단일 정량적 측정에 의존하는 것으로 나타났습니다.72 마찬가지로 감성 지능 및 공감 테스트는 아직 예비 단계에 머물러 있습니다.73,74
Recognizing the primacy of critical human skills in medical care, the medical education community has worked to establish valid and reliable means to assess students’, residents’, and faculty members’ competence in skills such as clear communication, empathy, and teamwork. A methodological review of the assessment of humanism in medical students (that involved 202 different assessments reported in 155 articles) indicated that assessing humanism is often limited and reliant on a single quantitative measure.72 Likewise, the testing of emotional intelligence and empathy is still in its preliminary stages.73,74

미국국립시험위원회(NBME)와 협력자들은 소아과 전공의의 전문성 및 기타 중요한 기술을 평가하기 위해 검증된 평가 도구를 개발했습니다.75 NBME는 미국소아과학회 및 소아과 프로그램 디렉터 협회와 협력하여 소아과 마일스톤 평가 협력체(PMAC)를 구성했습니다. 이 협력체의 구성원들은 레지던트에 대한 관찰을 수집하기 위해 테크놀로지 기반 다중 소스 평가 시스템을 개발했으며, 이를 통해 ACGME 마일스톤 달성에 대한 판단을 내릴 수 있습니다. PMAC는 여러 비인지적 기술에 대한 효과적인 종단 평가의 초기 증거를 보여주었으며, 수집된 데이터는 일부 레지던트 프로그램의 임상 역량 위원회에서 교육을 안내하는 데 사용되었습니다.76 다른 많은 레지던트 평가와 달리 PMAC 시스템은 평가자의 응답을 사용하여 실시간으로 평가를 맞춤화하고 평가자에게 제공된 데이터를 기반으로 다양한 질문을 전달하여 신뢰도를 높이고 행정 부담을 줄입니다. 이 작업을 통해 개발된 원칙과 프로세스는 다른 전문 분야와 교육/훈련/실습 연속체의 다른 단계로 일반화할 수 있습니다.
The National Board of Medical Examiners (NBME) and collaborators have developed validated assessment tools to assess professionalism and other critical skills of pediatric residents.75 The NBME partnered with the American Board of Pediatrics and the Association of Pediatric Program Directors to form the Pediatric Milestones Assessment Collaborative (PMAC). The members of the collaborative have developed a system of technology-enabled multisource assessment to collect observations of residents, which, in turn, inform judgments about their achievement of ACGME milestones. PMAC has shown early evidence of effective longitudinal assessment of several noncognitive skills, and data collected have been used by the clinical competence committees of some residency programs to guide education.76 Different from many other residency assessments, the PMAC system uses the assessor’s responses to tailor assessment in real time, delivering different queries based on data provided to the assessor, thus improving reliability and reducing administrative burden. The principles and processes developed during this work may generalize to other specialties and to other stages along the education/training/practice continuum.

미래를 위한 도전 과제
Challenges for the Future

성공이 보장되는 것은 아니지만, 위에서 설명한 발전과 기회는 환자 치료 결과와 환자와 의료진의 치료 경험 모두에서 극적인 개선을 이룰 수 있는 잠재력을 창출합니다. 이 마지막 섹션에서는 미래에 발생할 수 있는 몇 가지 시나리오를 살펴봅니다.  
While success is not guaranteed, the advances and opportunities described above create the potential for dramatic improvements both in patient outcomes and in patients’ and providers’ experience of care delivered. This final section explores some possible scenarios for the future.

기계가 인간을 대체할지에 대한 우려는 여전히 남아 있습니다. 미래 의료에 대한 디스토피아적 관점에서는 환자가 의료 기기와 직접 상호 작용하여 자신의 증상을 NLP 인터페이스에 설명하고, 바이오센서를 통해 객관적인 정보를 제공하며, 진단과 치료를 개발할 알고리즘에 정보를 제공하기 위해 필요에 따라 검체 채취에 동의하는 세상을 상상합니다. 재정적 자원은 이용 가능한 치료의 범위와 개인이 서비스를 쉽게 이용할 수 있는 정도를 모두 결정할 수 있습니다. 
Concerns over whether the machine will replace the human remain. A dystopian view of future medical care envisions a world where patients interact directly with health care appliances, describing their symptoms to an NLP interface, providing objective information via biosensors, and submitting to specimen collection as needed to inform the algorithms that will develop their diagnosis and treatment. Financial resources may determine both the range of available treatments and the ease with which individuals can access services.

이것이 우리의 미래가 될 필요는 없으며, 그렇게 되어서도 안 됩니다. AI 초강대국들에서: 중국, 실리콘밸리, 그리고 새로운 세계 질서에서 카이푸 리는 AI가 "매우 불평등한 사회 전반에 걸쳐 세계적 수준의 의료 지식을 동등하게 보급하고, 모든 의사와 간호사가 기계가 할 수 없는 인간적인 일, 즉 환자를 돌보고 있다고 느끼게 하고 진단이 밝지 않을 때 환자를 위로하는 일에 집중할 수 있게 한다."77 리는 이상적인 미래의 의료 행위는 기계가 최적의 중요한 결정을 내리고 인간은 환자에게 동정, 존중, 경청, 정서적 지원을 제공하는 보다 통합적인 치료 제공으로 구현될 것으로 가정하고 있습니다.의사의 진료 방식은 환자와 환자의 결과55, 그리고 의사와 환자의 웰빙에 중요한 영향을 미칩니다. 기존의 커리큘럼과 평가 프레임워크를 지금 수정하면 환자나 환자의 결과에 대한 진정한 배려 없이 기계적으로 기술에 의존하는 의료 서비스를 제공하는 불만과 불만을 가진 미래의 의사 인력이 늘어나는 것을 방지하는 데 도움이 될 것입니다. 
This need not—and should not—be our future. In AI Super Powers: China, Silicon Valley and the New World Order, Kai-Fu Lee writes that AI “disseminates world class medical knowledge equally throughout highly unequal societies, and lets all doctors and nurses focus on the human tasks that no machine can do: making patients feel cared for and consoling them when the diagnosis isn’t bright.”77 We posit that ideal future medical practice will embody more integrated delivery of care, with the machine enabling optimal critical decision making while the human provides compassion, respect, listening, and emotional support to patients. How physicians care matters to patients and their outcomes55—and to physicians and their well-being. Modifying existing curricular and assessment frameworks now will help prevent the growth of a future workforce of disgruntled, dissatisfied physicians who provide technology-dependent health care mechanically without truly caring for their patients or about their outcomes.

기술 증강 치료와 의학 지식의 평준화 시대에 의과대학 교수진은 지금까지 뛰어난 두뇌와 인지능력을 기준으로 학생들을 입학시켜 왔지만, 이제는 공감 능력, 의사소통 능력, 감성 지능이 뛰어나 인류의 고통을 덜어줄 수 있는 최고의 치료자로 성장할 가능성이 높은 학생들을 선발하고 교육해야 할 것입니다. 의대 교육자와 규제 기관의 과제는 여러 데이터 소스를 활용하여 개인에 대한 풍부하고 다각적인 그림을 그리는 평가 모자이크를 개발하는 것입니다. 이 모자이크는 기술이 통합된 시스템에서도 환자 치료에서 계속 중요한 역할을 하게 될 핵심적인 인간 기술에서 학습자의 역량을 입학 시와 수련 기간 내내 파악할 수 있는 데이터를 안정적으로 제공할 수 있습니다. 실제 환자 치료 환경에 기반하고 실제 환자 치료 환경에 포함된 실제적이고 종단적인 다중 소스 평가는 현재의 시뮬레이션 평가 환경을 보강하고 잠재적으로 대체할 수 있어야 합니다. 
In the era of technology-augmented care and the leveling of medical knowledge, medical school faculty—having so far admitted students based on their brilliance and cognitive abilities—will now need to select and train students with high empathy, communication skills, and emotional intelligence who are likely to blossom into the best healers capable of alleviating human suffering. The challenge for medical educators and regulatory bodies will be to draw from multiple data sources to develop an assessment mosaic: a rich, multifaceted picture of the individual. This mosaic could reliably provide data to discern the competence of learners—upon matriculation and throughout their training—in the critical human skills that will continue to play an important role in patient care, even in a technology-integrated system. Authentic, longitudinal, multisource assessments that are workplace-based and embedded in real patient care encounters will have to augment, and potentially replace, current simulated environments of assessment.

의료계가 AI의 잠재력을 성공적으로 활용하는 동시에 돌보는 의사의 인문학적 발전을 촉진할 수 있다면, 위에서 설명한 디스토피아와는 확연히 다른 미래를 만들 수 있을 것입니다. 밝은 미래에는 환자가 의료 시설이나 자신의 집 등 편안하고 보살핌을 받는 환경에서 의사의 진료를 받고, 진단과 치료 결정은 고화질의 원격 프레젠테이션 기술을 통해 이루어집니다. 의사나 환자는 진료 중 언제든지 AI 아바타의 참여를 요청하여 환자의 전체 건강 기록과 최신 의학 문헌에 대한 지식에 기반한 정보, 조언 또는 의견을 요청할 수 있습니다. 아바타는 대화에 초대받지 않거나 금기 치료 처방과 같이 환자와 의사의 대화에서 개입이 필요한 상황이 발생하지 않는 한 침묵을 유지합니다. AI 시스템은 먼저 진료 중에 교환된 주관적 및 객관적 정보를 의사와 환자가 함께 검토할 수 있도록 서면 기록으로 자동 정리한 다음 의사의 검토 및 승인을 위해 진단 및 치료 초안을 작성합니다. 
If medicine can successfully harness the potential of AI while simultaneously fostering the humanistic development of caring physicians, we will create a future that differs dramatically from the dystopia described above. In our bright future, patients are attended by a physician in a comfortable, nurturing environment that may be a health care facility or their own home; diagnosis and treatment decisions are facilitated by high-fidelity tele-present technology. Either the physician or the patient can invoke the participation of an AI avatar at any point during the encounter to solicit information, advice, or an opinion that is guided and informed by knowledge of both the patient’s full health record and current medical literature. The avatar remains silent unless invited into the interaction, or unless anything in the patient–doctor interaction—such as prescribing a contraindicated treatment—triggers a need for intervention. The AI system, first, automatically organizes the subjective and objective information exchanged during the visit into a written record for shared review by both the physician and the patient, and then drafts diagnoses and treatments for the physician’s review and approval.

의료 면허 당국은 이미 원격 의료 및 면허 규정과 같은 기술로 인한 의료 행위의 변화와 씨름하고 있습니다.78 기술이 통합된 새로운 의료 행위의 시대에 최소한의 진료 역량에 대한 기준의 진화를 고민해야 할 것입니다. 환자와 의료진이 하이테크 하이터치 진료로 전환할 수 있도록 지원하고 가능하게 하는 기술은 의료진과 환자 모두에게 환영받을 것입니다. 인문학적 소양을 갖춘 기술 교육을 받은 의료진이 시행하는 기술 강화 의료를 통해 환자는 양질의 자비로운 치료를 받을 수 있고, 의료진은 본질적으로 인간적인 의료 활동에서 의미와 기쁨을 찾으며 번창할 수 있습니다.
Medical licensing authorities are already grappling with technology-enabled changes in the practice of medicine such as those related to telemedicine and licensure regulations.78 They will have to grapple with the evolution of standards of minimal competence to practice in the new era of technology-integrated medical practice. Technology that enables and supports patients and providers to move to high-tech, high-touch care would be welcomed by health care providers and patients alike. Technology-enhanced medicine practiced by humanistic, technology-trained providers will enable patients to receive high-quality compassionate care while allowing the provider to flourish by finding meaning and joy in this essentially human activity of medical care.


Acad Med. 2021 Jan 1;96(1):37-43. doi: 10.1097/ACM.0000000000003733.

Technology Can Augment, but Not Replace, Critical Human Skills Needed for Patient Care

1J. Alrassi is resident physician, Department of Otolaryngology-Head and Neck Surgery, State University of New York Downstate Health Sciences University, Brooklyn, New York; ORCID: https://orcid.org/0000-0003-4851-1697.

2P.J. Katsufrakis is president and chief executive officer, National Board of Medical Examiners, Philadelphia, Pennsylvania; ORCID: https://orcid.org/0000-0001-9077-9190.

3L. Chandran is executive dean and founding chair, Department of Medical Education, University of Miami Miller School of Medicine, Miami, Florida; ORCID: https://orcid.org/0000-0002-7538-4331.

PMID: 32910005

DOI: 10.1097/ACM.0000000000003733

Abstract

The practice of medicine is changing rapidly as a consequence of electronic health record adoption, new technologies for patient care, disruptive innovations that breakdown professional hierarchies, and evolving societal norms. Collectively, these have resulted in the modification of the physician's role as the gatekeeper for health care, increased shift-based care, and amplified interprofessional team-based care. Technological innovations present opportunities as well as challenges. Artificial intelligence, which has great potential, has already transformed some tasks, particularly those involving image interpretation. Ubiquitous access to information via the Internet by physicians and patients alike presents benefits as well as drawbacks: patients and providers have ready access to virtually all of human knowledge, but some websites are contaminated with misinformation and many people have difficulty differentiating between solid, evidence-based data and untruths. The role of the future physician will shift as complexity in health care increases and as artificial intelligence and other technologies advance. These technological advances demand new skills of physicians; memory and knowledge accumulation will diminish in importance while information management skills will become more important. In parallel, medical educators must enhance their teaching and assessment of critical human skills (e.g., clear communication, empathy) in the delivery of patient care. The authors emphasize the enduring role of critical human skills in safe and effective patient care even as medical practice is increasingly guided by artificial intelligence and related technology, and they suggest new and longitudinal ways of assessing essential noncognitive skills to meet the demands of the future. The authors envision practical and achievable benefits accruing to patients and providers if practitioners leverage technological advancements to facilitate the development of their critical human skills.

인공지능이 의학교육에 갖는 함의 (Lancet Digit Health. 2020)
Implications of artificial intelligence for medical education

Vanessa Rampton 1, Michael Mittelman 2, Jörg Goldhahn 3

 

디지털 헬스1는 의학에 큰 변화를 가져왔지만, 이로 인해 야기되는 문제는 아직 의학교육 전반에 걸쳐 교육과 학습에 통합되지 않았습니다. 이 문제는 의료 디지털화의 구체적인 사례로 논의되는 인공지능(AI) 시스템의 부상이 교육의 근본적인 패러다임 변화와 연관되어 있다는 점에서 더욱 시급한 문제입니다. 20세기 의학교육 모델은 실험 결과가 공인된 표준으로 발전하여 교과서 교육에 영향을 미치는 것에 의존했지만, 오늘날에는 더 이상 이러한 순서가 적용되지 않습니다. 새로운 의료 AI 기술이 개발되고, 임상에 도입되고, 환자들이 사용하는 속도가 빨라지면서 의사들은 아직 일반적으로 받아들여지는 지식의 일부가 되지 않은 실험 기법을 적절히 다룰 수 있는 역량을 갖춰야 합니다. 어떤 치료법이 환자에게 가장 큰 혜택을 줄 수 있는지에 대한 민첩한 교육과 교육받은 추측이 의사들이 [단순히 기술에 반응하지 않고 이러한 기술의 도입을 주도할 수 있도록] 하는 데 매우 중요합니다.  
Although digital health1 has occasioned huge changes for medicine, the issues it provokes have yet to be integrated into teaching and learning across the medical education continuum. This question is all the more pressing given that the rise of artificial intelligence (AI) systems, discussed here as a specific example of healthcare's digitalisation, are associated with a fundamental paradigm shift in teaching. Whereas 20th-century medical education models relied on experimental results evolving into a recognised standard that then informed textbook teaching, today this sequencing no longer holds. The speed at which new health AI technologies are developing, being introduced into clinical practice, and being used by patients requires equipping doctors to deal appropriately with experimental techniques that have not yet become part of a generally accepted body of knowledge. Agile teaching and educated guesswork about which treatments will benefit patients the most are crucial for enabling physicians to lead the introduction of such technologies without simply being forced to react to them. 

당면 과제 중 하나는 기존의 교육 프레임워크를 21세기 현실을 고려하여 현실적으로 업데이트할 수 있는 방법을 모색하는 것입니다. 일반적으로 의학교육자들은 역량 프레임워크를 사용하는데, 이 프레임워크에는 여러 가지 경쟁 모델이 존재하며, 이 중 한 가지 역량은 여러 전문적 역할을 적절히 수행할 수 있는 것으로 간주될 수 있습니다. 엘러웨이에 따르면 이러한 프레임워크는 "이상을 집합적으로 정의하는 일련의 명제와 관계"를 설명하는 이론으로 간주하므로 지속적으로 테스트하고 도전해야 한다고 생각합니다.2 오늘날 의사가 환자의 의료 요구를 적절히 충족하는 데 필요한 다양한 능력은 모두 AI 지원 시스템의 영향을 받습니다.3 
Part of the task at hand is to ask how existing educational frameworks can be realistically updated to take into account 21st-century realities. As a rule, medical educators work with competency frameworks, of which several competing models exist, whereby a competence can be considered the suitable performance of several professional roles. Following Ellaway, we view such frameworks as theories outlining “a series of propositions and relationships that collectively define an ideal”, and therefore consider that they must be continuously tested and challenged.2 Today, the various abilities that physicians require to adequately meet patients' health-care needs are all affected by AI-enabled systems.3 

기술이 앞으로 어떻게 발전할지는 아무도 예측할 수 없지만, 의학은 환자의 웰빙을 증진하고 모든 사람이 적절한 의료 서비스를 이용할 수 있도록 하는 등 [인류 공통의 요구]에 부응합니다.4 한편, 우리는 환자가 자신의 치료와 관련하여 무엇을 원하고 필요로 하는지, 그리고 환자의 선호도가 의학 교육에 어떻게 더 잘 통합될 수 있는지 잘 파악하고 있습니다. 일부 환자 옹호자들이 쓴 것처럼, 여기에는 의학교육자가 환자를 완전한 가치의 파트너로 간주하는 것뿐만 아니라 "의사가 환자가 겪고 있는 일에 진정으로 관심을 갖고 진정으로 돕고 싶어 한다는 것을 느끼는 것"과 "환자의 가치, 희망, 선호도를 완전히 맥락화하고 이해할 수 있는 능력"이 포함됩니다. 5 치료가 환자와 그 가족이 치료에 중요한 역할을 하는 파트너십으로 진화함에 따라 의사는 환자와 협력하여 환자와의 관계를 발전시키고 이해해야 하며, 이는 매우 다양할 수 있는 AI 및 빅 데이터와의 관계를 발전시켜야 합니다. 또한 다양한 배경을 가진 환자와 협력하여 사회 정의 문제와 전문가 시스템 중심의 솔루션에 대한 민감성을 개발해야 합니다.  
No one can predict the future ways in which technology will develop, but medicine serves common human needs, such as promoting patient well-being and making adequate health care available to all.4 Meanwhile, we have a good picture of what patients want and need with regard to their own care, and how their preferences could be better integrated into medical education. As some patient advocates have written, this includes being considered full-value partners by medical educators, as well as “sensing that your doctor truly cares about what you are going through, and really does want to help”, and has the ability to “fully contextualise and appreciate the patient's values, wishes, and preferences”.5 As care has evolved to become more of a partnership, in which patients and their families have a key role to play in their treatment, physicians ought to collaborate with patients to develop and understand the patient's own relationship with AI and big data, which can vary dramatically. Moreover, they must work with patients from different backgrounds to develop sensitivities to problems of social justice and expert systems-driven solutions. 

존경받고 널리 사용되는 도구 중 하나인 캐나다 전문의 의학교육 지침(CanMEDS) 의사 역량 프레임워크는 변화를 위한 실용적이고 효과적인 지렛대라는 장점이 있습니다.6 또한, CanMEDS에 묘사된 많은 역할이 미국의 의학전문대학원 교육 인증위원회(ACGME)와 같은 다른 프레임워크에서 재현되고 있어 우리가 관찰하는 것이 더 중요하다는 것을 강조합니다. 또한 의사소통자, 협력자, 리더, 건강 옹호자, 학자, 전문가, 의료 전문가 등 의사의 역할은 정의상 비기술적non-technical이며, 합리적이거나 객관적인 기준으로 환원할 수 없기not reducible to rational or objective criteria 때문에 [기계에 의해 (완전히) 대체될 위험이 없다는 점]에서 CanMEDS는 매력적인 이론적 프레임워크입니다. 이 중 6개는 개념적으로 사회과학과 인문학에 기반을 두고 있으며, 의료 전문가의 역할은 나머지 6개, 즉 연결성과 함께 속한 것에 대한 지식을 통합하는 것으로, 기계는 부분적으로만 수행할 가능성이 높습니다.7 
By way of illustration, take one respected and widely used instrument, the Canadian Medical Education Directives for Specialists (CanMEDS) Physician Competency Framework, which has the advantage of being a practical and effective lever for change.6 Moreover, many of the roles depicted in CanMEDS are reproduced in other frameworks, such as the Accreditation Council for Graduate Medical Education (ACGME) in the USA, which underscores the broader importance of our observations. CanMEDS is also an appealing theoretical framework because none of the physician roles it describes—communicator, collaborator, leader, health advocate, scholar, professional, and medical expert—are at risk of being (entirely) replaced by machines, because they are non-technical by definition, and not reducible to rational or objective criteria. Of the roles, six are conceptually based in the social sciences and humanities, and the role of medical expert is to integrate the remaining six, that is to have knowledge of connectedness and what belongs together, something machines are likely to accomplish only partially.7 

동시에 AI가 가져온 변화는 모든 의사의 역할에 영향을 미칩니다.8 
At the same time, changes brought about by AI affect all physicians' roles.8

의사 소통자의 역할과 전통적인 의사와 환자의 만남이 "컴퓨터를 진료실에 도입함으로써 삼자 관계로 바뀌었다"는 사실을 고려하십시오.9 의사는 개인 정보 보호에 대한 우려, 권한 박탈, 모든 것을 알고 싶은 욕구 부족을 포함하여 빅 데이터 및 AI 지원 대상에 대한 환자의 다양한 반응을 인정해야 합니다.  
Take the role of communicator, and the fact that the traditional physician–patient encounter has “been altered into a triadic relationship by introducing the computer into the examination room”.9 Physicians need to acknowledge the large variety of patients' responses to big data and AI-supported objects, including concerns regarding privacy, disempowerment, and a lack of desire to know everything 

협력자로서 의사는 의료 AI 기술과 지식의 폭넓은 접근성이 다른 의료 전문직(예: 심리학자, 물리치료사, 간호사)은 물론 환자들에게도 힘을 실어준다empowers는 사실을 받아들이고 이를 바탕으로 배타적 지식 보유자로서의 의사의 기존 지위에 의문을 제기하도록 교육받아야 합니다
As a collaborator, physicians should be taught to accept and build on the fact that health AI technology and the wider accessibility of knowledge empowers some other health professions (eg, psychologists, physiotherapists, and nurses), as well as patients themselves, questioning physicians' previous status as holders of exclusive knowledge. 

리더로서 의사는 환자와 협력하여 AI 기술을 투명하고 책임감 있게 구현하고, 디지털 기술을 개발하고 옹호하는 것에 대해 상업적 및 기타 이해관계를 명확히 하는 문화에 기여해야 합니다. 
As a leader, physicians must work with patients to make the implementation of AI technologies transparent and accountable, contributing to a culture that makes explicit the commercial and other interests of those developing and advocating for digital technologies. 

건강 옹호자로서 의사는 환자 및 취약 계층과 협력하여 로봇 간병인과 같은 전문가 시스템의 사용이 권한이 부여된 선택인지 아니면 더 광범위한 사회경제적 접근 문제와 관련이 있는지를 확인할 수 있습니다. 이러한 환경에서 보다 다양한 팀을 옹호함으로써 교육과 임상 실습을 개선해야 하며, 이러한 팀은 AI 솔루션이 더 큰 시스템적 문제를 가리는 사례를 더 잘 식별할 수 있기 때문입니다.  
As a health advocate, physicians can work with patients and disadvantaged groups to establish whether the use of expert systems—such as robot carers—is an empowered choice or rather related to broader socioeconomic access problems. They ought to improve education and clinical practice by advocating for more diverse teams in those settings, as these are better able to identify instances in which AI solutions mask larger systemic problems. 

학자로서 의사는 디지털 리터러시 향상과 AI, 수학적 모델링, 의사 결정 이론 등에 대한 지속적인 학습을 통해 이점을 얻을 수 있습니다. 이는 데이터의 편향성에 대한 인식, 그리고 이러한 편향성이 AI 모델이 객관적이고 중립적인 결과를 도출할 수 있다는 주장을 어떻게 약화시키는지에 대한 인식과 관련이 있습니다. 의사는 질병의 주관적인 측면을 포함하여 다양한 현실과 지식의 종류를 더 잘 이해하기 위해 환자 학자들의 연구를 활용해야 합니다.  
As a scholar, physicians will benefit from improved digital literacy and continuous learning about AI, mathematical modelling, decision theory, and so on. This is linked to an awareness of biases in data, and how these undermine any claims about how AI models are able to produce objective, neutral results. They should draw on the work of patient scholars to understand better different realities and kinds of knowledge, including the subjective aspect of illness. 

전문직으로서 의사는 공학, 데이터 및 정보 과학의 도구를 자신의 기술에 통합해야 하는 직업 정체성의 근본적인 변화를 받아들여야 합니다. 한편, 의사는 e헬스 진료가 환자에게 도움이 되는지 여부에 대한 최종 결정권은 환자에게 있으며, 의사는 환자의 결정을 지원하는 데 필요한 지침과 조언을 제공할 책임이 있다는 점도 인정해야 합니다. 
As a professional, physicians should accept a fundamental change in professional identity which requires them to incorporate tools from engineering, data, and information sciences into their skill sets. Meanwhile, physicians should also acknowledge that patients have the final say in whether an eHealth practice benefits them, whereas physicians have a responsibility to provide the necessary guidance and advice to support patients' decisions. 

의료 전문가로서 의사는 환자와 협력하여 통합 지식의 중요성, 즉 함께 속한 것, 사회적 관계, 질병이 환자의 삶과 어떻게 관련되어 있는지에 대한 (기계가 접근할 수 없는) 지식을 창출하고 해석할 수 있어야 합니다.10 
As medical experts, physicians must be able to work together with patients to create and translate the importance of integrated knowledge, that is knowledge of what belongs together, social relationships, and how illness relates to a patient's life, something that is inaccessible to machines.10 

AI 의료 기술의 급증으로 가장 큰 혜택을 받는 것은 환자임을 확인하는 것은 앞으로 몇 년 동안 핵심 과제로 남을 것이며, 의사의 디지털 리터러시를 개선하고 환자의 관점을 더 잘 통합하는 의학교육의 새로운 접근 방식이 중요해질 것입니다. AI 기반 혁신에는 일반적으로 느리고 점진적으로 임상 진료에 대한 근거 기반의 표준을 생성하는 기존 모델을 뛰어넘는 것이 포함되기 때문에 이러한 접근 방식이 더욱 필요합니다. 즉, 환자의 희망사항은 AI 기술이 환자의 건강과 웰빙에 어떻게 기여할지 예측하는 데 중요한 척도가 됩니다. 
Making sure that it is patients who benefit the most from the surge of AI health technology will remain a key challenge in years to come, and new approaches in medical education that improve the digital literacy of physicians and better integrate patients' views will be crucial. This is all the more necessary since AI-driven transformations involve going beyond previously accepted models of the usually slow and gradual process of generating evidence-based gold standards for clinical practice. In turn, this means that patients' wishes are a crucial measure for anticipating how AI technologies contribute to their health and well-being. 


Lancet Digit Health. 2020 Mar;2(3):e111-e112. doi: 10.1016/S2589-7500(20)30023-6.

 

 

Implications of artificial intelligence for medical education

Affiliations collapse

1McGill University, Institute for Health and Social Policy & Department of Philosophy, Montreal, Quebec H3A 1A3, Canada. Electronic address: vanessa.rampton@mcgill.ca.

2American Living Organ Donor Fund, Philadelphia, PA 19103, USA.

3Institute for Translational Medicine, ETH Zurich, Switzerland.

PMID: 33328081

DOI: 10.1016/S2589-7500(20)30023-6

 

 

의학교육은 정보시대에서 인공지능시대로 옮겨가야 한다(Acad Med, 2018)
Medical Education Must Move From the Information Age to the Age of Artificial Intelligence
Steven A. Wartman, MD, PhD, and C. Donald Combs, PhD

 

 

윌리엄 오슬러는 의학은 불확실성의 과학이자 확률의 예술이라고 말한 것으로 알려져 있습니다. 하지만 오늘날 이 오랜 관점은 도전받지는 않더라도 개선되고 있습니다. 의료계의 변화하는 모습과 의사들이 현대 의료 현장에 보다 효과적으로 진입할 수 있도록 하는 의학교육 개혁은 백서와 뉴스 기사에서 자주 등장하는 주제입니다. 일반적인 개혁 주제에는 커뮤니케이션, 팀워크, 위험 관리 및 환자 안전에 대한 새로운 강조가 포함됩니다. 이러한 개혁은 중요하지만 충분하지 않다고 생각합니다. 가장 근본적인 변화, 즉 정보화 시대에서 인공지능 시대로 빠르게 전환되고 있는 의료계의 현실을 해결하는 데 더 많은 관심을 기울여야 합니다. 이러한 변화의 결과는 심대하며 학부 의학교육 프로그램의 개혁을 요구합니다. 이러한 개편의 기본 원칙은 학생들이 "정보"와 "인공 지능"의 차이를 이해하고 관리해야 한다는 것입니다. 
William Osler is reported to have said that medicine is a science of uncertainty and an art of probability. Yet today, this time-honored perspective is being refined, if not challenged. The changing state of the medical profession and the medical education reforms that will enable physicians to more effectively enter contemporary practice are frequent topics of white papers and news stories. Common reform themes include a renewed emphasis on communication, teamwork, risk management, and patient safety. We believe that these reforms are important but insufficient. More attention needs to be given to addressing the most fundamental change of all—the practice of medicine is rapidly transitioning from the information age to the age of artificial intelligence. The consequences of this transition are profound and demand the reformulation of undergraduate medical education programs. A fundamental principle of this reformulation is that students must understand and manage the difference between “information” and “artificial intelligence.”

정보 대 인공 지능
Information Versus Artificial Intelligence

정보 시대(대략 1970년대부터 2010년대 기계 학습 도구가 등장하기 전까지)에는 정확하고 시의적절하며, 목적에 맞게 구체적이고 체계적으로 정리되고, 의미와 관련성을 부여하는 맥락 내에서 제시된 데이터를 사용하여 이해도를 높이고 불확실성을 줄이는 것이 특징이었습니다.1 이 시기 의사의 주요 과제는 [유효성을 판단]하고, [사용 가능한 정보를 효과적으로 사용하는 방법을 찾는 것]이었습니다. 
The information age (roughly from the 1970s to the emergence of machine learning tools during the 2010s) featured the use of data that were accurate and timely, specific and organized for a purpose, and presented within a context that gave them meaning and relevance, as well as led to an increase in understanding and decrease in uncertainty.1 The primary challenges for physicians during this time were determining validity and how to effectively use the available information.

인공 지능(또는 컴퓨터가 인간의 인지를 모방하는 것)은 한때 미래적인 비전으로만 여겨졌습니다. 이제 컴퓨터나 컴퓨터로 제어되는 로봇이 지능적인 존재와 관련된 작업을 수행하는 능력은 널리 받아들여지고 있습니다. 더 중요한 것은 "인공 지능"이라는 용어가 [추론, 의미 발견, 일반화 및 경험으로부터 학습하는 능력]과 같은 인간의 특징적인 지적 과정을 부여받은 시스템의 개발에 적용된다는 점입니다.2 인공 지능의 응용 프로그램을 사용한 데이터 조작은 의학교육에 중요한 영향을 미칩니다. 암기 위주의 현행 커리큘럼은 점점 더 다양한 출처의 정보를 효과적으로 통합하고 활용할 수 있는 역량을 가르치는 커리큘럼으로 전환해야 합니다.
Artificial intelligence—or the mimicking of human cognition by computers—was once only a futuristic vision. Now, the ability of a computer or a computer-controlled robot to perform tasks commonly associated with intelligent beings is widely accepted. More important, the term “artificial intelligence” applies to the development of systems that are endowed with the intellectual processes characteristic of humans, such as the ability to reason, discover meaning, generalize, and/or learn from experience.2 The manipulation of data using applications of artificial intelligence has significant implications for medical education. The current, largely memorization-based curriculum must transition to one that teaches competence in the effective integration and utilization of information from a growing array of sources.

예를 들어, 인체 안팎에서 사용 가능한 센서의 수와 유형이 기하급수적으로 증가하고 개인 및 조직 정보 인프라에 연결되는 것을 관리하는 것은 인공지능 시대에 떠오르는 과제 중 하나에 불과합니다. 의사와 환자 모두가 이용할 수 있는 대규모 데이터 모음, 점점 더 정교해지는 머신러닝(예: 왓슨 및 알파고) 사용, 의사와 환자 간의 지식 격차 축소 등 빅 데이터 사용의 의미는 현재의 의료 교육 모델에도 상당한 도전 과제를 안겨주고 있습니다. 의사가 신뢰할 수 있는 인공지능 기반의 의사결정 지원 소프트웨어를 사용하든, (병원, 환자 가정 또는 인체 내에) 배치된 로봇을 관리하든, 의사는 이 새로운 패러다임에 대한 교육을 받아야 할 것입니다. 
For example, managing the exponential growth in the number and type of available sensors, both within and outside the human body, and their connectivity to personal and organizational information infrastructures, is just one of the challenges emerging in the age of artificial intelligence. The implications of using big data, including large compilations of data that are available to both physicians and their patients, increasingly sophisticated uses of machine learning (e.g., Watson and Alpha Go), and the narrowing of the knowledge differential between physicians and patients, also pose substantial challenges to the current medical education model. Whether physicians use decision support software based on reliable artificial intelligence or manage robots deployed in hospitals, patients’ homes, or within the human body, they will need to be educated in this new paradigm.

20세기에 주로 집중된 의학교육 개혁
Medical Education Reform Has Largely Focused on the 20th Century

재단과 정부 기관이 자금을 지원하는 국가 보고서의 연구 결과를 바탕으로 의학교육을 개혁하려는 노력은 1910년 아브라함 플렉스너의 보고서 이후 일상화되어 몇 년마다 발표되고 있습니다. 미국의사협회는 2000년부터 2015년까지 의학교육 개혁을 촉구하는 국가 보고서가 15건 발표되었다고 언급했습니다.3 이러한 개혁안은 만성 질환 관리 및 진료 조정, 시스템 기반 진료, 진료 기반 개선, 효과적인 커뮤니케이션 등 이전에 확인된 개혁 분야와 많은 부분이 일치합니다. 전통, 인증 문제, 변화에 대한 교수진의 저항, 학생들이 국가 시험에서 좋은 성적을 거둘 수 있도록 준비시켜야 할 필요성 등이 일반적으로 필요한 개혁을 방해하는 주요 요인으로 간주됩니다. 미국의학협회의 수잔 스코첼락은 다음과 같이 주장합니다:

  • "[이러한 개혁에서] 빠진 것은 의료 서비스 전달의 과학입니다. 만성 질환을 어떻게 관리할까요? 예방과 건강에 어떻게 집중하나요? 어떻게 팀으로 일할 것인가?"3 

Efforts to reform medical education, largely based on the findings in national reports funded by foundations and government agencies, have become routine and have been rolled out every few years since Abraham Flexner’s 1910 report. The American Medical Association noted that from 2000 to 2015 there were 15 national reports calling for medical education reform.3 These proposed reforms paralleled many of the previously identified areas for reform, including the management of chronic conditions and care coordination, systems-based practice, practice-based improvement, and effective communication. Tradition, accreditation concerns, faculty resistance to change, and the need to prepare students to perform well on national board exams are generally considered the major factors impeding needed reform. Susan Skochelak of the American Medical Association argued:

  • “What’s been missing [from these reforms] is the science of health-care delivery. How do you manage chronic disease? How do you focus on prevention and wellness? How do you work in a team?”3

2016년 강연에서 워트먼은 의학교육의 "재부팅"을 주장하면서 현재 확인된 많은 개혁이 21세기 의학교육에 필요하지만 충분하지 않다고 지적했습니다.4 그는 또한 의학교육 개혁의 실적을 보면 의미 있는 변화를 받아들이는 데 더딘 산업을 묘사한다고 지적했습니다. 21세기형 의료 기술을 습득하기 위해서는 의학교육의 보다 근본적인 변화가 필요하다고 생각합니다. "한 번 보고, 한 번 하고, 한 번 가르친다"는 격언이 과거 의사의 임상 술기 학습 방식을 특징지었을지 모르지만, 이제 교육이 효과적이려면 모든 수준의 학습자가 자신의 성과를 표준과 비교하고 역량을 갖출 때까지 계속 연습할 기회를 가져야 한다는 것이 분명해졌습니다.5 의료의 질 저하와 지속 불가능한 비용 증가로 고민하는 리더, 외부 이해관계자, 대중의 압박으로, 의사들은 학습 목표를 보다 나은 치료 제공 및 책무성 강화 조치와 더욱 긴밀하게 연계하는 이니셔티브를 설계하는 데 더 엄격한 과제에 직면해 있습니다.6
In a 2016 lecture, Wartman advocated a “reboot” of medical education, noting that many of the current reforms that have been identified are necessary but not sufficient for 21st-century medical education.4 He also noted that the track record of medical education reform depicts an industry that is slow to adopt meaningful change. The acquisition of 21st-century skills for medical practice requires, in our opinion, a more radical transformation of medical education. Although the dictum “see one, do one, teach one” may have characterized the way physicians learned clinical skills in the past, it is now clear that, for training to be effective, learners at all levels must have the opportunity to compare their performance against a standard and to continue to practice until competence is achieved.5 Pressed by their leaders, external stakeholders, and a public troubled by lapses in quality of care and unsustainable cost increases, physicians are facing stiffer challenges in designing initiatives that more closely link the goals of learning with both the delivery of better care and measures of greater accountability.6

고용주들은 학부, 대학원 및 평생 의학 교육을 더욱 긴밀하게 통합해야 한다는 설득력 있는 주장을 펼치고 있습니다. 이들은 면허를 취득한 후 다른 의료 팀원들과 함께 일하고, 의료 전문직과 치료 연속체를 아우르는 지식을 갖추고, 스마트폰, 소셜 미디어 및 기타 장치를 사용하여 데이터 플랫폼을 활용하고, 고객 서비스를 포함한 결과 분석과 성과 개선에 집중하는 의사를 필요로 합니다.7 
Employers are making a compelling case for a tighter integration of undergraduate, graduate, and continuing medical education. They need physicians who work at the top of their license with other members of the health care team; have knowledge that spans the breadth of the health professions and care continuum; leverage data platforms by using smartphones, social media, and other devices; and focus on analyzing outcomes and improving performance, including customer service.7

의학교육의 의미 있는 변화에 대해 아브라함 플렉스너만큼 큰 소리로 환호하는 사람은 없을 것입니다. 변화에 대한 유연성과 자유, 그리고 변화의 의무는 그의 메시지의 일부였습니다. 그는 의심할 여지없이 오늘날 필요한 의학교육의 근본적인 구조조정을 지지할 것입니다. 그렇다면 문제는 다음과 같습니다:

  • 20세기의 지배적인 모델에서 21세기의 새로운 과제, 특히 빅데이터와 인공 지능의 전문 진료 분야 적용 증가에 대응할 수 있는 의학교육으로 어떻게 개혁할 수 있을까요? 

No one would cheer more loudly for meaningful change in medical education than Abraham Flexner. The flexibility and freedom to change—indeed, the mandate to do so—were part of his message. He would undoubtedly support the fundamental restructuring of medical education that is needed today. So, the question becomes:

  • How do we reform medical education from the dominant 20th-century model into one that can address the emerging challenges of the 21st century, especially the increasing application of big data and artificial intelligence in professional practice?

21세기를 위한 의학교육 리부트
A Medical Education Reboot for the 21st Century

우리는 의학교육 재부팅의 토대는 미래의 의료 행위가 [의사, 다른 의료 전문가, 기계(소프트웨어와 하드웨어 모두 포함), 환자] 간의 명백한 파트너십이 될 것이라는 공동체의 인식에 있다고 믿습니다. 미래의 의료 행위는 의사의 기본 규칙을 변화시키는 네 가지 특징을 갖게 될 것입니다.
We believe that the foundation for a medical education reboot lies in the community’s recognition that future medical practice will be an explicit partnership among physicians, other health care professionals, machines (which includes both software and hardware), and patients. Future medical practice will have four characteristics that change the ground rules for physicians.

첫째, 다양한 장소에서 진료가 제공될 것입니다. 기술은 환자와 함께, 그리고 환자 내부로 이동하며 지속적인 데이터 흐름을 제공할 것입니다. 대용량 데이터 저장 및 처리 인프라에 실시간으로 더 쉽게 액세스할 수 있게 될 것입니다. 환자, 보험사, 규제 당국은 편의성과 입증 가능한 결과를 요구할 것입니다.
First, care will be provided in many locations. Technology will move with and inside patients, providing a continuous flow of data. Large data storing and processing infrastructures will become more readily accessible in real time. Patients, insurers, and regulators will insist on convenience and demonstrable results.

둘째, 의료 서비스는 새롭게 구성된 의료팀에 의해 제공될 것입니다. [신성하게 여겨져왔던 일대일 의사-환자 관계]는 환자와 여러 의료 제공자(예: 간호사, 사회복지사, 물리 및 작업 치료사, 케어 매니저, 가정 건강 보조원, 사회적 지원 그룹, 가족, 아직 정의되지 않은 새로운 종류의 의료 제공자)와의 관계로 대체될 것이며, 환자의 거주지와는 무관하게 이루어집니다. 의사나 팀 리더 역할을 하는 다른 사람들은 팀 치료에서 최대한의 가치를 얻는 방법을 배워야 합니다. 이를 위해서는 새로운 진료 방식에 맞춰 팀원들의 진료 범위를 신중하게 재설계해야 할 것입니다. 그 결과 현재의 면허 제약에 대한 도전과 수정이 이루어질 것으로 예상됩니다.
Second, care will be provided by newly constituted health care teams. The sacrosanct one-to-one doctor–patient relationship will be replaced by patient relationships with multiple health providers (e.g., nurses, social workers, physical and occupational therapists, care managers, home health aides, social support groups, family members, and new kinds of health care providers yet to be defined, without regard to where patients live). Physicians or others who serve as team leaders will need to learn how to gain the most value from team care. Such practice will necessitate the careful redesign of the scopes of practice of team members to align with new practice modalities. As a result, we believe that current licensure constraints will be challenged and modified.

셋째, 다양한 출처의 데이터, 접근 가능한 대규모 데이터 세트, 인공 지능을 기반으로 진료가 제공될 것입니다. 방대한 메타 데이터 세트에 대한 기계 기반 분석의 통합이 환자 치료의 표준이 되어 각 환자를 지속적으로 모니터링할 수 있게 될 것입니다. 데이터를 관리하고 방대한 양의 정보에 대한 유효한 평가를 제공하기 위해 새로운 해석 및 기능적 진료 인프라가 시간이 지남에 따라 개발될 것입니다. 의사는 환자와 그 가족, 기계, 점점 더 다양해지는 의료 전문가들의 복잡한 교차점 속에서 의사결정이 이루어지는 환경에서 진료를 하게 될 것입니다.
Third, care will be delivered based on a growing array of data from multiple sources, accessible large data sets, and artificial intelligence. The incorporation of machine-based analysis of huge meta-data sets will become standard for patient care, leading to continuous monitoring of each patient. A new interpretive and functional practice infrastructure will be developed over time both to manage the data and to provide valid assessments of the expanding volume of information. Physicians will practice in an environment where decision making takes place within the complex intersection of patients and their families, machines, and an expanding variety of health professionals.

넷째, 마지막으로 의학과 기계 간의 인터페이스를 능숙하게 관리해야 할 것입니다. 기계는 많은 분야에서 더 많은 것을 알게 되고 전통적으로 의사가 수행하던 더 많은 작업을 수행할 수 있게 될 것입니다. 따라서 돌봄제공자는 기계가 점점 더 인지적, 육체적으로 인간을 능가할 것이라는 사실을 받아들여야 합니다.
Fourth, and finally, the interface between medicine and machines will need to be skillfully managed. Machines will know more in many areas and be able to perform more tasks that traditionally have been performed by physicians. Thus, caregivers will need to come to terms with the fact that devices increasingly will outperform humans, both cognitively and physically.

미래 실무에 필요한 기술
Necessary Skills for Future Practice

인지 심리학의 연구 결과를 더 잘 활용하고, 교육에서 인간과 기계를 더 긴밀하게 연계하며, 치료 전달에 기계를 통합하고 환자를 치료의 적극적인 협력자로 보는 데 초점을 맞춘 시뮬레이션을 강화하는 등 인공지능 시대로 이동함에 따라 새로운 기술과 전문성이 요구될 것입니다.
New skills and expertise will be required as we move to an age of artificial intelligence, including better use of the findings of cognitive psychology, closer alignment of humans and machines in education, and enhanced use of simulations focused on the integration of machines in care delivery and on patients as active collaborators in their care.

인지 심리학은 사실과 개념이 사용될 맥락에서 가르치고, 연습하고, 평가할 때 가장 잘 기억되고 활용된다는 사실을 입증했습니다. 임상 전문 지식에 대한 수십 년간의 연구를 통해 징후와 증상을 평가하고, 진단 검사를 선택 및 해석하고, 데이터를 종합하여 임상 평가 및 치료 계획을 개발하는 의사의 사고가 밝혀졌습니다.8 한 관찰자는 "기술이 변화하고 데이터 안개가 짙어짐에 따라 교육 표준을 새로 고치고, 개선하고, 개선해야 합니다."9 
Cognitive psychology has demonstrated that facts and concepts are best recalled and put into service when they are taught, practiced, and assessed in the context in which they will be used. Several decades of research on clinical expertise have elucidated the thinking of physicians as they evaluate signs and symptoms, select and interpret diagnostic tests, and synthesize data to develop clinical assessments and care plans.8 As noted by one observer, “Educational standards need to be refreshed, refined and improved as technology changes and the data fog thickens.”9

생물의학에 대한 근본적인 이해와 임상 지식 및 실무 전문 지식과의 상호 연결성이 의학교육의 중심이 되어야 한다는 데에는 이견이 없습니다. 그러나 21세기 커리큘럼에는 인공지능이 지원하는 풍부한 데이터 환경에서 의사가 보다 정밀하게 진료할 수 있는 역량을 강화하는 요소도 포함되어야 합니다. 한 가지 예로, 학습자는 의사 결정의 맥락에서 빅 데이터에 노출되어야 합니다. 학습자는 빅데이터의 네 가지 V에 대한 확실한 이해를 키워야 합니다.

  • 볼륨(과거의 데이터 양에 비해 오늘날의 데이터 양은 방대함),
  • 다양성(데이터는 다양한 유효성을 가진 다양한 소스에서 제공됨),
  • 속도(데이터는 매우 빠르게 생성되고 있으며 그 속도가 증가하고 있음),
  • 진실성(생성되는 데이터의 품질을 평가해야 함)

There is no disagreement that a fundamental understanding of the biomedical sciences and their interconnectedness with clinical knowledge and expertise in practice should remain central to medical education. However, the 21st-century curriculum also should include components to strengthen physicians’ capacity to practice with more precision in a data-rich environment supported by artificial intelligence. As one example, learners must be exposed to big data in the context of decision making. They must develop a solid understanding of the four Vs of big data:

  • volume (the amount of data today is vast compared with the amount in the past);
  • variety (data come from many different sources of varying validity);
  • velocity (data are being generated very fast, and momentum is increasing); and
  • veracity (the quality of the data being generated needs to be assessed).

또한 학습자는 인공 지능 애플리케이션을 통해 의료 서비스 제공에서 데이터가 어떻게 집계, 분석되고 궁극적으로 개인화되는지에 대한 기본적인 이해를 개발해야 합니다. 또한 의사 결정 지원 소프트웨어, 로봇 또는 보다 정교한 소셜 미디어 애플리케이션에 구현된 다양한 애플리케이션을 관리하는 방법에 대해 폭넓게 생각할 수 있어야 합니다. 양과 벨트리10는 "가장 중요한 과제는 의료 데이터를 정밀 의학, 예방 의학, 예측 모델링을 위한 부가 가치로 변환하는 방법입니다."라고 지적했습니다. 
Learners also will need to develop a basic understanding of how data are being aggregated, analyzed, and ultimately personalized in health care delivery through artificial intelligence applications. They will need to be able to think broadly about how to manage the variety of applications, whether embodied in decision support software, robots, or more sophisticated social media applications. As Yang and Veltri10 noted, “The most critical challenge is how we can transform the health care data into additional values for precision medicine, preventive medicine, and predictive modeling.”

결론
Conclusion

의대생들이 인공지능 애플리케이션으로 변화된 의료 환경에서 성공적으로 실습할 수 있도록 가르치는 방법은 오늘날 커리큘럼 개혁의 중심이 되어야 합니다. 이를 위해서는 인증 기관의 전폭적인 지원이 필요합니다.

  • 혁신과 실험에 기꺼이 개방적이고, 
  • 학생들의 미래 진료와 무관한 사실 기반 암기와 임상 실습에 중점을 두는 기존 모델을 훨씬 뛰어넘을 수 있도록

미래의 의대 졸업생들이 면허를 취득하고 가치 기반 재정 시스템에 적응하려면 새로운 방식의 평생 교육에 참여해야 합니다. 이들은 다음을 강화해야 할 것입니다.

  • 진료 연속체 전반에 걸쳐 의료 전문가의 역량에 대한 확실한 이해를 통합
  • 전문 진료에서 팀워크를 강화
  • 정보 플랫폼 및 인텔리전스 도구에 대한 편안한 지식을 보유
  • 고객 서비스 기술을 강화
  • 성과와 결과를 개선하기 위해 정보 및 인텔리전스의 효과적인 사용

이러한 전문적 특성의 토대는 학부 의학교육 커리큘럼에 포함되어야 합니다.
How to teach medical students to practice successfully in a health care environment transformed by artificial intelligence applications should be a central focus of curricular reform today. It requires the whole-hearted support of accreditors who are

  • willing to be more open to innovation and experimentation and
  • able to move far beyond the old model with its emphasis on fact-based memorization and clinical clerkships that are often unrelated to students’ future practice.

Future medical school graduates will need to participate in new modalities of lifelong education if they are to perform at the top of their license and adapt to a value-based financing system. They will need to

  • incorporate a solid understanding of the capabilities of health professionals across the care continuum,
  • enhance teamwork in their professional practice,
  • possess a comfortable knowledge of information platforms and intelligence tools,
  • strengthen their customer service skills, and
  • reinforce the effective use of information and intelligence to improve performance and outcomes.

The foundation for these professional attributes must be embedded in undergraduate medical education curricula.

또한 커리큘럼 전반에 걸쳐 두 가지 추가 기술(새로운 기술, 기존 기술)을 강조하고 전달해야 합니다. 

  • 첫 번째는 의사가 데이터 플랫폼에서 생성된 확률의 의를 인간 특유의 복잡성에 직면한 환자에게 전달할 수 있는 능력을 향상시키는 통계적 전문 지식을 습득하는 것입니다.
  • 두 번째는 진정으로 자비로운 의료인이 되기 위한 지속적인 교육과 평가이며, 이는 의학이 점점 더 첨단화되는 상황에서 간과해서는 안 되는 부분입니다.

Two additional skills, one new, one old, also must be emphasized and carried throughout the curriculum.

  • The first is the mastering of statistical expertise that enhances the ability of the physician to communicate the meaning of the probabilities generated by data platforms to patients in the face of their uniquely human complexity.
  • The second involves constant training and evaluation toward being a truly compassionate provider, something that must not be overlooked as medicine becomes increasingly high tech.

즉, 의학교육은 기초적인 생의학 및 임상 과학을 넘어 새로운 진단 및 치료 트렌드에 대한 최신 정보를 제공해야 합니다. 다양한 의료 전문가들 간의 전문적 노력의 조직화, 기계 학습 및 로봇과 같은 정보 및 인텔리전스 도구의 사용, 성과 및 결과 개선에 대한 끊임없는 집중, 환자와의 자비로운 소통의 숙달을 보장하는 체계적인 커리큘럼으로 발전해야 합니다.
In other words, medical education will need to move beyond the foundational biomedical and clinical sciences and updates on emerging diagnostic and therapeutic trends. It will need to evolve to include systematic curricular attention to the organization of professional effort among a variety of health professionals, the use of information and intelligence tools such as machine learning and robots, a relentless focus on improving performance and outcomes, and ensuring the mastery of compassionate communication with patients.


 

Acad Med. 2018 Aug;93(8):1107-1109. doi: 10.1097/ACM.0000000000002044.

Medical Education Must Move From the Information Age to the Age of Artificial Intelligence

1S.A. Wartman is president and CEO, Association of Academic Health Centers, Washington, DC. C.D. Combs is vice president and dean, School of Health Professions, Eastern Virginia Medical School, Norfolk, Virginia.

PMID: 29095704

DOI: 10.1097/ACM.0000000000002044

Abstract

Noteworthy changes coming to the practice of medicine require significant medical education reforms. While proposals for such reforms abound, they are insufficient because they do not adequately address the most fundamental change-the practice of medicine is rapidly transitioning from the information age to the age of artificial intelligence. Increasingly, future medical practice will be characterized by: the delivery of care wherever the patient happens to be; the provision of care by newly constituted health care teams; the use of a growing array of data from multiple sources and artificial intelligence applications; and the skillful management of the interface between medicine and machines. To be effective in this environment, physicians must work at the top of their license, have knowledge spanning the health professions and care continuum, effectively leverage data platforms, focus on analyzing outcomes and improving performance, and communicate the meaning of the probabilities generated by massive amounts of data to patients, given their unique human complexities. The authors believe that a "reboot" of medical education is required that makes better use of the findings of cognitive psychology and pays more attention to the alignment of humans and machines in education and practice. Medical education needs to move beyond the foundational biomedical and clinical sciences. Systematic curricular attention must focus on the organization of professional effort among health professionals, the use of intelligence tools involving large data sets, and machine learning and robots, all the while assuring the mastery of compassionate care.

사회적 책무성 프레임워크와 그것이 의학교육과 프로그램 평가에 갖는 함의: 내러티브 리뷰(Acad Med, 2020)
Social Accountability Frameworks and Their Implications for Medical Education and Program Evaluation: A Narrative Review 
Cassandra Barber, MA, Cees van der Vleuten, PhD, Jimmie Leppink, PhD, and Saad Chahine, PhD

 

의과대학이 봉사하고자 하는 인구에 대한 사회적 책무성을 다해야 한다는 국제적인 요구가 계속 제기되어 왔습니다. 사회적 책무성은 많은 교육기관이 추구하는 이상이지만, 이를 측정하는 것은 전 세계적인 과제로 남아 있습니다. 투명성과 책임성에 대한 사회적 요구가 증가함에 따라 의과대학은 사회적 책무성에 대한 더 강력한 증거를 제시해야 한다는 압박에 직면해 있습니다.1,2 
There have been repeated international calls for medical schools to be socially accountable to the populations they intend to serve. While social accountability is an ideal that many institutions strive toward, measuring it remains a global challenge. With increasing societal demands for greater transparency and accountability, medical schools face growing pressures to produce stronger evidence of their social accountability.1,2

1995년 세계보건기구(WHO)는 사회적 책무성을 다음과 같이 정의했습니다: 
In 1995, the World Health Organization (WHO) defined social accountability as:

[의과대학은 교육, 연구 및 봉사 활동을 그들이 봉사해야 하는 지역사회, 지역 및 국가의 우선적인 건강 문제를 해결하는 방향으로 이끌어야 할 의무가 있습니다. 우선적 건강 요구는 정부, 의료 기관, 의료 전문가 및 대중이 공동으로 파악해야 합니다.3 
[T]he obligation of medical schools to direct their education, research and service activities towards addressing the priority health concerns of the community, region, and/or the nation they have a mandate to serve. The priority health needs are to be identified jointly by governments, healthcare organizations, health professionals and the public.3

그 이후로 사회적 책무성에 관한 문헌이 확대되고 이니셔티브의 수가 증가했습니다.4,5 많은 의과대학이 사명 선언문, 프로그램 목표 및 전략 계획에 사회적 책무성 정책을 포함시켰으며 일부 조직은 공식 인증 절차에 포함시켰습니다.5 그러나 증가하는 관심에도 불구하고 사회적 책무성이 측정 가능한 속성으로 운영되는 방법은 여전히 불분명하여 사회적 책무성을 객관적으로 평가하기 어렵습니다.6 
Since then, the literature surrounding social accountability has expanded and the number of initiatives has multiplied.4,5 Many medical schools have embedded social accountability policies in their mission statements, program objectives, and strategic plans, and some organizations have included them in formal accreditation processes.5 Yet despite the growing interest, how social accountability is operationalized into measurable attributes remains elusive, making social accountability difficult to evaluate objectively.6

의과대학의 사회적 책무성 평가를 지원하기 위해 다양한 정책과 프레임워크가 마련되었지만, 사회적 책무성 원칙, 지표 및 매개변수에 대한 설명은 주로 개념적인 수준에 머물러 있습니다. 위의 WHO의 사회적 책무성 정의는 의학교육의 세 가지 영역(교육, 연구, 봉사 활동)을 포괄하며, 이 검토에서는 교육 영역에 대해 다룹니다. 이 검토의 목적은 프로그램 평가 모델을 조직적 프레임워크로 사용하여 대규모 사회적 책무성 프레임워크 전반에서 공통 주제와 지표를 식별하고 문서화하는 것입니다. 이는 의학교육의 사회적 책무성을 평가하는 데 필요한 초기 운영 구조의 개발을 촉진하기 위한 것입니다.  
Although various policies and frameworks have been established to assist medical schools in the evaluation of social accountability, their descriptions of socially accountable principles, indicators, and parameters remain predominately conceptual in nature. The WHO’s social accountability definition, above, encompasses the 3 domains of medical education (education, research, and service activities), and this review addresses the educational domain. The purpose of this review is to identify and document common themes and indicators across large-scale social accountability frameworks, using a program evaluation model as an organizational framework. It is intended to facilitate the development of initial operational constructs needed to evaluate social accountability in medical education.

배경
Background

설명하다(account)라는 동사에서 파생된 책무성은 가장 단순한 형태의 답변성, 즉 자신의 행동에 대해 설명하고 책임을 져야 하는 의무를 의미합니다.7,8 교육에서 책무성은 기관의 효과성(즉, 기관이 목표를 얼마나 잘 달성했는지)을 평가하는 시스템으로 기능하여 기관이 결과에 대한 책임을 지고 교육 개선을 촉진합니다.9-12 이 시스템은 교육 기관이 자신의 행동에 대해 사회에 답변해야 하는 책임감, 투명성 및 공공 신뢰를 의미합니다.13,14 다양한 형태의 책임성은 존재하지만 모두 다음의 근본적인 질문을 다루고 있습니다:

  • 누가, 무엇에 대해, 누구에게, 어떤 수단을 통해 책임을 져야 하는가?7,10,15

Derived from the verb account, accountability in its simplest form means answerability, the obligation to provide an account and be held responsible for one’s actions.7,8 In education, accountability functions as a system to evaluate institutional effectiveness (i.e., how well institutions meet their goals), holding institutions responsible for results and promoting educational improvement.9–12 This system implies a sense of responsibility, transparency, and public trust, whereby educational institutions are obligated to answer to society for their actions.13,14 While many forms of accountability exist, they all address the following fundamental questions:

  • Who is held to account, for what, to whom, and through what means?7,10,15

모든 의과대학은 이러한 의무를 인정하거나 해결하기로 선택했는지 여부에 관계없이 대중에 대해 책임을 집니다.3 보건의료 전문직 교육 프로그램과 미래의 보건의료 인력을 준비하는 모든 교육기관은 다음에 대해 책임을 집니다. 

  • 의료계,
  • 대중(환자, 가족, 지역사회, 사회),
  • 교육 결과물(졸업생, 봉사 활동, 연구 활동),
  • 미래의 보건의료 수요

책임의 한 형태인 사회적 책무성은 의과대학이 지역사회의 변화하는 공공 의료 수요에 대응할 준비가 된 유능한 졸업생을 배출해야 한다는 점에서 암묵적, 명시적, 예상되는 것입니다.16-20 
All medical schools are accountable to the public, regardless of whether they choose to acknowledge or address this obligation.3 Health professions education programs and any educational institutions responsible for preparing the future health care workforce are accountable to

  • the medical profession;
  • the public (patients, families, communities, and society);
  • their educational products (graduates, service activities, and research activities); and
  • future health care needs.

As a form of accountability, social accountability is implicit, explicit, and anticipated, in that medical schools must produce competent graduates prepared to respond to the changing public health care needs within their local communities.16–20

의료계는 사회로부터 일정한 책임과 특권을 부여받았습니다. 의과대학은 법률, 규제 및 인가를 통해 사회의 요구를 충족할 준비가 된 유능한 의사를 배출하도록 위임받았습니다.21,22 이러한 사회적 역할은 의사와 사회 간의 본질적인 사회적 계약을 의미하는 큰 책임을 수반합니다.23 이러한 사회적 계약은 특히 의학교육이 정부 자금으로 지원되는 국가에서 더욱 강화됩니다. 그 결과, 의과대학은 긍정적인 사회적 환원에 대한 증거를 제공해야 한다는 사회적 압력에 직면해 있습니다.3,16 사회적 책무성은 의학과 사회 사이에 존재하는 전방위적인 사회적 계약을 나타냅니다.24-31 
The medical profession has been granted certain responsibilities and privileges by society. Through legislation, regulation, and accreditation, medical schools are entrusted to produce competent physicians who are prepared to meet the needs of society.21,22 This social role carries great responsibilities, signifying the intrinsic social contract between physicians and society.23 This social contract is specifically amplified in countries where medical education is government funded. As a result, medical schools face increasing societal pressures to provide evidence of a positive social return.3,16 Social accountability represents an omnipresent social contract that exists between medicine and society.24–31

일반적으로 사회적 책무성이란 기업이 자신의 행동, 행위 및 성과에 대해 봉사하고자 하는 사회에 대한 헌신을 의미합니다.32 WHO의 사회적 책무성에 대한 정의는 국제적으로 가장 널리 받아들여지고 있습니다. 2010년에 의과대학의 사회적 책무성에 대한 글로벌 컨센서스는 이 정의를 재확인하면서 사회적 책무성이 측정 가능한 활동임을 강조했습니다: 
Broadly, social accountability implies an entity’s commitment to the society it is intended to serve for its actions, conduct, and performance.32 The WHO’s definition of social accountability remains the most widely accepted internationally. In 2010, the Global Consensus for Social Accountability of Medical Schools reaffirmed this definition, emphasizing that social accountability is a measurable activity:

주요 이해관계자, 정책 입안자, 의료기관, 의료보험 제공자, 의료 전문가 및 시민사회와 협력하면서 사회의 현재 및 미래 건강 요구와 도전에 대응하기 위한 행동입니다.19 
[A]n action to respond to current and future health needs and challenges in society while working collaboratively with key stakeholders; policy-makers; healthcare organizations; health-insurance providers, health professionals and civil society.19

광범위한 책임성 문헌에서 책임성이라는 용어는 종종 개념적 우산13,33,34 으로 불리며 신뢰, 신뢰성 또는 투명성의 이미지를 묘사하기 위해 책임성, 답변 가능성 또는 효과성과 상호 교환적으로 사용됩니다. 그러나 의학교육 문헌에서 책임성, 책임감, 응답성이라는 용어는 동일하지 않습니다. 이들 간의 차이점은 Boelen과 Woollard의 사회적 의무 척도에 명확하게 정의되어 있습니다.32 이 분류법은 사회적 책무성을 달성하기 위한 선형적 진행을 나타냅니다:

  • 책임성이란 "사회의 요구에 부응해야 할 의무를 인식하는 상태"를 의미합니다; 
  • 반응성은 "사회의 요구에 반응하는 행동 과정"을 의미합니다. 
  • 책무성은 프로그램이 공중 보건에 긍정적인 영향을 미치기 위해 주요 이해관계자들과 협력하면서 사회의 우선적인 보건의료 요구선제적으로 충족한다는 증거를 제공하는 "측정 가능한 활동"을 의미합니다.32  

Within the broader accountability literature, the term accountability is often referred to as a conceptual umbrella13,33,34 and used interchangeably with responsibility, answerability, or effectiveness to portray an image of trust, trustworthiness, or transparency. However, in the medical education literature, the terms accountable, responsible, and responsive are not equivalent. Differences between them are clearly defined within Boelen and Woollard’s social obligation scale.32 Their taxonomy represents a linear progression toward achieving social accountability: 

  • responsibility refers to a “state of awareness of duties to respond to society’s needs”; 
  • responsiveness refers to “a course of action addressing society’s needs”; and 
  • accountability represents a “measurable activity” to provide evidence that programs proactively meet the priority health care needs of society while working alongside key stakeholders to positively impact public health.32 

방법
Method

프로그램 평가 모델은 사회 정책, 프로그램 및 개입에 대한 포괄적인 평가를 제공하기 위해 여러 분야에서 널리 사용됩니다.35-39 우리는 프로그램 평가 모델을 조직적 프레임워크와 체계화된 프로세스로 사용하여 대규모 사회적 책무성 프레임워크와 저널 논문 및 의학교육 문헌의 기타 문서를 검토하는 내러티브 검토40를 수행했습니다. 그런 다음 질적 접근법을 사용하여 핵심 개념을 종합했습니다.  
Program evaluation models are widely used in multiple fields to provide comprehensive evaluations of social policies, programs, and interventions.35–39 We conducted a narrative review40 using a program evaluation model as an organizational framework and a systematized process to review large-scale social accountability frameworks as well as journal articles and other documents from the medical education literature. We then synthesized key concepts using a qualitative approach.

조직 프레임워크
Organizational framework

우리는 사회적 책무성의 복잡한 요구, 지표, 결과를 체계적으로 파악하기 위한 평가 도구로 스터플빔의 맥락-입력-과정-산출물(CIPP) 모델을 선택했습니다.35 교육의 책무성을 높이기 위해 1960년대에 처음 개념화된 이 프로그램 평가 모델은 국제적으로 사용되는 책무성 모델이며 의학 교육에서 널리 수용되고 있습니다.35-37 그림 1에 표시된 대로 CIPP 모델은 프로그램 개선 및 책무성을 위한 방법으로 평가를 사용합니다. 이 모델은 상호 관련된 4개의 구성요소로 구성되어 있으며 평가 모델 전체에서 사용되는 지속적인 질 개선 피드백 루프를 통합합니다.35,36,38 
We selected Stufflebeam’s context–input–process–product (CIPP) model as the assessment tool to systematically identify social accountability complex needs, indicators, and outcomes.35 First conceptualized in the 1960s to provide greater accountability in education, this program evaluation model is an internationally used accountability model and widely accepted in medical education.35–37 As depicted in Figure 1, the CIPP model uses evaluation as a method for program improvement and accountability. It consists of 4 interrelated components and incorporates continuous quality improvement feedback loops to be used throughout the evaluation model.35,36,38

CIPP 모델에서35-37 

  • 맥락배경을 의미하며, 교육 기관의 요구, 목표 및 기회를 파악하는 데 사용되는 요구 평가이다
  • 투입은 교육기관이 효과적으로 기능하는 데 필요한 물적 및 인적 자원을 의미합니다. 투입은 프로그램 목표와 목적을 달성하는 데 필요한 적절한 행동 방침을 결정하는 데 사용됩니다. 
  • 프로세스는 프로그램 실행을 가이드하는 데 사용됩니다. 
  • 산출은 학생 학습의 질과 개인 및 사회에 대한 유용성을 나타냅니다. 산출은 결과를 측정하는 데 사용됩니다. 이후 CIPP 모델에서는 프로그램의 영향력, 효과성, 지속가능성, 전달성을 평가하기 위해 산출 구성요소를 4개의 하위 구성요소로 나누었습니다.36,38

CIPP 모델은 역동적이며 교육을 생산 기능으로 간주하여 교육 투입물이 교육 산출물로 전환되는 방식으로 접근합니다. 각 구성 요소는 독립적으로 평가할 수 있지만, 어떤 지표도 프로그램 성과를 절대적으로 나타내는 것은 아닙니다.36,38
In the CIPP model,35–37

  • Context refers to background—a needs assessment used to help identify needs, objectives, and/or opportunities of an educational institution. 
  • Inputs refer to material and human resources needed for effective functioning of an educational institution. Inputs are used to determine the appropriate course of action(s) required to achieve program goals and objectives. 
  • Processes are used to guide the implementation of a program. 
  • Products refer to the quality of student learning and its usefulness for the individual and for society. Products are used to measure outcomes. In later iterations of the CIPP model, the product component was divided into 4 subcomponents to assess a program’s impact, effectiveness, sustainability, and transportability.36,38 

The CIPP model is dynamic and views education as a production function, whereby educational inputs are transformed to educational outputs. While each component can be evaluated independently, no indicator independently represents an absolute measure of program performance.36,38

선택 및 검색 기준
Selection and search criteria

반복적인 프로세스를 사용하여 5개의 전자 서지 데이터베이스 및 플랫폼(PubMed, Embase, ERIC, Web of Science, Google Scholar)과 광범위한 월드 와이드 웹(Google 사용)에서 의학교육에 적용 가능한 사회적 책무성 프레임워크와 동료 평가 저널 논문 및 문서를 검색했습니다. 이러한 검색은 영어 문서로 제한되었습니다. 검색은 2018년 10월에 처음 수행된 후 2019년 3월 31일에 최신 문서를 포함하기 위해 반복되었습니다. 검색 전략에 사용된 키워드에는 사회적 책무성 또는 책임, 사회적 책무성 또는 책임, 사회 정책 등이 포함되었습니다. 이러한 단어는 의학교육, 의과대학, 의료 수련 프로그램, 보건 전문직 교육 주제 제목 용어와 함께 검색되었습니다. 데이터베이스 검색 전략 샘플은 부록 디지털 부록 1에 제공됩니다.  
Using an iterative process, we searched 5 electronic bibliographic databases and platforms (PubMed, Embase, ERIC, Web of Science, and Google Scholar) as well as the broader World Wide Web (using Google) for social accountability frameworks and peer-reviewed journal articles and documents applicable to medical education. These searches were limited to English-language documents. The searches were first conducted in October 2018 and then repeated on March 31, 2019, to include any more recent documents. Keywords used in the search strategies included social accountability OR responsibility, socially accountable OR responsible, and social policies. These words were searched in combination with medical education, medical schools, medical training programs, and health professions education subject heading terms. A sample database search strategy is provided in Supplemental Digital Appendix 1 at https://links.lww.com/ACADMED/B24.

포함 및 제외 기준
Inclusion and exclusion criteria

저희는 의과대학의 사회적 책무성에 초점을 맞추었습니다. 1990년(사회적 책무성이라는 용어가 의학교육 문헌에 명시적으로 등장한 시기)부터 2019년 3월까지 출판된 주요 영어 정책 프레임워크와 동료 검토 문서가 포함 대상에 포함되었습니다. 사회적 책무성 프레임워크에 대해 논의하지 않은 문서는 제외되었습니다. 검색에서 확인된 모든 문서는 연구팀의 포함 여부 검토 과정을 거쳤습니다. 저자 중 두 명(C.B., S.C.)이 검색에서 확인된 모든 문서를 선별했습니다. 전체 연구팀은 수시로 만나 문서를 검토하고 자격 요건에 관한 합의를 도출했습니다. 의과대학이 사회적 책무를 다하기 위해 노력할 수 있는 기본 가치, 원칙 및/또는 매개변수를 나타내고 사회적 책무를 개념화하기 위해 후속 논문에서 사용된 주요 출처의 사회적 책무 프레임워크가 검토에 포함되었습니다. 하위 프레임워크 및/또는 프로그램 또는 기관별 문서는 이전에 확립된 프레임워크를 기반으로 구축되어 일반화 가능성이 부족할 수 있으므로 제외되었습니다. 
Our focus was social accountability in medical schools. Key English-language policy frameworks and peer-reviewed documents published from 1990 (when the term social accountability explicitly emerged within the medical education literature) through March 2019 were eligible for inclusion. Documents that did not discuss social accountability frameworks were excluded. All documents identified in the searches underwent an inclusion review process by the research team. Two of the authors (C.B. and S.C.) screened all documents identified in the searches. The full research team met frequently to review the documents and come to consensus regarding eligibility requirements. Primary source social accountability frameworks which represented the foundational values, principles, and/or parameters of the attributes medical schools can strive toward to fulfill their social mandate and which were used in subsequent papers to conceptualize social accountability were included in the review. Subframeworks and/or program- or institution-specific documents were excluded as these built upon previously established frameworks and could lack generalizability.

분석
Analysis

주제별 종합41-44은 포함된 사회적 책무성 프레임워크 전반에 걸쳐 공통 요소와 고유 요소를 설명하는 데 사용되었습니다. 주제 종합은 귀납적 접근법을 사용하여 텍스트를 체계적으로 코딩하여 주제를 생성하는 것입니다.43,44 3단계 분석 프로세스는

  • 텍스트의 줄별 코딩으로 시작하여,
  • CIPP 모델의 4가지 차원을 조직적 프레임워크로 사용하여 특성화한 설명적 주제를 개발한 다음
  • 분석적 주제를 생성하는 것으로 이어집니다.

저자 중 두 명(C.B. 및 S.C.)이 포함된 문서를 독립적으로 코딩했습니다. 결과물은 두 명의 코더가 검토하고 코딩의 정확성과 포괄성을 보장하기 위해 합의에 도달할 때까지 연구팀 내에서 논의했습니다. 
Thematic synthesis41–44 was used to describe common and unique elements across the included social accountability frameworks. Thematic synthesis involves the systematic coding of text using an inductive approach to generate themes.43,44 The 3-stage analytical process starts with

  • line-by-line coding of text;
  • followed by the development of descriptive themes, which we characterized using the 4 dimensions of the CIPP model as an organizational framework; and
  • then the generation of analytical themes.

Two of the authors (C.B. and S.C.) coded the included documents independently. Resulting themes were reviewed by the 2 coders and discussed within the research team until consensus was reached to ensure coding accuracy and inclusivity.

결과
Results

33개의 초기 샘플 문서3,16,18-20,23,44-70에서 4개의 주요 대규모 사회적 책무성 정책 프레임워크3,16,18,19를 선정하여 검토에 포함시켰습니다(선정된 프레임워크의 개요는 표 1 참조). 이 4개의 주요 출처 문서는 의학교육에서 사회적 책무성의 기본 가치, 원칙 또는 매개변수를 나타냅니다. 또한 이 문서들은 모두 사회적 책무성을 개념화하기 위한 후속 논문에서 많이 인용되고 사용되었습니다. 또한 건강 형평성을 위한 교육 네트워크 평가 프레임워크47 및 다양한 기관별 교육, 연구, 서비스 활동의 정보로도 사용되었습니다. 
From the initial sample of 33 documents,3,16,18–20,23,44–70 we selected 4 key large-scale social accountability policy frameworks3,16,18,19 for inclusion in the review (see Table 1 for an overview of the selected frameworks). These 4 primary source documents represent the foundational values, principles, and/or parameters of social accountability in medical education. Additionally, these documents have all been highly cited and used in subsequent papers to conceptualize social accountability. They were also used to inform the Training for Health Equity Network evaluation framework47 as well as various institution-specific education, research, and service activities.


이러한 프레임워크에는 지역, 국가 및 국제 수준에서 사회적 책무성에 대한 정책, 정의, 적용 및 평가가 포함됩니다.71 이러한 프레임워크는 조금씩 다르지만 모두 [사회적 책무성을 입증하는 데 사용할 수 있는 특성]을 설명합니다. 공통점으로는

  • 지역 공중보건 수요에 대응하고,
  • 주요 이해관계자와 협력하여 기존 및 향후 사회적 공중보건 수요를 파악하고,
  • 주변 지역사회에 봉사하고,
  • 의사 부족 문제를 해결하고,
  • 지역 인구통계와 지리를 반영하여 입학 과정 내 다양성을 높이고,
  • 유능한 의료 전문가를 배출하고,
  • 교육과정에 우선적 보건 수요를 반영하는 것 등이 있습니다.3,16,18,19 

These frameworks include policy, definition, application, and evaluation of social accountability at the local, national, and international levels.71 Although these frameworks differ slightly, they all describe characteristics that can be used toward demonstrating social accountability. Commonalities include

  • responding to local public health needs;
  • working alongside key stakeholders in identifying existing and forthcoming societal public health needs;
  • servicing surrounding communities;
  • addressing physician shortages;
  • increasing diversity within the admissions process to reflect local demographics and geography;
  • producing competent medical professionals; and
  • ensuring the curriculum reflects priority health needs.3,16,18,19

주제별 종합에서는 공유 가치를 포함한 6가지 주제와 CIPP 평가 모델과 관련된 5가지 지표를 확인했습니다.

  • 맥락(프로그램 목표),
  • 투입물(활동),
  • 과정(활동),
  • 결과물(기관의 산출물/결과),
  • 사회 보건에 미치는 영향

영향 평가는 CIPP 모델에서 제품 평가의 하위 구성 요소이지만, 의학교육의 사회적 책무성이 실무에 미치는 영향과 공중 보건 개선에 중점을 두는 점을 고려하여 분석에서 영향 평가를 별도의 주제로 다루었습니다. 또한 아래 설명과 그림 2에 표시된 것처럼 각 테마 내에서 하위 주제를 식별했습니다. 주제와 하위 주제를 설명하기 위한 인용문은 표 2에 나와 있습니다. 
Our thematic synthesis identified 6 themes, including shared values and 5 indicators as they relate to the CIPP evaluation model:

  • context (program objectives),
  • inputs (actions),
  • processes (activities),
  • products (institutional outputs/outcomes), and
  • impacts on societal health.

While impact evaluation is a subcomponent of product evaluation in the CIPP model, given the emphasis of social accountability in medical education on impact in practice and improvement in public health, we treated impacts as a separate theme in our analysis. Additionally, we identified subthemes within each theme, as described below and depicted in Figure 2. A selection of quotes to illustrate the themes and subthemes is provided in Table 2.

 

공유 가치
Shared values

4개의 프레임워크는 모두 4가지 핵심 사회적 가치(관련성, 품질, 효과성, 형평성)를 강조합니다.3,16,18,19 이러한 광범위한 가치는 CIPP 모델의 모든 구성 요소에 걸쳐 있습니다. 일반적으로 핵심 사회적 가치는 맥락(프로그램 목표), 투입물(행동), 프로세스(활동), 결과물(기관의 산출물/결과)에 정보를 제공하기 위한 사회적 책무성의 개념적 이상과 잘 의도된 속성을 나타냅니다. 이는 행동 지향적이며 사회적 요구의 파악에 기반을 두고 있습니다. 이는 교육, 연구 및 서비스 전반에 걸쳐 의학교육 프로그램 활동을 안내하기 위한 것입니다.18 
All 4 frameworks emphasized the 4 core social values (relevance, quality, effectiveness, and equity).3,16,18,19 These far-reaching values extend across all components of the CIPP model. Generally, the core social values refer to the conceptual ideals and well-intended attributes of social accountability intended to inform context (program objectives), inputs (actions), processes (activities), and products (institutional outputs/outcomes). They are action oriented and grounded in the identification of societal needs. They are intended to guide medical education program activities in education, research, and service across the training continuum.18

핵심 사회적 가치는 의과대학이 사회적 책무성에 대한 진전을 평가하는 데 도움을 주기 위해 1995년 WHO3 에 의해 처음 개념화되었으며, 이후 후속 프레임워크에서 적용되었습니다.16,18-20,23,44-70

  • 관련성은 의학교육 프로그램이 교육, 연구 및 봉사 활동에서 체계적인 접근법을 사용하여 인구, 지역사회 또는 국가의 우선적인 건강 요구 또는 우려를 해결한다는 것을 의미합니다.3,16,18,19
  • 근거에 기반하고 포괄적이며 문화적으로 민감최상의 진료를 개인에게 제공하는 것을 말합니다.3,16,18,19
  • 효과성은 보건의료 자원(비용)을 활용하고, 자원을 최대한 활용하면서 공중보건에 가장 큰 영향을 미치는 것을 말합니다.3,16,18,19
  • 형평성보편적 접근성을 의미하며 모든 개인이 양질의 보건의료에 접근할 수 있도록 노력하는 것을 말합니다.3,16,18,19 

The core social values were originally conceptualized in 1995 by the WHO3 as a means to help medical schools evaluate their progress in addressing social accountability and have since been adapted by subsequent frameworks.16,18–20,23,44–70

  • Relevance implies that a medical education program addresses priority health needs or concerns of the population, community, or nation using a systematic approach in education, research, and service activities.3,16,18,19
  • Quality refers to providing individuals with the best possible care that is evidence based, comprehensive, and culturally sensitive.3,16,18,19
  • Effectiveness refers to the utilization of health care resources (costs) and ensuring that the greatest impact on public health is achieved while making the best use of resources.3,16,18,19
  • Equity refers to universal access and striving to ensure that all individuals have access to quality health care.3,16,18,19

이러한 핵심 사회적 가치들 간의 상호관계는 "지역사회 또는 국가의 필요와 관련이 있고, 비용 효율적이며, 공평한 양질의 진료를 제공하는 의료 시스템을 구축"하겠다는 보편적인 사회적 약속을 나타냅니다.3 교육, 연구, 봉사 및 보건 정책에서 의과대학 활동은 이러한 필요를 반영해야 하며, 인구의 우선적인 건강 요구와 관련되고, 이에 대응하며, 예측해야 합니다.3,16,18,19 
The interrelationship between these core social values represents a universal social commitment to “building a health care system that is relevant to the needs of the community or nation and provides high-quality care that is cost-effective and equitable.”3 Medical school activities in education, research, and service as well as health policies must be reflective of these needs—they must relate to, respond to, and anticipate priority health needs of the population.3,16,18,19

핵심 사회적 가치에 더하여, 포함된 3개의 프레임워크16,18,19 는 전문직업성의 가치와 윤리, 팀워크, 문화적 역량, 리더십, 의사소통, 평생 학습, 근거 기반 실천 등의 역량을 강조했습니다. 캐나다의 맥락에서는 학문적 자유와 임상 자율성의 가치도 강조되었습니다.16 
In addition to the core social values, 3 of the included frameworks16,18,19 emphasized the value of professionalism as well as the following competencies: ethics, teamwork, cultural competence, leadership, communication, lifelong learning, and evidence-based practice. In the Canadian context, the values of academic freedom and clinical autonomy were also highlighted.16

CIPP 모델
CIPP model

맥락.
Context.

맥락은 CIPP 모델의 첫 번째 구성 요소입니다. 프레임워크 전반에 걸쳐 반복적으로 등장하는 하위 주제에는 사명 선언문, 지역사회 파트너십, 보건의료 정책에 대한 적극적인 기여가 포함됩니다. 
Context is the first component in the CIPP model. Recurring subthemes that emerged across the frameworks included mission statements, community partnerships, and active contributions to health care policy.

[기관 또는 프로그램 사명 선언문, 의무, 정책, 목적 및 목표]는 사회적 책무성의 핵심 사회적 가치와 사회적 건강 요구 충족에 대한 명시적 약속을 반영해야 합니다.3,16,18,19 이러한 선언문은 공개적으로 게시하고 일반 대중이 쉽게 접근할 수 있도록 해야 합니다.16 또한 의과대학의 사명 선언문과 교육, 연구, 봉사 활동의 내용과 맥락의 특수성은 해당 기관이 서비스를 제공하는 지역사회 및 국가의 현재 및 예상되는 우선적 건강 요구 또는 관심사에 영감을 받고 이에 부합해야 합니다.3,19 이러한 사명 선언문은 요구 평가의 역할을 하며 기관의 교육, 연구, 봉사 활동이 사회에 대한 사회적 의무와 헌신을 입증하도록 안내하기 위한 것입니다.3 
Institutional or program mission statements, mandates, policies, objectives, and/or goals must reflect the core social values of social accountability and the explicit commitment to meeting societal health needs.3,16,18,19 These statements should be posted publicly and made easily accessible to the general population.16 Additionally, the content and context specificity of a medical school’s mission statement and activities in education, research, and service should be inspired by and aligned with the current and anticipated priority health needs or concerns of the community and/or nation the institution serves.3,19 These mission statements serve as needs assessments and are intended to guide institutions’ education, research, and service activities to demonstrate their social obligation and commitment to society.3

지역 보건 시스템 및 기타 이해관계자들과 효과적인 지역사회 파트너십을 개발하는 것도 중요합니다.3,16,18,19 의과대학은 다른 이해관계자들과 협력하여 우선순위를 설정하고 현재 및 미래의 보건 요구를 파악하면 그 효과를 개선할 가능성이 더 높습니다.18 지역사회는 모든 의과대학의 주요 이해관계자 역할을 합니다.19 따라서 학교는 보건의료 정책, 계획, 재정을 담당하는 지역 이해관계자들과 협력하여 우선순위 건강 요구와 최적의 환자 치료에 필요한 서비스 및 자원을 파악하는 것이 필수적입니다.3,16,18,19 관련 보건의료 기관, 전문가 그룹, 정부, 소비자, 시민사회와의 파트너십은 보건 계획, 정책 개발, 보건의료 전달 및 평가에 대한 공동 작업을 촉진하고 장려할 수 있습니다.16 
Developing effective community partnerships with local health systems as well as other stakeholders is also important.3,16,18,19 Medical schools are more likely to improve their effectiveness if they work collaboratively with other stakeholders to establish priorities and identify current and future health needs.18 The local community serves as the primary stakeholder of all medical schools.19 Therefore, it is imperative that schools work in partnership with local stakeholders responsible for health care policy, planning, and finance to identify priority health needs as well as services and resources required for optimal patient care.3,16,18,19 Partnerships with affiliated health care organizations, professional groups, governments, consumers, and civil society could facilitate and encourage shared work on health planning, policy development, health care delivery, and evaluation.16

의료 교육 프로그램도 보건의료 시스템을 형성하는 데 중요한 역할을 합니다. 지역사회 파트너십은 의과대학이 보건의료 정책에 적극적으로 기여할 수 있는 수단이 될 것입니다.3,16,18,19 의과대학은 변화의 촉매제 역할을 하고 보건의료 계획 및 전달, 정책 개발의 지속 가능성과 평가에 적극적으로 기여해야 합니다.16 
Medical education programs also play an important role in shaping the health care system. Community partnerships would serve as a means for medical schools to actively contribute to health care policy.3,16,18,19 Medical schools should act as catalysts of change and actively contribute to the sustainability and evaluation of health care planning and delivery, and policy development.16

입력.
Inputs.

인풋은 목표한 목표를 달성하기 위해 프로그램에서 취하는 조치입니다. 이러한 행동은 기관/프로그램의 의무와 사명 선언문에 의해 동기가 부여되며, 사회적 책무성의 핵심 사회적 가치를 반영합니다. 프레임워크 전반의 하위 주제에는 다음이 포함됩니다. 

  • 모집 및 선발(학생, 교수진, 교직원)의 다양성 및 형평성,
  • 지역사회 인구 건강 프로필

Inputs are actions taken by programs to meet targeted goals. These actions are motivated by institution/program mandates and mission statements, and they reflect the core social values of social accountability. Subthemes across frameworks included

  • diversity and equity in recruitment and selection (students, faculty, and staff) and
  • community population health profiles.

두 가지 프레임워크는 학생 모집 및 선발에서 다양성과 형평성의 중요성을 강조했습니다.18,19 핵심 사회적 가치와 사명 선언문에 포함된 사회적 약속을 이행하기 위해 의과대학은 모집 및 선발 정책을 조정하여 지원자의 다양성을 높여 소외된 인구와 취약 계층을 포함해야 합니다.18 학생들은 인종 및 민족, 가시적 소수 또는 원주민 신분, 사회경제적 지위, 성별 및 성적 지향, 종교를 포함한 일반 인구의 인구통계를 반영하고 농촌 및 소외된 지역사회 등 기타 취약 계층의 특성을 반영해야 합니다.19 또한 학교는 사회적 약자 지원자에게 동등한 기회를 보장하기 위해 지원 메커니즘(예: 재정 지원, 상담 서비스)뿐만 아니라 소외 계층을 위한 전략적 파이프라인 또는 할당제를 시행해야 합니다.19 의과대학은 또한 의학, 의료 서비스 전달 및 사회과학 부서의 교수진이 커리큘럼과 프로그램 의사 결정에 대표성을 갖고 참여하도록 해야 합니다.18 마지막으로 의과대학은 WHO 보고서에서 권고한 대로 일반의로서 진료할 가능성이 더 높은 학생을 입학시켜야 합니다.3 
Two frameworks emphasized the importance of diversity and equity in the recruitment and selection of students.18,19 To meet the social commitments embedded within the core social values and mission statements, medical schools must adapt their recruitment and selection policies to increase the diversity of accepted applicants to include individuals from underrepresented populations and disadvantaged groups.18 Students should reflect the demographics of the general population—including race and ethnicity, visible minority or indigenous status, socioeconomic status, gender and sexual orientation, and religious affiliation—and reflect other disadvantaged groups, such as rural and underserved communities.19 Additionally, schools should implement strategic pipelines and/or quotas for underrepresented groups as well as support mechanisms (e.g., financial aid, counseling services) to ensure equal opportunities for socially disadvantaged applicants.19 Medical schools should also ensure that faculty from medicine, health service delivery, and social science divisions are represented and involved in the curriculum and in programmatic decision making.18 Lastly, medical schools should matriculate students who are more likely to practice as generalists, as recommended by the WHO report.3

세 가지 프레임워크의 또 다른 핵심 주제는 의과대학이 대상 지역사회 또는 국가의 서비스 격차뿐만 아니라 인구 요구를 파악해야 한다는 것입니다.3,18,19 학교는 잘 정의된 인구 건강 연구와 포괄적인 지역사회 인구 건강 프로필 개발을 통해 이러한 요구를 파악하기 시작할 수 있습니다.3,18 이러한 프로필에는 지역사회의 사회 인구학적 및 지정학적 구성과 인구 건강 위험, 건강의 사회적 결정 요인, 서비스 접근 장벽이 반영되어야 합니다. 
Another central theme in 3 frameworks was the need for medical schools to identify population needs as well as service gaps of a targeted community and/or nation.3,18,19 Schools can begin to identify these needs through well-defined population health research and the development of a comprehensive community population health profile.3,18 These profiles must reflect the community’s sociodemographic and geopolitical composition as well as population health risks, social determinants of health, and barriers to accessing services.

프로세스.
Processes.

과정에는 교육 활동의 전체 스펙트럼이 포함됩니다.

  • 커리큘럼 내용 및 구조,
  • 교수법,
  • 지역사회 기반 임상 교육 기회 및 지역 인구와 의료 서비스 소외 지역에 대한 학습 노출,
  • 학습 평가,
  • 지속적인 전문성 개발,
  • 평가 시스템 등 

Processes include the entire spectrum of educational activities:

  • curricular content and structure;
  • teaching methods;
  • community-based clinical training opportunities and learning exposures to local populations and underserviced areas;
  • learning assessments;
  • continuing professional development; and
  • evaluation systems.

프레임워크 전반에 걸쳐 반복적으로 등장하는 하위 주제에는 다음이 포함되었습니다. 

  • 커리큘럼 활동
  • 지역사회 기반 임상 교육 기회 및 학습 노출

Recurring subthemes that emerged across frameworks included

  • curricular activities as well as
  • community-based clinical training opportunities and learning exposures.

의과대학은 우선순위 공중보건 요구를 해결하는 방향으로 교과과정 활동을 진행해야 합니다.3,16,18,19 교과과정 내용과 구조는 학생 중심 패러다임으로 접근해야 하며, 건강의 사회적 결정요인, 공중보건 위험, 인구, 지역사회, 국가의 지정학적, 사회인구학적, 역학적 특수성을 포함해야 합니다.3,19 또한 학교의 교과과정 활동은 강력한 지속적인 전문성 개발 프로그램을 통해 결함 학생, 졸업생, 직원에게 평생 학습 기회를 지원해야 합니다.16,18 
Medical schools must direct their curricular activities toward addressing priority public health needs.3,16,18,19 Curricular content and structure should be approached using a student-centered paradigm and must include the social determinants of health; public health risks; and the geopolitical, sociodemographic, and epidemiological specificities of a population, community, and/or nation.3,19 Additionally, schools’ curricular activities should support lifelong learning opportunities for faulty, graduates, and staff through the availability of robust continuing professional development programs.16,18

지역사회 기반 임상 교육 기회와 학습 노출인구 접근법을 사용하여 설계되어야 합니다.3,19 의과대학은 일차 진료를 장려하고 일차 진료 실습에 대한 학습 기회와 노출을 제공해야 합니다.3,16,19 또한 학교는 지역사회의 건강 요구와 관련된 종단적 지역사회 기반 학습 경험을 제공해야 합니다.3,19 마지막으로 학교는 농촌 의료 환경에서 학습 기회를 제공하고 불우하고 소외된 그룹에 노출되도록 해야 합니다.3,19 
Community-based clinical training opportunities and learning exposures should be designed using a population approach.3,19 Medical schools should promote primary care and provide learning opportunities and exposure to primary care practices.3,16,19 Additionally, schools should provide longitudinal community-based learning experiences that are relevant to the community’s health needs.3,19 Lastly, schools should provide learning opportunities in rural health care settings as well as exposure to disadvantaged and underserved groups.3,19

제품.
Products.

제품 평가는 프로그램 졸업생들의 유용성을 의미합니다. 프레임워크 전반에 걸쳐 반복적으로 등장하는 하위 주제에는 다음이 포함되었습니다. 

  • 의사 자원 계획,
  • 품질 보증,
  • 프로그램 평가 및 인증

Product evaluation refers to the usability of a program’s graduates. Recurring subthemes that emerged across frameworks included

  • physician resource planning,
  • quality assurance, and
  • program evaluation and accreditation.

4개의 프레임워크 모두 의사 자원 계획의 중요성을 강조했습니다. 의과대학은 학생의 적절한 구성을 결정하고 교육하며, 사회적 요구를 충족하는 데 필요한 졸업생의 분포, 배치 및 유지를 결정하는 데 적극적으로 참여해야 합니다.3,16,18,19 또한 학교는 일차 진료 의사를 위한 지역 취업 기회를 보장해야 합니다.18,19 
All 4 frameworks emphasized the importance of physician resource planning. Medical schools should be actively involved in determining and educating the right composition of students and in determining the distribution, deployment, and retention of graduates necessary to meet social needs.3,16,18,19 Additionally, schools must ensure local employment opportunities for primary care physicians.18,19

또 다른 핵심 주제는 프로그램 평가 및 인증의 중요성이었습니다.3,16,18,19 인증 기준 및 프로세스는 사회적 책무성 원칙을 통합해야 합니다.3,16,18,19 평가 및 인증은 정기적으로 수행되어야 하며,3,19 결과는 공개적으로 이용 가능하고 제도 개선에 사용되어야 합니다.19 또한 평가 및 인증 팀은 정책 입안자, 보건 전문가, 지역사회 구성원을 포함한 이해관계자를 폭넓게 대표할 수 있어야 합니다.3,16,18,19 
Another central theme was the importance of program evaluation and accreditation.3,16,18,19 Accreditation standards and processes should incorporate social accountability principles.3,16,18,19 Evaluation and accreditation must be conducted at regular intervals,3,19 and the results should be made publicly available and used for institutional improvement.19 Additionally, evaluation and accreditation teams should be widely representative of stakeholders, including policymakers, health professionals, and community members.19

마지막으로, 교육, 연구 및 서비스 제공에서 지속적인 품질 보증 프로세스를 수용하는 것의 중요성은 모든 프레임워크에서 강조되었습니다.3,16,18,19 이 프로세스는 투명해야 하며, 교육 개선을 촉진하기 위해 잘 정의된 표준을 사용하여 안내해야 합니다.3,19 또한 졸업생 역량을 정기적으로 평가하고, 잘 정의된 교육 기준을 반영하여 치료의 질을 보장하고, 졸업생이 변화하는 공중 보건 요구를 충족하는 데 필요한 기술을 갖추고 실무에 투입되도록 해야 합니다.3,16,18,19 
Lastly, the importance of embracing a continuous quality assurance process in education, research, and service delivery was emphasized across all frameworks.3,16,18,19 This process should be transparent and guided using well-defined standards to promote educational improvements.3,19 Additionally, graduate competencies must be assessed regularly and reflect well-defined educational standards to ensure quality of care and that graduates enter practice equipped with the skills required to meet changing public health needs.3,16,18,19

영향.
Impacts.

사회적 책무성의 전제는 의학교육 프로그램의 목적과 실천이 사회적 필요를 파악하는 데서 시작하여 그러한 필요를 충족하는 것으로 마무리될 것을 요구합니다.18 영향 평가는 제품 평가의 일부입니다.

  • 프레임워크 전반에서 강조되는 공통 주제는 지역사회 건강 결과의 전반적인 개선입니다.3,16,18,19
  • 또 다른 공통 주제는 지역사회 건강 위험과 지역사회 질병의 이환율 및 사망률의 감소 및 예방입니다.16,19 

The premise of social accountability requires that the purpose and practices of medical education programs commence in the identification of societal needs and conclude in meeting those needs.18 Impact evaluation is part of product evaluation.

  • A common theme highlighted across frameworks was overall improvement in community health outcomes.3,16,18,19 
  • Another common theme was reduction and prevention of community health risks and morbidity and mortality of community diseases.16,19

사회적 영향을 효과적으로 평가하기 위해 의과대학은 교육 연속체를 포괄하고 졸업생이 실제로 미치는 영향에 초점을 맞춘 표준을 개발해야 합니다.19 졸업생이 질병 부담을 줄이고 그들이 봉사하는 지역 사회의 건강을 개선하는 정도를 평가하는 지표를 개발해야 합니다.16 의과대학은 활동 결과가 지역 사회 건강에 긍정적인 영향을 미친다는 것을 입증할 수 있어야 합니다.3,16,18,19 졸업생이 지역사회 건강 위험과 지역사회 질병의 이환율 및 사망률을 줄여 공중 보건에 긍정적인 사회적 투자 수익을 얻도록 해야 할 의무가 있습니다.16,19 
To evaluate societal impacts effectively, medical schools must develop standards that span the educational continuum and focus on impacts of graduates in practice.19 They must develop metrics to assess the extent to which their graduates reduce the burden of illness and improve the health of the communities they serve.16 Medical schools must be able to demonstrate that the outcomes of their activities have positive impacts on community health.3,16,18,19 They have an obligation to ensure their graduates have a positive social return on investment to public health by reducing community health risks and the morbidity and mortality of community diseases.16,19

토론
Discussion

이 검토에서는 CIPP 평가 모델을 사용하여 4개의 대규모 사회적 책무성 정책 프레임워크3,16,18,19 에서 주요 주제와 지표를 확인했습니다.35 의학교육 문헌에서 정책 문서 전반에 걸쳐 사회적 책무성 지표를 식별하는 데 CIPP 모델이 사용된 적은 없지만, 이 검토는 의학교육의 사회적 책무성 평가를 위한 초기 운영 구성 개발에서 그 유용성을 입증합니다. 포함된 프레임워크에서 탐구된 주제는 의학교육의 광범위한 사회적 책무성 문헌과 일치합니다. 그러나 CIPP 모델은 책무성 시스템을 강화하기 위한 의학교육 프로그램의 평가 프레임워크를 제공합니다.35-38 또한, 이 검토에서는 책임에 대한 근본적인 질문도 의도치 않게 다루고 있습니다: 누가, 무엇에 대해, 누구에게, 어떤 수단을 통해 책임을 져야 하는가.7,10,15 이러한 질문은 책무성을 이해하는 데 중요하며, 의과대학의 사회적 책무성을 어떻게, 어떤 방식으로 평가할 수 있도록 사회적 책무성 프레임워크를 운영하는 데 도움이 될 수 있습니다. 
This review identified major themes and indicators across 4 large-scale social accountability policy frameworks3,16,18,19 using the CIPP evaluation model.35 The CIPP model has not been used previously in the medical education literature to identify social accountability indicators across policy documents, but this review provides evidence of its utility in the development of initial operational constructs to evaluate social accountability in medical education. The themes explored in the included frameworks are consistent with the broader social accountability literature in medical education. However, the CIPP model provides an evaluation framework for medical education programs to strengthen their accountability systems.35–38 Additionally, this review also inadvertently addresses the fundamental questions of accountability: Who is held to account, for what, to whom, and through what means?7,10,15 These questions are critical to understanding accountability and can be used to help operationalize social accountability frameworks to better evaluate how and in which ways medical schools are socially accountable.

이 검토는 주로 의과대학의 사회적 책무성에 초점을 맞추었지만, 사회적 책무성은 역동적인 과정이라는 점을 인식하는 것이 중요합니다. 이는 시민, 정부, 수련기관, 의료 교육자/공급자 간의 협력 관계를 통해 사회적 건강 요구를 체계적으로 파악하고 우선순위를 정하여 해결하는 과정입니다.3,72 의과대학의 사회적 책무성을 측정하고 체계적으로 평가하려면 개념적, 운영적 복잡성을 포착할 수 있는 강력한 평가 모델을 사용해야 합니다. 인증은 이러한 많은 문제를 해결할 수 있지만, 의과대학이 직장에서 일할 수 있는 유능한 졸업생을 배출하도록 하는 다른 목적도 있습니다. 이 경우 학교는 인증기관에 책임을 집니다. 캐나다와 호주는 인구의 우선적인 건강 문제를 해결하기 위한 의과대학의 노력을 평가하기 위한 수단으로 공식적인 사회적 책무성 기준을 인증 절차에 통합했습니다.19,72,73 이는 긍정적인 발전이지만, 사회적 책무성 결과에 대해 더 폭넓게 생각하고 교육 투입물, 산출물, 영향 간의 의미 있는 관계를 확립해야 합니다.19,73 
While this review focused primarily on social accountability of medical schools, it is important to acknowledge that social accountability is a dynamic process. It represents a collaborative relationship between citizens, government, training institutions, and health care educators/providers to systematically identify, prioritize, and address societal health needs.3,72 The measurement and systematic evaluation of social accountability in medical schools requires the use of a robust evaluation model to capture its conceptual and operational complexities. While accreditation may address many of these issues, it often serves a different purpose—ensuring medical schools produce competent graduates for the workplace. In this instance, schools are accountable to the accreditors. Canada and Australia have incorporated formal social accountability standards into their accreditation processes as a means to evaluate a medical school’s commitment to addressing the priority health concerns of the population.19,72,73 While this is a positive advancement, we need to continue to think about social accountability outcomes more broadly and establish meaningful relationships between educational inputs, outputs, and impacts.19,73

그러나 의과대학이 사회적 필요를 충족시킨다는 가정에 대한 연구가 부족합니다. Boelen에 따르면,72 사회적 책무성을 다하는 의과대학은 1%에 불과한 반면, 사회적 대응을 하는 의과대학은 9%, 사회적 책무성을 다하는 의과대학은 90%에 달한다고 합니다. 투명성 및 책임성 이니셔티브가 공공 서비스 개선을 위한 핵심 전략으로 부상했지만, 이러한 이니셔티브와 공중 보건에 미치는 영향 사이의 관계는 거의 알려지지 않았습니다.74 이 문제는 의학교육에만 국한된 것이 아닙니다.75 졸업생들이 실제로 지역사회에 미치는 사회적 영향을 평가 및 입증하고, 이론과 실무 사이의 연결 고리를 구축해야 할 필요성이 있습니다. 이러한 입증은 사회적 책무성에 대한 선한 의도와 헌신을 공개적으로 보여주는 것이 아니라 개념 증명에 가까워지고 있습니다.75 개별 의과대학이 사회적 책무성을 다하기 위한 진전을 확인하고자 하는 문헌이 증가하고 있습니다(체계적인 검토는 Reeve 외76 참조). 의과대학의 노력의 예로는 입학 절차를 통한 접근성 확대,77-82 건강의 사회적 결정 요인을 반영한 커리큘럼 개혁,83-86 지역사회 기반 임상 교육 기회 및 학습 노출,87-90 학습자의 위치 등이 있습니다.91-97 
There is, however, an understudied assumption that medical schools meet societal needs. According to Boelen,72 only 1% of medical schools are socially accountable, whereas 9% of medical schools are socially responsive and 90% are socially responsible. While transparency and accountability initiatives have emerged as a key strategy for improving public services, the relationship between these initiatives and their impacts on public health remains largely unknown.74 This issue is not specific to medical education.75 There is a need to evaluate and demonstrate the social impacts graduates have in practice on communities and establish a link between theory and practice. This demonstration becomes less about providing public displays of good intentions and commitment to social accountability and more about proof of concept.75 A growing body of literature seeks to affirm the progress of individual medical schools toward becoming socially accountable (see Reeve et al76 for a systematic review). Some examples of medical schools’ efforts include widening access through admissions processes,77–82 curricular reforms reflecting social determinants of health,83–86 community-based clinical training opportunities and learning exposures,87–90 and location of learners.91–97

일부 의학교육 환경에서 사회적 책무성 평가의 진전이 계속 확대되고 있지만,98 사회적 책무성 이니셔티브가 사회 건강에 미치는 영향은 거의 알려지지 않았습니다.99,100 그러나 소수의 경험적 논문에서 환자 건강 결과를 의사 교육 및 성과와 연관시키고 있으며101,102 일부 논평103-105에서는 의학교육 프로그램이 공중 보건 요구에 미치는 영향을 더 잘 이해하기 위해 국가 임상 데이터 세트를 사용하여 졸업생 결과를 환자 영향과 연결해야 한다는 점을 강조하고 있습니다. 
While progress in evaluating social accountability continues to expand in select medical education settings,98 the extent to which social accountability initiatives impact societal health remains largely unknown.99,100 However, a small number of empirical papers associate patient health outcomes with physician training and performance101,102 and some commentaries103–105 emphasize the need to link graduate outcomes with patient impacts using national clinical datasets to better understand the effects medical education programs have on public health needs.

한계점
Limitations

이 검토는 이전 연구를 확장한 것입니다.3,16,18-20,23,44-70 가능한 모든 사회적 책무성 지표의 포괄적인 목록을 제공하지는 않습니다. 여기에 제시된 주제와 지표는 주요 출처의 사회적 책무성 정책 프레임워크에 국한되어 있으며, 품질 평가에 사용되는 지표를 반드시 포함하지는 않습니다. 이 검토에서는 글로벌 건강 격차에 대한 우려가 커지는 등 최근의 글로벌 건강 운동은 다루지 않았습니다. 또한 CIPP 모델은 교육에 대한 하향식 시스템 접근 방식을 가정하여 교육 투입물이 제품으로 전환된다고 가정합니다. 또한 이 검토는 주로 의학교육에 초점을 맞추고 있으며, 사회적 책무성의 다른 상호 연관되고 상호 의존적인 프로그램 활동(예: 연구 및 서비스)은 포함하지 않았습니다. 이러한 관계를 더 자세히 조사하고 의과대학이 지역 보건 요구를 해결하고 이에 대응하는지 여부를 결정하기 위해서는 추가 연구가 필요합니다.  
This review extends earlier work.3,16,18–20,23,44–70 It does not provide a comprehensive list of all possible social accountability indicators. The themes and indicators presented here are limited to primary source social accountability policy frameworks and are not necessarily inclusive of metrics used to assess quality. This review does not address more recent global health movements, for instance, the growing concerns regarding global health disparities. Additionally, the CIPP model assumes a top-down systems approach to education, whereby educational inputs are turned into products. This review is also primarily on medical education, not other interrelated and interdependent program activities of social accountability (i.e., research and service). Further research is needed to examine these relationships in more detail and determine whether medical schools address and respond to local health needs.

결론
Conclusion

이 검토는 확립된 프로그램 평가 모델과 4가지 대규모 사회적 책무성 정책 프레임워크의 증거를 연결하여 의학교육 연속체 전반에 걸쳐 지표를 생성할 수 있도록 합니다. 프로그램 평가 모델은 교육기관이 원하는 목표와 목적을 향해 나아가는 과정을 모니터링하기 위한 체계적이고 쉽게 이해할 수 있는 실용적인 가이드를 제공합니다. 그러나 의과대학이 사회적 의무를 다하려고 노력하더라도 이러한 행동이 공중 보건에 긍정적인 영향을 미칠 것이라는 보장은 없습니다.3 
This review links an established program evaluation model and evidence from 4 large-scale social accountability policy frameworks, which may lead to the creation of indicators across the medical education continuum. Program evaluation models provide a systematic and easily understood practical guide for monitoring the progress of an institution toward desired goals and objectives. However, even when medical schools attempt to fulfill their social obligations, there is no guarantee that these actions will positively impact public health.3

사회적 책무성을 평가하는 일은 복잡합니다.65 의학교육 프로그램의 질을 평가하는 대부분의 이전 문헌은 주로 투입물과 과정에 초점을 맞추었습니다.72 사회적 책무성이 더욱 강조됨에 따라, 우리 커뮤니티는 [교육 투입물과 과정]에서 [산출물과 영향]에 초점을 전환해야 합니다. 다음의 것들 사이에 의미 있는 관계를 설정할 필요가 있습니다.32,74

  • 투입물(누가, 어디서, 어떤 교육을 받았는지),
  • 산출물(졸업생이 실제 진료 현장에서, 어떤 의료 전문 분야에서, 어떤 일을 하는지),
  • 영향(졸업생의 활동이 인구 건강을 어떻게 개선하는지) 

이러한 관계를 설정하기 시작하는 한 가지 방법으로 CIPP 프로그램 평가 모델을 사용할 것을 제안합니다. 
The task of evaluating social accountability is complex.65 Most of the previous literature assessing the quality of medical education programs has focused predominantly on inputs and processes.72 As more emphasis is placed on social accountability, it is imperative that we as a community shift our focus from educational inputs and processes to products and impacts. There is a need to establish meaningful relationships between program

  • inputs (who is trained and from where),
  • products (what graduates do in practice, in what medical specialty, and where), and
  • impacts (how graduates’ activities improve population health).32,74 

We suggest a way to begin to establish these links is through the use of the CIPP program evaluation model.


Acad Med. 2020 Dec;95(12):1945-1954. doi: 10.1097/ACM.0000000000003731.

Social Accountability Frameworks and Their Implications for Medical Education and Program Evaluation: A Narrative Review

Affiliations collapse

1C. Barber is a PhD candidate, School of Health Professions Education (SHE), Faculty of Health, Medicine and Life Sciences, Maastricht University, Maastricht, the Netherlands; ORCID: https://orcid.org/0000-0003-3605-8485.

2C. van der Vleuten is professor, Department of Educational Development and Research, Faculty of Health, Medicine and Life Sciences, Maastricht University, Maastricht, the Netherlands.

3J. Leppink is senior lecturer in medical education, Hull York Medical School, University of York, York, United Kingdom.

4S. Chahine is associate professor, Faculty of Education, Queen's University, Kingston, Ontario, Canada; ORCID: https://orcid.org/0000-0003-0488-773X.

PMID: 32910000

DOI: 10.1097/ACM.0000000000003731

Free article

Abstract

Purpose: Medical schools face growing pressures to produce stronger evidence of their social accountability, but measuring social accountability remains a global challenge. This narrative review aimed to identify and document common themes and indicators across large-scale social accountability frameworks to facilitate development of initial operational constructs to evaluate social accountability in medical education.

Method: The authors searched 5 electronic databases and platforms and the World Wide Web to identify social accountability frameworks applicable to medical education, with a focus on medical schools. English-language, peer-reviewed documents published between 1990 and March 2019 were eligible for inclusion. Primary source social accountability frameworks that represented foundational values, principles, and parameters and were cited in subsequent papers to conceptualize social accountability were included in the analysis. Thematic synthesis was used to describe common elements across included frameworks. Descriptive themes were characterized using the context-input-process-product (CIPP) evaluation model as an organizational framework.

Results: From the initial sample of 33 documents, 4 key social accountability frameworks were selected and analyzed. Six themes (with subthemes) emerged across frameworks, including shared values (core social values of relevance, quality, effectiveness, and equity; professionalism; academic freedom and clinical autonomy) and 5 indicators related to the CIPP model: context (mission statements, community partnerships, active contributions to health care policy); inputs (diversity/equity in recruitment/selection, community population health profiles); processes (curricular activities, community-based clinical training opportunities/learning exposures); products (physician resource planning, quality assurance, program evaluation and accreditation); and impacts (overall improvement in community health outcomes, reduction/prevention of health risks, morbidity/mortality of community diseases).

Conclusions: As more emphasis is placed on social accountability of medical schools, it is imperative to shift focus from educational inputs and processes to educational products and impacts. A way to begin to establish links between inputs, products, and impacts is by using the CIPP evaluation model.

 

도전적 시기의 적응적 리더십: 보건의료전문직 교육을 위한 효과적 전략: AMEE Guide No. 148 (Med Teach, 2022)
Adaptive leadership during challenging times: Effective strategies for health professions educators: AMEE Guide No. 148
Judy McKimma,b , Subha Ramanic,d,e , Kirsty Forrestf, Jo Bishopf, Ardi Findyartinig, Chloe Millsh , Mohammed Hassanieni,j, Abdulmonem Al-Hayanik, Paul Jonesl, Vishna Devi Nadarajahm and Greg Radun,o 

 

 

소개
Introduction

보건 전문직(HPE) 교육자는 여러 시스템과 조직에 걸쳐 다수의 학습자와 자격을 갖춘 직원에게 교육을 제공하기 때문에 보건 전문직 교육 리더십은 항상 어려운 과제입니다. 코로나19 팬데믹은 의료 및 보건 전문직 교육 분야의 리더들이 직면한 가장 어려운 상황 중 하나였습니다. 리더들은 '즉석에서' 결정을 내리고 새로운 도전에 적응하는 동시에 자신과 전문 직원, 학자, 학습자, 임상 교사의 안녕을 돌보고 프로그램과 조직의 안정성을 유지해야 했습니다(Nadarajah 외. 2020; Paixão 외. 2020). 팬데믹 기간 동안 리더십에 대해 배운 교훈은 앞으로도 새로운 도전이 계속 발생할 것이므로 의료 교육 리더의 유연성과 적응력이 필요하기 때문에 앞으로 나아가는 데 매우 적합합니다. 
Leadership in health professions education (HPE) is always challenging, as health professions (HP) educators work across multiple systems and organisations to provide training for large numbers of learners and qualified staff. The COVID-19 pandemic has been one of the most challenging situations that leaders in healthcare and health professions education have faced. Leaders have had to make decisions ‘on the fly’ and adapt to new challenges while also attending to the well-being of themselves, their professional staff, academics, learners, clinical teachers, as well as maintaining the stability of programmes and organisations (Nadarajah et al. 2020; Paixão et al. 2020). Lessons learned about leadership during the pandemic are highly relevant as we move forward because new challenges will continue to arise in the future, which will require flexibility and adaptability on the part of healthcare education leaders.

이 가이드에서는 몇 가지 현대적인 리더십 접근 방식과 리더가 이러한 접근 방식에 대한 기술을 개발하는 방법을 소개합니다. 가이드 전반에 걸쳐 전 세계의 실제 사례를 통해 불확실하고 어려운 시기의 리더십에 중점을 두고 다양한 맥락에서 리더십의 측면을 강조합니다.
In this guide, we introduce some contemporary leadership approaches and how a leader might develop skills in these approaches. Throughout the guide, real-life examples are drawn from around the world highlight aspects of leadership in various contexts, with a focus on leadership during uncertain and challenging times.

리더십이란 무엇인가요?
What is leadership?

리더십은 비전과 방향을 설정하고 전달하는 원동력, 에너지 또는 '힘'으로 설명되며, 사람들이 변화를 이루도록 영향력을 행사하고 동기를 부여하는 데 도움을 줍니다(Scouller 2011, Swanwick과 McKimm 2017). 효과적인 리더는 불확실하고 어려운 시기에 필수적인 긍정적인 문화와 분위기를 조성하기 때문에 리더십은 조직의 성공을 위한 핵심 요소입니다. 널리 퍼져 있는 리더십 신화 중 하나는 리더십은 조직 내 지위와 권력을 통해서만 발휘된다는 것입니다. 이는 사실이 아닙니다. 리더십은 프로젝트나 이니셔티브를 이끌거나, 회의에서 안건을 주도하거나, 학생들과의 교실 토론을 주도하는 등 다양한 수준에서 발생할 수 있으며, 실제로 다양한 HP 교육자가 매일 리더십을 발휘하고 있습니다. HP 교육자는 리더와 팔로워로서 개인 내, 대인 관계/팀, 조직 및 시스템 수준에서 어떻게 행동해야 하는지 알고 있어야 합니다.
Leadership is often described as the driving force, energy or ‘power’ that establishes and communicates vision and direction, helping to influence and motivate people towards making a change (Scouller 2011; Swanwick and McKimm 2017). It is a key factor for organisational success, as effective leaders promote a positive culture and climate—a necessity in uncertain and difficult times. One of the pervasive leadership myths is that leadership is solely vested in positional power in an organisation. This is untrue. Leadership can (and does) occur at many levels and is undertaken by a range of HP educators daily, e.g. leading a project or initiative, leading on an item at a meeting, or leading a classroom discussion with students. HP educators need to be aware of how they, as both leaders and followers, operate at the intrapersonal, interpersonal/team, organisational, and system levels.

'리더십 트라이어드'
The ‘leadership triad’

HPE에서는 팀, 서비스, 프로그램, 조직(또는 그 일부인 평가, 레지던트, 연차, 부서장, 연구 활동 등) 내에서 다양한 방식으로 리더십을 발휘할 수 있는 기회가 있습니다. HPE 리더십 활동은 대학이나 학교부터 병원 및 지역사회의 의료 서비스에 이르기까지 다양한 경계를 넘나듭니다. HPE의 '리더십'은 다른 조직 및 부문의 리더십과 많은 유사점을 가지고 있습니다. 리더십은 리더십, 관리, 팔로워십 활동의 역동적인 조합으로 구성되며, '리더십 트라이어드'(McKimm and O'Sullivan 2016)로 알려져 있으며, 학계와 의료 서비스 전반에 걸쳐 개인, 그룹, 조직 간에 그리고 조직 내에서 이루어집니다.
In HPE, people have opportunities to promote leadership in many ways, including within teams, services, programmes, and organisations (or parts of them, such as assessment, residency, year lead, head of the department, or research activities). HPE leadership activities span many boundaries, from universities or schools to health services in hospitals and communities. ‘Leadership’ in HPE has many similarities with leadership in other organisations and sectors. It comprises a dynamic combination of leadership, management, and followership activities, known as the ‘leadership triad’ (McKimm and O'Sullivan 2016), and takes place between and within individuals, groups, and organisations across academia and healthcare services.

전통적 문헌에 반영된 바와 같이 리더십은 조직 내에서 가장 중요한 일련의 활동을 포함하지만, 리더가 효과적이기 위해서는 관리와 팔로워십도 똑같이 중요하다는 점을 강조할 필요가 있습니다(Barrow 외. 2011). 

  • 리더십이 비전을 설정하는 반면, '관리'는 비전을 실천하는 데 도움이 되는 일련의 활동에 필요하며, 문제를 식별하고 해결책을 찾는 프로세스에 대한 관심을 포함합니다(McKimm and Jones 2018). 
  • 관리는 재정, 커리큘럼 또는 인력 등의 안정성을 제공하여 조직이나 프로그램을 불안정하게 만들지 않으면서도 변화가 이루어질 수 있도록 합니다. 
  • 리더를 지지하면서도 리더에게 도전할 수 있는 적극적이고 효과적인 팔로워는 예상되는 변화가 원활하게 이루어질 수 있도록 하는 데 필수적인 요소입니다. 

리더십은 전체 트라이어드 내에서 관계를 구축하고 유지하는 것과 매우 밀접한 관련이 있습니다. HPE 리더는 '리더십 트라이어드'의 세 가지 상호 연결된 위치에 대한 인식과 관련 기술을 결합하여 추종자들을 어려운 여정으로 이끌면서 특정 상황을 인식하는 동시에 강력하고 목적 지향적인 리더십을 제공할 수 있는 가장 좋은 위치에 있을 것입니다. 박스 1에서는 리더십 삼위일체를 실천에 옮긴 예를 제시합니다.
As echoed in the traditional literature, leadership involves the most important set of activities within an organisation; however, it needs to be emphasised that management and followership are equally important for leaders to be effective (Barrow et al. 2011).

  • While leadership sets the vision, ‘management’ is necessary for the set of activities that helps put the vision into practice, involving attention to processes that identify problems and help find solutions (McKimm and Jones 2018).
  • Management provides stability, for example financial, curricular or workforce, so that changes can be made without destabilising the organisation or programme.
  • Active and effective followers, those who support but also may challenge the leader, are an essential part of ensuring that envisaged change happens smoothly.

Leadership is very much about building and maintaining the relationships within the entire triad. An HPE leader will be best placed to provide strong and purposeful leadership if they combine an awareness of, and skills related to, the three interlinked positions in the ‘leadership triad’, taking their followers with them on what might be a difficult journey, while being aware of their specific context. In Box 1, we provide an example of putting the leadership triad into practice.

박스 1 사례 연구: '리더십 삼위일체'를 실천에 옮기다.
Box 1 Case study: Putting the ‘leadership triad’ into practice.


한 교육 리더는 멘토링에 대한 열정에 영감을 받아 7개국에서 온 같은 생각을 가진 멘토들로 구성된 커뮤니티 형성을 주도했습니다. 이 그룹은 스피드 멘토링 워크숍을 제공하고 2019년 유럽 의학교육협회(AMEE) 컨퍼런스에서 일대일 멘토링 이니셔티브에 참여했습니다(Ramani 외. 2021). 코로나19 팬데믹으로 인해 이 그룹은 특정 교육 주제 또는 문제에 초점을 맞춘 가상 멘토링 세션을 제공하여 글로벌 대화를 촉진하고 도전 과제와 성공 사례를 공유하는 것을 목표로 삼았습니다(McKimm 외. 2020; Thampy 외. 2020). 이후 이 그룹은 전 세계 더 많은 지역의 교육 리더를 포함하도록 확장되었으며, 현재 핵심 그룹은 11개국의 회원으로 구성되어 있습니다. 리더가 그룹 결성을 주도했지만, 적극적인 팔로워들은 리더에게 조언하고 브레인스토밍에 참여하며 그룹을 위한 실행 계획을 수립합니다.
An educational leader, inspired by a passion for mentoring, led the formation of a community comprising like-minded mentors from seven countries. The group offered a speed mentoring workshop and participated in a one-on-one mentoring initiative at the 2019 Association for Medical Education in Europe (AMEE) conference (Ramani et al. 2021). The COVID-19 pandemic spurred this group to offer virtual mentoring sessions, each focusing on a specific educational topic or problem, aiming to stimulate global conversations and share challenges and success stories (McKimm et al. 2020; Thampy et al. 2020). The group has since expanded to include educational leaders from more regions of the world; currently, the core group consists of members from 11 countries. Though a leader initiated the formation of the group, active followers advise the leader, participate in brainstorming, and formulate action plans for the group.


이 '국경을 초월한 멘토' 커뮤니티에서는 리더십, 관리, 팔로워십 역할이 프로젝트에 따라 순환되고, 자기 관리 및 관계 관리와 같은 감성 지능 역량이 그룹을 유지하는 데 중요하며, 긍정 심리학 원칙이 그룹이 작업을 계속하고 승리를 축하하도록 동기를 부여하고, 포용적이고 사람 중심의 리더십이 다양한 관점을 가져올 수 있는 여러 글로벌 지역의 회원을 확장하고 포용하도록 촉진하고, 가장 중요한 심리적 안전의 분위기가 회원들이 서로 멘토링하고 배우도록 장려하는 등 여러 가지 핵심 리더십 원칙을 채택하고 있습니다(Mannion et al. 2015; 맥킴과 매니언 2015; 아민 외. 2018; 맥킴 외. 2020). 마지막으로, 특정 이니셔티브의 리더는 구성원들이 관심사와 시간 제약에 따라 이니셔티브를 주도하거나 참여하거나 심지어 물러날 수 있도록 명시적인 메시지를 보냅니다.
Many key leadership principles have been adopted by this ‘mentors across borders’ community: leadership, management, and followership roles are rotated for different projects; emotional intelligence competencies such as self-management and relationship management are critical to maintaining the group; positive psychology principles motivate the group to stay on task and celebrate wins; inclusive and person-centred leadership has stimulated expansion and inclusion of members from different global regions who can bring in different perspectives; and, most importantly, a climate of psychological safety promotes members to mentor and learn from each other (Mannion et al. 2015; McKimm and Mannion 2015; Amin et al. 2018; McKimm et al. 2020). Finally, the leaders of a specific initiative send explicit messages allowing members to lead, participate in, or even step aside based on their interests and time constraints.

 

 

리더를 위한 도전 과제
Challenges for leaders

우리가 리더십을 개념화하는 방식은 주로 어떤 환경에서든 교육이 제공되는 방식에서 의미 있고 지속 가능한 변화와 개선을 촉진하고 가능하게 하는 것입니다(Buchanan 외. 2004). 이는 HPE 리더의 가장 중요한 임무 중 하나입니다. 이는 단순히 변화를 위한 변화를 의미하는 것이 아니라, 교육에 대한 사고의 광범위한 변화를 인식하고, 아이디어를 자신의 상황에 적용하는 데 있어 번역 또는 '센스 메이킹' 역할을 수행하며, 학습자와 교수진의 어려움과 과제를 적극적으로 파악하고 이에 대한 해결책을 찾는 것을 의미합니다. '평상시'에도 HPE 리더와 교육자는 정기적이고 일상적으로 다양한 문제를 처리해야 합니다(표 1 참조).

The way we conceptualise leadership is primarily about facilitating and enabling meaningful and sustainable change and improvement in the way education is provided in whatever setting (Buchanan et al. 2004). This is one of the most important tasks of the HPE leader. This does not mean making changes simply for the sake of it but is about being aware of the broader shifts in thinking about education, taking a translational or ‘sense-making’ role in bringing ideas to your own context, being proactive in identifying struggles and challenges for learners and faculty and finding solutions to these. Even in ‘normal’ times, HPE leaders and educators must deal with a range of issues on a regular and routine basis (see Table 1).

어려운 시기의 리더십 접근 방식
Leadership approaches in challenging times

코로나19 팬데믹 기간 동안 변화는 내부에서 촉진된 것이 아니라 외부에서 강요된 것이었습니다. 전 세계의 HPE 리더, 학습자, 직원은 이러한 변화의 동인을 통제할 수 없었으며 대신 전례 없는 도전, 큰 불확실성, 위기를 관리하는 방법을 적응하고 배워야 했습니다(Nadarajah 외. 2020). 이를 위해서는 다양한 리더십 접근 방식이 필요했습니다(Kotter 2007; Kanter 2020). 표 2에는 리더십이 작동하는 네 가지 수준, 어려운 시기에 도움이 되는 접근 방식, 그리고 이러한 접근 방식을 돕기 위해 리더가 개발할 수 있는 기술이 나열되어 있습니다. 
During the COVID-19 pandemic, change was not stimulated from within but instead imposed from outside. HPE leaders, learners, and staff around the world had no control over these change drivers but instead had to adapt and learn how to manage unprecedented challenges, great uncertainty, and crises (Nadarajah et al. 2020). This required different leadership approaches (Kotter 2007; Kanter 2020). Table 2 lists the four levels in which leadership operates, approaches that are helpful during challenging times, and the skills that leaders can develop to help with these approaches.

이제 각 수준에 따른 구체적인 리더십 접근 방식을 뒷받침하는 몇 가지 이론적 원칙에 대해 논의하겠습니다. 다음 섹션에서는 이러한 원칙을 실무에 적용하는 방법과 필요한 기술을 개발하는 방법에 대한 예를 다룹니다.
We will now discuss some theoretical principles underpinning specific leadership approaches under each of the levels we operate in. The following section addresses the application of these principles to practice with examples of how to build the skills required.

개인 내적 수준(자아): 정서적 및 사회적 지능 개발하기
The intrapersonal level (self): developing emotional and social intelligence

연구에 따르면 직업이나 위치에 관계없이 가장 성공적인 리더는 높은 수준의 감성 지능을 가지고 있는 것으로 나타났습니다(Boyatzis 2008). 성공적인 리더십의 지표로서 감성 지능(EI)은 1990년대에 다니엘 골먼에 의해 처음 논의되었습니다. 그는 인성, 비전, 결단력, 지능과 같은 기술만으로는 성공적인 리더가 될 수 없으며 자기 인식, 자기 조절, 동기 부여, 공감, 사회적 기술도 그에 못지않게 중요하다는 결론을 내렸습니다(Goleman 1998). 보야치스와 골먼은 함께 가장 성공적인 리더들의 핵심 속성을 분석하기 시작했습니다. 정서적 및 사회적 지능의 12가지 역량은 네 가지 영역으로 설명되었습니다(Boyatzis 2009). 네 가지 영역은 자기 인식, 자기 관리, 사회적 인식, 관계 관리입니다. 리더가 이끄는 사람들의 그룹을 관리하기 위해서는 네 가지 영역의 EI 역량이 모두 필수적입니다(상자 2 참조). 
Research indicates that the most successful leaders, regardless of profession or location, have a high degree of emotional intelligence (Boyatzis 2008). Emotional intelligence (EI) as a marker of successful leadership was first discussed by Daniel Goleman in the 1990s. He concluded that skills such as toughness, vision, determination, and intelligence were not enough to be a successful leader and that the skills of self-awareness, self-regulation, motivation, empathy, and social skills were equally, if not more, important (Goleman 1998). Together, Boyatzis and Goleman went on to analyse the core attributes among the most successful leaders. Twelve competencies of emotional and social intelligence were described under four domains (Boyatzis 2009). The four domains are: self-awareness, self-management, social awareness, and relationship management. All four domains of EI competencies are essential for leaders to manage the groups of people they lead (see Box 2).

박스 2 네 가지 EI 영역의 영향력.
Box 2 The impact of the four EI domains.

1. 자기 인식을 통해 리더는 자신의 가정과 편견, 그리고 이것이 세계관에 어떤 영향을 미치는지 인식할 수 있습니다.


2. 자기 관리 행동에 앞서 생각하고, (부정적인 감정을 다스리는 데 필수적인) 자신의 감정과 반응을 관리할 수 있는 능력을 촉진합니다.


3. 사회적 인식은 리더가 팀을 구성하는 개인을 이해하고 관점과 성격의 차이를 인식할 수 있게 해줍니다.


4. 관계 관리 다양한 관점을 수용하고 인재를 육성하며 개인, 팀, 조직의 잠재력과 생산성을 극대화하는 데 필수적입니다. 멘토링과 코칭 기술은 이 영역에 속합니다.


  1. Self-awareness allows leaders to recognise their assumptions and biases, and how these affect their worldview.
  2. Self-management promotes thought before action and the ability to manage own emotions and reactions, essential for reigning in negative emotion.
  3. Social awareness allows leaders to understand the individuals who make up their team and recognise differences in viewpoints and personalities.
  4. Relationship management is essential to welcome a variety of perspectives, nurture talent, and maximise the potential and productivity of individuals, teams, and the organisation. Mentoring and coaching skills fall under this domain

EI 역량은 리더가 변화를 주도하고 관리하는 데 유용한 가이드입니다. 그러나 리더가 속한 조직과 사회 문화에 따라 가장 효과적인 특정 행동은 달라질 수 있습니다. 리더, 직원, 학습자의 구성이 다양성을 특징으로 하는 교육기관은 팀원 개개인이 공통의 목표를 향해 일할 때에도 서로 다른 신체 언어와 감정적 반응을 보일 수 있다는 점을 인식해야 합니다.
EI competencies are a useful guide to leaders in leading and managing change. However, the specific behaviours that are most effective depending on the organisational and societal culture within which the leader is situated. Institutions that feature diversity in the composition of their leaders, staff, and learners should recognise that individuals on a team might have different body language and emotional reactions even when working towards a common goal.

대인관계 수준(다른 사람과 함께 일하기): 진정성 있고 포용적이며 원초적인 리더십
The interpersonal level (working with others): authentic, inclusive, and primal leadership

항상 그렇지만 특히 변화무쌍하고 불확실한 시기에는 사람들이 리더에게 원하는 것은 진정성 있는 목소리입니다. 팔로워들은 리더가 자신의 이야기를 경청하고, 자신의 우려를 진지하게 받아들이고 있으며, 변화를 주도하고 관리할 수 있는 전문성과 권한을 가지고 있다고 느끼기를 원합니다. 리더는 팔로워가 리더를 어떻게 보고, 관계를 맺고, 신뢰하는지에 따라 만들어지고 유지됩니다(Uhl-Bien 및 Carsten 2018). 팔로워는 리더가 자신을 안전하게 지켜줄 수 있고 함께 '그 안에' 있다고 느끼면 매우 위험한 상황(예: 전쟁)에도 리더를 따를 것입니다(Sinek 2014).
At all times, but especially in changing and uncertain times, what people want from their leaders is an authentic voice. Followers want to feel that their leaders are listening, taking their concerns seriously and that they have the expertise and authority to lead and manage change. Leaders are created and maintained by how their followers see, relate to, and trust them (Uhl-Bien and Carsten 2018). Followers will follow their leaders into highly unsafe situations (such as war) if they feel their leaders can keep them safe and that they are ‘in it’ together (Sinek 2014).

불확실한 시대에 필요한 리더십에 대한 적절한 접근법으로 원초적이고 진정성 있는 리더십이 주목받고 있습니다. '원초적 리더십'이라는 용어는 리더의 영향력(정서적 수준)과 그에 따른 행동이 조직 내 다른 모든 사람의 참여, 동기 부여 및 행동에 강력한 영향을 미친다는 것을 나타내기 위해 만들어졌습니다. '리더의 기분은 말 그대로 전염성이 있으며 비즈니스 전체에 빠르고 끝없이 퍼집니다'(Goleman 외. 2001, 44쪽). 
Primal and authentic leadership have come to the fore as relevant approaches to leadership required for uncertain times. The term ‘primal leadership’ was coined to indicate that the affect (emotional level) of a leader and resulting behaviours have a powerful effect on engagement, motivation, and behaviours of everyone else within their organisation: ‘the leader’s mood is literally contagious, spreading quickly and inexorably throughout the business; (Goleman et al. 2001, p. 44).

진정성 있는 리더십은 리더가 자신의 강점을 활용하고 자신의 약점과 편견을 인식하는 데 중점을 둡니다(Avolio and Gardner 2005, Sosik 외. 2009, Cardiff 외. 2018, Hollander 2012). 진정한 리더는 문제에 대한 다양한 관점을 적극적으로 모색하고 주변 사람들의 의견을 소중히 여기고 경청하는 모습을 보여줍니다. 또한 리더는 지적 겸손, 실수 인정, 비판과 다른 관점으로부터의 학습, 한계를 극복하기 위한 다른 사람의 기여를 인정하고 구하는 특성을 보여야 합니다. 이러한 리더십 스타일은 EI 역량과 밀접한 관련이 있지만, 리더의 관점이 팀원들의 기분, 행동, 업무 완수, 결과적으로 팀원들의 직업적 성취감과 웰빙에 어떤 영향을 미치는지에 초점을 맞추고 있습니다. 긍정적인 전망은 이 접근 방식의 핵심 요소이지만, 진정성 또한 필요합니다. 
Authentic leadership is very much focused on the leader drawing from their own strengths and being aware of their own weaknesses and biases (Avolio and Gardner 2005; Sosik et al. 2009; Cardiff et al. 2018; Hollander 2012). Authentic leaders proactively seek a range of perspectives on issues and demonstrate that they value and listen to those around them. Leaders also need to demonstrate traits of intellectual humility, admitting mistakes, learning from criticism and different points of view, and acknowledging and seeking contributions from others to overcome limitations. Though this leadership style is closely related to EI competencies, the focus is on how a leader’s outlook impacts their team members’ moods, behaviours, task completion, and consequently their sense of professional fulfilment and well-being. While a positive outlook is a key component of this approach, it is also necessary to be authentic.

복잡한 조직 또는 시스템 수준: 적응적 리더십
The complex organisational or system level: Adaptive leadership

복잡계 사고 접근법은 시스템 내 모든 주체들의 상호의존성과 상호관계를 명백히 인정하고, '단순한' 규칙이나 변화가 큰 효과를 가져올 수 있으며, 시스템의 한 부분의 변화가 시스템 전체에 예기치 않은 결과를 초래할 수 있다는 렌즈를 제공합니다(Till 외. 2016; Obolensky 2017).
A complex system thinking approach provides a lens that overtly acknowledges the interdependency and interrelationships of all agents within the system, that ‘simple’ rules or changes can lead to large effects, and that a change in one part of the system can have unanticipated consequences throughout the system (Till et al. 2016; Obolensky 2017).

우리는 VUCA(변동성, 불확실성, 복잡성, 모호성, Worley and Jules 2020) 및 RUPT(급변성, 불확실성, 역설성, 얽힘, Till et al. 2016)의 세계에 살고 있으므로 변화하고 복잡한 상황에 적응할 수 있을 만큼 유연하고 민첩한 리더십이 요구되는 것입니다. 적응적 리더십(Heifetz 외. 2009; Randall and Coakley 2007)은 특히 복잡한 시스템이나 상황에서의 리더십에 초점을 맞추며, 변화, 불확실성, 위기에 대응하는 방법을 생각할 때 유용합니다. 이 접근법은 복잡하고 급변하는 환경에 대한 적응의 중요성을 강조하고 합의된 목표를 달성할 수 있는 조직적 여건을 조성합니다(Hodges and Gill 2014). 적응적 문제는 일반적으로 모호하고 복잡하며 '사악한' 문제입니다. 적응적 리더십 접근법의 창시자인 Ronald Heifetz와 Marty Linsky는 효과적인 적응적 리더십의 네 가지 기본 원칙을 다음과 같이 정의했습니다: 
We live in a VUCA (Volatile, Uncertain, Complex, Ambiguous; Worley and Jules 2020) and RUPT (Rapid, Uncertain, Paradoxical, Tangled; Till et al. 2016) world; therefore, the HPE leadership needed is one that is flexible and agile enough to adapt to changing and complex circumstances. Adaptive leadership (Heifetz et al. 2009; Randall and Coakley 2007) is specifically focused on leadership in complex systems or situations and is helpful when thinking about how to respond to change, uncertainty, and crisis. This approach emphasises the importance of adaptation to a complex and rapidly changing environment and creates the organisational conditions to achieve agreed goals (Hodges and Gill 2014). Adaptive problems are usually vague, complex, and ‘wicked’. The creators of the adaptive leadership approach, Ronald Heifetz and Marty Linsky, defined four foundational principles of effective adaptive leadership, which are: 

  1. 조직의 정의: 적응형 리더는 조직의 모든 구성원의 의견을 들을 수 있는 환경을 조성합니다. 조직의 의견은 적응형 리더십에 필수적입니다.
    Organisational justice: Adaptive leaders create an environment in which every member of the organisation can be heard. Organisational input is integral to adaptive leadership.
  2. 감성 지능: 적응형 리더십은 관계를 중시합니다.
    Emotional intelligence: Adaptive leadership values relationships.
  3. 개발: 적응형 리더는 조직 변화의 과정을 통해 동료와 직원이 배우고 성장할 수 있도록 지원합니다.
    Development: Adaptive leaders empower their colleagues and employees to learn and grow through the process of organisational change
  4. 인성: 적응형 리더는 윤리적 책임감과 도덕성을 보여줍니다. 이들은 커뮤니케이션 스타일이 투명하며 팀원들에게 동일한 기준을 적용합니다.
    Character: Adaptive leaders demonstrate ethical responsibility and morality. They are transparent in their communication style and hold themselves to the same standards to which they hold their team.

진정한 리더십과 마찬가지로 이러한 차원은 EI 역량과 많은 유사점이 있습니다. 적응형 리더십에서 가장 유용한 개념 중 하나는 '소중한 것'과 '소모적인 것'을 구분하는 능력입니다(Heifetz 외. 2009). '소중한 것'은 조직에 매우 중요한 것으로, 교육에서는 학습자 자신, 교수진, 교육 제공의 질, 조직의 핵심 가치 등이 포함되며, 위기와 변화에 대응할 때 이들에 대한 초점을 잃지 않아야 합니다. 적응형 리더는 무엇이 소중한지 인식하고 이를 보호하고 육성할 수 있도록 합니다.
Like authentic leadership, these dimensions have many parallels with EI competencies. One of the most useful concepts in adaptive leadership is the ability to diagnose the ‘precious’ from the ‘expendable’ (Heifetz et al. 2009). The ‘precious’ is what is vitally important to the organisation; in education, this includes the learners themselves, the faculty, the quality of educational provision, and the core values of the organisation; you do not want to lose the focus on these as you respond to crisis and change. Adaptive leaders recognise what is precious and make sure that this is looked after and nurtured.

글로벌 생태계 수준: 메타, 에코, 재생 리더십
The global eco-system level: Meta, eco, and regenerative leadership

메타 리더십
Meta-leadership

메타 리더십은 뉴욕 9/11 테러와 뉴올리언스 허리케인 카트리나 대응과 같은 위기 상황에서 리더를 관찰하고 분석하여 최근의 가장 큰 도전 과제 중 일부에서 탄생했습니다. 최근의 팬데믹 역시 의료계와 의료 교육에 있어서는 위기 상황입니다. 메타 리더십은 변혁적 리더십, 공유 리더십, 팔로워십, 복합적 적응 리더십 등 다양한 리더십 이론을 활용하고 통합합니다(Marcus 외. 2015). 메타 리더십은 조직 내 및 조직 간 환경에서 [서로 다른 이해관계자 간의 연결성을 창출하는 경계를 아우르는 리더십]에 중점을 둡니다. 이러한 방식으로 이러한 '메타 리더'는 다른 사람에게 영향을 미치고 자신의 통제 범위를 넘어 변화를 활성화하는 데 관심을 갖습니다. Marcus 등(2008)은 메타리더가 자신에게 요구되는 것보다 더 넓은 목적에 의해 움직이며, 따라서 조직의 장벽을 '초월'할 수 있다고 설명합니다. 이들은 메타 리더십의 차원을 다음과 같이 설명합니다:
Born out of some of the biggest recent challenges, meta-leadership was described through observation and analysis of leaders in crisis circumstances such as the September 11 attacks in New York and the response to Hurricane Katrina in New Orleans. The recent pandemic is also such a crisis for healthcare and for healthcare education. Meta-leadership draws upon and integrates a wide range of leadership theories including transformational leadership, shared leadership, followership, and complex adaptive leadership (Marcus et al. 2015). Meta-leadership is focused on boundary-spanning leadership that generates connectivity among disparate stakeholders in both intra- and inter-organisational settings. In this way, these ‘meta-leaders’ are concerned with influencing others and activating change beyond the established lines of their own control. Marcus et al. (2008) describe that they are driven by a wider purpose than what has been asked of them and can thus ‘transcend’ organisational barriers. They describe the dimensions of meta-leadership as follows:

메타 리더십의 차원
The Dimensions of Meta-Leadership

  1. 사람(자기 지식, 인식, 규제): 메타리더는 높은 자기 인식, 자기 인식, 자기 규제를 발달시킵니다.
    The person (self-knowledge, awareness, and regulation): Meta-leaders develop high self-awareness, self-knowledge, and self-regulation.
  2. 상황(리더십의 맥락 파악): 메타리더는 종종 불완전한 정보를 가지고 상황을 매핑하여 무슨 일이 일어나고 있는지, 이해관계자는 누구인지, 다음에 일어날 가능성이 있는 일은 무엇인지, 중요한 선택 포인트와 행동 옵션은 무엇인지 파악합니다.
    The situation (discerning the context for leadership): With often incomplete information, the meta-leader maps the situation to determine what is happening, who are the stakeholders, what is likely to happen next, and what are the critical choice points and options for action.
  3. 연결(긍정적이고 생산적인 관계 육성): 메타 리더는 앞으로 나아갈 방향을 제시하고, 결정을 내리고, 그 결정을 실행하며, 폭넓은 참여와 지원을 이끌어내기 위해 효과적으로 소통합니다.
    The connection (fostering positive, productive relationships): The meta-leader charts a course forward, making decisions, operationalising those decisions, and communicating effectively to recruit wide engagement and support.

의료 및 교육 분야에서 우리의 행동과 행동을 이끄는 기본 가치는 타인(종종 취약한 사람들과 커뮤니티)의 개발과 보살핌에 대한 책임이 있기 때문에 기본이 됩니다. 환경윤리 및 재생 리더십 접근법은 리더가 이러한 핵심 가치를 파악하고 이를 실제로 구현하는 방법을 파악하는 데 도움이 됩니다.
In healthcare and education, the underpinning values that drive our behaviours and actions are fundamental as we are responsible for the development and care of other, often vulnerable people and communities. Eco-ethical and regenerative leadership approaches help leaders to identify these core values and how to implement them in practice.

환경 윤리적 리더십
Eco-ethical leadership

맥킴과 맥린(2020)은 지속 가능한 보건 전문직 교육과 관행의 필요성에 대한 리더의 생각을 집중시키는 '환경 윤리적' 리더십 접근법의 사례를 제시합니다. 환경윤리적 리더십은 지속 가능성, 가치, 협력, 정의, 옹호, 그리고 필요한 경우 행동주의를 중심으로 하는 통합적 접근 방식입니다. 상자 3에는 '환경 윤리적' 리더십의 주요 특징이 나와 있습니다.
McKimm and McLean (2020) make the case for an ‘eco-ethical’ leadership approach that focuses leaders’ minds on the need for sustainable health professions education and practices. Eco-ethical leadership is an integrated approach centred around sustainability, values, collaboration, justice, advocacy and, when required, activism. Box 3 lists key features of ‘eco-ethical’ leadership.

상자 3 보건 전문직 교육을 위한 '환경 윤리적' 리더십 접근법의 주요 특징.
Box 3 
Key features of an ‘eco-ethical’ leadership approach for health professions education.


환경 윤리적 리더
는 다음과 같은 가치와 신념을 보유하고, 일상적인 행동과 행동을 통해 보여주고, 표현합니다:

Eco-ethical leaders hold, display (through day-to-day behaviours and actions), and articulate the following values and beliefs:

  • 지구와 자원의 청지기적 책임에 대한 도덕적 의무를 가지고 행동합니다.
  • 자신의 행동에 책임을 지고, 옹호나 행동주의가 필요한 시기를 인식합니다.
  • 개인적으로나 업무적으로 환경적으로 지속 가능한 실천의 롤 모델링.
  • 환경, 조직, 지역사회의 지속 가능성 및 재생에 대한 헌신을 보여줍니다.
  • 인지적 복잡성을 연습하고 역동적인 시스템 관점에서 세상을 바라봅니다.
  • 경청, 신뢰, 네트워킹, 정보 및 권한 공유, 소통, 분야와 직종 간, 직종 내 협업을 통해 의미 있는 변화를 이끌어낼 수 있는 가장 강력한 방법은 집단 지성이라고 믿습니다.
  • 포용성과 사회 및 생태적 정의를 구현하는 사회 문화적, 생태적 가치를 보여줍니다.
  • 변화에 대한 진정성 있고, 사람 중심적이며, 공감하고, 자비로운 접근 방식을 취하고, 변화를 만드는 것은 어렵고, 사람들은 서로를 지지하고 작은 변화처럼 보일 수 있는 것을 축하해야 한다는 것을 인식합니다.
  • A moral duty to act in terms of taking responsibility for stewardship of the planet and its resources.
  • Being accountable for their actions, recognising when advocacy or activism is needed.
  • Role modelling environmentally sustainable practice, both personally and professionally.
  • Demonstrating commitment to environmental, organisational, and community sustainability and regeneration.
  • Practising cognitive complexity and seeing the world from a dynamic systems perspective.
  • Believing that collective intelligence is the most powerful way to engender meaningful change though listening, trust, networking, sharing information and power, communicating, and working collaboratively across and within disciplines and professions.
  • Demonstrating socio-cultural and ecological values that embody inclusivity and social and ecological justice.
  • Taking an authentic, person-centred, empathic, and compassionate approach to change, recognising that making changes is difficult, and that people need to support one another and celebrate what might seem to be small changes.

재생적 리더십
Regenerative leadership

팬데믹에 대한 HPE의 대응과 관련된 또 다른 접근 방식은 '재생적' 리더십입니다(Hutchins and Storm 2019). 재생적 리더십은 우리가 살고 있는 취약한 생태계에 대한 인간의 노력이 미치는 영향을 인정하고 줄이는 방식으로 조직과 조직 내 사람들을 육성하는 데 도움을 줄 의무를 리더에게 부여합니다. 지속 가능한 미래는 우리가 항상 해왔던 방식으로 일을 계속하는 것이 아니라 적극적으로 재생을 추구하는 것에 의존하는 미래로 상상됩니다. 이는 웰빙, 협업, 공동 창의성을 강조하고 모든 사람의 기여를 소중히 여김으로써 달성할 수 있습니다.
Another approach relevant to HPE and its response to the pandemic is that of ‘regenerative’ leadership (Hutchins and Storm 2019). Regenerative leadership places a duty on the leader to help nurture organisations and the people within them, in such a way that acknowledges and reduces the impact of human endeavour on the fragile eco-systems in which we live. A sustainable future is envisaged as one that relies on actively pursuing regeneration, rather than continuing to do things the way we always have. This is achieved through an emphasis on wellbeing, collaboration, co-creativity, and valuing everyone’s contribution.

리더십 실천을 개선하려면 어떻게 해야 하나요?
How can I improve my leadership practice?

이론적 접근법을 실제로 적용하기 위한 전략도 희망하는 리더가 탐구해야 합니다. 때때로 압도적으로 느껴질 수 있는 일련의 문제와 변화에 대처하기 위한 개인 전략을 개발하는 것은 모든 리더에게 필수적이며, 이러한 전략이 없으면 사기와 인내심이 떨어지고 심지어 스트레스와 탈진으로 이어질 수 있습니다. 이 섹션에서는 근성, 신뢰, 논리, 공감, 취약성, 편견에 대한 인식, 적응력 향상, 글로벌 사고 등 리더가 집중할 수 있는 영역에 대해 소개합니다. 모든 수준의 상호작용은 리더의 행동이나 대응 방식에 영향을 받기 때문에 이 섹션에서는 네 가지 수준(표 2)의 맥락에서 함께 고려합니다. 
Strategies for applying theoretical approaches in practice must also be explored by the hopeful leader. Developing personal strategies to deal with what can sometimes feel an overwhelming series of issues and changes is essential for any leader; without these, morale and patience can dip, even leading to stress and burnout. In this section, we present the following area's leaders can focus on: grit, trust, logic, empathy, vulnerability, awareness of bias, becoming more adaptive, and thinking globally. These are considered in the context of the four levels (Table 2) together in this section, as interactions at any level will be influenced by the way you behave or respond.

그릿
Grit

리더는 종종 자신의 능력을 벗어났다고 느낄 수 있지만, 회복탄력성과 '그릿'(Duckworth와 Duckworth 2016)을 바탕으로 한 걸음 더 나아가 자신이 책임지고 있는 사람들에게 효과적인 리더십을 제공해야 합니다. 그릿은 열정과 끈기라는 두 가지 핵심 자질의 조합으로 정의됩니다.

  • 열정개인이 목표의 우선순위를 정할 수 있게 해주고,
  • 끈기도전에 직면했을 때 끈질기게 목표를 추구하도록 촉진합니다(Duckworth 외. 2007; Duckworth와 Gross 2014).

어려운 상황과 좌절 속에서 그릿을 발휘하는 리더는 영감을 주는 롤모델이 되고, 팀원들에게 동기를 부여하며, 결과적으로 팀원들의 그릿을 더욱 향상시킵니다. 내부 동기를 부여하고 그릿을 향상시키기 위한 리더십 전략에는 암묵적인 역할 모델링, 성공 사례와 고난에 대한 명시적인 공유, 열정과 비전을 투명하게 전달하는 것 등이 포함됩니다(Ribeiro 외. 2020).
While leaders may often feel out of their depth, they must draw upon their resilience and ‘grit’ (Duckworth and Duckworth 2016), step up and provide effective leadership to the people they are responsible for. Grit is defined as the combination of two key qualities: passion and persistence.

  • Passion allows individuals to prioritise goals, and
  • persistence promotes the tenacious pursuit of goals in the face of challenges (Duckworth et al. 2007; Duckworth and Gross 2014).

Leaders who demonstrate grit during challenging circumstances and setbacks serve as inspiring role models, motivate their team members, and in turn enhance their grit even further. Leadership strategies to drive internal motivation and enhance grit can include implicit role modelling, explicit sharing of stories of successes and their struggles, and transparency in communicating their passion and vision (Ribeiro et al. 2020).

상자 4의 예는 리더십 신뢰도가 오랜 세월에 걸쳐 구축되는 경우가 많으며 그릿이 필요하다는 것을 보여줍니다. 리더의 비전에서 시작하여 비전을 실행하고(그 과정에서 조직의 정책과 절차를 탐색하는 방법을 배우며) 실무의 변화를 이끌어내는 단계로 나아갑니다.
The example in Box 4 illustrates how leadership credibility is often built over many years and requires grit. It starts with the leader’s vision, moves on to implementing the vision, (in the meantime, learning how to navigate organisational policies and procedures), and results in practice change.

박스 4 사례 연구: 비전에서 실천의 변화로.
Box 4 Case study: From vision to changing practice.



'평가가 학습을 이끈다'는 조지 밀러(George E. Miller)의 고전적인 명제는 많은 의과대학과 의학교육자들이 소속 기관의 평가 품질을 개선하도록 영감을 주었습니다(Wood 2009). 또한 이 사례 연구의 저자가 10년 이상 성공적인 평가 여정을 시작하도록 영감을 주었습니다. 그 여정은 2009년에 인도 루디아나에 있는 크리스천 의과대학의 지역 FAIMER 연구소에 커리큘럼 프로젝트를 제출하는 것으로 시작되었습니다(CMCL-FAIMER). 이 프로젝트는 사우디아라비아 킹 압둘아지즈 대학교(KAU) 의과대학의 학생 평가 프로세스를 표준화하고 품질을 개선하는 것을 목표로 했습니다. 프로젝트가 성공적으로 수행된 후, 그 성과를 문서화하여 널리 전파하여 혜택을 극대화하고 공유했습니다. 이러한 학술적 작업은 평가의 전체 과정을 문서화하기 위한 시험 워크시트 개발, KAU에서 평가에 관한 수십 개의 교육 과정 실시, 평가에 관한 교육용 YouTube 동영상 제작, 국내외 회의 및 컨퍼런스에서 프로젝트 발표, 학생 평가 표준화를 위한 6단계 발표 등 다양한 형태로 이루어졌습니다(Hassanien 및 Abou-Kamer 2018).
‘Assessment drives learning’, the classic statement of George E. Miller, has inspired many medical schools and medical educators to improve the quality of assessment at their institution (Wood 2009). It also inspired the writer of this case study to embark on a successful journey in assessment for more than ten years. The journey started in the year 2009 by submitting a curricular project to the regional FAIMER institute in Christian Medical College in Ludhiana in India (CMCL-FAIMER). The project aimed at standardising and improving the quality of the process of student assessment in the Faculty of Medicine at King Abdulaziz University (KAU), in Saudi Arabia. After successful implementation of the project, the achievement was written up and disseminated widely to maximize and share the benefits. These scholarly works took different forms which included: developing an exam worksheet to document the whole process of assessment, conducting tens of training courses on assessment in KAU, creating educational YouTube videos on assessment (Hassanien and Abou-Kamer 2018) presenting the project in national and international meetings and conferences, and publishing six steps for standardising student assessment (Hassanien 2018).


변화를 지속하기 위한 가장 중요한 단계는 KAU 시험 및 학생 평가 정책을 개발하고 학부에 평가 부서를 설립하여 프로세스를 제도화하는 것이었습니다. 2019년 약학부는 전체 평가 프로세스를 감독하고 학생 평가에 대한 대내외 검증을 보장하기 위해 평가 부서를 설립하는 데 앞장섰습니다. 변화와 개선은 결과를 얻기까지 수년이 걸릴 수 있지만, 비전을 전달하고 끈기를 가지고 가능한 모든 기회를 활용하면 지속 가능하고 효과적인 노력을 할 수 있습니다. 변화의 지속 가능성을 위한 가장 중요하고 중요한 단계는 변화가 단순히 한시적인 '프로젝트'가 아니라 교육기관의 문화에 내재화되어 업무 수행 방식이 되도록 하는 것입니다.
The most important step to sustain the change was done by institutionalising the process through developing the KAU examination and student assessment policy and establishing assessment units in faculties. In 2019, The Faculty of Pharmacy took the initiative to establish its assessment unit to oversee the entire assessment process and to ensure the internal and external verification of student assessment. Change and improvement may take years to give results, but communicating the vision, persistence, and utilising all possible opportunities will make efforts sustainable and effective. The most important and crucial step for change sustainability is to ensure it is embedded in the culture of the institution, so it becomes the accepted way of doing things and not merely a time-limited ‘project’.

 

신뢰
Trust

Frei와 Morriss(2020)는 신뢰에는 논리, 공감, 진정성이라는 세 가지 동인이 있으며, 이 세 가지가 함께 신뢰의 삼각형을 이룬다고 설명합니다. 모든 리더는 특히 위기 상황에서 흔들리는 동인(삼각형의 한 점)을 하나 이상 가지고 있으며, 이 중 하나가 너무 약하면 신뢰가 떨어집니다(그림 1).
Frei and Morriss (2020) describe trust as having three drivers: logic, empathy, and authenticity, which together make up a triangle of trust. All leaders will have at least one driver (one point of the triangle) they falter on, especially in a crisis, and when one of these is too weak, trust falls (Figure 1).

논리 Logic

리더는 자신의 전문성을 보여주되 이기적이지 않아야 하며, 해당 산업에 대해 잘 알아야 합니다. 이는 다른 팀원들에게 신뢰감을 주는 것이 핵심입니다. 좋은 질문을 던지고, 통찰력 있는 제안을 하고, 핵심 가치를 반영한 결정을 내리는 리더를 직장 내 예로 들 수 있습니다. 또한 커뮤니케이션에 대한 일관성과 명확성이 요구됩니다.
Leaders need to show their expertise, but not be egotistical, and know their industry. This is all about being credible to other members of the team. Workplace examples include leaders asking good questions, offering insightful suggestions and decisions reflecting their core values. Consistency and clarity around communication are also expected.

공감 Empathy

사람들은 배려하는 것으로 인식되고 연민과 연결을 보여주고 공유하는 리더를 신뢰하는 경향이 있습니다. 이는 다른 사람이 말할 때 휴대전화를 보지 않거나 회의에서 다른 사람의 말을 경청하는 것만큼이나 간단할 수 있습니다. '정서적 자본'이라는 개념은 부르디외의 사회적 실천 이론(부르디외 1986)에서 등장했습니다. 연구에 따르면 정서적 자본이 높은 기관의 업무 성과가 더 높은 것으로 나타났습니다. 이러한 자본은 거창한 감동적인 강연이 아니라 인정받기, 미소 짓기, 잡담 나누기, 감사하기 등 긍정적인 미시적 행동에 의해 구축됩니다. 연구에 따르면 정서적 자본을 구축하면 직장에서의 좌절로 인한 부정적인 영향을 완충할 수 있다고 합니다. Frei의 연구에 따르면 이 지점은 가장 큰 '흔들림'이 있는 지점, 즉 리더가 가장 많이 실수하는 지점이라고 설명합니다.
People tend to trust leaders who are perceived as caring and who show and share compassion and connection; this can be as simple as not looking at your phone or watching in meetings when others are speaking. The concept of ‘emotional capital’ emerged from Bourdieu’s theory of social practice (Bourdieu 1986). Studies have shown that institutions, where emotional capital is high, have an increase in work performance. This capital is not built on grandiose displays of inspiring talks but by positive micro-behaviors: being acknowledged, smiled at, engaging in small talk, or being thanked. Research shows that building emotional capital can also buffer the negative effects of setbacks at work. Frei’s work describes this point as the one with the biggest ‘wobbles’, i.e. the one that leaders get wrong the most.

진정성 Authenticity

사람들은 리더가 실제 나와 상호작용하고 있다고 믿을 때 리더를 신뢰하는 경향이 있습니다. 누군가가 진정성 있는 사람인지 아닌지는 직감으로 알 수 있는 경우가 많지만, 일관성, 자신의 가치관에 따라 행동, 책임감, 불필요한 동료의 압력에 굴복하지 않는 것과 같은 특징이 있습니다. 그러나 가장 강력한 특성은 자신의 지저분한 부분을 보여주는 것, 즉 취약성을 드러내고 포용하는 것입니다.
People tend to trust leaders when they believe they are interacting with the real you. Knowing whether someone is being authentic is often a gut feeling, but there are characteristics such as being consistent, acting according to one’s own values, taking responsibility, and not giving in to needless peer pressure. However, the most powerful characteristic is showing the messy parts of yourself, i.e. showing and embracing vulnerability.

취약성
Vulnerability

다니엘 코일은 성공적인 팀이나 조직이 강조해야 할 세 가지 기술, 즉 모두를 위한 안전한 환경, 취약성 공유, 공동의 목표 수립 요건을 설명합니다(Coyle 2018). 취약성의 기술, 즉 실패했을 때 다른 사람들과 공유하는 것, 즉 '학습의 첫 시도'는 시간이 지남에 따라 신뢰를 쌓을 수 있습니다. 이러한 개념은 용기 있는 대화와 취약성에 기대는 것을 강조하는 브레네 브라운의 리더십 연구와 밀접하게 일치하며, 이러한 취약성 공유는 리더로부터 시작되어야 합니다(Brown 2012). 취약성은 사람들이 심리적으로 안전하다고 느낄 때만 장려될 수 있으며(Edmondson 2018), 이는 모든 사람이 부정적인 결과나 당혹감에 대한 두려움 없이 아이디어, 질문, 우려 사항을 자유롭게 말하거나 실수를 인정할 수 있다고 믿는 환경을 조성하는 데 달려 있습니다. 이는 다양성과 포용성의 이점을 극대화할 수 있도록 팀이 다양할 때 점점 더 중요해지고 있습니다(Barrow 외. 2015).
Daniel Coyle describes three skills a successful team or organisation needs to emphasise: a safe environment for all, sharing vulnerability, and the requirement to establish common goals (Coyle 2018). The skill of vulnerability, i.e. to share with others when you FAIL, or your ‘First Attempt In Learning’, will build trust over time. These concepts align closely with Brené Brown’s research on leadership, where she highlights courageous conversations and leaning into vulnerability and that this sharing of vulnerability must start with the leader (Brown 2012). Vulnerability can only be encouraged when people feel psychologically safe (Edmondson 2018), which hinges on creating an environment where everyone believes they can freely speak up with ideas, questions, concerns, or acknowledge mistakes without fear of negative consequences or embarrassment. This is increasingly important when teams are diverse so that the benefits of diversity, as well as inclusivity, can be maximised (Barrow et al. 2015).

편견에 대한 인식
Awareness of biases

무의식적(암묵적) 편견은 모든 사람의 무의식 속에 존재하며 무의식적으로 의사 결정이나 판단에 영향을 미칩니다. 편견은 경험, 양육, 문화, 주변 환경 등 '삶'에 노출되는 동안 자연스럽게 형성되거나 발전합니다. 이러한 편견은 의도하지 않았고 반드시 나쁜 것은 아니지만 현대 사회에서 차별에 기여하는 경우에는 해결해야 합니다. 이러한 편견은 우리의 행동과 동료와의 상호 작용에 영향을 미칠 수 있습니다(Marcelin 외. 2019; Teal 외. 2012). 무의식적 편견을 해결하려면 편견을 인식하고 이해해야 합니다(Liao and Thomas 2020; Velarde 외. 2022). 암묵적 연상 테스트와 같이 도움이 될 수 있는 설문조사와 공인된 도구가 있습니다. 서로 다른 사회적 집단에 속한 사람들 사이에서 자신의 검사 결과에 대해 토론하는 것은 다른 관점을 공유할 수 있는 안전한 환경에서 특히 효과적입니다. 편견 리터러시를 증진하기 위해 촉진된 토론을 활용하면 직장에서의 편견을 최소화하는 데 효과적일 수 있습니다. 편견은 학습자뿐만 아니라 리더에게도 나타날 수 있으며, 그 예는 상자 5에 자세히 나와 있습니다.
Unconscious (implicit) biases are part of everyone's unconscious minds that unknowingly influence decisions or judgements. They are shaped or develop naturally during exposure to ‘life’: experiences, upbringing, culture, and surrounding environments. They are unintentional and not necessarily bad but need to be addressed when they contribute to discrimination in modern society. These biases can affect our behaviours and the interactions we have with colleagues (Marcelin et al. 2019; Teal et al. 2012). Addressing unconscious biases requires that one must recognise and understand them (Liao and Thomas 2020; Velarde et al. 2022). There are surveys and recognised instruments such as the Implicit Association Test that can be of help. Discussion of one’s test results amongst those in dissimilar social groups is particularly powerful in a safe environment that allows alternative viewpoints to be shared. Utilising facilitated discussions to promote bias literacy can be effective in minimising bias in the workplace. Biases are shown by learners as well as leaders, an example of which is detailed in Box 5.

상자 5 학습자 편견.
Box 5 Learner biases.


최근 발표된 논문(Khasan 외. 2020)에 따르면, 천연자원 생태학에 관한 학부 온라인 강좌의 136명의 학생은 성에 따라 남성 또는 여성 조교(TA)를 '배정'받았습니다. 그러나 여성 박사 과정 학생인 카잔은 실제로 모든 학생의 조교였습니다. 조교의 '성별'은 학생들에게 제공된 가짜 이름, 사진, 짧은 약력을 바탕으로 결정되었습니다. 과정을 마친 후 학생들은 조교가 여성이라고 생각했을 때와 남성이라고 생각했을 때를 비교했을 때 5배나 더 부정적인 평가를 내렸습니다. 하노버 리서치(2013)의 2013년 보고서에서는 교수진을 평가할 때 학생 편견 문제를 줄이고 잠재적으로 제거할 수 있는 기회를 설명합니다. 이 연구에서는 내면화된 편견이 5점 척도에서 여성 교수에게는 최대 0.4점, 흑인 교수에게는 최대 0.6점의 불이익을 주며, 평가도 학대나 괴롭힘으로 변질될 수 있다고 강조했습니다. 이 검토에서는 교수진이 구체적인 질문을 하고, 수업 중에 종이에 평가를 관리하며, 평가 양식에 암묵적 편견에 대한 정보를 포함할 것을 권장합니다(Finelter-Rosenbluh 2020).
In a recent publication (Khasan et al. 2020), 136 students in an undergraduate online course on natural resource ecology were ‘assigned’ either a male or female teaching assistant (TA), dependent on their surnames. However, a female Ph.D. student Khazan was really the TA for everyone. The TA’s ‘gender’ was based on fake names, photographs and a short biography made available to students. On completion of the course, students gave the TA five times as many negative evaluations when they believed that she was a woman compared to when they thought she was a man. A 2013 report by Hanover research (2013) outlines opportunities to reduce and potentially eliminate the problem of student bias when evaluating faculty. Their review highlighted that internalised bias penalise female faculty by up to 0.4 and Black faculty by up to 0.6 on a 5-point scale, with evaluations also becoming abusive and bullying. The review recommends that faculty ask concrete questions, administer evaluations on paper during class and include information about implicit bias within evaluations forms (Finelter-Rosenbluh 2020).

 

적응력 높이기
Becoming more adaptive

적응형 리더는 상황이나 조직의 외부 또는 그 이상의 관점을 취할 수 있는 사람입니다. 적응형 리더는 '댄스 플로어에서 내려 발코니로 나가는'(Heifetz와 Linsky 2002) 리더로, 사람과 시스템이 어떻게 작동하는지에 대한 이해를 통해 지속 가능한 변화를 촉진하고, 서로 상호작용하여 변화를 함께 만들어갈 수 있습니다(Obolensky 2017). 이러한 리더는 자신과 팀이 불확실성과 모호성을 가지고 일할 수 있는 안전한 공간을 조성하고, 새로운 변화를 창출하기 위해 '치열한 대화'를 할 수 있습니다. 상자 6에서는 코로나19 팬데믹 기간 동안 적응형 리더십이 어떻게 작동했는지를 보여주는 조직과 시스템 전반에 걸친 리더십의 사례를 간략히 소개합니다.
Adaptive leaders are those who can take a perspective from outside or above the situation or organization. Adaptive leaders ‘get off the dance floor and go to the balcony’ (Heifetz and Linsky 2002), can facilitate sustainable change through their understanding of how people and systems work, and interact with one another to co-create change (Obolensky 2017). Such leaders are able to create safe spaces for both themselves and their teams to work with uncertainty and ambiguity and have ‘fierce conversations’ in order to generate emergent change. In Box 6 we outline an example of leadership enacted across an organisation and system which highlights how adaptive leadership operated in action during the COVID-19 pandemic.

박스 6 위기 속 조직과 시스템의 도전: 행동하는 적응적 리더십
Box 6 Organisation and system challenge in crisis: Adaptive leadership in action.


HPE 리더는 고등 교육 및 의료 산업의 상호 의존성을 반영하는 환경에서 고도의 규제를 받고 공공 또는 민간 기관으로 운영되는 조직과 시스템에서 근무합니다. HPE 리더는 점점 더 많은 기업 책임을 지고 있으며, 대학에 대한 공적 자금 지원 감소로 인해 재정 및 자원 관리에 대한 통찰력을 갖춰야 합니다. 공공의 이익을 위해 봉사하는 조직의 리더로서 HPE 리더는 높은 사회적 지위를 가지고 있습니다. 또한 다양성, 포용성, 형평성을 증진하는 좋은 거버넌스, 책임성, 운영 시스템에 대한 집중적인 조사를 받고 있습니다(McKimm and McLean, 2020). HPE 리더가 근무하는 조직과 시스템은 매우 복잡한 환경입니다. 현재의 팬데믹 및 기타 위기로 인해 조직은 적응하고 필요한 조치를 취하여 기능을 유지하고 미래를 위한 새로운 규범을 설정해야 합니다(Ashokka 외. 2020).
HPE leaders work in organisations and systems that are highly regulated and operate as either public or private entities in settings that reflect the interdependence of both the higher education and healthcare industry. HPE leaders increasingly have corporate responsibilities and are expected to have financial and resource management acumen due to reduced public funding for universities. As leaders of organisations that serve public interests, HPE leaders have high social standing. They are also under intense scrutiny for good governance, accountability and operating systems that promote diversity, inclusivity, and equity (McKimm and McLean, 2020). The organisations and systems in which HPE leaders work is a highly complex environments. The current pandemic and other crises force the organisations to adapt and take necessary measures to keep functioning as well to set new norms for the future (Ashokka et al. 2020).


아시아에서는 코로나19 팬데믹 기간 동안 주요 중앙 결정을 내리기 위해 전담 대응팀이 구성되었습니다. 이 팀은 기술에 적응한 의학교육과 평가를 제공하는 데 있어 조율된 조치를 통합하는 동시에 임상 실습 학생, 레지던트, 모든 교직원을 위해 높은 안전 기준에 따라 가능한 한 임상 과제를 할당하려고 노력했습니다. 대응팀은 팬데믹 기간 동안 지역 정부의 전반적인 대응 시스템을 세심하게 활용했습니다. 이러한 적응적 접근 방식은 기관의 집단주의, 계층적 시스템의 적절한 사용, 혼란스러운 상황에서 불확실성을 줄이려는 시도를 반영하여 적시에 충분한 정보를 바탕으로 한 결정을 내릴 수 있게 했습니다(Ashokka 외. 2020; Lazarus 외. 2020). 일부 리소스 제한에도 불구하고 팬데믹 기간 동안 최전선에서 일하는 새로 졸업한 의사를 지원하기 위해 신속한 대응을 위한 대규모 온라인 공개 강좌를 개설하기 위해 적응적 접근 방식을 취하기도 했습니다(Findyartini 외. 2021).
In an Asian setting, a dedicated response team was set up to provide key central decisions during the COVID-19 pandemic. This team was able to consolidate coordinated actions in delivering technology-adapted medical education and assessment while still attempting to allocate clinical assignments where possible with high safety standards for students in clinical years, residents, and all staff members. The response team employed the overall response system during the pandemic from the local government meticulously. Such an adaptive approach allowed for timely and well-informed decisions which reflected institutional collectivism, the appropriate use of the hierarchical system and attempts to reduce the uncertainty during a chaotic situation (Ashokka et al. 2020; Lazarus et al. 2020). Despite some resource limitations, the adaptive approach was also taken to create a fast response Massive Open Online Course to support newly graduated medical doctors working at the frontlines during the pandemic (Findyartini et al. 2021).

박스 7에서는 조직과 시스템 전반에 걸쳐 시행된 리더십의 또 다른 사례를 소개합니다. 이 사례는 한 조직이 외부 변화와 변화하는 이해관계자의 요구에 대응하여 교육자를 위한 전문 표준 프레임워크를 도입하기 위한 비전을 개발하고 제정하는 과정을 설명합니다. 팬데믹 시기가 아닌 안정적인 시기였으며, 품질 개선이라는 접근 방식을 활용했습니다.
In Box 7 we lay out another example of leadership enacted across an organisation and system. This one describes the way in which an organisation developed and enacted a vision to introduce a professional standards framework for educators in response to external shifts and changing stakeholder demands. This was during a stable time, not during a pandemic, and draws on an approach of quality improvement.

박스 7 고등교육의 질 향상: 조직 및 시스템 변화.
Box 7 Improving the quality of higher education: Organisational and system change.


지난 10년 동안 학습, 교수 및 학생 경험의 질을 개선하려는 시장의 힘, 이해관계자의 요구 및 발전에 자극을 받아 주로 영국, 호주, 뉴질랜드, 아일랜드 등 서구를 중심으로 대학 교직원을 위한 여러 전문 표준 프레임워크가 시행되었습니다. 사우디아라비아의 킹 압둘아지즈 대학교(KAU)는 대학에서 일하는 교직원을 위한 전문 표준 프레임워크를 개발하면 대학 부문 전반에서 학습 및 교수의 질을 표준화하고 개선하는 데 도움이 될 것이라는 사실을 파악했습니다.
Over the last decade, stimulated by market forces, stakeholder demands and developments to improve the quality of learning, teaching and the student experience, several professional standards frameworks have been implemented for university staff, primarily in the West (e.g. the UK, Australia, New Zealand, and Ireland). In Saudi Arabia, King Abdulaziz University (KAU) identified that developing a professional standards framework for academics working in universities would help standardise and improve the quality of learning and teaching across the university sector.


KAU의 리더들은 지역 및 더 넓은 사우디 국가적 맥락에 적합한 전문 표준 프레임워크를 개발하는 데 앞장섰습니다. 이 프레임워크는 KAU 고유의 것이지만 모범 사례와 증거에 기반한 주요 국제적 모범 사례를 반영하고 있습니다(Al-Youbi 외. 2021). 프로젝트가 제기하는 기술적 과제를 해결하기 위한 일환으로, 일련의 정책과 절차는 리더와 교사가 채용, 교수진 개발 및 훈련, 평가 및 성과 평가, 승진에 전문 표준 프레임워크를 사용할 수 있도록 돕습니다.
Leaders at KAU took the initiative to develop a professional standard framework suitable for the local and the wider Saudi national context. This framework is unique to KAU yet reflects key international exemplars grounded in best practice and evidence (Al-Youbi et al. 2021). As part of addressing the technical challenges posed by the project, a set of policies and procedures help leaders and teachers to use the professional standard framework for recruitment, faculty development and training, appraisal and performance evaluation and promotion.

 

글로벌 사고
Thinking globally

글로벌 생태계 전반에서 리더십을 발휘하고자 할 때 개인이 혼자서 이를 시도하는 것은 불가능하기 때문에 협업과 글로벌 실천 커뮤니티 형성이 필수적입니다. 아래에 자세히 설명된 HPE의 프로그램 개발에서 포용적이고 글로벌한 리더십을 발휘한 사례는 협업이 실천 커뮤니티를 강화하고 확장하는 데 어떻게 도움이 되는지 잘 보여줍니다.
When trying to enact leadership across global ecosystems, it is impossible for individuals to attempt to do this on their own, therefore collaboration and forming global communities of practice are essential. An example of inclusive and global leadership in the development of a programme for HPEs, detailed below, highlights how collaboration helps strengthen and expand a community of practice.

환경윤리 및 재생 리더십에 필요한 많은 기술에는 책임감, 옹호, 행동주의에 대한 이해가 필요합니다. 모든 사람이 활동가가 되지는 않겠지만(혹은 되어야만 하는 것은 아닙니다), 때로는 복잡한 시스템에서 권력과 정치에 적극적으로 개입해야 할 때가 있습니다. 책임감, 옹호, 행동주의의 모든 기술에는 핵심 가치를 행동으로 옮기고 이를 일상적인 행동에 통합하는 것이 포함됩니다. 표 3은 핵심 가치와 이를 행동으로 보여주는 방법, 필요한 훈련 및 교육을 사례와 함께 보여줍니다.
For many of the skills required for eco-ethical and regenerative leadership, an understanding of accountability, advocacy, and activism is required. Not everyone will (or should?) become an activist, but when we feel very strongly, sometimes we must step up and work actively with power and politics in complex systems. All the skills of accountability, advocacy and activism involve putting core values into action and incorporating these into everyday behaviours. Table 3 shows the core values and how these might be displayed in action, the training and education required, with examples.

모든 수준의 리더가 자신의 가치를 리더십에 통합한 매우 시사적이고 시급한 사례로는 학생과 의사의 기후 변화 운동이 있습니다(상자 9). 현재의 기후 위기는 곧 건강 위기입니다. 예를 들어, 영국의 일반의협의회(2018)의 의사의 의무에 따르면 의사는 환자의 안전, 존엄성 또는 편안함이 침해될 수 있다고 생각되면 즉각적인 조치를 취해야 하므로, 많은 의사들이 개인적, 직업적 생태 발자국을 최소화하기 위해 노력하면서 '행동주의'에 의지하는 것은 놀라운 일이 아닙니다.
A highly topical and urgent example of how leaders (at all levels) have incorporated their values into leadership is that of student and doctor climate change activism (Box 9). The current climate crisis is a health crisis (https://www.who.int/news-room/photo-story/photo-story-detail/urgent-health-challenges-for-the-next-decade). Since, for example, the UK’s General Medical Council (2018) Duties of a Doctor requires that doctors take prompt action if they think that patient safety, dignity, or comfort may be compromised, it is not surprising that many doctors are resorting to ‘activism’ while also striving to minimising their personal and professional ecological footprints.

박스 8 의학교육의 AMEE 전문가 자격증.
Box 8 The AMEE Specialist Certificate in Medical Education.


수년 동안 AMEE는 연례 학술대회 기간 중 또는 그 이전에 열리는 교육 과정에 참여할 수 있는 기회를 제공해 왔습니다. 이를 통해 참가자들은 다양한 ESME 인증서 중 하나를 취득할 수 있으며, 이 중 다수는 학교 및 기관 수준에서 공신력 있는 성취 증명서로 인정받고 있습니다. 지난 몇 년 동안 전 세계 여러 국가에서 추가적인 온라인 및 주제별 과정이 제공되었습니다. 교수진이 학생 및/또는 수련의를 계속 가르칠 수 있도록 의학교육에 대한 기본 자격을 갖추어야 한다는 압력이 증가하고 있지만, 많은 교육자, 특히 추가 임상 및 학업 책임이 있는 교육자나 자원이 부족한 환경에 있는 교육자는 이러한 자격을 갖추지 못하고 있습니다.
For many years AMEE has provided opportunities to participate in courses held during or prior to the annual conference. These allow participants to obtain one of the various ESME Certificates, many of which are recognised at the school and institutional level as a credible certificates of achievement. Over the last few years, additional online and subject-specific courses have been delivered in various countries around the world. There is increasing pressure upon faculty to have a basic qualification in medical education, which allows them to continue teaching their students and/or trainees, however, these are not available for many educators, particularly those with additional clinical and academic responsibilities and those in low resource settings.


2018년, 전 세계 교육자들의 요구를 해결하고 이들이 글로벌 실무 커뮤니티로 진출할 수 있도록 돕기 위해 일부 ESME 과정을 AMEE 의학 교육 전문가 자격증으로 통합하는 방안이 제안되어 합의되었습니다. AMEE 전문가 인증서는 의학교육에 대한 시간, 자금 또는 학위 수여 프로그램을 이용할 수 없는 개인에게 상황과 경력 목표에 맞게 개별적으로 조정할 수 있는 유연한 프로그램을 제공함으로써 국제적으로 인정받는 의학교육 인증서를 취득할 수 있는 기회를 제공하는 것을 목표로 합니다. 이 인증서는 AMEE에서 인정하는 4개의 과정으로 구성되어 있으며, 이를 통해 개인이 지정된 학습 결과를 달성했음을 증명할 수 있습니다. 이러한 과정은 전 세계의 다양한 컨퍼런스(AMEE 연례 컨퍼런스 포함) 및 기타 장소에서 온라인으로 운영됩니다. 현재까지 수백 명의 교육자가 자격증을 취득했거나 취득을 위해 노력하고 있으며, 자격증이 자신감, 역량 및 경력에 긍정적인 영향을 미치고 있다고 보고하고 있습니다.
In 2018, it was proposed and agreed to combine some of the ESME courses into an AMEE Specialist Certificate in Medical Education aimed at addressing the needs of educators globally and helping them to move into the global community of practice. The AMEE Specialist Certificate aims to give individuals (who may not have the time, funding for or access to award bearing programmes in medical education) opportunities to gain an internationally recognised Certificate in Medical Education, through the provision of a flexible programme, which can be individually tailored to suit circumstances and career aspirations. The Certificate comprises four courses recognised by AMEE, which together demonstrate that an individual has achieved the specified learning outcomes. Such courses are run online, around the world at various conferences (including the AMEE annual conference) and in other locations. To date, hundreds of educators have obtained or are working towards their Certificate and reporting that this is having a positive impact on their confidence, competence, and careers.

 

박스 9 학생과 의사의 기후 변화 운동.
Box 9 Student and doctor climate change activism.



학교 학생, 보건 전공 학생 및 보건 전문가들이 '활동가'가 되어 정부에 긴급한 조치를 취하도록 로비를 벌이고 있습니다. 예를 들면 다음과 같습니다:
School students, health professional students and health professionals have become ‘activists’, lobbying governments to take urgent action. Examples include:

  • #미래를 위한 금요일: 2018년 8월, 15세 소녀 그레타 툰베리가 기후를 위한 학교 파업을 시작하면서 시작된 글로벌 기후 파업 운동입니다.
    #FridaysforFuture
    : A global climate strike movement that began in August 2018 when 15-year-old Greta Thunberg began a school strike for climate.
  • 국제 의과대학 학생회 연맹: 건강 문제에 관한 정책 문서를 발표하고 국가별 국제 회의에 참석하는 등 활발한 활동을 펼치고 있습니다. 최근 정책 문서로는 건강 형평성, 건강 비상사태(2020년 8월), 건강, 환경 및 기후 변화(2020년 3월)가 있습니다.
    The International Federation of Medical Students’ Association: Active in terms of publishing policy documents on health issues and attending national international meetings. Recent policy documents include Health Equity, Health Emergencies (Aug 2020) and Health, Environment and Climate Change (March 2020).
  • 멸종 반란을 위한 의사들: 웹사이트에는 다음과 같이 적혀 있습니다: ".... 기후 변화가 임박한 공중 보건 재앙임을 인식하고, 멸종 반란과 함께 시민 불복종에 착수하기로 결정했습니다."
    Doctors for Extinction Rebellion
    : On their website, they write the following: “…. Appreciating that Climate Change is an impending public health catastrophe, have decided to undertake Civil Disobedience with Extinction Rebellion

 

상자 10 캐나다의 수평적 및 수직적 리더십 개발.
Box 10 Horizontal and vertical leadership development in Canada.


"RCPSC와 캐나다 의과대학 학부협회(AFMC)는 리더십 교육을 UGME(MD 교육)와 PGME(레지던트 교육) 모두에서 중점적으로 고려할 것을 권장했습니다. "직업적 책임, 자기 인식, 피드백 제공 및 받기, 갈등 해결, 변화 관리, 리더, 조력자 또는 팀원으로서 팀의 일원으로 일하는 것"에 초점을 맞출 것을 권장했습니다.  대부분의 프로그램은 리더십 교육의 일부로 캐나다 의사협회(CMA)에서 제공하는 것과 같은 활동을 포함한 선택적 활동에 대한 접근을 용이하게 합니다:  레지던트와 의사를 위한 리더십 교육은 일반적으로 유료 과정(https://joulecma.ca/learn. . . )을 통해 제공됩니다.
“RCPSC and the Association of Faculties of Medicine of Canada (AFMC) have recommended that leadership training be considered a focus in both UGME (MD training) and PGME (residency training). The recommendation was to focus on “professional responsibilities, self-awareness, providing and receiving feedback, conflict resolution, change management, and working as part of a team as a leader, facilitator, or team member.  The majority of programs facilitate access to optional activities as part of their leadership offer which include activities such as these provided by the Canadian Medical Association (CMA):  https://www.cma.ca/physician-wellness-hub/resources/leadership-professional-development/leadership-development-courses-for-medical-students-and-residents. . . .  Training in leadership for residents and physicians is usually facilitated through fee-paying courses (https://joulecma.ca/learn. . . . ).


리더십 개발은 캐나다의 학부 의학교육(UGME)의 커리큘럼에도 포함되어 있습니다. 다음은 오타와 대학교의 예입니다:  
Leadership development is also included in the curricula in undergraduate medical education (UGME) in Canada. This is an example from the University of Ottawa:  https://med.uottawa.ca/undergraduate/education/social-accountability/associated-programs/leadership. . . .
박스 11 리더십에 대한 문화적 관점.
Box 11 Cultural perspectives on leadership.


리더십에 대한 동남아시아의 관점
South-East Asian perspectives on leadership


동남아시아 국가에서는 문화적 가치가 강력하게 자리 잡고 있으며 삶의 모든 측면에 영향을 미칩니다. 이 지역 국가들의 다양한 인종, 지리적 분포, 정부 정책, 교육 및 의료 시스템으로 인해 보건 전문직 교육에서 문화적 가치가 리더십에 미치는 영향을 논의하기 위해서는 포괄적인 이해와 역동적인 접근이 필요합니다. 호프스테드의 문화적 가치에 따르면 이 지역은 높은 권력 거리 또는 위계질서, 집단주의, 불확실성 회피, 장기적 지향, 남성성과 여성성의 균형이 특징이며, 이를 잘 인식하고 관리하는 리더가 있어야 필요한 변화가 일어날 수 있습니다.
Cultural values are strongly held and influence all aspects of life in South-East Asian countries. With diverse ethnicities, geographical distribution, governmental policies, education and healthcare systems in the countries within this region, discussing the impact of cultural values on leadership in health professions’ education requires comprehensive understanding and a dynamic approach. Based on Hofstede’s cultural values, this region is characterised by high power-distance or hierarchy; collectivism; uncertainty avoidance; long-term orientation, and a balance of masculinity and femininity, which are best aware and managed with by the adaptive leaders hence necessary changes can take place.


리더십에 대한 중동의 관점
Middle Eastern perspectives on leadership


중동 아랍 국가들은 신뢰에 뿌리를 둔 독특한 문화 유산을 가지고 있습니다. 개인은 일반적으로 꾸란의 원칙에 따라 자신의 유산을 소중히 여기고 종교적 신념과 중요한 관계를 보존합니다. 이러한 문화는 중동의 일반적인 리더십 스타일과 리더와 추종자 간의 관계를 규정하는 요소에 큰 영향을 미칩니다. 이러한 관점에서 볼 때 중동 리더십 스타일의 고유한 특징은 다음과 같습니다: 높은 권력-거리, 탁월함을 바탕으로 한 신뢰 구축, 모든 사람에게 사명과 역할이 있음, 개방적인 문화, 개별 의사 결정과 협의의 균형.
Middle Eastern Arab countries have a unique cultural heritage that is rooted in trust. Individuals are generally guided by the Quran's principles: they value their heritage and preserve their religious beliefs and relationships of importance. This culture has a profound effect on the common leadership styles in the Middle East and on the factors regulating the relationships between leaders and their followers. From this perspective, the following are unique characteristics for the middle eastern leadership style: high power-distance; trust is built based on excellence; every person has a mission and a role to play; an open-door culture, and balance consultation with individual decision-making.



리더의 존재와 리더 되기
Being and becoming a leader

방대한 양의 이론과 관리 모델, 그리고 끊임없이 변화하는 환경은 HPE 리더가 '리더가 되는 것'(Souba, 2011)과 '리더십 활동을 수행하는 것'을 매우 어렵게 만들 수 있습니다

  • 리더가 '되는 것'은 여기서 논의한 많은 리더십 접근법과 기법을 일상 업무에 통합하는 것을 포함하지만,
  • 리더가 '되어가는 것'은 리더로서의 정체성을 개발하는 과정(의식적, 무의식적)을 포함합니다(Maile 외. 2019).

The sheer volume of theories and management models, plus the constantly changing environment in which HPE leaders have to work can make ‘being and becoming a leader’ Souba, 2011) as well as ‘doing leadership activities’ very difficult.

  • ‘Being’ a leader involves incorporating many of the leadership approaches and techniques discussed here into everyday practice, whereas
  • ‘becoming’ a leader involves a process (conscious and unconscious) of developing an identity as a leader (Maile et al. 2019).

Petrie의 연구는 이를 맥락에 맞게 설명하는 데 도움이 됩니다. 그는 리더십 개발의 두 가지 유형, 즉 수평적 리더십과 수직적 리더십을 설명합니다(Petrie 2014). 
Petrie’s work helps put this into context. He describes two types of leadership development: horizontal and vertical (Petrie 2014). 

  • 수평적 리더십 개발은 개념, 모델 및 사용 가능한 도구를 포함하여 리더십 이론에 대한 지식을 늘리는 것입니다. 여기에는 점점 더 많은 수의 대학원 자격증이 포함됩니다. 리더가 경험을 쌓고 공식적인 학습을 시작하면 수직적 리더십 개발의 원칙을 활용하는 것을 목표로 삼아야 합니다. 여기에는 리더십의 맥락에서 자신과 자신이 직면한 도전에 대해 배우는 것이 포함됩니다.
    Horizontal leadership development is about increasing your knowledge of the theory of leadership including the concepts, models, and tools available. This includes postgraduate qualifications of which there are increasing numbers on offer. As leaders begin to gain experience and possibly undertake some formal learning, they should aim to utilise the principles of vertical leadership development. This involves learning about yourself in the context of leadership and the challenges you face.
  • 수직적 리더십에서 리더는 자신이 직면한 도전('뜨거운 경험')을 성찰과 대화를 통해 '감각화'하고, 현재 상황에 대해 '충돌하는 관점'에 개방적인 태도를 취함으로써 어떻게 개선하거나 다르게 행동할 수 있는지 분석합니다. 의도적인 성찰과 대화는 임포스터 감정을 완화하고, 리더십에 대한 자신감과 유능함을 키우며, '실용적인 지혜'를 개발하여 궁극적으로 우리의 가치를 실천할 수 있다고 느끼는 데 도움이 될 수 있습니다. 서로 다른 관점이 충돌하는 예는 아래 예시에서 볼 수 있듯이 세계 여러 지역에서 나타나는 다양한 리더십 가치와 스타일에서 잘 드러납니다.
    In vertical leadership, leaders use the challenges they meet (‘heat experiences’), to analyse how they might improve or do things differently through ‘sense-making’ of the experience (through reflection and conversation) and being open to ‘colliding perspectives’ about what is going on. Purposeful reflection and conversations can help us alleviate imposter feelings and become more confident and competent at leadership, developing our ‘practical wisdom’, and ultimately feeling able to live out our values. An example of colliding perspectives is highlighted by the different leadership values and styles displayed in different regions of the world, illustrated by the example below.

코칭과 멘토링을 찾는 것은 정확하고 정직한 자기 성찰을 촉진하고 성장 마인드를 개발할 수 있는 충돌하는 관점에 열려 있는 풍부한 예입니다(Dweck 2016). 이는 수직적 리더십 개발의 또 다른 예입니다. 멘토링 관계는 멘티와 멘토 모두에게 중요합니다. HPE 리더는 대부분 멘토의 역할을 맡지만, 리더십 개발에서는 기꺼이 멘티의 역할을 맡을 수 있어야 합니다. 궁극적으로 이러한 멘토링 이니셔티브는 조직에 도움이 됩니다. Burgess 외(2018)의 검토에 따르면 멘토링 관계의 모든 이해관계자가 얻을 수 있는 이점을 고려하고 아래 표 4에 요약했습니다.
Seeking coaching and mentoring are rich examples of being open to colliding perspectives that can facilitate accurate and honest self-reflection and develop a growth mindset (Dweck 2016). This is another example of vertical leadership development. Mentoring relationships are important for both mentee and mentor. HPE leaders mostly take on the role of a mentor, however, in leadership development, they need to be willing to take on a mentee role. Ultimately, these mentoring initiatives benefit the organisation. Based on the review by Burgess et al. (2018), the benefits for all stakeholders of mentoring relationships are considered and summarised in Table 4 below.

 
 

결론
Conclusion

이 가이드에서는 리더십의 여러 이론적 측면을 살펴보고 리더, 관리자, 팔로워가 문제와 도전에 어떻게 대처할 수 있는지에 대한 예를 제공했습니다. 리더십은 다양한 수준(개인 내, 대인관계/팀, 조직 및 시스템 수준)에서 발생하며, 리더는 이러한 수준에 익숙해지고 능숙하게 대처할 수 있어야 합니다. 리더십은 학부 단계부터 공식적으로 가르쳐야 하며, 교육자의 커리어를 통해 지속적으로 재교육하여 사람들이 리더십과 팔로워십 역할을 적절히 수행하고 여러 전문가로 구성된 팀에서 일할 수 있도록 준비시켜야 합니다. 모든 리더는 다른 사람들이 변화를 일으키도록 영향력을 발휘할 수 있도록 신뢰할 수 있어야 하므로, 교육자는 시간을 들여 자신이 근무하는 맥락을 이해하여 HPE를 구성하는 다양한 교육 및 의료 시스템 내에서 그리고 그 시스템 전반에서 일할 수 있어야 합니다.
In this guide, we have explored many theoretical aspects of leadership and provided examples of how leaders, managers and followers might address issues and challenges. Leadership takes place at various levels (the intrapersonal, interpersonal/team, organisational and system levels) and leaders need to become familiar with and adept at navigating these levels. Leadership needs to be formally taught right from the undergraduate stage and refreshed throughout an educator’s career so that people are equipped to take on leadership and followership roles appropriately and work in multi-professional teams. Any leader needs to be credible to influence others towards making change, therefore educators need to take time to understand the context in which they work so that they can work within and across the various education and healthcare systems that comprise HPE.

직장에서의 평생 학습은 지속적인 리더십 개발에서 가장 큰 부분을 차지하며, 이를 통해 다양한 리더십 활동과 상황에서 효과적으로 대처할 수 있는 경험과 실용적인 지혜를 얻을 수 있습니다. 리더십은 또한 매우 개인적인 것으로, 모든 사람이 다르므로 각자의 강점을 발휘해야 합니다. 자신과 자신의 가치관을 이해하는 것은 감성 지능, 근성, 진정성을 키우고 리더로서 어디에 관심을 집중할지 결정할 수 있도록 하는 데 필수적입니다. 여기에는 때때로 난간을 넘어서거나, 첫 번째 팔로워가 되거나, 옹호를 넘어 행동주의로 나아가는 것이 포함될 수 있습니다. 어떤 분야에서 어떤 리더십을 발휘하든, 이 가이드가 여러분의 발전을 위한 몇 가지 아이디어를 제공하고 보건 전문직 교육에서의 리더십에 대해 더 자세히 알아보는 데 도움이 되기를 바랍니다.
Lifelong learning in the workplace forms the greatest part by far of ongoing leadership development; this is where you gain the experience and the practical wisdom to be effective in a wider range of leadership activities and situations. Leadership is also very personal; everyone is different and should play to their strengths. Understanding yourself and your values is essential so that you can work on and nurture your emotional intelligence, grit and authenticity and decide where you want to focus your attention as a leader. This may involve stepping above the parapet sometimes, being the first follower, or moving beyond advocacy to activism. Wherever and whatever you decide to lead on, we hope this guide has provided some ideas for your development and inspired you to learn more about leadership in health professions education.


 

 

Med Teach. 2023 Feb;45(2):128-138. doi: 10.1080/0142159X.2022.2057288. Epub 2022 May 11.

 

 

Adaptive leadership during challenging times: Effective strategies for health professions educators: AMEE Guide No. 148

Affiliations collapse

1Swansea University Medical School, Wales, UK.

2Department of Internal Medicine, King Saud University, Riyadh, Saudi Arabia.

3Harvard Medical School, Boston, USA.

4Massachusetts General Hospital Institute for Health Professions Education, Boston, USE.

5Honorary Professor of Medical Education, University of Manchester, Manchester, UK.

6Faculty of Health Sciences and Medicine, Bond University, Gold Coast, Queensland, Australia.

7Head of Medical Education Unit and Head of Cluster, Centre for Medical Education, Indonesia Medical Education and Research Institute, Faculty of Medicine Universitas Indonesia, Jakarta, Indonesia.

8Department of Applied Linguistics, Swansea University, Swansea, UK.

9Department of Clinical Biochemistry & Medicasl Education, College of Pharmacy Practice, King Abdulaziz University, Jeddah, Saudi Arabia.

10College of Medicine, Tanta University, Tanta, Egypt.

11Anatomy, Department of Anatomy, Faculty of Medicine, King Abdulaziz University, Jeddah, Saudi Arabia.

12Faculty of Medicine & Health Sciences, Swansea University, Swansea, UK.

13Institutional Development at the International Medical University, Kuala Lumpur, Malaysia.

14Departement of Psychiatry, Memorial University, St. Clare's Hospital, St. John's, Canada.

15Department of Health and Community Services, Government of Newfoundland and Labrador, St John's, Canada.

PMID: 35543323

DOI: 10.1080/0142159X.2022.2057288

 

Abstract

Leadership and management are becoming increasingly recognised as vital for high-performing organisations and teams in health professions education. It is often difficult for those embarking on leadership activities (as well as more experienced leaders) to find their way through the volume of literature and generic information on the topic. This guide aims to provide a framework for developing educators' understanding of leadership, management, and followership in the context of health professions education. It explains many relevant approaches to leadership and suggests various strategies through which educators can develop their practice to become more effective.

Keywords: Health professions education; followership; leadership; management.

인지과학의 인사이트를 임상 술기 교육에 사용하기: AMEE Guide No. 155 (Med Teach, 2023)
Using insights from cognitive science for the teaching of clinical skills: AMEE Guide No. 155
Dario Cecilio-Fernandes, Rakesh Patel & John Sandars

 

 

소개
Introduction

학생들이 임상 술기를 효과적으로 습득할 수 있도록 지원하는 것은 보건 전문직 교육(HPE) 교육자들에게 점점 더 어려운 과제가 되고 있습니다. 졸업 시점에 습득해야 하는 임상 술기의 수가 증가하고 시뮬레이션 및 임상 업무 환경에서 임상 술기를 배울 수 있는 기회가 점점 더 제한되고 있기 때문에 이러한 도전은 점점 더 커지고 있습니다. 특정 학부 강의 계획서에 따라 학생들이 습득해야 하는 임상 술기는 다양하며, 이러한 술기는 캐뉼레이션과 같은 간단한 절차적 술기부터 고급 생명유지술의 경우 보다 복잡한 진단 및 관리 추론 술기까지 다양합니다(Faustinella and Jacobs 2018). 또한 교육자들은 시간이 지남에 따라 임상 술기 감퇴의 중요성에 대해 점점 더 인식하고 있습니다(세실리오-페르난데스 외. 2018; 살 외. 2021). 
Supporting students in the effective acquisition of their clinical skills is becoming more of a challenge for health professions education (HPE) educators. The challenge is a growing one because of the increasing number of clinical skills required to be learned at the point of graduation, and also because of the increasingly limited opportunities for learning clinical skills in simulation and clinical workplace settings. There are many clinical skills that students need to acquire depending on the specific undergraduate syllabus, and these skills range from simple procedural skills, such as cannulation, through to more complex diagnostic and management reasoning skills in the case of advanced life support (Faustinella and Jacobs 2018). In addition, educators are becoming increasingly aware of the importance of clinical skill decay over time (Cecilio-Fernandes et al. 2018; Sall et al. 2021).

이 가이드의 목적은 학부, 대학원 및 평생 의학 교육에서 임상 술기 교육에 대한 인지과학적 관점을 제공하는 것입니다. 이러한 관점은 임상 술기를 보다 효과적으로 습득하고 술기 쇠퇴를 최소화할 수 있는 교육 방법에 대한 유용한 증거 기반 통찰력을 제공할 수 있습니다. 이 가이드는 두 섹션으로 나뉩니다. 

  • 첫째, 이 가이드에서는 전문성 및 숙련도 개발의 본질과 임상 술기 개발의 인지과학적 근거를 포함한 이론적 토대를 논의하여 술기 감퇴를 줄이면서 임상 술기를 효과적으로 습득할 수 있도록 합니다.
  • 둘째, 실제적인 시사점을 논의하고 이론적 토대를 현재 실무에 어떻게 통합할 수 있는지에 대한 실제적인 예시를 제시합니다.

The aim of this Guide is to provide a cognitive science perspective on teaching clinical skills in undergraduate, postgraduate, and continuing medical education. This perspective can provide useful evidence-based insights into how teaching can ensure the more effective acquisition of clinical skills and also minimize skill decay. The guide is divided in two sections.

  • First, the guide discusses the theoretical foundations, including the nature of expertise and mastery development and the cognitive science basis of clinical skills development to ensure the effective acquisition of clinical skills, with reduced skill decay.
  • Second, we discuss the practical implications and present a practical illustration of how the theoretical foundations can be integrated into current practices.

이론적 토대
Theoretical foundations

임상 술기 습득의 인지 과학적 기반
The cognitive science basis of clinical skills acquisition

HPE 교육자가 직면한 첫 번째 과제 중 하나는 '임상 술기'의 정의에 포함되는 기술이 매우 다양하다는 것입니다.

  • 신체 검사 기술실습 기술부터
  • 의사소통 기술, 치료 기술, 임상적 추론 또는 진단적 의사 결정 기술에 이르기까지 그 범위가 다양합니다.

이러한 기술 중 일부는 기술적 또는 절차적 성격이 강한 반면 일부는 지적 또는 인지적 성격이 강하기 때문에 업무 유형에 따라 그 차이가 큽니다. 또한 임상 술기에 어떤 영역을 포함할지에 대한 합의나 합의가 거의 없기 때문에 임상 술기 개발을 위한 최적의 교수 학습 전략에 대한 다양한 관점이 존재합니다(Michels Evans 및 Blok 2012). 그러나 인지과학적 관점에서 볼 때 모든 임상 술기의 기본 과정은 유사하며 선언적 지식과 절차적 지식의 효과적인 통합이 필요합니다.
One of the first challenges facing HPE educators is the wide variety of skills than come under the definition of ‘clinical skill’. The range is

  • from physical examination skills and practical skills through
  • to communication skills, treatment skills, and clinical reasoning or diagnostic decision-making skills.

The difference between all these skills in the type of task is significant since some are more technical or procedural in nature whereas some are more intellectual or cognitive in nature. There is also little consensus or agreement around which domains to include within clinical skills, therefore there are a number of different perspectives around the optimal teaching and learning strategies for developing clinical skills (Michels Evans and Blok 2012). However, from a cognitive science perspective, the underlying process of all clinical skills is similar and requires the effective integration of declarative and procedural knowledge.

선언적 지식은 사실이나 사건('무엇을 아는 것')을 말합니다(Anderson 1982). 임상 술기의 경우 선언적 지식에는 생의학 분야의 관련 사실 또는 개념적 지식과 실제 술기 수행 방법에 대한 기술적 측면이 포함됩니다. 

  • 예를 들어, 혈압 측정에 대한 선언적 지식은 '수축기'와 '이완기'라는 용어의 사실적 차이점과 혈액이 몸속으로 펌프질되는 여러 단계에 대한 '수축기'와 '이완기'의 개념적 차이점을 알아야 합니다. 마찬가지로, 혈압을 측정할 때 환자와 기계의 위치를 가장 잘 잡는 방법과 관련된 개념적 지식과 함께 사용할 장비에 대한 사실적 지식도 필요합니다.

Declarative knowledge refers to facts or events (‘knowing what’) (Anderson 1982). In the case of clinical skills, declarative knowledge includes relevant factual or conceptual knowledge in the biomedical sciences and technical aspects about how to undertake the skill in practice. For example, declarative knowledge about measuring blood pressure requires knowing the factual differences between the terms ‘systolic’ and ‘diastolic’ and the conceptual difference between ‘systolic’ and ‘diastolic’ in terms of the different phases when blood is pumped around the body. Likewise, factual knowledge about the equipment to be used is also necessary, alongside conceptual knowledge related to how best to position the patient and the machine when taking blood pressure.

절차적 지식('방법 알기')은 선언적 지식으로 행동을 자동화하는 것을 의미하며, 반복적인 기술 연습을 통해 발전합니다(Anderson 1982). 

  • 예를 들어, 절차적 지식은 환자의 혈압을 측정하고 그 절차를 수행하면서 환자에게 설명할 수 있는 능력을 말합니다. 시간이 지남에 따라 지식과 기술 모두에 의해 술기가 자동화되면 실제로는 더 빠른 수행으로 이어집니다. 

이 개념은 시간이 지남에 따라 기술이 쇠퇴하는 것을 이해하는 데 필수적입니다. 절차적 지식은 일반적으로 시간이 지나도 유지되는 반면, 선언적 지식은 시간이 지나면 쇠퇴할 수 있으며 반복적으로 사용하지 않으면 잊어버릴 수 있습니다(Anderson 1982; Anderson 외. 2004). 기술을 숙달했더라도 일정 기간 사용하지 않으면 전문가가 최적의 성과를 발휘하는 데 여전히 어려움을 겪을 수 있으며, 이는 선언적 지식의 쇠퇴와 관련이 있을 가능성이 높습니다.
Procedural knowledge (‘knowing how’) refers to the automatizing of our actions with declarative knowledge and develops with repeated practice of the skill (Anderson 1982).

  • For example, procedural knowledge refers to taking a patient’s blood pressure and being able to explain the procedure to them whilst undertaking it. The automatization of the skill over time, due to both knowledge and skill, leads to faster performance in practice.

This concept is essential for understanding skill decay over time. Whereas procedural knowledge is usually maintained over time, declarative knowledge can decay and may be forgotten without repeated use of the skill (Anderson 1982; Anderson et al. 2004). Even though a skill has been mastered, after a period of disuse, professionals may also still face some difficulties to demonstrate optimal performance, and again is more likely related to the decay of declarative knowledge.

임상 술기를 포함한 효과적인 술기 습득은 교사가 주도하는 특정 교육을 통해 선언적 지식을 구성하고 유지하는 것으로 시작해야 하며, 여기에는 학습자가 처음에 술기를 시연하는 교사를 관찰하는 것이 포함될 수도 있고 포함되지 않을 수도 있습니다. 시간이 지남에 따라 연습하면 절차화라는 과정을 통해 선언적 지식을 절차적 지식으로 변환하여 기술 습득을 증가시킬 수 있습니다(Taatgen and Lee 2003). 절차화는 개인이 기술 수행을 자동화함에 따라 학습자의 정신적 노력이 시간이 지남에 따라 감소하고, 그 과정에서 경험하는 인지적 요구와 오류의 양이 감소하기 때문에 효과적입니다(Anderson 1982). 
Effective skill acquisition, including clinical skills, should begin with constructing and maintaining declarative knowledge through specific teacher-led instruction, which may or may not include observation by learners of the teacher demonstrating the skill in the beginning. Practice over time will increase skill acquisition by transforming declarative knowledge into procedural knowledge through a process known as proceduralization (Taatgen and Lee 2003). The proceduralization is effective because the mental effort for learners reduces over time as individuals automatize the performance of the skill, thereby also reducing the cognitive demand experienced and the amount of errors in the process (Anderson 1982).

인지 과학을 숙달 학습과 의도적 연습에 적용하기
Applying cognitive science to mastery learning and deliberate practice

숙달 학습의도적 연습은 현재 임상 술기 교육에서 절차화를 통한 자동화를 개발하는 데 널리 사용되고 있습니다. 그러나 이러한 접근법의 교육 활동 설계에 인지 과학 증거 기반 교육 전략을 통합하면 숙련도 저하를 방지하기 위해 숙련도 습득 및 숙련도 유지에 대한 효과를 크게 향상시킬 수 있습니다. 이러한 전략 중 다수는 전통적으로 지식의 개발 또는 구성과 관련이 있지만, 술기 개발에는 다양한 유형의 지식이 필요하기 때문에 임상 술기 교육에도 적용할 수 있다고 생각합니다.
Mastery learning and deliberate practice are currently widely used to develop automatization through proceduralization in clinical skills teaching. However, the effectiveness for skill acquisition and skill retention over time to avoid skill decay can be greatly enhanced by also integrating cognitive science evidence-based teaching strategies into the design of the educational activities of these approaches. Although many of these strategies have been traditionally associated with the development or construction of knowledge, we consider that these can also be applied to the teaching of clinical skills because different types of knowledge are required for skills development.

숙달 학습
Mastery learning

숙달 학습은 구조화되거나 비계화된 교육에 의존하는 기술을 습득하기 위한 개별화된 접근 방식입니다(McGaghie 2015). 보다 구체적으로, 숙달 학습은 개인이 다음 교육 목표를 진행하기 전에 정의된 수준의 숙련도를 달성해야 합니다.

  • 이 접근 방식은 일반적으로 개인에 대한 기준선 또는 진단 테스트와 명확하게 정의된 학습 목표 설정으로 시작됩니다.
  • 그 다음에는 학습 목표를 달성하기 위해 난이도가 점점 높아지는 일련의 활동 단위가 이어집니다. 학습 목표가 구성되는 방식이나 활동 단위를 설계하고 개발하는 방식에는 공식적인 과정이나 절차가 없습니다.
  • 활동 단위는 학습자의 참여가 필요하며 미리 지정된 학습 목표에 도달하는 데 중점을 둡니다.
  • 활동 단위에는 개인이 다음 단계로 넘어가기 전에 달성해야 하는 최소 통과 기준이 있습니다.
  • 마찬가지로, 각 단원에는 개인이 숙달을 위한 최소 합격 기준을 어느 정도 달성했는지 측정하기 위한 평가 요소가 있습니다. 
  • 개인이 해당 활동 단위에서 성공했음을 입증하면 다음 활동 단위로 넘어갈 수 있습니다.
  • 개인은 숙달 표준에 도달할 때까지 단원을 진행하며 이동합니다.
  • 따라서 숙달 학습에서 역량 또는 성취도는 전적으로 지정된 기준 테스트에서 개인이 달성한 성과에 의해 평가됩니다. 

Mastery learning is an individualized approach for acquiring a skill that is dependent on structured or scaffolded instruction (McGaghie 2015). More specifically, mastery learning requires individuals to achieve a defined level of proficiency before proceeding onto the next instructional objective.

  • This approach usually commences with baseline or diagnostic testing of the individual and the setting of clearly defined learning objectives.
  • This is followed by a sequence of units of activity, which have increasing difficulty, to meet the learning objectives. In terms of the way in which learning objectives are constructed or units of activity are designed and developed, there is no formal process or procedure to follow.
  • Each unit of activities requires engagement by the learner and a focus on reaching the pre-specified learning objective.
  • There is a minimum passing standard for each unit of activity which individuals need to achieve before moving on.
  • Likewise, there is an assessment component to each unit to gauge the extent to which the individual has achieved a minimum passing standard for mastery.
  • Once individuals demonstrate their success in the unit of activity, they can advance to the next unit of activity.
  • Individuals progress to move through units until the mastery standard is reached.
  • Therefore in mastery learning, competence or achievement is evaluated entirely by the individual’s attained performance on a specified criterion test.

교육 방법으로서의 효과성에 대한 증거 측면에서, 기술 강화 시뮬레이션을 사용하여 의료 전문가를 대상으로 숙달 학습을 조사한 체계적인 검토 및 메타 분석에 따르면 이 접근 방식이 비숙달 교육보다 우수하지만 시간이 더 걸리는 것으로 확인되었습니다(Cook et al. 2013).
In terms of evidence for effectiveness as a training method, a systematic review and meta-analysis investigating mastery learning for health professionals using technology-enhanced simulation confirmed the approach was superior to non-mastery instruction but takes more time (Cook et al. 2013).

그러나 학습자가 숙달할 때까지 연습해도 임상 술기가 쇠퇴한다는 연구 결과가 있습니다(Higgins 외. 2021a, 2021b). 예를 들어, 중심정맥카테터 술기를 수행한 학습자는 6개월 및 12개월 후에 술기가 쇠퇴하는 것으로 관찰되었으며(Barsuk 등. 2010), 6개월 후 기본 생명유지술기에서도 유사한 관찰 결과가 나타났습니다(Wik 등. 2002; Srivilaithon 등. 2020). 이러한 연구 결과는 [임상 추론과 같은 개념적 임상 술기]뿐만 아니라 [캐뉼레이션 및 혈압 측정과 같은 기술적 술기]에 대한 지식이 중요하다는 것을 강조합니다. 또한, 이 연구 결과는 강의실 가용성 및 스케줄링보다는 이론과 근거에 기반하여 교육 시간과 시간표를 결정하는 것이 중요하다는 것을 보여줍니다. 이론과 증거의 관점에서 볼 때, 관찰된 차이는 학습자가 과제 수행 능력을 입증했음에도 불구하고 절차화를 달성할 수 있도록 지원하는 시간과 교육이 부족했기 때문일 가능성이 높습니다. 
However, research has identified decay of clinical skills even when learners practice until mastery (Higgins et al. 2021a, 2021b). For example, learners that performed central venous catheter performance were observed to demonstrate skills decay after six and 12 months (Barsuk et al. 2010), and similar observations have been noted with basic life support skills after 6 months as well (Wik et al. 2002; Srivilaithon et al. 2020). These findings highlight the importance of knowledge not just for conceptual clinical skills such as clinical reasoning but also technical ones such as cannulation and blood pressure measurement. Furthermore, the findings also demonstrate the importance of ensuring decisions around teaching time and timetabling are based on theory and evidence, rather than room availability and scheduling. From a theory and evidence perspective, the differences observed are likely due to a lack of time and training for supporting learners achieve proceduralization even though they were observed to have demonstrated competence on performing the task.

인지 과학적 관점에서 숙달은 개인이 필요한 모든 지식을 선언적 형태가 아닌 절차적 형태로 보유하는 것으로 이해되며, 절차적 형태의 지식은 선언적 지식과 운동 행동 사이의 연결로 존재합니다. 이러한 관점에서 볼 때, 기술 쇠퇴는 기억에 저장된 선언적 지식이 잊혀지고 그 결과 절차적 지식도 상실되는 현상입니다. 따라서 숙달을 달성하려면 선언적 지식과 절차적 지식 사이의 연결을 강화하여 기술 붕괴를 방지하거나 기술 붕괴가 일어나기 어렵게 만들어야 합니다.
From a cognitive science perspective, mastery is understood as when individuals possess all the necessary knowledge in the procedural form (as opposed to the declarative form), and that knowledge in procedural form exists as a connection between declarative knowledge and motor actions. Viewed through this perspective, skills decay is a phenomenon whereby declarative knowledge stored in memory is forgotten, and as a consequence, there is a loss of procedural knowledge as well. Therefore achieving mastery also involves preventing skills decay or certainly making it more difficult for skills decay to occur, through strengthening the connections between declarative and procedural knowledge.

언뜻 보기에는 단순 술기(예: 혈압 측정)부터 복합적 술기(예: 중심정맥관 삽관)복잡한 술기(예: 고급 생명유지술)까지 모든 임상 술기가 동일하지 않기 때문에 이것이 복잡하거나 불필요한 것처럼 보일 수 있습니다. 따라서 선언적 지식의 개발 및 통합에 대한 관심은 술기의 복잡성에 따라 비례하여 달라져야 합니다.

  • 혈압 측정과 같은 간단한 술기는 완료해야 할 작업이 적고 각 작업은 일반적으로 임상 실습 중 개인이 처할 수 있는 다양한 상황과 환경에 걸쳐 상당히 일관성이 있기 때문에 고급 생명 유지와 같은 복잡한 술기에 비해 선언적 및 절차적 지식이 덜 필요합니다.
  • 고급 생명 유지술의 경우 여러 술기와 관련된 여러 작업이 있으며, 각 작업은 임상 실습의 여러 상황과 환경에 따라 크게 달라집니다. 임상 술기로서 고급 생명유지술은 혈압 측정에 비해 개인이 업무에서 보여줘야 하는 술기의 질과 양이 훨씬 더 많기 때문에 훨씬 더 많은 선언적 및 절차적 지식이 필요합니다.

선언적 지식과 절차적 지식의 양은 임상 술기마다, 그리고 전문성 수준에 따라 다를 수 있지만, 안전한 술기 개발은 선언적 지식과 절차적 지식을 기억 속에 효과적으로 통합하는 데 달려 있습니다.
At first glance, this may appear complicated or unnecessary since not all clinical skills are the same, with simple ones (e.g. blood pressure measurement) through to complicated (e.g. central line cannulation) and complex ones (e.g. advanced life support). It follows that the amount of attention given to developing and consolidating declarative knowledge should be proportionate and vary according to the complexity of the skill.

  • A simple skill, such as measuring blood pressure, requires less declarative and procedural knowledge compared to a more complex skill, such as advanced life support, since there are less tasks to complete and each task is generally fairly consistent across different situations and circumstances individuals may find themselves in during clinical practice.
  • In the case of advanced life support, there are multiple tasks involving multiple skills, and each task varies significantly across different situations and circumstances in clinical practice. A lot more declarative and procedural knowledge is necessary for advanced life support as a clinical skill compared to blood pressure measurement due to the quality and quantity of skill necessary for individuals to demonstrate on task.

Although the amount of declarative and procedural knowledge may differ across clinical skills, and across different levels of expertise, secure skills development is dependent on effective integration between declarative and procedural knowledge in memory.

의도적인 연습
Deliberate practice

에릭슨이 설명하는 또 다른 개별화된 교육 방법을 전문성 수행 접근법이라고 합니다(에릭슨과 차네스 1994). 에릭슨은 먼저 '좋은 캐뉼레이션이 어떻게 생겼는지' 또는 '좋은 리서스가 어떻게 생겼는지'와 같이 전문가 또는 기술을 숙달한 사람이 수행한 실제 세계에서 재현 가능한 우수한 수행을 식별하는 것이 필요하다고 제안했으며, 이는 종종 인지 과제 분석을 사용하여 수행됩니다(Clark et al. 2008). 그 후 교육자의 과제는 시뮬레이션 실험실과 같이 통제된 조건에서 검사할 수 있는 표준화된 과제를 통해 이러한 성과를 캡처하고 재현하는 것입니다. 이 프로세스의 목적은 작업에서 더 나은 결과를 이끌어내는 주요 행동과 그렇지 않은 행동을 식별하여 개인에게 다시 반영할 수 있도록 하는 것입니다. 이 정보를 통해 개인은 이러한 행동의 생성 또는 선택을 매개하는 인지 프로세스에 대한 작업를 시작할 수 있으며, 이를 통해 향후에는 더 우수한 행동을 선택하고 과제에 대한 전반적인 성과를 개선할 수 있습니다. 이 방법을 교사의 감독과 지도를 받는 훈련 접근법으로 적용하는 경우 이를 '의도적 연습'이라고 합니다.
An alternative individualized method of instruction described by Ericsson is called the expertise performance approach (Ericsson and Charness 1994). Ericsson proposed that it is first necessary to identify reproducibly superior performance in the real world, for example, ‘what good cannulation looks like’ or ‘what good resus looks like’ as undertaken by an expert or someone who has mastered the skill, which is often done using cognitive task analysis (Clark et al. 2008). Thereafter, the challenge for educators is to then capture and reproduce this performance, ideally with standardized tasks that can be examined in controlled conditions such as a simulation laboratory. The purpose of this process is to identify key actions that lead to better outcomes on tasks, as well as those which do not, allowing these to be reflected back to individuals. With this information, individuals can begin to work on cognitive processes that mediated the generation or selection of those actions, so that in the future, they can select superior actions and improve their overall performance on the task. When this method is applied as a training approach, supervised and guided by a teacher, it is called ‘deliberate practice’.

의도적 연습은 반복과 연속적인 개선을 통해 개인의 수행 능력의 특정 측면을 향상시키기 위해 코치나 교사가 특별히 고안한 개별화된 훈련 활동을 말합니다(Ericsson and Lehmann 1996). 

  • 그러나 교사의 지도와 피드백을 최대한 활용하려면 개인이 집중력을 발휘하여 훈련을 모니터링해야 합니다. 
  • 또한, 완전한 집중력을 가지고 연습하는 것은 힘든 일이기 때문에 개인별 훈련 시간은 주어진 세션 길이에 따라 신중하게 관리되어야 합니다. 
  • 또한 의도적인 연습 접근 방식은 개인이 즉각적인 피드백을 받거나 스스로 생성하는 것이 특징입니다. 
    • 외부 피드백은 오류나 실수를 식별하고 개선 방법에 대한 후속 조언을 제공하는 데 중요합니다. 
    • 마찬가지로, 자체적으로 생성된 피드백은 전문가로서 독립적으로 수행하는 데 중요한 내부 표현 개발의 품질을 평가하는 데 중요합니다. 
  • 신중한 연습의 마지막 구성 요소는 개인이 반복적으로 연습할 수 있는 기회를 제공하고 연습을 시도할 때마다 점진적으로 개선할 수 있도록 연습을 구조화하는 훈련 과제의 가용성입니다.

이러한 모든 측면은 접근 방식이 전문성 수행 원칙에 기반한 유형인 '의도적 연습'으로 간주되기 전에 반드시 필요합니다.
Deliberate practice refers to individualized training activities specially designed by a coach or teacher to improve specific aspects of an individual’s performance through repetition and successive refinement (Ericsson and Lehmann 1996).

  • However, to receive maximal benefit from teacher instruction and feedback, individuals have to monitor their training with full concentration.
  • Furthermore, practicing with full concentration is effortful so the duration of training for individuals needs to be carefully managed in any given session length.
  • In addition, deliberate practice approaches are characterized by individuals receiving or self-generating immediate feedback.
    • External feedback is important for identifying errors or mistakes, with follow-up advice about ways to make improvements.
    • Likewise, self-generated feedback is important for evaluating the quality of developing internal representations, which are critical for performing independently as experts.
  • The final component of deliberate practice is the availability of training tasks the offer individuals opportunities to engage in repetitions and structure practice in such a way that individuals make gradual improvements with each attempt.

All these aspects are necessary before the approach can be considered ‘deliberate practice’, certainly the type based on the principles of expertise performance.

지난 20년간의 연구에 따르면 최적의 기술 습득을 위해 교사 주도의 코칭 및 가이드 연습과 결합된 반복 연습의 중요성이 입증되었습니다(Ericsson 외. 1993; Ericsson 2004; McGaghie 외. 2011). 의도적인 연습이 기술 습득과 유지를 향상시킨다는 사실은 여러 연구에서 확인되었지만, 최근의 검토에서는 (1) 비교 그룹의 부재와 (2) 2주 후부터 90일 후 점점 더 감소한다는 두 가지 중요한 문제가 강조되었습니다(Higgins 외. 2021a, 2021b). 이러한 문제의 원인은 연구 설계가 개발되는 방식과 실제로 교육이 제공되는 방식을 포함하여 여러 가지 요인이 있습니다.
Research over the past two decades has demonstrated the importance of repeated practice that is combined with teacher-led coaching and guided practice for optimal skill acquisition (Ericsson et al. 1993; Ericsson 2004; McGaghie et al. 2011). Although studies have identified that deliberate practice improved skill acquisition and retention, recent reviews have highlighted two important issues: (1) the lack of a comparison group and (2) a decay after 2 weeks and more increasingly after 90 days (Higgins et al. 2021a, 2021b). The reason for these issues are multi-factorial, including the specific to way in which the study design was developed, and the way in which the training was delivered in practice.

숙달 학습과 의도적 연습과 같은 현재의 교육 기법은 인지 과학의 증거 기반 전략을 통해 기술 유지를 극대화하고 기술 감퇴를 줄일 수 있다고 생각합니다. 숙달 학습은 효과적인 것으로 나타났지만, 멘탈 모델 개발에 더 중점을 두는 것이 좋습니다. 마찬가지로, 의도적 연습은 교육과 교사-학습자 관계를 강조하기 때문에 교육자들 사이에서 특히 인기가 있지만, 지식과 기술의 붕괴를 방지하기 위해 효과적인 지식 구성에도 더 중점을 두면 더 효과적일 수 있다고 권장합니다.
We consider that current instructional techniques, such as mastery learning and deliberate practice, can be informed by cognitive science evidence-based strategies to maximize skill retention and reduce skill decay. Mastery learning has been shown to be effective, however, we recommend greater emphasis on the development of mental models. Likewise, deliberate practice is particular popular among educators due to the emphasis on instruction and teacher-learner relationships, but we recommend that it could be more effective if the greater emphasis was also given to effective knowledge construction, with the aim to prevent the decay of knowledge and skills.

인지 과학 증거 기반 전략
Cognitive science evidence-based strategies

간격 연습
Spaced practice

임상 술기를 가르치는 데 자주 사용되는 접근 방식은 교육자가 세션 시작 시 술기를 설명하고 시범을 보인 후 학습자에게 세션이 끝날 때쯤 연습하고 질문할 기회를 제공하는 것입니다(Bullock 외. 2015). 대량 실습이라고 하는 이 접근 방식은 한 번에 모든 교육을 제공합니다. 예를 들어, 고급 생명 유지 술기는 일반적으로 단일 교육 과정의 일부로 2일 또는 3일에 걸쳐 연속적인 대량 실습 교육 세션으로 진행됩니다. 고급 생명 유지 술기 교육에 대량 실습을 사용하는 이유는 교육 과정의 교육 설계를 위한 근거 기반 또는 이론 중심이라기보다는 한 번에 세션을 모두 진행할 수 있다는 편의성과 관련이 있는 것으로 보입니다. 마찬가지로, 전부는 아니더라도 대부분의 임상 술기 교육에서 직면하는 어려움은 제한된 교수진으로 학습자 집단에게 교육을 제공하는 물류 문제입니다.

A frequently used approach for teaching a clinical skill is for educators to describe and demonstrate the skill at the start of a session, before offering learners the opportunity to practice and ask questions towards the end of it (Bullock et al. 2015). This approach, called massed practice, provides teaching all at only one time. For example, advanced life support skills are generally taught as part of a single training course with consecutive teaching sessions of massed practice over a duration of 2 or 3 days. The reason for using a massed practice for advanced life support skills training appears to be as much to do with the convenience of timetabling sessions all in one go, rather than any evidence-based or theory-driven basis for the instructional design of courses. Likewise, the challenge with most, if not all, clinical skills training in HPE invariably includes the logistics of delivering teaching to cohorts of learners with a limited teaching faculty.

그러나 인지 과학의 증거에 따르면 교육 간격을 두거나 여러 세션에 걸쳐 교육 시간을 분산하는 것이 학습 유지에 더 효과적이라는 사실이 입증되었습니다(Bjork and Allen 1970; Dempster 1989; Cepeda 외. 2006). 예를 들어, Cepeda 등(2006)은 184개의 논문을 대상으로 메타분석을 실시하여 한 세션(대규모)의 실습과 간격을 두는 실습을 비교했습니다. 그 결과, 간격을 두고 학습한 그룹의 학습자가 한꺼번에 학습한 그룹보다 학습 내용을 더 잘 유지한다는 사실을 발견했습니다. 간격 효과에 대한 대부분의 연구는 선언적 지식에 크게 의존하는 과제와 관련된 연구에서 나온 것일 수 있지만(검토는 Cepeda 외. 2006, Carpenter 외. 2012 참조), 임상 술기에 대한 간격 연습의 이점을 입증하는 증거도 있습니다(검토는 Cecilio-Fernandes 외. 2018 참조). 교육 세션 사이의 최적 간격은 특정 임상 술기에 필요한 지식의 유형에 따라 다릅니다. 고급 생명유지술과 같이 선언적 지식을 기반으로 하는 술기의 경우, 최적의 세션 간 간격은 [유지 간격의 10%에서 15% ] 사이입니다(Carpenter 외. 2012). 유지 간격은 마지막 교육 세션과 최종 테스트 사이의 시간입니다. 그러나 학습자가 필요한 사고가 필요할 때 행동할 수 있어야 하는 실제 상황에서는 유지 간격이 불가능할 수 있습니다. 그러나 교육자는 개별 교육 세션이 끝난 후에도 학습자가 기술을 지속적으로 유지한다고 가정하기보다는 학습자가 기술을 유지하는 시간을 인식하고 감사하는 태도를 가져야 합니다. 
However, evidence from cognitive science demonstrates that spacing the teaching or spreading training time over multiple sessions is more effective for retention (Bjork and Allen 1970; Dempster 1989; Cepeda et al. 2006). For example, Cepeda et al. (2006) conducted a meta-analysis with 184 articles comparing the practice in one session (massed) to space. They found that learners in the spaced group retained better than those in the massed group. Whilst much of the research into the spacing effect may come from studies involving tasks that heavily relies on declarative knowledge (for a review see Cepeda et al. 2006; Carpenter et al. 2012), there is also evidence demonstrating the benefit of spaced practice for clinical skills (for a review see Cecilio-Fernandes et al. 2018). The optimal interval between training sessions varies depending on the type of knowledge required for the specific clinical skill. For skills that are heavily based on declarative knowledge such as advanced life support, the optimal interval between sessions range from 10% to 15% of the retention interval (Carpenter et al. 2012). The retention interval is the time between the last training session and the final test. However, in real-life situations in which learners need to be able to act when required thinking in a retention interval may not be feasible. However, educators need to have awareness and appreciation of the time length over which skills are retained by learners, rather than assume they are constantly maintained after individual training sessions.

 

검색 연습
Retrieval practice

임상 술기를 가르치는 또 다른 자주 사용되는 방법은 한 번 가르친 다음, 그 직후 또는 어느 시점에 요약 또는 고난도 평가의 일부로 학습자가 술기를 어느 정도 개발했는지 평가하는 것입니다. 그러나 인지 심리학의 증거에 따르면 임상 술기를 테스트하지 않거나 한 번만 테스트하는 것보다 반복적으로 테스트하는 것이 장기적인 술기 유지에 더 효과적이라고 합니다. 
Another frequently used way of teaching a clinical skill is to teach it once, and then assess the extent to which learners have developed the skill either immediately afterward or at some point as part of a summative or high-stakes assessment. However, evidence from cognitive psychology suggests repeated testing of clinical skills, rather than no or single event testing, is more effective for long-term skills retention.

테스트 효과(Roediger and Karpicke 2006a, 2006b; Karpicke and Roediger 2008)는 기본 생명유지술(Li 외 2011), 고급 생명유지술(Kromann 외 2009), 방사선 사진 판독(Boutis 외 2019), 임상 추론(Raupach 외 2016) 등 여러 임상 술기를 습득하는 데 효과적인 전략입니다. 또한 선언적 지식에 더 많이 의존하는 술기의 유지를 향상시킨다는 증거도 있습니다(Larsen 외. 2009; Larsen, Butler, Lawson 외. 2013; Larsen, Butler, Roediger 2013). 
The testing effect (Roediger and Karpicke 2006a, 2006b; Karpicke and Roediger 2008) is an effective strategy for acquiring several clinical skills, including basic life support (Li et al. 2011), advanced life support (Kromann et al. 2009), radiograph interpretation (Boutis et al. 2019), and clinical reasoning (Raupach et al. 2016). There is also evidence for improving the retention of skills that relies more on declarative knowledge (Larsen et al. 2009; Larsen, Butler, Lawson, et al. 2013; Larsen, Butler, Roediger 2013).

시험 효과가 중요한 이유는 '시험'이 전통적인 의미의 형식적인 수행 평가나 '형성 평가'를 의미하는 것이 아니라 기술 쇠퇴를 최소화하기 위해 고안된 실제 교수 전략을 의미하기 때문입니다. 또한 의도적인 교육 전략으로서의 테스트 효과는 학습자에게 주어진 임상 술기를 연습할 수 있는 기회를 더 많이 제공하는 것과는 구별됩니다. 특히 임상 술기 맥락에서 테스트 효과는 직접 관찰 중인 학습자가 과제를 수행하는 과정을 지켜보면서, 선언적 지식과 절차적 지식을 통합할 수 있는 기회를 제공하고, 이에 대한 수행 결과 또는 이후 개선 전략에 대한 피드백을 제공하는 것을 말합니다.
The testing effect is important because ‘testing’ does not refer to the formal assessment of performance or ‘formative assessment’ in a traditional sense, but an actual teaching strategy designed to minimize skills decay. Furthermore, the testing effect as a deliberate teaching strategy is distinct from just providing more opportunities for learners to practice a given clinical skill. Specifically, the testing effect in a clinical skills context refers to learners under direct observation being watched undertaking a task, with the opportunity to integrate their declarative and procedural knowledge, and given feedback in terms of performance outcome on it, or strategies for improvement afterward.

교육자는 다양한 접근 방식을 사용하여 학습자를 테스트할 수 있으며, 학습자가 기술 습득을 진행하는 즉시 테스트를 교수 전략으로 사용해야 합니다. 그러나 커리큘럼 전반에 걸쳐 구현하려면 테스트피드백 제공을 위한 시간과 공간, 리소스가 필요합니다. 또한 테스트는 교육자가 시간을 두고 관찰하고 피드백을 기반으로 구축할 수 있는 방식으로 구성되어야 합니다. 교수 전략에 단일 테스트가 포함되거나 너무 빨리 테스트를 실시하는 경우, 학습자는 당장의 성과가 시간이 지남에 따른 학습을 제대로 예측하지 못하기 때문에, 지식에 대한 환상을 갖게 될 수 있습니다. 이러한 상황에서 '시험'은 단지 단기 기억력의 유창함을 평가하는 것이지, 시간이 지나면서 지식과 기술을 기억하는 장기적인 능력, 맥락에 따라 이를 전이하는 능력, 잊어버리는 것을 방지하는 능력은 평가하지 않습니다.
Educators can test learners using a variety of approaches and testing should be used as a teaching strategy as soon as learners progress with skill acquisition. However, for implementation across a curriculum, time and space as well as resources are necessary for testing, as well as for giving feedback. Testing also needs to be organized in such a way that educators make observations over time and can build on feedback. Where teaching strategies involve single tests or testing too soon, learners may develop the illusion of knowledge since performance in the moment is a poor predictor of learning over time. In these situations, the ‘test’ is merely assessing the fluency of short-term retention, and not their long-term ability to recall knowledge and skills over time, with transfer these across contexts, as well as their ability to prevent forgetting.

테스트 효과의 또 다른 특징은 피드백의 역할과 피드백의 구성 방식과 관련이 있습니다. 시험 후 피드백은 종종 교사가 과거 수행과 함께 관찰한 내용을 삼각 측량하지 않고 제공하지만, 복습 연습에서 교육자는 이전에 시도한 과제에 적극적으로 주의를 기울이고 피드백에 과제에 대한 [연속적인 시도에 대한 보다 전체적인 평가]가 포함되도록 해야 합니다. 동료 간 테스트전략의 필수 구성 요소가 수행 자체(결과)가 아닌 연습 중 테스트 기회(과정)이므로 교육자 주도 활동의 대안이 될 수 있습니다. 시험은 종종 기술 훈련의 작은 부분인 단원의 마지막에 이루어지기 때문에 의도적인 연습 및 숙달 학습과 같은 교육 설계가 손상될 수 있습니다. 
Another feature of the testing effect involves the role of feedback and the way it is constructed. Feedback after a test is often given by teachers without triangulating observations with past performance, but in retrieval practice educators are required to proactively give attention to previous attempts on a task and ensure feedback includes a more holistic evaluation of progress made over successive attempts on the task. Peer-to-peer testing may be an alternative to educator–led activities since the essential component of the strategy is the opportunity for testing during practice (the process) and not the performance in and of itself (the outcome). This may compromise instructional designs such as deliberate practice and mastery learning because test often happens at the end of a unit, which is a smaller part of the skill training.

과잉 학습
Overlearning

과잉학습숙련도competence를 달성한 후에도 반복적이고 추가적인 연습에 참여하는 개인을 말하며, 절차적 지식의 통합을 통해 기술 쇠퇴를 줄이는 등의 이점이 있습니다(Shibata 외. 2017).

  • 과잉학습에 참여하는 개인은 잘못된 접근 방식을 계속해서 반복할 수 있으므로 의도적인 학습 전략으로서의 과잉 학습을 '연습, 연습, 연습'에 참여하는 개인과 혼동해서는 안 됩니다.
  • 마찬가지로, 과잉학습은 종종 훈련의 마지막 단계에서 절차화를 위해 적용되기 때문에 교육적 접근 방식으로서의 의도적 연습과도 구별됩니다

Overlearning refers to individuals engaging in repeated and further practice after competence is achieved, and the benefits include less skill decay through increased consolidation of procedural knowledge (Shibata et al. 2017).

  • Overlearning as a deliberate learning strategy should not be confused with individuals engaged in ‘practice, practice, practice’ since individuals engaged in repeated practice may be repeating the wrong approach over and over again.
  • Likewise, overlearning is also distinct from deliberate practice as an instructional approach since overlearning is often applied for proceduralization in the final part of the training.

전략으로서 과잉학습의 전반적인 효과는 기술의 유형과 학습자가 반복 연습의 질과 양 모두에 참여하는 정도에 따라 달라집니다(Driskell 외. 1992). 효과를 극대화하려면 유능한competent 수준의 성과를 달성하는 데 필요한 기간의 두 배에 해당하는 시간 동안 반복 학습을 지속해야 합니다(Driskell 외. 1992; Krueger 1929; Rohrer 외. 2005). 개인에 따라 유능한 수준의 성과에 도달하는 데 걸리는 시간이 임상 술기에 따라 다르다는 것이 HPE의 과제입니다. 마찬가지로, 역량에 대한 판단은 평가자마다 신뢰할 수 없으며, Ericsson(2004)에 따르면 다양한 임상 영역에서 전문가 성과를 측정하는 기준은 아직 개발되지 않았습니다. 따라서 학습자는 이 전략에 충분히 참여하기 위해 자기 평가 및 자기 조절 학습과 관련된 다른 기술도 개발해야 합니다. 일부 학습자는 어느 정도 자율적으로 과잉 학습에 참여할 가능성이 높지만, 임상 기술에 어려움을 겪는 학습자는 과잉 학습을 덜 할 가능성이 높으며 교육자가 과잉 학습의 목적을 설명해 주는 지원이 필요합니다. 
The overall effect of overlearning as a strategy depends on the type of skill and the extent to which learners engage in both the quality and quantity of repeated practice (Driskell et al. 1992). To maximize effect, overlearning should continue for twice the period of time necessary to achieve a competent level of performance (Driskell et al. 1992; Krueger 1929; Rohrer et al. 2005). The challenge in HPE is the time taken for some individuals to achieve a competent level of performance varies across and within different clinical skills. Likewise, judgments about competence are unreliable across raters and as Ericsson (2004) states, the yardstick to measure expert performance across the different clinical domains is yet to be invented. Therefore, learners need also have developed other skills around self-assessment and self-regulated learning, in order to engage fully with this strategy. Whilst some learners likely engage in overlearning independently to some degree, learners who struggle with clinical skills are likely to do so less and require support from educators to explain the purpose of it.

과잉 학습은 교육자가 실습을 관찰할 때 개인이 자신의 수행 수준에 대해 더 많은 피드백을 얻을 수 있는 기회를 제공할 뿐만 아니라 과제 수행에 방해가 되기 전에 수행 능력의 격차를 해결할 수 있는 기회를 제공합니다. 또한 과잉 학습은 자동화에 걸리는 시간을 단축하고, 개인이 수행의 기술적 측면에 투자해야 하는 집중적인 노력의 양을 줄임으로써 수행을 모니터링할 수 있는 전반적인 인지 능력을 확보할 수 있습니다(Driskell 외. 1992). 이는 특히 단순하고 복잡한 임상 술기 과제에서 초심자 간 수행 차이를 파악할 때 특히 유용합니다. 고성과자는 평가 시 다른 사람들 앞에서 임상 술기를 수행해야 하는 어려움을 관리할 수 있지만, 저성과자는 여러 가지 이유로 어려움을 겪는데, 그 중 하나는 자동성을 달성하지 못했고 추가적인 인지 과부하로 인해 수행이 저하된다는 사실입니다. 따라서 인지 과학적 관점에서 볼 때, 과잉 학습은 역량을 달성하기 위한 전략이 아니라 절차적 지식을 공고화consolidate하기 위한 전략으로 사용되어야 합니다. 또한, 역량을 갖추기 전에 사용하는 과잉 학습은 이해가 아닌 모방을 통해 숙달을 유도할 수 있으며, 이는 개인이 지식에 대한 환상을 갖는 것과 관련된 또 다른 징후입니다. 이러한 맥락에서, 특정 임상 술기에 대한 역량을 보이는 개인에게 기대되는 행동을 구체적으로 모방하고 접근 방식을 반복함으로써, 특히 저성과자는 임상 술기 자체에 대한 지식이나 이해 부족에 대한 우려 없이 평가에서 발전하기 위해 모방에 참여하게 됩니다. 
Overlearning generates opportunities for the individual to obtain more feedback about their level of performance when the practice is observed by an educator, as well as address any developing gaps in performance before they inhibit performance on a task. Overlearning also enhances the time to automaticity and reduces the amount of concentrated effort that individuals have to invest into the technical aspects of their performance, thereby freeing up overall cognitive capacity for monitoring their performance (Driskell et al. 1992). This is particularly relevant when making sense of performance differences between novices at summative assessments, especially on simple and complex clinical skills tasks. Whilst high-performing individuals are able to manage the challenge of performing clinical skills in front of others at assessment, low performers struggle for many reasons, once of which is the fact they have not achieved automaticity and their performance suffers as a consequence of the additional cognitive overload. Therefore, from a cognitive science perspective, overlearning should be used as a strategy to consolidate procedural knowledge, rather than a strategy to achieve competence. Furthermore, overlearning employed before competence is achieved, may lead mastery, not through comprehension, but through mimicry which is another manifestation related to individuals having an illusion of knowledge. In this context, by repeating the approach over and over again, and specifically mimicking the behaviors expected of individuals demonstrating competence on a given clinical skill, low performers in particular engage in mimicry in order to progress at assessment, with little concern about their lack of knowledge or understanding about the clinical skill itself.

인터리빙
Interleaving

HPE에서 지지하는 전문 지식의 대부분은 다양한 상황적 맥락에서 임상 술기를 시연하는 데서 비롯되지만, 기존 교육 프로그램에서 학습자에게 제공되는 실습 기회 유형에는 변동성이 거의 없을 수 있습니다. 예를 들어,

  • 캐뉼레이션을 학습할 때 일반적인 실습 기회는 플라스틱 마네킹과 같은 제한된 범위의 실습 재료를 사용하여 이 술기의 운동 측면을 개선할 수 있는 기회로만 구성되는 경우가 많습니다.
  • 봉합 및 정맥천자부터 기본 및 고급 생명 유지 술기에 이르기까지 다양한 임상 술기에 대해 일반적으로 유사한 접근 방식이 제공됩니다.

언뜻 보기에는 한 번에 하나의 술기에 집중하는 것이 합리적이고 논리적으로 보이지만, 인지 과학 문헌의 증거는 시간이 지남에 따라 지식과 술기 개발을 늘리기 위한 전략으로서 교차 학습의 이점을 일관되게 입증하고 있습니다. 특히, 전체 스킬의 다양한 구성 요소 또는 서로 '얼마나 관련성이 있든 없든' 서로 다른 스킬을 같은 세션에서 연습하는 스킬 연습의 가변성variability은 가변성이 제한적이거나 전혀 없는 연습과 비교할 때 스킬 감퇴를 최소화합니다. 또한, 전통적인 기술 연습에 참여하는 개인은 기술 개발 전략으로 인터리빙을 사용하는 개인에 비해 기술 감퇴율이 더 높습니다(Spruit 외. 2014).

Although much of the expertise espoused in HPE comes from demonstrating clinical skills across a range of different situational contexts, there can often be little variability in the types of practice opportunities afforded to learners in traditional training programs. For example,

  • when learning cannulation, the usual practice opportunities involve chances to refine the motor aspects of this skill alone, often with a limited range of practice materials such as a plastic manikin.
  • A similar approach is usually provided for a range of clinical skills, from suturing and venepuncture through to basic and advanced life support skills.

At first sight, this focus on a single skill at a time would seem rational and logical but evidence from the cognitive science literature consistently demonstrates the benefits of interleaving as a strategy for increasing knowledge and skills development over time. Specifically, variability of skills practice – either different components of the overall skill or different skills (no matter ‘how related or unrelated’ to each other) practiced in the same session minimizes skill decay when compared with a practice that offers limited or no variability. Furthermore, individuals who engage in traditional skills practice have greater rates of decay when compared with individuals who engage with interleaving as a skills development strategy (Spruit et al. 2014).

실습 기회에서 가변성을 설계하는 방식도 중요합니다. 최소 침습 수술 술기의 습득 및 유지에 관한 연구에 따르면 단일 또는 정적인 교육 이미지보다는 무작위로 번갈아 가며 이미지를 사용하여 연습하는 것이 학습 과정을 향상시키는 것으로 나타났습니다(Jordan 외. 2000). 훈련 세션에서 이미지의 가변성을 높여 술기 개발을 연습한 개인은 제한된 수의 이미지로 훈련한 사람보다 훨씬 빠른 속도로 기본적인 수술 및 정신 운동 술기를 습득했습니다. 이러한 정도의 가변성은 실제 환경에서도 발견되지만 시뮬레이션에서도 이러한 유형의 경험을 제공할 수 있습니다. 가변성의 중요성은 운동 기술 문헌(Kerr and Booth 1978, Savion-Lemieux와 Penhune 2005, Corrêa 외. 2014), 화가와 그림 스타일 간의 관계 학습(Kornell과 Bjork 2008), 문제 해결(Rohrer와 Taylor 2007)에서도 강조되고 있습니다. 
The way in which variability is also designed in the practice opportunities is important. Research into the acquisition and retention of minimally invasive surgery skills demonstrates practice with randomly alternating images rather than a single or static teaching image enhances the learning process (Jordan et al. 2000). Individuals who practiced skills development with greater variability of the image in training sessions acquired basic surgical and psychomotor skills at a much faster rate than those trained with a limited number of images used as part of their training. This degree of variability is found in real-life settings but simulation can also provide this type of experience. The importance of variability is also highlighted in the motor skills literature (Kerr and Booth 1978; Savion-Lemieux and Penhune 2005, Corrêa et al. 2014), learning the relation between painters and painting styles (Kornell and Bjork 2008) and problem-solving (Rohrer and Taylor 2007).

정교화 및 생성
Elaboration and generation

정교화란 새로운 지식을 이전에 기억에 저장된 지식과 연결하는 것을 말합니다(Bartsch 외. 2018; Holland 외. 2011). 예를 들어

  • 정맥 천자 또는 캐뉼레이션과 같은 간단한 임상 술기의 경우, 교육자는 혈액 샘플을 채취하거나 실제 플라스틱 기구를 환자의 손에 넣는 기술적 측면을 시연하기 전에 학습자가 팔 혈관의 해부학적 구조를 떠올리도록 지원할 수 있습니다.
  • 고급 생명 유지와 같은 복잡한 임상 기술의 경우, 심장 제세동과 관련된 리듬 인식에 대해 가르치기 전에 교사가 학습자가 심장 파형에 대한 지식을 기억하도록 지원할 수 있습니다.

Elaboration refers to the connection of new knowledge with previously stored knowledge in memory (Bartsch et al. 2018; Holland et al. 2011).

  • In the case of a simple clinical skill such as venepuncture or cannulation for example, this could involve educators supporting learners to recall the anatomy of the arm vessels prior to demonstrating the technical aspects of obtaining a blood sample or placing the actual plastic apparatus in the hand of a patient.
  • In the case of a complex clinical skill such as advanced life support, this could involve teachers supporting learners to recall knowledge about the cardiac waveform, prior to teaching them about rhythm recognition in the context of cardiac defibrillation.

정교화는 이전에 저장된 지식을 활성화하기 위한 의식적인 노력이며, 주로 검색 가능한 지식인 선언적 지식을 통해 이루어집니다. 임상 술기에는 선언적 지식과 절차적 지식이 모두 필요하므로, 정교화는 저장된 관련 선언적 지식을 활성화하고 새로운 지식을 활성화된 지식과 연결함으로써 임상 술기 습득에 도움이 될 수 있습니다. 피드백 및 성찰은 학습자가 알고 있는 것을 새로운 콘텐츠와 연결해야 하므로 정교화를 지원하는 방법으로도 사용할 수 있습니다. 학습자가 새로운 자료와 이전 지식을 연결할 수 있도록 지원하면 학습자의 기억력이 더욱 향상됩니다(Bartsch 외. 2018; Stark 외. 2002). Bartsch 등(2018)은 6개의 명사를 연속된 순서로 기억할 때 정교화와 비 정교화의 효과를 비교한 결과, 정교화 그룹의 학습자가 비 정교화 학습자보다 유지력 테스트에서 더 우수한 성적을 보였다고 합니다.
Elaboration is a conscious effort to activate previously stored knowledge and it occurs mainly through declarative knowledge, which is the knowledge that is possible to retrieve. Since clinical skills require both declarative and procedural knowledge, elaboration may also benefit the acquisition of clinical skills by activating related declarative knowledge that is stored and connecting the new knowledge with the activated knowledge. Feedback and reflection may also be used as a way to support elaboration since both require to connect what learners know with the new content. Supporting learners to make a connection between the new material with their previous knowledge will further improve their retention (Bartsch et al. 2018; Stark et al. 2002). Bartsch et al. (2018) compared the effect of elaboration with non-elaboration on remembering six nouns in serial order and the results indicated that learners from the elaboration group had a better performance in the retention test than the non-elaboration learners.

생성이란 교육자가 구체적인 지시나 정보를 제공하기 전에 학습자가 주어진 문제에 대한 해결책을 스스로 찾아내는 것을 말하며, 여기서는 임상 기술을 수행하는 것을 의미합니다(Jacoby 1978; Slamecka와 Graf 1978; Richland 외. 2009). 교육자는 이 전략을 단순히 학습자가 '먼저 해보도록' 촉진하는 것과 연관시킬 수 있지만, 생성에는 학습자에게 지시나 새로운 정보가 제공되기 전에 의도적으로 어떤 형태의 사전 지식(선언적 및 절차적 지식 모두)을 활성화하도록 하는 것도 포함됩니다. 이러한 활성화가 학습자에게 미치는 영향은 새로운 지식과 이전 지식을 더 쉽게 연결할 수 있다는 것입니다.
Generation refers to the specific enabling of learners to identify their own solutions to a given problem, in this context, undertaking a clinical skill, before specific instruction or information is given by the educator (Jacoby 1978; Slamecka and Graf 1978; Richland et al. 2009). Whilst educators may associate this strategy simply as facilitating learners to ‘have a go first’, generation also involves deliberately enabling learners to activate some form of prior knowledge – both declarative and procedural – before either instruction or new information is given to them. The impact of this activation for the learner is the easier association between new and previous knowledge.

임상 술기 교육의 맥락에서 교육적 접근 방식으로서의 생성은 광범위한 문헌에서 근거가 제한적이지만, HPE에서 사용되는 기존 교육학의 대부분은 이 개념에 뿌리를 두고 있습니다. 발견 학습 또는 발견 연습의 핵심 원칙은 학습자가 주어진 문제에 대한 답을 스스로 찾을 수 있도록 지원해야 한다는 개념입니다. 사실일 수도 있지만, 이 접근법에 대한 많은 리뷰에서는 초기 발견 단계가 끝난 후 학습자가 [직접 지도를 받는 역할]이 중요하다고 제안합니다. 초기 발견 단계는 이론적으로 관련 선언적 지식을 활성화하여 새로운 지식을 이전에 저장된 지식과 연결함으로써 해당 지식의 유지 및 검색에 도움이 되어야 합니다. 이 단계는 학습자가 먼저 임상 술기를 시도해 보도록 유도하여 모든 임상 교육을 시작할 때 사용할 수 있습니다. 예를 들어, 고급 생명유지술 교육에서는 학습자가 소생술이 필요한 환자를 돌봐야 하는 시뮬레이션 시나리오를 교육 첫 부분에 포함시켜야 합니다. 이렇게 하면 학습자가 보유하고 있는 모든 관련 지식을 활성화할 수 있습니다.
Although generation as an instructional approach in the context of clinical skills training has a limited evidence base in the wider literature, much of the existing pedagogy used in HPE draws roots from this concept. The central tenet of discovery learning or discovery practice is the notion that learners should be supported to find the answer to a given problem by themselves. Whilst this may be the case, many of the reviews in this approach suggest there is a strong role for learners to receive direct instruction after the initial discovery phase has expired. The initial discovery phase should in theory activate relevant declarative knowledge, benefiting the retention and retrieval of that knowledge by connecting the new knowledge with the previous stored knowledge. This could be used at the beginning of every clinical training by encouraging learners to first try the clinical skill. For example, in advanced life support training, the first part of the training should be a simulated scenario in which learners need to attend to a patient requiring resus. In that way, learners would activate all the related knowledge they possessed.

바람직한 어려움
Desirable difficulties

학습자가 학습 프로그램을 마칠 때까지 습득해야 하는 임상 술기에 대한 지식의 양은 상당하며, 학습자가 평가를 '통과하기 위해' 대량 실습에 참여할 위험은 상당합니다. 일부 상황에서는 과잉 학습이 유용한 전략이 될 수 있지만, 임상 술기를 습득하지 않고 평가에 합격하기 위한 목적으로 과잉 학습을 하면 학습자가 시간이 지남에 따라 지식과 술기를 잊어버릴 위험이 있습니다. 검색과 간격을 두고 연습하면 망각의 영향을 일부 완화할 수 있지만(Bjork and Bjork 2019; Soderstrom and Bjork 2015), 바람직한 난이도를 전략으로 사용하는 것은 학습자에게 기억과 앎 또는 이해를 혼동하는 문제를 상기시키는 데도 효과적일 수 있습니다. 지식의 착각학습자가 다른 사람이 눈앞에서 기술을 시연하는 것을 보는 것만으로, 또는 학습자가 시간이 지나거나 다른 상황에서 다시 시연할 필요 없이 면밀한 관찰 하에 기술을 연습하는 것만으로도, 자신이 기술을 알고 있거나 가지고 있다고 믿는 현상입니다.
The amount of knowledge for clinical skills required for learners to acquire by the end of a program of study is significant, and the risk of learners engaging in massed practice ‘just to get through’ assessments is significant. Whilst overlearning is a helpful strategy in some circumstances, overlearning for the purpose of passing the assessment and not mastering the clinical skill risks learners forgetting knowledge and skills decaying over time. Although, interleaving retrieval and spaced practice mitigate some of the effects of forgetting (Bjork and Bjork 2019; Soderstrom and Bjork 2015), the use of desirable difficulties as a strategy can be effective also for reminding learners about the problem of confusing remembering, with knowing or understanding. The illusion of knowledge is the phenomenon whereby learners believe they know or have skills, by simply watching others demonstrate skills in front of them, or learners practicing skills under close observation without necessarily demonstrating them again over time, or in other contexts.

바람직한 어려움은 학습자의 주의를 끌기 위해 교사가 사용할 수 있는 또 다른 전략이며, 간단한 질문을 사용하여 기억하기, 알기, 이해하기 간의 차이를 강화할 수 있습니다. '자전거를 그릴 수 있느냐'와 같이 일반인에게 간단한 지시를 내리는 것은 지식의 착각 현상을 설명하는 것으로 나타났습니다. 그 후 교사는 학습자에게 구체적인 과제를 제공함으로써 학습자의 주의를 끌 수 있으며, 이를 통해 학습자는 어려움을 겪는 경험을 할 수 있을 뿐만 아니라 나중에 성공하는 경험도 할 수 있습니다. 따라서 '어려움'은 교사의 지원, 발판 또는 성공 없이 '고군분투'라는 결과만 유발하는 것이 아니라 "고군분투와 성공"이라는 두 가지 결과를 모두 불러일으키는 경우에만 바람직합니다(Bjork and Bjork 2011).
Desirable difficulties is another strategy that teachers can employ for both getting the attention of learners but also use simple questions to reinforce the difference between remember, knowing, and understanding. Simple instructions to a general population such as ‘can you draw a bicycle’ have been shown to illustrate the illusion of knowledge phenomenon. Thereafter, teachers can build on the gaining of learner attention by providing individuals with specific tasks that induce the experience of struggling, but also enables them to also experience success afterward. Therefore difficulty is only desirable if it evokes both outcomes – struggling and success (Bjork and Bjork 2011) – rather than just the former without any form of support, scaffold, or success provided by the teacher.

또한 현재의 증거에 따르면 과제를 수행할 때 실수를 하거나 선언적 및 절차적 지식을 검색하는 데 어려움을 겪는 것은 시간이 지나도 지식과 기술을 장기적으로 잘 유지하도록 하는 데 필요합니다(Bjork and Bjork 2011; Steenhof Woods와 Mylopoulos 2020). 바람직한 어려움 사용에 대한 증거는, '교사의 존재로 인해 오류가 근절될 때 연습이 가장 좋다'는 다른 증거를 배경으로 존재합니다. 이러한 문헌은 더 나아가 실수를 통한 학습은 비생산적이며, 실수가 발생하더라도 이는 단순히 부적절한 교육 때문이라는 것을 암시합니다(Skinner 1958). 또한, 실수 없이 학습하는 것(오류 없는 학습errorless learnging이라고도 함)은 학습자가 실수 없이 발전하는 자신을 보기 때문에 '기분이 좋다'고 느낄 수 있으며, 이는 단순히 더 많은 것을 알고 있다는 환상을 불러일으킬 수 있습니다(Glenberg 외. 1982). 오류 없는 학습을 지지하는 접근 방식의 의도하지 않은 결과는 학습자(및 교수자)가 개인이 감독 없이도 적절하게 수행할 수 있다고 편안하게 여기는 것인데, 이는 단기적으로는 증거가 될 수 있지만 시간이 지나면 실제로 그렇지 않을 수 있습니다(검토는 Higgins 외. 2021a, 2021b 참조).
Current evidence also suggests that both making errors and difficulty retrieving declarative and procedural knowledge when undertaking a task are necessary for facilitating good long-term retention of knowledge and skills over time (Bjork and Bjork 2011; Steenhof Woods and Mylopoulos 2020). The evidence for using desirable difficulties exists against a backdrop of other evidence proposing that practice is best when errors are eradicated by the presence of a teacher. That body of literature goes further and implies that learning through making errors is counterproductive and in the event, mistakes happen, they are simply due to inadequate instruction (Skinner 1958). Furthermore, learning without making errors – also known as errorless learning – can ‘feel good’ for learners since they see themselves progressing without making mistakes, simply fueling the illusion of knowing even more (Glenberg et al. 1982). The unintended consequences of approaches that espouse errorless learning are learners (and instructors) comfortable that individuals can adequately perform without supervision, which may be evidence in the short-term but may not actually be the case over time (for a review see, Higgins et al. 2021a, 2021b).

피드백
Feedback

피드백은 가장 많이 연구된 교육적 개입 중 하나이며, 심리학 및 교육 문헌에서 학습을 향상시키는 데 있어 피드백의 역할에 대한 많은 증거가 있습니다(Wisniewski Zierer 및 Hattie 2019). 피드백 제공에 대한 많은 리뷰와 가이드가 있지만(예: Veloski 외. 2006, Wulf Shea와 Lewthwaite 2010, Tavakol 외. 2022 참조), 인지 과학적 관점에서 임상 기술 개발에 대한 피드백을 제공할 때 특별히 고려해야 할 사항이 있습니다. 
Feedback is one of the most studied educational interventions, and there is much evidence for the role of feedback in enhance learning within the psychology and education literature (Wisniewski Zierer and Hattie 2019). A number of reviews and guides on giving feedback are available (for example, see Veloski et al. 2006; Wulf Shea and Lewthwaite 2010; Tavakol et al. 2022), however, there are specific considerations when giving feedback about the development of clinical skills from a cognitive science perspective.

학습자에게 피드백을 제공하는 것은 술기 습득 기간 동안 필수적이지만, 시간이 지남에 따라 실습 중 피드백의 양을 줄여야 한다는 데 인지과학계에서 합의가 이루어지고 있습니다. 시간이 지남에 따라 피드백의 양이 감소함에도 불구하고 학습 성과는 실제로 증가한다는 증거가 있습니다(Kovacs and Shea 2011; Sulzenbruck and Heuer 2011). 시간이 지남에 따라 피드백의 양을 조절하는 이유는, 학습자의 학습 단계에 관계없이 무제한으로 피드백을 제공할 경우, 학습자가 상당한 양의 피드백을 받는 데 익숙해질 위험을 최소화하기 위해서입니다. 학습자는 발달 단계를 거치면서 더 큰 독립성과 자기 인식을 달성하기보다는(Schmidt 1991; Salmoni 외. 1984), 스스로를 확장하거나 독립적으로 발달을 진행하기 전에 승인이나 허가를 구하는 형태로 피드백을 받는 것에 지나치게 의존하게 됩니다. 
Although giving feedback to learners is essential during the period of skill acquisition, there is a consensus within cognitive science that the amount of feedback during practise should reduce over time. Evidence suggests that learning outcomes actually increase despite the amount of feedback decreasing over time (Kovacs and Shea 2011; Sulzenbruck and Heuer 2011). The rationale for modifying the volume of the feedback given over time is to minimize the risk that learners become conditioned to receiving a significant amount of feedback if unrestrained feedback irrespective of their stage of learning. Rather than moving through development stages and achieving both greater independence and self-awareness, (Schmidt 1991; Salmoni et al. 1984), learners become over-reliant on getting feedback as a form of seeking approval or permission before extending themselves or moving on with their development independently.

스캐폴딩의 한 형태인 피드백이 점진적으로 감소하면 학습자가 경험과 전문성을 모두 얻으면서 실수를 경험할 수 있는 기회가 생겨 학습에 있어 오류의 중요성을 다시 한 번 상기시키는 동시에 실제 임상 실습에서 오류가 발생할 수 있음을 염두에 두게 됩니다. 

  • 예를 들어, 고급 생명유지술 교육에서는 학습자가 새로운 지식과 다양한 기술을 동시에 배우게 되므로 교육 초반에는 피드백이 풍부하고 지속적으로 제공되어야 하며, 새로운 학습 및 실무 상황에서도 피드백을 받을 수 있습니다.
  • 그러나 교육 과정이 끝날 무렵에는 실제 임상 실습과 유사하게 면밀한 감독 없이도 지식과 기술을 시연할 수 있어야 하므로 피드백을 거의 받지 않아야 합니다.

A progressive decrease in feedback as a form of scaffolding also creates the opportunity for learners to experience making mistakes, as they gain both experience and expertise, again reminding individuals about the importance of errors for learning, but also being mindful for the occurrence of errors in actual clinical practice.

  • For example, during advanced life support training, feedback should be plentiful and constant at the beginning of the course, since learners are introduced to new knowledge and multiple skills at the same time; arguably both also received in a new learning and working context as well.
  • However, at the end of the training course, students should receive very little feedback, since they should be able to demonstrate knowledge and skills without the need for close supervision; similar to actual clinical practice.

임상 술기를 자주 연습하는 경우 피드백은 술기 습득을 지원해야 하며, 드물게 연습하는 경우 피드백은 술기 유지를 지원해야 합니다. 예를 들어, 세실리오-페르난데스 등(2020)은 경흉부 심초음파 술기의 습득과 유지에 대해 전문가 피드백, 증강 피드백, 이 두 가지를 결합한 피드백의 세 가지 유형을 비교했습니다. 획득하는 동안 모든 그룹의 학습자는 두 번 연속 실수하지 않고 이미지를 획득할 수 있을 때까지 연습했습니다. 전문가 그룹의 학습자가 다른 그룹에 비해 기술 습득 속도가 더 빨랐습니다. 그러나 유지력 테스트에서는 겨합 교육을 받은 학습자가 다른 두 그룹보다 더 좋은 품질의 이미지를 획득했습니다. 이러한 결과는 습득에는 한 가지 유형의 피드백이 최적일 수 있지만, 유지에는 다른 유형의 피드백이 최적일 수 있음을 나타냅니다.
When a clinical skill is practiced frequently, the feedback should support its acquisition, whereas when practiced infrequently, the feedback should support retention. For example, Cecilio-Fernandes et al. (2020) compared three different types of feedback, expert, augmented, and a combination of both, on the acquisition and retention of transthoracic echocardiogram skill. During the acquisition, learners from all groups practiced until they were able to acquire images without making any mistakes twice in a row. Learners in the expert group were faster in acquiring the skill than the other groups. However, at the retention test, learners from the combined instruction obtained better-quality of images than the other two groups. These findings indicate that for acquisition one type feedback may be optimal, while for retention another type of feedback is optimal.

실무적 시사점
Practical implication

교육자에게 현지 자원의 가용성과 기존 기술 교육 시스템을 고려하는 등 주요 인지 과학 전략을 현지 상황에 맞게 조정할 수 있는 기회를 제공할 것을 권장합니다(Cecilio-Fernandes와 Sandars 2021). 임상 술기 교육에 인지 과학의 인사이트를 적용하여 얻을 수 있는 이점을 완전히 실현하려면 교수진 개발이 필요합니다. 
We recommend that educators are provided with opportunities to adapt the main cognitive science strategies to their own local context, including consideration of the availability of local resources and existing systems of skills training (Cecilio-Fernandes and Sandars 2021). This requires faculty development if the benefit of applying insights from cognitive science for clinical skills training is to be fully realized.

이 가이드는 임상 술기 습득과 술기 쇠퇴 감소를 위한 선언적 및 절차적 지식의 중요성을 강조했습니다. 임상 술기 교육 시 선언적 지식과 절차적 지식을 가장 적절하게 조합하여 제공하기 위해서는 임상 술기 교육을 시작할 때 학습자의 술기 수준을 파악하는 것이 필수적이라고 권장합니다. 우리의 경험에 따르면 이 필수 단계는 임상 술기 교육에 포함되지 않는 경우가 많습니다. 학습자가 술기를 수행하는 동안 습득해야 하는 지식의 유형을 파악하면 교육자는 개별 학습자에게 교육을 제공할 수 있습니다.

  • 예를 들어, 선언적 지식이 충분하지 않은 학습자는 이러한 지식 격차를 미리 해결하지 않으면 가장 기본적인 술기조차도 개발하는 데 어려움을 겪을 수 있습니다. 직접 또는 사전 교육용 객관식 퀴즈를 통해 구체적인 질문을 하면 선언적 지식의 결핍을 파악할 수 있습니다.
  • 절차적 지식의 결핍은 개인이 기술을 수행하는 것을 관찰함으로써 파악할 수 있습니다.
  • 반대로 선언적 지식이 있는 학습자는 훈련을 계속 진행하면서 더 정교한 절차적 지식과 더 큰 도전 과제를 개발하도록 지원할 수 있습니다.
  • 일부 학습자는 선언적 지식과 절차적 지식이 모두 적절한 수준이지만 다양한 상황의 다양한 과제에서 두 가지 요소를 통합하는 데 어려움을 겪을 수 있습니다. 예를 들어, 혈압 측정을 시도하는 일부 학습자는 사지 기형이나 동정맥 누공이 있는 환자 등 신체적 특성이 다른 환자에 대해 이 기술을 올바르게 수행하지 못할 수 있습니다. 

The Guide has highlighted the importance of declarative and procedural knowledge for clinical skill acquisition and reduction in skill decay. In order to provide the most appropriate mix of declarative and procedural knowledge during clinical skills teaching, we recommend that identifying the skill level of the learner is essential at the start of any clinical skills teaching. Our experience is that this essential step is often not included in clinical skills teaching. Identifying what type of knowledge the learner needs to acquire during the performance of the skill allows the educator to provide training to the individual learner.

  • For example, learners without sufficient declarative knowledge may struggle with developing even the most basic skills without addressing those knowledge gaps beforehand. Asking specific questions, either direct or by a pre-training multiple-choice quiz, can identify deficits in declarative knowledge.
  • Deficits in procedural knowledge can be identified by watching individuals perform the skill.
  • In contrast, learners with declarative knowledge could be supported to move on with their training and develop more sophisticated procedural knowledge and greater challenge on tasks.
  • Some learners may have appropriate levels of both declarative and procedural knowledge but struggle to integrate both components across a range of tasks in different situations. For example, some learners attempting to measure blood pressure may be unable to correctly undertake the skill across patients with different physical attributes such as individuals with limb deformities or arteriovenous fistulae in situ.

많은 의료 교육자들이 흔히 하는 질문은 어떻게 시작해야 하는가입니다. 각 상황에 따라 다르므로 간단한 답은 없지만, 의학교육자는 가장 많은 근거가 있는 전략부터 시작하는 것이 좋습니다.
A common question of many medical educators is how to start. Although there is no simple answer as it will depend on each context, we recommend that medical educators start with the strategy with the most evidence.

피드백, 간격 및 검색 연습은 의학교육을 포함하여 가장 높은 수준의 근거를 가진 전략입니다. 더 중요한 것은 선언적 및 절차적 지식을 포함한 임상 술기 교육의 효과를 입증하는 연구가 있다는 것입니다. 선언적 지식에 크게 의존하는 술기에서는 반복 학습과 인터리빙이 더 많은 증거를 가지고 있으며, 대부분 인지 심리학에서 나온 것입니다. 정교화와 생성은 임상 술기 교육에 대한 근거가 가장 적은 두 가지 개념입니다. 또한 이 두 개념은 검색 연습 및 피드백과 밀접한 관련이 있으므로 두 개념 모두 독립적인 개념이 아니라 검색 연습 및 피드백의 일부로 사용하는 것이 가장 적합할 수 있습니다.
Feedback, spaced and retrieval practice are strategies with the highest level of evidence, including in medical education. More importantly, there are studies demonstrating the effect of clinical skills training, including declarative and procedural knowledge. Overlearning and interleaving have more evidence in skills that are heavily dependent on declarative knowledge and most of them are from cognitive psychology. Elaboration and generation are two concepts with the least amount of evidence for clinical skills training. Those concepts are also closely related to retrieval practice and feedback, thus both concepts may be optimal as part of retrieval practice and feedback, instead of standalone concepts.

이 글에서는 임상 술기 교육에서 근거 기반 인지 과학 전략을 어떻게 구현할 수 있는지에 대한 예시를 제공합니다:
We provide an illustrative example of how evidence-based cognitive science strategies can be implemented in clinical skills training:

임상 술기 교육의 예시입니다: 고급 생명 유지 교육
Illustrative example of clinical skills training: Advanced life support training

고급 생명 유지(ALS)에는 청진, 심전도 해석, 다양한 약물 처방 등 여러 임상 기술이 필요합니다. 학습자가 직면한 과제는 방대한 양의 선언적 지식과 절차적 지식을 통합하는 것입니다. 표 1에서는 루게릭병 교육에 증거 기반 인지 과학 전략을 실제로 구현할 수 있는 방법에 대한 개요를 제공합니다(표 1). 표 1은 가장 많은 근거를 가진 전략과 그 전략이 중요한 이유, 수행 방법에 대한 설명이 순서대로 나열되어 있습니다.
Advanced Life Support (ALS) requires multiple clinical skills, including auscultation, interpretation of electrocardiograms, and prescribing a variety of medications. The challenge for learners is the integration of a large volume of declarative and procedural knowledge. In Table 1, we provide an overview of how evidence-based cognitive science strategies can be practically implemented into ALS training (Table 1). Table 1 is ordered by the strategy with the most evidence, and a description of what to do, why it is important, and how to do.

 

그림 1은 왼쪽에 근거 기반 인지 과학 전략을 사용한 루게릭병 입문 과정의 교육 설계를 보여줍니다. 오른쪽은 동일한 과정의 전통적인 설계입니다. 이 과정은 4개의 스킬 로테이션과 워크샵으로 나누어 진행되었습니다:

  1. 관련 리저스 스킬
  2. 평가에 대한 ABCDE 접근 방식 IIO
  3. 리듬 인식
  4. 고품질 CPR 및 제세동

Figure 1 shows on the left side a training design of an introduction to ALS course using evidence-based cognitive science strategies. On the right side is the traditional design of the same course. This course was divided into four skill rotations and workshops:

  1. Associated Resus Skills
  2. The ABCDE Approach to assessment inc IIO
  3. Rhythm Recognition
  4. High-quality CPR and Defibrillation

또한 이 코스에는 6개의 심장마비 시나리오(CAS)가 있어 학생들은 시뮬레이션된 임상 시나리오를 연습할 수 있습니다.
Also, in the course there are 6 Cardiac Arrest Scenarios (CAS) in which students have the opportunity to practice simulated clinical scenarios.

 

추가 개발 및 평가
Further development and evaluation

인지 과학은 인지 모델링의 복잡성을 발전시키고 신경 과학과 명시적으로 연결되는 흥미진진하고 진화하는 분야입니다. 인지 모델은 이제 활성화될 뇌 영역을 예측하여 선언적 지식과 절차적 지식이 상호 작용하는 방식에 대한 정보를 제공하고 복잡한 기술을 습득하는 방식에 대한 시사점과 통찰력을 제공할 수 있습니다(Borst and Anderson 2013, Taatgen 2013). 수학 교육에 사용되는 지능형 튜터의 성공적인 개발(Anderson 외. 1995)에 이어, 이제 인지 과학 원리를 임상 술기 교육에 어떻게 구현할 수 있는지 고려할 수 있는 기회가 생겼습니다. 인지 과학은 임상 추론과 같은 과제를 위한 이론 중심의 지능형 튜터를 설계하는 데 도움이 될 수 있으며, 전문가가 항상 참석하여 성과를 관찰하고 피드백을 제공할 필요를 없애줍니다. 요즘에는 다양한 피드백 시스템이 포함된 시뮬레이터를 사용하여 임상 술기에도 이러한 작업이 가능할 수 있습니다. 예를 들어, 복강경 시뮬레이터에는 인지 과학의 증거를 사용하여 개선할 수 있는 햅틱 피드백 시스템이 포함되어 있습니다. 또한 시뮬레이터는 수행 수준을 측정하고 다른 훈련 세션이 필요한 시기를 알려줄 수도 있습니다. 인지 과학은 또한 학습자가 과제를 수행하는 데 필요한 인지 처리량이 개인적으로 투자해야 하는 양을 초과할 때 더 높은 수준의 어려움을 경험할 때 주어진 과제에 대한 이해를 높이는 데 도움이 될 수 있습니다(Korbach 외. 2017). 예를 들어, 학습자가 초음파의 모든 구성 요소를 숙지하지 않은 상태에서 비만 환자에 대한 초음파 검사를 수행하도록 요구하면 초음파 검사를 성공적으로 수행하지 못하고 환자 치료가 손상될 수 있습니다. 
Cognitive science is an exciting and evolving field that has advanced in the complexity of cognitive modeling as well as making an explicit connection with neuroscience. Cognitive models can also now predict the areas of the brain that will be activated, providing information on how declarative and procedural knowledge interact, with implications and insights for how complex skills are acquired (Borst and Anderson 2013; Taatgen 2013). Following the successful development of intelligent tutors used for teaching mathematics (Anderson et al. 1995), there is now an opportunity to consider how cognitive science principles can be implement to clinical skills training in HPE. Cognitive science may help in the design of theory-driven intelligent tutors for tasks such as clinical reasoning, removing the need for an expert to always be present for observing and giving feedback on performance. This may also be feasible for clinical skills with the use of simulators, which nowadays include many feedback systems. For example, laparoscopic simulators have included a haptic feedback system, which can be improved by using evidence from cognitive science. The simulators could also measure the level of performance and indicate when another training session is necessary. Cognitive science may also help increase understanding around given learners experience greater levels of difficulty when the amount of cognitive processing necessary to execute a task exceeds what they have to personally invest into it (Korbach et al. 2017). For example, requiring learners to perform an ultrasound exam on an obese patient without mastering all the components of the ultrasound will lead to an unsuccessful performance of the ultrasound while compromising patient care.

결론
Conclusion

임상 술기를 가르치고 배우는 것은 HPE의 필수적인 측면입니다. 그러나 현재의 접근 방식으로는 여전히 숙련도 저하를 방지할 수 없습니다. HPE 교육자들은 임상 술기 습득을 최적화하고 술기 감퇴를 방지하기 위해 현재 접근 방식에 다양한 근거 기반 인지 과학 전략을 구현할 것을 권장합니다.
Teaching and learning clinical skills is an essential aspect of HPE. However, current approaches still do not prevent skill decay. We encourage HPE educators to implement a variety of evidence-based cognitive science strategies with their current approaches for the optimization of clinical skill acquisition and to prevent skill decay.

 


 

Med Teach. 2023 Jan 23;1-10. doi: 10.1080/0142159X.2023.2168528. Online ahead of print.

Using insights from cognitive science for the teaching of clinical skills: AMEE Guide No. 155

Affiliations collapse

1Department of Medical Psychology and Psychiatry, School of Medical Sciences, University of Campinas, Campinas, Brazil.

2Nottingham Medical School, University of Nottingham, Nottingham, UK.

3Health Research Institute, Edge Hill University, Ormskirk, UK.

PMID: 36688914

DOI: 10.1080/0142159X.2023.2168528

Abstract

Students have to develop a wide variety of clinical skills, from cannulation to advanced life support, prior to entering clinical practice. An important challenge for health professions' educators is the implementation of strategies for effectively supporting students in their acquisition of different types of clinical skills and also to minimize skill decay over time. Cognitive science provides a unified approach that can inform how to maximize clinical skill acquisition and also minimize skill decay. The Guide discusses the nature of expertise and mastery development, the key insights from cognitive science for clinical skill development and skill retention, how these insights can be practically applied and integrated with current approaches used in clinical skills teaching.

Keywords: Clinical skill; cognitive science; skill acquisition; skill retention.

 

보건의료전문직 교육에서 학생참여: AMEE Guide No. 152 (Med Teach, 2022)
Student engagement in health professions education: AMEE Guide No. 152
Salah Eldin Kassaba,b , David Taylorc and Hossam Hamdyc

 

소개
Introduction

학생 참여는 보건 전문직 교육(HPE)의 질에 직접적인 영향을 미칩니다.

  • 이러한 이유로 학교 운영 및 교육 활동에 대한 학생의 참여는 세계의학교육연맹의 기본 인증 기준 중 하나입니다(WFME 2020 개정판).
  • 또한, 유럽의학교육협회(Association for Medical Education in Europe)의 ASPIRE 이니셔티브에서는 학생 참여를 보건 전문직 교육 학교의 기관 우수성 지표 중 하나로 선정했습니다(Harden and Roberts 2015).
  • 또한, 파트너십을 통한 학생 참여는 영국의 QAA(Quality Assurance Authority) 및 고등 교육의 우수성 증진을 위한 전문 기관인 Advance HE와 같은 여러 조직에서 지원하고 있습니다.

학생 참여의 중요성에 대한 보편적인 합의에도 불구하고, 이 새로운 구성 요소를 개념화하고 운영하는 데 있어 통일성이 부족합니다. 
Student engagement has a direct repercussion on the quality of health professions education (HPE).

  • For that reason, engagement of students in school management and educational activities is one of the basic accreditation standards of World Federation for Medical Education (WFME 2020 revision).
  • In addition, the Association for Medical Education in Europe’s ASPIRE initiative identified student engagement as one of the indicators of institutional excellence in health professions education schools (Harden and Roberts 2015).
  • Furthermore, student engagement through partnerships is supported by several organizations such as the Quality Assurance Authority (QAA) in the UK and Advance HE which is a professional organization for promoting excellence in higher education (https://www.advance-he.ac.uk/).

Despite the universal agreement about the significance of student engagement, there is lack of uniformity in conceptualizing and operationalizing this emerging construct.

HPE에서 학생 참여에 대한 관심이 높아지면서 다양한 각도에서 이 주제에 대한 개요를 제공하는 여러 연구 간행물이 발간되었습니다.

  • ASPIRE 수상 기관의 저자들은 모범 사례를 바탕으로 기관이 파트너십을 통해 학생을 참여시킬 수 있는 방법에 대한 조언을 제공했습니다(Peters 외. 2019).
  • 또 다른 호주 저자 그룹은 웨스턴 시드니 대학교 의과 대학에서 경험한 사례를 바탕으로 학생들을 지역사회 파트너십에 참여시키기 위한 12가지 팁을 제공했습니다(Marjadi 외. 2021).
  • 최근 AMEE 가이드에서는 교육 및 학습의 공동 창작에 대한 학생 참여에 중점을 둔 학생 참여를 소개했습니다(Konings 외. 2021).
  • 또한, 학부 의학교육에서의 학생 참여는 최근 범위 검토에서 다루어졌습니다(Kassab 외. 2022).

The evolving interest in student engagement in HPE culminated in several research publications providing an overview of the topic from different angles.

  • Authors from the ASPIRE award-winning institutions built on their best practices and provided pieces of advice on how institutions can engage their students through partnerships (Peters et al. 2019).
  • Another group of Australian authors used examples from their experience at Western Sydney University School of Medicine and provided twelve tips for engaging students in community partnerships (Marjadi et al. 2021).
  • Recently, an AMEE guide introduced student engagement with a focus on student involvement in co-creation of teaching and learning (Konings et al. 2021).
  • Furthermore, student engagement in undergraduate medical education has been recently covered in a scoping review (Kassab et al. 2022).

그러나 HPE 문헌에는 파트너로서의 학생 참여를 통합하는 학생 참여에 대한 포괄적인 이론적 프레임워크가 부족합니다. 따라서 고등 교육 및 HPE 관련 문헌을 바탕으로 학생 참여의 정의와 기본 이론적 관점을 설명하겠습니다. 이에 따라 참여의 [선행 요소, 매개자, 차원, 영역, 결과]를 포함한 다양한 구성 요소와 함께 통합된 중요한 프레임워크를 소개합니다. 그런 다음 이 가이드는 보건 전문직 교육에서 학생 참여를 개선하기 위한 실질적인 전략을 제공하고 향후 연구 방향을 제시하며 마무리합니다. 
However, HPE literature is lacking a comprehensive theoretical framework of student engagement that incorporates engagement of students as partners. Therefore, drawing from literature in higher education and HPE, we will describe the definitions and underlying theoretical perspectives of student engagement. Accordingly, we will introduce an integrated overarching framework with its different components including the antecedents, mediators, dimensions, spheres, and outcomes of engagement. The guide will then provide practical strategies for improving student engagement in health professions education and end by future research directions.

학생 참여란 무엇인가요?
What is student engagement?

교육 문헌에서 학생 참여의 의미에 대한 공통된 합의에 도달하는 것은 난제였습니다. 언어학적으로 참여는 '어떤 일에 관여하는 사실'(캠브리지 사전) 또는 '누군가 또는 무언가를 이해하기 위해 그/그것에 관여하는 것'(옥스퍼드 영어 사전)으로 정의됩니다. 학생 참여의 정의에 대한 합의가 부족하지만 다음은 몇 가지 선구적인 시도입니다:
Reaching a common agreement about the meaning of student engagement in the education literature has been a conundrum. Linguistically, engagement is defined as ‘the fact of being involved with something’ (Cambridge Dictionary, nd), or ‘being involved with someone or something in an attempt to understand them/it’ (Oxford English Dictionary, nd). Although there is lack of consensus about defining student engagement, the following are some pioneering attempts:

  • 학생이 학업 경험에 쏟는 신체적, 심리적 에너지의 양(Astin 1999).
  • 학생이 교실 안팎에서 교육적으로 건전한 행동과 행동에 바치는 시간과 활력, 그리고 교육기관이 학생이 이러한 활동에 참여하도록 설득하기 위해 적용하는 지침 및 관행. (Kuh 2009).
  • 학습 활동 중에 활성화되고, 노력하고, 몰입 할 수있는 학생의 심리적 활동 상태와 학교 공동체와의 학생의 연결 상태 (Wong and Liem 2021).
  • 동료, 교수진 및 대학 커뮤니티와의 상호작용을 통해 인지적, 행동적, 정서적 수준에서 학습, 교수 및 연구 분야에서 학생들의 학업적 경험을 의미합니다(Groccia 2018).
  • amount of physical and psychological energy that the student devotes to the academic experience (Astin 1999).
  • time and vigor students dedicate to educationally sound actions and deeds internally and beyond the classroom and the guidelines and practices that institutions apply to persuade students to participate in these activities. (Kuh 2009).
  • students’ psychological state of activity that affords them to feel activated, exert effort, and be absorbed during learning activities and students’ state of connection with the school community (Wong and Liem 2021).
  • academic experiences of students in learning, teaching, and research, at the cognitive, behavioral, and emotional levels through interactions with peers, faculty, and college community (Groccia 2018).

이 가이드의 개념적 프레임워크에 따르면 학생 참여는 학습, 교수, 연구, 거버넌스 및 커뮤니티 활동을 포함하는 학업 및 비학업적 경험에 대한 학생의 시간과 에너지 투자로 정의됩니다. 학생은 인지적, 정서적, 행동적, 주체적, 사회문화적 차원에서 이러한 측면에 참여합니다.
According to our conceptual framework in this guide, we define student engagement as the student investment of time and energy in academic and non-academic experiences that include learning, teaching, research, governance, and community activities. Students are involved in these aspects at the cognitive, affective, behavioral, agentic, and socio-cultural dimensions.

학생 참여에 대한 이론적 관점
Theoretical perspectives of student engagement

학생 참여의 개념화에 대한 문헌의 불일치에도 불구하고 학생 참여가 복잡한 메타 구조라는 데는 대체로 동의하고 있습니다. 학생 참여를 설명하는 세 가지 주요 관점은

  • (1) 참여도를 시간에 따라 변화하는 학생의 내적 심리 상태로 설명하는 심리적 관점(프레드릭스 외. 2004),
  • (2) 교육기관의 효과적인 교육 활동과 학생 행동을 연결하는 행동적 관점(쿠 2009),
  • (3) 보다 광범위한 사회적, 문화적, 정치적 맥락에서 학생 경험을 검토하는 사회문화적 관점입니다.

Despite the inconsistencies in the literature about the conceptualization of student engagement, there is a general agreement that student engagement is a complex meta-construct. There are three main perspectives that explain student engagement:

  • (1) psychological perspective, which explains engagement as an internal psychological state of the students that undergo changes over time (Fredricks et al. 2004),
  • (2) behavioral perspective, which connects the effective instructional activities of the institution with the student behavior (Kuh 2009),
  • (3) sociocultural perspective, which examines the student experience from a broader social, cultural, and political context.

학생 참여의 심리적 관점
Psychological perspective of student engagement

심리적 관점은 대학 전 교육 상황에서 가장 널리 사용되는 관점이며(프레드릭스 외. 2004), HPE를 비롯한 대학 수준에서 무비판적으로 대규모로 채택되고 있습니다.

  • 이 관점의 주요 장점은 참여의 지표, 동인, 결과를 구분할 수 있다는 점입니다. 또한 참여의 정서적, 행동적, 인지적 차원을 통합하여 학생들의 경험에 대한 풍부한 이미지를 묘사할 수 있습니다.
  • 그러나 이 관점의 단점은 학생 참여도를 형성하는 데 있어 맥락의 역할을 사소화한다는 점(Furlong 외. 2003)과 차원 수 및 각 차원 아래의 지표를 포함한 명확한 개념화가 부족하다는 점입니다.
  • 심리적 관점에서 학생 참여도를 설명할 수 있는 다섯 가지 이론적 모델은 다음과 같습니다. a) 참여-식별 모델, b) 자기 결정 이론, c) 흐름 이론, d) 학업 참여도 모델, e) 메타 구성으로서의 참여도 모델입니다.

The psychological perspective is the most prevailing in precollege education contexts (Fredricks et al. 2004), and has been uncritically adopted on a large scale at university levels including HPE.

  • The main advantage of this perspective is making the distinction between indicators, drivers, and outcomes of engagement. In addition, it portrays a rich image of students experience by incorporating the affective, behavioral, and cognitive dimensions of engagement.
  • However, disadvantages of this perspective are trivializing the role of context in shaping up student engagement (Furlong et al. 2003) and lack of clear conceptualization including the number of dimensions and the indicators under each dimension.
  • The following five theoretical models can explain student engagement from the psychological perspective: a) participation-identification models, b) self-determination theory, c) flow theory, d) schoolwork engagement model, and e) model of engagement as a meta-construct.

참여 - 식별 모델
Participation – identification models

학생 참여를 개념화하기 위해 등장한 첫 번째 모델은 참여 모델입니다(Natriello 1984). 이 모델에 따르면 참여는 단순히 학생이 학교에서 제공하는 활동에 참여하는 것으로 정의됩니다(Natriello 1984). 5년 후 Finn(1989)은 이 모델을 기반으로 학생의 학교 참여가 행동적 차원정서적 차원으로 구성된다는 가설을 세웠습니다(Finn 1989).

  • 행동적 차원은 학교 활동에 대한 학생의 참여를 나타내고,
  • 정서적 차원은 학교에 대한 소속감과 가치관을 나타냅니다(Finn 1989).

이 모델은 학생들의 참여가 학업 성취도 향상으로 이어지고, 이는 학생들이 학교 공동체의 중요한 구성원이라는 느낌(소속감)과 학교를 자기 계발의 장으로 인식(소중함)함으로써 학교와 동일시하게 되는 연속적인 순환을 나타냅니다. 대체로 HPE 학생들의 행동 참여를 측정한 연구들은 참여 관점에 기반하여 이를 운영했습니다(O'Malley 외. 2003; Giddens 외. 2012; Yu 외. 2018; Riddle and Gier 2019; Nguyen 외. 2020; Smeby 외. 2020; Siqueira 외. 2021).
The first model that emerged to conceptualize student engagement was the participation model (Natriello 1984). According to this model, engagement is simply defined as the student participation in activities offered by the school (Natriello 1984). Five years later, Finn (1989) built on that model and posited that student engagement in schools consists of behavioral and emotional dimensions (Finn 1989).

  • The behavioral dimension represents participation of students in school activities, while
  • the emotional dimension represents the sense of belonging and valuing the school (Finn 1989).

The model represented a continuous cycle where participation of students leads to enhanced academic performance, which drives the students to identify with the school by feeling of being a significant member of the school community (belongingness) and recognition of the school as a place for personal development (valuing). By and large, studies which measured behavioural engagement of HPE students operationalized it based on the participation perspective (O'Malley et al. 2003; Giddens et al. 2012; Yu et al. 2018; Riddle and Gier 2019; Nguyen et al. 2020; Smeby et al. 2020; Siqueira et al. 2021).

자기 결정 이론(SDT)
Self-determination theory (SDT)

SDT는 학생의 내재적 동기를 위해서는 자율성, 역량, 타인과의 관계라는 기본적인 심리적 욕구가 충족되어야 한다고 가정합니다(Ryan and Deci 2000).

  • 자율성의 욕구는 학생의 특정 행동 선택이 자기 자신으로부터 비롯되며, 학생은 자신에게 적합한 행동을 자유롭게 결정할 수 있다는 것을 의미합니다.
  • 유능감의 욕구는 어떤 행동을 하든 자신감과 효과에 대한 인식을 의미합니다.
  • 관계성의 욕구는 다른 개인 및 주변 커뮤니티와의 연결 및 소속감을 나타냅니다.

The SDT posits that intrinsic motivation of students requires the satisfaction of basic psychological needs of autonomy, competence, and relatedness to others (Ryan and Deci 2000).

  • The need for autonomy indicates that students’ choices of certain behaviors are emanating from self, and they are free to decide the appropriate action for them.
  • The need for competence refers to the perception of confidence and effectiveness in whatever actions they do.
  • The need for relatedness indicates the feeling of connection and belongingness with other individuals and the surrounding community.

SDT를 기반으로 한 동기 개발의 자기 체계 모델(SSMMD)은 사회적 맥락 요인이 자기 체계 과정과 그에 따른 학생 참여에 어떻게 영향을 미치는지에 대한 이해를 제공했습니다(Connell and Wellborn 1991). SSMMD에 따르면 학생이 기본적인 심리적 욕구(자율성, 유능성, 관계성)를 충족하면 참여가 일어나고, 이러한 욕구가 좌절되면 불만족으로 이어집니다(Connell and Wellborn 1991; Babenko 외. 2018; Yu 외. 2018).
Building on SDT, the self-system model of motivational development (SSMMD) provided an understanding on how social contextual factors influence the self-system process and subsequently student engagement (Connell and Wellborn 1991). According to SSMMD, when students fulfill the basic psychological needs (autonomy, competence, and relatedness), engagement will occur, while thwarting these needs leads to disaffection (Connell and Wellborn 1991; Babenko et al. 2018; Yu et al. 2018).

흐름 이론
Flow theory

플로우는 '인지적으로 효율적이고 동기 부여가 되며 행복감을 동시에 느끼는 심리적 상태'로 정의되었습니다. 플로우 상태는 다음으로 나타납니다(Csikszentmihalyi 1990; Nakamura와 Csikszentmihalyi 2014). 

  • 활동에 대한 강렬한 집중과 몰입,
  • 통제하고 있다는 인식,
  • 자의식의 상실,
  • 시간 인식의 왜곡(즉 시간이 날아가는 것 같은 느낌),
  • 강렬한 즐거움

학생들이 플로우에 몰입(최적의 경험이라고도 함)하려면 달성 가능한 목표가 명확하고, 활동의 과제와 학생의 기술 간에 균형이 잡혀 있어야 하며, 진행 상황에 대한 건설적인 피드백이 제공되어야 합니다(Nakamura와 Csikszentmihalyi 2014). 플로우에서는 학생의 참여도가 높고 역동적이며 짧은 시간 동안 존재하지만 목표가 달성되면 본질적으로 보람 있는 경험으로 이어집니다. 플로우 이론은 가상 환자 시뮬레이션 중 의대생의 참여도 측정(McCoy 외. 2016)과 360° 비디오를 사용한 임상 해부학 교육(Chan 외. 2021)에 제한적으로 적용되고 있습니다. 
The flow has been defined as ‘psychological state in which the person feels simultaneously cognitively efficient, motivated, and happy’. The state of flow is manifested by

  • intense concentration and absorption in the activity,
  • perception of being in control,
  • loss of self-consciousness,
  • distortion of time awareness i.e. time appears to fly, and
  • intense enjoyment (Csikszentmihalyi 1990; Nakamura and Csikszentmihalyi 2014).

To achieve students’ engagement in flow (also called optimal experience), there should be clear attainable goals, balance between the challenges of the activity and the skills of the student, and constructive feedback on their progress (Nakamura and Csikszentmihalyi 2014). During flow, students’ engagement is high, dynamic, exists for a short period of time, but leads to an intrinsically rewarding experience if the goals are achieved. There is a limited application of flow theory in measuring engagement of medical students during virtual patient simulations (McCoy et al. 2016) and teaching clinical Anatomy using 360° videos (Chan et al. 2021).

학업 참여 모델
Schoolwork engagement model

업무 몰입은 직업 심리학에서 번아웃과 개념적으로 연결된 긍정적인 구성 요소로 등장했습니다(Schaufeli 외. 2002). 이 주제는 학계 및 보건 전문가의 업무 참여와 관련하여 이전 AMEE 가이드에서 잘 다루고 있습니다(van den Berg 외. 2017). 학생의 관점에서 학업 몰입 헌신, 활기, 몰입을 특징으로 하는 학업 관련 성취감의 긍정적인 상태로 정의되며, 이는 오랫동안 유지됩니다(Salmela-Aro와 Upadaya 2012).

  • 헌신은 학생이 학교 관련 활동을 하는 동안 느끼는 자부심, 영감, 열정을 말합니다.
  • 활력은 학교 관련 활동 중 높은 수준의 에너지와, 어려움에 직면했을 때 회복력과 끈기를 보여주려는 의지를 의미합니다.
  • 몰입은 학생이 학교 활동에서 분리되기 어려울 정도로 완전히 집중하고 행복감에 깊이 몰입하는 것을 말합니다(Schaufeli 외. 2006; Schaufeli 2017).

Work engagement emerged in occupational psychology as a positive construct that is conceptually linked to burnout (Schaufeli et al. 2002). The topic is well-covered in a previous AMEE Guide in relation to work engagement in academics and health professionals (van den Berg et al. 2017). From the student perspective, schoolwork engagement is defined as a positive state of study-related fulfillment characterized by dedication, vigor, and absorption which is maintained for a long time (Salmela-Aro and Upadaya 2012). 

  • Dedication refers to the student feeling of pride, inspiration, and enthusiasm while doing school-related activities. 
  • Vigor refers to the high level of energy during school-related activities and willingness to show resilience and persistence when confronted with difficulties. 
  • Absorption refers to the full concentration and deep engrossment with happiness so that it is difficult to get the student detached from his school activities (Schaufeli et al. 2006; Schaufeli 2017).

이 모델은 학부 의대생(Wouters 외. 2017; Liu 외. 2018; Agarwal 외. 2020; Kakoschke 외. 2021; Puranitee 외. 2022) 및 보건과학 학생(Casuso-Holgado 외. 2013; Skodova 외. 2017)의 장기 몰입을 측정하는 데 적용되었습니다.
This model has been applied for measuring long-term engagement in undergraduate medical students (Wouters et al. 2017; Liu et al. 2018; Agarwal et al. 2020; Kakoschke et al. 2021; Puranitee et al. 2022) and health sciences students (Casuso-Holgado et al. 2013; Skodova et al. 2017).

메타 구조로서의 학생 참여 모델
Model of student engagement as a meta construct

이 모델은 학생 참여를 인지적, 행동적, 정서적이라는 서로 다른 세 가지 차원으로 구성된 메타 구조로 설명합니다(프레드릭스 외. 2004). 학생 참여 구성에 네 번째 차원이 추가되었으며, 각 차원 아래의 지표에는 약간의 차이가 있습니다.

  • 사회적 참여 차원에는 다른 사람의 아이디어를 구축 및 공유하고 학습에 어려움을 겪는 다른 사람을 돕는 것과 같은 지표가 포함되었습니다(Fredricks 외. 2016).
  • 다른 연구자들은 학습 구성에 있어 학생의 능동적인 역할을 입증하기 위해 네 번째 차원으로 주체적 참여를 포함시켰습니다(Reeve and Tseng 2011; Bhat and Gupta 2019).
  • 또한 Appleton 등(2006)은 학업 참여도를 네 번째 차원으로 추가하여 학생의 과제 수행 시간 및 졸업까지 이수한 학점과 같은 지표를 포함했습니다(Appleton 등, 2006). 

This model describes student engagement as meta construct which consists of three distinct but interrelated dimensions: cognitive, behavioral, and emotional (Fredricks et al. 2004). A fourth dimension was added to the student engagement construct, with some differences in the indicators under each dimension.

  • The social engagement dimension included indicators such as building and sharing others’ ideas and helping others who are struggling in learning (Fredricks et al. 2016).
  • Other researchers included agentic engagement as a fourth dimension to demonstrate the active role of students in construction of their learning (Reeve and Tseng 2011; Bhat and Gupta 2019).
  • In addition, Appleton et al. (2006) added academic engagement as a fourth dimension with indicators such as students’ time on task and credit hours towards graduation (Appleton et al. 2006).

HPE 연구에 포함된 참여도 차원은 다양하여 구성의 다차원성을 반영하지 못했습니다. 세 가지 차원을 측정한 연구에서도 개념화와 구성의 운영 사이에 일관성이 없었습니다(Kassab 외. 2022).
The number of engagement dimensions included in HPE studies has been diverse and did not reflect the multidimensionality of the construct. Even with studies which measured the three dimensions, there was no consistency between conceptualization and operationalization of the construct (Kassab et al.
 2022).

학생 참여의 행동적 관점
Behavioral perspective of student engagement

이 관점은 학생 만족도 및 성취도와 관련된 학생 행동 및 교육기관 관행의 지표로서 참여를 강조합니다(Kahu 2013). 따라서 이 관점에서의 학생 참여는 학생이 교육적으로 목적이 있는 활동에 투자하는 시간과 노력으로 정의됩니다(Kuh G 2009). 그러나 이 관점은 개인의 심리적 상태로서의 참여보다는 제도적 관행을 더 강조합니다. 따라서 이 접근법의 단점은 참여 구조와 이를 주도하는 제도적 요인을 구분하지 못한다는 점입니다(Kahu 2013). 또한 참여의 행동적 측면을 강조하기 때문에 학생 참여의 다른 차원을 설명하는 데 있어 이 관점의 유용성은 제한적입니다. 

  • 행동적 관점에서 학생 참여도를 측정하는 데 사용되는 주요 방법으로는 전국 학생 참여도 설문조사(NSSE)호주 학생 참여도 설문조사(AUSSE)가 있습니다. NSSE와 AUSSE는 모두 고등 교육 기관의 질과 벤치마킹의 지표로 대규모로 사용되어 왔습니다.
  • HPE 연구 맥락에서는 NSSE의 일부(Hopper 2016, Hopper and Brake 2018, Hopper and Kaiser 2018) 또는 전체 설문지를 사용한 연구도 있습니다(Popkess and McDaniel 2011, Shoepe 외. 2020, Clynes 외. 2020a, 2020b).

This perspective emphasizes engagement as an indicator of student behaviors and institutional practices that related to student satisfaction and achievement (Kahu 2013). Therefore, student engagement in this perspective is defined as the time and effort students devote to educationally purposeful activities (Kuh G 2009). However, this perspective emphasizes on institutional practices more than engagement as an individual psychological state. Accordingly, the disadvantage of this approach is the lack of distinction between the engagement construct and institutional factors driving it (Kahu 2013). Furthermore, because of the emphasis on the behavioral aspect of engagement, the utility of this perspective in explaining the other dimensions of student engagement is limited.

  • The main methods used for measuring student engagement from the behavioral perspective are the National Survey for Student Engagement (NSSE) and the Australian Survey of Student Engagement (AUSSE). Both NSSE and AUSSE have been used on a large scale as a proxy of institutional quality and benchmarking in higher education.
  • In the HPE research context, studies have used portions of NSSE (Hopper 2016; Hopper and Brake 2018; Hopper and Kaiser 2018) or the full-fledged questionnaire (Popkess and McDaniel 2011; Shoepe et al. 2020; Clynes et al. 2020a2020b).

학생 참여에 대한 사회 문화적 관점
Socio-cultural perspective of student engagement

사회 문화적 관점은 사회, 문화 및 정치적 측면이 학생 참여에 미치는 영향을 다룹니다. 학생이 학교 커뮤니티에 참여하려면 자신의 정체성을 개발할 수 있는 소셜 네트워크 내에서 자신을 확립해야 합니다. 학생들은 자신의 정체성을 개발하면서 학교 커뮤니티에 대한 소속감을 형성합니다(Trowler 2019). 이러한 소속감은 [학생의 기존 규범 및 가치]와 [학교 공동체의 가치] 사이의 일치 정도와 관련이 있습니다(Kahu와 Nelson 2018). 사회경제적 계층이 낮거나 통학생, 소수 민족 또는 장애를 가진 학생과 같은 '비전통적' 학생의 경우 이러한 정체성 간의 일치성을 개발하는 것이 더 어렵습니다(Kahu 2013).
The socio-cultural perspective addresses the impact of social, cultural, and political aspects on student engagement. For students to be engaged in the school community, they need to establish themselves within a social network where they can develop their identity. As the students develop their identity, they construct a sense of belonging to the school community (Trowler 2019). This belonging relates to the degree of congruence between the existing norms and values of the student with that of the school community (Kahu and Nelson 2018). Developing this congruence between identities is more challenging for ‘non-traditional’ students such as those with low socio-economic class, commuters, ethnic minorities, or with disabilities (Kahu 2013).

[사회 문화적 관점]은 파트너십을 통한 학생 참여를 이해하기 위한 포괄적인 관점을 제공합니다. 결과적으로 다음 세 가지 이론이 파트너로서 학생의 참여를 설명할 수 있습니다: 실천 공동체, 자기 결정 이론, 포지셔닝 이론

  • 실천 공동체동일한 관심 영역을 공유하고, 정기적인 상호작용을 통해 공동 활동이나 토론에 참여하며, 반복되는 문제를 해결하기 위해 공유된 실천 모음을 개발하는 개인들의 그룹입니다.
  • '실천공동체(CoP)' 이론에 따르면, 참여 파트너는 다음을 공유하게 됩니다(Wenger 1998, 2010).
    • 공동체감 (소속감으로서의 학습),
    • 실천 (행함으로써 학습),
    • 의미 (경험함으로써 학습),
    • 정체성 (공동체의 일원이 됨으로써 학습)
  • SDT 이론은 참여에 대한 내재적 동기는 파트너가 학생에게 제공하는 자율성, 역량 및 관련성의 충족 정도에 따라 결정된다고 가정합니다(Konings 외. 2021).
  • 마지막으로, 포지셔닝 이론교사와 학생이 자신의 세계 내에서 자신과 상대방을 위치시키기 위해 자신의 위치를 구성하는 관행과 상호 작용을 말합니다(Andreouli 2010). 학생과 교사 간의 관계의 권력 역학은 각 정체성 위치와 관련된 권리와 의무와 관련이 있습니다(Andreouli 2010). 학생과 교사의 정체성을 파트너로 받아들이려면 각각의 '새로운' 위치를 공동으로 재생산하기 위한 협력공유된 이해가 필요합니다(Konings 외. 2021).

The socio-cultural perspective offers an umbrella for understanding student engagement through partnerships. Consequently, the following three theories could explain engagement of students as partners: communities of practice, self-determination theory, and positioning theory.

  • A community of practice is a group of individuals who share the same domain of interest, engage in joint activities or discussions through regular interactions, and develop a shared collection of practice to address recurring problems. According to ‘Communities of Practice (CoP)’ theory, engaged partners share the feeling of
    • community (learning as belonging),
    • practice (learning by doing),
    • meaning (learning by experiencing), and
    • identity (learning by becoming a member of a community) (Wenger 1998, 2010).
  • The SDT theory posits that intrinsic motivation for engagement in determined by the degree of fulfillment of autonomy, competence, and relatedness provided to students by their partners (Konings et al. 2021).
  • Finally, positioning theory refers to the practices and interactions by which teachers and students construct their positions to situate themselves and the other within their world (Andreouli 2010). The power dynamics of the relationships between students and teachers is associated with rights and duties related to each identity position (Andreouli 2010). Accepting the identities of the students and teachers as partners requires collaboration and shared understanding to jointly reproduce the ‘new’ positions for each (Konings et al. 2021).

학생 참여의 통합 프레임워크
Integrated frameworks of student engagement

현재 통합 프레임워크
Current integrated frameworks

학생 참여에 대한 세 가지 이론적 관점을 비판적으로 분석한 후 Kahu(2013)는 통합 프레임워크를 제안했습니다(Kahu 2013). 이 프레임워크는 학생 참여를 제도적 요인학생 요인의 영향을 받고 더 넓은 사회문화적 맥락에 내재된 내적 심리 상태로 인정합니다.

  • 제도적 요인에는 구조적(문화, 정책, 커리큘럼, 평가) 및 심리사회적(교수, 교직원, 지원, 업무량) 요인이 포함됩니다.
  • 학생 요인에는 구조적(배경, 성별, 업무량) 및 심리사회적(성격, 기술, 정체성) 요인이 포함됩니다.
  • 또한 이 프레임워크는 단기적(학업 성취도, 웰빙, 만족도, 대인관계 및 팀워크 기술) 및 장기적(유지, 업무 성공, 개인 개발, 평생 학습) 결과를 포함한 참여의 결과를 식별합니다.

Following critical analysis of the three theoretical perspectives of student engagement, Kahu (2013) proposed her integrated framework (Kahu 2013). The framework acknowledges student engagement as an internal psychological state which is affected by institutional and student factors and embedded within a wider sociocultural context.

  • The institutional factors include structural (culture, policies, curriculum, assessment) and psychosocial (teaching, staff, support, workload) factors.
  • Student factors include structural (background, gender, workload) and psychosocial (personality, skills, identity) factors.
  • The framework also identifies the outcomes of engagement including
    • short-term (academic achievement, well-being, satisfaction, interpersonal and teamwork skills) and
    • long-term (retention, work success, personal development, lifelong learning) outcomes.

그런 다음 Kahu와 Nelson은 개선된 프레임워크를 개발하여 학생의 참여와 성공을 중재하기 위해 기관과 학생 요인 간의 상호작용을 위한 심리사회적 공간으로서 '교육 인터페이스'라는 개념을 포함시켰습니다(Kahu와 Nelson 2018).

  • 이 모델에서 그들은 이러한 상호작용을 위한 네 가지 매개 구성 요소, 즉 자기 효능감, 감정, 소속감, 웰빙을 제안했습니다(Kahu and Nelson 2018).
  • 4년 후, Trowler 등은 참여의 세 가지 차원(정치적, 사회문화적, 비판적)을 추가하고
  • 참여의 매개 요인으로 동기부여, 회복탄력성, 성찰성의 세 가지 심리사회적 구성을 추가하여 Kahu와 Nelson 모델을 더욱 정교화할 것을 제안했습니다(Trowler 외. 2022).

Then, Kahu and Nelson developed a refined framework and included the concept of educational interface as a psychosocial space for interactions between institutional and student factors to mediate student engagement and success (Kahu and Nelson 2018).

  • In their model, they proposed four mediating constructs for these interactions: self-efficacy, emotions, belonging, and well-being (Kahu and Nelson 2018).
  • Four years later, Trowler et al suggested more refinement of Kahu and Nelson model by including
    • three additional dimensions of engagement: political, sociocultural, and critical, and
    • added three psychosocial constructs as mediators of engagement: motivation, resilience, and reflectivity (Trowler et al. 2022).

기존 통합 프레임워크의 문제점
Problems with the existing integrated frameworks

기존 문헌의 통합 프레임워크는 학생 참여에 대한 이해에 크게 기여했습니다(Kahu 2013; Kahu와 Nelson 2018; Trowler 외. 2022).

  • 그러나 이러한 프레임워크는 대학교육의 시장화와 맞물려 있으며 '고객' 또는 외부 이해관계자로서의 학생의 역할에 초점을 맞추고 있습니다(Kahu 2013; Milburn-Shaw와 Walker 2017; Kahu와 Nelson 2018; Trowler 외. 2022).
  • 따라서 교육의 파트너로서 학생의 역할이 명시적으로 누락되어 있고 학생의 참여가 학교의 역할로 간주됩니다.
  • 또한, 우리는 감정과 회복탄력성과 같은 이러한 모델에서 참여의 매개 구성 요소 중 일부는 각각 정서적 및 인지적 참여의 지표로 간주된다고 주장합니다 (구성 내에서). 또한, 학생의 웰빙은 참여의 중재자이자 결과로서 제안됩니다(Kahu와 Nelson 2018). 이처럼 참여의 [지표, 매개변수, 결과]를 구분하지 않는 것은 이미 존재하는 참여 구성의 모호함을 야기할 수 있습니다.

The integrated frameworks in the extant literature contributed significantly to understanding of student engagement (Kahu 2013; Kahu and Nelson 2018; Trowler et al. 2022).

  • However, these frameworks go in line with the marketization of university education and focus on the role of the student as a ‘customer’ or an external stakeholder (Kahu 2013; Milburn-Shaw and Walker 2017; Kahu and Nelson 2018; Trowler et al. 2022).
  • Therefore, the role of students as partners in education is explicitly missing and engagement of students is considered as the role of schools.
  • In addition, we argue that some of the proposed mediating constructs of engagement in these models such as emotions and resilience are considered indicators (within the construct) of emotional and cognitive engagement, respectively.
  • Furthermore, student wellbeing is proposed both as a mediator and an outcome of engagement (Kahu and Nelson 2018). This lack of distinction between indicators, mediators, and outcomes of engagement could contribute to the already existing fuzziness of the engagement construct.

HPE에서 제안하는 학생 참여의 통합 프레임워크
A proposed integrated framework of student engagement in HPE

이 가이드에서는 이전에 발표된 프레임워크에 추가 구성 요소로 학생 참여의 영역을 포함하는 포괄적인 프레임워크를 제안합니다(그림 1). 이전 모델과 마찬가지로, 우리는 학생 참여학생 내부에 위치하며, 교육기관과 학생 간의 상호작용에 의해 촉진되고, 심리사회적 메커니즘에 의해 매개되며, 더 넓은 사회문화적 맥락에 내재된, 학생 내부의 심리사회적 상태로 간주합니다. 또한 참여 구조는 행동, 정서, 인지, 대리인, 사회문화의 다섯 가지 차원으로 구성될 것을 제안합니다. 
We propose in this guide a comprehensive framework that includes the spheres of student engagement as an additional component to previously published frameworks (Figure 1). In agreement with previous models, we consider student engagement as an internal psychosocial state which is situated within the student, facilitated by the interactions between the institution and the student, mediated by psychosocial mechanisms, and embedded within a broader sociocultural context. We propose also that the engagement construct consists of five dimensions: behavioral, emotional, cognitive, agentic, and sociocultural.

그러나 제안된 프레임워크의 독창성은 학생의, 학생과 함께, 학생에 의한 참여를 강조하기 위해 학생의 '파트너십을 통한 참여'라는 개념을 도입한 것입니다. 이에 따라 참여의 영역을 크게 다음으로 분류합니다.

  • (1) 교실, 실험실, 임상 현장, 숙제 또는 자율 학습 등 개별 학습 활동에 대한 참여를 포함하는 자기 학습 참여
  • (2) 교육 제공, 학술 연구, 학교 거버넌스 및 품질 보증, 지역사회 활동에서의 파트너십을 포함하는 파트너십을 통한 참여

However, the uniqueness of the proposed framework is introducing the concept of student ‘engagement through partnerships’ to emphasize engagement ofwith, and by, students. Accordingly, we classify the spheres of engagement into two main categories:

  • (1) engagement in own learning, which includes engagement in individual learning activities in the classroom, laboratory, clinical sites, homework, or self-study, and
  • (2) engagement through partnerships, which include partnerships in provision of education, scholarly research, school governance & quality assurance, and community activities.

파트너십을 통한 학생 참여의 분류는 이 분야에 대한 최신 문헌(Healey와 해링턴 2014)과 학생 참여에 대한 기관의 우수성 기준(ASPIRE 2020)에 따라 개념적으로 안내됩니다. 이 프레임워크가 학생 참여에 대한 향후 발전과 이해를 촉진할 수 있는 토론을 촉발할 수 있기를 바랍니다.
The classification of student engagement through partnerships is conceptually guided by the current literature on this field (Healey and Harrington 2014), and by the AMEE-ASPIRE criteria for institutional excellence in student engagement (ASPIRE 2020). We hope that this framework triggers a debate which can stimulate future developments and understanding of student engagement in HPE.




박스 1 통합 이론 모델을 HPE 실무에 적용한 예시.
Box 1 Example of applying the integrative theoretical model in HPE practice.

한 교수진이 한 학기 동안 의대생들을 위한 PBL 튜토리얼에서 퍼실리테이터 역할을 맡게 되었습니다. 그러나 학생들의 참여도가 낮다는 것을 알게 된 그녀는 소그룹 PBL 튜토리얼에서 학생들의 참여도를 높이기 위한 계획을 세웠습니다. 학생 참여의 통합 프레임워크에 대한 이해를 바탕으로 그녀는 다음과 같은 전략을 적용할 계획이었습니다:
A faculty member is assigned the role of a facilitator in PBL tutorials for medical students for one semester. However, she noticed that the level of engagement of students is low and planned to improve the engagement of students in small group PBL tutorials. From her understanding of the integrated framework of student engagement, she planned to apply the following strategies:

  1. 참여 선행 조건 수정: PBL 수업 내에서 
    1. 서로를 지지하고 위협하지 않는 문화를 조성하고,
    2. 학생들과의 협업과 소통을 촉진하기 위해 그룹 규칙을 정하고,
    3. 사전 지식을 자극하는 질문을 하고,
    4. 커리큘럼 내용과 평가 방법에 대해 학생들과 토론하고,
    5. 건설적인 피드백을 제공했습니다.
    6. 또한 학생들은 각 세션이 끝날 때 그룹 기능에 대해 반성할 수 있습니다.
    이러한 전략은 동기 부여, 소속감, 자기 효능감 및 성찰력을 향상시킴으로써 학생의 참여를 촉진할 것으로 기대됩니다.

    Modify engagement antecedents
    : by
    1. creating a supportive, non-threatening culture inside the PBL class,
    2. establishing group rules to facilitate collaboration and communication with the students,
    3. asking questions that stimulate prior knowledge,
    4. discussing with students the curriculum content and assessment methods, and
    5. providing constructive feedback.
    6. Students can also reflect on the group function at the end of each session.
      These strategies are expected to mediate engagement of students through enhancing their motivation, sense of belonging, self-efficacy, and reflectivity.
  2. 다양한 참여 차원을 목표로 함:
    1. 학생 상호 작용을 자극하고 (행동적),
    2. 사례 이해와 관련된 탐색적 질문을 하고 (인지적),
    3. 학생에게 환자 사례에 대한 자신의 감정을 성찰하도록 요청하고 (정서적),
    4. 학생에게 그룹 역학 및 학습의 질과 개선 방법에 대해 성찰하도록 요청하고 (주체적),
    5. 튜토리얼 시간 이후 학생들이 서로 다시 연결될 수 있도록 계획하는 등 (사회문화적).

    Target the multiple engagement dimensions: by
    1. stimulating student interactions (behavioral),
    2. asking probing questions related to understanding of the case (cognitive),
    3. asking the students to reflect on their feelings about the patient case (emotional),
    4. asking students to reflect on the quality of group dynamics and learning and how to improve it (agentic), and
    5. plan for students to reconnect with each other beyond the time of the tutorial (socio-cultural).
  3. 파트너로서 학생의 참여 장려: 학생에게 PBL 튜토리얼의 진행자로서 동료 튜터링을 번갈아 가며 하도록 요청합니다. 학생은 자가 평가 및 동료 평가를 수행할 수도 있습니다.
    Encourage students’ engagement as partners: by asking students to take turns in peer tutoring as facilitators of PBL tutorials. Students can also undertake self-assessment and peer assessment.

다음 섹션에서는 학생 참여를 위해 제안된 통합 프레임워크의 다섯 가지 구성 요소(선행 요소, 매개자, 차원, 영역 및 결과)에 대한 개요를 제공합니다.
In the following section, we provide an overview of the five components of the proposed integrated framework for student engagement (antecedents, mediators, dimensions, spheres, and outcomes).

학생 참여의 선행 조건
Antecedents of student engagement

조직 문화와 학생 참여
Organizational culture and student engagement

이전 연구에서는 학교 문화와 고등 교육에서의 학생 참여 사이의 관계를 입증했습니다(van der Velden 2012; Borhan 2020). 학생 참여에 도움이 되는 학교 문화는 다음과 같은 특징이 있습니다:

  • (a) 팀 빌더로 인식되는 친근한 리더,
  • (b) 학교 구성원이 신뢰하는 대인 관계로 가족 같은 느낌을 공유(Cameron and Quinn 2011),
  • (c) 학생이 커뮤니티의 파트너로 간주(Borhan 2020),
  • (d) 유연성과 적응력을 갖춘 창의성, 혁신 및 성장에 집중(Borhan 2020) 등이 있습니다. 그

러나 안정성과 규정 준수에 중점을 두는 위계질서나 관료주의 문화에서는 학생 참여가 감소합니다(van der Velden 2012; Borhan 2020).
Previous studies demonstrated the relationship between school culture and student engagement in higher education (van der Velden 2012; Borhan 2020). School cultures that are conducive for student engagement are characterized by the following:

  • (a) friendly leaders who are perceived as teambuilders,
  • (b) members of the school share the feeling of a family with trusting interpersonal relationships (Cameron and Quinn 2011),
  • (c) students are considered as partners in the community (Borhan 2020), and
  • (d) focus on creativity, innovation, and growth with flexibility and adaptability (Borhan 2020).

However, student engagement is decreased in hierarchy or bureaucratic cultures, which focus on stability and enforcing compliance (van der Velden 2012; Borhan 2020).

학생 요인
Student factors

학생 참여에서 성별의 역할을 조사한 연구에 따르면 여학생은 남학생보다 더 높은 수준의 학습 참여를 보이는 반면(Presoto 외. 2021), 남학생은 연구 및 과외 활동에 참여할 가능성이 더 높은 것으로 나타났습니다(Salgueira 외. 2012). 또한 대학 입학 전 학업 수준은 학생의 대학 참여에 대한 중요한 예측 변수입니다(Salgueira 외. 2012). 그러나 사회경제적 지위, 부모의 특성 또는 소수 집단 소속을 포함한 학생의 배경은 학생들의 대학 참여도에 영향을 미치지 않는 것으로 보입니다(Pike and Kuh 2005; Trowler and Trowler 2010; Karabchuk and Roshchina 2022). 반면에 시간제 취업 학생의 참여도는 비취업 학생과 비교했을 때 비슷하거나(Clynes 외. 2020a), 낮거나(Walpole 2003), 높거나(Kuh 2009) 일관되지 않은 결과를 나타냈습니다.
Studies examining the role of gender in student engagement demonstrated that female students exhibit higher level of learning engagement more than male students (Presoto et al. 2021), while male students are more likely to engage in research and extracurricular activities (Salgueira et al. 2012). In addition, pre-college entry academic level is a significant predictor for student engagement in university (Salgueira et al. 2012). However, the student background including socioeconomic status, parental characteristics, or belonging to minority groups, does not appear to play a role in the level of engagement of students in colleges (Pike and Kuh 2005; Trowler and Trowler 2010; Karabchuk and Roshchina 2022). On the other hand, engagement of part-time employed students has yielded inconsistent results with similar (Clynes et al. 2020a), lower (Walpole 2003), or higher (Kuh 2009) engagement compared with non-employed students.

관계
Relationships

긍정적인 학생-학생 및 학생-교수 관계는 학생 참여도를 향상시키는 것으로 나타났습니다(Leiken 2017; Banos 외. 2019; Geraghty 외. 2020; Shoepe 외. 2020). 이는 교사가 친절하고 접근하기 쉬우며 도전적인 학습 활동을 제공할 때 분명해집니다(Bryson and Hand 2007). 학생과 교직원 또는 또래 간에 신뢰 관계를 발전시키면 학생들은 타인의 판단으로부터 자유로워지고 교육 활동에 온전히 집중할 수 있어 심리적 안전이 증진됩니다(Tsuei et al. 2019).

  • 학생에게 심리적으로 안전한 관계의 결과에는 위험 감수, 권위 있는 사람에게 말할 수 있는 자유, 창의성 등이 있습니다(Edmondson and Lei 2014). 또한 심리적 안전은 팀 성과를 향상시키고 구성원의 지속 가능한 다양성을 보장합니다.

이러한 관계의 근간이 되는 메커니즘은 업무량에 대한 인식을 낮추고(Kember 2004; Xerri 외. 2018), 학생들의 학교 공동체에 대한 소속감을 높이는 것입니다(Milburn-Shaw and Walker 2017).
Positive student-student and student-faculty relationships appear to enhance student engagement (Leiken 2017; Banos et al. 2019; Geraghty et al. 2020; Shoepe et al. 2020). This becomes evident when teachers are friendly, approachable, and provide challenging learning activities (Bryson and Hand 2007). Developing trusting relationships between students and staff or with their peers promote psychological safety of students by feeling free from judgment by others while fully concentrating on engagement with educational activities (Tsuei et al. 2019).

  • The outcomes of psychologically safe relationships for students include risk-taking, freedom to speak-up with higher authority persons, and creativity (Edmondson and Lei 2014). In addition, psychological safety enhances team performance and ensures sustainable diversity of the members.

The mechanisms underlying these relationships could be lowering the perception of workload (Kember 2004; Xerri et al. 2018) and enhancing students’ sense of belonging to the school community (Milburn-Shaw and Walker 2017).

학생 참여의 중재자
Mediators of student engagement

동기 부여
Motivation

동기는 참여의 원동력으로 간주되며 활동 전에 발생하는 반면, 참여는 활동 자체에서 학생의 적극적인 참여를 나타냅니다(그림 2). 내재적 동기는 의대생의 학습 참여를 향상시키고(Berman and Artino 2018; Wu 외. 2020), 간호대생의 학습 참여와 긍정적인 상관관계가 있습니다(Bayoumy and Alsayed 2021).

  • 특히, 학생 동기인지적 참여를 유의미하게 예측하며(Walker 외. 2006), 행동적 참여의 매개 메커니즘으로 제안되고 있습니다(Trowler 외. 2022).

동기는 과제 가치를 높이고 숙달 목표를 촉진함으로써 학생의 참여도를 높일 수 있습니다(Trowler 외. 2022). 예를 들어, 새로운 수술 기술을 배우면서 [숙달 목표]를 설정한 의대생은 [성과 목표]를 설정한 학생에 비해 과제에 더 잘 몰입하는 것으로 나타났습니다(Gardner 외. 2016).
Motivation is considered as the fuel for engagement and occurs before an activity while engagement represents students’ active involvement during the activity itself (Figure 2). Intrinsic motivation enhances learning engagement of medical students (Berman and Artino 2018; Wu et al. 2020) and positively correlates with learning engagement of nursing students (Bayoumy and Alsayed 2021).

  • Specifically, student motivation significantly predicts cognitive engagement (Walker et al. 2006), and is proposed as a mediating mechanism for behavioral engagement (Trowler et al. 2022).

Motivation could increase student engagement through enhancing task value and promoting mastery goals (Trowler et al. 2022). For example, medical students prepared with mastery goals while learning new surgical skills exhibited better engagement in the tasks compared with those provided with performance goals (Gardner et al. 2016).

자기 효능감
Self-efficacy

자기효능감은 제도적 요인과 학생 참여 간의 상호작용을 매개하는 메커니즘 중 하나로 제안되었습니다(Kahu and Nelson 2018; Trowler 외. 2022). 이전 연구에서는 자기효능감과 학생 참여도 간에 긍정적인 유의미한 관계가 있음이 입증되었습니다(Walker 외. 2006; Koob 외. 2021). 또한 학생의 동기 부여와 자기 효능감은 모두 학습 참여도를 높여 의대생의 학업 성취도를 높입니다(Wu 외. 2020). 자기효능감의 증가는 과제 자원에 대한 인식을 높이고 학생의 주체성을 장려함으로써 학생의 참여를 향상시킬 수 있습니다(Trowler 외. 2022). 
Self-efficacy has been proposed as one of the mediating mechanisms of interactions between institutional factors and student engagement (Kahu and Nelson 2018; Trowler et al. 2022). Previous studies demonstrated a positive significant relationship between self-efficacy and student engagement (Walker et al. 2006; Koob et al. 2021). In addition, both student motivation and self-efficacy increase academic performance of medical students through enhancing learning engagement (Wu et al. 2020). The increase in self-efficacy could enhance student engagement by increasing awareness of task resources and encouraging student agency (Trowler et al. 2022).

소속감
Sense of belonging

소속감교직원과 동료들로부터 가치 있고, 받아들여지고, 포용되고, 격려받는다는 느낌입니다. 이 느낌은 학생이 학교에 대한 심리적 소속감 또는 학교 및 학교 내 개인과의 관계를 나타냅니다(Burkhardt 외. 2015). 소속감은 학생 참여, 특히 사회-문화적 참여(Trowler 외. 2022)를 매개하는 메커니즘으로 제안되었습니다(Kahu and Nelson 2018). 또한, 또래에 비해 높은 소속감을 경험하는 학생은 정서적 및 행동적 참여가 증가하는 경향이 있습니다(Gillen-O'Neel 2021). 소속감은 더 높은 수준의 학생 동기 부여를 유지함으로써 참여도 증가에 기여할 수 있으며(Ryan and Deci 2000), 학생 참여는 소속감도 증가시킬 수 있습니다(Finn 1989).
Sense of belonging is the feeling of being valued, accepted, included, and encouraged by staff and peers. This feeling represents a psychological membership of the students with their school or connection with the school and individuals within the school (Burkhardt et al. 2015). Belonging has been proposed as a mediating mechanism of student engagement (Kahu and Nelson 2018), especially the socio-cultural engagement (Trowler et al. 2022). In addition, students who experience higher sense of belonging compared with their peers tend to have increased emotional and behavioral engagement (Gillen-O’Neel 2021). The sense of belonging can contribute to increased engagement by maintaining a higher level of student motivation (Ryan and Deci 2000), while student engagement can also increase the sense of belonging (Finn 1989).

반성
Reflectivity

성찰은 학생 참여도를 향상시킬 수 있기 때문에 중요한 교육 전략으로 간주됩니다(Sandars 2009). 임상 문제를 해결하는 동안 의도적인 성찰은 의대생의 학습 활동 참여를 촉진하고 학습 성과를 증가시켰습니다(Ribeiro et al. 2019). 이러한 의도적인 성찰은 학생들이 문제에 대해 더 많이 알 수 있도록 상황적 흥미를 유발하여 참여도를 높일 수 있습니다(Linnenbrink-Garcia 외. 2013; Ribeiro 외. 2018).
Reflection is considered an important educational strategy because of its potential enhancement of student engagement (Sandars 2009). Deliberate reflection while solving clinical problems promoted engagement of medical students in a learning activity and increased learning outcomes (Ribeiro et al. 2019). This deliberate reflection may increase engagement by triggering situational interest for students to know more about the problem (Linnenbrink-Garcia et al. 2013; Ribeiro et al. 2018).

학생 참여의 차원
Dimensions of student engagement

  • 인지적 참여는 학생의 학습에 대한 심리적 투자를 의미합니다(Fredricks 외. 2004). 
    • 요구 사항을 넘어서고, 도전을 선호하며, 콘텐츠를 이해하고 숙달하는 데 노력을 기울이고, 학습에 메타인지 및 심층 전략을 사용하는 등 
  • 행동적 참여긍정적인 행동, 끈기, 과제 완수를 위한 노력, 참여, 질문, 집중, 주의 집중, 학교 기반 활동 참여를 말합니다.
  • 정서적 참여는 (즐거움, 흥미, 지루함, 불안, 행복, 슬픔과 같은) 교실, 학교 또는 교사에 대한 정서적 반응을 말합니다(Fredricks 외. 2004). 
  • 사회문화적 참여는 관점을 확장하고 다양한 배경과 관점에 대한 인식과 인정을 의미합니다(프레임워크 2022). 이 차원은 지역사회 서비스, 파트너십, 동료 교육, 기관 거버넌스와 같은 활동에서 분명하게 드러납니다. 사회문화적 참여의 지표에는 다음이 포함됩니다: 
    • (a) 사회적 상호작용의 질과 타인과의 상호작용을 바탕으로 정체성에 대한 새로운 관점을 얻는 것, 
    • (b) 다양한 관점을 가진 타인으로부터 배우는 것을 받아들이는 것
    • (c) 다양한 사회 및 문화 집단에서 개인의 행동과 그 함의를 예측하는 것(프레임워크 2022). 
  • 주체적 참여는 학생의 교육 경로, 미래의 삶, 기존 및 더 넓은 사회적 환경에 대한 학생의 영향력을 의미합니다(Klemenčič 2017). 
    • 교실 내 주체적 참여의 지표는 학습에 대한 학생의 기여도와 학생이 받는 교육을 통해 확인할 수 있습니다(Reeve and Tseng 2011). 
    • 교실 밖에서의 주체적 참여에는 커뮤니티 활동, 동료 교수/멘토링, 교육기관 거버넌스 및 품질 보증에 대한 학생의 적극적인 참여가 포함될 수 있습니다.
  • Cognitive engagement refers to the psychological investment in learning, where the student
    • goes beyond requirements, prefers challenges, directs the effort towards understanding and mastering content, and uses metacognitive and deep strategies in learning (Fredricks et al. 2004). 
  • Behavioral engagement refers to positive conduct, persistence, directing the effort towards completing learning tasks, participating, asking questions, concentrating, paying attention, and participation in school-based activities. 
  • Emotional engagement refers to emotional reactions to classroom, school, or teachers such as enjoyment, interest, boredom, anxiety, happiness, and sadness (Fredricks et al. 2004). 
  • Sociocultural engagement refers to expanding viewpoints and providing awareness of, and appreciation for, diverse backgrounds and perspectives (Framework 2022). This dimension is evident in activities such as community services, partnerships, peer teaching, and institutional governance. Indicators of sociocultural engagement include the following:
    • (a) quality of social interactions and gaining new perspectives on identity based on interactions with others,
    • (b) accepting to learn from others with diverse perspectives, and
    • (c) predicting individual actions and their implications in different social and cultural groups (Framework 2022). 
  • Agentic engagement refers to the students’ influence on their educational pathways, their future lives, and their existing and broader social surroundings (Klemenčič 2017).
    • Indicators of agentic engagement inside the classroom could be through students’ contributions to their learning and the instruction they receive (Reeve and Tseng 2011).
    • Agentic engagement outside the classroom could include students’ active involvement in community activities, peer teaching/mentoring, and membership in institutional governance and quality assurance.

위의 참여도 차원을 측정하는 방법은 참여도를 개념화하는 이론적 관점, 참여도 차원의 수, 각 차원 내의 지표, 측정의 입자 크기(활동 대 학교 수준, 단기 대 장기)에 따라 다릅니다. 학생 참여도를 측정하는 방법은 이 가이드의 범위에 포함되지 않지만, 이 주제에 대한 좋은 리뷰가 HE 문헌에 나와 있습니다(Henrie 외. 2015; Fredricks 외. 2019; Hofkens and Ruzek 2019). 학생의 HPE 참여도를 측정하는 가장 일반적인 방법은 심리적 관점에서 개념화하며 행동적 관점을 사용한 연구는 거의 없습니다. 반면에 에이전트 및 사회 문화적 관점에서 학생 참여를 측정하는 연구는 드뭅니다. 

The methods of measuring the above dimensions of engagement differ according to the theoretical perspective of conceptualizing engagement, number of engagement dimensions, indicators within each dimension, and grain size of measurement (activity vs school level, short-term vs long-term). The methods of measuring student engagement are not part of the scope for this guide, but there are good reviews on the topic in HE literature (Henrie et al. 2015; Fredricks et al. 2019; Hofkens and Ruzek 2019). The most prevailing methods for measuring student engagement in HPE conceptualize it from the psychological perspective with few studies using the behavioral perspective. On the other hand, studies which measure student engagement from the agentic and socio-cultural perspectives are sparse.

HPE에서 학생 참여도를 측정하는 데 일반적으로 사용되는 방법으로는 자가 보고 설문지, 직접 관찰, 실시간 측정, 인터뷰/포커스 그룹 등이 있습니다(표 1). 

  • 의학교육에서 학생 참여도를 측정하는 데 가장 많이 사용되는 자가 보고 설문지는 여러 가지가 출판되어 있습니다(Kassab 외. 2022). 자기보고의 특별한 짧은 변형은 시간 경과에 따른 학생의 '흐름' 상태를 측정하는 경험 샘플링 방법입니다(Chan 외. 2021). 
  • 직접 관찰은 개인 수준에서의 행동 참여 또는 학생 그룹의 참여를 측정할 수 있습니다. 
    • HPE에서 참여도를 측정하는 데 사용되는 주요 관찰 도구 중 하나는 STROBE (O'Malley 외. 2003; Kelly 외. 2005) 또는 수업 내 참여도 측정(IEM)이라고 하는 수정된 버전의 STROBE입니다(Alimoglu 외. 2014; 2017). STROBE는 말하기, 듣기, 읽기, 쓰기와 같은 학생 행동에 중점을 두고 학습자 간 참여도, 학습자 대 교수자 참여도 및 자기 참여도를 측정합니다(O'Malley 외. 2003; Kelly 외. 2005). 실시간 측정은 특정 학습 활동에서 진화하는 학생 참여의 역동성을 감지하는 데 사용됩니다. 
  • 학생 참여도를 실시간으로 측정하는 주요 방법으로는 로그 파일, 얼굴 표정 분석, 시선 추적 및 생리적 측정이 있습니다. 
    • 로그 파일에서 수집한 참여도 지표의 예로는 학습 과제에 소요된 시간(Ribeiro 외. 2019), 학생이 임상 사례에 대해 작성한 게시물의 수 또는 특정 게시물의 방문 빈도(Kay and Pasarica 2019), 관련 소셜 미디어 페이지의 클릭 수(Quesnelle and Montemayor 2020), 게시된 문서의 질문 또는 수정 횟수(Saperstein 외. 2015; Caton 외. 2021) 등을 들 수 있습니다. 
    • 시선 추적 기술과 자동화된 얼굴 표정 인식은 실시간 시스템에서 학생의 참여를 감지하는 데 사용됩니다(Miller 2015). 
    • 심박수의 변화도 인지적 참여의 지표로 사용되었습니다(Darnell and Krieg 2019). 
    • 또한, 갈바닉 피부 반응은 정서적 참여의 지표로서 뇌 각성을 측정하는 데 사용될 수 있습니다(Poh et al. 2010). 
  • 마지막으로, 인터뷰/포커스 그룹은 일반적으로 구조적 또는 반구조적 방식으로 설계된 개방형 질문에 응답하도록 학생들에게 요청하는 방식으로 진행됩니다. 
    • 인터뷰에서 나오는 주제에는 참여의 다른 차원이 포함될 수 있습니다(Janssen 외. 2015; Wang and Ji 2021). 학생들은 맥락적 요인의 역할을 포함하여 참여/참여하지 않는 이유를 설명할 수도 있습니다.

Commonly used methods for measuring student engagement in HPE are self-reported questionnaires, direct observation, real-time measures, and interview/focus groups (Table 1).

  • There are several published self-reported questionnaires which are the most used measures of student engagement in medical education (Kassab et al. 2022). A special short variant of the self-reports is the experience sampling method to measure students’ state of ‘flow’ over time (Chan et al. 2021). 
  • Direct observations can measure behavioral engagement at the individual level or engagement of a group of students.
    • One of the main observational instruments used for measuring engagement in HPE is the STROBE (O'Malley et al. 2003; Kelly et al. 2005) or a modified version of STROBE called in-class engagement measure (IEM) (Alimoglu et al. 2014; 2017). The STROBE measures learner to learner engagement, learner to instructor engagement, and self-engagement with a focus on student behaviours such as speaking, listening, reading, and writing (O'Malley et al. 2003; Kelly et al. 2005). 
  • Real-time measures are used for detecting the dynamicity of student engagement as it evolves in specific learning activities. The main real-time measures of student engagement are log files, analysis of facial expressions, eye-tracking, and physiological measures.
    • Examples of engagement indicators gathered from log files are
      • time spent on a learning task (Ribeiro et al. 2019),
      • number of posts written by the students on a clinical case or frequency of visits to a specific post (Kay and Pasarica 2019),
      • number of clicks on relevant social media pages (Quesnelle and Montemayor 2020), and
      • number of questions asked, or edits on a posted document (Saperstein et al. 2015; Caton et al. 2021).
      • Eye-tracking techniques and automated recognition of facial expressions are used by real-time systems for detecting student engagement (Miller 2015).
    • Changes in heart rate have been also used as an indicator of cognitive engagement (Darnell and Krieg 2019).
    • In addition, galvanic skin response can be used to measure brain arousal as an indicator of emotional engagement (Poh et al. 2010).
  • Finally, interviews/focus groups are usually conducted by asking students to respond to open-ended questions which are designed in a structured or semi-structured way.
    • Themes emerging from interviews may include other dimensions of engagement (Janssen et al. 2015; Wang and Ji 2021). Students can also describe the reasons for their engagement/disengagement including the role of contextual factors.

 

학생 참여의 영역
Spheres of student engagement

학생의 자기 주도적 학습 참여
Student engagement in own learning

학생이 스스로 학습에 참여하는 것은 학생 행동의 중요한 측면이자 학업 성공의 매개체입니다. 학습 상황은 대규모 수업, 소그룹 학습, 과제 또는 자가 학습 등 다양할 수 있습니다. 각 맥락에서 학생 참여의 차원은 다를 수 있습니다. 예를 들어, 소그룹 PBL 튜토리얼에 참여하는 학생은 참여의 인지적 및 행동적 차원 외에 사회적-정서적 차원에 더 중점을 둘 수 있습니다. 
Student engagement in own learning represents an important aspect of student behavior and a mediator for academic success. The learning context could vary from large classroom, small group learning, assignments, or self-learning. The dimensions of student engagement in each context could be different. For example, student engagement in small group PBL tutorials may focus more on the social-emotional dimensions in addition to the cognitive and behavioral dimensions of engagement.

학생 참여의 개념적 명확성을 확보하려면 인지적 참여자기조절 학습 간의 관계를 설명하는 것이 중요합니다. 일부 연구자들은 자기조절 학습 전략이 학생의 인지적 참여도를 나타내는 지표라고 제안했습니다(Horner and Shwery 2002; Furlong and Christenson 2008). 그러나 최근의 한 모델에서는 이러한 구성 요소가 상호 연관되어 있지만 별개의 실체라는 것을 보여주었습니다(Li and Lajoie 2022). 이 모델에서 SRL은 사전 사고, 수행 및 자기 성찰의 세 가지 연속적인 단계를 기반으로 개념화됩니다(Zimmerman 2000).

  • 사전 생각 단계에서 학생은 학습 과정과 학습에 필요한 정신적 노력의 양을 계획합니다.
  • 수행 단계에서 학생은 학습 활동 중에 사용할 인지 전략과 정신적 노력의 수준을 스스로 통제하고 모니터링합니다.
  • 자기 성찰 단계에서 학생은 계획된 학습 목표를 달성하는 데 있어 인지적 참여 수준의 효과를 평가하고 그에 따라 해당 수준을 조정합니다(그림 2).

이 모델은 활동의 유형과 계획된 학습 목표 달성에 대한 이러한 요소의 효과에 따라 정신적 노력의 양과 사용되는 학습 전략의 유형을 조정할 수 있는 인지적 참여의 역동적인 특성을 보여줍니다(Li and Lajoie 2022). 
To ensure the conceptual clarity of student engagement, it is important to delineate the relationship between cognitive engagement and self-regulated learning. Some researchers proposed that self-regulated learning strategies are indicators of student cognitive engagement (Horner and Shwery 2002; Furlong and Christenson 2008). However, a recent model demonstrated that these constructs are interrelated, but distinct, entities (Li and Lajoie 2022). In that model, SRL is conceptualized based on three consecutive phases: forethought, performance, and self-reflection (Zimmerman 2000).

  • In the forethought phase, students plan their learning process and the amount of mental effort in learning.
  • In the performance phase, students perform self-control and monitoring of the cognitive strategies and the level of mental effort to be used during the learning activity.
  • During the self-reflection phase, students evaluate the effectiveness of the level of cognitive engagement in achieving the planned learning goals and adjust that level accordingly (Figure 2).

This model demonstrates the dynamic nature of cognitive engagement where the amount of mental effort and the types of learning strategies used can be adjusted according to the type of activity and the effectiveness of these factors on achieving the planned learning goals (Li and Lajoie 2022).

파트너십을 통한 학생 참여
Student engagement through partnerships

"파트너로서의 학생"(SaP)의 참여는 고등 교육을 변화시킬 수 있는 잠재적인 방법으로 제안되었습니다(Healey 외. 2016). 파트너십에 대한 가장 널리 인용되는 정의는 다음과 같습니다: '모든 참여자가 커리큘럼 또는 교육학적 개념화, 의사 결정, 실행, 조사 또는 분석에 반드시 동일한 방식은 아니지만 동등하게 기여할 수 있는 기회를 갖는 협력적이고 호혜적인 과정'(Cook-Sather 외. 2014)입니다. 이러한 파트너십은 주로 학생과 학자 간에 이루어지며, 학생-학생 파트너십은 파트너십 구조의 두 번째로 일반적인 범주에 속합니다(Mercer-Mapstone 외. 2017). 파트너십은 기본적으로 결과보다는 참여의 과정이며, 다른 형태의 학생 참여를 보완합니다(Healey 및 Harrington 2014). 파트너십의 주요 기본 원칙은 상호 존중, 정직, 투명성, 파트너 간의 정기적인 연결, 공유된 가치와 목표입니다(Bretts 외. 2018). 파트너십을 뒷받침하는 공유 가치는 다음과 같습니다:

  • (a) 모든 파트너가 자신의 경험, 관점 또는 재능을 공유할 권리가 있는 포용성,
  • (b) 각 파트너가 프로세스를 통해 이익을 얻거나 배울 목표가 있는 상호성,
  • (c) 모든 파트너가 파트너십을 통해 일할 때 동등한 권한을 갖는 권한 부여,
  • (d) 파트너가 상호 존중을 기대하며 정직하고 개방적으로 소통하는 신뢰,
  • (e) 소속감과 자신이 기여한 것에 대한 감사함,
  • (f) 그룹으로서 하는 일과 개별적으로 기여한 것에 대한 책임감 (Healey and Harrington 2014). 

Engagement of “students as partners” (SaP) has been proposed as a potential method for transforming higher education (Healey et al. 2016). The most widely quoted definition of partnership is: ‘a collaborative, reciprocal process through which all participants have the opportunity to contribute equally, although not necessarily in the same ways, to curricular or pedagogical conceptualization, decision making, implementation, investigation, or analysis’ (Cook-Sather et al. 2014). This partnership is mainly between students and academics, with the student-student partnership coming as the second most common category of partnership structure (Mercer-Mapstone et al. 2017). Partnership is basically a process of engagement rather than an outcome and complements other forms of student engagement (Healey and Harrington 2014). The main underlying principles of partnerships are mutual respect, honesty, transparency, regular connections between partners, and shared values and goals (Bretts et al. 2018). The shared values underpinning the partnerships include the following:

  • (a) inclusivity, where every partner has the right to share his or her experience, perspectives, or talents; (b) reciprocity, where each partner has a goal to benefit or learn for the process;
  • (c) empowerment, where every partner has an equal power in working through partnerships;
  • (d) trust, where partners communicate with honesty and openness with an expected mutual respect;
  • (e) sense of belonging and feeling of appreciation of what they contribute; and
  • (f) responsibility for what they do as a group and for what they contribute individually (Healey and Harrington 2014).

파트너십을 통해 학생이 얻을 수 있는 혜택으로는 지속적인 참여에 대한 동기 부여 증가(Border 외. 2021), 자기 효능감 증가(Henderson 외. 2018), 자신감 및 의사소통 기술 향상(Qazi 외. 2019; Reeves 외. 2019), 학업 경험에 대한 이해도 향상 등이 있습니다. 2019), 학업 경험에 대한 이해도 향상, 학생-교직원 및 학생-학생 관계 개선, 메타인지 능력 향상(Geraghty 외. 2020; Gheihman 외. 2021), 소속감 증가(Bovill 외. 2021), 규율 학습 개선, 학생 복지 증진(Cook-Sather 외. 2014; Mercer-Mapstone 외. 2017) 등의 효과가 있습니다. 

  • 그러나 파트너십의 내용이나 과정에 대한 전문성 부족, 학생과 교수진 간의 권력 관계, 음성 피로로 인한 파트너십 지속 꺼려하기 등 학생에게는 어려움이 있습니다(Konings 외. 2021). 
  • 교사의 어려움에는 학생에게 권한을 양보하는 데 따른 보안 부족, 변화에 대한 저항, 파트너십 참여 방법 이해, 시간 제약 등이 있습니다(Bovill 외. 2015; Gheihman 외. 2021; Konings 외. 2021).

The student benefits from partnerships include increased motivation for continuous engagement (Border et al. 2021), increased self-efficacy (Henderson et al. 2018), improved self-confidence and communication skills (Qazi et al. 2019; Reeves et al. 2019), improved understanding of academic experiences, enhanced student-staff and student-student relationships, enhanced metacognitive skills (Geraghty et al. 2020; Gheihman et al. 2021), increased sense of belonging (Bovill et al. 2021), improved discipline learning, and increased student well-being (Cook-Sather et al. 2014; Mercer-Mapstone et al. 2017).

  • However, there are challenges for students that include lack of expertise in the content or process of partnerships, power relations between students and faculty, and reluctance to continue in partnerships because of voice fatigue (Konings et al. 2021).
  • Challenges for teachers include lack of security because of conceding authority to students, resistance to change, understanding how to engage in partnerships, and time constraints (Bovill et al. 2015; Gheihman et al. 2021; Konings et al. 2021).

파트너십에 대한 학생의 참여는 저강도, 저호혜성, 단기 참여에서 고강도, 고호혜성, 장기 참여에 이르기까지 다양합니다(Gheihman 외. 2021). 다섯 가지 영역 각각에서 학생 참여의 단계는 연속체를 따라 질적으로 다른 네 가지 형태의 참여를 나타낼 수 있습니다(Dunne and Zandstra 2011). 

  • 1단계(협의)는 학생이 자신의 의견, 견해 및 관점을 표현할 수 있는 기회를 제공하는 단계,
  • 2단계(참여)는 학생에게 보다 적극적인 역할을 제공하는 단계,
  • 3단계(파트너)는 학생과 교수진/직원/다른 학생 간의 공동 협력 과정,
  • 4단계(변화 주도자)는 학생이 전적으로 통제권을 갖는 단계를 의미합니다.

Participation of students in partnerships can range from low-intensity, low-reciprocity, short-term involvement to high-intensity, high reciprocity, long-term involvement (Gheihman et al. 2021). The stages of student engagement in each of the five spheres can represent four qualitatively different forms of participation along a continuum (Dunne and Zandstra 2011).

  • Stage 1 (consult) means provision of opportunities for students to express their opinions, views, and perspectives;
  • stage 2 (participate) is providing more active role for students;
  • stage 3 (partner) is a shared collaborative process between students and faculty/staff/other students; and
  • stage 4 (change agent) where students are in full control.

다음 섹션에서는 파트너십을 통한 학생 참여의 네 가지 영역인 (1) 교육 프로그램 제공, (2) 학술 연구, (3) 기관 거버넌스 및 질 향상, (4) 커뮤니티 활동에 대해 설명합니다.
In the following section, we describe the four areas of student engagement through partnerships: (1) provision of the education programme, (2) scholarly research, (3) institutional governance and quality enhancement, and (4) community activities.

교육 프로그램 제공에 대한 학생 참여
Student engagement in provision of the education programme

강력한 파트너십 유형은 학생들을 교육, 학습 및 평가에 참여시키는 것입니다. 교육 프로그램 제공의 파트너로서 학생의 참여에는 프로그램의 공동 제작자, 교사 및 평가자로서의 역할이 포함됩니다.
A powerful type of partnerships is engaging students in teaching, learning, and assessment. Involvement of students as partners in provision of the education programme include their role as co-creators, teachers, and assessors in the programme.

공동 제작자로서의 학생
Students as co-creators

교육과정 중심의 교육적 파트너십 활동에는

  • (1) 교육 과정 또는 프로그램을 가르치기 전에 공동 설계하는 것을 의미하는 교육과정의 공동 창작,
  • (2) 교육 과정 또는 프로그램이 전개되는 동안 공동 설계하는 것을 의미하는 교육과정의 공동 창작,
  • (3) 교육 과정 제공 후 재설계에 참여하는 것,
  • (4) 숨겨진 교육과정 발견의 네 가지가 있습니다(Bovill 외. 2015; Cook-Sather 외. 2014).

코스의 공동 생성은 이전에 해당 코스를 학습한 학생 또는 현재 해당 코스에 등록한 학생이 수행할 수 있습니다. 공동 창작 과정에서는 교수진과 학생 모두 학교에서의 기존 입장을 생각하고 수정해야 합니다(Cook-Sather 외. 2014). 공동 창작 과정에 다양한 이해관계자를 참여시키면 설계된 커리큘럼 또는 코스의 품질이 향상됩니다(Konings 외. 2021). 또한 공동 창작의 파트너십은 교수진의 교육 품질과 전문성 개발에 긍정적인 영향을 미칩니다(Cook-Sather 외. 2014).
There are four curriculum-focused pedagogical partnership activities:

  • (1) co-creation of the curriculum, which refers to co-design of a course or a program before it is taught,
  • (2) co-creation in the curriculum, which refers to co-design of a course or program as it unfolds,
  • (3) engagement in re-designing a course after it is delivered, and
  • (4) uncovering the hidden curriculum (Bovill et al. 2015; Cook-Sather et al. 2014).

The co-creation of a course can be conducted by students who previously studied the course or the current enrolled students in the course. The process of co-creation necessitates both faculty and students to think and revise their conventional positions in the school (Cook-Sather et al. 2014). Involving different stakeholders in the process of co-creation improves the quality of the designed curriculum or course (Konings et al. 2021). In addition, partnerships in co-creation positively affects the teaching quality and professional development of faculty (Cook-Sather et al. 2014).

또래 멘토/교사로서의 학생
Students as peer-mentors/tutors

교사로서의 학생의 역할에는 동료 멘토링과 동료 지원 학습(PAL)이 포함됩니다. 또래 멘토링을 실행하려면 멘토가 자신만의 멘토링 전략을 자유롭게 사용할 수 있도록 지원하고 멘토와 멘티 간의 커뮤니케이션 방식에 유연성을 허용해야 합니다(Reeves 외. 2019). 멘티와의 관계를 촉진하기 위해 또래 멘토는 자신의 역할을 '전문가'가 아닌 '지원'으로 인식해야 하며, 두 번째 역할은 일부 멘티가 또래 멘토를 강사의 연장선으로 느낄 때 불편함을 유발할 수 있기 때문입니다(Reeves 외. 2019). PAL 튜터에게는 더 나은 교수 기술 개발과 선행 학습의 통합이라는 이점이 있습니다(이와타 외. 2014; GMC 2018). 또한 PAL 튜터링은 튜터와 튜티 모두의 학업 성취도를 향상시킵니다(Iwata 외. 2014; GMC 2018). 교수진에게는 학생의 경험을 더 잘 이해하고, 학생의 관심사, 두려움, 문화, 포부를 더 잘 이해하며, 학생의 역량을 더 존중할 수 있다는 이점이 있습니다(Reeves 등. 2019). 
The role of students as teachers includes peer mentoring and peer-assisted learning (PAL). Implementing peer mentoring requires supporting mentors in the freedom to use their own strategies of mentoring and allowing flexibility in the mode of communication between mentors and mentees (Reeves et al. 2019). For facilitating the rapport with their mentees, peer mentors need to identify their role as ‘supporting’ students and not as ‘expert’ students as the second role can create discomfort for some mentees when they feel the peer mentors as an extension of their lecturer (Reeves et al. 2019). The benefits for PAL tutors include development of better teaching skills and consolidation of prior learning (Iwata et al. 2014; GMC 2018). PAL tutoring also improves academic performance of both tutors (Iwata et al. 2014; GMC 2018) and tutees (Brierley et al. 2022). The advantages for faculty are more understanding about students’ experience, more appreciation of the students concerns, fears, culture, aspirations, and more respect for their capabilities (Reeves et al. 2019).

평가자로서의 학생
Students as assessors

자가 및 동료 평가, 평가 방법 및 평가 기준의 공동 설계, 공동 채점, 피드백의 유형 및 형식 결정 등 평가의 파트너로서 학생을 위해 여러 가지 방법이 사용됩니다(Ní Bheoláin 및 O'Riordan 2020). 학생이 자신의 평가에 참여하면 참여도(Juan 2021), 학업 성취도, 평가에 대한 관심 및 동기가 향상되고(Cook-Sather 외. 2014), 과목 학습 결과에 대한 더 깊은 이해를 촉진합니다(Bergmark and Westman 2016). 권력과 위계의 역학 관계는 평가에서 학생 파트너십에서 다시 표면화되며, 이러한 문제를 관리하는 것이 이러한 파트너십의 성공을 위한 핵심 요소입니다. 
Several methods are used for students as partners in assessment such as self- and peer assessment, co-design of assessment methods and assessment criteria, collaborative grading and determining the type and format of feedback (Ní Bheoláin and O’Riordan 2020). Student participation in their own assessment enhances their engagement (Juan 2021), academic performance, their interest and motivation for this assessment (Cook-Sather et al. 2014), and promotes deeper understanding of the subject learning outcomes (Bergmark and Westman 2016). The dynamics of power and hierarchy come back on the surface in student partnership in assessment, and managing these challenges is a key factor for the success of these partnerships.

학술 연구에 대한 학생 참여
Student engagement in scholarly research

학부 연구에 참여하는 학생은 졸업 후 더 많은 연구 논문을 발표하고(Reinders 외. 2005), 연구 수행에 대한 자신감을 높이며(Pearson 외. 2017), 학계에 대한 관심을 높이고, 교수직을 얻을 확률이 높아지는 등 많은 이점을 누릴 수 있습니다(Solomon 외. 2003). 또한 학생의 연구 참여는 특히 의학 지식과 전문성(Zhang 외. 2022), 의학 문헌에 대한 비판적 사고와 비판적 평가(Laskowitz 외. 2010) 영역에서 학습 성과를 향상시킵니다. 학생 참여의 주요 원동력은 연구와 경력 발전에 대한 본질적인 관심입니다(Remes 외. 2000; Alamri 2019). 그러나 학생들의 연구 참여에 장애가 되는 요인으로는

  • 지도교수 찾기 어려움(Remes 외. 2000; Alexander 외. 2019),
  • 시간 제약(Remes 외. 2000; Pearson 외. 2017; Trethewey 외. 2018; Alamri 2019; Alexander 외. 2019),
  • 자금 부족(Pearson 외. 2017),
  • 연구 교육 부족(Hamdan and Kakarla 2013; Alexander 외. 2019),
  • 잠재적 연구 프로젝트에 대한 인식 부족(Hamdan and Kakarla 2013; Trethewey 외. 2018) 등이 있습니다.

Student engagement in undergraduate research has many advantages including publishing more research articles after graduation (Reinders et al. 2005), increased confidence in conducting research (Pearson et al. 2017), increased interest in academic career, and higher probability of getting an academic position (Solomon et al. 2003). In addition, engaging students in research improves their learning outcomes especially in the domains of medical knowledge and professionalism (Zhang et al. 2022), as well as in critical thinking and critical appraisal of medical literature (Laskowitz et al. 2010). The main driving factors for student engagement are intrinsic interest in research and career progression (Remes et al. 2000; Alamri 2019). However, the barriers to engagement of students in research include

  • difficulty in finding supervisors (Remes et al. 2000; Alexander et al. 2019),
  • time constraints (Remes et al. 2000; Pearson et al. 2017; Trethewey et al. 2018; Alamri 2019; Alexander et al. 2019),
  • lack of funding (Pearson et al. 2017),
  • lack of training in research (Hamdan and Kakarla 2013; Alexander et al. 2019), and
  • lack of awareness about potential research projects (Hamdan and Kakarla 2013; Trethewey et al. 2018).

거버넌스 및 품질 보증에 대한 학생 참여
Student engagement in governance and quality assurance

기관 거버넌스 및 품질 보증에 대한 학생 참여는 성숙한 형태의 참여를 나타냅니다(Naylor 외. 2021). 그러나 경제적, 문화적 요인으로 인해 교육기관 거버넌스에서 학생의 참여는 교육기관마다 큰 편차를 보이며 아직 미발달 상태입니다(Green 2019).

  • 기관 거버넌스에 학생을 참여시키는 근거는 민주적 가치에 대한 헌신, 학생의 목소리를 개선의 촉진 요인으로 인정하는 것, 또는 인증 시스템의 요구 사항을 충족하는 것 등 다양할 수 있습니다(Naylor 외. 2021).
  • 거버넌스 및 품질 보증에 대한 학생 참여의 이점은 직원 및 동료와의 커뮤니케이션 개선, 개인 및 전문성 개발, 리더십 기술 및 전문성 향상입니다(Meeuwissen 외. 2019). 또한 학생들은 메타인지적 사고, 주장하기, 토론, 로비 및 네트워킹 기술을 습득합니다(Meeuwissen 외. 2019).
  • 학교 거버넌스 및 품질 보증의 파트너로서 HPE 학생의 역할에 대한 연구 문헌은 아직 초기 단계에 있습니다.
    • 의과대학에서 보고된 학생-교수 파트너십에 대한 성공 사례의 예로는 실시간 피드백을 통해 학생의 커리큘럼 평가를 촉진하기 위한 Ed Reps 프로그램(Scott 외 2019), 모듈 공동 감독으로서의 학생(Milles 외 2019), 커리큘럼에 대한 직접적인 피드백을 제공하기 위한 학생 커리큘럼 위원회(SCB) 프로그램(Geraghty 외 2020) 등이 있습니다. 이러한 프로그램은 학생과 교수진 간의 협업을 강화하고(Geraghty 외. 2020), 커리큘럼과 학교 문화에 긍정적인 영향을 미치며(Scott 외. 2019), 학생의 역량을 강화하는 것으로 잘 알려져 있습니다.

Student participation in institutional governance and quality assurance represents a mature form of engagement (Naylor et al. 2021). However, due to economic and cultural factors, student agency in institutional governance is still underdeveloped with large variations between institutions (Green 2019).

  • The rationale for involving students in institutional governance could vary from commitment to democratic values, to acknowledging the student voice as a promoting factor for improvement, or just meeting the requirements of accreditation systems (Naylor et al. 2021).
  • The benefits of student engagement in governance and quality assurance are improved communication with staff and peers, personal and professional development, leadership skills, and professionalism (Meeuwissen et al. 2019). Students also acquire skills of metacognitive thinking, making an argument, debating, lobbying, and networking (Meeuwissen et al. 2019).
  • The research literature on the role of HPE students as partners in school governance and quality assurance is still in infancy.
    • Examples of the reported success stories from medical schools about student-faculty partnerships include the Ed Reps program that aimed to promote curriculum evaluation by students through real-time feedback (Scott et al. 2019), students as module co-directors (Milles et al. 2019), and Student Curricular Board (SCB) program for providing direct feedback about curriculum (Geraghty et al. 2020). These programs were well-perceived as enhancing collaborations between students and faculty (Geraghty et al. 2020), having positive impact on the curriculum and school culture (Scott et al. 2019), and empowering students.

커뮤니티 활동에 대한 학생 참여
Student engagement in community activities

학생이 지역사회에 참여하는 것은 학생들이 지역사회로부터 배우고 지역사회에 봉사하는 시너지 효과를 낼 수 있는 경험입니다(Talib 외. 2017). 지역사회 활동에 대한 학생 참여의 예로는

  • a) 지역사회 봉사 선택 과목 수강,
  • b) 학생이 운영하는 보건소에서의 자원봉사,
  • c) 기본 생활 지원 및 지역사회 기반 재난 지원 교육 제공 등 지역사회를 위한 교육 활동 조직(Shannon 2019),
  • d) 워크숍 및 공개 프레젠테이션과 같은 아웃리치 활동 등을 들 수 있습니다.

이러한 파트너십은 학교 기반 프로젝트를 통해 시작하거나 학생들이 독립적인 파트너십을 통해 시작할 수 있습니다. 학생 주도의 자원봉사 이니셔티브의 대상 지역사회는 일반적으로 노숙자(Batra 외. 2009), 이주 노동자(Sin 외. 2019)와 같이 의료적으로 소외되거나 불우한 지역사회입니다. 지역사회 활동에 참여하는 학생들은 의사소통 기술, 팀워크, 전문성(Nauhria 외. 2021), 대인관계 기술(Haidar 외. 2020), 공감, 의사결정, 리더십 기술(Loh 외. 2016)과 같은 역량을 습득합니다. 또한 봉사활동은 학생들의 이타심을 증진하고(Batra 외. 2009), 학업 성취도를 향상시키며(Blue 외. 2006), 사회적 결정요인과 건강 간의 관계에 대한 학생들의 이해를 높이고(Talib 외. 2017), 졸업 후 지역사회 봉사에 대한 헌신을 높입니다(Jones 외. 2014). 또한 종단적 봉사 학습은 취약하고 소외된 불우 환자에 대한 의대생들의 태도를 개선합니다(Arebalos 외. 2021). 

Student engagement with the community is a synergistic experience where students learn from, and provide service to, the community (Talib et al. 2017). Examples of student engagement in community activities include the following:

  • a) taking a community service elective,
  • b) volunteering at student-run health clinics,
  • c) organizing educational activities for the community such as providing training in basic life support and community-based disaster support (Shannon 2019), and
  • d) outreach activities such as workshops and public presentations.

These partnerships can be initiated through school-based projects or through independent partnerships by the students. Target communities for student-led volunteering initiatives are usually medically underserved or disadvantaged communities such as homeless population (Batra et al. 2009), and migrant workers (Sin et al. 2019). Students who engage in community activities acquire competencies such as communication skills, teamwork, professionalism (Nauhria et al. 2021), interpersonal skills, (Haidar et al. 2020), empathy, decision-making, and leadership skills (Loh et al. 2016). In addition, volunteering services promote altruism of students (Batra et al. 2009), improve academic performance (Blue et al. 2006), improve student understanding of the relationship between social determinants and health (Talib et al. 2017), and increase the commitment to community volunteering after graduation (Jones et al. 2014). Furthermore, longitudinal service learning improves the attitudes of medical students towards the vulnerable and marginalized underserved patients (Arebalos et al. 2021).

학생 참여의 결과
Outcomes of student engagement

단기적 성과
Short-term outcomes

HPE 학생의 참여도와 학업 성취도 간의 관계를 조사한 연구에서는 일관되지 않은 결과가 나왔습니다. 예를 들어, 지식 기반 시험에서의 성과와 인지적 참여(Wong 외. 2015, Rotgans 외. 2018, Bhat and Gupta 2019, Reinke 2019, Hadie 외. 2021)와 행동적 참여(수업 활동 참여로 측정)간에 긍정적인 관계가 있다는 연구 결과도 있습니다(Dewar 외. 2021, Grant 외. 2021). 그러나 여러 차원을 사용한 학생 참여도와 학업 성취도 간의 상관관계는 긍정적이거나(Bayoumy and Alsayed 2021) 유의미한 관계가 없는 것으로 나타났습니다(Hopper and Brake 2018, Hopper and Kaiser 2018, Pickering and Swinnerton 2019). 학생 참여는 정신 건강 및 심리적 웰빙을 개선하고(Steele and Fullagar 2009) 전반적인 삶의 만족도를 향상시킬 수 있습니다(Lewis 외. 2011). 또한 학생 참여는 교사의 동기 부여를 향상시켜 교육 과정에 긍정적인 영향을 미칩니다(Frenzel 외. 2009).
Studies examining the relationships between engagement of HPE students and academic performance have yielded inconsistent findings. For example, studies demonstrated a positive relationship between performance in knowledge-based examinations and cognitive engagement (Wong et al. 2015; Rotgans et al. 2018; Bhat and Gupta 2019; Reinke 2019; Hadie et al. 2021) as well as behavioral engagement (measured by participation in class activities (Dewar et al. 2021; Grant et al. 2021). However, the correlations between student engagement using multiple dimensions and academic performance yielded positive (Bayoumy and Alsayed 2021) or no significant relationships (Hopper and Brake 2018; Hopper and Kaiser 2018; Pickering and Swinnerton 2019). Student engagement can improve mental health and psychological well-being (Steele and Fullagar 2009) and improves overall life satisfaction (Lewis et al. 2011). In addition, student engagement enhances teacher motivation which positively affects the teaching process (Frenzel et al. 2009).

장기적인 결과
Long-term outcomes

학생 참여는 학생 유지율을 높이고, 소진이 학생 유지율에 미치는 영향을 줄이며(Abreu Alves 외. 2022), 개인 개발과 평생 학습을 향상시킵니다(Fredricks 외. 2004; Trowler 2010). 또한 교실 참여와 자기 주도적 학습 사이에는 긍정적인 관계가 있습니다(Rossi 외. 2021).
Student engagement increases student retention, reduces impact of burnout on student retention (Abreu Alves et al. 2022), and enhances personal development and lifelong learning (Fredricks et al. 2004; Trowler 2010). There is also a positive relationship between classroom engagement and self-directed learning (Rossi et al. 2021).

HPE에서 학생 참여도를 높이기 위한 실용적인 전략
Practical strategies for enhancing student engagement in HPE

학교 커뮤니티 문화 조성
Promote a culture of a school community

교육기관은 학생들이 커뮤니티의 일원이라는 느낌을 받을 수 있도록 환영하는 문화를 제공해야 합니다. 학생들은 학교에 입학한 첫날부터 이러한 느낌을 발전시켜야 합니다. 공동체 문화를 조성하기 위한 전략에는 다음이 포함될 수 있습니다:

  • a) 학생마다 '학생이 되는 방식'이 다르다는 개념을 받아들이고 포용적인 방식으로 수용(Bryson 2014; Ashwin and McVitty 2015),
  • b) 학생 그룹 및 기관 차원의 그룹에 가입하여 신입생을 학교 커뮤니티에 통합하여 역량과 소속감을 개발하도록 지원(Milburn-Shaw and Walker 2017),
  • c) 소속감을 높이기 위해 오리엔테이션 및 동료 지원 프로그램을 처음에 실시,
  • d) 저소득층 및 소수 민족 학생 등 취약 계층 학생에게 재정 지원 제공(Hu 2010) 등이 있습니다.

Institutions need to provide a welcoming culture to students to make them feel part of a community. Students should develop this feeling starting from the first day of admission to the school. Strategies for promoting a culture of community could include the following:

  • a) adopt the concept that students are different in their ‘ways of being a student’ and accommodate them in an inclusive way (Bryson 2014; Ashwin and McVitty 2015),
  • b) support integrating newcomers into the school community by joining student groups and institutional level groups (Milburn-Shaw and Walker 2017) to develop the sense of competence and belongingness,
  • c) implement orientation and peer support programs at the beginning to enhance the sense of belonging, and
  • d) provide financial assistance to students from disadvantaged populations such as low-income and minority students (Hu 2010).

심리적 안전 문화 조성
Foster a culture of psychological safety

학생들이 심리적 안정감을 느끼면 타인에게 유능한 이미지를 투영하기보다 학습 과제에 집중할 수 있습니다(Tsuei 외. 2019). 심리적 안전 문화를 조성하기 위해 학교는 다음과 같은 전략을 적용할 수 있습니다:

  • a) 의견을 말하는 학생에게 보상하고 학생과 교직원 간, 학생과 또래 간 쉬운 소통 채널을 구축(Tsuei et al. 2019),
  • b) 교사는 다가가고 자신의 실수를 인정하며 학생의 말을 주의 깊게 듣고 존중과 신뢰로 학생을 대해야 합니다(Konings et al. 2021),
  • c) 학생의 자율성과 창의성을 증진하고 안전한 환경에서 학생의 발달과 성장의 기회를 제공해야 하며,
  • d) 학생 평가는 채점보다는 건설적인 피드백을 통해 학생의 개인 개발에 초점을 맞춰야 합니다(Tsuei et al. 2019).

Students’ feeling of psychological safety makes them focus on engagement on the learning tasks rather than projecting an image of competence for others (Tsuei et al. 2019). To create a culture of psychological safety, schools could apply the following strategies:

  • a) reward students who speak-up and establish easy channels of communications between students and staff and between students and their peers (Tsuei et al. 2019),
  • b) teachers should be approachable, admit their own mistakes, listen attentively to their students, and treat them with respect and trust (Konings et al. 2021),
  • c) promote student autonomy and creativity and provide opportunities for their development and growth in a safe environment, and
  • d) student assessment should focus on personal development of students through constructive feedback rather than on grading (Tsuei et al. 2019).

파트너로서의 학생 참여 문화 확립
Establish a culture of student engagement as partners

파트너로서 학생의 참여를 지원하는 문화를 구축하는 것은 학교 리더, 교수진, 학생의 헌신과 공동의 노력이 필요한 복잡한 과정입니다.
Establishing a culture that supports engagement of students as partners is a complex process that requires commitment and collective effort from the school leaders, faculty, and students.

텍스트 상자 2는 HPE에서 파트너십을 통해 학생 참여를 개발하고 확립하기 위한 실용적인 팁을 제공합니다.Text Box 2 provides practical tips for developing and establishing student engagement through partnerships in HPE.

상자 2 학생 참여를 위한 파트너십을 개발하고 구축하기 위한 팁
Box 2 Tips for developing and establishing partnerships for student engagement in HPE.


1. 모든 관련 파트너가 공동으로 참여할 수 있는 프레임워크를 개발합니다.
2. 파트너십 프레임워크를 학교의 전략 계획과 연계합니다.
3. 파트너십 프로세스에 대비할 수 있도록 학생과 교직원 모두에게 역량 강화를 제공합니다.
4. 가능한 한 빨리 학생들을 파트너십 프로세스에 적극적으로 참여시킵니다(Peters 외. 2019).
5. 파트너십의 목적, 기대 결과, 범위, 일정, 기본 가치, 관계의 경계, 잠재적 과제에 대해 학생과 교직원 간에 상호 공개적으로 논의하여 파트너십을 시작하세요.
6. 교사가 접근하기 쉽고, 학생의 말을 주의 깊게 경청하고, 학생에 대한 기대치를 설정하고, 학생의 발언을 장려하고, 존중과 신7. 뢰로 학생을 대하는 파트너십에서 심리적 안전의 분위기를 보장합니다(Konings 외. 2021).
8. 파트너십의 지속 가능성을 위한 제도적 계획을 수립합니다.
9. 관리 리더의 참여를 촉진하고 관련 파트너의 역할을 명확히 하는 정책을 개발합니다.
파트너로서 교직원과 학생 모두 가치 있고 학습 과정을 보완하는 다양한 유형의 전문성을 보유하고 있음을 인정합니다(Englander 외., 2020).
10. 학생이 환자, 동료, 교사와 함께 관련 종단적 경험을 개발할 수 있는 기회를 최적화합니다(예: 종단적 통합 사무직)(Englander et al., 2020).
11. 학생의 기여를 기반으로 프로세스의 변화를 승인하여 학생 기관을 장려합니다.
12. 파트너십에 대한 학생의 참여를 인정하고 소중히 여깁니다.
13. 파트너십 실행 후 모든 관련 이해관계자로부터 피드백을 수집하고 필요한 조치를 취하여 루프를 닫습니다.
14. 학생과 교직원이 파트너십 경험을 되돌아볼 수 있는 시간을 갖도록 합니다.
  1. Develop a framework for engagement collaboratively by all concerned partners.
  2. Align the partnership framework with the strategic plan of the school.
  3. Provide capacity building for both students and staff to prepare them for the partnership process.
  4. Involve students proactively in the partnership process as early as possible (Peters et al. 2019).
  5. Start the partnerships by mutual and open discussion between students and staff about the purpose, expected outcomes, scope, timeline, underlying values, boundaries for the relationship, and potential challenges.
  6. Ensure a climate of psychological safety in partnerships where teachers are approachable, listen attentively to their students, set expectations for students, encourage them to speak-up, and treat them with respect and trust (Konings et al. 2021).
  7. Establish an institutional plan for sustainability of the partnerships.
  8. Develop policies to facilitate engagement of management leaders and have clear roles of involved partners.
  9. Acknowledge that both staff and students as partners possess a different type of expertise that is valuable and complement the learning process (Englander et al., 2020).
  10. Optimize opportunities for students to develop relevant longitudinal experiences with patients, peers, and teachers e.g. longitudinal integrated clerkships (Englander et al., 2020).
  11. Promote the student agency by endorsing the change in the process based on contributions from students.
  12. Acknowledge and value student participation in partnerships.
  13. Collect feedback from all relevant stakeholders following implementation of the partnership and take necessary actions to close the loop.
  14. Allow a dedicated time for students and staff to reflect on the partnership experience.

교육 프로그램 제공에 학생 참여 유도
Engagement in provision of the education programme

커리큘럼 공동 제작에 학생의 참여를 촉진하기 위해 다음과 같은 전략을 권장합니다(Konings et al. 2021) 

  • 가) 학생의 관심사에 맞는 영역에 참여하도록 권유하여 공동창작 과정에 참여하도록 동기를 부여하고 점진적으로 유도,
  • 나) 교사와 학생 간의 권력 차이를 줄이고 참여 중 학생의 심리적 안전 보장,
  • 다) 공동창작 역량을 강화하는 영역에서 학생을 훈련,
  • 라) 학생에게 권한을 부여하고 공동창작 과정을 가치 있는 경험으로 인식하도록 자극하여 공동창작 과정에 계속 참여하도록 동기를 보장한다.

To promote engagement of students in the co-creation of the curriculum, the following strategies are recommended (Konings et al. 2021):

  • a) motivate students to get involved in co-creation process by inviting them to participate in areas that fit with their interest and gradually induct them into the process,
  • b) reduce the power difference between teachers and students and ensure psychological safety of students during participation,
  • c) train students in areas that enhance their skills in co-creation, and
  • d) ensure motivation of students to continue in the co-creation process by empowering them and stimulating them to see the co-creation process as a valuable experience.

학생들의 또래 튜터링 참여를 촉진하기 위해 권장되는 전략은 다음과 같습니다. 

  • a) 학업적 전제 조건이 없는 학생의 자발적인 경험으로 또래 튜터링을 고려하고,
  • b) 또래 튜터링이 의무적으로 요구되는 경우 참여 동기를 높이기 위해 학생들에게 주제 목록에서 선택할 수 있는 선택권을 부여하고(Ross and Cameron 2007; Blanco 외. 2014), 또래 튜터링에 참여하는 학생의 동기를 강화하는 방법을 고려합니다. 2014),
  • c) 성인 학습의 기본 개념, 인지 과학 원리, 소그룹 교수법, 교실 상호작용 촉진과 같은 주제에 중점을 두고 동료 튜터에게 교수 기술을 향상시키기 위한 교육을 제공하고,
  • d) 교수진이 동료 튜터에게 교수 기술에 대한 피드백을 제공하여 교수를 향상시킵니다(Freret et al. 2017).

The following strategies are recommended to stimulate student engagement in peer tutoring:

  • a) consider having the peer tutoring as a voluntary experience for students with no academic pre-requisites,
  • b) in case of mandatory requirement for peer tutoring, consider giving students the choice to select from a list of topics to enhance their motivation for participation (Ross and Cameron 2007; Blanco et al. 2014),
  • c) train peer tutors to enhance their teaching skills with a focus on topics such as fundamental concepts of adult learning, cognitive science principles, small group teaching, and promoting classroom interactions (Freret et al. 2017) and,
  • d) provide feedback by faculty to peer tutors about their teaching skills to enhance their teaching (Freret et al. 2017).

평가에서 학생 파트너십을 촉진하기 위해 학교는 다음과 같은 전략을 고려해야 합니다.

  • (a) 평가 및 피드백에서 파트너십 원칙이 포함된 새로운 코스를 도입하고,
  • (b) 평가 정책 문서에 학생 파트너십을 포함하며(Bovill 외. 2021),
  • (c) 평가에서 학생 파트너십의 실행 및 주기적 검토를 지지하는 실천 커뮤니티를 구축합니다.

For promoting student partnership in assessment, schools should consider the following strategies:

  • (a) introduce new courses with the principles of partnership in assessment and feedback,
  • (b) embed student partnership in the assessment policy documents (Bovill et al. 2021), and
  • (c) establish a community of practice which will champion the implementation and periodic review of the student partnership in assessment.

학술 연구 파트너십 참여
Engagement in scholarly research partnerships

학생들은 연구 문화가 잘 확립된 학교에서 학술 연구 경험에 참여하도록 동기를 부여받고, 연구 참여의 관련성과 가치를 인식하도록 동기를 부여받습니다(Cornett 외. 2021). 학교는 다음과 같은 전략을 적용하여 학생의 학술 연구 참여를 촉진할 수 있습니다:

  • 첫째, 연구 기회에 대한 인식을 높입니다. 연구 계획의 가용성에 대한 광고는 연구 참여에 대한 학생의 동기를 높일 수 있습니다(Trethewey 2019). 관심 있는 학생은 교수진 또는 동료와의 연구 협력을 모색하거나 STARSurge 이니셔티브와 같은 국제 협력, 학생 주도 감사 및 연구 그룹에 참여할 수도 있습니다. 이러한 연구 그룹을 통해 학생들은 종합적인 연구 프로젝트에서 공동 작업을 수행함으로써 연구 기술을 습득할 수 있습니다(Trethewey 2019).
  • 둘째, 학생과 감독자를 위한 전용 시간을 할당합니다. 이렇게 하면 지도 교수의 질이 향상되고 연구 수행에 대한 학생의 자신감(자기 효능감)이 높아질 것입니다(Cornett 외. 2021).
  • 셋째, 학생의 연구 자율성을 장려합니다. 이는 연구 기회를 선택 또는 연구 기반 모듈로 제공하고, 학생들이 관심 있는 연구 프로젝트를 선택할 수 있는 기회를 제공함으로써 학생들의 연구 참여 동기를 높일 수 있습니다(Trethewey 외. 2018; Cornett 외. 2021).

Students are motivated for engagement in scholarly research experiences in schools with well-established research culture, and motivates the students to see the relevance and value of engagement in research (Cornett et al. 2021). Schools can promote student engagement in scholarly research by applying the following strategies: 

  • First, increase awareness for research opportunities. Advertisement for the availability of research plans could increase the student motivation to join the research (Trethewey 2019). Interested students can also explore research collaborations with faculty or colleagues or join international collaborative, student-led audit, and research groups such as STARSurge initiative (www.starsurg.org). Through these research groups, students can acquire research skills by collaborating in comprehensive research projects (Trethewey 2019). 
  • Second, allocate dedicated times for students and supervisors. This will improve the quality of supervision and increase students’ confidence (self-efficacy) in conducting research (Cornett et al. 2021). 
  • Third, promote student autonomy in research. This can be fulfilled by providing research opportunities as optional or elective research-based modules and giving students the opportunity to choose the research projects of their interest which can increase the student motivation for engagement in research (Trethewey et al. 2018; Cornett et al. 2021).

거버넌스 및 품질 보증에 대한 참여
Engagement in governance and quality assurance

교육기관은 다음과 같은 전략을 사용하여 거버넌스 및 품질 보증에 대한 학생의 참여를 향상시킬 수 있습니다:

  • a) 학생의 거버넌스 참여를 환영하는 학교 문화를 장려하고,
  • b) 모든 학생의 목소리를 담을 수 있는 대표성의 다양성과 충분한 수의 참여 학생을 확보하고(Naylor et al. 2021),
  • c) 학생들이 거버넌스에서 후임자를 선택할 수 있는 자율성을 제공하고,
  • d) 학생 대표의 참여, 인수인계, 코칭 및 교육을 위한 잘 설계된 계획을 수립하고,
  • e) 학생 대표 간의 정보를 조정하고 공유하며,
  • f) 모든 학생에게 조치와 결정을 전달하여 학생의 목소리가 잘 반영되도록 합니다(Meeuwissen 외. 2019).

Institutions can enhance the engagement of students in governance and quality assurance by using the following strategies:

  • a) promote a school culture that welcomes students’ participation in governance,
  • b) ensure diversity in representation and enough numbers of engaged students that capture the voices of all students (Naylor et al. 2021),
  • c) provide autonomy for students to select their successors in governance,
  • d) establish a well-designed plan for participation, handover, coaching, and training of student representatives,
  • e) coordinate and share information between student representatives, and f) communicate actions and decisions to all the students to ensure that student voice is well-represented (Meeuwissen et al. 2019).

지역사회 파트너십 참여
Engagement in community partnerships

지역사회 파트너십에 대한 학생 참여는 지역사회의 요구에 부응할 때 효과적입니다(Talib 외. 2017). 학생과 지역사회 구성원 간의 비공식적인 의사소통은 학생들이 봉사하는 지역사회를 이해하고 지역사회의 필요를 파악하는 데 도움이 됩니다(Talib 외. 2017). 지역사회의 요구사항 해결은 지역사회, 학생, 교수진 대표로 구성된 자문위원회를 통해 촉진될 수 있습니다(Marjadi 외. 2021). 지역 보건 시스템의 참여와 지원은 학생들의 지역사회 참여를 촉진할 것입니다. 또한, 지역사회 파트너십 경험이 HPE 학생들의 미래 진로와 관련되면 참여 동기가 강화될 것입니다(Mann 2011). 또한 커뮤니티 파트너십 경험은 전문가 간 학습을 제공할 수 있는 좋은 기회이기도 합니다(Fatima 외. 2018).
Student engagement with community partnerships is effective when they respond to the needs of the community (Talib et al. 2017). Informal communications between students and community members help them to understand the communities they serve and identify the community needs (Talib et al. 2017). Addressing the needs of the community can be promoted through an advisory committee with representatives from the community, students, and faculty (Marjadi et al. 2021). Involvement and support of the local health system will facilitate the engagement of students in the community. Furthermore, relevance of the community partnership experience to the future career of HPE students will enhance their motivation for engagement (Mann 2011). The community partnership experience is also a great opportunity for providing interprofessional learning (Fatima et al. 2018).

상자 3에는 HPE에 대한 학생 참여를 향상시키는 교육 방법의 목록이 나와 있습니다.
Box 3 provides a list of the instructional methods that enhance student engagement in HPE.


상자 3 HPE에서 학생 참여를 높이는 교육 방법.
Box 3 
Instructional methods that enhance student engagement in HPE.


- 능동적이고 협력적인 학습:

 - 문제 기반 학습
 - 팀 기반 학습
 - 사례 기반 교육
 - 플립형 강의실
 - 전문가 간 학습
 - 반성적 연습
• Active and collaborative learning:

 – Problem based learning
 – Team-based learning
 – Case based teaching
 – Flipped classroom
 – Interprofessional learning
 – Reflective practice
- 기술 강화 학습
 - 가상 환자 시뮬레이션
 - 마이크로 블로그
 - 소셜 미디어
 - 적응형 튜토리얼
 - 화상 회의 세션
 - 디지털 게임
 - 3차원 인쇄 모델
 - 360도 비디오를 사용한 가상 현실
 - 학습 대시보드
 - 청중 응답 시스템

• Technology-enhanced learning:
 – Virtual patient simulations
 – Microblogs
 – Social media
 – Adaptive tutorials
 – Videoconference sessions
 – Digital games
 – Three-dimensional printed models
 – Virtual reality using 360o videos
 – Learning dashboards
 – Audience response systems

능동적이고 협력적인 학습 사용 촉진
Promote the use of active and collaborative learning

관련 임상 문제를 기반으로 한 능동적 학습 방법과 탐구 자극을 통해 학생들의 동기를 강화합니다. 또한 협업 학습은 학생들 간의 사회적 연결과 소속감을 구축합니다. 학생들의 참여도를 높이기 위해 HPE 학교는 문제 기반 학습(O'Malley 외. 2003, Kelly 외. 2005, Alimoglu 외. 2014), 팀 기반 학습(Kelly 외. 2005, Cheng 외. 2014, Alimoglu 외. 2017, Hopper and Brake 2018, Smeby 외. 2020) 등의 교육적 방법을 적용할 수 있습니다. 2020; Ulfa 외. 2021), 사례 기반 학습(Alimoglu 외. 2014), 거꾸로 교실(Riddle and Gier 2019; Burkhart 외. 2020), 전문가 간 교육(IPE)(Lee 외. 2018; Wang and Ji 2021), 성찰적 실습(Lee 외. 2018; Wang and Ji 2021) 등이 있습니다. 
The use of active learning methods which are based on relevant clinical problems and stimulation of inquiry enhance the motivation of students. In addition, collaborative learning builds social connections between students and the feeling of belongingness. To enhance students engagement, HPE schools can apply pedagogical methods such as problem-based learning (O'Malley et al. 2003; Kelly et al. 2005; Alimoglu et al. 2014), team-based learning (Kelly et al. 2005; Cheng et al. 2014; Alimoglu et al. 2017; Hopper and Brake 2018; Smeby et al. 2020; Ulfa et al. 2021), case-based learning (Alimoglu et al. 2014), flipped classroom (Riddle and Gier 2019; Burkhart et al. 2020), interprofessional education (IPE) (Lee et al. 2018; Wang and Ji 2021), and reflective practice (Lee et al. 2018; Wang and Ji 2021).

기술 강화 학습 사용 촉진
Promote the use technology-enhanced learning

학교는 기술 강화 학습 방법을 최대한 활용하여 학생 참여를 촉진할 수 있습니다. 방법에는 가상 환자 시뮬레이션(McCoy 외. 2016, Berman and Artino 2018, Stokes-Parish 외. 2020, Wang and Ji 2021), 마이크로 블로그(Saperstein 외. 2015), 소셜 미디어(Hartnup 외. 2018, Bhat and Gupta 2019, Quesnelle and Montemayor 2020, Siqueira 외. 2021), 적응형 자습서(Wong et al. 2015), 화상 회의 세션(Kay and Pasarica 2019; Caton 외. 2021), 디지털 게임(Janssen 외. 2015), 3차원 인쇄 모델(Tripodi 외. 2020), 360° 비디오를 사용한 가상 현실(Harrington 외. 2018; Torda 2020; Chan 외. 2021), 학습 대시보드(de Leng and Pawelka 2020), 청중 반응 시스템(Funnell 2017) 등 다양한 분야에서 활용되고 있습니다.
Schools can make best use of technology-enhanced learning methods to promote student engagement. Methods can include virtual patient simulations (McCoy et al. 2016; Berman and Artino 2018; Stokes-Parish et al. 2020; Wang and Ji 2021), microblogs (Saperstein et al. 2015), social media (Hartnup et al. 2018; Bhat and Gupta 2019; Quesnelle and Montemayor 2020; Siqueira et al. 2021), adaptive tutorials (Wong et al. 2015), videoconference sessions (Kay and Pasarica 2019; Caton et al. 2021), digital games (Janssen et al. 2015), three-dimensional printed models (Tripodi et al. 2020), virtual reality using 360° videos (Harrington et al. 2018; Torda 2020; Chan et al. 2021), learning dashboards (de Leng and Pawelka 2020), and audience response systems (Funnell 2017).

향후 연구 방향
Future research directions

학생 참여와 관련된 다양한 영역을 다루는 연구 출판물이 빠른 속도로 증가하고 있음에도 불구하고, 문헌에서 다루어야 할 몇 가지 공백이 있습니다. 학생 참여 구조의 포괄적인 특성으로 인해 다차원성을 측정할 수 있는 심리측정 특성을 갖춘 도구를 개발하는 데 여전히 어려움이 있습니다. 파트너십에 대한 학생 참여는 많은 출판물에서 인정되었지만, 파트너십에서 학생 참여의 차원을 측정하는 것은 현재 불분명합니다. 최근 중국에서 수행된 대규모 연구에서는 연구 프로젝트에 참여하는 빈도로 학생의 연구 참여를 측정했습니다(Zhang 외. 2022). 특히 파트너십에서 참여 수준과 참여 차원을 측정하는 도구를 개발하는 것이 연구 의제에 포함되어야 합니다. 또한, 참여 이탈을 개념화하고 이를 측정하기 위한 적절한 도구를 개발하여 참여 이탈의 동인과 결과를 파악할 필요가 있습니다. 현재 학생 참여에 관한 문헌의 연구 설계는 대부분 횡단적 연구이며, 상황별 개입 후 참여도 또는 참여 이탈을 측정하기 위한 종단적 연구는 부족합니다. 마지막으로, 학생 참여 개입의 결과를 측정하는 것은 현재 인지적 차원에 초점을 맞추고 있으며 정신 운동 기술, 정서적 영역 및 일반 역량과 같은 역량의 다른 측면을 측정하는 연구는 부족합니다.

Despite the fast pace in research publications addressing different areas related to student engagement, there are several gaps in literature that need to be covered. With the comprehensive nature of the student engagement construct, the challenge is still existing about developing instruments with good psychometric properties to measure its multidimensionality. Although student engagement in partnerships have been recognized in many publications, measuring the dimensions of student engagement in these partnerships is currently unclear. A recent large-scale study conducted in China measured student engagement in research by the frequency of their involvement in research projects (Zhang et al. 2022). Specifically, developing tools for measuring the level of involvement and engagement dimensions in partnerships should be on the research agenda. Furthermore, there is a need for conceptualizing disengagement and therefore developing proper instruments for its measurement and identifying drivers and outcomes of disengagement . Most of the study designs in the current student engagement literature in HPE are cross-sectional and there is lack of longitudinal studies for measuring engagement or disengagement after contextual interventions. Finally, measuring the outcomes of student engagement interventions is currently focusing on the cognitive dimension and there is lack of studies measuring the other aspects of competence such as psychomotor skills, affective domain, and generic competencies.


 

Med Teach. 2022 Oct 28;1-17. doi: 10.1080/0142159X.2022.2137018. Online ahead of print.

 

Student engagement in health professions education: AMEE Guide No. 152

Affiliations collapse

1Department of Physiology, Faculty of Medicine, Suez Canal University, Ismailia, Egypt.

2Department of Basic Medical Sciences, College of Medicine, Gulf Medical University, Ajman, United Arab Emirates.

3Gulf Medical University, Ajman, United Arab Emirates.

PMID: 36306374

DOI: 10.1080/0142159X.2022.2137018

Abstract

This guide aims to support our colleagues to have comprehensive understanding of student engagement in health professions education. Despite the universal agreement about the significance of student engagement, there is lack of uniformity in conceptualizing and operationalizing this emerging construct. We review the theoretical basis explaining student engagement from three main perspectives: behavioral, psychological, and socio-cultural. In addition, we propose a contemporary and comprehensive framework for the student engagement in higher education, which is applicable to health professions education contexts. Drawing from this framework, we explain the conceptualization of the construct and its preceding factors, mediators, dimensions, spheres, and outcomes of student engagement. The proposed framework introduces student 'engagement through partnerships' as a novel component compared with the existing models of student engagement in higher education. This way, we are proposing a mixed model that not only considers the student as a 'customer' but also as a 'partner' in education. Engagement of students through partnerships include four areas: (1) provision of the education program, (2) scholarly research, (3) governance and quality assurance, and (4) community activities. This guide will provide practical applications on how to improve student engagement in health professions education. Finally, we highlight the current gaps in areas of research in the student engagement literature and suggested plans for future directions.[Box: see text].

Keywords: Collaborative/peer-to-peer; student engagement; students as partners.

 

연구평가지표를 위한 라이덴 선언
LEIDEN MANIFESTO FOR RESEARCH METRICS

 

Use these ten principles to guide research evaluation, urge Diana Hicks, Paul Wouters and colleagues.

Credit: Illustration by David Parkins

 

연구활동을 지원하고 운영하는데 있어 실증적인 데이터 사용이 증가하고 있다. 과거에는 필요한 경우에만 동료에 의해서 연구평가가 수행되었지만 최근에는 일상적으로 이루어질 뿐만 아니라 계량적인 평가지표에 크게 의존하고 있다1. 이 때 연구평가가 데이터 기반으로 이루어지고 심사자의 판단이 부재하다는 점은 문제이다. 이러한 상황에서 연구성과 관련 계량적 평가지표들이 빠르게 확산되고 있다. 올바른 연구성과평가를 위한 목적으로 평가지표가 개발되고 있으나, 개발된 평가지표들이 충분히 이해되지 못하거나 때론 잘못 사용하기도 한다. 계량적 지표에 근거한 연구성과평가가 점점 더 확산되고 있지만, 많은 기관에서는 실제로 어떻게 수행하고 해석해야 하는지에 대한 충분한 지식이나 도움이 부재한 상황이다. 연구성과평가 체계를 향상시키기 위해 만든 도구인 평가지표로 인해 도리어 평가 체계 자체가 위협 받고 있다. 
Data are increasingly used to govern science. Research evaluations that were once bespoke and performed by peers are now routine and reliant on metrics1. The problem is that evaluation is now led by the data rather than by judgement. Metrics have proliferated: usually well intentioned, not always well informed, often ill applied. We risk damaging the system with the very tools designed to improve it, as evaluation is increasingly implemented by organizations without knowledge of, or advice on, good practice and interpretation.

2000년도 이전에는 Institute for Scientific Information (ISI)이 Science Citation Index를 CDROM 형태로 발간하였으며 전문가의 분석 업무에 사용되었다. 2002년에는 톰슨 로이터스가 통합 웹 플랫폼을 발족하여 Web of Science 데이터베이스의 광범위한 접근을 가능하게 하였다. 엘스비어의 Scopus(2004년 발표)와 Google Scholar(2004년 베타버전 발표)의 등장으로 인용색인 데이터베이스가 다양화되었다. Web of Science 기반의 InCites와 Scopus 기반의 SciVal 과 같이 기관 단위의 연구 생산성과 영향력을 쉽게 비교할 수 있는 웹 기반 도구들이 소개되고, Google Scholar를 활용하여 개인 저자 단위 인용 프로필을 분석하는 소프트웨어(Publish or Perish, 2007년 발표)도 등장하였다.
Before 2000, there was the Science Citation Index on CD-ROM from the Institute for Scientific Information (ISI), used by experts for specialist analyses. In 2002, Thomson Reuters launched an integrated web platform, making the Web of Science database widely accessible. Competing citation indices were created: Elsevier's Scopus (released in 2004) and Google Scholar (beta version released in 2004). Web-based tools to easily compare institutional research productivity and impact were introduced, such as InCites (using the Web of Science) and SciVal (using Scopus), as well as software to analyse individual citation profiles using Google Scholar (Publish or Perish, released in 2007).

2005년에는 미국 캘리포니아 주립대학교 샌디에고 캠퍼스에 재직중인 물리학자 Jorge Hirsch가 h-지수를 제안하여 개별 연구자의 인용 평가를 대중화했다. 1995년 이래로 저널영향력지수에 대한 관심은 꾸준히 증가하고 있다(‘저널영향력지수에 대한 집착(impact-factor obsession*)’ 참조). 
In 2005, Jorge Hirsch, a physicist at the University of California, San Diego, proposed the h-index, popularizing citation counting for individual researchers. Interest in the journal impact factor grew steadily after 1995 (see 'Impact-factor obsession').

최근 연구성과의 사회적인 이용과 온라인 상의 의견을 포괄하는 평가지표가 점차 중요해지고 있다. 그 예로 F1000Prime(2002년 설립), Mendeley(2008년 설립), Altmetric.com(Nature Publishing Group를 가지고 있는 Macmillan Science and Education의 후원 아래 2011년 설립) 을 들 수 있다. 
Lately, metrics related to social usage and online comment have gained momentum — F1000Prime was established in 2002, Mendeley in 2008, and Altmetric.com (supported by Macmillan Science and Education, which owns Nature Publishing Group) in 2011.

과학계량학자, 사회과학자, 연구관리자로서 우리는 만연해있는 평가지표의 오용 정도가 심각해지고 있음을 목도해왔다. 세계의 대학들이 국제 대학 순위(상하이 랭킹, Times Higher Education 리스트 등)에서의 순위에 집착하는 것은 평가지표 오용의 수많은 예 중 하나이다. 심지어 우리 관점에서 볼 때 이 순위들은 부정확한 데이터와 편협하고 비논리적인 지표에 기반한 것으로 보이지만 세계 대학들은 이에 집착하고 있다. 
As scientometricians, social scientists and research administrators, we have watched with increasing alarm the pervasive misapplication of indicators to the evaluation of scientific performance. The following are just a few of numerous examples. Across the world, universities have become obsessed with their position in global rankings (such as the Shanghai Ranking and Times Higher Education's list), even when such lists are based on what are, in our view, inaccurate data and arbitrary indicators.

일부 인사담당자는 임용지원자에게 h-지수를 요청하기도 한다. 몇몇 대학들은 일정 값 이상의 h-지수와 영향력지수가 높은 저널에 실린 논문의 수에 따라 승진을 결정한다. 연구자의 CV는 이러한 지표 값을 내세우는데 사용되어 왔으며 특히 의생물학 분야에서 이러한 경향이 두드러진다. 지도교수는 아직 준비가 채 되지 않은 박사과정 학생에게 영향력지수가 높은 저널에 논문을 게재하고 외부 연구비를 수주하도록 요구하는 일이 만연하고 있다.
Some recruiters request h-index values for candidates. Several universities base promotion decisions on threshold h-index values and on the number of articles in 'high-impact' journals. Researchers' CVs have become opportunities to boast about these scores, notably in biomedicine. Everywhere, supervisors ask PhD students to publish in high-impact journals and acquire external funding before they are ready.

스칸디나비아와 중국의 몇몇 대학들은 획일화된 지표 값에 따라 개별 연구자에게 연구비나 보너스를 지급한다. 예를 들어, 개별 연구자의 영향력 점수를 계산하여 연구비를 배정하거나 저널영향력지수 값이 15보다 높은 저널에 논문을 게재한 경우 연구자에게 보너스를 지급하는 식이다 2.
In Scandinavia and China, some universities allocate research funding or bonuses on the basis of a number: for example, by calculating individual impact scores to allocate 'performance resources' or by giving researchers a bonus for a publication in a journal with an impact factor higher than 15 (ref. 2).

대부분의 경우 연구자와 평가자는 여전히 균형 잡힌 연구성과평가를 위해 노력하고 있다. 그러나 연구성과 평가지표의 오용은 간과하기 어려울 정도로 광범위하게 이루어지고 있다. 
In many cases, researchers and evaluators still exert balanced judgement. Yet the abuse of research metrics has become too widespread to ignore.

이러한 상황 때문에 라이덴 선언(Leiden Manifesto)을 발표하게 되었다. 이 이름은 라이덴 선언이 구체화된 학회 개최지(http://sti2014.cwts.nl 참조)를 따랐다. 라이덴 선언의 열 가지 원칙은 과학계량학자에게는 새롭지 않지만 지금까지 성문화되지 않았기 때문에 명확하게 제시하기 어려웠다. ISI의 창립자인 Eugene Garfield와 같은 이 분야의 권위자들은 이 원칙들 중 몇 가지를 공식적으로 언급한 적이 있다3,4. 그러나 이러한 권위자들의 권고사항을 대학 행정담당자가 잘 인지하고 있어서 연구성과평가보고서를 살펴볼 때 고려할 것이라고 기대하기는 어렵다. 왜냐하면 이들은 성과평가 방법론의 전문가가 아니기 때문이다. 또한 평가 대상이 된 연구자가 평가에 대한 이의를 제기하고자 할 때 이러한 원칙들이 전문적인 저널에 흩어져 있어 접근이 어렵다.
We therefore present the Leiden Manifesto, named after the conference at which it crystallized (see http://sti2014.cwts.nl). Its ten principles are not news to scientometricians, although none of us would be able to recite them in their entirety because codification has been lacking until now. Luminaries in the field, such as Eugene Garfield (founder of the ISI), are on record stating some of these principles3,4. But they are not in the room when evaluators report back to university administrators who are not expert in the relevant methodology. Scientists searching for literature with which to contest an evaluation find the material scattered in what are, to them, obscure journals to which they lack access.

우리는 계량 지표 기반 연구성과평가에 벤치마킹이 될 만한 방법론으로서 열 가지 원칙을 제안한다. 이를 통해 연구자는 평가자를 이해할 수 있고 평가자는 계량적 평가지표를 이해할 수 있다.
We offer this distillation of best practice in metrics-based research assessment so that researchers can hold evaluators to account, and evaluators can hold their indicators to account.

Credit: Data Source: Thomson Reuters Web of Science; Analysis: D.H., L.W.

열 가지 원칙
Ten principles

1. 정량적 평가는 정성적 평가와 전문가 평가를 지원하는데 사용되어야 한다. 정량적 평가지표는 동료평가에서 발생할 수 있는 편향성에 대한 이의 제기와 검토를 용이하게 한다. 일련의 관련 정보 없이 동료에 대한 평가를 내리는 것은 어렵기 때문에 정량적 평가는 동료평가에서 활용되어야 한다. 하지만, 평가자는 연구성과에 대한 전반적 평가 관련 의사결정을 계량지표 값 자체로 대체해서는 안 된다. 평가지표가 평가자의 숙련된 판단을 대체할 수 없으며, 평가자는 평가지표에 자신의 평가에 대한 책임을 전가해서는 안 된다.

1) Quantitative evaluation should support qualitative, expert assessment. Quantitative metrics can challenge bias tendencies in peer review and facilitate deliberation. This should strengthen peer review, because making judgements about colleagues is difficult without a range of relevant information. However, assessors must not be tempted to cede decision-making to the numbers. Indicators must not substitute for informed judgement. Everyone retains responsibility for their assessments.

2. 기관, 연구 집단, 연구자의 목표에 따라 성과를 측정하라. 목표가 처음부터 명시되어야 하며, 성과평가에 사용되는 지표는 그 목표와 분명하게 연관되어야 한다. 평가지표의 선택과 적용방법은 사회/경제적, 문화적 맥락을 충분히 고려하여야 한다. 연구자의 목표는 다양하다. 선구적 학술 탐구 연구는 사회 문제 해결에 중점을 두는 연구와는 다르다. 그리고 리뷰는 학문적 아이디어의 우수성보다 정책, 산업, 공공의 요구에 기반을 둘 수 있다. 따라서 하나의 평가 모델이 모든 맥락에 동일하게 적용될 수 없다.
2) Measure performance against the research missions of the institution, group or researcher.
 Programme goals should be stated at the start, and the indicators used to evaluate performance should relate clearly to those goals. The choice of indicators, and the ways in which they are used, should take into account the wider socio-economic and cultural contexts. Scientists have diverse research missions. Research that advances the frontiers of academic knowledge differs from research that is focused on delivering solutions to societal problems. Review may be based on merits relevant to policy, industry or the public rather than on academic ideas of excellence. No single evaluation model applies to all contexts.

3. 지역적으로 가치 있는 연구의 우수성을 인정하라. 세계 도처에서 영어로 쓰여진 출판물이 곧 우수한 연구로 간주되고 있다. 예를 들어, 스페인 법은 스페인 연구자가 영향력이 높은 저널에 논문을 게재하는 것을 권고한다**. 저널영향력지수는 미국에서 출반된 영문저널 중 Web of Science에 색인된 저널들을 기반으로 산출된다. 이러한 편향은 지역적, 국가적인 요구에 기반한 연구가 주를 이루는 사회과학과 인문학에서 특히 문제가 된다. 또한 사하라사막 이남 아프리카의 HIV 전염병학처럼 인문사회학이 아닌 많은 다른 분야도 국가적, 지역적 가치를 지닌다.

연구의 다양성과 사회적 연관성은 저널영향력지수 값이 높은 영문 저널에 논문을 출판하려는 연구 경향에 의해 그 성장이 억제되고 있다. Web of Science에서 인용되는 스페인 사회학자들은 추상적 모델 연구나 미국의 데이터를 대상으로 연구한다. 지역 노동법, 노령자를 위한 가정의료, 이민노동자와 같은 지역 특수성을 반영한 연구를 하는 사회학자들의 이름은 Web of Science에 색인된 주요 스페인어 저널에서도 자취를 감추었다5. 수준 높은 비영어 학술문헌에 기반한 계량적 평가지표가 제공된다면 지역적으로 가치 있는 연구의 우수성을 규명하고 적절히 평가하는데 기여할 수 있을 것이다.

3) Protect excellence in locally relevant research. In many parts of the world, research excellence is equated with English-language publication. Spanish law, for example, states the desirability of Spanish scholars publishing in high-impact journals. The impact factor is calculated for journals indexed in the US-based and still mostly English-language Web of Science. These biases are particularly problematic in the social sciences and humanities, in which research is more regionally and nationally engaged. Many other fields have a national or regional dimension — for instance, HIV epidemiology in sub-Saharan Africa.

This pluralism and societal relevance tends to be suppressed to create papers of interest to the gatekeepers of high impact: English-language journals. The Spanish sociologists that are highly cited in the Web of Science have worked on abstract models or study US data. Lost is the specificity of sociologists in high-impact Spanish-language papers: topics such as local labour law, family health care for the elderly or immigrant employment5. Metrics built on high-quality non-English literature would serve to identify and reward excellence in locally relevant research.

4. 데이터 수집과 분석 기법은 공개되어야 하며 투명하고 단순해야 한다. 평가를 위한 데이터베이스 구축은 확실하게 명시된 규칙을 따라야 하며 그 규칙은 평가를 완료하기 전에 제시되어야 한다. 이 과정은 수 십 년 동안 계량서지학적 평가방법을 개발한 학계와 영리 단체가 따른 통상적 관례이다. 그리고 이 관례는 동료심사제를 거친 문헌에 게재된 프로토콜이다. 이러한 투명성은 엄정한 평가를 가능하게 했다. 예를 들어, 2010년 우리 그룹 중 하나인 네덜란드 라이덴 대학교 과학기술연구센터(the Centre for Science and Technology Studies at Leiden University in the Netherlands)에서 사용하는 주요 평가지표 계산 방법을 공개토론을 통해 수정하였다6. 이 분야에 새로이 진입하는 영리단체는 이러한 규정을 준수해야 한다. 불투명한 블랙박스 같은 연구성과평가 과정은 수용될 수 없다. 
4) Keep data collection and analytical processes open, transparent and simple.
 The construction of the databases required for evaluation should follow clearly stated rules, set before the research has been completed. This was common practice among the academic and commercial groups that built bibliometric evaluation methodology over several decades. Those groups referenced protocols published in the peer-reviewed literature. This transparency enabled scrutiny. For example, in 2010, public debate on the technical properties of an important indicator used by one of our groups (the Centre for Science and Technology Studies at Leiden University in the Netherlands) led to a revision in the calculation of this indicator6. Recent commercial entrants should be held to the same standards; no one should accept a black-box evaluation machine.

이해하기 쉬운 명확하고 간단한 연구성과평가지표는 평가의 투명성을 높여준다. 그러나 단순화된 평가지표가 연구활동 전반을 반영할 수 없으므로, 왜곡의 소지가 있다(원칙 7 참조). 따라서 평가자는 연구 과정의 복잡성과 평가지표의 단순성 간의 균형을 반드시 유지해야 한다.
Simplicity is a virtue in an indicator because it enhances transparency. But simplistic metrics can distort the record (see principle 7). Evaluators must strive for balance — simple indicators true to the complexity of the research process.

단순성은 투명성을 높여주기 때문에 지표의 미덕입니다.
Simplicity is a virtue in an indicator because it enhances transparency.

5. 평가 대상자가 평가 데이터와 분석과정을 확인할 수 있도록 하라. 연구성과 평가에 사용되는 데이터의 품질을 확실히 하기 위하여 평가에 관련된 모든 연구자는 연구성과가 정확하게 반영되었는지를 확인할 수 있어야 한다. 평가과정을 감독하고 관리하는 평가 담당자는 자체검증 또는 외부감사를 통하여 데이터의 정확성을 담보하여야 한다. 대학의 연구정보시스템(RIS)에는 데이터 검증 모듈이 포함되어야 하며, 이는 연구정보시스템 공급업체 선정의 기준이 되어야 한다. 정확한 고품질 데이터를 수집하고 처리하기 위해서는 시간과 재원이 필요하므로 이를 위한 예산 할당이 필요하다.
5) Allow those evaluated to verify data and analysis.
 To ensure data quality, all researchers included in bibliometric studies should be able to check that their outputs have been correctly identified. Everyone directing and managing evaluation processes should assure data accuracy, through self-verification or third-party audit. Universities could implement this in their research information systems and it should be a guiding principle in the selection of providers of these systems. Accurate, high-quality data take time and money to collate and process. Budget for it.

6. 학문 분야에 따른 출판과 인용관행의 다양성을 인정하라. 최선의 방법은 여러 개의 연구성과 평가지표 세트를 만든 후 학문 분야별로 적절한 평가지표를 선택하도록 하는 것이다. 몇 년 전, 유럽의 역사학자들이 국내 동료심사 평가에서 상대적으로 낮은 점수를 받았다. 이는 그들이 Web of Science에 색인된 저널에 논문을 게재하기 보다 단행본을 출판했기 때문이다. 이들은 운 나쁘게도 소속이 심리학과였다. 역사학자들과 사회과학자들은 단행본과 자국어로 쓴 문헌을 그들의 출판물 수에 포함시켜 줄 것을 요구하고, 컴퓨터 과학자들은 학술대회 논문을 출판물 수에 포함시켜 주길 요구한다.
6) Account for variation by field in publication and citation practices.
 Best practice is to select a suite of possible indicators and allow fields to choose among them. A few years ago, a European group of historians received a relatively low rating in a national peer-review assessment because they wrote books rather than articles in journals indexed by the Web of Science. The historians had the misfortune to be part of a psychology department. Historians and social scientists require books and national-language literature to be included in their publication counts; computer scientists require conference papers be counted.

인용률은 학문 분야에 따라 다르다. 수학 분야에서 상위저널의 영향력지수 값은 약 3정도이고, 세포 생물학 분야에서 상위저널의 영향력지수 값은 약 30 정도이다. 정규화된 평가지표가 필요하며, 가장 안정적인 정규화 방법은 백분위(percentile)이다. 이 때 개별 논문은 해당 분야의 인용 분포에 따른 백분위 중 어디에 해당하느냐에 기반하여 가중치를 받게 된다(예를 들어, 상위 1%, 10%, 20%). 인용 평균에 기반하게 되면 한 두 개의 출판물에 의해 특정 대학의 순위가 크게 변동될 수 있으나, 백분위에 기반하게 되면 한두 논문에 의한 큰 순위 변동이 발생하지 않는다7.
Citation rates vary by field: top-ranked journals in mathematics have impact factors of around 3; top-ranked journals in cell biology have impact factors of about 30. Normalized indicators are required, and the most robust normalization method is based on percentiles: each paper is weighted on the basis of the percentile to which it belongs in the citation distribution of its field (the top 1%, 10% or 20%, for example). A single highly cited publication slightly improves the position of a university in a ranking that is based on percentile indicators, but may propel the university from the middle to the top of a ranking built on citation averages7.

7. 개별 연구자 평가는 연구자의 전체 연구실적에 대한 정성적 판단에 기초하여야 한다. 새로운 논문을 발표하지 않더라도 연구자의 경력이 오래될수록 h-지수가 높다. 또한 h-지수는 학문 분야에 따라 그 값이 다르게 나타나는데, 탁월한 생명과학자의 h-지수는 200, 물리학자는 100, 사회과학자의 경우 20-30으로 나타난다(원문의 ref 8 참조). h-지수는 데이터베이스에 따라서도 다르게 나타나는데, 예를 들면 컴퓨터공학 연구자들의 h-지수가 Web of Science에서는 약 10 정도로 산출되지만 Google Scholar에서는 20-30 정도로 산출된다9. 따라서 연구자의 논문을 읽고 판단하는 것이 특정 계량지표 값 하나에 의존하는 것보다 훨씬 바람직하다. 여러 연구자를 비교할 때도 개인의 전문지식, 경험, 활동, 영향력에 관한 다양한 정보를 고려하는 것이 최선의 방법이다.
7) Base assessment of individual researchers on a qualitative judgement of their portfolio.
 The older you are, the higher your h-index, even in the absence of new papers. The h-index varies by field: life scientists top out at 200; physicists at 100 and social scientists at 20–30 (ref. 8). It is database dependent: there are researchers in computer science who have an h-index of around 10 in the Web of Science but of 20–30 in Google Scholar9. Reading and judging a researcher's work is much more appropriate than relying on one number. Even when comparing large numbers of researchers, an approach that considers more information about an individual's expertise, experience, activities and influence is best.

8. 구체성 오류(misplaced concreteness)와 정확성 과신(false precision)에 주의하라. 과학기술 지표는 개념적으로 모호하고 불분명한 경향이 있고 일반적이지 않은 엄격한 가설을 필요로 한다. 예를 들어 인용빈도가 가지는 의미는 오랫동안 논쟁의 대상이 되어 왔다. 그러므로 더욱 안정적이고 다원적인 평가를 위해서는 여러 개의 평가지표를 사용하는 것이 최선의 방법이다. 만약 오차 구간(error bar) 등을 사용하여 불확실성과 오류를 정량화 할 수 있다면, 이를 평가지표 값과 함께 제공해야 한다. 이것이 불가능하다면, 평가지표 제공자는 적어도 정확성을 과신하지 말아야 한다. 예를 들어, 저널영향력지수는 동점을 피하기 위해 소수점 이하 셋째 자리까지 공개된다. 그러나 인용빈도의 개념적 모호함과 임의적 변동성을 고려해볼 때, 매우 작은 영향력지수 값의 차이를 가지고 저널들을 구분하는 것은 의미가 없다. 정확성을 과신하지 마라. 소수점 첫째 자리까지가 적정하다.
8) Avoid misplaced concreteness and false precision.
 Science and technology indicators are prone to conceptual ambiguity and uncertainty and require strong assumptions that are not universally accepted. The meaning of citation counts, for example, has long been debated. Thus, best practice uses multiple indicators to provide a more robust and pluralistic picture. If uncertainty and error can be quantified, for instance using error bars, this information should accompany published indicator values. If this is not possible, indicator producers should at least avoid false precision. For example, the journal impact factor is published to three decimal places to avoid ties. However, given the conceptual ambiguity and random variability of citation counts, it makes no sense to distinguish between journals on the basis of very small impact factor differences. Avoid false precision: only one decimal is warranted.

9. 평가지표와 평가가 연구환경에 미칠 수 있는 영향을 염두에 두라. 평가지표는 보상체계를 통해 연구환경에 영향을 미칠 수 있으므로 예상 가능해야 한다. 따라서 어떤 경우라도 여러 개의 평가지표를 사용하는 것이 바람직하다. 단일 지표를 성과평가에 사용하게 되면 연구환경이 혼탁해지거나 평가지표 값을 높게 받는 것 자체가 연구의 목적이 되는 상황을 초래할 수 있다(즉, 평가지표 자체가 연구 목표가 되어 버리는 것이다). 한 예로 1990년대 호주 정부는 연구 기관에서 발표한 논문의 수에 크게 의존한 평가지표를 사용하여 대학의 연구비 지원을 결정하였다. 호주 대학들은 논문의 ‘가치’를 이 논문이 실린 학술지에 근거하여 연구비로 환산하여 계산할 수 있었다. 예를 들어, 2000년을 기준으로 한 논문의 연구비 가치가 호주달러로 800불(미국화폐로 약 480불)인 것으로 나타났다. 예상대로 호주 연구자가 발표한 논문의 수는 증가하였다. 하지만 그 논문들은 인용이 많이 되지 않는 저널에 실렸다. 즉, 논문의 수준은 하락하였다고 볼 수 있다10.
9) Recognize the systemic effects of assessment and indicators.
 Indicators change the system through the incentives they establish. These effects should be anticipated. This means that a suite of indicators is always preferable — a single one will invite gaming and goal displacement (in which the measurement becomes the goal). For example, in the 1990s, Australia funded university research using a formula based largely on the number of papers published by an institute. Universities could calculate the 'value' of a paper in a refereed journal; in 2000, it was Aus$800 (around US$480 in 2000) in research funding. Predictably, the number of papers published by Australian researchers went up, but they were in less-cited journals, suggesting that article quality fell10.

10. 정기적으로 평가지표를 철저히 검토하고 개정하라. 연구목표와 평가의 목적은 변화하고, 연구 시스템은 그와 함께 진화한다. 한때 유용했던 평가지표들이 부적절해질 수 있으며, 새로운 지표들도 등장한다. 연구성과 평가지표 시스템을 검토해야 하고 필요한 경우 개정해야 한다. 앞서 언급한 지나치게 단순화된 연구성과 평가 방식이 연구체계에 미친 영향을 알게 된 호주는 2010년에 연구 품질을 강조하는 다원화된 Excellence in Research for Australia 이니셔티브를 도입하였다.
10) Scrutinize indicators regularly and update them.
 Research missions and the goals of assessment shift and the research system itself co-evolves. Once-useful metrics become inadequate; new ones emerge. Indicator systems have to be reviewed and perhaps modified. Realizing the effects of its simplistic formula, Australia in 2010 introduced its more complex Excellence in Research for Australia initiative, which emphasizes quality.

향후 전망
Next steps

위의 열 가지 원칙 준수를 통해 연구성과평가는 과학의 발전과 과학과 사회간의 상호작용에 있어서 중요한 역할을 수행할 수 있을 것이다. 연구성과평가지표는 개인의 전문지식으로는 수집하거나 이해하기 어려운 중요한 정보를 제공할 수 있다. 그러나 평가지표가 제공하는 정량적 정보가 연구성과평가 도구에서 연구의 목적으로 바뀌어서는 안 된다.
Abiding by these ten principles, research evaluation can play an important part in the development of science and its interactions with society. Research metrics can provide crucial information that would be difficult to gather or understand by means of individual expertise. But this quantitative information must not be allowed to morph from an instrument into the goal.

견고한 통계 기법과 함께 평가 대상이 되는 연구의 목적과 본질을 신중하게 고려하였을 때 최선의 연구성과평가가 가능하다. 평가를 위해서는 정량적인 근거와 정성적인 근거 모두 필요하며, 이 둘은 각각의 방식으로 객관성을 지닌다. 학문에 관한 의사결정은 양질의 데이터를 바탕으로 한 양질의 평가 과정에 기초하여야 한다.
The best decisions are taken by combining robust statistics with sensitivity to the aim and nature of the research that is evaluated. Both quantitative and qualitative evidence are needed; each is objective in its own way. Decision-making about science must be based on high-quality processes that are informed by the highest quality data.

 

leidenmanifesto_kor.pdf
0.22MB

http://www.leidenmanifesto.org/

http://www.leidenmanifesto.org/translations.html

 


 

 

Nature. 2015 Apr 23;520(7548):429-31. doi: 10.1038/520429a.

 

 

Bibliometrics: The Leiden Manifesto for research metrics

Affiliations collapse

1Georgia Institute of Technology, Atlanta, Georgia, USA.

2Centre for Science and Technology Studies, Leiden University, the Netherlands.

3Spanish National Research Council and the Polytechnic University of Valencia, Spain.

PMID: 25903611

DOI: 10.1038/520429a

 

No abstract available

샌프란시스코 연구 평가 선언

San Francisco Declaration on Research Assessment

 
 

과학자의 연구 성과를 평가하는 방식이 개선되어야 한다는 요구가 날로 커지고 있다. 이를 논의 하기 위하여 2012년 12월 16일, 캘리포니아주 샌프란시스코에서 열린 미국세포생물학회(American Society for Cell Biology) 연례 회의에 몇몇 학술지 편집자들과 출판인들이 모였다. 이들이 만든 제안서를 ‘연구 평가에 관한 샌프란시스코 선언(San Francisco Declaration on Research Assessment)’이라 부른다. 영문 약어로 DORA인 이 선언을 우리는 ‘새로운 연구 평가 선언’이라 부르고자 한다. 우리는 모든 과학 분야의 이해관계자들이 이 선언에 그들의 이름을 올려 함께 지지해 주길 바란다.

과학 연구의 성과물은 매우 방대하고 다양하다. 이 성과는 새로운 내용 (지식, 데이터, 시료, 소프트웨어)을 담은 학술 논문, 지적 재산권, 그리고 고도로 숙련된 젊은 과학자들을 양성하는 것을 포함한다. 연구 성과의 질과 영향력은 연구비를 지원하는 기관들이나 과학자를 고용하는 연구소들, 그리고 과학자들 간에서도 끊임없이 평가된다. 따라서 이러한 평가 방법은 정확하면서도 현명하게 이루어 져야 한다.

연구 성과를 평가할 때 가장 많이 사용하는 주요 지표는 학술지 인용지수(Journal Impact Factor; JIF; 임팩트 팩터)다. 톰슨 로이터(Thomson Reuters) 사가 만든 이 지표는 본래 도서관 사서들이 도서관에 비치할 학술지를 구매하는데 참고하도록 만들어진 것으로, 어떤 연구 논문의 과학적 질을 평가하기 위한 것은 아니었다. 그러므로 연구 성과를 평가하는 도구로 현재 흔히 쓰이는 이 학술지 인용지수에는 몇 가지 결함이 있다는 점을 꼭 이해해야 한다. 그 한계는 다음과 같다.

  • A) 학술지 내의 개별 논문의 인용 분포가 극단적으로 왜곡되어 있다[1-3];
  • B) 학술지 인용지수의 특성이 각 분야마다 다르다. 게다가 인용지수는 학술논문과 종설논문 등 여러 종류의 글을 복합적으로 아우른 결과이다[1,4];
  • C) 학술지 인용지수는 편집 방침에 따라 조작될 수 있다[5];
  • D) 학술지 인용지수를 계산하는 데 사용되는 자료의 공개가 투명하지 않고, 대중이 쉽게 구할 수 없다[4,6,7].

따라서 연구 성과의 질을 평가하는 방식을 개선할 것을 다음과 같이 제안한다. 우리는 앞으로 연구 성과를 입증하는 데 연구 논문만이 아닌 다른 성과들의 비중 역시 커지길 바란다. 여전히 동료 평가(peer-reviewed)를 기반으로 하는 학술 논문은 연구 성과를 평가하는 핵심 요소가 될 것이다. 그러므로 우리의 제안은 동료 평가를 기반으로 한 학술 논문을 중심으로 하되, 논문만이 아니라 기초 데이터와 같은 결과물들도 중요한 연구 성과로 포함될 수 있도록 확대하자는 것이다. 이 제안은 연구비 지원 기관, 연구 기관, 학술지, 각종 학술 지표를 제공하는 단체, 그리고 개별 연구자 모두를 대상으로 한다. 

본 제안에는 다음과 같은 세부 주제가 있다.

  • 연구비 책정, 고용, 승진 등을 심사할 때 학술지 인용지수(IF)와 같이 학술지 지표 사용을 제한할 필요성
  • 연구 평가시 그 연구가 출간된 학술지가 아니라 그 자체의 가치로 평가할 필요성
  • 논문의 온라인 출간을 장려할 필요성 (논문의 글자 수, 그림 수, 참고문헌 수의 불필요한 제한이 사라지고, 연구의 영향력과 중요성을 판단할 새로운 지표를 확인할 기회 등)

우리는 여러 연구비 지원 기관, 연구 기관, 학술지 출판사, 그리고 연구자들이 이미 연구 평가시 개선안을 장려하고 있는 것을 알고 있다. 그런 노력들은 더 정교하고 의미 있는 연구 평가 방식을 위한 첫걸음이자 앞으로 주요 구성원들 모두가 함께 정립할 평가 방식의 기반이 될 것이다.

‘연구 평가에 관한 샌프란시스코 선언’의 서명인들은 연구 평가에서 다음의 지침을 행동으로 옮기는 것을 지지한다.

일반 제언

  1. 학술지 인용지수(JIF)와 같이 학술지 자체의 지표를 과학자 개인의 기여도나 임용, 승진, 연구비 수여 결정을 위해 연구 논문의 품질을 평가하는 대리 지표로 사용하지 않는다.

연구비 지원 기관들은

  1. 연구비를 신청하는 이들에게 과학적 생산성을 평가하는 기준을 명확하게 설명하고, 특히 경력이 짧은 연구자들에게는 학술 논문에 담긴 과학적 내용이 출판 지표나 그 논문이 발표된 학술지의 정체성보다 훨씬 중요하다는 것을 분명히 알린다.
  2. 연구 평가를 위해 학술 논문만이 아니라 기초데이터나 소프트웨어 등 모든 연구 결과물의 영향력과 가치를 고려한다. 나아가 정책 결정이나 실생활에 미치는 영향력처럼 연구 결과가 가져올 영향을 정성적으로 판단할 수 있는 지표들을 두루 고려한다.

연구 기관들은

  1. 경력이 짧은 초기 단계 연구자들에게 출판 지표나 논문이 발표된 학술지의 정체성보다 논문의 과학적 내용이 중요하다고 설명하고, 연구 기관 고용, 테뉴어 결정, 승진 결정 등의 기준을 명확히 밝힌다.
  2. 연구 평가 시 학술 논문만이 아니라 모든 연구 성과물 (데이터셋이나 소프트웨어 등)의 영향력과 가치를 고려한다. 나아가 정책 결정이나 실생활에 미치는 영향 등 연구의 파급력을 정성적으로 판단할 수 있는 지표들을 두루 고려한다.

출판사들은

  1. 학술지 인용지수를 홍보용으로 강조하는 것을 현저히 줄인다. 이상적으로는 인용지수 홍보를 멈추거나 학술지의 성과를 보다 풍부하게 제공할 수 있도록 인용지수를 다른 학술지 기반 지표(5년간 인용지수, Eigen지수, SCImago, h-index, 학술지의 편집 및 출간 기간 등)들과 함께 보여준다.
  2. 개별 논문의 성과를 보여주는 여러 지표들을 제공함으로써 논문이 발표된 학술지 출판 지표보다 개별 논문의 과학적 내용을 바탕으로 평가되도록 변화를 촉진한다.
  3. 책임감 있는 저자권 습관을 촉구하고 저자들의 구체적인 기여도 정보를 제공하게 한다.
  4. 개방형(open-access) 학술지와 구독형(subscription-based) 학술지 모두에 대하여 학술 논문 내 참고문헌 목록에 대한 재사용 제한을 모두 제거하고 이를 크리에이티브 커먼즈 퍼블릭 도메인 기증(Creative Commons Public Domain Dedication) 라이선스로 모두에게 공개한다.
  5. 학술 논문에 쓸 수 있는 참고문헌 개수 제한을 없애거나 줄이고, 가능하다면 해당 사실을 처음으로 보고한 사람들이 인정받을 수 있게 리뷰논문 대신 1차 저작물을 인용하게 한다.

지표를 제공하는 단체들은

  1. 지표를 계산하는 모든 방법과 사용한 자료들을 제공하여 투명성을 유지한다.
  2. 자료를 제공하되 제한 없이 재사용할 수 있게 하고, 가능하면 개인이 자료를 가지고 직접 계산을 할 수 있게 한다.
  3. 평가를 위해 학술지의 여러 지표를 부적절하게 조작하는 것은 절대 허용되지 않음을 명확히 한다. 부적절한 조작이 정확히 무엇인지, 그리고 이에 대응하기 위해 어떤 조치들을 취할 것인지 명백히 한다.
  4. 학술지 지표를 사용하고, 집계하고, 비교할 때에는 글의 종류가 다름을 염두에 두고(종설 논문과 학술논문), 학술 분야마다의 차이도 고려한다.

개별 연구자들은

  1. 연구비 수여, 고용, 테뉴어, 혹은 승진을 결정하는 위원회에 소속되어 있을 때에는 평가의 기준을 출판 지수가 아니라 과학적 내용으로 한다.
  2. 가능한 한 인정을 받아야 할 이가 인정받을 수 있도록, 리뷰보다는 관찰 결과가 처음으로 보고된 1차 저작물을 인용한다.
  3. 자기 소개서 등을 쓸 때는 출간된 논문의 영향력과 다른 연구 성과를 다양한 개별 논문 지수나 지표 등을 이용해 보여준다.
  4. 학술 인용지수에만 부적절하게 의존하는 연구 평가 방식에 이의를 제기하고, 특정 연구 성과의 가치와 영향력에 초점을 두는 최선의 방식을 가르치고 홍보한다.

 

There is a pressing need to improve the ways in which the output of scientific research is evaluated by funding agencies, academic institutions, and other parties.To address this issue, a group of editors and publishers of scholarly journals met during the Annual Meeting of The American Society for Cell Biology (ASCB) in San Francisco, CA, on December 16, 2012. The group developed a set of recommendations, referred to as the San Francisco Declaration on Research Assessment. We invite interested parties across all scientific disciplines to indicate their support by adding their names to this Declaration.

The outputs from scientific research are many and varied, including: research articles reporting new knowledge, data, reagents, and software; intellectual property; and highly trained young scientists. Funding agencies, institutions that employ scientists, and scientists themselves, all have a desire, and need, to assess the quality and impact of scientific outputs. It is thus imperative that scientific output is measured accurately and evaluated wisely.

The Journal Impact Factor is frequently used as the primary parameter with which to compare the scientific output of individuals and institutions. The Journal Impact Factor, as calculated by Thomson Reuters*, was originally created as a tool to help librarians identify journals to purchase, not as a measure of the scientific quality of research in an article. With that in mind, it is critical to understand that the Journal Impact Factor has a number of well-documented deficiencies as a tool for research assessment. These limitations include:

  • A) citation distributions within journals are highly skewed [1–3];
  • B) the properties of the Journal Impact Factor are field-specific: it is a composite of multiple, highly diverse article types, including primary research papers and reviews [1, 4];
  • C) Journal Impact Factors can be manipulated (or “gamed”) by editorial policy [5]; and
  • D) data used to calculate the Journal Impact Factors are neither transparent nor openly available to the public [4, 6, 7].

Below we make a number of recommendations for improving the way in which the quality of research output is evaluated. Outputs other than research articles will grow in importance in assessing research effectiveness in the future, but the peer-reviewed research paper will remain a central research output that informs research assessment. Our recommendations therefore focus primarily on practices relating to research articles published in peer-reviewed journals but can and should be extended by recognizing additional products, such as datasets, as important research outputs. These recommendations are aimed at funding agencies, academic institutions, journals, organizations that supply metrics, and individual researchers.

A number of themes run through these recommendations:

  • the need to eliminate the use of journal-based metrics, such as Journal Impact Factors, in funding, appointment, and promotion considerations;
  • the need to assess research on its own merits rather than on the basis of the journal in which the research is published; and
  • the need to capitalize on the opportunities provided by online publication (such as relaxing unnecessary limits on the number of words, figures, and references in articles, and exploring new indicators of significance and impact).

We recognize that many funding agencies, institutions, publishers, and researchers are already encouraging improved practices in research assessment. Such steps are beginning to increase the momentum toward more sophisticated and meaningful approaches to research evaluation that can now be built upon and adopted by all of the key constituencies involved.

The signatories of the San Francisco Declaration on Research Assessment support the adoption of the following practices in research assessment.

General Recommendation

1. Do not use journal-based metrics, such as Journal Impact Factors, as a surrogate measure of the quality of individual research articles, to assess an individual scientist’s contributions, or in hiring, promotion, or funding decisions.

For funding agencies

2. Be explicit about the criteria used in evaluating the scientific productivity of grant applicants and clearly highlight, especially for early-stage investigators, that the scientific content of a paper is much more important than publication metrics or the identity of the journal in which it was published.

3. For the purposes of research assessment, consider the value and impact of all research outputs (including datasets and software) in addition to research publications, and consider a broad range of impact measures including qualitative indicators of research impact, such as influence on policy and practice.

For institutions

4. Be explicit about the criteria used to reach hiring, tenure, and promotion decisions, clearly highlighting, especially for early-stage investigators, that the scientific content of a paper is much more important than publication metrics or the identity of the journal in which it was published.

5. For the purposes of research assessment, consider the value and impact of all
research outputs (including datasets and software) in addition to research publications, and consider a broad range of impact measures including qualitative indicators of research impact, such as influence on policy and practice.

For publishers

6. Greatly reduce emphasis on the journal impact factor as a promotional tool, ideally by ceasing to promote the impact factor or by presenting the metric in the context of a variety of journal-based metrics (e.g., 5-year impact factor, EigenFactor [8], SCImago [9], h-index, editorial and publication times, etc.) that provide a richer view of journal performance.

7. Make available a range of article-level metrics to encourage a shift toward assessment based on the scientific content of an article rather than publication metrics of the journal in which it was published.

8. Encourage responsible authorship practices and the provision of information about the specific contributions of each author.

9. Whether a journal is open-access or subscription-based, remove all reuse limitations on reference lists in research articles and make them available under the Creative Commons Public Domain Dedication [10].

10. Remove or reduce the constraints on the number of references in research articles, and, where appropriate, mandate the citation of primary literature in favor of reviews in order to give credit to the group(s) who first reported a finding.

For organizations that supply metrics

11. Be open and transparent by providing data and methods used to calculate all metrics.

12. Provide the data under a licence that allows unrestricted reuse, and provide computational access to data, where possible.

13. Be clear that inappropriate manipulation of metrics will not be tolerated; be explicit about what constitutes inappropriate manipulation and what measures will be taken to combat this.

14. Account for the variation in article types (e.g., reviews versus research articles), and in different subject areas when metrics are used, aggregated, or compared.

For researchers

15. When involved in committees making decisions about funding, hiring, tenure, or promotion, make assessments based on scientific content rather than publication metrics.

16. Wherever appropriate, cite primary literature in which observations are first reported rather than reviews in order to give credit where credit is due.

17. Use a range of article metrics and indicators on personal/supporting statements, as evidence of the impact of individual published articles and other research outputs [11].

18. Challenge research assessment practices that rely inappropriately on Journal Impact Factors and promote and teach best practice that focuses on the value and influence of specific research outputs.

 

 


출처: https://sfdora.org/read/read-the-declaration-korean/

출처: https://sfdora.org/read/

보건의료전문직 교육에 투자에 대해 기관 리더가 가지고 있는 가치요인 (JAMA Netw Open. 2023)
Identifying Value Factors in Institutional Leaders’ Perspectives on Investing in Health Professions Educators
Ann Poncelet, MD; Sally Collins, MA, MSc; Darren Fiore, MD; Glenn Rosenbluth, MD; Helen Loeser,MD, MSc; George F. Sawaya, MD; Arianne Teherani, PhD; Anna Chang, MD

소개
Introduction

교육자, 교육 혁신 및 학술활동에 대한 투자는 모든 의과대학과 의료계의 핵심 사명인 우수 의학교육을 위해 필수적입니다.1,2 연구에 따르면 교내 보조금과 기부 석좌 프로그램이 교육 혁신 및 교육자 성장과 같은 성과에 도움이 되는 것으로 나타났습니다.3,4 그러나 학부 및 대학원 의학교육 비용의 증가와 함께 임상 및 연구 사업에서 발생하는 수익 감소에 직면한 학부 의료 센터(AMC)가 혁신과 교육자 자체를 포함한 의학교육에 대한 자금은 여전히 상당한 위험에 처해 있습니다.2,5 등록금으로 의학교육 비용을 충당하는 경우는 거의 없기 때문에,2 우리는 기관 리더들이 지원을 옹호하도록 참여시켜야 합니다.6 
Investing in educators, educational innovation, and scholarship is essential for excellence in medical education, a core mission of all medical schools and health care.1,2 Studies demonstrate the benefit of intramural grants and endowed chair programs to outcomes like education innovation and educator growth.3,4 Yet, funding for medical education, including for innovation and the educators themselves, remains at significant risk as academic medical centers (AMCs) face declining revenue from the clinical and research enterprises along with increasing costs of undergraduate and graduate medical education.2,5 Because tuition rarely covers the costs of medical education,2 we must engage institutional leaders to advocate for support.6

교내 보조금이나 기부형 석좌와 같은 교육자 투자 프로그램(EIP)을 위한 기금은 임상 행정이나 생의학 연구 경력을 가진 리더가 할당하는 경우가 많습니다. 현재 임상 수익이 AMC의 교육 및 연구 임무에 보조금을 지급하기 때문에 이들은 경제적인 측면에 초점을 맞추는 것이 당연합니다.2,7 그러나 투자 수익률(ROI)과 같은 경제적 지표만으로는 EIP의 가치를 판단하기에는 충분하지 않습니다.7 AMC 리더와 교육자는 향후 대화와 자원 배분을 위한 더 광범위한 프레임워크가 필요합니다. 현재까지 기관 리더의 관점, 특히 재무적 ROI 이상의 가치를 지닌 요소에 대한 관점은 누락되어 있습니다. 
Funds for educator investment programs (EIPs) like intramural grants or endowed chairs are often allocated by leaders with backgrounds in clinical administration or biomedical research. They hold an understandable economic focus since clinical revenue currently subsidizes the AMC’s education and research missions.2,7 However, economic metrics, such as return on investment (ROI), are insufficient to determine the value of EIPs.7 AMC leaders and educators need a broader framework to inform future dialogue and resource allocation. To date, the perspective of institutional leaders is missing, especially regarding the factors that have value beyond financial ROI.

전통적인 재무 지표를 넘어서는 가치 요소를 탐색하기 위한 한 가지 프레임워크는 연방 최고정보위원회에서 개발한 가치 측정 방법론(VMM)입니다.8 미국 연방 정부에서 사용하는 VMM은 5가지 영역에서 가치 요소를 제시합니다.8 

  • 개인(수혜자 개인에게 혜택),
  • 재무(비용, 수익 포함),
  • 운영(시스템 운영 개선),
  • 사회적 또는 사회적(집단 또는 사회에 혜택),
  • 전략적 또는 정치적(기관의 사명, 전략적 목표, 우선순위 및 의무 발전)

한 임상 시뮬레이션 프로그램에서는 운영(재원 기간 감소) 및 전략적(환자 안전 문화) 등의 추가 영역에서 가치 요소를 식별하는 데 VMM을 사용했습니다.9 이 프레임워크는 잠재력이 있지만 아직 학술 EIP에 적용되지 않은 상태입니다. 이 글에서는 VMM 프레임워크를 사용하여 교육자 성장과 교육 혁신에 투자하는 교내 프로그램에 관한 의료 전문 교육기관 및 관련 의료 시스템 리더의 가치 요인을 탐색합니다. 
One framework for exploring value factors beyond traditional financial metrics is the value measurement methodology (VMM) developed by the Federal Chief Information Council.8 Used by the US federal government, VMM presents value factors in 5 domains:

  • individual (benefits individual recipient),
  • financial (including costs, revenues),
  • operational (improves system operations),
  • social or societal (benefits group or society), and
  • strategic or political (advances institution’s mission, strategic goals, priorities, and mandates).8 

One clinical simulation program used VMM to identify value factors in additional domains, such as operational (decreased length of stay) and strategic (patient safety culture).9 This framework has potential and has yet to be applied to academic EIPs. Using the VMM framework, we present an exploration of value factors of leaders at a health professions institution and affiliated health systems regarding intramural programs that invest in educator growth and education innovation.

연구 방법
Methods

이 질적 연구는 주제 분석10,11을 사용하여 기관 리더의 관점을 명확히 하기 위해 구성주의적 지향으로 인터뷰 데이터에서 주제를 식별했습니다. 샌프란시스코 캘리포니아 대학교의 기관윤리심의위원회는 이 연구가 일반원칙에 따라 면제되는 것으로 간주했습니다. 구두와 이메일을 통해 사전 동의를 얻었습니다. 이 연구는 질적 연구 보고 표준(SRQR) 보고 가이드라인을 따랐습니다.
This qualitative study used thematic analysis10,11 to identify themes in interview data, with a constructivist orientation, to elucidate the perspectives of institutional leaders. The institutional review board at the University of California, San Francisco, deemed this study exempt via the Common Rule. Informed consent was obtained orally and via email. This study followed the Standards for Reporting Qualitative Research (SRQR) reporting guideline.

환경 및 참여자
Setting and Participants

본 연구는 치과, 의학, 간호학, 약학 등 4개 학과와 물리치료학과가 있는 캘리포니아대학교 샌프란시스코 캠퍼스(UCSF)에서 수행되었습니다. UCSF와 3개의 부속 의료 시스템에서 55명의 리더를 이메일을 통해 초대했습니다. 충분한 이해의 깊이를 확보하기 위해 다양한 직급, UCSF 및 EIP 프로그램, 다양한 전문 분야와 규모의 부서에서 다양한 역할 경험을 가진 리더를 선정했습니다.12 처음에 응답하지 않은 응답자 31명을 대상으로 리더 역할을 충분히 대표할 수 있을 때까지 후속 인터뷰를 진행했으며, 이 중 2명은 파일럿 인터뷰 대상자로 참여했습니다. 
Our study was conducted at the University of California, San Francisco (UCSF), an academic health professions institution with 4 schools—dentistry, medicine, nursing, and pharmacy—and a physical therapy department. We invited 55 leaders via email from across UCSF and 3 affiliated health systems. We chose leaders at multiple levels of leadership with a range of experience in their roles, with UCSF and the EIP programs, and from departments of different specialties and sizes to reach a sufficient depth of understanding.12 We followed up with those who did not initially respond until we had sufficient representation of leader roles at 31 respondents, 2 of whom served as pilot interviewees.

도구
Instrument

5가지 VMM 영역(재무, 개인, 운영, 사회적 또는 사회적, 전략적 또는 정치적)8에 기반한 반구조화된 인터뷰 가이드(부록 1의 전자 부록)를 개발하여 교육에 맞게 조정했습니다. UCSF 하일레 데바스 의학교육자 아카데미(AME)3,4,13에서 개발한 두 가지 EIP, 즉 혁신 교육 기금 프로그램(IF)과 연간 15,000달러에서 30,000달러의 기부 의자 프로그램(EC)을 모범 사례로 강조했습니다. IF는 경쟁력 있는 교내 보조금을 통해 UCSF 보건 전문직 교육자들이 커리큘럼 혁신을 개발, 시범 운영 및 연구할 수 있도록 지원합니다.3 EC는 AME 회원의 경력 개발을 지원하여 기관 안팎에서 영향력을 확대하는 것을 목표로 합니다.4 우리는 각 리더에게 해당 부서 또는 단위의 IF 수혜자 및 EC 보유자 명단을 제공하여 이러한 프로그램을 설명하고 자극을 주도록 했습니다. 또한 리더들에게 가장 중요한 요소를 설명해 달라고 요청했습니다.
We developed a semistructured interview guide (eAppendix in Supplement 1) based on 5 VMM domains (financial, individual, operational, social or societal, and strategic or political),8 adapted for education. We highlighted as exemplars 2 EIPs developed by the UCSF Haile T. Debas Academy of Medical Educators (AME)3,4,13: the Innovations Funding for Education program (IF), and the Endowed Chair program (EC) at $15 000 to $30 000 per year. The IF supports UCSF health professions educators to develop, pilot, and study curricular innovations with competitive intramural grants.3 The EC supports the career development of AME members, with the aim of expanding their impact within and beyond the institution.4 We gave each leader a list of IF recipients and EC holders from their department or unit to illustrate these programs and serve as a prompt. We also asked leaders to articulate the most important factor.

zoi221604supp1_prod_1675800338.73239.pdf
0.24MB

 

두 명의 고위 리더가 파일럿 인터뷰 대상자로 참여하여 인터뷰 가이드를 다듬고, 3명의 저자 인터뷰 담당자(A.C., D.F., G.R.)를 교육하고, 일관성을 확보했습니다. 이 데이터는 분석에 포함되지 않았습니다. 나머지 29건의 인터뷰는 2019년 6월부터 9월 사이에 진행되었으며, 직접 보고하는 리더를 인터뷰한 사람은 없었습니다. 인터뷰는 12~59분(평균[SD], 35.7[8.8]분) 동안 진행되었으며, 휴대폰 음성 녹음 애플리케이션을 사용하여 직접 대면하거나 Zoom 화상 회의를 사용하여 가상으로 진행되었습니다. 모든 인터뷰 오디오 녹음은 필사되었습니다. 
Two senior leaders served as pilot interviewees to refine the interview guide, train 3 author-interviewers (A.C., D.F., G.R.), and ensure consistency. These data are not included in the analysis. The remaining 29 interviews were conducted between June and September 2019; no one interviewed a leader to whom they reported directly. Interviews lasted 12 to 59 minutes (mean [SD], 35.7 [8.8] minutes) and were conducted in-person using a mobile phone voice recording application or virtually using Zoom videoconferencing. All interview audio recordings were transcribed.

반사성
Reflexivity

이 연구는 우리의 주관과 맥락이 연구 과정에 어떤 영향을 미치는지 자의식적으로 비판, 평가, 평가하는 일련의 지속적이고 협력적이며 다각적인 관행을 사용했습니다. 저자 중 6명은 임상 교육자(A.P., A.C., G.R., D.F., G.S., H.L.)이고, 1명은 교육 연구자(A.T.), 1명은 교육 연구 동료(S.C.)입니다. 5명의 저자는 연구 이전 또는 연구 시점에 석좌교수를 역임했으며(A.C., D.F., G.R., G.S., A.P.), 3명(A.C., G.R., A.T.)은 이전에 IF 프로그램의 감독 또는 공동 감독을 맡은 적이 있습니다. 저자 중 한 명은 현재 AME의 디렉터(A.P.)이고 다른 한 명은 전 디렉터(H.L.)입니다. 세 명의 저자는 이 프로그램의 수혜자였던 적이 없습니다(S.C., A.T., H.L.). 우리는 정기적이고 성찰적인 토론에 참여하여 연구 결과를 해석할 때 서로의 가정을 고려하거나 이의를 제기할 수 있었습니다.
This study used a set of continuous, collaborative, and multifaceted practices through which we self-consciously critique, appraise, and evaluate how our subjectivity and context influence the research processes. Six authors are clinician educators (A.P., A.C., G.R., D.F., G.S., H.L.), 1 is a is an education researcher (A.T.), and 1 is an education research associate (S.C.). Five authors held endowed chairs prior to or at the time of the study (A.C., D.F., G.R., G.S., A.P.), and 3 (A.C., G.R., A.T.) had previously directed or codirected the IF program. One author is the current director of the AME (A.P.), and another a former director (H.L.). Three authors have never been a recipient of these programs (S.C., A.T., H.L.). We engaged in regular, reflective discussion, which enabled us to consider or challenge each other’s assumptions when interpreting findings.

데이터 분석
Data Analysis

귀납적 접근법에 따른 주제분석10,11을 사용하여 모든 인터뷰를 필사한 후 데이터를 분석했습니다.

  • 4명의 저자(A.P., S.C., A.T., G.S.)는 인터뷰 질문을 바탕으로 예비 추론 코드(비판단적인 방식으로 표현된 관찰 가능한 데이터)를 사용하여 코드북을 개발했으며, 이 코드북은 3개의 인터뷰 녹취록을 사용하여 반복적인 합의 형성 접근법을 통해 데이터에서 생성된 코드로 더욱 구체화되었습니다.
  • 그런 다음 4명의 저자가 나머지 트랜스크립트를 코딩했습니다. 각 녹취록은 팀원 중 2명이 코딩하고 합의를 도출하기 위해 토론을 통해 조정했습니다.
  • 5명의 저자(A.C., A.P., G.R., D.F., S.C.)가 분석된 데이터를 검토하여 중요한 주제를 종합했습니다. 분석 전반에 걸쳐 모든 팀원의 관점을 반영하여 데이터에 대한 이해를 돕고 연구팀의 관점이 아닌 리더의 목소리를 주제에 반영할 수 있도록 했습니다.
  • 코딩된 녹취록은 Dedoose 분석 소프트웨어 버전 9.0.62(사회문화 연구 컨설턴트)를 사용하여 정리했습니다.

We used thematic analysis,10,11 following an inductive approach, to analyze data once all interviews had been transcribed.

  • Four authors (A.P., S.C., A.T., G.S.) developed a codebook from preliminary, low-inference codes (observable data expressed in a nonjudgmental way) based on the interview questions, which was further refined with codes generated from the data through an iterative consensus-building approach using 3 interview transcripts.
  • These 4 authors then coded the rest of the transcripts. Each transcript was coded and reconciled by 2 of these team members through discussion to achieve consensus.
  • Five authors (A.C., A.P., G.R., D.F., S.C.) reviewed the analyzed data to synthesize overarching themes. We drew on the perspectives of all team members throughout the analysis to facilitate a shared understanding of the data and ensure that the themes represented the voices of the leaders, not the perspectives of the study team.
  • We organized coded transcripts with Dedoose analytic software version 9.0.62 (SocioCultural Research Consultants).
결과
Results

분석을 위해 29명의 리더를 인터뷰했습니다(캠퍼스 또는 대학 리더 5명[17%], 의료 시스템 리더 3명[10%], 보건 전문학교 리더 6명[21%], 부서 리더 15명[52%])(표 1). 개인, 재무, 운영, 사회적 또는 사회적, 전략적 또는 정치적 등 VMM 프레임워크 영역을 사용하여 나타난 주제를 제시합니다(표 2). EIP의 개별 수혜자에게 미치는 영향부터 시작하여 리더들이 가장 중요하다고 생각하는 가치 요소로 결론을 내립니다. 

We interviewed 29 leaders for analysis (5 [17%] campus or university leaders; 3 [10%] health systems leaders; 6 [21%] health professions school leaders; 15 [52%] department leaders) (Table 1). We present the themes that emerged using VMM framework domains: individual, financial, operational, social or societal, and strategic or political (Table 2). We begin with the impact on the individual beneficiary of EIPs and conclude with the value factors leaders identified as the most important.

개인의 가치
Individual Value

조직 리더들은 수혜자 개인의 발전, 경력, 위상 강화에 따른 혜택을 중요하게 여겼습니다. 교수진은 교육자 및 리더로서 기술과 전문성을 개발합니다. 이러한 이니셔티브는 의학교육에 참여할 수 있는 발판 역할을 하며, 특히 초기에 지원을 받으면 승진 및 리더십 역할을 포함하여 오랫동안 성공적인 커리어를 쌓을 수 있는 주니어 교수진에게 도움이 됩니다. 리더들은 교육자 투자가 개인에게 미치는 긍정적인 영향에 대해 강조했습니다. 기부형 의자나 교육 보조금을 받는다는 것은 의미 있는 일이며, 교육자들이 열정을 갖고 있는 일을 할 수 있도록 신뢰를 줍니다. 교수진에게 이러한 기금을 맡기면 아이디어를 실험하고, 자신감과 성공에 대한 열망을 얻고, 기금 기간 이후에도 더 많은 일을 할 수 있는 유연성을 확보할 수 있습니다. 리더들은 인재를 믿고 투자하면 개인을 넘어 운영, 전략 또는 정치, 사회적 또는 사회적 차원의 영향력까지 다양한 영역에서 보상을 얻을 수 있다는 점을 거듭 강조했습니다.
Organizational leaders viewed the benefits to the individual recipients as enhancing their development, career, and stature. Faculty develop skills and expertise as educators and leaders. Such initiatives serve as a launch pad for involvement in medical education, especially junior faculty who, if supported early on, can be engaged to have long successful careers, including accelerated promotion and leadership roles. Leaders underscored the affirmational impact that educator investments have on individuals. The honor of receiving an endowed chair or education grant is meaningful and gives educators credibility to do work about which they are passionate. Entrusting faculty with these funds gives them the flexibility to experiment with ideas, gain confidence and a desire to succeed, and do more beyond the duration of the funding. Leaders repeatedly highlighted that entrusting and investing in people also reaps rewards in domains beyond the individual to the operational, strategic or political, and social or societal levels of impact.

재무적 가치
Financial Value

리더들은 EIP가 실용적, 철학적 이점을 모두 가지고 있다는 점을 인정했습니다. 실용적인 측면에서, 자금 지원은 교수진에게 새로운 교육 프로젝트를 수행할 수 있는 권한과 책임을 부여합니다. 또한 교수진의 시간을 보호하고 여러 부서 또는 프로그램에 걸친 프로젝트에 실질적인 리소스를 제공합니다. 리더들은 이러한 프로그램을 매칭 기부를 통해 부서, 임상 현장 또는 기관의 추가 자원을 장려할 수 있는 수단으로 인식했습니다. 또한 리더들은 교육 기금의 더 깊은 철학적 이점을 강조하며, 수익 창출로 이어지지 않더라도 교육에 투자하는 것이 중요하다고 강조했습니다.
Leaders acknowledged that EIPs have both practical and philosophical benefits. On a practical level, funding gives faculty permission and accountability to accomplish new educational projects. It protects faculty time and provides tangible resources for projects that cross departments or programs. Leaders saw these programs as a means to encourage additional resources from departments, clinical sites or the institution through matching contributions. Leaders also highlighted a deeper philosophical benefit of educational funding, emphasizing the importance of investing in education even though the result is not revenue generation.

운영 가치
Operational Value

리더들은 교육 프로그램, 효율성, 채용 및 유지라는 세 가지 영역에서 운영상의 가치가 있다고 설명했습니다.

  • 리더들은 EIP가 교육 방법을 형성하고, 변화시키고, 개선하는 데 중요한 기여를 한다고 생각했습니다. 이들은 학습자가 최첨단 과학에 참여하고 성공적인 커리어를 준비할 수 있도록 돕는 활동에 직접적으로 기여합니다. 혁신적인 프로그램과 교육 프로젝트에 참여할 수 있는 기회는 최고의 학습자를 끌어들이고 전통적으로 의학교육에서 가시성이 부족했던 분야에 대한 노출 기회를 제공합니다. 일부 리더들은 의학 커리큘럼에 다양한 학문과 사회 문제를 도입하는 전문직 간 교육자들의 협업이 가져다주는 이점에 대해 설명했습니다. 리더들은 이러한 프로그램이 인증 기준을 충족하는 데 기여한다고 언급했습니다. 이러한 프로그램은 제한된 리소스로 인해 달성할 수 없었던 교육 제공 방식에 변화를 가져올 수 있는 기회를 창출합니다.
  • 또한 리더들은 효율성 향상을 중요한 가치로 여겼습니다. 여기에는 보다 비용 효율적인 교육 프로그램과 임상 시스템의 효율성을 높이고 낭비를 줄이기 위한 학습자 교육이 포함되었습니다.
  • 리더들은 교수진과 학습자의 채용 및 유지를 중요한 운영 가치로 강조했습니다. EIP는 최고의 교수진을 유치 및 채용하고 이들이 교육기관에 계속 머물도록 장려하는 데 도움이 됩니다. EIP는 우수한 학습자를 교육기관으로 끌어들여 향후 교수진 임용을 가능하게 하는 경우가 많습니다.

Leaders described 3 areas of operational impact that were of value: educational programs, efficiency, and recruitment and retention.

  • Leaders viewed EIPs as important contributors to shaping, transforming, and improving teaching methods. They feed directly into activities that engage learners in cutting-edge science and prepare them for successful careers. Innovative programs and opportunities to participate in education projects attract the best learners and offer exposure for disciplines traditionally lacking visibility within medical education. Some leaders described the benefit of a collaboration of interprofessional educators who bring a broader spectrum of disciplines and social issues into the medical curriculum. Leaders noted that these programs contribute to meeting accreditation standards. They create opportunities for changes in the way that education is delivered, which might not otherwise be achieved because of limited resources.
  • Leaders also saw improved efficiency as an important value. This included having more cost-effective educational programs and educating learners to enhance efficiency and decrease waste in clinical systems.
  • Leaders highlighted recruitment and retention of faculty and learners as a critical operational value. EIPs help attract and recruit the best faculty and encourage them to stay at the institution. EIPs draw high-quality learners to the institution, often enabling future faculty appointments.

사회 및 사회적 가치
Social and Societal Value

리더들은 조직을 넘어선 사회적 가치와 교수진, 학습자, 환자 등 조직 내부 커뮤니티에 대한 사회적 가치에 대해 설명했습니다.

  • 중요한 가치는 발표와 출판을 통해 일반화할 수 있고 기관 외부로 전파할 수 있는 교육 내 연구를 가능하게 하는 것이었습니다. 그들은 교수진이 환자와 사회에 도움이 되고 기관을 넘어 교육 프로그램을 향상시키는 교육 장학의 리더 또는 전문가가 되기를 원했습니다. 리더들은 기관 외부의 커뮤니티와의 관계를 구축하고 더 큰 사회적 이익에 도움이 되는 투자의 중요성을 강조했습니다. 이들은 지역, 국가, 글로벌 수준에서 영향력을 발휘하는 교육자 및 프로그램의 예를 들었습니다. 리더들은 긴급한 사회 문제를 해결하고, 의료 격차를 줄이며, 다양한 환자 집단의 치료 접근성을 개선하는 EIP의 중요성을 인식했습니다. 이들은 최상의 치료를 제공할 수 있도록 의료 서비스 제공자를 교육해야 하는 기관의 사회적 책임을 강조했습니다.

Leaders described societal value beyond the organization and social value to the organization’s internal community, including faculty, learners, and patients.

  • An important value was enabling work within education that is generalizable and disseminated beyond the institution through presentations and publications. They wanted faculty to be leaders or experts in education scholarship that benefits patients and society and enhances education programs beyond the institution. Leaders highlighted the importance of investments that build connections to the community outside the institution and benefit the greater societal good. They gave examples of educators and programs with impact ranging from local to national and global levels. Leaders recognized the importance of EIPs that address pressing societal issues, reduce health care disparities, and improve access to care for diverse patient populations. They highlighted the institution’s social responsibility to train health care providers to deliver the best care.

리더들은 이러한 이니셔티브를 통해 구축된 네트워크와 협력이 여러 부서와 학교에서 서로 배우는 교육자에게 도움이 된다는 점을 인식했습니다. 

  • 이러한 전문적인 관계는 교육자 및 학자 커뮤니티를 통해 혁신과 아이디어의 융합을 지원합니다. 이러한 커뮤니티는 후배 교육자를 멘토링하고, 학습자를 유치하며, 모범 사례를 모델링할 수 있는 포럼을 제공합니다. 이러한 연결은 개인이 교육기관 내 교육자 커뮤니티의 일원으로서 소속감을 느낄 수 있는 중요한 방법입니다. 리더들은 EIP가 환자 치료를 개선하는 교육 프로그램 개발을 지원하기를 희망한다고 설명했습니다. 그들은 교육자를 지원하면 참여도와 열정이 높아져 환자 치료로 이어진다고 느꼈습니다.

Leaders recognized that networks and collaborations created through these initiatives benefit educators who learn from each other across departments and schools.

  • These professional relationships support innovation and the confluence of ideas through a community of educators and scholars. They provide a forum to mentor junior educators, attract learners, and model best practices. These connections are important ways for individuals to experience a sense of belonging as part of a community of educators within the institution. Leaders described a desire for EIPs to support the development of educational programs that improve patient care. They felt that supporting educators lead to increased engagement and enthusiasm, which transferred to their patient care.

전략적 및 정치적 가치
Strategic and Political Value

리더들은 교육에 대한 투자가 조직 문화, 혁신, 성공에 도움이 되는 전략적, 정치적으로 중요하다고 생각했습니다. 교육에 대한 투자는 개인, 조직, 그 너머에 상징적인 영향을 미칩니다.

  • 리더들은 이러한 프로그램에 헌신하는 것이 교육과 교육적 학술활동의 중요성을 인식하는 것이라고 말했습니다.
  • 교육자의 우수성과 업적에 대한 보상은 교육자의 기관 내 가시성을 보장합니다.
  • 교육자의 업무가 중요하고 다른 임무와 동등하다는 메시지를 전달할 수 있습니다.
  • 포상은 수상자의 부서와 리더에게 명성을 부여하고, 부서의 교육 가시성을 높이며, 기관의 평판에 기여합니다.
  • 리더들은 교육적 기여를 저평가하는 문화에서 교육 교직원이 환영받고, 참여하고, 권한을 부여받는 문화로 변화시킬 수 있는 힘에 대해 설명했습니다.

Leaders deemed investing in education as strategically and politically important, which benefits organizational culture, innovation, and success. Investing in education has a symbolic impact for individuals, the organization, and beyond.

  • Leaders expressed how committing to these programs recognizes the importance of education and education scholarship.
  • Rewarding educators’ excellence and achievements ensure their visibility within the institution.
  • It sends a message that educators’ work is crucial and equal to other missions.
  • Awards bring prestige to recipients’ departments and leaders, raise departments’ education visibility, and contribute to the institution’s reputation.
  • Leaders described the power to transform culture from one that undervalues educational contributions to one where education faculty feel welcomed, engaged, and empowered.

혁신은 리더들이 교육 기관을 우수성의 최전선에 두기 위해 중요하게 생각하는 전략적 가치 요소입니다. 

  • 그들은 이러한 리소스를 통해 창의적으로 사고하고, 위험을 감수하고, 실험하고, 새로운 지식을 창출할 수 있다고 생각했습니다. 
  • 그들은 교육자들이 생각하고, 읽고, 더 깊이 파고들 수 있는 보호된 공간을 갖는 것을 중요하게 생각했습니다. 
  • 리더들은 학술 의료 기관은 교육 프로그램 때문에 훌륭한 것이지 그 반대가 아니라고 말했습니다
  • 교육 혁신, 창의성, 프로젝트, 협업은 개인과 기관 전체의 성공을 가능하게 합니다. 업무가 기관의 더 넓은 사명과 일치하는 것이 중요합니다.

Innovation is an important strategic value factor expressed by leaders to keep the institution at the forefront of excellence.

  • They felt these resources allowed for thinking creatively, taking risks, experimenting, and generating new knowledge.
  • They prized having a protected space for educators to think, read, and dive deeper.
  • Leaders expressed that an academic medical institution is great because of its educational programs, not the reverse.
  • Education innovation, creativity, projects, and collaborations enable the success of both individuals and the entire institution. It is important that the work be aligned with the institution’s wider mission.
가장 중요한 가치 요소
Most Important Value Factors

많은 리더들이 교육자 개인의 경력 및 전문성 개발과 교육 프로그램 향상과 관련된 가치 요소를 가장 중요한 것으로 꼽았습니다. 한 참가자는 "인적 요소가 가장 중요한 요소입니다... 직원에게 투자하는 것은 옳은 일이며 훌륭한 결과를 가져옵니다."라고 말했습니다.
Many leaders identified value factors that relate to enhancing both individual educator careers and professional development and the education programs as most important. One participant stated that “the human factor is the most important factor…investing in your people is the right thing to do, and it has wonderful outcomes.”

토론
Discussion

VMM 프레임워크를 사용하여 교육 기관 리더들이 교육자 및 교육 혁신에 투자할 때 중요하게 생각하는 요소를 파악했습니다. 리더들은 EIP의 가치를 인식하고 모든 영역에서 재무적 ROI 이상의 이점을 강조했으며, 적은 재정 자원으로도 상당한 영향력을 발휘할 수 있음을 보여주었습니다(그림). 이번 조사 결과는 보건 전문직 교육 교내 시드 보조금 프로그램3,14-21 및 기부 석좌 프로그램에 관한 문헌과 일치하며 리더의 관점을 반영한다는 점에서 독특합니다.4,22,23 문헌에 기술된 긍정적 영향에는 경력 성장, 개인 및 전문성 개발, 채용 및 유지(특히 교수진의 다양성 증가와 관련하여), 교육 프로그램, 협업, 교육 장학금 및 보급, 혁신 및 문화가 포함됩니다.3,4,14-23
Using the VMM framework, we identified factors that academic institutional leaders value for investing in educators and education innovation. Leaders saw value in EIPs and emphasized benefits beyond financial ROI across all domains and illustrated that small financial resources can have substantial reach (Figure). Our findings are congruent with literature about health professions education intramural seed grant programs3,14-21 and endowed chair programs and are unique in that they represent the leader perspective.4,22,23 The positive impact described in the literature includes career growth, personal, and professional development, recruitment and retention (particularly with regards to increasing the diversity of faculty), education programs, collaboration, education scholarship and dissemination, innovation, and culture.3,4,14-23

트위터의 리더들은 EIP가 개별 지원자의 경력 성장과 전문성 개발에 미치는 영향을 매우 중요하게 생각합니다. 그들은 채용 및 유지의 운영적 가치를 강조했습니다. 이는 "헌신적이고 재능 있는 직원으로 구성된 간부를 개발하는 데 필요한 시간과 자원을 투자한다."24는 볼먼과 딜의 인적 자원 조직 원칙과 일치합니다. 교육자 경력을 지원하기 위해 EIP를 설계하면 직무 만족도 및 참여도에 상당한 영향을 미칠 수 있으며, 이는 웰빙과도 연결됩니다.25-30 연구에 따르면 번아웃을 경험한 의사는 이직할 가능성이 2배 이상 높으며,30 의사를 교체하는 데 드는 비용은 의사 연봉의 2~3배로 추정됩니다.28 의료 서비스 제공자의 개발과 참여에 투자하는 것이 교체하는 것보다 비용이 적게 듭니다.28,30,31 EIP가 교수진 경력, 채용 및 유지에 미치는 긍정적인 영향을 알리면 리더들이 EIP를 위한 신규 또는 지속적인 리소스를 제공하도록 장려할 수 있습니다.
Our leaders strongly value the impact of EIPs on individual recipients’ career growth and professional development. They highlighted the operational value of recruitment and retention. This aligns with Bolman and Deal’s human resource organizational principle of “investing the time and resources necessary to develop a cadre of committed, talented employees.”24 Designing EIPs to support educator careers can have considerable impact on job satisfaction and engagement, which is linked to well-being.25-30 Studies show that physicians who experience burnout are more than twice as likely to leave,30 and estimate the cost for replacing a physician at 2 to 3 times the physician’s annual salary.28 It is less expensive to invest in the development and engagement of health care providers than to replace them.28,30,31 Communicating the positive impact of EIPs on faculty careers, recruitment, and retention may encourage leaders to provide new or ongoing resources for EIPs.

개인의 경력과 개발에 실질적인 자원을 투자하는 것은 기관 차원에서 조직의 성공에 더 큰 영향을 미칠 수 있습니다.3,4 많은 리더들이 교육 프로그램 개선과 혁신에 대한 EIP의 긍정적인 효과를 가장 중요한 가치 요소로 꼽았습니다. 이러한 운영 결과는 EIP 프로그램 평가 및 영향력 문서화에 적합합니다. 리더들은 EIP가 조직 문화에 미치는 상징적인 영향력을 높이 평가했습니다. 그들은 학습자, 교수진, 환자 커뮤니티를 위한 교육의 가치에 대한 성명을 발표하는 것이 중요하다고 설명했습니다. 이는 상징이 기관의 문화와 가치를 반영하고 영향을 미친다고 주장하는 볼먼과 딜의 상징적 프레임과 일치합니다.24
Investing tangible resources in the career and development of individuals can have further impact at the institutional level on the success of the organization.3,4 Many of our leaders described as a most important value factor the positive effect of EIPs on educational program improvement and innovation. This operational outcome lends itself well to EIP program evaluation and documenting impact. Leaders appreciated the symbolic influence of EIPs on the organizational culture. They described the importance of making a statement about the value of education for the community of learners, faculty, and patients. This aligns with Bolman and Deal symbolic frame, which argues that symbols reflect and influence institutional culture and values.24

순수한 경제적 모델은 학술 교육 미션의 가치 있는 결과를 측정하기에는 너무 협소한 도구입니다.7 보다 광범위한 프레임워크는 기관 리더와 교육자 간의 보다 효과적인 대화를 위한 토대를 형성합니다. 교육 기관에 VMM 도메인을 적용함으로써 기존의 재무적 투자 수익률을 넘어 기관 리더의 가치 변수를 더 잘 이해할 수 있었습니다. Jabbar 외7는 경제 제국주의를 "교육을 포함한 사회생활과 정책의 많은 측면에 대한 [경제의] 힘"의 근간이 되는 개념으로 제안하며, 우리가 자원 배분을 안내하는 데 사용하는 메트릭을 주도합니다. 이러한 헤게모니를 이해하고 인정함으로써 정책 입안자들은 "대안적인 프레임워크와 모델을 통해 의사 결정에 접근할 수 있습니다."7 Jabbar 외7 의 관점은 임상 수익에 의해 주도되는 현재 학술 의료 센터의 자금 조달 모델 내에서 전통적인 ROI 모델을 넘어 보다 총체적인 모델로 나아가기 위해 이와 같은 연구가 중요하다는 점을 강조하고 있습니다. 이러한 지표를 재무적 측면을 넘어선 프레임워크에서 정의하면 리소스 배치를 촉진하고 문화와 더 넓은 사회적 요인의 맥락에 맞는 언어로 옹호를 유도할 수 있습니다. 
A pure economic model is too narrow a tool to measure valued outcomes from the academic education mission.7 A broader framework forms the basis for more effective dialogue between institutional leaders and educators. Applying VMM domains to an academic institution allowed us to better understand institutional leaders’ value parameters beyond traditional financial return on investment. Jabbar et al7 proposes economic imperialism as a concept that underlies the “power [of economics] over so many facets of social life and policy—including education” and drives the metrics we use to guide resource allocation. Understanding and acknowledging this hegemony allows policymakers to “approach decision-making through alternate frameworks and models.”7 The perspective in Jabbar et al7 underscores the importance of a study such as this to move beyond a traditional ROI model to a more holistic one within the current funding models for academic medical centers, which is driven by clinical revenue. Defining these metrics in a framework beyond financial can drive resource deployment and guide advocacy with language that speaks to the culture and a wider context of social factors.

이 연구의 강점은 기관의 다양한 계층에 있는 리더들의 의견을 폭넓게 반영했다는 점입니다. 리더들이 밝혀낸 많은 가치 요소, 특히 개인의 경력, 채용 및 유지, 교육 프로그램, 장학금에 대한 혜택은 여러 기관에 걸쳐 일반화할 수 있습니다. VMM 프레임워크는 다른 기관에서도 적용하여 현지 이해관계자의 상황별 가치 요소를 탐색하는 데 사용할 수 있습니다. 예를 들어, 혁신은 기관의 핵심 사명이며, 리더들은 혁신을 조직의 성공과 연결시켰습니다. 다른 학교에서는 최적의 환자 참여 또는 공중 보건 발전이라는 핵심 사명을 명시할 수 있습니다. EIP를 각 학교의 고유한 미션에 맞춰 조정하면 이러한 프로그램을 시작하고 유지하는 데 필요한 리소스에 대한 리더십의 지원을 이끌어낼 수 있습니다. 가치 요소는 같은 기관의 리더마다 다를 수 있습니다. 이러한 가치 요소를 정의하면 EIP를 설계 및 평가하고, 이러한 프로그램의 가치와 영향에 대해 리더에게 피드백을 제공하고, 신규 또는 지속적인 자금 지원을 옹호하는 방법을 알 수 있습니다(그림). 
Our study’s strengths include a broad representation of leaders’ opinions at various echelons of our institution. Many value factors elucidated by our leaders are generalizable across institutions, particularly the benefit to individual careers, recruitment and retention, educational programs, and scholarship. The VMM framework can be adapted and used in other institutions to explore context-specific value factors from local stakeholders. For example, innovation is a core mission at this institution, and our leaders connected it to the organization’s success. Other schools may articulate core missions of optimal patient engagement or advancing public health. Aligning EIPs with each school’s unique mission can engage leadership support for resources to initiate and sustain such programs. Value factors can differ between leaders at the same institution. Defining these value factors can inform how we design and evaluate EIPs, provide feedback to leaders about the value and impact of these programs and advocate for new or sustained funding (Figure).

제한 사항
Limitations

이 연구에는 한계가 있었습니다. 인터뷰 이후 발생한 코로나바이러스 팬데믹과 사회 정의 운동으로 인한 역동적인 변화로 인해 연구 결과가 제한되었습니다. 오늘날 인터뷰를 진행한다면 리더들이 추가로 적절한 가치를 포함할지 알아보는 것도 흥미로울 것입니다. 연구자로서 우리는 연구팀의 많은 사람들이 과거에 연구비나 연구자금을 받은 적이 있다는 사실을 인지하고 참가자들의 진솔한 목소리를 보고하기 위해 최선을 다했습니다. 연구자와 참여자 간의 상호작용을 통해 공동 구축된 연구 결과를 보고할 때 이러한 관점은 데이터 해석을 향상시켰습니다. 본 연구 결과는 교육 미션을 지원하는 단일 기관을 대표하며, 많은 주제가 광범위하게 적용될 수 있지만 가치의 정의는 현지 상황에 따라 달라질 수 있습니다. 향후 연구에서는 경쟁적인 우선순위의 맥락에서 리더의 투자 결정을 탐구할 수 있습니다.
This study had limitations. Our findings are limited by the dynamic shifts due to the coronavirus pandemic and social justice movements that occurred since our interviews. It would be of interest to know if leaders would include additional pertinent values if interviewed today. As researchers, we made every effort to report the true voices of the participants, acknowledging that many on the research team have been past grant or chair recipients. In reporting findings co-constructed through the interaction between researchers and participants, these perspectives also enhanced our data interpretation. Our findings represent a single institution supportive of the education mission; while many themes may be broadly applicable, the definition of value could vary based on local contexts. Future studies might explore leaders’ investment decisions in the context of competing priorities.

결론
Conclusions

이러한 조사 결과는 보건 과학 및 의료 시스템 리더들이 직접적인 재정적 투자 수익을 넘어 다양한 영역(개인, 재정, 운영, 사회적 또는 사회적, 전략적 또는 정치적)에서 교육자 투자 프로그램에 자금을 지원하는 것의 가치를 발견했음을 시사합니다. 이들은 개별 교육자의 성장과 전문성 개발을 지원하는 유형적 자원이 조직과 커뮤니티에 강력한 이점을 창출한다고 인식했습니다. 이러한 가치는 프로그램 설계 및 평가, 리더에 대한 효과적인 피드백, 학계에서 경쟁하는 우선 순위의 맥락에서 향후 투자에 대한 옹호 등에 영향을 줄 수 있습니다. 이 접근 방식은 다른 기관에서도 리더의 상황 및 리더별 가치 요소를 파악하는 데 사용할 수 있습니다.

These findings suggest that health sciences and health system leaders found value in funding educator investment programs in multiple domains (individual, financial, operational, social or societal, and strategic or political) beyond direct financial return on investment. They perceived that tangible resources to support the growth and professional development of individual educators generate potent benefits to the organization and community. These values can inform program design and evaluation, effective feedback to leaders, and advocacy for future investments in the context of competing priorities in academic medicine. This approach can be used by other institutions to identify context and leader-specific value factors from their leaders.


JAMA Netw Open. 2023 Feb 1;6(2):e2256193. doi: 10.1001/jamanetworkopen.2022.56193.

Identifying Value Factors in Institutional Leaders' Perspectives on Investing in Health Professions Educators

Affiliations collapse

1University of California, San Francisco, San Francisco, California.

2University of California, San Francisco, School of Medicine, San Francisco, California.

PMID: 36795413

PMCID: PMC9936339

DOI: 10.1001/jamanetworkopen.2022.56193

Free PMC article

Abstract

Importance: Investing in educators, educational innovation, and scholarship is essential for excellence in health professions education and health care. Funds for education innovations and educator development remain at significant risk because they virtually never generate offsetting revenue. A broader shared framework is needed to determine the value of such investments.

Objective: To explore the value factors using the value measurement methodology domains (individual, financial, operational, social or societal, strategic or political) that health professions leaders placed on educator investment programs, including intramural grants and endowed chairs.

Design, setting, and participants: This qualitative study used semi-structured interviews with participants from an urban academic health professions institution and its affiliated systems that were conducted between June and September 2019 and were audio recorded and transcribed. Thematic analysis was used to identify themes with a constructivist orientation. Participants included 31 leaders at multiple levels of the organization (eg, deans, department chairs, and health system leaders) and with a range of experience. Individuals who did not respond initially were followed up with until a sufficient representation of leader roles was achieved.

Main outcomes and measures: Outcomes include value factors defined by the leaders for educator investment programs across the 5 value measurement methodology domains: individual, financial, operational, social or societal, and strategic or political.

Results: This study included 29 leaders (5 [17%] campus or university leaders; 3 [10%] health systems leaders; 6 [21%] health professions school leaders; 15 [52%] department leaders). They identified value factors across the 5 value measurement methods domains. Individual factors emphasized the impact on faculty career, stature, and personal and professional development. Financial factors included tangible support, the ability to attract additional resources, and the importance of these investments as a monetary input rather than output. Operational factors identified educational programs and faculty recruitment or retention. Social and societal factors showcased scholarship and dissemination benefits to the external community beyond the organization and to the internal community of faculty, learners, and patients. Strategic and political factors highlighted impact on culture and symbolism, innovation, and organizational success.

Conclusions and relevance: These findings suggest that health sciences and health system leaders find value in funding educator investment programs in multiple domains beyond direct financial return on investment. These value factors can inform program design and evaluation, effective feedback to leaders, and advocacy for future investments. This approach can be used by other institutions to identify context-specific value factors.

임상진료상황에서 능숙한 의사소통가의 특징 식별하기(Med Educ, 2022)
Identifying characteristics of a skilled communicator in the clinical encounter
Michelle Verheijden1,2 | Esther Giroldi1,2 | Valerie van den Eertwegh3 | Marscha Luijkx4 | Trudy van der Weijden1 | Anique de Bruin2 | Angelique Timmerman1

 

1 서론
1 INTRODUCTION

의사-환자 커뮤니케이션은 의료 서비스 제공에 중요한 역할을 하며 핵심 의료 역량으로 인식되고 있습니다.1-3 이러한 인식은 현재의 의료 교육 관행과 의료 서비스에서 변화하는 커뮤니케이션 요구 사이의 불일치를 해결해야 함을 의미합니다.1, 4-10 
Doctor-patient communication plays an important role in the delivery of health care and has been recognised as a core medical competency.1-3 This recognition implies addressing a signalled misalignment between current medical training practices and changing communication needs in health care.1, 4-10

따라서 의료 교육 프로그램에서는 여러 가지 일반적인 의사소통 지침을 도입하여 이러한 불일치를 해결하려고 시도해 왔습니다.8 예를 들어, '환자의 이야기 요약하기' 또는 '적극적인 경청'과 같이 임상에서 필요한 의사소통 기술을 정의하기 위해 개발된 SEGUE 프레임워크11 및 캘거리-캠브리지 모델12, 13이 있습니다.4-7, 14, 15 스킬 기반 접근법은 학습자에게 유용한 상담 구조와 스킬 도구 상자를 제공하므로 높은 평가를 받고 있지만, 실제 풍부한 진료 환경에서 효과적으로 의사소통하는 것은 충분하게 지원하지 못합니다.2, 4-7, 9, 16 학습자는 직면하는 임상 문제에 의해 도전을 받고 환자의 요구를 고려하여 의사소통을 조정합니다.1, 5-7, 17 이는 Veldhuijzen 등과 Essers 등이 의사소통은 일차적으로 목표 중심적이며, 상담의 여러 맥락적 요인(예: 의료, 환자 또는 의사 관련)에 의해 영향을 받는다고 말한 것처럼 각 임상 상황에서 의사소통을 맞춤화할 필요가 있음을 시사합니다.10, 13, 18 
Consequently, medical training programmes have attempted to address this misalignment by introducing multiple generic communication guidelines.8 For instance, the SEGUE framework11 and Calgary–Cambridge model12, 13 were developed to define communications skills needed in the clinical encounter like ‘summarising the patient's story’ or ‘active listening’.4-7, 14, 15 Although a skills-based approach is highly valued as it provides learners a helpful consultation structure and a toolbox of skills, it insufficiently supports them in communicating effectively in the complexity of the authentic rich practice setting.2, 4-7, 9, 16 Learners are challenged by the clinical problems they encounter and adjust communication considering patient needs.1, 5-7, 17 This implies a need to tailor communication in each clinical encounter, as Veldhuijzen et al and Essers et al state that communication is primarily goal driven and influenced by several contextual factors (i.e. medical-, patient- or doctor-related) in the consultation.10, 13, 18

이러한 필요성은 '의사소통 기술'에 초점을 맞추던 것에서 '숙련된 의사소통'으로 전환하는 현재의 담론과 연결됩니다.8, 10 의사-환자 의사소통 학습은 경험적 직장 학습 중 의사소통의 맥락화된 적용을 통해 보다 적절하게 다룰 수 있습니다.7, 9, 10, 16, 17, 19, 20 숙련된 의사소통의 전문성을 얻기 위해서는 성찰과 피드백을 바탕으로, 개인 수행의 [적용, 적응 및 개선 기회]를 제공하는 도전적인 임상 학습 과제에 기반하여 의도적인 연습이 필요합니다.21, 22 
This signalled need connects to the current discourse shifting from focusing on ‘communication skills’ towards ‘skilled communication’.8, 10 Learning doctor–patient communication may be more appropriately addressed by a contextualised application of communication during experiential workplace learning.7, 9, 10, 16, 17, 19, 20 For attaining expertise in skilled communication, deliberate practice is required based on challenging clinical learning tasks that provide opportunities for application, adaptation and refinement of personal performance, based on reflection and feedback.21, 22

그럼에도 불구하고 숙련된 의사소통 접근법이 정확히 무엇이며 숙련된 의사소통자의 특성이 무엇인지에 대한 합의가 부족합니다.1, 7, 9, 15, 23 우리는 숙련된 의사소통의 개념을 설명하기 위한 예비 단계로 의료 의사소통과 관련된 이해관계자들의 관점을 종합하기 위해 명목 그룹 기법(NGT)을 사용했습니다.22 NGT는 의학 교육에 널리 적용되었으며, 구조화된 특성상 모든 이해관계자가 자신의 의견을 표현할 수 있는 동등한 기회를 보장하여 토론을 촉진하고 공유된 합의를 형성합니다.24-26 
Nevertheless, a lack of consensus exists about what a skilled communication approach exactly entails and what characteristics are of a skilled communicator.1, 7, 9, 15, 23 We used the nominal group technique (NGT) to synthesise viewpoints from stakeholders involved in medical communication as a preliminary step to inform describing the concept of skilled communication.22 NGT has been widely applied in medical education, and its structured nature ensures all stakeholders to have equal opportunities to express their views, stimulating discussion and creating a shared consensus.24-26

본 연구는 현재 의료 커뮤니케이션 연구의 이론 구축에 기여하고 숙련된 커뮤니케이션 교육을 위한 학습자 중심 접근법의 개발을 알리고 향후 임상 실무로의 이전을 지원하는 것을 목표로 합니다.9, 10, 15 다음과 같은 연구 질문이 다루어졌습니다: '임상 현장에서 숙련된 커뮤니케이터의 특징은 무엇인가?' 
We aim to contribute to theory building in current health communication research and to inform the development of a learner-centred approach for skilled communication training and support its future transfer to clinical practice.9, 10, 15 The following research question was addressed: ‘What are characteristics of a skilled communicator in the clinical encounter?’

2 방법
2 METHODS

설정
Setting

이 연구는 네덜란드의 일반 진료(GP) 전문 교육 프로그램의 맥락에서 수행되었으며, 8개의 GP 교육 기관 중 5개 기관에서 참가자를 모집했습니다. 일반의의 임상 업무량은 다양한 의학적 및 심리사회적 불만 사항으로 구성되어 있어 임상적 상황에 맞게 커뮤니케이션을 일관되게 조정해야 하기 때문에 GP 환경을 선택했습니다.14, 17, 23, 24, 27, 28 GP 교육 프로그램은 3년에 걸쳐 4일의 직장 기반 교육과 1일의 공식 교육으로 번갈아 가며 구성됩니다. 
The study was performed in the context of the general practice (GP) specialty training programme in the Netherlands, recruiting participants from five out of eight GP training institutes. The GP setting was chosen because the clinical workload of a GP consists of a variety of medical and psychosocial complaints, which requires a consistent adjustment of communication to the needs of the clinical encounter.14, 17, 23, 24, 27, 28 The GP training programme consists of 3 years, alternating 4 days of workplace-based training with 1 day of formal education.

연구 설계
Study design

숙련된 커뮤니케이터의 특성을 규명하기 위해 2020년 4월부터 10월까지 네덜란드의 GP 교육 프로그램 이해관계자를 대상으로 6번의 NGT 세션이 진행되었습니다. NGT는 특정 주제에 대한 아이디어를 도출하기 위한 합의 그룹 방식으로, 참가자들이 구조화된 상호작용을 통해 생각을 공유하고 토론에 참여하도록 지속적으로 자극함으로써 여러 이해관계자의 관점을 통합하는 데 도움이 됩니다.29, 30 COVID-19 팬데믹으로 인해 모든 NGT 세션은 Zoom 플랫폼을 사용하여 전자 환경에서 진행되었습니다.31, 32
Six NGT sessions were conducted between April and October 2020 among Dutch stakeholders of the GP training programmes to elucidate characteristics of a skilled communicator. The NGT is a consensus group method to generate ideas on a certain topic and facilitates the integration of multiple stakeholders' perspectives by constantly stimulating participants to share their thoughts and engage in the discussion through a structured interaction.29, 30 Due to the COVID-19 pandemic, all NGT sessions took place in an electronic environment using the Zoom platform.31, 32

참가자 Participants

각 NGT 세션의 최적 참가자 수는 5~7명으로, 6개의 세션에 최소 30명이 참여해야 합니다.25, 33 의도적 표본 추출을 사용하여 의사-환자 커뮤니케이션에 대한 경험과 전문성을 바탕으로 잠재적 이해관계자 목록을 구성했습니다.34 이 목록에는 (1) GP, (2) GP 연수생, (3) GP 트레이너, (4) GP 연수 프로그램의 조정자 및 교육과정 개발자, (5) 의료 커뮤니케이션 분야 연구자가 포함되었습니다. 75명의 잠재적 이해관계자에게 이메일을 통해 연구의 목적과 절차, 필요한 시간 투자에 대한 정보를 제공하면서 참여를 요청했습니다. 각 NGT 세션 전에 모든 참가자로부터 서면 동의서를 받았으며, 참가자는 자발적으로 참여했습니다. 또한 참가자들은 인구통계학적 설문지를 작성했습니다. 참가자를 식별할 수 있는 모든 개인 식별 정보는 하나 이상의 인공 식별자(가명)로 대체되었습니다.
The optimal number of participants for each NGT session is five to seven, resulting in a minimum of 30 participants for six sessions.25, 33 By using purposive sampling, a list of potential stakeholders was composed based on their experience and expertise in doctor-patient communication.34 The list included (1) GPs, (2) GP trainees, (3) GP trainers, (4) coordinators and curriculum developers of the GP training programme and (5) researchers in medical communication. We invited 75 potential stakeholders to participate via e-mail, providing information about the purpose and procedure of the study and needed time investment. Written informed consent was obtained from all participants prior to each NGT session, and participation was on a voluntary basis. Moreover, participants completed a demographic questionnaire. All personally identifiable personal information, which could lead to the participants, was replaced by one or more artificial identifiers (pseudonyms).

데이터 수집
Data collection

90분에서 120분까지 진행된 NGT 세션은 오디오 녹음 후 그대로 필사되었습니다. 모든 NGT 세션은 동일한 프로토콜(부록 S1)을 사용했으며, 두 명의 사회자, 한 명의 교육 연구자 겸 심리학자(AT)와 한 명의 박사 과정 학생 겸 GP 수련의(MV)가 진행했습니다.35, 36 추가 연구자 겸 보건 과학자(EG)가 세션에 참석하여 관찰하고 현장 메모를 작성했습니다. 연구팀은 숙련된 의사소통에 대한 현재 과학적 담론에서 아이디어를 수집하기 위해 문헌 연구와 의사소통 전문가와의 세 차례의 반구조화 인터뷰를 수행하여 명목 질문을 구성했습니다.29, 36, 37

  • 세션 절차에 대한 간략한 설명 후 다음과 같은 명목 질문이 제기되었습니다: '숙련된 GP 의사소통자의 특징은 무엇인가요? NGT 세션에서 우리는 특성을 '임상 상황에서 숙련된 의사소통자를 설명하는 전형적이거나 눈에 띄는 특징'으로 소개했습니다.
  • 둘째, 명목상의 질문에 대해 참가자들은 개별적으로 자신의 아이디어를 적었습니다.
  • 셋째, 참가자들은 하나의 아이디어를 '라운드 로빈' 방식으로 그룹에 공유했습니다. 진행자 중 한 명이 모든 아이디어를 워드 문서로 옮겨 모든 참가자가 디지털 화면에서 볼 수 있도록 했습니다.
  • 넷째, 참가자들은 자신의 아이디어를 명확히 밝히고 비슷한 아이디어를 결합할 수 있는 기회를 제공받았습니다.
  • 다섯째, 모든 참가자는 숙련된 커뮤니케이터에게 가장 중요하다고 생각되는 특성을 기술한 7가지 아이디어를 개인적으로 선택하고 1점부터 7점(총 28점)까지 점수를 매겼으며, 7점이 가장 높은 점수를 받았습니다. 웹 기반 플랫폼인 Qualtrics(버전 XM; Qualtrics, 유타주 프로보: 2020)를 사용하여 익명으로 순위를 매기는 과정을 조정하고 보안을 유지했습니다.
  • 마지막으로 참가자들은 총 순위에 대해 토론하여 그룹 합의를 도출했습니다. 진행자는 모든 참가자에게 돌아가면서 토론에 참여하도록 개별적으로 초대하고, 각 토론 라운드에서 참가자들이 아이디어와 의견을 공유할 수 있는 충분한 기회를 제공했으며, 최종 순위가 디지털 화면에 표시될 때 각 참가자에게 명시적인 합의를 요청했습니다. 그룹 합의에 도달하지 못한 경우 한두 차례에 걸쳐 순위를 다시 정하는 과정을 거쳤습니다. 그룹 합의는 그룹에서 생성된 특성의 총 순위에 대해 모든 참가자가 구두로 동의하는 것으로 정의되었습니다. 앞서 언급한 단계에 대한 자세한 개요는 부록 S1에서 확인할 수 있습니다.

The NGT sessions, ranging in time from 90 to 120 min, were audio-recorded and transcribed verbatim. All NGT sessions used the same protocol (Appendix S1) and were facilitated by two moderators, one educational researcher and psychologist (AT) and one PhD student and GP trainee (MV).35, 36 An additional researcher and health scientist (EG) was present during the sessions to observe and make field notes. The research team constructed the nominal question by performing a literature study and three semi-structured interviews with communication experts to assemble ideas from the current scientific discourse on skilled communication.29, 36, 37 

  • After a brief explanation of the sessions procedure, the following nominal question was posed: ‘What are characteristics of a skilled GP communicator?’ During the NGT sessions, we introduced characteristic as ‘a typical or noticeable feature describing a skilled communicator in the clinical encounter’.
  • Second, in response to the nominal question, participants individually wrote down their ideas.
  • Third, participants shared a single idea to the group in a ‘round robin’ fashion. One of the moderators transcribed all ideas in a word document, which was visible for all participants on the digital screen.
  • Fourth, participants clarified their ideas and were provided with the opportunity to combine similar ideas.
  • Fifth, all participants privately selected seven ideas, which described characteristics deemed most important for a skilled communicator and scored them from 1 to 7 (total of 28 points), 7 being the highest rank score. The web-based platform Qualtrics (version XM; Qualtrics, Provo, Utah: 2020) was used to coordinate and secure the anonymous ranking process.
  • In the end, participants discussed the total ranking to reach group consensus. The moderators invited all participants individually to take part in the discussion by giving turns to all participants, providing sufficient opportunities for participants to share ideas and views during each round of discussion and asking explicit consensus from each participant when the final ranking was presented on the digital screen. If no group consensus was reached a re-ranking process occurred in one or two rounds. Group consensus was defined as a voiced agreement of all participants on the total ranking of characteristics generated by the group. A more detailed outline of the aforementioned steps is available (Appendix S1).

데이터 분석
Data analyses

모든 NGT 세션의 결과물은 양적, 질적으로 모두 분석되었습니다. 분석 결과 숙련된 커뮤니케이터의 특성과 임상에서 숙련된 커뮤니케이션 접근법의 개념적 모델을 파악할 수 있었습니다.
The output of all NGT sessions was analysed both quantitatively and qualitatively. The analyses resulted both in the identification of characteristics of a skilled communicator and a conceptual model of a skilled communication approach in the clinical encounter.

2.5.1 분석 접근법
2.5.1 Analysis approach


인구통계학적 변수는 Windows용 SPSS 26.0(IBM Corp. Armonk, NY)의 서술적 통계를 사용하여 분석했습니다. 설명적 통계를 사용하여 NGT 세션의 양적 구성 요소를 분석했습니다. NGT 세션의 내용은 5단계에 걸쳐 수행된 (반복되는) 주제를 식별, 분석 및 보고하는 주제별 내용 분석을 사용하여 분석했으며, 이는 흐름도(그림 1)에 설명되어 있습니다.38, 39
Demographic variables were analysed using descriptive statistics in SPSS 26.0 for Windows (IBM Corp. Armonk, NY). We analysed the quantitative components of the NGT sessions using descriptive statistics. The content of the NGT sessions was analysed using thematic content analysis by identifying, analysing and reporting (recurring) themes performed in five phases and is illustrated in the flow diagram (Figure 1).38, 39

  • 먼저, 연구팀원(MV, AT, EG)은 각 NGT 세션에 대해 개별적으로 조립된 항목에 대한 일반 설명을 독립적으로 작성했습니다(부록 S3 참조).
  • 다음으로, 개별 팀원들이 작성한 일반적 설명을 연구팀이 합의에 도달할 때까지 논의하여 클러스터를 만들었습니다(부록 S4 참조).
  • 셋째, 연구팀은 모든 NGT 세션에서 도출된 클러스터를 반복적으로 비교하여 유사한 내용을 병합하여 주제를 종합했습니다(부록 S5 참조).
  • 넷째, 의사-환자 전문가 패널의 두 연구자(ML, VvdE)가 식별된 주제와 기본 클러스터에 대한 구성원 점검을 수행하여 모든 NGT 세션의 내용이 포함되었는지 평가하여 최종 주제 및 클러스터 목록을 도출했습니다.
  • 마지막으로, 연구팀은 문헌에 대한 내용을 반영하여 테마의 관련성과 내부 일관성을 평가하여 개념을 식별했습니다(사용된 용어의 정의는 부록 S2 참조). 전문 번역가가 최종 주제와 클러스터를 영어로 번역한 후, 영어에 능통한 네덜란드 원어민 연구팀원이 다시 네덜란드어로 번역하여 번역의 정확성을 검증하고 연구팀 전체가 승인했습니다.
  • First, research team members (MV, AT, EG) independently formulated general descriptions for the assembled items for each NGT-session separately (see Appendix S3).
  • Next, these general descriptions by individual team members were discussed by the research team until consensus was reached, resulting in clusters (see Appendix S4).
  • Third, the research team performed an iterative comparison of formulated clusters from all NGT sessions to merge for a similar content, resulting in the synthesis of themes (see Appendix S5).
  • Fourth, two researchers (ML, VvdE) of a doctor–patient expert panel performed a member check of the identified themes and underlying clusters to assess if the content of all NGT sessions was covered, resulting in the final list of themes and clusters.
  • Finally, the research team assessed the relatedness and internal coherence of the themes by reflecting on their content against literature, resulting in the identification of concepts (see Appendix S2 for definition of used terms). A professional translator translated the final themes and clusters into English, and then members of the research team as native Dutch speakers proficient in English translated them back into Dutch to verify the accuracy of the translations, which was approved by the whole research team.

반사성
Reflexivity

저희는 이 연구의 결과가 연구자와 참여자 간의 상호작용에 의해 공동으로 구성되었음을 인정합니다. 연구팀은 인구통계학적 특징(예: 여성, 백인, 국적)은 비슷했지만 의사-환자 커뮤니케이션 연구 및 교육과 관련된 전문 지식과 관점에는 다양성이 있었습니다. 일반의 수련의 및 박사 과정 학생(MV), 일반의 교육 기관에서 일하는 심리학자(AT), 학부 의료 교육 프로그램에서 일하는 커뮤니케이션 연구자 및 트레이너(EG), 자기조절 학습에 대한 연구 전문성을 갖춘 교육 심리학자(AdB) 등이 참여했습니다. 이러한 다양한 전문적 배경은 팀 토론에 깊이와 풍성함을 더했습니다. 편견을 방지하기 위해 연구팀 내에서 개별 데이터 분석 결과를 논의할 때 비판적인 입장을 견지했으며, 데이터의 의미를 도출하는 과정에서 다른 관점을 모색했습니다.40 
We acknowledge that outcomes in this study are co-constructed by interactions between researchers and participants. While our research team was similar in terms of demographic features (i.e. female, white and nationality), there was diversity in expertise and perspectives related to doctor–patient communication research and training. A GP trainee and PhD student (MV), a psychologist working at a GP training institute (AT), a communication researcher and trainer working at a undergraduate medical training programme (EG) and an educational psychologist with research expertise in self-regulated learning (AdB). These different professional backgrounds provided depth and richness to the team discussions. To prevent biases, we kept critical of our stances in discussing findings from individual data analysis within the research team and explored alternative viewpoints during the process of making meaning of the data.40

3 결과
3 RESULTS

결과는 사회 인구학적 특성, NGT 세션 순위 결과를 설명하는 연구 특성, 주제별 내용 분석 결과 숙련된 커뮤니케이터의 특성, 숙련된 커뮤니케이션 접근 방식을 설명하는 개념적 모델 개발로 제시됩니다.
The results will be presented as socio-demographic characteristics, study characteristics describing the NGT session ranking results, characteristics of a skilled communicator as a result of thematic content analysis, and the development of a conceptual model describing a skilled communication approach.

사회 인구학적 특성
Socio-demographics characteristics

총 34명의 이해관계자가 6개의 NGT 세션 중 하나에 참여(응답률 48%)했습니다. 이해관계자의 연령은 26세에서 65세(평균 45세, SD 13.2세)였으며, 여성이 19명(56%)이었습니다. 표 1은 이해관계자의 특성 및 직업적 배경 구성에 대한 정보를 제공합니다.
A total of 34 stakeholders participated (response rate 48%) in one of the six NGT sessions. The stakeholders' ages ranged from 26 to 65 years (mean 45, SD 13.2 years), and 19 were female (56%). Table 1 provides information on stakeholders' characteristics and the composition of their professional backgrounds.

연구 특성
Study characteristics

6번의 NGT 세션이 진행되었으며, 각 세션마다 참가자들이 NGT 세션에서 정리한 여러 항목(n = 191)으로 구성된 '상위 7가지 특성'(부록 S3 참조)이 도출되어 41개의 클러스터로 이어졌습니다. 질적 분석 결과, 숙련된 커뮤니케이터의 특성을 설명하는 9개의 테마가 도출되었습니다. 표 2는 주제와 해당 클러스터의 순위를 보여줍니다. 테마는 이러한 결합된 기준에 따라 나열되어 있습니다: (1) 일련의 NGT 세션에서 가장 높은 순위를 차지한 클러스터와 (2) 특정 테마 내의 모든 클러스터 점수의 합입니다.

Six NGT sessions were conducted, each resulting in its own ‘Top 7 of characteristics’ (see Appendix S3) consisting of multiple items (n = 191) that were organised by the participants during the NGT sessions, leading to 41 clusters. Qualitative analysis resulted in nine themes, describing characteristics of a skilled communicator. Table 2 shows the rankings of the themes and corresponding clusters. The themes are listed according to these combined criteria:

  • (1) the clusters ranked the most often over the series of NGT sessions and
  • (2) the sum of all cluster scores within a specific theme.
 

숙련된 커뮤니케이터의 특성
Characteristics of a skilled communicator

이 섹션에서는 숙련된 커뮤니케이터의 특성을 설명하는 식별된 주제를 그림 2에 설명된 내러티브로 개괄적으로 설명합니다. 주제는 참가자들이 순위를 매겨 조립한 항목에 대한 주제별 콘텐츠 분석의 결과로 식별됩니다.

In this section, the identified themes describing characteristics of a skilled communicator will be outlined and described as a narrative, which are illustrated in Figure 2. Themes are identified as a result of the thematic content analysis of the rank-ordered assembled items by the participants.

3.3.1 A: 환자에게 민감하고 적응하기
3.3.1 A: Being sensitive and adapting to the patient

5번의 NGT 세션 동안 '환자에게 민감하고 적응하기'라는 주제를 나열하고 점수를 매겼습니다. 이 주제는 환자의 경험과 요구에 민감하게 반응하는 것과 환자와의 언어적, 비언어적 의사소통을 조정하는 것으로 세분화할 수 있습니다. 또한, 공통점을 찾는 것은 환자와의 만남에서 무엇이 필요한지 민감하게 파악하고 그에 따라 의사소통을 조정하는 것으로 언급되었습니다.
During five NGT sessions, the theme ‘Being sensitive and adapting to the patient’ was listed and scored. It can be subdivided into being sensitive to the patient's experience, and needs and adjusting verbal and non-verbal communication to the patient. Moreover, finding common ground was mentioned as being sensitive to what is needed in the encounter and adapt communication accordingly.

3.3.2 B: 대인 커뮤니케이션을 능숙하게 적용하는 것
3.3.2 B: Being proficient in applying interpersonal communication

네 개의 NGT 세션에서 '대인 커뮤니케이션을 능숙하게 적용하기'라는 주제를 나열하고 점수를 매겼습니다. 센트럴은 대인 커뮤니케이션을 적용하는 방법을 알고 언제 상담에 적용해야 하는지 아는 측면에서 의사와 환자 간의 관계를 증진하는 대인 커뮤니케이션을 시연하고 있습니다. 이 주제에 따라 평화와 신뢰 형성, 완전한 존재감 드러내기, 충분한 시간 갖기, 희망과 현실 사이의 균형 잡기 등 다양한 목표와 기술이 보고되었습니다. 또한 참가자들은 대화 과정에 대해 상호적으로 논의하고 상호 기대치를 명확히 할 필요성에 대해 언급했습니다.
Four NGT sessions listed and scored the theme ‘Being proficient in applying interpersonal communication’. Central is demonstrating interpersonal communication fostering the relationship between doctor and patient, both in terms of knowing how to apply it and knowing when to apply it in the consultation. Under this theme, different objectives and skills were reported, for example: creating peace and trust, displaying full presence, taking sufficient time and balancing between hope and realism. In addition, participants mentioned the need to attend to reciprocity discuss the dialogical process and articulate mutual expectations.

3.3.3 C: 자기 인식, 학습 능력 및 반성적 역량
3.3.3 C: Self-awareness, learning ability and reflective capacity

'자기 인식, 학습 능력 및 반성적 역량'이라는 주제는 네 번의 NGT 세션에서 나열되고 채점되었습니다. 여기에는 규범과 가치, 경계, 함정, 의사소통 스타일에 대한 개인의 인식이 포함됩니다. 환자와 동료의 피드백에 개방적이고 자신의 의사소통의 단점을 성찰함으로써 자신의 관점이나 편견과 같은 개인적 기준 프레임에 대한 인식이 강화됩니다. 또한, 이 주제에서는 학습에 대한 의지, 즉 이전 경험을 바탕으로 다양한 커뮤니케이션 전략을 실험할 수 있는 성장 마인드가 언급되었습니다.
The theme ‘Self-awareness, learning ability and reflective capacity’ was listed and scored by four NGT sessions. It includes personal awareness of norms and values, boundaries, pitfalls and communication style. By being open for feedback from patients and colleagues and reflecting upon shortcomings in one's communication, performance awareness of own personal frame of reference (e.g. perspectives and prejudices) is fostered. Moreover, within this theme willingness to learn was mentioned: a growth mind-set, which enables experimenting with different communication strategies based upon prior experiences.

3.3.4 D: 진정으로 관심 갖기
3.3.4 D: Being genuinely interested

네 번의 NGT 세션에서 '진정으로 관심 갖기'라는 주제를 나열하고 점수를 매겼으며, 호기심을 보이는 태도를 통해 환자와 열린 대화를 나누는 것이 중요하다고 언급했습니다. 호기심을 갖고, 쉽게 접근하고, 비판적이지 않고, 열린 마음을 갖는 것이 필수적입니다.
Four NGT sessions listed and scored the theme ‘Being genuinely interested’ and to establish an open dialogue with the patient by displaying an attitude of curiosity. It is essential to be curious, easily accessible, non-judgmental and open-minded.

3.3.5 E: 환자 중심 커뮤니케이션을 능숙하게 적용하기
3.3.5 E: Being proficient in applying patient-centred communication

네 번의 NGT 세션 동안 '환자 중심 의사소통을 능숙하게 적용하기'라는 주제가 나열되고 점수가 매겨졌습니다. 이 주제는 의사소통 전략의 메커니즘잠재적 효과에 대한 지식과 효과적인 정보 교환 개발로 세분화할 수 있습니다. 의사는 상담 시 환자의 눈높이에 맞게 언어를 유연하게 조정하고, 질문과 설명을 구체적으로 하고 이해 여부를 확인해야 합니다. 
During four NGT sessions, the theme ‘Being proficient in applying patient-centred communication’ was listed and scored. This theme can be subdivided into knowledge about the mechanisms and potential effects of communication strategies and developing an effective information exchange. In their consultations, doctors need to flexibly adjust their language to the level of the patient, being concrete in questioning and providing explanations and checking for understanding.

3.3.6 F: 목표 지향적 의사소통
3.3.6 F: Goal-oriented communication

네 번의 NGT 세션 동안 '목표 지향적 의사소통'이라는 주제를 나열하고 점수를 매겼습니다. 이는, 필요할 때마다, 환자와 의사 모두의 의제를 다루고 추가적인 주의가 필요한 문제와 불필요해 보이는 문제를 구분하기 위해 주도적으로 행동하는 것을 의미합니다. 시간 제한적 개입은 상담 과정에 관한 선택을 할 때 목표 지향적으로 일할 수 있도록 지원합니다. 동시에 분석적이고 깊이 탐구하는 자세는, 임상과 환자의 목표를 모두 고려하고 이를 연결하면서, 내용과 과정 사이의 균형을 맞출 수 있게 해줍니다.
During four NGT sessions, the theme ‘Goal-oriented communication’ was listed and scored. It means taking the lead, whenever it is necessary, to address the agenda of both patient and doctor and differentiate between issues that require additional attention and those that seem superfluous. Time-contingent interventions support goal-oriented working in making choices regarding the course of the consultation. Concomitantly, being analytic and exploring deeper enable balancing between content and process while taking into account both clinical and patients' goals and bridging them.

3.3.7 G: 진정성 확보하기
3.3.7 G: Being authentic

네 개의 NGT 세션에서 '진정성'을 주제로 선정하고 점수를 매겼습니다. 이는 의사소통 성과가 환자에게 거의 감지되지 않는다는 것을 의미합니다. 진정성 있는 방식으로 목표를 달성하면 자연스럽고 개인적인 스타일의 커뮤니케이션으로 이어집니다. 이를 위해서는 공감, 취약성, 그리고 필요한 경우 불안감에 대한 소통을 보여줘야 합니다.
Four NGT sessions listed and scored the theme ‘Being authentic’. It means that communication performance is almost imperceptible to the patient. Achieving goals in an authentic manner leads to a natural and personal style in communication. This necessitates showing empathy, vulnerability and communication about insecurities, if needed.

3.3.8 H: 적극적인 경청
3.3.8 H: Active listening

'적극적 경청'이라는 주제는 세 번의 NGT 세션에서 목록화되어 점수를 받았다. 경청 능력으로 묘사되었다.

  • 환자가 자신의 이야기를 할 수 있는 여지를 만들고, 만남에서 환자의 단서와 환자가 강조하는 것에 대해 적극적으로 경청하며 (비)언어적 의사소통에 집중하는 것으로 설명되었습니다.

The theme ‘Active listening’ was listed and scored by three NGT sessions, which was described as the ability to listen:

  • attentively and thereby creating room for patients to tell their story, and actively for patient cues in the encounter and what is stressed by the patient, and focus on (non-)verbal communication.

3.3.9 I: 환자와 협력하기
3.3.9 I: Collaborating with the patient

두 개의 NGT 세션에서 '환자와 협력하기'라는 주제를 나열하고 점수를 매겼습니다. 이는 의사와 환자가 투명성을 위해 노력하고 상호 계획에 도달하는 평등에 기반합니다. 다른 한편으로, 협업은 환자가 문제 해결의 공동 파트너가 되어 환자의 자율성을 높이고 공동 의사 결정을 내릴 수 있는 공동 책임에 기반합니다.
Two NGT sessions listed and scored the theme ‘Collaborating with the patient’. On the one hand, this is based on equality: doctor and patient striving towards transparency and reaching a mutual plan. On the other hand, working collaboratively is based on a shared responsibility where the patient becomes co-partner in problem solving enhancing the patients' autonomy and enabling to shared decision making.

숙련된 의사소통 접근법의 개념적 모델
Conceptual model of a skilled communication approach

이 개념적 모델(그림 3 참조)에서는 두 가지 순환적이고 중요한 프로세스가 실제 커뮤니케이션 행동과 커뮤니케이션에 대한 성찰의 중심이 됩니다. 이러한 작업을 수행하려면 다음과 같은 특성이 필요합니다. 의사는 첫 번째 과정인 의사소통에 민감해야 하며, 의사소통을 만남의 필요에 맞게 조정해야 합니다. 관찰된 의사소통 행동은 의사의 적용된 기술과 표시된 태도에 영향을 받습니다. 

  • 연구 결과에서 첫 번째 구성 요소는 대인 관계 및 환자 중심 커뮤니케이션을 적용하는 숙련도로 확인되었습니다. 또한, 능동적 경청은 고도로 숙련된 과정으로 확인되었으며, 이는 (대인관계 및 환자 중심) 의사소통을 적용하기 위한 조건부 도구로 볼 수 있습니다.41 
  • 두 번째 구성 요소인 태도적 측면은 진정성과 진정한 관심으로 확인되었으며 숙련된 커뮤니케이터의 핵심으로 간주됩니다. 이러한 태도적 측면은 임상적 만남에서 환자에게 민감하게 반응하고 의사소통을 조정하는 과정을 용이하게 합니다.

In this conceptual model (see Figure 3), two circular and overarching processes are central actual communication behaviour and reflection on communication. The following characteristics are needed to perform these tasks. The doctor needs to be sensitive and adapt communication to the needs of the encounter, which is the first process. The communication behaviour observed is influenced by applied skills and displayed attitudes of the doctor.

  • The first component is identified in our findings as the proficiency to apply interpersonal and patient-centred communication. Moreover, the characteristic Active listening was identified as a highly skilled process, which could be seen as a conditional tool to apply (interpersonal and patient-centred) communication.41 
  • The second component, attitudinal aspects, are identified in as authenticity and genuine interest and considered as core for a skilled communicator. These attitudinal aspects facilitate the process of being sensitive and adapting communication to the patient in the clinical encounter.

또한 숙련된 커뮤니케이터가 환자와 협력하고 필요한 경우 주도권을 잡으면서 임상 진료 중에 목표를 조정할 수 있도록 하는 데 있어 기술과 태도는 조건적인 요소입니다. 이는 의사소통이 본질적으로 맥락적이고 목표 중심적이라는 점과 일맥상통합니다.14, 18, 28 또한, 상담에서 환자와 의사의 관련 목표를 다룰 때 상호 합의점을 찾는 것이 촉진됩니다.14 숙련된 커뮤니케이터는 또한 임상 진료 중 의사소통 과정을 스스로 모니터링할 수 있어야 하며, 이는 두 번째로 확인된 병행 과정과 일맥상통합니다: '자기 인식, 학습 능력 및 반성적 능력'과 일치합니다.42, 43
Skills and attitudes are also conditional in enabling a skilled communicator to adjust goals during the clinical encounter while working collaboratively with a patient and taking the lead if needed. This resonates with communication being inherently contextual and goal driven.14, 18, 28 Furthermore, finding mutual agreement is fostered in addressing both patients' and doctors' related goals in the consultation.14 A skilled communicator should also be able to self-monitor communication processes during the clinical encounter, which resonates with the second identified parallel process: ‘self-awareness, learning ability, and reflective capacity.42, 43

4 논의
4 DISCUSSION

이 연구의 목적은 의료 커뮤니케이션 분야의 다양한 이해관계자의 관점을 종합하여 숙련된 커뮤니케이션의 개념을 알리는 것이었습니다. 6차례에 걸쳐 진행된 NGT 세션에 참여한 이해관계자들은 총 191개의 항목을 종합적으로 해명했습니다. 이러한 결과를 주제별 내용 분석에 사용하여 임상 현장에서 숙련된 커뮤니케이터의 특성을 설명하는 9가지 주제를 식별했습니다.

  • (A) 환자에 대한 민감성과 적응력,
  • (B) 대인 커뮤니케이션 적용에 능숙함,
  • (C) 자기 인식, 학습 능력 및 성찰 능력,
  • (D) 진정으로 관심 있음,
  • (E) 목표 지향적 커뮤니케이션,
  • (F) 진정성,
  • (G) 환자 중심 커뮤니케이션 적용에 능숙함,
  • (H) 적극적인 경청,
  • (I) 환자와 협력하는 것

식별된 주제는 각 특성이 의사의 개인 레퍼토리의 일부이며 통합된 전체를 구성하기 때문에 내용상 밀접한 관련이 있습니다.9, 14, 16, 44
The purpose of this study was to inform the concept of skilled communication by synthesising viewpoints from different stakeholders in the field of medical communication. Stakeholders participating in the six conducted NGT sessions collectively elucidated 191 items. We used these findings in a thematic content analysis and identified nine themes, describing characteristics of a skilled communicator in the clinical encounter:

  • (A) being sensitive and adapting to the patient;
  • (B) being proficient in applying interpersonal communication;
  • (C) self-awareness, learning ability and reflective capacity;
  • (D) being genuinely interested;
  • (E) goal-oriented communication;
  • (F) being authentic;
  • (G) being proficient in applying patient-centred communication;
  • (H) active listening; and
  • (I) collaborating with the patient.

The identified themes are closely related in content as each characteristic is part of the doctor's personal repertoire and constitutes an integrated whole.9, 14, 16, 44

또한, 확인된 주제를 바탕으로 (1) 환자에 대한 민감성과 적응력, (2) 자기 인식, 학습 능력, 반성적 능력이라는 두 가지 병렬 프로세스를 추출할 수 있고 임상에서 핵심이 되는 숙련된 의사소통 접근법의 개념적 모델을 개발했습니다. 이 모델은 전문적 성과를 모니터링하고 조절하는 넬슨과 나렌스(1990)의 이론적 모델에서 설명하는 순환 과정과 일치합니다.42, 45
Moreover, based on the identified themes, we developed a conceptual model of a skilled communication approach in which two parallel processes could be distilled and are key in the clinical encounter:

  • (1) being sensitive and adapting to the patient and
  • (2) self-awareness, learning ability and reflective capacity.

This model is concordant with the circular processes described by the theoretical model of Nelson and Narens (1990) of monitoring and regulating professional performance.42, 45

연구 질문에 비추어 볼 때, 의사 소통 행동은 임상적 만남의 필요에 민감하게 반응하고 의사소통을 조정함으로써 조절되며, 이는 환자 중심의 상담 결과에 도달하기 위해서는 의사 행동 적응성(PBA)이 필수적이라고 제안한 Carrard 등의 문헌에 의해 뒷받침됩니다. 의사가 환자의 선호도를 정확하게 해석하고 그에 따라 커뮤니케이션 행동을 조정할 수 있을 때 PBA가 달성됩니다.46 숙련된 커뮤니케이터는 임상 상담의 필요에 따라 다양한 커뮤니케이션 전략을 적응적으로 적용해야 한다는 점에서 PBA는 우리의 연구 결과를 반영합니다.46
In reflecting on our research question, communication behaviour is regulated through being sensitive and adapting communication to the needs of the clinical encounter, which is supported in literature by Carrard et al, who suggest that doctor behavioural adaptability (PBA) is essential to reach patient-centred consultation outcomes. PBA is achieved if the doctor is able to correctly interpret patients' preferences and adapt communication behaviour accordingly.46 PBA mirrors our findings in that a skilled communicator should apply different communication strategies adaptively in response to the needs of the clinical encounter.46

결과적으로 숙련된 커뮤니케이터는 임상 진료 중 의사소통 과정을 스스로 모니터링할 수 있어야 하며, 이는 두 번째로 확인된 병행 과정인 자기 인식, 학습 능력 및 반성적 역량과도 일치합니다. 의사는 의사소통 수행을 평가할 때 진료 중 내면의 생각과 감정을 모니터링하는 것이 필수적입니다.47 이 두 번째 과정과 일치하는 개념은 Hall과 Mast가 소개한 대인관계 정확성입니다.47 대인관계 정확성은 환자의 비언어적 및 단서에 민감하여 환자의 감정, 요구, 의도를 정확하게 인식하는 능력으로 설명됩니다.46, 47
Subsequently, a skilled communicator should also be able to self-monitor communication processes during the clinical encounter, which resonates with the second identified parallel process: self-awareness, learning ability and reflective capacity. Essential is that the doctor monitors internal thoughts and feelings during the encounter in evaluating communication performance.47 In line with this second process is the concept of interpersonal accuracy, introduced by Hall and Mast.47 Interpersonal accuracy is described as the ability to accurately perceive patients' feelings, needs, and intentions by being sensitive to patients' non-verbal and cues.46, 47

의료 교육에서 일상적 전문성적응적 전문성을 개발하는 것의 차이는 임상 상황에서 자기 인식, 학습 능력 및 성찰 능력을 병행 과정으로 파악하는 것으로 설명할 수 있습니다.48

  • 일상적 전문성을 보이는 의사는 익숙한 임상 상황에서 의사소통할 때는 능숙하지만, 미지의 예상치 못한 상황으로 자신의 성과를 이전하는 데 어려움을 겪을 수 있습니다.48-51 에릭슨의 전문성 습득 모델에서 볼 수 있듯이 이러한 의사소통은 안정되고 자동적이고 쉽게 실행되는 수준에 도달하게 됩니다.22 그 결과 의사소통이 환자의 요구에 유연하게 적응하지 못합니다.21, 48, 52
  • 반면 적응적 전문성을 보이는 의사는 모든 임상 상황에서 창의적이고 혁신적인 방식으로 의사소통 행동을 조정할 수 있습니다.22, 53 적응적 전문성에 도달하려면 의도적인 연습에 기반한 상황 학습이 핵심이며 성찰과 피드백이 개인 개발을 이끄는 수단이라고 Eraut는 지적합니다.20, 21, 48 

The differentiation between developing routine and adaptive expertise in medical training may explain identifying self-awareness, learning ability and reflective capacity as a parallel process in the clinical encounter.48 

  • Doctors demonstrating routine expertise are proficient when communicating in a familiar clinical situation but may have difficulties in transferring their performance to unknown and unexpected situations.48-51 As Ericsson's model of expertise acquisition shows, this communication will become stable and will reach a level of automaticity and effortless execution.22 This results in communication not becoming flexibly adapted to patient needs.214852 
  • In contrast, doctors demonstrating adaptive expertise are able to tailor their communication behaviour in a creative and innovative manner in every clinical situation.2253 To reach adaptive expertise, Eraut indicates that situated learning based on deliberate practice is key and reflection and feedback are vehicles to steer personal development.202148

의료 교육에서는 학습자가 자신의 학습 과정에 능동적으로 참여할 수 있도록 성과에 대한 자기 인식을 촉진하는 학습자 중심 접근법을 촉진하는 데 중점을 두어야 하며, 이를 통해 진료 현장에서 환자의 요구에 맞게 의사소통을 조정할 수 있고, 궁극적으로 개인의 발전을 촉진할 수 있습니다.9, 10, 16, 44, 53-55 그리고 이후 성찰과 정기적인 피드백을 통해 자신의 생각과 느낌을 모니터링합니다.20, 42 
In medical training, emphasis should be on facilitating a learner-centred approach to promote self-awareness of performance for learners to become actively involved in their own learning process, which enables them to adapt communication to patient needs in the encounter, and eventually fosters their personal development,9, 10, 16, 44, 53-55 and, subsequently, monitor their own thoughts and feelings by reflection and regular feedback.20, 42

학습은 실제 임상 환경에서 구성되며, 학습자는 이러한 환경이 학습자에게 영향을 미치기 때문에 이 환경에 적극적으로 영향을 미치는데, 이를 경험적 학습 '현장 학습'이라고도 합니다.20, 56 학습자의 필요와 학습 목표에 따라 학습자가 자신의 개인적인 의사소통 스타일(예: 진정성, 진정한 관심)을 개발하도록 안내하고 학습자의 개인적 발전을 촉진하려면 교육이 종적 지향적이며 적극적인 지원과 안내된 성찰을 제공하는 것이 필수적입니다.56-58
Learning is constructed from the authentic clinical setting, and learners actively influence this setting as this same setting influence learners, also known as experiential learning ‘learning on the job’.20, 56 To guide learners in their needs and learning goals to develop their own personal communication style (e.g. authentic, genuine interested), fostering the personal development of learners, it is essential that training is longitudinal oriented and provides active support and guided reflections.56-58

시사점
Implications

커뮤니케이션 교육 및 연구를 위한 권장 사항을 공식화할 수 있습니다. 이 개념적 모델은 숙련된 커뮤니케이션 학습을 위한 템플릿으로 사용할 수 있는 식별된 특성을 뒷받침합니다. 의사소통 훈련은 임상 현장에서 의사소통에 대한 반복적인 실험을 촉진하고 의사소통 수행에 대한 체계적인 성찰을 지원하여 숙련된 의사소통의 전문성을 확보할 수 있도록 해야 합니다. 이를 통해 학습자는 학습 목표를 설정하고 학습 활동을 계획하는 데 있어 학습 과정을 능동적으로 이끌어갈 수 있으며, 개인의 발전을 촉진할 수 있습니다.9, 16, 21, 47
Recommendations can be formulated for communication training and research. The conceptual model underpins the identified characteristics that may be used as a template for learning skilled communication. Communication training should facilitate repeated experimentation with communication in the clinical encounter and support systematic reflection on communication performance to attain expertise in skilled communication. This may enable learners to actively steer their learning processes in setting goals and planning learning activities, stimulating their personal development.9, 16, 21, 47

또한, 우리의 개념 모델은 숙련된 커뮤니케이션을 운영하며 학습자가 숙련된 커뮤니케이터가 되기 위해 개발해야 하는 두 가지 중요하고 순환적인 프로세스를 설명합니다. 교육은 학습을 평생의 연속체로 생각하고 학습자가 실제 임상 환경에서 접하는 경험에 의미를 부여할 수 있도록 학습자를 적극적으로 지원해야 합니다.20, 56, 57 향후 연구에서는 확인된 숙련된 의사소통 접근법이 임상 업무 환경 학습 중에 어떻게 최적으로 지원될 수 있는지 탐구해야 합니다.
Moreover, our conceptual model operationalises skilled communication and describes two overarching and circular processes learners need to develop to become skilled communicators. Training requires the need to actively support learners as learning is to be thought of as a lifelong continuum and help learners to make meaning of the experiences they encounter in the authentic clinical setting.20, 56, 57 Future research should explore how the identified skilled communication approach can be optimally supported during clinical workplace learning.

강점 및 한계
Strengths and limitations

이번 연구 결과는 강점과 한계를 고려하여 해석해야 합니다. 강점은 다음과 같습니다: 

  • (1) 상대적으로 많은 이해관계자 그룹이 다차원적 개념을 세분화하여 총체적인 복잡성을 파악하는 과정에서 광범위한 숙련된 의사소통 특성을 생성했다는 점,
  • (2) 다양한 참여 이해관계자(예: GP, GP 수련의, 교수진 및 연구자)가 있었다는 점,
  • (3) 다수의 NGT 세션이 식별된 특성의 일반화 가능성을 높였다는 점 등이 있습니다.

Our findings should be interpreted considering the strengths and limitations present. The strengths include:

  • (1) a relatively large group of stakeholders generated an extensive number of skilled communication characteristics during the process of breaking down a multidimensional concept to get to grips on its holistic complexity,
  • (2) the variety of participating stakeholders (i.e. GPs, GP trainees, faculty members and researchers) and
  • (3) multiple NGT sessions increasing the generalisability of the identified characteristics.

또한 한계도 알고 있습니다. 

  • 첫째, 코로나19 팬데믹으로 인해 세션이 전자 환경에서 진행되었기 때문에 직접 눈을 마주치지 않고 비언어적 제스처를 취하는 데 어려움이 있을 수 있습니다.54 그러나 NGT 방식은 구조화된 템플릿을 채택하고 진행자가 세션 중 모든 참가자를 개별적으로 초대하여 토론에 참여하도록 했습니다. 따라서 이러한 한계가 연구 결과에 영향을 미치지는 않았을 것으로 예상합니다.
  • 둘째, 우리는 본질적으로 복잡하고 다차원적인 개념을 매핑하려고 시도했고, NGT 방법은 풍부한 데이터를 생성했기 때문에 참가자들이 데이터를 개념적으로 심층적으로 탐색할 수 없었다는 점을 알고 있습니다.
  • 셋째, 이 연구의 초점은 앵글로색슨 국가의 의료 환경과 특히 GP 교육 프로그램에 맞춰져 있었습니다. 이러한 환경과 이에 대한 사람들의 인식은 국가마다 다를 수 있다는 점을 알고 있습니다. 반면, 네덜란드의 8개 GP 수련 기관 중 5개 기관의 참가자를 포함했기 때문에 연구가 수행된 환경이 강점이라고 생각합니다. 비슷한 교육 시스템과 역량 프레임워크를 고려할 때 본 연구 결과는 다른 앵글로색슨 국가의 의료 교육 및 의료 환경에 일반화할 수 있을 것으로 기대합니다.
  • 마지막으로, 본 연구는 의사-환자 커뮤니케이션 교육 영역에서 의료 전문가와 교육자의 관점을 규명하는 데 중점을 두었기 때문에 환자를 포함하지 않은 것은 본 연구의 한계로 볼 수 있습니다.

We are also aware of limitations.

  • First, due to the COVID-19 pandemic, the sessions were held in an electronic environment, which can be a challenge due to, for example, the absence of direct eye contact and non-verbal gestures.54 However, the NGT method adopts a structured template and the moderators invited all participants individually to take part in the discussion during the sessions. Therefore, we expect that this limitation did not alter our findings.
  • Second, we realise that we have tried to map a concept that is complex and multidimensional in nature, and the NGT method generated a richness of data, which does not enable participants to explore the data in-depth conceptually.
  • Third, the focus of this study was on health care settings of Anglo-Saxon countries and on the GP training programme in particular. We are aware that the setting, and people's perceptions thereof, may differ across countries. On the other hand, we consider the setting in which the study was performed a strength as we included participants from five out of eight GP training institutes in the Netherlands. We expect the outcomes of our study to be generalisable to medical training and health care settings in other Anglo-Saxon countries, given comparable educational systems and their competency frameworks.
  • Finally, not including patients can be seen as a limitation of this study as we decided to exclude patients as our focus is on elucidating the perspectives of health care professionals and educators within the domain of training doctor–patient communication.

결론
Conclusion

이번 연구 결과는 숙련된 커뮤니케이터의 특성을 밝히고 숙련된 커뮤니케이션 접근 방식을 개념화했으며, 이는 개념적 모델에 요약되어 있습니다. 임상 현장에서 숙련된 의사소통의 전문성을 갖추기 위해서는 (1) 환자에 대한 민감성과 적응력, (2) 자기 인식, 학습 능력, 반성적 역량이라는 두 가지 과정이 병행되어야 합니다. 전문성을 갖추기 위해서는 환자의 요구와 목표에 맞게 커뮤니케이션을 조정하고 임상 진료 중 커뮤니케이션 과정을 지속적으로 모니터링하는 방법을 배우는 것이 상호 의존적입니다. 개념 모델에 제시된 식별된 특성은 의사가 숙련된 커뮤니케이터가 될 수 있도록 지원하는 학습자 중심 접근법을 개발하는 데 도움이 될 수 있으며, 이는 의료 교육에서 직장 학습을 하는 동안에도 마찬가지입니다. 이는 교육에서 학습자의 학습 과정을 적극적이고 종적으로 안내하여 개인 개발을 촉진할 필요가 있음을 의미합니다.
Our findings elucidate characteristics of a skilled communicator and conceptualise a skilled communication approach, which is outlined in a conceptual model. Two parallel processes are essential to attain expertise in skilled communication in the clinical encounter: (1) being sensitive and adapting to the patient and (2) self-awareness, learning ability and reflective capacity. To attain expertise, learning to adapt communication to patients' needs and goals and continuously monitor communication processes during the clinical encounter are interdependent. The identified characteristics laid out in the conceptual model may inform the development of a learner-centred approach in supporting doctors to become skilled communicators, during workplace learning in medical training. For training, this implies the need to actively and longitudinally guide learners in their learning processes to facilitate personal development.

 

 


 

Med Educ. 2023 May;57(5):418-429. doi: 10.1111/medu.14953. Epub 2022 Oct 26.

Identifying characteristics of a skilled communicator in the clinical encounter

Affiliations collapse

1Department of Family Medicine, Care and Public Health Research Institute (CAPHRI), Maastricht University, Maastricht, The Netherlands.

2Department of Educational Development and Research, School of Health Professions Educations (SHE), Maastricht University, Maastricht, The Netherlands.

3Skillslab, Faculty of Health, Medicine and Life Sciences, Maastricht University, Maastricht, The Netherlands.

4Department of Family Medicine, School for Public Health and Primary Care, Faculty of Health Medicine and Life Sciences, Maastricht University, Maastricht, The Netherlands.

PMID: 36223270

DOI: 10.1111/medu.14953

Abstract

Background: In medical communication research, there has been a shift from 'communication skills' towards 'skilled communication', the latter implying the development of flexibility and creativity to tailor communication to authentic clinical situations. However, a lack of consensus currently exists what skilled communication entails. This study therefore aims to identify characteristics of a skilled communicator, hereby contributing to theory building in communication research and informing medical training.

Method: In 2020, six nominal group technique (NGT) sessions were conducted in the context of the general practitioner (GP) training programme engaging 34 stakeholders (i.e. GPs, GP residents, faculty members and researchers) based on their experience and expertise in doctor-patient communication. Participants in each NGT session rank-ordered a 'Top 7' of characteristics of a skilled communicator. The output of the NGT sessions was analysed using mixed methods, including descriptive statistics and thematic content analysis during an iterative process.

Results: Rankings of the six sessions consisted of 191 items in total, which were organised into 41 clusters. Thematic content analysis of the identified 41 clusters revealed nine themes describing characteristics of a skilled communicator: (A) being sensitive and adapting to the patient; (B) being proficient in applying interpersonal communication; (C) self-awareness, learning ability and reflective capacity; (D) being genuinely interested; (E) being proficient in applying patient-centred communication; (F) goal-oriented communication; (G) being authentic; (H) active listening; and (I) collaborating with the patient.

Conclusions: We conceptualise a skilled communication approach based on the identified characteristics in the present study to support learning in medical training. In a conceptual model, two parallel processes are key in developing adaptive expertise in communication: (1) being sensitive and adapting communication to the patient and (2) monitoring communication performance in terms of self-awareness and reflective capacity. The identified characteristics and the conceptual model provide a base to develop a learner-centred programme, facilitating repeated practice and reflection. Further research should investigate how learners can be optimally supported in becoming skilled communicators during workplace learning.

지나칠 정도로(Adv Health Sci Educ Theory Pract. 2023)
To a fault
Kevin W. Eva1

 

저는 조지 한천입니다. 지금까지 저를 어떻게 생각하시나요? 장인어른이 수없이 기뻐하시며 말씀하셨던 이 대사는 많은 사람이 첫인상에 대해 갖는 매력과 직관을 아름답게 요약합니다. 첫인상은 매우 강력하기 때문에 효과적인 네트워킹에 관한 모든 워크숍과 영업 입문 과정에서는 '첫인상을 남길 기회는 두 번 다시 없다'며 새로운 상호작용에 대한 접근 방식을 세심하게 만드는 것이 얼마나 중요한지 강조합니다. 기초적인 글쓰기 조언도 마찬가지로 '첫머리를 묻지 말라'는 격언처럼 관심을 빠르게 사로잡는 것이 얼마나 중요한지 강조합니다. 두 가지 권장 사항 모두 사람들이 바쁘고 주의력이 덧없다는 사실에 내재된 부인할 수 없는 위험을 올바르게 강조합니다(Eva, 2013). 
I’m George Agar. How do you like me so far? That line, said countless gleeful times by my father-in-law, beautifully sums up the fascination and intuitions many have with first impressions. They are considered so powerful that every workshop on effective networking and every introductory sales course stresses how important it is to finely craft one’s approach to a new interaction: You never get a second chance to make a first impression!’ Foundational writing advice similarly emphasizes how critical it is to capture interest quickly, for instance in the aphorism: Don’t bury the lede!’ Both recommendations rightly highlight the undeniable risk inherent in the facts that people are busy and attention is fleeting (Eva, 2013).

마찬가지로 부인할 수 없는 사실은 첫인상이 영향력을 발휘하기 위해 노력할 필요가 없다는 것입니다. 첫인상은 매우 빠르게 형성되기 때문에 첫인상을 막을 수 없다는 것입니다. 윌리스와 토도로프(2006)의 고전적인 연구에 따르면 얼굴은 일관된 생각으로 인상을 표현하는 것보다 더 빠른 밀리초 이내에 판단된다고 합니다. 의학계에서는 의사들이 새로운 환자를 접한 후 몇 초 안에 가능성을 언급하기 시작할 정도로 빠르게 진단을 내리는 것으로 오랫동안 알려져 왔습니다(Barrows et al., 1982). 
Equally undeniable is that we need not seek to use first impressions for them to be influential; they form so rapidly that early impressions cannot be prevented. Classic work by Willis & Todorov (2006) suggested that faces are judged within milliseconds, faster than one could express their impression with a coherent thought. In medicine, it has long been known that physicians formulate diagnoses so quickly they start naming possibilities within seconds of encountering a new patient (Barrows et al., 1982).

이러한 속도에 따른 편견과 오류의 위험 때문에 의료 전문가 교육에서 첫인상이 의사 결정에 어떤 영향을 미칠 수 있는지 이해하는 것이 필수적입니다. 이러한 이유로 이번 호에 게재된 첫인상과 면접 평가의 관계에 대한 Klusmann, Knorr, Hampe의 연구(2022)와 같은 연구는 환영할 만한 연구인 동시에 더욱 확대되어야 할 필요가 있습니다. 
The risks of bias and error that such speed creates make it essential that we in health professional education understand how first impressions can influence our decision-making. For that reason, work like Klusmann, Knorr and Hampe’s, (2022) exploration of the relationship between first impressions and interview ratings, published in this issue of Advances, is both welcome and in need of further expansion.

다행히도 우리는 더 많은 이해를 쌓을 수 있는 탄탄한 토대를 가지고 있습니다. 결국 개인의 첫인상은 심리학 및 경제학(Kahneman, 2011)과 의료 전문가 교육(Eva, 2005; Norman, 2005)에서 오랫동안 연구되어 온 빠르고 간결한 추론 과정의 한 형태에 불과합니다. 이러한 광범위한 문헌에서와 마찬가지로 첫인상과 관련된 증거는 첫인상이 필연적으로 판단에 해를 끼친다거나 휴리스틱 기반 추론이 오류의 주요 원인이라고 가정하는 데 주의해야 함을 시사합니다. 
Fortunately, we have a solid foundation on which to build greater understanding. First impressions of individuals, after all, are but one form of the fast and frugal reasoning processes that have been studied at length in psychology and economics (Kahneman, 2011) as well as health professional education (Eva, 2005; Norman, 2005). And, just as in those broader literatures, the evidence pertaining to first impressions suggests we must be careful about assuming they inevitably harm judgment or that heuristic-based reasoning is a dominant cause of error.

"얇은 조각"의 정보가 매우 정확한(효율적인 것은 말할 것도 없고) 의사 결정 수단을 제공할 수 있다는 Ambady와 Rosenthal(1992)의 연구 결과를 대중화시킨 것은 아마도 Gladwell의 Blink(2005)가 가장 큰 책임이 있을 것입니다. '블링크'는 아주 적은 정보로(즉, 눈 깜짝할 사이에) 형성된 인상이 신중한 분석에 기반한 의사 결정만큼, 또는 그보다 더 나은 의사 결정을 내릴 수 있음을 보여주는 다양한 연구를 한 단어로 요약한 것입니다. 그러나 비분석적 정신 과정의 힘을 강조하기 위해 책을 쓴 글래드웰조차도 첫인상에 의존할 수 있다는 점을 인정하는데, 특히 초기 반응을 지배하는 단서들이 오해의 소지가 있을 수 있기 때문입니다. 
Gladwell’s Blink (2005) is likely most responsible for popularizing Ambady and Rosenthal’s (1992) findings that “thin slices” of information can provide highly accurate (not to mention efficient) means of decision-making. “Blink” is a one-word summary of an array of research illustrating that impressions formed with very little information (i.e., in the blink of an eye) can be as good as, or better than, decisions based on careful analyses. In writing a book aimed at celebrating the power of non-analytic mental processes, however, even Gladwell admits that we can rely on first impressions to a fault, not least because the cues that dominate our initial reactions can be misleading.

제가 아는 한, '직관적 판단'(즉, 비분석적, 휴리스틱적, 인상에 기반한 판단)이 언제 우리를 잘못된 길로 이끌 가능성이 있는지에 대한 지침을 제공하는 가장 좋은 출처는 Kahneman & Klein(2009)입니다. 이 논문은 휴리스틱의 광범위한 사용이 전문가의 직관이라는 개념을 어떻게 약화시킬 수 있는지에 대한 카네만의 노벨상 수상 연구와 전문성의 놀라운 업적을 보여주는 클라인의 자연주의적 의사 결정에 대한 연구를 조화시키려는 저자들의 노력을 요약한 것입니다. 두 저자의 세계관에는 큰 차이가 있지만, 직관적 판단의 정확성을 높이려면 (1) 환경의 예측 가능성과 (2) 환경의 규칙성을 학습할 기회가 필요하다는 결론은 일치했습니다. 
To my knowledge, Kahneman & Klein (2009) remains the best source of guidance as to when “intuitive judgments” (i.e., those based on non-analytic, heuristic-based, impressions) are likely to lead us astray. That paper summarizes the authors’ effort to reconcile Kahneman’s Nobel winning research on how prevalent use of heuristics can undermine the notion of expert intuition with Klein’s research on naturalistic decision making that reveals astonishing feats of expertise. Despite the appearance of vast differences in their worldviews, the authors aligned in their conclusion that intuitive judgment accuracy requires (a) predictability in the environment and (b) opportunity to learn its regularities.

첫 번째 기준과 관련하여 클루스만, 크노르, 햄페가 연구를 수행한 맥락이 '예측 가능한' 것으로 간주될 수 있는지 여부를 판단하는 것은 첫인상보다 더 어렵습니다. 이들의 다중 미니 인터뷰(MMI)는 '사회적 역량'을 측정하기 위한 것으로, 미래 행동에 대한 완벽한 예측은 고사하고 이러한 자질의 전체 복잡성을 측정할 수 있는 도구는 없다고 확신할 수 있습니다. 사실 맥락은 매우 중요하기 때문에 특정 역량이 단순한 레이블이 암시하는 것처럼 고결한 것이라고 가정해서는 안 됩니다(Grant & Schwartz, 2011). 우리는 지원자가

  • 자신감이 있기를 바라지만, 자신감이 결점(자기애)이 될 수도 있고,
  • 회복탄력성이 있기를 바라지만, 회복탄력성이 결점(경직성)이 될 수도 있고,
  • 친절하기를 바라지만, 친절함이 결점(복종성)이 될 수도 있고,
  • 이타심을 원하지만, 이타심이 결점(자기 부정성)이 될 수도 있습니다. 

With respect to the first criterion, determining whether the context in which Klusmann, Knorr and Hampe did their work can be deemed ‘predictable’ is more difficult than first impressions might suggest. Their Multiple Mini Interview (MMI) was intended to measure “social competence” and we can be quite confident there is no tool that could ever measure the full complexity of such qualities let alone make perfect prediction about future behaviour. Context is so important, in fact, that we should not even assume any given competence to be as virtuous as a simple label might suggest (Grant & Schwartz, 2011).

  • We want candidates to be confident, but one can be confident to a fault (narcissism);
  • we want them to be resilient, but one can be resilient to a fault (rigid);
  • we want kindness, but one can be kind to a fault (obsequious); and,
  • we want altruism, but one can be altruistic to a fault (self-denying).

판단에 기반한 평가 상황에서는 기껏해야 특정 시점에 개인이 바람직한 수준의 미덕을 어느 정도 드러내는지에 대한 평가자의 관점을 측정할 수 있을 뿐입니다. 이러한 상황에서 '예측 가능성'이 유용하기 위해서는 미래에 일어날 모든 일을 예측할 수 있는 능력을 의미할 필요는 없으며, 예측 가능성은 보다 근본적으로 여러 상황 내에서 또는 여러 상황 간에 서로 다른 행동 간에 어떤 상관관계가 존재하는지 이해하는 것을 의미합니다. MMI 스테이션의 초반에 하는 행동(또는 표시)이 나중에 같은 스테이션에서 하는 행동을 의미 있게 예측할 수 있다면, 해당 스테이션에서의 성과는 첫인상으로부터 '예측 가능'하다고 간주해야 합니다. 마찬가지로, MMI 스테이션 모음에서 수집한 비교적 "얇은" 조각에서 나타난 행동이 다른 사람과 얼마나 쉽고 빠르게 친밀감과 신뢰를 쌓을 수 있는지와 관련이 있다면, 이러한 첫인상은 훈련이 완료된 후 바람직한 역량을 발휘할 가능성에 관한 귀중한 (불완전하더라도) 정보원이 될 수 있습니다(Eva 외., 2012).
At best, in any judgment-based assessment situation, we might ably measure raters’ perspectives on the extent to which an individual reveals a desirable level of demonstrable virtues at that given moment in time. To be useful, ‘predictability’ in such situations need not refer to the capacity to anticipate everything that will happen in the future; rather, predictability is more fundamentally about understanding where correlations exist between different behaviours within or across different situations. If what one does (or displays) early in an MMI station meaningfully anticipates what they do later in the same station, their performance in that station should be considered “predictable” from first impressions. Similarly, if the behaviours demonstrated in the still relatively “thin” slices gathered from a collection of MMI stations relate to how easily or quickly one can build rapport and trust with others, those first impressions may serve as a valuable (even if imperfect) source of information regarding the likelihood of exhibiting desirable competencies after training is completed (Eva et al., 2012).

환경 규칙에 대해 학습할 수 있는 역량은 어떨까요? 대부분의 경우 면접 상황에서 평가자는 관찰과 장기적인 결과 사이의 관계에 대한 피드백을 거의 또는 전혀 받지 못합니다. 안타깝게도 인터뷰 환경에서 시간을 들여 "두꺼운" 정보 조각을 만든다고 해서 이 문제가 해결되지는 않습니다. 면접 시간이 길어지면 만나는 지원자의 수가 줄어들어 규칙성에 대해 배울 수 있는 기회가 줄어들 뿐만 아니라, Ambady와 Rosenthal(1992)의 연구에서 입증된 것처럼 면접 시간이 길어지면 새로운 정보를 추가하기보다는 평가자의 자신감을 강화하는 데 더 많은 영향을 미칩니다. 물론 사람들이 첫인상을 조정할 수는 있지만, 주어진 상황에서의 성과는 초기부터 후기까지 충분히 일관된(즉, 예측 가능한) 경향이 있기 때문에 평가자의 조정 능력을 테스트하기 위한 연구에서는 첫인상을 강화하는 후기 순간의 어려움을 극복하기 위해 실험적으로 자극을 조작하는 경향이 있습니다(예: Wood et al., 2018; Eva & Cunnington, 2006).
What though of the capacity to learn about environmental regularities? In most circumstances, raters in interview contexts receive little to no feedback regarding the relationship between their observations and long-term outcomes. Unfortunately, taking the time to create “thicker” slices of information within interview settings will not address that issue. Not only do longer interviews reduce the number of applicants one encounters, thus reducing opportunity to learn about regularities, but as Ambady and Rosenthal’s (1992) work demonstrated, longer interviews do more to reinforce raters’ confidence than they do to add new information to the mix. It is possible, of course, for people to adjust their first impressions, but performance within a given situation tends to be consistent (i.e., predictable) enough from early to late stages that studies aimed at testing raters’ capacity to adjust tend to rely on experimentally manipulating stimuli to overcome the challenge of later moments reinforcing first impressions (e.g., Wood et al., 2018; Eva & Cunnington, 2006).

즉, 상황 간(서로 다른 인터뷰 포함) 성과는 일관성이나 예측 가능성이 거의 없는 경향이 있는데, 이러한 현상을 맥락 특이성이라고 합니다(Eva et al., 1998). 이러한 강력한 현상이 존재한다는 점을 고려할 때, 면접관에게 [관찰과 장기적인 성과 사이의 규칙성]에 대해 가르치려는 노력은 [개인에 대한 관찰 횟수가 적을수록 규칙성을 학습할 가능성이 낮기 때문에] 잘못된 것입니다. 클루스만, 크노르, 햄페는 결과의 가치를 할인할 때 이 점을 인식하고 두-스테이션 OSCE를 사용했습니다. 대신 MMI 프로세스는 한 평가자의 약점은 다른 평가자의 강점을 통해 보정될 수 있고, 그 반대의 경우도 마찬가지이기 때문에 진정한 '예측 가능한' 인상을 수집하기 위해서는 여러 개의 얇은 조각을 함께 겹쳐야 한다는 개념에 기반하고 있습니다. 이 개념은 다양한 방식으로 언급되지만, 질적 연구에서 삼각측량 논리의 핵심이며(Carter et al., 2014), 진단 오류에 대한 스위스 치즈 모델(Reason, 2000), 충분한 정보가 수집될 때까지 프로그램 평가에서 의사 결정을 보류하라는 조언(Schuwirth & van der Vleuten, 2012), 샘플링 전략을 활용하여 유용성을 높이는 기타 평가 방법론(Eva, 2018)의 핵심이기도 합니다. 
That said, performance between situations (including different interviews) tends not to be nearly as consistent or predictable, a phenomenon widely known as context specificity (Eva et al., 1998). Given the existence of that robust phenomenon, efforts to teach interviewers about regularities between their observations and longer-term performance would be misplaced because the fewer the observations one has made about an individual the less likely it is that regularities exist to be learned. Klusmann, Knorr and Hampe recognize this when they discount the value of their outcome – a two-station OSCE. MMI processes, instead, are built upon the notion that layering many thin slices together is necessary to gather truly ‘predictive’ impressions because weaknesses in one rater’s impressions can be corrected through strengths in the impressions of others (and vice versa). While spoken about in many different ways, this concept is the essence of triangulation logic in qualitative research (Carter et al., 2014), the Swiss cheese model of diagnostic error (Reason, 2000), the advice to withhold decision-making in programmatic assessment until sufficient information has been gathered (Schuwirth & van der Vleuten, 2012), and any other assessment methodology that draws upon sampling strategies to increase their utility (Eva, 2018).

요약하자면, 첫인상은 결함이 있을 수 있지만, 더 많은 상호작용을 통해 형성된 인상도 결함이 있을 수 있으며, 이는 우리가 첫인상을 보완하지 않는다면 주로 첫인상을 지나칠 정도로 신뢰한다는 것을 시사합니다. 그러나 가장 가치 있는 보완은 [첫인상을 무시하려는 노력]에서 오는 것이 아니라, 다양한 맥락에서 다양한 사람들이 형성한 많은 인상을 먼저 보려는 노력에서 오는 것일 수 있습니다(Eva, 2018). 결국 판단의 지혜는 판단의 근거가 되는 정보의 포괄성보다는 수집된 인상의 수, 독립성, 그리고 그 인상이 나온 사람들의 다양성에 따라 성장합니다(Surowiecki, 2004).

In sum, first impressions can be flawed, but so can impressions formed from more extended interactions, which suggests that we trust our early intuitions to a fault primarily when we fail to supplement them. The most valuable supplementation, however, may not come from effort to discount one’s first impression so much as it comes from effort to look across many impressions, first or otherwise, formed by a variety of people in a variety of contexts (Eva, 2018). Wisdom of judgment, after all, grows with the number of impressions collected, their independence, and the diversity of people from whom they came, rather than from the comprehensiveness of information on which judgments are based (Surowiecki, 2004).


 

 

Adv Health Sci Educ Theory Pract. 2023 May;28(2):537-540. doi: 10.1007/s10459-022-10181-z. Epub 2022 Nov 30.

 

 

To a fault

Affiliations collapse

1Centre for Health Education Scholarship, University of British Columbia, Vancouver, Canada. kevin.eva@ubc.ca.

PMID: 36449112

DOI: 10.1007/s10459-022-10181-z

Abstract

Are first impressions misleading? This commentary explores that question by drawing on the more general cognitive psychology literature aimed at understanding when, why, and how any non-analytic reasoning process can help or hurt decision-making.

성형외과 전공의 선발 인터뷰 중 금지된 질문의 사용빈도(Plast Reconstr Surg Glob Open. 2023)
Prevalence of Prohibited Questions during Plastic Surgery Residency Interviews

 

소개
INTRODUCTION

성형외과는 가장 경쟁이 치열한 레지던트 과정 중 하나이며, 이러한 추세는 최근 몇 년 동안 더욱 심해졌습니다.1,2 2020년과 2021년 지원 주기에서 미국 의대생 지원자의 30.1%가 통합 성형외과 포지션에 매칭에 실패했습니다. 이 수치는 2022년에는 38.4%(108명)로 증가했습니다.3-5 2022년 매칭 주기 동안 86개의 통합 성형외과 및 재건외과(PRS) 프로그램에서 제공하는 194개의 PGY-1 자리에 411명의 지원자가 있었습니다.6,7 2022년 전국 레지던트 매칭 프로그램(NRMP) 보고서에 따르면 281명(80%)의 지원자가 미국 의과대학에서 교육을 받았으며 이 그룹이 173개(89.2%) 자리를 확보했습니다.5 성형외과 합격자의 자격은 모든 전문과 중에서 가장 경쟁이 치열합니다.

  • 미국 의과대학협회(AAMC)에 따르면 성형외과 1년차 통합 전공의의 USMLE 1단계와 2단계를 합한 점수(각각 247점, 253.2점)는 이비인후과 전공의(각각 247점, 254.4점)에 이어 두 번째로 높았으며,
  • 성형외과 1년차 전공의의 평균 출판, 발표 및 초록 수(20편)는 신경외과(24편)에 이어 두 번째로 높았습니다. 6), 정형외과(13.9건) 및 이비인후과(13.7건)보다 45% 더 많습니다.8

따라서 성형외과 통합전형에 참여하는 것은 경쟁이 치열하며, 대부분의 지원자들은 성형외과 전문의가 되기 위해 각 면접을 필수적으로 고려합니다. 이처럼 경쟁이 치열한 상황에서 면접 과정의 공정성과 투명성은 무엇보다 중요합니다. 
Plastic surgery is one of the most competitive residencies, and this trend has only intensified in recent years.1,2 In the 2020 and 2021 application cycles, 30.1% of United States medical student applicants for integrated plastic surgery positions failed to match. This figure rose to 38.4% (108 applicants) in 2022.3–5 During the 2022 match cycle, there were 411 applicants for the 194 PGY-1 spots offered by 86 integrated plastic and reconstructive surgery (PRS) programs.6,7 Based on the 2022 National Resident Matching Program (NRMP) report, 281 (80%) applicants were educated in US medical schools, and this group secured 173 (89.2%) of the positions.5 The qualifications of successful candidates in plastic surgery are the most competitive of all specialties.

  • According to the American Association of Medical Colleges (AAMC), the combined USMLE Step 1 and Step II for the first-year integrated plastic surgery residents (247 and 253.2, respectively) were second only to residents in otolaryngology (247 and 254.4, respectively),
  • while the average number of publications, presentations, and abstracts of the first-year plastic surgery residents (20) was second only to neurosurgery (24.6) and 45% greater than orthopedic surgery (13.9) and otolaryngology (13.7).8 

Consequently, participation in the integrated plastic surgery match is highly competitive, and most applicants consider each interview essential to their prospect of becoming a plastic surgeon. In such a high-stakes setting, the fairness and transparency of the interview process are paramount.

다양한 의학 및 외과 전문과목에 대한 연구에 따르면 면접 과정에서 지원자에게 허용되지 않거나 잠재적으로 불법적인 질문을 하는 비율이 충격적으로 높은 것으로 나타났습니다(그림 1).9-13 비외과 및 외과 전문과목 지원자 약 11,000명을 대상으로 한 Hern 등의 연구에 따르면 응답자의 53.3%가 결혼 여부, 24%가 자녀, 13.8%가 육아 계획에 대해 질문을 받은 것으로 나타났습니다.8 다른 전문과목에서도 유사한 결과가 보고되었습니다.9

  • -인종/민족, 성별, 성 정체성, 성적 지향, 나이, 장애, 종교, 정치적 견해, 가족 상태에 관한 채용 과정에서의 질문은 1964년 민권법 제7장에 의거하여 연방법을 명백히 위반하는 것입니다.14
  • 마찬가지로, NRMP는 지원자와 프로그램 모두를 위한 행동 강령을 제공하며 연방법을 면밀히 준수하는 경향이 있습니다.15,16 이 가이드에는 "불법적인 질문 자제"라는 제목의 특정 섹션이 포함되어 있습니다.
  • 또한, AAMC는 인구통계, 가족, 병력(군대, 체포, 전과), 기타 프로그램/전문과목 및 순위 계획 등 인터뷰 시 피해야 할 주제를 설명하는 "의료 인터뷰 수행 모범 사례"를 게시합니다(그림 2).17

Studies of various medical and surgical specialties have documented that the incidence of impermissible or potentially illegal questions asked to candidates during the interview process is shockingly high (Fig. 1).9–13 A study by Hern et al surveying nearly 11,000 applicants in both nonsurgical and surgical specialties revealed that 53.3% of respondents were asked about their marital status, 24% about children, and 13.8% about plans for child-rearing.8 Similar findings have been reported in other specialties.9–13 

  • Questions during an employment process regarding race/ethnicity, sex, gender identity, sexual orientation, age, disability, religion, political views, and family status explicitly violate federal law under Title VII of the Civil Rights Act of 1964.14 
  • Likewise, the NRMP offers Codes of Conduct for both applicants and programs that tend to closely follow the federal legislation.15,16 This guide contains a specific section entitled “Refrain From Asking Illegal Questions.”
  • Moreover, the AAMC publishes “Best Practices for Conducting Medical Interviews” that spell out topics to avoid during an interview, including demographics, family, history (military, arrests, criminal convictions), and other programs/specialties and ranking plans (Fig. 2).17

 

이러한 명확한 가이드라인에도 불구하고, 지원자들은 계속해서 이러한 허용되지 않는 질문에 직면하고 있으며, 여기서 허용되지 않는 질문이란 AAMC/NRMP가 금지하는 모든 주제 및/또는 진술로 정의합니다. 지난 10년간의 이전 매칭 주기에 대한 연구에 따르면 성별 모두 유의미한 영향을 받았지만, 여성 응답자가 특히 결혼 여부, 가족 계획 및/또는 프로그램에 대한 헌신과 관련하여 허용되지 않는 질문을 받을 가능성이 더 높았습니다.10 불법은 아니지만 지원자의 특정 프로그램에 대한 헌신 또는 인터뷰에 관한 질문은 매칭 규정에 의해 금지되어 있지만, 연구에 따르면 여러 전문과목에서 위반이 만연한 것으로 나타났습니다.10 -13,18 따라서 이 연구의 목적은 세 가지입니다:

  • PRS 레지던트 면접에서 허용되지 않는 질문과 불법적인 질문의 유행을 문서화하고,
  • 발생하는 질문의 유형을 탐구하며,
  • 프로세스의 공정성과 투명성을 개선하기 위해 이 문제에 대한 경각심을 불러일으키기 위한 것입니다.

Despite these clear guidelines, applicants continue to face these disallowed questions, which we define here as any topic and/or statement that AAMC/NRMP prohibits. Studies from prior match cycles over the last decade have revealed that while both genders were significantly affected, female respondents were more likely to receive an impermissible question, especially regarding marital status, family planning, and/or commitment to the program.10 Although not illegal, questions regarding an applicant’s commitment to a given program and/or interviews are prohibited by match rule, yet studies show violations are prevalent across numerous specialties.10–13,18 Thus, the purpose of this study is threefold:

  • to document the prevalence of impermissible and illegal questions during PRS residency interviews,
  • to explore the types of questions that arise, and
  • to draw awareness to this matter in hopes of improving the fairness and transparency of the process.

방법
METHODS

기관 심의위원회의 승인을 받은 후, PRS 레지던트 면접 시 잠재적으로 불법적인 질문에 대한 16개 문항으로 구성된 익명 설문조사를 설계하여 REDCap에 배포했습니다(그림 1). 이 설문조사는 2022년 3월부터 2022년 6월까지 미국 내 한 통합 PRS 프로그램의 2022년 매칭 지원자(302명) 전원에게 발송되었습니다. 매칭 결과가 발표된 후(2022년 3월) 지원자들에게 일주일 간격으로 세 차례 이메일을 발송하여 27.8%의 응답률을 보였습니다. 이후 2022년 6월까지 2주 간격으로 세 차례의 리마인더 이메일이 발송되었습니다. 총 66일 동안 지속적으로 응답을 수집하여 최종 응답률 33.1%를 달성했습니다. 
After institutional review board approval, an anonymous 16-question survey on potentially illegal questions during the PRS residency interview was designed and distributed on REDCap (Fig. 1). From March 2022 to June 2022, this survey was sent to all match 2022 applicants (302 applicants) of one integrated PRS program in the United States. After match results were published (March 2022), three separate emails, spaced a week apart, were sent to applicants with a response rate of 27.8%. Three subsequent reminder emails were sent 2 weeks apart until June 2022. Responses were continuously collected for a total of 66 days, achieving a final response rate of 33.1%.

연구 데이터는 워싱턴 DC의 어린이 국립병원에서 호스팅하는 REDCap-Research 전자 데이터 캡처를 사용하여 수집 및 관리되었습니다.19,20 REDCap은 연구용 데이터 캡처를 지원하도록 설계된 안전한 웹 기반 소프트웨어 플랫폼으로, (1) 검증된 데이터 캡처를 위한 직관적인 인터페이스, (2) 데이터 조작 및 내보내기 절차를 추적하기 위한 감사 추적, (3) 공통 통계 패키지로 데이터를 원활하게 다운로드하기 위한 자동 내보내기 절차, (4) 데이터 통합 및 외부 소스와의 상호운용성을 위한 절차 등을 제공합니다. 설문조사 도구는 식별 가능한 정보와 연결되지 않았으며 모든 응답은 익명으로 처리되었습니다. 
Study data were collected and managed using REDCap—Research Electronic Data Capture, hosted at Children’s National Hospital of Washington, DC.19,20 REDCap is a secure, web-based software platform designed to support data capture for research studies, providing (1) an intuitive interface for validated data capture; (2) audit trails for tracking data manipulation and export procedures; (3) automated export procedures for seamless data downloads to common statistical packages; and (4) procedures for data integration and interoperability with external sources. The survey instrument was not linked to identifiable information; all responses were anonymous.

지원자들에게는 인구통계학적 정보, 면접 경험, 질문 또는 AAMC 가이드라인에 따라 불법으로 간주될 수 있는 의견에 대해 질문했습니다. 또한 응답자들에게 이러한 시나리오에서 어떤 반응을 보였는지, 부적절한 질문과 관련된 조치를 취하기로 결정했는지, 해당 프로그램의 순위가 영향을 받았는지에 대해서도 질문했습니다. 
The applicants were queried about the demographic information, interview experience, questions, or comments that would be considered illegal based on the AAMC guidelines. Additionally, respondents were asked about their responses in these scenarios, if they had decided to pursue actions related to inappropriate questions, and if their ranking of these programs was affected.

답변은 REDCap에 표로 작성되었으며, 데이터 평가는 Microsoft Excel 16.40(Microsoft Corporation, 워싱턴주 레드몬드)을 사용하여 수행되었습니다. 통계 분석은 Stata 소프트웨어, 버전 14.2 MP(Stata Corporation, College Station, Texas)를 사용하여 수행되었습니다. 설문조사 완료 시 성별, 인종, 연령에 따른 경향과 부적절한 질문의 유병률을 분석했습니다. 단변량 분석은 공변량 t 검정을, 연속형 데이터 비교는 윌콕슨-만-위트니 테스트를 사용하여 수행했으며, 범주형 변수는 카이제곱 검정을 사용하여 비교했습니다. 값은 연속형 변수의 경우 평균 ± SD 또는 사분위수 범위(IQR)를 포함한 중앙값으로, 범주형 변수의 경우 백분율을 포함한 빈도로 표시했습니다. P값이 0.05 미만이면 통계적으로 유의미한 것으로 간주했습니다. 성별, 연령, 인종/민족별로 계층화된 하위 그룹 분석의 경우, 큰 효과 크기를 감지할 수 있는 검정력이 80% 이상인 것으로 나타났습니다(Cohen's W = 0.5). 
Answers were tabulated into REDCap, and data evaluation was done using Microsoft Excel 16.40 (Microsoft Corporation, Redmond, WA). Statistical analysis was performed using Stata software, version 14.2 MP (Stata Corporation, College Station, Tex.). Trends between gender, ethnicity, or age at completing the survey and the prevalence of inappropriate questions were analyzed. Univariate analysis was performed using unpaired t test, and Wilcoxon-Mann-Whitney tests to compare continuous data, and categorical variables were compared using chi-square test. Values were expressed as mean ± SD or median with interquartile range (IQR) for the continuous variables and frequencies with percentages for the categorical variables. A P value less than 0.05 was considered to be statistically significant. For the subgroup analyses, stratified by gender, age, and race/ethnicity, we found greater than 80% of power to detect a large effect size (Cohen’s W = 0.5).

결과
RESULTS

지원자 특성은 표 1에 나와 있습니다. 설문조사에 참여한 302명의 지원자 중 100명(33.1%)이 설문조사 요청을 완료했습니다. 대부분의 응답자는 지원 주기 동안 10회 이상의 면접을 받았습니다. 지원자의 대다수(78%)가 허용되지 않는 질문/시나리오를 경험했으며, 이러한 질문이 하나 이상 포함된 면접을 평균 3.6회(SD 3.79) 진행했습니다(그림 3 및 4). 이러한 질문이 가장 많이 등장한 카테고리는 인터뷰 숫자/랭킹(42%)이었으며, 결혼 여부(33%), 경력 균형(25%), 인종/민족(22%)이 그 뒤를 이었습니다. (성형외과 지원자에게 보낸 설문조사 예시가 표시된 설문조사, 보충 디지털 콘텐츠 1을 참조하세요. ) 이러한 질문/시나리오 중 상당수가 부적절하다고 생각했지만(25.6%), 지원자의 42.3%는 이러한 질문/시나리오의 적절성에 대해 잘 모르겠다/중립적이라고 느꼈습니다(표 2). 나머지 25명의 응답자(32.1%)는 면접 토론의 맥락을 고려할 때 해당 질문이 적절했다고 답했습니다. 8명의 지원자(10.3%)는 이러한 시나리오에서 답변을 거부했으며, 답변한 지원자 중 85.7%는 진실하게 답변했습니다. 이러한 불법 가능성이 있는 시나리오에 대해 불만을 제기하거나 신고한 지원자는 없었습니다. 응답자들이 꼽은 가장 일반적인 이유로는 기관의 보복이나 직급에 대한 부정적인 영향에 대한 두려움(30.9%)이 가장 많았고, 실익이 없어서(16.2%)가 그 뒤를 이었습니다. 마지막으로 응답자의 30%는 자신의 경험이 직급 목록에 영향을 미쳤다고 답했습니다.

Applicant characteristics are illustrated in Table 1. One hundred of the 302 applicants who were surveyed (33.1%) completed the survey request. Most respondents had received more than 10 interviews for the application cycle. The majority (78%) of applicants experienced an impermissible question/scenario with an average of 3.6 (SD 3.79) interviews that included at least one of these questions (Figs. 3 and 4). The most prevalent categories of these questions were number/ranking interviews (42%), followed by marital status (33%), career balance (25%), and race/ethnicity (22%). (See survey, Supplemental Digital Content 1, which displays the example survey sent to plastic surgery applicants. https://links.lww.com/PRSGO/C580.) Although many of these questions/scenarios were seen as inappropriate (25.6%), 42.3% of applicants felt unsure/neutral about the appropriateness of the statements (Table 2). The other 25 respondents (32.1%) found that these questions were appropriate given the context of the interview discussion. Eight applicants (10.3%) refused to respond in these scenarios, and of those who did answer, 85.7% answered truthfully. No applicant submitted a complaint or reported these potentially illegal scenarios. The most common reasons cited by the respondents included fear of retribution or negative impact on their ranking by the institution (30.9%), followed by lack of benefit (16.2%). Lastly, 30% of respondents said their experience influenced their rank list.

 

 

 

연령대, 성별, 인종/민족과 가장 많이 발생한 불법 질문 범주, 진실성, 순위 결정의 연관성을 조사하기 위해 추가 분석을 수행했습니다. 

  • 연령대와 불법 질문, 진실성, 순위 결정 범주 간에 통계적으로 유의미한 연관성은 발견되지 않았습니다(표 3). 
  • 성별에 대한 분석 결과, 이러한 유형의 시나리오를 접하는 것이 여성의 순위 결정에 유의미한 영향을 미치는 것으로 나타났습니다(여성 43.4% 대 남성 13.3%, P = 0.001)(표 4). 
  • 인종/민족에 대한 분석 결과 흑인, 아시아계, 히스패닉/라틴계 지원자가 자신의 인종/민족과 관련된 질문을 통계적으로 더 많이 받은 것으로 나타났습니다. (표 5).

Additional analyses were performed to examine the association of age group, gender, and race/ethnicity, with the most prevalent categories of illegal questions, truthfulness, and ranking decision.

  • There were no statistically significant associations between different age groups and categories of illegal questions, truthfulness, or ranking decision (Table 3).
  • Regarding gender, our analysis found that encountering these types of scenarios significantly influenced the rank list for females (43.4% women versus 13.3% men, P = 0.001) (Table 4).
  • Analysis on race/ethnicity revealed that Black, Asian, and Hispanic/Latino applicants had statistically more questions that pertained to their race/ethnicity. (Table 5).
 

 

토론
DISCUSSION

허용되지 않거나 불법일 가능성이 있는 질문을 받았다는 지원자의 보고는 새로운 발견이 아닙니다. Ciesielski-Carlucci 등의 연구에 따르면 레지던트 지원자의 절반 이상이 면접 중 질문이 "부적절하거나 불편하거나 차별적일 가능성이 있다."21 비뇨기과, 응급의학과, 피부과, 방사선 종양학과에 대한 후속 연구에서도 비슷한 결과가 나왔습니다.12,13,22,23 Hern 등은 2012~2013년 레지던트 면접 주기에서 19개 전문과목을 조사한 결과 응답자의 65.9%가 적어도 한 가지 이상의 잠재적 불법 질문을 받았다고 답했으며 외과 지원자의 82%가 그러한 질문을 받았다고 답했습니다.9,10 이러한 초기 연구에서는 행동 강령과 허용 가능한 면접 절차의 정의가 필요했습니다. 그러나 현재 프로그램에서 쉽게 이용할 수 있는 다양한 리소스(2016년과 2021년에 업데이트됨)가 있음에도 불구하고, 본 연구에서 발견된 성형외과 면접 과정에서 허용되지 않거나 불법적인 질문의 높은 유병률은 이러한 우려가 면접 및 매칭 과정의 무결성을 계속 위협하고 있음을 강조합니다. 
Applicants reporting potentially impermissible or potentially illegal questions is not a novel discovery. A study by Ciesielski-Carlucci et al revealed that more than half of residency applicants identified questions asked during interviews as “inappropriate, uncomfortable, or possibly discriminatory.”21 Subsequent studies have been carried out specific to urology, emergency medicine, dermatology, and radiation oncology yielding similar results.12,13,22,23 Hern et al examined 19 specialties in the 2012–2013 residency interview cycle and found that 65.9% of respondents reported receiving at least one potentially illegal question, and 82% of surgical applicants were asked such questions.9,10 These earlier studies called for a code of conduct and a definition of acceptable interview procedures. Yet, despite the wide range of resources now readily available to programs (updated in 2016 and 2021), the high prevalence of impermissible or illegal questions during the plastic surgery interview process found in the present study highlights that these concerns continue to jeopardize the integrity of the interview and match process.

Here are some examples of inappropriate questions in a U.S. residency matching interview for the categories you mentioned:
  1. Ranking interviews:
    • Where else have you interviewed?
    • How would you rank this program compared to others?
    • What is your top choice for residency?
  2. Marital status:
    • Are you married?
    • Do you have a significant other or plan to have one during residency?
    • What does your spouse/partner think of our program?
  3. Race:
    • What is your ethnicity or race?
    • Were you born in the United States?
    • What's your native language?
Asking these types of questions during an interview is inappropriate and can violate ethical standards and anti-discrimination laws. Interviewers should focus on the applicant's qualifications, skills, and ability to perform the duties required in the residency program.

PRS 매칭 지원자가 보고한 가장 일반적인 두 가지 허용되지 않는 질문은 지원자의 직급 목록(42%)과 결혼 여부(33%)에 대한 논의와 관련된 것이었습니다. 2016년에 Hern 등은 일부 전문 분야의 응답자 중 30% 이상이 계급 목록 및 프로그램에 대한 헌신과 관련된 불법적인 질문을 받았다고 보고했습니다. 이들은 이러한 질문이 "다른 질문과 같은 방식으로 잠재적으로 불법적인 것은 아니다."라고 지적한다. 10 이러한 성격의 질문은 레지던트 면접에 특화되어 있으며 민권법이 보호하지 않기 때문에 덜 금지적으로 느껴진다고 지적했습니다. 이는 불법적인 질문을 경험한 응답자의 42%가 해당 질문이 직급과 관련된 질문이었다고 답한 연구 결과에서 나타난 높은 유병률을 설명할 수 있습니다.

  • 2010년 피부과 지원자 설문조사에서 응답자의 90%가 다른 프로그램의 면접에 대해 질문을 받았으며, 32%는 프로그램 순위를 공개해야 한다는 압박감을 느꼈다고 답했습니다.13
  • 2017년 방사선 종양학과 지원자 202명의 응답을 조사한 Sura 등은 비슷한 결과를 발견했습니다: 불법적인 질문의 47%는 다른 프로그램의 면접에 관한 것이었고, 12%는 순위 의도에 관한 것이었습니다.11
  • 마찬가지로, 세베스타 등은 2017년 매칭 주기(NRMP가 아닌 AUA가 관리)에서 비뇨기과 지원자 141명의 응답을 보고했는데, 85%가 적어도 한 번의 면접에서 불법적인 질문을 받았으며, 지원자의 48%가 순위 목록에 대한 질문을 받았고, 허용되지 않는 질문을 받았다고 보고한 모든 지원자는 다른 면접 장소나 참석 면접 횟수에 대해 질문받았습니다.12

The two most common impermissible questions reported by applicants to the PRS match were related to discussions of the applicant’s rank list (42%) and marital status (33%). In 2016, Hern et al. found that over 30% of respondents in some specialties reported illegal questions related to rank lists and commitment to programs. They astutely pointed out that these are “not potentially illegal in the same way as other questions.”10 Questions of this nature are specific to residency interviews and somehow feel less prohibitive, as civil rights laws do not protect them. This may explain the high prevalence shown in our study, where 42% of those who experienced an illegal question reported the questions were rank-related.

  • In 2010, Sbicca et al found that 90% of respondents to a dermatology applicant survey were asked about interviews at other programs, whereas 32% felt pressured to reveal how they intended to rank programs.13 
  • While examining the responses of 202 radiation oncology applicants in 2017, Sura et al revealed similar findings: 47% of illegal questions were regarding interviews at other programs, wheras 12% were specific to rank intention.11 
  • Similarly, Sebesta et al reported 141 responses by urology applicants in the 2017 match cycle (governed by AUA, not NRMP); 85% reported an illegal question during at least one interview, 48% of applicants were asked about rank lists, and all who reported impermissible questions were asked about other interview locations or the number of interviews attended.12 

이러한 질문은 지원자에게 딜레마를 야기할 수 있는데, 면접 횟수가 많다고 답하면 특정 프로그램에 관심이 적다는 의미로 오해될 수 있고, 반대로 적은 횟수를 답하면 덜 바람직한 지원자처럼 보일 수 있기 때문입니다. 이러한 질문은 법적 위반에 해당하지 않지만, NRMP 웹사이트(2021년 8월 업데이트)에는 다른 프로그램에 대한 프로그램별 문의 및/또는 지원자의 순위 계획이 경기 참가 계약 위반에 해당한다고 명시되어 있습니다.24
These questions can create a dilemma for applicants given that admitting to a high number of interviews may be misinterpreted to mean that they have little interest in attending that specific program, whereas reporting a lower number may give the appearance that they are a less desirable candidate. Although these questions do not constitute a legal infraction, the NRMP website (updated August 2021) clearly states that inquiries by programs regarding other programs and/or how the applicant plans to rank them are a violation of the Match Participation Agreement.24

반면, 결혼 여부 또는 출산/가족 계획에 관한 질문은 종종 주법에 의해, 더 나아가 연방법에 의해 금지되어 있습니다.14 이러한 유형의 질문에 대한 본 연구 결과는 일반적으로 다른 전문 분야에서 발표된 연구 결과와 일치했습니다.9-13,22 그러나 이러한 질문이 여성 지원자에게 더 자주 묻는 것으로 나타난 선행 연구와 달리,9,10 본 연구에서는 성별 차이가 드러나지 않았습니다

  • Sbicca 등은 2009년 매치에서 피부과 지원자 78명(44%)이 결혼 여부에 대한 질문을 받았고, 33명(19%)이 현재 자녀가 있거나 자녀를 가질 계획이 있는지 물었다고 보고했습니다.13 
  • 비뇨기과 지원자 데이터에 따르면 55%가 결혼 여부와 현재/미래 자녀 계획 등 개인 생활에 대한 질문을 받았습니다.12 
  • Sura 등은 결혼 여부 질문이 30%의 빈도로 나타났다고 발표했습니다. 자녀 양육 계획은 방사선 종양학 지원자의 6%가 보고했습니다. 
  • 이와 대조적으로 Hern 등은 외과 및 비외과 전문의 지원자 11,000명을 대상으로 실시한 설문조사에서 응답자의 53.3%가 결혼 여부에 관한 질문을, 24%가 자녀에 관한 질문을, 13.8%가 자녀 양육 계획에 관한 질문을 받았다고 밝혔습니다.9,11 
  • 본 연구에 따르면 지원자의 33%가 결혼 여부에 관한 질문을 받은 반면, 약 16%는 가족 계획에 관한 질문을 받았다고 답했습니다. 

In contrast, questions regarding marital status or childbearing/family plans are often proscribed by the state and, more tangentially, by federal laws.14 Our results for these types of questions were generally consistent with findings published in other specialties.9–13,22 However, unlike prior studies, which found these questions were more frequently asked to female applicants,9,10 our study did not reveal a gender difference.

  • Sbicca et al reported 78 (44%) dermatology applicants being asked about marital status, and 33 (19%) asked if they either currently had children, or intended to have children, in the 2009 Match.13 
  • Urology applicant data showed that 55% were asked questions about personal life, including marital status and current/future plans for children.12 
  • Sura et al revealed that marital status questions appeared 30% of the time. Child-rearing plans were reported by 6% of radiation oncology applicants.
  • In contrast, Hern et al revealed that 53.3% of respondents reported illegal questions on marital status, 24% regarding children, and 13.8% being asked about plans for child rearing in a survey sent to 11,000 applicants of both surgical and nonsurgical specialties.9,11 
  • Our study found that 33% of applicants reported receiving a question about marital status, whereas about 16% were questioned about family planning.

질문의 의도와 관계없이, 매칭이 되지 않은 지원자는 해당 질문에 대한 답변이 자신을 차별하는 데 사용되었는지 여부에 대해 법적으로 이의를 제기할 수 있습니다. 결혼 여부에 따른 고용 차별은 연방법에 의해 직접적으로 보호되지는 않지만,25 많은 주에서 이러한 관행을 금지하는 법률을 제정했으며,26-30 이러한 질문이 1964년 민권법 제 7조에 의해 금지된 은밀한 형태의 성차별이라는 이론에 따라 고용주를 고소하는 소송 사례도 있습니다.14

Regardless of the questions’ intent, an applicant who fails to match could legally challenge whether their answer to such a question was used to discriminate against them. Although employment discrimination based on marital status is not directly protected under federal law,25 many states have enacted laws that prohibit this practice,26–30 and there are examples of litigants suing employers on the theory that these questions are a covert form of gender discrimination, which is prohibited under Title VII of the Civil Rights Act of 1964.14

또한 타이틀 7은 인종, 나이, 종교, 성적 지향에 따른 고용 차별을 금지하고 있으며, 설문조사에서 지원자의 22%, 4%, 2%, 1%가 각각 이러한 차별을 경험했다고 응답했습니다. 설문조사에서 인종 및 민족적 소수 집단(흑인, 아시아계, 히스패닉/라틴계)에 속한 지원자의 50%가 자신의 인종/민족과 관련된 질문을 받은 반면, 백인 및 두 가지 이상의 인종으로 분류된 공동 지원자는 이보다 훨씬 적은 비율(각각 9%, 8%)로 질문을 받은 것으로 나타났습니다. 이러한 질문의 의도와 상관없이 지원자는 차별을 위한 질문이었는지 여부에 대해 법적으로 이의를 제기할 수 있으므로 프로그램에서는 이러한 주제에 대한 질문을 자제해야 합니다. 본 연구에서 연령에 관한 질문은 드물었으며(4%), 1967년 고용 연령 차별 금지법에 따른 연방의 고용 차별 보호는 40세 이상의 개인에게만 적용됩니다(더 젊은 사람에게 적용될 수 있는 주별 법률이 있음).31 마지막으로, 한 지원자가 장애에 대한 질문을 받았다고 보고했습니다. 1990년 미국 장애인법은 장애인에 대한 고용 차별을 금지하고 있지만, 합리적인 직장 내 편의 제공에도 불구하고 채용 예정자가 필수 기능을 수행하지 못할 수 있는 경우는 허용하고 있습니다.32

Title VII also prevents employment discrimination based on race, age, religion, and sexual orientation, which were reported by 22%, 4%, 2%, and 1% of applicants in our survey, respectively. In our study, 50% of applicants belonging to racially and ethnically minoritized groups (Black, Asian, and Hispanic/Latino) were asked questions that pertained to their race/ethnicity versus co-applicants identified as White and two or more races, who were asked in a significantly lesser degree (9% and 8%, respectively). Regardless of the intention of these questions, programs should refrain from inquiring about this topic, as applicants could legally challenge whether their question was used to discriminate against them. Questions regarding age in our study were rare (4%), and federal protection against employment discrimination under the Age Discrimination in Employment Act of 1967 is only applicable to individuals 40 years of age or older (although there are state-specific laws that may apply to younger persons).31 Lastly, one applicant reported being asked about a disability. Although the Americans with Disabilities Act of 1990 prohibits employment discrimination against individuals with disabilities, there are allowances where a prospective employee may be unable to perform essential functions despite reasonable workplace accommodations.32

또한 이러한 금지 질문이 지원자에게 미치는 영향과 인상도 조사했습니다. 그 결과, 금지된 질문을 받은 응답자의 30%가 순위 목록 순서에 영향을 받았으며, 통계적으로 유의미한 성별 차이(여성의 순위 목록이 변경된 비율은 43.4%, 남성의 경우 13.3%)가 나타났습니다(표 4)

  • 이번 연구 결과와 유사하게 4학년 의대생을 대상으로 NRMP 위반에 대해 조사한 2021년 연구에서는 응답자 433명 중 60.3%가 다른 면접 장소에 대한 질문을 받았으며, 이들 중 53%가 프로그램에 대해 부정적인 인상을 남겼고, 22.6%는 위반한 프로그램의 순위를 높게 평가하지 않거나 매우 낮게 평가했습니다. 흥미롭게도 이 연구에서 대부분의 규정 위반은 프로그램 디렉터가 저지른 것으로 밝혀졌습니다.33 우리는 프로그램 디렉터가 필요한 변화를 주도하고 지속시킬 수 있는 가장 좋은 위치에 있다는 이 연구 저자들의 제안을 지지합니다.

Our study also explored the effect and impression these impermissible questions had on applicants. Results demonstrated that receiving a forbidden question influenced the rank lists order of 30% of respondents with a statistically significant gender difference: rank lists of women were altered 43.4% of the time versus 13.3% for men (Table 4).

  • Similar to our findings, a 2021 study surveying fourth-year medical students regarding NRMP violations revealed that 60.3% of the 433 respondents were asked about locations of other interviews; 53% of these applicants were left with a negative impression of the program, with 22.6% being less to much less likely to rank the violating programs highly. Interestingly, most match violations in this study were found to be committed by program directors.33 We support the proposal of the authors of this study that program directors are best poised to initiate and perpetuate necessary change.


조사 결과의 또 다른 중요한 발견은 많은 지원자들이 무엇이 허용되지 않거나 불법적인 질문인지 아닌지에 대한 불완전한 정보를 가지고 있다는 점입니다. 이 연구에 참여한 많은 응답자는 명백히 허용되지 않거나 불법적인 일부 유형의 질문의 적절성에 대해 "구분하기 어렵다"거나 "중립적"이라고 느낀다고 말했습니다. 이는 지원자와 프로그램 참가자가 모병원과 AAMC/NRMP에서 설명한 면접 가이드라인을 검토해야 할 필요성을 더욱 강조합니다. 일반적으로 면접관은 레지던트/수련의로 근무할 수 있는 능력과 명백한 관련이 없는 질문은 피해야 하며, 답변이 근본적이거나 근본적인 직무 관련 필요성이 있는 질문에만 집중해야 합니다. 질문의 경계가 불확실한 경우에도 고용기회균등위원회와 같은 규제 기관에서는 차별 청구 여부를 결정할 때 질문의 의도와 정보 사용 방식을 중요한 측면으로 고려합니다.
Another important finding of our investigation was that many applicants had imperfect information about what did or did not constitute an impermissible or illegal line of questioning. Many respondents to this study stated that it was “hard to tell” or felt “neutral” about the appropriateness of some types of clearly impermissible or illegal questions. This further highlights the need for applicants and program participants to review interview guidelines outlined by their parent hospital and by the AAMC/NRMP. In general, interviewers should avoid questions that have no obvious bearing on a resident’s ability to serve as a resident/trainee and stick to questions for which the answer has some fundamental or underlying job-related necessity. Even when the boundaries of a question are uncertain, regulatory bodies like the Equal Employment Opportunity Commission consider the intent of questioning and how the information is used as critical aspects when determining whether to pursue a claim for discrimination.


이러한 질문에 대해 신청자가 직접 법적 조치를 취하는 경우는 드물지만, NRMP 신청자 위반 신고 시스템을 통해 신청자는 프로그램 조사 및 제재를 초래할 수 있는 위반 사항을 신고할 수 있습니다. 이 시스템은 심각한 프로그램 강압에 대한 신고가 접수되고 위반이 확인된 후 2017년에 도입되었으며, 위반이 확인된 경우 종종 NRMP 등록, 순위 및 결과(R3) 시스템에서 경기 위반자로 1~3년 플래그가 표시됩니다.34 플래그가 없더라도 이전 연구에서는 지원자들이 이러한 불법적인 질문을 한 프로그램을 부정적으로 인식하고 순위를 매기는 데 미치는 영향에 대해 주의를 환기했습니다.18 2019년 NRMP 회장/최고경영자 및 최고정책책임자가 발표한 기사에서는 이러한 제재 조치로 지원자 및 의과대학 관계자가 R3 시스템을 통해 2년 또는 3년의 '플래그'를 볼 수 있다고 명시하고 있습니다.34 위반 프로그램에 의한 후속 위반이 드물었기 때문에 이러한 제재가 효과적이라는 것을 발견했습니다. 일부 레지던트 지원자가 인종이나 장애로 인해 낮은 순위를 받았다고 주장하는 사례가 조사되어 기각되기도 했습니다.35-37 그러나 이러한 신고의 유병률과 처분에 관한 최근 데이터는 부족합니다. 연구 결과에 따르면 많은 지원자가 이 제도의 익명성을 모르거나 신뢰하지 않는 것으로 나타났습니다. 면접 중 허용되지 않은 질문을 받았다고 답한 응답자 중 위반 사항을 신고한 응답자는 단 한 명도 없었으며, 그 이유로는 약 1/3이 보복/순위 하락에 대한 두려움(30.9%)을 꼽았고 다른 응답자는 "신고할 가치가 없다"(16.2%)고 답해 거의 절반(47.1%)이 익명 위반 신고 양식이 있다는 사실을 모르고 있는 것으로 나타났습니다.
Although direct legal action by an applicant for such questions is rare, the NRMP Applicant Violation Report system allows applicants to report violations that can result in program investigation and sanctions. This system was put in place in 2017 following reports of significant program coercion and confirmed violations often resulting in a 1-to-3-year flag as a match violator in the NRMP Registration, Ranking, and Results (R3) system.34 Even without a flag, prior studies have called attention to the influence on how applicants negatively perceive and rank programs that asked these illegal questions.18 An article published by the NRMP president/chief executive officer and chief policy officer in 2019 specifies that such sanctions may entail a 2-or 3-year “flag” visible to applicants and medical school officials through the R3 system.34 They have found these sanctions were effective, as subsequent breaches by violating programs were rare. Some residency applicant claims of lower ranking due to their race or a disability have been investigated and dismissed;35–37 however, there is a paucity of recent data regarding the prevalence and disposition of such reports. Our study findings suggest that many applicants either do not know of, or trust the anonymity of the system. Of all respondents who reported being asked an impermissible question during an interview, not a single respondent reported a violation, with nearly one-third citing fear of retribution/lower ranking (30.9%) and others selecting that doing so was “not worth it” (16.2%) This suggests that nearly half (47.1%) are unaware of the anonymous violation reporting form available (https://www.nrmp.org/wp-content/uploads/2021/12/Violations-Report-Form-for-Applicants.pdf).

본 연구에는 몇 가지 한계가 있습니다. 첫 번째는 단일 기관의 지원자로부터 데이터를 수집했기 때문에 해당 기관에 지원하지 않은 2022년 성형수술 지원자 중 14%(49명)의 경험이 누락되었다는 점입니다(NRMP에 보고된 총 351명의 지원자 중). 국가 데이터를 확보하기 위해 노력했지만 확보할 수 없었습니다. 또한 설문조사 응답률은 33.1%로 이전 연구에 비해 상대적으로 낮았습니다. 둘째, 지원자의 회상 편향을 제한하기 위해 3월에 설문조사를 배포했지만, 인터뷰가 12월부터 2월에 걸쳐 진행되었기 때문에 회상 편향이 발생할 가능성이 있습니다. 또한 부정적인 경험이 있는 지원자들이 응답할 가능성이 높기 때문에 더 많은 응답을 수집했을 가능성도 있습니다. 또한 응답자가 이 주기의 평균 지원자보다 면접 횟수가 많거나 적은지 여부는 명확히 알 수 없습니다. 인터뷰 횟수가 많은 지원자가 설문조사에 응답할 가능성이 더 높을 수 있으며, 이는 혼란을 야기할 수 있지만, 인구통계학적 정보와 관계없이 단일 PRS 프로그램의 모든 지원자에게 설문조사를 전송하여 선택 편향을 최소화했습니다. 회상 편향을 줄이기 위해 지원자들에게 면접에서 특정 유형의 질문을 경험한 적이 있는지를 물었고, 각 면접에 대해 개별 사례를 집계하지 않았습니다. 이 데이터 수집 방법은 Hern 등의 연구에서 사용된 방법을 모방한 것입니다.9 따라서 두 번의 면접 중 하나에서 특정 유형의 부적절하거나 허용되지 않는 질문(예: 종교)을 받은 지원자는 15번의 면접 중 하나에서 같은 유형의 질문을 받은 지원자와 동일하게 카운트됩니다. 이러한 응답 그룹화는 특정 지원자가 허용되지 않는 질문을 받을 가능성이 더 높은지(전체 면접 대비 비율로) 파악하는 데 도움이 될 수 있는 보다 세분화된 통계 조사를 크게 제한합니다. 또한, 설문지의 익명 형식으로 인해 어떤 프로그램에서 어떤 면접관이 허용되지 않는 질문을 했는지도 알 수 없었습니다. 따라서 특정 프로그램의 특정 면접관에게 이러한 질문의 빈도가 집중되고 일부 지원자가 다른 지원자보다 부적절한 질문을 받을 가능성이 훨씬 더 높을 수 있습니다. 이번 조사 결과를 고려할 때 보다 자세한 분석이 필요하지만, 정확한 데이터를 확보하기 위해서는 지원자의 전향적인 보고가 필요할 수 있습니다. 또 다른 잠재적 한계는 이 연구를 위해 분석된 연도에는 모든 면접이 가상으로 진행되었다는 점입니다. 이는 이전의 대면 면접과는 완전히 다른 경험을 제공했을 수 있습니다. 화상 회의를 통해 기록될 가능성이 있기 때문에 직접 대면하거나 전통적인 사전 인터뷰 모임에서 이루어지는 보다 솔직한 토론이 제한되었을 수 있습니다. 이 연구에서는 대조군이 없었으며 같은 해의 비외과 전문과목과 비교하지 않았습니다.
Our study has several limitations. The first is that our data were collected from applicants of a single institution; thus, we are missing the experiences of 14% (49) of applicants from the 2022 plastic surgery match who did not apply to this institution (of the 351 applicants total reported by NRMP). While we attempted to obtain national data, we were unable to do so. Furthermore, our survey response rate was relatively low at 33.1% versus prior studies. Second, we distributed the survey in March to limit applicant recall bias; however, with interviews spanning from December to February, recall bias may be likely. It is also possible that we captured more responses from those with negative experiences as they were more likely to respond. Furthermore, we cannot elucidate if respondents had more or fewer interviews than average applicants of this cycle. Perhaps applicants with more interviews were more likely to respond to our survey, which could be confounding; however, we minimized selection bias by sending the survey to all applicants of a single PRS program regardless of any demographic information. To reduce recall bias, the applicants were asked if they had experienced certain types of questions in any interview and not to count each separate instance for each interview they received. This method of data collection was fashioned after that used in the study of Hern et al.9 Thus, an applicant who was asked a certain type of inappropriate or impermissible question (eg, religion) in one of two interviews would be counted the same as an applicant who was asked the same type of question in one of fifteen interviews. This grouping of responses greatly limits a more granular statistical inquiry, which would have been helpful to determine if certain candidates are more likely (as a percentage of their total interviews) to be asked impermissible questions. Moreover, the anonymous format of the questionnaire also did not allow at which programs and by which interviewers the impermissible questions were asked. Thus, it is possible that the frequency of these questions clusters in certain interviewers at specific programs and that a small subset of applicants are far more likely to be asked inappropriate questions than other candidates. Given our findings, a more detailed analysis is warranted, but this may require prospective reporting by applicants to ensure accurate data. Another potential limitation is that in the year analyzed for this study, all interviews were conducted virtually. This may have provided an entirely different experience than prior in-person interviews. The potential to be recorded over videoconferencing may have limited the more candid discussions held in person or at the traditional preinterview gatherings. In this study, we did not have a control group or compare with a nonsurgical specialty of the same year.

결론
CONCLUSIONS

성형외과 레지던트 면접에서 지원자에게 묻는 질문의 내용에 중점을 두었음에도 불구하고, 부적절하고 허용되지 않는, 그리고 그 정도는 덜하지만 솔직히 위법적인 질문이 여전히 빈번하게 등장하고 있습니다. 이번 조사 결과는 고의성이 있거나 지원자가 기술적으로 허용되지 않는 질문을 그렇게 생각한다는 것을 의미하지는 않습니다. 실제로 지원자의 32.1%는 기술적으로 허용되지 않는 질문을 "적절하다"고 해석했습니다. 그러나 선의의 발언이라도 오해와 조사의 빌미가 될 수 있고 소송의 대상이 될 수 있으므로 모호한 질문이나 진술은 피하는 것이 면접 과정의 무결성을 가장 잘 보장할 수 있는 방법입니다. 이전에 제안된 개선 방안에는 순위 목록 제출 전에 검토할 경기 정책 동영상과 면접관용 NRMP 온라인 교육 모듈 개발이 포함되어 있습니다.11,13 이러한 개선 방안이 불법 또는 허용되지 않는 질문을 폐지하는 목표를 달성하는 데 도움이 될 수 있다는 데 동의하지만, 이는 NRMP/AAMC가 주도해야 할 것입니다.
Despite the emphasis placed on the content of what is asked of applicants during plastic surgery residency interviews, inappropriate, impermissible, and to a lesser degree, frankly, illegal questions still surface with frequency. Our findings do not imply malintent or that applicants view questions that are technically impermissible as such. In fact, 32.1% of applicants interpreted technically impermissible questions as “appropriate.” However, the integrity of the interviewing process is best ensured if any ambiguous questions or statements be avoided, because even well-intentioned comments can lend to misinterpretation and investigation and possibly be subject to litigation. Prior suggestions for improvement have included developing both match policy videos to be reviewed before rank list submission and NRMP online training modules for interviewers.11,13 While we agree that these may assist in achieving the goal of abolishing illegal or impermissible questions, they would have to be led by the NRMP/AAMC.


현재 어떤 수준에서도 가이드라인 검토가 의무화되어 있지 않으므로, 성형외과 수련 프로그램에 면접 과정의 무결성을 보장하기 위한 안전장치를 마련할 것을 제안합니다. 여기에는 다음이 포함됩니다:
As the review of guidelines is not currently mandatory at any level, we suggest that plastic surgery training programs institute safeguards to ensure the integrity of the interview process. These include:

1. 면접 과정에 관여하는 모든 사람은 AAMC "의료 면접 수행 모범 사례" 섹션 2,17 "교수진을 위한 실무 가이드" 및 프로그램용 NRMP 경기 행동 강령을 읽었음을 서명합니다. 여기에는 총 7페이지로 구성되어 있으며, 면접관이라면 누구나 10분 이내에 완료할 수 있습니다.38
2. 지원자에게 자신의 권리를 알려야 하며, 모든 면접 소개 시 불법적인 주제에 대해 간략하게 검토해야 합니다.
3. 각 면접에서 위반 사항을 신고할 수 있는 익명 링크를 제공해야 합니다. 
4. Sura 등이 제안한 것과 같이 면접 대상자에 의한 연례 부서별 사내 감사 실시.11

  1. All persons involved with the interview process sign off on having read the AAMC “Best Practices for Conducting Medical Interviews” Section 2,17 “A Practical Guide for Faculty” and the NRMP Match Code of Conduct for Programs. These contain in total seven pages of reading that should take any interviewer less than 10 minutes to complete.38
  2. Applicants should be made aware of their rights, and illegal topics should be reviewed briefly at every interview introduction.
  3. An anonymous link to report a violation should be provided at each interview. Link here: https://www.nrmp.org/wp-content/uploads/2021/12/Violations-Report-Form-for-Applicants.pdf
  4. Annual departmental in-house audits by interviewees, like those suggested by Sura et al.11

향후 연구에서는 성형외과 매칭 과정에서 허용되지 않는 질문의 유병률에 대한 프로그램 및 지원자 교육 및 감독 강화의 효과에 초점을 맞춰야 합니다.
Future studies should focus on the effect of the increased program and applicant education and oversight on the prevalence of impermissible questions in the plastic surgery match process.

 

 

https://www.nrmp.org/intro-to-the-match/the-match-agreement/match-codes-of-conduct/

NRMP-Match-Code-of-Conduct_Schools_Final.pdf
0.13MB
NRMP-Match-Codes-of-Conduct_Applicants_Final.pdf
0.13MB
NRMP-Match-Code-of-Conduct_Programs_Final.pdf
0.14MB

The NRMP has created the Match Codes of Conduct below to serve as guides for all Match participants throughout the application, interview, matching, and onboarding processes.


Plast Reconstr Surg Glob Open. 2023 Jun 13;11(6):e5018. doi: 10.1097/GOX.0000000000005018. eCollection 2023 Jun.

Prevalence of Prohibited Questions during Plastic Surgery Residency Interviews

Affiliations collapse

Affiliations

1From the Division of Plastic and Reconstructive Surgery, Children's National Hospital, Washington, D.C.

2Joseph E. Roberts, Jr. Center for Surgical Care, Children's National Hospital, Washington, D.C.

3Department of Plastic and Reconstructive Surgery Wake Forest Baptist Medical Center Winston Salem, N.C.

4Department of Plastic and Reconstructive Surgery, The Ohio State University Wexner Medical Center, Columbus, Ohio.

PMID: 37325372

PMCID: PMC10263253

DOI: 10.1097/GOX.0000000000005018

Free PMC article

Abstract

Despite rules set forth by the National Resident Matching Program and American Association of Medical Colleges (AAMC), prohibited questions during the residency interview process are well documented. This study describes the prevalence of these encounters by surveying residency applicants to integrated plastic and reconstructive surgery (PRS) programs for the 2022 match cycle.

Methods: An anonymous 16-question REDCap survey was distributed to 2022 cycle applicants of a single PRS program. The applicants were queried about demographic information, interview experience, and questions deemed illegal by the AAMC/NRMP guidelines.

Results: One hundred survey responses were attained for a 33.1% response rate. The majority of respondents were aged 26-30 (76%), women (53%), and white (53%); 33% received 15+ interviews for the application cycle. Seventy-eight percent of respondents reported being asked a prohibited question during at least one interview, with the most common "illegal" question categories being number/ranking of interviews (42%), marital status (33%), career balance (25%), and race/ethnicity (22%). Only 25.6% of applicants considered the subject matter inappropriate, whereas 42.3% were unsure. Although no applicant took action to report the potentially illegal scenarios, 30% said that their experiences influenced their rank list.

Conclusions: Our survey study revealed that prohibited interview questions in PRS residency interviews are common. Permissible lines of questioning and discussion between programs and applicants during residency interviews have been defined by AAMC. Institutions should provide guidance and training to all participants. Applicants should be made aware of and empowered to utilize available anonymous reporting tools.

의과대학 선발: 여기서 어디로 가야 하는가? (AAMC)
Interviews in UME: Where Do We Go From Here?

2020년 이전에는 대부분의 의과대학에서 가상으로 입학 절차를 진행하는 것을 고려하지 않았을 것입니다. 하지만 세상이 바뀌면서 의과대학 교육(UME)이 도전에 나섰습니다. 혁신, 창의성, 열린 마음으로 학교는 가상 면접 형식을 효과적으로 채택할 수 있었습니다. 이제 코로나19 이후 시대에 교육기관은 각각 장단점이 있는 면접 형식 중에서 선택할 수 있습니다. 그렇다면 이제 어디로 가야 할까요? 
Before 2020, most medical schools wouldn’t have considered conducting their admissions process virtually. Then, the world changed, and undergraduate medical education (UME) rose to the challenge. With innovation, creativity, and open minds, schools were able to effectively adopt virtual interview formats. Now, in the post-COVID-19 era, institutions have a choice between interview formats that each have pros and cons. So where do we go from here?

AAMC는 의과대학이 가상 면접 형식을 사용하고, 가능하면 합격 후 방문 옵션을 제공할 것을 권장합니다.* 면접 비용을 줄이는 것은 접근성을 넓히고 형평성을 개선하는 데 중요한 단계이며, 설문조사에 따르면 지원자들은 가상 면접을 선호하며, 가상 면접은 환경에 미치는 영향을 줄이기 위한 노력과도 일치합니다. 
The AAMC recommends that medical schools use a virtual interview format and, when feasible, offer the option to visit after acceptance.* Reducing the cost of interviewing is a critical step in widening access and improving equity, our surveys indicate that applicants prefer virtual interviews, and virtual interviewing is consistent with our commitment to reduce environmental impact.

모든 의과대학은 고유한 사명, 목표, 맥락을 가지고 있으며, 따라서 정당한 이유에 따라 서로 다른 접근 방식을 취할 수 있습니다. 우리는 한 학교에 가장 적합한 방식이 다른 학교에는 적합하지 않을 수 있음을 잘 알고 있습니다. 각 교육기관은 고유한 맥락에서 면접 형식의 장단점을 평가하여 해당 학교에 가장 적합한 방식을 결정해야 합니다. 
Every medical school has their own unique mission, goals, and context, and thus may take different approaches for sound reasons. We recognize that what is best for one school may not be best for another. Each institution should evaluate the pros and cons of interview formats in their unique context to determine what is best for their school.

교육기관에 가장 적합한 면접 형식을 결정할 때 검토해야 할 5가지 주요 고려 사항을 요약했습니다. 표 1에는 한 형식을 다른 형식보다 선택하는 이유와 각 형식의 성공을 위한 단계가 요약되어 있습니다. 교육기관이 선택할 수 있는 모든 면접 형식을 지원하기 위해 지원자와 의과대학이 모두 사용할 수 있는 면접 리소스를 업데이트하기 위해 노력하고 있습니다. 
As you decide what interview format is best for your institution, we have summarized five key considerations for review. Table 1 summarizes reasons why you might choose one format over another and steps for success for each format. In support of all possible interview formats an institution may choose to conduct, we are working to update the interview resources available to applicants and medical schools alike.

*이 옵션은 TMDSAS 매치에 참여하는 교육기관에는 적용되지 않을 수 있습니다.
*This option may not be feasible for institutions that participate in a TMDSAS match. (Texas Medical & Dental Schools
Application Services)

주요 고려 사항 1: 의대 면접과 관련된 재정적 비용이 높습니다.
Key Consideration 1: The financial costs associated with interviewing for medical school are high.

지원자 설문조사에 따르면 면접과 관련된 비용은 지원 과정에서 비용이 많이 드는 부분입니다.1 지원자마다 상황은 다르지만 이러한 비용은 수백에서 수천 달러에 달할 수 있습니다. 최근 설문조사에서 의과 대학 지원자의 96%는 대면 면접에 비해 가상 면접을 통해 비용을 절감했다는 데 동의하거나 매우 동의했으며, 지원자의 85%는 가상 면접의 가장 큰 장점으로 재정적 영향 감소를 꼽았습니다. 재정적 제약은 지원자, 특히 사회경제적 배경이 낮은 학습자의 면접을 방해하는 장벽이 될 수 있습니다. 이러한 장벽은 가상 면접, 유연성이 필요한 지원자를 위한 하이브리드 옵션 또는 대면 면접에 대한 재정 지원 제공을 통해 완화할 수 있습니다. 
According to applicant surveys, the costs associated with interviewing are an expensive aspect of the application process.1 While every applicant’s situation is unique, these costs can range from hundreds to thousands of dollars. In our recent survey, 96% of medical school applicants agreed or strongly agreed that they saved money interviewing virtually compared to what they might have spent on in-person interviews, and 85% of applicants named reduced financial impact as the top advantage of interviewing virtually. Financial constraints can be a barrier that prevent applicants from interviewing, especially learners from lower socioeconomic backgrounds. This barrier can be mitigated through virtual interviews, a hybrid option for applicants who need flexibility, or offering financial support for in-person interviewing.

"가상 면접 형식은 축복과도 같았습니다. 재정적, 일정상의 이유로 참석하지 못했을 면접에 참석할 수 있었기 때문입니다. 덕분에 지원 절차가 더 공평해졌다고 생각합니다. 의대 지원뿐만 아니라 레지던트 지원에서도 모든 학교의 표준이 되어야 한다고 생각합니다."
“The virtual interview format was a blessing in disguise. I was able to attend interviews that I otherwise would not have been able to attend due to financial and scheduling reasons. This makes the application process more equitable in my opinion. I believe it should be a standard across all schools for not only medical school applications, but also residency applications.”

2023 AMCAS® applicant

주요 고려 사항 2: 의과대학, 교육 병원 및 의료 시스템, AAMC는 탄소 발자국을 줄이기 위해 노력해 왔습니다. 
Key Consideration 2: Medical schools, teaching hospitals and health systems, and the AAMC have made commitments to reduce their carbon footprints. 

의료 부문은 미국 온실가스 배출량의 8~10%2, 전 세계 온실가스 배출량의 4분의 1을 담당하고 있습니다. 전 세계인의 건강 증진을 사명으로 하는 학술 의학은 21세기 최대의 건강 위협인 기후 위기에 큰 기여를 하고 있으며, 따라서 기후 위기 해결에 중요한 역할을 담당하고 있습니다. 
The health care sector is responsible for 8%-10% of greenhouse gas (GHG) emissions in the United States2 and a quarter of all global GHG emissions. Academic medicine, whose mission is to improve the health of people everywhere, makes a major contribution to the climate crisis — the greatest health threat of the 21st century — and therefore has an important role to play in resolving it.

가상 인터뷰 옵션을 늘리면 학계가 커뮤니티의 탄소 발자국을 줄임으로써 지속 가능성에 집중할 수 있는 기회를 제공합니다. 초기 연구2,3에 따르면 가상 면접은 학술 의학이 기후에 미치는 영향을 줄일 수 있는 잠재력을 가지고 있습니다. 
Increasing options for virtual interviews offers the opportunity for academic medicine to focus on sustainability by reducing our community’s carbon footprint. Early studies2,3 support that virtual interviews have the potential to reduce the climate impact of academic medicine.

"온라인/가상 형식으로 면접을 진행하게 되어 재정적, 환경적으로 비용을 절감할 수 있어서 정말 감사하게 생각합니다. 전 세계에 대한 탄소 배출 관련 기여를 줄이기 위해 가능한 한 가상 행사로 전환함으로써 세계와 경제에 더 많은 혜택을 줄 수 있다고 믿습니다."
“I truly appreciated the interview format commencing through an online/virtual format because I was grateful for the reduced cost — financially and environmentally speaking. I believe that the world and economy can benefit more — so long as it's done right — from transitioning into virtual events as much as possible to mitigate some of our carbon emission-related contributions to the world.”

2023 AMCAS applicant

주요 고려사항 3: 대부분의 지원자가 가상 면접을 선호합니다.
Key Consideration 3: Most applicants prefer virtual interviews.

의과대학 지원자를 대상으로 한 설문조사에 따르면 지원자의 90%가 가상 면접 또는 가상 면접 형식을 선호했습니다. 응답자들은 가상 면접의 3대 장점으로 재정적 영향 감소, 이동 시간 단축, 일정 유연성을 꼽았습니다. 포커스 그룹에서는 의과대학과 레지던트 지원자 모두 가상 면접이 이동 시간과 비용을 줄여주기 때문에 선호되는 형식이라고 강조했습니다. 
Our survey of medical school applicants showed that 90% of applicants preferred virtual or the option of virtual interview format. Respondents named reduced financial impact, reduced travel time, and scheduling flexibility as the top three advantages of interviewing virtually. In focus groups, both medical school and residency applicants emphasized that virtual interviews reduced travel time and cost and therefore were considered the favorable format.

"가상 면접을 쉽게 일정조율할 수 있다는 점과 이 방식의 재정적 효과는 학생들이 가상 환경에서 놓치는 것보다 훨씬 더 큽니다. 면접은 원격으로 진행하되 '세컨드 룩 위크엔드'는 직접 대면하는 모델은 합격한 학생들이 캠퍼스를 직접 방문하는 데 필요한 투자로부터 가장 큰 혜택을 볼 수 있기 때문에 합리적입니다. 전반적으로 이 방식은 학생들에게 더 공평하고 재정적 장벽을 낮추기 때문에 앞으로도 계속 유지되어야 한다고 생각합니다."
“The ease with which virtual interviews can be scheduled and the financial implications of this modality far outweigh what the students miss in the virtual environment. A model in which interviews are remote but "Second Look Weekends" are in-person makes sense since accepted students may benefit most from the investment necessary to physically visit the campus. Overall, I believe this modality should remain in the future, as it seems more equitable for students and reduces financial barriers.”

2023 AMCAS applicant

주요 고려사항 4: 대면 면접과 관련된 이동으로 인해 학교, 직장 및/또는 기타 약속을 떠나 보내는 시간은 지원자가 감당하기에는 지나친 부담입니다.
Key Consideration 4: Time spent away from school, work, and/or other commitments due to travel associated with in-person interviews is an undue burden for applicants to bear.

면접은 재정적으로 부담이 될 뿐만 아니라 선발 과정에서 시간이 많이 소요되는 부분입니다. 대면 면접과 관련된 이동은 다양한 수준의 스트레스를 수반하는 부담이며, 지원자의 사회경제적 지위, 가족 구조, 소셜 네트워크 등에 따라 지원자가 이용할 수 있는 기회를 제한할 가능성이 있습니다.
In addition to being financially taxing, interviewing is notably a time-consuming part of the selection process. Travel associated with in-person interviews is a burden with varying levels of stress and has the potential to limit the opportunities available to applicants depending on their socioeconomic status, family structures, social networks, etc.

"저소득층 1세대 학생으로서 가상으로 면접을 볼 수 있다는 것은 저에게 큰 도움이 되었습니다. 며칠씩 휴가를 내거나 숙박비로 과도한 비용을 지출할 필요가 없었죠."
“As a low-income first-generation student, being able to interview virtually was a big help to me. I did not have to take multiple days off work and spend an excessive amount of money on accommodations.”

2023 AMCAS applicant

주요 고려사항 5: 평가와 채용 노력을 분리하는 것은 지원자가 선호하는 방법이자 면접 평가의 편향성 위험을 완화하는 중요한 단계입니다.
Key Consideration 5: Separating assessment and recruitment efforts is both an applicant preference and an important step to mitigating the risk of bias in interview ratings.

인터뷰에 초대된 AMCAS 지원자를 대상으로 한 설문조사에서 지원자들은 의과대학과 해당 커뮤니티를 방문하여 문화와 적합성을 이해하고 평가하고 싶다고 답했습니다. 의과대학 역시 같은 이유로 지원자들을 캠퍼스와 커뮤니티로 초대하고 싶어한다는 것을 알고 있습니다. 그러나 지원자들은 합격이 결정된 후 관심 있는 의과대학을 방문함으로써 문화와 적합성을 합리적으로 평가할 수 있다고 언급했습니다.
In our survey of AMCAS applicants invited to interview, applicants expressed that they do want to visit medical schools and their communities to understand and appreciate culture and fit. And we know that medical schools wish to welcome applicants to their campuses and communities for the same reasons. However, applicants noted that they could reasonably assess culture and fit by visiting medical schools of interest after acceptance is offered.

모범 사례로, 면접과 같은 평가 활동은 학교의 채용 노력과 별도로 진행하여 면접 이외의 상호작용이 면접 평가에 편견이나 관련 없는 정보를 도입하지 않도록 해야 합니다.
As a best practice, assessment activities, such as the interview, should be conducted separately from a school’s recruitment efforts to ensure that interactions outside the interview do not introduce bias or irrelevant information into your interview evaluation.

합격 후 제공되는 선택적 대면 행사의 경우, 대면 행사의 접근성을 높이기 위해 교육기관에서 학비 지원 프로그램 수혜자에게 여행 및 숙박 비용을 상쇄할 수 있는 장학금을 제공할 수 있는지 고려하는 것이 좋습니다.
For optional in-person events offered after acceptance, we suggest considering whether your institution can offer stipends to Fee Assistance Program recipients to offset the cost of travel and accommodations, to make in-person events more accessible.

"의대에 지원하는 데 드는 재정적 부담은 일부 학생들에게는 큰 장애물이 될 수 있습니다. 가상 형식이 제공되지 않았다면 저는 많은 면접에 참여할 수 없었을 것이고, 결국 합격의 기회도 제한되었을 것입니다. 가상 형식을 통해 프로그램 문화와 환경을 판단하는 데 더 어려움을 겪었지만, 방문일(상위 몇 명의 합격자)에 선택적으로 참석할 수 있었기 때문에 나중에 결정을 내리는 데 도움이 되었습니다."
“The financial burden of applying to medical school can be a great obstacle for some. I would not have been able to participate in as many interviews (in turn limiting my opportunities for acceptance), if it had not been for the virtual format provided. Even though I had a harder time determining the program culture and environment through the virtual format, I was able to selectively attend visit days (top few acceptances) to help me make that decision later on in the cycle.”

2023 AMCAS applicant

표 1. 특정 면접 형식을 다른 형식보다 선택하는 이유와 각 형식별 성공 단계.
Table 1. Reasons you might choose one interview format over another and steps to success for each.

Interview Format Reasons You Might Choose an Interview Format Steps to Success
Virtual Only
  • Many applicants are out-of-state or require travel.
  • Commitment to reducing carbon footprint. 
  • Flexibility in scheduling. 
  • Offer virtual recruiting activities to all applicants.
  • Offer in-person visit days for accepted applicants only.†
  • Develop technology standards and training for faculty conducting virtual interviews.
Hybrid (i.e., an applicant can select either in-person or virtual interviews)
  • Mix of local and out-of-state applicant pool.
  • Need to showcase less well-known or rural area.
  • Flexibility in scheduling.
  • Gives applicants and faculty choice.
  • Implement policies, procedures, and interviewer training to ensure standardization across formats and to mitigate risk of bias.
  • Ensure admissions/selection committees are blinded to interview format.
  • Inform applicants about steps taken to make the hybrid approach equitable.
  • Offer virtual recruiting activities to all applicants.
  • Offer in-person visit day for accepted applicants only.†
In-Person Only
  • Most applicants are not out-of-state or do not require extended travel plans.
  • Limited financial resources to purchase virtual interview software.
  • Need to showcase less well-known or rural area.
  • Offer financial support to Fee Assistance Program or other applicants who need it for travel.

†This option may not be feasible for medical schools that participate in a TMDSAS match.

 

출처: https://www.aamc.org/about-us/mission-areas/medical-education/interviews-ume-where-do-we-go-here

전공의 선발 인터뷰 수행 베스트 프랙티스(AAMC)
Best Practices for Conducting Residency Program Interviews

소개
Introduction

AAMC는 레지던트 프로그램, 지원자, 의학교육자, 학생 지도교수 등 모든 이해관계자의 레지던트 전환을 개선하는 데 주력하고 있습니다. 이러한 노력의 일환으로 실시된 프로그램 디렉터를 대상으로 한 AAMC 설문조사에 따르면, 프로그램 디렉터들은 순위 목록을 작성할 때 경험, 학업 지표, 기타 속성 및 역량 등 지원자에 대한 다양한 정보를 평가하는 것으로 나타났습니다. 같은 설문조사에 따르면 전문성, 성실성, 대인관계 및 커뮤니케이션 기술, 신뢰성 및 의존성과 같은 특성이 가장 중요한 것으로 나타났습니다.  
The AAMC is focusing on enhancing the transition to residency for all stakeholders, including residency programs, applicants, medical educators, and student advisors. The AAMC survey of program directors conducted as part of this effort indicated that they evaluate a wide variety of information about applicants—including experiences, academic metrics, and other attributes and competencies—when creating rank order lists. The same survey found that characteristics such as professionalism, integrity, interpersonal and communication skills, and reliability and dependability are among the most important ones.

또한 프로그램 디렉터들은 레지던트 면접이 지원자의 순위를 매기는 데 가장 일반적이고 중요한 도구 중 하나이지만, 프로그램과 전문 분야에 따라 지원자를 면접하는 방식에 상당한 차이가 있다고 답했습니다. 지원자가 면접을 준비하는 데 도움이 되는 리소스는 많지만(예: AAMC 커리어 인 메디신 및 레지던트 면접 과정을 위한 미국 의사 대학 가이드라인), 면접관을 위한 리소스는 거의 존재하지 않습니다. 또한 의사는 환자와의 인터뷰 방법에 대해 상당한 교육을 받지만 지원자와의 인터뷰는 목적, 설계 및 실행 방식이 다릅니다.  
Program directors also reported that the residency interview is one of the most common and important tools used in ranking applicants but that significant variability exists in how applicants are interviewed across programs and specialties. While many resources are available to help applicants prepare for interviews (for example, AAMC Careers in Medicine and the American College of Physicians Guidelines for the Residency Interview Process), fewer resources exist for interviewers. Additionally, though physicians receive considerable training on how to interview patients, interviewing applicants is different in purpose, design, and implementation.

이러한 격차가 확인되자 AAMC는 모범 사례를 요약하고 프로그램 디렉터가 면접 프로세스를 개선하기 위한 옵션을 빠르게 이해할 수 있도록 이 가이드를 작성했습니다. 이 가이드가 일관성을 개선하고 레지던트 성과를 더 잘 예측하는 데 사용할 수 있는 면접 관행 및 프로세스에 대한 유용하고 유용한 소개 역할을 하기를 바랍니다. 
When this gap was identified, the AAMC sought to summarize best practices and assemble this guide to help program directors quickly understand their options for enhancing the interview process. Our hope is that the guide will serve as a helpful and useful introduction to interview practices and processes that can be used to improve consistency and better predict resident performance.

이 가이드의 목적
Purpose of This Guide

이 가이드는 유효하고 공정한 면접 절차를 구현하는 데 도움이 되는 면접 모범 사례를 설명합니다. 면접 구조의 구성 요소와 면접관 교육을 포함하여 면접 프로세스를 개선하면 프로그램과 지원자 모두의 성공 가능성과 호환성을 높이는 데 기여하는 보다 정보에 입각한 결정을 내릴 수 있습니다. 
This guide describes interview best practices to assist with implementing valid and fair interview processes. Any enhancements in the interview process, including components of interview structure and interviewer training, will enable programs to make more informed decisions that contribute to the increased likelihood of success and compatibility for both the programs and the applicants.

이 가이드의 정보는 두 섹션으로 나뉩니다: 
The information in this guide is divided into two sections:

  • 섹션 1: 인터뷰 프로세스 구조화하기 - 프로그램 디렉터 가이드에서는 현재 연구 현황과 선발 인터뷰의 모범 사례에 대한 개요를 제공합니다.
  • 섹션 2: 레지던트 지원자 인터뷰-교직원을 위한 실무 가이드에서는 유용한 팁과 피해야 할 함정 등 인터뷰 진행에 관한 실용적인 정보를 제공합니다.
  • Section 1: Structuring Your Interview Process—A Program Director’s Guide provides an overview of the current state of research and best practices in selection interviews.
  • Section 2: The Resident Applicant Interview—A Practical Guide for Faculty provides practical information on conducting interviews, including helpful tips and traps to avoid.

레지던트 프로그램에서는 지원자를 평가하고 순위를 매기는 데 다양한 정보를 사용하지만, 이 가이드는 특히 면접에 초점을 맞춥니다. 다른 일반적인 평가(예: 작업 샘플 및 OSCE)를 개발하여 선발 과정에 통합하는 방법에 대한 정보는 포함되어 있지 않습니다. 
While residency programs use many sources of information to evaluate and rank applicants, this guide focuses specifically on interviews. It does not include information about developing and integrating other common assessments (for example, work samples and OSCEs) into the selection process.

참고로, 레지던트 프로그램은 다양한 목적으로 면접일을 활용합니다. 공식적인 인터뷰 외에도 일반적인 인터뷰 데이 활동에는 현 레지던트 및 교수진과의 식사, 질의응답 세션, 캠퍼스 또는 도시 투어와 같은 채용 활동이 포함됩니다. 이러한 비공식 활동과 기숙사 및 프로그램 지원 직원과의 상호작용은 지원자의 대인관계 및 의사소통 능력에 대한 귀중한 정보를 얻을 수 있으며, 프로그램과 지원자 간의 적합성 여부를 판단하는 데 중요한 역할을 합니다. 유익하고 효과적이며 즐거운 면접일을 계획하기 위한 모범 사례(예: 프로그램이 지원자에게 기대하는 바를 모든 관계자가 공통으로 이해할 수 있도록 사전 작업을 수행하고, 모든 관계자가 관련 정보를 공유할 수 있는 피드백 메커니즘을 구현하는 등)가 있지만, 이 가이드는 특히 당일의 공식 면접 구성 요소에 대한 모범 사례에 초점을 맞추고 있습니다. 
On a related note, residency programs use interview days for multiple purposes. In addition to the formal interviews, common interview day activities include recruitment activities such as meals with current residents and faculty, question and answer sessions, and campus or city tours. These more informal activities and interactions with house and program support staff yield valuable information about applicants’ interpersonal and communication skills and play an important role in helping programs—and applicants—determine whether there is a good fit between the applicant and the program. While there are good practices for planning informative, effective, and enjoyable interview days—such as doing advance work to ensure everyone involved shares a common understanding of what the program seeks in applicants and implementing feedback mechanisms that enable everyone involved to share relevant information—this guide focuses specifically on best practices for the formal interview component of the day.

마지막으로, 많은 교육기관에서 이 가이드의 자료를 보완하는 면접관 리소스 및 지침을 제공합니다. 프로그램 디렉터와 면접관은 이러한 리소스를 살펴보는 것이 좋습니다. 면접 절차를 수정하기 전에 지정된 교육기관 관계자, 프로그램 디렉터 및 법률 고문에게 해당 교육기관 및 프로그램의 면접 정책 및 요건에 대해 문의해야 합니다. 
Finally, many institutions provide interviewer resources and guidance that complement the material in this guide. Program directors and interviewers are encouraged to explore those resources. Before modifying the interview process, the designated institutional official, program director, and legal counsel should be consulted about the institution’s and the program’s interview policies and requirements.

섹션 1: 인터뷰 프로세스 구조화하기-프로그램 디렉터를 위한 가이드
Section 1: Structuring Your Interview Process—A Program Director’s Guide

이 섹션에서는 인터뷰 구조와 인터뷰 연구의 현재 상태에 대한 개요를 제공합니다.
This section provides an overview of interview structure and the current state of interview research.

면접은 지원자가 특정 프로그램에서 레지던트로서 성공하는 데 중요한 개인적 특성을 갖추고 있는지, 프로그램의 사명과 목표에 부합하는지 평가할 수 있는 중요한 방법입니다. 예를 들어 레지던트 프로그램이나 기관의 사명과 목표에는 레지던트가 연구, 도시 또는 농촌 진료, 소외된 지역사회, 학계 또는 지역사회 리더십에 집중하기를 바라는 마음이 포함될 수 있습니다. 
Interviews are a valuable way to assess whether an applicant demonstrates the personal characteristics that are critical for success as a resident in a specific program and fit within the program’s mission and goals. For example, the missions and goals of a residency program or institution may include a desire for residents to focus on research, urban or rural practice, underserved communities, or academic or community leadership.

 


레지던트 선발의 맥락에서 '적합성' 정의하기
Defining “fit” in the context of residency selection

적합성은 프로그램 디렉터와 지원자가 레지던트 선발 과정에서 가장 중요한 요소 중 하나로 꼽는 경우가 많습니다. 그러나 의학교육 문헌에는 적합성에 대한 공통된 정의가 없습니다. 프로그램은 프로그램의 사명, 목표 및 학습 환경의 맥락에서 적합성에 대한 정의를 논의해야 합니다. 이 가이드에서는 명확성을 위해 적합성을 두 가지 차원으로 구분하여 설명합니다:
Fit is often reported as one of the most important factors in the residency selection process by program directors and applicants. However, there isn’t a common definition of fit in the medical education literature. Programs should discuss the definition of fit in the context of their program’s mission, goals, and learning environment. For the purposes of clarity, in this guide, we identify two dimensions of fit:

[개인-조직 적합성]은 지원자의 성격, 태도, 업무 및 학습 스타일/선호도, 목표와 조직 문화 간의 호환성을 의미합니다.
Person-organization fit refers to compatibility between an applicant’s personality, attitudes, work and learning style/preferences, and goals and the organization’s culture.

[개인-직무 적합성]은 지원자의 역량, 지식, 기술, 능력 및 기타 특성과 직무를 성공적으로 학습하고 수행하는 데 필요한 역량 및 특성 간의 호환성을 의미합니다.
Person-job fit refers to compatibility between an applicant’s competencies, knowledge, skills, abilities, and other attributes and the competencies and characteristics required to learn and perform the job successfully.


선발 면접은 여러 측면에서 다양할 수 있으며, 구조화되거나 비구조화될 수 있습니다:
Selection interviews may vary on a number of dimensions and may:

  • 구조화되거나 비구조화될 수 있습니다,
  • 행동 또는 상황 관련 질문을 사용합니다,
  • 기술적(의료 및 임상 지식, 절차적 기술) 및 비기술적(대인관계 기술, 전문성) 주제를 포함한 직무 관련 내용을 평가합니다.
  • 평가 척도를 사용하여 응답을 평가합니다.
  • be structured or unstructured,
  • use behavioral or situational questions,
  • assess job-related content, including technical (medical and clinical knowledge and procedural skills) and nontechnical (interpersonal skills, professionalism) topics, and
  • use rating scales to evaluate responses.

비구조화 및 구조화 인터뷰
Unstructured and Structured Interviews

비구조화 면접은 재량적인 내용(즉, 미리 선택된 질문이 없음)과 표준화되지 않은 평가 프로세스(즉, 질문별 채점 시스템이 없음)가 특징입니다.
Unstructured interviews are characterized by discretionary content (that is, no preselected questions) and an unstandardized evaluation process (that is, no question-specific scoring system).

구조화된 면접은 표준화를 통해 신뢰도와 타당도를 높이기 위해 면접을 개선한 것이 특징입니다. 채용 면접에 대한 연구에서는 면접 내용에 영향을 미치는 요소와 평가 프로세스에 영향을 미치는 요소의 두 가지 범주의 구조 구성 요소를 확인했습니다.
Structured interviews are characterized by any enhancement of the interview designed to improve reliability and validity by increasing standardization. Research on employment interviews has identified two categories of components of structure: those that influence interview content and those that influence the evaluation process.

  • 내용 관련 구조 구성 요소는 직무와 관련된 질문을 하거나 모든 지원자에게 동일한 질문을 하는 등 면접 내용의 표준화를 높이기 위한 모든 개선 사항입니다.
  • 평가 관련 구조 구성 요소는 평가 척도를 사용하여 면접을 평가하고 면접관에게 평가 절차에 대한 교육을 실시하는 등 평가 프로세스의 표준화를 높이는 모든 개선 사항입니다.
  • Content-related components of structure are any enhancements that increase the standardization of the interview content, such as asking questions that are job-related and asking the same questions to all applicants.
  • Evaluation-related components of structure are any enhancements that increase standardization of the evaluation process, such as using rating scales to evaluate the interview and training interviewers on evaluation procedures.

표 1에는 내용 및 평가 관련 구조 구성 요소와 각 구성 요소가 면접의 신뢰도, 타당도, 공정성 및 면접에 대한 지원자의 반응에 미치는 영향이 나열되어 있습니다. 그림에서 볼 수 있듯이 각 구성 요소의 효과는 서로 다릅니다. 예를 들어, 직무와 관련된 질문을 포함하면 타당도, 공정성, 지원자의 긍정적인 반응이 증가하는 반면, 탐색 질문을 제한하면 타당도와 공정성은 증가하지만 지원자의 부정적인 반응이 나타날 수 있습니다.
Table 1 lists the content- and evaluation-related components of structure and the effects of each on the interview’s reliability, validity, and fairness and the applicant reactions to the interview. As shown in the figure, the effects of each component differ. For example, including questions that are job-related increases validity, fairness, and positive applicant reactions, whereas limiting probing questions increases validity and fairness, but may lead to negative applicant reactions.

면접 프로세스에 구조를 도입하는 방법을 고려할 때, 프로그램은 선발 목표와 운영 제약 조건에 가장 적합한 구조의 구성 요소를 선택해야 합니다. 면접 결과를 개선하기 위해 모든 구조의 구성 요소를 구현할 필요는 없습니다구조의 구성 요소를 약간만 늘려도 지원자의 긍정적인 반응을 유지하면서 면접 결과의 신뢰도와 타당도에 긍정적인 영향을 미칠 수 있습니다.
When thinking about how to introduce structure into the interview process, programs should select the components of structure that best match its selection goals and operational constraints. Not all components of structure need to be implemented in order to improve interview results. Even making modest increases in structure can have a positive effect on the reliability and validity of interview results while maintaining positive reactions from applicants.

연구에 따르면 구조화된 면접은 구조화되지 않은 면접보다 그룹 간 차이를 줄이는 등 신뢰도, 타당도, 공정성이 더 높은 것으로 일관되게 나타났습니다. 이 분야의 연구에서는 인종/민족, 성별, 장애에 따른 차이를 조사합니다.
Research consistently shows that structured interviews have higher levels of reliability, validity, and fairness, including smaller group differences, than unstructured interviews. Research in this area investigates differences by race/ethnicity, gender, and disability.


표 1. 구조의 구성 요소가 신뢰성, 타당성, 공정성 및 지원자 반응에 미치는 영향
Table 1. The Effects of Components of Structure on Reliability, Validity, Fairness, and Applicant Reactions

참고: '긍정적'은 전반적으로 긍정적인 효과를, '부정적'은 전반적으로 부정적인 효과를, '불충분'은 개선 효과에 대한 연구가 불충분함을 의미합니다. "신뢰도"는 평가 프로세스가 일관되고 지원자 응답이 일관되게 평가되는 정도를 의미합니다. "타당도"는 면접 점수를 통해 추론한 내용의 정확성을 의미합니다.
Note: “positive” means overall positive effect, “negative” means overall negative effect, and "insufficient" means insufficient research on the effect of the enhancement. "Reliability" refers the extent to which the evaluation process is consistent and candidate responses are evaluated consistently. "Validity" refers to the accuracy of inferences made from interview scores.

Content Reliability Validity Fairness Applicant Reactions
Ask questions that are job-related insufficient positive positive positive
Ask all applicants questions that cover the same topics positive positive positive insufficient
Limit probing questions positive positive positive negative
Use behavioral or situational questions positive positive positive insufficient
Use a longer interview positive positive insufficient negative
Have no access to applicant information before or during interview positive insufficient positive negative
Have applicants not ask any questions positive insufficient insufficient negative

 

Evaluation Reliability Validity Fairness Applicant Reactions
Rate each answer or use multiple rating scales positive positive insufficient insufficient
Use defined rating scales positive positive positive insufficient
Take detailed notes positive positive positive insufficient
Use multiple interviewers positive positive positive negative
Use the same interviewers for all applicants positive insufficient negative insufficient
Have no discussion between interviews negative insufficient positive insufficient
Train interviewers positive positive positive positive
Use formulas to create interview total scores positive positive positive insufficient

Source: Adapted from Campion et al. (1997) and Levashina et al. (2014).

중요도가 높은 레지던트 인터뷰를 진행할 때 표준 인터뷰 질문과 평가 프로세스를 통합하세요.
Incorporate standard interview questions and evaluation processes when conducting high-stakes resident interviews.


행동 및 상황 질문
Behavioral and Situational Questions

면접 질문에는 여러 유형이 있습니다. 그 중 행동 질문상황 질문은 널리 연구되어 왔으며 비교적 구조화된 것으로 간주됩니다.
There are many types of interview questions. Two of them—behavioral and situational questions—have been widely studied and are considered relatively structured.

행동 질문은 과거의 행동이 미래의 행동을 예측할 수 있다는 전제를 바탕으로 합니다. 이러한 질문은 지원자에게 면접 중인 직무에서 직면할 수 있는 상황과 관련된 이전 상황(일반적으로 이전 직장, 학교 또는 자원봉사 경험)에서 지원자가 어떤 행동을 했는지 설명하도록 요청합니다. 과거 행동 질문은 지원자에게 특정 상황, 지원자가 취한 행동 또는 조치, 그 행동의 결과 또는 결과를 설명하도록 요청하는 경우가 많습니다.
Behavioral questions are based on the premise that past behavior predicts future behavior. They ask applicants to describe what they did in a previous context (typically, in previous jobs, at school, or in volunteer experiences) that are related to situations they may face in the job for which they are interviewing. Past-behavior questions often ask an applicant to describe a specific situation, the behavior or action they took, and the outcome or consequence of that behavior.

  • 예시: 함께 일하던 의료진이 정해진 프로토콜과 일치하지 않는 방식으로 행동하는 것을 목격했던 때를 설명해 주세요. 상황이 어땠는지, 어떤 조치를 취했는지, 그 결과는 어땠는지 설명하세요.
  • Example: Please describe a time when you observed a member of the medical team that you were working with behave in a manner that was inconsistent with an established protocol. Explain what the situation was, what actions you took, and the outcome.

행동 면접 질문 개발을 위한 주요 단계
Key Steps for Developing Behavioral Interview Questions

1. PGY-1 직책의 주요 요구 사항 파악하기
2. 면접에서 평가할 역량 3~5개 결정하기
3. 각 역량에 대한 행동 또는 상황별 질문 개발
4. 교수진에게 질문 초안을 검토하고 역량에 매핑하도록 요청합니다.
5. 목표 역량에 매핑되는 질문만 유지합니다.
6. 프로세스를 문서화하고 목표 역량 및 항목이 어떻게 선택되었는지 설명합니다.

  1. Identify key requirements of the PGY-1 position
  2. Determine which 3-5 competencies to target in the interview
  3. Develop behavioral or situational questions for each competency
  4. Invite faculty to review draft questions and map them to the competencies
  5. Retain only the questions that map to the target competencies
  6. Document the process and explain how the target competencies and items were selected

상황 질문은 의도가 미래의 행동을 예측한다는 전제를 기반으로 합니다. 상황 질문은 업무에서 발생할 수 있는 가상의 상황을 제시하고 지원자에게 해당 상황에서 어떻게 대응할 것인지 설명하도록 요청합니다.
Situational questions are based on the premise that intentions predict future behavior. They pose hypothetical situations that might occur on the job and ask applicants to describe how they would respond in the situations.

  • 예시: 지원자가 아침 회진을 하고 있다고 상상해 보겠습니다. 치프 레지던트가 주 초에 지원자와 다른 PGY-1이 함께 일했던 어려운 케이스를 설명하며 어려운 상황을 잘 처리했다고 칭찬합니다. 그 과정에서 그녀는 당신에게만 공을 돌리고 당신의 동료가 중요한 역할을 했다는 사실은 언급하지 않습니다. 여러분이라면 어떻게 하시겠습니까?
  • Example: I’d like you to imagine that you are on your morning rounds. The chief resident describes a difficult case that you and another PGY-1 worked on earlier in the week and compliments your handling of a difficult situation. In doing so, she gives you sole credit and fails to mention that your colleague played a major role. What would you do?

면접 질문 유형에 대한 연구에 따르면 행동 질문과 상황 질문 모두 강력한 심리 측정 특성을 가지고 있지만, 약간 다른 구성을 측정할 수 있습니다.

  • 행동 질문은 주로 경험과 일부 성격 특성을 측정하는 반면,
  • 상황 질문직무 지식을 측정할 수 있습니다.
  • 두 가지 유형의 질문 모두 신뢰할 수 있으며 미래의 직무 수행을 예측하는 유효한 지표이며,
  • 행동 질문의 타당도가 약간 더 높습니다.
  • 일부 연구에 따르면 과거 행동 질문은 상황 질문보다 속임수에 대한 저항력이 약간 더 강하고 그룹 간 차이가 약간 더 낮을 수 있다고 합니다.

Research on the type of interview questions suggests that both behavioral and situational questions have strong psychometric properties; however, they may be measuring slightly different constructs. Behavioral questions may primarily measure experiences and some personality traits, while situational questions may measure job knowledge. Both types of questions are reliable and are valid predictors of future job performance, with behavioral questions having slightly higher validity. Some research suggests that past-behavior questions may be slightly more resistant to faking and have slightly lower group differences than situational questions.

직무 관련 면접 콘텐츠
Job-Related Interview Content

질문 유형에 관계없이 모든 면접 질문은 직무와 관련된 질문이어야 합니다. 즉, 선발 면접에 포함된 모든 질문은 PGY-1 직책의 주요 요구 사항과 명확하게 연결되어 있어야 합니다. 지원자의 학습 및 업무 스타일과 프로그램 문화 간의 적합성을 평가하는 질문을 포함하여 지원자의 학습 및 업무 스타일과 프로그램 문화 간의 적합성은 프로그램에서 성공하는 데 필수적입니다. 면접 질문에서는 지원자가 이러한 주요 요건적합성을 충족하는 구체적인 사례를 자세히 설명하도록 요구해야 합니다. 가능하면 PGY-1 직책의 주요 요건과 업무 수행 및 새로운 기술 습득에 필요한 역량을 파악합니다. 입사 시 성공에 중요한 것으로 확인된 역량은 1일차 업무 수행에 필요하고 지원자의 향후 프로그램 성과를 예측할 가능성이 높기 때문에 면접의 좋은 대상이 됩니다.
Regardless of question type, all interview questions should be job-related. That is, all questions included in the selection interview should be clearly linked to key requirements of the PGY-1 position. To the extent that alignment between an applicant’s learning and work styles and the program’s culture is essential to success in your program, including questions to assess if the fit is appropriate and job-related. Interview questions should require applicants to elaborate on specific examples that address those key requirements and/or fit. If possible, identify the key requirements of the PGY-1 position and the competencies necessary to perform the work and learn new skills. Competencies that are identified as critical for success at entry are good targets for the interview because they are required to perform work on day 1 and are more likely to predict applicants’ future performance in the program.

평가하려는 역량 수, 역량 평가에 필요한 질문 수, 각 면접에 사용할 수 있는 시간 간에 균형을 유지하세요.
Maintain a balance between the number of competencies you want to assess, the number of questions needed to assess them, and the amount of time you have available for each interview.

PGY-1 직책의 주요 요건을 철저히 분석하는 데 필요한 리소스가 없는 경우, 프로그램의 PGY-1 성과 평가 도구(예: 마일스톤)를 사용하고 다른 교수진과 PGY-1이 프로그램에 입학할 때 성공에 중요한 역량(그리고 부족하면 실패로 이어질 수 있는 역량)에 대해 이야기하는 것을 고려합니다. 또 다른 옵션은 미국의학전문대학원교육인증위원회(ACGME) 핵심 역량, 레지던트 입학을 위한 AAMC 핵심 위탁 전문 활동 또는 전문 기관의 마일스톤을 사용하여 인터뷰에 어떤 내용을 포함할지 생각하는 출발점으로 삼는 것입니다. 마일스톤 또는 기타 모델을 선발 인터뷰의 출발점으로 사용하는 경우, 이는 레지던트 성과에 대한 광범위한 설명이라는 점을 기억하십시오. 어떤 측면이 프로그램의 PGY-1 포지션과 관련이 있는지 고려하는 것이 중요합니다. 선발 인터뷰는 수련 중에 배울 내용이 아니라 수련 1일차에 수련생이 시연해야 하는 내용만을 대상으로 해야 합니다. 
If you do not have the resources required to conduct a thorough analysis of the key requirements of the PGY-1 position, consider using your program’s PGY-1 performance evaluation tools (for example, milestones) and talking to other faculty about what competencies are critical for success when PGY-1s enter your program (and whose lack would lead to failure). Another option is to use the Accreditation Council on Graduate Medical Education (ACGME) Core Competencies, the AAMC Core Entrustable Professional Activities for Entering Residency, or your specialty organization’s milestones as a starting point for thinking about what content to include in the interview. If the milestones or other models are used as a starting point for your selection interview, remember that they are broad descriptions of residency performance. It is important to consider which aspects are relevant to the program’s PGY-1 position. The selection interview should only target content that trainees should be expected to demonstrate on day 1, not content that they will be expected to learn during training.

소개에서 언급했듯이 면접 당일에는 지원자 인터뷰 외에 여러 가지 요소가 포함될 수 있습니다. 면접 데이의 각 구성 요소의 목적과 각 부분에서 어떤 정보를 수집해야 하는지에 대해 생각하는 것이 중요합니다. 지원자를 모집하는 데 면접을 사용하면 지원자의 프로그램 준비도를 평가하는 데 방해가 될 수 있습니다. 가능하면 면접 당일에 지원자를 모집하고 지원자의 질문에 답변하는 시간을 따로 마련하세요. 이렇게 하면 면접이 직무 관련 내용에 집중되고 부수적인 정보가 면접관의 평가에 영향을 미치는 것을 방지할 수 있습니다.
As mentioned in the introduction, the interview day may have several components besides the applicant interview. It is important to think about the purpose of each component of the interview day and what information needs to be gathered in each part. Using interviews to recruit applicants can distract from assessing an applicant’s preparedness for your program. If possible, dedicate separate time for recruiting and answering applicants’ questions during the interview day. This may help keep the interview focused on job-related content and prevent ancillary information from influencing interviewer ratings.

면접 답변 평가하기
Evaluating Interview Responses

가장 좋은 방법은 평가 척도를 사용하여 지원자의 답변을 평가하는 것입니다. 평가 척도를 면접에 통합하면 일반적으로 지원자의 부정적인 반응을 유발하지 않으면서도 면접 점수의 신뢰성, 타당성, 공정성을 높일 수 있습니다. 또한 공통된 척도로 지원자를 평가하기 때문에 면접관이 지원자를 비교할 수 있는 능력도 향상됩니다.
A best practice is to use rating scales to evaluate applicants’ responses. Incorporating rating scales into the interview typically enhances reliability, validity, and fairness of interview scores without causing negative applicant reactions. It will also increase interviewers’ ability to compare applicants because they were evaluated on a common scale.


역량을 평가하는 면접 평가 척도 개발을 위한 주요 단계
Key Steps for Developing Rating Scales for Interviews that Assess Competencies

1. 평가 척도의 점수를 결정합니다.
2. 교수진에게 질문을 검토하도록 초대하고 PGY-1이 어떻게 응답할지 논의합니다.
3. 응답을 사용하여 척도의 각 점수에 대한 행동 예시 초안을 작성합니다.
4. 교직원에게 예시를 평가 대상 역량에 매핑하도록 요청합니다.
5. 매핑에서 살아남은 예만 보관합니다.
6. 프로세스 문서화
7. 면접관에게 평가 척도 사용 방법에 대해 교육하기

  1. Decide on the number of points on the rating scale
  2. Invite faculty to review questions and discuss how PGY-1s would respond
  3. Use responses to create draft behavioral examples for each point on the scale
  4. Ask faculty to map the examples to the competencies being assessed
  5. Retain only the examples that survive mapping
  6. Document the process
  7. Train interviewers on how to use the rating scale

평가 척도에 대해 주목해야 할 5가지 핵심 사항이 있습니다:
There are five key points to note about rating scales:

  • 개별 질문에 대한 지원자의 답변, 소수의 역량 또는 직무에 대한 전반적인 적합성을 평가하도록 설계할 수 있습니다. 가장 좋은 방법은 면접에서 평가하고자 하는 소수의 역량에 대한 평가 척도를 개발하는 것입니다.
  • 이러한 평가 척도는 행동 및 상황별 질문과 함께 사용할 수 있도록 개발할 수 있습니다.
  • 평가 척도의 점수는 보통 3점부터 7점까지 다양합니다. 평가 척도에 몇 점을 넣을지 결정하는 것은 일반적으로 PGY-1에서 관찰되는 행동의 범위를 반영한다고 생각하는 숙련도 수준(또는 척도 점수)의 수에 따라 달라집니다.
  • 평가 척도의 각 점수는 각 숙련도 수준을 설명하는 행동 예시와 함께 고정되는 것이 이상적입니다. 평가 척도의 행동 예는 PGY-1의 각 수행 수준에 대한 교수진의 기대치를 반영하여 평가자에게 척도의 각 점수에 대한 공통된 정의를 제공해야 합니다. 이렇게 하면 평가자가 평가 작업을 더 쉽게 수행할 수 있고 지원자를 일관된 방식으로 평가하는 데 도움이 됩니다.
  • 면접관에게는 평가 척도의 행동 예시를 지원자의 응답을 평가하는 일반적인 지침으로 사용하도록 안내해야 합니다.
  • They can be designed to evaluate applicants’ responses to individual questions, a small number of competencies, or overall suitability for the job. A best practice is to develop rating scales for the small number of competencies that the interview was designed to assess.
  • They can be developed to work with behavioral and situational questions.
  • The number of points on the rating scale often varies from three to seven. Deciding how many points there should be on the rating scale typically depends on the number of proficiency levels (or scale points) you think reflect the range of behaviors observed among PGY-1s.
  • Ideally, each point on the rating scale is anchored with behavioral examples that describe each level of proficiency. The behavioral examples on the rating scales should reflect faculty expectations of each level of performance for PGY-1s, providing raters with common definitions for each point on the scale. This will both make the rating task easier for raters and help ensure that applicants are being evaluated in a consistent manner.
  • Interviewers should be instructed to use the behavioral examples on the rating scale as a general guide for evaluating applicants’ responses.

 

섹션 2: 레지던트 지원자 면접 - 교직원을 위한 실무 가이드
Section 2: The Resident Applicant Interview—A Practical Guide for Faculty

이 섹션에서는 레지던트 지원자 면접 절차의 각 단계에 대한 모범 사례에 대한 일반적인 지침을 제공합니다:

1. 인터뷰 준비
2. 인터뷰 시작하기
3. 인터뷰 진행
4. 인터뷰 마무리
5. 인터뷰 평가

This section provides general guidance on best practices for the stages of the residency applicant interview process:

  1. Preparing for the interview
  2. Starting the interview
  3. Conducting the interview
  4. Closing the interview
  5. Evaluating the interview

예비 교직원 및 레지던트 면접관은 기관의 면접관 교육 과정(가능한 경우)을 수강하고, 무의식적 편견에 관한 과정과 같은 기관 또는 국가 교육 프로그램에 참여하며, PGY-1 레지던트의 직무 요건과 기관 및 레지던트 프로그램의 사명 및 목표를 숙지하는 것을 고려해야 합니다.
Prospective faculty and resident interviewers should consider taking the institution’s interviewer training course (if available), participating in institution or national training programs such as a course on unconscious bias, and familiarizing themselves with the job requirements for PGY-1 residents and the mission and the goals of the institution and the residency program.

1단계: 면접 준비하기
Stage 1: Preparing for the Interview

면접관은 지원자를 만나기 전에 면접 자료(예: 면접 스크립트, 가능하거나 필수적인 면접 질문, 역량 정의, 평가 척도에 대한 설명)를 숙지하는 것이 중요합니다. 다음 자료를 쉽게 사용할 수 있어야 합니다:
Before meeting the applicant, it is important that interviewers familiarize themselves with the interview materials (for example, the interview script, possible or required interview questions, competency definitions, and descriptions of rating scales). The following should be readily available:

  • 토론할 질문 또는 주제 목록
  • 인터뷰 중에 메모할 수 있는 방법
  • 채점 루브릭 또는 평가 척도(해당되는 경우)
  • 인터뷰 일정
  • A list of questions or topics to discuss
  • A way to take notes during the interview
  • The scoring rubric or rating scale(s), if applicable
  • The interview schedule

2단계: 인터뷰 시작
Stage 2: Starting the Interview

편안한 분위기를 조성합니다. 지원자가 정보를 공유할 수 있도록 개방적이고 편안한 분위기를 조성합니다:
Create a comfortable atmosphere. To create an open and relaxed atmosphere that will encourage the applicant to share information:

  • 친절한 태도로 지원자를 맞이합니다.
  • 이름과 직책을 밝히며 자신을 소개합니다.
  • 지원자에게 인터뷰 시간을 알려줍니다.
  • 면접 중에 메모를 할 계획이라면 면접을 시작하기 전에 지원자에게 알려주세요. 메모를 하면 답변을 정확하게 기억하는 데 도움이 된다고 설명할 수 있습니다.
  • 면접 중에 전화나 긴급한 문제로 인해 면접이 중단될 수 있다는 사실을 알고 있다면 면접을 시작하기 전에 지원자에게 그 가능성에 대해 알려주세요.
  • Welcome the person in a friendly manner.
  • Introduce yourself, giving your name and title.
  • Tell the applicant how long the interview will take.
  • If you plan on taking notes during the interview, tell the applicant before you begin the interview. You can explain that taking notes helps to ensure that you remember responses accurately.
  • If you know that you might be interrupted during the interview by a call or urgent matter, tell the applicant about that possibility before you begin the interview.

첫인상이나 '직감'의 영향을 받지 않도록 하세요. 지원자의 외모나 지원자와의 '케미'가 어떠하든, 이러한 요소는 해당 지원자가 프로그램에서 레지던트로서 얼마나 잘할 수 있을지를 예측할 수 없음을 기억하세요. 첫인상에 의존하면 면접에서 수집하는 직무 관련 정보의 질과 양이 제한될 수 있으므로 지원자의 답변을 경청하는 데 집중하고 모든 지원자에게 가능한 한 철저하게 임하는 것이 중요합니다.
Avoid the influence of first impressions or “gut” instinct
No matter what the applicant's personal appearance is or the "chemistry" between you and the applicant, remember that these do not predict how well a person is likely to do as a resident in your program. Relying on a first impression may limit the quality and amount of job-related information you gather during an interview; it is important to keep your focus on listening to the applicant’s answers and to be as thorough as possible with all applicants.

3단계. 면접 진행
Stage 3. Conducting the Interview

직무와 관련된 질문을 합니다. 면접 질문은 직무 요건과 명확하게 연결되는 것이 가장 좋습니다. 미리 정해진 질문이나 질문 주제가 있는 경우, 면접 전반에 걸쳐 일관성을 유지하기 위해 해당 질문이나 주제를 준수하는 것이 중요합니다. 면접관이 직접 질문을 할 수 있는 경우, 해당 질문이 직무와 관련이 있는지 확인합니다.
Ask job-relevant questions.
 It is a best practice for interview questions to be clearly linked to job requirements. If there is a set of predetermined questions or topics from which questions should be asked, it is important to adhere to those questions or topics for consistency across interviews. If interviewers can ask their own questions, make sure they are relevant to the job.

가능하면 상황 및 행동 질문을 사용하세요. 행동 질문과 상황 질문은 모두 면접 구조를 개선하고 강력한 심리 측정 특성을 가지고 있습니다. 

  • 행동 질문은 지원자에게 특정 상황, 지원자가 취한 행동 또는 조치, 그 행동의 결과 또는 결과를 설명하도록 요청합니다.
  • 상황 질문은 업무상 발생할 수 있는 가상의 상황을 제시하고 지원자가 그 상황에서 어떻게 대응할 것인지 설명하도록 요청합니다.

When possible, use situational and behavioral questions. Both behavioral and situational questions improve interview structure and have strong psychometric properties. 

  • Behavioral questions ask applicants to describe a specific situation, the behavior or action they took, and the outcome or consequence of that behavior. 
  • Situational questions pose hypothetical situations that may occur on the job and ask applicants to describe how they would respond in the situation.

부적절한 질문은 피하고 법률 또는 고용주 정책에 의해 금지될 수 있는 질문에 대해서는 항상 소속 기관의 법률 고문에게 문의하세요. 인터뷰 중에는 다음과 같은 주제는 피해야 합니다:
Avoid inappropriate questions and always check with your institution’s legal counsel about inquiries that may be prohibited by law or employer policy. The following topics should be avoided during an interview:

  • 인구 통계: 연령, 인종, 종교, 사회경제적 지위, 민족, 성적 지향, 성 정체성, 출신 국가
  • 가족: 혈통, 조상, 모국어 또는 모국어, 결혼 여부, 결혼 전 이름 또는 성, 지원자와 함께 사는 사람 또는 관계, 가족 문제(부모 상태, 부양가족의 나이, 자녀 계획)
  • 개인 정보: 키와 몸무게, 신체적 및 정신적 장애, 외모, 개인적 소속을 조사하는 개인 활동
  • 기록: 군 제대, 체포, 전과 기록
  • 기타 프로그램 또는 전문 분야 및 순위 계획: 지원자가 지원할 수 있는 다른 프로그램 또는 전문 분야에 대한 정보 및/또는 지원자가 프로그램 순위를 매길 계획에 대한 정보. (NRMP 정책에 따르면 프로그램은 지원자에게 지원한 프로그램 및 프로그램 순위 결정 방식에 대한 정보 공개를 요구할 수 없습니다.)
  • Demographics: Age, race, religion, socioeconomic status, ethnicity, sexual orientation, gender identity, national origin
  • Family: Lineage, ancestry, primary or native language, marital status, maiden name or family surname, relationships or people the applicant lives with, family issues (parental status, age of dependents, plans for children)
  • Personal: Height and weight, physical and mental disabilities, physical appearance, personal activities that probe for personal affiliations
  • History: Military discharge, arrests, criminal convictions
  • Other programs or specialties, and ranking plans: Information about other programs or  specialties to which they might be applying and/or how the applicant plans to rank your program. (NRMP policies state that programs cannot require any applicant to disclose information about where they have applied and how they plan to rank programs.)

직무 관련 탐색 질문을 하세요. 지원자가 초기 답변에서 충분한 정보를 제공하지 않는 경우가 많으므로 면접관은 추가 정보를 제공하거나 후속 질문을 해야 할 수 있습니다. "좀 더 구체적으로 말씀해 주시겠습니까?" 또는 "그것에 대해 더 자세히 말씀해 주시겠습니까?"와 같은 후속 질문을 하면 지원자의 답변을 유도하지 않고 최대한 많은 정보를 수집하는 데 도움이 됩니다. 탐색 질문을 사용하는 경우, 불완전한 초기 답변을 제공한 모든 지원자에게 일관되게 질문하여 모든 지원자가 동일한 설명 기회를 갖도록 해야 합니다. 너무 많은 탐색 질문을 하면 지원자에게 찾고 있는 답변 유형에 대한 단서를 제공하여 거짓 답변을 할 가능성이 높아질 수 있다는 점에 유의하세요.
Ask job-related probing questions.
 In many cases, applicants do not provide enough information in their initial response, so the interviewer may need to prompt or ask follow-up questions. Asking a follow-up question such as, “Could you be more specific?” or “Could you tell me more about that?” is helpful in gathering as much information as possible without leading the applicant to an answer. If probing questions are used, they should be used consistently with all applicants who provide an incomplete initial response to ensure that everyone has the same opportunity to explain a response. Be aware that asking too many probing questions provides a cue to applicants about the types of answers you are looking for and may increase the likelihood of faking a response.

상황 또는 행동 면접 질문을 사용하는 경우 STAR 약어를 사용하면 면접관이 각 질문에 대한 중요한 정보를 모두 수집하는 데 도움이 될 수 있습니다:
If using situational or behavioral interview questions, the STAR acronym can help interviewers ensure they gather all important information about each question:

  • 상황 또는 과제: 지원자가 논의 중인 사건의 맥락을 설명했나요?
  • 행동: 지원자가 정확한 행동이나 조치에 대해 설명했나요(또는 무엇을 할 것인지)?
  • 결과: 신청자가 행동 또는 조치의 결과 또는 결과를 설명했나요?
  • Situation or Task: Did the applicant describe the context for the event being discussed?
  • Action: Did the applicant describe the exact behaviors or actions taken (or what would  be done)?
  • Result: Did the applicant describe the outcomes or consequences of the behaviors or  actions?

상황 면접 질문용 프로브
Probes for Situational Interview Questions

상황 또는 과제 Situation or Task

  • 이 상황에서 가장 중요한 문제는 무엇이라고 생각하나요?
  • 다른 어떤 문제가 우려되나요?
  • What do you consider the most critical issue in this situation?
  • What other issues are of concern?

행동 Action

  • 당신은 뭐라고 말하겠습니까?
  • 가장 먼저 할 일은 무엇인가요?
  • 어떤 요인이 여러분의 행동 방침에 영향을 미칠까요?
  • 다른 어떤 조치를 취할 수 있나요?
  • What would you say?
  • What is the first thing you would do?
  • What factors would affect your course of action?
  • What other actions could you take?

결과 Results

  • 여러분의 행동이 어떻게 받아들여질 것이라고 생각하나요?
  • 여러분의 행동이 잘 받아들여지지 않는다면 어떻게 하시겠습니까?
  • 귀하의 행동으로 인해 어떤 이점이 있다고 생각하십니까?
  • How do you think your action would be received?
  • What would you do if your action was not received well?
  • What do you consider benefits of your action?

행동 면접 질문용 프로브
Probes for Behavioral Interview Questions

상황 또는 과제 Situation or Task

  • 그 상황이나 과업에 이르게 된 요인은 무엇인가요?
  • 본인 또는 다른 사람이 해당 상황이나 과제를 예방하기 위해 무언가를 할 수 있었나요?
  • 이 상황이나 과제에서 해결해야 할 가장 중요한 문제는 무엇이라고 판단했나요?
  • What factors led up to the situation or task?
  • Could you or anyone else have done something to prevent the situation or task?
  • What did you determine as the most critical issue to address in this situation or task?

조치 Action

  • 어떻게 대응했나요?
  • 조치를 취할 때 가장 중요하게 고려한 요소는 무엇인가요?
  • 가장 먼저 한 일은 무엇인가요?
  • How did you respond?
  • What was the most important factor you considered in taking action?
  • What is the first thing you did?

결과 Results

  • 결과는 어땠나요?
  • 다르게 말하거나 행동했으면 좋았을 것이 있나요?
  • 그 상황에서 어떤 이점이 있었나요?
  • What was the outcome?
  • Is there anything you would have said and/or done differently?
  • Were there any benefits from the situation?

프로그램에서 상황 또는 행동 면접 질문을 사용하지 않는 경우, 보다 일반적인 개방형 프로빙 질문을 사용할 수 있습니다.
If the program does not use situational or behavioral interview questions, more generic and open-ended probing questions can be used.

개방형 프로빙 질문: 지원자에게 답변에 대해 자세히 설명하도록 요청하는 방법입니다:
Open-ended probing questions: Ways to ask an applicant to elaborate on a response:

  • 그것에 대해 자세히 말해 보세요.
  • 무슨 일이 있었나요?
  • 그 이유는 무엇인가요?
  • 어떻게 반응했나요?
  • 어떻게 그렇게 되었나요?
  • 더 잘 이해하도록 도와주세요.
  • 계속하세요.
  • 설명해 주세요.
  • 좀 더 구체적으로 설명해 주시겠어요?
  • 왜요?
  • 다른 예를 들어주세요.
  • Tell me more about that.
  • What happened?
  • Why is that?
  • How did you react?
  • How did that come about?
  • Help me understand that better.
  • Please go on.
  • Explain that to me.
  • Could you be more specific?
  • How come?
  • Give me another example, please.


간단히 메모하세요메모는 사용 가능한 모든 정보를 바탕으로 평가할 수 있게 해주며, 가장 객관적인 평가를 내리는 데 도움이 됩니다. 메모에는 지원자를 평가하는 방법을 정당화할 수 있도록 면접 내용에 대한 충분한 정보가 포함되어야 합니다. 지원자의 답변을 그대로 기록하기보다는 지원자의 답변에서 관련 핵심 단어나 문구를 기록하는 데 중점을 두세요.
Take short notes. Notes allow you to base your evaluations on all available information and assist you in making the most objective evaluations possible. Your notes should provide sufficient information about the interview content to justify how you evaluate candidates. Focus on recording relevant key words or phrases in the applicant’s responses rather than trying to capture responses verbatim.

메모할 때 피해야 할 몇 가지 중요한 함정은 다음과 같습니다:
Some important traps to avoid when taking notes include:

  • 지원자의 의도를 유추하거나 지원자가 말한 내용에 대한 자신의 의견을 적지 마세요. 예를 들어, "나쁜 답변" 또는 "훌륭한 문제 해결사"는 지원자의 답변에 대한 사실적 증거를 제공하지 않는 평가 문장이므로 작성하지 마세요.
  • 인종, 피부색, 종교, 성별, 출신 국가, 나이 또는 지원자가 언급했더라도 시험장 또는 평가 척도와 관련이 없는 기타 요인에 대한 언급을 포함하지 마세요.
  • 메모가 지원자의 답변 품질에 대한 신호가 되지 않도록 하세요. 예를 들어, 매우 긍정적이거나 매우 부정적인 내용이 방금 언급되었을 때만 메모하지 마세요.
  • Don't make inferences about what the applicant meant or write down your opinions of  what the applicant said. For example, do not write “bad answer” or “great problem solver” as these are evaluative statements that provide no factual evidence of the applicant’s response.
  • Don't include any reference to race, color, religion, sex, national origin, age, or other factors not related to the stations or rating scales, even if the applicant mentions these things.
  • Don’t allow your note taking to be a signal to applicants about the quality of their responses. For example, do not take notes only when something very positive or very negative has just been said.

4단계: 면접 마무리
Stage 4: Closing the Interview

면접이 끝나면 지원자에게 감사를 표하고 다음 단계를 설명합니다. 지원자에게 면접 성과에 대한 피드백을 주거나 메모를 공유하지 않도록 주의하세요.
At the end of the interview, thank the applicant and explain where to go next. Be careful not to give the applicants any feedback on their interview performance or share your notes.

5단계: 면접 평가
Stage 5: Evaluating the Interview

지원자가 면접실을 나간 후 가능한 한 빨리 메모를 검토합니다. 놓쳤을 수 있는 중요한 세부 사항을 기입하세요. 다음 면접이 시작되기 전에 프로그램에서 설계한 접근 방식을 사용하여 지원자를 평가합니다. 지원자에 대한 평가는 메모를 통해 뒷받침되어야 합니다.
As soon as possible after the applicant leaves the room, review your notes. Fill in any important details you may have missed. Evaluate the applicant using the approach designed by your program—ideally, before the next interview begins. Ratings of the applicant should be supported by the notes.

무의식적인 편견에 유의하세요. 누구나 태도, 연상, 고정관념에 따라 다른 사람이나 집단에 대해 무의식적인 편견을 가지고 있습니다. 면접관은 개인의 편견을 완화하는 데 도움을 줄 수 있습니다:
Be aware of your unconscious bias.
 Everyone holds unconscious biases about other people or groups of people based on attitudes, associations, and stereotypes. Interviewers can help mitigate their individual biases through:

  • 특정 지원자 또는 지원자 유형에 대한 강한 반응에 대한 인식
  • 첫인상보다는 신중한 사고와 의사 결정에 기반한 점수 부여
  • 관점 취하기
  • awareness of strong reactions for or against a particular applicant or type of applicant
  • basing scores on deliberate thinking and decision-making rather than on first impressions
  • perspective taking

면접 내용 및 평가의 표준화를 강화하면 무의식적 편견이 면접 과정에 미치는 영향을 줄일 수 있습니다. 예를 들어, 기준을 명확하게 정의하고, 채점 루브릭을 사용하고, 다양한 면접관 풀을 확보하고, 면접관에게 적절한 면접 기법을 교육하는 등 면접 프로세스를 개선함으로써 무의식적 편견의 영향을 부분적으로 완화할 수 있습니다.
Increasing standardization of interview content and evaluation is likely to reduce the impact of unconscious bias on the interview process. For example, the impact of unconscious bias can be mitigated in part through enhancements to the interview process such as clearly defining criteria, using a scoring rubric, having a diverse pool of interviewers, and training interviewers on proper interview technique.

자세한 내용은 AAMC의 의료 전문가를 위한 무의식적 편견 리소스를 참조하세요.
For more information, please see the AAMC’s Unconscious Bias Resources for Health Professionals.

일반적인 평가 오류에 유의하세요. 의도하지 않은 경우가 많지만, 흔히 발생하는 평가 오류는 면접의 유효성과 공정성을 떨어뜨릴 수 있습니다. 다음은 각 지원자의 면접 답변을 평가할 때 주의해야 할 가장 일반적인 평가 오류 유형입니다:
Be aware of common rating errors.
 Although often unintentional, common rating errors can decrease the validity and fairness of interviews. Here are some of the most common types of rating errors to be mindful of when rating each applicant’s interview responses:

  • 후광/뿔 효과: 한 응답을 기반으로 한 성과 평가가 다른 응답에 대한 평가에 영향을 미칠 수 있도록 허용하는 것입니다. 예를 들어, 팀워크를 평가하는 질문에 대한 평가가 동기를 평가하는 질문에 대한 평가에 영향을 줄 수 있도록 허용합니다.
  • 중앙 경향: 모든 지원자를 평가 척도의 중앙에 평가합니다(예: 5점 평가 척도에서 3점을 모두 부여). 면접관은 평가 척도의 전체 범위를 편안하게 사용해야 합니다.
  • 관대함/심각함: 지원자의 실제 답변과 관계없이 모든 지원자에게 높거나 낮은 평점을 부여하는 것입니다.
  • 대조 효과: 한 지원자를 이전에 면접을 본 지원자의 성과와 비교하는 것입니다. 지원자가 면접을 보는 순서는 지원자의 평점에 영향을 줄 수 있습니다. 면접관은 평점을 매길 때 지원자를 비교하는 것을 자제해야 합니다. 대신 면접관은 평가 척도와 관련하여 각 지원자의 답변을 평가하는 데 집중해야 합니다.
  • Halo/Horns effect: Allowing ratings of performance based on one response to influence ratings for another response. For example, allowing a rating on a question assessing teamwork to influence the rating on a question assessing motivation.
  • Central tendency: Rating all applicants in the middle of the rating scale (for example, giving all 3s in a 5-point rating scale). Interviewers should feel comfortable using the entire range of the rating scale.
  • Leniency/severity: Giving high or low ratings to all applicants, irrespective of their actual responses.
  • Contrast effects: Comparing one applicant with the performance of previously interviewed applicants. The order in which the applicants are interviewed can affect the ratings they are given. While making ratings, interviewers should refrain from comparing applicants. Instead, interviewers should focus on evaluating each applicant’s response in relation to the rating scale.

면접관에게 프로그램 표준 및 기타 면접과 관련된 채점에 대한 정기적인 교육과 피드백을 제공하면 이러한 오류를 줄이는 데 도움이 될 수 있습니다.
Providing interviewers with regular training and feedback on their scoring relative to program standards and other interviews can help mitigate these errors.

면접 시 해야 할 일과 하지 말아야 할 일
Interview Do’s and Don’ts

면접 진행
Conducting Interviews

해야 할 일 Do:

  • 직무와 관련된 질문을 하세요.
  • 가끔 미소 짓고 고개를 끄덕이는 등 긍정적인 바디랭귀지를 사용합니다.
  • 지원자가 본론에서 벗어난 경우 지원자의 발언에 대해 간단히 언급(예: "알겠습니다")하여 지원자의 주의를 다시 집중시킨 다음 원래의 질문으로 단호하게 돌아갑니다.
  • 말하기보다 듣는 데 더 많은 시간을 할애하세요.
  • Ask job-related questions.
  • Use positive body language such as smiling and nodding occasionally.
  • Refocus the applicant if he or she goes off track, by making a brief comment about the applicant’s remarks (such as, “OK”) and then firmly move back to the original question.
  • Spend more time listening than talking.

하지 마세요 Don't:

  • 눈썹을 치켜뜨거나 인상을 찌푸리거나 거친 목소리 톤을 사용하는 등 부정적인 바디랭귀지를 하는 것
  • 면접 중 지원자의 성과에 대해 "좋아요" 또는 "훌륭해요"와 같은 피드백을 하는 것
  • 판단형, 이유형, 선도형, 예/아니오형 질문을 하는 것
  • Use negative body language such as raising an eyebrow, frowning, or using a harsh tone of voice.
  • Give feedback to the applicant about his or her performance during the interview (such as, “Good” or “Great”).
  • Ask judgmental, why, leading, or yes/no questions.

면접 평가하기
Evaluating Interviews

하세요 Do:

  • 객관성을 유지하세요. 의견이 아닌 사실에 집중하세요.
  • 면접 질문에 대한 지원자의 답변에 집중하세요.
  • 한 번에 한 가지 질문 또는 차원에 집중합니다.
  • 지원자의 답변을 척도 앵커와 비교하는 데 집중합니다(프로그램에서 평가 척도를 사용하는 경우).
  • Stay objective―focus on facts, not opinions.
  • Focus on the applicant’s responses to interview questions.
  • Focus on one question or dimension at a time.
  • Focus on comparing applicants’ responses with scale anchors (if your program uses a rating scale).

하지 마세요 Don't:

  • "지원자의 답변에 대한 자신의 해석을 바탕으로 답변의 일부를 '채우기'.
  • 채점 루브릭 이외의 요소(예: 외모 또는 지원자와의 '케미')를 기준으로 지원자를 판단하기
  • 면접 중에 한 지원자의 답변을 다른 지원자의 답변과 비교하기
  • “Fill in” parts of the answer based on your own interpretations of the applicant’s response.
  • Judge an applicant based on anything outside the scoring rubric (for example, personal appearance or your “chemistry”).
  • Compare responses of one applicant with those of other applicants during the interview.

 

출처: https://www.aamc.org/about-us/mission-areas/medical-education/best-practices-conducting-residency-program-interviews#top

 

 

 

 

보건전문직 교육의 선발 방법에 대한 지원자 인식: 이유와 집단간 차이(Med Educ, 2022)
Applicant perceptions of selection methods for health professions education: Rationales and subgroup differences
Suzanne Fikrat-Wevers1 | Karen Stegers-Jager1 | Marleen Groenier2 | Andries Koster3 | Jan Hindrik Ravesloot4 | Renske Van Gestel3 | Anouk Wouters5,6 | Walter van den Broek1 | Andrea Woltman1 

 

1 서론
1 INTRODUCTION

학부 보건 전문직 교육(HPE)에 입학하기 위한 선발은 많은 이해관계가 얽혀 있어 공개적인 논쟁의 주제입니다.1 그럼에도 불구하고 다양한 선발 방법에 대한 대부분의 연구는 예측 타당성과 학생 다양성에 미치는 영향에 초점을 맞춘 반면, 지원자의 인식에 대해서는 거의 관심을 기울이지 않았습니다.2 지원자 인식이 대학 입학 기회 확대(WA)의 맥락에서 관련성이 있다고 주장되어 왔기 때문에 이는 놀라운 일입니다.1 사회경제적, 인종적 소수 집단의 과소 대표성은 복잡하고 다양한 문제이지만, 이러한 집단은 선발에 대한 부정적인 인식의 결과에 특히 취약한 것으로 생각됩니다.1, 3 그러나 지금까지 지원자의 여러 하위 그룹 간의 인식을 비교하여 실제로 그러한지 조사한 연구는 없었습니다. 본 연구에서는 학부 HPE의 다양한 전형 방법에 대한 지원자의 인식과 이러한 인식이 지원자의 배경 특성과 어떤 관련이 있는지 조사하여 이러한 지식 격차를 해결했습니다. 
Due to the high stakes involved, selection into undergraduate health professions education (HPE) is a topic of public debate.1 Nevertheless, most research into different selection methods has focused on predictive validity and effects on student diversity, while little attention has been paid to applicant perceptions.2 This is surprising, as it has been argued that applicant perceptions are relevant within the context of widening access (WA).1 Although the underrepresentation of lower socio-economic and ethnic minority groups is a complex and multicausal problem, these groups are thought to be particularly vulnerable to the consequences of negative perceptions regarding selection.1, 3 However, thus far, no research has compared perceptions between different subgroups of applicants to investigate whether this is really the case. In the present study, we addressed this knowledge gap by investigating applicant perceptions of different selection methods in undergraduate HPE and how these perceptions are related to applicants' background characteristics.

선발 방법에 대한 지원자의 인식을 이해하는 것은 여러 가지 이유로 중요합니다. 

  • 첫째, 지원자 인식은 광범위한 타당성 프레임워크에서 증거의 원천으로 사용되는 정치적 타당성의 구성 요소입니다.4 정치적 타당성은 이해관계자들이 어떤 방법을 선발에 사용하기에 적절하고 수용 가능한 것으로 간주하는 정도라고 정의됩니다.4 실제로 선발 절차를 설계할 때 정치적 타당도를 고려하는데, 이는 전통적인 면접과 같이 제한된 예측 타당도가 입증된 선발 방법이 여전히 일반적으로 사용되고 있다는 사실에서 잘 드러납니다.1
  • 둘째, 지원자의 인식은 선발 방법의 구성 타당도와 지원자의 동기 부여, 성과 및 철회에 미치는 영향을 포함하여 다양한 실질적인 결과를 초래할 수 있기 때문에 특히 중요합니다.2, 5-7 주목할 만한 점은 선발 위원회의 기대에 대한 지원자의 이해가 이러한 숨겨진 기대에 '부합'하기 위해 선발 준비 방식을 형성할 수 있다는 점입니다.8-10
  • 또한, 지원자의 인식은 WA와 관련이 있습니다.1 이전 연구에 따르면 사회경제적 수준이 낮고 소수 민족 배경을 가진 예비 학생들은 전형에 대해 더 자주 부정적으로 인식하고 성공적으로 입학할 수 있다는 확신이 적습니다.3, 11 이러한 지원자 하위 그룹은 일반적으로 전형 결과가 더 나쁜 것으로 나타났습니다.12, 13 이는 부정적 인식으로 인한 동기 부여 저하로 부분적으로 설명될 수 있습니다.14

Understanding applicant perceptions of selection methods is important for multiple reasons.

  • First, applicant perceptions are a component of political validity, which is used as a source of evidence in broader validity frameworks.4 Political validity is defined as the extent to which stakeholders consider a method as appropriate and acceptable for use in selection.4 In practice, political validity is taken into consideration when designing selection procedures, which is exemplified by the fact that selection methods with proven limited predictive validity, such as traditional interviews, are still commonly used.1 
  • Second, perceptions of applicants are of particular interest, as they can have numerous practical consequences, including effects on construct validity of selection methods, and on applicant motivation, performance and withdrawal.25-7 Noteworthy is that applicants' understanding of the expectations of selection committees can shape the way they prepare for selection in order to ‘fit’ these hidden expectations.8-10 
  • Moreover, applicant perceptions are relevant with respect to WA.1 Previous research suggests that prospective students with lower socio-economic and ethnic minority backgrounds more often demonstrate negative perceptions of selection and are less confident in their ability to be successfully admitted.311 These subgroups of applicants are shown to have poorer selection outcomes in general,1213 which may be partially explained by poorer motivation due to more negative perceptions.14

지원자의 선발에 대한 인식은 일반적으로 분배적 정의절차적 정의를 구분하는 조직 정의 이론15을 사용하여 설명합니다.

  • 분배적 정의는 선발 절차의 결과 분배의 공정성에 대한 지각된 공정성을 의미하며,
  • 절차적 정의는 선발 절차 및 이러한 결과를 생성하는 데 사용되는 방법의 공정성에 대한 지각을 의미합니다.15 절차적 정의는 절차의 형식적 특성, 절차 및 의사 결정에 대한 설명, 대인 관계적 대우의 세 가지 구성 요소로 구성됩니다.

조직 정의 이론에 따르면, 절차적 정의의 세 가지 구성 요소는 선발 절차의 다양한 측면에 대한 인식에 영향을 미칩니다. 본 연구에서는 절차적 정의 구성 요소인 선택의 형식적 특성에 초점을 맞췄는데, 이는 길리랜드에 따르면 본 연구의 주요 관심사인 특정 선택 방법에 대한 인식이 이 구성 요소의 영향을 가장 많이 받기 때문입니다. 이러한 형식적 특성의 예로는 선택 방법의 관련성과 지각된 타당성이 있습니다. 나머지 두 가지 구성 요소인 절차 및 의사 결정에 대한 설명과 대인 관계 처우는 각각 선발 정책과 선발 담당자에 대한 인식에 영향을 미칩니다. 
Applicant perceptions of selection are commonly described using organisational justice theory,15 which distinguishes between distributive and procedural justice.

  • Distributive justice describes the perceived fairness of the distribution of the outcome of the selection procedures, while
  • procedural justice refers to the perceived fairness of the selection procedure and methods that are used to generate this outcome.15 Procedural justice consists of three components: the formal characteristics of procedures, explanation of procedures and decision-making and interpersonal treatment.

According to organisational justice theory, the three procedural justice components affect perceptions of different aspects of selection procedures. The present study focuses on the procedural justice component formal characteristics of selection, because according to Gilliland,15 perceptions of specific selection methods—the main interest of the present study—are mostly affected by this component. Examples of such formal characteristics include relevance and perceived validity of selection methods. The other two components, explanation of procedures and decision-making and interpersonal treatment, influence perceptions of the selection policy and the selection personnel, respectively.

교육 기관은 선발 절차에서 매우 다양한 방법을 사용합니다. 그러나 이러한 방법에 대한 지원자의 인식에 대한 지식은 여전히 부족합니다.2 체계적 문헌고찰에 따르면 면접과 상황판단검사(SJT)는 지원자의 지지가 높은 반면 적성검사는 덜 수용적이라고 인식하고 있습니다.1 이 문헌고찰에는 많은 수의 연구(71편)가 포함되어 있지만 대부분 단일 기관에서 특정 선발 방법에 대한 노출 후 수행되었습니다. 이전 연구에 따르면 선택 절차가 연구 선택에 영향을 미치는 것으로 나타났기 때문에2, 이러한 16개의 연구 결과는 제한적으로만 비교 및 일반화할 수 있습니다. 또한 Kelly 등1은 특정 선발 방법이 특히 소외계층 및 소수자 그룹에 의해 장벽으로 인식된다고 제안했지만, 검토 대상 연구 중 서로 다른 지원자 하위 그룹의 인식을 직접 비교한 연구는 없었습니다. 
Educational institutions use a great variety of methods in their selection procedures. However, knowledge about perceptions of applicants regarding these methods is still scarce.2 A systematic review concluded that interviews and situational judgement tests (SJTs) are highly supported by applicants, while aptitude tests are perceived as less acceptable.1 Although this review included a large number of studies (71), most were conducted in single institutions after exposure to one specific selection method. Because previous research indicates that the selection procedure plays a role in study choice,2, 16 results of such studies are only limitedly comparable and generalisable. Additionally, while Kelly et al.1 suggested that certain selection methods are specifically perceived as barriers by underrepresented and minority groups, none of the studies under review directly compared perceptions of different applicant subgroups.

지금까지 지원자 인식의 하위 그룹별 차이를 직접 조사한 연구는 거의 없었습니다. 우리가 아는 한, HPE 분야에서 단일 사이트 연구가 수행된 것은 단 한 건뿐입니다. 이 연구는 SJT에 초점을 맞춘 것으로, 소수 민족 학생과 1세대 대학생이 기존 전형에 비해 SJT 전형에 대해 다른 선호도를 보인다는 결론을 내렸습니다.14 학부 심리학 프로그램에서 수행된 또 다른 단일 현장 연구는 다양한 전형 방법을 포함했지만 배경 변수로 성별에만 초점을 맞추었습니다.2 추첨과 고등학교 성적은 낮은 선호도를 보인 반면 시험과 면접은 높은 선호도를 보였지만, 제공된 평가의 근거에 대해서는 살펴보지 않았습니다. 저자들은 동기 부여 설문지에 대해서만 여성이 남성보다 더 긍정적으로 평가했으며, 연구 대상인 다른 선발 방법에 대한 인식은 성별에 따라 다르지 않다는 것을 발견했습니다.
Thus far, only few studies have directly investigated subgroup differences in applicant perceptions. To our knowledge, only one single-site study was executed in the field of HPE. This research focused on SJTs and concluded that ethnic minority students and first-generation university students had other preferences in SJT format compared with their traditional counterparts.14 Another single-site study that was conducted at an undergraduate psychology programme included a wide range of selection methods but only focused on gender as a background variable.2 Low favourability ratings were found for lottery and high school grades, while tests and interviews were perceived as highly acceptable, but the rationales behind the provided ratings were not explored. The authors found that only motivation questionnaires were rated more positively by women than by men, while perceptions of other selection methods under research did not differ by gender.

따라서 다양한 방법을 포함하고 다양한 관련 배경 특성을 포함하는 다중 기관 환경의 연구와 관련하여 지원자 인식 문헌에는 격차가 존재합니다. 본 연구에서는 지원자들이 학부 HPE 입학을 위한 다양한 전형 방법을 어떻게 인식하는지, 그리고 그러한 인식의 근거는 무엇인지 조사했습니다. 또한 지원자의 성별, 이주 배경(인종 지표), 부모 교육(사회경제적 지위 지표), 이전 교육 등 선발 결과와 관련된 배경 변수를 기반으로 지원자 하위 그룹 간에 이러한 인식이 다른지 평가했습니다.12, 13, 17, 18 
Thus, there is a gap in the applicant perceptions literature with respect to research in multi-institutional settings, that includes a variety of methods and that includes numerous relevant background characteristics. In the present study, we investigated how applicants perceive different selection methods for admission into undergraduate HPE and the rationales behind their perceptions. Additionally, we assessed whether these perceptions differ across subgroups of applicants based on background variables that are associated with selection outcomes: applicants' gender, migration background (as an indicator of ethnicity), parental education (as an indicator of SES) and prior education.12, 13, 17, 18

2 방법
2 METHOD

설정 및 절차
Setting and procedure

본 연구는 네덜란드에 있는 3개의 의학 프로그램, 1개의 기술-의료 프로그램, 1개의 약학 프로그램을 포함한 5개의 학부 HPE 프로그램에서 수행되었습니다. 5개 프로그램 모두 자체적으로 설계한 선발 절차가 달랐으며, 최소 두 가지 선발 방법으로 구성되었습니다. 
The present study was conducted at five undergraduate HPE programmes in the Netherlands, including three medical programmes, one technical-medical programme and one pharmacy programme. All five programmes had different self-designed selection procedures, composed of at least two selection methods.

네덜란드에서는 다양한 유형의 학부 HPE 프로그램의 입학 요건이 비슷합니다. 지원 자격을 얻으려면 모든 지원자는 이수 과목(예: 물리, 화학, 생물학) 및 교육 수준(대학 전 교육 졸업 수준)과 관련하여 동일한 엄격한 요건을 충족해야 합니다. 지원자는 다양한 교육 경로를 통해 지원할 수 있지만, 모두 앞서 언급한 요건을 충족한다는 증거를 제출해야 합니다. 결과적으로 지원자 풀은 비교적 동질적이며, 대학 수준의 학부 HPE 프로그램에 지원하는 학생들은 이미 선택성이 높은 중등 교육으로 인해 학업 능력에 따라 강력하게 사전 선발됩니다.19 그러나 pu-GPA와 관련된 입학 요건은 없습니다. 지원자는 자신이 선택한 프로그램에 지원할 때 하나의 특정 교육기관에 지원하게 됩니다. 각 기관마다 미리 정해진 정원이 있습니다. 법에 따라 교육기관은 선발 절차의 일부로 구현할 수 있는 개별 도구인 선발 방법을 사용하여 평가되는 최소 두 가지 선발 기준을 포함해야 합니다. 그러나 선발 방법의 내용 및 품질, 그리고 어떤 방식으로 결합할 것인지에 대한 추가 요건은 없습니다. 따라서 각 기관의 다양한 유형의 HPE 프로그램 간 또는 프로그램 내에서 채택하는 선발 절차는 매우 다양합니다. 현재 프로그램에서 선발 절차의 일부로 (가중치 및 비가중치) 추첨을 선발 방법으로 포함할 수 있도록 허용하는 법안이 계류 중입니다. 
In the Netherlands, admission requirements of different types of undergraduate HPE programmes are comparable. To be eligible, all applicants need to meet the same stringent requirements regarding subjects taken (e.g. physics, chemistry and biology) and educational level (graduation level of pre-university education). Although applicants can apply from different educational routes, they all need to provide proof that they meet aforementioned requirements. Consequently, the applicant pools are relatively homogeneous; students who apply to a university-level undergraduate HPE programme are already strongly preselected based on academic skills due to highly selective secondary education.19 There are no admission requirements, however, with respect to pu-GPA. When applicants apply to their programme of choice, they apply to one specific institution. For each institution, there is a predetermined fixed number of places. By law, institutions are required to include at least two selection criteria, which are assessed using selection methods—the individual tools that can be implemented as part of a selection procedure. However, there are no additional requirements with respect to, for instance, the contents and quality of the selection methods, and in which way they would be combined. Consequently, there is great variety in the selection procedures that programmes employ, both between and within different types of HPE programmes at different institutions. Currently, a bill is pending that should allow programmes to also include (weighted and unweighted) lottery as a selection method as part of their selection procedure.

2020년 9월에 입학 선발 절차에 참여한 모든 지원자(N = 3280명)를 대상으로 지원자 인식에 대한 온라인 설문조사에 참여하도록 초대했습니다. 또한 지원자들은 현장 테스트 당일 또는 이메일을 통해 인구통계학적 설문지를 작성하도록 요청받았습니다.  
All applicants engaged in the selection procedures for entry in September 2020 (N = 3280) were invited to participate in an online survey on applicant perceptions. Additionally, applicants were asked to complete a demographics questionnaire either during an on-site testing day or via e-mail.

모든 참가자로부터 사전 동의를 얻었습니다. 지원자에게는 참여는 자발적인 것이며 선발 결과에 영향을 미치지 않는다는 사실을 알렸습니다. 어떠한 인센티브도 제공되지 않았습니다. 에라스무스 MC의 의료윤리심의위원회는 이 연구가 심의 면제 대상이라고 선언했습니다. 
Informed consent was obtained from all participants. Applicants were informed that participation was voluntary and would not influence their selection outcomes. No incentives were provided. The Medical Ethical Review Committee of Erasmus MC declared the study exempt from review.

척도 Measures

지원자의 인식은 조직 정의 이론에 기반한 7개 항목이 포함된 이전에 보고된 설문지를 사용하여 측정했습니다.14 각 항목은 7점 리커트 척도를 사용하여 평가했습니다.

  • 이전 연구에 따라2, 14 일반적 호감도는 두 가지 항목을 사용하여 평가했습니다.
    • 지각된 예측 타당성 
    • 지각된 공정성
  • 나머지 5개 항목은 절차적 정의 차원 다음을 반영했습니다.
    • 안면 타당도,
    • 지원자 차별성,
    • 학업 관련성,
    • 수행 기회,
    • 부정행위의 용이성
  • 각 정의 차원에 대한 구체적인 항목(즉, 응답자에게 제공된 정의)과 평가 척도는 표 S1에서 확인할 수 있습니다.

Applicant perceptions were measured using a previously reported questionnaire including seven items based on organisational justice theory.14 Each item was judged using a 7-point Likert scale.

  • In accordance with previous studies,214 general favourability was assessed using two items:
    • perceived predictive validity and
    • perceived fairness.
  • The other five items reflected the following procedural justice dimensions:
    • face validity,
    • applicant differentiation,
    • study relatedness,
    • chance to perform and
    • ease of cheating.
  • The specific items (i.e. definitions provided to respondents) and rating scales of each justice dimension can be consulted in Table S1.

Table S1. Applicant perception items

Label Item
Perceived predictive validity How would you rate the effectiveness of [insert method] for identifying qualified people for medical school? (1: very ineffective – 7: very effective)
Perceived fairness If you would not be admitted based on a [insert method], what would you think of the fairness of this procedure? (1: very unfair – 7: very fair)
Face validity A [insert method] is a logical test for identifying qualified applicants for medical school. (1: strongly disagree – 7: strongly agree)
Applicant differentiation A [insert method] measures an individual's important qualities, differentiating them from others. (1: strongly disagree – 7: strongly agree) 
Study relatedness A person who scores well on a [insert method] Test will be a good medical student. (1: strongly disagree – 7: strongly agree) 
Chance to perform I could really show my skills and abilities through a [insert method]. (1: strongly disagree – 7: strongly agree) 
Ease of cheating It is easy to cheat or fake on a [insert method]. (1: strongly disagree – 7: strongly agree) 

medu14949-sup-0001-revised supplemental files (clean).docx
0.04MB

응답자들은 [일반적으로 사용되는 11가지 전형 방법]에 대해 지원자 인식 항목을 개별적으로 평가하도록 요청받았습니다.

  • 인지능력 검사,
  • 커리큘럼 샘플링 검사,
  • 이력서(CV),
  • 면접,
  • 지원동기서,
  • 인성 설문지,
  • 대학 전 학년 평균(pu-GPA),
  • SJT,
  • 스킬 테스트,
  • 무가중 추첨 및 가중 추첨

무가중 추첨과 가중 추첨의 경우, 다른 항목은 해당 전형 방법과 관련이 없는 것으로 간주하여 일반적 호감도와 안면 타당도만 평가했습니다. 각 선발 방법에 대한 간략한 설명(표 S2)과 함께 SJT 및 인성 설문지의 예시 항목이 제공되었습니다. 각 선발 방법(추첨 포함)에 대해 지원자들은 '[삽입 방법]을 선발 방법으로 사용하는 것에 대해 하고 싶은 말이 있습니까?"라는 개방형 질문에 답하도록 요청받았습니다. 선발 방법은 순서 효과를 완화하기 위해 무작위 순서로 제시되었습니다. 
Respondents were asked to rate the applicant perception items separately for 11 commonly used selection methods:

  • cognitive capacity test,
  • curriculum-sampling test,
  • curriculum vitae (CV),
  • interview,
  • motivation letter,
  • personality questionnaire,
  • pre-university grade-point average (pu-GPA),
  • SJT,
  • skills test,
  • unweighted lottery and weighted lottery.

For unweighted and weighted lottery, only general favourability and face validity were assessed, as the other items were considered irrelevant for those methods. A short description of each selection method was provided (Table S2), along with example items for the SJT and personality questionnaire. For each method (including lottery), applicants were also asked to answer the following open-ended question: ‘Do you have any remarks about using [insert method] as a selection method?’ The selection methods were presented in a random order to mitigate order effects.

Table S2. Operational definitions of presented selection methods

Method Description provided to applicants
Cognitive capacity test 분석적 추론, 언어적 추론, 공간적 통찰력 등 지원자의 지능과 인지 능력을 평가하는 테스트입니다. 예를 들어 IQ 테스트 또는 독해력 테스트가 있습니다.
Test that assesses intelligence and cognitive abilities of the applicants, such as analytical reasoning, verbal reasoning and spatial insight. Examples include an IQ test or a reading comprehension test.
Curriculum-sampling test 커리큘럼 샘플링 시험의 경우, 지원자는 학습 프로그램을 대표하는 과목에 대한 강의를 듣거나 나중에 평가할 학습 자료를 받습니다.
For the curriculum-sampling test, applicants attend a lecture on a subject representative for the study program and/or receive study material on which they will be assessed at a later date.
Curriculum vitae A CV describes extra-curricular activities, such as work experience, a board position or caregiving.
Interview Interview with a selection committee in which applicants are asked various questions about their background, skills and motivation.
Motivation letter 지원자는 동기 부여 편지에서 프로그램에 지원하게 된 동기를 설명합니다.
In a motivation letter, applicants describe their motivation for the program.
Personality questionnaire Questionnaire on personality characteristics in which applicants have to indicate to what extent they agree with various statements.
Pre-university grade point average  Average of grades that applicants achieved in secondary school, for example average of grades obtained in their penultimate year.
Situational Judgement Test Test consisting of short scenarios that describe difficult situations that applicants can encounter in the program. The scenarios are followed by a number of possible reactions to each situation, which applicants judge for appropriateness.
Skills test 의료 윤리적 문제에 대한 성찰이나 환자에게 나쁜 소식을 전달하는 등 프로그램에서 특별히 중요한 기술을 평가하는 테스트입니다.
Test that assesses skills that are of specific importance to the program, for example reflecting on medical-ethical issues or delivering bad news to a patient.
Unweighted lottery Applicants are only admitted to the program on the basis of chance.
Weighted lottery Applicants are placed in different lottery categories based on their pre-university grade point average. Applicants with a higher pre-university grade point average have a greater chance of being admitted.

인구통계학적 설문지에는 성별, 이주 배경, 이전 교육, 부모 교육 등의 변수가 포함되었습니다. 본 연구에서는 성별 다양성을 인정하여 지원자는 '남성', '여성', '기타(자유 텍스트 상자)'의 세 가지 범주 중에서 선택할 수 있었습니다. 이주 배경은 네덜란드 통계청(CBS)에 따라 정의되었습니다. 지원자는 다음의 세 가지 그룹으로 분류되었습니다. 

  • (i) 부모 모두 네덜란드에서 태어난 경우 이주 배경 없음
  • (ii) 부모 중 한 명 이상이 유럽(네덜란드, 터키 제외), 북미, 오세아니아, 일본 또는 인도네시아에서 태어난 경우 서구 이주 배경
  • (iii) 부모 중 한 명 이상이 아프리카, 아시아(일본, 인도네시아 제외), 라틴 아메리카 또는 터키에서 태어난 경우 비 서구 이주 배경

사전 교육과 관련해서는 네덜란드의 표준 대학 예비 교육, 대학 및 기타 형태의 사전 교육(예: 고등 직업 교육, 외국 교육)을 구분했습니다. 마지막으로, 부모 교육과 관련하여 지원자의 부모 중 고등 교육(대학 또는 고등 직업 교육)을 받은 사람이 없는 경우 지원자를 1세대 대학 지원자로 분류했습니다.
The following variables were included in the demographics questionnaire: gender, migration background, prior education and parental education. Gender diversity was acknowledged in the present study, and applicants had the option to choose between three categories: ‘man’, ‘woman’ and ‘other, namely [free text box]’. Migration background was defined in accordance with Statistics Netherlands (CBS). Applicants were categorised in three groups:

  • (i) no migration background when both parents were born in the Netherlands;
  • (ii) a Western migration background when at least one parent was born in Europe (excluding the Netherlands and Turkey), North America, Oceania, Japan or Indonesia; and
  • (iii) a non-Western migration background when at least one parent was born in Africa, Asia (excluding Japan and Indonesia), Latin America or Turkey.

With respect to prior education, we distinguished between standard Dutch pre-university education, university and other forms of prior education (e.g. higher vocational education, foreign education). Finally, for parental education, applicants were categorised as first-generation university applicants when none of their parents had attended higher education (university or higher vocational education).

분석 결과
Analyses

다양한 선발 방식에 대한 지원자의 인식을 조사하기 위해 서술적 통계를 사용했습니다. 내적 일관성을 확인한 후, 응답자별로 각 전형 방법에 대한 일반적 호감도는 두 가지 일반적 호감도 항목의 평균 점수로 계산했습니다. 일반 호감도 및 기타 항목에 대해서는 각 선택 방법에 대한 평균 점수와 95% 신뢰 구간을 계산했습니다. 또한 절차적 정의 차원 간의 관계를 조사하기 위해 각 전형 방식에 대한 일반 호감도 점수와 다른 항목 간의 상관관계를 계산했습니다.
In order to investigate applicant perceptions of different selection methods, we used descriptive statistics. After checking for internal consistency, general favourability of each method for each respondent was calculated as the mean score on the two general favourability items. For general favourability and the other items, the mean score and 95% confidence interval for each selection method were calculated. Additionally, we calculated correlations between scores on general favourability and the other items for each method to examine relationships between the procedural justice dimensions.

지원자 하위 그룹에 따라 지원자의 인식이 다른지 알아보기 위해 선형 혼합 모델을 사용했습니다. 혼합 모델을 통해 부분적으로 누락된 데이터를 보완하고 개인 및 상황 관련 차이를 통제할 수 있었습니다. 이 모형의 종속변수는 평균 일반 호감도 점수였습니다. 고정 효과에는 선발 방법뿐만 아니라 각 선발 방법과 관심 있는 인구통계학적 변수(성별, 이주 배경, 이전 교육 및 부모 교육) 간의 상호작용 효과가 포함되었습니다. 무작위 요인에는 지원자 ID와 지원자가 지원한 프로그램이 포함되었으며, 구조화되지 않은 공분산 구조를 사용했습니다. 공분산 구조에 대한 결정은 카이카이크 정보 기준에 따라 이루어졌습니다. 이 분석을 위해 개별 지원자의 데이터는 11가지 선발 방법 중 최소 10개에 대해 일반적 호감도가 평가된 경우에만 사용되었습니다.
To study whether applicant perceptions differed for subgroups of applicants, we used a linear mixed model. The mixed model compensated for partially missing data and allowed us to control for individual and context-related differences. The dependent variable in this model was the mean general favourability score. Fixed effects included the selection method, as well as the interaction effects between each selection method and the demographic variables of interest (gender, migration background, prior education and parental education). Random factors included applicant id and the programme to which the applicant applied, using an unstructured covariance structure. The decision on the covariance structure was based on the Akaike information criterion. For this analysis, data of individual applicants were used only when at least 10 of the 11 selection methods were rated on general favourability.

개방형 질문에 대한 답변은 구성주의 패러다임에서 지원자의 인식 이면에 있는 근거를 보다 심층적으로 파악하는 데 사용되었습니다. 본 연구에서는 지시적 접근법을 사용하여 내용에 대한 질적 분석을 사용했습니다.20 지시적 접근법에서는 이론적 틀을 검증하고 확장하는 것을 목표로 코드 형성을 위한 초기 지침으로 이론을 사용합니다. 본 연구에서는 조직 정의 이론의 이론적 개념이 코딩 과정의 토대를 형성했습니다. 장과 와일더무스가 설명한 분석 절차를 따랐습니다.21 

  • 제1저자(SFW)는 데이터를 숙지하고 코딩 매뉴얼을 개발했습니다.
  • 설문지의 이론적 개념인 안면 타당도, 지원자 차별화, 연구 관련성, 수행 기회 및 부정행위의 용이성에 따라 상위 코드는 미리 결정되었습니다.
    • 또한 우리가 실시한 설문지에서 다루지 않은 조직 정의 이론의 다른 개념인 분배 정의, 채용 중 반응, 채용 후 반응, 자기 인식과
    • 절차적 정의와 관련하여 이전에 보고된 설문지에서 사용된 기타 항목과학적 증거, 대인관계의 따뜻함, 사용할 권리, 사생활 침해, 광범위한 사용, 노력 기대치, 알려진 정보, 재고 기회, 피드백, 관리의 일관성, 개방성, 대우, 쌍방향 커뮤니케이션도 코딩 매뉴얼에 상위 코드로 포함했습니다.2, 22
  • 하위 코드는 코딩 과정에서 개발되었습니다.
    • 따라서 먼저 공개 답변이 어떤 이론적 개념을 참조하는지 파악한 후(상위 코드),
    • 지원자가 제공한 구체적인 주장을 코딩했습니다(하위 코드).
  • 또한 분석의 모든 단계에서 비판적인 대화를 나누고 이론의 사각지대를 인식함으로써 이론적 틀을 벗어난 잠재적으로 관련성이 있는 결과를 식별하기 위해 반성적 태도를 취하고자 했습니다.
  • 제1저자(박사과정, 교육학 전공)와 제2저자(KMSJ, 선임연구원, 교육학 전공, 다양성 연구 경험)는 각 선택 방법에 대해 두 가지 답변을 함께 코딩한 다음, 각 선택 방법에 대해 10개의 무작위 샘플을 독립적으로 코딩했습니다.
  • 일치도가 높았기 때문에 나머지 답변은 SFW가 코딩한 후 KMSJ가 일관성 검사를 실시했습니다.
  • 일관성 점검은 각 코드에 대해 댓글의 하위 샘플이 해당 특정 코드가 다루는 주제에 실제로 적용되는지 여부를 비판적으로 검토하는 것을 수반했습니다.
  • SFW는 전체 연구팀과 논의한 데이터에서 결론을 도출했습니다.

The answers to the open-ended questions were used to get a more in-depth view of the rationales behind applicant perceptions, from a constructivist paradigm. We used qualitative analysis of content, employing a directed approach.20 With a directed approach, a theory is used as initial guidance for the formation of codes with the goal of validating and extending the theoretical framework. In the present study, theoretical concepts of organisational justice theory formed the foundation for the coding process. We followed the analytical procedure described by Zhang and Wildemuth.21 

  • The first author (SFW) familiarised herself with the data and developed a coding manual.
  • Higher order codes were predetermined and were based on the theoretical concepts of the questionnaire: face validity, applicant differentiation, study relatedness, chance to perform and ease of cheating.
  • Additionally,
    • other concepts of organisational justice theory that were not covered by the questionnaire we administered were included as higher order codes in the coding manual, including distributive justice, reactions during hiring, reactions after hiring and self-perceptions,
    • as well as other items used in previously reported questionnaires referring to procedural justice: scientific evidence, interpersonal warmth, right to use, invasion of privacy, wide-spread use, effort expectancy, information known, reconsideration opportunity, feedback, consistency of administration, openness, treatment and two-way communication.222 
  • Lower order codes were developed during the coding process.
    • Thus, we first identified to which theoretical concept an open answer referred (higher order codes) and
    • subsequently coded the specific argument the applicant provided (lower order codes).
  • We also aimed to employ reflexivity to identify potentially relevant findings that were outside of our theoretical framework, by having critical dialogues throughout all stages of the analyses and being aware for blind spots in the theory.
  • SFW (PhD candidate, background in educational sciences) and the second author (KMSJ; senior researcher, background in educational sciences, experienced in research on diversity) coded two answers for each selection method together and then coded a random sample of 10 answers for each selection method independently. 
  • Because there was a high level of agreement, SFW coded the remaining answers, after which KMSJ conducted a consistency check.
  • The consistency check entailed that for each code, it was critically reviewed whether a subsample of the comments did indeed apply to the subject covered by that specific code.
  • SFW drew conclusions from the data that were discussed with the full research team.

3 결과
3 RESULTS

참가자 특성
Participant characteristics

총 704명의 지원자가 연구에 참여했습니다(응답률 = 21%). 응답자 중 71%가 여성으로 확인되었으며, '기타'라고 밝힌 지원자는 1명이었습니다. 이 지원자는 하위 그룹 분석에서 제외되었으므로 결과에는 남성과 여성 범주만 설명되어 있습니다. 또한 35%는 이주 배경을 가지고 있었고(비서양 26%, 서양 9%), 25%는 1세대 대학 지원자였습니다. 사전 교육과 관련하여 77%는 표준 예비 대학 교육, 15%는 대학, 8%는 기타 형태의 사전 교육을 통해 직접 지원했습니다. 성별, 부모 교육 및 사전 교육과 관련하여 본 연구의 인구통계학적 분포는 남성과 1세대 대학 지원자가 과소 대표되는 네덜란드에서 수행된 다른 연구와 비슷했습니다.12, 17, 18 이주 배경을 가진 지원자 역시 네덜란드에서 과소 대표되지만,12 본 연구에서는 상대적으로 큰 하위 그룹을 구성했으며, 이는 포함된 대부분의 프로그램이 도시 환경에 있기 때문일 수 있습니다. 
In total, 704 applicants participated in the study (response rate = 21%). Amongst the respondents, 71% identified as woman, and one applicant identified as ‘other’. This individual was excluded from the subgroup analyses and therefore only the categories men and women are described in the results. Furthermore, 35% had a migration background (26% non-Western, 9% Western), and 25% were first-generation university applicants. With respect to prior education, 77% applied directly from standard pre-university education, 15% from university and 8% from other forms of prior education. With respect to gender, parental education and prior education, demographic distributions in the present study were comparable with those of other research conducted in the Netherlands, where men and first-generation university applicants are underrepresented.12, 17, 18 Applicants with a migration background are also underrepresented in the Netherlands,12 but composed a relatively large subgroup in the present study, which may be due to the urban setting of most of the included programmes.

일반적 호감도
General favourability

두 가지 일반적 호감도 항목은 충분하거나 양호한 내적 일관성을 보였습니다(인지 능력 테스트: α = 0.84, 커리큘럼 샘플링 테스트: α = 0.74, 이력서: α = 0.83, 인터뷰: α = 0. 77, 지원동기서: α = 0.79, 인성검사: α = 0.79, pu-GPA: α = 0.85, SJT: α = 0.81, 스킬 테스트: α = 0.79, 무가중 추첨: α = 0.79, 무가중 추첨: α = 0.86).
The two general favourability items showed a sufficient to good internal consistency (cognitive capacity test: α = 0.84, curriculum-sampling test: α = 0.74, CV: α = 0.83, interview: α = 0.77, motivation letter: α = 0.79, personality questionnaire: α = 0.79, pu-GPA: α = 0.85, SJT: α = 0.81, skills test: α = 0.79, unweighted lottery: α = 0.79, unweighted lottery: α = 0.86).

지원자들은 커리큘럼 샘플링 시험(평균 [M] = 5.32, 95% 신뢰 구간 [95% CI; 5.24, 5.40], 표 1)에 대해 가장 높은 호감도를 보인 반면, 가중치 추첨(M = 3.05 [2.93, 3.17])과 무가중 추첨(M = 2.97 [2.83, 3.10])은 가장 낮게 인식했습니다.
Applicants provided the highest general favourability ratings for curriculum-sampling tests (mean [M] = 5.32, 95% confidence interval [95% CI; 5.24, 5.40]; Table 1), while weighted lottery (M = 3.05 [2.93, 3.17]) and unweighted lottery (M = 2.97 [2.83, 3.10]) were perceived least favourable.

일반 호감도 점수와 다른 지원자 인식 항목 간의 상관관계는 모두 통계적으로 유의미했지만(p <0.05), 상관관계의 강도에 있어서는 큰 폭의 차이가 있었습니다(표 3 참조). 일반적인 호감도와 가장 강력한 상관관계를 보인 정의 차원은 안면 타당도였으며, 부정행위의 용이성과 일반적인 호감도 간의 음의 상관관계는 가장 작았습니다. 
All correlations between the general favourability score and other applicant perception items were statistically significant (p < 0.05), but there was a great range in the strengths of the correlations (see Table 3). The justice dimension that was most strongly related with general favourability was face validity, while the negative correlation between ease of cheating and general favourability was the smallest.

지원자의 인식은 프로그램마다 다른 것으로 나타났습니다(표 2). 일반적으로 지원자들은 자신이 지원한 프로그램에서 사용하는 선발 방식에 대해 사용하지 않는 방식에 비해 더 긍정적인 인식을 가지고 있었습니다. 
Applicant perceptions appear to differ between different programmes (Table 2). Generally, applicants had more positive perceptions towards selection methods used by the programme they applied to compared with methods that were not used.

정의 차원
Justice dimensions

다음 섹션에서는 인식 점수의 정량적 결과와 지원자의 추론에 대한 정성적 결과를 통합하여 다양한 정의 차원에 대한 결과를 제시합니다. 가장 두드러진 결과만 논의하며, 정량적 및 정성적 결과에 대한 전체 개요는 각각 표 3과 표 4를 참조하시기 바랍니다.
In the next sections, the results for the different justice dimensions will be presented by integrating the quantitative findings of perception scores and the qualitative findings of applicants' reasoning. Only the most salient findings are discussed, and for a complete overview of the quantitative and qualitative findings, we refer to Tables 3 and 4, respectively.

 

 

3.3.1 안면 타당도
3.3.1 Face validity

커리큘럼 샘플링 테스트기술 테스트안면 타당도에서 가장 높은 평가를 받았지만(각각 M = 5.46, 95% CI [5.37, 5.54], M = 5.27 [5.18, 5.36]), 지원자들은 이 차원과 관련하여 이 방법들에 대해 언급하지 않았습니다. 이는 다른 차원에서도 지원자들이 주로 부정적인 측면에 초점을 맞춰 댓글을 달았다는 점을 잘 보여줍니다. 면접은 안면 타당도 척도에서도 높은 평가를 받았습니다(M = 5.17 [5.07, 5.27]). 지원자들은 동기 부여, 성격, 사회적 기술 등의 속성을 중요하게 생각했지만 이러한 속성에 대한 서면 평가보다는 구두 면접을 선호했습니다. 이는 인성 설문지의 상대적으로 낮은 평가(M = 3.87 [3.75, 3.99])를 설명할 수도 있습니다. Pu-GPA 역시 안면 타당도(M = 3.70 [3.58, 3.82])에서 낮은 평가를 받았으며, 지원자들은 입학 요건이 이미 프로그램에 입학할 수 있는 역량을 충분히 증명하기 때문에 pu-GPA는 부가가치가 없다고 언급했습니다. 가중 추첨과 무가중 추첨에 대한 평점이 가장 낮았습니다(각각 M = 2.99 [2.87, 3.12], M = 2.50 [2.37, 2.63]). 지원자들은 두 가지 유형의 추첨이 모두 지원자의 스트레스와 부담을 줄일 수 있다는 점을 인정했지만, 자신을 차별화하려는 강한 열망을 전달했으며 추첨이 가장 우수하고 동기 부여가 높은 학생을 선발하지 못할 것이라고 믿었습니다. 
Curriculum-sampling tests and skills tests received the highest ratings on face validity (respectively, M = 5.46, 95% CI [5.37, 5.54], M = 5.27 [5.18, 5.36]), but applicants did not comment on these methods with respect to this dimension. This is illustrative of the observation that, also for other dimensions, applicants mainly focused on negative aspects in their comments. Interviews were also rated highly on the scale of face validity (M = 5.17 [5.07, 5.27]). Applicants considered attributes such as motivation, personality and social skills important but preferred an oral interview over a written assessment of these attributes. This may also explain the relatively low rating of personality questionnaires (M = 3.87 [3.75, 3.99]). Pu-GPA also received a low rating on face validity (M = 3.70 [3.58, 3.82]), and applicants mentioned that pu-GPA was not of added value as the admission requirements would already provide enough evidence of their capacity to enter the programme. The lowest ratings were provided for weighted and unweighted lottery (respectively, M = 2.99 [2.87, 3.12], M = 2.50 [2.37, 2.63]). Although applicants acknowledged that both types of lottery can reduce stress and pressure for applicants, they communicated a strong desire to distinguish themselves and believed that lotteries would not select the best and most motivated students.

3.3.2 지원자 차별화
3.3.2 Applicant differentiation

기술 테스트면접은 지원자 차별화에서 상대적으로 높은 점수를 받았습니다(각각 M = 5.25 [5.16, 5.34], M = 5.23 [5.13, 5.33]). 지원자들이 차별화 기술을 평가하고 평가자가 지원자의 역량을 적절히 파악할 수 있다고 언급한 유일한 전형 방식이었습니다. 그러나 대부분의 선발 방식에 대해 지원자들은 해당 방식이 평가하고자 하는 방식이 아닌 다른 기술을 기준으로 지원자를 구별한다고 지적했습니다.

  • 예를 들어, 지원자들에 따르면 동기부여서순수한 동기 대신 글쓰기 능력을 평가하고,
  • 선발 시험은 목표 지식이나 기술 대신 시험에 대한 지혜와 준비 시간을 측정합니다.
  • 인성 문항과 SJT는 지원자의 실제 성격이나 상황에 대한 반응보다는 매우 기초적인 지식인 사회적 기대에 대한 지식에 따라 지원자를 구분한다는 비판을 받았습니다.

Pu-GPA에 대해서 지원자들은 같은 성적을 받은 지원자라도 동기, 노력, 난이도에 따라 차이가 크다고 답해 가장 낮은 점수(M = 3.25 [3.13, 3.36])를 받았습니다. 
Skills tests and interviews received relatively high scores on applicant differentiation (respectively, M = 5.25 [5.16, 5.34], M = 5.23 [5.13, 5.33]). These were the only methods for which applicants mentioned that distinguishing skills are assessed and assessors can get an adequate overview of applicants' competencies. For most of the selection methods, however, applicants indicated that the methods distinguish candidates based on other skills than the methods are intended to assess.

  • For instance, according to applicants, motivation letters assess writing skills instead of pure motivation, and
  • selection tests measure test wiseness and preparation time instead of the targeted knowledge or skills.
  • Personality questionnaires and SJTs received the criticism that applicants are distinguished based on their knowledge of social expectations—which they expected to be very basic knowledge—rather than their actual personality or reactions to situations.

Pu-GPA received the lowest scores (M = 3.25 [3.13, 3.36]), as applicants mentioned that the same grade is the result of a wide range in motivation, effort and degree of difficulty.

3.3.3 학업 관련성
3.3.3 Study relatedness

일반적인 호감도에 비해 학업 관련성에 대한 평균 점수는 모든 전형 방법에서 상대적으로 낮았습니다(범위 M = 2.93~4.43). 이는 각 전형 방법에서 지원자들이 특정 관련 기술만 평가하고 다른 중요한 속성에 대한 정보는 누락되었다고 응답했기 때문일 수 있습니다. 예를 들어, 지원자들에 따르면 인지 능력 테스트는 정보 처리 및 문제 해결과 같은 관련 기술을 평가할 수 있지만 사회성 및 의사 소통 능력은 고려되지 않습니다. 따라서 지원자들은 어떤 방법도 학습 성과를 완벽하게 예측할 수 없다고 생각했으며, 여러 가지 선발 방법을 조합하는 것을 선호했습니다. 지원자들은 광범위한 기술을 평가하는 것을 선호했지만, 프로그램 과정에서 이러한 기술을 개발할 수 있는 여지가 있어야 한다고 답해 딜레마가 발생했습니다. 
Compared with general favourability, the mean scores on study relatedness were relatively low for all selection methods (range M = 2.93–4.43). A possible explanation is that for each selection method, applicants indicated that only certain relevant skills are assessed, while information on other important attributes is missed. For instance, while cognitive capacity tests can, according to applicants, assess relevant skills such as information processing and problem-solving, social and communicative skills are not taken into account. Thus, applicants believed that none of the methods can fully predict study performance and they preferred a combination of selection methods. Although applicants preferred assessment of a broad range of skills, they also stated that there should be room to develop those skills over the course of the program, introducing a dilemma.

스킬 테스트커리큘럼 샘플링 테스트는 학습 관련성에서 가장 높은 점수를 받았습니다(각각 M = 4.43 [4.33, 4.53], M = 4.38 [4.28, 4.48]). 지원자들은 두 가지 방법 모두 광범위한 기술을 평가할 수 있다고 언급했습니다. 또한, 이 두 가지 방법의 경우에만 지원자들이 프로그램과 교재에 대해 더 잘 알 수 있어, 지원자가 프로그램 내용에 관심이 있고 대처할 수 있는지를 평가할 수 있는 기회를 제공한다고 답했습니다. 가장 낮은 점수를 받은 평가 방법인 pu-GPA과 이력서(각각 M = 3.11 [3.00, 3.22], M = 2.93 [2.82, 3.04])에 대해 지원자들은 평가된 기술이 너무 일반적이며 이전 성과가 미래의 성공을 예측할 수 없다고 답했습니다. 
Skills tests and curriculum-sampling tests received the highest scores on study relatedness (respectively, M = 4.43 [4.33, 4.53], M = 4.38 [4.28, 4.48]). Applicants mentioned that both methods can assess a broad range of skills. Moreover, only for these methods, applicants stated that they can become more acquainted with the programme and its course materials, creating an opportunity for applicants to assess whether they are interested in and able to cope with the programme content. For the lowest scoring methods—pu-GPA and CV (respectively, M = 3.11 [3.00, 3.22], M = 2.93 [2.82, 3.04])—applicants stated that the assessed skills are too generic and that previous performance is not predictive of future success.

3.3.4 수행 기회
3.3.4 Chance to perform

수행 기회에 대한 평균 점수도 상대적으로 낮았습니다(범위 M = 3.09~4.90). 정성적 결과는 이 결과에 대한 몇 가지 잠재적인 설명을 제공합니다.

  • 첫째, 지원자들은 수행 기회와 관련하여 몇 가지 딜레마를 언급했습니다. 예를 들어, 지원자들은 이전 성과보다 현재 지식과 기술에 대한 평가를 선호했으며, 스냅샷 평가의 단점을 지적했습니다.
  • 둘째, 각 선발 방식에 대해 지원자들은 특정 하위 그룹의 수행 기회를 방해할 수 있는 불평등의 원인을 발견했습니다. 예를 들어, 의료 분야 내 네트워크의 존재이력서를 작성하는 데 유용한 것으로 간주되었으며, 충분한 재정적 자원이 있는 지원자는 더 나은 시험 결과를 위해 상업적 코칭을 받거나 더 높은 pu-GPA을 받기 위해 과외를 받을 수 있었습니다.

실기 시험면접은 각각 4.90점(4.80점, 5.00점), 4.77점(4.66점, 4.89점)으로 더 높은 점수를 받았으며, 지원자들은 이러한 방법이 다양한 자질을 보여줄 수 있는 여지를 더 많이 제공한다는 인상을 받았다고 언급했습니다. Pu-GPA가 가장 낮은 점수(M = 3.09 [2.97, 3.21])를 받았는데, 이는 지원 전에 데이터가 수집되었기 때문에 지원자들이 이 선발 방법에 대한 통제력이 부족하다고 느꼈기 때문으로 설명할 수 있습니다.
The mean scores on chance to perform were also relatively low (range M = 3.09–4.90). The qualitative results provide some potentially relevant explanations for this finding.

  • First, applicants mentioned some dilemmas with respect to chance to perform. For instance, they preferred assessment of current knowledge and skills over previous achievements and pointed out drawbacks of snapshot assessments.
  • Second, for each selection method, applicants noticed sources of inequality that can interfere with the chance to perform on a method for certain subgroups. For example, the existence of a network within the medical field was considered useful for building a CV, and applicants with enough financial resources could take commercial coaching for better test results and tutoring for a higher pu-GPA.

Skills test and interview scored higher on chance to perform (respectively, M = 4.90 [4.80, 5.00], M = 4.77 [4.66, 4.89]), and applicants noted that they got the impression that these methods allow for more space to show a broad range of qualities. Pu-GPA received the lowest scores (M = 3.09 [2.97, 3.21]), which can be explained by the fact that applicants experienced a lack of control for this selection method, as data had been collected before application.

3.3.5 부정행위의 용이성
3.3.5 Ease of cheating

부정행위의 용이성에서 가장 높은 점수를 받은 네 가지 전형 방법인 인성검사, 지원동기서, SJT, 면접(각각 M = 6.06 [5.96, 6.16], M = 5.72 [5.62, 5.82], M = 4.72 [4.57, 4.86], M = 4.62 [4.50, 4.74])에 대해 지원자들은 사회적 바람직성이 중요한 역할을 할 수 있다고 언급했습니다. 지원 동기 편지에 대한 추가 의견으로는 지원자가 다른 사람에게 편지를 쓰게 하여 쉽게 속일 수 있다는 점이 있었습니다. 이력서 역시 상대적으로 부정행위를 저지르기 쉬운 것으로 간주되었습니다(M = 4.42 [4.28, 4.56]). 지원자들은 문서를 위조하기 쉽고, 소수의 이력서 샘플만을 대상으로 정확성 여부를 확인한다고 설명했습니다. 지원자들은 점수가 낮은 선발 방식에서 부정행위가 더 어려운 이유에 대해 별다른 언급을 하지 않았습니다.
For the four selection methods scoring highest on ease of cheating—personality questionnaire, motivation letter, SJT and interview (respectively, M = 6.06 [5.96, 6.16], M = 5.72 [5.62, 5.82], M = 4.72 [4.57, 4.86], M = 4.62 [4.50, 4.74])—applicants mentioned that social desirability can play a major role. An additional remark about motivation letters is that applicants can easily cheat by letting others write their letter. CV was also considered relatively easy to cheat on (M = 4.42 [4.28, 4.56]). Applicants explained that it is easy to forge documents, and only a small sample of CVs is checked on correctness. Applicants did not have any remarks about why it is harder to cheat on the lower scoring selection methods.

3.3.6 추가 차원
3.3.6 Additional dimensions

설문지에서 다루었던 정의 차원 외에도 주관식 질문에 대한 답변에서 여러 가지 추가 차원을 확인했습니다.
Besides the justice dimensions that were covered by the questionnaire, we identified a number of additional dimensions in the answers to the open-ended questions.

첫 번째 정의 차원은 운영의 일관성으로, 이는 결정 절차가 사람에 따라 그리고 시간에 따라 편견 없이 일관되게 적용되는 정도를 의미합니다.22

  • 이력서, 지원동기서, 인터뷰 및 기술 테스트는 평가자의 개인적인 의견에 많은 여지를 주고 결과적으로 평가자 간 평가에 잠재적인 차이를 발생시키는 보다 주관적인 방법으로 간주되었습니다.
  • 지원자들은 또한 pu-GPA 관리의 일관성에 대해서도 언급했습니다. 현재 pu-GPA는 학교별 시험을 기반으로 합니다. 지원자들은 학교마다 평가 방법, 난이도, 채점 방식에 큰 차이가 있어 다른 학교의 pu-GPA를 비교할 수 없다고 언급했습니다. 

A first justice dimension was consistency of administration, which refers to the extent to which decision procedures are consistent and without bias across people and over time.22 

  • CVs, motivation letters, interviews and skills tests were considered as more subjective methods, giving a lot of space to the personal opinion of assessors and consequently creating potential differences in ratings between assessors.
  • Applicants also commented on the consistency of administration for pu-GPA. Currently, pu-GPA is based on school-specific examinations. Applicants mentioned that there is a great difference between schools in assessment methods, difficulty level and way of rating, making pu-GPA from different schools incomparable.

둘째, 설문지에서는 학업 관련성에만 초점을 맞춘 반면, 지원자들은 학업 관련성과 직무 관련성을 구분하는 경향이 있었습니다.

  • 예를 들어, 지원자들은 학업 관련성과 관련하여 커리큘럼 샘플링에 대해 대체로 긍정적인 의견을 보였지만, 성공적인 의료 전문가가 되기 위해서는 사회성 및 의사소통 능력과 같은 다른 기술도 중요하다고 언급했습니다. 지원자들은
    • 기술 테스트, 인터뷰, SJT, 인성 설문지를 통해 미래 직업에 필요한 중요한 특성을 평가할 수 있다고 답한 반면,
    • 학점, 인지 테스트, 이력서, 커리큘럼 샘플링 테스트는 그렇지 않다고 답했습니다.

Second, while the questionnaire only focused on study relatedness, applicants tended to make a distinction between study relatedness and job relatedness.

  • For instance, while applicants had generally positive comments about curriculum sampling with respect to study relatedness, they mentioned that other skills are relevant to become a successful health professional, such as social and communicative skills.
    • They stated that skills tests, interviews, SJTs and personality questionnaires can assess important attributes for the future profession,
    • while this was not so much the case for pu-GPA, cognitive tests, CVs and curriculum-sampling tests.

일부 의견은 절차적 정의보다는 선발 절차 결과의 공정성과 관련된 분배적 정의에 관한 것이었습니다.15 

  • 지원자들은 무가중 추첨의 장점으로 입학 기회가 균등해져 더 다양한 학생이 입학할 수 있다는 점을 언급했습니다. 다른 방법을 적용하면 앞서 언급한 불평등한 기회로 인해 학생의 다양성이 감소할 수 있습니다. 
  • 합격한 학생들이 비슷한 의견을 갖게 되어 학생 집단에서 관점의 다양성이 줄어들 수 있다는 점도 SJT에 불리한 결과로 언급되었습니다.

Some comments were not related to procedural justice, but rather to distributive justice, relating to the fairness of the outcomes of the selection procedure.15 

  • Applicants mentioned that an advantage of unweighted lottery is that the equal chances to be admitted would lead to a more diverse student population. The application of other methods could result in a decrease of student diversity, because of the aforementioned inequal chances to perform.
  • An additional unfavourable outcome was mentioned for SJTs: accepted students would have similar opinions and there would be less diversity in perspectives in the student cohorts.

마지막으로, 선발에 대한 인식의 결과로 여겨지는 개인의 태도와 행동과 관련된 조직 정의 이론의 '결과' 부분에 대해 많은 언급이 있었습니다.15 

  • 특히 우려되는 주제 중 하나는 선발 방식이 지원자들에게 많은 스트레스와 압박을 유발할 수 있다는 것이었습니다.
  • 지원자들은 이력서 작성, 커리큘럼 샘플링 시험 공부 등 많은 준비가 필요한 선발 방식이 학업 및 기타 책임과 병행해야 하기 때문에 스트레스를 받을 수 있다고 언급했습니다.
  • 스트레스의 또 다른 원인으로 언급된 것은 지원자들이 시험 당일에 큰 부담감으로 인해 겪는 압박감이었습니다. 지원자들은 또한 여러 전형 방법을 병행할 경우의 단점으로 스트레스를 꼽았습니다.

Finally, numerous remarks were made about the ‘outcomes’ part of organisational justice theory, which relates to the attitudes and behaviours of individuals that are thought to be a result of perceptions of selection.15 

  • One particular topic of concern was that selection methods can cause a lot of stress and pressure amongst applicants.
  • Applicants mentioned that selection methods that require a lot of preparation, such as building a CV and studying for a curriculum-sampling test, can be stressful as they have to combine this with school and other responsibilities.
  • Another source of stress that was mentioned was the pressure that applicants experience during testing days due to the high stakes involved. Applicants also recognised stress as a drawback of combining multiple selection methods.

지원자 하위 그룹에 따른 인식의 차이
Differences in perceptions for subgroups of applicants

각 전형 방법에 대한 전반적인 호감도의 하위 그룹별 차이에 대한 선형 혼합 모형의 결과는 표 5에 나와 있으며, 각 하위 그룹에 대한 기술 통계는 보충 표 S3-S6에 나와 있습니다. 여성에 비해 남성은 가중치 없는 추첨을 유의하게 덜 호의적으로 인식했으며(B = -0.55, 95% CI [-0.84, -0.26]), 이는 1-7점 척도에서 평균적으로 남성은 가중치 없는 추첨을 0.55점 낮게 평가했음을 나타냅니다. 성격 설문지 역시 남성이 훨씬 덜 호의적으로 인식했습니다(B = -0.23, [-0.47, -0.00]). 다른 선택 방법에서는 성별 차이가 발견되지 않았습니다. 흥미롭게도 개방형 질문에 대한 답변에서 여성이 선호하는 이력서 및 pu-GPA 에 대한 언급이 다수 있었는데, 이는 일반적으로 남성이 미래의 학업 방향을 늦게 시작한다는 의미로 해석할 수 있습니다. 이러한 우려는 정량적 조사 결과에는 반영되지 않았습니다.
The results of the linear mixed model for subgroup differences in general favourability ratings for each selection method are depicted in Table 5, and the descriptive statistics for each subgroup are provided in supplemental Tables S3–S6. Compared with women, men perceived unweighted lottery as significantly less favourable (B = −0.55, 95% CI [−0.84, −0.26]), indicating that on average, men rated unweighted lottery 0.55 units lower on a scale from 1–7. Personality questionnaires were also perceived as significantly less favourable by men (B = −0.23, [−0.47, −0.00]). No gender differences were found for other selection methods. Interestingly, in the answers to open-ended questions, multiple remarks were given about CV and pu-GPA favouring women, describing that men generally start later with their future study orientation. This concern was not reflected in the quantitative findings.

비 서구권 이주 배경을 가진 지원자들은 이력서(B = 0.50 [0.22, 0.77])와 커리큘럼 샘플링 테스트(B = 0.25 [0.06, 0.44])에 대해 상당히 높은 호감도를 보인 반면, 기술 테스트와 면접은 상당히 덜 호의적으로 인식했습니다(각각 B = -0.29 [-0.50, -0.09], B = -0.42 [-0.64, -0.20]). 비 서구권 이주 배경을 가진 지원자의 면접 및 기술 테스트 점수가 더 낮은 것은 이러한 방법의 주관적인 특성으로 인해 편견에 더 취약하다는 의견으로 설명할 수 있습니다. 서구 이민 배경을 가진 지원자에 대한 인식은 이민 배경이 없는 지원자와 다르지 않았습니다.
Applicants with a non-Western migration background provided significantly higher favourability ratings for CVs (B = 0.50 [0.22, 0.77]) and curriculum-sampling tests (B = 0.25 [0.06, 0.44]), while skills tests and interviews were perceived significantly less favourable (respectively, B = −0.29 [−0.50, −0.09], B = −0.42 [−0.64, −0.20]). The lower scores on interviews and skills tests for applicants with a non-Western migration background may be explained by remarks about the subjective nature of these methods, making them more susceptible to bias. Perceptions of applicants with a Western migration background did not differ from those without a migration background.

예비 대학 교육 마지막 해에 지원한 지원자들과 비교했을 때, 이미 대학 수준에서 공부하고 있던 지원자들은 면접과 무가중 추첨에 대해 훨씬 더 긍정적인 평가를 내렸습니다(각각 B = 0.33 [0.07, 0.58], B = 0.54 [0.17, 0.92]). 반면, pu-GPA(B = -0.83 [-1.14, -0.52]), 인지 테스트(B = -0.31 [-0.59, -0.04]) 및 가중치 추첨(B = -0.41 [-0.74, -0.08])에 대한 호감도는 유의하게 낮았습니다. 다른 형태의 사전 교육을 받은 지원자들은 대학 교육을 받지 않은 지원자들에 비해 인성 설문과 면접을 훨씬 더 유리하게 평가했습니다(각각 B = 0.49 [0.09, 0.89], B = 0.46 [0.12, 0.80]). 지원자들은 pu-GPA에 대해서만 대학 이전 교육의 역할에 대해 언급했는데, 이는 [pre-university 교육 마지막 해에 지원하지 않은 지원자]의 pu-GPA는 이미 지나간 성취도이며, 지원자의 현재 실력을 정확하게 반영하지 못한다는 것을 나타냅니다.
Compared with applicants applying during their final year of pre-university education, applicants who were already studying at university-level rated interviews and unweighted lottery significantly more positive (respectively, B = 0.33 [0.07, 0.58], B = 0.54 [0.17, 0.92]), while their favourability ratings were significantly lower for pu-GPA (B = −0.83 [−1.14, −0.52]), cognitive tests (B = −0.31 [−0.59, −0.04]) and weighted lottery (B = −0.41 [−0.74, −0.08]). Applicants from alternative forms of prior education rated personality questionnaires and interviews significantly more favourable compared with applicants from pre-university education (respectively, B = 0.49 [0.09, 0.89], B = 0.46 [0.12, 0.80]). Only with respect to pu-GPA, applicants commented on the role of prior education, indicating that pu-GPAs for applicants not applying during their final year of pre-university education are outdated and do not accurately represent applicants' current skills.

1세대 대학 출신 여부에 따른 지원자 인식의 차이는 발견되지 않았습니다.
No differences in applicant perceptions were found based on first-generation university status.

4 토론
4 DISCUSSION

본 연구의 목적은 학부 HPE의 맥락에서 지원자들이 다양한 선발 방법을 어떻게 인식하는지에 대한 심층적인 이해를 얻기 위한 것이었습니다. 연구 결과에 따르면 지원자들은 커리큘럼 샘플링 시험과 기술 시험에 대한 선호도가 가장 높은 반면, 가중치 추첨과 무가중 추첨을 가장 선호하지 않는 것으로 나타났습니다. 또한 선발 방식에 대한 지원자의 인식은 성별, 인종, 사회경제적 지위(SES), 학력에 따른 지원자 하위 그룹에서 전반적으로 유사하게 나타났습니다. 마지막으로, 지원자들은 한 가지 방법만으로는 충분하다고 생각하지 않고 여러 가지 선발 방법을 조합하는 것을 선호한다는 결과가 나왔습니다.
The aim of the present study was to gain a deeper understanding of how applicants perceive different selection methods within the context of undergraduate HPE. Our findings indicate that applicants have the strongest preference for curriculum-sampling tests and skills tests, while they consider weighted and unweighted lotteries the least favourable. Furthermore, applicant perceptions of selection methods are overall similar across subgroups of applicants based on gender, ethnicity, SES and prior education. Finally, the results show that applicants do not think one single method is sufficient, but instead prefer a combination of selection methods.

첫 번째 주요 결과는 지원자들이 '폭넓은' 선발 기준과 자신이 더 '통제할 수 있다'고 느끼는 선발 방법을 선호한다는 것입니다. 가장 높은 평가를 받은 세 가지 전형 방법인 커리큘럼 샘플링 테스트, 스킬 테스트, 면접은 모두 확장된 기준을 반영하며, 이는 pu-GPA과 같은 전통적인 방식에 포함된 인지적 능력을 넘어서는 자질을 평가하는 것을 목표로 합니다.23 본 연구에 참여한 지원자들은 이미 엄격한 입학 요건으로 인해 인지적 특성에 따라 선발된 경향이 강하므로 다른 영역에서 자신을 차별화하는 것을 선호하는 것은 놀라운 일이 아닙니다. 실제로 지원자들은 입학 요건보다 내신 성적과 인지능력 테스트가 갖는 부가가치가 무엇인지에 대해 의문을 제기했습니다. 또한, 조직 정의 이론15과 의대 선발에 관한 이전 연구에 따르면,24 지원자들은 선발 과정에서 '자신을 표현'하고 싶은 욕구를 가지고 있으며, 이는 더 넓은 기준을 반영하는 방법을 통해 더 잘 가능하다고 주장할 수 있습니다. 추첨(우연에 맡김)과 선발 전 획득한 평점(pu-GPA)에 대한 평가가 낮은 것은 지원자들이 '통제할 수 있는 상태'를 선호한다는 것을 나타냅니다. 앞서 주장한 바와 같이,1,2 이는 조직 정의 이론을 통해서도 설명할 수 있는데, 지원자들은 결정 과정에 영향을 미칠 기회가 있을 때 그 방법이 더 공정하다고 인식하기 때문입니다.15 이 결과는 성공과 실패가 자신의 노력과 재능에 기인할 수 있다는 능력주의적 가치에 대한 광범위한 사회적 인식과도 관련이 있습니다.25 결과적으로 HPE 선발 지원자들은 자신이 통제할 수 없다고 느끼는 탈락을 받아들이기 어렵다고 느낄 수 있습니다.26 
A first key finding is that applicants have a preference for ‘broadened’ selection criteria and selection methods on which they feel to be more ‘in control’. The three highest rating selection methods – curriculum-sampling tests, skills tests and interviews—all reflect broadened criteria, which aim to assess qualities that go beyond the cognitive abilities that are included in traditional methods such as pu-GPA.23 Applicants in the current study were already strongly preselected based on cognitive characteristics due to the stringent admission requirements; thus, it is not surprising that they prefer to distinguish themselves in other areas. In fact, applicants questioned the added value of pu-GPA and cognitive capacity tests over the admission requirements. Additionally, according to organisational justice theory,15 as well as previous research in medical school selection,24 applicants have the desire to ‘express themselves’ during a selection procedure, and it can be argued that this is better possible with methods that reflect broadened criteria. The low ratings of lotteries—leaving it to chance—and pu-GPA—obtained prior to selection—indicate that applicants prefer to be ‘in control’. As previously argued,1, 2 this can also be explained through organisational justice theory, because applicants perceive methods as fairer when they have an opportunity to influence the decision process.15 This finding can furthermore be related to a broader societal appreciation of meritocratic values, implying that success and failure can be attributed to one's own efforts and talent.25 Consequently, applicants for selection into HPE can find rejections that feel beyond their control difficult to accept.26

둘째, 연구 결과에 따르면 지원자의 배경은 다양한 선발 방식에 대한 인식에 큰 영향을 미치지 않는 것으로 나타났습니다. 성별, 이주 배경, 사전 교육에 따라 지원자 하위 그룹 간에 통계적으로 유의미한 인식 차이가 일부 발견되었지만, 이러한 차이가 갖는 실질적인 의미는 무시할 수 있는 수준이며, 전반적으로 지원자들의 인식은 매우 유사했습니다. 성별의 경우, 이러한 인식 차이는 심리학 지원자를 대상으로 실시한 이전 연구 결과와 일치합니다.2 그러나 인종 및 사회경제적 배경과 관련된 연구 결과는 예상치 못한 것이었는데, 이전 연구에 따르면 소수 민족 또는 사회경제적 배경이 낮은 지원자는 선발에 대해 더 부정적인 인식을 가지고 있다고 합니다.1, 3, 11 지원자들은 선발의 형식적 특성(예: 선발 방법)은 배경에 관계없이 비슷하게 인식하는 반면, 사회 인구학적 소수 민족 지원자는 (대인 관계적 대우 등) 절차적 정의의 다른 요소에 대해 더 부정적으로 인식할 가능성이 있습니다. 실제로 소수 민족 학생들이 의과대학에 재학 중일 때 불공정한 대우에 대해 더 많이 인식한다는 연구 결과가 있습니다.27, 28

Second, our findings suggest that applicants' background does not play a substantial role in their perceptions of different selection methods. Although we did find some statistically significant differences in perceptions between applicant subgroups based on gender, migration background and prior education, the practical meaning of these differences is negligible, and their perceptions were overall very similar. For gender, this lack of difference in perceptions is in accordance with findings of a previous study conducted with psychology applicants.2 However, our findings with respect to ethnicity and SES were unexpected, as previous research suggested that students with an ethic minority or lower socio-economic background have more negative perceptions towards selection.1, 3, 11 Potentially, applicants perceive the formal characteristics of selection (i.e. selection methods) similar regardless of their background, while applicants with sociodemographic minority backgrounds may have more negative perceptions regarding other components of procedural justice, such as interpersonal treatment. Indeed, research has indicated that ethnic minority students have more perceptions of unfair treatment when they are in medical school.27, 28 

소수 민족 배경을 가진 지원자들이 특정 선발 방법에 대해 더 부정적인 인식을 갖지 않았다는 결과에 대한 다른 이유는,

  • 이전 연구에서 주로 아직 지원하지 않은 예비 대학생을 대상으로 하여 부정확하거나 불완전한 정보에 근거하여 인식했을 수 있기 때문입니다.3, 11
  • 반대로 본 연구의 참가자들은 선발 경험이 있고 이에 대한 이해가 더 높았을 가능성이 높습니다.
  • (이전 연구에서와 같은 경우) 소수 배경을 가진 학생들은 주로 지원 전 기간에는 선발 절차에 대한 정확한 정보에 대한 접근성이 떨어질 수 있습니다.29

그럼에도 불구하고 이전 연구와 일치하는 질적 연구 결과도 있었는데, 예를 들어 소수 배경을 가진 지원자가 의료 분야의 코칭, 과외 및 소셜 네트워크에 대한 접근성이 낮기 때문에 지원자들이 선발 방법이 공평한 의과 교육 입학을 방해 할 수 있다고 생각한다는 징후를 제공했습니다 .3, 11, 29 

An alternative reason for the finding that applicants with minority backgrounds did not have more negative perceptions towards certain selection methods is

  • that previous studies mainly included eligible pre-university students who have not yet applied and could have based their perceptions on inaccurate or incomplete information.311 
  • Contrarily, participants in the present study had experience with selection and probably had a better understanding of it.
  • Thus, students with minority backgrounds possibly experience less access to accurate information about the selection procedure mainly in the period prior to application.29 

Nevertheless, corresponding with previous studies, the qualitative findings did provide indications that applicants believe selection methods can hinder equitable admission to medical education, for instance, because applicants with a minority background have less access to coaching, tutoring and a social network in the medical field.3, 11, 29

세 번째 주요 결과는 지원자들에 따르면 궁극적인 해결책은 없으며, 모든 선발 방법에는 특정한 장단점이 있다는 것입니다. 이는 정성적 결과에서 확인된 여러 가지 상반된 선호도에 잘 반영되어 있습니다. 우리가 발견한 가장 두드러진 딜레마는 다음 등이었습니다. 

  • (1) 지원자가 [현재 시점에서 제공할 수 있는 것을 측정하는 것][스냅샷 평가의 부정적인 결과에 대응하는 것]
  • (2) [기존의 지식과 기술을 측정하는 것][(향후에) 프로그램 동안 기술을 성장시키고 개발할 수 있는 공간을 제공하는 것]
  • (3) [최고의 학생을 선발하는 것][최고의 미래 전문가를 선발하는 것]
  • (4) [포괄성을 위해 여러 선발 방법을 결합하는 것][지나친 스트레스와 압박을 방지하는 것]

A third key finding is that according to applicants, there is no ultimate solution; all selection methods are accompanied by certain advantages and disadvantages. This is well reflected by a number of conflicting preferences that we identified in the qualitative results. The most distinctive dilemmas we found were

  • (1) measuring what applicants can offer at the present versus countering negative consequences of snapshot assessments,
  • (2) measuring existing knowledge and skills versus providing space to grow and develop skills during the program,
  • (3) selecting the best students versus selecting the best future professionals and
  • (4) combining multiple selection methods for comprehensiveness versus preventing too much stress and pressure.

 

  • 첫 번째 딜레마는 기회의 공정성 차원을 반영하는 것으로, 앞서 언급한 지원자들이 선발 과정을 통제할 수 있다고 느끼고자 하는 욕구를 강조하는 것입니다. 
  • 두 번째와 세 번째 딜레마는 학업 및 직무 관련성과 관련이 있으며 학계에서도 논쟁의 대상이 되고 있습니다.23 
  • 마지막 딜레마는 조직 정의 이론의 다른 부분, 즉 지원자의 인식과 개인 및 조직 결과 간의 관계와 더 관련이 있습니다.15 이 이론에 따르면 공정성에 대한 인식은 동기부여, 자존감, 자기 효능감('채용 시 반응'이라고 함)과 같은 변수에 영향을 미칠 수 있습니다.15 
  • The first dilemma evidently reflects the justice dimension of chance to perform and stresses the aforementioned desire of applicants to feel in control of the selection process.
  • The second and third dilemmas relate to study and job relatedness and are also topic of debate within the academic field.23 
  • The final dilemma relates more to another part of organisational justice theory, namely, the relationship between applicants' perceptions and individual and organisational outcomes.15 According to the theory, perceptions of fairness can affect variables such as motivation, self-esteem and self-efficacy (referred to as ‘reactions during hiring’).15 

본 연구에서는 스트레스와 압박감이 주요 관심사로 제기되었는데, 지원자들은 주로 준비 기간과 관련된 높은 고부담과 관련된 것으로 나타났습니다. 한 검토에 따르면 HPE 학생들 사이에서 심리적 스트레스가 상당히 만연한 것으로 나타났습니다.30 그럼에도 불구하고 지금까지 선발과 관련하여 지원자의 웰빙에 대한 연구는 거의 또는 전혀 이루어지지 않았으며 스트레스라는 특정 개념은 조직 정의 이론에 포함되지 않았습니다. 본 연구의 결과는 이를 검증하기 위해서는 추가 연구가 필요하겠지만, '채용 중 반응'의 추가 하위 범주로 이론에 추가하는 것이 적절할 수 있음을 시사합니다.
Feelings of stress and pressure were brought up as a topic of concern in the present study, which applicants mainly related to the amount of preparation and the high stakes involved. A review also identified considerable prevalence of psychological stress amongst students in HPE.30 Nevertheless, thus far, studies have paid little to no attention to applicant well-being with respect to selection and the particular concept of stress is not included in organisational justice theory. Results of the present study indicate that it may be relevant to add this to the theory as an additional subcategory of ‘reactions during hiring’, although further research would be required to validate this.

본 연구의 강점은 다양한 사회인구학적 하위 그룹의 인식을 비교하고 광범위한 선발 방법에 대한 지원자 인식의 근본적인 논거를 모색한 최초의 연구라는 점입니다. 또한 여러 프로그램에서 데이터를 수집했습니다. 그 결과, 지원자들은 자신이 접해보지 못한 선발 방식에 대해서도 의견을 제공했습니다. 이러한 방식으로 지원자가 선택한 프로그램에 따라 선발 절차가 영향을 미칠 수 있다는 점을 고려할 때, 연구 결과는 자의적 선택의 영향을 덜 받았습니다.16 그러나 이러한 강점에도 불구하고 응답자들이 설문지의 일부 방법에 대해 경험한 적이 있는 반면, 다른 방법에 대해서는 선발 방법에 대한 짧은 설명만을 바탕으로 인식하고 있다는 한계가 있었습니다. 일부 방법은 어떤 프로그램에서도 사용되지 않았습니다. 지원자가 지원한 프로그램을 통제하여 이 문제를 최대한 완화했습니다. 또한, 실시된 설문조사는 포괄성, 방어 가능성 및 프로세스의 역할과 같이 지원자의 인식에 영향을 미칠 수 있는 모든 요소를 포착하지 못했습니다.31 본 연구의 또 다른 한계는 표본 규모가 비교적 컸음에도 불구하고 초대된 지원자 중 21%만이 설문조사에 응답했다는 점입니다. 따라서 이들의 인식이 전체 지원자 풀을 완전히 대표하지 못할 수도 있습니다. 그럼에도 불구하고 본 연구의 표본은 인구통계학적 특성 측면에서 이전 연구의 지원자 풀과 비슷했습니다.12, 17 마지막 한계는 개방형 질문의 자발적 특성과 하위 그룹의 불균등한 분포로 인해 본 연구에서 다양한 하위 지원자 그룹의 주장을 직접 비교할 수 없었다는 것입니다. 따라서 정량적 데이터로 포착할 수 없었던 특정 하위 그룹의 인식 차이가 발견되지 않았을 수 있습니다.
A strength of the present study is that, to our knowledge, it is the first to compare perceptions of different sociodemographic subgroups and seek for the underlying argumentation behind applicant perceptions for a great range of selection methods. Additionally, we collected data from multiple programmes. Consequently, applicants also provided their opinions for methods that they had not been exposed to. This way, our results were less influenced by self-selection, given that the selection procedure can play a role in applicants' programme of choice.16 However, this strength was also accompanied by the limitation that the respondents did have experience with some of the methods in the questionnaire, while for other methods, their perceptions were based solely on a short description of the selection method. Some of the methods were not employed by any of the programmes. We mitigated this as much as possible by controlling for the programme to which applicants had applied. Furthermore, the survey that was administered did not capture all factors that could influence applicant perceptions, such as comprehensiveness, defensibility and the role of the process.31 Another limitation of the present study was that, although the sample size was relatively large, only 21% of invited applicants responded to the survey. Consequently, their perceptions may not be fully representative for the complete applicant pool. Nevertheless, our sample was comparable with applicant pools in previous studies in terms of demographic characteristics.12, 17 A final limitation is that the present study could not directly compare the argumentation of different subgroups of applicants due to the voluntary nature of the open-ended questions and the unequal distribution of subgroups. Consequently, certain subgroup differences in perceptions that could not be captured by the quantitative data may have remained undiscovered.  

현재의 연구는 절차적 정의의 한 측면(즉, 형식적 특성)에 초점을 맞추었지만, 향후 연구에서는 대인 관계적 대우와 같은 다른 절차적 정의 요소에도 관심을 기울일 수 있습니다.15 또한 신청자 인식에 관한 보다 근본적인 질문은 아직 조사되지 않았습니다: 이러한 인식의 발달에 어떤 메커니즘이 작용하는가? 지원자들의 인식의 기반이 되는 근본적인 가치는 무엇인가? 또한, 본 연구에서 지원자들은 여러 가지 방법을 조합하여 선호했기 때문에 다양한 방법의 조합에 따라 선발 절차를 어떻게 인식하는지 조사하는 것도 가치가 있을 수 있습니다. 총체적 접근 방식은 포괄성과 WA에 모두 주의를 기울이기 때문에 지원자의 인식을 평가하는 것은 특히 흥미로울 것입니다.32 또한, 본 연구 결과에 따르면 지원자들은 자신이 지원한 프로그램과 자신이 준비한 프로그램에서 사용하는 방법을 더 선호하는 것으로 나타났습니다. 
The current study focused on one aspect of procedural justice (i.e. formal characteristics), but future studies can also pay attention to other justice components, such as interpersonal treatment.15 Additionally, more fundamental questions regarding applicant perceptions have not been investigated yet, such as: What mechanisms play a role in the development of these perceptions? What are the underlying values of applicants on which their perceptions are based? Furthermore, in the present study, applicants preferred a combination of different methods, so it could be valuable to examine how they perceive selection procedures with different combinations of methods. It would be particularly interesting to evaluate applicant perceptions regarding a holistic approach, as this approach pays attention to both comprehensiveness and WA.32 Furthermore, results of the present study suggest that applicants have a stronger preference for the methods employed by the programmes to which they have applied and for which they have prepared.

향후 연구에서는 숨겨진 커리큘럼에 대한 지원자의 인식이 이러한 선호도에 영향을 미치는지 여부를 조사할 수 있습니다. 향후 연구의 또 다른 흥미로운 방향은 지원자의 배경에 따라 [선발 과정에서의 인식]과 [성과performance] 간의 관계가 달라지는지에 대한 질문과 관련이 있습니다. 이전 연구에 따르면 지원자의 인식과 성과는 양의 상관관계가 있으며,2, 5, 6 특정 인구통계학적 하위 그룹은 선발 과정에서 성과가 저조한 반면,12, 13, 17, 18 지원자의 배경에 관계없이 인식은 비슷하다는 사실이 밝혀졌습니다. 또한 아직 지원하지 않은 지원자격eligible 학생을 대상으로 하위 그룹에 대한 인식을 조사하는 것도 적절할 수 있습니다. 마지막으로, 연구자들은 지원자들이 관련성이 있다고 생각하는 주제인 행정의 일관성 및 직무 관련성, 지원자 복지에 관한 항목을 조사에 포함시키는 것을 고려할 수 있습니다.

Future research could examine whether applicant perceptions of the hidden curriculum play a role in this preference. Another interesting direction for future research relates to the question of whether the relationship between perceptions and performance during selection differs based on applicants' background. Previous studies have indicated that applicant perceptions and performance are positively correlated,2, 5, 6 and that certain demographic subgroups perform less well during selection,12, 13, 17, 18 while we found that perceptions were similar for applicants regardless of their background. Additionally, it can be relevant to investigate subgroup perceptions for eligible students who have not applied yet. Finally, researchers can consider including items on consistency in administration and job relatedness, as well as applicant well-being, because these topics were considered relevant by applicants.

실용적인 관점에서, 이번 연구 결과는 지원자가 선호하는 선발 방법을 고려함으로써 선발 위원회가 절차를 설계하는 데 도움이 될 수 있는 인사이트를 제공합니다. 그러나 선발 방법(정치적 타당성의 요소)에 대한 지원자의 인식과 다른 타당성 지표 사이에는 마찰이 있을 수 있습니다.1, 2 예를 들어, 지원자들은 선발 방법으로 pu-GPA를 사용하는 것에 대해 부정적인 인식을 가지고 있지만, pu-GPA는 미래의 학업 성과를 강력하게 예측합니다.33 마찬가지로, 본 연구 결과에 따르면 커리큘럼 샘플링 테스트를 포함하면 비 서구 배경을 가진 지원자를 더 많이 유치할 수 있지만, 제출한 연구에서 이 하위 그룹의 지원자가 그러한 테스트에서 낮은 성과를 보인다는 사실을 발견했습니다.34 따라서 어떤 선발 방법을 포함할지 결정할 때 지원자의 인식을 고려하는 동시에 넓은 의미에서 타당성의 다른 측면도 고려할 수 있습니다.35 그럼에도 불구하고, 우리의 연구 결과는 어떤 선발 방법이 덜 매력적이고 더 나은 설명이 필요한지 식별하는 데 도움이 될 수 있습니다.2 
From a practical viewpoint, our findings provide insights that can help selection committees design their procedures, by considering selection methods that are preferred by applicants. However, there can be frictions between applicant perceptions of selection methods (an element of political validity) and other indicators of validity.1, 2 For instance, while applicants hold negative perceptions towards the use of pu-GPA as a selection method, pu-GPA is strongly predictive of future academic performance.33 Likewise, the findings of the present study suggest that the inclusion of curriculum-sampling tests can attract more applicants with a non-Western background, but we found in a submitted study that this subgroup of applicants performs less well on such tests.34 Thus, when deciding which selection methods to include, applicant perceptions can be taken into account, while also considering other aspects of validity in a broad sense.35 Nevertheless, our findings can help identify which selection methods are less attractive and require better explanation.2 

선발 방법에 대한 명확하고 투명한 커뮤니케이션은 특히 더 '주관적'으로 인식되고 때로는 부정확한 정보를 기반으로 인식되는 광범위한 기준의 경우 지원자 인식을 개선 할 수 있습니다. 예를 들어, 지원자들은 이력서를 작성하는 데 의료 분야의 소셜 네트워크가 필요하다고 생각했지만, 본 연구에 참여한 프로그램에서는 의료 분야 이외의 다른 관련 경험도 중요하게 여겼습니다. 지원자의 인식을 이해한다고 해서 프로그램에 어떤 선발 방법을 포함해야 하는지에 대한 명확한 해답을 얻을 수는 없지만, 질적 연구 결과는 프로그램이 지원자의 요구를 고려하여 동기 부여와 성과를 개선하거나 중도 탈락을 방지하기 위해 선발 방법을 조정할 수 있는 방법에 대한 귀중한 통찰력을 제공합니다. 예를 들어, 지원자들은 선발이 자신의 복지에 미치는 영향을 우려하기 때문에 프로그램은 커리큘럼 샘플링 시험의 준비 자료 양을 제한할 수 있습니다.

Clear and transparent communication about selection methods may improve applicant perceptions, especially in the case of broadened criteria that are perceived as more ‘subjective’ and for which perceptions were sometimes based on inaccurate information. For instance, applicants believed that a social network in the medical field is necessary for building a CV, while the programmes in our study also value other relevant experience outside of the medical field. Although understanding applicant perceptions cannot provide clear-cut solutions about which selection methods programmes should include, our qualitative findings provide valuable insights into how programmes can adjust the implementation of their selection methods to take applicants' needs into account to improve motivation and performance or prevent withdrawal. For example, because applicants were concerned about the impact of selection on their well-being, programmes could limit the volume of preparatory materials for curriculum-sampling tests.

결론적으로, 학부 HPE 선발에 참여하는 지원자들은 자신이 통제할 수 있다고 인식하고 인지능력 이외의 다른 자질을 평가하는 선발 방법을 선호합니다. 또한, 본 연구에 따르면 개별 선발 방식에 대한 지원자의 인식은 일반적으로 다수 배경을 가진 지원자와 소수 배경을 가진 지원자 간에 유사합니다. 지원자의 상반된 요구와 지원자의 인식과 다른 타당성 지표 간의 마찰로 인해 선발 방법에 대한 보다 명확하고 투명한 커뮤니케이션과 방법 내에서의 수정이 요구됩니다.
In conclusion, applicants participating in selection for undergraduate HPE prefer selection methods for which they perceive to be in control and which assess other qualities than cognitive ability. Additionally, the present study indicated that applicant perceptions of individual selection methods are generally similar between applicants with majority and minority backgrounds. Due to contradictory needs of applicants and frictions between applicant perceptions and other indicators of validity, we call for a clearer and more transparent communication of selection methods and modifications within methods.


 

Med Educ. 2023 Feb;57(2):170-185. doi: 10.1111/medu.14949. Epub 2022 Oct 23.

Applicant perceptions of selection methods for health professions education: Rationales and subgroup differences

Affiliations collapse

1Institute of Medical Education Research Rotterdam, Erasmus MC, University Medical Center Rotterdam, Rotterdam, The Netherlands.

2Technical Medical Centre, Technical Medicine, University of Twente, Enschede, The Netherlands.

3Department of Pharmaceutical Sciences, Utrecht University, Utrecht, The Netherlands.

4Department of Medical Biology, Amsterdam UMC, University of Amsterdam, Amsterdam, The Netherlands.

5Faculty of Medicine VU, Amsterdam UMC location Vrije Universiteit Amsterdam, Amsterdam, The Netherlands.

6LEARN! Research Institute for Learning and Education, Faculty of Psychology and Education, VU University Amsterdam, Amsterdam, The Netherlands.

PMID: 36215062

PMCID: PMC10092456

DOI: 10.1111/medu.14949

Free PMC article

Abstract

Context: Applicant perceptions of selection methods can affect motivation, performance and withdrawal and may therefore be of relevance in the context of widening access. However, it is unknown how applicant subgroups perceive different selection methods.

Objectives: Using organisational justice theory, the present multi-site study examined applicant perceptions of various selection methods, rationales behind perceptions and subgroup differences.

Methods: Applicants to five Dutch undergraduate health professions programmes (N = 704) completed an online survey including demographics and a questionnaire on applicant perceptions applied to 11 commonly used selection methods. Applicants rated general favourability and justice dimensions (7-point Likert scale) and could add comments for each method.

Results: Descriptive statistics revealed a preference for selection methods on which applicants feel more 'in control': General favourability ratings were highest for curriculum-sampling tests (mean [M] = 5.32) and skills tests (M = 5.13), while weighted lottery (M = 3.05) and unweighted lottery (M = 2.97) were perceived least favourable. Additionally, applicants preferred to distinguish themselves on methods that assess attributes beyond cognitive abilities. Qualitative content analysis of comments revealed several conflicting preferences, including a desire for multiple selection methods versus concerns of experiencing too much stress. Results from a linear mixed model of general favourability indicated some small subgroup differences in perceptions (based on gender, migration background, prior education and parental education), but practical meaning of these differences was negligible. Nevertheless, concerns were expressed that certain selection methods can hinder equitable admission due to inequal access to resources.

Conclusions: Our findings illustrate that applicants desire to demonstrate a variety of attributes on a combination of selection tools, but also observe that this can result in multiple drawbacks. The present study can help programmes in deciding which selection methods to include, which more negatively perceived methods should be better justified to applicants, and how to adapt methods to meet applicants' needs.

건강의 사회적 결정요인과 관련한 환자돌봄의 관찰가능한 프로세스 정의 (Med Educ, 2022)
Defining the observable processes of patient care related to social determinants of health
Junki Mizumoto | Toshichika Mitsuyama | Satoshi Kondo | Masashi Izumiya | Shoko Horita | Masato Eto 

 

 

1 소개
1 INTRODUCTION

건강의 사회적 결정요인(SDH)'사람들이 태어나고, 성장하고, 생활하고, 일하고, 노화하는 조건으로... 글로벌, 국가 및 지역 수준에서 돈, 권력 및 자원의 분배에 의해 형성된다'으로 정의됩니다.1 SDH는 인구 건강 결과에 상당한 기여를 합니다. 의료 전문가는 건강 결과에 영향을 미치는 사회 구조를 인식하는 능력(구조적 역량이라고 함)을 훈련하고2 환자에게 개별화된 치료를 제공하고 공중 보건을 개선해야 하지만3 환자의 사회적 요구에 항상 부응하는 것은 아닙니다.4, 5 일부 연구에 따르면 의사는 사회적 어려움을 가진 환자를 돌보는 데 장벽을 경험한다고 보고했습니다.6-11  
Social determinants of health (SDHs) are defined as ‘the conditions in which people are born, grow, live, work and age … shaped by the distribution of money, power and resources at global, national and local levels’.1 SDH makes a substantial contribution to population health outcomes. Although health care professionals are expected to train the ability to recognise social structure to influence health outcomes (as is called structural competency)2 and to deliver individualised care to patients and improve public health, 3 they do not always respond to patients' social needs.4, 5 Some studies have reported that physicians experience barriers in caring for patients with social difficulties.6-11

[사회적 불평등이 건강 상태에 미치는 영향]은 임상 수련 전문가들에 의해 종종 무시되어 왔습니다.12 예를 들어, 의학전문대학원 교육인증위원회는 레지던트 및 펠로우십 프로그램에서 수련의가 사회적 결정 요인을 식별 및 해결하고 환자의 건강 결과에 미치는 영향을 최적화하도록 준비시킬 수 있는 프로그램은 거의 없다고 보고했습니다.13 그럼에도 불구하고, SDH의 대학원 교육은 독특한 이점을 제공할 수 있을 것입니다. 레지던트는 환자의 건강 요구를 효과적으로 해결하는 기술을 개발하고 지역사회에 보다 생산적으로 참여함으로써 자기 효능감과 만족감을 경험할 수 있습니다.3 환자 건강에 영향을 미치는 사회적 결정 요인에 대해 학습하면 레지던트가 환자의 상황에 집중하고 환자-의사 관계를 강화하며 의료 팀 기반 파트너십을 구축하는 데 도움이 될 수 있습니다.13 이러한 학습은 어려운 상황에 있는 환자를 치료할 때 특히 중요합니다.3, 14 이러한 긍정적인 결과를 고려할 때 건강과 건강 관리를 개선하려면 SDH에 대한 의학 교육의 중요성을 강조하고 보다 효과적인 교육 전략을 개발하는 것이 중요해야 합니다.15 
The effects of social inequity on health conditions have often been ignored by clinical training experts.12 For example, the Accreditation Council for Graduate Medical Education reported that few residency and fellowship programmes can prepare trainees to identify and address social determinants and optimise their effects on patients' health outcomes.13 Nevertheless, postgraduate education in SDH would provide unique benefits. Residents would experience self-efficacy and satisfaction by developing skills to effectively address patients' health needs and engaging more productively with their communities.3 Learning about social determinants that affect patient health could help residents focus on patients' contexts, strengthen patient–physician relationships and build health care team-based partnerships.13 Such learning is particularly important when residents deliver care for patients in difficult situations.3, 14 Considering these positive outcomes, emphasising the importance of medical education about SDH and developing a more effective educational strategy should be important to improve health and health care.15

SDH는 의학교육과 수련의 중요한 부분이지만, 전통적인 접근 방식으로는 SDH 역량을 문서화하기 어렵습니다.16 교육과정에서 비의료 교육 주제를 제시하는 것은 종종 모호한 목표와 불명확한 평가 기준을 특징으로 합니다.17 모호한 교육과정은 수련의에게 이러한 주제가 저평가되고 임상 학습과 단절되어 있다는 인상을 주고 환자 치료와 수련의의 전문적인 성장 모두에 해를 끼칠 수 있습니다.17 또한 SDH와 관련된 커리큘럼 기준이 부족하면 레지던트가 사회적 어려움을 가진 환자에 대한 편견과 오해를 조장할 수 있습니다.18 또한 대부분의 지도전문의는 자연스럽게 생물의학적 및 기술적 기술의 습득에 높은 가치를 두고 수련의의 사회적 책임과 윤리의식 함양에 소홀히 하는 경향이 있습니다.19 
Although SDH is an important part of medical education and training, SDH competence is difficult to document using traditional approaches.16 Presentation of non-medical educational topics in the curriculum is often characterised by vague objectives and unclear assessment criteria.17 An ambiguous curriculum gives trainees the impression that these topics are undervalued and disconnected from clinical learning and may harm both patient care and the professional growth of trainees.17 Lack of curriculum criteria related to SDH may also foster residents' prejudices and misconceptions about patients with social difficulties.18 Additionally, most supervisors naturally place a high value on the acquisition of biomedical and technical skills and tend to neglect the development of social responsibility and ethics in trainees.19

전공의가 SDH 교육을 통해 무엇을 성취해야 하는지에 대한 명시적인 문서화가 중요합니다. 소외 계층에 대한 의료 서비스 제공과 같은 일부 역량은 자체적으로 위탁 가능한 전문 활동(EPA)을 수행할 가치가 있는 것으로 간주됩니다.20 예를 들어, 미국의과대학협회는 병력 청취와 관련된 EPA 하위 항목 중 하나는 SDH에 주의를 기울이는 환자 중심 면담을 수행하는 기술을 입증하는 것이라고 명시하고 있습니다.21 관찰 가능한 실습 활동(OPA)의 위탁 및 매핑은 레지던트 커리큘럼 및 평가 시스템에서 레지던트를 평가하는 데 사용할 수 있습니다.22, 23 OPA'위탁 결정을 내리기 위해 일상적인 실습에서 관찰해야 하는 학습 목표/활동의 모음'으로 정의됩니다.22 OPA는 두 가지 범주로 나뉩니다.

  • 내용 OPA는 '호중구감소성 발열에 대한 항생제 치료 선택'과 같이 각 로테이션마다 다른 특정 활동입니다.
  • 과정 OPA는 '정확하고 관련성 있는 병력 획득'과 같이 로테이션에 걸쳐 공통적으로 적용되는 활동입니다.22 과정 OPA의 개념은 모호한 역량 용어나 광범위한 EPA 대신 공동 의사 결정과 같은 특정 상황에서 의료 전문가가 따라야 하는 정확한 과정과 의료 절차를 설명하는 데 사용됩니다.24

Explicit documentation about what residents should achieve from SDH education is important. Some competencies, such as providing medical care for underserved populations, are considered worthy of their own entrustable professional activities (EPAs).20 For example, the Association of American Medical Colleges states that one of the EPA sub-items related to history taking is to demonstrate the skills to conduct patient-centred interviews that are attentive to SDH.21 Entrustment and mapping of observable practice activities (OPAs) can be used in residency curriculum and assessment systems to assess residents.22, 23 OPA is defined as ‘a collection of learning objectives/activities that must be observed in daily practice to form entrustment decisions’.22 There are two categories of OPA.

  • Content OPAs are specific activities that differ for each rotation, such as ‘choose antibiotic therapy for neutropenic fever’.
  • Process OPAs are activities that are conserved across rotations, such as ‘acquire accurate and relevant history’.22 The concept of process OPA is used to describe the precise process and medical procedures that medical professionals are expected to follow in specific situations, such as shared decision making,24 instead of using ambiguous competency terms or broad EPA.22

일차 의료 또는 포괄적인 일상 건강 관리에서 사회적 결정 요인에 대한 개입을 설명하는 여러 임상 프레임워크가 보고되었습니다. 이러한 개입은 세 가지 수준으로 나뉩니다.15, 25-28 

  • 일반적으로 개별 환자를 위한 미시적 수준
  • 의료 기관 및 지역사회를 위한 중시적 수준
  • 의료 시스템 및 행정 부서를 포함한 광범위한 인구를 위한 거시적 수준 

이러한 프레임워크는 SDH를 의료 시스템에 통합하기 위한 청사진을 제공하지만, 의사가 [실제로 환자 치료를 제공하는 과정]은 자세히 설명되어 있지 않습니다. 또한 이러한 프레임워크의 대부분은 체계적인 합의 그룹 방법을 사용하여 개발되지 않았습니다. 임상 환경에서 의사가 하는 일을 자세히 설명하지 못하면 SDH 교육의 가치가 떨어집니다. 따라서 환자의 사회적 맥락과 필요에 대한 이해를 바탕으로 환자를 돌보는 [과정 OPA]를 설명해야 합니다. 본 연구는 합의 집단 방법을 사용하여 일차 진료 환경에서 SDH와 관련된 환자 진료 [과정 OPA]를 체계화하는 것을 목표로 했습니다.
Several clinical frameworks have been reported that describe interventions for social determinants in primary health care or comprehensive day-to-day health care. These interventions are usually divided into three levels:

  • microlevel for individual patients,
  • mesolevel for medical institutions and communities and
  • macrolevel for broader populations, including health care systems and administrative divisions.1525-28 

Although such frameworks provide a blueprint for integrating SDH into health care systems, the processes by which physicians actually deliver patient care have not been described in detail. In addition, most of these frameworks have not been developed using systematic consensus group methods. Failure to describe in detail what physicians do in clinical settings reduces the value of SDH education. The process OPA for caring for patients based on an understanding of patients' social contexts and needs should therefore be explicated. This study aimed to codify the process OPA for patient care related to SDH in a primary care setting, using consensus group methods.

2 연구 방법
2 METHOD

연구 설계
Study design

일본에서 2022년 1월부터 2022년 2월까지 일차 진료 환경에서 SDH와 관련된 진료 프로세스에 대한 합의를 도출하기 위해 수정된 델파이 기법29 을 시행했습니다. 수정 델파이 연구에서는 연구자들이

  • (i) 문헌 검토를 수행하거나 다른 학술적 방법을 사용하여 작성한 초기 목록을 배포하고,
  • (ii) 전문가들로부터 의견을 추출하여 익명으로 반복적으로 피드백을 제공하며,
  • (iii) 구조화된 방식으로 합의에 도달합니다.30

수정 델파이 기법은 전문가 합의를 도출하는 데 널리 사용되며,31-33 특히 다양한 이해관계자가 있고 익명으로 독립적인 의견 제공이 필요할 때 유용합니다.34, 35 본 연구는 델파이 연구 수행 및 보고 지침(CREDES)을 따랐습니다.36 모든 라운드에서 설문지는 웹 기반 설문조사 시스템(SurveyMonkey: Survey Monkey, Inc., San Mateo, CA, USA)을 통해 제공되었습니다. 이 연구에 대한 윤리적 승인은 도쿄대학교 의학전문대학원 및 의학부 연구윤리위원회로부터 받았습니다(제2020250NI호).
A modified Delphi technique29 was implemented from January 2022 to February 2022 in Japan to reach a consensus on the processes of medical care related to SDH in a primary care setting. In a modified Delphi study, researchers

  • (i) distribute an initial list that is prepared by conducting a literature review or using other academic methods,
  • (ii) extract opinions from the experts and give them anonymous feedback iteratively and
  • (iii) reach a consensus in a structured way.30 

The modified Delphi technique is widely used to create expert consensus,31-33 especially when there are diverse stakeholders and when anonymous and independent provision of their opinions is needed.34, 35 This study followed the Guidance on Conducting and Reporting Delphi Studies (CREDES.)36 In all rounds, questionnaires were provided via a web-based survey system (SurveyMonkey: Survey Monkey, Inc., San Mateo, CA, USA). Ethical approval for this study was obtained from the research ethics committee of the University of Tokyo Graduate School of Medicine and Faculty of Medicine (No. 2020250NI).

잠재적으로 중요한 요인 목록 작성
Compilation of a list of potentially important factors

잠재적으로 중요한 단계의 예비 목록을 작성하기 위해 2021년 9월에 제1저자가 세 개의 전자 데이터베이스(MEDLINE, CINAHL, PsycINFO)에서 문헌 검색을 수행했습니다. 검색 결과 중복을 제거한 후 447개의 논문이 확인되었습니다. 논문 제목과 초록을 기준으로 선별한 결과 110편의 논문이 선정되었습니다. 전체 텍스트 심사 후 27편의 논문이 선정되었습니다.2, 3, 12, 14, 20, 37-58 이 문헌 검색의 세부 사항은 표 S1에 나와 있습니다. 이 문헌 검색을 통해 연구자들은 '구조적 역량'이라는 용어가 자주 사용된다는 것을 재발견하고 검색 공식을 수정했습니다. 의견, 리뷰, 사설, 사례 보고서, 활동 보고서 등 다양한 종류의 논문이 포함되었습니다. SDH와 관련된 환자 치료 과정을 직접적으로 언급한 논문은 거의 없었습니다. 첫 번째 저자는 논문을 종합하여 잠정적인 목록을 작성했습니다. 두 번째, 네 번째, 다섯 번째, 여섯 번째 저자는 이 목록을 비판적으로 검토 및 분석하고 반복적인 토론을 거쳐 일부 수정을 가했습니다. 목록은 커뮤니케이션, 실천, 자기 관리, 옹호라는 네 가지 구성 요소로 나뉜 13개 항목으로 구성되었습니다(표 S2 참조). 
To develop a preliminary list of potentially important steps, a literature search of three electronic databases (MEDLINE, CINAHL and PsycINFO) was conducted by the first author in September 2021. The search identified 447 articles after the removal of duplicates. The articles were screened by article titles and abstracts, and 110 articles were selected. After full-text screening, 27 articles were selected.2, 3, 12, 14, 20, 37-58 Details of this literature search are shown in Table S1. Through this literature search, researchers rediscovered that the term ‘structural competency’ was often used, and the search formula was modified. A wide range of articles was included (e.g. opinions, reviews, editorials, case reports and activity reports). Few articles directly referred to the processes of patient care related to SDH. The first author synthesised the articles and constructed a tentative list. The second, fourth, fifth and sixth authors critically reviewed and analysed the list, held iterative discussions and made some modifications. The list consisted of 13 items, which were divided into four components: communication, practice, self-management and advocacy (see Table S2).

참가자 모집
Participant recruitment

성별, 연령, 직업, 진료 환경 등 구성원의 다양성을 보장하기 위해 의도적인 샘플링 전략을 사용했습니다. 패널은 임상 전문가(의사, 간호사, 공중보건의, 사회복지사, 약사, 의료 사무원), 레지던트, 의대생, 연구자, 소외 계층 및 환자를 위한 지원 위원으로 구성되었습니다. 모집 대상을 결정한 이유는 다음과 같습니다. 

  • 첫째, SDoH와 관련된 일차 진료에는 의료 사무원을 포함한 여러 직종이 관여하고 있으며,59, 60 의사가 수행하는 과정을 다루는 연구에서도 다양한 의료 직종의 의견이 존중되어야 합니다.
  • 둘째, 의학교육의 수요를 충족하기 위해 과정에 대한 명시적인 설명이 필요하며, 의학교육의 이해당사자인 전공의, 학생, 환자의 의견을 수렴해야 합니다.
  • 셋째, SDoH와 관련된 환자 진료의 범위는 전 국민이었지만, 사회적 소외계층도 주요 이해관계자로서 본 연구에서 중요한 잠재적 의사결정권자로 고려되어야 합니다. 그러나 소외 계층을 모집하고 참여시키는 데 현실적인 어려움이 있어61, 62 연구자들은 이 연구에서 이들을 모집할 수 없었습니다. 따라서 연구자들은 공중보건간호사, 소외계층 지원위원, 사회복지사, 사회학 전문 연구자 등 소외계층의 옹호자로 간주될 수 있는 사람들에게 본 연구에 참여해 줄 것을 요청했습니다.63 연구자들은 소외계층의 의견을 물어볼 필요가 없다고 생각하지 않는다는 점을 강조해야 합니다.

A purposive sampling strategy was used to ensure member diversity, including gender, age, profession and practice setting. The panel consisted of clinical professionals (physicians, nurses, public health nurses, social workers, pharmacists and medical clerks), residents, medical students, researchers, support members for marginalised people and patients. The reasons for determining recruitment targets were as follows. First, multiple professions, including medical clerks, are involved in the primary care practice related to SDoH,59, 60 and, even in research dealing with processes undertaken by physicians, the opinions of various medical professions should be respected. Second, an explicit description of the processes was to meet the demands of medical education, and the opinions of residents, students and patients, all of whom were stakeholders in medical education, should be solicited. Third, although the scope of patient care related to SDoH was the entire population, the socially marginalised population should be considered a key stakeholder and thus an important potential decision maker in this study. However, due to practical difficulties in recruiting the marginalised population and their participation,61, 62 researchers could not recruit them in this study. Researchers thus asked public health nurses, support members for marginalised people, social workers and expert researchers in sociology, who could be considered advocators, to participate in this study.63 It should be emphasised that researchers do not believe that the opinions of marginalised people need not be asked.

우리는 SDH에 대한 깊은 이해와 상당한 실무 경험이 있는 임상 전문가, SDH에 대한 관심과 지식이 있는 레지던트 및 의대생, 만성 질환을 앓고 있고 제1저자가 근무하는 병원에 정기적으로 다니는 환자를 모집했습니다. 환자 모집 과정에서 환자의 사회적 배경과 상황은 고려하지 않았습니다. 일반 의학(일반 내과, 호스피탈리스트, 가정의학과), 소아과, 정신과, 응급의학과 의사와 간호사를 모집했는데, 이러한 전문 분야는 일반적으로 미분화 문제를 가진 환자를 진료하고 이전 연구에서 SDH를 다룰 필요가 있는 것으로 확인되었기 때문입니다.20, 39, 50, 64-67 보건의료 및 의학 교육 분야 연구자뿐만 아니라 소외된 사람들과 함께 일하는 사회학자도 모집했습니다. 소외된 사람들을 위한 지원 멤버는 비의대생 2명과 의사 및 정치인 1명으로 구성되었습니다. 이 세 명은 노숙자 및 기타 소외된 사람들을 위해 자발적으로 지원을 제공했습니다. 모든 참가자는 이 연구에 참여하기 위해 자발적으로 서면 동의를 제공했습니다. 참가자에게는 2000엔(약 15달러) 상당의 상품권으로 구성된 인센티브가 제공되었습니다. 
We recruited clinical professionals who had a deep understanding and considerable practice of SDH, residents and medical students who had an interest in and some knowledge of SDH and patients who had chronic conditions and regularly attended the hospital in which the first author worked. The social backgrounds and contexts of the patients were not considered in the recruitment process. We recruited physicians and nurses in general medicine (general internal medicine, hospitalist and family medicine), paediatrics, psychiatry and emergency medicine because these specialties usually care for patients with undifferentiated problems and have been identified as needing to address SDH in previous studies.20, 39, 50, 64-67 We recruited not only researchers in health care and medical education but also sociologists working with marginalised populations. Support members for marginalised people consisted of two non-medical students and one physician and statesperson. These three members voluntarily provided support for people experiencing homelessness and other marginalised people. All participants voluntarily provided their written consent to participate in this study. An incentive comprising a gift certificate worth JPY 2000 (approximately US$ 15) was offered to participants.

데이터 수집 및 분석
Data collection and analysis

각 라운드에서 참가자들은 5점 리커트 척도(1점: 전혀 중요하지 않다 ~ 5점: 매우 중요하다)로 각 항목을 평가하도록 요청받았습니다. 또한 참가자들은 각 항목에 대한 수정 사항을 제안하고 SDH와 관련된 의료 측면에 적합하다고 생각되는 다른 단계를 추가하도록 요청받았습니다. 참가자들의 응답은 이전 검토33 및 기타 선행 연구를 바탕으로 사전 정의된 기준에 따라 분석 및 선정되었습니다.68, 69 구체적으로 (i) 평균 점수가 4점 이상, (ii) 표준편차가 1 미만, (iii) 패널의 75% 이상이 4점 또는 5점을 준 항목은 모두 통과했습니다. 참가자들은 각 설문지를 작성하는 데 2주의 시간이 주어졌습니다. 각 마감일 며칠 전에 리마인더 이메일이 발송되었습니다. 모든 저자는 모든 라운드에서 모든 서면 의견을 읽었습니다. 첫 번째, 두 번째, 세 번째 저자는 내용 분석을 사용하여 의견을 분석했습니다.70 코딩 데이터는 다른 연구자들과의 논의를 통해 축소되고 수정되었습니다. 다음 라운드가 시작될 때 이전 라운드의 익명 결과 요약본이 전문가들에게 제공되었습니다. 우리는 모든 진술이 가능한 한 높은 수준에서 합의에 도달할 수 있는 동등한 기회를 갖도록 하기 위해 일부 진술이 이미 합의에 도달했더라도 후속 라운드에서 모든 진술을 다시 포함시키기로 결정했습니다.71 각 델파이 단계는 일본어로 진행되었습니다. 결과는 연구원과 전문 번역가가 영어로 번역했습니다. 

In each round, participants were asked to evaluate each item on a 5-point Likert scale (1: absolutely unimportant to 5: absolutely important). The participants were also asked to propose revisions for each item and add any other steps considered suitable for aspects of medical care related to SDH. Their responses were analysed and selected using a predefined standard based on a previous review33 and other previous studies.68, 69 Specifically, items that met all the following standards were passed: (i) a mean score of 4 or higher, (ii) a standard deviation of less than 1 and (iii) scores of 4 or 5 from 75% or more of the panellists. Participants were given 2 weeks to fill out each questionnaire. Reminder e-mails were sent a few days before each deadline. All authors read all written comments in every round. The first, second and third authors analysed the comments using content analysis.70 Coding data were collapsed and then modified through discussion with the other researchers. At the start of the subsequent round, a summary of anonymous results from the previous round was provided to the experts. We chose to include all statements again in the subsequent round (even though some had already reached consensus) to ensure that every statement had an equal chance of achieving consensus at the highest possible level.71 Each Delphi step was conducted in Japanese. The results were translated into English by the researchers and professional translators.

3 결과
3 RESULTS

델파이 패널에는 총 63명이 모집되었으며, 이 중 61명이 참여했습니다. 2명은 업무 부담으로 인해 참여를 거부했습니다. 인구통계학적 데이터는 표 1에 나와 있습니다. 모든 참가자가 델파이 라운드를 완료했습니다.

A total of 63 people were recruited to the Delphi panel, of which 61 participated. Two declined participation because of work pressure. The demographic data are shown in Table 1. All participants completed the Delphi rounds.

1라운드에서는 초기 목록에서 탈락한 항목이 없었습니다. 동의 수준, 평균 및 표준편차는 표 S3에 나와 있습니다. 참가자들의 의견에 대한 내용 분석을 바탕으로 12개 항목이 수정되었습니다. 분석 결과에 따라 전문가 간 팀 기반 성찰에 대한 단계가 하나 추가되었고, 이에 따라 세 번째 구성 요소인 '자기 관리'를 '유지 관리'로 변경했습니다. 또한 모든 단계가 지속적인 환자-의사 관계 내에서 다른 전문가 및 이해관계자와 협력하여 수행되어야 한다는 서문을 추가했습니다(표 S4 참조). 
In Round 1, no items were eliminated from the initial lists. The agreement levels, means and standard deviations are shown in Table S3. Twelve items were modified based on the content analysis of the participants' comments. According to the analysis, we drafted one new step about interprofessional team-based reflection and accordingly changed the third component ‘self-management’ to ‘maintenance’. We also developed a preface that stated that all steps should be conducted within an ongoing patient–physician relationship and in collaboration with other professionals and stakeholders (see Table S4).

2라운드 이후, 수정된 모든 항목이 긍정적인 합의 기준을 충족하는 것으로 확인되었습니다(표 S5 참조). 일부 사소한 수정이 이루어졌으며 모든 참가자의 승인을 받았습니다. 3라운드는 진행되지 않았습니다. 최종 버전의 목록은 14개 항목으로 구성되었으며, 이는 4개의 구성 요소로 나뉩니다(표 2).
After Round 2, all modified items were confirmed to meet the positive consensus standard (see Table S5). Some minor revisions were made and were approved by all participants. Round 3 was not performed. The final version of the list consisted of 14 items, which were divided into four components (Table 2).

4 토론
4 DISCUSSION

이 연구에서는 SDH와 관련된 환자 치료의 OPA 프로세스를 확인했습니다. 프로세스는 커뮤니케이션, 진료, 유지 관리, 옹호라는 네 가지 구성 요소로 분류되었습니다. 각 구성 요소는 서로 밀접한 관련이 있습니다. 커뮤니케이션은 좋은 진료에 기여합니다. 의사 자신과 팀원을 위한 유지 관리는 좋은 의사 소통과 진료의 기본입니다. 커뮤니케이션, 진료, 유지보수에 대한 경험은 옹호에 동기를 부여할 수 있습니다. 이 커뮤니케이션-실무-유지-옹호(CPMA) 프레임워크(그림 1 참조)는 이전에 보고된 접근 방식과 몇 가지 요소를 공유합니다. 예를 들어, 빈곤 아동 간호와 관련된 역량은 환자 간호, 대인관계 및 의사소통 기술, 전문성, 시스템 기반 실무 영역과 관련이 있습니다.39, 72 또한 간호 교육 전문가들은 환자의 기저질환을 변화시키고 건강 형평성을 증진하기 위해 비판적 돌봄 접근법과 세심한 권한 부여 간호 제공을 제안해 왔습니다.55, 73 
This study identified the process OPA for patient care related to SDH. The processes were classified into four components: communication, practice, maintenance and advocacy. Each component is closely related to each other. Communication contributes to good practice. Maintenance for physicians themselves and team members is the base of good communication and practice. Experience about communication, practice and maintenance may motivate advocacy. This Communication–Practice–Maintenance–Advocacy (CPMA) framework (see Figure 1) shares some elements with previously reported approaches. For example, the competency relevant to the care of children in poverty is related to the domains of patient care, interpersonal and communication skills, professionalism and system-based practice.39, 72 In addition, professionals in nursing education have proposed a critical caring approach and provision of sensitive empowering care to change patients' underlying conditions and promote health equity.55, 73

 

CPMA 프레임워크에는 몇 가지 독특한 장점이 있습니다. 

  • 첫째, 전문가 패널은 다양한 이해관계자로 구성됩니다. 환자, 사회학자, 소외된 사람들을 위한 지원 단체의 참여로 패널의 다양성이 증가했습니다. 
  • 둘째, 프레임워크는 환자 치료 과정을 상세하게 설명하여 의학교육에 대한 활용도를 높였습니다. 

[생물 의학 및 기술 중심의 지배적인 커리큘럼 패러다임]은 정답을 얻고 문제를 해결하는 데 중점을 둡니다. 이 패러다임에서 학습자는 SDH와 같이 확실성이 낮은 문제에 직면할 때 불편함을 느낄 수 있습니다.74, 75 문제를 해결하는 과정을 명시하면 이러한 불편함을 줄일 수 있습니다.17, 20 이 프레임워크는 잠재적으로 학습자에게 명확한 지표를 제공하고 임상 실습 및 현장 기반 평가에 반영하는 데 적용될 수 있습니다.
The CPMA framework has some unique advantages.

  • First, the expert panel consisted of various stakeholders. The participation of patients, sociologists and support members for marginalised people increased panel diversity.
  • Second, the framework clearly described in detail the patient care processes to increase its availability for medical education.

The dominant curriculum paradigm, which is centred on biomedicine and technology, focuses on obtaining correct answers and solving problems. In this paradigm, learners may feel uncomfortable when facing challenges with low levels of certainty, such as SDH.74, 75 Making explicit the process of tackling challenges could potentially reduce this discomfort.17, 20 This framework potentially provides learners with a clear indication and could be applied to reflection on their clinical practice and workplace-based assessment.

의사소통
Communication

이 구성 요소에는 환자와의 커뮤니케이션다른 전문가 및 이해관계자와의 커뮤니케이션이 모두 포함됩니다. 델파이 라운드에서는 환자에 대한 의사의 편견과 태도에 대한 의견이 나왔습니다. 예를 들어, 패널리스트들은 첫 번째 목록의 일부 항목('의사는 공동 의사 결정을 수행한다', '의사는 환자가 자신의 건강 상태에 대처할 수 있도록 적절한 설명과 지원을 제공한다')에 가부장적인 측면이 포함되어 있다고 지적했습니다. 일부 패널리스트는 의사 자신의 편견과 편견에 대한 의사의 인식이 언급되어야 한다고 제안했습니다. 이러한 편견과 태도는 항상 관찰할 수 있는 것은 아니지만, 환자 중심주의,49 다른 전문가와의 협력76 및 환자 결과를 저해할 수 있으므로76-78 의사소통 관련 교육 및 실습에서 심각하게 고려해야 합니다. 이 구성 요소는 의사소통에 대한 자세한 내용을 설명하며 효과적인 교육 및 평가에 기여할 수 있습니다. 
This component includes both communications with patients and communications with other professionals and stakeholders. The Delphi rounds revealed opinions about physicians' biases and attitudes towards patients. For example, panellists pointed out that some of the items in the first list (‘The physician performs shared decision making’ and ‘The physician provides adequate explanation and support to help the patient deal with their health condition’) included some paternalistic aspects. Some panellists suggested that physicians' awareness of their own prejudice and biases should be mentioned. Although these biases and attitudes are not always observable, they may impair patient-centredness,49 collaboration with other professionals76 and patient outcomes76-78 and should thus be seriously considered in communication-related education and practice. This component illustrates detailed content about communication and may contribute to effective education and assessment.

실습
Practice

이 구성 요소는 의사가 환자 진료를 위해 진료실에서 실제로 하는 일을 설명합니다. 목록의 각 단계는 의사가 수행하는 활동의 관점에서 설명되었습니다. 이는 의사가 특권적인 위치에 있다는 것을 의미하지는 않습니다. 델파이 라운드에서 두 가지 관련 의견이 발견되었습니다. 

  • 첫째, 사회적 요구가 충족되지 않은 환자를 진료할 때 환자 중심 진료를 고려하는 것이 특히 중요합니다. 의사는 지시적이고 억압적인 방식으로 말함으로써 그러한 환자의 권한을 박탈하는 경향이 있기 때문에 이 점을 강조해야 합니다.79-81
  • 둘째, 의사가 환자의 사회적 상황에 혼자 대처할 수 없으므로 다학제 간 협업의 중요성을 강조해야 합니다. 이러한 의견은 의료 시스템에서 일어나는 일은 환자에게 일어나는 일의 일부에 불과하다는 사실을 강조합니다.54 이러한 전문가들의 견해에 따라 이 구성 요소는 종단적이고 포괄적이며 팀 기반의 접근 방식이 필요하다고 주장합니다. 사회적 어려움을 포함한 복잡한 문제는 단기간에 해결되는 경우가 드물고 안정화가 더 적절한 목표인 경우가 많기 때문에 문제 해결을 요구하지 않습니다.82

This component illustrates what physicians actually do in the office for patient care. Each step on the list was described in terms of the activities performed by physicians. This does not imply that physicians are in a privileged position. The Delphi rounds uncovered two related opinions.

  • First, it is particularly important to consider patient-centred care when seeing patients with unmet social needs. This should be emphasised because physicians tend to disempower such patients by speaking in a directive and oppressive manner.79-81 
  • Second, a physician cannot cope alone with patients' social circumstances, and the importance of interdisciplinary collaboration should be emphasised. These opinions underlined the fact that what happens in the health care system is only part of what happens to the patient.54 Under these expert views, this component insists that a longitudinal, comprehensive and team-based approach is needed. It does not ask for problem solving because complex problems, including social difficulties, are rarely resolved over a short period, and stabilisation is often a more appropriate goal.82

유지 관리
Maintenance

이 구성 요소는 전문가의 소진을 완화하고 환자 치료의 질을 유지 및 개선하기 위해 의사가 진료실 밖에서 하는 일을 보여줍니다. 환자의 사회적 요구 해결과 관련된 소진83-85은 자가 모니터링38 및 팀 빌딩을 통해 줄일 수 있습니다.86, 87 이 구성 요소는 다른 공개된 프레임워크와 비교하여 독특하며 수련의와 임상 감독자에게 새롭고 필수적인 통찰력을 제공할 수 있습니다.
This component illustrates what physicians do outside their office to mitigate professionals' burnout and then maintain and improve the quality of patient care. Burnout associated with addressing patients' social needs83-85 can be reduced by self-monitoring38 and team building.86, 87 This component is unique compared with other published frameworks and may give novel and essential insights to trainees and clinical supervisors.

옹호
Advocacy

의료 전문가들 사이에서 윤리적 가치와 인권에 대한 존중 부족은 건강 형평성에 대한 도전이며,88 건강 옹호는 의사에게 중요한 역량으로 간주되어야 합니다.89 그러나 건강 옹호에 대한 정의가 불분명하여 이 영역을 가르치고 평가하기 어려운 경우가 있습니다.90 [미시적 수준과 거시적 수준의 사회적 책임]에 대한 강조가 증가하고 있지만,91 일부 의사들은 옹호를 [사회 시스템의 개선이 아닌 개별 환자에게 적절한 치료를 제공하는 것]으로 생각했습니다.92,93 델파이 라운드에서는 개별 의사가 실행하는 옹호의 실현 가능성에 대한 몇 가지 의문이 제기되었습니다. 예를 들어, 사회 및 지역사회 구조의 변화는 개별 의사의 범위를 벗어난 것으로 판단되었습니다. 일부 전문가들은 일부 수련의, 특히 초심자들이 시스템 차원의 문제를 지나치게 강조하는 것에 대해 거부감을 나타낼 수 있다고 주장했습니다. 의대생을 대상으로 한 이전 연구에서도 비슷한 질문이 제기되었습니다: 학생들은 의사가 개별 환자를 옹호해야 한다는 데는 반대하지 않았지만, 옹호와 관련된 어려움을 예상했습니다.94 본 연구는 의사가 임상 환경에서 실천할 수 있고 실천해야 하는 옹호의 구체적인 측면에 대한 합의를 보여주었습니다. 예를 들어, 의료 시스템 내에서 접근성을 저해하는 요인을 파악하는 것은 일차 진료에 종사하는 모든 의사가 수용할 수 있는 것으로 판단되었습니다.

A lack of respect for ethical values and human rights among health professionals is a challenge for health equity,88 and health advocacy should be considered an important competency for physicians.89 However, definitions of health advocacy are sometimes unclear, which makes it difficult to teach and assess this domain.90 Although an increasing emphasis on mesolevels and macrolevels of social accountabilities has been put,91 some physicians thought of advocacy as the delivery of appropriate care for individual patients rather than an improvement in social systems.92, 93 The Delphi rounds generated some questions about the feasibility of advocacy as practised by individual physicians. For example, changing social and community structures was judged to be beyond the scope of individual physicians. Some experts insisted that some trainees, especially novices, may express a refusal of excessive emphasis on system-level challenges. A previous study of medical students raised similar questions: Although students did not disagree that physicians should advocate for individual patients, they anticipated challenges related to advocacy.94 The present study demonstrated a consensus on the specific aspects of advocacy that physicians can and should practise in clinical settings. For example, identifying factors that impede access within their health care system was judged to be acceptable for all physicians in primary care.

이 연구에는 몇 가지 한계가 있었습니다. 

  • 첫째, 모든 저자와 참여자가 일본에 거주하고 일하고 있습니다. 일본 상황과 관련된 환자 치료 측면에만 초점을 맞추지 않았기 때문에 이러한 연구 결과를 다른 국가에 일반화할 수 있을지는 불확실합니다. 일본은 보편적 의료 서비스와 잘 발달된 사회 보장 시스템으로 유명하지만, 사회 및 건강 불평등이 여전히 존재합니다.95 예를 들어, 일본의 상대적 빈곤층 비율은 2016년에 16%로 경제협력개발기구 평균인 11%보다 높았습니다.95 한부모 가구의 비율은 2013년에 50.8%로 가장 높았습니다.96 이러한 사회 경제적 불평등은 건강 결과를 손상시킵니다.98-101 본 연구 결과는 고소득 국가에서도 SDH 해결이 중요하다는 점을 강조합니다. 또한 일본에는 다양한 인종과 민족 정체성을 가진 사람들이 살고 있지만 대다수는 같은 인종과 민족입니다. 연구자들은 패널리스트의 인종 및 민족 정체성에 대해 묻지 않았지만, 아마도 거의 모든 패널리스트가 아시아인이었을 것으로 추정됩니다. 이 결과를 다른 문화와 국가에 적용할 때는 이러한 사실에 유의해야 합니다.
  • 둘째, 각 라운드의 찬성률이 일관되게 높았다는 점입니다. 이는 임상에서 SDoH를 다루는 것이 정치적으로나 윤리적으로 옳은 것처럼 보이기 때문일 수 있으며, 참가자들은 제안된 항목을 거부하거나 거부하지 않으려는 경향이 있었습니다. 패널들의 의견에 대한 질적 분석은 상호보완적으로 작용하여 연구자들이 참가자들의 중요한 아이디어를 연구 결과에 반영하는 데 도움이 되었습니다.
  • 셋째, 돌봄의 과정을 항목화하는 데에는 불가피한 한계가 있습니다. 일련의 과정이 미리 정해져 있고 불변하며 엄격하게 따라야 한다는 것은 오해입니다. 모든 환자는 고유한 사회적 맥락을 가지고 있으며, 의사와 이해관계자는 복잡한 사회적 결정 요인을 시급히 해결하기 위해 비판적이고 창의적인 사고의 중요성을 인식해야 합니다.
  • 40 넷째, 이 연구는 치료 과정에서 관찰 가능한 단계만을 조사했습니다. SDH를 충분히 다루기 위해서는 전문가가 자신의 편견을 인식하는 능력과 같이 관찰할 수 없는 진료의 측면을 조사할 필요가 있습니다.40, 42, 45, 50, 77
  • 다섯째, 이 연구에 참여한 환자 수가 적었습니다. 다른 전문가와 동등한 수준의 연구 참여에 대한 부담감이 환자 참여에 장애가 될 수 있습니다. 환자의 참여와 파트너십이 촉진되어야 하며,102, 103 새로 개발된 프레임워크는 보다 현실적이고 실질적인 방식으로 환자의 의견을 수렴하는 추가 연구를 통해 개선되어야 합니다.104 특히 소외된 환자들의 의견을 반영할 수 있는 잘 설계된 연구가 필요합니다.105, 106

This study had several limitations.

  • First, all authors and participants live and work in Japan. Although we did not focus only on aspects of patient care specific to the Japanese situation, it is uncertain whether these findings can be generalised to other countries. Although Japan is known for its universal health care and well-developed social security systems, social and health inequities still exist.95 For example, the proportion of people with relative poverty in Japan was 16% in 2016, higher than that of the Organization for Economic Co-operation and Development average of 11%.95 This proportion among single-parent households was 50.8% in 2013,96 which was the highest.97 These socio-economic inequities impair health outcomes.98-101 The present findings highlight the importance of addressing SDH even in high-income countries. In addition, although people with various racial and ethnic identities live in Japan, the majority are of the same race and ethnicity. Researchers did not ask about panellists' racial and ethnic identities, but, presumably, almost all of the panellists were Asian. These facts should be noted when adapting the result to other cultures and countries.
  • Second, the approval rates of each round were consistently high. It may be that addressing SDoH in clinical practice sounds politically and ethically correct, and participants tended to avoid denying and refusing proposed items. Qualitative analysis of the panellists' comments functioned complementarily, and it helped researchers to reflect participants' important ideas to the result.
  • Third, there are inevitable limitations in itemising the process of care. It is a misapprehension that a series of processes is predetermined and immutable and should be strictly followed. Every patient has a unique social context, and physicians and stakeholders must be aware of the importance of critical and creative thinking to urgently address complex social determinants.40 
  • Fourth, this study examined only observable steps in the processes of care. To fully address SDH, it is necessary to investigate unobservable aspects of care, such as professionals' ability to recognise their own biases.4042455077 
  • Fifth, the number of patients who participated in this study was a few. The burden of participating in research, which was equivalent to other professionals, might be a barrier to patient participation. Patient involvement and partnerships should be promoted,102103 and this newly developed framework should be refined by further research that gathers patient feedback in a more realistic and practical manner.104 In particular, well-designed research to reflect the opinions of marginalised patients is needed.105106

저희는 OPA 과정을 설명하는 것이 SDH에 대한 대학원 교육을 개선하는 데 중요한 단계라고 생각합니다. 이러한 연구 결과는 몇 가지 임상적 함의를 가지고 있습니다. 

  • 첫째, 건강 상태 불평등의 근원은 부와 권력의 불평등한 분배에 있지만, 많은 개입이 불평등 문제를 개인화하여 개인의 행동을 주요 해결책으로 삼고 있습니다. 이러한 접근 방식은 '판타지적 패러다임'이라는 비판을 받아야 합니다.107 이 연구는 의사가 개별 환자와 관련된 SDH를 해결하는 방법에 중점을 두었지만, 우리는 이러한 문제의 상위 원인을 이해하는 것이 중요하다는 것을 인식하고 있습니다. SDH의 상류 측면을 고려하는 것은 맥락화된 진료에 필수적입니다.3
  • 둘째, CPMA 프레임워크는 일차 진료에 종사하는 모든 의사의 기본 요구 사항을 설명합니다. 전문 진료를 위해서는 보다 전문화된 역량이 필요합니다.108-111 의사는 특히 소외된 인구에게 진료를 제공할 때 이 목록 이상의 것을 목표로 해야 합니다.112-114

We believe that describing process OPA is an important step towards improving postgraduate education about SDH. These findings have several clinical implications.

  • First, although the root of health status inequity is in the unequal distribution of wealth and power, many interventions personalise the problem of inequality and target individual behaviour as the main solution. This approach should be criticised as a ‘fantasy paradigm’.107 Although this study focused on how physicians address SDH related to individual patients, we recognise the importance of understanding upstream causes of these problems. A consideration of the upstream aspects of SDH is essential to contextualised care.3 
  • Second, the CPMA framework describes basic requirements for all physicians in primary care. More specialised competency is needed for expert practice.108-111 Physicians should aim beyond the list, especially when delivering care to marginalised populations.112-114

OPA는 수련의 평가 계획에 적절하게 매핑되어 있다면 평가할 수 있습니다.22 따라서 CPMA 프레임워크를 사용하는 평가 방법은 다른 맥락에서 개발 및 검증되어야 합니다. 이 프레임워크 실행의 교육 효과는 환자가 보고한 결과를 사용하여 평가해야 합니다. 또한, 이 프레임워크가 공유된 의사결정 및 환자 중심주의를 포함한 다른 환자 치료 영역과의 연관성을 확인해야 합니다.
OPA can be assessed if they are appropriately mapped in a trainee assessment plan.22 Thus, assessment methods using the CPMA framework should be developed and validated in other contexts. The educational effectiveness of implementing this framework should be evaluated using patient-reported outcomes. Additionally, the association of this framework with other realms of patient care, including shared decision making and patient-centredness, should be confirmed.

5 결론 5 CONCLUSION

수정된 델파이 기법을 사용하여 SDH와 관련된 환자 치료를 위한 프로세스 OPA를 설명했습니다. CPMA 프레임워크는 SDH 관련 의료 교육을 개선하는 데 도움이 될 수 있습니다. 다른 맥락에서 추가 검증, 구현 및 탐색을 위해서는 추가 연구가 필요합니다.
Using the modified Delphi technique, the process OPA for patient care related to SDH was described. The CPMA framework could help to improve medical education in SDH. Further research is needed for further validation, implementation and exploration in other contexts.

 


Med Educ. 2023 Jan;57(1):57-65. doi: 10.1111/medu.14915. Epub 2022 Aug 23.

Defining the observable processes of patient care related to social determinants of health

Affiliations collapse

1Department of Medical Education Studies, International Research Center for Medical Education, Graduate School of Medicine, The University of Tokyo, Tokyo, Japan.

PMID: 35953461

DOI: 10.1111/medu.14915

Abstract

Introduction: An understanding of social determinants of health (SDH) and patients' social circumstances is recommended to deliver contextualised care. However, the processes of patient care related to SDH in clinical settings have not been described in detail. Observable practice activities (OPAs) are a collection of learning objectives and activities that must be observed in daily practice and can be used to describe the precise processes for professionals to follow in specific situations (process OPA.) METHODS: We used a modified Delphi technique to generate expert consensus about the process OPA for patient care related to SDH in primary care settings. To reflect the opinions of various stakeholders, the expert panel comprised clinical professionals (physicians, nurses, public health nurses, social workers, pharmacists and medical clerks), residents, medical students, researchers (medical education, health care, sociology of marginalised people), support members for marginalised people and patients. The Delphi rounds were conducted online. In Round 1, a list of potentially important steps in the processes of care was distributed to panellists. The list was modified, and one new step was added. In Round 2, all steps were acknowledged with few modifications.

Results: Of 63 experts recruited, 61 participated, and all participants completed the Delphi rounds. A total of 14 observable steps were identified, which were divided into four components: communication, practice, maintenance and advocacy. The importance of ongoing patient-physician relationships and collaboration with professionals and stakeholders was emphasised for the whole process of care.

Discussion: This study presents the consensus of a variety of experts on the process OPA for patient care related to SDHs. Further research is warranted to investigate how this Communication-Practice-Maintenance-Advocacy framework could affect medical education, quality of patient care, and patient outcomes.

보건전문직교육에서 '알아채기': 관심을 줄 시간? (Med Educ, 2022)
‘Noticing’ in health professions education: Time to pay attention?
Tim Clement | Joanne Bolton | Leonie Griffiths | Carolyn Cracknell | Elizabeth Molloy

 

 

모든 실천의 핵심은 눈에 띄는 것입니다.
At the heart of all practice lies noticing.

John Mason

1 소개
1 INTRODUCTION

"무엇을 알아차렸습니까?"라는 질문은 일반실무 임상교육자들이 직장에서 가르치는 동료의 비디오 발췌본을 시청한 후 던진 질문입니다.1 우리는 각 답변을 '알아차림'이라고 불렀는데, 이는 교사 교육 문헌에서 차용한 용어입니다2 그리고 다듬어지지 않은 '알아차림'은 그들의 답변을 총체적으로 지칭하기 위해 불렀습니다. 거의 같은 시기에 루니와 바우드3는 학생 간호사들이 시뮬레이션 활동의 특정 측면을 '주목'하도록 유도하는 방법을 설명하고 '주목의 교육학'을 개발하기 위한 근거를 설명했습니다. 
‘What did you notice?’, a question we asked of general practice clinical educators after they had watched video excerpts of their colleagues teaching in the workplace.1 We called each answer a ‘noticing’—a term that we had borrowed from the teacher education literature2—and the unpolished ‘noticings’ to refer to their answers in the aggregate. At about the same time Rooney and Boud3 described how student nurses were prompted to ‘notice’ particular aspects of a simulation activity and outlined a rationale for the development of a ‘pedagogy of noticing’.

그렇다면 '주목하다'는 것은 무엇을 의미할까요? 이 단계에서는 '인식하다'라는 사전적 정의로 충분합니다.4 우리는 보고, 듣고, 만지고, 맛보고, 냄새 맡는 등 외부 감각을 통해 사물을 인식하거나 생각과 감정 등 내부 감각을 통해 내면에서 일어나는 일을 인식하게 됩니다. 하지만 우리는 쏟아지는 감각 정보 중 일부만 인식할 수 있습니다. 우리가 효과적으로 기능하기 위해서는 '넘쳐나고 윙윙거리는 감각 데이터의 혼란'(5페이지)5을 걸러내야 합니다. 이러한 필터링은 '관련성 있는' 정보를 전면에 내세우고 '관련성 없는' 정보를 배경으로 밀어내어 우리가 알아차리는 것을 조절합니다.6 
But what does it mean ‘to notice’? At this stage, a dictionary definition—‘to become aware of’—will suffice.4 We become aware of things that we have seen, heard, touched, tasted or smelled (i.e. through our external senses) or become aware of what is happening within ourselves (i.e. through our internal senses), such as thoughts and feelings. Yet we only become aware of a proportion of the sensory information that we are bombarded with. We must filter the ‘blooming, buzzing confusion of sensory data’ (p. 5)5 in order to function effectively. This filtering regulates what we notice, foregrounding ‘relevant’ information and pushing ‘irrelevant’ information into the background.6

이 논문에서는 수학 및 과학 교육에서 '주목하기'가 어떻게 연구되고 적용되었는지 살펴보고, 보건 전문직 교육에서 이와 유사한 초점을 맞추는 것이 어떤 이점을 가져다줄 수 있는지에 대해 논의합니다. 우리는 보건 전문직(및 보건 전문가)의 학습자가 직업적 삶과 개인적 삶 모두에서 '사물'을 더 민감하게 알아차릴 수 있도록 '알아차리기'에 대해 가르칠 수 있는 사례를 제시합니다. 
In this paper, we examine how ‘noticing’ has been investigated and applied in mathematics and science education and deliberate on the benefits of a similar focus in health professions education. We make the case for teaching learners in the health professions (and health professionals) about noticing, so that they are more sensitised to notice ‘things’ in both their professional and personal lives.

보건 전문직 교육에서의 주목하기
Noticing in health professions education

교사 교육, 특히 수학 교육과 관련하여 '알아차리기'에 대한 상당한 문헌이 있지만 신경학,7 간호학,8 사회복지학9 및 대체의학에서 옹호되고 있음에도 불구하고 보건 전문직 교육에서는 이와 같은 관심을 얻지 못했습니다.10
Although there is a significant literature on ‘noticing’ in teacher education, particularly in relation to teaching mathematics, it has not garnered the same interest in health professions education despite advocacy in neurology,7 nursing,8 social work9 and alternative medicine.10

이러한 관심 부족의 한 가지 이유는 주목하는 것은 모든 사람이 일상생활을 하면서 하는 일이기 때문에,11 사람들이 거의 관심을 기울이지 않기 때문일 수 있습니다. 아인슈타인이 "물고기가 평생 헤엄치는 물에 대해 무엇을 알 수 있겠는가?"라고 말했듯이.12
두 번째 이유는 '관찰하다'와 같은 알아채기notice의 동의어가 임상 의사 결정, 임상 탐구, 임상 판단, 임상 관찰 및 임상 추론과 같이 잘 알려진 보건 전문직의 교육에 포함되어 있기 때문일 수 있습니다.13-15 '주목하기'에 새로운 것이 없으며 기존 교육과정에서 적절하게 다루고 있다는 인상을 줄 수 있습니다. 

One reason for this lack of interest could be that as noticing is something that everyone engages in as they go about their daily lives,11 they pay little attention to it. As Einstein noted, ‘What does a fish know about the water in which he swims all his life?’.12 
A second reason could be that synonyms for notice, such as ‘observe’, are embedded in the teaching of more well-known health professions' constructs, such as clinical decision-making, clinical inquiry, clinical judgement, clinical observation and clinical reasoning,13-15 giving the impression that there is nothing new about ‘noticing’ and that it is adequately addressed in extant curricula.

그러나 상반된 주장에 따르면 '알아차리기'에 대한 집중적인 관심이 시의적절할 수 있습니다. 예를 들어, Dossey10는 '눈치채지 못하는 것은 현대 문화에서 느슨한 바이러스'(225쪽)이며, 이는 의료 전문가들에게 사실이라면 환자에게 부정적인 결과를 초래할 것이라고 주장합니다.8 이와 관련하여 Gottlieb14은 '구조 실패'라는 문구는 의료 전문가가 환자의 상태를 악화시키는 '경고 신호'를 알아차리지 못한 결과를 설명하기 위해 의학 용어로 등장했다고 주장합니다. Dossey10는 젊은 의사들이 50년 전의 동시대 의사들보다 신체 검사에 대한 전문성이 떨어진다고 주장하며, Gottlieb14은 환자의 이야기를 듣는 것, 즉 환자가 말하는 것을 알아채는 것 역시 임상적 탐구 도구로서 비슷하게 쇠퇴했다고 말합니다. 이러한 단점에 대한 책임의 일부는 의료 전문가가 감각을 사용하여 알아차리는 것을 방해하는 기술과 임상 테스트에 의존하는 데 기인합니다.7 신경과학자인 수잔 그린필드는 디지털 기술의 사용 증가를 주의 집중 시간 단축, 대인 관계 공감 능력 저하, 의사소통 능력 악화와 연관시켰지만, 이러한 주장은 다른 의료 전문가들에 의해 반박되고 있습니다.16 
Yet competing claims suggest that a focused interest in ‘noticing’ might be timely. Dossey,10 for example, claims that ‘Not noticing is a virus that is loose in modern culture’ (p. 225), which, if true of the health professions, will have adverse outcomes for patients.8 Relatedly, Gottlieb14 argues that the phrase ‘failure to rescue’ appeared as a medical term to describe the consequences of health professionals failing to notice the ‘warning signs’ that lead to patients' conditions deteriorating. Dossey10 further claims that young doctors are less expert in performing physical examinations than their contemporaries of 50 years ago, and Gottlieb14 states that listening to patients' stories, that is, noticing what they say, has similarly declined as a clinical inquiry tool. Part of the blame for these shortcomings is attributed to the reliance on technology and clinical tests, which deters health professionals from using their senses to notice.7 The neuroscientist Susan Greenfield has linked the increased use of digital technologies to shorter attention spans, declining interpersonal empathy and worsening communication skills, although these claims have been disputed by other medical experts.16

정보 수집과 문제 해결을 위해 디지털 기술에 대한 의존도가 높아짐에 따라, 지난 10년 동안 특히 의료 분야에서 위임가능전문 활동의 확산을 통해 보건 전문직 학습자가 감독 없이 할 수 있는 일에 대한 관심이 높아졌습니다.17

  • 학습자가 감독 없이 의료행위를 맡겨서 수행에 대한 직접적인 관찰을 덜 받는다면, 학습자와 감독자 간에 실습에서 발견한 것에 대한 대화가 줄어들 수 있습니다.18
  • 이와 관련하여 연구자들은 자율성을 중시하는 의료 서비스 문화19 와 의료 서비스 제공자에게 효율성을 높여 서비스를 제공해야 한다는 압박(예: 교육 시간 단축 및 보건 전문직 교육 비용 절감 요구20)이 동시에 존재하는 곳에서는 '주목'에 대한 관찰 및 관찰 후 토론 기회가 드물다고 보고합니다.18, 21

코칭, 평가적 판단, 피드백, 반성적 실천 영역의 저자들은 학습자와 수퍼바이저가 '좋은 것'이 무엇이며 이 표준으로 나아가는 방법을 더 잘 이해하기 위한 방법으로 실천에 대한 '주목'을 공유하는 시간을 가질 것을 옹호합니다.22 크리스토스23 가 주장하듯이, 경험은 학습의 토대가 될 수 있지만, '경험을 지식으로 전환하기 위해 포착, 조사, 분석, 고려 및 부정해야 하기 때문에'(161쪽) 학습이 일어나는 것을 보장하지는 않습니다.
Along with this increased reliance on digital technologies to help collect information and solve problems, a focus on what learners in the health professions can do without supervision has received heightened attention over the last decade—particularly in medicine—through the spread of Entrustable Professional Activities.17 If learners receive less direct observation of performance, because they have been entrusted to practice unsupervised, then there may be fewer conversations between learners and supervisors about what they noticed in practice.18 Researchers relatedly report that in health service cultures that value autonomy,19 and where there are concurrent pressures on health providers to deliver services with increasing efficiency (e.g. calls for both shorter training time and reductions in the cost of health professions education20), that opportunities for observation and post-observation discussion of ‘noticings’ are scarce.18, 21 Authors in the domains of coaching, evaluative judgement, feedback and reflective practice advocate for learners and supervisors to have dedicated time to share their ‘noticings’ about practice as a way to better understand what ‘good’ looks like and how to migrate towards this standard.22 As Christos23 argues, experience may be the bedrock of learning, but it does not guarantee that learning will take place, as ‘experience has to be arrested, examined, analysed, considered and negated to shift it to knowledge’ (p. 161).

주목하기는 보건 전문직 교육에서 잠재적으로 유용한 구성요소라고 주장할 때, 우리는 그것이 완전히 새롭거나 이전의 아이디어와 무관하다고 주장하는 것이 아닙니다.5 보건 전문직은 항상 사물을 주목하도록 배워왔으며,2 '주목하기'가 관찰에서 비롯된다고 자명하게 자리매김한다면, 보건 전문직은 전통적으로 앞서 언급한 임상 능력의 전제조건으로 관찰 기술의 교육을 강조해왔습니다. 심리학 문헌에서 주목하기는 의식 이론과 기억 모델24에 등장하며, 바우드와 워커25는 직장에서 사람들이 어떻게 학습하는지에 대한 설명에 '주목하기'를 포함시켰습니다. 그러나 과거에는 개인적 탐구의 한 형태로서 주목하기의 발전보다는 주목해야 할 '사물'(예: 사물, 사건 및 세부 사항) 또는 학습해야 할 관련 지식에 중점을 두는 경향이 있었습니다. 
In making the case that noticing is a potentially useful construct in health professions education, we are not claiming it as entirely novel, nor unrelated to previous ideas.5 Health professionals have always been taught to notice things,2 and if we self-evidently position ‘noticing’ as arising from observation, then the health professions have traditionally emphasised the teaching of observational skills as a prerequisite for the aforementioned clinical abilities. Within the psychological literature, noticing appears in theories of consciousness and models of memory24; and Boud and Walker25 incorporated ‘noticing’ in their explication of how people learn in the workplace. However, past emphasis has tended to be on the ‘thing’ to be noticed (e.g. an object, incident and detail) or the related knowledge to be learned, rather than the development of noticing as a form of personal inquiry.

논문 개요
An outline of the paper

알아차림을 탐구하는 것이 왜 유용한지에 대한 사례를 제시한 후, 기초적인 '교사 알아차림' 문헌에서 논의를 계속하고 알아차림 어휘에 질서를 부여하여 알아차림, 감각화, 반응의 과정과 세 가지 유형의 알아차림을 구분합니다: 일반적, 전문적, 의도적(표 1). 다음으로, 보건 전문직 교육에서 학생들이 복잡한 상황을 특정한 방식으로 바라볼 수 있도록 지각의 틀을 개발하도록 사회화하는 방법을 간략하게 설명합니다. 우리는 이를 '보는 방식'전문적 주목하기라고 부르며 다른 개념과의 유사성에 주목합니다. 우리는 '교사 주목하기' 연구에서 이전 가능한 통찰력을 도출하는 것은 이질성 때문에 문제가 있다고 제안합니다. 우리는 보건 전문직 교육자가 학생들에게 특정한 것을 알아차리도록 가르치기 위해 사용하는 두 가지 광범위한 교수 전략, 즉 '지시적 알아차리기'와 '개방적 알아차리기'를 설명합니다. 우리는 의도적 주목하기의 핵심 과정인 표시하기, 기록하기, 감각화하기, 반응하기의 개요를 설명하고, 의도적 주목하기의 관행에 대해 배우는 것이 보건 전문직 학생들에게 도움이 될 것이며, 이는 학생들이 커리어 전반에 걸쳐 활용할 수 있을 것이라고 제안합니다. 현존하는 증거 기반이 없는 상황에서 의도적 주목하기의 실천을 가르치는 방법을 고려하고, 보건 전문직 학생을 대상으로 시범 운영 중인 모듈에 대해 설명하며, 보건 전문직이 얻을 수 있는 이점에 대해 추측해봅니다. 마지막으로, 보건 전문직 교육에 종사하는 동료들에게 이러한 아이디어의 유용성에 대해 함께 고민하고 토론해 보도록 초대합니다. 

Having made the case for why it might be useful to explore noticing, we continue our discussion in the foundational ‘teacher noticing’ literature and bring some order to the noticing lexicon, differentiating between the processes of noticing, sensemaking and responding and three types of noticing: Ordinary, Professional and Intentional (Table 1). Next, we outline how health professions education socialises students to develop perceptual frameworks so that they view complex situations in particular ways. We call this ‘way of seeingProfessional Noticing and note its similarity to other concepts. We suggest that drawing-out transferable insights from the ‘teacher noticing’ studies are problematic because of their heterogeneity. We describe two broad teaching strategies that health professions' educators employ to teach students to notice particular things: ‘directed’ and ‘open noticing’. We outline the core processes of Intentional Noticingmarking, recording, sensemaking and responding—and suggest that learning about the practices of Intentional Noticing would be of value to health professions students, which they will be able to draw on throughout their careers. In the absence of an extant evidence base, we consider how one might teach the practices of Intentional Noticing, describe a module we are piloting with health professions students and speculate about the benefits for the health professions. Finally, we invite our colleagues in health professions education to contemplate and debate the utility of these ideas.

2 주목하기의 핵심 개념과 과정
2 NOTICING—KEY CONCEPTS AND PROCESSES

'교사 주목하기' 연구는 교육 개혁의 맥락에서 시작되었으며, 이는 교사가 아동이 제기하는 아이디어에 집중하고 그에 따라 교육을 조정하는 특정 수학 교육 방식을 장려했습니다. 아동의 수학적 사고에 집중하는 것은 직관적인 연습이 아니며 교육 경험만으로는 성장할 수 없기 때문에 이러한 연구에서는 교사들이 아동의 수학적 사고에 주목하도록 유도함으로써 필요한 주목(및 감각화) 능력을 습득할 수 있는 전문성 개발 활동을 시도했습니다.2, 28
The ‘teacher noticing’ studies took off in the context of educational reform, which promoted a particular way of teaching mathematics, whereby teachers focus on ideas that children raise and subsequently adapt instruction. As focusing on children's mathematical thinking is not an intuitive practice, nor one that will grow from teaching experience alone, these studies trialled professional development activities to enable teachers to acquire the requisite noticing (and sensemaking) abilities by directing teachers to notice children's mathematical thinking.2, 28

예비 교사의 노티싱29 과 과학교육에서의 '교사 노티싱'27 에 대한 최근의 검토에 따르면, 이러한 초기 연구 이후 학계에서는 노티싱에 대한 일관되지 않은 개념화를 채택하고 서로 다른 이론적 관점으로 작업을 뒷받침해 왔으며, 이러한 과정은 어떤 용어든 주목을 받으면 가속화되는 프로세스이다. 표 2에는 '교사 노티싱' 연구에 사용된 주요 이론적 관점이 나와 있습니다.30
Recent reviews of prospective teachers' noticing29 and ‘teacher noticing’ in science education27 have underscored that, since these early studies, academics have employed inconsistent conceptualisations of noticing and underpinned their work with different theoretical perspectives: a process that accelerated once the term gained traction. Table 2 lists the main theoretical perspectives that have been employed in ‘teacher noticing’ studies.30

이러한 차이에도 불구하고, 수학자이자 수학교사 교육자인 존 메이슨26이 쓴 '주목하기의 훈련'31이라는 부제가 붙은 책과 수학 및 과학교육의 맥락에서 '주목하기 학습'2,32 및 전문적 주목하기28의 개념이 중요한 출판물 중 하나라는 데에는 동의하는 것 같습니다.
Despite these differences, there seems to be agreement that the book written by John Mason26 (a mathematician and educator of mathematics teachers31), subtitled ‘The discipline of noticing’, and the concepts of ‘Learning to Notice’2, 32 and Professional Noticing28—both in the context of mathematics and science education—are amongst the seminal publications.

그림 1은 '주목하기 문헌'을 특징짓는 '개념의 숲'에서 초기 클리어링을 시도한 것으로, 핵심 개념과 프로세스의 틀을 보여줍니다.
Figure 1 is our attempt to create an initial clearing in the ‘conceptual forest’ that characterises the ‘noticing literature’, which illustrates our framing of key concepts and processes.


앞서 언급했듯이 '주목하기'는 자연스러운 행위이며, 일상적인 용어로 '일상적 주목하기',28 '자연적 주목하기'11 및 '일반적 주목하기'라고 다양하게 불리는 사람들이 일상생활을 하면서 관찰하는 것을 말합니다.26 '일반적 주목하기'라는 용어를 사용하면 전문적인 전문성을 구성하는 '전문적 주목하기'와 구별할 수 있습니다.5 
As we mentioned earlier, ‘noticing’ is a natural act, and in day-to-day usage refers to the observations that people make as they go about their lives, variously referred to as ‘everyday noticing’,28 ‘natural noticing’11 and ‘ordinary noticing’.26 Using the term ‘ordinary noticing’ allows us to make a distinction from the ‘specialised’ or Professional Noticing that is a component of professional expertise.5

우리는 타이핑할 때 키가 딸깍거리는 소리나 환자의 바지 색깔과 같이 끊임없이 쏟아지는 감각 정보를 필터링해야 하기 때문에 어떤 요소에 주의를 집중하고 어떤 요소는 무시하며 어떤 요소는 완전히 놓치기도 합니다(즉, 우리가 알아차리는 것과 그렇지 않은 것이 존재합니다26). 이러한 정보를 필터링하는 방법은 개인의 가정, 교육, 과거 경험, 사건에 부여된 의미나 중요성 등 다양한 요소의 영향을 받습니다.14
As we have to filter the constant stream of sensory information, such as the click of the keys as we type, or the colour of a patient's trousers, we focus our attention on some elements, tune-out others and miss some completely (i.e. there are things that we notice and those that we do not26). How we filter this information is influenced by a range of factors, such as a person's assumptions, education, past experience and the meaning or significance attached to an event.14

사람들은 현상을 알아차려야만 현상을 이해할 수 있으며, 이를 통해 대응 여부와 방법을 결정할 수 있습니다.6 알아차림, 감각화, 대응의 과정은 종종 하나의 통합된 움직임으로 동시에 일어나는 것처럼 보이며,28 이러한 과정은 신속하고 상대적으로 무의식적인 전문성을 특징으로 하는 건전한 '순간적' 의사 결정을 뒷받침합니다.33 그러나 이러한 전문가 행동은 일반적으로 느리고 힘들게 시작하여 연습을 통해서만 흐름과 노력이 자연스럽게 이루어지게 됩니다. 신규 보건 전문직 학생의 눈치 채는 능력은, 특히 요구되는 업무가 까다롭거나 임상 배치 환경이 '잡음이 많은' 경우, 그들이 '하는' 일 중 자동화된 것이 거의 없기 때문에 더욱 저하됩니다.34
Only if people notice phenomena can they make sense of them; and in turn decide whether and how they are going to respond.6 The processes of noticing, sensemaking and responding often appear to happen simultaneously in a single, integrated move,28 and they underpin the sound ‘in-the-moment’ decision-making that characterises professional expertise, which is rapid and relatively unconscious.33 However, such expert behaviour typically starts off as slow and effortful, only becoming flowing and effortless through practice. New health professions students' ability to notice is particularly compromised when the tasks asked of them are demanding, or the clinical placement settings are ‘noisy’, because little of what they ‘do’ is automatic.34

이러한 알아차림, 감각화, 반응의 과정이 밀접하게 연결되어 있기 때문에 앞서 언급한 알아차림에 대한 다양한 개념화가 이루어졌습니다. 

  • 일부 저자는 주목하는 것을 사람들이 주의를 기울이는 것으로만 정의했습니다.35
  • 다른 저자는 주목하는 것을 특정 사건에 주의를 기울이고 이해하는 것으로 간주합니다.36
  • 또 다른 저자는 '감각 만들기'를 '해석'으로만 제한하거나, 대응 방법 또는 대응 행위를 포함하는 결정으로 확장하여 개념화하는 방식에 차이가 있습니다.5

As these processes of noticing, sensemaking and responding are closely linked, it has led to the aforementioned differing conceptualisations of noticing.

  • Some authors have defined noticing exclusively as that to which people attend to.35 
  • Others consider noticing to involve attending to particular events and making sense of them.36 
  • Further authors differ on how they conceptualise ‘sensemaking’, either limiting it to ‘interpretation’ or broadening it to include decisions about how to respond or the act of responding.5

이 백서에서는 주목하기, 감각 만들기, 반응하기를 어느 정도 분리하되, 주목하기에서 '가장 큰 비중'을 두는 것이 도움이 된다고 생각합니다. 그러나 그림 1에서 볼 수 있듯이 감각 형성은 보건 전문직 교육에서 중요한 수많은 인지 과정에 그림자를 드리웁니다. 보건 전문직 학생들을 교육하거나 보건 전문직의 실무를 조사할 때, 우리는 그들이 알아차린 것을 어떤 의미로 받아들이는지, 그리고 그러한 감각화가 알아차린 사건에 대응하는 데 어떻게 사용되는지에 관심이 있습니다.29 예를 들어, Sehlbach 등37 은 호흡기 질환 클리닉에서 같은 의사가 불안한 환자 한 명에게는 농담을 사용하여 안심시키고, 대인관계 단서가 다르게 인식되는 다른 환자에게는 유머를 사용하지 않는 방식으로 환자들과의 의사소통을 조정한 것을 보고합니다. 
For our purposes, we think that it is helpful to maintain some separation between noticing, sensemaking and responding, with noticing having the ‘lion's share’ of our attention in this paper. However, as Figure 1 shows, sensemaking casts its shadow over numerous cognitive processes that are important in health professions education. In educating health professions students for professional practice, or investigating health professionals' practice, we are self-evidently interested in what sense they make of what they notice, and how that sensemaking is used to respond to noticed events.29 For example, Sehlbach et al.37 report how the same doctor adjusted his communication with patients in a respiratory disease clinic, using a joke to reassure one anxious patient, but refraining from using humour with another when the interpersonal cues were perceived differently.

3 전문적 노티싱 및 관련 개념
3 PROFESSIONAL NOTICING AND RELATED CONCEPTS

보건 전문직 교육의 핵심은 학생들에게 특정한 것을 알아차리도록 가르치는 것이며, 시간이 지남에 따라 보건 전문직과 고유하게 관련된 방식으로 보고 행동하게 됩니다.27 학생들이 다양한 보건 전문직에 사회화되는 이 과정은 정보를 필터링하는 방법, 따라서 실무자로서 주의해야 할 사항과 정보에 입각한 선택을 하는 방법을 변화시킵니다. 예를 들어, 신생아를 돌볼 때 부모가 아닌 학생 간호사는 생후 2일 된 영아의 대변의 색깔, 농도, 냄새가 어떤지 알기 위해 감각을 다시 훈련해야 합니다.14
At its core, health professions education is concerned with teaching students to notice particular things, which over time results in a way of seeing and behaving that is uniquely relevant to a health profession.27 This process of socialising students to the different health professions changes how they filter information and therefore what they pay attention to as practitioners and how they make informed choices. For example, in caring for a newborn, unless they are already a parent, a student nurse needs to retrain her senses to know what the colour, consistency and odour of a 2-day old infant's faeces is like.14

이러한 시각 방식(전문적 주목)은 다른 학문적 개념과 유사합니다. 예를 들어 굿윈(Goodwin)38은 '전문적 시선'을, 로러(Lawlor)39는 '임상적 시선'이라는 개념을 사용하여 의료 전문가가 세상을 바라보는 특정한 입장을 나타냅니다. 고틀립14은 간호사의 전문적 시선을 설명할 때 이 두 가지를 결합하여 '간호사가 주의를 기울이기로 선택한 대상과 간호사의 에너지, 노력, 행동의 방향을 결정하는 것'(205쪽)이라고 설명합니다. '임상적 시선'은 모든 보건전문직과 짝을 이루어 해당 전문직의 구성원이 상황을 바라보는 특정한 방식을 나타낼 수 있습니다. 신경과 전문의인 리스는 '일을 뒤로하고' 런던 지하철에서 동료 여행객의 생리학을 바라보는 자신의 '신경학적 시선'이 어떻게 작용했는지에 대해 썼습니다.7
This way of seeing—Professional Noticing—is similar to other academic concepts. Goodwin,38 for example, refers to ‘professional vision’, while Lawlor39 uses the notion of ‘clinical gaze’ to signify a health professional's particular stance towards the world. Gottleib14 combines the two in describing nursing's professional gaze, which ‘determines what the nurse selects to attend to and where she then directs her energy, efforts, and actions’ (p. 205). ‘Clinical gaze’ can be paired with any health profession to signify the particular ways in which members of that profession view situations. Lees, a neurologist, writes of his difficulties in ‘leaving work behind’ and how his ‘neurological gaze’ was directed at the physiognomy of fellow travellers on the London Underground, the capital's train network.7

모든 감각으로 알아차리기
Noticing with all our senses

'보는 방식', '전문적 시선', '임상적 시선'이라는 용어는 시각적 이해 방식에 특권을 부여합니다.39 주의 깊게 관찰하는 '관찰'과 같은 용어도 마찬가지로 시각에 특권을 부여하는 경향이 있으며,14 의학 교육자들은 진단 전문성을 향상시키기 위해 '시각적 문해력', 즉 '이미지에서 의미를 찾는 능력'40 (991페이지)을 가르치는 데 많은 투자를 해왔습니다. 예를 들어, 리피 등은 1829년에 그려진 빌헬름 벤츠의 그림인 '슬개골 부위의 부종'을 임상 관찰 능력을 향상시키는 데 어떻게 사용할 수 있는지 설명합니다.41
The terms, ‘way of seeing’, ‘professional vision’ and ‘clinical gaze’, privilege visual modes of understanding.39 A term like ‘observation’—to watch carefully—similarly tends to privilege the visual,14 and medical educators have invested heavily in trying to teach ‘visual literacy’—‘the ability to find meaning in imagery’40 (p. 991)—in order to improve diagnostic expertise. Lippi et al., for example, describe how Wilhelm Bendz's 1829 painting, Svulst i Regio Patellaris (Swelling in the Region of the Patella), can be used to enhance clinical observation abilities.41

일부 의료 전문 분야(예: 방사선학, 병리학, 피부과42)는 시각적 단서에 크게 의존하지만, 시각적 이미지인 이 렌즈를 통해 알아차리는 것을 논의할 때 위험은 다른 네 가지 외부 감각을 사용한 알아차림의 중요성이 소외될 수 있다는 점입니다. 물론 경청은 환자와의 상호작용에서 중요한 능력이지만, 저활동성 장음과 같이 정상 및 비정상적으로 구현된 소리를 듣는 것까지 확장됩니다. 간호사는 환자의 피부를 만져보고 온도질감(예: 뜨겁고 촉촉함)을 느낄 수 있습니다. 환자의 입에서 암모니아 냄새가 나면 만성 신장 질환을 나타낼 수 있습니다. 미각은 당뇨병 진단에 사용되었는데, 17세기 영국의 한 의사는 '꿀이나 설탕이 스며든 것처럼 놀라울 정도로 달콤하다'고 묘사했습니다.43 
Although some health specialties rely heavily on visual cues (e.g. radiology, pathology and dermatology42), a danger in discussing noticing through this lens—another visual image—is that the importance of noticing using the other four external senses is marginalised. Listening is, of course, an important ability in interacting with patients but extends to listening to normal and abnormal embodied sounds, such as hypoactive bowel sounds. A nurse may touch a patient's skin and notice its temperature and texture (e.g. hot and moist). The smell of ammonia on a person's breath may indicate chronic kidney disease. Taste was used to diagnose diabetes, described by a 17th Century English doctor as ‘wonderfully sweet as if it were imbued with honey or sugar’.43

고틀립14은 이러한 외부 감각뿐만 아니라 우리 몸에 무슨 일이 일어나고 있는지, 특히 심장이 뛰고 불안한 느낌과 같은 생각과 감정을 알아차리는 내부 감각에도 주목해야 한다고 말합니다. 일반의의 일화 모음집에는 불안감, 즉 무언가 '옳지 않다'는 느낌을 보고하는 의사들의 사례가 담겨 있습니다. 올란스 등은 '내면의 목소리' 또는 '직감'에 귀를 기울이면 단순한 정보 수집과 연역적 추론으로는 놓칠 수 있는 건강하지 않은 환자(예: 어린이의 심각한 감염)를 식별하는 데 도움이 될 수 있다고 제안합니다.44 엡스타인 등은 의료 전문가가 환자와 상호작용할 때 자신의 (신체적) 감각, 이미지, 느낌, 생각을 확인하는 데 도움이 되는 니모닉 'SIFT'를 제시합니다.45 우리 안에서 일어나는 일에 주목함으로써 외부 세계에서 일어나는 일에 대해 더 잘 이해할 수 있습니다.
As well as these external senses, Gottlieb14 states that health professionals also need to notice internal senses; noticing what is happening to our body, especially noticing our thoughts and feelings (e.g. a racing heart and an uneasy feeling). An edited collection of anecdotes from General Practitioners contains examples of doctors reporting feelings of unease; that something ‘isn't quite right’. Orlans et al. suggest that listening to an ‘inner voice’ or ‘gut feeling’ may help to identify unwell patients (e.g. a serious infection in a child), which simple information gathering and deductive reasoning may miss.44 Epstein et al. offer the mnemonic ‘SIFT’ to help health professionals check their (bodily) Sensations, Images, Feelings and Thoughts when interacting with patients.45 By noticing what is taking place within ourselves, we may better understand what is happening in the external world. 

전문적 알아차리기-주의 사항
Professional Noticing—Caveats

전문적 알아채기에 대한 다양한 용어는 특정 전문직에 대한 이상화된 '존재 방식'을 나타내게 될 수 있으며, 이는 현재 이해되고 있는 '모범 사례'를 상정하여 같은 전문직 구성원 간의 차이를 약화시키고, 보건 전문직 간의 차이를 강조할 수 있습니다. 보건전문직 구성원에게 '고정된 본질'이 있다는 순진한 본질주의에 대한 비난을 피하기 위해, 우리는 특정 보건전문직이 되는 표준이나 보편적인 방법은 없다는 Lawlor39의 주장에 동의합니다. 간호사라고 해서 모두 같은 방식으로 세상을 보는 것은 아니며, 보건전문직 교육이 교육에 참여한 개인의 '존재 방식', 즉 바우드와 워커25가 '경험의 개인적 토대'라고 부르는 것 전체를 재구성하지는 않습니다. 이는 바람직하지도 않습니다. 실제로 우리는 같은 핵심 전문직 내에서도 파편화되어 있음을 인정해야 합니다. 예를 들어, 중환자실 간호사는 수술실의 수술 간호사와는 다른 것을 알아차리도록 훈련받습니다. 또한 서로 다른 의료 전문직 간의 차이점이 강조되는 것에 대응하기 위해서는 이들이 공통된 목표(예: 양질의 의료 서비스)를 공유할 가능성이 높다는 점을 인정해야 합니다.
The different terms for Professional Noticing can come to represent an idealised ‘way of being’ for a particular profession, which envisions ‘best practice’ as it is currently understood and attenuates any differences between members of the same profession and accentuates differences between health professions. In order to head off accusations of naïve essentialism, of suggesting that members of a health profession have a ‘fixed essence’, we agree with Lawlor39 that there is not a standard or universal way of being a particular health professional. Nurses do not all see the world in the same way and health professions education is not going to reshape the entirety of an individual's ‘way of being’ with which they entered their training; what Boud and Walker25 term the ‘personal foundation of experience’. Nor would this be desirable. Indeed, we should acknowledge the fragmentations within the same core profession. An intensive care nurse, for example, is trained to notice different things to a scrub nurse in an operating theatre. And, to counter the accentuation of differences between the different health professions, it should be acknowledged that they are also likely to share some common goals (e.g. quality care).

그러나 이러한 '결함'에도 불구하고 앞서 언급한 개념에는 유용성을 부여하는 '진실'의 핵심이 포함되어 있습니다. 서로 다른 의료 전문직의 구성원들은 서로 다른 지각 체계를 개발할 것이며, 이는 같은 상황에서도 서로 다른 것을 알아차릴 수 있음을 의미합니다. 전문직 간 협력적 진료를 개발하기 위한 이니셔티브는 이러한 다양한 관점의 힘을 활용하고자 합니다.46 
Yet despite these ‘flaws’, the aforementioned concepts contain a kernel of ‘truth’, which gives them utility. Members of the different health professions will develop different perceptual frameworks, which means that they may notice different things in the same situation. Initiatives to develop interprofessional collaborative practice look to harness the power of these diverse perspectives.46

4 전문적 알아차림 개발 - '교사 알아차림' 연구에서 도출한 교훈 도출의 어려움
4 DEVELOPING PROFESSIONAL NOTICING—DIFFICULTIES IN DRAWING LESSONS FROM THE ‘TEACHER NOTICING’ STUDIES

현재, 주로 다른 분야의 '응용 연구'에서 보건 전문직 교육에 대한 핵심적인 실용적 통찰력을 이끌어내는 것은 불가능한 일일 수 있습니다. 20년간의 '교사 눈치 채기' 연구는 앞서 언급한 바와 같이 눈치 채기가 개념화되는 방식이 서로 다른 이질성을 특징으로 합니다. 많은 교육적 개입과 마찬가지로, 노티싱이 연구된 다양한 방식과 개입이 보고된 일관되지 않은 방식 때문에 발표된 연구로부터 확고한 결론을 도출하는 것은 문제가 있습니다.47 이러한 이질성은 아래 등 다양한 요인이 있습니다.

  • 다양한 이론적 관점(예: 인지심리학적, 사회문화적),
  • 연구 대상(예: 예비교사 또는 현직 교사),
  • 개입의 '얼마나' 제공되었는지(예: 교사가 '주목하기' 활동에 소요한 시간, 한 리뷰에서 3시간에서 150시간까지 다양30),
  • 다양한 시간대(예. 예: '단발성' 학습 경험 또는 종단적 학습 경험),
  • 개입의 성격(예: 교사 자신의 수업 맥락 또는 모의 수업 상황의 인공물 사용),
  • 의도한 학습 결과의 차이(예: 주목할 만한 것에 주목하기 및/또는 주목한 것에 대한 추론),
  • 결과 측정 방법(예: 서면 또는 구두 응답) 

물론 '주목의 씨앗'은 생산적이었지만, 그 씨앗이 뿌려진 특정한 '연구 영토'가 다양한 결과물을 낳았고, 이는 '백 송이 꽃을 피우는 것'에 해당하는 연구였습니다. 
At present, highlighting key practical insights for health professions education from what is primarily ‘applied research’ from another field may be an impossible task. The two decades of ‘teacher noticing’ research are characterised by heterogeneity, such as the aforementioned differing ways that noticing has been conceptualised. Like many educational interventions, drawing firm conclusions from the published research is problematic, because of the diverse ways in which noticing has been researched and the inconsistent ways in which interventions have been reported.47 This heterogeneity is marked by

  • different theoretical perspectives (e.g. cognitive psychological and sociocultural),
  • whom has been studied (e.g. pre-service or in-service teachers),
  • ‘how much’ of the intervention has been delivered (e.g. the number of hours teachers spent on ‘noticing’ activities, ranging from three to 150 hours in one review30),
  • differing timespans (e.g. ‘one shot’ learning experiences or longitudinal ones),
  • the nature of the intervention (e.g. using artefacts from teachers own teaching context or simulated teaching situations),
  • differing intended learning outcomes (e.g. attending to what is noteworthy and/or reasoning about what has been noticed),
  • how outcomes are measured (e.g. written or verbal responses), and so on.

Certainly, the ‘noticing seed’ has been productive, but the particular ‘research terroir’ in which it has been sown has resulted in diverse products; a research equivalent of ‘letting a hundred flowers blossom’.

따라서 주목 능력을 개발하는 구체적인 학습 경험에 대해 알아내기 위해 해야 할 일이 있지만, 보건 전문직 교육은 수학 및 과학 교사의 전문성의 중요한 구성 요소로서 주목 능력을 받아들이고 전문성 개발 활동에 예비 및 현직 교사를 참여시키는 것이 주목 능력의 변화와 향상으로 이어진다는 점을 기반으로 구축할 수 있습니다.27, 29, 48, 49
So, although there is work to be done to learn about the specific learning experiences that develop noticing abilities, health professions education can build on the acceptance of noticing as a crucial component of mathematics and science teachers' expertise and that engaging pre-service and in-service teachers in professional development activities leads to changes and improvement in noticing abilities.27, 29, 48, 49

보건 전문직 교육에서의 '지시적' 및 '개방적' 노티싱
‘Directed’ and ‘open noticing’ in health professions education

앞서 언급한 바와 같이, 보건 전문직 교육의 대부분은 흑색종을 암시할 수 있는 피부 병변의 특징과 같은 특정 사항을 학생들이 알아차리도록 지도하는 것과 유사합니다.50 학생들에게 특정 사항을 알아차리도록 지도하는 것은 임상 실습, 섀도잉 및 시뮬레이션과 같은 활동 중에 교육자가 활용하는 '지시적 또는 집중적 주목'이라고 부르는 교수 전략의 한 예입니다.
As previously stated, much of health professions education is similarly concerned with directing students to notice particular things, such as the features of skin lesions that may be suggestive of a melanoma.50 Directing students to notice particular things is an example of a teaching strategy that we refer to as ‘directed or focused noticing’, which is utilised by educators during activities such as, clinical placements, shadowing and simulations.

또 다른 교수 전략은 '개방적 주목하기'로, 앞서 언급한 연구에서 임상 교육자가 일반 진료 동료가 강의하는 비디오 발췌본을 시청한 후 '무엇을 주목했습니까?"라는 질문을 받은 것처럼 학습자가 자신에게 눈에 띄는 '무엇'을 표현하도록 하는 것이 목표입니다.1 이 질문은 '무엇이든 상관없다'는 정신에서 묻는 것이 아니라 질문이 제기된 맥락에 따라 제한됩니다. 이 경우 참가자들은 전문성 개발의 일환으로 자신의 교육 관행에 대해 질문했습니다. 이 접근 방식의 두 가지 장점은 참가자들이 서로 다른 것을 알아차리고, 이를 통해 참가자들이 '소유'하는 풍부한 '의제'를 생성할 수 있다는 것입니다.
Another teaching strategy is ‘open noticing’, where the aim is to get learners to articulate ‘things’ that stand out for them, as in the aforementioned study where clinical educators watched video excerpts of their general practice colleagues teaching and were subsequently asked, ‘What did you notice?’.1 The question is not asked in the spirit of ‘anything goes’ but is bounded by the context in which the question was posed. In this instance, the participants were inquiring into their teaching practices as part of their professional development. Two advantages of this approach are that participants notice different things, which creates a rich ‘agenda’ that is ‘owned’ by the participants.

개인적 질문의 한 형태로서의 주목하기
Towards noticing as a form of personal inquiry

'지시적 주목'과 '개방적 주목'이라는 용어는 새로운 것을 설명하는 것이 아님이 분명합니다. 의학교육자들은 오랫동안 특정 기능에 학습자의 주의를 집중시키는 활동과 규정된 과제를 선택하고24 학생들이 살펴보기를 원하는 특징을 지적하거나, 지나치게 단순화할 위험이 있지만, 학습자 중심의 접근 방식을 사용하여 학생들이 학습 과정과 학습의 초점을 더 잘 제어할 수 있도록 했습니다(예: '무엇이 눈에 띄었나요?' 질문하기). 교수학습 전략을 선택하고 특정 내용을 가르치는 것은 모든 커리큘럼의 핵심 요소입니다.51 그러나 의학교육자들은 [의도한 성과]가 일반적으로 보건 전문직 학생들이 학습자로서 자신을 인식하게 하는 것과는 거의 관련이 없기 때문에, 특정 전략이나 절차를 사용하는 근거를 학생들과 공유하지 않으며, 학생들이 학습하는 방식과 관련된 병행 목표를 포함하지 않습니다. 최근에는 보건 전문가가 방대한 분야의 지식을 습득하고 실무에 필요한 핵심 기술을 배양하기를 기대하는 것 외에도 평가 판단력53 및 피드백 리터러시54와 같은 학습 성향을 졸업 성과로 개발하는 방향으로 전환되고 있습니다. 우리는 의료 전문가가 정규 교육 과정에서 마지막 유형의 주목하기인 의도적 주목하기를 통해 주목 능력을 개발하는 것이 이러한 졸업 성과에 더해져 의료 분야에서 경력을 쌓는 동안 유용하게 사용될 수 있을 것으로 추측합니다. 
The terms ‘directed noticing’ and ‘open noticing’ are self-evidently not describing something new. Medical educators have long selected activities and prescribed tasks that focused learners' attention on particular features24 and pointed out characteristics that they wanted students to look at, or—at the risk of over simplification—used a more learner-centred approach to give students greater control over the learning process and the focus of learning (e.g. by asking, ‘What stood out for you?’). Selecting teaching and learning strategies and ensuring that particular content is taught are core elements of any curriculum.51 However, medical educators do not typically share their rationale for using particular strategies or procedures with students, as the intended outcomes generally have little to do with making health professions students aware of themselves as learners, that is, include parallel objectives related to how students are learning. More recently, there has been a turn towards developing learning dispositions as graduate outcomes,52 such as evaluative judgement53 and feedback literacy,54 in addition to expecting health professionals to learn large bodies of disciplinary knowledge and cultivate key skills for practice. We surmise that developing health professionals' noticing abilities during their formal education, through the last of our types of noticing—Intentional Noticing—could be a valuable addition to these graduate outcomes, which will have utility for the duration of a career in health care.

5 의도적 노티싱
5 INTENTIONAL NOTICING

존 메이슨은 '노티싱의 아버지'로 불렸지만, 아마도르 외29 는 그들의 검토에서 그의 연구를 자신의 연구에 중심적으로 배치한 연구는 거의 없다고 지적했습니다. 우리는 메이슨의 '주목하기'에 대한 보다 광범위한 접근 방식26을 뒷받침하는 관행이 의도적 주목하기[일반적인 능력이자, 전문성 개발을 위한 가치 있는 접근 방식]으로 육성할 수 있는 수단을 제공한다고 주장합니다. 전문성 개발을 강조할 때, 우리는 보건의료 전문가가 공식 교육을 마친 후에도 이러한 관행이 유용할 것이며, 개인이 전 생애에 걸친 경험을 통해 학습하는 과정을 의미하는 '평생 학습'을 강화할 것이라고 제안합니다.55 따라서 의도적 주목하기의 기반이 되는 관행을 사용하여 자신의 '일상적 주목하기'와 보건의료 전문가로서 주목하게 된 것(즉, 전문적 주목하기의 습관) 모두를 개인적인 질문의 대상으로 만들 수 있습니다. 전자의 예로, 파트너와의 타협에 대해 분노를 느낄 수 있으며, 이러한 감정을 알아차리는 데 집중하고 관련 의사 결정에 대해 숙고하게 될 수 있습니다. 그림 2는 의도적 눈치채기의 주요 프로세스를 간략하게 설명하고 잠재적인 결과를 제시합니다.
Although John Mason has been referred to as ‘the father of noticing’, Amador et al.29 noted that few studies in their review positioned his work centrally to their own. It is our contention that the practices that underpin Mason's26 more expansive approach to ‘noticing’ provide a means to foster Intentional Noticing as a generic ability and a worthwhile approach to professional development. In emphasising professional development, we are suggesting that the practices will remain useful once health professionals have completed their formal education and augment ‘lifelong learning’, by which we mean the processes by which individuals learn from experiences across their lifespans.55 Thus, one can use the practices that underpin Intentional Noticing to make both one's ‘ordinary noticing’, and what one has come to notice as a health care professional (i.e. the habits of Professional Noticing), the subject of personal inquiry. As an example of the former, you may feel resentment about the compromises you are making with your partner, which could lead to focusing on noticing these feelings and subsequent deliberation of the related decision-making. Figure 2 outlines the key processes of Intentional Noticing and proposes potential outcomes.

앞서 언급했듯이, 우리는 경험의 대부분을 그냥 지나치기 때문에 더 발전시키기 위해 활용하지 않습니다.26 슈미트는 이것이 근본적으로 우리의 제한된 기억 시스템의 결과이며, 단기 기억으로 처리되지 않은 것은 영원히 손실되고, 단기 기억에 저장된 것도 손실되지 않으려면 장기 기억으로 부호화해야 한다고 말합니다.24 메이슨의 '표시'와 '기록' 관행을 통해 누군가의 말처럼 우리가 중요하다고 생각한 것을 나중에 추가 분석을 위해 접근할 수 있습니다
As we noted earlier, much of our experience passes us by and is therefore not drawn upon for further development.26 Schmidt states that this is fundamentally a consequence of our limited memory system, for anything that is not processed into short-term memory is forever lost, and once in short-term memory, it must be further encoded into long-term memory if it is also not to be lost.24 Mason's practices of ‘marking’ and ‘recording’ allow something that we noticed as significant, for example, something someone said, to be accessed later for further analysis.

'정신적 메모'를 하거나 동료에게 '어머, 그거 흥미로운 말이었어'라고 언급하는 것은 나중에 심의할 때 '데이터'로 활용할 수 있는 가능성을 높입니다.  따라서 댓글을 무심코 지나칠 때보다 더 큰 에너지를 필요로 하기 때문에 더 높은 수준의 주의가 요구됩니다. 사건을 재빨리 조사하지 않으면 발언의 세부 사항을 놓칠 수 있으므로, 메이슨26은 가능한 한 빨리 '짧지만 생생한' 기술 메모를 작성하여, 기록을 통해 사건을 재입력하고, 분석에 활용하며, 향후 행동에 어떤 결과가 초래될 수 있는지 생각할 수 있도록 해야 한다고 주장합니다. (메이슨은 이러한 즉각적인 기록을 기술적으로 유지함으로써 성급한 설명과 이론화를 피할 수 있다고 말합니다.) 사건을 분석하고 이해함으로써 향후 유사한 상황에서 대응할 수 있는 방법을 늘릴 수 있습니다. 단순히 과거를 돌아보며 '이렇게 할 수도 있었어'라고 말하는 것이 아니라, 미래를 내다보며 '다음에 이런 상황이 발생하면 이렇게 해야지'라고 말하거나, 여러 가지 가능한 행동 중에서 '(다음엔) 이렇게 하는 것'의 가능성을 최소한으로라도 떠오르게 하는 것이 중요합니다. 상자 1은 의도적 주목하기 단계의 실행 예시를 보여줍니다.
Making a ‘mental note’, or perhaps remarking to a colleague, ‘Gee, that was an interesting comment’, makes what was said more likely to be available as ‘data’ for subsequent deliberation. As such, it is a heightened form of noticing because it requires greater energy than if we gave the comment only casual attention. Unless we interrogate that incident quickly, we may lose the detail of what was said, and thus, Mason26 advocates making ‘a brief-but-vivid’ descriptive note as soon as possible, so that through the record, we can re-enter the incident, use it for analysis and think about what consequences there might be for our future behaviour. (In keeping these immediate records descriptive, Mason suggests that we can avoid premature explaining and theorising.) It is in analysing the incident, of making sense of it, that we increase the ways that we might respond in similar circumstances in the future. The point is not simply to look back and say ‘I could have done this’, but to look forward, to say, ‘Next time I notice this situation, I'm going to do this’, or minimally have the possibility of ‘doing this’ come to mind amongst a range of possible actions. Box 1 gives an example of the Intentional Noticing stages in action.


박스 1. '무엇을 알아차렸나요?': 실제 '의도적 노티싱'
Box 1. ‘What did you notice?’: ‘Intentional Noticing’ in practice

우리가 몇 번 언급했던 GP 임상 교육자 회의에서 참가자들은 참가자 중 한 명이 GP 수련생과의 상담에 대해 논의하는 비디오 녹화를 보고 있었는데, 그 수련생은 12살 아들과 단둘이 이야기할 수 있도록 어머니에게 상담실에서 나가달라고 요청했습니다. 그는 연수생에게 '어떻게 그렇게 했나요? 무슨 말을 했나요? 어떤 언어를 사용했나요?'라고 물었습니다. 특히 마지막 문장인 "어떤 언어를 사용했나요?"라는 문장은 다른 참가자 중 한 명이 '주목하기'로 선택되었습니다. 그는 이 문구에 '표시'를 하면서 자신에게 익숙하지 않고 유용하다고 생각되는 '잘 표현된 질문'이라며 그룹과 토론할 수 있도록 제안했습니다. 
In a meeting of the GP clinical educators that we have referred to a couple of times, the participants were watching a video-recording of one of the participants discussing a consultation with a GP-trainee, where the trainee had asked a mother to leave the consulting room so that she could talk with her 12-year-old son alone. He asks the trainee, ‘How did you do that? What did you say? What language did you use?’ This utterance, particularly the last sentence, ‘What language did you use?’, was picked-up as a ‘noticing’, by one of the other participants. In ‘marking’ the phrase, he offered it up for discussion with the group as a ‘well-phrased question’ that was unfamiliar to him and he thought useful.

참가자들은 4분 분량의 동영상 발췌본을 받았기 때문에 개별 구성원에게 두드러진 '주목할 만한 점'을 기록할 수 있는 특권을 가졌습니다. 이 발언, 즉 감각 만들기에 대해 논의할 때 그룹은 질문 문구가 연수생의 정확한 말을 이끌어내는 데 도움이 되었고, 다른 문구의 질문으로는 얻을 수 없었을 수도 있는 그녀의 연습에 대한 진솔한 설명을 이끌어냈다고 생각했습니다. 회의 말미에 참가자들에게 앞으로의 강의에 어떤 '배움'을 접목할 것인지, 즉 새로운 미래의 응답을 말하도록 요청했을 때, 이 발언을 눈여겨본 참가자는 질문이 연수생의 정확한 언어를 이끌어낸 방식에 주목하며, '다음번에는 연수생에게 상호작용에서 어떤 언어를 사용했는지 꼭 물어보고 더 잘 이해하도록 해야겠다'는 말을 덧붙였습니다. 

The participants were privileged in this setting, in that they had been given a transcript of the 4-minute video excerpt, so they had a record of any ‘noticings’ that were salient for the individual members. In discussing this utterance—the sensemaking—the group thought the phrasing of the question was instrumental in eliciting the trainee's exact words, and in doing so had drawn out an authentic account of her practice, which might not have been achieved by a differently phrased question. At the end of the meeting, where the participants were asked to state what ‘learnings’ they were going to incorporate into their future teaching—a new future response—the participant who had noticed the utterance flagged the way in which the trainee's precise language had been elicited by the question and added, ‘Next time, I think I'll definitely ask my trainees what language did they use in the interaction to get a better understanding’.


 

'마킹'이 보건 전문가에게 중요한 관행인 이유 중 하나는 그들이 '하는 일'의 대부분이 역동적인 의료 환경에서 이루어지며, 이는 '교사의 주목'에 대한 연구의 초점이었던 지각적으로 '시끄러운' 교실 환경과 유사하기 때문입니다.27 '사건'을 당시 눈에 띄는 것으로 표시하고 이후 기록하지 않으면 손실될 가능성이 높습니다. 또한 보건 전문가는 다르게 행동할 수 있는 가능성을 갖기 위해 스스로 알아차릴 수 있는 '순간적' 상황을 인식하는 능력이 필요한데, 이를 '맥락에서 알아차림'3 또는 '실천에서 알아차림'이라고 표현합니다.34 다른 의도적 알아차림 단계와 마찬가지로 이 능력은 유능한 보건 전문가의 업무를 특징짓는 자동 처리에 약간의 혼란이 필요하므로 신중한 접근 방식이 필요합니다.24 
One reason that ‘marking’ is an important practice for health professionals is that much of what they ‘do’ takes place in dynamic health care environments, which parallel the perceptually ‘noisy’ classroom environments that were the focus of the research into ‘teacher noticing’.27 Unless ‘incidents’ are marked as salient at the time, and subsequently recorded, they are likely to be lost. Health professionals also need the ability to recognise the ‘in-the-moment’ situations that they have primed themselves to notice in order to have the possibility of acting differently, expressed as the ability to ‘notice in context’3 or ‘notice in practice’.34 Like the other Intentional Noticing stages, this ability requires deliberate approaches to practice as it requires some disruption of the automatic processing that characterises the work of competent health professionals.24

6 의도적 주목하기 실습을 가르치기 위한 가능성
6 POSSIBILITIES FOR TEACHING THE PRACTICES OF INTENTIONAL NOTICING

그렇다면 의도적 주목하기의 실천을 어떻게 발전시켜 보건전문직 학생들이 자신의 전문적, 개인적 실천을 탐구하는 '마음의 습관'이 될 수 있도록 할 수 있을까요? 이 질문에 답하는 것은 우리가 그러한 성향을 개발하는 데 좋은 사례를 만들었다고 생각하는 경우에만 필요하다는 점에 유의하십시오. 안타깝게도 의도적 주목의 실천을 가르치는 것은 보건 전문직 교육에서 새로운 시도이며, 수학 및 과학 맥락에서 발견한 결과를 옮길 때 약간의 주의가 필요하기 때문에 즉각적이고 직접적으로 관련된 연구 증거가 존재하지 않습니다. 새로운 아이디어의 효과 여부를 입증하는 데 필요한 증거가 혁신에 비해 뒤처지는 경우가 많습니다. 
So how might we develop the practices of Intentional Noticing so that they become a disposition for health professions students, that is, a ‘habit of mind’ to inquire into one's own professional and personal practices? We note that answering this question is only necessary if you think that we have made a good case for developing such a disposition. Unfortunately, because teaching the practices of Intentional Noticing is novel in health professions education, and some caution is required in transferring the findings from the mathematics and science contexts, there is not an immediate, directly related body of research evidence on which to draw. As is the case, the evidence that one requires to show whether a novel idea is effective (or not) lags behind the innovation.

이 백서의 개념적 작업은 보건 전문직 교육에서 의도적 주목의 실천을 발전시킬 수 있는 교육 형태를 식별하기 위한 전제 조건으로 간주합니다.51 이 개념적 작업은 3개 보건 전문직 학생들과 함께 시범 운영 중인 새로운 모듈을 뒷받침하며, 이 모듈은 학생들이 협력적 실무에 필요한 학문적 지식과 기술, 의도적 주목의 실천을 모두 주목할 수 있는 능력을 개발하도록 설계되었습니다(박스 2).
We see the conceptual work in this paper as a prerequisite for identifying the forms of instruction that might develop the practices of Intentional Noticing in health professions education.51 This conceptual work underpins a new module that we are piloting with students from three health professions, which has been designed to develop students' abilities to notice both the disciplinary knowledge and skills required for collaborative practice, and the practices of Intentional Noticing (Box 2).


상자 2. 성향으로서의 의도적 주목하기: 파일럿 모듈
Box 2. Engendering Intentional Noticing as a disposition: A pilot module

'협업 실습을 위한 노티싱'은 학생들이 협업 실습(주제)에 대해 배우는 파일럿 모듈로, 의도적 노티싱을 병행하여 개발할 수 있는 수단을 제공합니다(또한 주제이기도 합니다). 이 온라인 대화형 모듈은 학습자에게 세 가지 형태의 노티싱을 소개한 다음, 전문가 간 팀 기반 상호작용을 녹화한 동영상을 시청하면서 의도적 노티싱에 참여하도록 요청합니다. 교육 개발자는 학습자가 입력한 반응(또는 '표시')에 대한 답을 제공하지 않았는데, 이는 학습자가 자신의 '노티싱'을 교정할 수 있는 '정답'을 제공하지 않겠다는 약속에 따른 것입니다. 오히려 임상의, 교육자 및 연구자(모듈 개발 팀의 일부)가 비디오 '데이터'에서 이러한 인상을 형성하는 데 있어, 자신이 누구이며 어디에서 왔는지에 대한 설명과 함께 자기자신의 '노티킹'을 예시로 제공했습니다. 이러한 방식으로 의도적 주목하기의 취지에 맞게 학습자가 [주변의 단서를 해석하는 다양한 방법]이 있다는 것을 이해할 수 있기를 바랐습니다. 후속 활동에서 학습자는 실제 의료 현장 환경(임상 배치의 일부)에서 전문가 간 협업 실습을 관찰하고, 관찰한 팀원 중 학생과 다른 전문 분야 출신인 팀원과 함께 자신의 '주목'에 대해 토론합니다. 학생은 이 디브리핑 대화에서 나온 '표시'를 사용하여 관찰 과정과 이를 통해 알게 된 내용에 대한 비판적 설명을 작성합니다.  
‘Noticing for collaborative practice’ is a pilot module where students learn about collaborative practice (the subject), which provides the vehicle for developing Intentional Noticing in parallel (also the subject). The online, interactive module inducts the learner to the three forms of noticing and then asks them to engage in Intentional Noticing through watching a video-recording of an interprofessional team-based interaction. The educational developers have not provided answers in response to learners' entered reactions (or ‘markings’), as the commitment was to not provide the ‘right’ answer by which learners could calibrate their own ‘noticings’. Rather clinicians, educators and researchers (part of the module development team) provided their own ‘noticings’ as examples, with a statement about who they are and where they were coming from in forming these impressions from the video ‘data’. In this way, true to Intentional Noticing, we hoped that learners might come to an understanding that there are multiple ways of interpreting cues around them. In a subsequent activity, learners observe an interprofessional collaborative practice encounter in an authentic health workplace setting (part of their clinical placement) and discuss their ‘noticings’ with a member of the observed team, but who is from a different professional discipline to that of the student. The student uses the ‘markings’ from this debriefing conversation and writes a critical account of the noticing process and what it revealed for them.


탄탄한 증거 기반이 없다면, 논문의 아이디어와 모듈의 개발 및 평가는 해머슬리의56 '헌신적인 실용 연구'라는 개념과 연결될 수 있는데, 여기서 초기 개념 작업은 '주목하기'를 조작화하고 모듈을 개발하는 즉각적인 실용 문제에 직면한 교육자에게 필요했습니다. 이 단계에서 세 가지 유형의 '주목하기'를 구분하는 것은 실용적인 가치를 가졌습니다. 교육적 휴리스틱으로서, 이 정의를 통해 우리는 보건 전문직 학생 및 학생들의 학습 개선에 이해관계가 있는 다른 동료들과 함께 '주목하기'의 유형에 대해 논의하고 조사를 시작할 수 있었습니다.
Without a solid evidence base, the ideas in the paper and the development and evaluation of the module can be linked to Hammersley's56 notion of ‘dedicated practical research’, where the initial conceptual work was needed by the educators who were faced with the immediate practical problem of operationalising ‘noticing’ and developing the module. At this stage' distinguishing between the three types of ‘noticing’ has had practical value. As educational heuristics, the definitions have allowed us to discuss and begin investigating the types of ‘noticing’ with health professions students and other colleagues with a stake in improving students' learning.

현재 우리의 생각은 의도적 주목하기의 실천을 독립된 모듈로 가르칠 것이 아니라 나선형 커리큘럼처럼 교육 프로그램에 통합하여57 전체 프로그램에 걸쳐 성향 형성이 이루어지도록 해야 한다는 것입니다. 파일럿 모듈의 평가는 콘텐츠의 매력, 교수학습 활동, 의도적 고지의 관련성에 대한 인식에 대한 몇 가지 유용한 정보를 제공할 것입니다. 이는 의도적 알림의 유용성에 대한 증거를 제공하기 위한 첫 번째 작은 단계입니다.
Our current thinking is that the practices of Intentional Noticing should not be taught in a stand-alone module but should be woven into an educational programme, as in a spiral curriculum,57 so that building the disposition happens over the entire programme. The evaluation of our pilot module will provide some useful information about the appeal of the content, the teaching and learning activities, as well as the perceived relevance of Intentional Noticing. This is our first small step on the road to providing evidence for the utility of Intentional Noticing.

앞서 임상 배치 환경이 새로운 보건 전문직 학생들에게 '시끄러운' 환경이라는 점을 언급한 점을 고려할 때, 보건 전문직 학생들에게 작업장 밖에서 의도적 노티싱에 대해 가르치는 동시에 이 콘텐츠가 실습 환경에서 일어나는 일과 통합되도록 하는 것이 초기에는 몇 가지 이점이 있다고 생각합니다. 노티싱에 대해 인용된 연구와 노티싱에 대한 교육은 대부분 '실무 환경'의 요구와 무관하게 이루어졌습니다. [임상 실무로부터 도출할 수 있는 능력]은 보건학 전공 학생과 실무 보건 전문가 모두에게 의도적 노티싱의 실천을 발전시키는 데 중요한 활동이 될 것입니다. [실제 결과를 초래하는 행동을 취하지 않고, 좀 더 여유로운 환경에서 알아차린 것을 논의할 수 있는 것]은 실습 환경과 비교하면 인위적인 상황이지만, 무엇을 알아차리고 무엇을 놓쳤는지 탐색하고, 결정적으로 '순간에 알아차리기'를 훈련하기 위해서는 반성할 시간을 갖는 것이 필수적입니다.26 예를 들어, 시뮬레이션 중 학생이 주도적으로 잠시 멈춰서('타임아웃') 시뮬레이션 후 디브리핑에만 의존하지 않고 중요하다고 생각하는 '주목'을 고려하도록 하는 것은 유용한 활동이 될 수 있습니다.58
Given our earlier remarks about clinical placement settings being ‘noisy’ environments for new health professions students, we think that there are some initial advantages in teaching health professions students about Intentional Noticing away from the workplace, while at the same time making sure that the content is integrated with what happens in practice settings. Much of the cited research about noticing, and education about noticing, similarly took place away from the demands of the ‘practice setting’. Being able to draw back from clinical practice is likely to be an important activity for developing the practices of Intentional Noticing for both health professions students and practising health professionals. Although being able to discuss what you noticed in a more leisurely environment and without having to take actions that have real consequences is an artificial situation in comparison with the practice environment, having time to reflect is essential in order to explore what was noticed, what was missed and crucially to train oneself to ‘notice in-the moment’.26 For example, allowing student-initiated pauses during simulations (‘time-outs’) to consider the ‘noticings’ that they consider important, rather than relying solely on post-simulation debriefing, may be a useful activity.58

'오래된 와인' 그 이상: 연구 및 실습 확장
More than ‘old wine’: Extending research and practice

앞서 언급했듯이 이러한 교수 학습 활동은 앞서 언급한 '새 술은 새 부대에 담는다'는 암묵적인 책임과 함께 반성-내면화 및 행동화와 같은 다른 교육 개념을 떠올리게 할 수 있습니다. 메이슨26은 '성찰'이 경험을 통한 학습을 전면에 내세우는 여러 모델에 등장하는 용어일 뿐만 아니라, 잘 수행되는 것보다 더 많이 회자되는 용어라고 주장합니다. 의도적으로 주목하기 위해서는 각 단계마다 추가적인 에너지가 필요하며, 이는 일부 사람들에게 장벽으로 여겨질 수 있습니다. 새로운 교육 및 학습 접근 방식과 함께 언어의 변화는 다른 사람들에게서 육성하기 어려웠던 '성찰적 실천가'의 관행을 발전시키는 데 도움이 될 수 있습니다. 우리의 경험에 따르면 '알아차리기' 어휘는 일상 언어에 쉽게 녹아들고 직관적인 매력을 지니고 있는 것 같습니다
As before, these teaching and learning activities may evoke other educational concepts, such as reflection-in and on-action, with the aforementioned implicit charge of ‘old wine in new bottles’. Mason26 observes that ‘reflection’ is a term that not only appears in a number of models that foreground learning from experience but also claims that it is more talked about than done well. It should be apparent that Intentional Noticing requires resolve, with each stage requiring additional levels of energy, which some people may see as a barrier. A change of language, with new teaching and learning approaches, may help to develop the envisioned practices of the ‘reflective practitioner’, which have been hard to foster in other people. Our experience is that the ‘noticing’ lexicon has slipped easily into our everyday language and seems to have an intuitive appeal.

의도적 주목하기는 의료 전문가가 공식적인 교육을 마친 후 자신의 전문적 관행을 발전시키거나 활성화하는 데 사용할 수 있습니다. 이미 확립된 습관 중 일부는 행동이 일반적인 표준에서 벗어났거나 표준 자체가 변경되어 더 이상 모범 사례에 부합하지 않기 때문에 면밀히 조사하는 것이 도움이 될 수 있습니다. 예를 들어, 보건 전문직 학생들은 환자의 존엄성 침해와 같은 의료 전문가의 비전문적 행동을 목격했다고 보고하는데,59 가해자는 이에 대해 다시 민감하게 반응해야 합니다. 개인적인 질문의 한 형태인 '의도적 주목하기'는 '사회 정의' 문제에 대한 현대의 초점이 강조하고자 하는 일부 의료 관행을 뒷받침하는 해로운 가정에 대한 의문을 제기하는 것으로 이어질 수 있습니다. 예를 들어, 노티싱을 개념화하는 방법의 연장선상에서 루이는 수학 교사의 노티싱을 분석할 때 '공평한 노티싱'이라는 개념을 사용하여 문화와 이데올로기를 전면에 내세웁니다.60 
Intentional Noticing can be used by health professionals to develop or reinvigorate their professional practice once their formal training has been completed. Some of their established habits may benefit from being scrutinised, perhaps because they are no longer align with best practice, either because their behaviours have drifted away from accepted standards or the standards themselves have changed. For example, health professions students report witnessing unprofessional behaviours from health professionals, such as breaches of patient dignity,59 which the perpetrators should be resensitised to notice. As a form of personal enquiry, ‘Intentional Noticing’ may lead to the questioning of the harmful assumptions that underpin some health care practices, which the contemporary focus on issues of ‘social justice’ have sought to highlight. For example, in a further extension of how noticing is conceptualised, Louie uses the concept of ‘equitable noticing’ to foreground culture and ideology in her analysis of mathematics teachers' noticing.60

7 결론
7 CONCLUDING COMMENTS

이 논문의 서문에서 밝히고 있듯이, 의료 전문가가 주목하는 것은 자명하게도 중요하며, 주목은 모든 진료의 핵심입니다. 수학과 과학교육 문헌의 연구에 자극을 받아, 우리는 보건 전문직 교육에서 유용하다고 생각되는 '알아차리기'의 유형을 구분했습니다. '유형학'을 설명함으로써 우리는 전문적 주목의도적 주목이 어떻게 가르치거나 장려될 수 있는지에 대한 예를 제공하고, 후자의 관행을 명시적으로 가르치는 것에 대한 사례를 만들었습니다. 생각을 공유할 때, 결과적으로 더 중요한 목표는 우리 생각의 주제를 동료들로부터 비평받는 것입니다. 유용성이 있나요? 단순히 다른 사람들이 제시하는 접근 방식에 대한 참신한 '테이크'일 뿐인가요? 우리는 이러한 아이디어가 '다리가 있다'고 생각하며, 서비스 제공 압력, 디지털 혁신, 독립성에 대한 관심이 높아지면서 주목받는 것이 변화하고 우리의 '주목'을 되돌아보고 토론할 시간이 부족한 이 시점에 보건 전문직 교육 커뮤니티 내에서 더 많은 관심을 불러일으키기를 바랍니다. 아마도 '교사의 주목하기'의 경우처럼, 이 아이디어는 보건 전문직 교육자와 연구자들이 자신의 업무를 재구상하는 데 도움이 될 수 있으며,5 보건 전문가들이 주목하는 능력을 연마하여 주변에서 일어나는 일을 더 잘 인식하고 자신의 내부에서 일어나는 일에 더 잘 적응할 수 있도록 도울 수 있을 것입니다. 

What health professionals notice is self-evidently important and as the paper's epigraph declares; noticing lies at the heart of all practice. Galvanised by research from the mathematics and science education literature, we have differentiated between types of ‘noticing’ that we think have utility in health professions education. Through explicating a ‘typology’, we have provided examples of how Professional Noticing and Intentional Noticing might be taught or encouraged and made the case for explicitly teaching the practices of the latter. In sharing our thinking, the resultant, and more important aim, is to have the subject of our ideas critiqued by our peers. Do they have utility? Are they simply a novel ‘take’ on approaches put forward by others that do the job just as well? We think that the ideas ‘have legs’ and we hope that they will spark wider interest within the health professions education community at a time when service delivery pressures, digital innovation and a heightened focus on independence have combined in such a way that what is noticed has changed, and time to reflect on and discuss our ‘noticings’ is at a premium. Perhaps, as was the case for ‘teacher noticing’, the ideas may help health professions educators and researchers reimagine their own work,5 as well as help health professionals sharpen their noticing abilities, so that they can become more aware of what is happening around them and more attuned to what is going on within them.


Med Educ. 2023 Apr;57(4):305-314. doi: 10.1111/medu.14978. Epub 2022 Nov 29.

'Noticing' in health professions education: Time to pay attention?

Affiliations collapse

1Faculty of Medicine, Dentistry and Health Sciences, University of Melbourne, Melbourne, Victoria, Australia.

PMID: 36404285

DOI: 10.1111/medu.14978

Abstract

Background: Health professions education teaches students to notice particular things, but has given little attention to teaching 'noticing' as a form of personal inquiry. The former is self-evidently important, as it develops a way of seeing and behaving that is uniquely relevant to each health profession. Despite this emphasis, health professionals may fail to notice 'warning signs' in patients, be unaware of their own biases or develop unrecognised habits that have moved away from accepted standards. It has been suggested that such 'not noticing' is currently endemic.

Approach: We situate our exploration of noticing in the mathematics and science education literature and John Mason's treatise on 'The discipline of noticing', differentiating between the observations that people make as they go about their lives ('ordinary' noticing), the specialised noticing that underpins professional expertise (Professional Noticing) and practices that can enhance the capacity to notice and to learn from experience (Intentional Noticing). We make the case for teaching health professions students about these conceptualisations of noticing, being able to notice with all our senses, and learning about the practices of Intentional Noticing in particular, which we suggest will have utility across health professional careers and personal lives.

Implications: We acknowledge the difficulties in transferring heterogenous finding from one field to another but suggest that there are gains to be made in applying these noticing concepts to health professions education. We tentatively propose some strategies and activities for developing Professional Noticing and the practices of Intentional Noticing and link them to a new module that we are piloting with health professions students. As well as aiding health professionals sharpen their noticing abilities, reinvigorate their practice and interrogate assumptions that underpin health care, we suggest that ideas about 'noticing' may also help educators and researchers in the health professions reimagine their work.

가능성과 불가피성: AI-관련 임상역량의 격차와 그것을 채울 필요성(Med Sci Educ. 2021)
The Potential and the Imperative: the Gap in AI‑Related Clinical Competencies and the Need to Close It
Kim V. Garvey1 · Kelly Jean Thomas Craig2 · Regina G. Russell3 · Laurie Novak4 · Don Moore5 · Anita M. Preininger6 · Gretchen P. Jackson2,6 · Bonnie M. Miller7 

 

 

우리 삶에서 인공지능(AI)의 존재감이 커지면서 인간 상호 작용과 능력에 대한 이해가 활발히 변화하고 있습니다. AI가 강화된 디바이스의 도움으로 생활하고 일하는 방식은 우리가 세상을 경험하는 방식, 환경을 처리하고 상품을 소비하는 방식, 심지어 국가가 국가 안보 프로토콜과 지정학적 경계를 설정하는 방식까지 바꾸고 있습니다[1, 2].  
The growing presence of artificial intelligence (AI) in our lives is actively transforming our understanding of human interaction and capability. Living and working with the aid of AI-enhanced devices are altering the way we experience our worlds, the way we process environments and consume goods, and even the way countries establish their national security protocols and geo-political boundaries [1, 2]. 

의료 분야에서는 전문가마다 AI를 구성하는 요소에 대해 의견이 다를 수 있습니다. 명확하게 하기 위해 우리는 AI를 의료진과 환자의 임상적 결정, 행동, 환경을 보강하기 위한 기술로 정의합니다. 이러한 기술은 예측 분석, 머신 러닝(ML), 자연어 처리(NLP) 등의 계산 수단을 통해 구현되며, 전자 의료 기록, 로봇과 같은 신기술 또는 개인 디바이스에서 구현될 수 있습니다. 예를 들면 위험 점수, 챗봇, 이미지 분석 등이 있습니다.  
Within healthcare, experts may differ as to what constitutes AI. For purposes of clarity, we define AI as technologies that are intended to augment the clinical decisions, actions, and environments of healthcare workers and patients. These technologies are enabled by computational means such as predictive analytics, machine learning (ML), and natural language processing (NLP), and could be implemented in electronic health records, in new technologies such as robots, or in personal devices. Examples include risk scoring, chatbots, and image analysis. 

특정 형태의 의료 AI는 수십 년 동안 사용되어 왔으며, 전문가 시스템 및 임상 의사 결정 지원 도구와 같은 애플리케이션은 1970년대 초에 개발되었습니다. [3, 4] 최근에는 정보 및 컴퓨팅 기술의 발전과 함께 대규모 데이터 및 컴퓨팅 리소스에 대한 액세스가 가능해지면서 혁신적인 잠재력을 지닌 강력한 세대의 AI를 개발할 수 있게 되었습니다. 토폴은 포괄적인 리뷰를 통해 이러한 차세대 AI 도구가 다양한 전문 분야에 걸쳐 환자, 의료 시스템, 임상의에게 어떤 영향을 미칠지 개괄적으로 설명했습니다[5]. 요컨대, 임상의는 자동화 및 로봇공학의 증가, ML 및 NLP에 대한 의존도 증가, 의료 IT 시스템, 개별 환자 및 인구집단에서 도출된 AI 인사이트의 통합을 포함하는 미래를 예상해야 합니다.  
Certain forms of healthcare AI have been employed for decades; applications such as expert systems and clinical decision support tools were developed as early as the 1970s. [3, 4] More recently, advances in information and computing technologies, together with access to large-scale data and computational resources, have enabled the development of a powerful generation of AI forms with transformative potential. In his comprehensive review, Topol outlined the ways in which this new generation of AI tools will impact patients, health systems, and clinicians across a range of specialties [5]. In short, clinicians should anticipate a future that includes an increased presence of automation and robotics, more reliance on ML and NLP, and incorporation of AI-derived insights from health IT systems, individual patients, and populations. 

잠재력, 의무, 그리고 격차
The Potential, the Imperative, and the Gap

의료 실무에서 AI 사용이 증가함에 따라 교육자, 의료 시스템 및 전문 조직은

  • (1) 안전하고 환자 중심적인 사용에 필요한 역량 범위를 정의하고
  • (2) 교육 연속체의 모든 단계에서 학습자를 위한 커리큘럼에 이러한 역량을 신중하게 통합해야 할 의무가 생겼습니다. 

The increasing use of AI in healthcare practice creates an imperative for educators, health systems, and professional organizations to

  • (1) define the range of competencies needed for safe and patient-centered use and
  • (2) thoughtfully integrate these into curricula for learners across all phases of the educational continuum.

이미 많은 저자들이 의료 전문직 학습자에게 AI 기반 세계에서 실습에 대해 교육하기 위한 구조화된 접근 방식을 요구했습니다[6,7,8,9,10,11].

  • 체계적 문헌고찰에서 Sapci와 Sapci는 의학교육자들이 AI 기술의 교육적 함의를 비판적으로 검토하기 시작했음을 보여주었습니다[9].
  • Paranjape는 의료 전문직 학습자를 위해 시행된 다양한 이니셔티브를 설명하고 의학교육 연속체 전반에 걸쳐 프로그램에 포함되어야 하는 주제에 대한 권장 사항을 제시했습니다[12].
  • James와 다른 사람들은 조정된 학습 접근법의 부재에 대한 우려를 공유하며 근거 기반 의학 커리큘럼을 모방할 모델로 사용할 것을 제안했습니다[13].
  • 또한 윌저는 조직 리더가 이러한 신기술의 가능성과 위험성을 완전히 이해하고 새로운 평가 및 감독 역량을 개발하여 기술을 현명하게 도입하고 신중하게 모니터링할 수 있도록 해야 한다고 강조했습니다[14]. 

Numerous authors have already called for a structured approach to educating health professions learners about practicing in an AI-powered world [6,7,8,9,10,11]. In their systematic review, Sapci and Sapci showed that medical educators have begun to critically examine the educational implications of AI technologies [9]. Paranjape described a variety of initiatives that have been implemented for health professions learners and offered recommendations for topics that should be included in programs across the medical education continuum [12]. James and others shared concerns about the lack of coordinated learning approaches and suggested using evidence-based medicine curricula as a model to emulate [13]. In addition, Wiljer emphasized the need for organizational leaders to fully understand both the promise and the peril of these emerging technologies and to develop new evaluative and oversight capabilities so that technologies can be wisely introduced and carefully monitored [14].

6. Hodges BD. Ones and zeros: medical education and theory in the age of intelligent machines. Med Educ. 2020;54(8):691–3. https:// doi. org/ 10. 1111/ medu. 14149. 
7. Masters K. Artificial intelligence in medical education. Med Teach. 2019;41(9):976–80. https:// doi. org/ 10. 1080/ 01421 59X. 2019. 15955 57.
8. Wartman S, Combs D. Medical Education must move from the information age to the age of artificial intelligence Acad Med 2018;93(8):1107-1109. https:// doi. org/ 10. 1097/ ACM. 00000 00000 002044
9. Sapci AH, Sapci HA. Artificial intelligence education and tools for medical and health informatics students: systematic review. JMIR Med Educ. 30 Jun 2020;6(1):e19285. https:// doi. org/ 10. 2196/ 19285
10. Alrassi J, Katsufrakis PJ, Chandran L. Technology can augment, but not replace, critical human skills needed for patient care. Acad Med. 2021;96(1):37–43. https:// doi. org/ 10. 1097/ ACM. 00000 00000 003733.
11. Harish V, Morgado F, Stern AD, Das S. Artificial intelligence and clinical decision making: the new nature of medical uncertainty. Acad Med. 2021;96(1):31–6. https:// doi. org/ 10. 1097/ ACM. 00000 00000 003707.
12. Paranjape K, Schinkel M, Nannan Panday R, Car J, Nanayakkara P. Introducing artificial intelligence training in medical education. JMIR Med Educ. 3 Dec 2019;5(2):e16048. https://d oi. org/10. 2196/ 16048
13. James CA, Wheelock KM, Woolliscroft JO. Machine learning: the next paradigm shift in medical education. Acad Med. 2021;96(7):954–7. https:// doi. org/ 10. 1097/ ACM. 00000 00000 003943.

사고 리더들에게는 분명 시급하지만, 실제 실무 환경에서는 체계적인 학습 접근법의 필요성이 쉽게 드러나지 않을 수 있는데, 이는 부분적으로는 우리 생활에 스마트 기기가 어디에나 존재하고 이러한 시스템이 어떻게 작동하는지에 대한 이해가 거의 없음에도 불구하고 이러한 시스템에 참여하는 위험한 경향이 있기 때문입니다. 예를 들어, 자동차는 본질적으로 바퀴 달린 복잡한 컴퓨터로, 대부분의 주말 수리공이 이해할 수 있는 수준을 훨씬 뛰어넘지만 우리는 운전을 합니다. 우리는 사회적 규범이나 규제 환경에 대한 암묵적 신뢰 때문에 난해한 기술을 무비판적으로 받아들이는 데 익숙해져 있습니다. 
While undeniably urgent to thought leaders, the need for a systematic learning approach may not be as readily apparent in actual practice settings, in part because of the ubiquitous presence of smart devices in our lives and the perilous tendency to engage with these systems despite little understanding of how they work. For example, our cars are essentially complex computers on wheels, well beyond the comprehension of most weekend tinkerers, and yet we drive. We have become accustomed to uncritical acceptance of arcane technologies, perhaps because of social norms or tacit trust in a regulatory environment.

이러한 무비판적 수용 경향은 의료 환경으로 옮겨질 경우 위험할 수 있습니다.

  • 우선, AI 도구와 같은 복잡한 시스템이 기존의 복잡한 의료 시스템에 도입되고 있는데, 각 시스템이 서로 다르기 때문에 의도하지 않은 결과가 발생할 가능성이 높아집니다.
  • 또한 특정 AI 도구에 대한 암묵적인 신뢰는 시기상조일 수 있습니다. 미국 식품의약국(FDA)은 거의 모든 새로운 의료 기기에 대해 엄격한 승인 절차를 거치지만, 의료 기기로서의 AI/ML 기반 소프트웨어는 아직 공식화 중인 다른 위험 등급별 규제 프로세스를 필요로 합니다[15].
  • 마지막으로, AI는 이전 세대의 의료 기술과는 다른 특징을 가지고 있습니다. AI는 인간과 유사한 지능을 제공하도록 설계될 수 있기 때문에 도구라기보다는 사고의 동반자로 여겨지며, 따라서 헌신적이고 지속적인 훈련의 필요성이 훨씬 덜 분명해집니다. 

This tendency towards uncritical adoption could be dangerous if transferred into healthcare settings.

  • For one, complex systems, such as AI tools, are being introduced into the enormous pre-existing complexity of healthcare systems, each one different from the others, increasing the potential for idiosyncratic unintended consequences.
  • In addition, tacit trust in any specific AI tool may be premature. Although the US Food & Drug Administration puts nearly all new medical devices through a rigorous approval process, AI/ML-based Software as a Medical Device will require a different set of risk-stratified regulatory processes that are still being formulated [15].
  • Finally, AI presents differently than prior generations of healthcare technologies. Because it can be designed to offer human-like intelligence, AI appears to be less of a tool and more of a thinking companion, making the need for dedicated and ongoing training even less apparent.

이러한 우려의 맥락에서, 저희는 임상 환경에서 AI를 사용하는 데 필요한 의료진의 역량에 관한 출판된 연구를 확인하기 위해 범위 검토를 실시했습니다. 2009년 1월 1일부터 2020년 5월 1일 사이에 MEDLINE, CINAHL, Cochrane Library 데이터베이스에서 발표된 문헌은 의료 전문가(예: 의료, 간호, 약학) 및 모든 교육 단계에서의 전문성 개발, 모든 임상 진료 환경에서의 AI 기반 도구, 전문 교육 역량 영역 또는 성과 측정(예: 의학전문대학원교육인증위원회[ACGME] 핵심 역량) 관련 용어 검색 쿼리를 사용하여 선별되었습니다. 영어, 사람을 대상으로 한 연구, 초록 유무, 미국(미국) 환경에 대한 제한이 있었습니다. 
In the context of these concerns, we conducted a scoping review to identify published research on provider competencies needed for use of AI in clinical settings. Literature published between January 1, 2009, and May 1, 2020, from MEDLINE, CINAHL, and the Cochrane Library databases was curated using search queries for terms related to healthcare professionals (e.g., medical, nursing, and pharmacy) and their professional development in all phases of education; AI-based tools in all settings of clinical practice; and professional education competency domains or performance measures (e.g., Accreditation Council for Graduate Medical Education [ACGME] core competencies). Limits were provided for English language, studies in humans, presence of abstracts, and United States (US) settings.

문헌 검색 결과 3,476건의 고유 인용이 이루어졌으며, 이 중 109건의 논문이 전체 텍스트 심사 대상에 포함되었습니다. 전체 텍스트 심사 결과, 새로운 AI 시스템을 구현할 때 입증된 임상의 역량에 대해 보고한 연구는 4편에 불과했습니다.[16,17,18,19] 관찰된 역량은 ACGME 환자 치료 및 대인관계 및 의사소통 기술 영역에 속했습니다[20]. 이들 논문 중 임상의가 필요로 할 수 있는 새로운 AI 관련 역량을 설명한 논문은 없었으며, 구현 전 교육에 대해 언급한 논문은 단 한 편에 불과했습니다. 임상의가 개입의 성격, 개발 방법, 기존 워크플로우에 어떻게 통합해야 하는지에 대해 설명한 연구는 하나도 없었습니다. 검토를 위해 처음에 확인된 연구의 양은 의료 분야에서 AI의 성장에 대한 예측을 확인시켜 주며, 새롭거나 향상된 전문 역량을 설명하는 기사의 부족은 효과적인 사용에 필요한 역량에 대한 지식의 현재 격차에 대한 우려를 확인시켜 줍니다.  
Literature searches yielded 3,476 unique citations, of which 109 articles were eligible for full-text screening. Upon full-text screening, only four studies reported on clinician competencies demonstrated in implementing the new AI systems.[16,17,18,19] The observed competencies fell within the ACGME Patient Care and Interpersonal and Communication Skills domains [20]. None of these articles described any new AI-specific competencies clinicians might need and only one mentioned any form of pre-implementation training. None of the studies indicated what clinicians were told about the nature of the interventions, how they were developed, or how they should be incorporated into pre-existing workflows. The volume of studies initially identified for review confirms predictions about the growth of AI in healthcare, and the paucity of articles describing new or enhanced professional competencies affirms concerns about the current gap in knowledge about the competencies required for their effective use.

주의 사례
Cautionary Tales

필요한 역량을 부여하기 위한 체계적인 접근 방식 없이 새로운 기술을 도입할 때 발생할 수 있는 피해를 보여주는 임상 의학의 몇 가지 역사적 사례를 소개합니다. 이러한 시나리오는 AI 도구의 사용과 직관적으로 유사하지는 않지만 일반화할 수 있는 시사점을 담고 있습니다.
We offer several historical examples from clinical medicine that illustrate the harm that can result when new technologies are introduced without structured approaches to imparting the required competencies. While not intuitively analogous to the use of AI tools, these scenarios have generalizable implications.

전기 수술
Electrosurgery

한 세기가 넘는 기간 동안 외과의들은 수술 중 출혈을 보다 신속하고 완벽하게 제어하기 위해 전기 수술 장치를 사용해 왔습니다. 수련 중인 외과의사들은 일상적인 상황에서 이러한 기기를 사용하는 방법을 보편적으로 배웠지만, 기기의 기본 물리학이나 비정상적이거나 예상치 못한 상황이 발생할 때 발생할 수 있는 위험을 설명하는 공식적인 커리큘럼은 없었습니다. 디바이스 제조업체는 적절한 사용법을 설명하는 정보를 제공했지만, 이러한 리소스에 대한 접근이 거의 이루어지지 않았고 다양한 환경과 디바이스가 사용되는 전체 시스템의 복잡성을 고려하지 않았습니다. 이로 인한 지식 부족은 20세기 후반까지 심각한 환자 화상과 심지어 수술실 화재의 원인이 되었습니다[21]. 2012년 말, 미국 위장관 내시경 외과의사 협회(SAGES)-수술 에너지의 기본적 사용(FUSE) 위원회는 "외과의사들이 수술 시 에너지의 안전한 사용에 대해 무엇을 모르는지 모른다"고 말했습니다[22].
For over a century, surgeons have used electrosurgical devices to more rapidly and completely control intra-operative bleeding. While surgeons-in-training universally learned how to use these devices in routine situations, there were no formal curricula that explained the basic physics of the devices, or the risks that can emerge when unusual or unexpected circumstances arise. Device manufacturers provided information describing appropriate use, but these resources were rarely accessed and did not account for the variety of environments and the complexity of the overall systems in which these devices were employed. The resulting knowledge deficit contributed to serious patient burns and even operating room fires well into the latter decades of the twentieth century [21]. As late as 2012, the Society of American Gastrointestinal Endoscopic Surgeons (SAGES)-Fundamental Use of Surgical Energy (FUSE) Committee stated that “surgeons don’t know what they don’t know about the safe use of energy in surgery” [22].

복강경 담낭 절제술
Laparoscopic Cholecystectomy

복강경 담낭절제술은 1980년대 후반에 일반 외과계에 도입되었으며, 환자 선호도가 높았기 때문에 대규모 연구를 통해 결과와 위험성이 결정되고 새로운 기술에 대한 최적의 교육 과정이 개발되기 전에 빠르게 자리를 잡았습니다. 경험이 축적되면서 일반적인 담관 손상이 크게 증가하는 것으로 나타났습니다. 이 심각한 합병증의 위험은 상대적으로 낮았지만 미국에서만 매년 약 75만 건의 담낭절제술이 시행되었지만 절대적인 영향은 놀라웠고, 결국 외과계는 포괄적인 교육과 지속적인 절차 개선의 필요성을 인식하게 되었습니다[23]. 
Laparoscopic cholecystectomy was introduced to the general surgery community in the late 1980s, and because of strong patient preference, the procedure rapidly took hold before large-scale studies determined outcomes and risks, and before optimal training processes for the new technical skills were developed. As experience accumulated, a significant increase in common bile duct injuries was noted. Even though the risk of this serious complication remained relatively low, with nearly 750,000 cholecystectomies performed annually in the US alone, the absolute impact was alarming, and the surgical community eventually recognized the need for comprehensive training and ongoing refinement of the procedure [23].

소화성 궤양 질환
Peptic Ulcer Disease

1984년 워렌과 마샬은 소화성 궤양이 위산 분비의 일차적 변화가 아니라 헬리코박터 파일로리(H. pylori) 박테리아에 의해 발생한다는 강력한 증거를 제시했습니다[24]. 그럼에도 불구하고 임상의들이 치료용 항생제 치료를 일관되게 권장하기까지 거의 20년이 지났지만, 이를 뒷받침하는 연구가 증가하고 수많은 가이드라인과 권고안이 발표되었습니다[25]. 임상의들은 질병 개념의 근본적인 변화를 정당화하기 위해 추가적인 증거가 필요하다고 주장하는 것은 당연한 일이었지만, 이러한 장기간의 지연은 정서적 역량에 대한 보다 일반적인 결핍을 반영하는 것이기도 했습니다. 새로운 질병 패러다임은 의사의 자율성, 신념, 진료 습관, 전문 분야 문화, 경우에 따라서는 금전적 이해관계 등 새로운 기술의 도입을 방해할 수 있는 모든 강력한 태도적 요인에 도전했습니다. 그 결과 많은 환자들이 예방 가능한 궤양 재발, 불필요한 수술 및 기타 합병증으로 인해 피해를 입었습니다.
In 1984, Warren and Marshall provided strong evidence that peptic ulcers are caused by the bacterium Helicobacter pylori (H. pylori) and not primary alterations in gastric acid secretion [24]. Nonetheless, nearly two decades passed before clinicians consistently recommended treatment with curative antibiotics, despite a growing body of supportive research and the publication of numerous guidelines and recommendations [25]. While clinicians were within reason to insist that additional evidence was needed to justify such a profound change in disease conceptualization, this prolonged delay also reflected a more general deficiency in affective competencies. The new disease paradigm challenged physician autonomy, beliefs, practice habits, specialty cultures, and, in some cases, financial interests, all strong attitudinal factors that can impede the adoption of new technologies. As a result, many patients suffered harm from preventable ulcer recurrences, unnecessary operations, and other complications.

AI 도구와 임상 기술은 서로 다른 것처럼 보일 수 있지만, 체계적인 분석과 훈련이 없는 상태에서 강력한 새 기능을 도입할 때의 위험은 비슷합니다. 또한 한 번에 한 명의 환자에게 부상이 발생하는 외과 수술과는 달리, AI 도구의 뛰어난 확장성은 위험의 복합화로 이어집니다[5, 26]. 
While AI tools and clinical technologies may seem dissimilar, the risks of introducing powerful new capabilities in the absence of systematic analysis and training are analogous. And as opposed to surgical operations where the injury occurs one patient at a time, the great scalability of AI tools also leads to the compounding of risk [5, 26].

전기 수술의 경우와 마찬가지로 임상의는 AI 도구를 사용하기 전에 해당 도구가 적절한 환자 집단에 의도한 목적에 맞게 구현되고 채택되었는지 확인하기 위해 AI 도구에 대해 "알아야 할 사항"을 파악해야 합니다[27]. 예를 들어, 만성 질환 결과를 개선하기 위해 개인 맞춤형 치료의 혜택을 받을 수 있는 환자를 예측하기 위해 미국에서 널리 사용되는 위험 점수 알고리즘은 체계적으로 흑인 환자에게 백인 환자보다 낮은 점수를 할당했습니다. 분석 결과, 이 도구는 질병의 중증도를 나타내는 지표로 의료비 지출을 사용했으며, 과거 비용을 통해 미래 비용을 예측할 수는 있었지만 구조적 불평등으로 인해 흑인 환자의 의료 서비스 이용률이 낮은 것은 고려하지 않았습니다. 그 결과, 흑인 환자들은 실제 질병 상태보다 낮은 비율로 만성 질환 관리 프로그램에 등록되었습니다[28].   
Just as in the case of electrosurgery, clinicians need to “know what they need to know” about AI tools before using them to ensure that they are being implemented and adopted for the intended purpose on an appropriate patient population [27]. For example, a risk scoring algorithm widely used in the US to predict which patients would benefit from personalized care to improve chronic illness outcomes systematically assigned Black patients lower scores than White patients. Analysis showed that the tool used healthcare expenditures as a proxy for severity of illness, and while past costs did predict future costs, the tool did not account for lower utilization of healthcare services by Black patients as the result of structural inequalities. Subsequently, Black patients were enrolled in these chronic disease management programs at lower rates than indicated by their actual disease status [28].

복강경 담낭 절제술의 경험과 유사하게, AI 기반 의사 결정 지원 시스템의 초기 경험은 이를 사용하는 의료 시스템이 비용, 구현 과제 및 한계를 완전히 인식하지 못할 경우 발생할 수 있는 잠재적 피해를 보여주었습니다[5, 29, 30]. 예를 들어, 유방조영술 판독을 위한 컴퓨터 보조 진단(CAD) 도구는 2000년대 초반에 환자, 인구, 의료 시스템에 대한 이점과 위험이 분석에 의해 입증되기 전에 빠르게 채택되었습니다. 이러한 분석 결과, CAD는 위양성 판독을 증가시키는 반면 특이도와 전반적인 진단 정확도는 감소시키는 것으로 밝혀졌습니다. 저자들은 환자의 불안, 불편, 피해에 대한 영향 외에도 추가 영상 검사 및 생검의 증가로 인해 연간 55만 달러(미화)의 초과 비용이 발생할 수 있다고 추정했습니다[31]. 최신 세대의 CAD 도구는 입력과 결과가 발생함에 따라 학습하고 적응할 수 있지만, 이점이 위험을 능가하는지 확인하기 위해서는 면밀한 모니터링이 여전히 필수적입니다[15, 27]. 
Similar to the experience with laparoscopic cholecystectomy, early experience with AI-based decision support systems demonstrated the potential harms that can result if health systems using them are not fully aware of the costs, implementation challenges, and limitations [5, 29, 30]. For example, computer-assisted diagnosis (CAD) tools for interpretation of mammography were quickly adopted in the early 2000s before analysis demonstrated their benefits and risks for patients, populations, and health systems. When such analysis was performed, CAD was found to increase false positive readings while decreasing specificity and overall diagnostic accuracy. In addition to the impact on patient anxiety, inconvenience and harm, the authors estimated that the increase in additional imaging studies and biopsies could lead to excess costs of $550,000 (US dollars) per year [31]. Newer generations of CAD tools have the ability to learn and adapt as inputs and outcomes accrue, but close monitoring remains essential to ensure that benefits outweigh the risks [15, 27].

헬리코박터 파일로리의 사례와 유사하게, 전문가들은 검증된 AI 도구의 도입이 늦어지면 환자, 임상의, 의료 시스템이 잠재적 혜택을 누리지 못할 것이라고 우려하고 있습니다. 이러한 주저는 기반 과학에 대한 유사한 회의론과 전문가의 자율성, 진료 패턴 및 재정적 영향에 대한 유사한 우려에서 비롯될 수 있습니다[32]. 
Similar to the experience with H. pylori, experts are concerned that slow adoption of validated AI tools will prevent patients, clinicians, and health systems from reaping their potential benefits. Hesitation may stem from similar skepticism about the underlying science and similar concerns about professional autonomy, practice patterns and financial impacts [32].

반성
Reflections

이러한 역사적 사례는 발생할 수 있는 문제의 유형뿐만 아니라 이를 해결하고 예방하는 데 있어 구조화된 학습 접근법의 가치를 조명합니다. 
These historical examples shed light not only on the types of problems that can arise but also on the value of structured learning approaches in addressing and preventing them.

복강경 담낭절제술의 경우 담관 손상 위험은 집도의의 경험과 관련이 있다는 연구 결과가 발표되었습니다. 이에 따라 SAGES의 지도자들은 전문가 위원회를 구성하여 복강경 수술 접근법의 안전한 사용에 필요한 역량을 포괄하는 포괄적인 교육 프로그램을 개발하도록 했습니다. 복강경 수술의 기초(FLS) 위원회는 처음에 내용을 정의하고, 더 광범위한 SAGES 커뮤니티 내에서 검토한 다음, 커리큘럼을 만들기 위해 내용을 다듬었습니다. 심리측정학자들은 지식과 기술을 모두 포괄하는 시험을 설계하고 평가하는 데 도움을 주었으며, FLS 커리큘럼과 시험은 이제 미국 외과학회의 인증에 필수입니다[33]. 시술에 대한 이해도가 높아지고 새로운 역량을 심어주는 공식적인 교육 접근 방식이 도입되면서 담관 손상 발생률이 감소했지만, 기존의 개복 시술에서 볼 수 있는 낮은 수준까지는 아니며, 이는 위험의 일부가 경험 이외의 요인에 기인한다는 것을 의미합니다[23]. 이제 환자들은 동의 절차의 일부로 이러한 위험에 대해 일상적으로 고지받지만, 빠른 회복, 통증 감소, 입원 기간 단축으로 인해 이점이 위험보다 훨씬 더 큽니다. 
In the case of laparoscopic cholecystectomy, studies demonstrated that risk of bile duct injury was associated with a surgeon’s experience. In response, the leaders of SAGES assembled an expert committee and charged it with developing a comprehensive educational program covering the competencies needed for the safe use of laparoscopic surgical approaches. The Fundamentals of Laparoscopic Surgery (FLS) committee initially defined the content, vetted it within the broader SAGES community, and then refined it to create the curriculum. Psychometricians helped design and evaluate an examination covering both knowledge and technical skills, and the FLS curriculum and examination are now required for certification by the American Board of Surgery [33]. With better understanding of the procedure and formal training approaches that instilled the new competencies, the incidence of bile duct injuries has diminished, although not to the lower levels seen with traditional open procedures, meaning that some part of the risk is attributable to factors other than experience [23]. Patients are now routinely informed of this risk as part of the consent process, but because of the rapid recovery, diminished pain, and shorter hospitalization, the benefits far outweigh the risk.

마찬가지로 전기 수술 사용에 대한 부적절한 교육으로 인한 피해를 해결하기 위해 SAGES는 외과 의사, 마취과 의사, 간호사, 엔지니어로 구성된 다분야 전문가 그룹을 구성하여 전기 수술 기기의 안전한 사용을 위한 역량을 정의했습니다. 초기 역량 목록은 SAGES의 리더들이 검토했으며, 심리측정 전문가들이 타당하고 신뢰할 수 있는 시험 개발을 도왔습니다. 그 결과, 사용자가 다양한 실제 조건에서 전기수술 기기를 안전하게 작동하는 데 필요한 지식과 기술을 갖출 수 있도록 하는 수술 에너지의 기본적 사용(FUSE) 커리큘럼이 개발되었습니다[34]. 
Similarly, to address the harms resulting from inadequate training in the use of electrosurgery, SAGES assembled a multidisciplinary group of surgeons, anesthesiologists, nurses, and engineers, who defined the competencies for safe use of electrosurgical devices. The initial list of competencies was reviewed by the leaders of SAGES and psychometricians helped develop a valid and reliable examination. The resulting Fundamental Use of Surgical Energy (FUSE) curriculum ensures that users have the requisite knowledge and skills for safe operation of electrosurgical devices under a variety of real-world conditions [34].

인공지능 도구의 채택이 지연되는 기저에 있는 정서적(사회적, 문화적) 요인은 최적의 사용을 촉진하는 인지적, 기술적 요인보다 구조화된 커리큘럼으로 해결하기 어려울 수 있습니다. 헬리코박터 파일로리의 경우, 미국 질병통제예방센터와 국립보건원은 결국 환자뿐만 아니라 임상의를 대상으로 한 교육 및 마케팅 자료를 만들어 변화를 이끌어냈습니다[25]. 일반적으로 지식과 기술이 계속해서 빠른 속도로 성장하고 발전함에 따라 임상의는 진료 패턴을 위협하거나 방해할 수 있는 새로운 역량이 개발될 것이라는 사실을 자신의 직업적 정체성의 일부로 통합해야 하며, 심지어 정체성 자체의 측면까지도 통합해야 합니다. 과학적 회의론은 결코 사라져서는 안 되지만, 부정과 저항보다는 호기심과 학습으로 전환해야 합니다. 
The affective (social and cultural) factors underlying delayed adoption of Ai tools may be more difficult to address with structured curricula than the cognitive and technical factors that will promote optimal use. In the case of H. pylori, the US Centers for Disease Control and Prevention and the National Institutes of Health eventually created educational and marketing materials aimed at patients as well as clinicians to help bring about a shift [25]. In general, as knowledge and technology continue to grow and evolve at accelerated rates, clinicians should incorporate as part of their professional identity the fact that new capabilities will be developed over the course of their careers that might threaten or disrupt practice patterns and even aspects of that identity itself. While scientific skepticism should never go away, it should be channeled into curiosity and learning rather than denial and resistance.

향후 방향
Future Directions

모든 유형의 의료 전문가는 진화하는 AI-증강 기술과 임상 치료의 인터페이스 내에서 성공하기 위한 역량을 명확히 하고, 측정하고, 반복해야 하는 교육적 의무가 있습니다. 새로운 기술이 도입될 때와 마찬가지로, 이러한 역량은 임상의사에게나 가장 주니어 학습자에게나 똑같이 관련성이 있을 것입니다. 필요한 AI 기술 중 상당수는 사용 중인 개입에 따라 달라질 것이며, 도구가 도입됨에 따라 적시 교육이 필요할 것입니다. 그러나 한 가지 AI 도구나 지능형 지원 유형만을 사용하는 데 필요한 기술보다 훨씬 더 광범위한 역량에 대한 질문이 있으며[35], 모든 의료 전문가는 새로운 테크놀로지가 구현될 때 알아야 할 사항을 학습하기 위한 일반적인 접근 방식을 개발해야 합니다. 
Healthcare professionals of all types have the educational imperative to articulate, measure, and iterate competencies for thriving within this evolving interface of AI-augmented technology and clinical care. As is the case when any new class of technology is implemented, these competencies will be just as relevant to practicing clinicians as they will be to the most junior learners. Many of the required AI skills will be specific for the intervention being employed and will necessitate just-in-time training as tools are introduced. However, there are questions of competence much broader that the skills needed for use of any one AI tool or type of intelligent support alone [35], and all health professionals should develop a general approach for learning what they need to know about new technologies as they are being implemented.

임상 AI 도입에는 새로운 종류의 윤리적 문제가 수반되며, 임상의 역량 목록에는 이러한 문제를 예측하고 해결하기 위한 전략이 포함되어야 합니다. 예를 들어, 

  • 어떤 상황에서 환자가 의사 대신 AI 기반 로봇으로부터 진단을 받는 것이 적절할까요?
  • 사전 동의는 언제 필요하며 어떤 정보를 포함해야 할까요?
  • 기계 학습과 인간 학습 프로세스 간에 제한된 리소스를 어떻게 할당해야 하며, AI는 비용과 고급 인프라의 필요성 때문에 리소스가 풍부한 환경과 리소스가 부족한 환경 간의 격차를 확대할 것인가요?
  • AI 도구가 편향된 데이터 세트로부터 학습하도록 허용되어야 할까요?
  • 임상 데이터의 잠재적 편향성과 그에 따른 추천은 어떻게 평가하고 관리할 것인가?
  • 개인정보 보호의 필요성과 투명성의 필요성은 어떻게 균형을 이룰 수 있을까요? [5, 36].

A new class of ethical challenges accompanies the introduction of clinical AI and any list of clinician competencies should include strategies for anticipating and addressing them. For example,

  • in what circumstances will it be appropriate for a patient to receive a diagnosis from an AI-powered robot instead of a physician?
  • When will informed consent be necessary and what information should be included?
  • How should limited resources be allocated between machine learning and human learning processes, and will AI widen the gap between resource-rich and resource-poor settings because of its expense and the need for advanced infrastructure?
  • Should AI tools be permitted to learn from biased datasets?
  • How will potential biases in clinical data and resulting recommendations be evaluated and managed?
  • How will the need for privacy be balanced with the need for transparency? [536].

임상 환경에서 AI 사용을 연구하는 연구자가 [도구를 효과적으로 사용하는 데 필요한 교육], 특히 모든 연구 설계 및 보고서에서 [역량에 대해 설명하는 것]은 큰 이점을 창출할 수 있는 또 다른 간단한 단계입니다. 새로운 AI 도구의 구현 매트릭스에 전문 학습을 의도적으로 포함시키는 것은 도구 배포에서 최적의 결과를 달성하는 데 필수적입니다. 이는 보건 전문직 교육자와 이러한 도구를 개발, 테스트 및 구현하는 사람들 간의 새로운 파트너십을 의미합니다.
Another simple step that could generate great benefit would be for researchers who study the use of AI in clinical settings to describe the education necessary for effective use of the tool, specifically addressing competencies in all study designs and reports. Deliberately including professional learning in the implementation matrix for new AI tools will be essential for achieving optimal outcomes in their deployment. This will mean new partnerships between health professions educators and those who develop, test, and implement these tools.

AI 도구[30, 37] 사용을 위한 권장 전문 역량 개발의 필요성을 해결하기 위해, 우리는 보건 전문직 교육 및 AI 분야의 사고 리더들과 구조화된 인터뷰를 실시하여 시뮬레이션 및 실제 업무 환경 모두에서 테스트하고 개선할 수 있는 역량 프레임워크를 개발할 것입니다. 이러한 리더는 출판된 저술과 두 분야의 전문가 추천을 통해 선정됩니다. 이 프레임워크는 ACGME 핵심 역량 프레임워크에 기반할 수 있으며, 다음 등을 포함할 수 있습니다.

  • AI 유형에 대한 기본 지식,
  • 환자별 정보에 비추어 인구 기반 추정치를 변경하기 위해 베이지 정리를 사용하는 능력,
  • 환자와 동료에게 확률을 명확하게 전달하는 능력,
  • 특정 환경에 적합한 AI 도구를 결정하고 이에 액세스하는 방법,
  • 환자의 목표와 가치가 AI 기반 추천을 어떻게 수정해야 하는지 공감적으로 식별하는 능력 

이상적으로, 이러한 역량은 임상의와 임상 치료에 대한 연민, 인간성, 신뢰를 유지하거나 강화하는 [공유 의사결정 모델]에서 AI의 신중한 사용을 촉진해야 합니다[10, 38]. 그러나 이러한 이상을 달성하기 위해서는 의료 시스템과 개인 모두의 의도적인 노력이 필요합니다. 우연히 이루어지지 않을 것입니다. 
To help address the need for the development of recommended professional competencies for the use of AI tools [30, 37], we will conduct structured interviews with thought leaders in health professions education and in AI to develop a competency framework that subsequently can be tested and refined within both simulated and authentic workplace experiences. These leaders will be identified through their published writings and by recommendation of experts in both fields. The framework could be based on the ACGME core competency framework and might include

  • basic knowledge about the types of AI;
  • the use of Bayes’ theorem to alter population-based estimates in light of patient-specific information;
  • the ability to clearly communicate probabilities to patients and colleagues;
  • the ability to determine which AI tools are relevant in specific settings and then how to access them; and
  • the ability to empathically discern how patient goals and values should modify AI-driven recommendations.

Ideally, these competencies should promote the thoughtful use of AI in shared decision-making models that sustain or even enhance compassion, humanity, and trust in clinicians and clinical care [10, 38]. However, intentional effort on the part of both health systems and individuals will be required to achieve this ideal. It will not happen by chance.

궁극적으로 시스템적 사고, 비판적 사고, 실용적 지혜와 같은 [통합적 역량]이 AI 활용에 필요할 수 있습니다. 이러한 기술은 환자 중심의 인본주의적 치료의 기본이며 전문 임상의가 수년간의 교육과 감독을 통해 개발합니다. 한 사고 리더는 "AI는 인공적이지도, 지능적이지도 않으며"[39] 현명하거나 비판적인 사고 능력을 보여주지 않는다고 주장합니다. 판단력과 분별력은 여전히 인간에게서 나와야 합니다. 두려움과 대중의 통념과는 달리, AI는 인간의 사고를 대체할 가능성이 높지 않으며, 오히려 이를 보강하는 데 사용될 가능성이 높습니다. AI의 힘과 잠재력을 활용하려면 AI가 없을 때와 마찬가지로, 어쩌면 훨씬 더 잘 생각해야 할 것입니다. 그렇지 않으면 기계와 인간이 "함께 더 똑똑해지고 멍청해질 수 있다"는 노먼의 두려움이 현실화될 위험이 있습니다(그림 1 [40]).

Ultimately, there may be integrative competencies for the use of AI; for example, systems thinking, critical thinking, and practical wisdom. These skills are foundational to patient-centered, humanistic care and are developed by professional clinicians over years of training and supervised practice. One thought leader argues that “AI is neither artificial, nor intelligent”[39] and it certainly does not exhibit wise or critical thinking capacities. Judgement and discernment will still need to come from humans. Contrary to fears and popular mythology, AI is not likely to supplant human thinking, but more likely will be used to augment it. This will require that we think just as much—and perhaps much better—than we do without AI, if we are to reach its power and potential. If not, we run the risk of realizing Norman’s fear that machines and humans may become “smarter and dumber together” Fig. 1 [40].

 


Med Sci Educ. 2021 Sep 9;31(6):2055-2060. doi: 10.1007/s40670-021-01377-w. eCollection 2021 Dec.

The Potential and the Imperative: the Gap in AI-Related Clinical Competencies and the Need to Close It

Affiliations collapse

1Center for Advanced Mobile Healthcare Learning, Vanderbilt University Medical Center, Nashville, TN USA.

2AI Research and Evaluation, IBM Watson Health, Cambridge, MA USA.

3Office of Undergraduate Medical Education, Vanderbilt University School of Medicine, Nashville, TN USA.

4Center of Excellence in Applied Artificial Intelligence, Department of Bioinformatics, Vanderbilt University Medical Center, Nashville, TN USA.

5Vanderbilt University School of Medicine, Nashville, TN USA.

6IBM Watson Health, Cambridge, MA USA.

7Office of Health Sciences Education, Vanderbilt University Medical Center, 2525 West End Avenue, Office 1586, TN Nashville, USA.

PMID: 34956712

PMCID: PMC8651813

DOI: 10.1007/s40670-021-01377-w

Free PMC article

 

No abstract available

의학교육이 인공지능을 만나는 곳: 테크놀로지가 돌봄을 할 수 있을까? (Med Educ, 2020)
Where medical education meets artificial intelligence: ‘Does technology care?’
Anneke G. van der Niet1,2 | Alan Bleakley3

핵심 메시지
key message

인공지능은 의학의 모습을 바꿀 것이지만 '해결책주의'의 증상을 겪을 수 있습니다. 인공 지능이 돌봄의 관계가 치료의 일부가 될 수 있는 '수작업' 의학을 대체해서는 안 됩니다.
Artificial intelligence will change the face of medicine, but may suffer from symptoms of ‘solutionism.’ Artifical intelligence must not displace 'hands on' medicine, where caring relationship can be part of the cure.

기계는 공감과 연민과 같은 인간의 자질이 부족하기 때문에 환자는 인간 의사가 상담을 주도하고 있다는 인식을 가져야 합니다. 또한 불신에 가려진 기술인 AI를 환자들이 즉각적으로 신뢰하는 것은 기대할 수 없습니다.1
Machines lack human qualities such as empathy and compassion, and therefore, patients must perceive that consultations are being led by human doctors. Furthermore, patients cannot be expected to immediately trust AI; a technology shrouded by mistrust.1

1 소개
1 INTRODUCTION

16세기 베살리우스의 해부학 텍스트 이후 '기계로서의 신체'는 의학의 중심적이고 환원적인 은유가 되었으며, 특히 환자를 객관화하는 데 기여했습니다.2 기술화된 의학의 시대에 접어들면서 인공지능(AI)은 진단과 치료를 통해 구체화되는 의학을 쉽게 강화할 수 있게 되었습니다. 이러한 도구적 접근 방식은 신자유주의적 효율성의 가치에 기반한 '관리형' 의료와 일맥상통합니다. 점점 더 환원적이고 기술화되고 알고리즘적 사고의 지배를 받는 의학 교육은 특히 기계적 시뮬레이션을 통한 학습에서 두드러지게 나타납니다. 한편, 교육학은 인격 형성과 같은 커리큘럼의 더 넓은 가치를 무시한 채 겉으로 드러난 역량과 그 평가에 집중함으로써 '축소 포장'되고 있습니다. 
Since Vesalius’ 16th century anatomy texts, ‘the body as machine’ has become a central, reductive metaphor in medicine, serving in particular to objectify patients.2 As we enter the age of technologised medicine, artificial intelligence (AI) readily reinforces a medicine that disembodies through both diagnosis and treatment. Such an instrumental approach chimes with a ‘managed’ medicine grounded in values of neoliberal efficiency. There is a knock-on effect for a medical education that has become increasingly reductive, technologised and subject to algorithmic thinking, particularly evident in learning through mechanical simulation. Pedagogy, meanwhile, is ‘shrink-wrapped’ through focus on bare competencies and their assessment, ignoring wider value in the curriculum such as character formation.

최근(2019년 10월) 런던에서 열린 한 컨퍼런스에서는 글로벌 '업계 리더'들이 모여 최근 AI의 혁신에 대해 논의했습니다. '모범 사례' 중에는 영국 국민보건서비스(NHS)의 AI 활용 사례도 있었습니다.3 이 사례는 'AI는 복잡한 문제를 해결할 수 있는 잠재력을 가지고 있으며, 이를 통해 더 많은 시간을 확보하고 생산성 수준을 높일 수 있다'는 문제 해결의 틀을 가지고 있었습니다. 이 문장의 후반부는 환자 치료라는 '느린' 의학의 가치보다 생산성, 도구성, 효율성을 우선시하는 신자유주의 윤리를 반영합니다.4 후자는 '차가운' 기술 중심 의료보다 '따뜻한' 감각 기반 임상을 우선시하는 '체화된' 의학에 대한 관심 증가로 대표됩니다.5 이 글에서는 비감각적 AI 문제 해결의 순간과 '느린' 체화된 의학 사이에 생산적인 대화를 생성하는 방법을 질문함으로써 의학에서 AI를 문제화합니다. 도구주의와 수동적이고 포괄적인 승인을 넘어서는 AI의 잠재적 영향력을 탐구함으로써 의학교육의 '솔루션주의'에 관한 논의에 기여합니다. 
A recent (October 2019) conference in London brought together global ‘industry leaders’ to discuss recent innovations in AI. Amongst the ‘Best Practice Examples’ was AI use in the UK National Health Service (NHS).3 This was framed as a problem-solving exercise, where ‘AI has the potential to solve complex problems and in doing so, freeing up more time and increasing levels of productivity.’ The second half of the sentence reflects a neoliberal ethic, where output, instrumentality and efficiency are prioritised above the values of the ‘slow’ medicine of patient care.4 The latter is exemplified by a growth of interest in ‘embodied’ medicine that places a ‘warm’ sense-based clinical practice before a ‘cold’ technology-driven health care.5 In this article, we problematise AI in medicine by asking how we can generate productive dialogue between the instants of non-sensory AI problem-solving and ‘slow’ embodied medicine. By exploring the potential impact of AI beyond instrumentalism and passive, all-encompassing approval, we contribute to discussions concerning ‘solutionism’ in medical education.

1960년대 후반, 존 매카시는 '생각할 수 있는 기계'를 설명하기 위해 '인공 지능'이라는 용어를 만들었습니다.6 1980년대 중반에 AI는 의학 담론에 들어왔지만,7,8 비교적 최근에야 의학교육에 관여하기 시작했습니다.9 21세기 AI 시대는 컴퓨터 사용을 통해 증가하는 정보의 양을 관리하는 데 중점을 두었던 20세기 중후반의 정보화 시대를 넘어섰습니다. 이제 우리는 정보의 지능적 활용에 초점을 맞추고 있습니다.10 AI가 의학에 광범위하게 도입됨에 따라 '대규모 데이터 세트, 머신러닝 및 로봇과 관련된 지능 도구'11를, 인간 능력의 확장뿐만 아니라, 잠재적 자율 에이전트로서 배우기 위한 의학교육의 심각한 '리부팅'이 필요합니다. 이는 행위자 네트워크 이론(ANT)12과 같은 객체 지향 교육법과 '객체 지향 온톨로지'13와 같은 철학적 프레임워크에 기반하여 기술 자체를 객관화하지 않고 개념적으로 정교한 미래의 의료 교육을 형성할 것을 제안합니다. 이러한 새로운 지평은 이미 과부하로 인한 잠재적 소진에 시달리고 있는 수련의들에게 더 큰 부담을 주는 부담이 아니라 기회로 받아들여져야 합니다.14 우리는 AI의 포스트휴먼 요구와 체화된 반성적 의학 및 의학교육의 기초가 되는 시대를 초월한 민감한 인간적 지원을 결합해야 합니다.15 그러면 의학 교육은 두 가지 과제에 직면하게 됩니다. 

  • (a) 체화된 의학을 새로운 기술과 대화하게 하고
  • (b) ANT와 같은 객체 의도성을 수용하는 개념적 모델에 익숙해지는 

In the late 1960s, John McCarthy coined the term ‘artificial intelligence’ to describe ‘machines that can think.’6 By the mid-1980s, AI had entered medical discourse,7, 8 but only relatively recently has it engaged medical education, albeit mainly descriptively rather than critically.9 The AI age of the 21st century has eclipsed the previous age of information of the mid- to late 20th century that focused on management of increasing quantities of information through the use of computers. Now we are focused upon the application of information as intelligent use.10 The widespread introduction of AI into medicine requires a serious ‘reboot’ of medical education to learn about ‘intelligence tools involving large datasets, and machine learning and robots,’11 not just as extensions of human capacities but as potentially autonomous agents. This suggests drawing on object-oriented pedagogies such as actor-network theory (ANT)12 and on philosophical frameworks such as ‘object-oriented ontology13 to shape a conceptually sophisticated medical education for the future, where technologies themselves are not objectified. Such a new horizon must be framed as an opportunity, rather than a burden placing increasing pressure on trainee doctors already suffering from potential burnout through overload.14 We must blend the post-human demands of AI with timeless sensitive human support that is the basis of an embodied, reflexive medicine and medical education.15 Medical pedagogies then face a twin challenge:

  • (a) bringing embodied medicine into dialogue with new technologies, and
  • (b) gaining familiarity with conceptual models that embrace object intentionality such as ANT.

2 의료 분야의 AI
2 AI IN MEDICINE

의학적 의사 결정에서 인간의 사고를 모방하는 컴퓨터 기반 시스템은 1970년대 초 내과 진단 도구로 설계된 INTERNIST-I와 스탠포드 대학에서 개발한 감염을 일으키는 박테리아를 식별하고 체중에 따라 적절한 항생제 치료법을 추천할 수 있는 AI 시스템인 MYCIN이 등장한 이래로 사용되어 왔습니다. 환자가 증상을 컴퓨터에 설명하면 컴퓨터가 진단을 내립니다. 1970년대 중반부터 피츠버그 대학의 해리 피플은 진단 능력이 뛰어나기로 유명한 내과 의사 잭 마이어스 박사를 인터뷰하고 데이터를 수집했습니다. 10년이 넘는 기간 동안 피플은 혈액 매개 감염성 박테리아에 국한된 마이신의 범위를 확장하여 1000가지 질병을 진단할 수 있는 '의료 전문가 시스템' 또는 AI의 한 형태인 캐듀서스(CADUCEUS)를 개발했습니다. 현재 암 치료에는 최소 800여 가지의 약물이 사용되고 있으며, 이러한 치료법에 대한 연구 증거의 양은 방대합니다. 
Computer-based systems that emulate human thinking in medical decision-making have been around since the early 1970s, when INTERNIST-I was designed as a diagnostic tool in internal medicine, paralleled by MYCIN (developed at Stanford University) as an AI system that could both identify bacteria causing infections and recommend suitable antibiotic treatment with dosage keyed to body weight. The patient describes symptoms to the computer, which in turn offers a diagnosis. Starting in the mid-1970s, Harry Pople at the University of Pittsburgh interviewed and gathered data from Dr Jack Meyers, an experienced internal medicine doctor renowned for his diagnostic acumen. Over a period of more than 10 years, Pople expanded on the narrow focus of MYCIN on blood-borne infectious bacteria, to develop CADUCEUS, a ‘medical expert system’ or form of AI that could diagnose 1000 diseases. As a current example, the spectrum of current cancer treatments involves at least 800 different drugs and the volume of research evidence behind such treatments is enormous.

AI는 망원경과 현미경을 동시에 적용하여 대규모 데이터베이스를 활용하여 스마트하고 개인화된 정밀 치료를 가능하게 하며, Microsoft가 진행 중인 '프로젝트 하노버'가 그 예입니다.16 이러한 전문가 시스템은 저장된 지식(사실과 규칙 모두)을 기반으로 작동하여 추론을 실현하고, 알려진 사실에 규칙을 적용하여 새로운 사실과 설명까지 추론합니다. 대량의 데이터를 개인의 편견과 편견의 오염 없이 빠르게 처리할 수 있습니다.17 그러나 여기에는 인공지능의 내부 모순이 있습니다. 

  • '폐쇄적' 연산이기 때문에 '객관적'으로만 작동할 수 있으며, 입력에서 출력까지 경로를 오염시키는 역설적인 요소가 존재하지 않는다는 것입니다. 

물론 이러한 선형 시스템은 인간의 피드백과 재설계를 통해 조정할 수 있습니다. 반면 인간은 여러 개의 경쟁적인 피드백 루프가 있는 '개방형' 시스템(복잡하고 역동적이며 적응적)이며, 많은 인지적 편향과 정서적 오염을 보입니다. 그러나 불확실성에서 비롯된 이러한 색채가 바로 의료 상담에 의미를 부여하거나 진심을 다할 수 있는 이유입니다. 연구에 따르면 환자들은 의사가 세심하고 공감적으로 경청할 뿐만 아니라 적절하게 접촉하는 '따뜻한' 의술을 원합니다.5 또한 은유의 광범위한 사용은 이러한 의료적 만남에 언어적 '신체'를 더하는 반면,2 아직까지 AI는 은유를 잠재적 오염으로 간주합니다.18 이는 우리가 AI 시대로 더 깊이 들어가면서 의학 교육도 감각을 교육하고 임상 업무에서 은유를 능숙하게 사용하는 데 중점을 두어야 한다는 것을 시사합니다.
AI allows simultaneous application of a telescope and microscope, harnessing large databases for smart, personalised precision treatments, exemplified in Microsoft's ongoing ‘Project Hanover.’16 Such expert systems work on the basis of stored knowledge (both facts and rules) realising inferences, where rules are applied to known facts to deduce new facts and even explanations. Large quantities of data can be dealt with rapidly without contamination from personal bias and prejudice.17 Here, however, is AI’s internal contradiction:

  • it can only function ‘objectively’ because it is a ‘closed’ operation; there are no paradoxical elements contaminating the route from input to output.

Such a linear system can of course be adapted through human feedback and redesign. Humans, by contrast, are ‘open’ systems (complex, dynamic and adaptive) with multiple, competing feedback loops, and show many cognitive biases and emotional contaminations. But it is precisely in such colourations arising from uncertainty that medical consultations may gain meaning, or are given heart. Research shows that patients want an embodied ‘warm’ medicine where doctors not only listen attentively and empathically, but also touch appropriately.5 Further, the widespread use of metaphor adds linguistic ‘body’ to such medical encounters,2 whereas AI, as yet, spurns metaphor as potential contamination.18 This suggests that as we move deeper into the AI age, medical education must also focus on educating the senses and on fluency in use of metaphor in clinical work.

우리는 AI의 사용 증가가 '해결책주의'의 형태로 의학과 의학교육에 가져올 수 있는 오만함을 인식해야 하며, 이는 교육적, 윤리적 함의를 모두 가져올 수 있습니다. 최근 파이낸셜 타임즈에서 유전자 편집 기술인 크리스퍼 유전자가위(CRISPR)의 공동 발견자인 제니퍼 두드나와의 인터뷰는 똑똑한 AI '해결책주의'가 어떻게 다양하고 복잡한 문제를 가릴 수 있는지 보여줍니다.19

  • 첫째, 과학적 오만: 크리스퍼 유전자 편집 기술은 복잡성과 잠재적 위험을 가리는 은유를 통해 설명됩니다. 이 기술은 '유전자를 자르거나' '가위처럼 자를 수 있는' '강력한 기술'입니다.
  • 둘째, 교육적 도구주의: 위 크리스퍼의 은유에 담긴 공학적 사고방식을 반영하듯, 의학교육은 복잡한 학습을 평가 목적으로 관찰 가능한 도구적 결과로 축소하는 경향이 있는 '역량' 운동의 게으른 언어와 관행에 제대로 도전하지 못했습니다. 이는 '가능성 학습'과 혁신이 '안정을 위한 학습'이라는 안전지대로의 후퇴로 대체되는, 의도적이고 상상력이 풍부한 역량 교육학을 잠재적으로 속일 수 있습니다.

We should be aware of the creeping hubris that increasing use of AI may bring to medicine and medical education in the form of ‘solutionism,’ introducing both pedagogical and ethical implications. A recent interview in the Financial Times with Jennifer Doudna, the co-discoverer of clustered regularly interspaced short palindromic repeats (CRISPR), the gene-editing technology, shows how smart AI ‘solutionism’ can mask a range of complex issues.19 

  • First, scientific hubris: Crispr gene-editing technology is described through metaphors that mask complexity and potential dangers. It is a ‘powerful technology’ that can ‘snip out genes’ or ‘cut like scissors.’
  • Second, pedagogical instrumentalism: mirroring the engineering mentality of Crispr's metaphors above, medical education has simply failed to properly challenge the lazy language and practices of the ‘competence’ movement that tend to reduce complex learning to instrumental, observable outcomes for assessment purposes. This potentially cheats a purposeful and imaginative pedagogy of capabilities, where ‘possibility learning and innovation are replaced by a retreat to the safe ground of ‘learning for stability.’

 

  • 셋째, 매우 중요한 것은 인공지능이 중심이 되는 의학 및 관련 의학교육의 미래에 대한 윤리적 함의가 복잡하고 긴급하며, 종종 상황에 따라 달라진다는 점입니다. 예를 들어, 중국 과학자 허젠쿠이는 크리스퍼 편집 쌍둥이의 탄생을 발표했을 때 이 위험한 행동으로 인해 3년의 징역형과 거액의 벌금을 선고받고 과학자 경력을 끝내야 했습니다. 물론 이것은 수사학적으로 사용된 극단적인 예입니다. 하지만 예를 들어 의학교육 시뮬레이션에서 SimMan과 같은 복잡한 마네킹이 널리 사용되고 있다고 가정하면, 이러한 시뮬레이션 작업이 남성 성별 모델에 국한된다는 윤리적 수수께끼는 어떻게 설명할 수 있을까요?
  • Third, and extremely important, the ethical implications of an AI-heavy medicine and associated medical education future are complex and emergent, often context-specific. For example, when the Chinese scientist He Jiankui announced the birth of Crispr-edited twins, this rogue action led to a jail sentence of 3 years, a hefty fine and the end of a scientific career. This of course is an extreme example used rhetorically. Yet, if we tone this down to, for example, the widespread use of complex manikins such as SimMan in medical education simulations, what do we make of the ethical conundrum that such simulation work is limited to a male-gendered model?

3 인간이 컴퓨터가 되는 순간
3 WHERE THE HUMAN BECOMES COMPUTER

일반적으로 우리는 컴퓨터를 인간처럼 만들기 위해 노력하지만, 어떤 사람들은 인간이 컴퓨터처럼 되기를 원합니다. 에드워드 프렌켈의 사랑과 수학: 숨겨진 현실의 핵심은 1980년대에 수학 가정교사이자 멘토였던 야코프 이사에비치가 모스크바 병원의 선임 비뇨기과 의사들과 함께 일하면서 그들이 진단 및 의사 결정 전문 지식을 합리화하도록 도왔던 이야기를 담고 있습니다.20 컴퓨터의 도움 없이 이사에비치는 의사들이 구두로 사고 전략을 연습하면 이사에비치가 이를 간소화하여 의사들에게 다시 반영하여 고려하도록 하는 'thinking aloud' 연구를 사용했습니다. Isaevich는 의사들의 진단 의사 결정 과정 중 85%~90%가 중복적이며, 나머지 핵심적인 10%~15%는 의사 결정 트리로 명확하게(명료화 및 매핑) 만들 수 있다는 결론을 내렸습니다. 인간의 직관, 순수한 알고리즘 논리, 발명이 겹치는 영역에서 일하면서 Isaevich는 AI를 임상 업무에 적용하기 위한 템플릿을 공식화했지만, 기계가 개입하지 않았다는 점을 제외하면 말이죠. 오히려 논리학자 자신이 기계가 되었습니다. 
Where we generally strive to make computers more like humans, some would like humans to be more like computers. Edward Frenkel's Love and Math: The Heart of Hidden Reality tells the story of how his mathematics tutor and mentor Yakov Isaevich had been working in the 1980s with senior urologists in a Moscow hospital, helping them to rationalise their diagnostic and wider decision-making expertise.20 Without the help of computers, Isaevich employed ‘thinking aloud’ research, where doctors would verbally rehearse thinking strategies and Isaevich would streamline these, mirroring them back to the doctors for consideration. Isaevich concluded that 85%-90% of the doctors’ diagnostic decision-making processes were redundant, and the remaining key 10%-15% could be made plain (articulated and mapped) as decision trees. Working in the territory of overlap between human intuition, pure algorithmic logic and invention, Isaevich formulated a template for the application of AI to clinical work, except that, again, no machine was involved. Rather, the logician was himself becoming the machine.

이사예비치는 학부 마지막 학기였던 프렌켈에게 이사예비치의 의료 추론 프로젝트에 함께 일해 달라고 요청했습니다. 그는 프렌켈을 신장 이식 시 발생하는 문제에 대한 박사 학위 논문을 위해 데이터를 수집하고 있던 젊은 비뇨기과 의사 세르게이 아루티유니안과 짝을 이루게 했습니다. 환자의 면역 체계가 이식된 신장을 거부하는 경우, 의사와 외과의는 그 자리에서 신장을 제거할지 아니면 사투를 벌일지 결정해야 합니다. 신장을 유지하면 환자가 사망할 수도 있지만, 제거하면 환자는 다시 원점으로 돌아가 또 다른 기증을 받아야 합니다. 아루투니안은 초음파 판독을 통해 수집한 환자 집단의 정량적 데이터를 바탕으로 40가지의 다양한 매개변수(의사의 의사 결정은 보조 기술에 의해 보강되기도 하고 압도되기도 함)를 바탕으로 이 딜레마에 대한 직관적이지 않고 논리적인 해답을 찾고자 했습니다. 우아하고 최소한의 의사 결정을 위한 객관적인 기준이 마련될 수 있을까요? 
Isaevich invited Frenkel, now in his final undergraduate year, to work with Isaevich's medical reasoning project. He paired Frenkel with a young urologist, Sergei Arutyunyan, who was collecting data for a PhD thesis on problems encountered in transplanting kidneys. Where patients’ immune systems reject transplanted kidneys, doctors and surgeons must make on-the-spot decisions about removing the kidney or fighting for it. Keeping the kidney could lead to the patient's death, but removal puts the patient back to square one, needing another donation. Arutyunyan wanted a logical, and not intuitive, answer to this dilemma based on quantitative data from patient populations gathered through ultrasound readings yielding a wieldy 40 different parameters (the doctor's decision making then both augmented and overwhelmed by the supplemental technology). Could a set of objective criteria be established for elegant, minimalist decision making?

흥미롭게도 프렌켈이 이룬 의료 AI의 도약은 성과가 있었습니다. 순수하게 수학자로 교육을 받은 프렌켈은 의사 아루투니안과 역할을 바꿔, 구현된 기계로서 이 좁은 전문 영역에서 의사의 의사 결정 전문성을 모방하고 심지어 향상시킬 수 있는지 확인했습니다. 프렌켈은 아루투니안이 복잡한 데이터를 가지고 있는 270명의 환자 각각이 고유한 사례를 제시했지만, 환자들에게도 주요 공통 속성과 문제가 있음을 발견했습니다. 그는 30명의 환자 데이터를 무작위로 선택하고 패턴을 찾아 이식 신장이 거부반응을 일으킬 가능성이 있는 경우 의사 결정을 내릴 때 일반화할 수 있는 일련의 규칙을 조합하려고 했습니다. 
Interestingly, the medicine AI leap that Frenkel made was performative. Although educated purely as a mathematician, he reversed roles with the doctor Arutyunyan to see if, as an embodied machine, he could imitate, even enhance, the doctor's decision-making expertise in this narrowly defined area of expertise. Although each of 270 patients for whom Arutyunyan had complex data presented a unique case, Frenkel saw that patients also displayed key common attributes and issues. He tried to piece together a generalisable set of rules for decision making in the case of potential rejection of transplanted kidneys by randomly choosing data for 30 patients and looking for patterns.

이를 통해 그는 아루티유니안이 모델링한 진단 추론 프로세스에 들어가 일반적인 규칙을 이해했습니다. 프렌켈은 의사 의자에 앉았을 뿐만 아니라 환자의 기록을 참조할 때도 아루티유니안이 환자에 대한 질문을 하면 프렌켈이 파일을 참조하여 대답하는 방식으로 환자의 마음속으로 들어갔습니다. 이런 식으로 프렌켈은 퍼즐을 완성하는 것이 아니라 풀어나가는 것처럼 질문하는 패턴을 고안해냈습니다. 그는 실제로 서너 가지의 핵심적인 임상 해부학적 질문만으로 진단에 도달할 수 있으며, 이를 의사 결정 트리로 쉽게 매핑할 수 있다는 사실에 주목했습니다. 프로세스 규칙을 학습한 프렌켈 역시 정확한 진단을 내릴 수 있었고, 말콤 글래드웰이 제안한 집중적인 연습을 통해 전문 지식을 습득하는 '1만 시간'의 법칙에 도전할 수 있었습니다.21 프렌켈은 지능형 기계처럼 불확실성을 수용해야 하는 실시간 의료 상담이나 주요 의료-수술 팀 기반 의사 결정의 '뜨거운' 실제 상황과는 완전히 분리된 작동 규칙을 '차갑게' 학습한 상태였습니다. 프렌켈은 이전에는 초음파 진단에서 확인되지 않았던 '간단한 알고리즘'을 발견했는데, 이 알고리즘은 소수를 제외한 모든 경우에 적합했습니다. 
Thus, he got inside the diagnostic reasoning process that Arutyunyan modelled and made sense of its generic rules. Frenkel not only sat in the doctor's chair but also in his mind, when consulting patients’ records as Arutyunyan asked him questions about these patients that Frenkel would then answer by consulting their files. In this way, as he describes it himself, Frenkel conceived a pattern of questioning as if he were undoing, rather than completing, a jigsaw. He noted that Arutyunyan could in fact arrive at a diagnosis after only three or four key clinical-anatomical questions and that these could be readily mapped as a decision tree. Having learned the process rules, Frenkel too could make a correct diagnosis, challenging the ‘10 000 hours’ rule of acquiring expertise through focused practice as suggested by Malcolm Gladwell.21 Frenkel had, as intelligent machines do, learned ‘cold’ the rules of operation, completely divorced from the ‘hot’ flesh-and-blood contexts of live medical consultations, or key medico-surgical team-based decisions, that must embrace uncertainty. Frenkel had discovered a ‘simple algorithm’ at play (that fitted all but a small number of cases) that, he claimed, had previously not been identified in ultrasound diagnostics.

컴퓨터의 도움 없이 의사의 역할을 수행한 프렌켈은 '하루 동안의 의사'이자 '기계 지능'이 되었으며, AI형 인지가 의사의 업무를 보완하는 것이 아니라 대체하는 것이라는 프레임을 만들었습니다. 하지만 기술 프레임워크에 의해 실제 의술이 강화되는 것이 아니라 대체되는 것을 환영해야 할까요? 체화된 의학과 체화되지 않은 인공지능 사이의 모순된 공간에서 점점 더 많은 일을 하게 될 미래 의사들의 정체성은 어떤 식으로 형성될까요? 다시 말하지만, 

  • 인간의 전문성은 모호성을 용인하도록 설계된 개방적이고 역동적이며 복잡한 시스템의 산물이지만,
  • 전문가 시스템은 폐쇄적이고 피드백을 통해 반복되며 모호성을 용납하지 않는 선형적입니다. 

전문가 시스템은 선형적이고 계층적인 명령과 통제 프로세스를 따르기 때문에 권위적일 수밖에 없으며, 동적인 문제에 대해 안정적인 해결책을 제시하기도 합니다.
Acting in the role of the computer but without the help of a computer, Frenkel became ‘doctor for a day’ and ‘machine intelligent,’ framing AI-type cognition as not just supplementing but supplanting the doctor's work. But do we welcome this displacement, rather than enhancement, of hands-on medicine by a technological framework? In what sense might this shape doctors’ identities in the future as they increasingly work in a contradictory space between embodied medicine and disembodied AI? Again,

  • although human expertise is the product of an open, dynamic, complex system designed to tolerate ambiguity,
  • expert systems are linear: closed; looped through feedback, and intolerant of ambiguity.

They are inevitably authoritarian as they conform to linear, hierarchical processes of command and control, also suggesting stable solutions to problems that are dynamic.

4 계산의 지배력 증가: 의료 도구에서 디지털 도구까지
4 THE INCREASING DOMINANCE OF CALCULATION: FROM MEDICAL TOOLS TO DIGITAL TOOLS

육체가 있고 구체화된 실습 의학과 육체가 없고 구체화되지 않은 기계가 주도하는 의학을 분리하는 것은 기술의 가치를 깎아내리기 위한 수사학적 장치(거짓 반대)로 볼 수 있습니다. 결국 기술은 인간의 감각, 존재론적 대상13, 인간의 '기계적 집합체'의 연장이 아닐까요?"22, 23 우리가 우려하는 것은 기계 시뮬레이션과 같은 기술이 인간 행위자로부터 분리되어 거품 속에서 작동하고, 실습이 실습 검사를 대체하기 시작할 수 있다는 점입니다. 과연 기술에 대한 매혹과 그에 따른 과잉 검사는 의학계에서 치료해야 할 증상일까요?"24 이 분야에 대해 간략히 살펴봅시다.
Our separation of a fleshly, embodied hands-on medicine and a fleshless, disembodied machine-led medicine could be seen as a rhetorical device (a false opposition) to discount the value of technologies. After all, are technologies not extensions of the human senses, ontological objects13 and humans’ ‘machinic assemblages?’22, 23 Our fear is that technologies, like mechanical simulations, can become disengaged from human actors to operate in a bubble, where hands-off testing begins to be a substitute for hands-on examinations. Indeed, is fascination with technology and consequent over-testing a symptom in medicine that should be treated?24 Let us briefly review the field.

로봇 수술과 같은 새로운 형태의 '하드' 의료 기술25과 앞서 논의한 유전자 편집에 사용되는 크리스퍼 염기서열과 같은 '소프트' 의료 기술19, 26은 계속해서 빠른 속도로 의료 행위를 재편하고 있습니다.27 컴퓨터화된 기기는 의료 서비스 제공에서 인간을 빠르게 대체하고 있습니다. 마취는 이제 의사가 마취를 유도할 때를 제외하고는 환자의 육체를 거의 보지 않을 정도로 기계에 의존하고 있습니다. 또한 한때 인간 기술자가 수행하던 다양한 실험실 테스트가 컴퓨터화된 기계에 의해 일상적으로 수행되고 있으며,28 일부 수술 절차에서는 로봇과 같은 자동화 기술이 외과의의 모습을 보완했다가 대체하기도 합니다. 
New forms of ‘hard’ medical technologies such as robotic surgery25 and ‘soft’ ones such as Crispr sequences used to edit genes, discussed earlier,19, 26 continue to reshape medical practice at an accelerating pace.27 Computerised devices are rapidly replacing human beings in the delivery of medical services. Anaesthesia is now so machine dependent that practitioners rarely look at the patient in the flesh, other than at induction. In addition, a wide variety of laboratory tests that were once conducted by human technicians have long been routinely performed by computerised machines,28 and forms of automation such as robotics have in some surgical procedures come to augment and then displace the figure of the surgeon.

실제로 최근 출시된 'GP at Hand' 앱과 같은 자가 진단 AI가 성공을 거두면 의사들은 일자리를 잃게 될 것입니다.29 이 기술은 챗봇 형태의 AI를 사용하여 사용자가 질문 메시지에 따라 증상을 입력하면 확률을 통해 감별 진단을 내리고 다음 단계를 제안합니다. 신약 개발과 같은 임상시험에 준하는 규제와 절차가 없기 때문에 이러한 종류의 애플리케이션에 대한 윤리적 문제가 해결되지 않은 채로 남아있습니다. 또한 데이터 보호, 제3자 개입, 잘못된 코딩(백인 인종에 대한 알고리즘 편향성 포함)도 이러한 개발로 인해 발생하는 문제입니다. 진단을 지원하기 위해 기계와 컴퓨터를 사용한다는 것은 행동, 감각 및 상호 작용을 모두 숫자 또는 픽셀 단위의 기술 형식에 맞게 계산해야 한다는 것을 의미합니다. 결과적으로 건강과 신원 모두 점점 더 계산적인 관점에서 접근하게 될 것이며, 20년 전 굿맨의 예측이 현실화되고 있습니다: '의료 전문직의 미래는 계산적이다."28 이러한 도구주의와 효율성은 건강을 '관리'하는 앞서 설명한 신자유주의적 가치 체계로 우리를 되돌려 놓습니다. 또한 계산적 프레임워크는 의료 교육학을 형성할 것이며, 이러한 교육학은 말 그대로 도구적 교육이 될 것이며, 인도적이고 윤리적 치료를 배양하는 전통적인 병상 참여에서 요구되는 다양한 감각적 능력보다는 주로 학생들의 시각적 기반 '판독'에 대한 피드백을 요구하게 될 것입니다. 
Indeed, doctors themselves will be threatened with redundancy should self-diagnosing AI such as the recent app ‘GP at Hand’ prove successful!29 This technology uses AI in the form of a chatbot, where users write their symptoms according to question prompts, resulting in a differential diagnosis with probabilities and suggested next steps. Without regulation and the equivalent of clinical trials (as you would expect for, say, a new pharmaceutical) this leaves ethical questions unanswered for this kind of application. Further, data protection, third party intervention and poor coding (including algorithmic bias towards white ethnic groups) are all problems arising from such developments. Employing machines and computers to assist in diagnosing means that actions, sensations and interactions all have to be calculated in order to fit the technological form, which is in digits or pixels. Consequently, both health and identities are increasingly framed in computational terms, realising Goodman's prediction from two decades ago that: ‘the future of the health professions is computational.’28 Such instrumentalism and efficiency returns us to the neoliberal values framework described earlier, where health is ‘managed.’ Further, calculative frameworks will shape medical pedagogy, such pedagogy in turn becoming literally instrumental, requiring mostly feedback on students’ optically based ‘readouts’ rather than a range of sensory capabilities such as those required in traditional bedside engagement that cultivates humane, ethical care.

5 중재 및 의미 만들기
5 MEDIATION AND MEANING MAKING

의료에 새로운 기술이 도입될 때마다 의사는 고유한 맥락에서 이를 어떻게 이해할지 고민해야 합니다.30 의료 기술을 매개하는 것은 '확장된 인지'를 가진 '확장된 인간'으로 초점을 이동시키고 있습니다.31 매개체는 변형하고 번역할 뿐만 아니라 전달해야 할 요소의 의미를 잠재적으로 왜곡하고 수정합니다.32 기술 혁신이 의사의 감각을 확장하고 조절하는 의학에서 감각 비율, 지각 유형 또는 지각 패턴을 변경하는 등의 효과는 광범위하게 조사되지 않았습니다. 의료 정보 기술이 의료 과실을 줄여 환자 안전을 향상시킬 것이라는 약속은 아직 완전히 실현되지 않았습니다.33, 34
Whenever new technologies are introduced into health care, doctors have to figure out how to make sense of them in unique contexts,30 where mediating medical technologies are shifting the focus to the ‘extended human’ with ‘extended cognition.’31 Mediators transform and translate, but also potentially distort and modify the meaning of the elements they are supposed to carry.32 In medicine, where technological innovations extend and modulate the doctor's senses, the effects, such as altering sense ratios, type of perception or patterns of perception, have not been extensively investigated. The promise that health information technologies will increase patient safety by decreasing medical error has yet to be fully realised.33, 34

AI는 또한 자아의 기술을 구성하여 이를 사용하는 의사의 정체성과 성격을 적극적으로 형성하며,35 여기서 정체성은 수행 능력, 즉 자신이 하는 것입니다.36 로봇 수술이 대표적인 예로, 최악의 시나리오는 개복 수술을 수행할 줄 아는 외과의가 감소하는 것입니다.36 기술 사용의 변화로 인해 혈관 방사선 전문의가 혈관 외과 전문의의 내부자가 되는 등 새로운 기술의 도입에는 다양한 내부자 및 외부자 역학 관계가 수반됩니다.37 [새로운 기술의 도입]은 [새로운 언어의 채택]과 누가 (하위) 전문 분야에 포함되거나 제외되는지에 대한 [새로운 관할권 주장]으로 이어져 정체성에 혼란을 야기합니다. 
AI also constitutes technologies of the self, actively shaping the identities and characters of the doctors that make use of them,35 where identity is performance, something that one does.36 A key example is robotic surgery, where a worst-case scenario is a decline in surgeons knowing how to perform an open surgery.36 A variety of insider and outsider dynamics come with the uptake of new technologies, such as vascular radiologists becoming insiders to the vascular surgeons due to a change in use of technology.37 The introduction of new technologies leads to the adoption of new languages and new jurisdictional claims about who is included in or excluded from the (sub)specialty, confounding identities.

그러나 기술은 사용 방식에 따라 그 의미와 궁극적인 기능이 달라지는 [관계적인 것]으로 볼 수 있습니다.38 의료 서비스에서 컴퓨팅 시스템의 효과는 정확성과 성능뿐만 아니라 사용자의 수용도, 사용 맥락, 임상적 만남을 포함한 사회적 및 직업적 상호 작용에 대한 결과도 분석해야 합니다.39 기술이 종종 의사와 환자 간의 거리를 넓히기 때문입니다. 환자 침대 옆에 있는 컴퓨터 주위에 모여 있는 의사나 환자의 증상보다는 검사 결과 등 환자에 대한 정보를 얻기 위해 컴퓨터 화면을 바라보는 가정의의 많은 예처럼,40 기술은 임상의의 시선을 환자의 신체에서 기기로 향하게 할 수 있습니다. 아브라함 베르게스와 동료들은 '차트 선반 주변과 방사선실에서 모든 전문의가 모여 환자에 대해 논의하던 중요한 사회적 의식의 상실'을 통해 EMR 구축의 의도하지 않은 결과를 지적합니다.41 
However, technologies can be seen as relational: only getting their meanings and ultimate functions in the ways that they are put to use.38 The effects of computing systems in health care are subject to analysis not only of accuracy and performance but also of acceptance by users, of the context of use, and of consequences for social and professional interaction, including the clinical encounter, as technologies often distance doctors from their patients.39 Technologies can direct the clinician's gaze away from the patient's body towards the device,40 like the many examples of doctors gathering around a computer next to the bed of the patient, or the family practitioner who looks at the computer screen for information about the patient, such as test results, rather than at the patient's presenting symptoms. Abraham Verghese and colleagues point to the unintended consequences of establishing the electronic medical record through ‘loss of important social rituals … around the chart rack and in the radiology suite, where all specialties converged to discuss patients.41

6 선물 상자를 열었지만 블랙박스만 발견하다
6 OPENING THE GIFT BOX ONLY TO FIND A BLACK BOX

인공지능은 우리에게 거절할 수 없는 선물을 선사할까요? 대부분의 기술 혁신은 의사와 환자 사이를 매개하지만, AI는 그 이상의 역할을 합니다. 존 매카시의 '생각할 수 있는 기계'에서처럼 예측을 합니다.6 대부분의 AI 시스템에서는 입력과 출력이 모두 소프트웨어 프로그램에 제공됩니다. 전문가가 AI 프로그램이 올바른 연결을 할 수 있도록 지원하는 훈련 기간 동안 AI가 입력과 출력 사이의 패턴을 인식한 후에는 입력만으로 소프트웨어가 개발된 알고리즘에 따라 출력을 제공할 수 있습니다. 예를 들어, 피부과에서 피부암을 인식하는 연구에서 다양한 디지털 사진과 해당 질병 라벨을 각각 입력과 출력으로 제공했습니다.42 훈련 기간이 지나자 AI 소프트웨어는 새로운 피부암 이미지를 기반으로 특정 질병을 진단할 수 있었습니다. 이제 AI는 질병을 인식하는 방법을 '학습'하여 숙련된 안과 의사의 망막 이미지 진단이 AI보다 정확도가 떨어지는 등 숙련된 의사와 동일하거나 더 높은 수준까지 매우 빠르고 정확하게 진단할 수 있게 되었습니다.43 이러한 형태의 AI인 머신러닝은 영상의학, 병리학 및 종양학에서 광범위하게 적용됩니다.44 임상적으로 관련된 출력 데이터를 생성하려면 AI는 정의된 샘플 데이터베이스에 대한 이전 학습 기록의 맥락에서 처리된 많은 환자의 입력 데이터가 필요합니다.45 이러한 유형의 AI는 의사 결정을 내리는 것으로 가정된 특정 신경 아키텍처를 수학적으로 표현한 것이므로 인공 신경망(ANN)을 생성한다고도 합니다. 이러한 유형의 AI는 중환자실과 정신과에서 환자의 특정 위험이나 약물 부작용을 예측하는 데 사용되었습니다. 
Surely AI offers a gift we cannot refuse? Although most technical innovations mediate between the doctor and patient, AI does something more than that: it predicts, as in John McCarthy's ‘machines that can think.’6 In most AI systems, both input and output are provided to a software program. After AI has recognised a pattern between input and output during a training period in which the expert assists the AI program in making the right connection, only the input will be sufficient for the software to provide an output based on its developed algorithm. For example, in a study on recognising skin cancer in dermatology, many different digital pictures and their corresponding disease labels were provided as input and output, respectively.42 After a training period, the AI software was able to diagnose the specific disease based on a new image of skin cancer. AI has now ‘learned’ to recognise diseases, and is able to do so very fast and accurately, up to the same, or an even higher, level as an experienced doctor, such as experienced ophthalmologists’ diagnoses of retinal images being less accurate than those of their AI counterpart.43 This form of AI, machine learning, is applied widely in radiology, pathology and oncology.44 To produce clinically relevant output data, AI needs input data from many patients, processed in the context of previous training history on a defined sample database.45 As this type of AI is a mathematical representation of the particular neural architecture assumed to make decisions, it is often said to produce an artificial neural network (ANN). This type of AI has been used to predict certain risks or adverse reactions to drugs for patients in both intensive care and psychiatry.

이 모든 것은 문제가 없는 것처럼 보입니다. 하지만 몇 가지 한계가 있습니다. 앞서 언급했듯이 AI가 사용하는 데이터 세트의 기본 입력은 지금까지 숫자 또는 디지털 픽셀 단위인 AI 소프트웨어 프로그램의 언어에 맞아야 합니다. 즉, 의사는 이 언어를 준수하는 입력으로 기억상실증의 측면만 제공할 수 있으므로 AI의 일부가 될 수 있는 항목에 제한이 있습니다. 다른 측면은 무시되거나(예: 터치) 컴퓨터의 '생각' 형태에 맞게 조작(예: 텍스트)됩니다. 의사가 물리적으로 경험하는 행동과 감각은 이제 계산되어야 합니다. 
This all seems to be non-problematic. However, there are several limitations: as mentioned earlier, the basic input for the datasets that AI uses should fit the language of the AI software program, which is so far in digits or digital pixels. This means that a doctor can only provide those aspects of the anamnesis as input that complies with this language, thus placing a limitation on what can become part of AI. Other aspects are either ignored (eg, touch) or manipulated (eg, text) in such a way that they fit to the form of ‘thought’ of a computer. Actions and sensations that are experienced physically by a doctor now have to be calculated.

결국 의료 교육도 계산화될 것입니다. 이에 대한 글은 이미 벽에 써져 있습니다. 혁신적인 사회물질적, 사회문화적 모델이 의학교육에 도입된 후 초기의 흥분 이후, 역량 운동과 '위탁 가능한 전문 활동'(EPA)은 의학교육에 대한 새로운 믿음을 대표하며, [비판적 학습은 예측 가능한 결과의 '고지'가 아니라 불확실성, 독특성, 가치 갈등(과정으로서의)의 '늪지대'에서 발생한다]는 도널드 쇤의 주요 통찰을 버린 것처럼 보입니다.46 
In turn, perhaps medical pedagogies too will become calculated. The writing is on the wall for this. After an initial flush of excitement after innovative sociomaterial and sociocultural models were introduced to medical education, the competence movement and ‘entrustable professional activities’ (EPAs) represent the new faith in medical education, seemingly abandoning the major insight of Donald Schön, that critical learning occurs in the ‘swampy lowland’ of uncertainty, uniqueness and value conflict (as process), rather than the ‘high ground’ of predictable outcomes.46

이런 식으로 전문가와 환자의 신체, 다른 의료진, 도구와의 임상적 관계는 파편화되고 기술적인 형태로 재구성됩니다. 이는 질병의 복잡성을 줄일 수 있지만, 의사의 전문성을 제약하는 측면이 더 큽니다. 이러한 전문성은 상당 부분 암묵적이거나 암묵적(예: '눈 깜빡임' 패턴 인식 또는 유형 1 추론 사용)이며, 구현된 많은 기술은 모델링에 접근하기 어렵습니다.47 이는 비뇨기과 의사들이 '소리 내어 생각하기'를 통해 대부분 은밀한 의사 결정 과정을 언어화(따라서 합리화)하도록 도왔던 프렌켈의 도전이기도 했습니다. 또한 AI가 의학의 모호성을 줄이기 위한 수단으로 여겨질 수 있지만, 전문성을 통해 발달한 직관이나 '인지 무의식'48의 중요성을 거부함으로써 불확실성을 증가시키는 의도하지 않은 결과를 초래할 수 있습니다. 다시 말하지만, 이러한 중재는 환자의 생생한 경험에 대한 현상학적 '파악'인 구체화된 실천의 잠재적 손실을 수반합니다.15 입력 경계와 관련된 또 다른 한계는 '가치 정렬'로, 이는 AI가 인간의 목표와 가치에 따라 행동하도록 학습할 수 있는 방법을 다룹니다. 옳고 그름을 구분하기 위해서는 일련의 가치가 필요한 경우가 많습니다. 숙련된 의사는 특정 환자의 목표에 따라 어떤 치료법을 다른 치료법보다 더 중요하게 생각해야 할 때를 알고 있습니다. 이러한 유형의 목표는 아직까지 AI에서 설정할 수 없지만, 설령 가능하다고 하더라도 시스템이 어떻게 이해하고 도덕화할 수 있을지는 알 수 없습니다. 
In this way, the clinical relation of the expert to patients’ bodies, to other practitioners and to tools becomes fragmented and reconstructed in technological forms. This might reduce the complexity of a disease, but more, it constrains the expertise of a doctor. Such expertise is to a great extent implicit or tacit (eg, in employing ‘blink-of-an-eye’ pattern recognition or Type 1 reasoning) and many embodied techniques are inaccessible to modelling.47 This was also the challenge of Frenkel, who helped the urologists to verbalise (and hence rationalise) their mostly covert decision-making process by making them ‘think aloud,’ a contested way of trying to get inside doctors’ minds. In addition, where AI might be seen as a means to reduce ambiguity in medicine, it can have unintended consequences of increasing uncertainty by refusing the importance of intuition or the ‘cognitive unconscious48 developed through expertise. Again, the mediation thus comes with a potential loss of embodied practice, the phenomenological ‘grasp’ of the patient's lived experience.15 Another limitation related to the input boundary is ‘value alignment’; this deals with how AI can be taught to act in accordance with human goals and values. Often, a set of values is necessary to tell right from wrong. An experienced doctor knows when to value one treatment over another, given the goal for this particular patient. These types of goals cannot be set in AI so far, but even when this will be possible, it is unknown how (and how we know that) the system understands and can moralise.

AI의 출력이 뉘앙스의 여지가 없는 참/거짓 유형의 목표로 제한되는 경우, 이는 제어와 관련된 또 다른 한계에 직면하게 됩니다. 앞서 언급했듯이 지금까지 AI에는 피드백이 불가능했습니다. 소프트웨어가 실행되면 목표를 변경할 수 없습니다. 루프가 닫힙니다. 또한 어떤 경로가 사용되어 특정 결과가 나왔는지, 신경망의 특정 계층 사이에 왜 특정 가중치가 있었는지 역추적하기가 어렵습니다. 의료 현장에서 의사들은 환자에 대한 진단을 확인하기 위해 서로에게 자주 물어보며 일반적인 규칙에 맞지 않을 수 있는 특이한 사례의 구체적인 세부 사항을 추론할 여지를 제공하지만, 컴퓨터에게 특정 진단에 도달한 방법과 이유를 설명해 달라고 요청하기는 어렵습니다. 가장 중요한 것은, 환자와의 의도적인 상호 작용이 없으며, 정보로 축소된다는 점입니다. 성능의 정확성과 효율성(선물 상자)에도 불구하고 AI는 종종 블랙박스와 같습니다. 
Where the output of AI is limited to a true/false type of goal, with no room for nuance, this brings us to another limitation, which deals with control. As noted earlier, there is until now no feedback possible in AI. Once the software is running, goals cannot be changed. The loop is closed. Moreover, it is difficult to trace back what pathways have been used that led to a certain outcome, or why there was a particular weight between certain layers of the neural network. In medical practice, doctors frequently ask each other to verify a diagnosis for a patient, giving room for reasoning on the specific details of the idiosyncratic case that might not fit the general rules, but it is difficult to ask a computer to explain how and why it came to a particular diagnosis. Most importantly, there is no intentional interaction with the patient, who is also reduced to information. Despite the accuracy and efficiency of the performance (a gift box), AI is often a black box.

이 블랙박스를 열어야 합니다. 그렇지 않으면 AI는 의사가 이해하지 못하거나 동의하지 않거나 잘못된 '솔루션'을 제공하여 의사를 온갖 종류의 어려운 상황에 처하게 할 수 있으며, 이는 다시 책임과 대행에 관한 윤리적 문제를 제기할 수 있습니다. 이미 크리스퍼 기술을 이용한 유전자 치료제에 대해 언급했으며, 최근 간세포에 개입하면 '나쁜' 콜레스테롤 생성 수준을 바꿀 수 있다는 연구 결과가 발표되었습니다. 하지만 심장마비 가능성을 제어할 수 있다는 이 약속이 구조적 불평등을 통한 사회적 불공평이라는 더 큰 건강 문제에 의해 가로채질 수 있을까요? 새로운 기술의 혜택은 누구에게 돌아갈까요? 인공지능에 대한 입력은 병원에 내원하는 환자에 국한되기 때문에 인공지능의 결과물은 같은 사람으로 제한되어 잠재적으로 불평등을 강화할 수 있습니다. 최악의 경우, 미디어에 의해 심하게 악용되는 AI는 '폭주하는 대상'49이 되어 치료법이 증상으로 바뀔 수도 있습니다. 
This black box needs to be opened. If not, AI can place doctors in all kinds of difficult situations, providing ‘solutions’ that they do not understand or agree with, or that are erroneous, again raising ethical questions concerning responsibility and agency. We have already mentioned gene therapeutics using Crispr technologies, and recent developments show that intervention in liver cells can alter levels of production of ‘bad’ cholesterol. However, could this promise to control the potential for heart attacks be hijacked by the greater health problem of social injustice through structural inequality? Who will benefit from the new technologies? The input for AI goes as far as the patients who present themselves at the clinic, thus limiting the output of AI to those same people, potentially reinforcing inequality. In a worst-case scenario, heavily exploited by the media, AI may become a ‘runaway object,’49 rogue or autonomous, turning a cure into a symptom.

7 치료를 위한 교육인가, 관리를 위한 교육인가?
7 EDUCATING TO CURE OR TO CARE?

AI는 의사의 업무를 변화시키고 직업적 정체성을 재구성함으로써 의료 서비스에 영향을 미칠 것입니다. 그러나 컴퓨터가 진단과 치료 측면에서 무엇을 할 수 있더라도 임상적 직관, 비언어적 지각, 공감과 같은 임상 치료의 복잡한 측면을 모두 충족시킬 수는 없으며, 이는 좋은 임상 치료와 전문직업성의 핵심입니다.50 따라서 '학습자가 환자와의 연결 능력을 희생하지 않고 이러한 새로운 기술을 습득하도록 돕는 것이 차세대 의사 교육의 큰 과제 중 하나가 될 것입니다'40. 
AI will impact health care by changing doctors’ tasks and reshaping professional identities. However, no matter what a computer can do in terms of diagnosing and treating, it cannot fulfil the full range of complex aspects of clinical care, such as clinical intuition, ineffable perceptions and empathy, that are key to good clinical care and professionalism.50 Therefore, ‘helping our learners to master these new technologies without sacrificing their ability to connect with their patients will undoubtedly be one of the great challenges of educating the next generation of physicians.’40

의학교육은 의료 분야에서 [AI 시스템에 대한 비판적 검토]를 커리큘럼 과정과 강의 계획서 내용에 어떻게 가장 잘 통합할 것인가라는 교육학적 과제에 직면해 있습니다. 커리큘럼 자체가 알고리즘화되는 도구주의의 함정에 빠질 위험이 있습니다. 학습자는 이러한 기술이 의료 문제에 대한 인식을 중재하고 틀을 짜는 데 사용될 것이라는 점을 이해해야 합니다. [AI의 원리에 대한 교육 측면]에서 공식화는 학습자가 [자신의 감각적 경험과 관련하여], 그리고 [일상적인 의료 행위의 복잡하고 불확실한 현실에서 추론과 관련하여] AI 결과를 이해하는 데 도움이 될 것입니다. 이는 또한 전문가적 통제력을 회복하는 방법이기도 한데, AI를 사용한 작업을 규제함으로써 전문가적 정체성의 왜곡을 방지할 수 있습니다.38

Medical education faces a pedagogical challenge: how best to incorporate the critical examination of AI systems in health care as curriculum process and syllabus content. The danger is falling into the trap of instrumentalism, where the curriculum itself becomes algorithmic. Learners have to understand that these technologies will come to mediate and frame their perceptions of medical problems. Formalisation in terms of education on the principles of AI will help learners to make sense of AI output in relation to their own sensory experiences and in relation to reasoning in the complex and uncertain reality of everyday medical practice. It is also a way of regaining professional control, where regulating work with AI sets out to inoculate against the distortion of professional identity.38 

대부분의 AI 세부 사항은 의사의 전문적 한계를 넘어서는 것이지만, 테크놀로지는 [계산적 사고 방식을 넘어서는 의료 전문가로서의 부분]에 주의를 다시 집중할 기회를 제공하여 학습자가 독특한 환자와의 관계를 맺도록 요구합니다.

  • 의대생은 의료 행위가 배타적이고 명확하게 과학적, 통계적 또는 절차적이지 않으며, 따라서 지금까지는 계산으로 추적할 수 없다는 것을 배워야 합니다.
  • 마찬가지로 많은 임상적 의사 결정에는 사회적, 개인적, 윤리적, 심리적, 재정적, 가족적, 법적 및 기타 요소가 포함되어 있어 전적으로 의학적인 것만 있는 것은 아닙니다.

, 의학에는 본질적으로 예술성과 인간성이 내재되어 있으며, 이는 정의상 AI가 복제할 수 없는 가소성입니다. 의대생을 위한 AI 교육 개발은 '신체 교육학'을 배우는 것과 함께 진행되어야 합니다.15 
Although most AI detail will be beyond doctors’ professional limits, technologies offer an opportunity to refocus attention on the part of being a health care professional that is beyond calculative modes of thought, requiring learners to make a connection with a unique patient.

  • Medical students should be taught that the practice of medicine is not exclusively and clearly scientific, statistical or procedural, and hence is not, so far, computationally tractable.
  • Likewise, many clinical decisions are not exclusively medical, where they have social, personal, ethical, psychological, financial, familial, legal and other components.

In other words, medicine has an intrinsic artistry and humanity that by definition is plastic and cannot be replicated by AI. Developments in AI education for medical students must walk hand-in-hand with learning ‘body pedagogics.’15

8 결론
8 CONCLUSIONS

우리는 체화된 의학을 질문자로 삼아 의학 분야에서 AI의 성장을 단순히 나열하고 축하하기보다는 문제를 제기하여 비관론보다는 주의caution의 분위기를 조성했습니다. 우리는 또한 무비판적이고 반성적이지 않은 '해결책주의'에 대해서도 문제를 제기했습니다. 우리는 의학교육이 학부 과정에서 AI에 대한 조기 학습에 대한 요구에 느리게 대응해 왔으며, 특히 윤리적 의학을 실천하는 데 있어 AI와의 교류가 미래 의사의 정체성 구성에 핵심 요소가 될 것이라는 점에 주목합니다. 미래의 의사는 AI가 알지 못하는 것을 알아야 하며, 의사는 진단의 정확성을 넘어 환자에게 무엇을 계속 제공할 수 있을까요?"51 AI의 뼈대에 살을 붙여 봅시다.

Using embodied medicine as interrogator, we have problematised, rather than simply catalogued and celebrated, the growth of AI in medicine to set a tone of caution rather than pessimism. We have also problematised uncritical and unreflexive ‘solutionism.’ We note that medical education has been slow to respond to the demands of early learning about AI in undergraduate medicine, and that engaging with AI will become a key factor in the identity constructions of doctors of the future, particularly in the exercise of an ethical medicine. What will the physician of the future need to know that AI does not, and what will doctors continue to offer patients beyond diagnostic precision?51 Let us put flesh on the bones of AI.

 


 

Med Educ. 2021 Jan;55(1):30-36. doi: 10.1111/medu.14131. Epub 2020 Mar 30.

Where medical education meets artificial intelligence: 'Does technology care?'

Affiliations collapse

Affiliations

1Faculty of Health, Medicine and Life Sciences, School of Health Professions Education, Maastricht University, Maastricht, the Netherlands.

2Julius Center for Health Sciences and Primary Care, University Medical Center Utrecht, Utrecht, the Netherlands.

3Plymouth University Peninsula School of Medicine, Plymouth, UK.

PMID: 32078175

DOI: 10.1111/medu.14131

Abstract

'COLD' TECHNOLOGIES AND 'WARM' HANDS-ON MEDICINE NEED TO WALK HAND-IN-HAND: Technologies, such as deep learning artificial intelligence (AI), promise benign solutions to thorny, complex problems; but this view is misguided. Though AI has revolutionised aspects of technical medicine, it has brought in its wake practical, conceptual, pedagogical and ethical conundrums. For example, widespread adoption of technologies threatens to shift emphasis from 'hands-on' embodied clinical work to disembodied 'technology enhanced' fuzzy scenarios muddying ethical responsibilities. Where AI can offer a powerful sharpening of diagnostic accuracy and treatment options, 'cold' technologies and 'warm' hands-on medicine need to walk hand-in-hand. This presents a pedagogical challenge grounded in historical precedent: in the wake of Vesalian anatomy introducing the dominant metaphor of 'body as machine,' a medicine of qualities was devalued through the rise of instrumental scientific medicine. The AI age in medicine promises to redouble the machine metaphor, reducing complex patient experiences to linear problem-solving interventions promising 'solutionism.' As an instrumental intervention, AI can objectify patients, frustrating the benefits of dialogue, as patients' complex and often unpredictable fleshly experiences of illness are recalculated in solution-focused computational terms. SUSPICIONS ABOUT SOLUTIONS: The rate of change in numbers and sophistication of new technologies is daunting; they include surgical robotics, implants, computer programming and genetic interventions such as clustered regularly interspaced short palindromic repeats (CRISPR). Contributing to the focus of this issue on 'solutionism,' we explore how AI is often promoted as an all-encompassing answer to complex problems, including the pedagogical, where learning 'hands-on' bedside medicine has proven benefits beyond the technical. Where AI and embodied medicine have differing epistemological, ontological and axiological roots, we must not imagine that they will readily walk hand-in-hand down the aisle towards a happy marriage. Their union will be fractious, requiring lifelong guidance provided by a perceptive medical education suspicious of 'smart' solutions to complex problems.

 

의과대학생이 인공지능에 대해서 실제로 알아야 하는 것은? (NPJ Digit Med. 2020)
What do medical students actually need to know about artificial intelligence?
Liam G. McCoy 1,2 , Sujay Nagaraj 1,3, Felipe Morgado 1,4, Vinyas Harish 1,2, Sunit Das1,5 and Leo Anthony Celi 6,7,8

 

소개
Introduction

인공지능(AI)의 새로운 혁신이 의료 현장에 큰 영향을 미칠 것으로 예상됨에 따라 현재 및 미래의 의사를 대상으로 AI에 대한 교육에 대한 관심이 높아지고 있습니다1. 이러한 관심과 함께 의대생이 정확히 무엇을 배워야 하는지에 대한 질문도 제기되고 있습니다2. AI의 임상적 사용을 위한 역량은 의학 분야의 다른 신기술과 대체로 유사하지만, 설명 가능성, 의료 형평성, 데이터 보안과 관련하여 매우 중요한 질적 차이가 있습니다3,4,5. 우리는 이 분야에서 리더십을 배양하기 위해 기본 커리큘럼과 과외 프로그램에 강력한 학습자 중심의 AI를 추가하는 두 가지 접근 방식을 옹호합니다.
With emerging innovations in artificial intelligence (AI) poised to substantially impact medical practice, interest in training current and future physicians about AI is growing1. Alongside this interest comes the question of what, precisely, medical students should learn2. While competencies for the clinical usage of AI are broadly similar to those for any other novel technology in medicine, there are qualitative differences of critical importance to concerns regarding explainability, health equity, and data security3,4,5. We advocate for a dual-focused approach: combining robust, learner-centered AI additions to baseline curricula and extracurricular programs to cultivate leadership in this space.

의사가 임상 맥락에서 AI에 대해 이해해야 할 사항은 무엇인가요?
What do physicians need to understand about AI in the clinical context?

가장 직접적으로, 의사는 임상 의사 결정에 영향을 미치는 모든 기술을 이해하는 것과 같은 방식으로 AI를 이해해야 합니다. 예를 들어 MRI를 사용하는 의사는 T1과 T2 가중 스캔을 구분하는 입자 스핀 물리학을 이해할 필요는 없지만, 이해는 할 수 있어야 합니다
Most directly, physicians need to understand AI in the same way that they need to understand any technology impacting clinical decision-making. A physician utilizing MRI, for example, does not need to understand the particle spin physics differentiating T1 and T2 weighted scans, but they do need to be able to:

  1. (i)사용 - 해당 기술이 주어진 임상 상황에 적합한 경우와 의미 있는 결과를 얻기 위해 어떤 입력이 필요한지 식별합니다.
    (i)
    Use it—identify when the technology is appropriate for a given clinical context, and what inputs are required to receive meaningful results.
  2. (ii)해석하기 - 오류, 편향 또는 임상적 부적합성에 대한 인식을 포함하여 합리적인 수준의 정확도로 결과를 이해하고 해석합니다.
    (ii)
    Interpret it—understand and interpret the results with a reasonable degree of accuracy, including awareness of sources of error, bias, or clinical inapplicability.
  3. (iii)설명하기 - 다른 사람(예: 관련 의료 전문가 및 환자)이 이해할 수 있는 방식으로 결과와 그 근간이 되는 과정을 전달할 수 있어야 합니다.
    (iii)
    Explain it—be able to communicate the results and the processes underlying them in a way that others (e.g. allied health professionals and patients) can understand.

이러한 기술은 AI의 맥락에서 특별한 뉘앙스를 띠게 됩니다. (i)와 (ii)의 경우, 의사는 AI의 고도로 맥락에 따른 특성과 제한된 단일 맥락에서의 성과가 항상 이전 가능하지 않을 수 있다는 사실을 이해하는 것이 중요합니다. 또한 특정 환자 그룹에 대한 알고리즘의 성능을 저하시킬 수 있는 요인을 인식하는 것도 중요합니다3.
These skills take on particular nuances in the context of AI. For (i) and (ii), it is critical for physicians to appreciate the highly context-specific nature of AI, and the fact that performance in a single restricted context may not always be transferable. It is also important to be aware of factors which may decrease the performance of algorithms for specific patient groups3.

AI는 일반적으로 '블랙박스' 효과, 즉 모델이 어떤 결정에 도달하는 메커니즘을 해독할 수 없다는 비판을 받아왔습니다1. 그러나 이러한 기술적 '설명 가능성'이 부족하다고 해서 (iii)의 의무가 면제되는 것은 아닙니다. 정보에 입각한 동의 및 임상 협력 요건을 충족하기 위해 의사는 알고리즘 결과의 출처, 특성 및 정당성에 대한 이해를 환자, 가족 및 동료에게 전달해야 할 수 있습니다. 
AI has been commonly criticized for the “black box” effect—that is, the mechanism by which a model arrives at a decision may be indecipherable1. This lack of technical “explainability”, however, does not discharge the obligations of (iii). To satisfy requirements of informed consent and clinical collaboration, a physician may be called upon to communicate their understanding of the origin, nature, and justification of an algorithm’s results to patients, families, and colleagues.

의사는 보다 광범위한 전문적 맥락에서 AI에 대해 무엇을 이해해야 할까요?
What do physicians need to understand about AI in the broader professional context?

의사의 전문적 의무는 임상적 역할을 넘어 리더십과 건강 옹호까지 확장됩니다. 의료 분야에서 AI의 파괴적인 전망은 의사들이 환자 복지를 위해 공동으로 참여할 준비가 되어 있어야 하는 중대한 윤리적, 운영적 과제를 제기합니다.
The professional obligations of physicians extend beyond the clinical role into leadership and health advocacy. The disruptive prospects of AI in healthcare raise significant ethical and operational challenges which physicians must collectively be prepared to engage with for the sake of ensuring patient welfare.

소수 집단을 대표하지 않는 데이터 세트 사용3, 알고리즘이 기존의 편견을 학습하고 영속화할 가능성4 등의 요인으로 인해 알고리즘적 임상 의사 결정 지원이 건강 형평성에 미치는 영향에 대해 상당한 우려가 존재합니다. 데이터 보안 및 개인정보 보호와 관련된 위험도 빠르게 드러나고 있습니다5. 그러나 AI 자체가 편견과 불공정성에 대한 의학의 기존 문제를 일부 완화할 수 있는 잠재력도 있습니다6. 의사는 두 가지 가능성을 모두 인식하고 윤리적이고 공평한 시스템의 개발과 배포를 지지할 준비가 되어 있어야 합니다. 마지막으로, 의사는 환자 데이터에 대한 책임 있는 관리자로서 의료진과 환자 간의 기본적인 신뢰가 침해되지 않도록 행동해야 합니다. 
Substantial concerns exist regarding the impact of algorithmic clinical decision support on health equity, due to factors such as the use of datasets lacking representation from minority populations3, and the possibility for algorithms to learn from and perpetuate existing biases4. Risks around data security and privacy are also becoming rapidly apparent5. There is also, however, the potential for AI itself to alleviate some of medicine’s existing problems with bias and unfairness6. Physicians should be aware of both possibilities and be equipped to advocate for the development and deployment of ethical and equitable systems. Finally, physicians must act as responsible stewards for patient data to ensure that the foundational trust between provider and patient is not violated.

의대생이 배워야 할 내용을 어떻게 배울 수 있을까요?
How might medical students learn what they need to learn?

AI와 의학에 모두 능통한 의사 리더를 양성하기 위한 공동의 노력을 기울여야 합니다. 의학에서 임상적으로 관련성이 있고 계산적으로 실현 가능한 AI 대상을 선택하는 것은 간단한 일이 아니기 때문에 이러한 이중 역량이 중요합니다. 사일로화된 접근 방식은 명확한 임상 목표가 눈에 띄지 않게 되고 기술적인 '문제 해결을 위한 솔루션'의 생산이 악화될 수 있습니다7. 학습에 대한 다학제적이고 통합적인 접근 방식은 이러한 목표를 달성하는 데 도움이 될 것입니다. 
Concerted efforts should be taken to cultivate physician-leaders who are fluent in both AI and medicine. Such dual competence is important, as it is no simple task to select clinically relevant and computationally feasible targets for AI in medicine. A siloed approach may lead to clear clinical targets going unnoticed and worsen the production of technical “solutions in search of problems”7. A multidisciplinary, integrated approach to learning will serve to facilitate this goal.

이러한 복잡한 주제에 접근할 때는 모든 의사가 일상적인 진료를 위해 반드시 알아야 하는 것과 일부 의사가 혁신을 추진하기 위해 알아야 하는 것을 구분하는 것이 중요합니다. 커리큘럼 구성 요소는 전자를 다루기 위한 것이어야 하며, 강력한 과외 프로그램은 후자를 목표로 삼을 수 있습니다. 두 가지 요소 모두 AI와 의학의 융합이 현재 의사의 정체성에 어떤 영향을 미치고 있고 앞으로도 계속 영향을 미칠지에 대한 논의를 촉진하는 역할을 합니다. 이는 핵심 지식의 틀을 확립하는 동시에 특정 주제 영역에 대해 심층적으로 탐구하고자 하는 학생들을 지원하는 '재구상된 의과대학'의 개념과도 일치합니다8.
When approaching such a complex topic, it is critical to distinguish between that which all physicians must know for everyday practice, and that which some physicians should know to drive innovation. Curricular components should be targeted to address the former, while robust extracurricular programs can be targeted toward the latter. Both components serve to promote discussions on how the convergence between AI and medicine is currently impacting and will continue to impact the physician’s identity. This aligns with the concept of the “reimagined medical school”, which establishes a framework of core knowledge while supporting students who seek deep dives into specific subject areas8.

이 접근 방식은 토론토 대학교(UofT) 의과대학에서 시범 운영되었으며, 학부의 전략 계획의 중요한 부분으로 행정부에서 채택했습니다8.

  • 전임상 커리큘럼의 강의는 모든 학생에게 이러한 개념을 소개하며,
  • 2년 과정의 '의학용 컴퓨팅' 자격증 프로그램은 특히 관심 있는 학생들에게 실용적인 프로그래밍 기술과 임상 데이터 과학 프로젝트에 대한 몰입을 제공합니다9.
  • 또한, "의학 분야의 AI" 학생 관심 그룹은 이 주제에 대한 과외 세미나를 주최하고 의대생과 도시 내 광범위한 AI 생태계(학계 및 산업계) 간의 연결을 촉진하는 데 도움을 줍니다(지난 2년간 제공된 의학 분야의 AI 목록은 부록 표 1 참조). 

This approach has been piloted at the University of Toronto (UofT) Faculty of Medicine and has been embraced by administration as an important part of the Faculty’s strategic plan8.

  • Lectures in the preclinical curriculum introduce all students to these concepts, and
  • the 2-year-long “Computing for Medicine” certificate program provides particularly interested students with practical programming skills and immersion into clinical data science projects9.
  • Additionally, an “AI in Medicine” student interest group hosts extracurricular seminars on the subject and helps to facilitate connections between medical students and a city’s broader AI ecosystem (in academia and industry) (see Supplementary Table 1 for a list of AI in Medicine offerings in the last two years).

하버드 의대도 비슷한 접근 방식을 채택하여 의대생에게 임상 정보학 교육을 선택 과목으로 제공하고 있습니다10. 이 선택 과목에서 학생들은 관심 분야의 교수진 멘토와 짝을 이루어 교훈적인 학습과 실습을 혼합하여 정보학이 의료 시스템에 어떻게 내장되는지 탐구합니다. 또한 MIT 크리티컬 데이터 그룹과 협력하여 의학 분야의 데이터 과학에 대한 프로젝트 기반 과정을 제공하고 있습니다11. 과외 활동으로 MIT 크리티컬 데이터 그룹은 '데이터톤'(컴퓨터 과학자와 임상의가 협력하여 임상 문제를 해결하기 위해 데이터를 사용하는 짧은 경연 대회)12을 통해 AI에 대한 관심을 촉진하기 위해 노력해 왔습니다. 이러한 협업은 의대생 교육을 강화하기 위해 비의대 학부와의 협업 가능성을 보여주는 상징적인 사례입니다.
Harvard Medical School has engaged in a similar approach, offering clinical informatics training as an elective for medical students10. During this elective, students are paired with faculty mentors in their area of interest and engage in a mix of didactic and hands-on learning to explore how informatics is embedded into health systems. The School has also collaborated with the MIT Critical Data group to offer a project-based course on data science in medicine11. Extracurricularly, the MIT Critical Data Group has worked to spur interest in AI through “datathons” (brief competitions wherein computer scientists and clinicians work together to use data to solve clinical problems)12. These collaborations are emblematic of the possibilities for collaboration with non-medical faculties to enrich the education of medical students.

이러한 경험에서 얻은 인사이트를 바탕으로 우리는 커리큘럼 및 과외 활동 영역에서 일련의 중요한 기회를 발견했습니다(표 1에 요약되어 있음). 학습 목표와 학습 목표 전달 간의 시너지 효과를 찾고, 수동적인 지식 전달이 아닌 학생 참여에 중점을 둔 학습자 중심의 정신을 유지하는 것이 중요하다는 점을 강조하고자 합니다. AI를 효과적으로 활용하는 데 필요한 역량은 옹호, 리더십, 커뮤니케이션 등 의사 역할의 다른 핵심 측면을 수행하는 데 필요한 역량과 겹치는 경우가 많으므로 이러한 개념은 적절한 경우 커리큘럼의 다른 측면(예: 윤리적 임상 의사 결정에 대한 워크숍에 AI 사례 연구 포함)과 통합되어야 합니다. 의과대학은 학생들의 학습을 도울 뿐만 아니라 학문적 관심을 키우고 미래 리더십의 씨앗을 뿌리는 데에도 중요한 역할을 담당하고 있습니다. 이러한 권장 사항은 각 의과대학, 파트너십 및 학생 단체의 상황과 강점에 맞게 조정될 수 있으며 조정되어야 합니다.
With insight from these experiences, we identify a series of important opportunities in both the curricular and extracurricular realms (outlined in Table 1). We wish to emphasize the importance of finding synergy between the learning objectives and their delivery, and of maintaining a learner-centered ethos with a focus upon student engagement rather than passive knowledge transfer. These concepts should be integrated with other aspects of the curriculum wherever appropriate (such as the inclusion of an AI case study in a workshop about ethical clinical decision-making), as the competencies required to effectively work with AI will often overlap with those required to fulfil other core aspects of the physician role such as advocacy, leadership, and communication. Medical schools have a critical role to play not only in helping their students learn but also in nurturing their academic interests and sowing the seeds of future leadership. These recommendations can and should be tailored to the context and strengths of each medical school, its partnerships, and its student body.

의과대학 졸업 후에는 어떻게 되나요?
What about after medical school?

의학전문대학원 교육(PGME)과 평생 의학 교육(CME)에 대한 자세한 논의는 이 연구의 범위를 벗어나지만, 의학 교육은 평생 추구해야 하는 것으로 간주되며 이후 경력 단계에 있는 학습자에게도 관심을 기울여야 한다는 점을 고려하는 것이 중요합니다13. AI 관련 역량은 기존 연구 또는 품질 개선(QI) 블록의 PGME 커리큘럼에 통합될 수 있습니다. 의학 또는 외과 수련의를 위한 연구 교육은 데이터 과학이나 생의학 공학과 같은 기술 분야뿐만 아니라 윤리, 의료 서비스 연구, 의학교육 분야에서도 이루어질 수 있습니다. QI는 검증된 혁신을 진료에 적용하고 평가하는 데 중점을 둡니다. 온라인 또는 대면 워크숍을 통한 CME 제공은 임상의가 경력을 쌓는 동안 자신의 역량을 새롭게 할 수 있을 뿐만 아니라 기존 의료진도 이 분야를 따라잡을 수 있는 기술과 지식을 갖출 수 있도록 지원합니다14. 표 1의 다양한 커리큘럼 측면은 경력 단계에 따라 학습자에게 적합하도록 수정할 수 있습니다.
While detailed discussion on postgraduate medical education (PGME) and continuing medical education (CME) is outside the scope of this work, it is important to consider that medical education is viewed as a life-long pursuit and attention needs to be provided to learners at later career stages13. Competencies around AI could be integrated in PGME curricula in existing research or Quality Improvement (QI) blocks. Research training, for medical or surgical trainees, could be in technical areas such as data science or biomedical engineering but also in ethics, health services research, and medical education. QI would focus on translating and evaluating proven innovations into care. CME offerings through online or in-person workshops can not only allow clinicians to refresh their competencies over the course of their career but also empower established practitioners with the skills and knowledge to keep up with this field14. The various curricular aspects in Table 1 can be modified to suit learners at different stages in their careers.

결론
Conclusion

궁극적으로 의과대학은 인공지능이 중요한 역할을 하게 될 미래에 대비하여 의사를 양성해야 하는 과제를 안고 있습니다. 이 과제를 성공적으로 완수하기 위해서는 학생들이 인공지능 도구의 임상적 사용, 기술적 한계, 윤리적 의미에 대해 교과과정 및 과외 학습 기회를 갖는 것이 필수적입니다. 이 기술의 중요성과 잠재적 영향을 고려할 때, 우리는 의사들 전반의 인공지능 이해력 기반을 확보하고 이 분야에서 혁신을 주도할 미래 리더들의 기술과 관심을 육성하기 위해 행동해야 합니다.
Ultimately, medical schools are tasked with training physicians for a future in which artificial intelligence is poised to play a significant role. In order to succeed at this task, it will be essential for students to have curricular and extracurricular learning opportunities around the clinical usage, technical limitations, and ethical implications of the tools at their disposal. Given the importance and potential impact of this technology, we must act both to ensure a base of artificial intelligence literacy among physicians at-large and to nurture the skills and interests of the future leaders who will drive innovation in this space.


NPJ Digit Med. 2020 Jun 19;3:86. doi: 10.1038/s41746-020-0294-7. eCollection 2020.

What do medical students actually need to know about artificial intelligence?

1Faculty of Medicine, University of Toronto, Medical Sciences Building, 1 King's College Cir, Toronto, ON M5S 1A8 Canada.

2Institute of Health Policy, Management and Evaluation, Dalla Lana School of Public Health, University of Toronto, 155 College St 4th Floor, Toronto, ON M5T 3M6 Canada.

3Department of Computer Science, University of Toronto, 40 St. George Street, Room 4283, Toronto, ON M5S 2E4 Canada.

4Department of Medical Biophysics, University of Toronto, 101 College St, Suite 15-701, Toronto, ON M5G 1L7 Canada.

5Centre for Ethics, University of Toronto, 15 Devonshire Pl, Toronto, ON M5S 1H8 Canada.

6Institute for Medical Engineering and Science, Massachusetts Institute of Technology, 77 Massachusetts Avenue, E25-505, Cambridge, MA 02139 USA.

7Division of Pulmonary, Critical Care and Sleep Medicine, Beth Israel Deaconess Medical Center, 330 Brookline Avenue, Boston, MA 02215 USA.

8Department of Biostatistics, Harvard T.H. Chan School of Public Health, 677 Huntington Avenue, Boston, MA 02115 USA.

PMID: 32577533

PMCID: PMC7305136

DOI: 10.1038/s41746-020-0294-7

Free PMC article

Abstract

With emerging innovations in artificial intelligence (AI) poised to substantially impact medical practice, interest in training current and future physicians about the technology is growing. Alongside comes the question of what, precisely, should medical students be taught. While competencies for the clinical usage of AI are broadly similar to those for any other novel technology, there are qualitative differences of critical importance to concerns regarding explainability, health equity, and data security. Drawing on experiences at the University of Toronto Faculty of Medicine and MIT Critical Data's "datathons", the authors advocate for a dual-focused approach: combining robust data science-focused additions to baseline health research curricula and extracurricular programs to cultivate leadership in this space.

Keywords: Health care; Medical ethics.

보건의료전문직이 인공지능-기반 도구를 사용하기 위한 역량(Acad Med, 2023)
Competencies for the Use of Artificial Intelligence–Based Tools by Health Care Professionals
Regina G. Russell, PhD, MA, MEd, Laurie Lovett Novak, PhD, Mehool Patel, MD, Kim V. Garvey, PhD, MS, MLIS, Kelly Jean Thomas Craig, PhD, Gretchen P. Jackson, MD, PhD, Don Moore, PhD, and Bonnie M. Miller, MD, MMHC 

 

인공 지능(AI)은 머신 러닝, 딥 러닝, 자연어 처리, 신경망을 활용하는 알고리즘을 포함하여 인간의 지능을 모방하는 컴퓨터 과학 기술을 말합니다. 의료 분야에서 AI 알고리즘은 이해할 수 없을 정도로 크고 복잡한 데이터 세트를 임상적 결정을 내릴 수 있는 정보로 변환할 수 있습니다. 1 이러한 기술은 점점 더 정교해지고 있으며, 위험 점수, 이미지 해석, 의료 기록 요약과 같이 AI로 생성된 결과물은 이미 환자 치료에 직접적인 영향을 미치는 데 사용되고 있습니다. 2,3 AI 기반 도구에는 이러한 유형의 계산 기술을 운영 체제에 통합하는 모든 기기와 소프트웨어가 포함됩니다.  
Artificial intelligence (AI) refers to computer science techniques that mimic human intelligence, including algorithms that leverage machine learning, deep learning, natural language processing, and neural networks. In health care, AI algorithms can transform incomprehensibly large and complex data sets into information that can guide clinical decisions. 1 These technologies have become increasingly sophisticated, and AI-generated outputs, such as risk scores, image interpretation, and health record summarization, are already being used to directly influence patient care. 2,3 AI-based tools include all instruments and software that incorporate these types of computational technologies into their operating systems.

의료 서비스에서 AI 기반 도구를 구현하면서 도구 개발의 편향성, 후속 건강 개선의 분배 정의 등 다양한 실용적, 윤리적 문제가 제기되고 있습니다. 4-7 이러한 도구의 도입이 증가함에 따라 임상의는 이러한 도구의 유익한 효과와 해로운 효과를 모두 경험하게 될 것이며, 따라서 AI의 영향을 받는 의료 환경에서 효과적이고 효율적이며 안전하며 공평하게 진료하기 위한 기본 역량을 습득해야 합니다. 그러나 이러한 역량의 성격은 아직 명확히 밝혀지지 않았습니다.
The implementation of AI-based tools in health care has given rise to a variety of practical and ethical concerns, including bias in tool development and justice in the distribution of subsequent health improvements. 4–7 As adoption increases, clinicians will encounter both beneficial and harmful effects of these tools and will therefore need to acquire baseline competencies for practicing effectively, efficiently, safely, and equitably in AI-influenced health care environments. However, the nature of such competencies has not yet been articulated.

6개 의과대학에서 제공하는 프로그램을 검토한 Paranjape 등 8은 고급 수학, 의료 데이터 세트, AI 기반 도구의 임상 적용 등 다양한 AI 관련 주제를 다루는 학습 활동을 설명했습니다. Lee 등 9은 학부 의과 교육에서 AI에 대한 범위 검토를 수행하여 명확한 학문적 구조와 특정 역량이 필요하다는 결론을 내렸습니다. 최근 논평에서 Garvey 등10은 임상 현장에서 새로운 AI 기반 도구를 테스트하고 구현할 때 구조화된 학습 프로그램이 거의 수반되지 않는다고 지적하며 역량에 대한 요구를 반영했습니다. 임상 정보학에 대한 역량이 발표되었지만,11 AI 기반 도구의 계산 복잡성과 진료 및 결과에 대한 잠재적 영향력을 고려할 때 안전하고 윤리적인 배포를 보장하기 위한 구체적인 역량이 필요합니다. 
In a review of programs offered at 6 medical schools, Paranjape et al 8 described learning activities that covered a range of AI-related topics, including advanced mathematics, health care data sets, and clinical applications of AI-based tools. Lee et al 9 conducted a scoping review of AI in undergraduate medical education and concluded that a clear academic structure and specified competencies were needed. In a recent commentary, Garvey et al 10 noted that structured learning programs rarely accompanied the testing and implementation of new AI-based tools in clinical workplaces and they echoed the call for competencies. Although competencies have been published for clinical informatics, 11 the computational complexity of AI-based tools and their potential influence on practice and outcomes necessitate specific competencies aimed at ensuring safe and ethical deployment.

역량 기반 교육은 이 연구를 위한 개념적 틀을 제공합니다. 12-14 역량 기반 교육의 기본 가정은 특정 지식, 기술 및 태도(역량)가 전문직 실무에 필요하며 이러한 역량 기대치는 전문직 환경의 핵심 측면을 분석하여 학습자를 위해 개발될 수 있다는 것입니다. 기대치가 정의되면 학습자는 개별화된 학습 경로를 따라 해당 역량을 습득할 수 있습니다. 12-14 본 연구의 목표는

  • (1) 의료 전문가를 위한 AI 관련 임상 역량을 정의하고,
  • (2) 향후 의료 AI 기술의 사용과 감독 및 관리에 필요한 조직의 책임을 탐구하는 것입니다.

Competency-based education provides a conceptual framework for this study. 12–14 The basic assumption of competency-based education is that specific knowledge, skills, and attitudes (competencies) are necessary for professional practice and that these competency expectations can be developed for learners by analyzing core aspects of their professional environments. Once expectations are defined, learners can acquire the competencies along individualized learning pathways. 12–14 Our study’s goals were

  • (1) to define AI-related clinical competencies for health care professionals and
  • (2) to explore future uses of health care AI technologies and the organizational responsibilities required for oversight and management.

방법
Method

2020년 12월부터 2021년 7월까지 의료 전문가가 AI 기반 도구를 효과적으로 사용하는 데 필요한 역량에 대해 주제별 전문가(SME)를 인터뷰하는 정성적 연구를 수행했습니다. 15-19그림 1은 연구 프로세스를 간략하게 보여줍니다.
From December 2020 through July 2021, we conducted a qualitative study in which we interviewed subject matter experts (SMEs) about the competencies health care professionals need to work effectively with AI-based tools. 15–19Figure 1 outlines the study process.

다학제 연구팀은 밴더빌트 대학교 의과대학의 교수진 5명(R.G.R., L.L.N., K.V.G., D.M., B.M.M.)과 AI 관련 연구 및 분석에 전문성을 갖춘 IBM 왓슨 헬스의 직원 3명(M.P., K.J.T.C., G.P.J.)으로 구성되었습니다. 이 팀에는 의사 3명(M.P., G.P.J., B.M.M.), 의료 AI 전문 인류학자(L.L.N.), 기술 업계 과학 책임자이자 전 의학교육자(K.J.T.C.), 교육 기술 전문가(K.V.G.), 직장 및 역량 기반 학습에 전문성을 갖춘 의학교육 학자 2명(D.M. 및 R.G.R.)이 포함되었습니다. 과도한 영향을 피하기 위해 IBM 왓슨 헬스의 팀원은 인터뷰에 참여하지 않았습니다. 두 연구팀은 연구의 다른 모든 측면에 대해 협력했습니다. 밴더빌트 대학교 기관윤리심의위원회는 이 프로젝트가 최소한의 위험을 초래한다고 판단하여 면제 대상으로 지정했습니다. 
The multidisciplinary research team consisted of 5 faculty members (R.G.R., L.L.N., K.V.G., D.M., and B.M.M.) from Vanderbilt University School of Medicine and 3 members (M.P., K.J.T.C., and G.P.J.) from IBM Watson Health who have expertise in AI-related research and analytics. The team included 3 physicians (M.P., G.P.J., and B.M.M.), an anthropologist specializing in health care AI (L.L.N.), a science officer in the technology industry and former medical educator (K.J.T.C.), a specialist in educational technology (K.V.G.), and 2 medical education scholars with expertise in workplace and competency-based learning (D.M. and R.G.R.). To avoid undue influence, team members from IBM Watson Health did not participate in the interviews. The combined team collaborated on all other aspects of the study. The Vanderbilt University Institutional Review Board determined that the project posed minimal risk and designated it exempt.

참여자
Participants

문헌 검토, 전문가 접촉, 눈덩이 기법(참가자에게 다른 내용전문가(SME)을 추천하도록 요청)을 통해 의료 환경에서 AI 기반 도구를 사용하는 내용전문가(SME)을 파악하고 이 연구에 참여하도록 초대했습니다. 19 연구에 참여하려면 미국 보건 전문직 교육 또는 보건 정보학 분야에서 일해야 했습니다. 이러한 의도적인 표본 추출 과정을 통해 다양한 직업을 대표할 수 있도록 했으며 윤리 및 형평성에 대한 특별한 전문성을 가진 사람들을 포함했습니다. 내용전문가(SME)은 연구 참여에 대한 사례금을 받았습니다. 
We identified SMEs in the use of AI-based tools in health care settings through literature review, professional contacts, and snowball techniques (asking participants to recommend other SMEs) and invited them to participate in this study. 19 To be eligible for the study, individuals needed to work in U.S. health professions education or health informatics. This purposive sampling process ensured representation from multiple professions and included those with special expertise in ethics and equity. The SMEs received an honorarium for their participation in the study.

데이터 수집
Data collection

반구조화된 인터뷰가 데이터의 주요 원천이었지만, 인구통계학적 설문지와 역량 초안에 대한 피드백을 요청하는 양식에서도 데이터를 수집했습니다. 저자들의 사전 논평에서 확인된 내용은 인터뷰 가이드 개발에 도움이 되었습니다. 10 반구조화된 인터뷰 프로토콜에는 연구 목표에 대한 설명이 포함된 소개 스크립트와 인터뷰에 대한 공유된 이해를 확립하기 위한 의료 분야에서의 AI에 대한 실무적 정의가 포함되었습니다. 인터뷰는 "의료 전문가가 임상 치료에서 AI 기반 도구를 사용하려면 어떤 역량이 필요한가?"라는 질문에 답하기 위해 설계되었습니다. 또한 인터뷰에서는 의료 AI 기술의 향후 활용과 이에 대한 조직의 감독 및 관리 책임에 대해서도 논의했습니다. 질문의 질과 유용성을 평가하기 위해 두 차례의 파일럿 인터뷰가 실시되었습니다. 초기 인터뷰에 대한 팀의 검토를 거쳐 다양성, 포용성, 건강 형평성과 관련된 질문이 추가되었습니다. 15번의 인터뷰 끝에 데이터 포화, 즉 내용전문가(SME)이 공유하는 아이디어의 반복에 도달했습니다. 20 최종 인터뷰 가이드는 부록 디지털 부록 1에서 확인할 수 있습니다.
Semistructured interviews were the primary source of data, although we also collected data from a demographic questionnaire and a form that solicited feedback on drafts of the competencies. Articles identified from the authors’ prior commentary informed development of the interview guide. 10 The semistructured interview protocol included an introductory script with a description of the study objectives and a working definition of AI in health care that was intended to establish a shared understanding for the interviews. Interviews were designed to answer the question, “What competencies do health care professionals need for use of AI-based tools in clinical care?” Interviews also explored future uses of health care AI technologies and organizational responsibilities for their oversight and management. Two pilot interviews were conducted to assess quality and utility of the questions. After team reflection on the initial interviews, questions were added related to diversity, inclusion, and health equity. Data saturation, or repetition of the ideas being shared by the SMEs, was reached after 15 interviews. 20 The final interview guide is available in Supplemental Digital Appendix 1 (at https://links.lww.com/ACADMED/B334).

인터뷰는 2021년 1월부터 4월까지 화상회의를 통해 진행되었으며, 참가자의 동의를 얻어 오디오를 녹음하고 필사했습니다. 인터뷰는 45분에서 60분 사이에 진행되었습니다. 인터뷰는 밴더빌트 대학교 의과 대학 팀원들이 가용성에 따라 분산되어 진행되었으며, 각 팀당 1명이 주 인터뷰어로 지정되었습니다. 보조 면접관은 일관성을 보장하기 위해 1명을 제외한 모든 면접에 참여했으며 선택한 지점에서 후속 질문을 던졌습니다. 일관성을 유지하기 위해 연구팀 전체가 매주 만나 인터뷰 내용을 보고하고, 녹취록을 검토하고, 인터뷰 가이드를 수정했습니다.
Interviews were conducted via videoconference between January and April 2021, audio-recorded with consent of the participants, and transcribed. The interviews lasted between 45 and 60 minutes. Interviews were distributed across Vanderbilt University School of Medicine team members based on availability, with 1 person designated as the primary interviewer for each. A secondary interviewer participated in all but 1 interview to ensure consistency and pose follow-up questions at selected points. To further ensure consistency, the entire research team met weekly to debrief interviews, review transcripts, and refine the interview guide.

내용전문가(SME)은 인터뷰 후 학위, 직책, 직업, 전문 분야, 나이, 경력 연수, 성별, 인종 또는 민족 등의 인구통계학적 요소를 제공했습니다. 2021년 7월, 내용전문가(SME)은 각 역량 및 하위 역량 초안의 구체적인 문구가 포함된 양식을 받았습니다. 응답자들은 각각에 대해 공개 텍스트 의견과 편집 제안을 제공하도록 요청받았으며 요약 의견을 제공할 기회를 가졌습니다. 인구통계학적 설문지와 역량 피드백 양식은 안전한 온라인 데이터 수집 도구인 REDCap(Research Electronic Data Capture)을 통해 관리되었습니다. 21 
The SMEs provided the following demographic elements after the interview: degree(s), title(s), profession, fields of expertise, age, years of professional experience, gender, and race or ethnicity. In July 2021, the SMEs received a form that contained the specific wording of each draft competency and subcompetency. Respondents were asked to provide open text comments and editorial suggestions on each and had the opportunity to provide summary comments. The demographic questionnaire and competency feedback form were administered through REDCap (Research Electronic Data Capture), a secure online data-capturing tool. 21

데이터 관리 및 분석
Data management and analysis

인터뷰 녹취록은 정성적 데이터 분석 도구인 Dedoose로 가져오기 전에 비식별화되었습니다. 22 코딩은 연구팀 전체에 분산되어 2명의 연구원이 각 인터뷰마다 코딩을 담당했습니다. 코딩에는 녹취록에서 텍스트 섹션을 발췌하고 각 발췌에 1개 이상의 코드를 할당하는 작업이 포함되었습니다. 연구팀은 연역적 코딩귀납적 코딩 방법을 모두 사용했습니다. 23

  • 연역적 코딩에서는 의료 전문직 전반의 영역을 통합한 기존 역량 분류법을 적용했습니다. 24
  • 귀납적 코딩에서는 선험적 코딩 체계 없이 데이터를 검토하여 기존 프레임워크에 포함되지 않은 새로운 아이디어를 식별할 수 있었습니다.

이전에 개발된 역량 프레임워크를 사용하면 코더 간 개념의 초기 조율을 지원하는 한편, 개방형 코딩의 유연성을 통해 예상치 못한 인사이트를 발견할 수 있었습니다.
Interview transcripts were deidentified before importing into the qualitative data analysis tool Dedoose. 22 Coding was distributed across the research team, with 2 members coding each interview. This coding involved excerpting sections of text from transcripts and assigning 1 or more codes to each excerpt. The team used both deductive and inductive coding methods. 23 

  • In deductive coding, an existing competency taxonomy that integrated domains across health professions was applied. 24 
  • In inductive coding, data were reviewed without an a priori coding scheme, allowing identification of new ideas not included in existing frameworks.

The use of a previously developed competency framework supported initial alignment of concepts across coders, whereas the flexibility of open coding allowed discovery of unexpected insights.

주제별 분석은 코딩 과정에서 떠오른 아이디어를 탐색하고 요약하는 데 사용되었습니다. 15,19,23 코딩된 데이터에 대한 반복적인 팀 토론을 통해 6개의 광범위한 개념적 주제가 확인되었습니다. 이러한 주제는 인터뷰 전반에 걸쳐 반복적으로 나타났으며, 15개의 녹취록을 분석한 결과 귀납적 주제 포화도에 도달했습니다. 20,25
Thematic analysis was used to explore and summarize ideas that surfaced during the coding process. 15,19,23 Six broad conceptual themes were identified through iterative team discussion of the coded data. These themes appeared repeatedly throughout interviews, and after analysis of 15 transcripts, inductive thematic saturation was reached. 20,25

전문 분야에 따라 각 개념적 주제에 1명의 연구원이 배정되어 역량 진술로 번역했습니다. 연구자들은 주제에 매핑된 발췌문을 사용하여 향후 커리큘럼 개발에 필요한 구체성을 제공하는 하위 역량도 만들었습니다. 두 번째 팀원이 각 초안을 검토하고 수정 사항을 제안하도록 배정되었습니다. 그런 다음 팀 전체가 작성된 목록을 검토하고 유사한 하위 역량을 중복 제거하고 합의에 도달할 때까지 문구와 프레임워크를 반복적으로 수정했습니다. 이 합의 문서는 후속 양식을 작성하는 데 사용되었으며, 역량 진술에 대한 피드백을 요청하기 위해 내용전문가(SME)에 이메일을 통해 배포되었습니다.
On the basis of areas of expertise, 1 researcher was assigned to each conceptual theme for translation into competency statements. Using excerpts that mapped to the themes, researchers also created subcompetencies, which provided the specificity needed for future curriculum development. A second team member was assigned to review each draft and suggest revisions. The entire team then reviewed the compiled list, deduplicated similar subcompetencies, and iterated the wording and framework until consensus was reached. This consensus document was used to construct the follow-up form, which was distributed via email to the SMEs to solicit feedback on competency statements.

내용전문가(SME)의 피드백을 수집한 후, 각 역량과 그 하위 역량에 대해 1차 및 2차 검토자가 배정되었습니다. 1차 검토자는 제출된 답변을 변경 없음, 문구 수정, 삭제 또는 새로운 하위 역량 추가 등의 루브릭을 사용하여 코드화했습니다. 그런 다음 1차 검토자는 코드화된 답변을 사용하여 필요에 따라 진술을 수정했습니다. 2차 검토자는 성문화된 내용을 확인하고 수정된 내용이 정확하고 완전한지 평가했습니다. 수정된 역량 목록은 전체 연구팀의 합의 프로세스를 통해 검토 및 최종 확정되었습니다.
After collection of feedback from the SMEs, primary and secondary reviewers were assigned to each competency and its subcompetencies. The primary reviewer codified the submitted responses using the following rubric: no change, edit wording, delete, or add new subcompetency. The primary reviewer then used the codified responses to revise statements as needed. The secondary reviewer confirmed codification and evaluated the revisions for accuracy and completeness. The revised competency list was reviewed and finalized using a consensus process across the combined research team.

매주 회의를 통해 팀원들의 다양한 관점과 경력 경험이 데이터 해석에 미치는 영향에 대한 지속적인 성찰을 장려했습니다. 성적표 코딩, 성명서 작성, 내용전문가(SME) 피드백을 통한 수정 작업을 함께 진행함으로써 팀 내 참여가 더욱 활발해져 요약 결과의 신뢰도가 높아졌습니다. 25
Weekly meetings encouraged ongoing reflection on the impact of team members’ diverse perspectives and career experiences on data interpretation. Mixed pairings for transcript coding, statement writing, and revisions from the SME feedback encouraged deeper engagement within the team, increasing the credibility of the summary findings. 25

결과
Results

남성 10명, 여성 5명을 포함하여 15명의 내용전문가(SME)을 인터뷰했습니다. 내용전문가(SME)의 연령은 34세부터 73세까지 다양했으며, 3명은 소수 인종 또는 소수 민족 출신이었습니다. 내용전문가(SME)을 대표하는 임상 전문직은 의학(n = 9), 간호(n = 2), 약학(n = 1, 표 1) 등이었습니다. 비임상 학자 3명은 윤리(n = 1), 비즈니스 및 교육(n = 1), 사회 의학(n = 1)에 대한 전문성을 추가했습니다. 여러 역할을 맡고 있다고 답한 내용전문가(SME)이 많았지만,

  • 주로 의료 AI, 생의학 정보학 및/또는 직장에서의 AI의 윤리적 적용에 대한 전문성으로 11명이 선정되었고,
  • 의료 전문직 교육에 대한 전문성으로 2명이,
  • 의료 전문직 교육과 의료 AI에 대한 이중 전문성으로 2명이 선정되었습니다.

Fifteen SMEs were interviewed, including 10 men and 5 women. The SMEs ranged in age from 34 to 73 years, and 3 were from racial or ethnic minority groups. Clinical professions represented by the SMEs included medicine (n = 9), nursing (n = 2), and pharmacy (n = 1; Table 1). Three additional nonclinical scholars added expertise in ethics (n = 1), business and education (n = 1), and social medicine (n = 1). Although many SMEs reported multiple roles,

  • 11 were selected primarily for their expertise in health care AI, biomedical informatics, and/or the ethical application of AI in the workplace;
  • 2 for their expertise in health professions education; and
  • 2 because of dual expertise in health professions education and health care AI.

주요 주제 및 선정 의견
Key themes and selected comments

연구원들은 코딩된 발췌문을 반복적으로 분석하여 6개의 개념적 주제를 식별했습니다. 이러한 주제는 초기 전문가 간 역량 프레임워크에 의해 연역적으로 형성되었으며, 연구팀의 다양한 전문성을 반영한 오픈 코딩을 통해 귀납적으로 형성되었습니다. 주제와 대표 의견은 아래에 요약되어 있습니다. 의견은 길이와 명확성을 위해 최소한의 편집을 거쳤습니다. 
Researchers identified 6 conceptual themes based on iterative analysis of coded excerpts. These themes were shaped deductively by the initial interprofessional competency framework as well as inductively by open coding, which reflected the diverse expertise of the research team. Themes and representative comments are outlined below. Comments have been minimally edited for length and clarity.

기초 지식의 필요성.
The need for foundational knowledge.

내용전문가(SME)들은 임상 치료에 활용되는 AI 도구의 유형, 목적, 데이터의 품질, 관련 분야의 개발 기여도에 대한 기초 지식이 필요하다고 설명했습니다. 내용전문가(SME)들은 임상의가 이러한 분야의 전문가가 될 필요는 없지만 일반적인 정보학 역량과 데이터 입력, 생성된 출력, 알고리즘의 특성 등 AI의 구성 요소에 대한 높은 수준의 이해가 있어야 한다고 강조했습니다.
The SMEs described a need for foundational knowledge about the types of AI tools deployed in clinical care, their purposes, the qualities of data, and the contributions of related fields to their development. The SMEs stressed that clinicians need not become experts in any of these disciplines but instead should gain general informatics competency and a high-level understanding of the components of AI, including data inputs, generated outputs, and the nature of algorithms.

모든 의료 전문가를 위한 기본적인 정보학 역량 교육부터 시작해야 합니다. 어떤 기술을 사용하고 있나요? 어떻게 효율적으로 사용하나요? 데이터란 무엇인가요? 데이터를 어떻게 수집하나요? 왜 정확한 데이터가 필요한가?... 그런 다음 다음과 같은 더 복잡한 내용으로 넘어갑니다: AI란 무엇인가요? (내용전문가(SME) 4)
You have to start with fundamental informatics competency education for all our health professionals. What are the technologies you use? How do you use them efficiently? What’s data? How do you collect data? Why do we need accurate data?… Then, we move up to more complex stuff like: What is AI? (SME 4)

어떤 사람들은 이것을 새로운 형태의 문해력이라고 설명합니다.
Some described this as a new form of literacy.

더 많은 의료 서비스가 기술을 통해 제공될 수밖에 없기 때문에, 그 편안함, 그것은 수리력도 아니고 문해력도 아닙니다. 기술 리터러시와 같은 것이죠. (내용전문가(SME) 3)
We have no choice that more health care is going to be funneled through technology, so that comfort, it’s not quite numeracy and it’s not quite literacy. It’s like tech literacy. (SME 3)

내용전문가(SME)들은 또한 특정 도구를 특정 환자 또는 환자 집단에 안전하게 적용하기 위해서는 해당 도구에 대해 "알아야 할 것을 알아야 한다"고 설명했습니다.
The SMEs also described a need to “know what you need to know” about a specific tool to safely apply it to any given patient or population of patients.

우리는 약리학에 대해 충분히 배워서 누군가 와서 "이 마법의 콩이 있어요"라고 말하면 "그래요, 약리학을 해봤어요. 어떻게 작용하죠?" 그러면 그들은 "그냥 마술이에요."라고 대답할 것입니다. 환자에게 마법의 콩을 주기 전에 그 마법에 대해 조금 더 알고 싶을 것입니다. AI는 사람들에게 판매되는 방식이 마법의 콩과 비슷하기 때문에 우리 모두가 올바른 질문을 할 수 있기를 바랍니다. 그 뒤에 있는 기술은 무엇인가요? 어떻게 테스트되었나요? 외부 검증을 거쳤나요? 어떤 종류의 데이터 세트인가요? (내용전문가(SME) 6)
We learn enough about pharmacology that if someone came in and said, “I have these magic beans” and you said “Okay, I’ve had pharmacology. How do they work?” And they said “Well, it’s just magic.” You’d probably want to know a little more about the magic before you would give it to your patients. AI is kind of like magic beans the way it gets sold to people, and I want all of us to be able to ask the right questions. What’s the technology behind it? How has it been tested? Did you do external validation? What kind of data sets? (SME 6)

마지막으로, 내용전문가(SME)들은 일부 기초 지식은 기존 교육 과정에서 이미 다루어졌을 수 있지만 AI의 맥락에서 명시적으로 적용해야 할 필요가 있다는 점을 인정했습니다.
Finally, the SMEs acknowledged that some foundational knowledge may already be covered in existing courses but would need to be applied explicitly in the context of AI.

이 부분은 이미 어느 정도 교육을 받고 있다고 생각합니다. 민감도, 특이성, 정확도 측정에 대한 기본적인 개념만 "AI가 모든 것을 해결해 줄 거야"라고 말하는 경향이 있기 때문입니다. 하지만 완벽한 방법은 없습니다. (내용전문가(SME) 14)
This is something I think they already get some training on. Just the basic notion of sensitivity, specificity, the accuracy measures because there’s a tendency to say, “Ooh, you know, AI is going to solve everything.” But no particular method is perfect. (SME 14)

윤리적, 법적, 규제적, 사회적, 경제적, 정치적 문제.
Ethical, legal, regulatory, social, economic, and political issues.

많은 내용전문가(SME)은 공정성을 보장하기 위한 신중한 조치 없이 AI 기반 도구가 구현될 경우 건강 불평등을 악화시킬 가능성에 대해 논의했습니다. 잠재적인 부정적 결과에 대해 충분한 주의를 기울이기 전에 형사 사법, 교육, 주택 분야에 AI 기반 기술이 도입되었을 때 발생하는 문제점을 언급하기도 했습니다. 이러한 우려를 바탕으로 내용전문가(SME)은 모든 임상의가 AI 기반 도구가 건강 격차와 의료 격차를 좁힐지 넓힐지를 결정할 사회적, 윤리적, 법적, 규제적 문제를 이해해야 한다고 설명했습니다. 
Many of the SMEs discussed the potential for AI-based tools to worsen health inequities if implemented without deliberate action to ensure fairness. Several cited problems occurred when AI-based technologies were implemented in criminal justice, education, and housing before sufficient attention was given to potential negative consequences. On the basis of these concerns, the SMEs described a need for all clinicians to understand the social, ethical, legal, and regulatory issues that will determine whether AI-based tools will narrow or widen health disparities and health care gaps.

우리는 형사 사법, 교육, 주택 등 다양한 분야에서 인공지능이 형평성과 포용성을 무시할 때 어떤 일이 벌어지는지 보아왔습니다. 우리는 이러한 분야에서 인공지능을 사용해서는 안 되며, 의료 분야에서도 인공지능을 사용해서는 안 됩니다. (내용전문가(SME) 15) 
We have seen what AI does when it ignores equity and inclusion in criminal justice, in education, in housing, in you name it. We should not have done it in those fields, and we certainly cannot do it in health care. (SME 15)

내용전문가(SME)들은 이해도를 넘어 임상의가 AI 도구의 윤리적 배포와 적절한 평가를 보장하기 위해 개인적이고 공동의 책임감을 개발해야 할 필요성을 설명했습니다. 
Beyond understanding, the SMEs described a need for clinicians to develop a sense of personal and shared responsibility for ensuring ethical deployment and appropriate evaluation of AI tools.

많은 임상의가 "나에게는 책임이 있고 그 책임의 일부는 목소리를 내는 것입니다. 저는 이 문제에 대해 방관자가 되지 않을 것입니다." 라고 말하기보다는 시스템이 저절로 작동하도록 내버려 둡니다.  (내용전문가(SME) 15) 
Many clinicians allow the system to run itself rather than saying, “I have a responsibility and part of that is to speak up. I’m not going to be a bystander on this one.” (SME 15)

내용전문가(SME)들은 AI 기반 도구가 제공하는 지원과 관계없이 임상의가 환자 치료의 모든 측면과 임상 결과에 대한 일차적인 전문적, 법적 책임을 여전히 져야 한다고 한목소리로 말했습니다. 
The SMEs uniformly stated that clinicians should still hold primary professional and legal responsibility for all aspects of patient care and for clinical outcomes, regardless of the support provided by AI-based tools.

학생들에게 필요한 윤리적 부분은 의사가 그 과정에서 전문적인 의무를 포기하지 않는다는 개념이라고 생각합니다. (내용전문가(SME) 10) 
I think the ethical piece that the students would need is this notion of the physician not abdicating their professional duty in the process. (SME 10)

몇몇은 형평성과 격차 악화 가능성에 대한 우려를 신랄하게 표현하고 공평한 배치를 방해할 수 있는 정치적, 구조적 요인에 대해 설명했습니다. 
Several expressed concerns for equity and the potential for worsening disparities in poignant terms and described the political and structural factors that could impede equitable deployment.

그렇다면 기술에 접근할 수 없거나 교육, 언어 또는 기타 장벽으로 인해 뒤처진 사람들은 어떤 상황에 놓이게 될까요? AI 혁명은 그 범주에 속하는 사람들을 어디에 남겨둘까요? 그리고 환급 구조와 전체 시스템 측면에서 의료 서비스 모델은 어디에서 장애를 일으키기 시작할까요? AI가 본질적으로 격차를 줄이는 데 도움이 되기보다는 오히려 악화시킬 수 있는 부분은 어디일까요? 저는 그것이 앞으로 문제가 될 수 있다고 생각하기 때문입니다. (내용전문가(SME) 14)  
So where does it leave those who don’t have access to technology or who are left behind because of educational, language, or other barriers? Where does an AI revolution leave people who fall in that bucket? And where does the health care model start to impede, in terms of the way reimbursements are structured, the entire system? Where might it introduce gaps that AI essentially exacerbates rather than helps close? Because I can see that being a problem down the line. (SME 14)

임상의의 역할과 책임, 그리고 임상 진료의 본질.
Clinician roles and responsibilities and the nature of the clinical encounter.

내용전문가(SME)들은 AI 기반 도구의 큰 잠재력은 임상의가 다양한 소스에서 파생된 방대한 양의 데이터를 관리할 수 있도록 지원함으로써 임상 진료를 개선하는 데 있다는 데 동의했습니다. 
The SMEs agreed that the great promise of AI-based tools is to improve clinical care by helping clinicians manage massive amounts of data derived from diverse sources.

과거 데이터, 현재 데이터. 환자의 환경에서 무슨 일이 일어나고 있는지 진료 시점에 이 모든 것을 종합하려고 합니다....... 증상. 치료법. 우리를 돕기 위해 이러한 도구가 필요합니다. 우리의 마음은 무한하지 않습니다. 우리는 산만합니다. 우리는 피곤합니다. 우리는 무슨 일이 일어나고 있는지 따라잡을 수 없습니다. 올바른 결정을 내리는 데 도움을 줄 수 있는 도구가 필요합니다. (내용전문가(SME) 4) 
Historic data, current data. Trying to piece all that together at the point of care with whatever’s going on in the environment of the patient…. The symptomatology. Their treatment. We need these tools to help us. Our minds are not infinite. We are distracted. We get tired. We can’t keep up with what’s going on. We need these tools to be able to provide us the support to help make good decisions. (SME 4)

내용전문가(SME)들은 AI 기반 도구의 결과물이 임상적 의사 결정을 보강하고 지원하는 데 사용되어야 하며, 임상의가 개별 환자를 돌볼 때 이러한 결과물을 적용하는 데 판단력을 발휘해야 하며, 이상적으로는 공유 의사 결정 모델을 사용해야 한다고 강조했습니다. 
The SMEs stressed that the outputs of AI-based tools should be used to augment and support clinical decision-making and that clinicians should exercise judgment in applying those outputs in caring for individual patients, ideally using shared decision-making models.

르네 라넥은 튜브를 통해 들을 수 있는 청진기를 사용하면 더 잘 들을 수 있다는 사실을 발견했고, 이는 결국 현대 청진기로 발전했습니다. 마찬가지로 AI 도구는 진단 또는 치료 능력을 향상시키는 청진기처럼 보아야 하며, 귀를 대체해서는 안 됩니다. (내용전문가(SME) 7) 
René Laënnec discovered that you could hear better with a tube you could listen through that was eventually refined to the modern stethoscope. Similarly, AI tools should be viewed like a stethoscope that increases your diagnostic or therapeutic ability but shouldn’t replace what goes on between your ears. (SME 7)
의사의 역할은 해당 지침이나 프레젠테이션을 환자의 맥락에서 해석한 다음 공유된 의사 결정 프로세스를 통해 환자가 현재 처한 상황에서 환자의 요구를 가장 잘 충족할 수 있는 치료 계획을 생성하는 것이며, 일부 상충 관계가 있을 수 있음을 이해해야 합니다. (내용전문가(SME) 2) 
The physician’s job is to interpret that guideline or presentation in the context of their patient and then through a shared decision-making process generate a care plan that’s going to best meet the needs of the patient where they are at that time, understanding that there may be some tradeoffs. (SME 2)

내용전문가(SME)들은 환자의 치료에 영향을 미칠 수 있는 AI 기반 도구의 결과를 환자에게 설명할 때 향상된 커뮤니케이션 기술이 필요하다고 설명했지만, 이러한 도구가 임상의와 환자 관계의 인간적인 측면을 향상시킬 수 있는 기회를 제공할 수 있다고 믿었습니다. 
The SMEs described a need for enhanced communication skills in explaining to patients the outputs of AI-based tools that might influence their care but also believed that these tools may present an opportunity to enhance humanistic aspects of clinician–patient relationships.

의사 결정에 따른 인지적 부하를 일부 상쇄하고 이를 돕기 위해 이 도구를 통합함으로써 이득을 얻을 수 있다고 한다면, 이러한 인지적 부하를 인문학적 상호 작용에 다시 주입할 수 있을까요? (내용전문가(SME) 10) 
If we’re saying we’re going to benefit from offsetting some of the cognitive load of the decision making and incorporating this tool to help us do that, can we reinfuse that cognitive load in the humanistic interactions? (SME 10)

내용전문가(SME)들은 대체가 아닌 보강을 강조했지만, 임상 치료의 일부 측면이 결국 AI 기반 기능으로 대체될 수 있다는 점을 인정했습니다. 
Although the SMEs emphasized augmentation and not replacement, they acknowledged that some aspects of clinical care might eventually be replaced by AI-based capabilities.

기술이 여러분이 하는 일의 일부를 대체할 것이라는 점을 이해해야 합니다. 그리고 그거 아세요? 괜찮습니다. 여러분의 스킬 세트에는 여전히 중요한 다른 측면이 있습니다. 하지만 기술이나 시스템의 다른 부분으로 더 잘할 수 있는 일에 매달리는 것은 어떨까요? 환자와 시스템 모두에게 중요합니다. AI가 이를 더욱 강화할 것이라고 생각합니다. (내용전문가(SME) 2) 
You need to understand that technology is going to replace some of the stuff you do. And guess what? That is okay. There are other aspects of your skill set that are going to remain really important. But hanging onto stuff that can be done better by either technology or other points in the system? It’s important for both the patients and the system. AI, I think, is going to push that. (SME 2)

마지막으로, 내용전문가(SME)들은 임상의가 임상적으로 적절한 경우 환자가 생성한 데이터를 통합해야 한다고 생각했습니다. 
Finally, the SMEs believed that clinicians should incorporate patient-generated data when clinically appropriate.

엄청나게 가치 있는 정보죠? 예를 들어 진료실에서 혈압을 한 번 측정하는 것보다 훨씬 낫죠. 이제 환자의 일상 생활과 건강 상태에 대한 훨씬 더 정확한 데이터를 얻을 수 있습니다. 따라서 우리는 이를 활용해야 합니다. 엄청난 잠재력을 제공합니다. 사람들을 너무 단편적으로 만나기 때문에 우리가 할 수 있는 모든 일을 할 수 없습니다. 하지만 이를 어떻게 처리하고 최대한 활용할 수 있을지 함께 노력해야 합니다. (내용전문가(SME) 10) 
It’s incredibly valuable information, right? It’s so much better than the one shot of, for instance, a blood pressure measurement when they’re in the office. Now you’ve got much more accurate data about their day-to-day life and how things work. And so, we need to lean into it. It offers tremendous potential. It’s all the stuff that we can’t do because we see folks so episodically. But we will need to work together to figure out how to process it and make the most of it. (SME 10)

팀 역학 및 워크플로에 미치는 영향.
The impact on team dynamics and workflows.

몇몇 내용전문가(SME)은 AI 기반 도구가 기존 워크플로우에 미칠 영향에 대해 논의하고 워크플로우 변경 사항을 명시적으로 처리하는 구현 프로세스를 권장했습니다. 
Several SMEs discussed the impact that AI-based tools would have on established workflows and recommended implementation processes that explicitly address workflow changes.

"우리의 워크플로는 무엇이며, 이 기술은 어디에 적합fit한가?"라는 질문을 던질 수 있어야 합니다. 그것이 위험 모델을 제시하는 것이든, 약물을 전달하는 로봇이든, 정맥주사 펌프이든 상관없습니다. 이 새로운 도우미를 수용하기 위해 워크플로에 어떤 변화가 필요할까요? (내용전문가(SME) 1) 
We should be able to ask the question, “What is our workflow and where does this technology fit into that?” And that’s whether it’s the presentation of a risk model or it’s the robot that delivers medications or the IV [intravenous] pump. How will this fit in, and what do we need to change about our workflows, if anything, to accommodate this new helper? (SME 1)

내용전문가(SME)들은 이러한 워크플로우의 중단이 전문가 간 팀과 팀원 간의 관계에 영향을 미칠 수 있다는 점을 인정했습니다. 
The SMEs acknowledged that these disrupted workflows could have an impact on interprofessional teams and the relationships between team members.

또한 전문가 간 팀은 팀 내에서 증강 지능이 할 수 있는 일과 할 수 없는 일에 대해 공유된 이해를 가져야 합니다. 특히 진행성 암과 같은 복잡한 치료 문제와 관련하여 중요한 부분이라고 생각할 수 있습니다. (내용전문가(SME) 2) 
The interprofessional team would also have to have a shared understanding of what that augmented intelligence can and can’t do within that team aspect. But you could imagine that being an important part, particularly around complex care issues like advanced cancers. (SME 2)

데이터 세트의 편향성 및 대표성에 대한 우려.
Concerns about bias and representativeness of data sets.

내용전문가(SME)들은 개인적 편향, 조직적 편향, 시스템적 편향 등 여러 수준에서, 그리고 도구 제작 과정의 여러 지점에서 편향에 대한 우려를 논의했습니다. 특히 내용전문가(SME)들은 데이터 세트 학습과 검증에 사용되는 모집단의 특성에 따라 AI 기반 도구에 내장될 수 있는 편향성에 대해 설명할 때 우려를 표명했습니다.
The SMEs discussed concerns for bias at multiple levels, including personal, organizational, and systemic bias, and at multiple points in the tool creation process. Concerns were particularly strong when SMEs described the bias that can be built into AI-based tools based on the characteristics of populations used for training data sets and for validation.

문제는 이러한 도구를 사용하는 사람들이 도구의 기반이 되는 데이터에 사용된 개별 연구에 대해 알지 못한다는 것입니다. 예를 들어 70세 미만은 임상시험에 참여하지 않거나 어린이는 임상시험에 참여하지 않는 등의 배제 기준이 있었을 수 있습니다. 모든 임상시험에 해당되는 것은 아니지만, 이상값에 대한 예측의 기본 통계적 근거가 편향될 수 있을 정도로 많은 수의 임상시험에 해당될 수 있습니다. 따라서 일반적인 AI 도구에서 경계 조건이 무엇인지 모른다면 도구를 적용하는 것은 매우 위험합니다. (내용전문가(SME) 7) 
The problem there is that the people that are using those tools don’t know about the individual studies that went into the data underlying the tool. There may have been exclusion criteria for, like, people under 70 weren’t admitted into the trial, or children weren’t admitted into the trial, and so on. And that may not have been true of all of the trials, but enough of them that it would bias the underlying statistical basis for predictions for outliers. So, it’s very dangerous to apply a tool, in general AI tools, if you don’t know what their boundary conditions are. (SME 7)

데이터의 대표성은 특히 과소대표된 환자 및 인구 집단에 특정 AI 도구를 적용하는 결정을 내릴 때 매우 중요합니다.
Representativeness of data becomes especially critical in decisions about applying specific AI tools to underrepresented patients and populations.

얼굴 인식 및 치안 분야에서는 소수 민족의 얼굴에 대해 학습되지 않은 도구가 판매되어 근처에 있지도 않은 사람을 부적절하게 용의자로 분류하는 등의 문제가 발생하기도 했습니다. 의료 분야에도 이와 유사한 사례가 있습니다. (내용전문가(SME) 14) 
And we’ve seen issues with that in facial recognition and policing space where tools have been sold that were not trained on minority faces and then inappropriately flagged people as being suspects for things where they were not even anywhere near the vicinity. There’s an analog in medicine to that as well. (SME 14)

내용전문가(SME)들은 편견을 완화하기 위해 커뮤니티 참여와 권한 부여 접근 방식을 권장했습니다.
The SMEs recommended a community engagement and empowerment approach to mitigate bias.

환자와 보호자를 테이블로 끌어들이는 것은 점점 더 넓어지고 있습니다. 그리고 네, 그렇게 하면 속도가 느려집니다. 저도 동의합니다. 하지만 모두를 위한 진전을 이루려면 모든 사람을 테이블에 참여시켜 발언권을 부여하고 영향력을 행사할 수 있는 권한을 부여해야 합니다. (내용전문가(SME) 15) 
Bringing in patients and their caregivers to the table is broadening and widening. And, yes, that slows things down. I agree. But if you wanted to find progress for everyone, then we need to empower and have everyone at the table and give them a power to speak and influence and shape. (SME 15)

지속적인 전문성 개발.
Continuing professional development.

내용전문가(SME)들은 변화의 속도가 빠르기 때문에 보건 전문직 교육 단계 전반에 걸쳐 이니셔티브가 필요하다고 말하며, 후배 학습자가 상급자보다 더 발전할 수 있다고 언급했습니다. 
The SMEs stated that the rapid pace of change created an imperative for initiatives across the phases of health professions education and noted that junior learners might be more advanced than their supervisors.

이러한 상황에서 공동 제작 및 공동 학습이 도움이 될 수 있다고 생각하며, 교수진이 학생 및 레지던트와 함께 자신들이 접하지 못했던 분야에 대해 배울 수 있는 공간을 마련할 수 있습니다. (내용전문가(SME) 2)
This is where I think co-production and co-learning can be helpful, creating space for faculty to kind of learn with their students and the residents in areas that they themselves may not have been exposed to. (SME 2)

의료 전문가를 위한 AI 관련 역량
AI-related competencies for health care professionals

인터뷰 분석, 주제 파악, 전문가 피드백 통합, 연구팀 전체의 반복적인 합의 도출을 통해 최종적으로 의료 전문가를 위한 6개의 AI 관련 역량 영역 진술과 25개의 하위 역량이 공식화되고 구체화되었습니다. 의료 전문가 역량 분류체계 24가 초기 코딩을 용이하게 했지만, 일부 AI 관련 역량은 이미 확립된 여러 영역에 매핑되는 것을 발견했으며 최종 프레임워크를 구성할 때 이 분류체계에 국한하지 않았습니다. 
Ultimately, 6 AI-related competency domain statements and 25 subcompetencies for health care professionals were formulated and refined from analysis of the interviews, identification of themes, incorporation of expert feedback, and iterative consensus development across the study team. Although the health professions competency taxonomy 24 facilitated initial coding, we found that several of the AI-related competencies mapped to multiple established domains and did not limit ourselves to this taxonomy in constructing our final framework.

역량 영역 진술은 다음과 같습니다:

  • (1) AI에 대한 기본 지식: AI가 무엇인지 설명하고 의료 분야에 적용하는 방법을 설명한다.
  • (2) AI의 사회적, 윤리적 의미: 사회, 경제, 정치 시스템이 AI 기반 도구에 미치는 영향과 이러한 관계가 정의, 형평성, 윤리에 미치는 영향을 설명한다.
  • (3) AI로 강화된 임상 진료: 환자 중심 치료 계획을 수립할 때 다양한 정보원을 통합하는 AI 강화 임상 진료 수행,
  • (4) AI 기반 도구의 증거 기반 평가를 수행: 환자 및 집단에 대한 치료를 제공할 때 AI 기반 도구와 그 기반 데이터 세트의 품질, 정확성, 안전성, 맥락적 적절성, 편향성을 평가하고,
  • (5) AI 기반 도구의 워크플로 분석: AI 기반 도구 구현으로 인한 팀, 역할, 책임, 워크플로 변화를 분석하고 이에 적응하며,
  • (6) AI 기반 도구 관련 실무 기반 학습 및 개선: 의료 서비스에서 AI 도구 사용과 관련된 지속적인 전문 개발 및 실무 기반 개선 활동에 참여합니다.

The competency domain statements are as follows:

  • (1) basic knowledge of AI: explain what AI is and describe its health care applications;
  • (2) social and ethical implications of AI: explain how social, economic, and political systems influence AI-based tools and how these relationships impact justice, equity, and ethics;
  • (3) AI-enhanced clinical encounters: carry out AI-enhanced clinical encounters that integrate diverse sources of information in creating patient-centered care plans;
  • (4) evidence-based evaluation of AI-based tools: evaluate the quality, accuracy, safety, contextual appropriateness, and biases of AI-based tools and their underlying data sets in providing care to patients and populations;
  • (5) workflow analysis for AI-based tools: analyze and adapt to changes in teams, roles, responsibilities, and workflows resulting from implementation of AI-based tools; and
  • (6) practice-based learning and improvement regarding AI-based tools: participate in continuing professional development and practice-based improvement activities related to use of AI tools in health care.


그림 2는 역량 영역을 보여줍니다. 목록 1은 AI 관련 역량과 그 하위 역량을 제시합니다. 전문직별 번역의 예로, 부록 디지털 부록 2에는 이러한 역량이 의학전문대학원 교육 인증위원회의 핵심 역량 영역 26과 대략적인 난이도에 매핑된 목록이 나와 있습니다.

Figure 2 depicts the competency domains. List 1 presents the AI-related competencies along with their subcompetencies. As an example of profession-specific translation, Supplemental Digital Appendix 2 (at https://links.lww.com/ACADMED/B334) lists these competencies mapped to the Accreditation Council for Graduate Medical Education core competency domains 26 and approximate level of difficulty.

토론
Discussion

AI 기반 도구의 임상적 사용에 대한 내용전문가(SME)의 일반적인 열의에도 불구하고 거의 모든 인터뷰에 신중함이 스며들어 있었습니다. 사람에 대한 부적절한 분류 및 라벨링, 왜곡된 데이터 세트에 기반한 예측 모델, 기존의 불평등을 의도치 않게 유지하는 강력한 기술 등 잠재적인 위험은 AI 개발의 역사 전반에 걸쳐 목록화되어 왔습니다. 4,27 인공지능의 역사에 대한 최근의 비판적 검토에 따르면 "인공지능은 인공적이지도 지능적이지도 않다"고 주장합니다. 4 AI 기반 도구의 출력은 사용 가능한 데이터에 의해 결정되므로 시스템의 "지능"은 인간의 결정에서 비롯된 기본 데이터 소스의 구조, 가정 및 범위에 의해 결정됩니다. 따라서 강력한 윤리적 지향과 형평성에 대한 헌신이 모든 AI 관련 역량의 핵심이 되어야 합니다. 
Despite the SMEs’ general enthusiasm for clinical use of AI-based tools, a sense of caution permeated nearly all interviews. Potential dangers have been cataloged across the history of AI development, including inappropriate categorization and labeling of people, predictive models based on skewed data sets, and powerful technologies that inadvertently maintained existing inequalities. 4,27 A recent critical review of the history of AI claims that “artificial intelligence is neither artificial nor intelligent.” 4 Outputs from AI-based tools are determined by available data, and therefore system “intelligence” is determined by the structure, assumptions, and scope of underlying data sources, which originate from human decisions. Thus, a strong ethical orientation and commitment to equity should lie at the heart of all AI-related competencies.

수많은 저자와 전문 기관은 AI 관련 지식, 기술 및 태도를 전달하기 위한 체계적인 접근 방식과 이러한 교육 및 학습을 안내할 역량 목록을 개발할 것을 촉구해 왔습니다. 7-10,28-36 의료37 및 간호 교육에서 정보학을 위한 역량이 개발되었으며,38 이들 중 일부는 AI와 관련이 있지만 임상 치료에서 강력한 AI 기반 도구를 사용하는 데 필요한 구체성이 부족합니다. 저자들은 보건 전문직 커리큘럼에 AI 관련 주제를 포함할 것을 권고하고10 다른 저자들은 모범 프로그램을 인용했지만,17,18 역량 목록이 공식화되지는 않았습니다. 
Numerous authors and professional organizations have called for systematic approaches to imparting AI-related knowledge, skills, and attitudes and for the development of a list of competencies that would guide this teaching and learning. 7–10,28–36 Competencies have been developed for informatics in medical 37 and nursing education, 38 and although some of these are relevant to AI, they lack the specificity needed for the use of powerful AI-based tools in clinical care. Although authors have made recommendations for AI-related topics to be included in health professions curricula 10 and others have cited exemplar programs, 17,18 no list of competencies had been formulated.

이 연구는 반구조화된 전문가 인터뷰의 주제별 분석을 통해 의료 전문가를 위한 AI 관련 임상 역량 목록을 생성함으로써 이러한 격차를 해결합니다. 임상 진료를 제공하는 모든 사람이 결국 AI 기반 도구와 상호작용하게 되므로 전문가 간 접근 방식을 의도적으로 선택했습니다. 연구 결과에 따르면 의료 전문직 간에 상당한 연관성이 있으며, 이는 전문직 간 학습자가 협력하여 역량을 개발할 수 있는 잠재적 기회를 나타냅니다. 
This study addresses that gap by generating a list of AI-related clinical competencies for health care professionals through thematic analysis of semistructured expert interviews. An interprofessional approach was deliberately chosen because all who provide clinical care will eventually interface with AI-based tools. Findings suggest significant alignment across health professions, indicating potential opportunities for interprofessional learners to develop competencies collaboratively.

이 연구는 개인의 역량에 초점을 맞추었지만, 내용전문가(SME)은 유능한 개인이 AI 기반 도구와 관련된 구조, 산출물 및 결과를 평가하고 모니터링할 수 있는 'AI 역량 조직' 내에서 기능해야 한다고 강조했습니다. 이러한 조직은 안전과 공정성에 중점을 둔 규제 시스템의 지원이 필요합니다. 최근 의약품 및 의료 기기 개발과 유사한 평가 프로세스가 AI 기반 도구에 대해 설명되었으며,39 다른 사람들은 새로운 실험실 테스트에 대해 유사한 프로세스를 제안했습니다. 40 그러나 두 모델 모두 현지 조직과 규제 기관 간의 책임(및 그에 따른 역량) 배분은 아직 명확히 밝혀지지 않았습니다. 
Although this study focused on individual competencies, the SMEs emphasized that competent individuals need to function within “AI-capable organizations,” which can evaluate and monitor the structure, outputs, and outcomes associated with AI-based tools. These organizations in turn need support from regulatory systems focused on safety and fairness. An evaluation process similar to that for drug and medical device development was recently described for AI-based tools, 39 whereas others have suggested a process similar to that for new laboratory tests. 40 However, in both models, the distribution of responsibilities (and thus capabilities) between local organizations and regulatory bodies remains to be clarified.

직접적인 질문 없이도 투명성은 유능한 임상의를 지원하는 데 필요한 조직과 시스템의 필수적인 특성으로 떠올랐습니다. 조직 차원에서 개방적이고 잘 소통되는 프로세스를 통해 환자와 임상의가 임베디드 툴에 대해 인지할 수 있습니다. 또한 투명성은 도구가 강력한 경쟁적 이해관계가 아닌 환자와 대중의 이익을 위해 기능할 수 있도록 보장하는 안전장치 역할을 합니다. 이러한 투명성을 확보하려면 모든 관련 이해관계자가 의사결정 테이블에 참여해야 하며 새로운 도구를 구현할 때 표준화된 접근 방식을 사용해야 합니다. 5 
Even without direct questioning, transparency emerged as an essential characteristic of the organizations and systems needed to support competent clinicians. Open and well-communicated processes at the organizational level can ensure that patients and clinicians are aware of embedded tools. Transparency also serves as a safeguard to ensure that tools will function primarily for the benefit of patients and populations and not for powerful competing interests. This transparency requires that all relevant stakeholders have seats at decision-making tables and that standardized approaches are used for implementing new tools. 5

개인과 조직의 역량은 시스템 전반의 투명성을 요구하며, 규제 표준은 AI 기반 도구의 구성 방식, 답변하도록 설계된 질문, 학습 및 검증에 사용되는 모집단에 대한 명확한 라벨링을 요구합니다. 1,41-43 복잡한 신경망과 진화하는 알고리즘을 갖춘 도구는 조사하기 어렵고 추가적인 지속적인 감독이 필요합니다. 39,43 
Individual and organizational competency demands system-wide transparency, with regulatory standards requiring clear labeling about how AI-based tools are constructed, the questions they are engineered to answer, and the populations used for training and validation. 1,41–43 Tools with complex neural networks and evolving algorithms will be difficult to interrogate and will require additional ongoing oversight. 39,43

내용전문가(SME)들은 또한 필요한 조직 및 규제 프로세스를 수립하고 감독할 AI 기반 도구의 구현과 관련된 분야에 대한 고급 교육을 받은 새로운 의료 전문가 집단cadre의 필요성에 대해서도 논의했습니다. 학위 프로그램, 펠로우십, 자격증 프로그램 등 이러한 인력의 성격과 교육에 대해서도 추가적인 정의가 필요합니다.
The SMEs also discussed the need for a new cadre of health care professionals with advanced training in areas related to the implementation of AI-based tools who would establish and oversee the needed organizational and regulatory processes. The nature of this workforce and its training, whether through degree programs, fellowships, or certificate programs, also needs further definition.

마지막으로, 역량 기반 교육은 개인이 역량을 습득하는 다양한 방법이 있다고 가정하므로 이 보고서에서는 교수 및 학습 접근 방식에 대한 구체적인 권장 사항을 제시하지 않습니다. 그러나 역량 목록(목록 1)은 학습자의 역량 습득을 돕기 위한 이니셔티브를 설계, 실행 및 결과를 측정하고자 하는 교육자에게 청사진을 제공합니다. 개별 임상의가 이미 보유하고 있을 수 있는 AI 관련 역량은 학습자 수준에 따라 다를 수 있으므로 교육 연속체의 뚜렷한 단계에 역량을 할당하지 않았습니다. 대신, 부록 디지털 부록 2에서는 어떤 역량을 초급으로 간주할 수 있는지, 어떤 역량을 고급으로 간주할 수 있는지 제안합니다. 
Finally, competency-based education assumes there are diverse ways in which individuals gain competencies; thus, this report does not make specific recommendations for teaching and learning approaches. However, the competency list (List 1) provides a blueprint for educators who wish to design, implement, and measure results of initiatives aiming to help learners acquire them. The AI-related competencies that individual clinicians might already possess are likely to vary across and within learner levels; therefore, we did not assign competencies to distinct phases of the educational continuum. Instead, Supplemental Digital Appendix 2 (at https://links.lww.com/ACADMED/B334) suggests which competencies could be considered entry level and which could be considered more advanced.

acadmed_2022_08_31_miller_acadmed-d-21-02684_sdc1.pdf
0.23MB

Competencies for the Use of Artificial Intelligence (AI)–Based Tools by Health Care Professionals

1. Basic Knowledge of AI: Explain what artificial intelligence is and describe its health care applications.

  • a. Identify the range of health-related AI applications.
  • b. Describe contributions from the disciplines of data science, computer science, and informatics to the development of health care AI tools. 
  • c. Summarize the factors that influence the quality of data and explain how they impact the outputs of AI-based applications. 
  • d. Explain how different approaches to data visualization can affect interpretation of the outputs of AI-based tools and the subsequent actions that might be taken. 
  • e. Describe the statistical properties of AI-based tools and explain how they should be used in interpreting outputs.

2. Social and Ethical Implications of AI: Explain how social, economic, and political systems influence AI-based tools and how these relationships impact justice, equity, and ethics.

  • a. Acknowledge personal responsibility for fairness and equity in the use of AI-based tools in health care.
  • b. Describe how system-level factors and regulatory structures influence the implementation of AI-based tools in health care.
  • c. Identify and evaluate how personal and structural biases can impact health data and the outputs of AI-based tools.
  • d. Recognize the potential for use of AI-based tools to reduce or exacerbate health disparities and participate in debiasing activities to mitigate negative impacts.
  • e. Appraise the ethical issues for clinicians, patients, and populations raised by various design, implementation, and use scenarios involving AI.

3. AI-Enhanced Clinical Encounters: Carry out AI-enhanced clinical encounters that integrate diverse sources of information in creating patient-centered care plans.

  • a. Recognize that clinicians are responsible for all patient care decisions, including those that involve support from AI-based tools, and exercise judgment in applying AI-generated recommendations.
  • b. Discern a patient’s information needs, preferences, numeracy, and health literacy levels regarding the use of AI-based tools in their care.
  • c. Explain to patients the concepts of risk and uncertainty as they relate to the outputs of AI-based tools and describe practical implications for their care.
  • d. Integrate information derived from multiple AI and non-AI sources in patient-centered decision-making processes that result in personalized care plans.
  • e. Demonstrate comfort and humility in caring for data-empowered patients and incorporate patient-reported data and outcomes in developing care plans.
  • f. Apply methods of data visualization to facilitate patient understanding of AI-derived data, with sensitivity to possible differential impacts related to race, ethnicity, sex, gender, and social determinants of health.
  • g. Describe how AI-based tools can be used to enhance access and quality of care in remote and underserved settings. 

4. Evidence-Based Evaluation of AI-Based Tools: Evaluate the quality, accuracy, safety, contextual appropriateness, and biases of AI-based tools and their underlying datasets in providing care to patients and populations.

  • a. Access critical information about specific AI-based tools before applying them to patient care, including sources and representativeness of training data, algorithm performance for the question being asked, and how they were validated. 
  • b. Describe how the scope and quality of data sets used in development of AI tools influence their applicability to specific patients and populations.
  • c. Identify potential biases in the design of an AI-based tool, and the implications of those biases for patient care and population health. 
  • d. Collaborate with patients, caregivers, informaticians, and others in the ongoing monitoring of AI-based applications and communicate feedback through established organizational channels.

5. Workflow Analysis for AI-Based Tools: Analyze and adapt to changes in teams, roles, responsibilities, and workflows resulting from implementation of AI-based tools.

  • a. Participate collaboratively in team-based discussions that analyze changing roles, responsibilities, and workflows associated with the adoption of novel AI-based tools and help implement necessary changes.
  • b. Effectively use AI-based tools to facilitate critical communications between all members of health care teams.
  • c. Recognize data and informatics professionals as valuable members of health care teams and collaborate with them in the design of AI tools that address clinical problems.
  • d. Contribute to micro- and macro-system decision-making processes regarding which AI-based tools should augment and which should replace parts of current health care practices.

6. Practice-Based Learning and Improvement Regarding AI-Based Tools: Participate in continuing professional development and practice-based improvement activities related to use of AI tools in health care

 

목록1. 의료 전문가가 인공지능(AI) 기반 도구를 사용하기 위한 역량
List 1 
Competencies for the Use of Artificial Intelligence (AI)–Based Tools by Health Care Professionals

  • 1. 인공지능에 대한 기본 지식: 인공지능이 무엇인지 설명하고 인공지능의 의료 분야 적용 사례를 설명합니다.
    1. Basic Knowledge of AI: Explain what artificial intelligence is and describe its health care applications.
  • 2. AI의 사회적, 윤리적 의미: 사회, 경제, 정치 시스템이 AI 기반 도구에 어떤 영향을 미치는지, 그리고 이러한 관계가 정의, 형평성, 윤리에 어떤 영향을 미치는지 설명합니다.
    2. Social and Ethical Implications of AI: Explain how social, economic, and political systems influence AI-based tools and how these relationships impact justice, equity, and ethics.
  • 3. AI로 강화된 임상적 만남: 환자 중심의 치료 계획을 수립할 때 다양한 정보 소스를 통합하는 AI로 강화된 임상 진료를 수행합니다.
    3. AI-Enhanced Clinical Encounters: Carry out AI-enhanced clinical encounters that integrate diverse sources of information in creating patient-centered care plans.
  • 4. AI 기반 도구의 증거 기반 평가: 환자와 집단에게 치료를 제공할 때 AI 기반 도구와 그 기본 데이터 세트의 품질, 정확성, 안전성, 맥락적 적절성, 편향성을 평가합니다.
    4. Evidence-Based Evaluation of AI-Based Tools: Evaluate the quality, accuracy, safety, contextual appropriateness, and biases of AI-based tools and their underlying datasets in providing care to patients and populations.
  • 5. AI 기반 도구에 대한 워크플로 분석: AI 기반 도구의 구현으로 인한 팀, 역할, 책임, 워크플로우의 변화를 분석하고 이에 적응합니다.
    5. Workflow Analysis for AI-Based Tools: Analyze and adapt to changes in teams, roles, responsibilities, and workflows resulting from implementation of AI-based tools.
  • 6. AI 기반 도구에 대한 실습 기반 학습 및 개선: 의료 서비스에서 AI 도구 사용과 관련된 지속적인 전문성 개발 및 실무 기반 개선 활동에 참여합니다.
    6. Practice-Based Learning and Improvement Regarding AI-Based Tools: Participate in continuing professional development and practice-based improvement activities related to use of AI tools in health care.

제한 사항
Limitations

다양한 전문 분야를 가진 내용전문가(SME)을 의도적으로 선정했지만, 15건의 인터뷰는 일부 관점에 대한 표본을 제공했습니다. 예를 들어, 사회복지사, 병원 관리자 또는 AI 기반 도구와 상호 작용할 기타 의료 전문가는 표본에 포함되지 않았습니다. 또한 이 연구는 미국에서 일하는 전문가로 제한되었으며, 해외 전문가들은 다른 견해를 추가할 가능성이 높습니다. 향후 연구에서는 더 많은 전문가 그룹을 참여시켜 다양한 치료 환경, 팀 역할, 전문 분야에 따라 어떤 역량 요소가 가장 중요한지 알아볼 수 있습니다. 또한 이 연구는 환자 중심의 임상적 AI 사용에만 초점을 맞추었으며 비즈니스 프로세스나 시스템 수준의 운영을 용이하게 하는 도구는 포함하지 않았습니다. 마지막으로, 빠른 변화의 속도를 고려할 때 이러한 역량은 적응이 필요하며 이 목록은 자주 재검토되어야 한다는 점을 인정합니다. 
Although we purposively selected the SMEs for their diverse areas of expertise, 15 interviews provided a small sampling of perspectives. For example, the sample did not include social workers, hospital administrators, or other health care professionals who will interact with AI-based tools. In addition, the study was restricted to experts working in the United States, and international experts would likely add different views. Future research could engage a wider group of experts to determine which competency elements are most critical for different care settings, team roles, and specialty contexts. Furthermore, this study focused only on patient-centered, clinical uses of AI and did not include tools that facilitate business processes or system-level operations. Finally, given the rapid pace of change, we acknowledge that the competencies will need to adapt and that this list should be frequently revisited.

결론
Conclusions

전문가 인터뷰와 주제별 분석을 사용한 이 정성적 연구에서는 의료 전문가가 AI 기반 도구를 사용하는 데 필요한 6개의 역량 영역과 25개의 하위 역량을 확인했습니다. 역량 선언문과 하위 역량은 향후 교육 단계에 걸쳐 의료 전문가를 위한 교육 및 학습 프로그램을 안내하는 데 사용할 수 있습니다. AI 기반 도구의 잠재적 이점을 극대화하고 잠재적 해악을 줄이려면 윤리적으로 유능한 개인과 조직을 개발하는 것이 중요합니다. 
This qualitative study using expert interviews and thematic analysis identified 6 competency domains and 25 subcompetencies needed for the use of AI-based tools by health care professionals. The competency statements and subcompetencies can be used to guide future teaching and learning programs for health care professionals across the phases of education. The development of ethically competent individuals and organizations is critical if the potential benefits of AI-based tools are to be maximized and their potential harms diminished.

 


Acad Med. 2023 Mar 1;98(3):348-356. doi: 10.1097/ACM.0000000000004963. Epub 2022 Sep 6.

Competencies for the Use of Artificial Intelligence-Based Tools by Health Care Professionals

Affiliations collapse

1R.G. Russell is director of learning system outcomes, Office of Undergraduate Medical Education, and assistant professor of medical education and administration, Vanderbilt University School of Medicine, Nashville Tennessee; ORCID: https://orcid.org/0000-0002-5540-7073 .

2L.L. Novak is director, Center of Excellence in Applied Artificial Intelligence, Vanderbilt University Medical Center, and associate professor of biomedical informatics, Vanderbilt University School of Medicine, Nashville, Tennessee; ORCID: https://orcid.org/0000-0002-0415-4301 .

3M. Patel is associate chief health officer and chief medical officer of provider analytics, IBM Watson Health, Cambridge, Massachusetts, and clinical professor, Northeast Ohio Medical University, Rootstown, Ohio.

4K.V. Garvey is research instructor in anesthesiology, Vanderbilt University School of Medicine, and director of operations, Center for Advanced Mobile Healthcare Learning, Vanderbilt University Medical Center, Nashville, Tennessee; ORCID: https://orcid.org/0000-0002-2427-0182 .

5K.J.T. Craig is lead director, Clinical Evidence Development, Aetna Medical Affairs, CVS Health. At the time this work was completed, the author was deputy chief science officer of evidence-based practice, Center for AI, Research, and Evaluation, IBM Watson Health, Cambridge, Massachusetts; ORCID: https://orcid.org/0000-0002-9954-2795 .

6G.P. Jackson is vice president and scientific medical officer, Intuitive Surgical, Sunnyvale, California, and associate professor of surgery, pediatrics, and biomedical informatics, Vanderbilt University School of Medicine, Nashville, Tennessee. At the beginning of this work, the author was vice president and chief science officer, IBM Watson Health, Cambridge, Massachusetts; ORCID: https://orcid.org/0000-0002-3242-8058 .

7D. Moore is emeritus professor of medical education and administration, Vanderbilt University School of Medicine, Nashville, Tennessee.

8B.M. Miller is professor of medical education and administration, Vanderbilt University School of Medicine, and director, Center for Advanced Mobile Healthcare Learning, Vanderbilt University Medical Center, Nashville, Tennessee; ORCID: https://orcid.org/0000-0002-7333-3389 .

PMID: 36731054

DOI: 10.1097/ACM.0000000000004963

Abstract

Purpose: The expanded use of clinical tools that incorporate artificial intelligence (AI) methods has generated calls for specific competencies for effective and ethical use. This qualitative study used expert interviews to define AI-related clinical competencies for health care professionals.

Method: In 2021, a multidisciplinary team interviewed 15 experts in the use of AI-based tools in health care settings about the clinical competencies health care professionals need to work effectively with such tools. Transcripts of the semistructured interviews were coded and thematically analyzed. Draft competency statements were developed and provided to the experts for feedback. The competencies were finalized using a consensus process across the research team.

Results: Six competency domain statements and 25 subcompetencies were formulated from the thematic analysis. The competency domain statements are: (1) basic knowledge of AI: explain what AI is and describe its health care applications; (2) social and ethical implications of AI: explain how social, economic, and political systems influence AI-based tools and how these relationships impact justice, equity, and ethics; (3) AI-enhanced clinical encounters: carry out AI-enhanced clinical encounters that integrate diverse sources of information in creating patient-centered care plans; (4) evidence-based evaluation of AI-based tools: evaluate the quality, accuracy, safety, contextual appropriateness, and biases of AI-based tools and their underlying data sets in providing care to patients and populations; (5) workflow analysis for AI-based tools: analyze and adapt to changes in teams, roles, responsibilities, and workflows resulting from implementation of AI-based tools; and (6) practice-based learning and improvement regarding AI-based tools: participate in continuing professional development and practice-based improvement activities related to use of AI tools in health care.

Conclusions: The 6 clinical competencies identified can be used to guide future teaching and learning programs to maximize the potential benefits of AI-based tools and diminish potential harms.

구두평가 맥락에서 질문하기: 분류체계와 기본원칙 (J Med Educ Curric Dev. 2020)
Prompting Candidates in Oral Assessment Contexts: A Taxonomy and Guiding Principles
Jacob Pearce and Neville Chiavaroli

 

 

배경
Background

의과대학 및 의학전문대학원 교육 과정의 고난도 시험에서 시험관들은 구두 평가 형식, 특히 시험관이 수험생에게 질문을 던지는 것에 대해 불안감을 느끼는 경우가 많습니다. 구조화되지 않은 구술 시험의 신뢰성과 타당성에 대한 오랜 우려1-3와 시험관의 객관성과 일관성에 기반한 OSCE 형식의 등장에도 불구하고, 구술 시험은 임상적 추론 및 전문적 행동과 같은 고차원적 역량을 평가하는 중요한 방법으로 많은 임상 평가 상황에서 살아남아 번성하고 있습니다. 이는 진정성, 유연성 및 대화형 형식으로 인식되기 때문입니다.4-6 그러나 시험관의 역할에 대한 오해와 응시자 수행에 대한 질문, 자극 및/또는 프로빙의 적절한 사용으로 인해 그 가치가 손상될 수 있습니다. 
In high-stakes examinations in both medical school and post-graduate medical education, examiners often feel uneasy about the oral assessment format, particularly the notion of examiner prompting of the examinee. Despite long-standing concerns about the reliability and validity of unstructured oral exams,1-3 and the emergence of the OSCE format founded upon examiner objectivity and consistency, the Viva survives (and arguably thrives) in many clinical assessment contexts as a valued method for assessing higher order competencies such as clinical reasoning and professional behaviour. It does so due to its perceived authenticity, flexibility and interactive format.4-6 Yet its value can be compromised through misunderstanding of the role and appropriate use of examiner questioning, prompting and/or probing of candidate performance.

의과대학과 전문의 수련 대학에서 우리는 이 문제에 대해 시험관들 사이에서 상당한 혼란이 있음을 발견했습니다. 시험관이 잘 훈련된 경우에도 어떤 종류의 프롬프트 관행이 허용되는지 또는 아예 허용되는지 여부에 대한 불확실성이 남아 있습니다. 의심할 여지 없이 시험관들은 옳은 일을 하고 싶어 합니다. 구두 평가 형식 및/또는 다양한 평가 맥락에서 프롬프트의 의미에 대한 정확성이 부족하기 때문에 문제가 발생할 수 있다고 생각합니다. 우리는 주로 프롬프트와 구술 시험 간의 관계에 초점을 맞추고 있지만, 프롬프트는 더 넓은 범위의 시험, 실제로 평가자와 응시자 간의 상호 작용이 수반되는 모든 평가 방법에서 중요한 고려 사항이라고 주장합니다. 예를 들어, 프롬프트는 미니 임상 평가 연습(min-CEX), 객관적 구조화 임상 시험(OSCE), 절차적 기술 관찰(DOPS), 다중 미니 인터뷰(MMI), 표준화된 사례 기반 토론 등 시험관과 응시자 간에 언어적 상호작용이 있는 다른 많은 평가 유형에서 공통으로 사용되는 요소입니다.  
In medical schools and specialist training colleges, we have noticed considerable confusion amongst examiners on this issue. Even when examiners are well-trained, there remains uncertainty about what kind of prompting practices are permissible, or whether it is permissible at all. Undoubtedly, examiners want to do the right thing. We suggest that the problem may arise due to a lack of precision around what prompting means in the oral assessment format, and/or in different assessment contexts. Although we focus mainly on the relationship between prompting and oral examinations, we argue that prompting is an important consideration in a wider range of examinations and, indeed, any assessment method that involves an interaction between assessor and candidate. For instance, prompting is a common component of many other assessment types where there is verbal interaction between examiner and candidate, including the Mini-Clinical Evaluation Exercise (min-CEX), Objective Structured Clinical Examinations (OSCEs,) Direction Observation of Procedural Skills (DOPS), Multiple Mini Interviews (MMIs) and Standardised Case-Based Discussions. 

우리는 프롬프트가 구두 평가의 유효성에 결정적인 역할을 하는 측면이며, 이 형식에 대한 학술 문헌에서 더 많은 관심을 기울일 필요가 있다고 주장합니다. 구두 평가에 대한 심층 분석에서5 Joughin은 '상호작용'이라는 차원과 '프로빙'이라는 용어를 사용하여 이 기능이 형식의 고유한 장점에 기여할 뿐만 아니라 유효성 관점에서 주요 과제를 구성한다는 점을 인정합니다. 다른 저자들은 구두 평가 시 다양한 프롬프트 관행이 응시자에게 미칠 수 있는 잠재적 영향에 대해 언급했습니다.7,8 그러나 이 외에도 프롬프트의 성격과 형태에 대한 논의는 문헌에서 상대적으로 거의 찾아볼 수 없습니다. 예를 들어, OSCE에 대한 한 종합 가이드에서 프롬프트에 대한 언급은 'OSCE에서 응시자에게 프롬프트를 하는 것이 적절한지에 대한 의견은 다를 수 있지만, 모든 응시자에게 동일한 경험을 제공하기 위해 모든 시험관은 프롬프트와 관련하여 합의된 정책을 미리 알고 있어야 한다'는 다소 모호한 언급만 있습니다.9 구두 평가의 타당성을 명시적으로 탐구하고 구체적인 실행 지침을 제공하는 논문에서도 프롬프트 문제에 대해서는 거의 언급이 없습니다.2
Prompting, we argue, is an aspect of oral assessment that is crucial to the validity of its implementation, and deserves more attention in the scholarly literature on the format. In his in-depth analysis of the oral assessment,5 Joughin acknowledges, under the dimension of ‘interaction’ and using the term ‘probing’, that this feature contributes to the unique advantages of the format, as well as constituting a major challenge from a validity perspective. Other authors have noted the potential impact that different prompting practices can have on candidates during oral assessment.7,8 Beyond this, however, there is relatively little discussion of the nature and forms of prompting in the literature. For example, in one comprehensive guide to the OSCE, prompting receives scant and somewhat ambivalent mention: ‘Opinions will differ as to whether it is appropriate to prompt candidates in an OSCE, but all examiners should know the agreed policy with regard to prompting in advance in order that all candidates are given the same experience’.9 Even a paper explicitly exploring the validity of oral assessment and offering specific guidelines for practice has little to say about the issue of prompting.2

우리의 경험에 따르면 실무자들이 프롬프트를 개념화하는 방식과, 실제로 프롬프트를 사용하는 방식에는 상당한 차이가 있습니다. 프롬프트 정책과 기법에 대한 명확성이 필수적입니다. 따라서 이 백서의 목표는 시험관이 사용할 수 있는 다양한 형태의 프롬프트와 응시자에게 미치는 잠재적 영향에 대한 명확한 가이드를 제공하고 실무에 대한 지침 원칙을 제시하는 것입니다. 
Our experience is that there is considerable variation in how practitioners conceptualise prompting and how it is deployed in practice. Clarity around prompting policies and techniques is essential. Our aim in this paper therefore is to provide a clearer guide to the different forms of prompting available to examiners, their potential effects on candidates, and to suggest guiding principles for practice.

 

프롬프트의 분류
A taxonomy of prompting

프롬프트의 용어와 관련 관행을 이해하기 위해 프롬프트의 분류법을 제시합니다. 이 분류법은 개별적인 범주가 아닌 연속적인 유형의 연속체라고 생각합니다. '프롬프트'라는 용어는 다음 5가지 활동 중 하나를 지칭할 수 있습니다.

  • 과제 제시하기,
  • 정보 반복하기,
  • 질문 명확히 하기,
  • 질문 탐색하기,
  • 질문 유도하기

평가 상황에 따라 처음 4가지 유형의 프롬프트가 유용할 수 있습니다. 마지막 유형의 프롬프트는 타당도에 심각한 위협이 될 수 있습니다. 이 용어를 사용할 때는 먼저 해당 용어가 문맥에서 의미하는 바를 명확히 설명해야 한다는 점을 강조하는 것이 중요합니다. 
In order to unpack the term and associated practices, we present a taxonomy of prompting. We think of this taxonomy as a continuum of types, rather than as discrete categories. As we see it, the term ‘prompting’ may refer to any of the 5 following activities:

  • presenting the task;
  • repeating information;
  • clarifying questions;
  • probing questions; and finally,
  • leading questions.

The first 4 types of prompting may be useful, depending on the assessment context. The final type of prompting poses a significant threat to validity. It is important to stress that when the term is deployed, what it means in context first needs to be elucidated.

스크립트의 특정 문구
Specific wording on a script

가장 간단한 형태로 '프롬프트'는 단순히 응시자에게 과제를 제시하는 시험 또는 평가 문제의 특정 문구를 의미합니다. 이는 시험 중 시험관이 모든 응시자에게 제공해야 하는 질문 또는 정보를 나타냅니다. 이 유형의 프롬프트는 시험관의 최소한의 상호작용을 나타내며 가장 중립적인 형태의 프롬프트를 나타냅니다.
In its simplest form, a ‘prompt’ simply refers to the specific wording on an examination or assessment question which presents the task to candidates. It represents a question or information that examiners should provide all candidates during the examination. This class of prompting represents the minimum level of interaction from the examiner and the most neutral form of prompting.

반복 정보
Repeating information

두 번째 유형의 프롬프트는 단순히 정보를 반복하는 것입니다. 이 경우 시험관은 응시자가 제공받은 정보 중 잊어버린 것으로 보이는 정보를 다시 생각하도록 상기시키려는 의도가 있습니다. 

  • '이 사람은 80세 노인이라는 것을 기억하세요. . ' 또는 
  • '이전 기록에 비추어 볼 때 여전히 그렇습니까?' 

이러한 형태의 프롬프트는 원래 프롬프트의 문구를 바꾸거나, 응시자가 의도하지 않은 방향으로 내용을 받아들이는 경우 응시자를 원래 프롬프트로 다시 안내하는 형태를 취할 수 있습니다. 이러한 개입은 일반적으로 응시자에게 이전 답변이 궤도를 벗어났다는 것을 우회적으로 알리는 방식으로만 표현하는 것이 가장 좋으며, 시험관이 명백한 불만이나 좌절감을 표출해서는 안 됩니다. 이러한 형태의 프롬프트는 응시자의 응답이 문제 프롬프트를 잘못 기억하거나 오해한 결과인 것이 분명해 보이는 경우 응시자에게 스스로 수정할 기회를 주기 위한 것일 뿐입니다.
A second type of prompting is simply repeating the information. Here, examiners intend to remind the candidate to think about information they have been provided, and appear to have forgotten.

  • ‘Remember that this is an 80-year-old. . .’ or
  • ‘Is that still the case in light of the previous history?’

This form of prompting may take the form of re-phrasing the original prompt, or if a candidate is taking the content in an unintended direction, of re-directing the candidate back to the original prompt. Such intervention is usually best expressed in a way that only incidentally cues the candidate that their previous responses were off-track; that is, it should not be accompanied by obvious expressions of disapproval or frustration by the examiner. This form of prompting is simply aimed at giving the candidate the opportunity to correct themselves when it seems clear that their response is a result of misremembering or misunderstanding the question prompt.

명확화 질문 
Clarifying questions

셋째, '좀 더 구체적으로 설명해 주시겠습니까?' 또는 'X가 무슨 뜻입니까?'와 같이 명확히 하기 위한 질문으로 프롬프트가 더 나아갈 수 있습니다. 명확화 질문은 일반적으로 사용되지만, 일부 시험관들은 공식적인 평가 상황에서 부적절할 수 있다고 우려합니다. 이는 시험의 목적과 맥락에 따라 달라집니다. 예를 들어, 응시자에게 자신의 답변을 명확히 할 기회를 주는 것을 목표로 하는 질문은 대부분의 구두 평가 상황에서 적절해 보일 수 있습니다. 결국 학습자가 무엇을 알고 이해하고 있는지 알아내는 것이 평가의 근본적인 목표 중 하나이기 때문입니다. 모든 응시자가 자신의 의미를 명확히 할 수 있는 유사한 기회를 얻을 수 있도록 시험관의 일관성이 중요합니다. 시험관의 책임은 응시자에게 은밀하게 힌트를 주는 것이 아니라 전적으로 응답을 명확히 하는 데 목적이 있음을 전달하는 것입니다.

  • 반대로, '정확히 어떤 유형입니까?', '다른 방식으로 표현할 수 있습니까?'와 같이 대체 답변을 찾는 질문은 프로빙 또는 리딩으로 분류하는 것이 더 좋습니다. 고난도 평가에 응시하는 응시자는 일반적으로 이러한 단서에 매우 민감하게 반응합니다.

Third, prompting may go further to indicate clarifying questions, such as ‘Can you be more specific?’ or ‘What do you mean by “X”?’ Questions of clarification are commonly used, but some examiners worry that they may be inappropriate in formal assessment contexts. This will depend on the purpose and context of the examination. For example, a question which aims to give the candidate the opportunity to clarify their response would seem appropriate in most oral assessment contexts; it is, after all, one of the fundamental aims of assessment, to find out what the learner knows and understands. Consistency by examiners is key, so that all candidates get similar opportunities to clarify their meaning. It is the examiner’s responsibility to convey that their purpose is wholly to clarify the response, not surreptitiously cue the candidate. In contrast, a question that searches for an alternative response is better categorised as probing or leading; for example, ‘What type exactly?’, ‘Can you phrase that in a different way?’ Candidates in high-stakes assessment are usually highly attuned to such clues.

탐구 질문
Probing questions

넷째, 시험관은 탐색 질문을 할 수 있습니다. 이는 사례와 시험관마다 표준화하기가 더 어렵습니다. 응시자의 반응에 따라 시험관은 응시자가 특정 지식을 얼마나 잘 이해하고 있는지 또는 더 넓은 임상 맥락에서 그 중요성을 확인하기 위해 더 심층적인 질문을 던질 수 있습니다.

  • '그 접근법의 어떤 의미가 있을 수 있습니까?', '어떤 상황에서 그 접근법이 적절할까요?' 등 

일부 형태의 구조화된 구술 평가에서는 응시자의 임상적 추론 능력을 평가하기 위해 이러한 형태의 프롬프트가 특별히 요구됩니다.10,11 이러한 형태의 프로빙은 응시자의 임상적 의사결정 능력의 정도를 평가하는 예로서 Simpson과 Ballard의 논문12에 설명되어 있습니다. 또한 Pylman과 Ward13가 질문(형성적 맥락에서의 질문)에 대한 12가지 팁 기사에서 제공한 지침, 특히 '프로빙'과 '찌르기'를 구분하고, 총괄 시험을 실시하는 동안에도 심리적으로 안전한 분위기를 조성하는 것이 중요하다는 점을 지지합니다.
Fourth, examiners may be permitted to ask probing questions. This is more difficult to standardise across cases and examiners. Depending on how the candidate responds, an examiner prompts by probing deeper to ascertain how well the candidate understands the specific piece of knowledge, or its significance in a broader clinical context, for example,

  • ‘What might be some implications of that approach?’, ‘Under what circumstances would that be appropriate?’

Some forms of structured oral assessment specifically call for this form of prompting in order to assess the candidate’s clinical reasoning ability.10,11 This form of probing is illustrated in the paper by Simpson and Ballard,12 as an example of assessing the extent of candidates’ clinical decision-making skills. We also endorse the guidance provided by Pylman and Ward13 in their 12 tips article on questioning (in formative contexts), especially the importance of distinguishing ‘probing’ from ‘prodding’, and attempting to create a climate of psychological safety, even while conducting a summative examination.

이러한 질문형 프롬프트에서는 응시자의 특정 지식과 응답에 따라 시험관의 프롬프트 내용이 달라질 수 있기 때문에, 일관성보다는 동등성의 개념이 더 유용한 원칙으로 보입니다. 시험관은 서로 다른 특정 문제 또는 시험의 다른 지점이 프로빙에 사용되더라도 프로빙의 성격이 가능한 한 공평하게 이루어지도록 해야 합니다프로빙의 또 다른 위험은 시험관이 자신의 특정 '취미 분야(관심분야)'에만 집중할 수 있다는 것입니다. 이는 시험의 청사진 정렬 및 내용 타당성에 대한 불공정성과 위협의 중요한 원천으로 인식되어야 하며, 따라서 시험관 교육 시 특별히 다루어야 합니다. 시험관들의 이러한 접근 방식은 구술 시험의 목적에 대한 상반된 이해를 나타낼 수 있으며, 일부 시험관들은 이러한 평가를 대부분의 고난도 평가에서 요구되는 관찰 중심의 평가적 접근 방식이 아닌 교육 기회로 간주할 수 있습니다. 따라서 시험관 브리핑, 교육 및 선발 과정 자체의 명확성이 매우 중요합니다.
In this from of interrogative prompting, the concept of equivalence seems a more helpful principle than consistency, because the content of the examiner’s probing is likely to vary between candidates depending on their particular knowledge and responses. The examiner must ensure that the nature of the probing is as equitable as possible, even while different specific questions, or different points of the exam, are used for probing. Another risk of probing is that examiners may focus on their particular ‘hobby horses’. This needs to be recognised as a significant source of unfairness and threat to the blueprint alignment and content validity of the examination, and should therefore be specifically addressed during examiner training. Such an approach from examiners may indicate conflicting understanding of the purpose of oral examinations; some may see these assessments as teaching opportunities rather than the observation-focussed and evaluative approach which most high-stakes assessments require. This makes the clarity of examiner briefing, training and the selection process itself, crucial.

유도 질문과 모호한 질문
Leading and vague questions

마지막으로, 시험관들은 때때로 유도적인 질문을 던짐으로써 질문을 유도하기도 합니다. 이는 가장 '방해가 되는' 형태의 프롬프트이므로 대부분의 고난도 평가 상황에서는 권장하지 않습니다. 유도 질문의 일반적인 예는 다음과 같습니다:

  • '유형 II를 말씀하시는 거죠?', '그럴 것 같네요. . .'

응시자의 성과에 도움이 되지 않는 경우, '다른 것은요?'와 같이 매우 모호한 프롬프트의 형태를 취할 수도 있으며, 이는 종종 응시자와 시험관 모두를 좌절시키는 추측 게임으로 끝납니다. 시험관이 좋은 의도를 가지고 있을 수 있지만, 이러한 프롬프트는 시험관이 응시자의 성과에 연루되게 만듭니다. 모든 응시자에게 일관되게 적용하더라도 평가 결과의 타당성을 위협할 수 있습니다. 안타깝게도 이러한 유형의 프롬프트는 의도적이든 그렇지 않든 실무에서 종종 발생합니다.
Finally, examiners sometimes enact prompting by asking leading questions. This represents the most ‘intrusive’ form of prompting and is rightly discouraged in most high-stakes assessment contexts. Typical examples of leading prompts include:

  • ‘You mean type II, don’t you?’, and ‘It sounds like you would. . .’

Less helpfully to the candidates’ performance, it can also take the form of very vague prompts such as ‘What else?’, which frequently ends in a guessing game that frustrates both candidate and examiner. Although examiners may have good intentions, such prompting makes the examiner complicit in the candidate’s performance. Even if done consistently for all candidates, it threatens the validity of the assessment result. Unfortunately, this type of prompting often occurs in practice, whether intentional or otherwise.

실무 지침 원칙
Guiding principles for practice

다양한 형태의 프롬프트의 적절성을 고려할 때는 잠시 멈추고 특정 평가의 목적이 모든 이해관계자가 명확하고 잘 이해하고 있는지 확인하는 것이 중요합니다. 예를 들어,

  • 평가의 맥락이 고부담 숙달 시험인 경우 평가 리더는 단순히 정보를 반복하거나 정보를 명확히 하는 것 이상의 프롬프트를 금지할 수 있습니다.
  • 평가 맥락이 저부담 시험이고, 주로 응시자의 학습 기회로 활용되는 경우, 더 많은 질문을 던지는 것이 매우 유용할 수 있습니다.13

모든 평가에서 그렇듯이, 프롬프트에는 정해진 규칙이 있을 수 없습니다. 구두 평가에서 프롬프트를 사용할 때 고려해야 할 일반적인 원칙을 제시하지만, 평가 상황과 구체적인 목적에 따라 다른 프롬프트를 사용할 수 있는지 여부는 달라질 수 있습니다.
When considering the appropriateness of different forms of prompting, it is essential to pause and ensure that the purpose of the specific assessment is clear and well understood by all stakeholders. For example, if the assessment context is a high-stakes mastery examination, prompting beyond mere repeating information or clarifying information may be outlawed by assessment leaders. If the assessment context is lower-stakes and primarily used as a learning opportunity for candidates, more probing questions may be highly useful.13 With prompting, as arguably in all assessment, there can be no hard and fast rules. Although we present these general principles for consideration when using prompting in oral assessment, the defensibility of using different prompts will depend on the assessment context and specific purpose.

응시자와의 상호작용에서 중립적 태도를 지키기 위해 노력합니다.
Strive to be neutral in interactions with the candidate

시험관은 프롬프트를 제공할 때마다 응시자를 낙담시키거나 안심시키지 않는 방식으로 프롬프트를 제공하려고 노력해야 합니다. 응시자는 이러한 중립 원칙에 유의해야 하며, 시험관의 발언이나 몸짓에서 긍정이나 비난을 추구하지 않도록 격려해야 합니다. '잘했다' 또는 '잘하고 있다. .'와 같은 긍정적인 말이나 '음, 사실 Y 상태였어요'와 같은 정정(더 나쁘게는 끔찍한 눈동자 굴림)과 같은 부정적인 피드백은 응시자의 심리 상태와 이후 성과에 큰 영향을 미칠 수 있습니다. 경험상, 응시자의 성적을 긍정도 부정도 하지 않는 적절한 시험 '포커 페이스'를 개발하는 것은 많은 시험관에게 상당한 도전이 될 수 있습니다. 특정 시험관이 뛰어난 경우, 적절한 경우 전략적인 시험관 짝짓기를 통해 유용한 역할 모델을 제공할 수 있습니다. 
Whenever examiners prompt, they should try to do so in a way which neither discourages nor reassures the candidate. Candidates should be alerted to this principle of neutrality, and encouraged not to seek affirmation or censure in examiners’ utterances or body language. Positive comments such as ‘Good job’ or ‘Doing well. . .’, or corrections such as ‘Well, it was actually condition y’. – or worse, the dreaded eye-roll – can have significant impact on candidates’ state of mind and subsequent performance. In our experience, developing an appropriate examination ‘poker face’, offering neither affirming nor disapproving clues to candidates’ performance, can be a significant challenge for many examiners. Where certain examiners excel, they can provide helpful role models through strategic pairing of examiners, where appropriate.

모든 응시자에게 일관된 방식으로 프롬프트 사용
Use prompting in a consistent way for all candidates

응시자가 자신의 지식과 이해를 보여줄 기회가 다양할 때 불공평성이 발생합니다. 시험관은 특히 응시자의 답변을 조사할 때 접근 방식에 일관성을 유지하려고 노력해야 하지만, 앞서 언급한 바와 같이 이러한 일관성은 내용 자체뿐만 아니라 조사 방식과 정도에 있어서도 더 필요할 수 있습니다. 또 다른 문제는 프롬프트의 정도가 응시자의 결과에 어떤 영향을 미치는가 하는 것입니다. 일반적으로 프롬프트의 필요성이 클수록 점수가 낮아지지만,8,14 이는 평가 상황과 기준에 따라 달라질 수 있으므로 보편적인 원칙으로 간주해서는 안 됩니다. 응시자의 사고 과정을 존중하는 것도 중요합니다. 시험관의 조급함이 성급한 질문의 단서가 되어서는 안 됩니다. 잘 훈련되고 성찰적인 시험관은 평가 프로토콜과 신중한 판단을 결합하여 프롬프트가 적절한지 여부와 시기를 결정할 것입니다.
Unfairness arises when candidates have variable opportunities to display their knowledge and understanding. Examiners should try to be consistent in their approach, especially when probing candidate responses, although as noted, such consistency may need to be more in the manner and degree of probing as in the content itself. A further issue is how the degree of prompting should impact the candidate’s result. Typically, a greater need for prompting will translate into a lower score,8,14 but this will depend on the assessment context and criteria, and shouldn’t be assumed to be a universal principle. Respecting the candidate’s thinking processes is also important. Examiner impatience should not be a cue for hasty prompting. A well-trained and reflective examiner will combine assessment protocol with considered judgement to determine if and when a prompt is appropriate.

필요한 형태의 프롬프트에 대해 명확하고 투명하게 설명하기
Be clear and transparent about the required forms of prompting

일반적으로 이해관계자들이 프롬프트의 의미와 허용되는 프롬프트의 형태에 대해 서로 다른 개념을 가지고 있을 때 혼란이 발생합니다. 투명성은 실무에서 중요한 원칙입니다. 첫째, 평가 리더는 다양한 형태의 프롬프트에 대해 잘 알고 있어야 하며, 특정 평가 상황에서 어떤 형태가 필요한지에 대한 명확하고 정당한 근거를 가지고 있어야 합니다서면 지침은 투명성을 확보하는 데 도움이 되는 방법이며 평가자 교육 개발의 좋은 출발점입니다.
Confusion typically emerges when stakeholders have different conceptions of what prompting means, and what forms of prompting are permissible. Transparency is an important principle for practice. Firstly, assessment leaders need to be well-versed in the different forms of prompting and have clear and justifiable rationales for which forms are required in the specific assessment context. Written guidelines are a helpful way of being transparent and a good starting point for the development of assessor training.

평가자가 프롬프트 기술에 대해 적절한 교육을 받았는지 확인합니다.
Ensure assessors are adequately trained in prompting techniques

평가자는 특정 상황에서 허용되는 행동과 허용되지 않는 행동에 대해 적절히 교육받아야 합니다. 평가자가 프롬프트의 분류법을 이해하도록 돕는 것이 좋은 출발점이며, 이를 통해 다양한 형태의 프롬프트를 명확하게 파악하고 정확한 언어와 의미에 대한 공유된 이해를 바탕으로 토론과 심의가 이루어질 수 있습니다. 관련 예시와 함께 참고할 수 있는 접근 가능한 가이드라인이 도움이 됩니다. 교육 자료에는 구체적인 '해야 할 일'과 '하지 말아야 할 일'이 담긴 시험 영상이나 모의 시험이 포함될 수 있습니다. 동일한 문제를 설명하는 서면 문서보다 실제 상황과 맥락에서 실행되는 프롬프트를 보는 것이 일반적으로 더 큰 영향을 미칩니다.
Assessors need to be adequately trained in acceptable and unacceptable behaviours for the specific context. Helping assessors appreciate the taxonomy of prompting is a good place to start, and it makes different forms of prompting explicit and allows for discussions and deliberations to occur with precise language and a shared understanding of meaning. Accessible guidelines for reference with relevant examples are helpful. Training material may include video footage of examinations or mock examinations, with specific ‘dos’ and ‘don’ts’. Seeing prompting executed in practice (and in context) is usually more impactful than a written document that describes the same issue.

응시자에게 프롬프트 기대치에 대한 적절한 브리핑을 제공해야 합니다.
Ensure candidates are adequately briefed on prompting expectations

응시자는 시험관으로부터 프롬프트를 받을 수 있는지 여부와 프롬프트가 어떤 형태로 나타날 수 있는지 알아야 합니다. 프롬프트에 대한 불안은 지식, 적성 또는 기술 평가에 부수적인 평가에서 잠재적으로 복합적인 요인이 될 수 있습니다. 응시자에게 명확하고 투명하게 설명하면 이러한 불안을 완화하는 데 도움이 됩니다.4 이 과정에서 중요한 부분은 평가 중 시간 관리 책임자가 누구인지 명확히 파악하는 것입니다. 예를 들어,

  • 구술 시험의 경우 할당된 시간 내에 문제를 푸는 것이 응시자의 책임인지, 아니면 시험관이 응시자가 할당된 시간 내에 문제를 풀 수 있도록 '유도'해야 하는지 명확히 명시해야 합니다. 

Candidates also need to know whether they can expect prompting from examiners, and what shape this can take. Anxiety about prompting is a potential compounding factor in assessment that is ancillary to the assessment of knowledge, aptitude or skill. Being clear and transparent with candidates helps alleviate such anxiety.4 An important part of this process is also ensuring that there is a clear understanding of who is responsible for time management during the assessment.

  • For example, in an oral examination it should be clearly stated whether it is the candidate’s responsibility to get through the questions in the allocated time, or whether the examiners are expected to ‘move the candidate along’ to get through in the allocated time.

프롬프트 실천 중에 지속적인 성찰을 장려합니다.
Encourage ongoing reflection in prompting practice

평가자(평가 책임자, 의과대학 및 전문의 수련 대학은 말할 것도 없고)에게도 반성적인 태도가 필요합니다. 평가의 목적에 따라 다양한 프롬프트 접근 방식이 다양한 상황에서 유용성을 높일 수 있습니다. 평가 과제를 개발하는 초기 단계에서는 사례별 실무 검토가 필요합니다. 마지막으로, 지속적인 개선을 위해 프롬프트 지침, 실행 문제 및 응시자에 대한 잠재적 영향을 주기적으로 검토하고 지속적인 모니터링과 평가가 필요합니다.
Reflexivity is also required of assessors (not to mention assessment leads, medical schools and specialist training colleges). Different prompting approaches may enhance utility in different contexts, depending on the purpose of the assessment. Case-by-case review of practice will be required in the early stages of developing an assessment task. Finally, in the spirit of continuous improvement, periodic review of prompting guidance, implementation issues and potential impact on candidates will require ongoing monitoring and evaluation.

결론
Conclusion

구술시험의 신뢰성 부족과 시험관 관행 표준화의 어려움에 대한 역사적 우려에도 불구하고, 구술시험은 의과대학과 대학원 모두에서 중요한 평가 도구로 남아 있습니다. 우리의 경험에 비추어 볼 때, 프롬프트의 역할과 이를 구현하는 다양한 방법을 더 잘 이해하는 것은 모든 상황에서 근본적으로 고려해야 할 사항입니다. 이 백서의 목표는 특정 형태의 프롬프트를 규정하는 것이 아니라, 프롬프트라는 용어에 포함되는 다양한 행동에 대한 인식을 제고하고 몇 가지 일반적인 실천 원칙을 제시하는 데 있습니다. 제시된 분류법을 검증하기 위한 추가적인 경험적 연구를 환영합니다. 평가 상황에 관계없이 구두 평가를 계획할 때마다 평가자는 필요한 프롬프트의 유형과 정도에 대해 적절히 교육받고 응시자는 예상되는 사항을 알 수 있도록 적절히 브리핑을 받는 것이 중요합니다. 이 분류법과 지침 원칙이 시험관이 선택할 수 있는 다양한 형태의 프롬프트 관행을 설명하는 데 도움이 되고, 평가 책임자가 상황에 가장 적합한 프롬프트를 결정할 수 있기를 바랍니다.

Despite historical misgivings about its lack of reliability and the challenges of standardising examiner practices, the oral exam remains an important assessment tool in both medical school and postgraduate contexts. In our experience, better understanding the role of prompting and the different ways of implementing it, is a fundamental consideration in all contexts. Our aim in this paper has not been to prescribe any particular form of prompting, but rather to raise awareness of the different behaviours which tend to be subsumed under the term, while offering some general principles for practice. We would welcome further empirical research to validate the taxonomy presented. Regardless of the assessment context, it is crucial that whenever oral assessment is planned, assessors are appropriately trained in the type and degree of prompting required, and candidates are suitably briefed to know what to expect. We hope this taxonomy and guiding principles are helpful in elucidating the varied forms of prompting practices at examiners’ disposal, and allow assessment leads to determine what works best for their context.


J Med Educ Curric Dev. 2020 Aug 13;7:2382120520948881. doi: 10.1177/2382120520948881. eCollection 2020 Jan-Dec.

Prompting Candidates in Oral Assessment Contexts: A Taxonomy and Guiding Principles

Affiliations collapse

1Tertiary Education (Assessment), Australian Council for Educational Research, Camberwell, VIC, Australia.

PMID: 32851194

PMCID: PMC7427130

DOI: 10.1177/2382120520948881

Free PMC article

 

Abstract

Prompting is an aspect of oral assessment that deserves more attention. There appears to be considerable variation in how practitioners conceptualise prompting and how it is deployed in practice. In order to unpack the term and promote the validity of its use in performance assessments, we present a taxonomy of prompting as a continuum of types, namely: presenting the task; repeating information; clarifying questions; probing questions; and finally, leading questions. We offer general principles for consideration when using prompting in oral assessment: neutrality; consistency; transparency; and reflexivity. Whenever oral assessment is planned, assessors should be appropriately trained in the type and degree of prompting required, and candidates suitably briefed to know what to expect. Overall, we aim to raise awareness that quite different behaviours tend to be subsumed under the general term 'prompting'. This paper provides concrete guidelines for implementing the defensible and effective use of prompting in oral examinations, applicable to a wide range of assessment contexts.

Keywords: Prompting; assessment; oral assessment; oral examinations; viva.

의학교육에서 효과적인 질문을 위한 12가지 팁(Med Teach, 2020)
12 tips for effective questioning in medical education
Stacey Pylman and Amy Ward

 

소개
Introduction

질문하기는 의학교육자에게 일반적이고 필수적인 교육 관행입니다. 우리는 의학교육자라는 용어를 모든 의학교육 환경을 포함하여 미래의 임상의를 준비하는 모든 사람을 지칭하는 데 사용합니다(Branch et al. 1997). 질문은 철학자 소크라테스의 교육적 전통에 뿌리를 두고 있으며(Neenan 2009; Kost and Chen 2015), 교육자가 학습의 발판을 마련하고 비판적 사고 능력의 개발을 장려하기 위해 사용하는 강력한 전략입니다(Smith 1977; Costa 1985; Garside 1996; Ritchhart 외. 2011). 질문을 효과적으로 실행하면 학습자의 참여도, 집중도, 콘텐츠 이해도에서 긍정적인 결과를 이끌어낼 수 있습니다(Cho et al. 2012). 학습자와 의학교육자 모두 질문이 '학습, 논리적 사고, 자신의 결정에 대한 방어, 빠른 기억, 자기 평가, 동료와의 원활한 의사소통'을 촉진하는 데 유용하다고 생각합니다(Kost and Chen 2015; Goebel et al. 2019). 의학교육자는 임상 환경에서 학습자의 독립성을 향한 진전을 촉진하기 위해 이해, 임상 기술 및 추론을 평가하기 위해 질문도 사용합니다(Bowen 2006). 대부분의 사람들은 질문이 의학교육의 주요 교육 활동 중 하나라는 데 동의합니다(Amin and Khoo 2003; Lo and Regehr 2017). 그러나 의학교육에서 질문 기법을 효과적으로 사용하는 방법에 대한 문헌은 제한적입니다. 
Asking questions is a common and necessary teaching practice for medical educators. We use the term medical educator to refer to anyone preparing future clinicians inclusive of all medical education settings (Branch et al. 1997). Questioning is rooted in the educational tradition of the philosopher Socrates (Neenan 2009; Kost and Chen 2015) and is powerful strategy educators use to scaffold learning and encourage the development of critical thinking skills (Smith 1977; Costa 1985; Garside 1996; Ritchhart et al. 2011). When effectively executed, questioning can elicit positive outcomes in learner participation, concentration, and understanding of content (Cho et al. 2012). Learners and medical educators alike believe questioning is useful to ‘promote learning, logical thinking, defending one’s decisions, quick recall, self-assessment, and communicating well with one’s peers’ (Kost and Chen 2015; Goebel et al. 2019). Questioning is also used by medical educators to assess understanding, clinical skills, and reasoning in order to promote learner progress toward independence in the clinical setting (Bowen 2006). Most agree that questioning is one of the primary educational activities in medical education (Amin and Khoo 2003; Lo and Regehr 2017). However, the literature on how to effectively use the questioning technique in medical education is limited.

비효과적인 질문이 어떤 것인지에 대한 문헌은 상당수 있지만(Detsky 2009, Kost and Chen 2015, Mavis 외. 2014, Stoddard and O'Dell 2016), 어떤 종류의 질문을 해야 하는지, 의학교육자가 학습자의 굴욕감을 예방하는 방법과 같은 효과적인 질문에 대한 문헌은 거의 없습니다(Kost and Chen 2015). 질문하기의 개념은 간단한 것처럼 보이지만, 많은 의학교육자들은 공식적인 교육학 교육을 받지 못했습니다.

  • 종종 의학교육자들은 학습자 시절에 질문을 받았던 것과 같은 방식으로 질문을 하는데, 이것이 항상 가장 효과적인 것은 아닙니다(Kost and Chen 2015).
  • 또한 많은 의학교육자들은 질문이 학습자의 과도한 불안을 증가시킨다고 잘못 생각하고 있습니다(Amin and Khoo 2003).
  • 모든 질문이 동일한 결과를 얻거나 학습자에게 동일한 수준의 사고와 반응을 유도하는 것은 아닙니다(Sachdeva 1996; Wink 1993).

다음 12가지 팁은 의학교육자가 강의실 또는 임상 환경에서 질문을 계획하고, 질문하고, 분석할 때 목적에 맞게 효과적으로 질문하는 데 도움이 될 것입니다.  
There is significant literature about what ineffective questioning looks like (Detsky 2009; Kost and Chen 2015; Mavis et al. 2014; Stoddard and O’Dell 2016), but little about effective questioning, such as what kind of questions should be asked and how medical educators can prevent learner humiliation (Kost and Chen 2015). Although the concept of asking questions seems a simple practice, many medical educators lack formal pedagogical training. Often medical educators ask questions in the same way questions were asked of them when they were learners, which is not always the most effective (Kost and Chen 2015). Additionally, many medical educators mistakenly assume questioning increases undue anxiety for learners (Amin and Khoo 2003). Not all questioning achieves the same results or prompts learners to the same level of thinking and response (Sachdeva 1996; Wink 1993). The following twelve tips will help medical educators be purposeful and effective as they plan, ask, and analyze questions in classroom or clinical settings.

팁 1: 학습의 발판이 되는 질문하기
Tip 1: Ask questions to scaffold learning

질문은 학습자가 알고 있는 내용을 평가하는 방법으로 가장 흔히 생각되며, 이는 효과적인 방법이지만, 질문은 학습자가 이해하도록 비계를 세우는 데에도 사용할 수 있습니다. 스캐폴딩교육자가 학습자에게 더 유능한 다른 사람의 지원 없이 자신의 능력을 넘어서는 목표를 달성할 수 있도록 지원하는 것을 말합니다(Van de Pol 외. 2010). 스캐폴딩은 의학교육자가 학습자가 직면한 지식 격차를 파악한 다음 학습자가 더 발전된 이해를 향해 나아갈 수 있도록 지원을 제공할 수 있어야 하는 역동적인 과정입니다(Van de Pol 외. 2010). 이를 잘 수행하려면 의학교육자는 학습 목표학습자의 현재 지식 수준이라는 두 가지 아이디어를 염두에 두어야 합니다. 의료 교육자가 학습의 시작점과 끝점을 파악한 후에는 효과적인 비계 역할을 하는 질문을 설계할 수 있습니다. 임상 환경에서 학습의 발판을 마련하기 위한 질문은 학습자와 의료 교육자 간의 주고받기를 통해 이루어지는 경우가 많습니다. 보다 공식적인 수업 환경을 이끄는 의료 교육자는 계획 시간을 활용하여 훌륭한 스캐폴딩 질문을 설계할 수 있습니다. 의료 교육자는 질문을 설계할 때 다음 사항을 고려하는 것이 중요합니다:
Questioning is most often thought of as a way to assess what learners know, and it is effective in doing so; however, questioning can also be used to scaffold learners toward understanding. Scaffolding refers to the support educators offer learners to help them accomplish goals that are beyond their capacity without the support of a more capable other (Van de Pol et al. 2010). Scaffolding is a dynamic process that requires the medical educator to be able to identify the knowledge gap faced by a learner, and then offer support for the learner as they move toward a more advanced understanding (Van de Pol et al. 2010). To do this well, the medical educator must have two ideas in mind: the learning objective, and the learner’s current level of knowledge. Once the medical educator has identified the starting and endpoints of learning they can design questions that serve as effective scaffolding. Asking questions to scaffold learning in the clinical setting is often done at the moment through a give and take between the learner and medical educator. Medical educators leading more formal class settings can use planning time to design great scaffolding questions. It is important for the medical educator to think through the following when designing questions:

  • 학습자가 이 주제에 대해 이미 무엇을 알고 있는가?
  • 학습자가 오늘 떠날 때 이 주제에 대해 무엇을 알기를 원하는가?
  • 학습자가 생각하고 지식의 공백을 메우는 데 도움이 되는 질문은 무엇일까요?
  • What do my learners already know about this topic?
  • What do I want my learners to know about this topic when they leave today?
  • What questions can I ask that will help learners think and fill in knowledge gaps?

요령은 학습자가 이미 알고 있는 내용에 접근하는 데 도움이 되는 질문을 하고, 거기에서 추가 질문을 가이드로 삼아 구축하는 것입니다. 예를 들어, 다음 세그먼트에서 의학 교육자(ME)는 질문을 사용하여 학습자가 세균성 중이염이 어떻게 발생하는지 이해할 수 있도록 발판을 마련합니다:
The trick is to ask questions that help learners access what they do know and build from there with further questions as guides. For example, in the following segment the medical educator (ME) uses questions to scaffold the learner to understand how bacterial middle ear infections occur:

  • ME - 이 미생물은 호흡기에서 흔한데 왜 모든 사람이 중이염에 걸리지 않나요?
  • 학습자 - 모르겠어요...
  • 나 - 생각해 보세요, 왜 우리 몸에 유스타키오관이 있을까요?
  • 학습자 - 귀를 배출하기 위해서요.
  • 나 - 네, 중이를 배출하기 위해서요. 하지만 유스타키오관이 체액과 병원균으로 막히면 이 공간은 어떻게 될까요?

  • ME – These microbiotas are common in the respiratory tract so why doesn’t everyone get an ear infection?
  • Learner – I don’t know…
  • ME – So think about it, why do we have a eustachian tube?
  • Learner – To drain the ear.
  • ME – Yes to drain the middle ear. But what happens to this space once the eustachian tube gets blocked with fluid and pathogens?

이 토론을 시작할 때 학습자는 질문에 대답할 수 없습니다. 그러나 의학교육자는 다음 단계의 학습을 지원하기 위해 사고를 발판으로 삼습니다.
At the start of that discussion, the learner is unable to answer the question asked. However, the medical educator scaffolds thinking to support learning to this next level.

강의실에서 스캐폴딩을 할 때 질문을 설계하는 의학교육자는 스스로에게 질문해야 합니다:
When scaffolding in the classroom setting, medical educators designing questions should ask themselves:

  • 질문이 단순히 흥미를 유발하는가? 아니면 질문을 통해 주요 학습 목표에 도달할 수 있을까요? (위긴스와 윌버 2015)
  • 질문이 이상하거나, 직관적이지 않거나, 쉽게 오해할 수 있는 내용을 다루고 있습니까? 아니면 평범하고 비교적 분명한 답이 있는 예측 가능한 질문입니까? (위긴스 및 윌버 2015)
  • Is the question merely engaging? Or will asking it lead toward the main learning objective? (Wiggins and Wilbur 2015)
  • Does the question get at what’s odd, counterintuitive, or easily misunderstood? Or is it a predictable question with mundane and relatively obvious answers? (Wiggins and Wilbur 2015)

의학 교육자가 학습자가 무엇을 알고 있고 무엇을 알아야 하는지 명확하게 이해하면 학습자가 지식 격차를 해소하는 데 도움이 되는 질문을 할 수 있습니다.
When medical educators have a clear understanding of what learners know and what they need to know, they can ask questions to help learners bridge knowledge gaps.

팁 2: 학습에서 개방형 및 폐쇄형 질문의 역할 이해하기
Tip 2: Understand the roles of open and closed questions in learning

다양한 범주의 질문을 이해하고 활용하면 의료 교육자가 특정 학습 목표를 의도적으로 타겟팅할 수 있습니다. 일반적으로 사용되는 범주 구분 중 하나는 개방형 질문과 폐쇄형 질문의 구분입니다.

  • 개방형 질문은 제기된 질문에 대해 다양한 방식으로 사고할 수 있도록 합니다. 개방형 질문에서는 학습자가 어떤 사실을 어떻게 또는 왜 알고 있는지 종합하고 옹호하도록 요구하는 경우가 있습니다(Webb 2009; Ritchhart 외. 2011).
  • 폐쇄형 질문은 정답이 명확하며 학습자가 사실을 회상하는 데 참여해야 하는 경우가 많습니다(Webb 2009; Ritchhart 외. 2011).

Understanding and utilizing different categories of questions allows the medical educator to purposefully target specific learning goals. One commonly used categorical distinction is that of open-ended and closed-ended questions.

  • Open-ended questions allow for multiple ways of thinking about the question posed. Sometimes open-ended questions ask learners to synthesize and defend how or why they know something to be true (Webb 2009; Ritchhart et al. 2011).
  • Closed-ended questions have a clear answer, often requiring learners to engage in the recall of facts (Webb 2009; Ritchhart et al. 2011).

의학교육자는 교육에 두 가지 유형의 질문을 모두 사용해야 합니다. 각 질문 유형은 목적에 따라 학습자가 서로 다른 목표를 달성하는 데 잠재적으로 도움이 됩니다. 예를 들어,

  • 학습자가 심전도를 읽는 것이 목표인 경우 의학교육자는 '이 심전도는 무엇을 보여주나요?"라는 폐쇄형 질문을 할 수 있습니다. 이 폐쇄형 예에서 학습자는 심전도를 읽는 방법을 학습하는 데 있어 중요한 첫 단계인 심전도의 부분을 식별해야 합니다.
  • 그러나 학습자가 심전도를 기반으로 응급 상황과 비응급 상황을 구분하려는 경우 의료 교육자는 '심전도를 보면 이 환자가 응급 상황이라고 생각하십니까, 왜 그렇다고/그렇지 않다고 생각하나요?'와 같은 개방형 질문을 사용할 수 있습니다.

Medical educators should employ both question types in their teaching. Each serves a purpose and each potentially helps learners meet different objectives.

  • For example, if the goal is for learners to read an electrocardiogram, the medical educator might ask the closed-ended question, ‘What can you identify on this electrocardiogram?’ In the closed-ended example, the learner needs to identify the parts of an electrocardiogram, an important first step in learning how to read an electrocardiogram.
  • However, if learners are attempting to differentiate between emergent and non-emergent situations based on an electrocardiogram, the medical educator might use an open-ended question such as, ‘Looking at the electrocardiogram, do you think this patient is emergent, why or why not?’

개방형 질문에서는 학습자가 자신의 생각을 설명하기 위해 증거를 사용하여 선택해야 합니다. 개방형 질문의 또 다른 예로는 '이 사례와 관련된 클리닉에서 경험한 사람이 있나요...'와 같이 정답이 없는 질문이 있습니다. 팁 3번에서 설명한 대로 개방형 질문과 폐쇄형 질문을 더 세분화하여 다양한 수준으로 만들 수 있습니다. 
In the open-ended question, learners have to make a choice using evidence to explain their thinking. Another example of an open-ended question would be a question with no certain answer such as, ‘Has anyone had an experience from the clinic that relates to this case…?’ Open-ended and close-ended questions can be further refined into additional levels, as explained in tip number three.

팁 3: 모든 수준의 질문 사용
Tip 3: Use all levels of questioning

학습자가 단순히 기본적인 사실을 기억하는 것 이상으로 나아가도록 하기 위해 블룸의 분류법(Krathwohl and Anderson 2009)과 같은 질문 프레임워크가 개발되었습니다. 블룸의 분류법은 학습자가 기본 사실을 기억하는 것에서 개념을 종합하는 데 필요한 복잡한 사고로 이동하여 개념에 대한 지식을 개발하는 방법에 대한 사고 구조를 제공합니다(Webb 외. 2013). 블룸의 분류법을 의학교육과 연결하여 Barrett 등(2017)은 블룸의 분류법에 따라 대학원 의학교육의 수술 맥락에서 질문을 연구했습니다. 이스트 버지니아 의과대학(EVMS 2019)에서도 블룸의 분류법을 사용하여 의학교육에서 질문을 안내했습니다. 표 1은 이들의 모든 작업을 각색한 버전으로 결합한 것입니다.

In an effort to push learners beyond simply recalling basic facts, questioning frameworks such as Bloom’s Taxonomy (Krathwohl and Anderson 2009) were developed. Bloom’s Taxonomy provides a structure for thinking about how learners develop knowledge of a concept moving from recalling basic facts towards the complex thinking needed to synthesize concepts (Webb et al. 2013). Connecting Bloom’s Taxonomy with medical education, Barrett et al. (2017) researched questioning in graduate medical education surgical contexts according to Bloom’s Taxonomy. The East Virginia Medical School (EVMS 2019) also used Bloom’s Taxonomy to guide questioning in medical education. Table 1 combines all of their work in an adapted version.

위의 표에는 의료 교육자가 학습자가 블룸의 분류 체계의 단계를 통과하는 데 필요한 비계의 양과 유형을 조정할 때 질문이 어떻게 변화할 수 있는지에 대한 예가 나와 있습니다. 모든 수준의 질문은 다양한 시기에 다양하게 던져야 하며, 어떤 수준의 질문이 학습자가 목표에 도달하는 데 가장 도움이 될지 결정하는 것은 교육자의 몫입니다. 그러나 학습자가 지식이 풍부해지고 능숙해짐에 따라 질문은 고차원적 사고의 질문으로 전환되어야 합니다(Phillips and Duke 2001).
In the table above, we provide examples of how questioning might shift as a medical educator adjusts the amount and type of scaffolding learners need to help move them through the levels of Bloom’s Taxonomy. All levels of questions need to be asked at various times, and it is up to the educator to decide which level of questioning will best support learners in reaching the objective. However, as the learner becomes more knowledgeable and proficient, the questions should move toward higher-order thinking questions (Phillips and Duke 2001).

팁 4: 임상 추론의 모델로서 질문하기
Tip 4: Ask questions as a model of clinical reasoning

임상의는 증상을 조사하고 감별 진단을 위해 노력할 때 환자에게 자주 질문을 합니다. 이러한 기술은 의과대학에서 사례를 통해 생각하는 의사로서 스스로에게 던질 수 있는 질문이나 환자에게 던질 수 있는 질문을 배우면서 시작됩니다. 의료 교육자의 역할 중 하나는 의료 학습자를 위한 전문적인 행동과 사고 방식을 모델링하는 것입니다(Rencic 2011). 임상의는 특히 환자를 진단하고 치료할 때 고유한 사고 패턴을 사용하며, 이를 흔히 '임상적 추론'이라고 합니다(Eva 2005). 이러한 사고 패턴은 학습자가 이러한 유형의 사고를 내면화하고 독립적으로 실행할 수 있을 때까지 학습자에게 명시적으로 가르치고 연습해야 합니다(Myrick and Yonge 2002; Tharp and Gallimore 1991). 질문은 이 과정을 지원하는 데 사용될 수 있습니다. 의료 교육자가 환자 사례를 본 후 학습자에게 구체적인 질문을 할 때, 이는 종종 암묵적으로 학습자의 사고를 유도하는 것입니다. 또한 이러한 방식으로 질문하면 학습자는 자신이 알고 있는 것을 말로 표현하는 연습을 할 수 있습니다(Lo and Regehr 2017). 그러나 의료 교육자가 소리 내어 생각함으로써 자신의 생각을 명확하게 표현하면 초보 학습자에게 특히 유용할 수 있습니다(Ritchhart 외. 2011). 학습자가 의료 교육자가 왜 그 질문을 선택했는지 이해하면 임상의의 전문적인 독백을 들여다볼 수 있는 창이 열립니다. 
Clinicians frequently ask questions of patients as they investigate symptoms and work toward a differential diagnosis. This learned skill begins in medical school by learning questions to ask oneself as a physician thinking through a case, or questions to ask the patient. Part of the role of a medical educator is to model professional behaviors and ways of thinking for medical learners (Rencic 2011). Clinicians engage in unique patterns of thinking, especially when diagnosing and treating a patient – often referred to as ‘clinical reasoning’ (Eva 2005). These patterns of thinking must be explicitly taught to and practiced by learners until the learners are able to internalize this type of thinking and practice it independently (Myrick and Yonge 2002; Tharp and Gallimore 1991). Questions can be used to support this process. When medical educators ask learners specific questions after seeing a patient case, they are often implicitly walking learners through their thinking. Additionally, questioning in this manner encourages learners to practice verbalizing what they know (Lo and Regehr 2017) However, when a medical educator makes their thinking explicit by thinking aloud, this can be especially beneficial for novice learners (Ritchhart et al. 2011). When a learner understands why the medical educator has chosen to ask that question, it allows the learners a window into the professional monologue of the clinician.

예를 들어, 의료 교육자는 호흡 곤란을 겪고 있는 환자의 병상을 떠난 후 학습자에게 '엑스레이를 찍어야 할까요?"라고 물어볼 수 있습니다. 이 질문을 할 때 의료 교육자는 학습자가 엑스레이를 찍어야 한다는 것을 암시하는 징후를 찾아내도록 도와줌으로써 학습자의 사고력을 키우려고 할 수 있습니다. 의대 1학년 학생의 경우, 의학교육자는 '환자의 신체 검사 중에 왼쪽 하부 폐에서 딱딱한 소리가 나는 것을 발견했습니다'와 같은 질문을 통해 학습자의 사고 과정을 보다 분명하게 만들 수 있습니다. 이 소리의 원인을 더 잘 이해하기 위해 엑스레이를 찍어야 하는지 궁금해졌습니다. 이 소리의 원인이 무엇이라고 생각하시나요? 이 예에서 의료 교육자는 학습자가 결론을 도출하도록 하는 질문을 하는 대신, 학습자의 사고를 모델링하고 그 과정에서 학습자가 함께 참여하도록 요청하고 있습니다. 따라서 의학교육자는 질문을 사용하여 임상적 추론의 발달을 모델링하고, 발판을 마련합니다. 
For example, a medical educator might ask learners after leaving the bedside of a patient experiencing difficulty breathing, ‘should we order an X-ray?’ In asking that question, the medical educator may be trying to scaffold learners’ thinking by helping them hone in on what the learner should notice that would suggest an X-ray should be ordered. For an early first-year medical student, the medical educator might make their thinking process more evident by phrasing the question like, ‘I noticed crackling in the left lower lung during the physical exam of our patient. This made me wonder if we should order an X-ray to better understand what was causing that sound. What do you think could be causing the sound?’ In this example, rather than asking a question where the learner is asked to draw their conclusions, the medical educator is instead modeling their thinking and asking the learner to engage along with them in the process. Thus, the medical educator is using questioning to model and scaffold the development of clinical reasoning.

팁 5: 심리적 안전감을 조성하여 '찌르지 말고' 질문하기
Tip 5: Probe, don’t ‘prod,’ by creating psychological safety

학습자에게 고차원적인 사고를 요구하는 도전적인 질문을 할 때는 주의를 기울여야 합니다. 질문(즉, 직접적인 질문)을 받는 의료 학습자는 종종 자신이 도전받는 것이 아니라 'pimped'가 되고 있다고 느낍니다(Lo and Regehr 2017). 다른 연구자들과 마찬가지로 저희도 'pimped'라는 용어와 그 용어가 내포하는 젠더적 의미에 문제를 제기합니다(Martin and Wells 2014; Nagarur et al. 2019). 앞으로는 이를 '프로딩prodding'으로 지칭하며, 의료계에서도 이를 따르기를 권장합니다. 프로딩은 질문자가 모욕감을 주거나 불쾌감을 주거나 지식의 격차를 악의적으로 드러내려는 의도를 내포합니다. 진정한 소크라테스 방식과 prodding는 교육자가 학습자에게 질문을 던지는 교환이라는 점에서 그 차이가 항상 명확하지는 않습니다(Goebel 외. 2019; Kost와 Chen 2015). 소크라테스식 교수법과 프로딩의 차이점은 질문자의 의도와 학습자의 인식에 있습니다(Kost and Chen 2015; Stoddard and O'Dell 2016). 교육 환경이 학습자가 소크라테스식 교수법을 인식하는 데 도움이 되지 않는다면 선의의 의대 교육자의 프로빙 질문조차도 프로딩으로 인식될 수 있습니다(Stoddard and O'Dell 2016). 가장 효과적인 프로빙 질문도 때때로 학습자의 지식의 한계를 넘어설 수 있으므로 심리적 안전이 확립되지 않은 경우 프로빙으로 인식될 수 있습니다(Stoddard and O'Dell 2016). 
Caution must be used when asking learners challenging questions that demand higher-order thinking. Medical learners who are probed with questions (i.e. direct questioning) often feel they are being ‘pimped’ instead of challenged (Lo and Regehr 2017). Like others, we take issue with the term ‘pimping’ and the gendered connotations it implies (Martin and Wells 2014; Nagarur et al. 2019). We will from here on refer to it as ‘prodding’ and we encourage the medical community to follow suit. Prodding implies the intent of the questioner to humiliate, cause discomfort, or malignantly illuminate knowledge gaps. The distinction between the genuine Socratic method and prodding is not always obvious since the essential transaction of both is an exchange in which the educator poses questions to learners (Goebel et al. 2019; Kost and Chen 2015). The differentiation between Socratic teaching and prodding lies in the intent of the questioner and the perception of the learner (Kost and Chen 2015; Stoddard and O’Dell 2016). If the educational environment is not conducive to learners recognizing Socratic teaching, then even a well-intentioned medical educator’s probing questions may be perceived as prodding (Stoddard and O’Dell 2016). The most effective probing questions will occasionally exceed the bounds of learners’ knowledge and may thus be perceived as prodding if psychological safety has not been established (Stoddard and O’Dell 2016).

심리적 안정감을 조성하기 위한 권장 사항(Mavis 외. 2014; Stoddard 및 O'Dell 2016).
Recommendations for creating psychological safety (Mavis et al. 2014; Stoddard and O’Dell 2016).

  • 조사 방법과 조사 이유를 미리 설명하고 학습자에게 조사가 어떤 느낌인지 상기시킴으로써 존중하는 분위기를 조성합니다.
  • 학습자의 적절한 수준에서 질문을 던집니다.
  • 프로빙을 할 때는 질문을 던진 후 침묵 또는 '대기 시간'을 주어 학습자가 질문을 고려하거나 자신의 지식을 되돌아보거나 큰 소리로 생각할 수 있는 기회를 제공함으로써 답변할 수 있는 충분한 시간을 갖도록 합니다.
  • 학습자가 '모르겠다'고 말하거나 다른 사람에게 도움을 요청할 수 있도록 허용합니다.
  • 학습자가 '모릅니다'라고 말할 때 프롬프트를 제공하여 학습자가 알고 있는 내용을 말할 수 있도록 돕고, 학습자가 알고 있는 내용을 연결할 수 있도록 돕습니다.
  • 학습자가 어려움을 겪는 동안 언어적 및 비언어적 커뮤니케이션을 사용하여 학습자에게 지지를 표시합니다(예: 고개 끄덕이기, 미소 짓기, 언어적 격려).
  • 부적절한 수행을 간과하거나 무시하지 말고, 굴욕감이나 분노를 유발하지 않으면서 지식이나 기술의 격차를 명확히 파악하는 자비로운 방식으로 교정합니다(가능하면 비공개로 수행).
  • Create an atmosphere of respect by explaining early on how they will probe, the reason for probing, and reminding learners of what probing will sound like.
  • Ask questions are asked at an appropriate level for the learners.
  • When probing, give sufficient time for answers by allowing silence or ‘wait time’ after posing questions, during which learners have the opportunity to consider the question, reflect on their knowledge, or think aloud.
  • Allow learners to say ‘I don’t know’ or ask for help from others.
  • Prompt when learners ‘don’t know’ to help learners voice what they do know and help them build connections to what is known.
  • Use verbal and non-verbal communication to show support to learners while they are challenged (e.g. nodding, smiling, verbal encouragement).
  • Do not overlook or ignore inadequate performance; however, correct in a compassionate manner that clearly identifies gaps in knowledge or skill without causing humiliation or resentment (often done privately if possible).

학습자의 사고를 조사하는 것은 올바르게 적용하면 의학교육자와 학습자에게 매우 매력적이고 보람이 크지만, 시간과 노력이 많이 들기 때문에 가장 중요한 개념에 신중하게 사용해야 하며 심리적 안전이 보장되는 환경에서 올바르게 실행해야 합니다(Stoddard and O'Dell 2016).
When correctly applied, probing learners’ thinking is very engaging and highly rewarding for medical educators and learners; however, it is time- and effort-intensive, so it should be used judiciously on the most important concepts, and it must be executed correctly in an environment of psychological safety (Stoddard and O’Dell 2016).

팁 6: 시작-응답-평가(I-R-E) 패턴에서 벗어나기
Tip 6: Break away from the Initiate-Respond-Evaluate (I-R-E) pattern

교육자와 학습자 간의 전통적인 질문과 답변 패턴은 I-R-E 패턴을 따릅니다: 시작(교육자), 응답(학습자), 평가(교육자)(Almasi 1996). 다음은 IRE 패턴의 예입니다: 
Traditional question and answer patterns between educators and learners follow an I-R-E pattern: Initiate (educator), Respond (learner), Evaluate (educator) (Almasi 1996). The following is an example of the IRE pattern:

  • 의학 교육자: 토마스, 이 환자의 고혈압을 어떻게 치료해야 할까요?
  • 학습자: 저는 환자에게 몇 가지 생활 습관 변화에 대해 이야기하는 것부터 시작하겠습니다.
  • 의료 교육자: 좋아요, 맞습니다.
  • Medical educator: Thomas, how do we treat hypertension in this patient?
  • Learner: I would start by talking to the patient about some lifestyle changes.
  • Medical educator: Good, that’s right.

의학 교육자의 반응이 긍정적이고 안심이 되는 경우가 많음에도 불구하고, 의학 교육자의 반응은 더 이상의 사고와 토론을 종결시킵니다(Wink 1993). 학습자가 비판적으로 사고하고 고차원적인 수준에서 반응하도록 장려하기 위해 의학교육자는 '세 번째 회전 반응'을 사용하여 추가적으로 질문하고 조사하여 학습을 더 발전시킬 수 있는 다른 학습자의 반응을 유도해야 합니다(Ford-Connors and Robertson 2017). 학습을 늘리기 위해 세 번째 턴 반응을 사용하는 방법에는 다음이 포함됩니다:
Despite the fact that the medical educator’s response is often positive and reassuring when the medical educator responds it ends further thinking and discussion (Wink 1993). In order to encourage learners to think critically and respond at higher-order levels, medical educators need to use the ‘third-turn response’ to prompt and probe further and invite other learner responses which can further learning (Ford-Connors and Robertson 2017). Ways to use the third-turn response to increase learning include:

  • 학습자에게 평가를 공동으로 구성하도록 요청합니다.
    • 예를 들어, '현재로서는 왜 그것이 좋은 선택인지 설명해 줄 수 있나요?
  • Asking learners to co-construct the evaluation. For example, ‘Can someone explain why that is a good option at the moment?’
  • 추가 설명 요청하기
    • 예를 들어, '어떤 상황에서 약학적 개입을 할 수 있는지 설명해 줄 수 있나요?'
  • Asking for a further explanation. For example, ‘Can someone explain under what circumstances we might turn to a pharmaceutical intervention?’
  • 학습자에게 동의하거나 동의하지 않는지 묻기
    • 예를 들어, '이에 대해 이의를 제기할 사람이 있나요? 우리가 고려해야 할 다른 사항이 있나요?'(Wink 1993)
  • Asking learners to agree or disagree. For example, ‘Would someone like to challenge that? Are there other things we should consider?’ (Wink 1993)
  • 임상적 추론을 명시적으로 제시하여 학습자의 대답에 추가로 쌓아나가기
    • 예를 들어, '일반적인 지침에 따라 생활 습관 변화에 대한 대화로 시작해야 하는 것은 맞습니다. 하지만 이 경우에는 이 사람의 배경에 섭식 장애가 있다는 것을 알고 있고, 그 장애를 악화시킬까 봐 걱정됩니다. 그래서 대신...'로 시작할 수 있습니다.
  • Building on the learner’s response by making clinical reasoning explicit. For example, ‘You are correct that based on the usual guidelines we should start with a conversation about lifestyle changes. However, in this case, I know that this person has an eating disorder in their background, and I would worry about exacerbating that. So, instead I might start with…’

각각의 경우에 세 번째 차례 응답을 사용하여 대화와 사고를 멈추지 않고 학습자 토론 과정을 계속하는 것이 목표입니다(Ford-Connors and Robertson 2017).
In each case, the goal is to use the third-turn response to continue the process of learner discussion rather than stop the conversation and thinking (Ford-Connors and Robertson 2017).

팁 7: 학습자가 질문에 답하기 전에 짝을 지어 토론하도록 허용하기
Tip 7: Allow learners to discuss in pairs before answering questions

교실 환경에서 학습자가 답변하기 전에 중요한 질문에 대해 서로 토론할 수 있도록 허용하면 이해가 더 깊어집니다. 토론은 협력적이고 능동적인 학습의 한 형태입니다. Kuh 등(2011)은 학습자가 토론에 적극적으로 참여할 때 단순히 듣기만 할 때보다 더 많은 것을 배운다는 사실을 발견했습니다. 짝을 지어 작업하면 학습자가 참여를 피하는 것이 사실상 불가능하므로 각자가 생각하고, 배우고, 수업의 집단 학습에 추가하는 데 책임을 져야 합니다. Smith 등(2009)의 연구 결과에 따르면 토론 그룹에 속한 학습자 중 원래 정답을 알고 있는 사람이 없더라도 동료 토론을 통해 이해도를 높일 수 있다고 합니다. 또한 협동 학습은 학습자가 자신의 이해에 대해 큰 소리로 생각하고, 오해나 지식의 격차를 파악하고, 다른 사람에게 정보를 가르칠 수 있는 기회를 제공함으로써 지식 유지와 심도 있는 이해에 도움이 되는 것으로 알려져 있습니다(Smith 외. 2009).
In the classroom setting, when learners are allowed to discuss important questions with each other before answering, understanding is deepened. Discussion is one form of cooperative, active learning. Kuh et al. (2011) found when learners are actively participating in the discussion, they learn more than when they merely listen. Working in pairs makes it virtually impossible for learners to avoid participating, thus making each person accountable for thinking, learning and adding to the collective learning of the class. Results from Smith et al. (2009) indicate that peer discussion enhances the understanding, even when none of the learners in a discussion group originally knows the correct answer. Additionally, cooperative learning helps learners think out loud about their understanding, identify misconceptions or gaps in knowledge and give learners an opportunity to teach the information to another person – known to help knowledge retention and deeper understanding (Smith et al. 2009).

분명히 학습자가 답변하기 전에 모든 질문에 대해 짝을 지어 토론할 수 있는 시간은 충분하지 않습니다. 짝을 지어 토론하기에 좋은 질문은 다음을 기반으로 출제됩니다.

  • (a) 학습자가 자주 오해하는 어려운 개념,
  • (b) 학습자가 숙달해야 하는 주요 학습 목표,
  • (c) 정답과 오답이 명확하지 않은 문제

Clearly, there is not enough time to allow learners to discuss all questions in pairs before answering. Questions that are good for paired discussions are asked based on

  • (a) difficult concepts about which learners often have misconceptions,
  • (b) main learning objectives that learners need to master, and
  • (c) issues that do not have a clear right or wrong answer.

팁 8: 질문 후 학습자에게 생각할 시간 주기
Tip 8: Give learners think-time after asking a question

의료 학습자는 결국 스스로 생각하고 빠르게 반응할 수 있어야 하지만, 개념이 새로운 경우 학습자에게는 생각할 시간이 필요합니다(Rowe 1986). 생각 시간을 통해 학습자는 자신의 답을 충분히 생각하고 설명할 수 있습니다. Rowe(1986)는 교육자와 모든 학습자가 적절한 정보 처리 작업을 완료하고, 감정을 소화하고, 구두 반응과 행동을 개발할 수 있도록 교육자와 모든 학습자가 방해받지 않고 침묵하는 뚜렷한 시간으로 정의되는 '생각 시간'의 개념을 구축했습니다. 교육자가 학습자에게 질문을 할 때 학습자는 일반적으로 약 1초 동안 응답을 기다립니다(Rowe 1986). 교육자는 종종 힌트, 자신의 답변 또는 더 빠르게 반응하는 학습자의 답변으로 침묵을 채우고 싶은 유혹을 받습니다(Cho et al. 2012). 한 연구(Tobin 1987)에 따르면 질문을 한 후 최소 3초 이상 기다리는 것이 영어 학습자에게 상당한 이점을 가져다준다고 합니다:
Medical learners need to eventually be able to think and respond quickly on their feet, but when concepts are new, learners need think time (Rowe 1986). Think time allows learners to think through and explain their answers. Rowe (1986) constructed the concept of ‘think-time,’ defined as a distinct period of uninterrupted silence by the educator and all learners so that they both can complete appropriate information processing tasks, digest feelings, and develop oral responses and actions. When educators ask learners questions, they typically wait about one second for a response (Rowe 1986). Educators are often tempted to fill the silence with hints, their own answers, or a response from a quicker responding learner (Cho et al. 2012). A review of research (Tobin 1987) found that waiting at least 3seconds after asking questions, and more time for English language learners, had significant benefits:

  • 학습자의 더 긴 반응
  • 더 많은 학습자 담화
  • 대체 반응의 증가
  • 학습자 반응의 복잡성 및 인지 수준 증가
  • 학습자가 주도하는 담화 증가
  • 더 많은 학습자 간 상호 작용
  • 학습자의 혼란 감소
  • 자신감 향상
  • 더 높은 성취도
  • Longer learner responses
  • More learner discourse
  • Increase in alternative responses
  • Increase in the complexity and cognitive level of learner responses
  • More learner-initiated discourse
  • More learner to learner interactions
  • A decrease in learner confusion
  • More confidence
  • Higher achievement

의학교육자는 질문을 한 후 조용히 셋까지 세어 더 긴 생각의 시간을 제공하도록 도전해야 합니다. 처음에는 침묵이 어색하게 느껴질 수 있지만 의학교육자와 학습자는 침묵에 익숙해질 것입니다. 의학교육자가 의도적으로 생각할 시간을 준다고 말하면 어색함을 어느 정도 완화할 수 있습니다.
Medical educators should challenge themselves to provide longer think-time by silently counting to three after asking questions. The silence may feel awkward at first, but medical educators and learners will become used to it. When medical educators state that they are purposely giving think-time, some awkwardness can be alleviated.

팁 9: 질문을 중단해야 할 때 알기
Tip 9: Know when to stop questioning

스캐폴딩 또는 생각 시간을 제공하더라도 학습자가 제기된 질문에 대답하지 못하는 경우가 있습니다. 학습자는 일부 질문에 답할 수 있지만 모든 질문에 답하지 못할 수도 있습니다. 학습자가 몇 가지 질문에 답할 수 있지만 더 깊이 들어가면 학습자의 능력을 넘어서는 도전을 받게 될 수도 있습니다. 매우 어려운 문제이거나 준비가 되지 않아서 학급 전체가 질문에 답하지 못할 수도 있습니다. 학습자가 질문에 답할 수 없는 경우 의료 교육자에게는 몇 가지 옵션이 있습니다:
There will be times when learners are unable to answer questions posed, even when provided with scaffolding or think-time. A learner might be able to answer some of the questions but not all. A learner might be able to answer a few questions, but when probed further they are challenged beyond capacity. The entire class might not be able to answer a question posed because it is very challenging, or they are unprepared. When questions become unanswerable for learners, medical educators have a few options:

  • 다른 학습자에게 답변을 도와달라고 요청합니다.
  • 학습자에게 조사하여 다음 수업 세션에서 다시 보고하도록 요청합니다(McKibbon 및 Marks 2001).
  • 교수자가 직접 개입하여 답의 일부 설명하기
  • 교수자가 직접 개입하여 답의 전체 설명하기
  • Ask another learner to help answer
  • Ask learners to research it and report back in the next class session (McKibbon and Marks 2001)
  • Step in and explain part of the answer
  • Step in and explain the entire answer

이러한 옵션은 모두 허용되며 상황에 따라 사용해야 합니다. 

  • 예를 들어 학습자가 준비한 결과 답을 알아야 하고 이것이 주요 학습 목표인 경우에는 다른 학습자에게 답을 도와달라고 요청하거나 학습자 그룹에 답을 조사하고 다시 보고하도록 할당하는 것이 더 합리적입니다. 
  • 질문이 학습자를 해당 세션의 학습 목표에서 벗어나게 하는 경우, 학습자에게 해당 질문을 조사하여 보고하도록 요청하거나 학습자가 직접 나서서 답을 설명하는 것이 좋습니다. 
  • 의료 교육자가 부분적으로 설명한 후 학습자가 답을 이해하거나 기억하는 것 같으면 의료 교육자는 학습자에게 나머지 부분을 설명할 기회를 주어야 합니다. 

All of these options are acceptable, and their use should depend on the situation. For example,

  • if the learners should know the answer as a result of their preparation and it is the main learning objective, then it makes more sense to ask another learner to help answer or assign the group of learners to research the answer and report back.
  • If the question is moving learners beyond the learning objectives for that session, it makes sense to ask learners to research it and report back or step in and explain the answer.
  • If a learner appears to understand or remember the answer after a partial explanation from the medical educator, then the medical educator should allow the learner a chance to explain the rest.

의학교육자는 학습자 또는 학습자에게 무슨 일이 일어나고 있는지 주의를 기울이고 답을 알 수 없는 질문에 적절히 대응하는 방법을 조정하는 것이 중요합니다(Koole and Elbers 2014). 의학교육자는 항상 학습자가 준비하지 않았다고 가정해서는 안 되며, 의학교육자가 항상 모든 질문에 개입하여 답변해서는 안 됩니다. 그러나 학습자가 좌절감에 도달했을 때 인지 부하를 완화하기 위해 개입하여 답을 완전히 설명하는 것이 적절할 때가 있습니다(Kirschner 외. 2006). 의료 교육자가 개입하여 설명하는 경우, 학습자가 이해했는지 확인하고 학습자에게 요약하도록 요청하는 등 후속 조치를 취해야 합니다(Van de Pol 외. 2010).

It is important for the medical educator to pay attention to what is happening with the learner or learners and adjust how they respond to unanswerable questions accordingly (Koole and Elbers 2014). Medical educators should not always assume learners didn’t prepare, and medical educators should not always step in and answer the entire question. However, there are times when learners have reached frustration and it is apropos to step in and explain the answer in full to alleviate cognitive load (Kirschner et al. 2006). When medical educators do step in and explain, they need to follow-up by checking for learner understanding and asking the learner to summarize (Van de Pol et al. 2010).

팁 10: 학습자의 반응 듣기
Tip 10: Listen to learner responses

의료 교육자는 학습자의 사고를 돕고 학습의 발판을 마련하기 위해 질문을 할 뿐만 아니라, 학습자의 지식을 평가하고 다음에 무엇을 가르쳐야 할지 결정하기 위해 질문을 합니다(Amin and Khoo 2003; Pylman and Ward 2020). 이러한 작업을 수행하려면 의료 교육자는 학습자의 말에 귀를 기울여야 합니다. 가르치는 순간에는 많은 단어가 사용됩니다. 의학교육자는 향후 교육을 위해 학습자의 반응에 집중하는 방법을 배워야 합니다(Sherin and van Es 2005). 전문 교육자는 학습자의 자료 이해도를 점진적으로 평가하는 체크포인트를 두는 경향이 있습니다(Leinhardt et al. 1991). 의료 교육자는 학습자의 이해를 돕기 위해 다음 질문을 만들기 위해 학습자의 반응에 주의를 기울여야 합니다. 학습자의 반응을 경청하는 것이 당연한 것처럼 보일 수도 있지만, 실제로 의학교육자는 학습자의 정서적 요구와 콘텐츠 요구 모두에 대응하기 위해 경청해야 합니다. 효과적인 교육자는 학습자의 반응에 주의를 기울이며 다음과 같은 점에 주목합니다:
Medical educators ask questions to help learners think, to scaffold their learning, but also to assess learners’ knowledge and decide what needs to be taught next (Amin and Khoo 2003; Pylman and Ward 2020). Accomplishing any of those tasks requires that medical educators listen to their learners. During a teaching moment, many words are spoken. Medical educators must learn how to focus on learner responses for the purpose of future instruction (Sherin and van Es 2005). Expert educators tend to have check-points where they assess learners’ progressive understanding of the material (Leinhardt et al. 1991). Medical educators need to pay attention to how learners respond in order to craft the next question to further their understanding. While listening to learner responses may appear obvious to some, in practice medical educators need to listen in order to respond to both learners’ emotional needs and their content needs. Effective educators pay attention to learner responses noting:

  • 학습자가 개념을 이해했습니까? 어떻게 알 수 있나요?
  • 학습자의 반응은 어느 정도의 이해도를 보여줬나요? 
    • 학습자가 기본 사항만 알고 있었나요, 피상적인 수준의 이해를 보였나요, 아니면 개념을 완전히 이해했나요? 다른 학습자에게 추가를 요청해야 합니까?
  • 오해가 있었나요? 학습자에게 응답에 대해 질문하도록 요청해야 합니까?
  • 학습자에게 이 질문이 너무 어려웠나요? 더 나은 스캐폴드를 위해 어떻게 세분화할 수 있을까요?
  • 학습자의 반응에 따라 수업을 되돌아가야 할까요(다시 가르칠까요), 아니면 앞으로 나아가야 할까요?
  • 학습자가 자신의 반응을 정당화할 수 있었나요(이유를 설명할 수 있었나요)? 교육자는 학습자가 잘못된 이유로 올바른 응답을 하지 않았는지 확인해야 합니다.
  • Did the learner understand the concept? How do I know?
  • What level of understanding did the learner response reveal? Did the learner just know the basics, display a surface level understanding, or provide a full understanding of the concept? Should I call on another learner to add?
  • Was there a misconception? Should I call on learners to question the response?
  • Was this question too difficult for the learner? How can I break it down to better scaffold?
  • Based on learner responses, should I go back (reteach) or forward in my teaching?
  • Was the learner able to justify their response (explain why)? Educators need to make sure learners didn’t give the right response for the wrong reasons.

의료 교육자는 단순히 정답을 찾는 것이 아니라 학습자가 무엇을 말하고 있는지, 그리고 그 응답을 향후 교육에 어떻게 활용할 수 있는지에 대해 학습자의 응답에 귀를 기울여야 합니다.
When medical educators really listen to learner responses, not simply for the correct answer but for what learners may be saying and how responses can be leveraged for further teaching moments.

팁 11: 서면 응답을 위한 질문하기
Tip 11: Ask questions for a written response

질문을 할 때 의료 교육자는 보통 한 명 또는 소수의 학습자로부터 답변을 듣고 모든 학습자가 무슨 생각을 하고 있는지 궁금해합니다. 서면 응답을 요청하는 질문은 강의실 환경에서 의료 교육자가 모든 학습자의 응답을 수집하는 데 도움이 됩니다. 이러한 방식으로 의료 교육자는 개별 학습자 또는 학급 전체의 이해도를 측정하거나 사고 과정을 확인할 수 있습니다.
When asking questions, medical educators usually hear a response from one or a few learners and are left wondering what all learners were thinking. Asking questions for written response helps medical educators in the classroom setting collect responses from all learners. In this way, medical educators are able to gauge understanding or see the thought processes of individual learners or the class as a whole.

서면 응답을 위한 질문은 빠른 쓰기, 퇴실 슬립 또는 디지털 대화를 통해 수행할 수 있습니다.
Asking questions for a written response can be done through quick writes, exit slips, or digital conversations.

  • 빠른 쓰기: 의료 교육자가 질문을 던지고 학습자에게 1~2분 동안 사려 깊은 답변을 작성하도록 요청합니다.
  • 출구 슬립: 수업 세션이 끝날 때 의료 교육자는 '오늘 무엇을 명확히 알게 되었습니까?' '여전히 혼란스러운 점은 무엇입니까?' '오늘 그룹 내 다른 사람에게서 배운 것은 무엇입니까?' 등의 1~2가지 질문을 던집니다. 학습자는 자신의 답변을 작성하여 수업에서 나갈 때 제출합니다.
  • 디지털 대화: 의료 교육자는 의료 교육자 및/또는 학습자가 서로 질문을 하고 답변을 작성하는 공유 온라인 문서를 생성합니다. 이 문서는 수업 세션 전, 도중 및 후에 추가할 수 있습니다.
  • Quick writes: The medical educator poses a question and asks learners to take 1–2 minutes writing their own thoughtful responses.
  • Exit slips: At the end of a class session the medical educator asks 1–2 questions such as ‘What was clarified for you today?’ ‘What still confuses you?’ ‘What is something you learned from another person in your group today?’ Learners write their own answers and hand them in as they leave class.
  • Digital conversations: The medical educator creates a shared online document where the medical educator and/or learners pose questions and write responses to each other. This document can be added to before, during, and after class sessions.

이러한 각 예에서 의학교육자는 평가나 채점을 위한 것이 아니라 학습자의 사고를 평가하여, 향후 교육을 안내하는 데 사용하기 위해 잘 발달된 질문을 하고 있으며, 이를 형성 평가라고 합니다(Heritage 2007). 의학교육자는 학습자에게 답안 작성의 목적이 무엇인지, 그리고 답안 작성은 평가 목적이 아니라 향후 교육을 계획하기 위한 것임을 명확히 알려야 합니다. 응답은 의학교육자가 개별 학습자에 대해 알고자 하는지 또는 수업 전체를 측정하고자 하는지에 따라 익명으로 작성할 수도 있고 그렇지 않을 수도 있습니다.
In each of these examples, the medical educator is asking well-developed questions not to evaluate or grade, but to assess learner thinking and use it to guide further instruction – this is formative assessment (Heritage 2007). Medical educators need to make it clear to learners the purpose of the written responses, and that the writings are not for evaluative purposes but for the purpose of planning future instruction. Responses may or may not be anonymous depending on whether the medical educator desires to know about individual learners or gauge the class as a whole.

팁 12: 질문 분석하기
Tip 12: Analyze the questions asked

교육자는 자신이 어떤 유형의 질문을 하는지, 생각할 시간을 충분히 주는지 또는 I-R-E 패턴의 질문을 사용하고 있는지 알지 못하는 경우가 많습니다(Sherin and van Es 2005). 비디오 또는 오디오 녹화 강의 세션은 의학교육자가 질문을 포함하여 강의의 여러 측면을 분석하는 데 도움이 될 수 있습니다. 질문 분석에는 세션을 녹화하고, 녹음을 듣고, 의학교육자가 질문한 내용을 적고, 다음에 따라 분석하는 과정이 포함됩니다:
It is common for educators to be unaware of the types of questions they ask, whether they give enough think-time, or whether they are using the I-R-E pattern of questioning (Sherin and van Es 2005). Video or audio recording classroom sessions can help medical educators analyze many aspects of their teaching including their questioning. Analyzing questioning involves recording a session, listening to the recording, writing down the questions the medical educator asked, and analyzing according to:

  • 블룸의 분류법 - 질문의 수준
  • IRE 패턴 사용
  • 프로빙 또는 찌르기
  • 학습자 응답의 품질
  • 생각 시간 사용
  • Bloom’s Taxonomy – levels of questioning
  • Use of the IRE pattern
  • Probing or prodding
  • Quality of learner responses
  • Use of think-time

의료 교육자가 임상 환경에서 가르치는 경우, 녹화는 옵션이 아닐 수 있습니다. 대신, 의료 교육자는 학습자에게 의료 교육자가 질문하는 방식에 대한 피드백을 제공하도록 요청하거나 동료에게 특정 질문 기법을 관찰하고 메모하도록 요청할 수 있습니다.
If medical educators are teaching in the clinical setting, the recording might not be an option. Instead, medical educators can ask learners to give feedback on the way medical educators are asking questions, or they can ask a colleague to observe and take note of specific questioning techniques.

결론
Conclusion

질문은 의학교육에서 항상 일반적인 교수 전략입니다. 질문을 잘못 사용하면 학습자가 소외감을 느끼고 학습할 수 있는 위치에 있지 않다고 느끼거나 더 심한 경우 위협이나 굴욕감을 느낄 수 있습니다. 질문을 효과적으로 사용하면 강력한 학습 도구가 됩니다. 따라서 의료 교육자는 질문 기법을 더욱 발전시켜야 합니다. 여기에 제공된 팁을 사용하여 효과적으로 질문하면 의학교육자가 어려움을 겪고 있는 학습자를 지원하고, 고급 학습자에게 도전하고, 학습자의 이해를 평가하고, 학습자의 참여와 참여의 균형을 맞추는 데 도움이 될 것입니다. 의학교육자가 효과적인 질문을 더 많이 할수록 의학교육은 오늘날 의료 분야의 도전에 맞설 준비가 된 사려 깊은 임상의를 양성할 수 있는 가능성을 높일 수 있습니다.Questioning will always be a common teaching strategy in medical education. When used incorrectly questioning can leave learners feeling singled out and not in a position to learn, or worse – threatened or humiliated. When used effectively, questioning is a powerful learning tool. Therefore, medical educators deserve further development around questioning techniques. Effective questioning using the tips provided here will help medical educators support struggling learners, challenge advanced learners, assess learner understanding, and balance learner participation and engagement. The more targeted medical educators can be in asking effective questions, the more likely medical education can develop thoughtful clinicians ready to take on the challenges of today’s medical field.

 


 

Med Teach. 2020 Dec;42(12):1330-1336. doi: 10.1080/0142159X.2020.1749583. Epub 2020 Apr 16.

12 tips for effective questioning in medical education

Affiliations collapse

Affiliation

1Office of Medical Education Research and Development, College of Human Medicine, Michigan State University, East Lansing, MI, USA.

PMID: 32297833

DOI: 10.1080/0142159X.2020.1749583

Abstract

Questioning is one of the most frequently used and powerful teaching strategies across levels and settings in medical education. Although the concept of asking questions may seem like a simple practice, many medical educators lack pedagogical training. When effectively executed, questioning can elicit positive outcomes in learner participation, concentration, and understanding of content. When used incorrectly, questioning can leave learners feeling singled out and not in a position to learn, or worse - threatened or humiliated. There is a lot of literature in medical education about what ineffective questioning looks like, but little about how to enact effective questioning, such as what kind of questions should be asked and how to design those questions to improve learning. The following twelve tips will help medical educators be purposeful and effective as they plan, ask, and analyze questions in classroom or clinical settings.

Keywords: Methods; clinical; general; lectures/large group; small group teaching.

생성형 인공지능의 시대에 평가를 다시 생각하기 (Med Educ, 2023)
Rethinking assessment in response to generative artificial intelligence
Jacob Pearce | Neville Chiavaroli

 

시험에서 전자 감별 진단과 같은 평가 중 의사 결정 지원 도구의 사용은1 현재 기술이 평가 관행을 어떻게 변화시키고 있는지에 관해서는 빙산의 일각에 불과합니다. 이렇게 말하는 이유는 인공 지능(AI) 개발이 혁신적 단계에 도달한 것으로 보이기 때문입니다. 이른바 제너레이티브 AI가 여기에 있습니다. OpenAI의 ChatGPT가 등장했고, 다른 도구들도 속속 등장하고 있습니다. ChatGPT-3는 다양한 프롬프트와 질문에 대한 자연어 응답을 처리하고 생성하도록 설계된 언어 모델입니다. 이 모델은 약 45테라바이트의 텍스트 또는 수천억 개의 단어에 해당하는 방대한 양의 데이터로 학습되었습니다. 적어도 우리가 물었을 때 ChatGPT는 이렇게 대답했습니다. 그리고 우리 모두가 이 모든 것이 교육과 평가에 미치는 영향을 이해하려고 노력하고 있을 때, 이미지를 '보고' 처리할 수 있는 멀티모달 ChatGPT-4가 출시되어 이 기술이 얼마나 빠르게 발전하고 있는지를 보여주고 있습니다. 
The use of decision-making support tools during assessments, such as electronic differential diagnosis in examinations,1 is just the tip of the iceberg when it comes to how technology is currently changing assessment practice. We say this, because it appears we have reached a transformative stage in the development of artificial intelligence (AI). So-called generative AI is here. OpenAI's ChatGPT has burst onto the scene, and other tools are coming. ChatGPT-3 is a language model designed to process and generate natural language responses to a wide range of prompts and questions. It was trained on a massive amount data, corresponding to approximately 45 terabytes of text, or hundreds of billions of words. At least this is what ChatGPT told us when we asked. And just as we are all trying to understand the ramifications of all this for education and assessment, the multimodal ChatGPT-4 has been released that can ‘see’ and process images, highlighting just how fast this technology is advancing.

제너레이티브 AI는 학생과 연수생을 평가하는 방식에 잠재적으로 급진적이고 중요한 영향을 미칠 수 있습니다. 한 AI 도구는 이미 미국 의사 면허 시험에 합격한 것으로 나타났습니다.2,3 또 다른 도구는 방사선 사진 판독과 관련된 왕립 방사선사 대학 시험에서 상당히 우수한 성적을 거두었습니다.4 더욱 중요한 것은 출시 당시 ChatGPT-4가 잘 알려진 다양한 고난도 시험에서 상위 10%에 드는 성적을 거둔 것으로 나타났습니다. 이러한 최신 세대의 AI가 평가 과제에 설득력 있게 응답하는 능력은 인상적입니다. 따라서 우리는 더 이상 학생의 학습과 역량을 입증하기 위해 감독 없는 평가와 제출된 '인공물'에 의존할 수 없게 되었습니다. 이로 인해 교육자, 코스 코디네이터 및 커리큘럼 설계자에게 장기적으로 많은 요구가 제기되고 있으며, 평가 접근 방식에 대해 다시 생각해야 합니다. 이는 분명 지필 평가 과제의 역할과 위치에 의문을 제기하며, 지필 평가가 어떤 가치를 제공하고 있으며 앞으로도 계속 제공할 것인지 재고하게 만듭니다. 
Generative AI has potentially radical and significant implications for the way we assess our students and trainees. One AI tool has already shown to be capable of passing the US Medical Licensing Exam.2, 3 Another tool has performed reasonably well in a Royal College of Radiologists examination, involving the interpretation of radiographs.4 Even more significantly, at its launch, ChatGPT-4 was shown to have performed in the top 10% on a range of well-known high-stakes examinations. The ability of these latest generations of AI to respond convincingly to assessment tasks is impressive. Consequently, we can no longer rely on non-invigilated assessments and submitted ‘artefacts’ to demonstrate student learning and competence. This is bringing many long-term demands on educators, course coordinators and curriculum designers, forcing us to rethink assessment approaches. It certainly calls into question the role and place of written assessment tasks and makes us reconsider what value they offer or will continue to offer.

Generative AI has potentially radical and significant implications for the way we assess our students and trainees.



앞으로 우리는 '지원형' 평가와 '비지원형' 평가 사이에 중요한 차이가 있음을 알게 되었습니다. 

  • 전자는 응시자가 교과서, 인터넷, 의사 결정 지원 도구1, 그리고 이제는 실제 임상 실습을 대표하는 제너레이티브 AI 모델 등 다양한 도구와 리소스를 활용할 수 있는 평가입니다.
  • 반면에 비보조 평가는 임상 지식과 추론의 독립적인(그리고 검증 가능한) 시연이 관련 역량의 필수 요소인 인증 또는 요약 맥락에서 이러한 리소스에 대한 접근 없이 학생과 연수생의 지식과 이해를 평가하고자 할 때를 말합니다.

Going forward, we see an important distinction between ‘assisted’ assessments and ‘unassisted’ assessments.

  • The former is assessment that allows the candidate to draw on tools and resources, including textbooks, the Internet, decision-making support tools1 and now, generative AI models—in many ways, representative of real-life clinical practice.
  • Unassisted assessment, on the other hand, refers to times when we may wish to assess our students' and trainees' knowledge and understanding without access to such resources, such as for certification or summative contexts when the independent (and verifiable) demonstration of clinical knowledge and reasoning is a necessary element of the relevant competencies.

We see an important distinction between ‘assisted’ assessments and ‘unassisted’ assessments.

 

인증 시험에서 인공지능의 성과는 인공지능의 놀라운 합격 능력만큼이나 해당 평가의 성격에 대해 많은 것을 말해줍니다. 우리는 평가에서 어떤 종류의 성과를 이끌어내고자 하는지에 대해 신중하게 생각해야 합니다. 시발드 등의 연구에서 알 수 있듯이, 전자 진단 소프트웨어를 사용하여 시험 수행을 '보조'한다고 해서 시험의 심리 측정적 특성이 반드시 훼손되는 것은 아닙니다.1 하지만 이러한 보조 수행을 통해 진정한 이해와 '노하우'(밀러의 용어로)5를 유추할 수 있을까요? 아마도 아닐 수도 있습니다. 보조 기술을 즉시 사용할 수 없는 경우를 상상할 수 있을 뿐만 아니라(그러나 여전히 감별 진단이 필요하기 때문에), 교육자들은 이해가 여전히 교수, 학습 및 평가의 중요한 요소임을 계속 상기시키기 때문입니다.6 진정한 이해는 사실을 암기하거나 데이터를 입력하거나 알고리즘을 따르는 것과는 달리 사고와 지식 적용에 어느 정도의 자율성을 필요로 합니다. 
The performance of AI on certification tests says as much about the nature of those assessments as it does about the remarkable capacity of AI to pass them. We need to think carefully about the kind of performance we want our assessments to elicit. As Sibbald et al's study shows, the use of electronic diagnosis software to ‘assist’ performance on exams does not necessarily undermine their psychometric properties.1 But can we infer genuine understanding and ‘knows how’ (in Miller's terms)5 from such assisted performance? Perhaps not. This is where there remains value in assessing learners' understanding through unassisted means, not just because we might envisage times when assistive technology is not immediately available (and yet differential diagnoses are still required), but because educators keep reminding us that understanding remains a crucial element of teaching, learning and assessment.6 Genuine understanding requires some degree of autonomy in thinking and application of knowledge, as opposed to reciting facts, entering data or following algorithms.

비보조 평가 상황에서는 구술 평가와 같은 구두 평가 방법이 중요한 역할을 할 수 있으며 이러한 높은 수준의 인지에 접근할 수 있는 강력한 수단을 제공할 수 있다고 주장합니다. 구술 평가 방법은 낮은 신뢰도, 표준화 부족, 평가자 편향 가능성 등의 이유로 한동안 많은 평가계에서 저평가되어 왔습니다.7 그러나 많은 평가 학자들이 지적했듯이 평가 형식의 가치 또는 '유용성'은 여러 가지 상반된 요소에 따라 달라집니다.8 특정 상황에서는 구술 평가의 본질적인 특성, 특히 직접적인 의사소통, 상호 작용 및 유연성 모드가 부각되어 비보조 평가에 특히 적합한 선택이 될 수 있습니다. 학습자의 이해도와 역량에 대한 직접적이고 검증 가능한 증거가 필요한 경우, 구두 평가 형식은 비교적 간단하고 매우 유용한 방법입니다. 
For unassisted assessment contexts, we argue that oral assessment methods such as the viva can play an important role and offer a powerful avenue for accessing such higher levels of cognition. Oral assessment methods have been undervalued in many assessment circles for some time, in part due to their perceived poor reliability, lack of standardisation and potential for assessor bias.7 But as many assessment scholars have pointed out, the value or ‘utility’ of an assessment format depends on many different and competing factors.8 In certain circumstances, the intrinsic characteristics of oral assessment—in particular its mode of direct communication, interactivity and flexibility—come to the fore and make it a particularly apt choice for unassisted assessment. For those occasions when we need direct and verifiable evidence of our learners' understanding and competence, the oral assessment format is a relatively straightforward and highly useful method.

For unassisted assessment contexts, we argue that oral assessment methods such as the viva can play an important role and offer a powerful avenue for accessing such higher levels of cognition.

최근 편리한 온라인 플랫폼을 통한 가상 평가의 증가와 활성화, 그리고 AI가 제기하는 비구술 평가 형식에 대한 새로운 도전에 따라, 우리는 구술 형식이 의학교육에서 매우 가치 있고 독특한 평가 형식으로서 '재활'되고 재수용될 때가 왔다고 생각합니다. 다른 평가 형식과 마찬가지로, 평가 설계자와 실무자는 구두 평가를 계획하고 설계할 때 다양한 유형의 프롬프트 관행을 명확히 하고 모든 이해관계자에게 이러한 형태의 평가를 가장 잘 운영하는 방법에 대해 교육하는 등 사려 깊은 태도를 보여야 합니다. 한 가지 주요 이점은 응시자의 답변을 실시간으로 확인할 수 있기 때문에 진정한 이해와 고차원적 사고에 대한 심층적인 조사가 가능하다는 점입니다. 이러한 시험관의 상호작용은 사려 깊은 설계와 적절한 교육을 통해 효과적으로 표준화할 수 있습니다.9, 10 최근 보다 명확한 가이드라인이 등장하면서 의학교육 평가에서 구두 형식의 보다 유효한 적용에 대한 지원이 이루어지고 있습니다.11, 12
With the recent increase and facilitation of virtual assessment through convenient online platforms, and the new challenge to non-invigilated assessment formats posed by AI, we think the time has come for the ‘rehabilitation’ and re-acceptance of the oral format as a highly valuable and unique form of assessment in medical education. As with any assessment format, this requires that assessment designers and practitioners be thoughtful in planning and designing oral assessments, including clarifying the different types of prompting practices and educating all stakeholders on how to best operationalise this form of assessment. One major benefit is that since candidate responses can be clarified in real time, deep probing of genuine understanding and higher-order thinking is possible. Such examiner interaction can be standardised effectively with thoughtful design and appropriate training.9, 10 The recent emergence of clearer guidelines provides support for more valid application of the oral format in medical education assessment.11, 12

Think the time has come for the ‘rehabilitation’ and re-acceptance of the oral format.


생성형 AI가 형성적 또는 총괄적 맥락에서 평가의 유효성이나 신뢰성을 위협할 필요는 없습니다. 오히려 보조 평가에 충실도와 뉘앙스를 더하는 동시에 비보조 평가에 더 큰 집중력과 목적의식을 부여할 수 있습니다. 보조 평가 내에서 생성형 AI의 역할과 가치는 더 자세히 살펴봐야 합니다. 이러한 도구의 유용성은 빠르게 분명해지고 있으며, 많은 사람들이 AI를 사용하여 학습을 비계화하는 방법을 올바르게 고려하고 있습니다. 보조 평가 작업에 AI를 활용하면 학습을 발전시키고, 오해와 감독을 식별하고, 문제 해결의 길을 제시하는 데 도움이 될 수 있습니다. 예를 들어, 의사가 일상적으로 휴대폰을 사용하여 임상 진료 지침을 참조하거나 문서 템플릿을 사용하여 보고서를 표준화하는 방식과 유사하게 AI를 확인 리소스 또는 텍스트 생성 도구로 사용할 수 있습니다. 보조 평가에 AI를 전략적으로 포함시키는 것의 다른 측면은 비보조 평가를 통해 판단, 평가 및 비판적 추론과 같은 전형적인 인간 기술의 평가에 더 중점을 둘 수 있는 기회입니다.13 
Generative AI need not threaten the validity or trustworthiness of our assessments in either formative or summative contexts. Rather, it can add fidelity and nuance to assisted assessment while facilitating a greater focus and purposefulness to unassisted assessment. The role and value of generative AI within assisted assessments should be further explored. The usefulness of these tools is quickly becoming apparent, with many rightly considering how to use AI to scaffold learning. Building the use of AI into our assisted assessment tasks may advance learning, help identify misconceptions and oversight and suggest avenues for solutions to problems. For example, AI can be used as a confirmatory resource or text generation tool, akin to the way doctors routinely use their phones to consult clinical practice guidelines or standardise reports through the use of document templates. The other side of such strategic inclusion of AI in assisted assessment is the opportunity to place greater emphasis on the assessment of quintessential human skills, such as judgement, evaluation and critical reasoning through unassisted assessments.13

Generative AI need not threaten the validity or trustworthiness of our assessments in either formative or summative contexts. Rather, it can add fidelity and nuance to assisted assessment while facilitating a greater focus and purposefulness to unassisted assessment.

제너레이티브 AI가 기존의 평가 관행을 즉각적으로 해체할 필요는 없지만, 맥락에서 평가의 목적에 더욱 집중하여 현재 우리가 시행하고 있는 평가에 대해 다시 생각해 볼 필요가 있습니다. 우선, 구술 평가 형식은 비보조 상황에서 평가의 인증 기능을 충족하는 데 중요한 역할을 할 수 있으므로 '재생reclaim'해야 한다고 제안합니다. 또한, 보조 작업이 합당한 평가 맥락에서 AI에 대한 접근도 포괄적인 평가 시스템의 일부로 수용해야 합니다.
Although generative AI does not warrant a reactive dissolution of established assessment practices, it does call for a rethinking of assessment as we currently practice it, with a sharpening focus on its purpose in context. Initially, we propose that the oral assessment format should be ‘reclaimed’ as it can play an important role in meeting the certification function of assessment in unassisted contexts. Further, access to AI in assessment contexts where assisted tasks make sense will also need to be embraced as part of a comprehensive assessment system.


 
Med Educ. 2023 Apr 12. doi: 10.1111/medu.15092. Online ahead of print.

Rethinking assessment in response to generative artificial intelligence

Affiliations collapse

Affiliation

1Tertiary Education, Australian Council for Educational Research, Camberwell, Victoria, Australia.

PMID: 37042389

DOI: 10.1111/medu.15092

No abstract available

ChatGPT의 등장: 의학교육에서 잠재력 탐색 (Anat Sci Educ. 2023)
The rise of ChatGPT: Exploring its potential in medical education
Hyunsu Lee

 

소개
INTRODUCTION

의학교육에 기술을 통합하는 것은 지속적인 과정이었으며, 최근 인공지능(AI)과 머신러닝(ML)의 발전은 교육 혁신을 위한 흥미롭고 새로운 기회를 제시하고 있습니다. 이러한 AI 기반 도구 중 가장 주목할 만한 것은 OpenAI에서 개발한 GPT(Generative Pretrained Transformer) 언어 모델1과 그 변형인 ChatGPT입니다.1 최근 ChatGPT는 사람과 유사한 텍스트를 생성하고 사용자가 대화형 대화에 참여할 수 있는 기능으로 인해 단기간에 100만 명의 사용자를 확보하는 등 상당한 주목을 받고 있습니다(그림 1). 자연어 처리 기능과 고급 알고리즘을 갖춘 ChatGPT는 연구 및 의학 문헌 요약 및 평가와 같이 시간 집약적인 작업을 효율적으로 자동화할 수 있습니다. 의학교육 분야에서 ChatGPT는 학생들에게 상세하고 관련성 높은 정보를 제공할 수 있는 잠재력을 가지고 있으며, 다른 기술과 결합하여 대화형 시뮬레이션을 개발할 수도 있습니다. 
The integration of technology into medical education has been an ongoing process, with recent advancements in artificial intelligence (AI) and machine learning (ML) presenting exciting new opportunities for educational innovation. Among the most notable of these AI-based tools is the Generative Pretrained Transformer (GPT) language model
1 developed by OpenAI, and its variant, ChatGPT.1 Recently, ChatGPT has received considerable attention due to its ability to generate human-like text and engage users in interactive conversations, resulting in the acquisition of 1 million users in a short time (Figure 1). With its natural language processing capabilities and advanced algorithms, ChatGPT can efficiently automate time-intensive tasks, such as summarizing and evaluating research and medical literature. Within medical education, ChatGPT has the potential to provide students with detailed and relevant information and could be paired with other technologies to develop interactive simulations.

 

의학교육은 인공지능과 머신러닝의 발전으로 큰 혜택을 받을 수 있는 잠재력을 가지고 있습니다.6-9 해부학을 포함한 기초 과학 교육은 임상과 관련된 인체의 구조와 기능을 이해하기 위한 기초 토대를 마련합니다.10 이러한 학습 목표를 달성하려면 관련성 있고 상세한 정보, 매력적인 교육 리소스, 대화형 시뮬레이션의 기회가 필요합니다. 그러나 학생들은 방대한 양의 복잡한 정보를 이해하고 암기하는 데 어려움을 겪는 경우가 많습니다.11,12 따라서 의학교육에서 ChatGPT를 사용하면 학생들이 생물의학을 학습하는 방식에 혁신을 가져올 수 있습니다. 가상 조교 역할을 하는 ChatGPT는 학생들에게 실시간으로 개인화된 피드백을 제공하는 데 활용될 수 있습니다.13 의료 실습과 관련된 고도의 대화형 가상 실험실 시뮬레이션을 생성하기 위해 다른 기술(예: 게임 산업)과의 통합이 모색되고 있습니다. 
Medical education has the potential to greatly benefit from AI and ML advancements.
69 Basic science education, including the anatomical sciences, lays the foundational groundwork for understanding clinically relevant structures and functions of the human body.10 Achieving this learning goal requires relevant and detailed information, engaging educational resources, and opportunities for interactive simulations. However, students often find it difficult to comprehend and memorize vast amounts of complex information.11,12 Thus, the use of ChatGPT in medical education has the potential to revolutionize how students learn biomedical sciences. By serving as a virtual teaching assistant, ChatGPT could be leveraged to provide students with real-time and personalized feedback.13 The integration of ChatGPT with other technologies (e.g., the gaming industry) is being explored to generate highly interactive virtual laboratory simulations relevant to medical practice.

이 글에서는 의학교육에서 ChatGPT의 장점, 한계, 윤리적 고려사항에 대한 분석을 제공하며, 특히 의생명과학 교육에 중점을 두고 있습니다. 또한 커리큘럼 설계에 대한 ChatGPT의 함의를 살펴보고 이 기술의 잠재력을 극대화하기 위한 향후 연구 개발 방향에 대해 논의합니다. 
This article provides an analysis of the advantages, limitations, and ethical considerations of ChatGPT in medical education, with special emphasis on biomedical sciences education. In addition, this commentary explores ChatGPT's implications for curriculum design and discusses future research and development directions for maximizing this technology's potential. 

의학교육에서 ChatGPT의 잠재적 활용 및 이점
POTENTIAL APPLICATIONS AND BENEFITS OF CHATGPT IN MEDICAL EDUCATION

ChatGPT는 다음과 같은 잠재적 활용을 통해 의학교육을 향상시킬 수 있습니다:
ChatGPT can enhance medical education through the following potential applications:

ChatGPT는 가상 조교로 배포될 수 있습니다. 다양한 의학 주제에 대한 정보를 신속하게 제공할 수 있는 ChatGPT는 학생들에게 필요한 시점에 유용한 리소스가 될 수 있습니다.14,15 즉각적인 피드백과 연중무휴 정보 액세스를 제공합니다.2 해부학, 조직학 및 기타 의학 주제와 관련된 질문에 답변하고 쉽게 접근하고 이해할 수 있는 방식으로 설명을 제공할 수 있습니다. 추가 학습을 위한 추가 리소스도 제안할 수 있습니다. 학생들 사이에서 ChatGPT를 더 많이 사용하면 의도치 않게 교사의 업무량(예: 근무 시간 동안 학생이 없는 경우)이 줄어들어 실습 및 실습 교육과 같은 다른 커리큘럼 측면에 시간과 노력을 다시 집중할 수 있습니다. ChatGPT 사용의 또 다른 이점은 개인 맞춤형 교육을 제공할 수 있다는 점입니다.16-19 대화의 맥락에 따라 ChatGPT는 최종 사용자에게 적절한 수준으로 응답할 수 있으며, 아직 개발되지는 않았지만 학생의 진도를 추적하고 교육 스타일을 조정할 수 있는 잠재력을 가지고 있을 수 있습니다. 어려움을 겪고 있는 학생은 어렵고 복잡한 개념을 자신의 수준에 맞는 방식으로 설명함으로써 도움을 받을 수 있습니다.20 예를 들어, 학생은 "[무언가]를 초등학생 수준으로 설명해 주세요"와 같은 프롬프트를 사용하여 챗봇과 대화를 시작할 수 있습니다.
ChatGPT could be deployed as a virtual teaching assistant. With its ability to quickly return information on various medical topics, ChatGPT could be a valuable point-of- need resource for students.14,15 ChatGPT provides instant feedback and 24/7 access to information.2 It can answer questions and provide explanations related to anatomy, histology, and other medical subjects in a way that is easily accessible and understandable. It can even suggest additional resources for further learning. Greater use of ChatGPT among students may inadvertently reduce teachers' workloads (e.g., having no students during office hours), allowing them to refocus their time and efforts on other curricular aspects, such as practical skills and hands-on training. Another benefit of using ChatGPT is the personalized education it has the potential to offer.1619 Based on the context of a conversation, ChatGPT can respond to end-users at an appropriate level and may have the potential to track students' progress and adjust its teaching style, though this feature is not yet developed. Struggling students may benefit by having difficult and complex concepts explained in a way that adapts to their level.20 For example, a student could initiate a conversation with the chatbot using a prompt like, “Explain [something] at an elementary level.”

ChatGPT와 대화형 가상 실험실 시뮬레이션의 결합은 향후 연구를 위한 비옥한 토양이 될 것입니다. ChatGPT는 곧 텍스트 기반 응답을 넘어 대화형 학습 경험을 촉진할 수 있을 것입니다. 예를 들어, 게임 업계에서는 비플레이어 캐릭터와의 대화에 ChatGPT를 사용하는 방안을 모색하고 있습니다. 마찬가지로 의대생들은 가상 조직학 슬라이드 프로그램과 함께 ChatGPT를 사용하여 교육을 용이하게 할 수 있습니다. 학생들은 각 슬라이드를 검토할 때 관찰된 세포와 조직 구성 요소에 대한 정보를 제공하도록 ChatGPT에 요청하여 실시간으로 주제에 대한 이해도를 높일 수 있습니다. 이러한 기술을 교육 환경에 통합하면 학생들에게 몰입도 높은 학습 경험을 제공할 수 있습니다.12 ChatGPT는 이미 정답 설명이 포함된 자가 점검 퀴즈(예: 표 1, 프롬프트 및 응답 참조)를 생성할 수 있습니다. 
The combined use of ChatGPT with interactive virtual laboratory simulations is fertile ground for future investigations. ChatGPT may soon be able to facilitate an interactive learning experience beyond text-based responses. The gaming industry, for example, is exploring the use of ChatGPT for non-player character conversations. Likewise, medical students may be able to use ChatGPT in conjunction with a virtual histology slide program to facilitate their education. As students review each slide, they can prompt ChatGPT to provide information about the observed cells and tissue components, enhancing their comprehension of the topic in real time. Integrating such technologies into educational settings could offer students an immersive learning experience.
12 ChatGPT is already capable of generating self-check quizzes (see Table 1, e.g., prompts and responses) with answer explanations.

전반적으로 ChatGPT는 학생의 학습 경험을 향상시키고 학습자가 의료 및 헬스케어 분야에서 경력을 쌓을 수 있도록 더 잘 준비시킬 수 있는 잠재력을 가지고 있습니다. 실제로 ChatGPT의 효과는 아직 검증되지 않았지만, Klutka 외.21가 요약하고 표 2에 요약한 바와 같이 의학 교육에서 유용하게 사용될 경우 다양한 이점을 얻을 수 있을 것으로 예상됩니다. 
Overall, ChatGPT has the potential to augment the student learning experience and better equip learners for careers in the medical and health-care fields. While the efficacy of ChatGPT remains to be seen in practice, its usefulness in medical education is expected to yield various benefits, as outlined by Klutka et al.
21 and summarized in Table 2.

커리큘럼 설계를 위한 ChatGPT 사용
USING CHATGPT FOR CURRICULUM DESIGN

ChatGPT는 현장에서 커리큘럼 설계, 평가 전략 및 교육 방법에 큰 영향을 미칠 수 있는 잠재력을 가지고 있습니다. 의학교육에서 기술의 역할이 점점 더 중요해짐에 따라 교육자는 변화하는 환경에 적응해야 합니다.   
ChatGPT has the potential to significantly impact curriculum design, assessment strategies, and teaching methods in the field. As technology continues to play an increasingly prominent role in medical education, educators must adapt to the changing landscape.  

학생들이 첨단 기술을 효과적으로 활용하고 미래의 진료에 통합하는 데 필요한 디지털 리터러시와 역량을 갖출 수 있도록 하는 것이 중요합니다. 이러한 목표를 달성하기 위해 의학교육자는 기술 기반 교육 및 학습 방법을 커리큘럼에 통합하기 위해 교육 접근 방식을 수정해야 할 수 있습니다. ChatGPT는 학생들이 미래의 의료 실무에 필요한 기술과 역량을 습득하도록 돕는 데 이상적일 수 있습니다.22 의료의 미래에는 온라인 플랫폼, 앱, 전자 건강 기록과 같은 디지털 도구가 보편화될 것이며, 의료용 대형 언어 모델(예: 방사선학 보고서)의 출력물에 대한 의존도가 점점 더 높아질 수 있습니다. 따라서 학생들은 언젠가 동료 및 환자와 소통할 때 언어 모델 결과물을 해석하고 적용해야 할 수도 있으므로 이러한 기술을 효과적으로 사용하는 데 필요한 역량을 습득하는 것이 중요합니다. 
It is crucial to ensure that students are equipped with the necessary digital literacy and competencies to effectively utilize and integrate advanced technologies into their future practices. To achieve this goal, medical educators may need to modify their teaching approaches to incorporate technology-based teaching and learning methods into their curricula. ChatGPT may be ideally suited for helping students to acquire the skills and competencies required for future medical practice.
22 In the future of health care, digital tools such as online platforms, apps, and electronic health records will be ubiquitous, and the outputs of large language models for medical uses (e.g., radiology reports) could become increasingly relied upon. As such, it would behoove students to acquire the competencies necessary to effectively use these technologies, as they may 1 day need to interpret and apply language model outputs when communicating with colleagues and patients.

ChatGPT와 같은 AI 도구의 통합은 평가 전략에 대한 재고와 재설계를 불러일으킬 수도 있습니다. 필기 시험과 같은 전통적인 방법으로는 디지털 및 기술 리터러시 능력을 평가하는 데 적합하지 않을 수 있습니다. 또한, 학업 부정행위에 ChatGPT를 사용하면 보고서나 에세이 작성과 같은 전통적인 평가 방법의 유효성에 의문이 제기될 수 있습니다. AI가 학습 과정과 임상 실습을 변화시킨다면 기술 중심 의료 산업의 진화하는 수요를 충족하기 위해 새롭고 다양한 평가 전략이 필요할 수 있습니다. 
The integration of AI tools, like ChatGPT, might also provoke a rethinking and redesign of assessment strategies. Traditional methods, such as written exams, may not be well equipped to assess digital and technology literacy skills. Moreover, the use of ChatGPT for academic misconduct calls into question the validity of traditional assessment methods, like report or essay writing. If AI transforms learning processes and clinical practice, new and different assessment strategies may be needed to meet the evolving demands of the technology-driven health-care industry.

ChatGPT는 교육 계획과 교육 방법에도 영향을 미칠 수 있습니다. 현재 상태에서는 교육자가 수업 계획 초안을 작성하고 브레인스토밍하는 데 ChatGPT가 도움이 될 수 있습니다.19 AI 기술과 그 피상적인 교육 능력의 출현으로 전통적인 강의와 시연은 더 이상 정보 전달이나 학생 학습을 촉진하는 데 효과적이지 않을 수 있습니다. 따라서 의학교육자는 기술 향상 학습에 가장 적합한 교수법을 탐구하고 구현하는 데 부지런하고 능동적으로 임해야 합니다.23 
ChatGPT might also impact educational planning and teaching methods. In its current state, ChatGPT can help educators draft and brainstorm lesson plans.19 With the advent of AI technology and its cursory ability to teach, traditional lectures and demonstrations may no longer be as effective for delivering information or facilitating student learning. Hence, medical educators must be diligent and proactive in exploring and implementing teaching methods best suited for technology-enhanced learning.23

ChatGPT의 한계 및 우려 사항
CHATGPT'S LIMITATIONS AND CONCERNS

ChatGPT의 기존 장점과 미래 잠재력에도 불구하고 가장 큰 주요 과제는 AI 시스템에서 제공하는 정보의 정확성과 신뢰성을 보장하는 것입니다. 의학교육은 작은 오류도 환자 안전에 중대한 결과를 초래할 수 있기 때문에 높은 수준의 정밀도와 정확성이 필요합니다. 학생들이 부정확하거나 오해의 소지가 있는 정보를 받을 위험은 실제로 존재합니다. ChatGPT는 대량의 데이터를 기반으로 훈련하지만, 훈련 과정에서 오류나 간과가 발생할 가능성이 항상 존재하며, 훈련 데이터 자체에 부정확한 정보가 포함될 수 있습니다. 배경 지식이 부족한 학생은 이러한 오류를 식별하기 어렵습니다. 예를 들어, 사람의 심장에 대한 질문을 받았을 때 ChatGPT는 마치 사람의 심장에 심실이 두 개만 있는 것처럼 응답합니다(표 3). 후속 확인 질문에 대한 정답을 제공하더라도 이러한 결과는 학습자에게 혼란을 줄 수 있습니다. ChatGPT는 지식 기반이 아니라 입력 문자열에 대해 작동하여 가능한 응답을 예측하는 언어 모델입니다. ChatGPT를 학습시키는 데 사용되는 데이터는 신뢰할 수 있는 것으로 추정되지만, 이것이 ChatGPT의 생성된 응답이 일관되게 신뢰할 수 있거나 인코딩된 지식을 전제로 한다는 것을 필연적으로 의미하지는 않는다는 점을 인식하는 것이 중요합니다. 따라서 ChatGPT의 응답의 정확성은 가설적인 것이며 절대적인 것이 아닙니다. 이는 학생들의 생물의학에 대한 이해에 심각한 결과를 초래할 수 있습니다. 의학교육 내에서 ChatGPT의 정확성을 보장하기 위해서는 책임 있는 당사자(예: 의학교육 기관, 기술 회사, 규제 기관)가 명확한 가이드라인과 검증 메커니즘을 개발하고 광범위하게 테스트해야 합니다. 
Despite ChatGPT's existing benefits and future potential, the greatest primary challenge is ensuring the accuracy and reliability of the information provided by the AI system. Medical education requires a high degree of precision and accuracy, as even small errors can have significant consequences for patient safety. The risks of students receiving incorrect or misleading information are real. Although ChatGPT is trained on large amounts of data, there is always the possibility of errors or oversights in its training process, and the training data itself may contain inaccurate information. It is difficult for students with limited background knowledge to identify such errors. For instance, when asked about the human heart, ChatGPT responds as if the human heart only has two chambers (
Table 3). Despite providing the correct response to the subsequent verification question, these results can be confusing for learners. ChatGPT is not a knowledge base, but rather a language model that operates on input strings to predict probable responses. While the data used to train ChatGPT is presumed to be authentic, it is vital to acknowledge that this does not inevitably signify that ChatGPT's generated responses are consistently reliable or premised on encoded knowledge. The accuracy of ChatGPT's responses is, therefore, hypothetical, and not absolute. This could have serious consequences for students' understanding of the biomedical sciences. To ensure ChatGPT's accuracy within medical education, clear guidelines and verification mechanisms should be developed and extensively tested by responsible parties (e.g., medical education institutions, technology companies, and regulatory bodies).

교육자들이 우려하는 또 다른 문제는 학생들이 AI 모델을 주요 정보 출처로 의존하게 될 수 있다는 점입니다. 이는 결국 학생들의 비판적 사고와 문제 해결 능력 발달에 부정적인 영향을 미칠 수 있습니다. 특히 학생들이 ChatGPT를 사용하는 방법이나 반환되는 정보를 평가하는 방법에 대해 제대로 교육받지 않은 경우 더욱 그렇습니다. 학생들이 자료를 제대로 이해하지 못한 채 ChatGPT에 의존하게 되면 생물의학에 대한 전반적인 지식이 저하될 수 있습니다.
Another concern among educators is that students may come to rely on the AI model as their primary source of information. This, in turn, could negatively impact the development of students' critical thinking and problem-solving skills. This is especially true if students are not properly trained on how to use ChatGPT or how to evaluate the information it returns. The potential for students to rely on ChatGPT without truly understanding the material could lead to a reduction in their overall knowledge of biomedical sciences.

언어 모델에 대한 학생의 의존성은 학업적 부정직 또는 "부정 행위"를 조장할 수도 있습니다. 예를 들어, 학생이 자료를 완전히 이해하지 못하거나 필요한 노력을 기울이지 않고 에세이나 기타 서면 과제를 완료하기 위해 ChatGPT를 사용할 수 있습니다. 교육자는 과제에 대한 명확한 지침과 기대치를 제시하고 학업 부정행위의 결과를 전달함으로써 이러한 가능성을 줄일 수 있습니다. 또한 언어 모델로는 쉽게 완료할 수 없는 비판적 사고, 창의성 및 정보 종합이 필요한 평가를 통합할 수도 있습니다. 최신 표절 탐지 기술(예: Originality.ai, GPTZero, Plagibot)도 ChatGPT의 의도하지 않은 결과에 대응하는 데 사용될 수 있습니다.
Student dependency on the language model may also propagate academic dishonesty or “cheating.” For example, a student might use ChatGPT to complete an essay or other written assignment without fully understanding the material or putting in the required effort. Educators can reduce the likelihood of this by providing clear guidelines and expectations for assignments and communicating the consequences of academic dishonesty. They can also incorporate assessments that require critical thinking, creativity, and the synthesis of information that cannot be easily completed with language models. Newer plagiarism detection technologies (e.g., Originality.ai, GPTZero, and Plagibot) can also be used to counter this unintended consequence of ChatGPT.

의학교육에서 인공지능과 머신러닝 모델을 사용하는 것은 몇 가지 윤리적 문제를 제기합니다. 주요 윤리적 문제 중 하나는 이러한 모델이 편견과 차별을 지속시킬 수 있다는 점입니다.24 이는 모델 훈련에 사용된 데이터가 편향되어 있거나 알고리즘 자체가 본질적으로 편향된 방식으로 설계된 경우 발생할 수 있습니다. 예를 들어, 언어 모델이 성별 및 인종적 편견을 재생산하고 증폭시킬 수 있다는 연구 결과가 있습니다.25 의학교육의 맥락에서, 이는 학생들이 부정확하거나 차별적인 정보를 받아 다양한 관점과 경험을 대표하지 못하는 결과를 초래할 수 있습니다. 이는 학습과 환자 치료에 심각한 결과를 초래할 수 있습니다.
The use of artificial intelligence and machine learning models in medical education raises several ethical concerns. One primary ethical issues is the potential for these models to perpetuate biases and discrimination.
24 This could occur if the data used to train the models are biased or if the algorithms themselves have been designed in a way that are inherently biased. For example, studies have shown that language models can reproduce and amplify gender and racial biases in their outputs.25 In the context of medical education, this could result in students receiving inaccurate or discriminatory information, leading to a lack of representation of diverse perspectives and experiences. This could have serious consequences for their learning and patient care.

또한 ChatGPT는 개인정보 보호 및 기밀 유지와 관련된 몇 가지 윤리적, 법적 문제를 제기합니다.26 의료 교육에는 종종 학생, 교사, 의료 전문가 간에 환자 데이터와 같은 민감한 정보를 공유해야 하는 경우가 있습니다. 의학교육에서 ChatGPT 또는 기타 AI 도구를 사용하는 것이 민감한 정보의 개인정보 보호 및 보안에 어떤 영향을 미칠 수 있는지 고려하는 것이 중요합니다. 이러한 데이터를 보호하기 위한 적절한 조치가 마련되어 있을 수 있지만, 잠재적인 위험을 신중하게 평가하고 적절한 안전장치가 마련되어 있는지 확인하는 것이 중요합니다. 의학교육에서 AI 도구를 사용하는 것이 갖는 의미와 잠재적 위험을 완화하는 최선의 방법을 완전히 이해하려면 추가적인 연구와 분석이 필요할 수 있습니다. 
ChatGPT also raises some ethical and legal concerns related to privacy and confidentiality.
26 Medical education often involves the sharing of sensitive information, such as patient data, between students, teachers, and medical professionals. It is important to consider how the use of ChatGPT or other AI tools in medical education could impact the privacy and security of sensitive information. While appropriate measures may be in place to protect such data, it is still important to carefully evaluate the potential risks and ensure that adequate safeguards are in place. Further research and analysis may be needed to fully understand the implications of using AI tools in medical education and how best to mitigate potential risks.

일부에서는 ChatGPT 및 기타 유사한 AI 시스템이 결국 인간 교육자의 특정 역할을 대체할 수 있다는 의견도 있습니다.27 이러한 모델은 학생들에게 신속하고 관련성 있는 정보를 제공하지만, 인간 상호 작용의 양과 질을 감소시키고 학생들이 받는 개인적인 관심과 피드백의 양을 감소시킬 수도 있습니다. 이는 학생들의 학습과 전반적인 교육 경험에 해를 끼칠 수 있습니다. 또한 인간 교사에 대한 수요 감소로 인한 실업은 경제적으로도 영향을 미칠 수 있습니다. AI가 발전함에 따라 의료 교육자를 지원하기 위한 정책과 이니셔티브를 개발하고 고용 시장에 미치는 악영향을 사전에 완화하기 위한 조치를 취해야 할 수도 있습니다. 
Some are of the opinion that ChatGPT and other similar AI systems could eventually replace certain roles of human educators.27 While these models provide students with quick and relevant information, they may also lead to a reduction in the quantity and quality of human interactions and a decrease in the amount of personal attention and feedback students receive. This could harm students' learning and their overall educational experience. Furthermore, unemployment resulting from a decreased demand for human teachers could have economic consequences. As AI advances, steps may need to be taken to develop policies and initiatives to support health-care educators, and proactively mitigate any adverse effects on the job market.

마지막으로, 의학교육에서 AI를 사용하는 데 있어 책임과 투명성 문제는 현재 해결되지 않은 문제입니다. AI 시스템의 실수 및 오류(예: 부정적 결과를 초래하는 잘못된 정보)가 발생할 경우 기술 및 개발자의 책임에 대한 윤리적 의문이 제기됩니다.28 AI 모델이 의사 결정 과정을 투명하게 하고, 추천 및 정보 제공 방식을 명확하게 이해하는 것이 중요합니다.24 
Finally, issues of accountability and transparency in the use of AI in medical education are currently unresolved. Ethical questions about the responsibility of the technology and its creators are raised in cases of AI system mistakes and errors (e.g., incorrect information that results in a negative outcome).
28 It is important to ensure AI models are transparent in their decision-making processes and that there is a clear understanding of how they are making recommendations and providing information.24

결론
CONCLUSIONS

AI의 빠른 발전과 진보를 고려할 때 ChatGPT 및 기타 AI 기반 학습 도구는 시간이 지남에 따라 계속 진화하고 개선될 것으로 예상됩니다. 따라서 의학교육에서 AI 시스템을 최적으로 통합하고 근거에 기반하여 사용하기 위해서는 지속적인 연구와 평가가 필요합니다. 이러한 도구가 지식 유지, 문제 해결 능력, 비판적 사고력 등 학생의 학습 성과에 미치는 영향을 평가하는 강력한 평가가 필요합니다. 인공지능 기반 학습 도구의 윤리적, 사회적 영향에 관한 조사도 이 분야에 도움이 될 것입니다.
Give AI's rapid progress and advancements, it is expected that ChatGPT and other AI-based learning tools will continue to evolve and improve over time. As such, continued research and evaluation are needed to ensure optimal integration and evidence-based uses of AI systems in medical education. Robust evaluations assessing the
impact of these tools on student learning outcomes, such as knowledge retention, problem-solving abilities, and critical thinking skills are warranted. Investigations concerning the ethical and societal effects of AI-powered learning tools would also benefit the field.

결론적으로, 의학교육에 ChatGPT를 적용하면 학생들의 학습 경험을 향상시키고 보다 인터랙티브하고 매력적인 교육 환경을 조성할 수 있는 상당한 잠재력을 가지고 있습니다. 상세한 정보를 제공하는 능력, 대화형 시뮬레이션의 잠재력, 교육 리소스로서의 유용성 등 ChatGPT는 다양한 교육 분야에 활용될 수 있는 가능성을 지니고 있습니다. 이 기술을 전통적인 교육 방법과 함께 사용하면 학생과 교사 모두에게 도움이 될 수 있습니다. 
In conclusion, the application of ChatGPT in medical education holds significant potential for enhancing students' learning experiences and creating a more interactive and engaging educational environment. With its ability to provide detailed information, the potential for interactive simulations, and its utility as an educational resource, ChatGPT holds promise for many educational applications. Using this technology, in conjunction with traditional teaching methods, could benefit both students and teachers alike.


Anat Sci Educ. 2023 Mar 14. doi: 10.1002/ase.2270. Online ahead of print.

The rise of ChatGPT: Exploring its potential in medical education

Affiliations collapse

Affiliation

1Department of Medical Informatics, School of Medicine, Keimyung University, #223, 1095, Dalgubeoldae-ro, Dalseo-gu, Daegu, Republic of Korea.

PMID: 36916887

DOI: 10.1002/ase.2270

Abstract

The integration of artificial intelligence (AI) into medical education has the potential to revolutionize the way students learn about biomedical sciences. Large language models, such as ChatGPT, can serve as virtual teaching assistants, providing students with detailed and relevant information and perhaps eventually interactive simulations. ChatGPT has the potential to increase student engagement and enhance student learning, though research is needed to confirm this. The challenges and limitations of ChatGPT must also be considered, including ethical issues and potentially harmful effects. It is crucial for medical educators to keep pace with technology's rapidly changing landscape and consider the implications for curriculum design, assessment strategies, and teaching methods. Continued research and evaluation are necessary to ensure the optimal integration of AI-based learning tools into medical education.

Keywords: ChatGPT; artificial intelligence; medical education; natural language processing; virtual teaching assistant.

시스템 문제로서 UME-GME 이행: 근본 원인 분석(Acad Med, 2023)
The Undergraduate to Graduate Medical Education Transition as a Systems Problem: A Root Cause Analysis
Jennifer L. Swails, MD, Steven Angus, MD, Michael A. Barone, MD, MPH, Jessica Bienstock, MD, MPH, Jesse Burk-Rafel, MD, Michelle A. Roett, MD, MPH, and Karen E. Hauer, MD, PhD

 

 

환자와 의료 시스템의 요구를 충족시킬 유능한 의사를 양성하려면 의예과부터 임상 실습에 이르는 효과적인 의학교육 연속체가 필요합니다. 그러나 이 연속체는 의예과, 의과대학(학부 의학교육[UME]), 레지던트 및 펠로우십(대학원 의학교육[GME]), 무감독 임상 실습이라는 개별 단계로 구성되어 있으며, 각 단계마다 고유한 관습과 절차가 있기 때문에 수련의는 각 전환 시 학습 상황, 환경, 책임, 감독에서 갑작스러운 전환을 경험하게 됩니다. 
Training competent physicians who will meet the needs of patients and our health care system depends on an effective medical education continuum, from premedical school to clinical practice. However, this continuum is organized into discrete phases—premedical school, medical school (undergraduate medical education [UME]), residency and fellowship (graduate medical education [GME]), and unsupervised clinical practice—with trainees experiencing abrupt transitions in learning context, environment, responsibilities, and supervision at each transition, as each phase has unique customs and procedures.

학생이 환자 치료에 영향을 미치는 결정을 내릴 수 있는 의사가 되는 핵심 이정표인 UME-GME 전환은 학습자의 발전과 환자 안전에 중요한 영향을 미치는 복잡한 시스템으로 구성되며 교육 연속체 내에서 갑작스러운 변화를 나타냅니다. 현재 이러한 전환은 형평성, 비용, 복지와 관련된 역기능으로 가득 차 있으며, 학생과 레지던트 프로그램은 이 과정에 상당한 시간, 비용, 에너지를 소비해야 합니다. 레지던트 지원과 면접은 안정적인 매칭률에도 불구하고 계속해서 증가하고 있으며, 레지던트 프로그램 지원자를 선발할 때, 미션에 부합하는 총체적인 검토를 사용하기보다는, 시험 점수와 성적에 의존하고 있습니다. 4 총체적 검토는 지원자의 경험, 특성, 역량 및 지표를 균형 있게 고려하여 지원자가 기관의 미션에 어떻게 기여할 수 있는지 판단함으로써 형평성을 증진합니다. 5,6 재정적 지출7과 불안, 우울증, 소진 등 웰빙과 관련된 인적 요인으로 측정되는 비용도 동시에 증가했습니다. 8 의료계의 많은 사람들이 UME-GME 전환의 문제점을 인정하고 학습자들이 이러한 우려를 해결하기 위한 신속한 조치를 촉구하고 있지만,9 근본적인 원인은 복잡하고 쉽게 해결되지 않고 있습니다.
The UME-GME transition, a key milestone in which students become physicians able to make decisions that impact patient care, constitutes a complex system with important implications for learner progression and patient safety and represents an abrupt shift within the educational continuum. Currently, this transition is fraught with dysfunction related to equity, cost, and well-being, requiring students and residency programs to spend significant time, money, and energy on the process. Residency applications and interviews continue to rise despite stable match rates, 1–3 along with a reliance on exam scores and grades to select candidates for residency programs, rather than the use of mission-aligned holistic review. 4 Holistic review promotes equity by balancing the consideration of an applicant’s experiences, attributes, competencies, and metrics to determine how they could contribute to the mission of an institution. 5,6 Costs have increased in parallel, measured by both financial expenditures 7 and human factors related to well-being, such as anxiety, depression, and burnout. 8 Although many in the medical community acknowledge the problems with the UME-GME transition and learners have called for prompt action to address these concerns, 9 the underlying causes are complex and have defied easy fixes.

이 글에서 의사의 책임성을 위한 연합(CoPA)의 학부 의학교육-의학전문대학원 교육 검토 위원회(UGRC) 위원들은 질 개선 접근법10,11과 시스템 사고를 적용하여 UME-GME 전환의 역기능에 대한 근본적인 원인을 탐구합니다. 시스템 사고

  • "시스템을 식별 및 이해하고, 행동을 예측하고, 원하는 효과를 내기 위해 시스템을 수정하는 능력을 향상시키는 데 사용되는 일련의 시너지 분석 기술"입니다. 12

시스템적 사고를 정의하는 세 가지 측면이 있습니다(표 1). 13

  • 첫째, 시스템 사고는 시스템의 구성 요소와 특성(이하 구성 요소)에 대한 인식이 필요합니다.
  • 둘째, 시스템 사고는 시스템 부분 간의 연결과 상호의존성(이하 연결)을 이해하는 데 기반합니다.
  • 셋째, 시스템은 공유되고 명확하며 가치 있는 시스템의 목적 또는 목표(이하 목적)가 있을 때 최적으로 작동합니다.
  • 목적은 식별하고 설명하기 가장 어려운 측면이지만 시스템의 작동 방식을 이해하는 데 가장 중요한 요소입니다.

In this article, members of the Coalition for Physician Accountability’s (CoPA’s) Undergraduate Medical Education to Graduate Medical Education Review Committee (UGRC) apply a quality improvement approach 10,11 and systems thinking to explore the underlying causes of dysfunction in the UME-GME transition. Systems thinking is

  • “a set of synergistic analytic skills used to improve the capability of identifying and understanding systems, predicting their behaviors, and devising modifications to them to produce desired effects.” 12 

Three aspects define systems thinking (Table 1). 13 

  • First, systems thinking requires an appreciation of the components and characteristics of the system (hereafter components).
  • Second, systems thinking is based on understanding the connections and interdependencies among the parts of the system (hereafter connections).
  • Third, systems function optimally with a shared, clear, and valued purpose or goal of the system (hereafter purpose).
  • The purpose, despite being the most difficult aspect to discern and describe, is the most important for understanding how a system functions.

UME-GME 전환과 같은 복잡한 적응 시스템에서는 환경 내에서 기능하는 자율적 개체가 예상치 못한 영향을 미칠 수 있습니다. 14 시스템적 사고의 렌즈를 통해 이러한 전환에 대한 현재 문제의 근본 원인을 파악하고 학습자, 의과대학, 레지던트 프로그램, 그리고 가장 중요한 환자에게 더 나은 서비스를 제공할 수 있는 근본 원인을 목표로 하는 개입을 만들 수 있습니다. 예를 들어, 문헌에 대한 범위 검토를 통해 지원 상한선, 선호도 신호 또는 새로운 UME 평가 절차와 같이 레지던트 지원 절차를 다루는 개입을 통해 UME-GME 전환을 개선하기 위한 시스템 수준의 제안을 분류했습니다. 15 그러나 전체 UME-GME 전환을 해결하기 위한 광범위한 시스템적 사고 접근 방식은 설명되지 않았습니다. 
In a complex adaptive system, such as the UME-GME transition, autonomous entities functioning within the environment can have unexpected effects. 14 Through a systems thinking lens, it is possible to identify root causes of the current challenges to this transition and craft interventions to target root causes that better serve learners, medical schools, residency programs and, most importantly, patients. For example, a scoping review of the literature cataloged systems-level proposals to improve the UME-GME transition through interventions addressing the residency application process, such as application caps, preference signaling, or new UME assessment procedures. 15 However, a broader systems thinking approach to address the entire UME-GME transition has not been described.

UME-GME 전환에 있어 개혁의 필요성을 인식한 CoPA를 구성하는 조직들은 이러한 지속적인 문제에 대한 해결책을 제안하기 위해 UGRC를 소집했습니다. 16 UGRC는 학생, 레지던트, 프로그램 디렉터, UME 리더, GME 리더, 일반인 대표, CoPA 대부분의 회원 기관의 조직 구성원을 포함하여 UME-GME 전환 전반에 걸친 이해관계자들로 구성되었습니다. 17 이 그룹은 레지던트 준비성 보장, 지원 절차의 메커니즘 해결, 경기 후 GME로의 전환 최적화 등 UME에서 GME로의 전환을 개선하기 위한 권고안을 마련하는 임무를 CoPA로부터 부여받았습니다. 심의에서는 다음의 세 가지 교차 주제를 강조했습니다.

  • (1) 다양성, 형평성, 포용성, 공정성,
  • (2) 복지,
  • (3) 공익을 위한 봉사

Recognizing the need for reforms in the UME-GME transition, the organizations which comprise the CoPA convened the UGRC to propose solutions to these persistent problems. 16 The UGRC was composed of stakeholders from across the spectrum of the UME-GME transition, including students, residents, program directors, UME leaders, GME leaders, representatives from the public, and organizational members of most of the member institutions of CoPA. 17 The group was charged by CoPA with making recommendations to improve the transition from UME to GME, including ensuring residency readiness, addressing mechanics of the application process, and optimizing the post-Match transition into GME. The deliberations emphasized 3 cross-cutting themes:

  • (1) diversity, equity, inclusion, and fairness;
  • (2) well-being; and
  • (3) serving the public good.

구성 요소, 연결, 목적이라는 시스템 사고의 원칙은 UME-GME 전환에 품질 개선 접근법을 적용하기 위한 프레임워크를 제공했습니다(표 1). 
The principles of systems thinking—components, connections, and purpose—provided a framework for applying a quality improvement approach to the UME-GME transition (Table 1).

구성 요소: 비효율적인 UME-GME 전환의 근본 원인들
Components: Root Causes of the Ineffective UME-GME Transition

프로세스
Process

UGRC는 이상적인 상태와 현재 시스템(또는 실제 상태) 사이의 격차를 드러내기 위해 UME-GME 전환의 이상적인 상태를 정의했습니다. 18 UGRC는 환자안전19 및 의학교육20,21 분야에서 잘 확립되어 있고 관찰된 문제의 근본적인 구조를 밝히는 프로세스인 근본 원인 분석(RCA)을 수행하여 각 작업 그룹으로 나누어 UME-GME 전환의 일부에 대한 문제 진술을 확인했습니다. 문제 진술은 인과관계에 의문을 제기하여 문제의 근본 원인을 심층적으로 탐구하는 반복적인 프로세스인 5가지 이유를 사용하여 조사되었습니다. 그런 다음 작업 그룹은 이시카와(또는 피쉬본) 다이어그램을 사용하여 문제의 구조를 만들고 문제의 모든 기여 요인을 시각화하여 탐색했습니다. 22,23 각 그룹은 이시카와 다이어그램을 발표하여 전체 위원회에 피드백을 제공했습니다. 24 그런 다음 UGRC는 그룹 간의 공통점을 강조하는 복합 다이어그램을 만들었습니다(그림 1). 
The UGRC defined the ideal state of the UME-GME transition to reveal gaps between the ideal and current system (or actual state). 18 The UGRC undertook root cause analysis (RCA)—a process that is well established in both patient safety 19 and medical education 20,21 and that reveals the structures underlying observed problems—by dividing into workgroups, each of which identified a problem statement for a portion of the UME-GME transition. The problem statements were investigated using the 5 whys, an iterative process of questioning causality to deeply explore the root contributors to a problem. The workgroups then used Ishikawa (or fishbone) diagrams to create structure for and to visualize and explore all contributors to the problem. 22,23 Each group presented their Ishikawa diagram for feedback to the entire committee. 24 The UGRC then created a composite diagram highlighting the commonalities across groups (Figure 1).

복합 피쉬본 다이어그램의 문제 진술은 다음과 같습니다: "현재의 UME-GME 전환은 비효율적이다." 이를 통해 문제를 광범위하게 탐색할 수 있었습니다. 모든 작업 그룹은 피쉬본 다이어그램의 도메인(즉, 큰 뼈대)을 수정하여 UME-GME 전환과 관련된 단편화된 시스템을 기반으로 근본 원인 구성 요소를 보다 논리적이고 구체적으로 그룹화할 수 있도록 했습니다. 따라서 표준화되어 있는 도메인(예: 장비, 인력)을 조정하여 UME-GME 전환 프로세스를 보다 정확하게 포괄하고 설명할 수 있도록 했습니다. 근본 원인 구성 요소는 아래 논의에서 도메인별로 그룹화되어 있습니다.
The problem statement for the composite fishbone diagram was: “The current UME-GME transition is ineffective,” which allowed a broad exploration of the problems. All workgroups modified the domains (i.e., the large bones) of the fishbone diagram to facilitate more logical and specific grouping of root cause components based on the fragmented system involved in the UME-GME transition. Therefore, the domains, which are sometimes standardized (e.g., equipment, personnel), were adjusted to encompass and describe the UME-GME transition process more precisely. The root cause components are grouped by domain in the discussion below.

비효율적인 UME-GME 전환에 대한 피쉬본 분석
Fishbone analysis of the ineffective UME-GME transition

문화.
Culture.

UME-GME 전환은 지원자, 의과대학, 레지던트 프로그램 간에 경쟁적인 분위기를 조성할 수 있으며, 이로 인해 참가자들이 전체적인 이익 대신 개별적인 결과를 우선시하게 될 수 있습니다. 지원자와 레지던트 프로그램은 특정 프로그램(학생별) 또는 지원자(프로그램별)의 선택이 레지던트 기간 동안 평가되는 미래의 성과를 예측한다는 약하고 상충되는 증거에도 불구하고,8 가능한 "최상의" 개별 결과를 정의하고 추구하기 위해 상당한 자원을 기꺼이 희생할 수 있습니다. 26,27 또한, 교수진과 학생은 이 과정에서 고정형 사고방식으로 인해 학습자의 좌절을 성장 또는 회복탄력성의 증거를 찾는 대신 숨겨야 할 실패로 간주하여 보건 전문직 교육에서 성장 마인드가 성공에 도움이 된다는 증거가 있음에도 불구하고 어려움을 겪을 수 있습니다. 28,29 이러한 요인으로 인해 학생들은 학습과 성장보다 성과에 중점을 두는 채점 시스템의 경험을 바탕으로 팀과 환자에게 기여할 수 있는 방법 대신 개인의 성과에 집중하게 될 수 있습니다. 30 지원, 원정(방문) 로테이션, 표준화된 시험 준비에 할애하는 시간을 극대화하기 위해 환자 치료를 포기할 수도 있습니다. 31 학생과 의과대학은 특정 학습 요구를 지원할 수 있는 프로그램을 찾는 대신 과거의 어려움을 숨길 수 있습니다. 프로그램은 성장 마인드, 32 다양성, 형평성, 프로그램의 사명과 학습자의 목표(예: 의사-과학자, 보건 정책 리더, 농촌 진료 제공자 되기) 간의 연계성을 우선시하는 대신 지원자 사이에서 인식되는 명성의 지표를 강조할 수 있습니다. 
The UME-GME transition may create a competitive atmosphere among applicants, medical schools, and residency programs, which can push participants to prioritize individual outcomes instead of the overall good. Applicants and residency programs may be willing to sacrifice significant resources to define (via ranking 25) and pursue the “best” possible individual outcome, 8 despite weak and conflicting evidence that the selection of particular programs (by students) or applicants (by programs) predicts future performance as assessed during residency. 26,27 Furthermore, faculty and students may suffer from a fixed mindset in this process, viewing learner setbacks as failures to be hidden instead of seeking evidence of growth or resilience, despite evidence of the benefits of a growth mindset to success in health professions education. 28,29 These factors could cause students to focus on their individual performance instead of the ways that they can contribute to teams and patients, building on the experience of grading systems that promote performance over learning and growth. 30 They may choose to forgo patient care to maximize time for applications, away (visiting) rotations, and standardized test preparation. 31 Instead of searching for programs that can support any specific learning needs, students and medical schools may hide previous struggles. Programs may emphasize markers of perceived prestige among applicants instead of prioritizing a growth mindset, 32 diversity, equity, or alignment between the program’s mission and the learners’ goals (e.g., becoming a physician-scientist, health policy leader, or rural practice provider).

비용 및 제한된 리소스.
Costs and limited resources.

UME-GME 전환의 모든 단계에서 비용이 가용 리소스를 능가합니다. 예를 들어, 신청 과정에서 신청자가 부담하는 과도한 비용은 UGRC 논의 전반에 걸쳐 변화의 주요 동인 중 하나였습니다. 지원자들은 의대 커리큘럼에서 벗어나 돈, 33 정서적 에너지, 시간 등의 형태로 자원을 소비합니다. 31 일반적으로 높은 비용은 시스템 내에서 행동을 감소시키지만, 레지던트 지원 과정의 높은 위험성으로 인해 지출이 증가함에 따라 학생들은 종종 더 많은 투자를 합니다. 9,33 많은 학생들이 레지던트 자리를 확보하지 못하면 상환이 더욱 어려워지는 상당한 학자금 대출 부채를 떠안고 있습니다. 34,35 이러한 잘못된 피드백 루프는 시스템 기능 장애의 원인이 됩니다. 어려움을 겪고 있는 레지던트를 지원하기 위한 높은 교육 자원 비용36은 레지던트 프로그램이 의과대학에서 추가 지원이 필요했던 지원자를 고려하는 것을 꺼리게 하는 원인이 될 수 있습니다. 레지던트 프로그램은 대량의 지원자를 모집하는 데 상당한 시간과 재정적 자원을 투입하는데, 37-39 이는 잠재적으로 현재 레지던트에 대한 총체적인 검토나 지원을 희생할 수 있습니다. 기능적인 시스템은 낭비(과도한 지원에 소요되는 지원자 비용 등)를 줄이고 필요한 자원(레지던트 프로그램이 총체적인 검토를 수행하기 위한 인력, 교육, 기술 등)을 강화함으로써 시스템의 효율성과 효과성을 모두 증진할 수 있습니다. 40 
Costs outpace available resources at every level of the UME-GME transition. For example, the excess cost to applicants during the application process was one of the main drivers for change throughout UGRC discussions. Applicants expend resources in the form of money, 33 emotional energy, and time away from their medical school curriculum. 31 Even though high costs typically reduce behavior within a system, students often invest more as expenditures rise due to the perceived high-stakes nature of the residency application process. 9,33 Many students shoulder significant student loan debts that will be even more difficult to repay if they do not secure a residency position. 34,35 This misaligned feedback loop contributes to system dysfunction. The high cost of educational resources to assist struggling residents 36 may contribute to reluctance by residency programs to consider applicants who have required extra assistance in medical school. Residency programs dedicate significant time and financial resources to recruiting large volumes of applicants, 37–39 potentially at the expense of holistic review or support for current residents. A functional system would promote both efficiency and efficacy of the system through reducing waste (such as applicant money spent on excessive applications) and enhancing needed resources (such as personnel, training, and technology for residency programs to conduct holistic review). 40

편견.
Bias.

불평등이 UME-GME 전환에 스며들어 있습니다. 레지던트 선발에서 중요한 지표가 되는 사무직 성적,41 아너 소사이어티 회원,42 및 표준화된 면허 시험 점수,43에는 인종 및 민족적 격차가 존재합니다. 이러한 그룹 간 차이는 실제 학습자의 능력과는 무관한 구조적 차이일 수 있으므로 구조적 편견을 나타낼 수 있습니다. 지원서 검토 과정에서도 암묵적 편견이 발생할 수 있습니다. 44 지원서 양이 증가함에 따라 미션 기반의 총체적 검토는 감소할 수 있습니다. 45 이러한 상황에서 레지던트 프로그램은 면허 시험 점수, 4개 지역 또는 의과대학을 기준으로 지원서를 검토 대상으로 선정할 수 있습니다. 46 이러한 유형의 기준에 우선순위를 두면 인종, 민족, 성별, 학위(MD 대 DO) 또는 출신 의과대학(미국 의대 졸업생 대 해외 의대 졸업생)에 따라 특정 그룹에 불균형하게 영향을 미칠 수 있습니다.
Inequity permeates the UME-GME transition. Racial and ethnic disparities exist in clerkship grading, 41 honor society membership, 42 and standardized licensing examination scores, 43 which are often valued metrics in resident selection. These group differences may be construct-irrelevant (not related to actual learner ability) and therefore represent structural bias. Implicit bias may also occur in the application review process. 44 Mission-based holistic review may decrease as the volume of applications increases. 45 In these situations, residency programs may select applications for review based on licensing examination scores, 4 geography, or medical school. 46 Prioritizing these types of criteria may disproportionately affect specific groups based on race, 47 ethnicity, gender, degree (MD vs DO), or medical school of origin (U.S. vs international medical graduate).

시스템.
Systems.

지원자가 전문 분야를 선택하고, 면접 일정을 잡고, 좁은 기간 내에 레지던트 자리를 확보해야 하는 시간적 압박을 포함하여 UME-GME 전환에 내재된 여러 제약 조건은 의학교육 커뮤니티에서 잠재적으로 수정할 수 있습니다. 프로그램과 지원자에 대한 정보를 배포하는 데 사용되는 테크놀로지 시스템은 접근, 이해, 신뢰가 어려울 수 있습니다. 48,49 이러한 제한으로 인해 학습자와 프로그램 모두 동료의 추천에 따라 과도하게 지원하거나(이러한 행동이 결과를 개선하지 못한다는 데이터에도 불구하고), 프로그램에서 세부적으로 검토할 지원자 수를 줄이는 등 편법을 택할 수 있습니다. 45 레지던트 직책에 대한 자금 지원, 전문의 보상, 병원 인력 요구, 일반 수련의 면허에 대한 법적 장벽 등 UME-GME 전환에 중대한 영향을 미치는 추가적인 시스템 문제는 UGRC의 책임 범위 밖에 있었습니다. 
Multiple constraints built into the UME-GME transition, including time pressures for applicants to select a specialty, schedule interviews, and secure a residency position within a narrow window of opportunity, are potentially modifiable by the medical education community. The technological systems used to disseminate information about both programs and applicants can be difficult to access, understand, and trust. 48,49 These limitations can cause both learners and programs to take shortcuts, such as applicants overapplying based on peer recommendations despite data that this behavior will not improve their outcomes 8 or a program decreasing the number of applications that will be reviewed in detail. 45 Additional system issues that significantly affect the UME-GME transition, such as funding for residency positions, specialty compensation, hospital staffing needs, and legal barriers to universal trainee licensure, were outside the scope of the charge to the UGRC.

표준 부족.
Lack of standards.

효과적이고 의미 있는 UME-GME 전환 시스템을 구현하기 위한 전제 조건으로 공유된 정신 모델이 절실히 필요합니다. 40 성공적인 매칭, 학습자의 레지던트 준비도, 역량 및 전문성과 같은 중요한 개념을 구성하는 요소에 대한 공유된 실행 가능한 정의가 부족하여 전환에 어려움을 겪고 있습니다. 의과대학에서 다양한 학생 평가 방법과 성과 보고 관행을 사용하는 것은 레지던트 프로그램에서 지원자를 비교하는 것을 복잡하게 만듭니다. 지원자 또는 프로그램에 대한 성공적인 매칭에 대한 정량화 가능한 정의가 없기 때문에 통합된 비전을 개발하고 UME-GME 전환 과정을 최적화하기가 어렵습니다. 13 시스템은 스펙트럼 전반에 걸쳐 다양하고 중요한 목표를 적절히 달성하는 데 어려움을 겪고 있으며, 이러한 상황은 참여자들이 서로 다른 가정하에 기능할 때 UME 및 GME 이해관계자 간의 신뢰 부족을 유발합니다. 공유된 정신 모델은 참여자들이 시스템의 목표와 프로세스에서 자신의 역할에 대한 합의를 도출하는 데 도움이 될 수 있습니다. 51 
There is an urgent need for shared mental models as prerequisites to effective and meaningful implementation of a functional UME-GME transition system. 40 The transition suffers from a lack of shared actionable definitions of important concepts, such as what constitutes a successful match, learner readiness for residency, competence, and professionalism. The use of variable student assessment methods and performance reporting practices across medical schools 50 complicates residency programs’ comparisons of applicants. The absence of a quantifiable definition of a successful match for either applicants or programs makes it difficult to develop a unified vision and optimize the UME-GME transition process. 13 The system struggles to adequately meet varied and important goals across the spectrum, a situation that prompts lack of trust among UME and GME stakeholders when participants are functioning under different presumptions. Shared mental models could help participants develop consensus on the goals of the system and on their role in the process. 51

일관성 부족.
Lack of alignment.

불연속성은 UME-GME 전환의 역기능의 핵심 원인입니다. 이 시스템은 여러 개의 독립적인 프로세스로 구성되어 있으며, 각 프로세스는 별도의 리더십, 목표, 책임 및 재무 구조를 가진 별개 조직에서 관리합니다. 따라서 전체 시스템의 최선의 이익이 관련된 개별 조직의 재정적 이익을 증진하지 못할 수도 있습니다.

  • 또한, 모든 미국 졸업생을 매칭하려는 동기를 가진 UME 커뮤니티와 사용 가능한 지표를 사용하여 '최고의' 지원자를 받아들이고 레지던트 기간 동안 어려움을 겪을 수 있는 지원자를 피하려는 동기를 가진 GME 교육자 사이에는 내재적인 갈등이 존재합니다.
  • 마찬가지로, 지원 절차는 지원자의 선호도를 우선시합니다. 이러한 목표는 장점이 있지만 시스템 관점에서 볼 때 이러한 설계는 자원이 부족한 전문과목 및 지리적 위치의 의사에 대한 대중의 요구에 불이익을 줄 수 있습니다. 52
  • 마지막으로, 학생들이 "완벽한 지원서"를 작성하고 성장이 필요한 부분을 숨기는 연습은 의사들 사이에서 자기 주도적 학습을 촉진하는 습관과 행동을 육성하기 위해 UME와 GME 모두에서 권장하는 성장 마인드에 반하는 것입니다. 53 

Discontinuity is a core contributor to the dysfunction in the UME-GME transition. The system is organized into multiple independent processes, each managed by a different organization with separate leadership, goals, accountabilities, and financial structures. Hence, the best interest of the whole system may not promote the financial interests of the individual organizations involved.

  • Additionally, there is inherent conflict between the UME community, which is motivated to match all U.S. graduates, and GME educators, who are motivated to accept the “best” applicants using the available metrics and avoid applicants who may struggle during residency.
  • Similarly, the application process prioritizes applicant preferences; though this aim has merit, from a systems perspective, this design may disadvantage the public’s need for physicians in underresourced specialties and geographic locations. 52 
  • Finally, the exercise for students of creating a “perfect application” and hiding areas in need of growth is antithetical to the growth mindset that is encouraged in both UME and GME to foster habits and behaviors that facilitate self-directed learning among physicians. 53

연결: 시스템 사고를 통한 결과 예측
Connections: Predicting Outcomes Through Systems Thinking

UGRC가 RCA 프로세스를 사용하여 역기능적인 UME-GME 전환의 구성 요소를 식별한 후, 구성원들은 각 요소 간의 연결을 고려했습니다. 복합 피쉬본 다이어그램의 각 뼈대는 작업 그룹 내에서 5가지 이유 운동의 결과를 나타냅니다(그림 1). 상호 작용을 주의 깊게 조사한 결과 시스템의 여러 측면이 피드백 루프와 원형archetypes으로 작동한다는 사실이 밝혀졌습니다. 시스템 사고에서 원형은 "서로 다른 환경에서 반복적으로 발생하는 공통 패턴"입니다. 54 시스템 사고는 교육자가 이러한 원형을 식별하고 분석하여 행동을 예측하고 해결책을 제안하도록 안내합니다(표 1).
After the UGRC used the RCA process to identify component parts of the dysfunctional UME-GME transition, members considered connections among the parts. Each bone of the composite fishbone diagram represents the outcomes of the 5 whys exercise within workgroups (Figure 1). Carefully investigating the interactions revealed that several aspects of the system function in feedback loops and archetypes. In systems thinking, archetypes are “common patterns … that occur repeatedly in different settings.” 54 Systems thinking guides educators to identify and analyze these archetypes to predict behavior and propose solutions (Table 1).

개념 증명: 복잡한 결과를 설명하는 아키타입
Proof of concept: Archetypes explain complex outcomes

시스템 사고의 원형은 UME-GME 전환의 문제를 직접 분석하는 데 도움이 될 수 있습니다. 예를 들어, 하나의 원형인 [실패한 수정]은 시스템 내의 증상적인 문제를 빠르게 완화하지만 근본적인 문제를 해결하지 못하여 전체적으로 문제를 악화시키는 솔루션을 설명합니다. 54 이 원형은 지원자 스트레스, 과잉 지원, 고난도 지표의 상호 작용을 설명하는 데 도움이 될 수 있습니다. 이는 합격/불합격 채점 및 점수 보고에 대한 움직임이 왜 많은 사람들이 책임을 져야 하는 다른 시스템 변화가 없는 상황에서 문제를 완화하기는커녕 악화시킬 가능성이 있는지를 명확히 해줍니다. 그림 2는 UME-GME 전환의 5가지 이유에 대한 선형 인과관계 다이어그램의 지나치게 단순화된 예를 보여줍니다.
Systems thinking archetypes can help direct analysis of problems in the UME-GME transition. For example, one archetype, fixes that fail, describes solutions that quickly alleviate symptomatic problems within the system but that do not address underlying issues, and therefore lead to worsening problems overall. 54 This archetype can help explain the interaction of applicant stress, overapplication, and high-stakes metrics. It clarifies why the movement toward pass/fail grading and score reporting has the potential to exacerbate, rather than alleviate, problems absent other systems changes for which many bear responsibility. Figure 2 demonstrates an oversimplified example of a linear cause-and-effect diagram of the 5 whys for the UME-GME transition.

 

그림 3A는 애플리케이션 수가 증가하는 양적 피드백 루프에 의해 구동되는 시스템을 괴롭힌 증폭 캐스케이드를 보다 명확하게 보여주는 강화 루프를 보여줍니다. 이 루프에 따르면 지원자가 시간, 비용, 정서적 에너지를 과도하게 소비하는 근본 원인 중 하나는 요약 평가에 중점을 두는 것입니다.

Figure 3A demonstrates a reinforcing loop, which more clearly demonstrates the amplification cascade that has plagued the system, driven by a positive feedback loop of increasing numbers of applications. Based on this loop, 1 root cause for the excessive expenditure of time, money, and emotional energy by applicants is the emphasis on summative evaluations.

그림 3B는 합격/불합격 채점으로 전환하여 이 루프를 해결하려는 시도가 학습 및 교육 문화 개선에 대한 채점 체계의 잠재적 이점에도 불구하고 지원자 지출을 증가시킬 수 있는 방법을 보여줍니다. 이는 강화 루프의 일부 구성 요소에 대한 해결책이 개별적으로 구현될 때 역설적으로 전체 시스템을 악화시키는 전형적인 fix that fails 원형에 해당합니다. 54 이 지나치게 단순화된 예에서, 애플리케이션에서 잠재적으로 문제가 될 수 있는 지표(불공평성, 정확성 또는 신뢰성 부족으로 인한 문제)가 사라지면 프로그램 책임자의 명확성이 떨어지고, 이로 인해 애플리케이션에 남아 있는 정량적 데이터에 대한 의존도가 높아져 업무가 더욱 과중해질 수 있습니다. 프로그램 디렉터들은 미국 의사 면허 시험 1단계가 합격/불합격 점수 보고로 전환되면서 이러한 우려를 표명했습니다. 55 이 사례는 UME-GME 전환을 위해 총점 보고가 필요하다는 것을 시사하는 것이 아니라 시스템 사고 도구가 복잡한 상호작용과 시스템 개선을 위한 개입의 성공 가능성을 예측하고 설명하는 데 도움이 될 수 있다는 것을 보여주기 위한 것입니다. 이는 원하는 변화를 달성하기 위해서는, 전체 시스템을 위해 작동하는 조정된 솔루션 세트가 필요하다는 것을 보여줍니다

Figure 3B illustrates how trying to address this loop by moving to pass/fail grading could increase applicant expenditures, despite the potential benefits of this grading scheme for learning and improving the educational culture. It constitutes a classic fix that fails archetype, in which a solution to some components of a reinforcing loop paradoxically worsens the overall system, when implemented in isolation. 54 In this oversimplified example, loss of potentially problematic metrics (problematic due to inequity and lack of accuracy or reliability) in the applications leads to less clarity for program directors, which could make them more overwhelmed and increase their reliance on whatever quantitative data remain in the application. Program directors have expressed this concern with the transition of the United States Medical Licensing Examination Step 1 to pass/fail score reporting. 55 To be clear, this example is not meant to suggest that summative grade reporting is necessary for the UME-GME transition, but rather that systems thinking tools can help predict and explain complex interactions and the likelihood of success of interventions to improve the system. It illustrates that a coordinated set of solutions that work for the entire system is needed to achieve desired changes.

 

 

앞으로의 전망: 균형 잡힌 프로세스로 시스템 안정화 가능
Looking forward: Balancing processes can stabilize the system

애플리케이션 인플레이션 프로세스와 같이 강화 루프 내에서 기하급수적인 성장을 안정화하기 위한 구체적인 개입을 제안하는 시스템 접근 방식은 그림 3C에 나와 있습니다. 밸런싱 프로세스는 시스템 내에서 피드백을 생성하여 이상적인 상태로 되돌아가도록 유도합니다. 이러한 바람직한 상태, 즉 균형 잡힌 시스템으로 작동하려면 목표에 대한 명확한 이해와 함께 시스템 내에서 실제 성능과 예상 성능 간의 격차를 모니터링하는 메커니즘이 필요합니다. 실제 기능과 이상적인 기능의 차이는 프로세스 내 이해관계자, 공식 위원회 또는 둘 다에 의해 투명하게 모니터링될 수 있습니다. 그림 3C는 UME-GME 전환을 최적화하기 위해 작동할 수 있는 균형 조정 프로세스의 간단한 예를 보여줍니다. 즉, 프로그램 디렉터가 지표 사용이 프로그램 다양성과 같은 공유되고 가치 있는 이상에 어떤 영향을 미치는지에 대한 피드백을 받으면 이 정보를 바탕으로 전체론적 검토를 강화하고 모든 지원자에 대한 검토 프로세스를 개선할 수 있습니다. 궁극적으로 다양성 데이터가 공개되면 모든 참가자의 초점이 프로그램 순위와 경쟁 문화에 기여하는 다른 요소 대신 형평성과 다양성이라는 공동의 목표로 옮겨갈 수 있습니다. 
A systems approach that suggests specific interventions to stabilize the exponential growth within reinforcing loops, such as the application inflation process, is shown in Figure 3C. A balancing process creates feedback within the system to steer it back toward its ideal state. This desired state, a balanced system that operates in equilibrium, requires a clear understanding of the goal, as well as a mechanism to monitor the gap between actual and expected performance within the system. The difference between actual and ideal function can be monitored transparently for stakeholders within the process, a formal committee, or both. Figure 3C illustrates a simple example of a balancing process that could work to optimize the UME-GME transition. That is, if program directors receive feedback on how the use of metrics is influencing a shared and valued ideal, for example, program diversity, this information may influence them to increase holistic review and improve the review process for all applicants. Eventually, if diversity data become publicly available, the focus of all participants may shift toward the mutual goals of equity and diversity instead of program rankings and other contributors to the culture of competition.

목적: 다양한 유형의 목표를 향한 구성 요소 및 연결 적용
Purpose: Applying Components and Connections Toward Different Types of Objectives

공유되고 명확하며 가치 있는 목표
Shared, clear, and valued goals

UGRC는 원형과 시스템 사고의 원칙을 적용하여 UME-GME 전환을 개선하기 위한 권장 사항을 개발했습니다. 위에서 설명한 균형 조정 과정과 같이 이상적인 상태가 이미 명확하게 정의되어 있고 이해관계자 그룹이 그 중요성에 동의한 경우도 있습니다. 이러한 경우, 현재 상태에 대한 투명성과 변화를 촉진하기 위한 자원이 결합되면 시스템 변화를 유도하기에 충분할 수 있습니다. 
The UGRC applied the principles of archetypes and systems thinking to develop recommendations to improve the UME-GME transition. In some cases, such as the balancing process described above, the ideal state had already been clearly defined and stakeholder groups have agreed on its importance. In these cases, transparency about the current state combined with resources to facilitate change may be sufficient to induce the system to change.

예를 들어, 다양성, 형평성, 포용성의 경우 UGRC는 교육 결과에 대한 투명성 및 모니터링 강화를 권고했습니다. 다음 권장 사항은 형평성 결과에 대한 데이터 수집 및 측정을 가능하게 하며, 이를 통해 교육 기관 내에서, 그리고 잠재적으로 이해관계자 그룹 사이에서 가시화될 수 있는 변화를 유도할 수 있습니다:
For example, in the case of diversity, equity, and inclusion, the UGRC recommended increased transparency and monitoring of educational outcomes. The following recommendations would allow data collection and measurement of equity outcomes, which can then drive change as they become visible within institutions and, potentially, among stakeholder groups:

  • 검증 가능한 GME 프로그램/트랙 정보가 포함된 대화형 데이터베이스를 생성하여 모든 지원자, 의과대학, 레지던트 프로그램에 무료로 제공합니다. 여기에는 이전에 각 GME 프로그램/트랙에 지원하고, 면접을 보고, 순위를 매기고, 매칭된 개인의 종합적인 특성이 포함됩니다. (권장 사항 6)
    Create an interactive database with verifiable GME program/track information and make it available to all applicants, medical schools, and residency programs and at no cost to the applicants. This will include aggregate characteristics of individuals who previously applied to, interviewed at, were ranked by, and matched for each GME program/track. (Recommendation 6)
  • 의과대학은 채점의 시스템적 편견을 없애기 위해 인종, 민족, 성 정체성/표현, 성적 정체성/성향, 종교, 비자 상태, 능력, 위치(예: 위성 또는 임상 현장 위치)에 따른 성적 분포 패턴을 포함하여 임상 사무직 채점에 대한 초기 및 연간 탐색적 검토를 수행해야 하며, 편견을 완화하기 위해 정기적으로 교수 개발을 수행해야 합니다. UME-GME 연속체 전반의 프로그램은 편견이 학생 및 레지던트 평가, 경기 결과, 소모, 명예 학회 선발에 미치는 영향을 조사해야 합니다. (권장 사항 10)
    To eliminate systemic biases in grading, medical schools must perform initial and annual exploratory reviews of clinical clerkship grading, including patterns of grade distribution based on race, ethnicity, gender identity/expression, sexual identity/orientation, religion, visa status, ability, and location (e.g., satellite or clinical site location), and perform regular faculty development to mitigate bias. Programs across the UME-GME continuum should explore the impact of bias on student and resident evaluations, match results, attrition, and selection to honor societies. (Recommendation 10)
  • 인식을 높이고 형평성과 책임성을 촉진하는 조정을 용이하게 하기 위해 지원자의 자체 보고 인구통계학적 정보(예: 인종, 민족, 성 정체성/표현, 성적 정체성/지향, 종교, 비자 상태 또는 능력)를 측정하고 UME-GME 전환 과정에서 실시간으로 프로그램 및 의과대학을 포함한 주요 이해관계자들과 공유해야 합니다. (권고안 16) 24
    To raise awareness and facilitate adjustments that will promote equity and accountability, self-reported demographic information of applicants (e.g., race, ethnicity, gender identity/expression, sexual identity/orientation, religion, visa status, or ability) should be measured and shared with key stakeholders, including programs and medical schools, in real time throughout the UME-GME transition. (Recommendation 16) 24

이러한 개입은 형평성 목표와 실제 결과 사이의 격차를 조명함으로써 UME-GME 전환을 안정화할 수 있습니다. 격차가 벌어질수록 형평성 증진을 위한 노력이 증가하여 격차가 줄어들고 시스템이 이상적인 상태에 가까워져야 합니다.
These interventions could stabilize the UME-GME transition by shining light on the gap between equity goals and actual outcomes. As the gap widens, efforts to promote equity should increase, thereby shrinking the gap and bringing the system closer to the ideal state.

이상적인 상태에 대한 의견 불일치 영역
Areas of disagreement about the ideal state

시스템 사고아키타입실제 상태와 이상적인 상태 사이의 격차를 명확히 하고, 목표를 설정하기 어려울 때도 유용합니다.

  • 공유지의 비극과 같이 일부 원형은 지속적인 평가와 감독이 필요합니다. 56 이 원형에서는 "시스템 내의 각 사람이 개인의 이익을 위해 점점 더 많은 자원을 사용함에 따라 공유 자원에 과도한 부담이 가해집니다. 결국 자원이 줄어들거나 소멸되어 관련된 모든 사람의 이익이 감소하게 됩니다." 56
  • 이 원형은 지원 인플레이션 문제에도 분명히 적용 가능합니다. 학생들은 개별적으로 더 많은 지원서를 제출하고 더 많은 면접 기회를 확보함으로써 이익을 얻을 수 있지만, 검토를 위한 프로그램 리소스는 무한하지 않습니다. 많은 조직이 관여하고 매년 지원자에게 높은 수준의 피드백을 제공하는 프로세스의 특성 때문에 실시간 피드백이 내재된 개입을 설계하는 것은 어려운 일입니다.

Systems thinking and archetypes are also helpful when the gap between the actual and ideal state is not easy to clarify and target.

  • Some archetypes require ongoing evaluation and even oversight, such as the tragedy of the commons56 In this archetype, “a shared resource becomes over-burdened as each person in the system uses more and more of the resource for individual gain. Eventually, the resource dwindles or is wiped out, resulting in lower gains for everyone involved.” 56 
  • This archetype is clearly applicable to the problem of application inflation. Students may individually benefit from sending more applications and securing more interviews, but program resources for review are not infinite. Designing an intervention with inherent, real-time feedback is challenging because of the many organizations involved and the high-stakes nature of the process for the applicants each year.

UGRC는 개선된 커리어 조언과 신뢰할 수 있는 레지던트 정보 데이터베이스의 형태로 상당한 리소스를 제공할 것을 권장했지만,24 이러한 리소스만으로는 충분하지 않을 수 있습니다. UGRC는 또한 문제 해결을 위해 파일럿 개입을 권장했지만,24 파일럿에 대한 평가는 지원자를 레지던트 포지션에 배치하는 것이 어떻게 [개인의 선호도]와 [공익] 모두를 충족시킬 수 있는지라는 핵심적인 긴장의 핵심에 놓이게 될 것입니다. 이상적인 프로세스는 가능한 한 많은 지원자를 선호하는 프로그램에 매칭하는 동시에 모든 전문 분야와 지역에 의사를 고르게 배치하는 균형을 맞추는 것입니다. 이 이상적인 프로세스에서 시스템은 임상 또는 교육 기업에서 불필요하게 자원을 전용하지 않고 지원자와 의료 시스템에 적합한 비용으로 이러한 작업을 수행합니다. 18 

The UGRC recommended significant resources in the form of improved career advising and a reliable database of residency information, 24 but resources alone are unlikely to be sufficient. The UGRC also recommended pilot interventions to solve the problem, 24 but the evaluation of the pilots will sit at the crux of a key tension: how the placement of applicants into residency positions can serve both the preferences of individuals and the public good. The ideal process will balance matching as many applicants as possible into their preferred programs, while also distributing physicians across all specialties and geographic regions. In this ideal process, the system will perform these tasks at a cost that is appropriate for applicants and the health care system, without unnecessarily diverting resources from the clinical or educational enterprise. 18 

이해관계자마다 이러한 긴장의 각 측면을 다르게 평가할 것입니다. 예를 들어, 임상 리더십은 환자 치료에 미치는 영향을 줄이는 데 가장 관심이 있는 반면, 지원자와 프로그램 디렉터는 매칭률을 최적화하는 데 가장 관심이 있을 수 있습니다. 따라서 형평성, 복지, 공익에 중점을 두고 전반적인 시스템을 모니터링할 그룹을 임명하는 것이 중요합니다. 이해관계자의 요구를 신중하게 균형 있게 고려하고 시스템 내의 역동적인 변화에 적절히 유연하게 대응할 수 있는 국가 차원의 지속적인 품질 개선 위원회가 UGRC에서 UME-GME 전환의 변화를 시작하는 데 가장 중요한 촉진자로 선정한 이유도 바로 이 때문입니다:

Different stakeholders will valuate each aspect of this tension differently. For example, clinical leadership may be most concerned with reducing impact on patient care, while applicants and program directors may be most interested in optimizing match rates. Therefore, it is important to appoint a group to monitor the overall system, with an emphasis on equity, well-being, and the public good. These are the reasons that a national continuous quality improvement committee that would thoughtfully balance stakeholder needs and respond with appropriate flexibility to dynamic changes within the system was identified by the UGRC as the most important facilitator to initiating change in the UME-GME transition:

  • 이행된 권고안의 의도된 영향과 의도하지 않은 영향에 대한 평가를 포함하여 UME-GME 전환의 전체 프로세스에 대한 지속적인 품질 개선을 관리하기 위해 국가 차원의 지속적인 위원회를 소집합니다. (권고안 1) 24
    Convene a national ongoing committee to manage continuous quality improvement of the entire process of the UME-GME transition, including an evaluation of the intended and unintended impact of implemented recommendations. (Recommendation 1) 24

결론
Conclusions

요약하면, UME에서 GME로의 전환은 현재 기능 장애가 악화되고 있는 더 큰 의료 시스템 내의 생태계로 구성되어 있으며 사려 깊고 조율된 시스템 차원의 개입이 필요합니다. UGRC는 시스템 사고 프레임워크를 사용하여 UME-GME 전환의 구성 요소, 연결성, 목적을 조사했습니다. RCA는 문화, 비용 및 제한된 리소스, 편견, 시스템, 표준 부족 및 조정 부족과 관련된 영역을 확인했습니다. 이러한 결과와 밝혀진 구성 요소 간의 연관성을 바탕으로 UGRC는 실제 상태와 이상적인 상태 사이의 격차를 줄이기 위해 리소스를 제공하고 균형을 맞추기 위한 초기 권장 사항을 만들었습니다. 지원자, 프로그램 및 공익에 더 나은 서비스를 제공하기 위해 개입이 프로세스를 발전시킬 수 있도록 지속적인 모니터링이 필요합니다. 이러한 모니터링을 제공하기 위한 그룹을 구성하려면 CoPA의 회원 조직 간의 지속적인 협력이 필요합니다. 
In summary, the transition from UME to GME comprises an ecosystem within the larger health care system that currently suffers worsening dysfunction and requires thoughtful, coordinated, system-level intervention. The UGRC used a systems thinking framework to investigate the components, connections, and purpose of the UME-GME transition. An RCA identified domains related to culture, costs and limited resources, bias, systems, lack of standards, and lack of alignment. Based on these findings and the connections among the revealed components, the UGRC made initial recommendations to provide resources and implement balancing forces to narrow the gap between the actual and ideal state. Sustained monitoring will be necessary to ensure interventions move the process forward to better serve applicants, programs, and the public good. Creating a group to provide this monitoring will require continued collaboration among the member organizations of the CoPA.

 


Acad Med. 2023 Feb 1;98(2):180-187. doi: 10.1097/ACM.0000000000005065. Epub 2023 Jan 20.

The Undergraduate to Graduate Medical Education Transition as a Systems Problem: A Root Cause Analysis

Affiliations collapse

Affiliations

1J.L. Swails is residency program director, codirector of interprofessional education, and associate professor, Department of Medicine, McGovern Medical School, University of Texas Health Science Center, Houston, Texas; ORCID: http://orcid.org/0000-0002-6102-831X .

2S. Angus is designated institutional official, vice-chair for education, and professor, Department of Medicine, University of Connecticut School of Medicine, Farmington, Connecticut.

3M.A. Barone is vice president of competency-based assessment, NBME, Philadelphia, Pennsylvania, and adjunct associate professor of pediatrics, Johns Hopkins University School of Medicine, Baltimore, Maryland.

4J. Bienstock is professor of gynecology and obstetrics, associate dean for graduate medical education, and designated institutional official, Johns Hopkins University School of Medicine, Baltimore, Maryland.

5J. Burk-Rafel is assistant professor of medicine and assistant director of UME-GME innovation, Institute for Innovations in Medical Education, NYU Grossman School of Medicine, New York, New York.

6M.A. Roett is professor and chair, Department of Family Medicine, Georgetown University Medicine Center, and clinical chief of family medicine, MedStar Georgetown University Hospital, Washington, DC.

7K.E. Hauer is associate dean for competency assessment and professional standards and professor, Department of Medicine, University of California, San Francisco School of Medicine, San Francisco, California.

PMID: 36538695

DOI: 10.1097/ACM.0000000000005065

Abstract

The transition from undergraduate medical education (UME) to graduate medical education (GME) constitutes a complex system with important implications for learner progression and patient safety. The transition is currently dysfunctional, requiring students and residency programs to spend significant time, money, and energy on the process. Applications and interviews continue to increase despite stable match rates. Although many in the medical community acknowledge the problems with the UME-GME transition and learners have called for prompt action to address these concerns, the underlying causes are complex and have defied easy fixes. This article describes the work of the Coalition for Physician Accountability's Undergraduate Medical Education to Graduate Medical Education Review Committee (UGRC) to apply a quality improvement approach and systems thinking to explore the underlying causes of dysfunction in the UME-GME transition. The UGRC performed a root cause analysis using the 5 whys and an Ishikawa (or fishbone) diagram to deeply explore problems in the UME-GME transition. The root causes of problems identified include culture, costs and limited resources, bias, systems, lack of standards, and lack of alignment. Using the principles of systems thinking (components, connections, and purpose), the UGRC considered interactions among the root causes and developed recommendations to improve the UME-GME transition. Several of the UGRC's recommendations stemming from this work are explained. Sustained monitoring will be necessary to ensure interventions move the process forward to better serve applicants, programs, and the public good.

+ Recent posts