(출처 : http://www.himssanalyticsasia.org/emradoptionmodel.asp)


전자의무기록의 활용이 임상적으로 많은 이점이 있지만, 의학교육과 관련해서는 별로 연구된 바가 없다.

Although use of the EMR has been shown to have numerous clinical benefits,3–5 comparatively little is known about the effect this technology has on medical education, 


이러한 관점에서 우리는 ACGME에서 제시한 여섯 가지의 역량을 중심으로 전자의무기록의 효과에 대하여 리뷰해보았다.

In this Perspective, we use the ACGME competencies (Medical Knowledge, Practice-Based Learning and Improvement, Patient Care, Communication Skills, Professionalism, and Systems-Based Practice) to review what is known about the effect of the EMR on achievement of these core competencies,



Medical Knowledge and Practice-Based Learning and Improvement


생의학적 지식이 팽창함에 따라 의학을 배우는 사람들에게 있어서 적절한 의학 지식을 갖추는 것이 중요한 과제가 되었다.

With an ever-expanding body of biomedical literature, development of an adequate fund of medical knowledge is a mounting challenge for medical trainees.


많은 점을 고려하여 도입된 전자의무기록은 "정확한 때에" 교육이 이뤄질 수 있게 해주며, 의사들이 근거중심의학을 적용할 수 있도록 도와준다. CDS(Clinical Decision Support)는 일반적으로 인정된(accepted) 알고리즘과 추천에 따라서 의사결정을 내리도록 도와줌으로서 학습자들을 도와줄 수도 있다.

thoughtfully implemented EMR can facilitate “just-in-time” education and can allow physicians to apply evidence-based medicine in the clinical context.7 CDS can also provide opportunities to teach best practices by advising learners to take actions consistent with accepted clinical algorithms and recommendations.9–14


CDS의 이점에도 불구하고 많은 사람들이 의도하지 않은 결과가 의학교육에 안좋은 영향을 줄 것을 걱정한다.

Despite the benefits of CDS, several authors have documented its unintended consequences, which may adversely affect

medical education 


최근의 연구 결과는 다른 환경은 전혀 달라지지 않고 EMR만 도입되었을 경우 임상적으로 중요하지 않은 경고만 계속 뜨면서 "경고 피로(alert fatigue)"를 유발할 수 있다는 연구도 있다.

More recent studies have shown that implementing an EMR with unmodified settings determined by the vendor can result in an unacceptably high volume of clinically insignificant alerts, thereby promoting alert fatigue.16,17


기술이 정교해지면서 이러한 시스템의 활용도도 높아졌으며, 잘 도입된 CDS는 긍정적인 교육적 효과가 있다는 것도 알려졌지만, 여전이 CDS가 어떻게 학습자(훈련자)의 지식 습득에 영향을 주는가에 대한 이해는 부족하다.

Although refinements in technology have gradually increased the usefulness of these systems to medical learners,18 and well-implemented CDS systems have been shown to yield positive educational outcomes for the learner’s quality of clinical care,13 there is still limited understanding of how CDS affects the acquisition of knowledge by trainees




Patient Care


전자의무기록은 훈련을 받는 사람들이 환자를 돌바는 방법에 있어 다양한 측면으로 영향을 준다.

EMRs affect how trainees learn to care for patients in a variety of ways


일의 흐름을 최적화시킬 수 있다.

Optimizing trainee workflow


EMR은 수련받는 사람의 workflow에 긍정적으로 영향을 줄 수 있는데, 병력에 접근하는데 들어가는 시간을 단축시켜주며, 더 빨리 자료를 받아볼 수 있고, 원격으로 접속이 가능하며, 자동으로 sign-out 서류를 만들어서 교대와 관련한 workflow를 지원한다.

The EMR has the potential to positively affect medical trainee workflow through several different mechanisms, including reduced time spent in accessing medical histories, ease of data retrieval, greater remote access, and automated creation of sign-out documents to support handoff workflow.6,19–21


그러나 EMR의 안좋은 영향 또한 있는데, 데이터 입력의 비효율과 하드웨어가 작동하지 않을 때의 문제, 그리고 잡무가 ancillary staff에서 physician로 옮겨가는 것 등이 있다.

However, detrimental effects of EMRs on the workflow have been documented secondary to inefficiencies in data entry, hardware downtime issues, and shifting of work from ancillary staff to physicians.17,19,22


GME의 인정 구조는 educational milestone과 EPA(entrustable professional activities)에 따른 교육성과의 달성에 근거하는 방향으로 바뀌어가고 있다.

Graduate medical education is transitioning to an accreditation structure based on the achievement of outcomes detailed by educational milestones and EPAs.23,24


EMR을 활용해서 수련자의 활동과 그들의 임상 일지를 활용해서 환자관리에 대한 수련자의 성취 수준에 대한 서류를 만들 수 있으며, 기존의 방법(paper-based)보다 더 효율적으로 부족한 부분을 확인할 수 있다.

Reports of the trainees’ clinical activity and review of their clinical notes via the EMR can provide written documentation of the trainees’ achievement of patient care milestones and EPAs and can help identify areas of deficiency more efficiently than in a paper-based system.25,26


EMR은 critical thinking skill에 부정적 영향을 줄 수도 있다.

the EMR may negatively affect development of critical thinking skills.27,28


최근의 연구에서 CPOE와 기존의 paper방식간 입원 오더의 질 비교했을 때 별다른 차이가 없었다.

In a recent study comparing medical students in computerized provider order entry (CPOE) environments with those in paper-based environments, Knight and colleagues29 found no significant differences in self-reported quality of admission orders,


자기주도적 학습을 방해하는 또 다른 부정적 요인은 자동화 비뚤림(automation bias)이다.

An additional factor that may negatively affect the self-directed learning efforts of trainees is automation bias


예를 들어 만약 EMR이 잠정적 부작용이나 약의 상호작용을 알려줄 것이라고 생각하면, 수련받는 사람은 이러한 가능성에 대해서 덜 생각해보려고 할 것이다.

For example, if trainees feel like the EMR system will alert them of potential serious side effects or drug interactions, they may be less likely to research these possibilities before ordering a medication




Interpersonal and Communication Skills


그러나 일부 환경에서는 의대 학생들이 EMR에 기록을 할수 없게 되어있다. 또한 템플릿(note template)과 Copy-Paste식의 방식이 가능해지면서 진료기록이 의사소통의 도구로서의 기능을 잃고 있다.

However, in some settings medical students are prohibited from adding clinical documentation to the EMR.31 Moreover, using note templates and copy-and-paste capabilities in charting dramatically decrease the effectiveness of physician notes as a communication tool.7,32,33


수련받는 사람이 EMR에 의무기록을 남길 수 있도록 하는 것에서 오는 우려를 줄이기 위한 노력으로 학습자들에게 customized note template를 제공하는 것을 제안하기도 한다. 그 템플릿은 자유롭게 입력 가능한 공간이 더 많고, auto-fill(자동 채워짐)기능과 auto-text(자동 완성?) 기능을 제한하며, problem list나 감별진단과 같은 부분은 더 많이 쓰도록 되어 있다.

Strategies for mitigating some of the concerns associated with allowing trainees to contribute clinical documentation to the EMR include the creation of customized note templates for medical learners. Such templates may contain more free-text fields, minimize auto-fill and auto-text options, and prompt the documentation of certain features, such as a problem list or differential diagnosis, thereby actually promoting critical thinking.35,36


EMR은 구두 발표나 커뮤니케이션 기술에도 영향을 줄 수 있다.

EMRs may also affect the development of oral presentation and communication skills


고도로 자동화된 세팅에서 주치의는 회진 전에 환자 정보를 더 많이 확인할 수 있기 때문에 케이스 발표에 덜 의지해도 된다. 그리고 이러한 변화가 수련받는 사람이 임상 정보를 회진 전과 후에 종합, 해석하는 능력을 떨어뜨린다는 연구 결과도 있다.

In a highly automated patient care setting, attending physicians may be more likely to receive their patient information in advance of rounds and may no longer rely on or engage trainees during case presentations.37 Peled and colleagues7 

argue that this shift impairs the trainee’s practice of translating and synthesizing clinical information both before and during rounds


하지만 이같은 우려에도 불구하고, 더 많은 정보가 활용 가능해질수록 학습자들은 정보를 단순히 모으는 것보다 종합해서 임상 추론을 하는 데에 더 시간을 쓸 수 있다는 주장도 있다.

Despite these concerns, others might argue that with raw data more readily available, learners can spend more time synthesizing, rather than gathering, information, as well as demonstrating clinical reasoning in real time.



Professionalism


EMR이 되입되면서 의사가 환자나 다른 의료 직군과 교류하는 양상이 바뀌었다.

As EMR implementation reshapes the way that physicians interact with their patients and with other medical professionals


많은 의사들은 환자와 학습자간 상호작용이 감소할 것을 우려한다.

Many clinicians have expressed concern over reduction in the quality of patient– learner interaction.


더 나아가 일부 연구들은 EMR-based 외래 진료에서 레지던트와 의대생 모두 환자-의사 상호작용이 감소하였다고 인지한다는 것을 보여주고 있다.

Furthermore, some studies show that both residents and medical students perceived a decrease in patient–physician interaction when learning in an EMR-based outpatient clinic.19,40


Systems-Based Practice


EMR을 활용하면 인구집단 수준에서 결과를 보여줌으로서 얻을 수 있는 교육적 이득이 있다.

Use of the EMR can also lead to significant educational yield from the review of outcomes of populations under care


이러한 시스템 기반의 진료는 인구집단 수준에서 비용-효과성을 포함한다. 이러한 목적으로 CPOE시스템에 비용 정보를 포함시키는 것은 의사가 오더를 내리는 행위에 영향을 줄 수 있다.

The concept of systems-based practice also encompasses cost-effective care for populations. To this end, integration of cost information in CPOE systems can clearly influence physician-ordering behavior.46


그러나 이러한 과정은 서로 완전히 호환이 되지 않는 병원간 EMR 시스템에 의해서 제한된다.

these processes are challenged by the use of multiple electronic systems across different venues of care that do not seamlessly interoperate







 2013 Jun;88(6):748-752.

Medical Education in the Electronic Medical Record (EMR) Era: Benefits, Challenges, and Future Directions.

Source

Dr. Tierney is a staff physician, Compensation and Pension and Ambulatory Care, VA Palo Alto Healthcare System, Palo Alto, California. Dr. Pageler is medical director of clinical informatics, Lucile Packard Children's Hospital, and assistant professor of clinical pediatrics, Stanford University School of Medicine, Palo Alto, California. Dr. Kahana is vice chair, Department of Anesthesiology, Montefiore Medical Center, and professor of pediatrics and anesthesiology, Albert Einstein College of Medicine, Bronx, New York. Dr. Pantaleoni is medical director of clinical informatics, Lucile Packard Children's Hospital, and clinical instructor of pediatrics, Stanford University School of Medicine, Palo Alto, California. Dr. Longhurst is chief medical information officer, Lucile Packard Children's Hospital, and associate professor of clinical pediatrics, Stanford University School of Medicine, Palo Alto, California.

Abstract

In the last decade, electronic medical record (EMR) use in academic medical centers has increased. Although many have lauded the clinical and operational benefits of EMRs, few have considered the effect these systems have on medical education. The authors review what has been documented about the effect of EMR use on medical learners through the lens of the Accreditation Council for Graduate Medical Education's six core competencies for medical education. They examine acknowledged benefits and educational risks to use of EMRs, consider factors that promote their successful use when implemented in academic environments, and identify areas of future research and optimization of EMRs' role in medical education.










(출처 : http://www.urmc.rochester.edu/medical-humanities/)


“The spirit of Humanities is the greatest single gift in education.”

William Osler,The Old Humanities and the New Science, 1919.



Premedical 과정에 대한 개혁의 요구는 오래 전부터 꾸준히 있어왔다. Premed의 요건을 표준화시키려는 첫 번째 시도는 1904년 AMA의 Council on Medical Education으로부터 시작되었고, 1910년 Abraham Flexner는 현재와 같은 기초과학 요건을 중심으로 한 과정을 확립시켰다.

The most consistent and strident calls for medical education reform over the past century have focused on premedical preparation. The first attempt at standardizing requirements for medical school admission came in 1904 from the American Medical Association’s Council on Medical Education. In 1910, Abraham Flexner recommended requiring biology, chemistry, botany, and physics, and by 1930, today’s premedical science preparation — biology, chemistry, organic

chemistry, and physics — was firmly established.


그러나 최근들어서 기존의 Premed 요건을 강화, 정비, 또는 폐지하라는 요구가 늘어나고 있다.

Recent years have seen many calls for enhancing, overhauling, or abolishing the traditional premed requirements.1-3 


여러가지 비판이 있는데...

과학이 발전하고 그것이 임상에 적용되는 속도가 Premed의 요구조건을 너무 앞서나가고 있고

정보기술이 지식의 암기를 불필요하게 만들었고

Premed 요건들이 임상적 과학적 사회적 관련성이 떨어지는 것

등등...

Critics argue 

that the pace of scientific discovery and its clinical application have outstripped the requirements; 

that information technology has made memorizing vast amounts of content unnecessary; 

that the requirements lack clinical, scientific, and social relevance; 

that they’re used to cull the herd of talented aspiring physicians; 

that they disadvantage minority and female students; 

that they crowd out studies of bioethics, social justice, and health policy; 

and that rigidly structured premedical and medical school curricula hinder students from becoming self-directed lifelong learners.1-4


게다가 Premed syndrome이라는 것이 생겨서, 학생들은 의학적 프로페셔널리즘과 상충되는 과도한 점수에 대한 경쟁을 벌이고 있다.

Furthermore, the current model has perpetuated “premed syndrome,” a culture of aggressive competition for grades that conflicts with the precepts of medical professionalism: 

academic and intellectual rigor, 

creative thinking, 

collaboration, 

and social conscience.2


기존의 것들을 그대로 둔 채 인문학, 사회과학, 중개연구 등을 포함하는 Premed교육을 확장하는 것은 불가능하다.

Expanding premedical education by requiring humanities, social sciences, or translational sciences without removing current requirements is untenable


또한 MCAT은 여전히 기존의 과목에 초점을 맞추고 있기 때문에 단순히 대체시키는 것도 불가능하다.

Nor can current requirements simply be replaced with more relevant courses. 

Medical College Admission Test (MCAT) still focuses on traditional content.1,2


이미 많은 사람들이 premedical education에서 갖춰져야 할 것들을 제시하고 있다.

Others have described premedical education’s ideal elements: 

academic rigor with less gradesdriven competition; 

independent mentored scholarship; 

flexibility to pursue widely varied majors; 

self-directed educational plans that foster lifelong learning; 

more scientifically and clinically relevant coursework; 

and more courses instilling an appreciation for medicine’s social, political, and economic contexts.2,3


Mount Sinai's Icahn School of Medicine에서는 HuMed라는 preclinical track을 만들었다. 이 과정에서는 기존의 premed과정을 하지 않아도 될 뿐만 아니라, MCAT 을 볼 필요도 없다.

At Mount Sinai’s Icahn School of Medicine, we have a quartercentury’s experience with an “early assurance” alternative to the traditional premedical track: the Humanities and Medicine Program (HuMed). Since 1987, humanities majors have been entering medical school here having neither undergone traditional premed science preparation nor taken the MCAT.


후향적 분석을 해보면 많은 면에서 이들 HuMed 학생들은 기존의 학생들과 비슷한 수준의 성취를 보여준다.

According to a retrospective analysis...

these students performed as well as their peers on metrics including clerkship honors, 

selection to honor societies, 

participation in scholarly-year research, 

first-author publications, 

leadership activities, 

and community service. 


USMLE step 1 점수는 더 낮았다.

Scores on the U.S. Medical Licensing Exam Step 1 were lower for HuMeds than for traditional medical students (221 vs. 227, P = 0.0039), and more HuMeds required a nonscholarly (personal or medical) leave of absence There were no differences in the proportion who failed courses


장기적 outcome을 분석해보면 더 높은 비율로 medical school과 affiliated되어 있거나 academic position을 잡고 있다.

Analysis of long-term outcomes reveals that a higher proportion of HuMeds than other graduates are affiliated with a medical school and hold an academic position.


HuMed의 가장 큰 교훈은 기존의 premed 과정을 대체할 수 있는 방법이 있다는 것을 보여준 것이다.

The most important lesson of HuMed is that there are viable alternatives to traditional premed preparation


또한 최근의 변화에도 불구하고 MCAT은 여전히 기존의 관점을 유지할 것으로 보인다. MCAT점수가 이미 valid, reliable, predictive하지 않은 것이 증명되었음에도, 의과대학의 순위를 매기는 것과 같이 의도하지 않은 방향으로 사용되고 있다.

Finally, despite recent changes, the MCAT will maintain a focus on content (organic chemistry and physics) with little relevance to medical practice or translational science. Though the MCAT score has proved valid, reliable, and predictive, it’s being used in unintended ways: as a surrogate for individual academic excellence and a metric for medical school rankings.


Flexner의 제안은 그 당시에는 옳았을 수 있다. 하지만 우리의 시대에서는 객관성(objectivity), 헌신(commitement), 용기(courage)를 바탕으로 학생들이 더 나은 진로를 준비할 수 있도록 해야 한다.

Flexner’s proposals for more structured curricula were right for his era and revolutionized the teaching, investigation, and practice of medicine. But we have failed him by allowing premedical curricula to ossify despite advances in science, clinical practice, and technology. Our times, too, require the objectivity, commitment, and courage to pursue better ways of preparing students for careers in medicine and biomedical science.




 2013 Apr 25;368(17):1567-9. doi: 10.1056/NEJMp1302259. Epub 2013 Apr 10.

Reforming premedical education--out with the old, in with the new.

Source

Office of the Dean for Medical Education, Icahn School of Medicine at Mount Sinai, New York, USA.











2010년 ACGME는 환자안전 향상과 레지던트에 대한 교육, 그리고 레지던트의 삶의 질 향상을 위한 새로운 프로그램 공통 요건(Common Program Requirement)를 발표했다. 이 규정들은 2011년 7월부터 시행되기 시작하여, 근무시간과 레지던트 관리감독에 대한 추가적인 규제가 되입되었으며, 이미 상당한 논의를 불러일으켰다.

In 2010, the Accreditation Council for Graduate Medical Education (ACGME) released new Common Program Requirements designed to improve patient safety as well as resident education and quality of life.1 These rules, which went into effect in July 2011 and introduced additional regulations related to duty hours and resident supervision, have already inspired considerable debate. 


새로운 요건이 도입되기 전에 시행된 연구에서, 프로그램 관리자들과 레지던트들은 새로운 기준이 미칠 영향에 대한 복잡한 감정을 드러냈다. 프로그램 관리자들은 주간 80시간의 근무시간 제한과 in-house call의 횟수 제한, 그리고 의무적으로 오프를 주는 것에는 찬성했지만, 1년차 레지던트의 16시간 교대에는 반대를 표시했다.

In studies conducted before implementation, program directors and residents expressed mixed feelings about the potential effects of the new standards.2,3 Although program directors supported the 80-hour workweek, the maximum frequency of in-house call, and mandatory off-duty time, they opposed limiting first-year residents to 16-hour shifts.2 


레지던트들은 프로그램 관리자보다 더 큰 우려를 나타냈는데, 그것은 주로 진료의 질에 대한 우려와 레지던트 교육, 경험, 그리고 시니어 레지던트 역할을 위한 준비에 대한 우려였다. 레지던트의 삶의 질만이 유일하게 그들이 향상될 것으로 기대한 점이었다.

Residents expressed greater concern than program directors, fearing potential negative effects on quality of care, as well as resident education, experience, and preparedness for senior roles. The quality of life for residents was the only factor that they predicted might improve.3


2011년 12월과 2012년 2월 사이에 행해진 전국적 조사에서, 레지던트들은 교육과 총 근무시간, 휴식시간에는 차이가 없다고 응답했다. 실제로 많은 응답자들은 변화를 부정적으로 묘사했고, 대부분은 시니어 레지던트 역할에 대한 준비가 덜 된 것 같다고 느낀다고 응답했다.

In a national survey conducted between December 2011 and February 2012, residents reported no improvement in education, total number of hours worked, or the amount of rest they were getting. In fact, many participants described the changes as detrimental, with the majority feeling less prepared to take on more-senior roles. 


1년차 레지던트의 삶의 질만이 향상된 것으로 나타났다. 시니어 레지던트의 교대 빈도와 근무량은 증가한 반면, 환자 안전은 별반 차이가 없는 것으로 나타났다. 전반적으로 22.9%의 레지던트만이 2011에 도입된 규제에 대해 찬성의사를 밝혔다.

Only quality of life for first-year residents was identified as having improved. The frequency of handoffs and workload

for senior residents were both noted to have increased, whereas patient safety was deemed to be unchanged. Overall, only 22.9% of residents reported approval of the 2011 regulations.4


여기서는 도입 1년이 지난 시점에서 프로그램 관리자들의 반응을 보고자 한다. 프로그램 관리자는 레지던트보다 이 규제로 인한 효과(환자 안전, 레지던트 교육)를 더 잘 판단할 수 있는 위치에 있다고 볼 수 있다.






 2013 Feb 21;368(8):694-7. doi: 10.1056/NEJMp1214483.

The 2011 duty-hour requirements--a survey of residency program directors.

Source

Department of Plastic Surgery, Rhode Island Hospital, Providence, USA.





빈도주의 : 

- 만약 우리가 f값을 안다면(실제로는 모르지만), 설문 결과로 얻게 될 F는 얼마가 될 것인가?

- 200명을 대상으로 '반복적으로' 설문조사를 시행한다면, 그 결과값 F는 95%의 확률로 33%와 48% 사이에 위치하게 될 것이다. 

베이지안

- 만약 F라는 데이터가 주어진다면, 참값 f는 얼마가 될 것인가?

- 200명을 대상으로 '단 한 번의' 설문조사를 해서 F=40%라는 결과를 얻었다면, 참값 f는 95%의 확률로 33%와 48%사이에 위치할 것이다. 



Last time we derived the Frequentist result that when f=40%, if you repeatedly conduct surveys of N=200 people, then 95% of those surveys will produce values for F that are between 33% and 48%, which was our definition of F being "close" to f.

The Frequentist answers a subtly different question: if we knew f(which we don't), what would the survey result F be likely to be? So I drew it with a backward pointing arrow instead.


In contrast, the Bayesian result says: given that you actually conducted one survey of N=200 people in which you measured F=40%, then the true value f is 95% likely to be between 33% and 48%.

The Bayesian approach directly answers our question: given the data F, where is the true f likely to be? So I drew it with a forward arrow in the diagram. 



(출처 : http://meandering-through-mathematics.blogspot.kr/2011/05/bayesian-probability.html)




베이지안 확률론(Bayesian probability)은 확률을 '지식의 상태를 측정'하는 것이라고 해석하는 확률론이다. [1] 확률을 발생 빈도(frequency)나 어떤 시스템의 물리적 속성이라고 여기는 것과는 다른 해석이다. 이 분야의 선구자였던 18세기 통계학자 토마스 베이즈의 이름을 따서 명명되었다. 이어만(Earman 1992)에 따르면 베이지안 확률에는 두 가지 시점이 있는데 그 하나는 객관적 관점에서 베이지안 통계의 법칙은 이성적 보편적으로 증명될 수 있으며 논리의 확장으로 설명될 수 있다. 한편 주관주의 확률 이론의 관점으로 보면 지식의 상태는 개인적인 믿음의 정도(degree of belief)로 측정할 수 있다. 많은 현대적 기계 학습 방법은 객관적 베이지안 원리에 따라 만들어졌다. 베이지안 확률은 확률에 대한 여러 개념 중 가장 인기있는 것 중의 하나로 심리학, 사회학, 경제학이론에 많이 응용된다. 어떤 가설의 확률을 평가하기 위해서 사전 확률을 먼저 밝히고 새로운 관련 데이터에 의한 새로운 확률값을 변경한다베이즈 정리는 이러한 확률의 계산에 있어 필요한 절차와 공식의 표준을 제시하고 있다.



Bayesian probability is one of the different interpretations of the concept of probability and belongs to the category of evidential probabilities. The Bayesian interpretation of probability can be seen as an extension of the branch of mathematical logic known as propositional logic that enables reasoning with propositions whose truth or falsity is uncertain. To evaluate the probability of a hypothesis, the Bayesian probabilist specifies some prior probability, which is then updated in the light of new, relevant data.[1]

The Bayesian interpretation provides a standard set of procedures and formulae to perform this calculation. Bayesian probability interprets the concept of probability as "an abstract concept, a quantity that we assign theoretically, for the purpose of representing a state of knowledge, or that we calculate from previously assigned probabilities,"[2] in contrast to interpreting it as a frequency or "propensity" of some phenomenon.

The term "Bayesian" refers to the 18th century mathematician and theologian Thomas Bayes, who provided the first mathematical treatment of a non-trivial problem of Bayesian inference.[3] Nevertheless, it was the French mathematician Pierre-Simon Laplace who pioneered and popularised what is now called Bayesian probability.[4]

Broadly speaking, there are two views on Bayesian probability that interpret the probability concept in different ways. According to the objectivist view, the rules of Bayesian statistics can be justified by requirements of rationality and consistency and interpreted as an extension of logic.[2][5] According to the subjectivist view, probability quantifies a "personal belief".[6] Many modern machine learning methods are based on objectivist Bayesian principles.[7] In the Bayesian view, a probability is assigned to a hypothesis, whereas under the frequentist view, a hypothesis is typically tested without being assigned a probability.


Bayesian methodology [edit]

특징 

In general, Bayesian methods are characterized by the following concepts and procedures:

  • The use of random variables to model all sources of uncertainty in statistical models. This includes not just sources of true randomness, but also uncertainty resulting from lack of information.
  • The sequential use of the Bayes' formula: when more data become available after calculating a posterior distribution, the posterior becomes the next prior.
  • For the frequentist a hypothesis is a proposition (which must be either true or false), so that the frequentist probability of a hypothesis is either one or zero. In Bayesian statistics, a probability can be assigned to a hypothesis that can differ from 0 or 1 if the true value is uncertain.


(출처 : http://en.wikipedia.org/wiki/Bayesian_probability)



(출처 : http://billhicksisdead.blogspot.kr/2012/06/well-of-course-obamacare-was-upheld.html)



의사라는 직업은 전통적으로 거의 무제한의 자원을 활용하여 넓은 범위의 감별진단을 하고 환자를 돌봄으로서 보상을 받아왔다. 이러한 환경에서 "좋은 진료"라는 것은 돈으로 환산될 수 없는 것이었다.

Our profession has traditionally rewarded the broadest differential diagnosis and a patient care approach that uses resources as though they were unlimited. Good care, we believe, cannot be codified in dollar signs.


그러나 "value-based purchasing"이나 "pay for performance"라는 개념이 의료에 들어오기 시작했다.

Terms like “value-based purchasing” and “pay for performance” have entered the language of the health care system


더 나아가, 의사집단에서도 이러한 담론에 참여하기 시작하여 최근에는 각 전문과별로 "비싸면서 효과는 없는 검사 Top 5"를 발표하기도 했다.

Moreover, physician organizations have joined the dialogue, most recently with the American Board of Internal Medicine Foundation’s Choosing Wisely campaign, shaped partly in response to Howard Brody’s call for “Top Five Lists” of expensive but nonbeneficial tests and treatments in each specialty.1,2 


그렇다면 의학교육에도 비용-효과성의 원칙이 들어갈 자리가 있을까?

Is there a place for principles of cost-effectiveness in medical education?


수십년간 많은 사람들은, 경제적 환경이 어떻든지간에 '비용'이 의사의 판단에 개입해서는 안된다고 생각했다.

Many who have been in practice for decades argue that at no point, no matter the economic environment, should cost factor into physicians’ decisions


Samuel은 의사가 사회의 필요와 개개인의 필요를 저울질하기 시작할 때, 의사는 의사의 본질을 잃게 된다고 했다. 그리고 의사가 개개의 환자에 대한 책무를 다하지 못할 때 "큰 문제에 빠지게 된다" 라고 했다.

Samuels cautions that when physicians start weighing society’s needs as well as those of individual patients, they begin to lose the essence of what it means to be a doctor. When we lose our personal responsibility to individual patients, he says, “We are in deep trouble.”


Robert Veatch는 "히포크라테스적 의사의 윤리는 경제학자들이 '선택적 비용(alternative cost)'라고 부르는 그것을 고려하지 않고 개개 환자의 이익에 근거해서 판단을 내리는 것이다. 만약 의사들이 사회에 대한 책무 때문에 그러한 판단을 내리지 못하게 된다면, 그것은 히포크라테스 선서에 어긋나는 것이다." 라고 했다.

Robert Veatch: “The ethics of the Hippocratic physician makes yes or no decisions on the basis of benefit to a single individual without taking into account what economists call alternative costs. . . . If physicians are asked to reject such care for their patients in order to serve society, they must abandon their Hippocratic commitment.”3

Art Caplan은 이러한 딜레마를 비용이 아니라 환자를 변호(advocacy)하는 집장에서 설명했다. 과연 의사는 사회의 '집사'로서 일하는 동시에 환자의 이익을 대변할 수 있는가?

Art Caplan, a bioethicist at New York University, frames the dilemma in terms of advocacy rather than costs: Can a physician remain a patient advocate while serving as a “steward” of society’s resources?


진짜 문제가 되고 있는 것은 physician advocacy이다. 두 개의 이해관계가 상충하지 않을 때 사람들은 예민해지는데, 왜냐하면 그들은 환자의 이익을 우선해야 한다는 원칙이 침해당한다고 생각하기 때문이다.

“What’s really at issue is the definition of ethical physician advocacy.” When interests don’t overlap, “people get nervous because they think it’s going to undermine the obligation and duty to put patients’ interests first.”


하지만 일부 의사들은 비용을 고려하는 것이 제한된 자원을 공정하게 분배하는 것에 있어 중요할 뿐만 아니라, 실제로 개개인 환자의 이익에 있어서도 중요하다고 주장한다. 미국에서 개인이 파산에 이르는 가장 흔한 원인 중 하나가 의료에 드는 비용이다.

Yet some physicians now believe that considering cost serves not only the equitable distribution of finite services, but also the real interests of individual patients. Medical bills, after all, are among the leading causes of personal bankruptcy in the United States.


점차 더 많은 사람들이 실제로 비용을 고려함으로서 진료의 질을 높일 수 있다고 생각한다. Chris Moriates는 내과 교과과정에 어떻게 그 두 가지를 동시에 할 수 있는가에 대한 내용을 넣었다.

Increasingly, others agree that thinking about cost can actually improve care. Chris Moriates, a resident at the University of California, San Francisco, has implemented a curriculum for internal medicine residents that teaches them how to do both. 


2010년에 Molly Cooke은 "비용에 대한 긴급한 문제를 다루는데 실패해버린 의학교육에 대해 어떻게 해야 할 것인가?"라는 질문을 던졌다.

In 2010, Molly Cooke made a compelling argument for the profession to change its ways, asking, “How should we deal with [the] forces that have resulted in a failure of medical education to address the urgent issue of costs?” 4


그리고 일부 교육자들은 "비용에 대한 고려와 자원의 관리"를 ACGME에서 관리하는 핵심 역량 중 하나로 넣어야 한다고 주장하고 있다.

And some educational leaders are pushing to make proficiency in “cost-consciousness and stewardship of resources” a core competency overseen by the Accreditation Council for Graduate Medical Education.5


물론, 우리 의사들은 본능적으로 진료 하나하나에 가격표가 붙는 것에 대한 거부감이 있다.

Admittedly, we, too, initially had a visceral aversion to the notion of putting price tags on our recommendations to patients.


예를들면 이런 질문과 같은 것이다. "인슐린을 맞을게요. 그런데 시린지는 언제 세일하죠?"

“I’ll take the insulin but wait for the syringes to go on sale”?


어느 선 까지는 전통적인 의학교육과 자원관리를 중시하는 교육 사이의 갈등이 의미론적인(semantic)문제일지 모른다. 진짜 목표는 "비용에 대한 고려"그 자체가 아니라, 근거중심의학과 베이지안 원칙을 더 잘 활용하는 것이다.

On some level, the conflict between a traditional medical education and one that teaches resource-savvy care may be a matter of semantics. The real goal is not “cost consciousness” per se, but better use of evidence-based medicine and Bayesian principles.


시간이 부족할 때면 "무언가를 놓쳤을지 모른다"라는 불안감 때문에, 혹은 단순히 무시함으로서 자원을 더 효율적으로 활용해야 한다는 생각이 더 많은 자원을 써야 한다는 생각에 압도당하고는 한다.

Whether it’s lack of time, fear of “missing something,” or simple ignorance, the incentives to do more often overwhelm our impulse to use resources wisely


단순한 비유를 하자면, 환자가 아파트 계단을 잘 오르내릴 수 있도록 돕는 것도, 그 환자가 그러한 아파트에 살 경제적 여력이 없으면 무의미하다는 것이다. 환자들을 경제적 파탄으로부터 보호하는 것이야말로 'do no harm'의 기본이다.

Put simply, helping a patient become well enough to climb the stairs to his apartment is meaningless if our care leaves him unable to afford that apartment. Protecting our patients from financial ruin is fundamental to doing no harm.





 2012 Jul 12;367(2):99-101. doi: 10.1056/NEJMp1205634.

Cents and sensitivity--teaching physicians to think about costs.

Rosenbaum L, Lamas D.






다섯 가지의 기본 원칙 (Ground rules)

Five basic principles apply to preparing teaching materials, irrespective of the type of material you choose: links, intelligibility, general style, highlighting, and targeting (LIGHT). You may sometimes decide to ignore one or more of these principles, but if you do, think carefully about what you are trying to achieve.


- Links : 가르치는 내용과 연관되어 있어야 한다.

Your teaching materials should have obvious and direct links to your talk, discussion, or presentation. Handouts are the main offenders in this category, and it is not unusual for handouts to have little in common with the talk. It is quite acceptable for the teaching materials to give some additional information, but this should not be excessive.

- Intelligibility : 쉽게 이해가 되어야 한다. 간단한 말로 쓰고, 긴 문장은 피하라.

The teaching material should be easy to understand and learn from. How this is achieved will depend on the medium used and the venue of the talk or presentation. Use simple language and avoid overlong sentences or statements. Diagrams can help to clarify a complex message. If you are using slides or overhead transparencies, the size of the print needs to be large enough to be read from the back of the auditorium. The font selected should be sans serif (for example, Arial).

- General style : 강의자료 내에서 일관된 스타일을 유지해야 한다.

You should aim to use a consistent style throughout your teaching materials, particularly if you are giving a series of talks. Although it is tempting to use a variety of novel styles, consistency will allow learners to concentrate on the meaning and relevance of what you are trying to communicate. 

- Highlighting : 강조 표시는 중요한 역할을 할 수 있다.

Highlighted information helps to emphasise important issues or pivotal points in a developing argument. Methods of highlighting include changing the colour of text or underlining words or phrases. This also applies to videotapes and audiotapes, where changing your tone of voice can be used to emphasise key points.

- Targeting : 가르치는 학생과 내용에 잘 맞아야 한다.

It is important that both the type of educational event (for example, presentation, seminar, discussion) and the teaching materials that supplement it are targeted at what your students need to learn. Targeting therefore requires an awareness of what knowledge and skills your students already have. This can be difficult to judge, but it is worth spending time finding out about your expected audience. It becomes easier if you are doing a series of talks with the same group as you can get feedback from the learners to help you plan more effectively




슬라이드 만드는 원칙(Ground rules for slide preparation (35 mm or PowerPoint))

- 잘 읽히는 글자체 사용하기. Use a clear font that is easily readable

- 글자크기는 20 이상 쓰기  Use a type size of 20 points or greater

- 어두운 배경에 밝은 글씨 쓰기 Use a light text on a dark background for slides (in contrast with OHP transparencies)

- 짧은 문장과 작은 표 사용하기 Use short sentences and small tables

- 슬라이드당 단어 숫자는 40개 이하로  Restrict the overall number of words on each slide to about 40 or fewer

- 패턴이 있는 배경은 지양하기. Avoid patterned backgrounds—they are extremely distracting

- 사용하는 색은 세 개 이하로 Limit the number of colours on your slides to a maximum of three

- 강조하고 싶은 것은 하이라이트 하기 Use highlighting to emphasise items in lists

- 애니메이션이나 소리 효과는 가끔만 사용하기 Use animation and sound effects sparingly





 2003 Apr 26;326(7395):921-3.

Creating teaching materials.

Source

Peninsula Medical Sschool at the Universities of Exeter and Plymouth.






Medical Education in the United States and Canada

  • FR 섹션으로 이뤄져 있다. 하나는 근대 의학교육의 principle 대한 essay이다. 역사와 이상향을 비롯하여 여러 special topic으로 챕터를 마무리 짓고 있다. 번째 섹션은 각각의 미국과 캐나다 의과대학에 대한 묘사를 하고 있다.
  • AF 분석의 시작은 의학이 scientific era 들어선 시기이다.
  • AF에게 scientific medicine 가지 개념을 포함한 것이다.
    (1)하나는 물리, 화학, 생물이 근대 의학의 intellectual foundation 이룬다는 것이다.
  • (2) 번째는 - 중요한 것은 - 과학적 방법이 연구 뿐만 아니라 진료에도 적용된다는 것이다. AF 주먹구구식의 practitioner 가장 혐오했다. AF 평균적인 family doctor 연구에 몰두하지 않을 것이라는 것은 알고 있었지만, 또한 일상적으로 행해지는 good patient care 위해서 과학적 방법이 필수적이라고 믿었다.
  • 근대 의학의 scientific nature 의학을 가르치는 사람에게도 새로운 자질이 요구됨을 의미했다. "학생은 이상 단순히 보고 듣고 기억하는 사람이 아니다. '직접 보아야' 한다"
  • AF didactic instruction 대한 비판적 시각은 보고서 전반에 퍼져 있다. 그는 anatomy quiz-master 조롱했다(deride).
  • AF 가지 목적 달성에 있어서 Learning by doing 필요한 것이었다. Learning by doing Scientific knowledge 학습하는 가장 좋은 방법이었으며, 동시에 학생에게 Scientific method 가르치는 방법이기도 했다.
  • 개념적으로, AF 적절한(proper) 의학교육에 대한 논의는 새로운 것은 없었다. 그러나 그는 어떤 의학교육자도 전에 해내지 못한 것을 해냈다. 바로 의학교육에 대한 논의를 공공교육(public education) 대한 논의와 연결시킨 것이다.
    • "과학은, 이미 만들어진 지식을 축적시켜 가르치는 것에만 너무 신경을 써왔다"
    • "initiative 학습자(learner) 쥐고 있다"
    • 그는 progressive education에는 모든 education level 적용가능한 개념들이 담겨있다고 생각했다.
  • 이에 더하여 AF 거치며 의학교육은 progressive education movement에도 영향을 주었다.
    • "하나의 뛰어난 MS(JHMS) 의학교육에 미친 영향과 같이, model school general education에도 좋은 영향을 미칠 있다고 본다"
  • AF Learn by doing habit of inquiry, critical thinking등을 위해서 어떤 type 학교에서 학생들이 의학을 배워야 하는지에 대하여 말하지 않았다. 그는 admission requirement, faculty qualification, laboratory and clinical facilities, hospital relation, university affiliation, medical research 대해서 언급했을 뿐이다.

 



Abraham Flexner에게 이상적인 Medical School 가지 특징을 가진 것이었다.
- (1) 하나는, properly equipped 하는 것이다. 그러기 위해서는 많은 재정 지원이 필요했다.

- (2)둘째로 academically qualified student만을 입학시키는 것이 중요했다. 이를 위해서는 다른 교육시스템과의 연계가 중요했다.

- (3) 번째로, AF model medical school에서 original investigation 가장 핵심적인 요소였다. Faculty member에게 연구를 요구함으로서 critical method 곧바로 교육에서 살아 숨쉴 있게 해야 했다. AF 연구자가 가장 좋은 선생님이라고 생각했다. 많은 숫자의 full-time professor clinical, scientific department, vigorous university part 되는 것이 중요했다.

- 어떻게 MS proper system 확립될 있을까? AF 미국과 캐나다의 MS 숫자를 31개로 줄이기를 제안했다. 시기에 미국은 저질의 의사를 많이 만들어내고 있었다. 독일(인구 2000명당 1) 비해서 미국(인구 568명당 1) 많은 인구당 의사숫자가 많았다.

- 일생동안 AF 교육적 관점에서 상당한 일관성을 보였다. AF에게 타협하지 않는(uncompromising) academic excellence MS에서만 가능한 특징이었다. 좋은 학생과 좋은 교사, 최신의 시설 등등.

- AF 국가적 medical scene 보면서 느낀 것은 엄청난 heterogeneity 있다는 것이었다. 어떤 곳은 세계적으로도 훌륭했고, 어떤 곳은 최악이었다. 이제 해야 일은 모든 physician 가능한 가장 좋은 교육을 받을 있는 환경을 만드는(minimum standard of excellence) 것이었다.

- 이에 따라 AF 가장 취약한(weakest) 학교에 집중하기로 했다. "discreditable showing" 보여준 commercial school 아주 혹독한 비판을 것이다.

- AF 이들 학교에 가장 불만스러웠던 것은 공공의 이익보다 소유주(owner) 이익을 앞세우는 행태였다. AF proprietary school 공공의 적으로 불렀다.

- 보고서는 그렇게 목적을 달성했다. 대중들은 교육자들과 같이 proprietary school 대한 불만을 표시하기 시작했다.



- FR 비록 proprietary school 멸종하는데 기여를 것은 사실이지만, 1910년의 상황에 대하여 오해하게끔 하는 문제가 있었다. 우선 보고서가 마치 pre-modern modern사이의 확실한 구분선을 긋는 처럼 생각되어지곤 하나, 역사학자들은 FR 오래 전부터 이어져왔던 어떤 연속선상의 점이라고 말한다.

- FR 또한 시기의 가장 중요한 문제였던 '진료를 수행하는(practice medicine) 사람도 철저히 교육되어야 한다'라는 문제에 대한 하나의 반응을 보여준 것이다. MS 여러 가능한 모델 FR 가장 rigorous academic 모델을 선택한 거시라고 있다. FR 의학교육의 heterogeneous system 거부하고 homogeneous system 주장했다.

- FR 또한 환자-의사 관계나 예방의학의 중요성을 무시했다며, 또는 너무 경직된 curriculum 주장했다며 비판을 받고는 하나 실제로는 오히려 정반대이다.

 -또 다른 FR 대한 비판은 취약계층이 medical profession 진출하는 길을 막았다는 것이다. AF 높은 수준의 입학요건을 강조했다는 점에서, 그리고 이러한 것이 lower class 일수록 갖추기 힘들다는 점에서 일부 정당한 비판일 있다. 하지만 이는 혼자만의 받아야 비판은 아니며 AF "Education must be provided for the mediocre"라고 하였다.

- AF 가치관은 어렸을 엄청난 빈곤을 극복한 그의 개인적 경험에 영향을 받을 밖에 없었다.

  • "가난은 나의 앞길을 막지 못할 것이다."

- AF 이러한 관점은 당시에 세대에 그렇게 드문 것이 아니었다. 성공하고자 하는 의지가 중요하다, 가난은 교육을 통해 극복될 있다. 그러나 AF 다른 의학교육자들과 마찬가지로 개인적 빈곤에 사회가 미치는 영향을 너무 과소평가한 면이 있다.

- FR AF 자신도 이것을 final document라고 생각하지 않는다. "이것은 단지 현재, 또는 가까운 미래에만 통하는 이야기일 것이다."

- AF WWII이후 진행된 세분화를 미리 예측하지 못했을 것이다. 또한 미래에 닥쳐올 academic medical center, local community와의 껄끄러운 관계도 예측하지 못했을 것이다. 그래도 아마 그가 지금의 MS 본다면 MS 가지는 사회적 책임에 대해서 - academic excellence 훼손되지 않는 - 상당히 기뻐할 것이다.



 

Aftermath of the Report

  • 출판되자마자 FR 센세이션을 불러일으켰다. AF 소송을 당하기도 하였다.
  • 뒤돌아보면, FR 당시 문제를 상당히 놀라운 수준으로 짚어내었다.
  • 일반적인 관점과 달리, 대부분의 의학교육자들은 보고서의 내용을 지지했다.
  • 중에서도 최고 수준의 학교들이 가장 강력한 지지를 보냈다.
  • 반대로 결국 살아남지 못한 학교들이 가장 심한 반대를 했다.
  • 그보다 조금이라도 나은 학교들은 - 살아남은 일부 학교들을 포함하여 - 보고서에 대해서 약간은 불편해했지만, 이유가 조금 달랐다. 보고서가 지금까지 이뤄낸 성과는 칭찬하지 않고, 아직 이뤄내지 못한 것에 대해서만 비판한다는 것이었다.
  • 일부 학교에서는 chancellor 기분나빠하지만 dean of the college of medicine 기꺼이 동의하는 식으로 반응이 갈렸다.
  • FR 지지한 사람이든 비판한 사람이든 누구도 AF 해낸 일에 대한 의심은 없었다. 그는 모든 학교가 같은 형태로서 의학교육을 제공해야 한다고 주장했다. University based, research oriented. AF pluralism 반대했다. 이러한 주장은 많은 진정한(sincere) 의학교육자 - modest school 역할이 있으며 연구보다 교육을 강조한 - 들의 실망을 샀다.
  • 하지만 그러한 반대는 의미가 없었다. FR 이후 proprietary school에는 압력이 가해졌다.
  • 또한 FR 이미 최고 수준에 있는 학교들도 발전하도록 자극했다. AF 전문가들이 이미 알고 있던 것을 대중들도 알게 만들었다. 발전하기 위해서 필요한 것들은 대단히 많은 비용을 필요로 했고, 보고서를 통해서 대중들이 MS 관대하게 기부를 하도록 설득할 있었다.
  • 또한 보고서는 Flexner Pritchett 의학교육을 재구성에 중요한 결정권자로 인식되게끔 했다. Flexner General Education Board에서 그의 의학교육에의 역할을 하게 되고 후에 가장 영향력있는 foundational philanthropy manager 된다.
  • Medical scientist들은 FR 흥분을 감추지 못하였다. 다른 분야에서와 마찬가지로 "expert" full-time professor 자리를 통하여 의학교육에서 주요한 자리를 갖게 것이다.
  • Prichett 또한 FR 대한 기쁨을 표했다. 그의 의학교육에 대한 관심의 밑바탕에는 미국의 professional educator로서의 관심이 깔려 있었다. 보고서는 본질적으로 physician 훈련하는데에 education process 중요함을 말하고 있었다. FR professional educator 중요성과 유일함에 대한 믿음에 대한 정당성을 입증해준 것이다.
  • Practicing profession FR 대하여 감정이 복잡하였다. 의학이 굳건한 과학적 바탕을 두고 있다는 보고서의 내용은 그들의 지위와 특권을 높여 주었고, 높은 입학요건을 요구한다는 내용은 의학을 어떤 exclusive 것으로 만들어주었다. 하지만 보고서는 "practical school" 역할에 대해서는 "역할이 없다" 라고 하고 있었기 때문에 Practitioner of medicine 그들의 영향력이나 책임을 잃어가게 되었다.
  • 반어적으로 Flexner progressive education 대한 이상은 끝내 이뤄지지 않았다. 지금도 학생들은 거의 reflect하거나 contemplate 시간이 없다.
  • 그럼에도 목표를 달성하기 위한 어려움에도 MS progressive education 대한 이상을 꾸준히 추구하였다. "to inculcate personal habits of learning"
  • 그러한 이유로 Progressive education public school 보다 medical school에서 이뤄졌다. Public school에서 progressive education 1950년대에 완전히 폐기되었다.
  • 이러한 doctrine 다른 곳이 아니라 의학교육에서 살아남았을까? Progressive education 하기 위해서는 상당히 요구되는 것이 많다. 무엇보다 뛰어난 학생과 교사가 필요하다. 따라서 progressive education 특성상 대중교육(mass education)에는 부적합한 것이었다




Chapter 9. The Flexner Report

  • 1910, 미국 의학교육은 엄청나게 발전했다. 그러나 뛰어난 학교를 뛰어나게 하는 만큼이나 평균적인 수준의 학교들을 최소 기준은 갖추게 하기 위한 노력이 필요했다.
  • 또한 미국의학교육이 궁극적으로 추구하고자 하는 교육기관의 형태가 어떤 식이었는지도 분명하지 않았다. 하나의 확실한 기준이 있어야 했으나 여러가지의 Tier 구분이 되고 있었다. 모든 곳에서 연구를 해야 하나? "Practical school 어떠한가? 모든 교수가 full-time status여야 하는가? 등등..
    • 어떤 것이 가장 좋은 의학교육의 모델인가에 대한 다양한 생각이 존재했다.
  • 이런 상황이 Flexner Report(FR) 등장하게 배경이었다. FR 아직 남아있는 일들에 대해 강조했다. Flexner에게는 하나의 Medical School만이 acceptable했다 : 많은 수의 Full time faculty 연구에의 열정적인 헌신이 있는 University school이다. Report는 미국의 의학교육이 발전하는 속도를 뿐만 아니라, 궁극적으로 추구해야 하는 형태에도 영향을 미쳤다.
  • Report journalistic 역작(tour de force)였을 뿐만 아니라, educational literature로서 classic monograph(논문)이기도 했다.
    • 근대 의학 교육은 John Dewey 의해서 발전된 교육적 개념을 포함하고 있었다. MS elementary school 모두 교육 환경을 살피고 그들의 감각적 경험을 살펴서 개별적인 학습을 하는 것을 강조했던 것이다. Flexner professional educator로서 의학교육자들과 Dewey 결국 같은 것을 말하고 있다는 것을 알았다.
    • Progressive education 전통적으로 초등학교부터 시작해서 college까지를 말한다. 그러나 이러한 생각은 수정될 필요가 있었다. Flexner 말한 것처럼, progressive education professional education까지 파고들었다. 궁극적으로 Flexner 통하여 의학은 미국의 progressive education 나름의 흔적을 남기게 것이다.

 

Prelude to the Report

  • 1910 의학교육자들 사이에 의학을 가르치는 적절한 방법에 대한 어떤 합의가 등장했다.
  • 그들 대부분은 엄격한 교육방법을 지지했다.
    • Scientific knowledge and method 의학의 교육에 적용될 있다고 생각했고, Practitioner들은 의학교육의 발전을 직업적 확신과 그들 자신의 이익이라는 가지 모두의 이유로 지지했다.
    • 심지의 학생들조차 그러한 교육방법이 환자 뿐만 아니라 의사에게 좋다는 것을 받아들였다.
  • 1900 이후 광범위한 합의가 등장하기 시작하여 Educational purist, academic physician, practitioner, average physician 아울러 모든 사람들이 동의하는 모습을 보였다.
    • 이렇게 널리 퍼진 지지는 의학교육자들에게 매우 중요한 정치적 자산이 되었다.
  • 1910 의학교육의 standard approach 등장했지만, standard MS 아직이었다. 미국 MS 간의 격차는 어느때보다도 컸다.
  • 그렇다면 어떤 학교가 살아남아야 하고 어느 학교가 사라져야 하는가?
    • 사이에 선을 긋는 것은 어려운 일이었다.
    • University model 옳다고 주장하는 사람들은 주로 10개의 상위 학교의 official들이었고, 이들의 informal organization Federation of University 있었다.
    • Federation AMA '무엇을 있겠는가' 초점을 것과 달리 '무엇을 해야 하는가' 초점을 두었다. 그들의 관점으로는 모든 학교가 University school 되어야 옳았다.
  • Purest academic model 추구한 다른 집단은 AMA Council of Medical Education이었다. 1904년에 조직된 이후로 council medical profession사이에 의학교육의 개혁을 위한 어떤 조직적 정서를 만들어내는 역할을 하였다.
  • Council 미국의 MS들에 대한 조사를 하자는 것은 아이디어를 냈다. 1906 자체 조사에 나섰고, 출판되지는 않았지만 FR 사실상 같은 결론을 내고 있었다.
    • 그러나 medical organization 공개적으로 MS 비판하는 것은 정치적으로 현명하지 못한 것이었고, 그래서 council Carnegie Foundation(CF) 비슷한 연구를 의뢰하였다. 이렇게 report 적어도 외부에서 보기에는 외부 기관의 독립적인 평가로 인식된 것이다.
  • Council CF 같은 편이라고 생각했다. CF president Pritchett 중요한 목표 하나는 미국에서 scholarship 지위를 상승시키는 것이었다.
  • CF 1905 설립될 당시 president Andrew Carnegie 뜻을 무척 반영하고 있었다. (scholarship 대한 관심)
    • Pritchett 연구에 대한 관심은 generalize되어, 의학연구에까지 미치게 되었다. 그는 미국 MS들이 나은 교육 뿐만 아니라 많은 full time position 갖춰야 한다고 생각했다.
  • Pritchett CF에게 의학교육을 연구할 기회가 주어졌다는 것에 대하여 무척 기쁘게 여겼다.
  • 그리고 연구를 위하여 Pritchett 선택한 사람이 바로 Abraham Flexner였다(AF). AF organizational politics 분야의 전문가였고, 상당히 유연한 관점을 갖고 있었으며, 말과 행동에 있어서 외교술이 무척 뛰어났다.
  • 어떻게 AF Pritchett 선택을 받게 되었는지는 알려져 있지 않다. 어쨌거나 AF 근대 의학교육방법의 forceful spokesman 되었다.
  • 프로젝트를 시작할 당시 AF에게 의학교육에 대한 지식이 거의 없었다는 것은 알려져 있다. AF 단기 의학교육 과정을 밟을 정도였다.
  • CF 보고서를 발표하며, AF 자신을 "unfettered(해방된) lay mind"라고 하였다. 그를 council 또는 JHMS 고용한 단순한 도구 정도로 보는 것은 상당한 오해였다. 그는 의학교육자들을 이해했으며, 교육자로서도 지식과 그가 직접 경험을 통해서 이미 Conceptual Framework 정립된 상태였다.
  • 같은 이유로 의학교육자들이 AF에게 MS에서의 original research 중요성을 굳이 강조할 필요가 없었다. AF 이미 University 대한 확신이 있었다. 그의 기준을 충족시키는 모델은 그것 뿐이었다.
  • 준비를 마치고 AF 155 대학을 하나하나 방문하였다.




가르치는 학생의 이름을 기억하라. 매우 단순하지만 중요한 예절이다.




"저는 학생을 직접 진료의 현장으로 데려와서, 매일 환자를 보게 합니다. 학생은 환자의 증상을 듣고, 신체검진에서 무엇이 나타나는지를 봅니다. 그리고 저는 학생에게 환자로부터 무엇을 보았으며, 어떻게 생각하는지를 질병의 원인과 치료 방침과 연결시켜 말해보도록 합니다"


“My method (is) to lead my students by hand to the practice of medicine, taking them every day to see patients in the public hospital, that they may hear the patients’ symptoms and see their physical findings. Then I question the students as to what they have noted in the patients and about their thoughts and perceptions regarding the cause of the illness and the principles of treatment”


Dr Franciscus de la Boe Sylvius, 17th century professor

of medicine at the University of Leyden, Netherlands




- 일대일 교육에서 가르치는 사람이 학습자로부터 숨을 수 없듯, 학습자의 지식, 기술, 태도도 가르치는 사람에게 잘 들어온다. 

선생님이 된다는 것은, 바라든 바라지 않든 중요한 롤모델이 된다는 뜻이다.

As a teacher, you are an important role model whether you wish it or not



Plan ahead—ask yourself some important questions

- What is the main purpose of the one to one attachment?

- Do you know why it is part of the learning programme?

- What are the learner’s needs?

- How will you gauge how effectively you have met the learner’s needs? 



순서

Provide an orientation 

=> Agree on the ground rules 

=> Ask helpful question 

=> Give feedback 

=> Encourage reflection 

- 다른 사람으로부터의 피드백이 없으면 대부분의 학습 기회가 쓸데없이 낭비되는 것처럼, 일대일 학습에서도 학습자가 자신의 performance를 솔직하게 반성해보지 않으면 마찬가지가 된다. 

- 학습자의 반성적 사고를 도와주기 위해서 (a)가르치는 사람의 임상 추론과 의사 결정 과정을 보여주고 (b) 그 과정에서 어떠한 윤리적 가치와 신념이 작동했는지를 설명해주고 토론한다. 



만약 음악을 하는 사람들이 의사들이 하는 방식으로 악기 연주를 배운다고 한다면, 그 과정은 아마도 이럴 것입니다. 


교수자는 지속적으로 강의를 한 다음에 한두번 정도 시험삼아 악기를 연주하는 것을 보여주고, 악기가 어떻게 소리를 내는지 그 원리를 알려준 다음에 학생에게 '연주해봐' 라고 합니다. 그리고 교수자는 학생이 연주를 하는 노력에는 귀를 기울이지 않고, 그저 어떻게 소리가 났는지에 대해서 학생이 제출한 보고서로 만족할 것입니다. 


“If musicians learned to play their instruments as physicians learn to interview patients, the procedure would consist of presenting in lectures or maybe in a demonstration or two the theory and mechanisms of the music-producing ability of the instrument and telling him to produce a melody. The instructor of course, would not be present to observe or listen to the student’s efforts, but would be satisfied with the student’s subsequent verbal report of what came out of the instrument.”

George Engel, after visiting 70 medical schools in North America


Use other one to one teacher

- Senior medical students, junior doctors, registrars, nurses, allied health professionals 모두가 잠재적인 교사라고 할 수 있다.






 2003 Mar 8;326(7388):543-5.

ABC of learning and teaching in medicine: one to one teaching and feedback.

Gordon J.






(출처 : http://www.nps.org.au/publications/consumer/medicines-talk/pre-2006/mt15/how-gps-keep-up-to-date-with-medicines)





가르치는 것이 배우는 것으로부터 분리되면서부터, 우리에게는 듣지 않는 선생님과 말하지 않는 학생만 남았다.

“By separating teaching from learning, we have teachers who do not listen and students who do not talk”

Based on Palmer P (The Courage to Teach. Jossey Bass, 1998)


- 소그룹으로 가르치게 되면 학생들이 더 활발하게 참여하고, 자신의 의견을 더 많이 내놓을 것을 기대하지만 실제로는 쉽사리 그렇게 되지 않는다. 많은 교수자들은 너무도 쉽게 권위자, 전문가, 주 발언자(prime talker)와 같은 원래의 방식으로 돌아가버리고 만다. 

- 그룹에서 커뮤니케이션이 잘 안되는 이유 중 하나는, 물리적 조건이 커뮤니케이션을 하기에 어렵게 되어 있기 때문이다. 


Problems associated with leading effective small groups

- The teacher gives a lecture rather than conducting a dialogue

- The teacher talks too much

- Students cannot be encouraged to talk except with difficulty; they will not talk to each other, but will only respond to questions from the tutor

- Students do not prepare for the sessions

One student dominates or blocks the discussion

- The students want to be given the solutions to problems rather than discuss them



Techniques for effective facilitation in group discussion

- Ensure that group members have an agreed set of ground rules—for example, not talking at the same time as another group member

- Ensure that the students are clear about the tasks to be carried out 

- When you present a question don’t answer it yourself or try to reformulate it—count to 10 silently before speaking again

- When you have something you could say (which could be most of the time), count to 10 again

- Look round the group both when you are speaking and when a student is speaking. That way the students will quickly recognise that they are addressing the group rather than just you. It will allow you to pick up cues from those who want to speak but are either a bit slow or inhibited


더 구조화시키고, 덜 끼어들라 (More Structure, Less Intervention)


그룹의 구조와 절차(Group Structure and Process)

- 가르치는 사람의 간섭을 최소화 하기 위해서는 좀 더 구조화시키고 조직화시켜야 한다. 예를 들면 다음과 같다.

= Students work individually for five minutes drawing up a list

= They share their ideas in pairs for 10 minutes

= In groups of four to six, students write up categories on a large sheet of paper

= This is followed by 25 minutes of open discussion among the groups.

- 이러한 상황에서 가르치는 사람이 해야 할 일은 돌아다니면서 모든 사람이 주어진 과제를 제대로 이해하고 있는지, 적절한 방법으로 하고 있는지를 확인하고 마무리할 시간이 되면 마무리짓기를 장려해주는 것 정도면 된다.


To encourage group interaction consider breaking a larger group into smaller groups of five or six students; organise membership on a heterogeneous or random basis to prevent cliques forming



- Group Round : 돌아가면서 한 사람씩 말하기. 더 흥미진진하게 만들려면 첫 사람이 두 번째 사람을 지목하고, 두 번째 사람은 세 번째 사람을 지목하는 식으로 하면 된다.


Group rounds are particularly useful at the beginning of any meeting so that everyone is involved from the start and, depending on what the group is asked to speak about, as a way of checking on learning issues


- Buzz group : 그룹이 크면 조금 작게 나눌 필요가 있다. 가르치는 사람은 학생이 아는 정도를 확인할 수 있고, 학생은 자신의 이해를 서로 체크해볼 수 있다. 또한 학생들은 혼자서는 말하기 어려운 주제에 대해서도 자신감을 가질 수 있다.






- Snowball group : buzz group의 확장판. 둘씩 모여 넷을 이루고, 넷씩 모여 여덟을 이룬다. 학생들을 반복되는 동일한 토론으로 지루하지 않게 하려면 그룹이 커질수록 더 어려운 주제를 줄 수 있다.






- Fishbowls : 안쪽의 그룹이 이야기를 하는 동안 바깥쪽의 그룹은 그 이야기를 듣는다.





- Crossover group : 작은 그룹으로 나눠져서 새로운 그룹을 만든다. 서로 정보를 나누는 방법.





- Circular questioning : 돌아가면서 질문을 한다. 모든 학생이 질문과 대답에 기여를 해야 하며, 그러고 나서 질문과 대답을 리뷰한다.





- Horseshoe group : 강의와 토론의 혼합된 형태







 2003 Mar 1;326(7387):492-4.

Teaching small groups.

Jaques D.









'Articles (Medical Education) > 교수법 (소그룹, TBL, PBL 등)' 카테고리의 다른 글

학습 자료 만들기  (1) 2013.06.17
일대일 교육  (0) 2013.06.17
Teaching large groups  (0) 2013.06.17
PBL의 효과 : systematic review  (0) 2013.06.14
Problem Based Learning (PBL)  (0) 2013.06.14












의료진간의 의사소통은 환자 케어의 질을 향상시키고 실수를 줄이는데 반드시 필요하다.

- Effective, easy communication between medical colleagues improves patient care and prevents errors.

Communication failure was a leading root cause of these events(= patient harm),1,2 responsible for 66% of reported sentinel events between 2011 and 2012.1

- Safe, effective intercollegial communication in health care requires a sophisticated skill set that encompasses relationship building, argument structuring, clinical synthesis, cultural competency, and professionalism.3


이러한 의사소통 향상을 위한 도구/기술로서 만들어진 것들이 있고, 연구도 많이 진행중이다.

The PACT (Patient assessment, Assertive communication, Continuum of care, Teamwork with trust) project demonstrates that standardization of the transition process improves nursing handovers.7

In the past few years, there has been an increasing amount of research seeking to enhance collaborative behavior and improve clinical communication skills amongst health care practitioners through the development of standardized communication tools.13–22 


최근 관심을 끄는 분야 중 하나가 '업무교대'이다.

- One area that has received specific attention recently is the “handoff”—the exchange that occurs when responsibility and authority over a patient’s care are transferred from one provider to another, for example, at shift change.9

- Many studies have examined paradigms for improving the safety of these care transitions by suggesting mnemonics and other models to decrease interprovider variability.17,20,21,23 One example is the “I-PASS” (Illness severity, Patient summary, Action list, Situation awareness and contingency planning, and Synthesis by receiver) model, which includes actions for both the provider who is leaving and the one arriving


그리고 타과의뢰(consultation)은 업무교대와 유사한 면이 있다.

mnemonics currently in use are too heterogeneous to allow for analysis of their efficacy.24

Consultations are similar to handoffs in that they are an exchange of patient data between two providers with a common goal of caring for a patient.



하지만 이렇게 서로 다른 점이 있다.

Consultation 

Handoffs 


- Traditionally, consultations occur when one provider seeks the formal recommendations of a specialist regarding the care of a patient.25 consultations call on different team members (sometimes newly recruited) to perform unique tasks, as in a baseball game 


- Their communications will inherently require more clarification and careful attention than do those between physicians in the same discipline.


- Consultations can occur at any timephysician may have limited time or other priorities, especially in highstakes environments such as emergency departments



- Handoffs are also more likely to occur at dedicated times, such as shift changes. 


- Doctors must quickly and effectively establish rapport, concisely convey patient data, and communicate a clear clinical question. 


- Communication is further complicated by the fact that many consultations take place over the phonewhich can present significant challenges in establishing rapport and ensuring that information is accurately heard and understood.26 







응급의학과로 온 환자 중 40%가 궁극적으로는 타과의뢰를 받게 되는데, 서로 다른 진료과 사이에는 업무 환경이나 훈련 과정, 사용하는 용어의 뉘앙스나 용어 자체의 차이가 있어서 어려움이 많다.

- Beaulieu et al,31 reports significant barriers to teaching family physicians and specialists to collaborate in the training environment due to the increasing distances between specialty and general medicine in the workplace and training arenas.


- Nearly 40% of patient encounters in the emergency department will ultimately result in consultation between an emergency physician and a physician colleague (e.g., cardiologist or surgeon).25,35


- A unique challenge of consultations is that they typically involve practitioners from different specialties, sometimes speaking different medical “languages” with nuanced differences in jargon, and coming from different medical cultural backgrounds. Moreover, differences in attitudes or actual management decisions





5C와 PIQUED model이 잘 정립된(evidence-based) 두 개의 모델이다.

- The key elements of “The Five Cs of Consultation” are Contact, Communication, Core question, Collaboration, and Closing the loop.27–29


- PIQUED model, which includes six items: Preparation before the encounter, Identification of involved parties (speaker, listener, and patient), Questions (clinical question; answering questions), Urgency of the request (e.g., emergent consultation versus arranging outpatient follow-up), Educational modifications (e.g., acknowledging the role of senior physicians in teaching junior ones), and Debriefing and discussions after the consultation request.


5C 모델은 주로 타과의뢰에 필요한 요소를 중심으로 서술하고 있으며, PIQUED 모델은 분명한 교육적 목적을 가지고 있어서 junior learner에게 교육하는 방법으로 사용하려는 목적으로 만들어졌다.

- The 5Cs model focuses on desired elements of a consultation, and the PIQUED model has an explicit educational focus and is intended to serve as a teaching method for improving junior learner consultations.

- The 5Cs model is currently the most evidence-based model for improving physician communication during emergency department consultations. A randomized, controlled trial with the consultation model as the educational intervention was performed to assess the effectiveness of the 5Cs model.28


- The PIQUED model expands on some of the elements present in the 5Cs model and allows specific focus on teaching and feedback. Therefore, the two models complement each other as a guide for learners performing consultations. 

- The 5Cs model has an emphasis on collegiality and the desired aspects of a consultation exchange, and the PIQUED model supplies more specific guidance and includes explicit room for educational engagement. 



하지만 앞으로 이러한 연구가 더 되어야 할 것이다.

1. Validate the 5Cs and PIQUED models in other health care settings

2. Integrate consultation models within educational curricula

Communication skills can clearly be improved with focused educational interventions

3. Explore the effects of clinical communication on patient outcomes

To date, there has also been a dearth of literature addressing patient outcomes as a result of improved communication between health care providers

4. Research the role of the consultant in effective consultations

Similarly, this is an opportunity or a call to action for further research concerning consultation and communication skills from the perspective of the receiving party—the consultant






 2013 Jun;88(6):753-8. doi: 10.1097/ACM.0b013e31828ff953.

I'm ClearYou're ClearWe're All ClearImproving Consultation Communication Skills in Undergraduate Medical Education.

Source

Dr. Kessler is deputy chief of staff, Durham VA Medical Center, Duke University, Durham, North Carolina. Dr. Chan is a resident, Division of Emergency Medicine, Department of Medicine, McMaster University, Hamilton, Ontario, Canada. Ms. Loeb is a medical student, College of Medicine, University of Illinois-Chicago, Chicago, Illinois. Dr. Malka is a resident, Department of Emergency Medicine, Department of Pediatrics, Indiana University, Indianapolis, Indiana.

Abstract

Requesting and providing consultations are daily occurrences in most teaching hospitals. With increased attention on transitions of care in light of the recent scrutiny of duty hours, consultations and other interphysician interactions, such as handoffs, are becoming increasingly important. As modern medicine increases in complexity, the skill of communicating with medical colleagues throughout the continuum of care becomes more challenging. Like many of the other skills acquired by medical students, consultation communication is often learned by casual observation and through trial and error. Without formal training, however, miscommunications will continue to occur, nearly ensuring that medical errors happen. Interphysiciancommunication skills, therefore, need to be emphasized in undergraduate and graduate medical education instead of being left to happenstance or hit-or-miss practice. In this article, the authors review two models for understanding and teaching the consultation process-5Cs and PIQUED-both of which were developed for specific subsets of learners. They then combine the two to create a consultation model that may be more widely applied.










시작하기에 앞서...(Getting your bearings)

- 맡은 부분이 전체 과정 중에서 어디에 속하는지를 알아야 한다.


강의를 하기 전에 확인해야 할 것들(What you need to know before planning a lecture)

- How your lecture fits into the students’ course or curriculum

- The students’ knowledge of your subject—try to get a copy of the lecture and tutorial list for the course

- How the course (and your lecture) will be assessed

- The teaching methods that the students are accustomed to


The successful teacher is no longer on a height, pumping knowledge at high pressure into passive receptacles . . . he is a senior student anxious to help his juniors. - William Osler (1849-1919)


Helping your students to learn

- Use concrete examples to illustrate abstract principles

- Give handouts of the lecture slides, with space to write notes

- Give handouts with partially completed diagrams and lists for the students to complete during or after the lecture

- Allow for pauses in the delivery to give students time to write notes

- Check for understanding by asking questions or by running a mini quiz


강의 계획하기

- 꼭 알아야 할 것(essential to know)과 알면 좋은 것(nice to know)를 구분하는 것이 중요하다.

- 강의의 목적이 분명하게 정의되어야 한다.(“what do I hope to achieve with this lecture?”)


강의 자료(방법) 선택하기

Choosing the medium for delivering the lecture

- Which teaching media are available at the teaching venue?

- Which teaching media are you familiar with? (It is not always appropriate to experiment with new media)

- Which medium will best illustrate the concepts and themes that you want to teach the students?

- Which medium would encourage students to learn through interaction during your lecture?


강의 들어가기

- 간략한 요약

- 새로 만나는 학생들과의 강의라면 기본이 되는 규칙을 정해두는 것도 좋다 (핸드폰은 꺼두세요, 질문은 언제든지 좋습니다)


유인물(Handouts)

- Handouts can encourage better learning if they allow students more time to listen and think

- Handouts should provide a scaffold on which students can build their understanding of a topic

- Handouts should provide a summary of the major themes while avoiding an exhaustive explanation of each

- Handouts can be used to direct further learning, by including exercises and questions with suggested reading lists


학생들과의 상호작용을 촉진하기

- 학생들은 직접 해봄으로써 잘 배운다.

- 학생들의 집중력은 강의가 시작되는 시점과 끝나는 시점에서 최고조를 찍는다.


- 학생들에게 질문하기

= 강의를 하는 사람은 많은 경우 질문을 던진 후의 침묵이 흐르는 시간이 두려워서 스스로 답을 말해버리는 실수를 하곤 하는데, 답이 나오기까지 기다려보라. 속으로 10까지 천천히 세는 것도 좋은 방법이다.

- 학생들로 하여금 질문하게 하기

= 둘이나 셋이 모여 질문을 준비하게 하라. 

-브레인스토밍

= 학생들이 기존에 알고 있는 지식 또는 현재 이해한 내용을 활성화시키는 방법이다.

-Buzz group

= 두 명에서 다섯 명 정도로 이뤄진 그룹을 만들게 하여, 질문을 하거나 문제를 풀게 하거기.

-Mini assessments





수업 마무리하기

- 수업을 마무리 할 때에는 키포인트를 요약해주는 것이 중요하다.


강의 평가

- "내가 어떻게 수업을 했지?" "학생들은 무엇을 배웠을까?"

- 학생들에게 평가하도록 하기









 2003 Feb 22;326(7386):437.

Teaching large groups.

Source

National University of Ireland, Galway, Republic of Ireland.




(출처 : http://simonkneebone.com/2013/02/01/evaluation-tool/)





평가의 목적(Purpose of evaluation)

- To ensure teaching is meeting students’ learning needs

- To identify areas where teaching can be improved

- To inform the allocation of faculty resources

- To provide feedback and encouragement for teachers

- To support applications for promotion by teachers

- To identify and articulate what is valued by medical schools

- To facilitate development of the curriculum


평가 vs 연구


연구 

평가 

 - Usually aimed at producing generalisable results that can be published in peer reviewed literature, 

 - Requires ethical and other safeguards


 - Generally carried out for local use and 

 - Does not usually require ethics committee approval.



 - May not become continuous if the answer to the question is found

 - Continuous process



커크페트릭의 4단계(Kirkpatrick’s four levels on which to focus evaluation*)

- Level 1—Learner’s reactions

- Level 2a—Modification of attitudes and perceptions

- Level 2b—Acquisition of knowledge and skills

- Level 3—Change in behaviour

- Level 4a—Change in organisational practice

- Level 4b—Benefits to patients or clients


*Adapted by Barr et al (see “Further reading” box)


교과과정을 계획하는 것에 있어서의 평가 (Evaluation in curriculum planning)

- 교과과정을 개발하는 시작 단계에서부터 평가가 계획되어야 함.

Evaluation should be designed at the start of developing a curriculum, not added as an afterthought. 

- 교육적 니즈가 정해지면, 첫 단계는 학습 성과를 정의하는 것이다.

When an educational need has been identified, the first stage is to define the learning outcomes for the curriculum. 

- 평가의 목표는 그 학습 성과와 연관이 있어야 하며, 분명한 언어로 표현되어야 한다.

The goals of the evaluation should be clearly articulated and linked to the outcomes. 



평가를 계획할 때 해야 할 질문(Questions to ask when planning an evaluation)

- What are the goals of the evaluation?

- From whom and in what form will data be collected?

- Who will collect and analyse data?

- What type of analysis, interpretation, and decision rules will be used and by whom?

- Who will see the results of the evaluation?


이상적인 평가의 특징(Characteristics of an ideal evaluation)

- Reliability

Validity

- Acceptability—to evaluator and to person being evaluated

- Inexpensiveness


평가의 비뚤림을 줄이기 위해서는 둘 이상의 그룹으로부터 정보를 모으라.

To reduce possible bias in evaluation, collect views from more than one group of people—for example, students, teachers, other clinicians, and patients


평가에 있어서의 학생의 참여(Participation by students)

- 능력(Competence) : 학생은 신뢰성과 타당성을 갖춘 정보원이다.

—Students can be a reliable and valid source of information. They are uniquely aware of what they can consume, and they observe teaching daily. They are also an inexpensive resource. Daily contact, however, does not mean that students are skilled in evaluation. Evaluation by students should be limited to areas in which they are competent to judge. 

- 주인의식(Ownership) : 평가에 대해서 완전히 집중(committed)하지 않는 학생에게서는 좋은 정보를 얻을 수 없다. 대개 평가의 결과는 일부의 학생에게만 영향을 주는 경우가 흔한데, 학생들에게 정보를 제공하는 것이 의미가 있는 일임을 확신시켜 줄 수 있어야 한다.

—Students who are not committed to an evaluation may provide poor information. They need to feel ownership for an evaluation by participating in its development. The importance of obtaining the information and the type of information needed must be explicit. Usually the results of an evaluation will affect only subsequent cohorts of students, so current students must be convinced of the value of providing data.

- 정보수집(Sampling) : 학생들이 자기의 시간이 존중받는다는 느낌이 들도록 해야 한다. 100명에서 얻으면 충분할 데이터를 굳이 300명으로부터 얻을 필요는 없다. 또한 익명성이 보장되어야 한다. 

—Students need to feel that their time is respected. If they are asked to fill out endless forms they will resent the waste of their time. If they become bored by tedious repetition, the reliability of the data will deteriorate. One solution is to use different sampling strategies for evaluating different elements of a curriculum. If reliable information can be obtained from 100 students, why collect data from 300?

Anonymity is commonly advocated as a guard against bias when information is collected from students. However, those who support asking students to sign evaluation forms say that this helps to create a climate of responsible peer review. If students are identifiable from the information they provide, this must not affect their progress. Data should be collected centrally and students’ names removed so that they cannot be identified by teachers whom they have criticised.

- 피드백(Feedback) : 평가의 결과를 학생들에게 알려주고, 그로 인해 어떤 것이 달라질 것인지도 알려줘야 한다.

—Students need to know that their opinions are valued, so they should be told of the results of the evaluation and given details of the resulting action.




Key points

Evaluation should:

- Enable strategic development of a curriculum

- Be a positive process that contributes to the academic development of a medical school

The goals of an evaluation should:

- Be clearly articulated

- Be linked to the outcomes of the teaching

When carrying out an evaluation:

- More than one source and type of information should be sought

- The results should be fed back to participants and details of the resulting action given

Learners need:

- To be involved in developing an evaluation

- To feel their time is respected

- To know their opinions are valued and acted on

Evaluators must:

- Act on the results of the evaluation to correct deficiencies, improve methods, and update content

- Repeat the process



평가의 분류





평가에 있어서 교수자(선생님)의 참여






 2003 Feb 15;326(7385):385-7.

ABC of learning and teaching in medicine: Evaluation.

Source

National University of Ireland, Galway, Republic of Ireland.




Conflict in New York

  • Medical School 병원 사이의 tension 가장 강력했던 곳은 1905년과 1910 사이의 뉴욕이었다.
    • Columbia Medical School Roosevelt Hospital
  • 1900년대 초에, Columbia 가장 뛰어난 Medical School 하나였다. 그러나 대부분의 학교와 같이 임상교육보다는 기초교육에서 좋은 모습을 보이고 있었다.
  • Roosevelt Hospital 여러 조건에서 Columbia 필요를 충족하는 병원이었고, Columbia 지리적으로나 시설적으로나 teaching hospital 되기에 적합해 보였다.
  • 이러한 이유로 Lambert 이끄는 Columbia RH clerkship 도입해달라는 제안을 하게 된다. 그러나 병원의 이사진은 이러한 제안을 거부하여 union 성립되지 않는다.
  • 이에 굴하지 않고 Columbia 다시 한번 협상을 시도한다. 추가적인 재정 지원까지 약속하였으나 RH 이사진은 다시 한번 제안을 거절하였다. 병원이 양보할 있는 수준은 trial 수준에서 소수의 clinical clerk 일단 받아보겠다는 정도였다.
  • 그러나 RH 이사진은 사실 clinical clerkship 받고자 하는 생각이 전혀 없었다. 그리고 거의 2년간 아무런 진전이 이뤄지지 않았다. 이에 Lambert Standard Oil 후원을 받아 150 수술병상과 $1,300,000 지원하겠다는 제안을 다시 한번 하게 된다.
  • RH 제안을 진지하게 받아들였으나, 결국 표결에서 표차로 제안을 거부하게 된다.
  • 사건으로 MS hospital 사이에 서로 다른 결과를 얻게 된다. Columbia Presbyterian Hospital union 맺고, 결국 병원은 후에 의학교육과 연구의 중심으로서 최고의 위치를 얻게 된다.
  • 후로 RH 점차 하락세를 걷게 되었고, Lambert 그들이 다른 자세를 취해도 관심을 갖지 않았으며, RH 여전히 어느 일정 수준 이상의 의료는 제공했지만, 국제적인 인지도를 얻을 기회는 영영 잃어버린 것이다.
  • RH 이사진은 Columbia와의 union 거절한 것일까? 그들은 ideology에서 근본적인 차이가 있었다. RH 19세기 병원의 전통적인 모습을 벗어나지 못하였고, 교육이나 연구에는 관심을 갖지 않았다. 간단히 말하면 이사진들은 병원을 charitable institution으로 보는 19세기 병원의 관점에 얽혀 있었던 것이다.
  • 반대로 말하면 RH medical board 이사진을 설득하지 못했다고 수도 있다.
  • Roosevelt Hospital 반대세력의 수장급이었던 McLane 저명한 physician이었으며, 또한  Lambert보다 앞서서 Columbia MS dean이었다는 사실은 상당히 아이러니하다.
  • McLane 반대가 Lambert와의 개인적인 불화 때문이라는 설도 있다. 하지만 그럴듯한 설명은 McLane professional background이다. 그는 번도 연구의 경험이 없었다. 그는 분명 때는 최고의 위치였지만, 미래의 인물로서는 부적합했던 것이다.
  • 이처럼 1900년대 초의 임상교육의 질은 기초교육보다 크게 뒤떨어져 있었다. 가장 중요한 이유는 MS 크고 시설이 병원에 대한 권한을 갖기가 어려웠다는 것이다. 결과로 임상교육은 점점 어려워지고 있었다.




Chapter 8. The Plight of Clinical Teaching

  • 1910년의 의학교육은 다른 심각한 문제를 안고 있었다. 임상 교육(Clinical teaching) 위한 환경이 열악했던 것이다. 매우 극소수의 학생만이 환자를 보는 경험을 있었다.
  • 임상교육에서의 이러한 문제는 MS들이 크고 시설이 되어있는 병원에 대한 권한을 갖지 못하는 데에서 기인했다. 그들은 clinical clerkship 도입할 없었고 clinical research 없었다. 병원이 없다는 것은 가장 중요한 제한 요인이었다. MS 병원의 관계가 재정립되기 전에는 이상의 발전은 불가능해보였다.

 

The Clinical Clerkship Struggles

  • 1910 이전에 미국의 의학교육은 균등하게 발전하지 않았다. 2년의 기초의학 교육은 어느 정도 자리잡았지만, 임상과목의 발전은 그에 미치지 못했다. 강의는 대부분 didactic 하였고, 실습의 기회가 적었다.
  • 가장 뛰어난 학교의 의학교육자들도 이러한 문제를 가지고 있었다.
  • 물론 Civil War 이후 상당한 발전이 있었던 것은 사실이다. 임상 과목을 배우는 시간이 늘어났고, Curriculum 바뀌었으며, 병원에 머물면서 환자를 보는 시간도 있었고, section teaching 통해서 학생들은 어느 때보다 환자들과 가까이 있었다.
  • 그러나 section method 자체로 심각한 결함이 있었는데, 바로 "learning by doing"이라는 원칙에 위배된다는 점이었다. Section teaching에서 환자들은 '학생이 보는 앞에서' care 받는 것이지 '학생에 의해서' care 받는 것이 아니었다. Section teaching 심하게 말하면 lecture보다 조금 나은 정도였다.
  • 이런 교육적 약점은 clerkship 통해서만이 극복될 있었다. Clerkship 하면 학생은 그냥 병동을 방문하는 대신, 학생들은 4명에서 6명의 환자를 배정받아서 환자 care 많은 시간을 쏟을 있었다.
  • 미국 임상교육의 이러한 문제는 clerkship 생존 여부였다. 몇몇 학교를 제외하고 clerkship 점차 소멸되어가고 있었다.
  • 1900 이후 약간의 희망의 빛이 비쳤는데, 많은 학교들이 학생들을 clinical clerk로서 일할 있게 기회를 주었던 것이다. 그러나 매우 일부 학생들만이 기회를 가질 있었고 affiliated hospital 선의에 기댈 밖에 없었기에 미래가 불투명했다.
  • 1900년대 초반, 일부 MS 외래환자 clinic에서 practical training 받을 있게 하였다. 그러나 진료소(dispensary) teaching 그저 임시방편일 뿐이었다. 교육에 필요한 기구조차 갖추어져 있지 않았다.
  • 따라서 Civil War 이후로 많은 개선이 이뤄졌음에도 불구하고 여전히 남아있는 불만족스러운 상황들을 숨길 수는 없었다. Flexner report에서 종종 잊혀지는 것은 report 미국 의학교육에서 특히 임상교육을 상당히 비판적으로 언급하고 있다는 것이다.

 

The Rift between Medical Schools and Hospitals

  • Clerkship 많은 이유로 고전중이었다. 극소수의 MS만이 teaching hospital 대한 권한을 가지고 있었고, MS 학생들이 clinical clerk으로 일할 있는지 없는지에 대한 결정권한이 없었다. 또한 MS affiliated hospital 어떤 의사를 고용할 것인지에 대한 권한도 없었다. 극소수의 MS만이 teaching hospital 대한 권한을 가지고 있었다(대표적으로 JHMS).
  • 1900년대 초반에, 뛰어난 teaching hospital 확보하는 것이 뛰어난 임상교육을 제공하는 것에 있어서 가장 관건이라는 것을 알게 되었다.
  • 역설적으로, 이러한 어려움은 병원을 의학 교육기관으로 오랫동안 사용해왔던 전통에도 불구하고 생긴 것이었다.
  • 원래 병원에서 담당하던 의학교육이 1890년대에 이상 modern medical education 적합하지 않다는 것이 확실해진 것이다. 19세기를 거치면서 병원들은 억지로 교육을 담당했고, 이사진(trustee)들은 그들이 의학교육에 참여하고자 하는 열정이 있다고 했지만, 이것은 굉장히 한정적인 의미였다. 적어도 clerkship 포함한 의미는 아니었다.
    • 산과(obstetrics)에서만 교육이 환자 관리와 연계되어 있었는데, 그것은 아직 까지만 해도 집에서 아이를 낳는 것이 흔한 일이었기 때문이다.
  • 어떻게 상황이 이렇게 되었는가를 알기 위해서는 미국 MS hospital 역사를 알아야 필요가 있다. 기관은 서로 분리되어 발전해왔다. 의학교육이 superficial하고 didactic 때에는 이러한 구도가 문제가 되지 않았다.
  • 그러나 Civil War 이후에, 균형이 무너지기 시작했다. 병원들은 이상 의학교육의 부속품으로 존재할 없었고, 병원은 clinical year 동안에는 Medical School이어야만 했다. 그러나 병원들은 이러한 변화를 완강히 거부했다.
  • 19세기 후반, 많은 MS 나은 임상시설을 확보하기 위하여 상당한 노력을 했다. 가지 방법은 병원을 짓는 것이었다. 일부 우수한 학교에서는 이러한 방법이 가능했다.
  • 그러나 WWI 이전에 성공적인 대학병원이라고 만한 곳은 많지 않았다. 대부분의 "university hospital" 자금의 부족으로 너무 작고, 시설도 부족했다.
  • 일부 university hospital 정도가 심각했다. Flexner 따르면 병원을 upgrade하는데는 너무나 거액의 돈을 필요로 했기 때문에 여전히 가르치기에도 부적합했고, faculty 고작 40에서 60개의 병상만을 관리할 뿐이었다.
  • University of Michigan Hospital 상황은 가장 역설적이었다. 곳에서의 임상 교육은 가장 조직화되었음에도 (특히 내과) Michigan 병원의 작은 규모와 지리적 불리함 때문에 운영할 기금이 적어서 모든 것이 좋게 돌아가고 있었다.
  • 비용의 문제로 인하여 많은 학교들은 아예 병원을 지으려는 생각조차 하지 않았다. 재정 문제가 scientific teaching뿐만 아니라 임상교육의 발전에도 가장 장애물이었던 것이다.
  • 이러한 어려움 때문에 많은 학교들은 다른 접근법을 시도했다. 이미 존재하는 지역 병원과 교육적으로 적절한 수준의 affiliation 맺으려고 했던 것이다. 하지만 병원 official들은 새로운 교육법에 대해서 적대적이었고, 그들의 시설을 제공하고자 하지 않았다.
  • 이에 굴하지 않고 일부 최고의 MS들은 꾸준히 affiliated hospital 찾아 나섰다. 하지만 그들의 노력은 그다지 성공을 거두지 못했다.
  • Tulane Medial School New Orleans에서 비슷한 어려움을 겪었다.
  • 따라서 이런 격렬한 시도에도 불구하고 많은 MS들은 1910 이전에는 거의 실망스러운 결과 뿐이었다. 병원들은 전혀 교육이나 연구를 그들의 책임이라 생각하지 않았기 때문에 이것은 마치 귀머거리에게 호소하는 것과 같은 모양새였다.



(Luis von Ahn: Massive-scale online collaboration)


어떻게 이 프로젝트가 시작되었는지 말씀드리겠습니다. 이 프로젝트는 다음과 같은 인식으로부터 출발했습니다. 

전 세계에 걸쳐 매일매일 약 대략 2억개의 CAPTCHA들이 입력됩니다. 

제가 처음 이러한 사실을 알게 되었을 때 저는 스스로가 제법 자랑스러웠죠. 

'내 연구의 영향력이 이 정도군!' 이렇게 생각했었죠. 

하지만 그리고는 바로 기분이 안 좋아졌습니다. 

이유는 이렇습니다. 매번 CAPTCHA를 입력할 때마다 10초의 시간을 사용한다고 하면, 

2억번의 CAPTCHA가 입력된다는 것은, 이 귀찮은 CAPTCHA입력 때문에

 전 인류적으로 매일 50만시간이 낭비하게 된다는 뜻이었기 때문입니다.



So let me tell you what this project started. So this project started from the following realization: It turns out that approximately 200 million CAPTCHAs are typed everyday by people around the world. When I first heard this, I was quite proud of myself. I thought, look at the impact that my research has had. But then I started feeling bad. See here's the thing, each time you type a CAPTCHA, essentially you waste 10 seconds of your time. And if you multiply that by 200 million, you get that humanity as a whole is wasting about 500,000 hours every day typing these annoying CAPTCHAs. So then I started feeling bad.



(출처 : http://www.ted.com/talks/luis_von_ahn_massive_scale_online_collaboration.html)









이런 것을 캡차라고 한다. 

이것을 사용하는 이유는 양식을 입력하는 주체가 컴퓨터 프로그램이 아니라 사람이라는 것을 확인하기 위해서









"기다리라고 해서(WAIT) 20분이나 기다렸는데 아무 일도 일어나지 않아요!!"








캡차를 발전시킨 것. 리캡차






카네기 멜론 대학에서 시작했었고, 그 후에는 신생회사가 되었는데, 그리고 나서 구글이 인수함






리캡차를 시작하게 된 계기






리캡차는 이렇게 두 개의 단어를 입력한다.








이런 곳에서 이미 리캡차를 사용하고 있음


리캡차는 기존에 광학문자인식(OCR)기술을 이용하여 

스캔한 책에서 문자를 추출해내던 것을 여러 사람이 나누어 하자는 의미이다. 



"그런데 웹페이지의 보안이 캡차에 의존하기 때문에 캡차를 그냥 버릴 수도 없지요 저는 그래서 캡차를 입력하는 시간을 인류를 위해 좋은 일을 하는데 쓸수 있을까 생각했죠. 자, 이런 생각을 해 보세요... 여러분이 10초 동안 캡차 문자열을 입력할 때 여러분의 뇌는 매우 어려운 일을 하고 있죠. 컴퓨터는 아직 그런 일을 못합니다. 어떻게 하면 여러분이 그 10초 동안 어떤 유용한 일을 할 수 있게 저희들이 도와드릴 수 있을까요? 다시 말하면, 아직까지 컴퓨터가 풀지 못하는 어떤 거창한 문제를 찾아 그것을 10초 단위의 작은 작업단위로 쪼개서 사람들이 캡차 질문에 답을 할때 마다 그 문제의 작은 부분을 해결하게 만드는 것이 가능할까요?그 질문에 대한 답은 "예" 이며 우리가 지금 하는 일이 바로 그겁니다.

여러분이 모르실지는 모르지만 요즘은 캡차 문자를 입력할 때 사람이 캡차 입력을 한다는 것을 증명할 뿐만이 아니라 저희들이 종이책을 디지털화하는 일을 실지로 도와줍니다. 자, 그럼 제가 좀 더 자세히 설명드리겠습니다. 책들을 디지털화하는 프로젝트는 많이 있습니다.구글, 인터넷 아카이브, 아마존 그리고 지금은 킨들도 종이책을 디지털화 하려고 노력하고 있습니다. 이런 작업은 주로 오래된 책으로 부터 시작됩니다. 그런것들 보셨죠? 책이라는 것 말이예요? (웃음) 처음에 하는 일은 책을 스캔하는 것이죠.

책을 스캔하는것은 책의 모든 페이지를 디지털 사진기로 찍는것과 비슷합니다. 그렇게 각 페이지의 이미지를 포착해서 그 책에 담긴 텍스트의 모든 이미지를 얻는 거죠. 다음 과정은 컴퓨터가 각 이미지에 있는 단어를 해독하는 것이지요. 우리는 텍스트의 이미지를 읽으며 무슨 글이 써있는지 판독해 주는 광학문자인식(OCR)이라는 기술을 이용합니다. 그런데 문제는 그 OCR 기술이 완벽하지 않습니다. 특히 잉크가 바래고, 페이지가 노랗게 변한 오래된 책은 OCR이 많은 단어를 인식하지 못합니다. 예를들어 50년이 넘은 책들은 컴퓨터가 대략 30%정도를 인식하지 못합니다. 그래서 우리가 지금 하고 있는 작업은 컴퓨터가 인식하지 못하는 모든 단어들을 모아서 여러분이 인터넷상에서 캡챠 문자를 입력할 때 사람들이 그런 문자를 읽게 합니다.

그래서 다음에 여러분이 입력하는 캡차 문자는 디지털화 하는 과정에서 컴퓨터가 인식하지 못했던 것이지요. 그런데 요즘엔 한단어 대신 두단어를 보여주는데 그중 하나는 컴퓨터가 디지털화하다가 판독하지 못했던 단어를 보여주는 것이지요. 그런데 컴퓨터는가 그 단어를 모르기 때문에 정답이 입력됐는지 모르죠. 그래서 컴퓨터는 자기가 답을 아는 다른 단어를 하나 더 화면에 보여줍니다. 그리고는 그냥 두 단어를 모두 입력하라고 하지요. 그래서 컴퓨터가 이미 알고 있는 단어에 대해 여러분이 정답을 입력하면, 여러분을 인간으로 인정하고 다른 단어도 옳게 입력했을거라는 자신을 어느정도 갖게 돼죠. 만약 이런 과정을 10명의 다른 사람들에게 반복하고, 10명 모두가 그 단어를 똑같이 읽으면 그 단어를 정확하게 디지털화 한 것으로 간주합니다.

캡차 시스템은 이렇게 작동합니다. 약 3, 4년 전에 저희들이 이 시스템을 소개한 이후 많은 웹사이트가 시간을 낭비하던 구형 캡차 시스템으로 부터 책을 디지털화하는데 도움을주는 신형 캡차 시스템으로 업그레이드 했지요. 예를들면, 티켓마스터도 업그레이드 했는데 그래서 거기서 표를 살때마다 여러분은 책을 디지털화하는데 도움을 주게됩니다. 페이스북에서는 친구를 추가하거나 누군가를 찜할때 마다 책을 디지털화하는데 도움을 주게 됩니다. 트위터와 약 35만개의 다른 사이트들도 신형 리캡차를 사용합니다. 사실 리캡차 서비스를 이용하는 사이트가 많아서 매일 디지털화되는 단어 수는 정말 엄청나게 많습니다. 일일 대략 1억개 정도가 되는데 이 숫자는 연간 250만권의 책들에 해당하는 숫자이죠. 이건 단순히 사람들이 인터넷상에서 리캡차 단어를 하나씩 입력해서 가능하게 된 것입니다."











많은 번역기들이 있지만 번역기를 돌리면 이렇게 엉터리 문장들이 나온다.





번역의 장애물.


(1)두 외국에어 모두 능통한 사람이 적다.

(2)번역을 할 동기가 없다.






외국어를 배우기 위해서 이렇게 많은 사람들이

이렇게 많은 돈을 쓰고 있다.






이러한 아이디어를 활용한 또 하나의 사업. 듀오링고.


외국어를 배우고 싶어하는 많은 사람들의 수요와, 번역을 필요로 하는 수요를 절묘하게 결합시킨 것.


자신의 외국어 수준에 따라서 번역을 해야 하는 문장을 제공받고,


제공받은 문장을 번역하면, 여러 사람의 번역 데이터가 쌓여서


결국에는 방대한 분량의 웹 페이지도 번역이 가능하다.











실제 컨텐츠로 공부할 수 있따는 장점이 있다.








이 정도로 정확하다.








영문 위키피디아를 스페인어로 번역하는데

백만명의 사람이 하면 80시간이면 가능하다.








교육에 대한 공정한 사업모델!






(http://www.ted.com/talks/michael_sandel_the_lost_art_of_democratic_debate.html)

Michael Sandel: The lost art of democratic debate 


흔히 우리는 정치적인 이슈를 다룰 때 도덕에 관한 질문을 너무 직접적으로 하면 

오히려 의견의 불일치, 불관용(intolerance), 강압(coercion)만 생길 것이라고 생각합니다. 

그러다보니 일상 생활과 관련된 도덕적 신념이나 종교적 신념에 대한 것도 피해버리거나 무시하죠. 

하지만 우리의 논의는 그 반대를 보여주고 있습니다. 


상호 존중에 이르는 더 나은 방법은 

개개인이 기저에 지닌 도덕적 신념을 정치적 영역으로 들여오지도 못하게 막는 것이 아니라, 

오히려 시민들이 자신의 도덕적 신념을 공공의 영역으로 드러내도록 하는 것입니다. 

저는 바로 이것이 민주적 토론이라는 기술을 되살리는 첫 걸음이라고 생각합니다.



So let's step back from these cases and see how they shed light on the way we might improve, elevate, the terms of political discourse in the United States, and for that matter, around the world. There is a tendency to think that if we engage too directly with moral questions in politics, that's a recipe for disagreement, and for that matter, a recipe for intolerance and coercion. So better to shy away from, to ignore, the moral and the religious convictions that people bring to civic life. It seems to me that our discussion reflects the opposite, that a better way to mutual respect is to engage directly with the moral convictions citizens bring to public life, rather than to require that people leave their deepest moral convictions outside politics before they enter. That, it seems to me, is a way to begin to restore the art of democratic argument.











1. 규율 : 감정에는 너그럽지만 행동에는 엄격하게

어떤 행동은 용납이 되고, 어떤 행동은 용납이 되지 않는지, 아이들은 명확하게 알고 있어야 한다. 부모의 도움 없이 아이들이 충동과 욕망을 행동에 옮기기란 어려운 일이다. 부모의 허락을 받을 수 있는 행동의 분명한 한계를 알게 되면, 아이들은 훨씬 더 안정감을 느낀다. 

2. 아이를 배려하면서도 부모의 의지를 관철시킨다.

1) 지혜의 출발점은 아이의 말에 귀를 기울이는 것이다.

2) 아이의 지각을 부정하지 말아야 한다. 

감정을 반박하지 말아야 한다. 소원을 무시하지 말아야 한다. 아이의 취미를 조롱하지 말아야 한다. 아이의 의견을 헐뜯지 말아야 한다. 아이의 인격을 훼손하지 말아야 한다. 아이의 경험에 대해 이러쿵저러쿵 하지 말아야 한다. 그 대신 이를 인정해야 한다.

인정이 꼭 찬성을 뜻하는 것은 아니다. 그것은 아이의 의견을 존중한다는 것을 보여줄 따름이다.

3) 비난하지말고 길잡이를 해주어야 한다.

4) 화가 날 때는 '나'라는 말로 시작하여 자기가 본 것, 느낀 것, 기대했던 것을 이야기하는 것이 좋다.

5) 아이들의 노력에 대해서 높이 평가한다는 점을 말해 주기 위해서 칭찬할 때는 그 특별한 행동을 언급해야 한다. 인격을 평가해서는 안 된다.

6) 현실에서는 허락할 수 없는 것을 상상 속에서는 허락하여, 거절하더라도 마음이 덜 아프게 하는 방법을 알아두는 것이 좋다.

7) 아이들의 삶에 영향을 미치는 문제들에 대해서는 그들에게 선택권과 발언권을 주는 것이 좋다.








앨리스 기너트(Alice Ginott) 박사 

옛체코슬로바키아 출생. 이미 세상을 떠난 하임 G. 기너트 박사와 함께 슬하에 두 딸을 두었고, 현재는 두 손자의 할머니이다. 심리학자이며, 전문심리치료사, 저자, 강사로 활동 중이다. 주 관심 분야는 언어를 통한 의사 소통이다. <생각이 건강한 아이로 키우는 방법>, <아이들의 슬픔을 덜어주는 방법>이라는 제목으로 칼럼을 연재하기도 했다. 

월리스 고더드(Wallace Goddard) 박사 

미국 유타 주 출생. 아내 낸시와 함께 슬하에 세 자녀를 두었고, 수 년 동안 20명의 입양아를 돌보았다. 현재 아칸소 주의 리틀 록에 살고 있다. 
아칸소 대학교 사회교육원에서 가족 생활 지도 전문가로 활동하고 있으며, 사회교육원 웹사이트에 글을 올리고 있다. <어린이를 위한 성공적인 길잡이(Guiding Children Successfully)>라는 제목의 텔레비전 프로그램에 출연하고 있다. 
강연 활동과 아울러 <가족 생활 교육(family life education)에 관한 교재를 집필 중이다. 



목차

제1장 아이와 대화 나누기 
제2장 말의 힘: 격려하고 이끌어주는 좋은 방법 
제3장 아이를 망치는 부모: 부모의 잘못 
제4장 책임감: 먼저 가치 있는 행동을 알려준다 
제5장 규율: 처벌을 대신할 효과적인 대안 
제6장 적극적으로 아이 키우기: 아이의 하루 
제7장 질투: 아이의 비극 
제8장 아이의 불만: 아이의 마음 안정시키기 
제9장 성과 인간: 예민하고도 중요한 주제 
제10장 요약: 아이를 올바르게 키우기 

부록_323 
부록 1 : 도움이 필요한 아이들 
부록 2 : 심리 치료사들은 자기 아이들을 어떻게 대하는가 

옮긴이의 말_347 


(출처 : http://www.kyobobook.com/product/detailViewKor.laf?ejkGb=KOR&mallGb=KOR&barcode=9788990220127)



                                   
                              (출처 : https://www.facebook.com/LeadershipThroughProblemBasedLearning)
                                             리더십과 학습은 불가분의 관계에 있다.


의사 역량과 관련한 의과대학에서의 PBL의 효과

The effects of problem-based learning during medical school on physician competency: a systematic review

Gerald Choon-Huat Koh MD MMed, Hoon Eng Khoo PhD, Mee Lian Wong MD MPH, David Koh MD PhD


배경 : 
의과대학에서 PBL이 졸업 이후에 의사로서의 역량에 어떠한 영향을 주는가를 종합적으로 분석하였다.




방법 :
MEDLINE, EMBASE, CINAHL, PsycINFO, Cochrane Database, 그리고 다섯 개의 주요한 의학교육학과 관련된 저널로부터 관련된 논문을 모았다. 그리고 그 중에서 (1)의과대학에서 PBL을 활용하면서 (2)졸업 후 대조군(전통적 방법의 교육과정)과 의사로서의 역량을 비교 평가한 것의 두 가지 조건을 만족시키는 논문을 선택하였다.




결과 : 
여러 논문을 분석하였을 때 자기 평가(self-assessed)와 다른 사람에 의한 평가(observed) 모두에서 중간~강력함(moderate~strong) 수준으로 나타난 것은 네 가지 역량이었다.
coping with uncertainty (strong), 
appreciation of legal and ethical aspects of health care (strong), 
communication skills (moderate and strong respectively) 
self-directed continuing learning (moderate).




해석 : 
의과대학에서 PBL을 활용한 교육은 졸업 이후 역량에 긍정적인 영향을 미치며, 
긍정적 효과가 나타난 영역은 대부분 사회적(social) 그리고 인지적(cognitive) 영역의 역량이다. 












 2008 Jan 1;178(1):34-41. doi: 10.1503/cmaj.070565.

The effects of problem-based learning during medical school on physician competency: a systematic review.

Source

Department of Community, Occupational and Family Medicine, Yong Loo Lin School of Medicine, National University of Singapore, Singapore. cofkohch@nus.edu.sg

Abstract

BACKGROUND:

Systematic reviews on the effects of problem-based learning have been limited to knowledge competency either during medicalschool or postgraduate training. We conducted a systematic review of evidence of the effects that problem-based learning during medical school had on physician competencies after graduation.

METHODS:

We searched MEDLINE, EMBASE, CINAHL, PsycINFO, Cochrane Databases, and the tables of contents of 5 major medical education journals from earliest available date through Oct. 31, 2006. We included studies in our review if they met the following criteria: problem-based learningwas a teaching method in medical schoolphysician competencies were assessed after graduation and a control group of graduates of traditional curricula was used. We developed a scoring system to assess the quality of the studies, categorized competencies into 8 thematic dimensions and used a second system to determine the level of evidence for each competency assessed.

RESULTS:

Our search yielded 102 articles, of which 15 met inclusion criteria after full text review. Only 13 studies entered final systematic analysis because 2 studies reported their findings in 2 articles. According to self-assessments, 8 of 37 competencies had strong evidence in support ofproblem-based learning. Observed assessments had 7 competencies with strong evidence. In both groups, most of these competencies were in the social and cognitive dimensions. Only 4 competencies had moderate to strong levels of evidence in support of problem-based learning for both self-and observed assessments: coping with uncertainty (strong), appreciation of legal and ethical aspects of health care (strong), communication skills (moderate and strong respectively) and self-directed continuing learning (moderate).

INTERPRETATION:

Problem-based learning during medical school has positive effects on physician competency after graduation, mainly in social and cognitive dimensions.







▷PBL은 문제를 푸는 것(Problem Solving)그 자체가 아니라, 적절한 문제를 사용하여 지식과 이해의 수준을 높이는 것이다



▷구성원



▷ PBL 시나리오 쓰는 법

How to create effective PBL scenarios*

- Learning objectives likely to be defined by the students after studying the scenario should be consistent with the faculty learning objectives

- Problems should be appropriate to the stage of the curriculum and the level of the students’ understanding

- Scenarios should have sufficient intrinsic interest for the students or relevance to future practice

- Basic science should be presented in the context of a clinical scenario to encourage integration of knowledge

- Scenarios should contain cues to stimulate discussion and encourage students to seek explanations for the issues presented

- The problem should be sufficiently open, so that discussion is not curtailed too early in the process

- Scenarios should promote participation by the students in seeking information from various learning resources

*Adapted from Dolmans et al. Med Teacher 1997;19:185-9



▷ PBL을 활용한 교육과정 개발하기

(Designing and implementing a curriculum module using PBL supported by other teaching methods)



▷Staff Development

PBL에서 다루는 내용에 대한 전공자가 아니더라도, 열정적이고, 커리큘럼을 잘 알고, facilitation에 대한 훈련을 잘 받은 tutor라면 좋은 Tutor가 될 수 있다.


▷PBL의 장점과 단점


 장점

단점 

Student centred PBL—It fosters active learning, improved understanding, and retention and development of lifelong learning skills


Generic competencies—PBL allows students to develop generic skills and attitudes desirable in their future practice


Integration—PBL facilitates an integrated core curriculum 


Motivation—PBL is fun for students and tutors, and the process requires all students to be engaged in the learning process 


“Deep” learning—PBL fosters deep learning (students interact with learning materials, relate concepts to everyday activities, and improve their understanding) 


Constructivist approach—Students activate prior knowledge and build on existing conceptual knowledge framework

Tutors who can’t “teach”—Tutors enjoy passing on their own knowledge and understanding so may find PBL facilitation difficult and frustrating 


Human resources—More staff have to take part in the tutoring process 


Other resources—Large numbers of students need access to the same library and computer resources simultaneously 


Role models—Students may be deprived access to a particular inspirational teacher who in a traditional curriculum would deliver lectures to a large group 


Information overload—Students may be unsure how much self directed study to do and what information is relevant and useful









ABC of Learning and Teaching in Medicine


 2003 Feb 8;326(7384):328-30.

Problem based learning.

Wood DF.




Curriculum Maps : 교육과정의 구성요소간의 관계를 보여주는 수단



The situational model, 

which emphasises the importance of situation or context in curriculum design




Example of a curriculum map from the students' perspective. 

Each of the boxes representing the elements of design can be broken down into further units

and each new unit can be related to the others 

to illustrate the interlinking of all the components of the curriculum






 2003 Feb 1;326(7383):268-70.

ABC of learning and teaching in medicine. Curriculum design.

Source

Office of Medical Education in the School of medicine at Flinders University, Adelaide, Australia.










이론에서 실천으로 (From Theory to Practice)



(1) Adult Learning Theory


성인학습 - 다섯 가지 가정 (Andragogy — five assumptions about adult learning)

 - 성인은 독립적이고 스스로 결정을 내린다

Adults are independent and self directing

 - 성인에게는 축적된 많은 경험이 있고, 학습에 있어 이것은 풍부한 자원이 된다.

They have accumulated a great deal of experience, which is a rich resource for learning

 - 학습의 가치는 일상생활에서 요구되는 상황과 통합되는 것에 있다.

They value learning that integrates with the demands of their everyday life

 - 과목 중심적인 접근보다는, 즉각적이고 문제 중심적인 접근에 관심을 갖는다.

They are more interested in immediate, problem centred approaches than in subject centred ones

 - 외부적 동력보다 내적 동기에 의해서 학습한다.

They are more motivated to learn by internal drives than by external ones


(2) 자기주도적 학습(Self-directed Learning)

 - 학습자가 가르침과 배움을 구성하는 것의 통제권을 갖는다.

Organising teaching and learning so that learning is within the learners’ control 

 - Philip Candy 

- 100 traits associated with self direction

- ability to be...

methodical and disciplined; 

logical and analytical;

collaborative and interdependent; 

urious, open, creative, and motivated; 

persistent and responsible; confident and competent at learning; 

reflective and self aware.


(3) 자기효능감(Self-Efficacy)

Albert Bandura : 자기 자신의 대처능력에 대한 판단에 따라 어떤 행동을 할 것인가가 달라진다.

people’s judgments of their own ability to deal with different situations is central to their actions

- 자기효능감이라고 불리는 이와 같은 판단은 정확할 수도 있고 틀릴 수도 있지만 다음의 네 가지 정보에 의해 달라진다. 

중요한 순서대로 나열하면 다음과 같다.

(1) 성과, 성취 : performance attainments, 

(2) 다른 사람 관찰 : observations of other people, 

(3) 언어적 설득 : verbal persuasion, 믿을 만한 사람으로부터 칭찬을 들으면 도움이 된다.

(4) 생리적 상태 : physiological state, 스스로의 불안감이나 초조함을 자신의 약점이 아닌 기대와 흥분으로 재해석 할 수 있어야 한다.



자기효능감 - 교수의 역할 (Self efficacy—roles for the teacher)

 - Modelling or demonstration

 - Setting a clear goal or image of the desired outcome

 - Providing basic knowledge and skills needed as the foundation for the task

 - Providing guided practice with corrective feedback

 - Giving students the opportunity to reflect on their learning


(4) 구성주의(Constructivism)

 - 구성주의

 - 구성주의의 기본 아이디어는, 학습자들은 그들이 원래 알고 있던 지식으로부터 새로운 지식을 "구성"해 나간다는 것이다. 이 이론은 학습자를 "수동적" 대상보다 "능동적" 주체로 본다. 


(5) 반성적 실천(Reflective Practice)

 - 반성적 실천에 대한 이론의 발전에는 주로 Donald Schön가 기여(attributed to)하였다.

 - 그는 전문가가 되기 위한 준비과정동안 얻은 이론적 지식이 실세 상황의 "지저분하고 불확실한(messy, indeterminate) 상황에는 잘 적용되지 않을 수 있다고 하였다. 

 - Schön 은 전문가들이 '자동적으로 수행(행위, 실천, 진료)를 하는 것을 professional “zones of mastery” 라 불렀다. 이것은 areas of competence 라고 할 수 있다.

 - 기대하지 못했던 상황이나 사건이 벌어지면 두 종류의 반성(Reflection)이 일어난다. 

하나는 "reflection in action"이다. (행동 중 반성). 이는 즉각적으로 일어나며 현재와 과거의 경험을 계속적으로, 창의적으로 적용시킴으로서 학습해나가고 발전해나가는 과정이다. 익숙하지 않은 사건이 일어나고 있는 동안에 이뤄지는 논리적 추론 과정이다. 


두 번째는 "reflection on action"이다. (행동 후 반성). 이는 조금의 시간이 지난 후 일어나며, 지난 상황에서 어떤 일이 일어났고(what happened), 그러한 의도치 않은 상황이 일어나게 된 이유는 무엇이고(what may have contributed to the unexpected event), 내가 취한 행동은 적절했는가(whether the actions taken were appropriate), 그리고 미래에 어떠한 영향을 줄 것인가(how this situation may affect future practice)에 대한  사고 과정이다. 




Reflection in action





ABC of Learning and Teaching in Medicine


 2003 Jan 25;326(7382):213-6.

Applying educational theory in practice.

Source

Learning and Instructional Development Centre at Simon Fraser University, Burnaby, British Columbia, Canada. dkaufman@sfu.ca






Early Fund Raising

  • 의학교육의 비용이 치솟는 동안, 1910 이전의 시기에, Medical School들이 그저 손을 놓고 있었던 것은 아니다. 1910년경 의학교육을 위한 확고한 재정적 기반을 마련하기 위한 움직임이 시작되었고, 비슷하게 미국 스타일의 Medical philanthropy 또한 형태를 갖추기 시작하였다.
  • Harvard등의 의학교육의 개혁에 앞장섰던 학교들은 fund raising에도 앞장서서 나섰다.
  • 비슷하게, U of Penn. 1877 개혁과 함께 프로그램을 위한 기부금 모집에 나섰다.
  • 1880년대와 1890년대에 일부 학교들은 (1)독지가(philanthropist)들의 도움으로 재정적 위기를 약간씩 완화해 나가기 시작했다.
  • 비교적 초기에 재정 지원을 받은 다른 학교로 Bellevue Hospital Medical College 있는데, Andrew Carnegie $50,000 학교에 기부했다. Carnegie 이러한 기부는 Bellevue hospital 받게 다른 기부의 서곡이기도 했다.
  • Cornell Harvard 가장 뛰어난 fund-raising 성공사례를 만들어냈다.
  • 1890년대 중반, Harvard Medical School 이미 시설을 넘어설 정도로 커져서 새로운 facility 절실히 필요로 하는 상황이 되었다. JP Morgan, John D Rockefeller, CP Huntington 미망인 등이 돈을 기부했는데, 이들은 의학연구의 발전에 크게 감명받았다고 하였으며, 이러한 Harvard 대한 기부를 통하여 좋은 이미지도 쌓았다.
  • Medical School official들의 사업가적 기질은 Fund-raising 성공에 기여를 했고, 자선가들의 입장에서는 진정으로 의학의 발전을 돕고자 면도 있으나, 그들은 대중에게 좋은 이미지를 구축할 수도 있었다. 무엇보다 그들을 악덕 자본가라고 생각했던 대중들로부터 그들의 부나 지위 등을 정당화할 있었다. 이들의 기부는 charity 라기보다는 philanthropy였다.
  • 초기의 medical philanthropy 체계적으로 이뤄지지 않았다. 시기의 Medical School들은 그들의 필요에 따라서 donor 찾아 다녔다. 이러한 모습은 자연과학의 fund raising 비슷했고, 이것은 그들의 '순수의 시대' 였다. 지원은 산발적으로 이뤄졌기 때문에 아직 누구도 그들이 지원을 통해서 연구의 방향을 좌지우지하고자 한다고 생각하지 않았다.
  • 1910 이전의 세대에서 Medical School 다른 중요한 fund source 찾았는데, 바로 (2)university affiliation이었다.
  • 그러나 university affiliation 맺는다고 해서 의학교육의 재정 문제가 자동으로 해결되는 것은 아니었다. 1910년에 의학교육은 이미 대학이 관여할 있는 수준에서 가장 돈이 많이 드는 교육이었다.
    • "Medical School 대학의 숨통을 쥐어짤 수도 있다"
  • 그럼에도 1910 진정한 의미의 University Medical School Medical School들은 그렇지 않은 Medical School들에 비해서 확실한 재정적 이득을 보고 있었다. 또한 대중들은 Medical school faculty 어떻든 이와는 무관하게 그저 Nonuniversity Medical School 그다지 호의적이지 않았다.
  • 1900년대 초반, 높은 수준의 비용으로 인해 independent school university school 이상 경쟁하기 힘든 상태가 되었다. Non-University Medical School 서로 동맹, 연합을 하든지, 아니면 사라지든지 하는 상황이 되었다.
  • 그렇지만 1910 이전에 여전히 재정 지원의 부족은 문제였다는 사실을 다시 상기할 필요가 있다. 강력한 University Medical School조차도 예외는 아니었다. 불안감은 팽배해 있었다.
  • 또한 초기의 medical funding 특성상 의학교육보다 의학연구에 대한 핸디캡이 컸다.
    • Medical School들은 건물이나 교육 시설에 대한 자금을 모집하는 데에는 비교적 성공적이었지만, salaries, endowments, 연구시설을 위한 자금 모집은 그렇게 성공적이지 못했다. 또한 연구라는 자체가 아직 그렇게 번영한 상태가 아니었다.
    • 재정적 한계로 인해서 의학교육의 발전에도 불구하고 academic medicine 미래는 여전히 불안해 보였다.
  • 그럼에도 medical philanthropy 터져나올 있는 여러 요건들은 상당히 발전하고 있었다. 전반적인 교육의 수준이 높아졌으며, elite medical school 전세계적으로 인정받기 시작했고, 대중들이 이러한 것을 인정하고 있었고, 미국의 전례없는 부의 축적이 진행중이었다. Philanthropist 늘었고, 대학이 강해졌으며, 공공보건에 대한 관심이 증가했다. 환경은 무르익었고, catalyst만이 필요한 상황이었다.




Chapter 7. Financial Woes

  • 19세기 후반의 의학교육자들은 현실적 어려움에 닥치게 되었다. 의학교육에 들어가는 비용이 상당했던 것이다.
    • Medical School 받은 기부금은 $500,000 정도였는데, 반면 신학대학은 $18,000,000 정도였다.
  • 의학교육에 드는 비용도 장난이 아니었는데, 의학연구에 드는 비용은 컸다.
    • Salaries, stipend, lab 운영자금 등등.
    • 1910 상황
      • 제대로 의학교육 : ~1/2 of Medical Schools
      • 제대로 의학연구 : <25 Medical Schools
  • 의학교육에 필요한 여러 가지 자원들이 1880년대 중반에 상당히 성장했지만, 자금의 유입만은 의학교육이나 의학연구를 뒷받침 만큼 충분하지 않았다.
    • 가장 최고 수준의 학교들조차 실험실의 과밀화로 고생하였고, 중간 이하 수준의 학교에서는 심하였다.
    • 하고자 하는 의지(intent) 없는 것은 전혀 아니었고, 단지 돈이 제한 요소였을 뿐이다.

 

The Rising Costs of Medical Edcucation

  • 1870년대 의학교육은 저렴했다.
    • 필요한 교수자의 수도 적었고, 공간은 작아도 괜찮았으며, 필요한 기구 도구는 거의 없었다.
  • 교수법에 있어서 Personalized method 도입되면서 Medical School financial demand 생겼다. 이러한 종류의 교육은 돈이 많이 드는 일이었다.
  • 개혁 초기부터 의학교육에 필요한 비용의 상승은 많은 야심에 찼던 Medical School까지 불안하게 만들고 있었다.
  • 1870년대와 1880년대의 비용은 그래도 적은 편이었다. 그러나 이후 해가 지나면서 의학교육에 들어가는 비용은 엄청나게 치솟았다.
  • 비용에 대한 Flexner 계산은 University Medical School이라는 특정한 일부 Medical School 대한 것이었지만, 사실 다른 방법도 가능했다. 이론적으로 좋은 교육은 'practical school' 통해서 수도 있는 것이었다. 이런 학교들이 필요로 하는 비용은 적을 것처럼 보이기도 한다. 하지만 문제는 이렇게 practitioner 대한 training 하는 학교들조차 재정적인 부담이 컸다는 사실이다.
  • 이렇게 의학교육의 비용이 상승하는 동안에도 수업료(tuition fee) 그만큼 오르지 않았다. 일반적으로 학교들은 학생 수를 제한해서 personalized instruction 지켜지고 있는 듯한 인상을 주고자 했다.
  • Tuition 거의 오르지 않았다는 사실은 딜레마를 가중시켰다. 괜찮은 의학교육을 위해 드는 비용은 fee로만 확보할 있는 돈보다 배는 컸다.
  • 1880년대 이후 많은 faculty들이 새로운 시설을 짓고 운영 자금을 대기 위한 펀드를 모집하면서 많은 Medical School 재정적 상황은 좋아졌다.
  • 그렇지만 20세기 초반 Medical School들이 필요로 하는 비용을 대기에는 여전히 한참 부족했다.
    • 상위 10개의 학교들조차 그들이 하고자 하는 목표를 이루기에는 자금이 부족했다.
  • 자금의 부족은 의학교육자들을 무척 좌절시켰다.
    • " 있는 내에서 최선을 다해야 하는 것이 지금 우리의 상황이다"
  • 모든 학교가 자금 문제로 고민했던 것은 아니다. Ch4에서 언급한 것처럼 학교별 차이가 상당했다.
    • 학교의 열망이 클수록, 그들이 가진 불안감도 컸다. 사실상 모든 Tier 1~ Tier 5 학교가 끊임없이 고민과 좌절에 부딪혔다.
  •  1900년대 초에, 심지어 최고의 학교들조차 자금의 부족 호소했다.
    • "만약 적절한 지원이 이뤄지지 않는다면 학교는 점차 퇴보하게 것이다"
  • Elite Medical School중에서 Columbia 상황이 가장 좋지 않았다.
    • 1903, school official들은 구체적으로 어떤 것이 필요한지를 언급하였다. 5 , 새로운 입학 요건이 도입되었지만 자금의 부족으로 실제적으로 어떠한 진전이 이뤄진 것은 아니었다.
  • 이런 문제는 Tier 3 학교들도 마찬가지였다. 재정적 무능력에 대한 불평은 끊이지 않았다.
  • Tier 4, Tier 5 학교에서도 재정적 문제로 Standard 향상시키고자 하는 시도는 좌절되었다. 학교들의 목표는 훨씬 낮았음에도 불구하고, 그들도 비슷한 수준의 실망을 겪을 밖에 없었다.
  • 재정적 난관은 흑인 Medical College에서 심각했다. Black school 많은 지원이 필요했음에도 독지가들에게 무시당하기 일쑤였고 Jim Crow(흑인 차별 정책)으로 인해서 상황은 악화되었다. WWI 이후 북부의 학교들은 흑인 학생을 받았지만, 막상 병원에서는 인턴으로 고용되지 못하고 거절당하는 일이 흔했다.
  • 1900년대 초반에, 많은 문제들이 아직 해결되지 않은 상태였고, 대부분은 돈이 없는 것이 문제였다. 깊은 불만족이 faculty 사이에서 만연했다



보스(Boss)와 리더(Leader)

(출처 : http://imgur.com/Sm3blE2




 "리더쉽은 카리스마 있는 소수의 몇몇 갖추고 있는 것이어서는 안된다.

리더쉽이란 평범한 사람들이 그들 자신들로부터 최고의 것을 만들어내는 과정이다"


"Leadership is not the private reserve of a few charismatic men and women. 

It is a process that ordinary people use 

when they are bringing forth the best from themselves and others"


(출처 : Ludmere, K. M. "Time to Heal." (1999). p. 394)




(출처 : http://linked2leadership.com/2009/01/26/seeking-feedback/)


  • 의학교육의 연구 주제로 Feedback seeking behavior 다루기 시작한 것은 비교적 최근의 일이다.
    • Organizational and social psychology에서는 제법 오래된 주제.
  • Feedback 찾는 동기는 다음과 같은 것들이 있다.
    • Motives are shaped by personal characteristics, situational circumstances, and perceived benefits and costs.4,5
  • Bok et al
    • Fatigue, accessibility of supervisor, safety of the learning environment 영향을 미친다.
    • 피드백에 대한 불안감이나 주저함은 피드백에 대한 안좋은 경험이 있어서 그런 것일 수도 있다.
    • 학생들은 supervisor good communicator이거나 supervisor student 오랜 시간 같이 일한 적이 있을 feedback 찾는다.
  • Pilgrim EAM
    • Trainee performance 대한 feedback 어떨지 걱정한다.
      • 그러나 이러한 fear feedback 효과적인 학습과 competence 증진에 도움이 된다고 느낄 극복될 있다.
    • 피드백 제공자는 관찰과 피드백에 대한 계획을 주도적으로 세운다거나 롤모델의 역할을 함으로서 피드백에 대한 두려움을 극복할 있게 도움을 있다.
    • self-reflection 피드백을 받기 전에 facilitative effect 있다.
      • (A somewhat similar effect emerged in our research, in which we found a facilitative effect from self-reflection on performance prior to receiving feedback.)

 

  • 피드백을 받은 사람은 feedback beneficial effect 완전히 이해하지 않았더라도 feedback 진행해야 한다. feedback processing이야말로 교육적 개입이 효과를 발휘할 있게 만들어주는 타겟이다.
    • Apparently(듣자하니), recipients need to process feedback before they are ready to assimilate its beneficial effects for learning, performance and practice. Feedback processing thus may be a fruitful target of educational interventions.

 

  • Feedback provider 중요하다.
  • Crommelick et al
    • 리더십 스타일은 조직심리에서 가장 많은 관심을 받은 분야 하나이다.

  • FEEDBACK PROVIDER SEEKER 관계가 FEEDBACK SEEKING 긍정적인 영향을 있다.





 2013 Mar;47(3):225-7. doi: 10.1111/medu.12128.

How can medical education benefit from the evidence on learners seeking and using feedback?

Source

e.pelgrim@elg.umcn.nl





(출처 : http://startistics.com/2011/06/8-the-serpent/)

- 아스클레피우스의 지팡이(staff)와 헤르메스의 지팡이(Caduceus)의 차이 -




The following chart lists the approved specialty and subspecialty certificates in which the ABMS Member Boards can offer certification.

General Certificate(s)Subspecialty Certificates
American Board of Allergy and Immunology
Allergy and ImmunologyNo Subspecialties
American Board of Anesthesiology
Anesthesiology

Critical Care Medicine
Hospice and Palliative Medicine
Pain Medicine
Pediatric Anesthesiology 1
Sleep Medicine

American Board of Colon and Rectal Surgery
Colon and Rectal SurgeryNo Subspecialties
American Board of Dermatology
DermatologyDermatopathology
Pediatric Dermatology
American Board of Emergency Medicine
Emergency MedicineEmergency Medical Services2
Hospice and Palliative Medicine
Internal Medicine-Critical Care Medicine
Medical Toxicology
Pediatric Emergency Medicine
Sports Medicine
Undersea and Hyperbaric Medicine
American Board of Family Medicine
Family MedicineAdolescent Medicine
Geriatric Medicine
Hospice and Palliative Medicine
Sleep Medicine
Sports Medicine
American Board of Internal Medicine
Internal Medicine

Adolescent Medicine
Adult Congenital Heart Disease3
Advanced Heart Failure and Transplant
    Cardiology
Cardiovascular Disease
Clinical Cardiac Electrophysiology
Critical Care Medicine
Endocrinology, Diabetes and Metabolism
Gastroenterology
Geriatric Medicine
Hematology
Hospice and Palliative Medicine
Infectious Disease
Interventional Cardiology
Medical Oncology
Nephrology
Pulmonary Disease
Rheumatology
Sleep Medicine
Sports Medicine
Transplant Hepatology

American Board of Medical Genetics

Clinical Biochemical Genetics*
Clinical Cytogenetics*
Clinical Genetics (MD)*
Clinical Molecular Genetics*

Medical Biochemical Genetics
Molecular Genetic Pathology

American Board of Neurological Surgery
Neurological SurgeryNo Subspecialties
American Board of Nuclear Medicine
Nuclear MedicineNo Subspecialties
American Board of Obstetrics and Gynecology
Obstetrics and GynecologyCritical Care Medicine
Female Pelvic Medicine and
     Reconstructive Surgery1
Gynecologic Oncology
Hospice and Palliative Medicine
Maternal and Fetal Medicine
Reproductive Endocrinology/Infertility
American Board of Ophthalmology
OphthalmologyNo Subspecialties
American Board of Orthopaedic Surgery
Orthopaedic SurgeryOrthopaedic Sports Medicine
Surgery of the Hand
American Board of Otolaryngology
OtolaryngologyNeurotology 
Pediatric Otolaryngology
Plastic Surgery Within the Head and Neck
Sleep Medicine
American Board of Pathology
Pathology-Anatomic/Pathology-Clinical*
Pathology - Anatomic*
Pathology - Clinical*

Blood Banking/Transfusion Medicine
Clinical Informatics1 
Cytopathology
Dermatopathology
Neuropathology
Pathology - Chemical
Pathology - Forensic 
Pathology - Hematology
Pathology - Medical Microbiology
Pathology - Molecular Genetic
Pathology - Pediatric

American Board of Pediatrics
PediatricsAdolescent Medicine
Child Abuse Pediatrics
Developmental-Behavioral Pediatrics
Hospice and Palliative Medicine
Medical Toxicology
Neonatal-Perinatal Medicine
Neurodevelopmental Disabilities
Pediatric Cardiology
Pediatric Critical Care Medicine
Pediatric Emergency Medicine
Pediatric Endocrinology
Pediatric Gastroenterology
Pediatric Hematology-Oncology
Pediatric Infectious Diseases
Pediatric Nephrology
Pediatric Pulmonology
Pediatric Rheumatology
Pediatric Transplant Hepatology
Sleep Medicine
Sports Medicine

American Board of Physical Medicine and Rehabilitation
Physical Medicine and RehabilitationBrain Injury Medicine4
Hospice and Palliative Medicine
Neuromuscular Medicine
Pain Medicine
Pediatric Rehabilitation Medicine
Spinal Cord Injury Medicine
Sports Medicine
American Board of Plastic Surgery
Plastic SurgeryPlastic Surgery Within the Head and Neck
Surgery of the Hand
American Board of Preventive Medicine
Aerospace Medicine*
Occupational Medicine*
Public Health and General Preventive Medicine*

Clinical Informatics1
Medical Toxicology
Undersea and Hyperbaric Medicine

American Board of Psychiatry and Neurology
Psychiatry*
Neurology*
Neurology with Special Qualification 
     in Child Neurology*
Addiction Psychiatry
Brain Injury Medicine4
Child and Adolescent Psychiatry
Clinical Neurophysiology
Epilepsy2
Forensic Psychiatry
Geriatric Psychiatry
Hospice and Palliative Medicine
Neurodevelopmental Disabilities
Neuromuscular Medicine
Pain Medicine
Psychosomatic Medicine
Sleep Medicine
Vascular Neurology
American Board of Radiology
Diagnostic Radiology*
Interventional Radiology and Diagnostic Radiology*3
Radiation Oncology*
Medical Physics*
Hospice and Palliative Medicine
Neuroradiology
Nuclear Radiology
Pediatric Radiology
Vascular and Interventional Radiology
American Board of Surgery
Surgery*
Vascular Surgery*
Complex General Surgical Oncology4
Hospice and Palliative Medicine
Pediatric Surgery
Surgery of the Hand
Surgical Critical Care
American Board of Thoracic Surgery
Thoracic and Cardiac SurgeryCongenital Cardiac Surgery
American Board of Urology
UrologyFemale Pelvic Medicine and
     Reconstructive Surgery1
Pediatric Urology

*Specific disciplines within the specialty where certification is offered.
1Approved 2011; first issue 2013.
2Approved 2010; first issue 2013.
3Approved 2012; first issue to be determined.
4Approved 2011, first issue to be determined.



(출처 : http://www.abms.org/who_we_help/physicians/specialties.aspx)



(출처: http://history.library.ucsf.edu/theme_photo5.html)



Commentary: Understanding the Flexner Report

Flexner 입장

  • 의학적 실증주의(Medical positivism)
    • 플렉스너는 의학을 일반적 생물학 법칙을 따르는 실험학문이라 했다.
      • Flexner described medicine as an experimental discipline governed by the laws of general biology.
    • “It [the human body] is put together of tissues and organs, in their structure, origin and development not essentially unlike what the biologist is otherwise familiar with; it grows,  reproduces itself, decays, according to general laws.”1(p53)
  • 입학 요건 강화(Rigorous entrance requirements)
    • 플렉스너는 "이렇게 대충대충 교육받지도 못한 학생을 뽑아서는 실험실 교육과 임상실습 교육이 불가능하다"라고 했음.
      • A medical school, Flexner wrote, “cannot provide laboratory and bedside instruction on the one hand, and admit crude, untrained boys on the other.”1(p22)
  • 과학적 방법론(The scientific method)
    • 플렉스너가 말한 '과학적 방법'이란 어떤 아이디어를 정교한 실험으로 검증하여 정확한 사실(fact) 밝히는 것이다.
      • Flexner pointed out that the scientific method of thinking applied to medical practice. By scientific method, he meant the testing of ideas by well-planned experiments in which accurate facts were carefully obtained.
    • “The practicing physician and the ‘theoretical’ scientists are thus engaged in doing the same sort of thing, even while one is seeking to correct Mr. Smith’s digestive aberration and the other to localize the cerebral functions of the frog.”1(p92)
  • 행동에 의한 학습(Learning by doing)
    • "교육학적 측면에서, 근대 의학은 다른 모든 과학과목과 같이 '직접 해보는 '이어야 한다. 학생은 단순히 보고, 듣고, 암기하기만 해서는 된다"
      • “On the pedagogic side,” he wrote, “modern medicine, like all scientific teaching, is characterized by activity. The student no longer merely watches, listens, memorizes; he does.”1(p53) Flexner’s scorn for didactic instruction pervaded the report.
  • 연구(Original research)
    • Original research was a core activity at Flexner’s model medical school.
    • “Research, untrammeled by near reference to practical ends, will go on in every properly organized medical school; its critical method will dominate all teaching whatsoever.”1(p59)
    • To Flexner, the best teachers were usually “men of active, progressive temper” engaged in research; those uninterested in solving problems tended to be “perfunctory teachers.”1(p56)

 

Flexner report 대한 오해와 진실

Flexner 전에는 미국 의학교육에 아무 일도 변화도 없었다? No!

  • 이미 이전부터 변화는 시작되고 있었다.
    • Myths concerning Abraham Flexner abound. The most common myth is that little or nothing had happened in American medical education until Flexner arrived on the scene.

Flexner scientific medicine 강조했다? No!

  • Flexner "과학만으로 전문가적 진료의 기반을 다질 없다. 임상을 하는 사람은 통찰력(insight) 공감능력(sympathy) 있어야 한다." 했다.
    • The report itself has frequently been misunderstood. Because of its strong emphasis on scientific medicine, it has often been accused of ignoring the doctor–patient relationship and the humane aspects of medical care. Exactly the opposite was the case.
    • Science, Flexner wrote, was “inadequate” to provide the basis of professional practice The practitioner needs “insight and sympathy,” and here specific preparation is “much more difficult.”1(p26)
    • He wrote in 1925, “Scientific medicine in America—young, vigorous and positivistic—is today sadly deficient in cultural and philosophical background.”7(p18)

예방의학(Preventive medicine) 중요성을 무시했다? No!

  • "의사의 역할은 개인적/치료적 이라기보다는 사회적/예방적 이어야 한다."
    • Another common misperception is that the report denigrates the importance of preventive medicine “the physician’s function is fast becoming social and preventive, rather than individual  and curative.”1(p26)

빡빡하고 뻣뻣한 커리큘럼의 시초다? No!

  • "엄격한(iron-clad) 커리큘럼으로서 의학교육을 향상시키고자 하는 것은 전적으로 실수다."
    • Many have faulted the Flexner Report for fostering a crowded, inflexible curriculum Medical schools, he argued, must be trusted “with a certain amount of discretion.”1(p76) He believed that “the endeavor to improve medical education through iron-clad prescription of curriculum or  hours is a wholly mistaken effort.”1(p76)

의학교육 개혁의 Final document일까? No!

  • " 보고서의 해결책은 현재와 그리고 길어야 30 정도의 가까운 미래에 대한 것일 뿐이다"
  • Contrary to widespread popular opinion, the Flexner Report was not envisioned by its author as a final document. “This solution,” he wrote, “deals only with the present and the near future,—a generation, at most.


배울

He was uncompromising in his view that medicine is a public trust and that the profession and its educational system exist to serve.

These values, he argued, are timeless, regardless of the professional and social circumstances of the moment.

By and large, medical educators since his time have taken this message to heart. We certainly have done our best work in pursuit of this goal. An unswerving commitment to excellence and service—this was and continues to be Flexner’s gift to medical education and the medical profession.







 2010 Feb;85(2):193-6. doi: 10.1097/ACM.0b013e3181c8f1e7.

CommentaryUnderstanding the Flexner report.

Source

Department of Medicine, Washington University School of Medicine in St. Louis, St. Louis, Missouri 63110, USA. kludmere@dom.wustl.edu


(출처 : http://www.physiciansweekly.com/remediation-attrition-surgery-residents/)




임상에서 힘들어하는 전공의(resident, 레지던트)에게 어떻게 해줘야 할까?

- 그저 똑같은 것을 한번 더 가르치는 것은 이제 그만!! -


  • Remediation for struggling learners: putting an end to ‘more of the same’
    • Cleland et al :
      • 많은 remedial intervention 있어서 이론적 근거가 없다. 그냥 '같은 ' '' 주는 뿐이다.
      • Control-value theory에서 말하는 바와 같이 어려움을 겪는 학생을 빨리 찾아내서 remediation 일찍 제공하는 것이 underperforming undergraduate 저조한 결과=>나쁜 피드백=>낮은 자기효능감=>동기 저하의 반복되는 사이클을 겪으며 underperforming doctor 되는 것을 막는 방법이다.


In the control-value theory, achievement emotions are defined as emotions tied directly to achievement activities or achievement outcomes. Achievement can be defined simply as the quality of activities or their outcomes as evaluated by some standard of excellence (Heckhausen, 1991).

It is based on the premise that appraisals of control and values are central to the arousal of achievement emotions, including activity-related emotions such as enjoyment, frustration, and boredom experienced at learning, as well as outcome emotions such as joy, hope, pride, anxiety, hopelessness, shame, and anger relating to success or failure

  • Mitchell C, 2013
    • 성과가 낮은 의사들이 자신들을 평가할 평가자를 고를 기회가 있을 , 점수를 같은 사람을 고르는 maladaptive learning strategy 익힌다.
  • Audetat et al : clinical reasoning difficulty 겪고 있는 레지던트에게 제공되는 remedial action residency 대한 구조적인 측면(일의 양을 줄여주는 )이었지, difficulty 근원에 대한 구체적인 진단에 따른 것이 아니었다.
  • Hesketh et al : 훌륭한 임상 선생님에게는 적절한 접근법 역시 필요하다.
  • The Department of Family and Emergency Medicine at the University of Montreal의 사례
    • 레지던트 보충(remediating)교육을 하는 선생님들을 지원하기 위한 전략을 개발(Developed a multidimensional strategy to support clinical teachers in remediating residents.)
    • This strategy consists of four prongs:
      • 기관적 차원의 과정 도입 : implementing institutional procedures with regard to remediation plans and followup;5,6
      • 선생님들에게 개념틀(conceptual framework) 실제적인 이론(empirical finding)제공 : introducing clinical teachers to conceptual frameworks and empirical findings from the literature through accessible and targeted papers;
      • 임상추론 과정에서 겪게 되는 다양한 여러움들에 대한 진단 개입방법에 대한 가이드 제공 :  developing a guide to the diagnosis and remediation of different types of clinical reasoning difficulty,7
      • 교수자 중심의 교수개발 프로그램 제공 : providing teacher-centred faculty development.
    • Altogether these strands amount to no less than a cultural8 and organisational change,9 which should help clinical teachers to act effectively, based on wellgrounded educational scripts,10 with a strong sense of ‘being

clinical educators’,11 which ultimately should improve outcomes for learners.

 

  • 비록 remediation 후에 나아지지 않았더라도, trainee 프로그램에서 exclude되는 과정을 촉진시키기만 것으로도 그것은 성공했다고 있다. Underperforming learner 계속 놔두는 것은 clinical teacher 지치게(wearing down)한다.
    • Struggling learner struggling teacher 유발한다.

  • Faculty development learners in difficulty 관한 문제에서 중요하다.






 2013 Mar;47(3):230-1. doi: 10.1111/medu.12131.

Remediation for struggling learnersputting an end to 'more of the same'.

Source

Department of Family and Emergency Medicine, Faculty of Medicine, Université de Montréal, Canada. mcaudetat@sympatico.ca

 



(출처 : http://blog.questionmark.com/webinar-using-the-angoff-method-to-set-cut-scores)




배경 : 교육을 시킬 때, '인정해줄 수 있는(합당한, acceptable)' 수준의 역량에 대한 기준을 세워야 한다. 이러한 '기준을 정하는 것'에 있어 지난 30년간 Angoff method라는 focus-group approach가 널리 활용되어 왔다. Angoff method는 도입하기가 쉽고 약간의 훈련을 하면 초심자도 활용할 수 있다. 



Kick-off 질문

 - 시험 응시자가 최소한의 역량을 갖췄는지를 어떻게 알 수 있을까?

 - 시험에서 '커트라인(passing score)' 이란 무엇일까?

 - 당신이 정한 커트라인(passing score)를 법정에서 변호할 수 있겠는가?


타당성/신뢰성

 - 다음의 두 가지 기준을 갖춰야 법적으로 변호가능한(legally defensible) 시험이라 할 수 있다.

 (1) Validity(타당성) : 학생들이 알아야 한다고 생각하는 내용을 테스트하는가 (시험문제가 학습목표와 맞아야(align))

 (2) Reliability(신뢰성) : 시험이 일관된 결과를 내도록 되어있는가 (같은 학생에게 반복적으로 그 시험을 보게 하더라도 같은 결과가 나와야)



"“…keeping the hypothetical ‘minimally acceptable person’ in mind, one could go through the test item by item and decide whether such a person could answer correctly each item under consideration.” 


“… ask each judge to state the probability that the ‘minimally acceptable person’ would answer each item correctly.”



Angoff Method

 - Angoff Method는 "최소한의 자격을 가진 응시자(minimally acceptable person)"이 특정 문제를 맞출 확률(how often)이 얼마나 될지를 정하는 과정이다.

 - 일정 패널의 전문가들이 "최소한의 자격을 가진 응시자"가 특정 문제를 맞출 가능성을 추정하고, 그 추정치에 대한 평균치를 구하고, 그 평균치로 커트라인을 정한다. 

 - 다음과 같은 단계로 이뤄진다.

1. 평가자 선정(Select the raters.)

2. 시험 응시(Take the assessment.)

3. 문항 평가(Rate the items.)

4. 평가 검토(Review the ratings.)

5. 커트라인 결정(Determine the cut score.)





(출처 : https://www.questionmark.com/us/seminars/Documents/webinar_angoff_handout_may_2012.pdf)







참고 : 기준선 정하기



 문항 중심(Item-centered studies)

 응시자 중심(Person-centered studies)

 The Angoff approach is very widely used.[1] This method requires the assembly of a group of subject matter experts, who are asked to evaluate each item and estimate the proportion of minimally competent examinees that would correctly answer the item. The ratings are averaged across raters for each item and then summed to obtain a panel-recommended raw cutscore. This cutscore then represents the score which the panel estimates a minimally competent candidate would get. This is of course subject to decision biases such as the overconfidence bias. Calibration with other - more objective - sources of data is preferable.


Rather than the items that distinguish competent candidates, person-centered studies evaluate the examinees themselves. While this might seem more appropriate, it is often more difficult because examinees are not a captive population, as is a list of items


For example, if a new test comes out regarding new content (as often happens in information technology tests), the test could be given to an initial sample called a beta sample, along with a survey of professional characteristics. The testing organization could then analyze and evaluate the relationship between the test scores and important statistics, such as skills, education, and experience. The cutscore could be set as the score that best differentiates between those examinees characterized as "passing" and those as "failing."




'Articles (Etc)' 카테고리의 다른 글

베이지안 확률  (0) 2013.06.18
미국 전문의 및 세부전문의  (0) 2013.06.11
왜 보스턴 병원들은 준비가 되어 있었을까?  (0) 2013.06.08
지식(Knowledge)과 지능(Intelligence)  (0) 2013.06.07
델파이 기법  (0) 2013.06.05

+ Recent posts