의학교육에서 인공지능 (AMEE Guide No. 126) (Med Teach)

의학교육에서 인공지능 (AMEE Guide No. 126) (Med Teach)
Artificial intelligence in medical education
Ken Masters

 

서론
Introduction

사고 기계와 인공지능: 짧은 역사
Thinking machines and artificial intelligence: a brief history

데카르트의 오토마타(Descartes 1637)부터 찰스 배비지의 분석 엔진까지 수세기 동안 [사고 기계]의 개념은 존재해 왔으며, 러블레이스 여사는 그 중 "우리가 그것을 수행하는 방법을 알고 있는 것은 무엇이든" 수행할 수 있다고 말했다(메나브레아 1843). 1950년 앨런 튜링은 "머신은 생각할 수 있는가?"라고 물었고 그의 모방 게임(현재 튜링 테스트라고 불린다)을 만들었다. 이 테스트에서 인간 피실험자는 기계와 다른 인간과 상호 작용하며, 피실험자가 기계와 인간을 구별할 수 없다면 기계는 "생각하고 있다"고 말할 수 있다.
The notion of thinking machines has existed for centuries, from Descartes’ Automata (Descartes 1637) to Charles Babbage’s Analytical Engine, of which Lady Lovelace said could only perform “whatever we know how to order it to perform”(Menabrea 1843). In 1950, Alan Turing (Turing 1950) asked, “Can machines think?” and constructed his Imitation Game (now called the Turing Test). In this test, a human subject interacts with a machine and another human, and, if the subject cannot tell the difference between machine and human, then the machine can be said to be “thinking.”

21세기에, 우리는 인공지능(AI)에 첫발을 내디뎠다. (이 가이드를 위해, 나는 풀 외 연구진(1998)과 러셀 & 노르빅(2009)과 같은 일반적인 텍스트를 느슨하게 기반으로, [인간의 합리적 사고와 행동을 모방하고 확장하도록 설계된 컴퓨터 소프트웨어에 의한 행동]으로서 AI에 대한 working definition를 제안한다).
In the twenty-first century, we have the first forays into artificial intelligence (AI). (For this Guide, I propose a working definition of AI as the behaviors by computer software that are designed to mimic and extend human rational thinking and actions, based loosely on general texts, such as Poole et al. (1998) and Russel & Norvig (2009)).

트위터 사용자들로부터 배우고 상호작용하도록 설계된 AI 시스템인 마이크로소프트의 Tay와 같은 AI 실패가 있었다. 불행하게도, Tay는 트위터 사용자들로부터 인종차별주의자, 성차별주의자 편협한 사람으로 교육받았고 오프라인으로 옮겨졌다(Vincent 2016).
There have been AI failures, such as Microsoft’s Tay, an AI system designed to learn from, and interact with, Twitter users. Unfortunately, Tay was taught by Twitter users to be a racist, sexist bigot, and was taken offline (Vincent 2016).

이와는 대조적으로, 2016년 구글의 알파고가 바둑 세계 챔피언 이세돌(상훈 2016)에 4대 1로 승리하며 세계를 놀라게 한 것과 같은 AI 성공이 있었다.
Contrastingly, there have been AI successes, such as Google’s AlphaGo, which, in 2016, stunned the world with a 4-1 victory over Go world champion Lee Se-dol (Sang-Hun 2016).

배비지의 분석 엔진과 달리, 테이와 알파고는 [사고 기계]의 영역으로 들어가, 그들이 배운 것 이상으로 지식과 사고를 확장했다.
Unlike Babbage’s Analytical Engine, both Tay and AlphaGo had entered the realm of the thinking machine, extending their knowledge and thinking beyond what they had been taught; unlike Tay, however, AlphaGo had been taught well, and had behaved acceptably.

교육을 위한 교훈
Lessons for education

교육적 교훈은 AI 실패와 성공에서 배울 수 있다. 가장 중요한 것은 인간 학습자와 마찬가지로 AI 시스템이 학습한 것의 기본을 취하고, 그들과 씨름하고, 혼란스러워하고, 해결책을 시도하고, 확장하고, 적용한다는 것이다. 좋은 선생님들이 자동적으로 좋은 교육으로 이어진다고 주장하는 것은 너무 단순하지만, 우리는 선생님들이 학생들과 그들의 행동에 영향을 미친다는 것을 알고 있다. 테이와 알파고는 [좋은 가르침은 좋은 AI 학습을 위한 플랫폼]을 제공할 수 있고, [나쁜 가르침은 AI를 해칠 수 있다]는 것을 보여준다. 그래서, 인공지능이 학습할 수 있다는 것을 고려하면, 우리는 그것을 가르치는 데 사용하지 않을 수 있을까?

Educational lessons can be learned from AI failures and successes. Most important is that, just like human learners, AI systems take the basics of what they have been taught, grapple with them, get confused, attempt resolutions, extend, and apply. It is too simplistic to argue that good teachers automatically lead to good education, but we do know that teachers influence students and their behavior; Tay and AlphaGo illustrate that good teaching can provide the platform for good AI learning, and bad teaching can harm AI. So, given that AI can learn, could we not use it to teach?

선생님들
Teachers

1980년에 아서 C 클라크는 "누구든 기계로 대체될 수 있는 선생님은 그렇게 되어야 한다!"라고 썼다.(1980년 클록). 교육을 단순한 지식 이전으로 보는 시각에서, 인간 교사를 기계로 대체하는 것은 매력적이다. 실제로, 좋은 가르침은 많은 출처의 정보에 접근하고, 대조하고, 우선순위를 정하고, 적응한 다음, 극히 미묘한 차이가 있는 좁은(심지어 독특한) 환경 내에서 사용하는 것을 포함한다. 또한 창의적 교사는 어떤 형식적인 의미에서도 '교육적'은 아니지만, 사고를 자극하거나 주제를 소개하거나 좁은 교과과정을 넘어 경계를 밀어붙이는 데 유용한 자료를 자주 사용한다. 이 기능은 아직 컴퓨터에 존재하지 않습니다.
In 1980, Arthur C Clarke wrote “Any teacher who can be replaced by a machine should be!”(Clarke 1980). In a view of education as simple knowledge-transfer, replacing human teachers with machines has appeal. In reality, good teaching involves accessing information from many sources, collating, prioritizing, adapting, and then using it within narrow (even unique) circumstances with extremely subtle variations. In addition, creative teachers frequently use materials that are not “educational” in any formal sense, but are useful to stimulate thinking, introduce topics, or push boundaries beyond the narrow curriculum. This ability does not yet exist in computers.

인공지능은 의심할 여지 없이 다음을 포함한 의학 교육 방법에 영향을 미칠 것이다.

• 학생들의 지식 격차를 파악하고 대응하는 지능형 튜터링 시스템,
  
• 구성주의 학습 접근법에서 적응적 가상 촉진자,
  
• 데이터 마이닝("검색 엔진"이 아닌)
  
• 학생과 교사에 대한 지적 피드백, 그리고
  
• 과제 채점 및 출석률 추적과 같은 일상적인 작업 수행

이것들은 모두 교육에 영향을 미칠 것이다.
AI will undoubtedly impact on medical education methods, including

• intelligent tutoring systems’ identifying and responding to gaps in students’ knowledge,
• adaptable virtual facilitators in constructivist learning approaches,
• data mining (as opposed to using “search engines”),
• intelligent feedback to students and teachers, and
• performing mundane tasks like assignment grading and attendance tracking.

These will affect all education.

의료 교육에서 AI의 잠재력을 더 잘 보기 위해, 우리는 그 과정의 끝, 즉 훌륭하고 유능한 의사들을 고려해야 한다. 의학 교육의 어떤 변화도 이 최종 목표에 의해 인도되어야 하듯이, 우리는 교사들을 대체하기보다는 AI가 배울 수 있는 잠재력을 고려할 때, 우리가 오히려 AI 의사를 목표로 해야 하는지 물어볼 필요가 있다.

To better see the potential of AI in medical education, we should consider the end of the process: good and competent doctors. Just as any change in medical education should be guided by this end goal, we need to ask, given the potential that we have already seen for AI to learn, rather than replacing teachers, should we rather be aiming at AI doctors?

닥터스
Doctors

이미 컴퓨터는 인간보다 예측과 진단을 더 잘 수행할 수 있다. 하지만 사회가 AI 의사를 받아들이기까지는 얼마나 걸릴까요? 아이디어를 얻기 위해서는 몇 가지를 기억해야 합니다.
Already, computers can perform prediction and diagnosis better than humans (Boguševičius et al. 2002; Esteva et al. 2017; Litjens et al. 2017; Mobadersany et al. 2017; Betancur et al. 2018; De Fauw et al. 2018; Haenssle et al. 2018). But how far off is AI before society accepts an AI doctor? To get some idea, we need to remember a few things:

• 알파고가 세계 챔피언을 향한 질주는 놀라울 정도로 빨랐고(Cho 2016), 우리는 의학을 포함한 모든 분야에서 빠른 발전을 기대할 수 있다.
• AlphaGo’s race to world champion was stunningly swift (Cho 2016), and we can expect rapid advances in all fields, including medicine.
• 알파고는 단일 시스템이다. 의료 AI 시스템은 사물 인터넷(IoT)을 통해 수십만 대의 컴퓨터를 활용하는 글로벌 신경망일 것이다.
• AlphaGo is a single system. A medical AI system would be a global neural network utilizing hundreds of thousands of computers through the internet of things (IoT).
• 증거 기반 의학(EBM)이 금본위제이지만, 연구 데이터 배포 및 획득에 대한 입증된 효과적인 방법은 없으며, 연구 성장은 이 이상을 매일 우리의 손아귀에서 더 멀리 떨어뜨린다. 초기 실험은 AI가 출판된 연구 및 전자 의료 기록(EMR)의 관련 데이터에 자동으로 액세스하여 시스템과 의사가 최신 상태를 유지할 수 있도록 하는 데 이상적으로 적합하다는 것을 보여준다.
• Although evidence-based medicine (EBM) is the gold standard, there is no proven effective method of research data dissemination and acquisition, and research growth puts this ideal further from our grasp every day. Early experiments show that AI is ideally suited to automatically accessing relevant data from published research and from electronic medical records (EMRs), allowing systems and doctors to stay current (Tafti et al. 2017).
• 유능한 의사가 되기 위해 AI 시스템이 세계 최고의 의사가 될 필요는 없다. AI는 당신의 반에서 최악의 졸업생보다 더 나아야 한다. 또한 표준 분포 곡선을 가정하면 AI가 평균 학생보다 낫다면 전체 의사의 50%보다 낫다. 게다가, 위의 참고 자료에서 볼 수 있듯이, 이미 몇몇 최고 작업보다 몇 가지 작업을 더 잘 수행할 수 있는 시스템이 있기 때문에, AI는 이를 달성하기 위해 궤도에 오르고 있다.
  
• To be a competent doctor, an AI system does not have to be the best doctor in the world. AI has to be better than only the worst graduating student in your class. Further, assuming a standard distribution curve, if AI is better than your average student, it is better than 50% of all doctors. Moreover, as seen from the references above, there are already systems that can perform several tasks better than some of the best, so AI is on track to achieve this.
• 그리고 마지막으로, 당신은 그들의 원칙과 윤리와 같은 모든 졸업생의 다른 측면들에 얼마나 자신이 있는가?
• And finally, how confident are you in other aspects of all your graduating students, such as their principles and ethics?

사람의 손길
The human touch

우리는 의료와 관련된 모든 사람이 환자에 대해 가지고 있는 [휴먼 터치와 공감]을 고려함으로써 이러한 논쟁에 대응할 수 있다(Cayley 2006). AI가 그런 것도 할 수 있나요? 다시 한 번, 이것을 관점에서 보기 위해, 우리는 두드러진 문제들에 대해 반성해야 한다. 여기에는 다음이 포함됩니다.
We may counter these contentions by considering the Human Touch and empathy that all involved in healthcare have for patients (Cayley 2006). Can AI do that? Again, to see this in perspective, we should reflect on salient issues. These include the following:

• 20세기에 전 세계에서 수행된 끔찍한 의학 실험(Masters 2018a);
  Appalling medical experiments performed around the world in the twentieth century (Masters 2018a);
• 의과대학 과정을 거치면서 의대생들의 공감능력이 저하됨
  Declining empathy levels among medical students as they progress through their medical degree (Hojat et al. 2009; Neumann et al. 2011; Chen et al. 2012);
• 금융 이윤 추구에 있어 제약회사의 가격 급등, 치료제는 그들의 이익을 잠식할 것이기 때문에 유전자 혁명을 두려워함
  Pharmaceutical companies’ price gouging in pursuing financial profits (Hemphill 2010; Greene et al. 2016; Wardle and Wood 2017) and fearing the Genomic Revolution because cures will eat into their profits (Kim 2018);
• 병원들은 의사들이 급히 병실을 통과하도록 강요하고, 환자에게 퉁명스러운 반응을 보이며, 의사들이 상담을 10분 또는 15분으로 줄이도록 강요하는 일정.
  Hospitals’ forcing doctors to rush through wards, giving curt responses to patients, and schedules forcing doctors to reduce consultations to 10 or 15 minutes;
• 보험 의사들은 내과의사를 우선시하고 환자와 신체 접촉 없이 환자를 위한 "최선의" 치료를 결정한다. 개업 의사를 위한 과제: 환자에게 영향을 미치는 보험 의사들의 결정을 고려하십시오. 평균적으로, AI 시스템이 더 나쁠까요? 그리고 AI 시스템이 공감(Huang and Rust 2018)을 배우면서 휴먼 터치가 향상될 것이다. 인공 휴먼 터치는 휴먼 터치가 전혀 없는 것보다는 낫다.
  Insurance doctors’ overriding treating physicians and deciding on “best” treatments for patients without any physical contact with those patients. A task for practicing doctors: consider some decisions made by those insurance doctors affecting your patients: on average, would an AI system do any worse? And, as AI systems learn empathy (Huang and Rust 2018), their Human Touch will improve. Artificial Human Touch is better than no Human Touch at all.

그렇다, 인간의 직접적인 상호작용이 필요하다. 특히 나쁜 소식을 전할 때, 상담과 혈압 측정, 봉합 등 작은 절차들을 할 때. 하지만 우리는 이것을 위해 의사가 필요하지 않다. 나쁜 소식을 전하고 상담을 하는 것은 적절하게 훈련된 상담자들이 가장 잘 수행한다. 우리가 "또한 가르쳤다"는 상담에서 교육과정의 주요 초점으로 옮기지 않는 한, 우리는 이 일을 전문가들에게 맡겨야 한다. 혈압 기록이나 봉합 같은 작은 시술은 잘 훈련된 간호사가 가장 잘 수행한다.
Yes, there is a need for direct human interaction, especially when breaking bad news, counselling and small procedures like checking blood pressure, suturing, and so forth. But we do not need doctors for this. Breaking bad news and counselling is best performed by properly trained counsellors. Unless we move counselling from “also taught” to a major focus in the curriculum, we should leave this work to professionals. Small procedures like blood-pressure recording and suturing are best performed by well-trained nursing staff.

의사가 컴퓨터로 대체될 수 있을까? "기계로 대체할 수 있는 의사는 누구라도 그래야 한다!"는 간결한 대답이지만 현실은 더 미묘하다. 아마도, 의사를 대체하기보다는, 우리는 AI를 사용하여 의사들의 일부 역할을 대체하거나 향상시키는 것을 고려해야 할 것이다. 우리는 이러한 새로운 역할들을 이해해야만 그에 따라 의학 교육을 조정할 수 있다.
Can doctors be replaced by computers? While the snappy answer is, “Any doctor who can be replaced by a machine should be!”, reality is more subtle. Perhaps, rather than replacing doctors, we should look at using AI to replace or enhance some of the doctors’ roles. We need to understand these new roles so that we can adjust medical education accordingly.

새로운 의사들의 역할을 대체하고 가르치는 것
Replacing and teaching the new doctors’ roles

AI 역할 식별
Identifying AI roles

위에서 인용한 문헌은 AI가 인간보다 더 능숙하게 일부 감별 진단과 임상 추론을 수행할 수 있음을 나타낸다(아이러니하게도, 이 능력은 컴퓨터가 튜링 테스트(Turing 1950)를 "실패"한다는 것을 의미할 것이다). 그러나 AI 진단 시스템은 자격 있는 의사를 교체해서는 안 된다는 경고를 담고 있으며, 환자들조차 의사의 진단 확인을 원한다. 이것은 훈련되고 자격을 갖춘 의사가 실수를 했기 때문에 일부 AI 시스템이 정확하게 설계되었다는 사실에도 불구하고 그렇다. 본질적으로, 우리는 [순전히 그 시스템이 인간이라는 이유]로 [열등한 임상 추론 기술]을 가지고 있는 것이 입증된 시스템을 여전히 따르고 있다. 하지만, 아마 눈치채지 못했을지 모르지만, 우리는 이미 역할 대체의 초기 단계인 EMR을 가지고 있다.

The literature cited above indicates that AI is able to perform some differential diagnosis and clinical reasoning more competently than humans (ironically, this ability would mean that the computer would “fail” the Turing test (Turing 1950)). Yet AI diagnostic systems carry warnings that they should not replace qualified physicians, and even patients want diagnosis confirmation by physicians (Fink et al. 2018). This is in spite of the fact that some AI systems have been designed precisely because trained and qualified physicians made mistakes (Isabel Healthcare 2018). In essence, we are deferring to a system that is proven to have inferior clinical reasoning skills, purely on the grounds that that system is human. Yet, perhaps unnoticed, we already have the early stages of role replacement: the EMR.

역할 교체: 초기 단계
Role replacement: early stages

EMR은 의료 서비스에 큰 잠재적 이익을 예고하지만, practicing doctors에 의한 EMR에 대한 비판은 너무 많다. 가장 흔한 비판은 [데이터 수집]이 의사와 환자 사이에 직접 눈을 마주쳐야 하는 정상적인 의료 워크플로우 관행 및 절차를 방해한다는 것이다. 해결책은 이러한 EMR 설계 결함을 수정하여 EMR이 일반적인 작업 흐름 관행 및 절차에 적합하도록 하는 것으로 보인다.

EMRs herald great potential benefit to health services, yet there is so much criticism of EMRs by practicing doctors. The most common is that data capture interferes with normal health care workflow practice and procedures that specifically require direct eye contact between doctor and patient (Unger 2015; Gaither 2016; Sinsky et al. 2016; Shanafelt et al. 2016). The solution seems to be to rectify these EMR design flaws, so that EMRs do fit in with normal workflow practice and procedures.

불행하게도, 이 "해결책"은 현대 의료에서 EMR의 역할에 대한 오해를 보여준다. 환자에서 컴퓨터로 의사의 눈을 제거하는 것은 설계상의 결함이 아니라 설계상의 특징이다. EMR 시스템은 일반적인 작업 흐름 관행에 적합하도록 설계되지 않았습니다. EMR 시스템은 일반적인 워크플로우 관행을 변경하도록 설계되었다. 비즈니스 측면에서 EMR은 지속적 기술이 아니라 파괴적 기술입니다(Christensen 및 Armstrong 1998). 그리고, EMR 시스템이 점점 더 AI 시스템과 상호 작용하고, EMR 시스템이 점점 더 AI 시스템이 되면서, 그들은 점점 더 정상적인 워크플로우 관행을 방해할 것이다.

Unfortunately, this “solution” shows a misunderstanding of the EMR’s role in modern healthcare.
> Removing doctors’ eyes from patient to computer is not a design flaw; it is a design feature.
> EMR systems are not designed fit in with normal workflow practice; EMR systems are designed to change normal workflow practice.
> In business terms, EMRs are not sustaining technologies, they are disruptive technologies (Christensen and Armstrong 1998).
> And, as EMR systems increasingly interact with AI systems, and as EMR systems increasingly become AI systems, so they will increasingly disrupt normal workflow practice.

의사들이 지금 느끼는 좌절과 분노는 중요한 새로운 역할의 초기 단계에 있기 때문인데, 주로 환자 데이터를 수집하고 EMR 및 AI 시스템에 입력하는 것이 특징이다. 이는 의사들에게 반갑지 않은 소식일 수 있는데, 이는 의사들 스스로가 데이터 캡처자로 전락했다고 볼 수 있기 때문이지만, 의사들이 EMR의 역할에 대해 어떤 말을 들었는지에 관계없이 놀라운 일이 아닐 수 있다. 실제로 의사들이 경험하고 있는 것은 단지 EMR 사용의 초기 단계일 뿐이고 AI는 이를 따라잡고 다음 단계로 나아간다.: 바로 [역할의 변화와 역전role change and reversal]이다

The frustration and anger that doctors feel now is because they are at the initial stages of an important new role, largely characterised by gathering and entering patient data into EMR and AI systems. This may be unwelcome news to doctors, as they may see themselves reduced to data capturers, but it should not be surprising, in spite of what doctors may have been told about the role of EMRs. In real terms, what doctors are experiencing is merely the early stage of EMR usage while AI catches up and moves into the next stage: role change and reversal.

역할 변경, 새로운 역할 및 이들을 위한 교육
Role change, new roles, and teaching for them

실무적인 측면에서 AI는 미래의 의사 역할에 어떤 의미가 있습니까? 모든 영향을 예측하는 것은 불가능하지만, 일부는 명백하며, 앞 절에서 언급되었다. 이 섹션에서는 이러한 새로운 역할을 충족시키기 위해 필요한 새로운 역할과 의료 커리큘럼 내용에 대한 변경 사항을 살펴봅니다.
In practical terms, what does AI mean for future doctors’ roles? While it is impossible to foresee all implications, some are obvious, and have been mentioned in preceding sections. This section looks at new possible roles and changes to medical curricula content that will be required to meet these new roles.

• AI 시스템 설계에 적극적이 되라. 성공적인 파괴적 기술은 종종 단순화를 도입하지만(크리스텐슨과 암스트롱 1998), 현재 많은 EMR 시스템에 대해서는 말할 수 없다. 유지된 의료와 변화의 균형을 맞추기 위해 의사는 영향력 있는 그룹으로 조직하고 EMR 및 AI 시스템을 설계하고 시험하는 데 직접 지원해야 한다. 의사는 최소한 기본적인 의료 정보학을 배워야 하며, 설계자와 직접 협력할 수 있도록 EMR 및 AI 설계 원칙에 대한 감각을 갖춰야 하며, 시스템이 의료 윤리, 의료 및 실무 요건을 충족하도록 보장해야 한다.
  Being proactive in AI system design. Successful disruptive technologies frequently introduce simplification (Christensen and Armstrong 1998), but that cannot be said about many current EMR systems. To balance change with maintained healthcare, doctors should organise themselves into influencing groups and assist directly in designing and trialing EMR and AI systems. Doctors should be taught at least basic medical informatics, and have a sense of EMR and AI design principles so that they can work directly with designers, ensuring that systems meet healthcare ethical, medical and practical requirements.
• AI 진단 시스템으로 작업합니다. 의사들은 환자의 요구에 가장 잘 부응하기 위해 AI 진단과 다른 시스템을 통해 건설적으로 일하는 방법을 알아야 한다. 이를 위해 이러한 시스템에 대한 교육을 통해 다른 의료 도구와 마찬가지로 익숙해질 수 있어야 한다. 이제 훈련이 시작되어야 합니다. 훈련을 시작하기 전에 이러한 시스템이 만연할 때까지 기다리는 것은 학습 곡선과 심리적 영향이 엄청날 것이기 때문에 역효과를 낳을 것이다. 기술 교육 외에도 윤리, 역할, 프로토콜 및 책임에 대한 광범위한 질문이 해결되어야 합니다.
  Working with AI diagnostic systems. Doctors need to know how to work constructively with AI diagnostic and other systems to best serve their patients’ needs. For this, they will require training on these systems to become as familiar with them as they are with any other medical tools. Training should start now. Waiting until these systems are pervasive before beginning training will be counterproductive, as the learning curve and psychological impact will be tremendous. In addition to technical training, wider questions around ethics, roles, protocols, and liability need to be addressed.
• AI 시스템과 소통합니다. 의사들은 AI 시스템에 관련 정보를 inform하는 방법을 배울 필요가 있으며, 그래야 EMR이 새로운 정보를 EMR 안팎의 정보와 일치시킬 수 있을 것이다. 또한 그래야 EMR이 의사들이 불분명해 보이는 부분에 대한 추가 정보를 요청하도록 촉구할 필요가 있다. 이것은 [순환적 과정]이다. 
  Communicating with AI systems. Doctors need to be taught how to inform AI systems of the relevant information, so that EMRs can match new information to information inside and outside the EMR, and prompt doctors to request further information on areas that appear unclear. This is an iterative process.
  • 또한 의사들은 구두 의사소통, 서면 의사소통, 음성 입력, 촉각 정보, 의심과 예감을 디지털 정보로 변환하는 것, 그리고 임상 환경에서 데이터 마이닝 도구를 사용하는 방법에 대한 세심한 교육이 필요하다.
    In addition, doctors require careful training on verbal communication, written communication, voice input, and translating tactile information, suspicions and hunches into digital information, and how to use data-mining tools within clinical environments.
  • 또한 의사는 환자와 "개인적" 관계를 발전시키는 AI 시스템에 참여하는 방법을 가르쳐야 하며, 조기 경고 신호를 감시하고, 동시에 환자가 제공자 간에 쉽게 데이터를 전송하고, 데이터를 수집 및 대조하며, 동향과 이상 징후를 파악하고, 적절한 조직 대응을 촉발할 수 있도록 해야 한다.
    Doctors also need to be taught how to engage with AI systems that develop “personal” relationships with patients, watching for early warning signs, and simultaneously allowing patients to easily transfer between providers, gathering and collating data, identifying trends and anomalies, and triggering appropriate organisational responses.
• 심층 상담 및 관련 활동. 의사 소통 능력과 관련하여, 의사들은 향상된 상담 기술을 배울 필요가 있다. 이러한 기술이 없는 의사들은 환자들로부터 떨어져 더 적합하게 고용될 것이고, 상담은 자격을 갖춘 상담사들에 의해 수행될 수 있다. 이는 AI가 강화의학(현재 "정상"으로 간주되는 것 이상으로 인간의 심신을 향상시키는 의료 절차)과 같은 새로운 의료 분야를 열면서 중요성이 커질 것이다.
  Deeper counselling and related activities. Related to communication skills, doctors need to be taught improved counselling skills. Doctors without these skills would be more suitably employed away from patients, and counselling can be performed by qualified counsellors. This will grow in importance as AI opens new medical fields, such as enhanced medicine (medical procedures enhancing the human mind and body beyond what is currently considered “normal”).
• 자신의 역할에 대한 심리적 방향 전환. 어떤 의사들의 역할은 너무 많이 변해서 더 이상 알아볼 수 없을 것이고, 많은 역할들은 우리가 현재 "의사"라는 단어가 의미하는 패턴에 더 이상 맞지 않을 수도 있다. 이것은 특히 지속적인 의료 교육(CME)에서 모든 수준에서 다루어져야 할 것이다.
  Psychological reorientation of one’s roles. Some doctors’ roles will change so much that they will no longer be recognisable, and many roles might no longer fit the pattern of what we currently mean by the word “doctor.” This will have to be addressed at all levels, especially in Continuing Medical Education (CME).
• 새로운 의학 AI를 가르칩니다. Tay와 AlphaGo로부터 우리는 AI를 제대로 가르칠 수 있는 의사가 필요하다는 것을 알고 있다.
• Teaching new medical AI. From Tay and AlphaGo, we know that we need doctors who can teach AI properly.
  • 초기에, 환자 정보는 의사가 수집하여 AI 시스템에 제공되어야 할 것이다. 그러나 AI는 이 정보 자체를 수집하고, 어떻게 적절하게 작업할 수 있는지 배워야 할 것이다. 의료정보학 윤리(Masters 2018a)에 이미 내재된 복잡한 문제를 지침 원칙으로서 의료 AI에 내장해야 할 것이다. 이러한 윤리적 원칙을 AI에 포함시켜야 AI가 [인공지능]에서 [인공지혜]로 넘어갈 수 있다.
  • Initially, patient information will have to be gathered by doctors and given to AI systems. But AI will have to be taught to gather this information itself, and how to work properly with it. Complex issues already inherent in medical informatics’ ethics (Masters 2018a) will need to be built into medical AI as guiding principles. Only by including these ethical principles into AI, can AI move from Artificial Intelligence to Artificial Wisdom.
  • 효과적인 시스템 진화를 위해 원활한 통신이 중요하기 때문에, [개별 EMR AI 시스템]이 [더 크고 글로벌한 AI 시스템]과 통신하도록 학습될 필요가 있다. 그러나 기술 분야는 한 가지 측면만을 형성한다. 해결이 요구되는 더 큰 영역은 [언어]이다. [의학 전문용어]는 불일치로 가득 차 있으며(Lee와 Whitehead 2017), AI 시스템은 이미 이러한 제한을 해결할 수 있으며, 인간보다 훨씬 더 효율적으로 서로 소통하고 있다. 문제는 인간이 기계가 개발한 AI 언어를 이해할 수 없고, 시스템을 종료하는 방식으로 대응했다는 점이다(Wong 2016). 우리는 이러한 새로운 언어들을 다룰 수 있는 의료 종사자들이 필요할 것이다.
  • Individual EMR AI systems will need to be taught to communicate with greater, global AI systems, as smooth communication is crucial for effective system evolution. But the technical areas form only one aspect. A larger area requiring addressing is language. Medical jargon is fraught with inconsistencies (Lee and Whitehead 2017), and AI systems can already address these restrictions, and have communicated with each other far more efficiently than humans can. The problem is that humans cannot understand machine-developed AI languages, and have responded by shutting down the systems (Wong 2016). We will need medical practitioners who can work with these new languages.
  • 우리는 이미 형편없는 가르침으로 인한 의료 AI 시스템 오류의 예를 가지고 있다. IBM의 Watson은 가상의 사례만을 통해 종양학 기술을 배웠다. 인간이었다면 용납할 수 없는 교육행위로 간주되는 것이다. 그것이 그렇게 많은 실수를 했다는 것은 놀라운 일이 아니었다. 좋은 AI는 의료, 교육 및 컴퓨팅 분야의 전문가 팀을 필요로 한다.
  • We already have examples of medical AI system errors because of poor teaching—IBM’s Watson was taught oncology skills through hypothetical cases only (Ross and SwetlitzIke 2018), a practice considered unacceptable when teaching human doctors. It was not surprising that it made so many mistakes. Good AI needs teams of experts from medical, educational and computing fields.
• 로봇 공학. 비록 초기 단계이고 대부분 인간의 통제 하에 있지만, 외과용 로봇 공학은 이미 수술을 변화시키는 데 잠재력을 보여주었고, 의료에 대한 직접적인 긍정적인 영향은 심오할 것이다. 지능형 로봇은 단순히 AI 소프트웨어를 가진 로봇이며, 이 소프트웨어는 결국 사람 없이 수술을 수행할 것이다. 곧, 이러한 수술 방법이 표준화될 것이고, 로봇 수술을 가르치지 않는 의과대학은 빠르게 뒤처질 것이다.
  
• Robotics. Although in its infancy, and mostly under human control, surgical robotics has already shown potential in changing surgery, and the direct positive impact on healthcare will be profound (Nag et al. 2017; Schroerlucke et al. 2017; Porpiglia et al. 2018; Stiegler and Schemmer 2018; Stravodimos et al. 2019). Intelligent robots are simply robots with AI software, and this software will eventually perform surgery without humans. Soon, these surgical methods will be standard, and medical schools that are not teaching robotic surgery will fall behind rapidly.
• 전자 환자들. 비록 전자 환자(Masters 2017; Masters 2018b)의 개념은 이 가이드의 범위를 벗어났지만, 우리는 AI가 전자 환자에게 극적으로 영향을 미칠 것이라는 것을 알 수 있다. 환자들은 의사가 AI사용하는 것을 보거나, 볼거라 기대할 수 있으며, 그렇지 않은 사람들에 대한 (부정적) 판단을 갖게 될 것이다. 
  
• E-patients. Although the concept of e-patients (Masters 2017; Masters 2018b) is beyond this Guide’s scope, we can note that AI will dramatically impact upon the e-patient. Patients will become accustomed to seeing, may expect to see, doctors’ using AI, and be judgemental of those who are not.
  • 특히 어려운 점은 환자가 개인 AI 시스템에 직접 액세스하거나 상당한 비용을 지불하지 않고 액세스하는 것을 방지하고자 하는 AI 기업들의 바람일 것이다. 이 논의는 병원 소유 및 제어 EMR 시스템을 넘어 환자의 AI 시스템이 필요할 때만 의료진에게 액세스 권한을 부여하고 해당 액세스를 인증 및 추적하며 데이터 사용량을 추적 및 감사하는 암호화, 환자 소유 및 제어 시스템으로 이동하는 것이 목표이기 때문에 이미 오래되었다. 의사들은 AI 환경의 일부로서 전자 환자와 상호 작용하는 방법을 배워야 한다.
  • A particular difficulty will be AI companies’ wishing to prevent patients’ accessing personal AI systems directly, or without paying a substantial fee. This discussion is already old, as the goal is to move beyond hospital-owned and controlled EMR systems to encrypted, patient-owned and controlled systems, to which patient’s AI systems grant health personnel access only when needed, that access is authenticated and tracked, and data usage is tracked and audited. Doctors have to be taught how to interact with e-patients as part of the AI environment.
  • AI가 개선됨에 따라, 환자들은 종종 의사를 우회할 것이며, 음성, 웨어러블 및 이식형 컴퓨터를 통해 집이나 다른 원격지에서 AI 시스템과 상호 작용하는 것을 선호할 것이다. 이러한 측면을 결합하면 인간이 광대한 사물인터넷의 노드인 호모 노두스(Masters 2015)로 진화하면서 환자의 본질을 변화시킬 것이다.
  • As AI improves, patients will frequently by-pass doctors, preferring to interact with AI systems from their home or other remote locations through voice, wearable and implanted computers. Combining these facets will change the very nature of the patient, as humans evolve into Homo Nodus (Masters 2015), a node on a vast Internet of Things.

산업화가 '디스킬링'(Frey and Osborne 2013)으로 이어진 방식과 유사하게, 많은 보건 전문가들의 업무와 역할이 AI에 의해 대체되고, 새로운 역할이 필요할 것이며, 의학교육은 그러한 새로운 역할에 대비해야 할 것이다. 세부 커리큘럼은 기술과 환경이 발전함에 따라 개발되고 업데이트되어야 한다. 많은 재료 개발은 환자를 포함한 개발 팀에 의해 수행되어야 할 것이다.
It is inevitable that similar to the way in which industrialisation led to “deskilling”(Frey and Osborne 2013), many health professionals’ tasks and roles will be taken over by AI, new roles will be necessary, and medical education must prepare for those new roles. Detailed curricula need to be developed and updated as the technology and environment evolve. Much material development will need to be performed by development teams that include patients.

결론
Conclusion

본 가이드에서는 데카르트와 튜링부터 알파고를 활용한 인공지능까지 생각하는 기계에 대해 살펴보았다. AI가 의료 실무로 더 깊이 들어가면서, 우리는 "진짜" 작업이 컴퓨터에 의해 수행되고, 의사들은 할 일이 없고, 아무것도 알지 못할 것이라는 두려움을 가질 수 있다. 만약 우리가 원한다면, 그것은 가능하다. 그러나 보건 전문가들을 위한 새로운 역할이 등장할 가능성이 높지만, 아직 예측되지 않은 많은 역할, 새로운 의학 교육이 필요한 역할들이 등장할 것이다.
This Guide has considered thinking machines from Descartes and Turing to Artificial Intelligence with AlphaGo. As AI moves deeper into medical practice, we may have fears that the “real” work will be done by computers, and doctors will have nothing to do, and will know nothing. That is possible, if we want it to be. Just as likely, however, new roles for health professionals will emerge, many roles not yet foreseen, roles requiring new medical education.

일부 독자들은 이 가이드의 겉보기에 공상과학적인 전망에 회의적일 수 있다. 그러나 AI 연구에 연간 수백억 달러가 쏟아지고(Bughin et al. 2017), 현재 컴퓨터 시스템에서 사용할 수 있는 데이터의 양은 전례가 없다는 점을 기억해야 한다. AI는 우리 삶의 모든 측면에 직접적인 영향을 미칠 것이며, 의학 및 의학 교육이 면제될 것이라고 믿을 이유가 없다. 양질의 의료 서비스가 제공될 수 있도록 AI로 미래를 준비하는 것은 우리의 책임이다.
Some readers may be skeptical about the seemingly science-fiction outlook of this Guide. One should remember, however, that tens of billions of dollars are poured into AI research annually (Bughin et al. 2017), and the amount of data currently available to computer systems is unprecedented; AI will impact directly on every aspect of our lives, and there is no reason to believe that medicine and medical education will be spared. It is our responsibility to prepare ourselves, our students and our doctors, for the future with AI, so that quality healthcare can be delivered.

인공지능을 무시하는 사람들은 일시적인 편안함을 갖게 될 것이지만, 마침내 그것이 그들 주변에 있다는 것을 알게 되면, 그들은 어떻게 그것을 놓쳤는지 궁금해 할 것이다.
Those who ignore AI will have temporary comfort, but, when they finally realise that it is all around them, they will wonder how they missed it.

의사, 학생 또는 의료 교육자를 대체하기는 커녕, AI는 새로운 지평을 열 것이다. 인공지능으로 대체될 수 있는 사람이 아니라, 인공지능으로 대체되기를 원하는 사람이 그렇게 될 것이다. 나머지 사람들에게, 기회는 엄청날 것이다. 미래가 어떻든 간에, "우리는 단지 짧은 거리만을 볼 수 있지만, 우리는 그곳에서 해야 할 많은 것을 볼 수 있다."(1950년 동안).

Far from replacing doctors, students, or medical educators, AI will open new horizons. It is not so much that those who can be replaced by AI will be; it is more that those who wish to be replaced by AI will be. For the rest, the opportunities will be vast. Whatever the future, “We can only see a short distance ahead, but we can see plenty there that needs to be done” (Turing 1950).

 

 

---

 

 

Med Teach. 2019 Sep;41(9):976-980. doi: 10.1080/0142159X.2019.1595557. Epub 2019 Apr 21.

 

 

Artificial intelligence in medical education

Ken Masters 1

Affiliations collapse

Affiliation

1Sultan Qaboos University , Muscat , Sultanate of Oman.

PMID: 31007106

DOI: 10.1080/0142159X.2019.1595557

Abstract

Artificial intelligence (AI) is a growing phenomenon, and will soon facilitate wide-scale changes in many professions, including medical education. In order for medical educators to be properly prepared for AI, they will need to have at least a fundamental knowledge of AI in relation to learning and teaching, and the extent to which it will impact on medical education. This Guide begins by introducing the broad concepts of AI by using fairly well-known examples to illustrate AI's implications within the context of education. It then considers the impact of AI on medicine and the implications of this impact for educators trying to educate future doctors. Drawing on these strands, it then identifies AI's direct impact on the methodology and content of medical education, in an attempt to prepare medical educators for the changing demands and opportunities that are about to face them because of AI.