우리 연구실 PI 이신 박해정 교수와 네이버 차동철 박사 팀에서는 최신 이슈가 되는 인공지능과 인간 지능 협력 메타 모델을 개발하여 네이쳐 자매지인 Scientific Reports에 발표하였습니다.
딥러닝을 사용하는 인공지능(AI)은 의료 영상 진단에서 인간 전문가의 역량에 접근합니다. 하지만 실제 임상에서 AI를 독립적으로 사용하는 것은 책임 문제로 인해 여전히 어려운 문제이고 보조 역할에 머물러야 하는 경우가 많습니다. 그러므로 인공 지능과 인간 지능의 협업 문제는 앞으로 중요한 문제라고 할 수 있습니다. 특히 의사 개인들의 전문성에 따라 임상적 의사 결정에 있어 개인 간 차이가 크다는 점을 고려할 때, AI는 개별 전문가에게 적응하여 약점을 보완하고 강점을 강화할 필요가 있습니다. 이러한 적응을 위해 AI는 도메인 지식을 습득할 뿐만 아니라 자신이 지원하는 특정 인간 전문가에 대해서도 이해해야 합니다. 이 연구에서는 먼저 제한된 평가 데이터를 전문가가 판단하게 하고 조건부 확률을 이용해 각 전문가별 진단 성향을 평가하고, 이를 바탕으로 인공지능의 예측을 조정하는 인간-기계 협력 메타모델을 소개합니다. 이 메타모델을 이비인후과 내시경을 이용한 귀 질환 진단에 적용하여 제한된 평가 데이터로도 개별 진단 특성을 반영할 때 의사 개인별 성능이 향상되는 것을 확인했습니다. 각 전문가의 조건부 확률과 기계 분류 확률을 결합하여 각 개인의 전체 분류 정확도에 따른 최적의 가중치를 사용하여 가장 높은 정확도를 달성했습니다. 이 맞춤형 모델은 기계의 제안으로 인한 심리적 영향으로 인한 오판 가능성을 완화하고 개별 임상의의 고유한 전문성을 활용하는 데에 유리함을 보였습니다.
논문 링크 :
Figure 4. The procedure for the human–machine cooperation model. (a) The evaluation procedure of human rater’s performance and the real-time application of the cooperation model. (b) The procedure to derive the conditional probability of each human rater from the confusion matrix of the evaluation data set was explained. The conditional probability matrix derived from the confusion matrix of the evaluation data set for each individual was assigned to each sample according to the human rater’s diagnosis for the sample. (c) Optimal weight was determined by minimizing conditional entropy (CE) between the label for the evaluation data set and the weighted sum of human and machine probability matrix.