과학자의 하루를 들여다보면, 멋진 과학기술이 하루아침에 탄생하는 게 아니란 걸 알게 됩니다. 과학동아는 한국여성과학기술인육성재단(WISET)과 함께 한국의 여성과학기술인을 발굴하고 소개하는 프로젝트, She Did It 캠페인의 일환으로 10회에 걸쳐 여성 과학자 스무 명의 하루를 들여다봅니다.

5월 12일에는 환자를 진단하고 진단 내용을 설명하는 ‘설명 가능한 AI(XAI)’ 연구의 선구자, 이수인 미국 워싱턴대 컴퓨터 과학∙공학부 석좌교수의 화요일을 쫓아가 봤습니다.

⏰07:00 AM 이른 아침 화상회의

XAI 전문가, 안과 전문의들과 만나다

2026년 5월 12일 오전 7시, 미국 시애틀. 이른 아침부터 이수인 워싱턴대 컴퓨터 과학∙공학부 교수의 노트북 화면은 PPT 발표 자료로 가득 차 있다. 세인트루이스 워싱턴대 안과 의사들과의 정기 화상회의다. 2주에 한 번씩 열리는 이 회의에는 미국과 유럽의 안과 연구진, 그리고 이 교수 연구팀이 함께 참여한다. 망막과 시신경이 있는 눈 안쪽 이미지 같은 의료 데이터를 AI가 어떻게 해석할 수 있는지에 관해 논의하기 위해서다. 

⏰09:00 AM 연구 보고서 작성

암 진단을 직접 설명하는 AI를 만들다

이날은 미국 국립보건원(NIH)에 제출해야 하는 연구 결과 보고서 마감일이다. 연구 주제는 의료 데이터를 해석하는 AI의 ‘블랙박스’를 열어 보는 것이다. AI가 환자의 조직 사진을 입력받고 “암으로 판단된다”는 예측값을 낼 때, 인류는 아직까지 왜 AI가 그런 판단을 했는지를 모른다.

​“저는 ‘AI가 병변의 경계 모양을 중요하게 봤다’ 혹은 ‘조직의 색 변화가 AI 판단에 가장 큰 영향을 줬다’는 식으로 어떤 특징이 결과에 얼마나 영향을 미쳤는지 보여주는 기술을 만들고자 합니다.”

설명가능 인공지능(XAI·Explainable AI)이 이 교수의 주 연구 분야다. XAI는 AI가 어떤 근거로 특정 결론을 내렸는지 그 과정과 이유를 인간이 이해할 수 있도록 명확하게 설명해 주는 기술이다. 복잡한 AI는 너무 많은 데이터를 스스로 학습해 중간 과정을 정확히 알 수 없다. 즉 XAI는 AI의 블랙박스를 들여다보는 연구다. 

2016년 진행한 초기 의료 AI 프로젝트에 참여했던 의사들이 “아무리 AI의 예측이 맞다 해도, 결과만 가지고는 실제 의료 현장에서는 사용할 수 없다”며 “왜 AI가 그런 예측을 했는지를 알아야 믿을 수 있다”고 말했던 경험이 지금의 연구 방향을 만들었다.

​XAI 연구는 이 교수를 오늘날 전 세계가 주목하는 AI 연구자로 만들었다. 그는 2017년, AI가 어떤 결정을 내릴 때 입력 데이터 각각이 얼마나 영향을 미쳤는지 계산하는 ‘SHAP’ 방법론에 대해 발표했다. SHAP은 AI가 어떤 결론을 내렸을 때 각각의 입력 요소가 얼마나 영향을 미쳤는지를 계산하는 기술이다. SHAP 방법론은 현재 의료·금융·추천 시스템 등 거의 모든 AI 분야에서 표준처럼 쓰인다. 원논문 인용 횟수는 이미 9만 회를 넘어섰다.

⏰11:30 AM 48명의 학생과 XAI 강의

AI에게 ‘개념’이란 뭘까? 치열한 논쟁

오전 11시 30분, 그는 강의실로 들어선다. 이 교수는 2026년 봄 학기, 대학원생들을 대상으로 XAI 수업을 하고 있다. 이 교수는 “45명 이상은 못 받는다고 했는데, 수강을 원하는 학생들이 너무 많아 48명으로 타협해야 했다”고 말했다. 워싱턴대에서 XAI 수업이 시작된 것은 2022년 봄, XAI가 신생 분야다 보니 미국에서도 강의를 개설한 대학이 많지 않다. 

오늘날 XAI 연구에서 다양한 방법론이 활발히 연구되고 있다. 이날 강의 주제는 XAI에서의 개념 기반 설명 방법이다. 개념 기반 설명은 인공신경망 속 어디에 사람이 물체를 인식하는 핵심이 숨어 있는지를 추적하는 작업이다. 

“워싱턴대는 수업 시간이 80분인데 보통 40분은 제가 강의를 하고, 나머지 40분은 학생들의 토론으로 구성해요.” 이 교수 수업에서 학생들은 최신 논문을 읽고, 설명 가능한 AI가 앞으로 어떤 방향으로 발전해야 하는지 논쟁한다. 이 교수의 강의는 AI를 연구하는 동시에, AI를 둘러싼 질문을 함께 고민하는 연구 문화를 만들고 있는 셈이다.

​이 교수는 작은 강의가 아님에도 48명의 학생 이름을 모두 알고 있다. “보통 두 번 정도 수업을 하고 나면 모든 학생의 이름을 외워요. 그리고 꼭 수업이 끝나면 논쟁에 참여한 학생들에게 ‘땡스 레터(thanks letter)’ 메일을 보냅니다. 논쟁에서 어떤 게 인상적이었는지를 언급하면서요.” 이런 이 교수의 강의 방식은 학생들의 적극적인 수업 참여를 이끌어낼 뿐만 아니라 학생들로 하여금 AI 연구자로서의 책임감을 고양시킨다.

⏰01:00 PM ABC 중의 B

노화를 제어하는 유전자를 찾아서

“제 연구를 ‘ABC’라는 세 글자로 설명해요. A는 AI, B는 생물학(biology), C는 임상 적용(Clinical translation)이죠.” 화요일 오후 1시에는 ABC 중 B인 전산생물학 연구자들의 세미나가 진행된다. 이 교수 연구실 소속 연구원의 3분의 1이 전산생물학 연구를 하고 있다. 최근 프로젝트는 노화를 유도하는 핵심 유전자를 찾는 연구다. 사람, 쥐, 예쁜꼬마선충의 단일세포 데이터를 통합해 빅데이터 속에서 노화를 유도하는 유전자를 찾는다. 나아가 특정 유전자를 억제했을 때 실제로 생명체 수명이 늘어나는지를 실험으로 검증하는 프로젝트다. 이 교수는 “현재 네이처 논문 심사도 진행 중”이라고 귀띔했다.

⏰06:00 PM 한국 전문의들과 화상회의

AI 편향을 줄이기 위해 세계와 협업하다

저녁 6시, 이 교수는 다시 모니터 앞에 앉는다. 2026년부터 이 교수는 한국 피부과 전문의들과 함께 피부 병변 이미지를 분석해 피부암 여부를 판별하는 AI 프로젝트를 진행하기 때문이다. 2주에 한 번씩 정기적으로 화상회의가 진행된다. “협업하는 사람들 중 시차가 있는 사람이 정말 많아요. 전문가라면 어디 있는지는 상관이 없죠.” 이 교수는 전문적인 판단은 해당 분야의 전문가들과의 협업을 통해서만 얻을 수 있다는 점을 강조한다.

한국 연구진과의 협업에는 나아가 또 다른 의미가 있다. 피부 질환을 진단하는 AI는 피부색에 따라 결과가 달라질 수 있기 때문이다.

“미국에서 얻은 데이터로는 동양인 피부 특성을 충분히 반영하기 어려워요. 한국 의료 데이터가 AI 편향 문제를 줄이는 데 중요한 역할을 할 수 있다고 보고 있습니다.”

​

이 교수는 AI가 더 똑똑해지는 것만으로는 충분하지 않다고 본다. “인간이 이해하고 신뢰할 수 있는 방향으로 발전하는 것이 중요합니다.” 그래서 이 교수는 지금도 의료 AI를 넘어서, AI의 생각을 인간의 언어로 번역하는 XAI 연구를 이어가고 있다.

 이수인 교수사진: credit 이수인

*일부 ai,게티 이미지 사용

​