인공지능(AI) 기계학습 연구자부터 KAIST AI연구원장, 그리고 국가AI전략위원회 글로벌협력 분과위원장까지. 오혜연 KAIST 전산학부 교수의 일은 그에게 붙는 다양한 직함만큼이나 여러 층위에 걸쳐 있다. 그는 AI 기술 자체를 연구하는 데서 멈추지 않는다. AI가 교육과 사회, 문화와 언어, 그리고 인간의 삶에 어떤 영향을 미치는지까지 함께 고민한다.

Q. 자기 소개 부탁드립니다. 어떻게 AI 연구를 하시게 됐나요?

A. 저는 KAIST 전산학부에서 인공지능(AI)을 연구하고 있는 오혜연입니다. AI를 단순히 더 똑똑하게 만드는 것뿐 아니라, 이 기술이 사회에서 어떻게 사용되고 어떤 영향을 미치는지도 함께 고민하고 있어요. 특히 AI 윤리와 지속 가능성, 교육 분야에서의 AI 활용, 그리고 AI가 만들어낼 수 있는 사회적 격차 문제에 관심을 갖고 연구하고 있습니다. 

​AI는 연구실 안에 머무르는 기술이 아니라, 만들어지자마자 곧바로 교육과 의료, 산업, 일상 속으로 들어가 사람들의 삶에 영향을 미치잖아요. 그러다 보니 ‘이 기술을 어디에 어떻게 써야 하는가’, ‘누구를 위한 기술이어야 하는가’를 고민하는 게 너무 자연스럽고 당연하게 느껴졌어요. 

​다만 한국에서는 아직 이런 문제를 연구하는 사람들의 숫자가 많지는 않다고 느껴요. 연구자들의 관심도 상대적으로 기술 개발 자체에 더 쏠려 있는 경우가 많고, 언론에서도 AI를 얼마나 더 잘 만들었는지, 얼마나 성능이 좋아졌는지 같은 이야기들이 중심이 되곤 하죠. 물론 기술 발전 자체도 굉장히 중요해요. 저 역시 AI 활용 연구를 많이 하고 있고요. 그런데 동시에 AI가 사회에 어떤 영향을 미치는지, 어떤 사람들이 기술 발전에서 소외될 수 있는지까지 함께 논의돼야 한다고 생각해요. 해외에서는 이런 논의가 훨씬 활발한 편인데, 한국에서도 앞으로는 기술과 사회를 함께 바라보는 연구가 더 많아졌으면 좋겠습니다.

Q. 교수님의 연구에서도 AI가 기존에 잘 모르던 분야와 교차되는 상황이 많을 거 같아요.

A. 맞아요. AI는 워낙 범용적인 기술이다 보니 정말 예상하지 못했던 분야와 계속 연결돼요. 전 학창 시절에는 전형적인 이공계 학생이었어요. 수학과 과학을 좋아했고, 역사나 문학 같은 과목에는 큰 관심이 없었죠. 그런데 AI 기술이 실제 사회에 빠르게 적용되는 모습을 보면서 생각이 많이 달라졌어요. 지금은 오히려 역사 같은 분야가 굉장히 중요하다고 느껴요. 과거를 이해해야 지금 사회를 더 잘 이해할 수 있고, 앞으로 어떤 문제가 생길지도 고민할 수 있다고 생각하거든요.

최근에는 조선왕조실록 같은 고전 문헌을 AI로 번역하는 연구도 했어요. 한글 번역 작업은 이미 한국고전번역원에서 오래전부터 해왔는데, 영어 번역은 시간이 굉장히 오래 걸려요. 세종실록 일부를 번역하는 데도 몇 년이 걸릴 정도거든요. 그래서 LLM을 활용하면 초벌 번역을 훨씬 빠르게 만들 수 있지 않을까 고민하게 된 거예요. 물론 AI가 완벽한 번역을 할 수는 없어요. 하지만 AI가 먼저 번역 초안을 만들고 전문가들이 수정하면 전체 작업 시간을 크게 줄일 수 있겠다는 생각을 했죠.

이런 연구를 하다 보면 기술이라는 게 결국 사람과 문화, 역사까지 연결된다는 걸 계속 느끼게 돼요. 조선시대에도 어떤 사람들의 언어는 기록으로 남고, 어떤 사람들의 언어는 잘 남지 않았잖아요. 지금의 AI도 비슷한 문제가 있다고 생각해요. 메인스트림에 있는 언어와 문화는 계속 학습되지만, 그렇지 않은 사람들은 기술 안에서 잘 보이지 않게 되거든요. 그래서 저는 역사 연구를 하면서도 결국 지금 AI가 누구를 위한 기술이 되고 있는지를 다시 생각하게 되는 것 같아요.

Q. AI에 어떤 언어 문제가 있는건지 조금 더 자세히 설명해줄 수 있나요?

A. 많은 사람들은 AI가 누구에게나 똑같이 열려 있는 기술이라고 생각해요. 하지만 실제로 AI 연구를 하다 보면 그렇지 않은 순간들을 굉장히 많이 보게 됩니다. 대표적인 게 언어 문제예요. 지금의 LLM은 모든 언어를 똑같이 잘 이해하지 못해요. 실제로 성능이 좋은 언어는 영어, 중국어 같은 일부 중요 언어에 집중돼 있습니다. 한국어도 최근에는 정부와 기업들의 투자 덕분에 많이 좋아졌고요. 그런데 아프리카나 동남아시아의 많은 언어들은 2~3년 전과 비교해도 성능이 거의 그대로인 경우가 많아요.

이유는 단순해요. AI 기업들이 집중적으로 투자하는 언어가 따로 있기 때문이에요. 데이터를 더 많이 모으고, 사람들을 고용해 주석 작업(어노테이션)도 하고, 모델도 계속 개선하죠. 그런데 그렇지 않은 언어들은 사실상 방치되는 경우가 많아요. 그러다 보니 어떤 언어를 사용하는 사람들은 AI 기술 발전의 혜택을 거의 받지 못하게 되는 거예요. 결국 영어를 배워야만 AI를 제대로 사용할 수 있는 상황이 생기기도 하고요. 그래서 연구자들 사이에서는 이런 현상을 ‘언어 제국주의(language imperialism)’처럼 바라보기도 합니다.

저는 이 문제가 단순히 언어만의 문제는 아니라고 생각해요. AI는 데이터를 기반으로 학습하는 기술이기 때문에, 데이터가 적은 사람들은 점점 더 보이지 않는 존재가 될 수 있어요. 장애인이나 노년층, 특정 문화권 사용자들도 마찬가지예요. 예를 들어 AI가 어떤 문화에 대한 이해가 부족하면, 그 문화권 사람들에게는 계속 어색하고 불편한 기술로 남게 되죠. 그래서 저는 AI 기술이 얼마나 똑똑한가보다, 얼마나 다양한 사람들의 삶을 이해하고 있는가가 앞으로 훨씬 중요해질 거라고 생각합니다.

Q. AI 윤리 연구만 하시는건 아니에요. AI 활용 연구도 여러 분야에서 하고 계신데, 그중 학습 과정을 설계하는 모델을 만들고 계신게 흥미롭습니다. 일반 LLM모델을 설계하는 것과 어떤 차이가 있는지 궁금해요.

AI 기술은 널리 쓰일 거예요. 그렇다면 잘 쓰는 게 중요하죠. 무엇보다 학생들이 AI를 사용하는 건 너무 당연하고요. 이것을 막을 수는 없다고 생각해요. 그렇다면 교육적인 목적에서, 교육적인 방법으로 AI를 사용하는 게 중요해져요. LLM은 처음부터 그리고 지금까지 교육을 염두에 두고 개발된 게 아니기 때문이에요. 그래서 답을 알려달라고 하면 그냥 알려주죠. 그런데 실제 교육현장에서 학생들이 질문을 하면 선생님은 답만 제공하지 않아요. 힌트를 주거나, 설명을 해주며 학생들이 답을 찾아갈 수 있게 도와주죠. 

선생님의 역할을 할 수 있는 AI를 만들기 위해서는 데이터, 모델링, 평가 방식까지 모두 달라야 해요. 가장 재밌는 건 데이터 수집이에요. 한국 학생의 영어 학습을 돕는 AI를 만들기 위해서는 ‘한국 학생들이 주로 틀리는 영어 데이터’가 필요합니다. 백, 천 단위가 아닌 수 만 개의 데이터가 필요하죠. 보통 사람이 직접 쓴 데이터는 구하기 어려워서 LLM에게 데이터를 만들어달라고 요청할 수 있어요. 그런데 LLM은 ‘틀린’ 데이터를 만들지 못해요. 기본적으로 틀린 문장을 만들어내지 않게 설계됐거든요. 그래서 한국 학생들이 많이 틀리는 문법을 유형화하고, 이 유형화를 입력해 LLM을 잘 달래가면서 빅데이터를 뽑아내고 있어요. 그 기반이 되는 데이터는 KAIST 영어 수업에서 확보하고 있고요. 모델링에서도 LLM에서 모델링이 오답률을 낮춰가는 방식으로 파라미터를 업데이트하는 모델링 방식도 학생을 가르치는 AI에는 적용할 수 없어요. 모델의 학습 목적이 정답을 만드는 게 아니기 때문이에요. 모델링 방법도 아예 바뀌어야 하는 거죠.

Q. 국가AI전략위원회 얘기도 안 할 수 없어요. 전락위는 어떤 곳이고 교수님은 어떤 일을 하고 계신가요?

A. 문재인 정부 때부터 AI 관련 정부 자문 활동을 해왔어요. 당시엔 대통령 4차산업혁명위원회가 있었죠. 당시 위원회 산하에 AI 특별위원회가 운영됐거든요. 범부처 기관이 필요한 이유는 AI라는 기술이 특정 부처 하나만의 영역이 아니기 때문이에요. 과학기술정보통신부뿐 아니라 산업부, 교육부, 외교부, 중기부처럼 거의 모든 부처가 AI와 연결된 정책과 사업을 추진하고 있죠. 국가AI전략위원회는 이런 흐름 속에서 만들어진 범부처 협의체에 가까워요. 또한 단순히 기술 개발 방향만 논의하는 게 아니라, 기업과 시민단체를 포함해 다양한 관점에서 AI 정책이 사회에 어떤 영향을 미칠지 함께 고민하는 곳이에요.

예를 들어 AI 기본법 같은 제도가 만들어지면, 기업들은 어떤 규제를 받게 되는지, 시민사회는 어떤 우려를 갖고 있는지, 정부는 어떤 기준을 세워야 하는지를 모두 함께 논의해야 하거든요. AI는 기술 하나만으로 움직이는 분야가 아니라 사회 전체와 연결된 기술이다 보니 이런 조율 과정이 굉장히 중요해지고 있어요.

저는 현재 글로벌 협력 분과의 분과장을 맡고 있어요. 국제적으로 AI 기술과 정책 경쟁이 굉장히 치열해지고 있기 때문에, 한국이 AI 국제 표준 논의에서 어떤 역할을 할 수 있을지 고민하고 있습니다. 또 UN 글로벌 AI 허브를 한국에 유치하기 위한 논의에도 참여하고 있고요. 외교부와도 자주 협력하고 있습니다. 각국 공관을 통해 해외 AI 기업이나 인재들과 한국이 어떻게 협력할 수 있을지, 어떤 방식으로 글로벌 네트워크를 만들어갈 수 있을지를 함께 이야기하고 있어요.

Q. 10년 뒤의 교수님의 모습을 상상하면 어떤 모습이신가요? 과학기술 연구자로서 교수님의 인생의 목표가 무엇인지 궁금해요.

A. 사실 저는 원래부터 인생 계획을 길게 세워두는 사람은 아니에요. 그래서 10년 뒤의 모습을 딱 정해놓고 살지는 않아요. 그런데 요즘은 오히려 AI가 앞으로 사회를 어떻게 바꿀지에 대한 고민을 많이 하게 돼요. 특히 기술이 발전할수록 사람들 사이의 격차가 더 커질 수도 있다는 걱정이 커요. 빈부 격차일 수도 있고, 세대 간의 격차일 수도 있고, 기술을 잘 사용하는 사람과 그렇지 못한 사람 사이의 차이일 수도 있죠.

10년 뒤면 저도 60대가 되거든요. 그러면 지금의 노년층이 키오스크 앞에서 어려움을 겪는 것처럼, 저 역시 새로운 기술을 따라가기 어려워질 수도 있다고 생각해요. AI 기술이 정말 모두를 위한 방향으로 발전하고 있는 걸까, 아니면 특정 사람들만 더 편리하게 만드는 방향으로 가고 있는 걸까 그런 고민을 많이 하게 됩니다.

그래서 제 목표는 AI를 더 똑똑하게 만드는 것 자체에만 있지는 않아요. 한국에 있는 모든 사람들, 더 나아가 전 세계의 다양한 사람들이 AI 때문에 삶이 조금 더 편해지고 풍요로워지는 방향으로 기술이 발전했으면 좋겠어요. 특히 사회적 약자나 소외된 사람들이 기술 때문에 더 뒤처지는 게 아니라, 오히려 AI 덕분에 도움을 받을 수 있는 사회가 되면 좋겠고요. 저는 그런 방향으로 AI를 연구하고 싶습니다.

오혜연 교수 사진: credit 오혜연

*일부 ai,게티 이미지 사용