이상직 법무법인(유한) 태평양 변호사: AI 자율주행을 위한 윤리와 법

경력

방송통신위원회 감사자문위원회 위원장(2024.5_현재)

대한변호사협회 IT블록체인위원회 위원장(2021-현재)

서울지방변호사회 인공지능리걸테크대응특별위원회 위원장(2024.5.-현재)

대통령 소속 국가지식재산위원회 위원(2020-2022), 인공지능 지식재산 특별전문위원회 위원장(2020-2021)

과학기술정보통신부 고문변호사(2016-2018), 인공지능 법제도 연구반 위원(2020-2023)

주식회사 케이티 윤리경영실 법무센터장, 준법지원인 전무(2009-2012)

정보통신부 통신위원회 재정과장(1997-1999)

칼럼니스트(전자신문 이상직변호사의 AI법률사무소, DX문화살롱, 디지털창세기, 창의와 혁신, 법률신문 로앤스마트, AI뉴노멀)

저서

나는 인공지능을 변호한다. 이다북스 (2022)

혁신과 공존의 신세계 디지털. 이다북스 (2023)

우리 엄마 착한 마음 갖게 해주세요. 홍익출판미디어그룹 (2023)

디지털 생활자, 드레북스 (2024)

모빌리티의 의미와 자율주행

모빌리티는 이동을 원활하게 하는 서비스와 이동 수단이다. 그중 운전자 개입이 없거나 최소화된 것이 자율주행이다. 디지털 시대는 클릭 한두 번으로 이동을 대신한다. 디지털이 고도로 발전해도 자율주행 등 모빌리티가 여전히 중요할까. 

디지털은 사람을 대면하지 않고도 정보 검색, 업무, 사교와 거래 등 모든 것을 가능하게 한다. 도시에 집중하거나 모여 있을 이유가 없다. 그런데 현실은 반대다. 사람은 수도권으로 몰리고 끊임없이 물리적 이동을 한다. 이유가 뭘까. 디지털은 그전엔 몰랐던 정보를 짧은 시간의 검색으로 보여준다. 해상도가 좋아도 눈으로 보는 것만 못하다. 도시의 화려함을 직접 즐기고 싶다. 대도시에 자원이 집중되어 있다. 몸이 아프면 디지털 검색만으로 치료되지 않는다. 그런데 병원은 대도시에 밀집해 있다. 대기업 등 업무 시설도 마찬가지다. 

디지털 소통은 보여주고 싶은 것만 보여주면서 소외와 불행을 양산한다. 그래서 사람은 직접 만나야 한다. 그렇다고 안전하고 신속한 이동에 그쳐선 자율주행의 미래가 없다. 지방 소멸 등 부작용만 키운다. 이동을 통해 가슴 속 ‘진심’의 교류를 촉진해야 한다. 사람의 마음을 신속, 효과적으로 연결하고 인간적 소통 실현에 궁극의 목적을 둬야 한다. 그것이 디지털 시대 자율주행이다.

자율주행의 발전

자율주행은 뭘까. 사람이 브레이크, 핸들, 가속 페달을 제어할 필요가 없다. 차량이 도로 상황을 스스로 파악해서 달린다. 주행 시스템은 자동차 간 거리를 자동으로 유지한다. 경보 시스템은 후진 중 주변 차량을 감지하고 위험을 알린다. 제동 시스템은 앞 차를 인식하지 못할 때 멈추게 한다. 차로 이탈 경보 및 차로 유지 시스템은 방향지시등 없이 차로를 벗어나는 것을 막는다. 크루즈 컨트롤 시스템은 정해진 속도로 차량 간 거리를 유지하며 달리게 한다. 

미국자동차공학회는 자율주행을 조향·가속·감속, 주행환경 주시, 비상 대처를 기준으로 5단계 구분을 했다. 5단계가 완전 자율주행이다. 신속·정확·안전한 자율주행을 위해 차량 간, 차량과 관제시설 간, 차량과 주위 건물 또는 보행자 간 통신도 중요하다. 일정 기간 자율주행차와 일반 자동차가 공존할 것이다. 최적 경로로 움직이는 자율주행 특성상 전체 차량 수가 줄어들지만 어디든 갈 수 있다. 2016년 2월 자동차관리법 개정으로 자율주행이 가능해졌다. 경찰청은 자율주행을 전제로 하는 도로교통 교육을 강화하고 있다.

교통수단의 역사의 자율주행의 윤리적 문제

18세기 유럽의 교통수단은 ‘말’이다. 소음과 배설물 악취를 견디기 어려웠다. 마차 수가 늘면서 죽거나 다치는 사고가 잦았다. 사고를 보고 겁먹은 말이 또 사고를 냈다. 사고를 줄이기 위해 사람이 다니는 길을 따로 만들었다. 도로 교통 개편은 안전사고를 줄여 나갔다. 자동차가 말을 대체했다. 그러나 말에 비해 불편하고 위험하다며 반대가 컸다. 운전자가 핸들을 잡은 채 계속 앞과 옆을 봐야 하고, 기름을 넣어야 하며, 속도가 너무 빠르다는 이유였다. 그러나 자동차는 교통·운송·물류 혁신을 주도했고, 생활 방식과 산업 구조를 바꿨다. 

마차 시대가 끝난 것처럼 자동차 시대도 막을 내린다. 자동차 스스로 운행하는 자율주행 시대다. 2019년 4월 ‘자율주행 자동차 상용화 촉진 및 지원법’이 제정됐다. 운행 최적화를 위해 AI 알고리즘을 활용한다. 자율주행은 왜 해야 할까. 기업의 배를 불리기 위한 것뿐이라면 굳이 할 필요가 없다. 교통사고 사망자는 매년 줄고 있지만 2023년에만 2,551명이다. 이 숫자를 줄이는 데 목적을 두고 자율주행을 해야 한다. 

자율주행의 윤리적 문제는 무엇일까. 기차가 선로 위 작업 인부 5명을 향해 돌진하고 있다. 기관사가 선로를 변경하지 않으면 5명은 죽는다. 기관사가 선로를 변경하면 다른 선로 위에 있는 인부 1명이 죽는다. 5명을 구하기 위해 1명을 죽인다면 도덕적인가, 1명을 살리기 위해 5명을 죽인다면 도덕적인가. AI가 기차를 운전한다면 어떤 선택을 하도록 알고리즘을 짜야 할까. 플라톤은 인간이 도덕적이지 못한 이유를 도덕이 뭔지 모르기 때문이라고 진단했다. 

아리스토텔레스는 인간이 도덕은 무엇인지 알지만 실천하지 못한다고 탓했다. 헤겔은 뭐라고 했을까. 인간은 도덕을 알고 실천할 수 있다고 했다. 그러나 도덕 법칙 간 충돌이 발생하는 것이 문제라고 했다. 옳은 일을 하는 방법이 두 가지 이상 있을 때 어느 것을 선택하는 것이 더 도덕적인지, 하나의 도덕을 선택함으로써 다른 도덕을 포기해도 되는지 판단하기 쉽지 않다는 것이다. 

헤겔의 말이 맞지 않은가. 우리는 사람을 살리는 것이 도덕인 줄 알고 실천할 준비도 돼 있다. 문제는 5명을 구하는 것이 도덕인지 1명을 구하는 것이 도덕인지 모호하다. 사람의 가치는 1명이든 5명이든 모두 중요하다. 기관사가 선로를 변경하는 행동을 취해야 도덕적인지 가만히 있어야 도덕적인지도 문제다. 기관사는 기차를 운전하는 권한과 사람을 다치게 하지 않을 의무가 있다. 아무런 행동에 나서지 않는다고 도덕적이진 않다. 

2018년 미국 매사추세츠공대와 하버드대 연구진의 설문조사에선 동물보다 인간, 소수보다 다수, 남자보다 여자, 승객보다 보행자, 범죄자보다 개를 우선하는 경향이 높았다. 이 결과가 도덕적이라고 단정할 수 없다. 위 사례에서 AI가 어떤 결정을 하도록 알고리즘을 짤 필요가 있을까. 미래에는 AI 기술로 딜레마 자체를 만들지 말아야 한다. AI가 학습 결과를 바탕으로 현장에서 스스로 응급 조치를 취할 수 있어야 한다. 그 결과가 정당한지 사후적으로 판단하면 된다. 큰 틀로 보자. 자율주행이 2023년 기준 2,551명에 이르는 사망자를 획기적으로 줄인다면 그 자체로 도덕적이지 않은가. 인명을 중시하는 자율주행이야말로 도덕을 위해 반드시 가야 할 미래다. 

자율주행 시대의 법은 어떻게 해야 하는가 

도로교통법은 교통신호기·안전표지 등 교통안전시설, 자동차의 통행 방법, 운전자 의무 등을 정한다. 자율주행 기술 발전, 통신 시스템 개선, 일반 자동차 감소, 도로 등 인프라 개선 정도에 단계별 영향을 받는다. 

미래로 가보자. 도로교통법에서 책임 주체인 운전자는 누가 되는가. 에어컨·오디오 조작을 하는 것만으로 운전자가 될 수 없다. 이동 경로 관리, 비상 대처 의무 수행 등 핵심 자율주행 과정을 지배한다면 운전대를 놓고 있더라도 운전자다. 운전자가 반드시 1인일 필요도 없다. 논란을 피하기 위해 운전자를 미리 확정해 두는 것이 좋다. 차량 외부의 관제 시스템이 자율주행을 통제하고 탑승자가 단순 승객이라면 관제 시스템 운용자가 운전자다. 화물 운송 등 무인 차량도 마찬가지다. 이렇게 확정된 운전자가 피해자에게 발생한 사고 책임을 지고, 원인을 제공한 기기, 소프트웨어, 통신 등 공급, 제공자에게 구상권을 행사하면 된다. 

음주 운전은 가능할까. 주요 자율주행 과정을 지배·관여한다면 안전을 위해 허용할 수 없다. 승객은 술을 마셔도 될까. 취한 상태에서 차량에 물리적 가해 행위를 한다면 안전 운행을 방해하게 된다. 차 안에서 마시는 것만큼은 금지해야 하지 않을까. 난폭 운전은 어떤가. 차량, 탑승자에게 위협을 가하기 때문에 계속 금지하자. 속도 제한은 교통 흐름을 봐서 현재보다 탄력적으로 운영할 수 있다. 중앙선 침범은 가능할까. 비상시 중앙선 침범을 할 수 있게 AI 알고리즘을 만드는 것을 탓할 수 없다. 앞지르기, 끼어들기는 어떨까. 차량 통신으로 해결하면 좋겠는데 그래도 괘씸하다. 사고가 불가피한 상황에서 다수를 위해 소수를 희생시킬 수 있을까. 

최고의 자율주행은 사람의 생명·신체 안전에 위급한 상황 자체를 만들지 않는다. 그래도 위급 상황이 발생하면 어떻게 할까. 운전자 스스로 자신에게 불리한 결정을 해야 할까. 아니면 상대적으로 작은 피해를 가져오는 선택을 해야 할까. 사람의 가치는 1명이든 100명이든 차이가 없다. 국민적 합의를 통해 정해야 한다. 그것이 입법 원칙이다. 보행자는 자율주행을 위해 양보할 것이 있을까. 없다. 새로운 세상이 와도 보행자 안전은 최우선이다. AI 자율주행은 과학기술 발전의 한복판에 있는 기술이다. 가지 않을 수 없고, 가야만 한다. 부작용을 세밀하게 살피고 법과 윤리로 무장해야 한다.