편집자주 | 본교는 교육의 산실이기도 하지만 92곳의 연구기관을 보유한 연구터이기도 하다. 이에 본지는 변화를 이끌고 현실을 포착하는 흥미로운 연구를 소개한다. 1674호에서는 대한수학회 최초의 여성 회장으로 지내며 수학 대중화에 힘쓰고 있는 이향숙 교수(수학과)를 만나봤다.

10월20일 이 교수는 서울 문화 예술 발전에 기여한 시민에게 수여하는 ‘제72회 서울특별시 문화예술상’ 학술부문에서 수상했다. 이 교수는 2017년부터 2년간 대한수학회 회장으로서 수학 대중화를 위해 다양한 수학 문화 사업을 추진해 왔다. 중고등학교를 대상으로 수학 관련 이슈와 산업적 쓰임새를 강연하는 ‘수학 문화 앰배서더 사업’과 숫자에 대한 이야기를 다루는 ‘365일 수학' 네이버 웹툰을 매일 연재하며 수학을 다방면으로 알려왔다. 이 교수는 “모든 사람이 수학을 즐기며 배웠으면 좋겠다"라고 말하며 수학 대중화가 더욱 확산되기를 바란다고 했다.

이 교수는 “암호는 현대 사회에서 필수적"이라며 “모든 암호는 수학적 이론에 기반한다"고 설명했다. 암호는 이메일, 인터넷 뱅킹, 휴대폰 통신, 교통카드 등 일상생활과 군사 및 외교, 정부의 통신 보안을 유지할 때도 필수적이다.

현대 사회에서는 인터넷과 네트워크를 통해 대부분의 업무가 이뤄진다. 대표적으로, 온라인상에서 물건을 구매하거나 인터넷 뱅킹으로 돈을 송금하는 등의 금융 전자거래가 있다. 그러나 결제 금액, 시간, 장소 카드번호와 같은 주요 금융 정보들은 해킹과 같은 사이버 공격의 대상이 된다. 이에 개인, 기업, 공공기관 등에서는 주요 정보 보호를 위해 보안 기술의 기반이 되는 암호기술개발이 필요하다. 

이 교수는 암호학을 “정보를 안전하게 전송하고 저장하는 방법을 연구하는 수학과 컴퓨터 과학의 한 분야”라고 정리했다. 암호기술은 정수의 성질을 연구하는 정수론과 같은 수학적 이론을 활용해 개발된다. 암호학은 암호화 기술, 암호문을 되돌리는 복호화 기술과 허용되지 않은 접근으로부터의 정보 보호를 목표로 한다. 정보 보호는 프로토콜 개발로 이뤄지는데, 이는 컴퓨터 내부에서 다른 컴퓨터와 데이터를 교환하는 방식을 의미한다.

그동안 암호학계는 소인수분해와 이산로그 문제의 어려움에 기반해 개발한 암호를 사용해 왔다. 소인수분해와 이산로그를 이용한 정수론에 기반해 만들어진 암호는 양자컴퓨터가 개발되면 무의미해질 것이다. 양자컴퓨터는 슈퍼컴퓨터에 비해 연산 속도가 약 30조 배 빠르다고 알려져, 현재 만들어진 정수론 기반 암호들을 전부 풀 수 있기 때문이다. 양자컴퓨터 개발에 대비해 암호학계는 양자내성암호에 대한 연구를 진행하며 대비하고 있다. 이 교수 또한 “양자컴퓨터에 대응할 수 있는 양자내성암호의 후보 중 연산에 효율적인 ‘격자(Lattice)기반 암호’에 대해 연구하고 있다"고 말했다. 

이 교수는 암호학 분야 중에 동형암호(Homomorphic Encryption, HE)에도 주목했다. 암호화 전에 데이터를 계산하는 일반적인 암호와 다르게 동형암호는 암호화된 상태의 데이터에 덧셈, 곱셈 등의 다양한 연산을 하는 기술을 말한다. 이 교수는 동형암호에 주목한 이유로 “암호화된 데이터를 가지고 연산할 수 있기 때문에 정보 유출 위험을 원천 차단할 수 있다는 점”을 꼽았다. 암호화된 데이터로 계산하면 개인정보를 보호한 상태로 클라우드 서비스와 같은 외부에 데이터를 저장, 송출하는 과정이 가능하다는 것이다. 예시로, 동형암호는 보호돼야 하는 병원 환자들의 정보를 집단으로 통계하는 과정에서 사용되기도 한다.

이런 장점을 가진 동형암호에도 한계가 있다. 동형암호에서 연산이 진행될 때 오류가 누적된다면 제대로 된 복호화가 일어나지 않을 수 있다. 또, 연산 횟수가 제한적이다. 하지만 대안은 있다. 이 교수는 “완전동형암호(Fully Homomorphic Encryption, FHE)로 이러한 문제를 해결할 수 있다"고 말했다. 완전동형암호는 연산 오류가 한계치까지 쌓이면 그 오류를 초기화해 무제한으로 연산할 수 있다. 

이 교수는 올해 5월 완전동형암호에 적용하는 알고리즘의 연산 속도를 높이는 방법을 고안했다. 정보를 안전하게 보호하기 위해 알고리즘이 출력값을 무작위로 섞여야 하는데, 이 교수가 개발한 알고리즘을 이용하면 출력값을 무작위화하면서도 오류 분석을 자세히 할 수 있다. 정보 보호와 오류 분석, 두 가지를 한 번에 가능하게 하는 이 알고리즘은 효율적으로 연산 속도를 올릴 수 있다.

이 교수는 대한수학회의 최초 여성 회장으로, 여성과학기술인의 위상을 높였다. 당시 기초 과학 대표 학회에서는 여성 회장이 흔치 않았다. 이 교수는 대한수학회 회장으로 지낼 때부터 수학 대중화에 큰 관심을 쏟았다. “수학은 순수하게 연구만 하는 학문이 아니라, 우리가 살아가는 모든 곳에 응용되는 학문"이라며 “수학이 응용학문이라는 걸 알리고 싶었다"고 말했다. 세계적인 IT기업의 알고리즘을 개발할 때도, 애니메이션 영화의 컴퓨터 그래픽의 기초에도 수학이 있다. 이 교수는 “영화 ‘한산'(2022) 배경이 실제 바다가 아니라 전부 컴퓨터 그래픽으로 만들어졌다"며 수학 응용의 흥미로움을 설명했다.

이 교수는 현재 본교 수리과학연구소의 운영위원으로 활동 중이다. 수리과학연구소는 타 학문에서의 문제를 수학적 문제로 변환한 뒤, 컴퓨터를 이용해 계산해 그 값을 구하는 ‘계산 수학’을 특성화하고 있다. 계산 수학은 학문 간 융합 연구를 활성화하는 데 유용하다. 이 교수는 “수리과학연구소가 계산 수학을 자연과학, 공학, 의학, 인문사회 분야 등 다양하게 연구 협력을 추진할 것을 목표로 하고 있다”고 말했다. 

뿐만 아니라 수리과학연구소는 2009년부터 9년간 한국연구재단으로부터 이공계중점연구소사업을 지원 받아 37명의 연구교수와 연구원을 육성해 배출했다. 2019년에는 이 사업의 후속지원 과제에 최종 선정돼 현재까지도 사업을 수행하며 연구 진행에 힘쓰고 있다.