중국의 인공지능 개발이 걱정되는 이유

인공지능 개발에 최적인 환경을 상상해보라. 대규모 연산 능력, 수많은 컴퓨터 공학자, 끊임없는 자본공급, 그리고 패턴인식 능력 개발에 핵심적인 풍부한 데이터. 인공지능 개발의 선두주자인 미국을 말하는 것처럼 보이지만, 사실 중국이 이에 부합하는 면이 많다.

중국의 클라우드 컴퓨팅 능력은 급속도로 향상되고 있다. 연구의 질을 논외로 칠 때, 중국의 인공지능 연구는 그 양에서 미국을 능가한다. 2010년에서 2014년 사이의 인공지능 관련 중국내 특허 출원은 그 이전 5년간보다 3배 증가하였다. 또한 중국의 스타트업들은 벤쳐 캐피털에서 막대한 자금을 끌어모으고 있다. 무엇보다도, 중국의 7억 명이나 되는 스마트폰 사용자는 인터넷 구매, 음성 인식 등을 통해 방대한 양의 데이터를 생성하고 있다. 덕분에 알리바바, 바이두, 텐센트 같은 중국 기업들은 안면인식, 메시징 봇 등 여러 분야에서 최고 수준의 인공지능 시스템을 구축하고 있다. 중국 정부는 자국 인공지능 산업의 높은 잠재력을 명확히 인식하고 있으며, 이번 7월 20일에는 2030년까지 세계 최고 수준의 인공지능 강국이 되겠다는 발전전략을 발표하였다.

세계에서 가장 인구가 많은 국가의 인공지능 붐은 막대한 가능성을 약속한다. 다른 어느 국가도 중국만큼 방대한 양의 데이터를 얻을 수 없다. 신기술 개발도 빠를 것으로 전망된다. 한자가 워낙 입력하기 불편하기에 서구권에서보다 음성인식 서비스의 인기가 높은데, 덕분에 중국 음성인식 기술은 서구보다 빠르게 발전할 것이다. 도로변의 카메라를 이용하여 신호등을 자동조절하는 시스템도 현재 테스트 중이다. 맥킨지에 따르면, 인공지능 기반 자동화는 중국의 연간 GDP 성장률을 1% 포인트 이상 끌어올릴 것이다.

하지만 중국의 인공지능 개발 계획은 근심거리 또한 던져준다. 첫째로는 중국에서 이뤄진 인공지능 혁신에 따른 이득이 데이터 보호주의 때문에 약화될 거란 점이다. 올해 6월부터 시행된 사이버 보안법은 외국 기업들이 중국 소비자에게서 수집한 데이터를 중국 국경 안에 보관해야 한다는 규제를 담고 있다. 이에 응하지 않으면 중국 데이터에 기반한 서비스를 제3자에게 제공할 수 없다. 외국 기업에게 이런 규제가 가해진다면, 똑같은 보복이 중국 기업들에 가해질 걸 예상하는 건 어렵지 않다. 데이터 수집을 제약하는 이런 규제는 자율주행차 같은 인공지능 기반 제품들의 효율 향상에 방해가 될 것이다.

두번째로 우려되는 점은 윤리와 안전이다. 미국 실리콘 벨리의 거대 기술 기업들은 인공지능 개발의 안전을 담보하기 위해 협력하기로 약속하였다. 이에 따라 인공지능을 격리하여 외부환경에 재앙을 초래하지 못하게 막는 박싱(Boxing) 같은 기법이 논의될 예정이다. 또한 서구의 인공지능 개발의 선도적 연구자들은 모두 2015년에 자율살상 무기의 개발을 금지해야 한다는 공개서한에 서명하였다. 반면 중국의 윤리적 인공지능 개발에 대한 논의는 지지부진하다.

그렇더라도 통제할 수 없는 인공지능은 그게 어디에서 태어나든 전세계에 위협이 될 것인 만큼, 중국 기업들이 스스로 이런 논의에 참여할 수도 있다. 세계적 안전규약 확립 노력이 자발적으로 이뤄지고 있는 것처럼 말이다. 하지만 세번째로 우려되는 점, 즉 인공지능이 주로 중국 정부의 이득을 위해 사용될 거란 점은, 훨씬 풀기 어려운 문제이다.

독재와 인공지능

이번에 발표된 중국의 인공지능 발전 전략은 인공지능이 국가에 얼마나 큰 가치를 가지는지 숨기지 않는다. 이 계획은 유도미사일에서부터 정책결과의 예측까지, 거의 모든 분야에 인공지능을 활용하는 방안을 담고 있다. 인공지능은 중국 검열 당국이 국민을 통제하기 위하여 다뤄야만 하는 막대한 양의 데이터에서 패턴을 찾아내는 데 아주 적합하다. 바로 이 데이터가 시민을 평가하는 사회 신용도(social-credit) 시스템을 완성하기 위해 사용될 거란 점도 쉽게 예상할 수 있다. 이런 알고리즘들이 일단 완성되기만 하면 세계의 독재정부들에게서 상당한 관심을 끌 것이다. 그리고 중국 기업들은 인공지능이 정부의 이익을 위해 사용되는 걸 막을 만한 위치에 있지 않다. 예컨대 바이두는 국가 주도 딥러닝 연구소에서 선도적 역할을 담당하고 있다. 결국 중국 인공지능은 국가의 관심사를 반영할 수밖에 없을 것이다.

서구기업과 정부라고 선량한 목적에서 데이터를 수집하고 첩보 활동을 하는 건 아니다. 하지만 서구기업들은 적어도 인공지능의 윤리적 활용 논의에 참여하고 있으며, 정보당국들은 민주적 기구에 의해 제약받는다. 중국은 그렇지 않다. 인공지능은 수십 억 인류의 삶을 바꿀 잠재력을 가진 기술이다. 중국이 이대로 인공지능의 미래에 큰 영향을 끼친다면, 그 최대 수혜자는 시민이 아닌 국가가 될 것이다.

원문: https://www.economist.com/news/leaders/21725561-state-controlled-corporations-are-developing-powerful-artificial-intelligence-why-chinas-ai-push

-------

쪽수가 많다는 게 무섭긴 무서운 건가 봅니다. 미국보다도 인공지능 연구에서 유리한 면이 있을 정도라니... 미국 인구도 3억5천만이나 되는데 말이죠. 우리는 그저 울어야겠군요.

저번에 번역한 글에서도 그랬지만, 영국 이코노미스트 지는 중국 인공지능이 인간 통제를 목적으로 개발되고 있다는 점에 대해 꾸준히 우려를 표하고 있습니다. 거의 두어달에 한번 꼴로 관련 기사가 실리는 것 같네요. 앞서 말했듯 중국이 인공지능 연구에 상당한 이점을 갖고 있다는 걸 생각해 볼 때, 저런 통제 인공지능이 성공할 가능성이 충분하다고 생각하는 것 같습니다. 이번 7월 20일에 인공지능 발전 전략이 발표된 듯한데, 거기에 중국의 그러한 관심사가 반영된 것 같고, 그걸 계기로 또 기사가 실린 것 같네요.

저런 통제 인공지능이 사물인터넷과 결합하여 무시무시한 빅브라더가 될 수도 있겠지만, 그와 별개로 점수제에 근거한 형태가 되는 걸 상상해 볼 수도 있을 것 같습니다. 인공지능에 의한 실업이 늘어난다면, 독재국가의 실업자들은 국가가 지급하는 기본소득에 절대적인 의존을 해야할 테고, 참정권이 없으니 일방적인 시혜관계라 철저한 을이 되겠죠. 체제 순응도를 측정하는 사회 신용도의 점수에 따라서 기본소득이 정해지는 식으로요. 그런 식으로 실업이 확대되는 상황이라면, 민주국가에서도 참정권 빼면 아무것도 없는 꼴인 건 마찬가지겠지만요...

좀더 상상력을 발휘하면 과거 냉전시기 이념전쟁처럼 중국 주도의 인공지능을 활용하는 국가와 자유세계에서 만든 인공지능을 활용하는 국가 사이의 경쟁구도를 생각해 볼 수도 있을 것 같습니다.

미국은 전세계에서 최고의 인재를 끌어모아 인공지능 연구를 하고 있고, 중국은 연구자의 질은 아무래도 떨어지겠지만 방대한 데이터라는 이점을 갖고 있죠. 이 둘 사이에 뭐가 더 큰 이점이 될지 모르겠네요.

참고: https://pgr21.co.kr/pb/pb.php?id=freedom&no=69837&divpage=15&ss=on&sc=on&keyword=
위에 나온 사회 신용도 시스템(social-credit)에 대한 저번 번역글입니다.