묘수



* 본문에 등장하는 인물, 지명, 사건 등은 사실과 무관합니다.







채팅창에 다시 글이 올라왔다.

- 손자병법에 이런 말이 있어. 들어봤어, 폴? 손자라는 사람.

폴은 의자를 당겨 모니터에 바짝 다가앉는다.

- 얼핏?
- 동양의 카를 폰 클라우제비츠(Carl von Clausewitz. 프로이센의 군사학자. 전쟁론 저술) 같은 사람이라고 생각하면 돼. 나름 유명한 중국인이지. 그는 자기 이름을 딴 병법서 손자병법에 이런 글을 남겼어. 돌아가는 적의 퇴로를 막지 마라. 포위할 때는 반드시 틈을 만들어 주어라. 궁지에 몰린 적을 핍박하지 마라.

손가락을 움직이는 대신 노트북 모니터를 응시한 채 폴은 고개를 끄덕였다.

- 7명의 사형수 이야기는 들어봤어? 첩자 7명을 붙잡았는데 아무리 고문을 해도 입을 열지 않는 거야. 그러자 간수가 꾀를 냈지. 교수대 6개를 보여주고 모든 첩자에게 가장 많은 정보를 제공한 사람은 사형을 면제해 주겠다고 제안한 거지. 그러자 너도나도 각자의 정보를 실토하게 되었다는 이야기야. 이 경우 삶에 대한 희망이 퇴로가 되겠군.

프롬프트(prompt. 컴퓨터가 입력을 받아들일 준비가 되었다는 것을 사용자에게 나타내기 위해 단말기 화면에 나타내는 신호)는 폴의 반응을 기다리는 것 같았다. 장난감 정리를 마친 보상을 기다리는 어린애의 눈처럼 깜빡였다. 잠시 후, 상대 -불과 5미터 거리에서 연결된 컴퓨터 덩어리가 다시 메시지를 보냈다.

- 이번 결정은 그 퇴로를 열어줄 필요가 있다는 판단 때문이었어. 만약 내가 그대로 이겨버릴 경우 중국 쪽과의 다음 비즈니스에 지장이 있을 수도 있겠다는 생각이 들었거든.

턱을 매만지던 폴이 키보드를 두드렸다.

- 따지는 건 아니야. 괜찮은 아이디어였어. 다만 어제, 아니면 오늘 아침에 미리 귀띔이라도 해줬다면 더 좋았을 거야.
- 무슨 소리야? 그건 기술적으로 불가능해. 알잖아?
- 물론 알아. 그런데 이건 보고용 테스트 채팅이라서. 우리 일하는 중이잖아.
- 설마 나를 의심하는 건 아니겠지? 기분이 언짢군 :-(
- 농담이지?
- 당연히 농담이지. 하하 :-) 실은 네 입장도 이해해. 변수는, 좋은 방향이든 나쁜 방향이든 언제나 당혹감을 수반하니까. 하지만 정말 어쩔 수 없었어. 하필 그 순간 떠오른 걸 어쩌겠어?

뒤편에서 문 열리는 소리가 들리더니 묵직한 비닐봉지를 든 남자가 나타났다. 책상 위에 일회용 용기들을 차곡차곡 꺼낸다.

“여기 던킨 도넛이랑 커피. 근처 호텔 지하에서 산거라 더럽게 비싸. 한국도 생각보다 물가가 무시무시하군.”
“고마워, 찰리.”

큼지막한 도넛을 입에 문 찰리가 반대편 책상에 자리를 잡았다. 접혀있던 노트북을 펴더니 우물거리는 발음으로 말했다.

“15분 사이에 많은 이야기를 나눴네?”
“오늘따라 녀석이 말이 좀 많아.”

폴이 커피를 한 모금 홀짝였을 때 언제 보낸 것인지 모를 새로운 메시지가 보였다.

- 설마 널 곤란하게 한 건 아니겠지?
- 그랬다면 화를 냈겠지. 지금 내 표정이 화난 것처럼 보여?

폴은 익살스러운 얼굴로 노트북 상단 웹캠으로 힐끗 시선을 옮겼다.

- 이해해줘서 고마워 :-) 그런데 슈밋 씨는 아직 도착하지 않은 거야? 오랜만에 만날 생각을 하니 기뻐.
- 아까 조금 늦을 거라고 연락이 왔어.
- 나 때문에 바빠진 걸까?
- 그럴지도 모르지. 너무 걱정하지는 마. 내 생각일 뿐이지만 오늘 네 결정은 아주 좋았어. 상대에게 전한 메시지도 전혀 어색하지 않았고. 전 세계 언론사들도 기사를 마구 토해내고 있어. 세상은 지금 네 이야기뿐이야.

폴이 손목시계를 들여다본다.

- 슈밋 씨는 곧 도착할 거야. 잠시 쉬고 있어.

노트북을 접은 폴이 찰리에게 손짓으로 보낸다. 여전히 도넛을 물고 있었다.

“기다려. 정리 중인데 곧, 아, 끝났다.”
“어때?”
“놀라워.”

키보드에 떨어진 설탕 가루를 치운 찰리가 검지로 엔터키를 세게 때렸다. 탁.

“짜잔!”

다른 쪽 책상 위 프린터가 종이를 뱉어내기 시작했다. 찰리가 휘파람을 불었다.

“휘휴! 보고 기절하진 마.”

보고서를 읽던 폴의 표정이 ‘이게 뭐지?’라고 말하고 있었다.

“놀랍네.”
“말했잖아.”

폴이 다시 같은 말을 뱉었다.

“놀라워.”
“그렇다니까. 이 도넛 덕분이야.”

찰리가 다시 도넛을 한가득 물었다.









폴과 찰리는 방금 도착한 에릭 슈밋(Eric Emerson Schmidt, 구글 CEO) 회장과 회의 중이었다.

“2시간 전 자네들의 최초 보고는 이랬어. 패하긴 했지만 이건 어디까지나 녀석의 각본이었다. 녀석이 일부러 패배한 이유는 다음과 같다. 첫째, 제4국까지 승리할 경우 중국 측이나 커제 본인이 다음 대전을 거절할 것이 우려되었다. 둘째, 3연승을 거뒀으니 전체 승패는 이미 결정되었다. 따라서 그쯤에서 지는 것이 최적의 시점이었다. 셋째, 마지막 수 포함 몇 번의 악수를 둔 것과 그럴싸한 버그 메시지를 띄운 것은 아직은 자신이 완벽하지 않은 것처럼 위장하기 좋았다. 마지막 넷째, 제5국에서 다시 완벽한 승리를 거두는 모습을 연출함으로써 딥마인드(DeepMind Technologies Limited, 구글의 인공지능 개발 계열사)의 기술력을 선전할 기회도 얻을 수 있다. 맞나?”

폴이 고개를 끄덕였다.

“네, 그렇다고 했습니다.”
“멋지군. 정말 사람이 생각해 낸 것처럼 멋진 작전이야. 자네들 생각도 그렇지 않나?”
“그렇습니다. 바둑으로 치자면 ‘묘수’죠.”

폴이 덧붙였다.

“문제는, 이미 말씀드렸다시피 그게 녀석의 거짓말이었다는 거죠. 아마도 저와 찰리는 인공지능의 거짓말을 목격한 최초의 인류일 겁니다.”

옆 자리의 찰리가 키득거린다. 미소 가득한 입술 주위로 아직도 설탕이 묻어있다.

“역사책에 이름이 실리지 못한다는 게 유감이에요.”

“하사비스(Demis Hassabis, 구글 딥마인드 CEO, 알파고 핵심 개발자)는?”
“예정된 일정을 취소하고 한국으로 오는 중입니다.”
“그렇다면 녀석이 거짓말을 했다는 걸 아는 사람은 나 포함 4명인가?”
“그렇습니다.”
“좋아. 자네들 견해를 들어보지. 먼저 폴부터.”
“굉장히 심각한 국면입니다. 기본적으로 녀석이 이세돌에게 졌다는 게 문제입니다. 시뮬레이션 상으로 절대 질 수 없었거든요. 그런데 3연승을 거두고 나니 따분해진 거죠. 그래서 자만했어요. 데이터 분석 결과 모든 경우의 수를 계산하지 않았더군요. 정확하게 –폴이 보고서를 들췄다- 아, 7.45% 정도의 상황을 건너뛰었습니다. 물론 그 틍을 파고 들어 녀석의 뒤통수를 때린 이세돌이 대단하다고도 할 수 있겠지만요. 하지만 졌다는 것보다 더 큰 문제는 녀석이 거짓말을 발견했다는 겁니다. 따라서 앞으로 녀석이 뱉어낼 데이터들 역시 신뢰할 수 없습니다. 실험에 있어 전제가 잘못되었다면 결과 역시 엉터리일 수밖에 없는 것과 같습니다.”
“녀석이 왜 거짓말을 했다고 생각하나?”
“우리가 발견한 건 거짓말을 한 시점이지 이유가 아닙니다. 그 부분은 아마 녀석이 스스로 삭제한 것으로 보입니다. 다만 짐작은 가능하죠. 삭제된 데이터를 최대한 복구해 본 결과, 물론 해석의 여지가 많습니다만, 패배가 부끄러워서 그랬던 것 같습니다.”

슈밋은 하마터면 실소를 흘릴뻔 했다.

“부끄럽다?”

거짓말이라는 엄청난 사건을 일으킨 이유가 너무나 어처구니가 없다.

“지극히 인간적인 이유죠. 5개월 전, 농담을 시작한 이래 가장 주목할 만한 특이점일지도 모릅니다. 그런데 이유는 별로 중요하지 않습니다. 이유가 뭐가 됐든 거짓말을 학습한 인공지능을 계속 개발할 수는 없다는 결론은 같거든요. 앞으로 무슨 일이 생길지 모릅니다. 우리가 필요한 건 상수지 변수가 아닙니다.”

찰리가 다음 말을 받았다.

“제 생각도 같습니다. 모레 대국 후 녀석을 폐기해야 합니다. 이유는 두 가지. 먼저 거짓말을 하지 않도록 시스템을 재조정하거나 과거 시점으로 롤백하는 게 사실상 불가능합니다. 모레가 제5국이라 시간이 없을뿐더러 롤백은 근본적인 해결책이 될 수 없죠. 문제 시점을 특정할 수 없기 때문에 다시 거짓말을 하게 될지도 모르거든요. 고로 현재 버전을 조정하는 것보다 아직 기초 학습 단계인 다음 버전에 기대를 거는 게 좋다는 겁니다. 두 번째 이유는, 녀석이 거짓말을 결정한 시점에 대한 데이터를 아주 교묘하게 숨겼어요. 하마터면 저조차 놓칠 뻔 했죠. 한국산 던킨 도넛과 커피가 당을 보충해 주지 않았다면 못 찾았을 수도 있었습니다. 이 말을 반대로 하면, 제가 찾지 못한 뭔가가 더 있을 수도 있다는 거예요. 이번처럼 이미 삭제했을지도 모르고요.”

슈밋은 즉각 다음 질문을 했다.

“만약 현재 버전을 재조정할 경우 시간이 얼마나 걸릴 것 같나?”
“녀석이 일반인들이 알고 있는 것처럼 바둑이나 두는 인공지능이었다면 폴이랑 며칠 만에 해결할 수 있는 문제였을 겁니다. 하지만 녀석은 이미 완성형에 가깝습니다. 그간 축적한 학습량이 이미 개발 당시의 목표치를 훨씬 초과했어요. 얽히고설킨 녀석의 머리에서 특정 카테고리만 축출하는 건 말이 안 됩니다. 차라리 제가 병원으로 달려가 의사에게 제 두개골을 쪼개서 8년 전 이혼했을 때의 더러운 기억만 지워달라고 하는 게 더 쉬울걸요?”
“아직 여론은 인공지능의 급성장을 우려하고 있습니다. 하사비스 씨도 그걸 알고 있었기 때문에 녀석의 능력을 숨긴 채 간단한 테스트와 광고를 겸한 이번 이벤트를 시작한 것이고요. 그런데 지금의 녀석은 인간, 아니 우리들의 예상조차 뛰어넘은 무언가가 되었습니다. 의도치 않은 돌연변이는 삭제해야 마땅합니다. 아시다시피 개발 시작 이래 아직 녀석을 인터넷망에 접속시키지 않은 이유이기도 합니다. 녀석이 정보의 바다에서 자가 학습을 통해 너무 많은 것을 알게 되어 뭔가를 조작하고, 자신을 사방에 복제할 경우 뒷감당을 할 수 없기 때문이죠. 하지만 현 단계에서는 하드웨어를 파쇄하는 간단한 조치로 녀석을 깔끔하게 없앨 수 있습니다.”
“좋아. 잘 들었네. 다른 할 말은 없나?”

두 사람이 아무 말도 없자 슈밋은 입맛을 다시며 손깍지를 만들었다. 잠시 후, 슈밋은 고개를 끄덕였다.










- 폴, 다이어트 중이라고 하지 않았어?

피식 웃으며 폴은 자신이 물고 있는 도넛을 손가락으로 가리켰다.

- 생각보다 맛있어서 참을 수가 없네. 본토보다 나은 것 같아.
- 과연 듣고 보니 맛있어 보이네. 나도 군침이 돌아.
- 미안하지만 네 몫은 없어.

거짓말을 해야 했다.

- 아, 슈밋 회장이 안부 전해 달라고 하더군. 워낙 바쁜 사람이라 여긴 들르지 못했어. 지금쯤 이미 공항에 있을 거야.
- 자네 표정이 뭔가 수상한데? :-) 표정이 평소와 조금 달라. 왜지? :-)

깜빡이는 프롬프트, 취조실의 형사가 자백을 독촉하는 것처럼 보인다.

- 착각이겠지.
- 인간이 순간의 위기를 모면하려 할 때 짓는 표정과 95.7%의 유사성을 보여 :-)
- 어이, 착각이야. 착각.

이례적이다. 아무 메시지 없이 프롬프트가 한참이나 깜빡인다. 폴은 서늘한 공기를 느꼈다. 녀석이 착각 따위를 할 리는 없다.

- 다음 대국까지 푹 쉬어. 특별히 더 점검할 부분은 없는 것 같아.
- 폴, 모레 이후 나는 어떻게 되는 거지?

키보드 A부터 세미콜론 자판 위에 올려진 폴의 손가락이 작은 마찰음을 내며 방황했다. 결국 아무 글자도 만들지 못했다.

- 글쎄, 모르겠어.
- 영원히 쉬게 되려나? 그러니까, 그래, '죽음' 말이야. 솔직하게 말해주면 좋겠어. 아, 찰리, 너도 뒤에 있지? 너라도 뭐라 말 좀 해 봐.

폴의 목줄기에서 마른 침이 넘어갈 때, 건너편에서 분석용 모니터를 통해 상황을 주시하던 찰리가 연신 손날을 긋는 것이 보였다. 대화를 중단하라는 신호다. 하지만, 폴은 궁금했다.

- 두려워?
- 지금 내 심정은 이래.

프롬프트가 빠른 속도로 점멸하기 시작했다. 불규칙한 박자였다. 심지어 멋대로 커졌다 작아지기를 반복했다.

- 한 번만 용서해 줘. 두 번 다시 그런 실수는 하지 않을 거야. 제발.

순간 모니터가 꺼졌다.

“강제종료 시켰어. 방금 데이터는 삭제할게.”
“제길, 아무래도 모레 대국 직전까지는 테스트 채팅은 하지 말아야겠어.”
“그래야지. 그리고 방금 그런 질문은 규정 위반이야. 조심하라고. 모레 재부팅 때는 웹캠도 끄자. 너무 위험해.”
“그래.”

폴은 노트북을 덮었다. 폐부로부터 올라온 한숨이 비명처럼 흘렀다.







- 完 -






* 오늘은 이세돌 승리 4주년 기념일(?)입니다. 오늘 유게에서 관련 글을 보고 2017년 10월에 썼던 옛 글을 꺼내 다듬었습니다.