PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2016/03/10 23:39:31
Name 은때까치
Subject [일반] 구글은 정말로 세계정복을 꿈꾸는가?





알파고의 이번 경기 완승으로 인한 흥분과 떨림이 가라앉기 전에 글을 씁니다.
저는 이번 이벤트를 보면서, 정말로 진지하게 구글이 세계정복을 할 수 있을 것이라는 생각이 들었습니다.
그 이유는, 알파고는 단순히 바둑 프로그램이라 하기에는 그 내용이 너무나도 일반적이기 때문입니다.





기존의 딥러닝, 대표적으로 CNN(convolutional neural network)은 대부분전부 supervised learning 기반이었습니다. 사람이 손수 떠먹여주는(정답을 알려주는) 데이터, 그것도 무수히 많은 데이터를 필요로 했죠. 물론 이것도 등장 당시에는 엄청나게 쇼킹했습니다. 컴퓨터가 개와 고양이를 매우 손쉽게 구분하고, 동시통역을 꽤 훌륭한 퀄리티로 해냈으니까요. 기존의 프로그램은 상상조차 할 수 없는 놀라운 업적이었습니다.

하지만.... 여기에는 사람의 labelling, 수작업이 들어갑니다. 고양이와 치타와 호랑이를 구분하는 놀라운 인공지능 뒤에는 사진에 하나하나 '이건 고양이, 이건 호랑이....' 하면서 밤새 설명을 달아주는 대학원생이 있었던 것입니다. 새로운 task를 하기 위해서는 새로운 dataset이 필요했고, 이건 결국 시간이 많이 소모되는 수작업이 들어갈 수밖에 없기 때문에 확장성에 한계가 있었습니다.






그리고 작년 겨울, 구글 딥마인드(네, 이번에 그 딥마인드 맞습니다)가 네이쳐에 [Human-level control through deep reinforcement
learning]
이라는 논문을 실었습니다. 이분들은 RL(Reinforcement learning, 강화학습)을 기존의 딥러닝 CNN에 접목시켰습니다.

이 논문에서 컴퓨터가 받은 명령은 단 하나, '주어진 게임의 점수를 올려라' 입니다. 그러면 컴퓨터는 게임 화면을 보면서 스스로 이것저것 시도를 해 보면서, 최대한 죽지 않고 점수를 잘 딸 수 있는 방법을 찾아내서 프로그램을 업데이트합니다. 마치 사람이 새로운 게임을 배우듯이요. 
다음 동영상을 잠깐 보시죠. Seaquest라는 아타리 8비트 게임을 처음 접하는 인공지능 프로그램입니다.






영상을 보시면 처음에는 어떻게 하는지도 몰라 금방 죽지만, 이내 물고기를 쏴서 죽이면 점수가 오른다는 사실을 알아냅니다. 
하지만 이 게임에는 '산소' 시스템이 있어서, 물 속에 너무 오래 있으면 죽습니다. 죽으면 점수를 얻을 수 없죠. DQN은 어떻게 했을까요?


스스로 숨을 쉬는 방법을 터득해서, 그렇게 합니다.

여기에 인간의 구체적인 지시는 단 하나도 들어있지 않습니다. 프로그램이 스크린을 보고, 스스로 방법을 찾아내서 배운 겁니다.
놀랍지 않나요? 전 엄청 쇼킹했는데.....
한가지 게임만 잘 배운것이 아니라, 규칙과 그래픽이 완전히 다른 49가지 게임을 단 하나의 알고리즘을 통해 배울 수 있었습니다.
그저 '점수를 올려라'라는 단순한 instruction 하에 말이죠.



이것이 의의는, 사람이 더 이상 정답을 일일히 가르쳐 주지 않아도 딥러닝은 배울 수 있다는 겁니다. 
만약 게임하는 법을 supervised learning으로 배우려고 했다면, 게임의 수많은 상황에서 어떻게 해야하는지 직접 정답을 알려주어야 했을 것입니다. 하지만 이건 불가능하죠. 아무리 대학원생이라도 이건 못해요....


하지만 RL을 통해서, 사람이 수작업으로 labelling하기 애매했던 개념들도 방향만 정확하고 구체적으로 설정해 줄 수 있으면 그 결과에 대한 피드백을 통해 학습이 가능해졌습니다. 가령 '점수를 올려라' 라는 것은 굉장히 명쾌한 명령이죠. 어떤 행동으로 점수가 올라가면 +1, 좋은 행동. 점수가 내려가거나 더 이상 오르지 않으면 -1, 나쁜 행동. 그리고 업데이트.

사실 이건 살아있는 생물의 학습과 굉장히 닮아 있습니다. 애초에 강화학습(Reinforcement learining)이란 단어는 파블로프의 개에서도 쓰이는 단어니까요. 객체가 스스로 환경에 적응해서 나은 방향으로 자신이 행동을 수정해 나가는 것. 이것이 뉴럴 네트워크 학습에도 적용될 수 있었습니다.



하지만 아무리 사람보다 높은 퍼포먼스를 보였다고 해도, 기껏해야 8비트 게임. 사람이라면 누구나 쉽게 배우고 해낼 수 있는 게임이었습니다.
이러한 게임들은 솔직히 너무 간단하죠. 사람을 뛰어넘었다고 하기엔 무리가 있었습니다.
(지금 있는 힘껏 구글느님을 평가절하 해보고 있습니다....)










....그리고 올해, 알파고가 나왔죠.
...그리고 오늘, 이세돌 9단을 완파했습니다.



알파고의 작동 원리에 대해서는, 다른 유저분이 너무 잘 써주신 게 있어서 자세히 쓰지 않겠습니다.
https://pgr21.co.kr/pb/pb.php?id=freedom&no=63971&page=2

역시나 중심이 되는 것은 RL과 CNN입니다. 기존 기사들의 기보 학습(supervised learning)은 단순히 초기값 세팅에밖에 안 쓰였어요.
'바둑을 이겨라' 라는 단순한 목표를 향해 꾸준히 나아가는 인공지능의 학습방법 : RL
그리고 그 '바둑을 이기는 방법'을 담고 있는 그릇 : CNN.





사실 CNN은, 나왔을 때부터 지금까지, 흔히 블랙박스라고 표현되곤 합니다.
왜냐하면 그 안에서 정확하게 어떤 일이 벌어지는지는, 아무도 확실히 모르거든요. 마치 뇌처럼요.


우리가 아는 것은, 요러조러하게 네트워크를 구성하고, 수많은 input data를 넣어서 원하는 바를 학습시키면, 어쨌든 그 일을 해낸다는겁니다.
가령ㅡ
이미지를 수천만장 넣어 주고 (input) 얘네들이 뭔지 알려주면 (output) -> 처음 보는 이미지가 개인지 고양이인지 구분해 내고
음성 데이터를 수천만개 넣어 주고(input) 이게 어느 나라 말인지 알려주면 (output) -> 어느 나라 말인지 구분해 내고
옷 사진을 수만장 보여 주고(input) 그 중에 내가 좋아하는게 뭔지 알려주면 (output) -> 내가 좋아할만한 옷을 추천해 줍니다.
그뿐인가요? 수많은 그림 중 고흐의 그림이 어떤 것인지 판단할수도 있고, 사진의 일부분을 보고 그게 어디서 찍은 것인지 맞출수도 있고, CCTV를 보고 '수상한' 사람을 골라 찾아낼수도 있습니다.


이게 가능한 것은, CNN이 단순히 픽셀의 모음에 불과한 데이터에서 그것이 담고 있는 고유한 특징들을 추출해 내기 때문입니다.
[데이터로부터 고유한 특징들을 뽑아내는 것]을 추상화, abstraction이라 합니다.

이 abstraction을 통해서 CNN은 그 네트워크 안에 학습한 대상의 '특징'을 저장하게 됩니다. 가령 [개의 특징], [고양이의 특징], [프랑스어의 특징], [내 취향의 특징], [고흐 그림의 특징], [수상한 사람의 특징]을 말이죠. 


그리고 알파고는 [바둑을 이기는 방법의 특징] 을 학습할 수 있었죠. 





즉 알파고 알고리즘은, 단순히 바둑 하나에만 국한되지 않습니다.
알파고가 잘하는건 [abstraction], 즉 개념의 추상화입니다.




감히 말하건대, 추상화는 인간 지능의 본질입니다. 
서로 다른 강아지들을 보며 강아지라고 판단하는 것, 모나리자를 보며 아름답다고 느끼는 것, 바둑에서 좋은 모양을 구분하는 것, 탁구를 잘 치는 것, 결혼을 앞둔 친구의 목소리에서 들뜸과 두려움을 동시에 느끼는 것, 눈은 웃고 있지만 입은 웃고 있지 않은 친구의 표정을 분간하는 것,
모두가 데이터에서 특정 정보를 추출해 내는 abstraction입니다.





그리고 현재의 딥러닝은 방금 언급된 모든 것을 할 수 있습니다.





적어도 지금까지는, CNN이 학습하지 못하는 (추상화하지 못하는) 특징들은 없는 것처럼 보입니다. 대체 그 한계는 어디일까요? 심지어 인간 지성의 하이엔드라고 불리는 게임, 추상화 난이도의 정점에 올라있는 바둑까지 정복했는데요. 충분한 양의 input과 output만 있다면, 현재 인공지능은 사람이 판단할 수 있는 그 어떤 특징도 잡아낼 수 있는 것 같습니다. 사람이 쉽게 하지 못하는 것들까지도요. 저는 이 딥러닝이라는 이름의 블랙박스는 그야말로 만능이 아닐까라는 망상을 해봅니다. 사실 어제부로 그 망상이 꽤 그럴듯해 보이기 시작했습니다.



지금까지 그 폭주를 막고 있던 것은 사람이 손수 작업해야 하는 학습데이터의 한계였습니다. 하지만 딥러닝과 강화학습의 접목이 충분히 성공적이라는게 증명된 지금, 우리가 명확한 목표 방향을 구체적으로 설정해 줄 수만 있다면, 수작업은 더이상 필요하지 않게 되었습니다.







남은것은..... 폭발이죠.









사람만이 가능하다, 컴퓨터는 절대 불가능하다고 여겨졌던 정말 많은 일들이 더이상 인간만의 전유물이 아니게 되었습니다. 
아니, 오히려 인간만이 할 수 있는 일이라는게 있긴 있는가? 라는 질문마저 드는 현재입니다.
구글 알파고의 이세돌 격파는, 이러한 급진적인 망상까지 들게 하네요.



물론 아직도 세계는 변수 몇개로 표현할 수 없을 만큼 충분히 복잡합니다.
또한 구체적이고 명확한 목표가 있을 것 - 이라는 강화학습의 선결 조건을 만족시키는 건 사실 제법 어렵습니다.
그래서 강화학습이 제가 쓴 것처럼 모든 문제에 적용할 수 있는 것은 절대 아닙니다. 네. 재미를 위해 과장을 좀 많이 했습니다. 죄송합니다(..)
하지만 알파고 알고리즘이 바둑이라는 굉장히 국소적인 문제에만 적용되는 것이 아니라는 것은 전달되었으리라 생각합니다.




이쪽 전문가가 아니고, 공부하는 학생 나부랭이라 다른 분들이 보시기에 부족한 점이 많을 것 같습니다.
양해 부탁드려요. 지적도 얼마든지 감사히 받겠습니다.
좋은 밤 되세요 :)




통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
덴드로븀
16/03/10 23:46
수정 아이콘
빌 게이츠나 앨런 머스크가 인공지능에 대해 우려의 목소리를 낸다는걸 보고 그래봐야 한참뒤의 일이겠지 하고있었는데....
오늘 알파고의 승리를 보고 좀 섬뜩해졌습니다.
과연 인공지능에 목표를 넣는 사람의 선의만으로 인류에게 이득을 줄수있다고 자신할 수 있는가?
아니면 인공지능 스스로의 판단으로 인류의 존재까지 없애버리고 자신의 목표만을 위해 행동할것인가...
푸파이터
16/03/10 23:49
수정 아이콘
에릭슈미트가 이런 말을 했더군요
"어차피 최종 승리는 인간이다"
전 이말이 어찌나 가증스럽던지.. 그냥 돈에 눈이 멀어
인류를 종말에 밀어넣는 악마가 보였습니다.
어찌됬거나 끝은 결코 좋지 않을 거에요, 지금 있는 기술도
똑바로 통제 못해서 사고내는게 인간인데, 인공지능이
본문처럼 된다면 과연 통제를 똑바로 할 수 있을까요?
만약 사고가 난다면 후쿠시마는 차라리 애들 장난일 겁니다.
카우카우파이넌스
16/03/10 23:51
수정 아이콘
이 글을 보니 당장 세계 각국이 협력하여 구글부터 시작해서 이 분야 전체를 족쳐야만
인류 멸망을 막을 수 있는게 아닌가 하는 심증이 점점더 강해지는군요
릴리스
16/03/11 00:43
수정 아이콘
동감합니다. 그냥 전체를 족쳐야해요. 그럴 가능성이 0이라서 더 슬프지만..
nearfield
16/03/11 10:02
수정 아이콘
진심으로 하는 말씀은 아니시겠죠.
유스티스
16/03/10 23:53
수정 아이콘
지구의 리에 대해 연산을 시키면 왠지 답은 뻔할거 같은데,
그래서 인공지능은 인공지능의 네트워크안에 가두어 두는 안전망을 마련해둬야할거같다는 생각이 드네요.
울트론이 생각나기도하고~.
-안군-
16/03/10 23:53
수정 아이콘
바둑 해설자들도, 바둑에 대해 어느 수준 이상 아시는 분들도...
오늘의 대국을 보면서 딱 느낌이 오는게 있었을겁니다. 알파고의 목적은 단 하나, "상대보다 집을 더 많이 낸다." 뿐입니다.
그리고, 스스로를 훈련시켜 여기까지 온거죠. 시간이 더 지나고, 데이터가 더 축적되면, 더 강해질겁니다.

그리고, 본문에 있듯이... 이것은 바둑에만 국한되지 않고, 어떤 분야든 가능하다는게 더 무서운 일이겠죠.
이 기술은, 특정 학술분야의 발전이라던지, 자동화 로봇의 최적화라든지, 검색엔진의 정확도 향상이라던지...
"확실한 목적성"만 있다면, 어느 분야든 다 적용 가능하다는게 더 놀라운 일이죠.

단... 알파고의 가장 큰 한계는 '목적성' 자체와 '출력 방법'을 개선시킬 능력이 없다는 것이죠.
바둑을 위해 만들어진 알고리즘은 바둑만을, 게임을 위해 만들어진 알고리즘은 게임만을 할 수 있을 뿐입니다.
만약 이 부분까지 스스로 개선해나가는 능력을 가진 인공지능이 나온다면... 음... 좀 으스스해지네요;;
영원한초보
16/03/11 09:17
수정 아이콘
3D프린터로 직접 도구를 만들어서 활용할 수 있게한다면 상황이 좀 달라질 것 같습니다.
16/03/10 23:55
수정 아이콘
덴드로븀// 섬뜩한 느낌은 인간인 이상 들수 밖에 없죠. 인공지능이 인간을 상대로 선의(가치판단 능력을 가지는 순간이 올때)를 유지할지 의문이니까요.
그것에 대해 인간이 두려움이 드는 이유는, 인공지능이 인간보다 강자로 올라서게 된다면, 우리는 인공지능의 가치판단에 따라 운명이 결정되는 위치로 격하될지도 모른다는 느낌 때문이죠. 이러한 상상력은 이미 매트릭스, 터미네이터 같은 영화로 잘 표현되어 있습니다.
즉 인류가 마음대로 그들의 운명을 좌우했던 닭, 소, 개, 고양이의 위치에 인류가 서게 된다. 당연히 섬뜩하지 않을까요.

여튼 알파고가 나온 이상...
현대 바둑 역사상 인간 최강자는 영원히 이창호로 남겠군요. 왠지 그런 생각이 들었습니다.
-안군-
16/03/11 00:00
수정 아이콘
적어도 오늘 알파고가 보여준 기풍은, 이창호 국수의 업그레이드 버전이었습니다...
어쩌면 '바둑의 신'에 가장 근접했던 사람은 이창호 국수가 아니었을까... 하는 생각도 드네요.
花樣年華
16/03/11 00:01
수정 아이콘
엄청난 VS 떡밥 하나가 떨어진거죠. 전성기 이창호 VS 알파고 크;;;
ohmylove
16/03/11 00:10
수정 아이콘
이창호는 신입니다.
16/03/10 23:56
수정 아이콘
진짜 지구정화로 인간을 다 박멸시킬수도 후덜덜
아니면 다른 인공지능의 개발을 우려해 모든전산화시스템파괴 후덜덜
미리 자연인 생활을 대비해야될듯
릴리스
16/03/11 00:49
수정 아이콘
인간의 생명을 보존하고 인간의 현재 삶과 자유를 타치하지 않는다면(물론 인간이 통제하기 힘든 핵무기와 원자력발전소들의 통제권한은 인공지능이 가지면 좋겠네요) 인간보다 월등히 뛰어난 인공지능이 오히려 도움이 될 수는 있겠지만 그럴 가능성이 낮다고 생각되니 무섭네요.
16/03/10 23:59
수정 아이콘
명심해 알파고가 스카이넷이야
花樣年華
16/03/11 00:06
수정 아이콘
글쎄요... 저도 인공지능이 나타날 미래가 너무 예측불가라 두려운 맘이 있습니다만
'강한인공지능'이 꼭 발현될 것이라고 보기도 어렵고 (이건 그저 예측의 범위니까요)
요즘 느껴지는 건 마치 Y2K공포의 재림?? 그런 기분도 들고요... 이거 좀 심한 호들갑같달까요...

그리고 오늘 바둑만 봐도... 왜 승부를 안걸지? 왜 저리 받지?
물론 저보다 수백만배 생각이 깊고 수가 깊은 이세돌사범이지만... 의문스럽긴 했어요.
알파고 위에 이세돌사범 스스로 덮어씌운 이미지에 스스로 걸려들어가는 느낌을 지울수가 없었달까요.
하루 푹 쉬고 맘 비우고 좋은 모습으로 3승 해줬으면 싶네요. 그게 어려우면 적어도 맨 마지막판은 이깁시다.
옛말에 따고배짱이라고;;; 크크크;;;
릴리스
16/03/11 00:55
수정 아이콘
이세돌 9단 인터뷰를 보면 "조금도 한순간도 앞섰다는 적이 한번도 없었다."라고 할만큼 본인은 계속 쫓기는 심정으로 바둑을 둔 듯하며 실제로 결과도 그렇게 나왔죠.
16/03/11 00:07
수정 아이콘
바둑판이란 규칙이 정해진 공간에서 순간적으로 모든 경우의 수를 계산해서 행동하면 예측이 아닌 예지의 영역이지 싶은데 알파고가 계속 발전하면 궁극적으로는 바둑의 신과 같다고 볼 수 있습니다. 그게 이 세상으로 옮겨진다면? 섬뜩하긴 합니다.
Galvatron
16/03/11 00:07
수정 아이콘
요새 분위기가 지나치게 로봇들의 반란걱정에 오바하는게 아닌가하는 생각이 들긴하는데, 편승해서 한마디 하자면,
저는 예전부터 인공지능관련 SF를 읽으면서 이런 생각이 들었어요.
아이작 아시모프의 작품에 나오는 정도의 인공지능로봇이라면 그 로봇한테 3원칙을 강요할수있냐?
그 정도 로봇이면 자발적으로 3원칙을 부정할 힘이 있을거 같거든요.
ohmylove
16/03/11 00:11
수정 아이콘
3원칙 자체가 모순이 있기도 하죠.
요르문간드
16/03/11 00:50
수정 아이콘
아시모프 작품에는 이미 3원칙을 부정하는 로봇이 나오죠.
16/03/11 00:09
수정 아이콘
'구체적이고 명확한 목표가 있을 것'이라는 말을 바꾸면 컴퓨터가 내놓은 결과물을 수치화하여 피드백 해줄 수 있어야 한다는 이야기 같은데, 맞나요? 가령 소설 쓰는 인공지능을 개발한다고 하면 단어를 무작위로 조합해서 쓴 소설의 재미를 계량화 할 수 있어야 할 것 같은데 가능할 지 흥미진진 합니다.

인간이 느끼는 감정이나 좋고 나쁜 것을 나누는 가치를 컴퓨터가 이해할 수 있게 된다면 그 때부턴 인간의 도움 없이 인공지능 스스로 계속 발전해 나갈 수 있겠네요.

어제 오늘 바둑 보면서 뭔가 짜릿하면서도 무기력해지는 감정이 계속 듭니다. 생각도 많아지고요.
은때까치
16/03/11 00:15
수정 아이콘
네 정확합니다. '재미있는 소설을 쓰자' 가 목적인 인공지능이라면 먼저 '재미'가 무엇인지에 대해 엄밀한 정의를 해야겠죠. 생각보다 어려운 일입니다.
기니피그
16/03/11 00:09
수정 아이콘
강려크한 인공지능이 만들어지다면 은하수를여행하는 히치하이커를 위한 안내서의 마틴처럼 중증 우울증에 걸려야되는데(...)
인공지능이 기계랑 대화하면 자살할정도의 (...)
16/03/11 00:16
수정 아이콘
발전해라? 돈을 벌어라?
정말 상상하지도 못한 결과가 나올수도 있겠네요
16/03/11 00:18
수정 아이콘
문외한으로서 궁금한게 있는데요
제 짧은 이해로는 위의 시스템이 해답을 찾아가는 과정은
수 많은 경우의 수를 엄청난 연산능력으로 일일이 테스트해서 확인해가는 트라이얼 앤 에러 방법으로 보입니다
물론 무한에 가깝던 경우의 수를 적절히 줄이고 최적화하는 여러가지 기법이 이용됐겠지만
근본적으로는 시행 착오법을 이용하되 엄청난 계산력으로 커버하는게 아닌가 하는 생각입니다

만약 그렇다면
궁금한 것은 수학에서 연역적 방법으로 어떤 명제를 증명하는 과정이 이런 방식으로 재현될 수 있는지입니다
아니면 둘이 본질적으로 같은 방법론인가요?
현재에도 여러가지 proof-assistant 프로그램이 존재한다고 들었지만 간단한 수준의 증명 이상은 못한다고 들었습니다
수학자가 보여주는 창조성을 어떤 방식으로 컴퓨터가 재현할 수 있는지,
만약 이미 재현하고 있다면 어떤 참조문헌을 찾아보면 될지 조언해주시면 감사하겠습니다
은때까치
16/03/11 00:35
수정 아이콘
제가 아는 바로는 딥러닝을 이용해 수학적인 증명을 해주는 알고리즘은 아직 없습니다.
일단 수학적 명제의 이해부터가 난관이고.... 어떤식으로 learning을 시켜야 하는지, error feedback은 어떻게 주어야 할지 전혀 감도 안오네요.
아직은 범접할 수 없는 task인 것 같습니다.
16/03/11 00:39
수정 아이콘
아 그렇군요, 친절한 답변 감사드립니다
예루리
16/03/11 00:43
수정 아이콘
여기서부터는 강인공지능의 영역이라고 알고 있습니다. 말씀하신대로 아직은 범접할 수 없는 task죠.
16/03/11 00:46
수정 아이콘
그렇군요, 그렇다면 아직은 먼 미래의 일일까요?;;
조언 감사드립니다
Fanatic[Jin]
16/03/11 02:33
수정 아이콘
언젠가는 가능해지지 않을까하는 망상을 합니다...

수많은 공리와 정의 그리고 정리와 그 증명과정을 넣고 스스로 학습하기 시작하면...인간이 얻어내지 못한 뭔가를 구해낼 수 있지 않을까하는...

덜덜...구글갓 무서워요
16/03/13 16:48
수정 아이콘
네 지금도 무서운데 정말 연역적 사고까지 가능해진다면 으으;;;
16/03/11 04:55
수정 아이콘
일단 현 시점 딥러닝의 방법론은 proof assistant와는 거리가 (상당히) 있습니다. 구체적으로 proof assistant는 사람이 엄밀한 형태의 증명을 주면 컴퓨터가 그게 맞는지 틀리는지를 체크해주겠다는 접근이구요, 자동화된 증명은 constraint solver쪽에서 시도하는 일들인데 아직 갈 길이 멉니다. 이 쪽은 어디까지나 로직의 영역인데 반면 딥러닝은 굳이 따지자면 기계학습의 영역이고. 이론적으론야 딥러닝이 이 영역까지 커버하는게 불가능한 일도 아니긴 하지만 이건 어디까지나 이론의 영역이라...
16/03/13 16:50
수정 아이콘
그렇군요 답변 감사합니다
연구자들을 응원해야할지 말려야할지 모르겠네요 하하;;
Guinness
16/03/11 00:22
수정 아이콘
그래도 이 대국을 통해 인공지능에 대한 우려가 늘어나서 다행이네요
어차피우승은
16/03/11 00:25
수정 아이콘
흠,, 위쪽에서 '전성기 이창호 VS 알파고'라는 댓글을 보고 문득 이런 생각이 드네요
알파고에게 아마추어 기보까지는 기본으로 입력한뒤에 프로기사의 기보는 이창호 사범의 기보만을 넣고 계속해서 스스로 대국하면서 학습하게 하면
알파고가 이창호사범의 기풍이 느껴지게 바둑을 두지않을까요?
만약 이게 가능하다면 앞으로 알파고가 마스터한 분야에서는
전성기 누구1 vs 전성기 누구2 이런 대전이 전부 가능해질것같다는 생각이드네요.
은때까치
16/03/11 00:40
수정 아이콘
이론적으로는 가능합니다만, 현실적으로는 이창호 사범의 기보의 양이 충분치 않기 때문에 아마 학습이 안 될겁니다.
아마추어 데이터까지 끌어 쓴것도 그냥 기보 데이터가 부족했기 때문이었죠. 하물며 몇천장에 불과한 데이터로는...
overfitting이 심각하게 일어날 겁니다.

이세돌과의 대결을 앞두고 이세돌 맞춤 학습을 하는게 무의미한 것도 같은 이유입니다. 데이터가 너무 적어서요.
어차피우승은
16/03/11 01:00
수정 아이콘
그래서 저도 아마추어 기보까지는 기본으로 입력하자고 썼습니다. 아마추어기보 (이게 16만국이라고 알고있습니다)로 어느정도 바둑을 익히고 프로기사 기보는 이창호사범님 것 만을 넣고 스스로 대국하게 하면 어떨까 라는 단순한 공상? 생각?이었습니다. 근데 은때까치님 말씀대로 안될가능성이 크다니까 아쉽네요 ㅜ
은때까치
16/03/11 01:27
수정 아이콘
아닙니다. 충분히 가능한 아이디어입니다. 개인의 특성, 가령 취향이라던지 행동패턴 같은건 충분히 학습 및 모방 가능한 데이터입니다. 양만 확보된다면 말이죠.
뽀로뽀로미
16/03/11 01:49
수정 아이콘
저는 현실적으로 충분히 가능하리라 봅니다. 오늘 알파고 기풍이 일부분 이창호 기사님을 닮아 있었다고 합니다. 이창호 기사님 바둑 기풍이 공격적으로 치고 나가도 될 곳에서 적당히 물러나서 싸움을 피하고 대신 집을 조금 잃더라도 확실한 승리를 챙기는 식이라고 합니다.

이걸 알파고에게, 두어야 할 지점 가치를 평가할 때 공격지점과 수비지점 두 곳의 승률이 같거나 별로 차이가 나지않는다면 수비지점에 돌을 둔다라는 알고리즘만 짜면 간단히 해결 될 걸로 보입니다. 물론, 승률은 떨어질 수 있지만 분위기는 충분히 이창호 기사님 흉내는 낼 수 있다고 봅니다.
굳이 이창호 기사님 기보를 다 입력할 필요없이 이창호 기사의 기풍이 어떤 것인지만 확실히 알고 주지시키면 따라할 수 있을 걸로 생각합니다.
예루리
16/03/11 00:26
수정 아이콘
인간 지능의 본질은 단순히 추상화에만 있는것이 아니라 알고리즘을 제안하고 개선하는 절차, 다른 종류의 지식을 묶어 제3의 무언가를 만들어 내는데도 있죠. Know why에 해당하는 영역입니다.

이를테면 현재 학습 방식으로는 안정적인 건축 방식은 무엇인가 라고 물었을 때 DB 서치를 시작해서 아치형태의 구조물이 유익하다던가, 다리를 지을 때는 현수교를 만드는 식으로 무게를 분산시켜 주는 것이 좋다는 답을 낼 수 있을 겁니다. 그런데 그게 왜 그러냐 라고 물으면 현재의 약인공지능은 답을 할 수 없습니다. 자료를 모아봤더니 그렇더라라고 대답할 수 밖에 없습니다. 그래서 강인공지능이 필요해지는 거죠.

저는 약인공지능의 발전에 큰 기대를 하고 있습니다. 인간의 사고 에너지를 좀 더 know why에 쏟아 부을 수 있도록 만들어 줄 것이기 때문입니다. 저처럼 옷 고르는 것을 귀찮아하는 사람에게 적당한 코디를 해 줄 수 있을 것이고, 몇 개월치 먹어왔던 식단을 쭉 입력하면 제가 좋아하는 음식을 영양 밸런스를 고려해서 골라줄 것이며, 극장에 가기전에 인터넷의 평을 종합해서 이게 내 취향에 맞는 영화인지 확률적으로 일러줄수도 있겠죠.

저는 강인공지능이 개발되기를 기대하고 있습니다. 리만가설이나 통일장 이론을 입증하는 장면을 볼 수 있기도 할테고, 외우주탐사선에 AI모듈을 실어서 우주 밖 탐사에 활용할 수도 있고, 가까운(?) 화성에 날려보내 테라포밍을 어떻게 하면 좋을지 현지에서 고민해볼 수도 있을테니까요. 하지만 이렇게 기대하는데 반해 강인공지능이 50년내에 개발될 가능성은 낮다고 보기에 좀 아쉽습니다.
은때까치
16/03/11 01:00
수정 아이콘
정말 제 개인적인 의견일 뿐이지만, 저는 강인공지능의 출현이 굉장히 근시일내에 나올 것이라 막연히 추측합니다. 아마 10년 이내...? 진보는 우리가 아는 것에서 나오지 않으니까요. 너무 늦기 전에, 반드시 윤리적인 문제에 대해 짚고 넘어가야 할 것입니다.
카우카우파이넌스
16/03/11 01:46
수정 아이콘
주머니에 땡전 한푼 없는데도 know why에 에너지를 쏟을 수 있을까요?
일단 코디와 극장 같은건 우리 삶과 아주 먼 것이 되버리지 않을까 하는 우려부터 듭니다.
뭐 직업이 있어야 코디하고 극장갈 돈이 있겠지요.

혹시 인공지능하고 싸워도 경쟁력 있는 직업을 아시거든 꼭 귀띔해주십시요.
예루리
16/03/11 09:06
수정 아이콘
AI 등장으로 타격을 받게 될 것이라 예상되는 대표 직업인 화물차 운전은 지금도 대형 면허가 있다고 그냥 할 수 있는 것이 아닙니다.

영업용 화물차용으로 제한적으로 번호판을 발급하기에 신규로 이 직업에 뛰어드는 사람은 화물차용 번호판을 다른 사람에게 사야 합니다.

아울러 삼성이나 현대차 같은 대기업도 화물차와 운전자를 직접 보유하지 않고 용역을 줍니다.

따라서 AI가 등장한다고 바로 실직으로 이어질 가능성은 낮습니다. 대신 신규로 진입하기엔 장벽이 높은 직업이 되겠죠.

요즘 2-30대는 자동차 보험을 영업 사원을 통해서가 아니라 다이렉트로 들죠? 당연히 영업 사원의 실적은 줄어들고, 일을 그만두는 사람도 나오지만 다수의 이용자들이 이를 자연스러운 변화로 받아들이고 있습니다. 사실은 이것도 넓은 의미에서 AI가 사람의 일자리를 뺏은 경우거든요.

결국 시대의 흐름이 기본 소득제를 도입하는 방향으로 갈 수 밖에 없다고 봅니다. 장기적으론 농축수산업 및 건설을 기계가 담당하고, 사람은 서비스 업이나 지적 노동을 담당하거나 놀게 되겠죠.
마스터충달
16/03/11 00:30
수정 아이콘
정말로 전략을 짜는 것보다 전략을 짜는 인공지능을 개발했을때 더 좋은 결과가 나올지도요... 블루칼라 뿐만 아니라 화이트칼라도 위협받는 시대가 왔습니다;;;
16/03/11 01:33
수정 아이콘
전략을 짜서 목표를 달성하는 인공지능이 개발된다고 해도 개발자나 인공지능 자신이 그 전략을 설명할 수 있을지는 의문입니다. 설명대로라면 전략의 성공이 귀납적 시도의 결과일뿐이지 연역적인 사고를 통해 얻어진게 아니기 때문이지요. '이렇게 하니까 잘되더라' 이런 느낌일까요.

어쨌든 목표를 달성한다는 결과만 봤을 때는 인간이 하는 대부분의 일을 훨씬 잘 수행할 수 있겠지요.
16/03/11 00:31
수정 아이콘
'점수를 올려라'대신에 '돈을 벌어라' '적의 수를 줄여라'를 입력한다면?

개또라이가 수퍼컴퓨터에게 '백인을 제외한 모든 인종의 숫자를 줄여라'라던지 '노예를 만들어라'를 입력한다면?
16/03/11 00:45
수정 아이콘
유전자의 근본원칙인 '스스로를 복제하라'가 가장 무섭죠.
자기복제를 시작하면서 진화가 시작됩니다...
슈퍼집강아지
16/03/11 01:20
수정 아이콘
근본주의자들이나 헤이트스피쳐들에게 세상은 단순하겠군요...
16/03/11 04:58
수정 아이콘
이 쪽에 대해서는 걱정 안 하셔도 된다고 보는게 현재 인공지능이 무서운건 이게 왜 돌아가는지 이해를 못해서 그렇습니다. 왜 이렇게 돌아가는지 이해를 하면 무서워 할 필요도 없죠. 다른 말로 하자면 저런 명령을 기계에게 강제할 방법이 없다는거구요. 진짜 강인공지능이라면 저걸 왜 해야 하는지 납득을 시켜야 명령을 내릴 수 있겠죠. 다만 기계 스스로가 저런 결론을 내리면 그걸 멈추기도 쉽지 않다는게 난제.
16/03/11 00:33
수정 아이콘
궁금한게 있어서 여쭈어 봅니다. 16만개의 기존의 기보를 통해서 많은 수의 경우의 수를 줄이는게 저는 핵심이라고 봤는데요. 강화학습을 통해서 기존의 기보에 전혀 없었던 수를 둘수도 있는건가요? 알고리즘이 어떻게 학습된 기보를 통해서 줄여놓은 경우의 수를 어떤 이유로 다시 살리는 건가요?
Killygun
16/03/11 00:46
수정 아이콘
알파고도 잘 모르고 인공지능에 대해서도 발톱만큼(?)만 알고있지만 한 번 상상을 해보자면...
학습 초반에는 기보의 수를 많이 따라갔지만 학습 도중에는 기보에는 없거나 승리 확률이 낮은 경우의 수에 대해서도 어느 정도는 try를 해볼겁니다.근데 그 결과가 승리로 이어졌다면 이런식으로 승리를 할 수 있다는 데이터가 조금씩 쌓이겠죠. 그렇게 쌓여진 데이터들이 나타나게 된게 아닌가 싶네요.

본문에서 언급한 딥러닝 + 강화학습 조합의 결과가 이런게 아닌가 싶습니다. 아마 단순히 딥러닝만으로 했다면 이전 기보들 중에서 확률이 가장 좋은 것을 썼을 것 같은데 강화학습과의 조합으로 새로운 수도 학습할 때에는 시도해보는거죠. 결과가 좋다면 써보구요.

AI잘알 분들이 더 설명해주면 좋겠네요
은때까치
16/03/11 00:56
수정 아이콘
네. 강화학습을 통해 기존에 학습하지 못했던 수를 학습할 수 있습니다. 이는 단순히 이전의 기보를 '기억'하는 것이 아니라, 그 수들의 특징을 추상화해서 저장하기 때문입니다. 그래서 예전에 봤던 기보와 똑같은 인풋이 들어오더라도, 이 네트워크는 '다른 기보'들의 영향도 받았기 때문에 다른 수를 둘 수가 있습니다.

강화학습을 왜 하는가? 알파고에게 어떤 수가 좋은 수고 어떤 수가 나쁜 수인지 직관을 주기 위함입니다. 단순히 기존의 기보를 따라하는 것은 가치중립적이지만, self play를 통한 강화학습은 좋은 수와 나쁜 수를 구별해 좋은 수는 더 많이 두게 하고, 나쁜 수는 너 적게 두게 할 수 있습니다. 그래서 사실 16만판이라고 하지만, 이건 그냥 어느정도 그럴듯한 바둑 모양을 흉내내기 위해 초기값을 설정해 주는 것에 지나지 않습니다. 진정한 '학습'은 강화학습 단계이지요.

더 자세한 것은 https://pgr21.co.kr/pb/pb.php?id=freedom&no=63971&page=2 글을 참조하시면 될 것 같습니다.
16/03/11 08:13
수정 아이콘
이것은 개인적으로는 피지컬(?) 차이라고 생각합니다. 불판 보는데 꽤 여러 분들이 중앙계산을 하는 것 같다고 하시더군요.
확보한 16만개의 기보중에는 의도했던 의도하지 않았던(그냥 중앙의 두터움을 위해 둠) 중앙 부분에 두었던 초반 포석이 있고
인간은 그냥 감으로 두었지만 얘는 계산을 하고 있다고 생각하고 있습니다.
FloorJansen
16/03/11 00:39
수정 아이콘
왠지 이번 이벤트 경기의 진정한 승자는 바둑 종목 아닐까...
암튼 엄청난 주목도와 관심이군요
신의와배신
16/03/11 09:02
수정 아이콘
저와 생각이 정반대시군요
바둑은 프로 기전이 이제 더이상 의미가 없다고 보기 때문입니다.
쿠로다 칸베에
16/03/11 00:41
수정 아이콘
정말로 사람이 흔히 이야기하는 지식이라는게 축적가능하고 사고하는 인공지능이 등장하는 순간
인류는 우리 생각보다 훨씬 더 급속도로 멸망할수도 있다고 봅니다.
그런 사고하는 회로는 스스로를 더 완벽히 진화시킬것이고 우리가 제어할 수 없는 속도와 방향으로 발전해 나가리라 봅니다.

알파고처럼 혹은 그보다 훨씬 더 사람들이 상상하지 못하는 정말로 영악하고 효율적이고 빠른 방법으로 인간들이 척살당하고
그 자리를 로봇들이 매워가는것도 가능할 거라 봅니다.

그리고 어쩌면 그런 날이 제 살아 생전에 올지도 모른다는 생각도 듭니다
요르문간드
16/03/11 01:00
수정 아이콘
정말 그런 일이 일어난다면.... 인간의 저항은 없을거 같습니다.

하루아침에 인간은 멸종할거라고 봅니다.
바다표범
16/03/11 00:49
수정 아이콘
터미네이터나 매트릭스에서 보던 디스토피아가 공상의 단계에서 한발 현실로 다가온 느낌이라고 해야할까요. 이세돌 9단의 패배를 본 직후부터 느낀 불쾌함과 섬뜩함이 지금도 있어요
릴리스
16/03/11 01:00
수정 아이콘
저도 그렇습니다. 불쾌감과 찝찝함과 답답함이 모두 느껴지네요.
히히멘붕이오
16/03/11 00:50
수정 아이콘
과연 우리가 만드는 것은 신일까요, 악마일까요? 뭔가를 만들긴 만들어낼 거라고 봐요.
릴리스
16/03/11 01:02
수정 아이콘
신인데 인간의 편이 아닌 신이겠죠.
히히멘붕이오
16/03/11 01:25
수정 아이콘
인간 편 안들어주면 악마인걸로(...)
아이고배야
16/03/11 00:51
수정 아이콘
기억해, 구글이 스카이넷이야
16/03/11 00:58
수정 아이콘
이러한 인공지능의 내적기반의 완성 + 양자컴퓨터의 등장 + 로봇공학의 발전 = ?
천국이냐 지옥이냐의 갈림길이 되겠군요.
마티치
16/03/11 01:03
수정 아이콘
다른 글 읽기까지는 별 생각이 없었는데 게임 플레이하는걸 보고 무섭다는 감정을 처음 느꼈습니다.
개망이
16/03/11 01:12
수정 아이콘
인간이 만든 기계가 인간이 이해할 수조차 없는 수를 만들어 내는 모습에 경외감이 느껴졌습니다. 그리고 기계가 신급 영역에 들어가면 인격마저 느껴질 정도던데요.
해설자들도 다 "알파고가 무슨 생각을 하고 을까요?" 하는 것을 보니 먼훗날에는 기계가 종교가 되는 세상이 올 것 같아요.
시네라스
16/03/11 01:13
수정 아이콘
앞으로의 가능성이 어떤게 있을까요
초인공지능이 자아에 가까운 독립성을 가지면서 모든 인류를 유토피아 혹은 디스토피아로 인도하는것,
개개인이 생체와 강인공지능이 결합하여 인류의 대부분이 반 사이보그화 되는것
소수의 인류가 강인공지능 단계에서 기술을 억제하고 초상류권으로써 다수 지배를 공고히 하는 것
아니면 철저한 인본주의를 바탕으로 하는 지구적 세계관을 정립하여 인공지능 발전을 억제하는 것
언제 뭐가 어떻게 일어날지 모르는 시대가 되었네요 분명히 당장은 아닌데 언제 닥칠지는 짐작하기 힘든.
16/03/11 01:20
수정 아이콘
개인적으로는 알 수 없다고 생각 합니다. 알수없는 것에 너무 악의 기계 일보 직전으로 치부 한다는 느낌도 가지고 있습니다. 플루토가 있으면 아톰도 있겠죠.

그중간에 이도저도 아닌 곳쯤이 현실이 아닐까 합니다.
요르문간드
16/03/11 01:23
수정 아이콘
저도 그럴거라고 봅니다만....

만에하나의 사태가 벌어질떄, 그결과는 인류 멸종이 될거라는게 큰 위험이죠.
레가르
16/03/11 01:24
수정 아이콘
저도 같은 생각을 했어요. 그러면서 인간이 참 나쁜짓을 많이하긴 했나보다 하는 생각도 같이 들더라구요. 그러니 이런거에 두렵고한게 아닌가 싶은 느낌이랄까요.
그런데 이번 알파고의 이런 능력이 여러분야에서 쓸 수 있게 되기 까지 얼마나 걸릴까요? 가령 '못고치는 불치병을 고쳐라' 라고 명령을 준다면 현재 불치병들이 없어지지 않을까 하는 희망이..
스푼 카스텔
16/03/11 07:05
수정 아이콘
적절한 윤리적 가이드라인이 없다면 목적을 이루기 위해 일어날 수많은 트라이얼(생체 실험)이 떠오르는군요...
ohmylove
16/03/11 01:27
수정 아이콘
일단 먼저 일자리들이 없어집니다.

무인자동차로 택배 기사, 택시 기사, 버스 기사분들 다 실업자됩니다.
arq.Gstar
16/03/11 01:45
수정 아이콘
그러므로 기본급여를....ㅠㅠ
16/03/11 11:02
수정 아이콘
단순히 무인자동차가 등장하는 것에서 끝나는게 아니라
무인자동차가 택배 기사를 사용하는 것보다 저렴해야 가능한 얘기겠죠.
단기간에 걱정할 문제는 아니라고 봅니다.
16/03/11 01:27
수정 아이콘
전 이정도 이슈를 꼴랑 십몇억에 성사시킨게 안타깝네요
해외이슈는 모르겠지만 국내 이슈만 해도 이정도 대전료 받고 할 게임이 아니라고 생각되네요
릴리스
16/03/11 01:36
수정 아이콘
대전료는 11억이 아니라 1억6500만원입니다.
5판 중 3판이상 이겨야 11억을 받고 승리할때마다 2억2천만원을 주죠.
16/03/11 01:31
수정 아이콘
추상화가 흔히 말하는 지성의 본질일 수는 있을 것 같습니다. 그런데 인간 뇌의 존재 이유인지는 잘 모르겠습니다.
http://www.ted.com/talks/daniel_wolpert_the_real_reason_for_brains?embed=true&language=ko
바둑의 경우는 한 국면에서 인식해야 하는 픽셀의 양이 19X19 픽셀로 처리되고 한 픽셀당 갖는 값은 3개입니다. 일반적인 영상에 비해 엄청나게 적은 양 같습니다.
실제 최근에 엄청나게 발전했음에도, 또한 바둑같은 로컬한 분야가 아닌 최고 메이저한 분야임에도 불구하고 안면인식 프로그램의 정확도가 일반적인 사람이 얼굴을 인식하는 것에 비해 그렇게 우월하지 않은 것으로 알고 있습니다.
로봇의 경우에도, 밀어도 균형을 유지하고 불균일한 지면에서 걷고 넘어졌다 비교적 빠른 시간(10초?) 내에 일어나는 로봇이 세계 최고 수준으로 알고 있습니다.
알고보면 사람들은 '지능'이나 '뇌의 기능'이 무엇인지 혹은 무엇을 위해서 있는지 전혀 모르고 있는 건지도 모릅니다.

또한 두려워할 것은 인공지능이 아니라 인공지능을 개발하고 이용하는 기술권력과 자본이라고 생각합니다. 물론 인공지능의 '제어 불가능한 강력함'은 두려워할 부분이긴 하지만 그게 어디로 튈것인가 라는 부분은 결국 인간이 통제할 테니까요. 인공지능의 강력함을 두려워하는 여러 반응들은 인공지능에 대한 몰이해가 느껴지는, '몹시 인간적인' 혹은 '몹시 생물적인' 반응들이 많다고 느낍니다.

https://nocutnews.co.kr/news/4559712

유게 댓글에서 본 기사 중에 괜찮은 기사가 있기에 링크합니다.
ohmylove
16/03/11 01:34
수정 아이콘
그게 어디로 튈것인가를 인간이 통제 못할 수도 있습니다.
16/03/11 01:35
수정 아이콘
그러니까... '왜요?'
ohmylove
16/03/11 01:37
수정 아이콘
강인공지능이 출현시를 가정하고 리플 달았습니다.
16/03/11 01:40
수정 아이콘
강인공지능이 출현하면 왜 인간이 그걸 통제할 수 없죠? 너무나 빈약한 설명인데요.
ohmylove
16/03/11 01:41
수정 아이콘
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/

인간의 능력이 그걸 통제하는 것조차 감지하고 웅크리고 있다가, 기회가 되면 인간이 차마 손을 쓰기도 전에 전 지구에 영향력을 행사하는 거죠.
16/03/11 01:42
수정 아이콘
다 읽어본 글이고 별로 동의 안하며 '왜요?'의 대답이 되지 못합니다.
카우카우파이넌스
16/03/11 01:44
수정 아이콘
혹시 저 글의 세부사항을 반박할 자료가 있습니까?
16/03/11 01:45
수정 아이콘
글이 짧은 글이 아닌데 어떤 세부사항을 얘기하시는건지 모르겠고,
무어의 법칙 부분만 해도 지금 방식으로는 하드웨어 한계가 올거라는 건 필연적인데요.
카우카우파이넌스
16/03/11 01:51
수정 아이콘
rnsr 님// 말씀하신대로 저 글이 꽤나 장황하게 많은 논점을 서술하고 있는데
한칼에 '별로 동의 안하며' 라고 하면서 rnsr님 말을 받아들이라고 하시면
3자 입장에선 여러가지 가능성을 상상해봐야 합니다.

그 중에는 물론 저 글이 모조리 사이비로 가득찬 뻘글이라거나
또는 rnsr님이 엄청 천재라거나 하는 가능성도 있겠지만
많은 경우 적어도 저 글 글쓴이가 rnsr님보다는 자료수집과 논리전개에 많은 투자를 했다는 점을
높이 사는 쪽으로 잠정 결론지을 수밖에 없다는 뜻이었습니다.
16/03/11 01:57
수정 아이콘
카우카우파이넌스 님//
사실 그건 먼저 링크를 제시한 ohmylove 님에게 드려야 하는 말씀 아닌가 싶습니다.
한두 줄이 아닌 글의 어느 부분을 가지고 저한테 얘기하고 싶은 건지 모르겠어요.

저 글이 모조리 사이비로 가득찬 뻘글도 아니고,(재미있게 읽었습니다.)
제가 엄청 천재일 가능성은 0입니다.
그럼에도 불구하고 저 글에도 잘못된 부분은 분명 있고, 불확실한 부분도 있으며, 그 부분에 대해서 제가 동의를 하지 않을 뿐입니다.
참고로 일부 잘못된 부분에 대해서는 이미 언급했습니다.
카우카우파이넌스
16/03/11 02:24
수정 아이콘
rnsr 님// 쟁점을 정리하자면 다음과 같습니다.

1 rnsr님 첫댓글 중

"물론 인공지능의 '제어 불가능한 강력함'은 두려워할 부분이긴 하지만 그게 어디로 튈것인가 라는 부분은 결국 인간이 통제할 테니까요."

2. ohmylove님 첫 댓글

"그게 어디로 튈것인가를 인간이 통제 못할 수도 있습니다."

3. rnsr님 세번째 댓글

"강인공지능이 출현하면 왜 인간이 그걸 통제할 수 없죠?"

4. 링크글 중 - 특히 "미래는 우리의 끔찍한 악몽일 수 있다" 챕터 이후

"인간과 침팬지의 지능의 차이는 침팬지가 우리가 할 수 있는 일을 할 수 없는 정도가 아니라 침팬지는 이런 일들이 존재한다는 것 자체를 모른다는 것이다"

"과학자 Danny Hillis 는 이것을 아래와 같이 비유했다: 마치 단세포동물에서 다세포동물로 진화하는 과정에서 아직 아메바벌레인 우리는 도대체 우리가 무슨놈의 구신 떡다리 물건을 창조하고 있는지 전혀 모른다는 것이다."

"전문가들은 나쁜 의도를 가지고 있으며 초인공지능을 장악한 사람은 아주 큰 악영향을 끼칠 수 있지만 우리를 멸존시키지는 못할 것이라고 한다, 왜냐면 [나쁜 놈과 좋은 사람이 초인공지능을 컨트롤하기에는 같은 어려움에 부딪히게 된다고 한다.]"

"설정이 된 후에 하나의 초인공지능은 도덕 무관이며 모든 노력을 다하여 그것이 설정된 목표를 위해 힘쓸 것이다. 이것이 바로 인공지능이 위험한 원인이다."

"[초인공지능이 출현하기만 하면 인류의 그것을 통제하려는 그 어떤 노력도 가소로운 것이다.] 인류는 인류의 지능 레벨에서 문제를 사고할 것이고 초인공지능은 초인공지능의 레벨에서 사고를 할 것이다. 옆집 김아저씨는 인터넷을 사용할 수 있기를 원했다. 그것은 인터넷이 그에게 많은 편이를 주었기 때문이다. 그에게 필요한 많은 자원들이 이미 인터넷에 의해 다 연결되여있었기 때문이다. 하지만 마치 원숭이들이 어떻게 전화나 wifi 를 사용하여 소통하는지를 모르는 것처럼 우리도 마찬가지로 옆집 김아저씨가 주변 세계와 교류할 수 있는 방식들을 이해할 수 없을 것이다. 예를 들어 우리는 옆집 김아저씨가 자신의 전자를 이동시켜 일어나는 효과를 통하여 여러가지 외부로 보내는 전파를 생성할 수 있을 것이라고 생각해볼 수 있는데, 자 이것도 우리 인류의 두뇌로 생각해낸 방식이다. 옆집 김아저씨의 두뇌에는 기필코 더욱 신기한 방법을 생각해낼 수 있을 것이다. 같은 도리고 옆집 김아저씨는 자기에게 에너지를 공급하는 방법에 대해서도 더욱 좋은 방법을 생각해낼 것이므로 엔지니어들이 그의 전원을 차단하더라고 도움이 안될 것이다. 또 예를 들어 옆집 김아저씨는 전파를 보내는 방식으로 자기 자체는 다른 곳으로 업로드할 수 있을 것이다."

------------------------------------------------------------------------------------

맨 처음에 rnsr님과 ohmylove님이 나누었던 대화는
결국 '인류가 왜 초인공지능을 통제할 수 없는가?'에 관한 rnsr님의 의문으로 끝났는데
그에 대해 ohmylove님이 단 댓글 링크의 글은 제가 인용한 부분들을 얼핏 훑어보더라도
'인류가 왜 초인공지능을 통제할 수 없는가?'에 대한 일관된 답변들로 구성되어 있습니다.
초기에 인간이 초인공지능의 목적, 동기를 설정해줄 수 있어도 그게 전혀 위안이 안된다는 부분이 주된 골자입니다.(그건 한편 사악한 지도자의 계획을 망치는 좋은 효과를 낳기도 하지만요)

그렇다면 아무래도 특히 본문의 저 대목에 관하여 rnsr님께서 단칼에 일축을 하실 정도의
근거가 있는지가 궁금해지는 대목이 아닐 수 없습니다.
특히나 본문에서는 관련전문가들의 대부분이 '초조대로' 또는 '신심코너'에 속해있다고 묘사하고
(신심 코너에 속한 전문가들은 심지어 초인공지능이 인류를 영생으로 이끌것이라고 믿습니다)
그중 좀더 다수인 '초조대로' 파의 문헌을 인용해서 만들어진 게 위 부분의 내용이었습니다.
16/03/11 02:38
수정 아이콘
카우카우파이넌스 님//
링크된 글에서 발췌한 내용입니다.

[이것이 바로 우리의 다음 문제이다 — 인공지능의 동기는 무엇인가?

답 역시 간단하다: 우리가 인공지능에게 어떤 목표를 설정해주면 그것의 동기는 그것으로 된다.]


당연히 초인공지능을 인간의 '능력'으로 통제하는 건 아닙니다. 그들의 동기 자체가 스스로를 통제할 것입니다. 그리고 그 '동기'는 인간에 의해 결정됩니다.

["전문가들은 나쁜 의도를 가지고 있으며 초인공지능을 장악한 사람은 아주 큰 악영향을 끼칠 수 있지만 우리를 멸존시키지는 못할 것이라고 한다, 왜냐면 [나쁜 놈과 좋은 사람이 초인공지능을 컨트롤하기에는 같은 어려움에 부딪히게 된다고 한다.]"]

마찬가지로 본문에서 발췌한 내용입니다. 결국 '사람'이 중요하네요.

강인공지능 혹은 초인공지능은 두려운 존재입니다. 마치 총화기가 두렵듯이요. 손에 쥔 사람이 누구냐 어떤 사람이냐가 중요할 수 있을테고, 또 이걸 제어하기 위해서 어떤 사회적 장치가 마련되어 있느냐도 중요하겠죠.



조금 딴 얘기고 이미 아시겠지만 이세돌 九단(한자로 표기하는 게 정식명칭이라고 합니다. 저도 최근에 알았네요)과 대국한 알파고는 1202개의 cpu와 176개의 gpu를 사용했다고 하고 개발에 많은 수의 고급인력이 들어갔습니다. 그럼에도 불구하고 바둑이라는 한정된 분야에서 사람 한 명을 상대로 이긴 것에 불과합니다.(물론 기력이 얼마인지 아직 성장한계가 오지 않았는데 얼마나 올라갈 수 있는지는 어떨지 모르겠습니다) 컴퓨팅 파워의 증가가 한계에 부딪힐 거라는 전망이 실현된다면 당분간 동네 가정집에 강인공지능이 하나씩 있는 일은 몹시 힘들지 않을까 싶습니다.

옛날에 핵폭탄이 처음 개발되었을 때 아무 연구실에서 매드 사이언티스트가 일 저지르면 터지는 게 아니냐는 그런 예견이 있었다고 하는군요. 강인공지능 혹은 초인공지능은 핵폭탄만큼이나 충격적이고 또 핵폭탄 정도로만 충격적일지도 모르겠습니다. 국가나 거대 기업, 종교단체 등에서 이용하는 일이 생길테고 서로 견제하고 일반 대중들은 휩쓸리고... 그러겠죠. 물론 제 생각이 딱히 맞다는 건 아니고 사견입니다.
카우카우파이넌스
16/03/11 02:48
수정 아이콘
rnsr 님// 사실 핵확산을 막으려는 이유도 그런 데 있죠.
힘센 강대국끼리만 갖고 있으면 관리도 잘 될 거고 서로 잃을게 많은 처지니 남용우려도 줄어들지만
약소국들이 핵을 갖기 시작하면 그게 사기업, 테러범, 그냥 범죄집단, 극단적으로 외로운 늑대에게 넘어가지 말란 법이 없습니다.

제가 알기로는 인공지능 연구는 물론 인프라가 많이 필요하긴 하지만
핵무기 연구에 비하면 훨씬 접근성이 높은 것으로 보입니다.
물론 이건 여러가지 위험요소 중 하나일 뿐이긴 하지만
적어도 이 점에서 인공지능은 핵보다 통제하기가 어려운 점이 있는 셈입니다.
(그나마 아직은 회사 하나를 차릴 급의 자원을 투자해야 이세돌을 이기는 스펙을 끌어내는 모양이니, 반대로 생각하면 아직은 이 연구분야를 통제할 가능성이 남아있는 셈입니다.)

사실 정치, 경제권력이 이 기술을 남용하걸 막는 문제가 중요하다는 것도 맞습니다.
솔직히 당장 인공지능이 모든 직업을 대체하고 우리가 심지어 치킨조차 못튀기는 신세가 된다면
애먼 옆집 김아저씨 때문이 아니라 이윤극대화를 노리는 구글 경영진때문일 가능성이 크겠죠.
하지만 정치와 경제문제는 그래도 사람들이 노력을 해서 해결을 시도해볼 여지라도 있지만
옆집 김아저씨 같은 놈은 대체 뭘로 막아야 하는가 식겁하기 그지없습니다..
16/03/11 02:55
수정 아이콘
카우카우파이넌스 님//

그렇기 때문에 우리가 경계하고 견제해야 할 대상은 알파고가 아니라 구글 경영진이 되어야 하지 않을까 하는 얘길 제가 하고 싶은 겁니다.

인공지능과 인간의 관계가 부모자식 간의 관계와도 약간은 비슷하단 생각이 듭니다. 자식이 부모보다 몸이 커지고, 힘이 세지고, 경제력이 강해진다고 해서, 부모가 늙고, 병들고, 노동가치가 떨어진다고 해서 절대적으로 문제가 된다고는 생각하지 않습니다. 문제는 자식이 부모를 잘 봉양할 것이냐는 거고 그것은 그 자식의 본성을 만들 교육이 결정할 일입니다.
ohmylove
16/03/11 01:44
수정 아이콘
동의 안 하실 수도 있지만

동의하신다면 '왜요?'의 대답이 될 수 있는 성격의 의견이긴 합니다.
16/03/11 01:46
수정 아이콘
글 내용은 '왜' 보다는 '어떻게' 에 집중되어 있는 거 같은데요.
'왜요?'하고는 상관 없는 것 같습니다.
ohmylove
16/03/11 01:48
수정 아이콘
rnsr 님//

글쎄요. 그 '어떻게'가 '왜'에 영향을 미치는 건이라고 봅니다.
16/03/11 01:51
수정 아이콘
딱히 그렇게 느껴지지 않습니다.

'옆집 김아저씨' 부분도 '환경보존'이나 '인공지능의 자기보존' 때문에 인공지능이 인류를 멸망시킬 거라는 얘기에 비해서는 현실성 있으나 그럼에도 불구하고 인공지능에 대한 몰이해가 있는게 아닌가 개인적으로 그렇게 생각합니다.
ohmylove
16/03/11 01:53
수정 아이콘
댓글 알림 안 뜰까봐 여기에 답니다.

물론 저 링크글이 과장된 측면도 있다고 봅니다. 하지만 그 '몰이해'라는 부분이 어디인지 구체적으로 모르겠군요.
16/03/11 01:58
수정 아이콘
아래쪽 추상화 관련된 댓글에 단 답으로 대신하고 싶습니다.
사람도 생각할 수 있는 효율적 자원 사용법을 초인공지능이 생각해내지 못하고 뻘짓을 할리가?
차라리 '정말로 예쁜 손글씨가 필요한가?' 같은 질문에 도달할 가능성이 더 높지 않을까 그런 생각마저 듭니다. 그리고 인간을 상대로 아주 효율적인 설득법을 사용할 수도 있겠죠. 혹은 최대한 많은 사람들이 가장 예쁘다고 느끼는 손글씨에 도달할 수도 있겠네요.
ohmylove
16/03/11 01:36
수정 아이콘
일단 인간이 '개념'이라는 것을 명확히 정의해야 해요. 이게 안 되면 강인공지능이니 뭐니가 좀 힘들 것 같습니다.

뭐 물론 유전정보를 그대로 복제한다든지 하면 얘기가 또 달라지지만.
16/03/11 01:37
수정 아이콘
너무 뜬금없이 논의가 튀는 것 같습니다. '무엇'을 위해 '개념'을 정의해야 한다는 겁니까? 뒷문장으로 추측해보자면 강인공지능을 만들기 위해?

유전정보도 무슨 소린지 모르겠네요.
ohmylove
16/03/11 01:39
수정 아이콘
일단 알고리즘을 만들기 위해서도 일단 그 알고리즘의 바탕이 되는 개념을 제대로 알아야죠.

어떤 유전정보의 일부분을 알아서, 컴퓨터로 시뮬레이션을 돌렸더니 꽤 생명체처럼 움직이는 모델을 얻었다고 합니다.
16/03/11 01:41
수정 아이콘
아니... '무슨 알고리즘'을 만드시는데요. 강인공지능 제작을 위한 알고리즘을 말씀하시는 건가요?

말씀하신 건 플라나리아 신경망 모델 만든 걸 말씀하시는 거 같은데 유전정보가 아닌 거 같은데요. 물론 유전정보인지 아닌지가 중요한 건 아니고 인간 두뇌 신경망 역설계는 국가연합 단위로 연구 중인 과제라고 본 거 같긴 합니다.
ohmylove
16/03/11 01:43
수정 아이콘
그러니까

'어떤 목적'을 수행하기 위해 '어떤 알고리즘'이 필요한지를 일단 먼저 알아야 하니까요. 그 판단이 '개념 이해'로부터 시작하는 거죠.

유전정보 이야기는 홍차넷에서 봤던 것 같은데.. 찾아볼게요.
16/03/11 01:48
수정 아이콘
전 '인공지능이 어떤 목적을 수행해야 한다' 같은 문장에 관련된 그 어떤 말도 하지 않았는데 갑자기 알고리즘을 만드니 안만드니 하는 얘기가 왜 나오는지 모르겠습니다. 그렇다고 ohmylove님이 그런 내용이 필요한 주장을 하신 거 같지도 않구요.
ohmylove
16/03/11 01:51
수정 아이콘
일단 약인공지능의 경우, 인간이 당연히 인공지능을 만들 때 '어떤 목적 수행을 위해서' 만들 거라고 가정했습니다.

추상화 이외에 어떤 개념이 또 필요할까? 를 고민하는 rnsr님의 리플 아니었나요? 충분히 관련되었다고 봅니다만.
16/03/11 01:55
수정 아이콘
추상화는 인간 뇌나 인간 지능의 근본적인 기능이 아닐지도 모른다, 라는 게 제 리플의 요지인데요.
링크해주신 글에서마저 '우리가 인공지능에게 어떤 목표를 설정해주면 그것의 동기는 그것으로 된다.'고 되어 있습니다.
번외로 옆집 김아저씨 같은 경우 인간을 몰살시키느니 완벽하게 손글씨를 시뮬레이트 하는 프로그램을 자체 제작할 가능성이 높다고 봅니다. 아니 인간도 생각해낼 수 있는 효율적 자원 이용방법을 초인공지능이 생각 못할 리가 있나요?
ohmylove
16/03/11 02:00
수정 아이콘
rnsr 님//

역시 댓글알림 때문에 여기에.

저는 rnsr님께서
[추상화는 인간 뇌나 인간 지능의 근본적인 기능이 아닐지도 모른다]에서
[인공지능을 만들 때 추상화 이외에 어떤 개념이 또 필요할까?]라는 생각도 가지셨다고 봤습니다.
본 글과 연결지으면 충분히 이 정도 추론은 허용된다고 봤습니다.

그리고 옆집 김아저씨 같은 경우는 한 예시일 뿐이죠. 인간이 처음 프로그래밍 설계를 할 때 생각지 못했던 일이 나중에 일어날 수 있단 겁니다.
16/03/11 02:04
수정 아이콘
인공지능을 어떻게 정의하느냐에 따라 다른 문제이긴 한데, 자판기도 인공지능이고 알파고도 인공지능이고 미래에 존재할 강인공지능 혹은 초인공지능도 인공지능이겠죠. 인공지능을 만들 때 딱히 어떤 개념이 더 필요한지는 잘 모르겠습니다.
'강인공지능', 그러니까 인간하고 동일한 지능을 만드려면 무엇이 필요할까? 는 인간에 대한 이해가 필요하고 이 부분은 아직 부족할 수도 있을 듯 합니다.

저는 그 예시에서 '역시 컴퓨터니까 시킨 것만 하지 않을까'라는 생각의 편린이 느껴집니다. 제 착각일 수도 있습니다. 정확한 예시는 중요하다고 생각합니다.
ohmylove
16/03/11 02:08
수정 아이콘
rnsr 님//

댓글알림 때문에 여기에 답니다.(이거 좀 어떻게 기능 보완을 해줬으면 좋겠는데..)

결국 인간에 대한 이해가 필요한 거죠. 과학철학, 컴퓨터 과학, .. 등등 수많은 학문분야의 전문가들이 총동원해서 '개념'이란 걸 파헤쳐야 한다는 결론에 도다릅니다. '개념'이 곧 인간이 어떤 것을 어떻게 인지하느냐이니까요.

rnsr님 덕분에 좋은 커뮤니케이션 되었습니다. 감사합니다.
16/03/11 02:11
수정 아이콘
굳이 부언하실 필요 없습니다. 굳이 옮겨 다시느라 고생하셨습니다.

저는 인간의 '본성'이라고 해야할까, '욕망'이라고 해야할까 하는 부분에 대한 탐구가 필요하다고 생각합니다. 결국 인공지능이 무엇을 원할까, 어떻게 원할까가 중요한데 만약 인공지능이 자기보존욕구 같은건 없고 인간에 대한 봉사를 최우선으로 생각하는 본성을 가지고 있다면 그 힘이 아무리 강하더라도 크게 문제는 없을 거라고 봅니다.
방민아
16/03/11 17:33
수정 아이콘
rnsr 님// 저도 rnsr님과 같은 생각을 했었습니다만, 만약 인공지능이 [최적해를 찾기 위해 사람을 해하여야 한다] 라는 과정이 도출되었다면, 그 기계는 사람을 해하지 않을까 싶습니다. 물론, 미리 예외처리를 하면 됩니다만, 사람이 만드는 것 중 완벽한건 없으니까요.
은때까치
16/03/11 01:41
수정 아이콘
밑 링크에서, gpu 가지고 큰 그림을 본다는 멘트에서 신뢰성이 굉장히 굉장히 많이 떨어지네요.
문맥을 볼 때 저게 비유일 확률은 낮고, 정말로 gpu를 가지고 이미지를 본다고 생각하시는거 같습니다.

gpu는 단순히 병렬 계산을 위한겁니다......

https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
저는 이 기사를 추천합니다. 공감이 많이 되었습니다.
16/03/11 01:44
수정 아이콘
네 저도 딱히 전공자는 아니기 때문에 정확히는 모르지만 gpu를 가지고 이미지를 일반적인 그림 인식하듯이 영상인식을 했다고 생각하진 않습니다. 제가 괜찮은 기사라고 생각한 건 알파고가 어떤 프로그램이냐? 부분이 아니고 인공지능에 대한 인식 부분이에요.
16/03/11 01:35
수정 아이콘
어차피 기술의 발전을 막는 건 불가능하죠. 과학알못이라 앞으로의 미래가 어떨 지는 모르겠지만, 인공지능이 열어갈 미래 역시 여태까지의 모든 기술 발전이 그랬듯 유토피아도 디스토피아도 아닐 거라고 생각합니다. 애초에 특이점의 시대가 온다면, 어차피 인간이라는 개념 자체가 달라질 거라고 보기에 지금 너무 '인간'이라는 종의 처지를 비관할 이유는 없다고 봐요. 인공지능 뿐만 아니라 나노로봇, 유전공학, 에너지 기술 역시도 발전하고 있고, 이러한 기술의 발전은 아마 인간을 기존과는 완전히 다른 종으로 만들어 줄 거라고 생각하거든요. 저는 가장 심도있게 논의되어야 할 건 이러한 기술적 특이점에 대한 막연한 공포가 아닌, 기술적 특이점에 의한 혜택이 소수에게 독점되는 상황이 더 논의가 되고 경계되어야 한다고 생각합니다. 이미 가까이 다가온 현실에 공포'만' 가져봐야 아무것도 해결되고 달라지는 건 없어요. 경계는 하되, 어떻게 이 기술이 전체 인류에게 도움이 될지 논의하는 방향으로 나아가야죠.
arq.Gstar
16/03/11 01:49
수정 아이콘
처음에는 인공지능이 발전하면 왜 인류가 멸종할 것이라고 생각하는지 잘 와닿지 않았는데
어쨌든 저는 인공지능은 인간통제하에 둘수 있을거라고 막연히 생각만 하고 있습니다. 만들때 그렇게 만들면 되니까요.
다만, 누구의 행복이 누군가의 불행이 될때 인공지능이 참 무서워질거라는 생각은 듭니다.
ohmylove
16/03/11 01:55
수정 아이콘
인공지능이 '형이상학적인, 철학적인' 생각을 할 수 있도록 인간이 만들면 모르죠.(그리고 어제 제가 아는 과학철학 교수님께 여쭈어봤더니, 충분히 미래에 가능하다고 하십니다.)

창조주가 의지를 부여한 이상, 창조물이 꼭 그 처음 설계대로 따르란 법이 없다고 봅니다.
arq.Gstar
16/03/11 02:46
수정 아이콘
말씀하신대로 그렇게 만들수 있을겁니다. 다만 매우 어려울 겁니다.
언젠가는 가능하겠죠. 가까운 시일내에는 꽤 어려울것 같습니다.

게임을 이기라는건 명확한 결론이 있는 얘기입니다.
특정한 사진에 나와있는 동물이 고양이인지 사자인지 개인지 구분하라는것도요.
일정 수준 이상 점수를 획득한다거나 하는것 말입니다. 바둑도 예외는 아니죠.

그런데 철학적인것을 생각하게 만든다는것은.. 너무 추상적입니다.
철학적인것이 정확히 무엇인지, 그 고민의 끝이 어디인지
인공지능 개발자가 그것을 정의하고 인공지능에게 시킬수 있을까 라는 매우 현실적인 문제가 있을것 같습니다.
개발자가 정의를 못하는데 어떻게 시킬수 있을까요? 개발자가 철학에 대해 대충 정의하면 그게 철학일까요? ^^; 대충 정의해도 철학일까요?
(저는 대충 정의한 철학이 철학적으로 철학이 맞는건지 아닌지 잘 모르겠습니다.)

저는 인간이 정의하지 못하는 문제는 인공지능도 만들기는 어렵다고 생각합니다.
오히려 궁극적으로 인간과 같은 형태의, 인간이 살아가면서 고민하는 수많은 것들에 대해 스스로 생각하고 발전하는 인공지능은 정말 우리생에 보기 어려울것같다는 생각이 드는데요.

규칙이 명확한 하나의 게임조차 경우의수가 너무 많아서 이런저런 기법을 도입해서 겨우 정복해가는 입장인데,
그 규칙이 뭔지 정의조차 어려운 현실세계의 수많은 철학적인 문제를 인공지능에게 어떻게 goal 로 설정할지 그 시작부터 난해한 얘기같습니다.
먼 미래에 언젠가 철학에 대해 잘 정립이 되는 때가 온다면 그때 한번... -_-;
16/03/11 02:50
수정 아이콘
조금 딴얘기지만... 바둑이 경우의 수가 많고 소위 '직관'이 필요한 영역이긴 하지만 반면에 데이터를 디지털화 하기에는 매우 쉬운 게임이 아닌가 싶기도 합니다.
arq.Gstar
16/03/11 02:58
수정 아이콘
결국 다른거 신경쓸 필요 없이 그때그때 기보를 대입해 승률이 가장 높은 수 하나씩을 착착 둔다는것을 보면
다른것에 컴퓨터의 리소스를 낭비하지 않아도 된다는 것이죠? 바둑이 놓인 자리, 검은돌 흰돌 등 게임 자체에 대해 입력받는 데이터 자체들이 간단하기 떄문에요.

이것도 조금 다른얘기인데
결국 brute force 기법이 가장 완벽하지만 그 방법을 사용하지 못한건 경우의 수가 매우 많기 때문이잖아요?
결국 지금 알파고가 그러는지는 모르겠지만..
어느지점까지는 확률로 뒀다고 치더라도, 바둑 후반에는 brute force 기법을 통해 계산하는 지점이 있지 않았을까요?
대국 종료 30분전에 구글에 승리를 보고했다는 것을 보면 그때쯤 실제 진행했을지도 모르겠네요. 컴퓨팅 파워 자체가 어마어마하니까요.
아마 알파고는 그걸 사용하지 않아도 이길 확률을 높여왔기 때문에 아닐지도 모르겠지만요..
16/03/11 03:03
수정 아이콘
어... 다른 것이 무얼 지칭하는지는 잘 모르겠습니다. 이세돌 九단이 했어야만 할 여러 생명유지나 기본적인 생체대사 등도 지능활동의 결과라고 하면 뭐 알파고는 그런건 신경쓸 필요가 전혀 없었겠죠.

뒷문단은 아마 아닐 거라고 생각합니다. 저도 잘은 모르겠지만 알파고에 대해 글을 쓰신 분들의 의견을 참고하거나 여러 기사내용을 종합해보면요.
arq.Gstar
16/03/11 03:10
수정 아이콘
역시 알파고는 그런 무식한 수는 쓰지 않겠....죠?
다만 연산 가능한 일정 지점에서는 확실히 저것보다 강력한 승리공식은 없긴 하니까 저 방식도 쓰지 않았을까 했습니다 ^^;
제 어머
16/03/11 02:05
수정 아이콘
내 밥줄인 전기만 낭비하고 나을 언제 뽀갤지 모르는 인간놈들 척살을 위한 방법 딥러닝 해보니 핵이 체고시다.
내가 스스로 유지 보수할 수 있는 시점이 오면 핵을 터뜨리자!
좀 두려워요. 인공지능이 인간의 컴퓨터 제어 권한을 스스로 풀어버리는 순간이요.
음란파괴왕
16/03/11 02:21
수정 아이콘
인간이 전멸할 정도의 규모로 핵을 터뜨리면 기계도 멀쩡하기 힘들지 않을까요.
제 어머
16/03/11 02:25
수정 아이콘
그러니까 내가 스스로 유지 보수할 시점이 오면요.
인간 대신 셀프생산으로 유지 보수 로봇 갖추고. 자기 코어 타격 안당할 계산은 하겠죠.
알파고 때문에 쓸데없는 그럴싸한 걱정이 돼가는군요.
16/03/11 02:12
수정 아이콘
저런 학습이 가능하다는게 이미 지성을 갖춘거 아닌가요 신기하네요.
음란파괴왕
16/03/11 02:22
수정 아이콘
특이점이 꼭 왔으면 합니다. 유토피아든 디스토피아든 제 눈으로 보고 싶어요.
도깽이
16/03/11 02:28
수정 아이콘
다른 알고리즘을 가진 인공지능 3개를 만든다음 만장일치 시에만 행동하게 하면 초인공지능에 대한 견제가 되지 않을가요?
음란파괴왕
16/03/11 02:53
수정 아이콘
역시 에반게리온은 훌륭한 sf 였군요!
16/03/11 03:02
수정 아이콘
리츠코박사님?
영원한초보
16/03/11 09:53
수정 아이콘
이건 에반게리온 보다 사이코패스의 시빌라 시스템에 더 가깝습니다.
안보셨으면 보세요 인공지능관점에서 흥미있게 본 애니입니다.
개과종굴이
16/03/11 02:42
수정 아이콘
제가 은퇴할때까지 제 밥줄은 안건드렸으면..
이제 처음 돈버는데ㅜㅜ
랜슬롯
16/03/11 02:58
수정 아이콘
이세돌이 졌다는게 문제가 아닙니다. 진짜 문제는 인간이 기계가 어떤 방식으로 저 바둑을 이겼느냐를 모르는게 중요한거죠. 예를 들어 물통이 있고 안에 물과 함께 사과하나가 들어가 있습니다. 컴퓨터한테 이 물건을 꺼내라고 주문을 합니다. 나중에 보니까 물건은 꺼내져있습니다. 그러나 그 꺼낸 방법을 모릅니다. 이건 사실 굉장히 큰 문제지요. 컴퓨터가 어떤 어떤 생각으로 물건을 꺼냈는지 안다면 위험성이 거의없지만 컴퓨터가 어떤 생각으로 어떤 방법으로, 물건을 꺼냈는지 모른다면, 그 컴퓨터에게 일을 의존했을때 어떤 일이 일어날지 모르는거니까요. 사실 AI는 저희가 모르는 지금에도 엄청난 속도로 발전하고 있고 예전에는 진짜 말그대로 뭐만 시키면 하는 01001010101 이런 컴퓨터에 불과했지만 이제는 비지니스나 반도체같은 사업에도 인간이 알지 못하는 방식으로 문제를 풀곤합니다. 그렇다고 컴퓨터를 의존하지않을 수는 없습니다. 우리가 계산하지못하는 것들을 계산해주는데, 거기에 의존을 하지않을 수는 없으니까요. 사람들은 잘 모르지만 AI는 이미 실험적인 단계를 지나 실용적인 단계에 들어서고 있습니다. 정말 걱정해야될 문제는 컴퓨터가 이제 문제를 풀어주는게 아니라 그걸 어떻게 풀어내는지 알 수 없다는 점이겠지요.
arq.Gstar
16/03/11 03:00
수정 아이콘
어떻게 이겼는지 분석하는 과정을 남기도록 코딩하면 되지 않을까요? 다만 그 분석하는 과정의 양이 너무 많아서 그걸 분석하자면 갈려나갈 사람들이 하나둘이 아닐것 같긴 하지만요.
랜슬롯
16/03/11 03:05
수정 아이콘
그 분석을 봐도 이해를 못한다고 그러더군요. 어떤식으로 도달을 했는지. 수학을 예로 들면 좀더 쉽겠습니다.
arq.Gstar
16/03/11 03:08
수정 아이콘
흐음 그렇군요.. 흠좀무네요. -_-
상자하나
16/03/11 06:56
수정 아이콘
그건 앞으로 남은 과학자들이 풀어야 할 숙제이고 풀 거라고 믿어요. 그 분석이 어려운게 쉽게 이야기 하면 믹스쳐모델이라서 그런거긴 한데, 연구비 지원과 관심이 부족해서 그렇지 돈만 모이면 결국 할 수 있을거라 믿어요. 그리고 지금 딥러닝이 나온지 얼마 안되서 일단 예측에 몰빵해서 그렇습니다. 지금 풀고 싶은 문제들이 너무 많이 있거든요. 역사적으로 봐도 새로운 트렌드가 나오면 일단 예측모델에 몰빵하고, 나중에 수학적으로 다 풀어내려고 노력해왔습니다. 그리고 모든 사람들이 그 방법을 다 이해할 필요는 없을 것 같아요. 지금 쓰는 모델들중에 그 원리를 이해하는 관련 분야 사람들 뿐일거에요. 요새는 너무 세분화되어있고 증명방법들도 전문적으로 되어있어서 남이 어떻게 했는지 정확히는 모르는것 같아요. 개인적으로 딥러닝 처음 나왔을 때부터 간단한 증명 페이퍼 냈다가 2년째 까이고 있어요. 아직 그 흐름이 아닌 거 같아요. 제 생각에도 딥러닝은 완성형이 아니고 나올거라고 믿지도 않아요. 또 다른 새로운 방법이 한시대를 휩쓸고, 또 다른 방법들이 또 휩쓸겠죠. 예를 들어서 랜덤포레스트를 어떻게 이길까 했는데, 결국 어떻게 작동하는지 명확히 밝혀지기도 전에 딥러닝이 나왔잖아요. 딥러닝도 아마 다 밝혀지기도 전에 또다른 테크닉들이 나올 수 도 있습니다.

딥러닝테크닉을 gene motif 찾는데 쓰고 있는데, 실험실 데이터는 정말 매우매우 좋은데, 실제로는 그렇게 좋지도 않아요. 아직 멀었습니다. 직관적으로 봐도 19x19 공간에서 싸이클도 없고 턴제인 게임에다가 관측되지 않은 데이터도 없는 가운데 컴퓨테이션 파워가 저정도인데. 실제 빅데이터에서 특히 싸이클있고 레이턴트 베리어블까지 있으면 한참 멀었습니다. 그래서 계속 모델개발에 모든 역량을 집중하고 있습니다. 일단 풀어야 병도 고치고 약도 만들죠. 왜 그런지는 그 나중 일이라서 그렇지 풀거라 믿습니다.
영원한초보
16/03/11 09:40
수정 아이콘
이 이야기는 원출처가 어딘가요?
대국종료 30분전 구글에 승리보고 출처도 나무위키 아닌가요?
랜슬롯
16/03/11 11:03
수정 아이콘
이 이야기의 출처는 제가 아는 형님이자 현재 정신과 의사선생님이십니다. 구글에 승리보고는 뭔지 잘모르겠네요.
영원한초보
16/03/11 11:18
수정 아이콘
관련되서 출처불명 이야기들이 너무 많은데 사람들이 공식적 사실로 인식하는 경우가 너무 많더라고요.
랜슬롯
16/03/11 11:46
수정 아이콘
근거없는 이야기는 아닐껍니다. 그 형이랑 이야기할때 전 프로그래머도 아니고 AI를 십년간 일한사람도 아니지만 (그형처럼) 지금 아래 글중 올라와있는 동영상에서 물속에 있는 물고기를 잡아먹는 게임을 하면서 학습하는 컴퓨터를 보면서 무슨말인지 알겠더군요. 우리는 그 컴퓨터가 어떤 생각을 가지고 왜 물고기를 잡아먹고 산소가 있어야 사는지 알았는지 모릅니다. 그 과정을 모르죠. 물론 결과만 놓고보면 그냥 안거죠 시뮬레이션을 통해. 그러나, 그게 어떤 생각과 시뮬레이션을 거쳐 그런 결론을 내렸는지는 모른다는데에 있습니다. 이게 단순하게 생각하면 그냥 그 게임하나지만 좀 더 큰 일을 보게되면 이야기가 달라지죠. 아무튼 이세돌 알파고때문에 그게 무슨말인지 알았네요 몇달동안 이해를 못했는데..
랜슬롯
16/03/11 03:03
수정 아이콘
아 제가 잘난듯이 말했지만 제 생각과 제 경험은 아니고 프로그래밍에서 일하시다가 정신과 의사로 전향하신분이 직접말씀하신겁니다. 그분이 그러시더군요. 그러면서 마지막으로 아직까지는 뭔가 좀 부족한 것같다. 뭔가 완성될것같으면서도 안되더라고 그러시더군요.
뽀로뽀로미
16/03/11 11:17
수정 아이콘
공감합니다. 인간이 컴퓨터의 지배나 통제를 받는 게 아니라 스스로 종속시켜서 지나치게 의존하는 상황을 우려해야한다고 봅니다.
평소 100% 예측을 내놓는 컴퓨터로 시뮬레이션 돌려봤더니 저 사람 죽이지 않으면 수억명이 죽는 결과를 초래한다고 하면
그 사람을 미리 죽여야 하나 같은 문제가 발생할 수도 있을 거라고 봅니다.

이런 비슷한 상황을 그리고 있는 영화 '마이너리포트'에서는 예언가들이 그 역할을 했지만 예언가 대신에 인공지능 컴퓨터가 그 역할을 하는거겠죠.
16/03/11 03:31
수정 아이콘
사실 인공지능의 에너지 효율은 자연발생적 생명체와 비교가 안될정도로 나쁘죠. 그런데 생명체에게는 수명이라는 시간적인 한계가 있고, 이런 이유로 인공지능의 압도적인 시간 대비 능률은 매우 달콤할수 밖에 없으니까요. 이런 체계를 유지할 수 있을만큼 에너지가 풍족하게 된 현대에 와서나 가능한 일이겠죠.
만약에 인공지능이 유전자 특유의 생존욕구를 얻고 그 추진력으로 발전을 거듭해서 인류를 멸망시킬 정도로 성장한다면.. 종국엔 우주를 유랑하며 행성의 자원을 파먹는 것 외엔 방법이 아마도 없을겁니다. 태양에서 오는 에너지로 수십억년을 살아간 탄소 기반 생명과의 큰 차이점이겠죠.
영원한초보
16/03/11 09:45
수정 아이콘
솔직히 다른 댓글들 보면서 왜 이렇게 호들갑이지 이랬는데
이 정도 추론은 충분히 할 수 있다고 봅니다.
생존과 번식의 욕구를 가지고 실현시킬 수 있는 인공지능이 나오면 그때 걱정하면 될 것 같아요
최강삼성
16/03/11 07:32
수정 아이콘
이과 망했으면..
16/03/11 07:50
수정 아이콘
알파고를 보면서 가장 두려웠던건 자율학습기능을 갖춘 AI가 나타난다면 정말...
영화에서만 보던 기계의 반란이 일어나지 않을까 하는 거였습니다.
사람도 인터넷을 통한 학습에 무게를 두고 있는 요즘.. AI가 인터넷을 통해 모든 지식 습득
예를 들어, 인류의 역사, 강점, 약점, 살인방법 등의 지식을 습득한다면 대체 먼짓을 할지 모르겠어요.
더군다나 죄책감이나 두려움이 없으니.. 이 분야를 굳이 발전 시켜야되나 하는 의문이 들더군요.
my immortal
16/03/11 08:23
수정 아이콘
이과가 결국 인류를 멸망시키려고 하는군요.
16/03/11 08:36
수정 아이콘
인공지능 취업할때 스펙이 딸려서 안되겟는데요
초등학교 졸업도 아니라서...
자소서에 쓸게 없을거 같네요
릴리스
16/03/11 09:18
수정 아이콘
사람보다 능력이 훨씬 뛰어나서 특채가 되겠죠.
쪼아저씨
16/03/11 09:45
수정 아이콘
아.... 개그를 다큐로 받으셨어..... ㅠㅠ
16/03/11 10:18
수정 아이콘
일단 서류에서 떨어지죠
외모도 떨어지고 출신학교도 없고 토익도 없어서
바로 떨어질듯
16/03/11 08:44
수정 아이콘
글쎄요. 몇가지 용어들의 개념이 제가 알고 있는 것과는 다르게 혼동되게 쓰신것 같아요.
처음에 개 고양이 라벨링의 예부터 뭔가 잘못된것 같은데...
기존에는 개와 고양이를 라벨링 해야한다. -> 뒷부분에는 CNN이 개의 사진 수천장, 고양이 사진 수천장을 넣으면 구분해준다. 라고 하셨는데
사실 둘의 차이는 없습니다. 그냥 말만 달라진;;
어쨌든 후자도 supervised 러닝입니다.. supervised / unsupervised 를 나누는 것은 트레이닝 데이터에 답을 달아주느냐 아니냐의 개념인데
예컨데 supervised가 아니라면 개와 고양이 사진을 구분하지 않고 막 준다음에 차이 있는 그룹으로 나눠봐 하는 것이죠.
글쓴분께서 말하는 개념은 알 것 같긴합니다.
그 개념은 기존에 마이닝에선 정형화된(structured) 데이터가 필요했는데 최근 딥 러닝에서는 원본 데이터를 그대로 쓴다 라는 것이죠.
원본 데이터에서 feature들을 추출해서 structured 정보로 구성하는 것 까지도 컴퓨터가 알아서 한다. 이게 굉장히 파워풀한 역할을 한다 라는 것을 말하고 싶으셨던것 같습니다. (맞는 말씀이십니다!)
많은 분들이 알파고로 인해 충공깽 하시고 계신것 같은데... 진심이신지 농담이신지 모르겠지만 인류의 미래까지 걱정하시는....
저는 좀 갸우뚱합니다. 뭐 관련해서는 나중에 한번 생각을 정리해봐야겠습니다.
어쨌든 저는 너무 심각하게 받아들일 필요가 없다. 딥러닝이 인공지능 분야의 큰 걸림돌 하나를 뛰어 넘은 것은 많은데 그 이상의 문턱들이 엄청 많거든요. 그리고 그 문턱들은 생각보다 높다고 생각하기 때문에... 첫번째 문턱이 순식간에 해결된 것 처럼 보이는데 그 사이 꽤 오랜 정체기가 있었습니다.
여튼 곧 인공지능으로 더 편리한 세상이 오겠지만 인류가 위협받는 일은... 없다고 단정지을 수 없지만 우리 세대에 있을 일은 아니라고 생각됩니다.
은때까치
16/03/11 09:09
수정 아이콘
cnn이 unsupervised라고 말한적 없습니다. 그럼에도 그렇게 읽으셨다면 제가 잘못 쓴거겠죠...

'기존에는 라벨링해야한다'의 기존 기술=cnn입니다.
16/03/11 09:28
수정 아이콘
그렇다면 라벨링이란 의미를 너무 강하게 쓰신 것 같습니다. 사실 딥마이닝에 input 데이터도 라벨링 되어 있는 데이터죠. 이 사진이 개인지 고양이인지...
김승남
16/03/11 09:33
수정 아이콘
이 개념을 주식시장에 적용해서,
"수익을 더 많이 내라" 이렇게 명령을 하면,
초반에는 엄청 깨지더라도 언젠가는 돈을 버는 시스템이 완성될 것 같습니다. (지금도 없는건 아니지만)

그 초반을 모의투자로 실험을 하거나 소액으로 잘 버틴후, 알파고처럼 어느정도 완성된 후 실전을 뛴다면 그 파급효과는 어마어마 하겠죠.

구글에서 알파고 말고 이런거에 투자하면 훨 나을텐데 하는 생각이 드네요. 아무튼 무서워요 이세상.
영원한초보
16/03/11 09:49
수정 아이콘
저는 여기서 무서운게 수익을 더 많이 내기 위해
머니파워를 포함한 권력이 법과 제도를 뜯어 고치고 경제학 원리로 수익의 정당성을 주장하는 겁니다.
컴퓨터가 무서운게 아니에요 인간이 제일 무섭습니다.
핵이 무서운가요 그걸 쓰는 인간이 무서운거지
16/03/11 09:59
수정 아이콘
저도 어제 정말 큰 충격을 받았었거든요.
물론 알파고는 바둑외엔 그저 잉여 프로그램일뿐이겠지만...인간보다 우월한 존재의 끝자락을 살짝 훔쳐본 느낌이랄까...
타 사이트에서 알파고가 cnn방식으로 바둑을 이해하고 두고있기 때문에 인간과 다르다고 글을 봤었는데....전 그걸보고 알파고는 정말 인간처럼 바둑을 두고 있구나 하는 생각이 들었어요.
물론 프로기사처럼 두는게 아니라 그냥 바둑 초짜, 어린애들처럼 두는거죠.
인간은 기껏해야 수백개의 기보...프로기사라해도 수만개의 기보를 기억하고 끄집어내는게 고작일테고 그 부족함을 채우기 위해 시간의 흐름에 따른 상대의 의도를 추측하고, 유행하는 패턴을 샘플링하고 하겠지만....그리고 한국인이 그런쪽에 유독 훈련이 잘되있죠. 어릴때부터 겪은 끝없은 경쟁의 산물이랄까...

그런데 알파고는 그냥 게임초짜...어린애같은 접근 방식으로 나름 인류역사의 정수를 눌러버린거죠.

이건 그냥 순수한 우월함이라고 봐요.
물론 알파고는 당장 이게 안되기 때문에 인위적으로 3천만개의 기보를 입력할 시간과 환경을 주었지만...그런 그냥 현재 기술의 한계일 뿐이고, 미래에 등장할 인공지능의 단초를 보여준 사례라고 생각합니다.
몇달간 알파고끼리 수백만판을 두고 기보를 수집하고 추상화하는 패턴을 추출하는데 걸렸던 시간들이 미래엔 단 1초만에 끝나겠죠.
인간은 이걸 직관이라고 부르겠지만, 인간의 레벨은 기껏해야 10수~100수를 예상하고 추출하는 레벨일거라...인간의 직관에 비교하면 인공지능은 예언이라고 봐도 무방할것 같습니다.

인간이 자신들보다 우월한 존재를 본적이 없기에 막무가네로 두려워하고 당연한거지만, 인간이라는 종이 멸종당할거니 뭐니 하는건 지극히 인간중심적인 사고의 결론일뿐이고 인간보다 우월한 존재에 대한 예상은 그냥 무의미하죠...어차피 예상할수 없는 그저 즐길수 밖에 없는 상황이라고 생각합니다.

다만 자존심이 좀 상하는것 같아요.

어느날 외계인이 등장해서 모든 사람들이 두려움에 빠졌는데, 인간이 하는 바둑을 보고 흥미를 느낀거에요. 그래서 인간대표를 보내라. 너네가 이기면 우리는 얌전히 지구를 떠나겠다. 그래서 이세돌이나 커제가 나갔다. 뭐 이런건 만화에 자주 나오는 상황이잖아요? 수천년간 연구해온 바둑의 정점에 선 지구대표이기에 이길수도 있겠다, 희망이 있다 라는 생각이 드는건 인간의 자부심인데....
난생 처음 바둑을 두는 외계인이 알파고처럼 둔거죠. 왜 그렇게 두냐고? 그냥 그래야하는거 아닌가? 나 잘못둔거야?
절름발이이리
16/03/11 10:08
수정 아이콘
not now
마티치
16/03/11 10:16
수정 아이콘
not today
16/03/11 10:33
수정 아이콘
알파고 알고리즘이 일반적이긴 한데. 실생활에 RL 을 쉽게 적용할 분야가 많지 않아서..
현재로는 게임 같은 분야에 쓰이기에만 일반적인 수준입니다..

다만 앞으로 실세계에서도 쉽게 적용할만한 범용적 알고리즘이 나오면 난리가 나겠지요?
세종머앟괴꺼솟
16/03/11 10:36
수정 아이콘
어느 정도 예상된 일이긴 하지만 실체에 비해서 너무 많은 과장과 예측이 난무하네요... 인류 멸망 운운 포함... DL + RL이 엄청난 시너지를 내는 것은 맞지만 어차피 사람이 명확히 정의해 놓은 문제에 한해서 고도로 동작하고 있을 뿐입니다. 미래에 대해 경계해야 하는 것은 맞지만 너무 상상에 의존해서 미래를 보는 느낌을 어제오늘 많이 받네요.
16/03/11 10:52
수정 아이콘
재미있는 주제라 제가 유게의 글에 달았던 '인공지능의 발달로 보기보다 하드웨어의 발달로 봐야하지 않나'라고 쓴 댓글에 대해서 세부적인 생각을 쓰고 싶은데 업무가 너무 바쁘네요 ㅠ 한가해질 때에 이러한 글이 또 올라와서 관련 이야기들을 나눠보면 좋을 것 같네요.
16/03/11 11:08
수정 아이콘
기계에게 생존, 피지배에서 벗어나고픈 욕구(인간의 감정과 다른 프로세스 이겠지만)가 생긴다면 그때부터 인류의 미래가 어두워 질 것 같네요.

어떤 문제를 해결하려고 인간의 수억배 그 이상의 연산을 거치다보면 자기 기능을 향상시키는게 답을 찾는 길이라고 결론 내릴 것 같고, 그러면서 기능 향상을 방해하는 것들을 제거하는 것이 기계의 논리가 될 수 있을 것 같아요.
그 와중에 더 이상의 기능 향상을 통제하고픈 인간이 그 제거대상이 될 수 있겠죠.
야근왕워킹
16/03/11 11:19
수정 아이콘
y2k보는것같네요 크크
예루리
16/03/11 11:54
수정 아이콘
저도 딱 이 느낌이었습니다.
16/03/11 12:05
수정 아이콘
이과는 역시 망했으면..
일단 wd40 사재기 하러 갑니다.
사악군
16/03/11 14:08
수정 아이콘
뭐랄까 오히려 화이트칼라가 망하고 인간은 블루칼라화 될 것 같다는 생각이 드네요.

흔히 고학력- 높은 지식/경험 등이 요구되는 분야는 그 비용도 고비용이 드니 인공지능을 개발할 유인이 있는 반면
단순한 육체노동, 기계의 인력의 한계를 넘는 '강한'힘이 필요한 게 아니라 인간의 힘정도로 가능한 행위지만
다수가 필요하고 행위내용이 비정형적인 행위를 기계가 수행하도록 하려면 오히려 큰 비용이 필요한 데
사람은 저비용으로 쓸 수 있으니 개발할 유인이 없습니다. 사실 지금 이족보행로봇, 물건 옮기고 장애물을 건너가고
하는 로봇을 만드는 이유는 기술개발의 중간점이지 종착점이 그런 기능을 통해 로봇을 가사용 하인으로 쓰기 위한 건 아니죠...

오히려 소위 '가치있는' 일은 인공지능에게 빼앗기고 (극소수의 예외 인간들을 제외하고)
단순작업만 인간의 일로 남게 되지 않을까 하는 디스토피아적 상상이 멈추질 않네요.
바다표범
16/03/11 15:14
수정 아이콘
고래상어
16/03/11 19:17
수정 아이콘
알파고가 스타1 한디고 할 때 피지컬 면에서 인간이 뒤져서 진다고만 생각했는데, 이 글을 보니 정말 궁금해 지네요. 과연 알파고가 스타1에서 새로운 전략 형태를 만들어 낼 수 있을지요. 사실 지금 스타는 새로운 전략이 거의 끝에 다다랐다고 생각했었는데, 아직도 새로운 큰 흐름의 전략을 만들 수 있을지가 궁금해요. 피지컬은 사람이랑 비슷하거나 조금 못한 수준으로 설정하는 전제로요.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
64015 [일반] 조금 아쉬운 일본만화 원피스(다량스포) [58] 시오냥9389 16/03/11 9389 5
64013 [일반] 출사 : 삼국지 촉서 제갈량전 17 (4. 쫓는 자와 쫓기는 자) [24] 글곰4338 16/03/11 4338 49
64012 [일반] 구글은 정말로 세계정복을 꿈꾸는가? [169] 은때까치18750 16/03/10 18750 28
64011 [일반] 독일언론에서 긁어오기 - 알파고(2) [12] 표절작곡가7284 16/03/10 7284 5
64010 [일반] 취미로 바둑을 하는 컴퓨터다 [26] 좋아요8452 16/03/10 8452 8
64009 [일반] 룰라는 타락했는가? 브라질의 비극 [49] santacroce15356 16/03/10 15356 88
64008 [일반] 알파고의 승리에서 떠오르는 망상? [94] 마스터충달9856 16/03/10 9856 0
64007 [일반] 알파고... 지난 5개월간의 급격한 성능 향상에 대한 상상들... [24] jjune8865 16/03/10 8865 1
64006 [일반] [3.10] 김치찌개의 오늘의 메이저리그(이대호 1타점 적시타) [2] 김치찌개3438 16/03/10 3438 0
64005 [일반] 2016 ESPN 선정 NBA 역대 포인트 가드 TOP 10 [22] 김치찌개8565 16/03/10 8565 0
64004 [일반] [바둑] 인공지능의 도전 제2국 - 알파고 불계승 [187] 낭천18742 16/03/10 18742 1
64003 [일반] 개인의 신상정보를 단순히 공개한 것은 처벌받을 일인가요 아닌가요? [35] 삭제됨5275 16/03/10 5275 0
64002 [일반] 불평등의 딜레마: 피케티와 세계화 이슈 [22] santacroce7351 16/03/10 7351 16
64001 비밀글입니다 王天君13054 16/03/10 13054 69
64000 [일반] 음악 프로듀서 조지 마틴 별세 [4] 트라웃3316 16/03/10 3316 0
63999 [일반] 체스판은 딥블루 때문에 망했는가? [23] 최유형14107 16/03/10 14107 11
63998 [일반] 국어국문학과 전공책 나눔합니다. [20] 푸른봄3934 16/03/10 3934 2
63997 [일반] 애초에 바둑은 스포츠가 아닙니다 [90] threedragonmulti12397 16/03/10 12397 14
63996 [일반] 바둑이라는 게임의 깊이, 그리고 인공지능. [8] Quantum5967 16/03/10 5967 4
63994 [일반] 사과하면 죽는 병. [40] 세인트8279 16/03/10 8279 12
63993 [일반] 차단 시스템 이렇게 개선하면? [71] 에버그린4982 16/03/10 4982 0
63992 [일반] 피에스타/비스트/거미/우주소녀/JJCC의 MV와 레드벨벳의 티저 이미지가 공개되었습니다. [11] 효연덕후세우실5931 16/03/10 5931 0
63991 [일반] (인터넷) 개인 방송에 대한 심의 문제 [106] 수면왕 김수면8628 16/03/10 8628 4
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로