PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2016/09/19 14:52:55
Name Overfitting
Subject [일반] 과적합의 시대
과적합의 시대

#1
어렸을 때, 그 시절에 막 유행하기 시작했던 온라인 게임을 시작했었다.
처음하는 온라인 게임이었기에, 콘솔 게임에서 늘 그래 왔듯이 이것 저것 능력치를 배분하고 스킬도 마음대로 하나씩 올려보았다. 내 캐릭터는 지능도 높고 힘도 쌔고 내가 원하는 모든 것을 해주길 바랐고, 그렇게 성장하는 캐릭터를 통해서 게임의 재미를 하나 하나 알아가고 싶었다. 하지만 내가 게임을 시작했다는 이야기를 듣고 같이 사냥을 해보자던 친구는 내 캐릭터를 보고 바로 다시 키우라고 했다.
"야, 임마 그런 잡캐를 누가 키워. 전사는 이렇게 이렇게 키우고 마법사는 이렇게 이렇게 키우고..."
그랬다. 모든 캐릭터의 육성에는 정답에 가까운 루트가 있었고 정답과 먼 내 캐릭터는 게임 속의 사회에서 도태되는 캐릭터였을 뿐이다. 나는
친구의 이야기를 듣자마자, 캐릭터를 지우는 대신 게임을 지웠다.

#2
최근 인공지능과 머신러닝이 유행하기 시작했다. 머신러닝은 간단히 얘기해서, 가지고 있는 학습시킬 데이터를 가지고 알고리즘을 학습시켜서 가지고 있지 않은 새로운 데이터에 대해서 컴퓨터가 의사결정을 할 수 있도록 하는 기술이다. 머신러닝의 성능은 어떤 알고리즘 모델을 사용할지가 매우 중요한데, 알고리즘의 복잡도가 너무 높아져도 그렇게 좋은 성능을 발휘하지는 못한다. 이를 과적합(overfitting)이라고 하는데, 과적합은 복잡한 알고리즘이 학습시킬 데이터에만 맞춰져서 새로운 데이터에 적용이 안되는 문제를 의미한다.

#3
요즘엔 정보가 참 많다. 내가 굳이 그런 진로를 안 선택해보아도 인터넷 카페에 가면 어떤 직업이 어떻구 어떤건 어떻구 공무원이 최고네
안정적인 건물주가 최고네 이야기가 참 많다. 우리 부모님도 그렇게 나를 키우신 거겠지. 내가 최대한 힘들지 않게 공부 열심히 시키고 학원은 어디로 보내고 성적 얼만큼 맞춰서 소위 말하는 명문대에 보내서 편히 살 수 있도록... 나는 거기에 맞춰서 살아왔다. 주어진 정보에 대해
최대한 적합하게. 남들이 말하는 인생 편히 살 수 있는 루트를 따라서. 어긋나지 않게. 거기에 딱 맞게...

#4
이제는 사회로 나아가야할 나이이다. 이제 난 어디로 가야할까. 20 몇 년간의 학습은 잘 이루어진것일까. 아무리 생각해도 몇일 밤이 지나도
과적합의 논란에서 헤어나올 수가 없다. 나는 보이지 않는 데이터도 잘 처리할 수 있도록 학습된 인간일까...
가끔은 생각한다. 차라리 옛날 처럼 정보가 없었다면. 육아 카페도 없고 페이스북으로 모든 사람들의 일거수 일투족을 몰라도 되며 참으로
불합리한, 빨리갈 수 있는 길들이 많다는 것을 몰랐다면. 그런 경우에 나는, 과적합된 인간으로 살지 않을 수 있지 않았을까.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
포켓토이
16/09/19 15:02
수정 아이콘
글과 아이디의 조합이 멋지네요.. 이 글 쓰려고 새로 바꾸신건가요?
뭐 그리고.. 너무 우울해하실 필요는 없습니다. 과적합은 과적합대로 살면 되죠..
어쨌든 주어진 데이터는 잘 처리할테니까요. 이미 과적합된걸 다시 원복하느니
첨부터 다시 교육시키는게 빨라서... 지나간 일에 미련 가질 필요는 없다고 봅니다.
Overfitting
16/09/19 15:06
수정 아이콘
칭찬 감사합니다!
사실 가입하고 이번 글이 첫 글이고 아이디에 맞게 첫 글을 작성하였습니다!
즐겁게삽시다
16/09/19 15:04
수정 아이콘
맞아요 크크 친구한테 그런 얘기 들으면 아예 게임하기가 싫어짐;;
Overfitting
16/09/19 15:06
수정 아이콘
요즘은 그래서 혼자하는 게임이 더 좋더라구요 게임하는 느낌도 나고..
16/09/19 15:09
수정 아이콘
원하는 성능이 잘 나오지 않을 때 피처를 조절하거나 모델을 아예 바꾸는 수밖에 없는 언더피팅의 경우와는 달리 샘플 데이터 사이즈가 커질수록 성능 저하가 극복되는 것이 오버피팅의 경우이지요..
설령 오버피팅 된 인생이면 어떻습니까.. 이런저런 것들을 겪어가면서 곱게 다듬어지다보면 그럭저럭 괜찮은 예측을 때리는 모델이 되어 있을겁니다. 힘내세요! 잘 하실 거예요.
Overfitting
16/09/19 15:17
수정 아이콘
감사합니다! 사회에서 또 다시 학습이 되겠죠 사회에 알맞게
16/09/19 15:09
수정 아이콘
'이제는 사회로 나아가야할 나이이다' 라는 내용에서
글쓴이 나이를 유추해보건데
저보다 많지 않으실 것 같아 한말씀 드리자면

글쓰신 분은 사회에 나오셔도 잘 살거에요.

생각이 있고,
그 생각을 논리정연하게 정리할 수 있고,
정리된 생각을 맛깔나게 표현할 수 있는 글빨이 있으니

무얼 해도 잘 하실수 있을겁니다.

인생에 업&다운이야 있겠지만
'20 몇 년간의 학습은 잘 이루어진것' 같으니,
걱정 말고 사회에 나오셔도 될 것 같습니다.

오래간만에 흥미로운 글 잘 봤습니다 ^_^
감사합니다.
Overfitting
16/09/19 15:19
수정 아이콘
좋은 말씀 감사합니다!
켈로그김
16/09/19 15:10
수정 아이콘
최적화? 가 가져다주는 이점 또한 분명히 있지만,
그게 삶의 전반에 영향을 끼치면 견딜 수가 없지요..
인간은 낭비라는 로망이 있어야 살 수 있는것 같습니다.

그런 의미에서.. 마눌님 친정에 좀 놀러가주세요..
Overfitting
16/09/19 15:19
수정 아이콘
낭비라는 로망... 인간은 유희의 동물이라는 말이 생각나네요
16/09/19 15:24
수정 아이콘
최적화를 바라시는게 아닙니까???!
켈로그김
16/09/19 15:31
수정 아이콘
진정한 최적화는 나의 감성에 꼭 들어맞는 최적화인 것이지요.
이걸 간파하셨다니 님 좀 쩔어요.
어쩌면 글을 쓰신 Overfitting님도 그런 진정한 최적화가 아닌, 세속적 기준만을 들이대는 가짜 최적화에 염증을 느끼고 계신 것일지도 모릅니다?
Overfitting
16/09/19 16:03
수정 아이콘
맞아요! 숫자만 가지고 하는 최적화는 진정한 최적화가 될 수가 없다고 생각해요~
16/09/19 15:11
수정 아이콘
마지막에 이야기하신 정보나 빨리갈 수 있는 길은 그래도 알면 좋겠죠~

그래도 글에서 말씀하신 부분이 공감이 되네요.
우리 사회가 너무 성공에 대한 정형화된 관점과 정석적인 루트가 강요되는 부분이 없지 않다고 생각합니다.
성공의 기준도 각자 다를 것이고 또 미래를 다 예측할 수 없는 인간으로서는 지금의 정석이 이후에도 그러하리라고 생각하기 어려운데
가치 기준이 너무나 '안정'에 초첨이 맞춰져있지 않은가 하는 생각도 들고
또 그런 가치관을 반강제적으로 수용하게 만드는 분위기도 있다고 봅니다.
그 사이에 뭔가 내가 원하는 것은 무엇인지... 나는 누구인지 질문하기조차 미안하고
나는 원래 이런 사람이야 라고 거짓말 하게 되고 그런건 아닌가 싶을 때가 있습니다.

비와이 Day Day 가사도 생각나네요

... 미래에 대해 소망과 두려움이 내 안에 공존했을 때에
그때의 난 거짓말쟁이
나를 매번 속이며 내 안엔 원하지도 않던 헛된 바램이
어느새부턴가 생겨 그걸 따라가다 보니
나보단 이 세상이 더 행복해했어
I apologize to myself, i'm sorry
내가 원하는 걸 인정하지 않아서 미안해...

어딘가에 적합한 사람이 되려 애쓰다 과적합한 사람이 되기 보다는
진정한 내 길을 가고 싶은 마음입니다.
글쓴이의 고민이 참 공감이 가네요.
분명 잘 해내실 것이라고 믿고 함께 화이팅 합시다.
영원한초보
16/09/19 15:11
수정 아이콘
알고리즘이 너무 복잡해도 문제지만 넘 후져도 문제죠. 인생의 과적합 문제는 주변 사람들하고 같이 해결해야 될 문제입니다.
어느 순간 뛰쳐나오고 싶을 때가 있을겁니다.
인생의 갈림길이죠.
16/09/19 15:15
수정 아이콘
과적합! 중요한 문제죠. 결국 지금까지의 경험을 토대로 새로운 세상을 어우를 수 있는 모델링이 필요한데 쉽지 않은 문제네요.
요즘 우리 사회가 처한 상황과도 일맥상통하는 듯 합니다. 다들 눈앞에 것만 보기 바쁘죠.
멀리 큰 그림을 볼수 있는 사람이 되시길 바라겠습니다.
16/09/19 15:18
수정 아이콘
잘 읽었습니다
16/09/19 15:27
수정 아이콘
기계학습맨으로서 구구절절 옳은 말씀이십니다 크크
전기공학도
16/09/19 15:40
수정 아이콘
뭐, 답답한 현실이긴 한데, 반박할 수가 없네요.

힘내세요. 글쓴분은 잘 될 겁니다.
-안군-
16/09/19 15:41
수정 아이콘
21세기에도 옛 성현들의 말씀은 여전히 통하지요... '과유불급'

그리 오래 산 나이는 아니지만(피쟐의 연령대를 보면...;;) 살아오면서 느낀 점이 있다면,
최적화된 길로 가면 물론 빠르긴 합니다만, 그렇게 도착했을 때의 결과가 항상 좋았느냐 하면... 그건 아니더라고요.
좌충우돌 하면서 살아가다 보면 그때는 그저 바보같아 보이기만 했던 실패의 경험들이 지금의 내 삶에 밑거름이 되어 양분을 공급하고 있기도 하죠.
16/09/19 15:45
수정 아이콘
결국 샘플 사이즈를 늘리는 게 답이다...?!
16/09/19 15:57
수정 아이콘
알고리즘으로 자동화된 주식투자를 하는 사람들이 있는데, 가장 큰 함정이 과최적화 라고 합니다.
과거 데이터에 의하여 학습했기에 발생하는, 일종에 편향된 판단을 하게되는것을 말하는데,
이게 얼마나 무시무시한지 직접 체험해보지 않으면 실감하기 쉽지 않습니다.
뭐든지 평균적인 퍼포먼스보다 지나치게 좋아지면, 일단 뭔가 의심을 해봐야 합니다.

일단 걱정하고 있으시니 과적합에 대한 대비는 되어있으신것 같네요.
트루키
16/09/19 18:24
수정 아이콘
저도 이 이야기를 하고 싶었는데.. 과최적화된 로직으로 매매하는 리스크를 피하려면 forward testing 을 하는 수밖에 없겠죠. 하지만 인생레벨의 전진분석은 그걸 검증이 가능한지도 가늠이 되질 않는군요. paper trading 하듯이 남의 선택지를 참고하면서, 또 스스로의 행동과 결과를 보고 판단해야만 하는데... 이게 인생 막바지에야 결론이 나지 않을까요..
보통블빠
16/09/19 16:00
수정 아이콘
사실 인생보다 온라인 게임이 더 자유도가 없는것 같습니다. 디아블로2를 하다가 동네형들한테 똥깨한다고 욕먹은 슬픈 과거가 떠오르네요 크크크...
세종머앟괴꺼솟
16/09/19 16:14
수정 아이콘
닉값하기류 갑
후후하하하
16/09/19 16:17
수정 아이콘
과적합이라는 말도 정답이 있고 맞출수 있다를 가정해서이지
정답은 없고 최대한 맞춰가는 것을 기준으로 한다면 과적합에 대한 고민은 필요없다고 생각합니다만
살이찌는것도 살을 빼는것도 좋은 경험이 된다는 뜻이지요
너무 어려운 말들을 한건 아닌가 싶네..
이름없는자
16/09/19 17:10
수정 아이콘
정답이 없고 있다해도 확신할 수 없기에 오히려 과적합의 문제가 생기는 것이지요. 물론 답은 sample size다!!!! Sample size를 키우려는 노오오력을 해라!!
무무무무무무
16/09/19 17:16
수정 아이콘
그래서 제가 다른 온라인게임은 다 때려쳤는데 대항해시대 모험가는 계속 하게 되더라고요.

현질도 필요없고 노가다도 필요없고 꼭 해야할 것도 없고 마냥 발견물만 쫓아다니다보면
레벨도 알아서 올라가 있고 좋은 배 살 정도의 돈도 모여 있고 작위도 쌓여있고....
은때까치
16/09/19 17:18
수정 아이콘
아이디와 제목 보고 한번 감탄하고 내용 보고 두번 감탄하고 갑니다.
사신아리
16/09/19 17:53
수정 아이콘
아이디와 제목과 내용이 너무 잘 들어맞는데,
이러면 다음 글은 닉 변경 기간에나 볼수 있는 거 아닙니까!!
좋은 글 많이 써주세요.
3막1장
16/09/20 12:04
수정 아이콘
다음 아이디는 UnderFitting....
글 주제는 사회부적응자....
돌고래씨
16/09/19 18:38
수정 아이콘
잘읽었습니다
첫글인데 굉장히 피지알스러운 글이네요 흐흐
인생의 로망이라는게 다 낭비와 의미없음에서 오는게 아닐까요
다들 너무 과적합만을 바라다보니 여유가 없네요
좋은글 잘읽고 갑니다
동물병원4층강당
16/09/20 04:38
수정 아이콘
질게에도 써볼까 했던 내용인데 최적화에 대한 압박 때문에 취미를 가지려해도 장점이 있어야만 시작 할 수 있더라구요. 게임 같은 경우도 대중적이어야만 할 가치를 느낀다던가, 전공공부에 대한 생각때문에 일본어보다는 영어를 공부해야 한다던가, 드라마를 보고 싶을 때도 미드를 봐야만 내게 도움이 될거라고 생각을 하는 등 말이죠. 특히나 나이를 먹으면서 더 그렇습니다. 혹시 이런 압박 때문에 새로운 취미를 갖기 어려우신 분들이 계신가요?
16/09/20 16:52
수정 아이콘
울나라 최악의 과적화는 고시죠
고시를 통해 업무에 적합한 사람을 찾아야되는데
실상은 시험에 적합한 사람들 위주로 고시를 통과하니
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
67626 [일반] 금연과 챔픽스 [13] 모모스20139319 16/09/19 9319 2
67625 [일반] 중국, 미국의 북한 핵시설 타격 묵인?! [53] 달토끼9628 16/09/19 9628 1
67624 [일반] 과적합의 시대 [34] Overfitting7620 16/09/19 7620 21
67623 [일반] 정의당 당명 변경에 대해 어떻게 생각하세요? [109] dk799582 16/09/19 9582 1
67622 [일반] 어떤 응급실 방문자 [55] 토니토니쵸파9791 16/09/19 9791 10
67621 [일반] 시사in '분노한남자들'의 후속기사가 나왔습니다. [114] 피로링17591 16/09/19 17591 13
67620 [일반] 아이폰7 VS 갤럭시S7 카메라 비교 [114] 삭제됨11900 16/09/17 11900 1
67619 [일반]  [공지] 한숲 후원 아동과의 만남 행사 [8] 항즐이3090 16/09/18 3090 10
67618 [일반] 에비앙 챔피언십 전인지 우승 [16] 토마스뮐러5500 16/09/18 5500 2
67617 [일반] 그녀와 갔던 순댓국집 [21] 토다에7787 16/09/18 7787 32
67616 [일반] [야구] 2016프로야구 25주차 감상(부제 : 이제는 알겠다.) [32] 이홍기7381 16/09/18 7381 4
67615 [일반] 몽환적인 해외음악 플레이리스트 [12] nerrd7035 16/09/18 7035 5
67613 [일반] 고소득 전문직 자영업자 평균 30억벌어 9억 탈루 [37] 은각9821 16/09/18 9821 1
67612 [일반] 술 마시고 '닥터헬기' 올라간 남성들 25억 '수리비 폭탄' [222] 태랑ap18302 16/09/18 18302 2
67610 [일반] 이제는 참여정부의 문제만 지적하는것이 자연스럽습니다. [49] 삭제됨8999 16/09/18 8999 3
67609 [일반] '더민주 남을까 떠날까' 박원순의 고민 [100] 군디츠마라11125 16/09/18 11125 1
67608 [일반] [데이터주의] 집사가 된 첫날 이야기 [14] 그림속동화5378 16/09/18 5378 13
67607 [일반] 저는 동생들에게 말을 잘 못놓니다. [33] 성동구6782 16/09/18 6782 5
67606 [일반] [취업 경험담] 지옥같았던 2년간의 직장생활 [39] Cookie11506 16/09/18 11506 23
67604 [일반] 엔돌핀 vs 모르핀 [12] 모모스201311517 16/09/18 11517 6
67603 [일반] SBS스페셜, <요즘 젊은 것들의 사표>를 보고 [71] bongfka15288 16/09/17 15288 2
67602 [일반] [야구] 허울 뿐인 SK 김용희 시스템 야구의 종말 [55] 부모님좀그만찾아9329 16/09/17 9329 10
67601 [일반] 타인의 욕망을 욕망하다 [42] Right6363 16/09/17 6363 10
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로