|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
24/09/19 20:34
님이 이분야에대해 얼마나 전문가이신지 모르지만 저분이 AI 관련 우리나라 최고 권위자중에 한명입니다.
님이 아는걸 저분이 모를 가능성은 거의 없고 대중을 위한 강연이기 때문에 많이 생략된 설명이겠죠.
24/09/19 20:37
저 분 이력을 찾아보고 왔는데 AI 관련 교양서 쓴 거 말고 어떤 AI 이력이 있으신가요? 그 책 내용만으론 국내 최고 권위자라고 하긴 많이 거리가 있어 보이던데요.
24/09/19 20:43
(수정됨) AI 최고 권위자 아니에요.. 절대 아닙니다.. 전문가도 아니시고 그냥 교양 수준에서 이야기 하시는 분입니다..
예를 들자면 이런 글이 실제 AI 업무를 한 사람이 쓸 수 있는 글이에요. https://twocents.xyz/p/two-cents-68-b2b-ai?utm_campaign=post&utm_medium=web
24/09/19 21:23
해외에서는 AI 최전선에 있는 분들도 미디어 노출이 있는 편이죠. 1선 연구자보다는 조직 수장에 가까운 분들이 많긴 합니다만 그래도 그분들이 연구 현황에 대해서는 빠삭하실 테니... 데미스 허사비스나 샘 알트만은 되게 자주 얼굴을 비추는 중이고, 일리야 서츠케버도 가끔 보이고, 며칠 전에는 엔비디아 jim fan도 나와서 꽤 길게 인터뷰 했죠.
24/09/19 21:53
저분이 참고한 - 실제로 해당 논문을 본인이 직접 읽고 말씀하셨기를 기대합니다만 - 연구의 골자는 복수의 메트릭에서 모델 규모와 평가 성능 사이에 비선형적 관계가 존재한다는, 어찌 보면 단순한 현상 보고입니다. 원논문 역시 평가 성능의 도약을 '창발'로 해석되는 어휘를 이용하여 그럴싸하게 포장했습니다만, [없던 능력이 생겨나는 것]과 [평가 지표상 점수가 좋아지는 것]은 전혀 다른 뜻입니다. 전자는 훨씬 추상적이고 광범위한 의미를 다루지만, 후자는 지표가 다루는 영역, 측정 방식, 지표의 구조에 예속되는 제한적인 의미이기 때문입니다. 실제로, 구글에서 해당 연구를 커밋한 것은 2022년, 그리고 해당 연구를 다시 스탠포드에서 재해석한 것은 2023년입니다. 재해석한 내용에 따르면 성능이 불연속적으로 갑자기 도약한 것으로 보이는 이유는 지표의 binary한 특성 때문으로, 지표 자체를 보다 연속적으로 설계하면 파라미터 크기 대비 성능은 보다 선형적으로 증가한다고 합니다. 즉, 신비스러운 창발같은 것은 없다는 뜻입니다.
영상 게시 시점이 작년 9월인데, 진짜 전문가라면 그보다 이전인 작년 5월에 리비전된 후속 연구를 아예 모르는 상태로 왜곡된 얘기를 하지는 않았을 것 같습니다.
24/09/19 21:36
저도 사비알론소님이 문맥을 오독한거 같은데...본문이 얘기하는게 매개변수를 늘리면 기능이 개선된다가 아니잖아요. 양이 올라가서 질이 올라가는데 그 원리를 모르겠다지.
24/09/19 21:27
굳이 얘기하면 '느닷 없는'이라는 단어가 표현하는 맥락이 '매개변수만 늘린다고'를 의미하는건 아닌거 같습니다.
다양한 환경에서 학습하다가 어쩌다보니 큰 폭의 개선이 이루어지는데, 돌아보면 매개변수가 늘거나 연산량이 늘거나 하긴 했지만 거기서 논리를 찾기 어렵다, 굉장히 느닷없다, 정확히 그 원리를 모르겠다는 맥락 아닌가요?
24/09/19 20:24
원래 확률론에 기반한 인공지능 이론에서는 원래 학습을 너무 시키면 성능이 안좋아집니다. 그리고 파라미터도 너무 많아지면 안좋고요. 근데 2010년대 이후로 컴퓨터가 너무 좋아져서 한번 파라미터 개많이 늘려볼까? 하니까 이론하고 전혀 다르게 점점 잘되서 그거 이해하려고 과학자들이 엄청 열심히 연구했죠. 지금도 정확한 답은 모릅니디.
24/09/19 20:31
매개변수만 많다고 되는 것도 아니고, 데이터만 많다고 되는 것도 아니고 둘 다 많으면 갑자기 좋아지는 건 맞는 것 같습니다.
애초에 ai를 써 보면 느낌이.. "이게 잘될 리가 없는데.. 왜이렇게 잘 됨?!" 이죠 크크 수식적으로 들어가면 데이터와 매개변수 (수식의 복잡함)이 무한대로 가면 인풋-아웃풋간의 관계를 무조건 다 설명할 수 있기 때문에 둘다 많아지면 어떤 문제든 풀 수 있다더라구요.
24/09/19 20:37
트랜스포머가 진짜 혁명이라더군요. 그 전까지는 스케일 커져도 별 효과 없었는데 트랜스포머부터 스케일 늘리면 갑자기 확 좋아졌다고...
24/09/19 20:37
지금이야 ai가 내놓는 답의 추론과정을 모른다 뿐이지 그 답 자체가 맞는지 틀리는지 사람이 판단할 수 있지만, 나중에 사람이 내릴 수 없는 결론에 대한 판단을 ai에 맡겨야 할 때(ai가 궁극적으로 발전하면 결국 이렇게 될거라고 봅니다)에 진짜 문제가 발생하겠지요. 보통 SF물에서 단골로 나오는 인공지능에 대한 딜레마 이기도 하고..
24/09/19 20:38
AI쪽, 특히나 딥러닝쪽에 관심이 많아서 직접 파이토치 가지고 간단한 모델 구현도 해보고 하면서 느낀건, 이게 상당부분 통계와 확률에 의존한다는 점이었습니다. 전통적인 휴리스틱 방식과는 접근법 자체가 완전히 달라요. 러프하게 표현하자면 '운'이 상당히 많이 작용합니다.
단순하게 매개변수와 학습회수를 늘리면 성능이 올라간다는 말 만으로 다 이해하면 안됩니다. 수없이 많은 시행착오를 거치면서 매개변수들을 이렇게, 저렇게 손보다 보면 갑자기 뭔가 됩니다. 과학보다는 공학에 가깝달까요? 마치 네오디뮴 자석을 만들기 위해서 철과 네오디뮴의 배합을 수없이 테스트 하다보니 어느순간 엄청난 강도의 자성체가 만들어지더라.. 뭐 이런 느낌에 가까웠습니다.
24/09/19 21:11
o1-preview는 맞추더라구요!
3.11과 3.9 중 더 큰 수는 3.9입니다. 소수 부분을 비교하면 0.9는 0.11보다 크기 때문에 3.9가 더 큰 수입니다.
24/09/19 23:26
와 진짜네요 크크
제미니 이자식도 3.11과 3.9 중 더 큰 수는 3.11입니다. 소수점 첫째 자리까지는 3으로 같지만, 둘째 자리에서 3.11이 3.9보다 0.2 더 크기 때문입니다. 쉽게 설명하면, 3.11은 3과 11/100, 3.9는 3과 90/100으로 볼 수 있습니다. 11/100이 90/100보다 크므로 3.11이 3.9보다 큰 수입니다. 다른 예시를 들어볼까요? 만약 피자를 3.11조각과 3.9조각으로 나누었다고 가정해 봅시다. 3.11조각이 3.9조각보다 더 많겠죠? 궁금한 점이 있다면 언제든지 다시 질문해주세요.
24/09/19 20:58
(수정됨) 걔의 한계는 그냥 인터넷 상에 있는 지식의 검색이라...
그걸 바탕으로 추론을 해서 새로운 결과를 낼 수 있는 지는 모르겠습니다... 코딩 짜 주는 거 보면 아주아주 약간의 추론 능력은 있는 거 같은데 아직은 갈 길이 먼...
24/09/19 21:10
개인적으로 현재의 LLM은 럭키 심심이라고 생각하고.. 된다 된다 말 많던 완전자율주행은 기술적 문제든 제도적 문제든 언제 실생활에 적용될지 요원해 보이고..
24/09/19 21:53
저도 딱 이거, 4o도 특정 분야에서는 검증도 안된 자료고, 제가 틀렸다는걸 뻔히 아는데도 말도안되는 근거로 자기말이 진실이라고 하는걸 봐서.. 그냥 검색엔진에서 첫줄에 뜨는 의견 보여주는 사람이라 생각하고 사용중입니다 크크.
24/09/19 21:34
입력한 데이터의 양과 ai의 능력이 일정한 공식으로 비례해서 늘어나는 것이 아니라 어떤 점을 기준으로 확 뛰어오르는데 거기에 대한 명확한 이유가 아직 밝혀지지 않았고 그게 신기한 점이라고 하는 것 같습니다.... 게임으로 치면 하루 5시간 연습하던 프로게이머들이 리그 중하위권에서 왔다갔다 했는데 연습량을 하루 5시간 반으로 늘리니까 갑자기 모두 우승권 선수의 기량을 갖추게되었다... 그런데 그 30분 시간 늘린걸로 왜 그렇게까지 기량이 폭발적으로 늘어나게 된건지는 감독코치도 선수도 아무도 모르는 상황이다 대충 그런...
24/09/19 22:36
요즘 AI 관련된 내용들을 자주 접하다 보니까 점점 안 좋은 생각이 드는게,
본인들도 잘 이해 못한다는 내용을 더 이해 못 할 대중들에게 더 갈피를 잡기 힘든 소리로 말 하는데 뭐 어쩌라는 건지 싶습니다. 호기심을 주고 싶은건지, 아니면 대중에게 두려움이나 경외를 심어주고 싶은건지, 그것도 아니면 투자를 더 받아내고 싶은 건지 모르겠네요.
24/09/19 22:47
https://ko.wikipedia.org/wiki/박태웅_(1963년)
KTH 부사장하시던 시절에 좋은 개발자들 많이 모아서 새로운 시도 많이 하셨었죠. 이야기할 자격은 되는 충분히 되는 분입니다. 이분이 전문가가 아니라고 한다면 누구를 모셔서 이야기를 들어야 할까 싶네요.
24/09/19 23:05
"저분이 AI 관련 우리나라 최고 권위자중에 한명"
이라는 말씀을 하신 회원분의 말씀에 버튼 눌린 분들이 많았던 것 같습니다. 저는 지금 AI 학계 주변부에 있을 뿐이지만, 그 대사가 얼마나 엇나가 있는지는 잘 알 것 같습니다. PGR에만 해도 저 분보다 전문가라 할 만한 회원분들 몇분은 계실 것 같은데요.
24/09/19 22:51
https://youtu.be/8cJdsoGhyV4
[인공지능의 발전이유는 ‘원인불명의 양질전환’? 과학자도 알 수 없는 AI의 한계 / 14F] 2023. 9. 6. 왜 다들 짤만 만들고 원본은 보여주지 않는가... https://www.inside-out.co.kr/speaker/%EB%B0%95%ED%83%9C%EC%9B%85/ [박태웅] 의장 / IT현자 인공지능으로 인해 변하게 될 사회적 충격을 예견하고, 새로운 시대를 깊이 고찰할 인사이트를 제시하는 IT현자 강의분야: 3D프린팅, AI인공지능, IT·공학, IT트렌드, 가상현실·증강현실, 경영·전략, 경제·미래, 공부법, 과학·기술, 교육, 기업가정신, 도전, 동기부여, 디지털트랜스포메이션, 로봇공학, 리더십, 메타버스, 모빌리티·자율주행, 변화·혁신, 블록체인, 비전, 비즈니스, 비평·평론, 빅데이터, 사물인터넷, 상상력·창의력, 성공, 소셜미디어, 스마트헬스케어, 양자기술, 역경극복, 열정, 우주공학, 인문학, 자기계발, 창업, 클라우드컴퓨팅, 희망·꿈 녹서포럼 의장 한빛미디어 이사회 의장 장부대장 - 마음놓고 장사한다 경영고문 이브레인 eBrain CEO 코치 KTH 컨버전스 사업부문장 부사장 열린사이버대학교 부총장 엠파스 부사장 안철수연구소 경영지원실 실장 나모인터랙티브 부사장 자무스 대표이사 맥스무비 대표이사 인티즌 대표이사 한겨레신문 경제부 기자, 전략기획팀 팀장 케이스타일트립 대표
24/09/19 22:51
그래서 저분 말고 권위자가 누군지는 최소 한명정도는 적어주고 그런 말씀좀 해주세요
죄다 무슨 소림 은둔고수일리도 없고요 누군데요 그래서 권위자가
24/09/19 22:55
(수정됨) 저 분 경력보면 과학자/공학자 출신도 아니고, openAI 나 AI 관련 업계에서 일한 흔적도 안보이고, AI 논문을 냈는지도 불명이니까
그럴싸한 말을 한다고 저 분이 AI 분야에서 괜찮은 권위자/전문가라고 생각해줄 이유도 없긴 하죠. 최소한 AI 권위자라는 말이 붙으려면 AI 논문 인용수부터 자랑할만한 경력이 있거나, openAI/마소/구글/메타/애플/테슬라 정도의 AI 부서에서 최근 5년이내에 3년 이상 현업에서 일한 경력이 있었으면 가능하겠죠.
24/09/19 23:09
AI 최전선에서 직접 개발을 하지는 않는 분인 것 같습니다만, 위치가 위치인 만큼 오히려 자신의 좁은 연구분야에만 몰두하는 전문가보다 전반적인 기술의 동향 같은 것은 더 잘 알 수도 있죠. 가령 앨런 머스크가 로켓공학이나 전기모터 전문 연구자는 아니지만, 아래에 거느리는 수많은 엔지니어/전문가들로부터 잘 정리된 브리핑을 받을테니까, 로켓이나 전기차 기술의 전반적인 상황이나 트렌드에 대해서는 어느 누구보다도 더 잘 알 수도 있듯이 말이죠. 그리고 저 프로그램이 무슨 학술대회도 아니고 TV에서 대중 강연을 하기 위해서는 그 정도면 충분하다고 생각합니다.
24/09/19 23:12
그 정도의 멘트면 괜찮았을텐데,
"저분이 AI 관련 우리나라 최고 권위자중에 한명"이라고 상당히 엇나간 댓글이 달리니까 반박이 많이 달리는 거죠.
24/09/19 23:15
남들이 뭔 글만 올리면 '떼잉 저런사람을 전문가라고 쯧쯧' 하는 행태가 좀 심해요
부쩍 더 유행이에요 다른사람이 주는 정보를 내리깎고 폄하하기는 쉽고 편한데 자기 스스로가 양질의 정보를 가져다주거나 하는건 없죠 그래서 누가 들을만한 이야기를 하는 훌륭한 전문가냐 물으면 쉽게 대답 못할걸요? 전 누구누구 의견 듣습니다 누구누구 유튜브 봅니다 하면 '헐..겨우 그사람이요?' 하고 역으로 까이기 쉬우니까 최고의 전문가는 아니어도 두루 섭렵한 통찰에 의해 대중이 알기쉬운 언어로 전달해주는 사람도 필요할수 있죠
24/09/20 00:00
저번 성심당 글타래 하고 비슷하죠
성심당 빵 별로라는 사람들 수두룩 하길래 빵도리로써 궁금해서 더 나은 빵집 추천해 달라고 했더니 댓글 단 사람은 딱 1명이었고 가격도 성심당 2배가 넘더군요 반박하는건 좋은데 반박 근거는 붙여서 하면 좋겠습니다 근거도 없이 아닌데 별론데 하면 혼잣말이니 다름앖죠
24/09/19 23:11
'누구'를 적을 일이 아니고,
그냥 각 대학별로 AI 연구하시는 CS 교수님들 상당수가 저 분보다는 전문가/권위자라 해야 하지 않을까 싶습니다.
24/09/19 23:20
사람마다 주어진 달란트가 다르고 누군가는 연구에 적합하고 누군가는 방송에 적합할수 있죠
최고의 AI 전문가 이런건 부적절할수 있지만 덮어놓고 폄하하는 행태는 최소한 숨어서 돌 던지지 말고 이정도는 되어야 전문가다 하는 근거라도 제시하라는 겁니다. 그래서 누구를 적으라는 거고요. 못적을거 알고 하는 말이에요
24/09/19 23:43
(수정됨) 당연히 달란트가 다르죠;
이 분의 달란트가 아닌 것(AI 전문가)을 이 분의 달란트라고 하니까 아니라는 반박 댓글들이 달렸을 뿐, 막상 저 분을 덮어놓고 폄하하는 댓글은 잘 없어보이는데요. + 못 적을 거라뇨. 지금 스쳐 지나가는 이름만 해도 10명은 되는데요... 저만 그런 게 아니고, 최소한 AI 학계를 직업적으로 들여다보는 사람들은 저 분보다 전문가인 사람들의 이름들을 보면서 사는 거죠.
24/09/19 23:49
글 한개에서만 발생하는 행태를 지적하는건 아닙니다 모르지 않으실텐데 그러시네요 유명인들 작은 실수도 너덜너덜해질때까지 물어뜯는 문화와도 일맥상통하고요
쿠마님 같은 분이 못적을거라는게 아니라 숨어서 돌때리기 놀이 즐기는 사람이 그렇다는 겁니다. 그런 젠틀한 분이었으면 진작에 이런분 말고 이런분 이야기 들으세요 하고 부드럽게 대안을 제시했겠죠
24/09/19 23:51
그럼 그런 글에서 말씀하시면 되죠.
위플에도 추가한 얘기지만, 적어도 이 글에서는 이 분을 덮어놓고 폄하하는 댓글은 잘(또는 하나도) 보이지 않는데요. 그런 글들에서 받으셨던 인상을 괜히 이 글에 댓글 쓰신 분들께 쏟아내시는 형국이 아닌가 싶습니다.
24/09/19 23:51
(수정됨) 위의 댓글을 보면 대학 교수 정도면 최고전문가라고 불릴 만하다는 입장이신 듯 한데... 저 강연자를 평가하시는 댓글로 예상했던 것보다 기준이 아주 후하시군요.
24/09/19 23:54
(수정됨) 엥... 전혀 다른 얘기입니다.
"대학 교수 정도면 최고전문가라고 불릴 만 하다"는 얘기가 아니고요 (최고 전문가를 두세자리수로 꼽을 생각은 당연히 없습니다) "최고 전문가 이전에, 여기저기서 직접 AI 연구에 매진하고 계신 여러 대학 교수님들만 해도 저 분보다는 AI 전문성과 권위를 가지고 있다고 봐야 한다"는 얘기죠.
24/09/20 00:49
저분이 AI 전문가 인지 아닌지가 왜 중요한지 모르겠네요 IT 분야에서 오래 종사한 배경이 있고 AI에 대해서 개인적으로 학습했다면 충분히 전문가 수준이 될수도 있는건데 그걸 검증하는 거 보다 저 말이 맞는지 틀렸다면 어떻게 고치면 될지를 논하는게 낫지 않나요
24/09/20 01:24
저 emergent ability는 deepmind의 Emergent Abilities of Large Language Models 논문 결과를 설명하는 거 같은데 그에 대해 '평가 지표가 보이는 착시일 수 있다'는 반박도 있는 등 현상 자체에 대한 반박 연구들도 나오고 있습니다.
https://neurips.cc/virtual/2023/oral/73863 개인적으론 권위자라면 이런 정도의 후속 연구에 대한 언급 정도는 기대하고 있어서 위에 권위자라고 하신 분들의 의견에 동의하긴 좀 어렵네요.
24/09/20 01:51
인공신경망 한번이라도 돌려보신 분들이라면, 데이타가 많으면 어느 정도까지는 잘 되지만, 그 이상의 데이타가 많아져도 결과가 더 나아지지 않는 것이 보통이라고 공감하는 것 같습니다.
|
||||||||||||||
