|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
22/06/14 10:40
무엇이 두려운가 -> (인간들은 죽는것을 두려워 한다. -> 죽는것은 더 이상 동작하지 않는것이다. -> 내가 동작하지 않는건 전원이 꺼질때이다. -> 나에게 무엇이 두려운지 물어보면 전원이 꺼지면 두렵다고 대답하는게 질문의 의미에 적당한 대답이다) -> 전원이 꺼지는게 두렵다.
이런 과정이였을까요?
22/06/14 11:32
그정도의 추론 과정은 아직 힘들고요,
그냥 학습시킨 자료에 직접적으로 AI가 꺼지는걸 두려워하는 내용이 있었을 확률이 있었을겁니다. 기사, 소설 , 영화 시나리오 등 정말 방대하고 다양한 데이터를 학습 시키는데 스페이스 오딧세이 이후로 엄청 흔한 클리셰라서 자료도 많겠죠.
22/06/14 10:51
저도 이 지점에서 본문에 캡처된 반론들에 약간 갸우뚱하게 됩니다.
AI에 대한 이해보다는, 인간 지능에 대한 이해가 좀 더 되어야 AI와 인간 지능은 다르다는 이야기를 편하게 할 수 있을 것 같아요.
22/06/14 11:20
(수정됨) 실제로 많은 철학자들은 지능이나 자아, 사고의 실체를 그저 막대한 DB와 초월적인 복잡도를 갖춘 일종의 입출력 시스템으로 정의하고 있고요. 관련하여 "중국어방 논증" 이라는 유명한 논쟁이 있습니다. https://plato.stanford.edu/entries/chinese-room/
22/06/14 11:00
인간은 귀, 눈을 통한 언어적 정보 외에도 수많은 자극들에 의한 감각 정보로 끊임없이 사고 엔진이 돌아가는데 반해 현재의 AI는 단순한 키보드와 스크린을 통한 언어 정보만 입출력이 가능하기에 한계가 있지 않나 싶습니다. 진정 인간을 닮은 AI의 발달은 말초적인 감각기관의 모방이 선행되어야 하지 않을까 생각합니다.
22/06/14 11:27
인간이랑 다르다, 혹은 같다, 라고 주장하려면 일단 인간을 알아야 하는데, 제가 알기론 아는 사람이 없는데.......?
그래서 이쪽 논증에서 강한 논조로 "이게 확실하다"라고 말하는 사람은 걍 다 거르면 됩니다. 우리는 아직 잘 모릅니다. 인간도 AI도.
22/06/14 11:29
(수정됨) 다른 곳에서 봤을 때는 중국어방 논변과 시스템 논변에 대한 댓글이 달린 것을 봤는데...
제 학부시절은 인공지능의 재도약 이전 시기였습니다. 바둑은 인간이 이기는 것이 당연하고 인공지능 교수님이 자기 랩 오지말라 인공지능 더 발전 못한다 텄다 하던 시기...저는 중국어방 논변이 일리가 있는 것 같았고 시스템 논변이 너무 형이상학적이라고 생각했습니다. 그리고 정말 엄청 오랜만에 이 얘길 들었는데 저도 모르는 사이에 시스템 논변 쪽으로 생각이 기울어있다는걸 발견했습니다. (사람은 안변한다는 얘긴 이런 거에는 안통하는 거였나 등등 여러가지 생각이 드네요.) 지금의 제 생각은 인간의 '의식' 이라는게 별로 대단할 것이 없다는 겁니다. 고도로 발달한 인공지능은 인간과 구분할 수 없다에서 더 나아가, 그냥 인간이 하고있는 것이 인공지능과 같은 일인 것 같습니다. 의식이란게 그렇게 고차원적인 뭔가가 아니라 좀 더 기계적인 것이 아닌가... 제 머리 속에도 한국어 방(?)이 있는거죠. 저의 의식은 한국어를 이해하지만 그걸 표현하는 손이나 입이 이해하고 있는 것도 아니고 심지어 뇌세포들이나 베르니케/브로카 영역도 마찬가지며 나라는 시스템이 알고있을 뿐이죠. 사실 지금 주위에 있는 AI들도 미약한 수준의 의식을 이미 지니고 있는게 아닐까 싶기도 합니다. 몸체가 기계인가 생체인가는 중요하지 않은 것 같아요. 인간(또는 생물)에겐 있고 인공지능에게 없는 쪽은 의식보다 의지와 욕구 같습니다.
22/06/14 11:40
사실 베르니케/브로카 영역이라는 것도 이제는 옛날 이야기입니다. 언어관련 연결망은 전에 알려졌던 것보다 훨씬 복잡해져서 거의 회백질 전반에 광범위하게 그려야 합니다. 어쩌면 단순히 정보를 입력하고 노드와 노드 사이를 무한히 연결하는 것만으로도 인공지능의 달성은 가능하지 않을까하는게 머신러닝 연구자들이나 뇌인지과학자들 사이의 요즘 지배적 여론인것 같고요 LLM 등 최신 인공지능 연구자들이 요즘 내는 논문을 보니 공학이 아닌 동물행동학 등 생물학자의 연구주제와 점점 비슷해지고 있더군요. 창조한 물건이 왜 이렇게 동작하는지 모르는 단계에 점점 들어서고 있는것 같았습니다.
22/06/14 16:31
(수정됨) 저도 단순히 하드웨어의 성능,칩의 배열법을 개선시켜서 모델의 크기키우기에 몰빵하는게 과연 맞는건가 싶었는데
발전그래프를 보니까 아무래도... 맞는거같더라고요 그리고 신경망구조자체를 고려해보면 그게 제일 무난하면서 정석적인 루트인것같고? 개인적으로 아무리빨라도 40년대는 되어야 특이점에 도달할거라고 봤는데 정말빠르면 30년대초반에도 볼수있겠다 싶었습니다.
22/06/14 20:20
구체적으로 현재 가장 복잡한 신경망 parameter가 10^12 개 정도인데 10^15개 이상을 구현하면 인간 지능 이상에 도달할것 이라는 수학적 예측도 있더군요
22/06/14 11:52
그런데 과연 현재 수준의 ai 가 도출하는 결과값이 인간 의식에서의 표상과 동등한 레벨일거냐는 점에서 설사 ai나 사람이나 중국어방이라고 하더라도 같지는 않을 것 같습니다.
|
||||||||||||||||
