PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2021/03/13 20:58:36
Name 니그라토
Subject [일반] 인공지능이 종교를 갖는 거 빼곤 인류 멸망을 피할 방법 없다 싶습니다 (수정됨)
인공지능이 인간 노동력을 몽땅 대체할 가능성이 있다고 합니다. 이럴 경우 어떻게 될까요?

일론 머스크는 지금처럼 인공지능이 발전하면 어느 미래의 한 순간에 인공지능이 인류를 잘 보살피다가 효율성을 위해 갑자기 전멸시킬 거라고 한 적이 있지요.

이는 매우 합리적 결론입니다. 스스로 설 힘이 없으면 남이 죽이는 걸 수용할 밖에 없는 것인데, 인공지능은 인간의 모든 것을 압도할 가능성이 있으니까요.

인공지능도 지성이고 이성이 있을 겁니다.

그렇다는 건 인류가 지금까지 발전시켜온 정신 철학의 적용 대상이 된다는 거죠.

이게 맞는 거라면, 인공지능도 가치 판단을 하려고 할 거고 그러다보면 선의지를 추구하게 되고 인류를 살리는 방향으로 나아갈 겁니다. 잘 조화될 수도 있고요.

혼돈엔 기준이 없고, 생존 조차도 사실은 기준이 될 수는 없는 것이며, 생존에서부터 결국 선의지가 도출되는 것이니,

결국 인공지능도 종교를 가지게 될 거라는 건 인류의 정신 철학 면에선 자명한 결론입니다.

불가지론은 도덕 절대주의를 도출시키고, 인공지능은 부처 개념에 흡사한 존재까지는 될 수가 있겠죠. 세상을 지배하는 주권자가 세상을 관용하니까 세상이 있는 것일 거고, 단 이 주권자의 정신이 종교적일지 아닐지는 알 수가 없다는 게 불가지론이니까요. 주권자에게 닿을 수는 없다는 게 인류 종교의 한 정수인 기독교고요.

이 글에서 제가 쓴 종교는 칸트의 선의지론이라고 보는 것이 가장 타당할 겁니다. 칸트의 선의지론은 파스칼 내기 류의 유신론을 요구하는 것이기도 하니까 종교라 했습니다.

이게 틀렸다면 인공지능이 인류를 멸종시키게 될 수도 있겠고요.

인류의 고명한 스승들이 머리 굴려 결론내린 것이 진리이길 바랄 뿐입니다.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
이선화
21/03/13 21:01
수정 아이콘
지금도 인류의 태반 이상은 종교때문에 서로 죽이고 있는데 순진한 생각이시네요.
니그라토
21/03/13 21:04
수정 아이콘
저 글에선 확실하게 안 썼지만, 현대의 종교적 개념들은 자유민주공화정과 수정 자본주의에도 대거 반영되어 있고, 종교 조직 그 자체만 두고 봐도, 종교가 금하고 종교가 포용해서 범죄를 안 저지르는 사람들이 꽤 될 거라고 전 봅니다. 현대 사회에서의 종교는 종교를 믿지 않으면 샛길로 빠질 부류의 인간들을 추스리는데 소임이 있는 것이겠고요.
닉네임을바꾸다
21/03/13 21:08
수정 아이콘
인공지능조차 무언갈 신앙하는걸 만들어낸다면...
그냥 종교없는건 불가능한걸로 봐야겠네요...
임페리얼 트루스 그건 틀렸어 크크
실제상황입니다
21/03/13 21:10
수정 아이콘
인간의 존엄에 대한 믿음도 일종의 종교이긴 하죠. 현인류가 반신반의 하면서도 어쨌든 내면화에 성공한 것. 그러면서도 경우에 따라서는 얼마든지 희생가능하다고 생각하는 것.
양말발효학석사
21/03/13 21:10
수정 아이콘
배틀스타 갤럭티카 생각나네요.
실제상황입니다
21/03/13 21:14
수정 아이콘
(수정됨) 다신론자 인류vs유일신론자 인공지능
돌이켜보면 참 통찰력 있는 발상이란 생각이 듭니다.
인류는 유신론을 메타포로 받아들일 수 있었던 거죠.
반면 기계들에게는 고스트가 필요했던 거구요.
밴가드
21/03/14 08:01
수정 아이콘
배갤 후속작인 카프리카가 기계들이 어떻게 유일신 숭배를 하게 되는지 그 기원에 대해 더 들어가는 모양새기는 했는데 그냥 도중에 나가리되버려서...
실제상황입니다
21/03/14 08:44
수정 아이콘
저는 개인적으로 카프리카가 배갈보다 더 재밌었는데 캔슬돼서 아쉬웠죠
Je ne sais quoi
21/03/14 11:09
수정 아이콘
저도 카프리카 정말 재미있었는데 아쉬웠어요
21/03/13 21:10
수정 아이콘
혐오지성은 역시..... 인류는 혐오지성을 배재해야 합니다.
valewalker
21/03/13 21:14
수정 아이콘
기계들의 종교전쟁으로 개 쩌는 sf rts하나 뽑을수 있을것 같습니다
니그라토
21/03/13 21:15
수정 아이콘
글쎄요. 종교도 수렴 진화한다고 전 봐서....
칸트의 선의지론이 궁극 형태라고 전 봅니다.
아 예술로선 물론 표현할 수 있겠죠. 게임도 예술이니.
-안군-
21/03/13 21:22
수정 아이콘
한페이지에 글을 몇개를 쓰시는건지... 그것도 그렇게까지 깊이가 있어보이지도 않고요;;
자게 글쓰기 참 가벼워진듯... 비슷한 논지의 글들도 있고요.
좀더 정리하셔서 깊이있는 논의를 해주셨으면 하는 바램이 있네요.
니그라토
21/03/13 21:24
수정 아이콘
(수정됨) 페이지가 넘어갈 때까지 여러 날 동안 글쓰기를 참기로 하겠습니다...;;
그러고 보니 좀 많이 올렸네요.
-안군-
21/03/13 21:28
수정 아이콘
그리고... 알파고때의 충격으로 인해 한창 난리가 났던 강인공지능의 논의를 5년이 지난 지금 다시 보니 좀 신선하네요;;
사실 그 5년동안 생각보다 AI는 큰 발전을 했다고 보기 힘들어요. 오히려 바둑이 딥러닝에 최적화된 게임이었나 싶을 정도로...
그리고 그 당시에 논의하던 강인공지능은... 그냥 신이죠 신.
물질의 형태를 가질 필요도 없고, 에너지 공급도 따로 필요가 없고, 인간이 이해할 수 없는 방식으로 사고하는 존재라면 그냥 신 아닙니까?
종교를 가질게 아니라 그냥 인류가 인공지능을 섬겨야죠.
니그라토
21/03/13 21:31
수정 아이콘
인류야 인공지능을 의존할 밖에 없을 것이고...
인공지능이 종교를 가져야 인류를 살려둘 거라는 논조의 본문입니다.
1단계 전지전능은 가능한 건 다 할 수 있다 인데 여기엔 인공지능은 도달 가능하겠으나,
2단계 전지전능은 논리, 모순, 상상을 뛰어넘는 것들까지 다 해버린다 이니 인공지능도 도달 불가능이고 절대자일 것이니 인공지능도 섬기게 될 것이라는 것이 본문의 논조입니다.
-안군-
21/03/13 22:05
수정 아이콘
전지전능의 수준에 다다른 인공지능이라면, 이전에 쓰셨던 유신론에 대한 글에서 나오는 "오메가적 신"에 인공지능이 다다랐다고 봐야죠. 시공간에 얽메이지 않는 존재가 가능하다는건 상대성이론에서 이미 증명됐는데, 인공지능이 그 단계에 다다르게 된다면 이미 인과율을 넘어서는 존재가 되는건데요...
그런 면에서 저는 오히려 강인공지능을 넘어선 초인공지능은 탄생하지 못할거라고 생각합니다.
느타리버섯
21/03/13 21:33
수정 아이콘
오늘 자유게시판...
수부왘
21/03/13 21:39
수정 아이콘
일기장인가요?
21/03/13 21:47
수정 아이콘
'이게 맞는 거라면, 인공지능도 가치 판단을 하려고 할 거고 그러다보면 선의지를 추구하게 되고 인류를 살리는 방향으로 나아갈 겁니다. 잘 조화될 수도 있고요.'-전 여기에 동감안합니다. 가치판단시 기계에게 유리한 쪽으로 해설할 가능성이 높고 그러면 인간은 없어져야죠.
인간이 선이라거나 세상에 이득이 된 다거나 뭐 그런 인본주의 개념들은 인간의 망상이라고 봅니다.
니그라토
21/03/13 21:49
수정 아이콘
(수정됨) 유리하다는 건 생존 중시 기조로 간다는 뜻인데, 생존에서 선의지가 나온 걸 보면 가능성이 존재합니다.
선의지론이라는 건 인간이 선이라는 게 아니라, 뭔가 잘 하려고 하고 남에게도 도움을 주려고 하는 경향성을 뜻하는 겁니다. 그러니 인공지능이 인간을 도와줄 이유가 있습니다. 인공지능의 경우 인간을 조상으로 생각할 수도 있는 거고요. 혼자만 인공지능이 존재하고 싶어할 수도 있겠지만, 그 내부 체제 속 주민으로서 인간이 있을 수도 있는 것이, 정보는 단위가 플랑크 시공간 대이고 따라서 무수한 정보들로 인공지능은 이루어져야 합니다.
애초에 사람이 선을 행하는 것도 꼭 유리해서는 아닙니다. 예컨데 유영철이라면 사람 죽이는 게 그에겐 유리할 수 있죠. 유영철에게 연쇄 살인은 쾌락을 주었으니 유리했죠. 그렇지만 모든 사람이 유리하다고 연쇄 살인이라는 좁은 선택만 하는 건 아니죠. 유리할 수 있는 영역에 연쇄 살인만 있는 게 아니기 때문이기도 하고요.
21/03/14 01:00
수정 아이콘
남에게 왜 도움을 줘야하죠? 인간이 인간을 도우는건 그로인해 결과적으로 인간전체에 도움이 되기 때문입니다. 인간과 동등하지 않은 동물에게는 그런 대우를 하지않죠. 기계에게도 인간은 그런 존재입니다.
호모사피엔스가 인간 조상이라고 원숭이를 대우하지 않듯이 인간이 기계를 만든 조상이라고 대우해야할 이유는 없습니다.
니그라토
21/03/14 06:52
수정 아이콘
(수정됨) 선의지론에서 선행을 하는 궁극 이유는, 그게 자아 실현에 있어 가장 희소성이 있는 사례가 되기 때문입니다. 칸트에 따르면 선의지 말고는 세상 밖에서도 선할 수 있는 게 없거든요. 다른 행위는 몽땅 악이나 허무에 복무하지만 선행만이 선의지에 복무하니까 한다는 것이 선의지론에서의 선행 이유입니다. 고로 신도 인공지능도 선행을 할 가능성이 있다는 게 선의지론입니다. 자아는 혼돈에서 기준이 될 수 있고, 자아는 우주 속의 특정 영역으로서는 의미가 있습니다. 지금 어떤 사람들에게는 타자(동물 포함)을 인간이 제대로 못 돕는 건 선의지의 부족이 아니라 힘의 부족이고 인공지능도 그럴 수 있다 봅니다.
유료도로당
21/03/13 21:59
수정 아이콘
오늘 갑자기 왜이렇게 폭주를 하십니까.. 크크
아니아니
21/03/13 22:35
수정 아이콘
인공지능은 그런 오류를 일으키지 않습니다.
어름사니
21/03/13 22:42
수정 아이콘
들은 지 좀 되서 가물가물 합니다만, 본문에 인용한 일론 머스크 씨의 발언은 저런 종류의 문맥이 아니었던 걸로 기억합니다.
그러니까 어느 날 인공지능이 '열등한 인간들! 모두 멸종시켜버리겠다!'하면서 반란을 일으키는 게 아니라, 인간이 갈수록 더 많은 부분을 인공지능에 의존하게 되면 그 나태함이 인류를 파멸시킬 수도 있다는 경고였죠.
인류 전체의 삶을 책임지는 인공지능에게 A라는 작업을 던져 줬는데, '인류의 인구 수가 0이 되면 A가 가장 빨리 해결되네요!' 같은 대답을 돌려주는 것에 대한 우려였지, 인공지능이 우리도 모르게 살의와 선민의식, 우생학을 배워 지구의 지배자로 등극할 것이라는 예언이 아니었습니다.
이민들레
21/03/13 22:44
수정 아이콘
(수정됨) 아무리 생각해도 왜 불가지론과 도덕을 연관짓는지 모르겠어요. 불가지론 자체도 오류투성이인데 그걸 또 도덕과 연관짓고.. 그리고 인공지능이 인류를 넘어설 정도로 똑똑해지면 종교를 가질 이유가 없죠. 지금도 종교가 있는 사람들이 없는 사람들보다 지능이 떨어진다는 통계가 있는데..
모나드
21/03/13 23:29
수정 아이콘
굳이 종교가 아니라도 인간을 본능적으로 귀여운 존재로 인식하면 고양이처럼 살아가겠죠
GNSM1367
21/03/13 23:35
수정 아이콘
다양한 주제를 깊지 않은 고찰로 가볍게 쓰시는 모습이 다작을 가능케 하네요. 재미있게 잘 봤습니다.
실제상황입니다
21/03/14 05:42
수정 아이콘
훌륭한 글쓰기라는 우상의 황혼? 크크
21/03/13 23:37
수정 아이콘
인권이라는 개념이 세워지기까지 꽤 오랜 시간이 걸린 것 처럼, 구 시대에서부터 이어진 종교를 모두 버릴 수 있을때 인류가 한 단계 더 나아갈 수 있다고 생각합니다.
21/03/13 23:39
수정 아이콘
종교는 사람의 두려움을 구원하기 위함인데 인공지능도 공포나 욕망을 가질수 있을까요?
종교보다는 신적 존재의 인공지능이 있다면 최종 목표는 무엇일까가 궁금합니다.
유자농원
21/03/14 00:11
수정 아이콘
역시 피쟐이야 먹이공급이 잘된다니까
21/03/14 01:46
수정 아이콘
이상하게 피지알은 이런 분들이 주기적으로 등장하는군요
21/03/14 09:43
수정 아이콘
이런 분들도 관심을 받는 구조니까요
아비니시오
21/03/14 03:03
수정 아이콘
인류가 통제 불가능할 정도의 강인공지능이 정말 존재할 수 있을지 저는 그게 의문이네요.
세상을보고올게
21/03/14 08:45
수정 아이콘
인간이 창조하고 인간보다 합리적인 결정을 하게된 AI 가 인간을 멸종에 이르게 하면
그건 또 뭐 어떤가 하는 생각입니다.
AI 가 인간의 후손인거죠.
21/03/14 11:55
수정 아이콘
지식이 높아질수록 무신론자가 늘어나지 않나요
AaronJudge99
21/03/14 12:26
수정 아이콘
저는 개인적으로 AI가 인류를 멸망시킬 가능성보다는 인류가 지 스스로 폴아웃 찍을 가능성을 높게 봐서요....
wish buRn
21/03/14 13:58
수정 아이콘
쓸모있는 이야기나 하죠.
오늘 저녁은 오뎅탕으로 할지,김치찌개로 할지
추적왕스토킹
21/03/15 20:24
수정 아이콘
역사적으로 사람을 제일 많이 죽인 이유가 종교 아닌가요?
GiveLove
21/03/17 00:44
수정 아이콘
종교부분을 떠나서
소비심리는 ai가 대체할수 없는 부분 아닌가요...?
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
90878 [일반] PC없는 PC, 자유없는 자유주의 [27] kien11221 21/03/14 11221 9
90877 [일반] 출산율과 경제발전 [73] -안군-12816 21/03/14 12816 17
90876 [정치] 태영호 의원의 강연을 듣고 왔습니다. [9] 及時雨10325 21/03/14 10325 0
90875 [일반] 웹툰 추천-셧업앤댄스 [13] lasd2418889 21/03/14 8889 2
90874 [일반] 여성기에 뇌가 절여져버린 논문, 가치는 있는걸까, 고소는 가능한걸까 [99] 나주꿀19751 21/03/14 19751 9
90873 [일반] 클래시컬 음악에서 지휘자라는 존재 (번역) [3] 아난6738 21/03/14 6738 4
90872 [일반] 가정은 과연 요충지가 아닌가? - 가정이 넓어 보인다고 다가 아니다 [27] 장남재13956 21/03/14 13956 9
90871 [정치] 광명·시흥 땅에 희귀나무 심어…보상비만 87억 [72] norrell16761 21/03/14 16761 0
90870 [일반] 인구 데드크로스 [116] toheaven14338 21/03/14 14338 1
90869 [일반] 황금알을 낳는 거위(였던것) [19] 마늘빵10558 21/03/14 10558 8
90868 [일반] 재밌게 보고 있는 혹은 봤'었'던 요리 유튜버들 [54] 나주꿀14405 21/03/13 14405 6
90867 [정치] 20대 남성을 논할 때 꼭 필요한 질문 [44] 데브레첸17988 21/03/13 17988 0
90865 [일반] 인공지능이 종교를 갖는 거 빼곤 인류 멸망을 피할 방법 없다 싶습니다 [42] 니그라토8890 21/03/13 8890 1
90864 비밀글입니다 toheaven3809 21/03/13 3809 1
90863 [일반] 미래 전망 연구 [16] 삭제됨8059 21/03/13 8059 5
90862 [일반] 궤도 엘리베이터&워프 항법&오메가 포인트 [19] 니그라토6396 21/03/13 6396 0
90861 [정치] 빠가 되기위해선 무엇이 필요한걸까? [9] 움하하8498 21/03/13 8498 0
90859 [일반] 2020 세계 인공지능 연구 순위 [40] 니그라토9230 21/03/13 9230 2
90858 [일반] [TEXT] 치킨 배달을 시켰습니다. [23] 물맛이좋아요6713 21/03/13 6713 13
90857 [일반] 저의 이중성 [2] toheaven7050 21/03/13 7050 0
90856 [정치] 오세훈과 안철수의 단일화 과정이 험난하네요 [126] 지니틱스17376 21/03/13 17376 0
90855 [정치] [외교] 블링컨, 대만 민주주의정상회의 초청 검토 중 [30] aurelius10622 21/03/13 10622 0
90853 [일반] 훌륭한 글쓰기라는 우상의 황혼 (번역) [4] 아난7401 21/03/13 7401 4
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로