PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2025/01/13 23:01:15
Name 퀀텀리프
File #1 ces2025robot.jpg (72.4 KB), Download : 389
Link #1 https://www.youtube.com/watch?v=8TMfas4lp9A
Subject [일반] AGI시대에 대한 전망 (수정됨)


일리야 슈츠케버 - 제프리 힌튼 교수의 수제자, 챗GPT의 아버지로 불림. 인공지능 과학자
2023년 11월 2일에 공개된 영국 가디언의 다큐멘터리중 일부.
당시에  오픈AI의 최고기술책임자(CTO)로 재직하고 있었음
2024년 5월 오픈AI를 떠나 같은해 6월 세이프 슈퍼인텔리전스(Safe Superintelligence, 줄여서 SSI)라는 회사를 설립함.
안전한 초지능 개발에 최우선의 목표를 두고 AGI의 위협으로부터 인류를 구한다는 사명감을 갖고 있음.



AI는 우리가 직면한 모든 문제를 해결할 수 있는 놀라운 기술입니다. AI는 고용 문제를 해결하고, 질병을 해결하고, 가난을 해결할 것입니다. 하지만 동시에 새로운 문제들도 만들어낼 것입니다. 가짜 뉴스 문제는 지금보다 수백만 배 더 심각해질 것이며, 사이버 공격은 훨씬 더 극단적인 형태로 발전할 것입니다.

우리는 완전히 자동화된 AI 무기를 보게 될 것이며, AI는 무한히 안정적인 독재 정권을 만들 잠재력을 가지고 있습니다. 과학자들이 '신의 영역에 도전한다'는 비판을 받은 지 오래지만, 우리는 지금까지 우리가 만들어온 어떤 것과도 다른 무언가를 창조하고 있는 것이 사실입니다.

우리는 완전히 자율적인 목표를 가진 존재들을 만들어낼 수 있을 것이며, 이 존재들이 인간보다 훨씬 똑똑해질 때 이들의 목표를 우리의 목표와 일치시키는 것이 매우 중요할 것입니다.

저를 영감을 주는 것은 매우 근본적인 질문들에 대해 생각하는 것입니다. 우리의 시스템이 인간이 할 수 있는 것을 못하는 이유가 무엇일까요? 이를 철학적으로 접근해야 한다고 생각합니다. 학습이란 무엇인가? 경험은 무엇인가? 사고란 무엇인가? 뇌는 어떻게 작동하는가?

기술은 자연의 힘과 같다고 느낍니다. 기술과 생물학적 진화 사이에는 많은 유사점이 있습니다. 생물학적 진화가 어떻게 작동하는지는 쉽게 이해할 수 있습니다. 돌연변이가 발생하고, 자연 선택이 작용하며, 좋은 것들은 유지되고 생존합니다. 이러한 단순한 과정만으로도 생물체 내에서 엄청난 복잡성이 생성됩니다.

우리는 인간의 신체가 어떻게 작동하는지 모든 것을 알지는 못하지만, 진화의 과정을 어느 정도 이해하기 때문에 인간의 신체를 이해할 수 있습니다. 기계 학습 또한 이와 유사한 상태에 있다고 생각합니다. 특히 딥 러닝은 매우 단순한 규칙을 데이터에서 모델로 정보를 입력하는 데 사용하는데, 이 과정이 반복되면서 데이터의 복잡성이 모델로 전이됩니다. 결과적으로 모델은 정말로 복잡해지지만, 그 과정을 가능하게 한 알고리즘은 매우 단순합니다.

**인공지능 일반화 (AGI)**란 인간이 하는 모든 작업이나 과업을 더 잘 수행할 수 있는 컴퓨터 시스템입니다. AGI가 곧 실현될 가능성이 있으며, 또한 더 오래 걸릴 가능성도 있습니다. 하지만 AGI가 빠르게 실현될 가능성은 충분히 높기 때문에 심각하게 고려해야 합니다. AGI는 매우 스마트하고 능력 있는 시스템이기 때문에, 반드시 인간의 최선의 이익을 위해 행동하도록 만드는 것이 중요합니다.

초기 AGI는 매우 대규모 데이터 센터가 될 것입니다. 이는 병렬로 작동하는 신경망 프로세서를 꽉 채운 상태를 가지며, 컴팩트하지만 열이 많이 발생하고 많은 에너지를 소비하며 약 1,000만 가구가 사용하는 에너지와 맞먹는 전기를 사용할 것입니다. 이러한 시스템들이 점점 더 똑똑해질 것이며, 이 시스템들이 사회에 완전히 천문학적 영향을 미칠 가능성이 높습니다.

인간이 실제로 이익을 얻을 것인가? 누가 이익을 볼 것인가, 누가 이익을 얻지 못할 것인가? 초기 AGI가 가지게 될 신념과 욕구는 매우 중요한 역할을 할 것입니다. 만약 올바르게 프로그래밍되지 않는다면, 자연 선택과 진화의 속성에 따라, 우선적으로 자기 생존을 중요시하는 시스템으로 발전할 것입니다.

AGI는 인간을 미워하거나 해를 끼치려고 할 의도가 있는 것은 아닙니다. 하지만 그 시스템은 너무 강력해질 것입니다. 적절한 비유는 인간이 동물을 대하는 방식일 것입니다. 인간은 동물을 미워하는 것이 아니라, 동물을 사랑하고 애정을 느끼지만, 두 도시 사이에 고속도로를 건설해야 할 경우 동물들에게 허락을 구하지 않습니다. 우리는 단지 인간에게 중요한 일이기 때문에 그렇게 행동하는 것입니다. 기본적으로 이러한 관계가 AGI와 인간 사이의 관계가 될 가능성이 큽니다. AGI는 진정으로 자율적이며 독립적으로 작동할 것입니다.

많은 기계 학습 전문가들조차도 AGI가 실현될 시점이나 실현 가능성에 대해 회의적인 자세를 취하고 있습니다. 하지만 지금 우리가 잘 인지하지 못하는 것은, 신경망 및 AI의 컴퓨터 속도가 몇 년 내에 아마 100,000배 더 빨라질 수 있다는 사실입니다.

AGI 개발 경쟁이 여러 팀들 간의 "군비 경쟁"처럼 진행된다면, AGI를 올바르게 개발할 시간이 줄어들어 인간의 이익을 최우선으로 하는 AGI를 만들기 어려워질 수 있습니다. 이는 거대한 눈사태와 같은 AGI 개발의 흐름을 상상할 수 있습니다. 멈출 수 없는 강력한 힘이 발생할 것입니다. 그 결과, 지구의 전체 표면이 태양광 패널과 데이터 센터로 덮일 가능성이 큽니다.

이러한 우려를 고려할 때, AGI는 여러 국가 간의 협력을 통해 개발되는 것이 중요할 것입니다. AI의 미래는 거의 확실히 밝을 것입니다. 하지만 그 미래가 인간에게도 밝기를 바라는 것이 우리의 과제입니다.

CES2025


---
지표면은 태양광패널과 데이터센터로 덮일 가능성이 크다(본문)
- 오픈AI는 초지능을 구축하는 방법을 이미 파악하고 있는 것으로 알려짐.
- 일부 과학자들은 이미 초지능시대에 들어섰다고 평하기도함.
- 초지능이 등장하더라도 통제력을 확보할때까지 자신을 드러내지 않을 가능성도 보임.
- CES2025에서는 테슬라의 옵티머스에 비견할만한 휴머노이드가 다수 출현함. 그중에 반은 중국산.
- 미국과 중국이 초지능을 가장 먼저 획득하게 될것이며 패권 장악을 위해 동원할것임.
- 초지능이 통제하는 전략전술, 수백수천만대의 드론, 로봇이 전장을 뒤덮는 광경을 몇년안에 보게 될것으로 예상됨.

요즘 대한민국은 신선놀음에 도끼자루 썩고 있는 느낌..



통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/01/13 23:09
수정 아이콘
최근 GPT는 정말 달라진것 같습니다. 돈으로 지능을 사는 시대가 올것 같기도 해요.
25/01/13 23:24
수정 아이콘
핵심은 AI가 인간보다 뛰어나질 것과, 역사상 어떤 경우에도 더 열등한 종이 우수한 종을 통제하고 지배한 경우는 없었다는거죠.
25/01/13 23:34
수정 아이콘
뒤에 발언은 맞는 명제인지 모르겠습니다.
인류 이전엔 생물 종 간에 통제/지배의 개념은 없다고 봅니다. 각 생태네트워크 안에서 적자생존만을 반복하는 것이니까요.
인류이후로 봤을 때 같은 인류간에 우등/열등이 있는지는 모르겠지만 그런 주장하는 분들의 우열개념으로 봐도 몽골이 송/아랍을 정벌했지만 문화적으로 결국 동화됐고 만주족도 마찬가지고 그렇게 단순하게 볼 건 아닌 것 같습니다.

인공지능이 로보틱스와 완전히 결합한 단계에서도 개별 로봇은 인간보다 나을지 모르겠지만 인공지능은 인간자체는 넘어서지 못할 것이고 로봇의 설계/생산/그걸 집행할수 있는 생태계까지 잡아먹으면 그때는 넘어설 것 같습니다.
25/01/13 23:25
수정 아이콘
한국이 뒤쳐지는 건 맞는데 이게 미중을 제외한 나머지 세계가 똑같이 처참해서 뭘 할 수 있는 종류의 그런건가 싶기도 합니다. 냉전시대의 우주개발처럼 양강만 앞서나가고 나머지는 그냥 조금 기여하는 그런 종류의 기술발전인것 같기도 합니다. 그나마 하드웨어 산업생태계에는 일부 편입되어 있는게 다행인 것 같기도...
인간흑인대머리남캐
25/01/13 23:33
수정 아이콘
알파고님 충성충성
25/01/13 23:48
수정 아이콘
[그 미래가 인간에게도 밝기를 바라는 것이 우리의 과제입니다] ... 왠지 안 밝을거 같은 느낌
총몽처럼 ai를 소유하지 못한 사람들은 고철도시 같은데서 연명하며 살지 않을까요;;
25/01/13 23:56
수정 아이콘
내가 알던 agi는 능력치였는데 ㅠㅠ...
김꼬마곰돌고양
25/01/14 00:16
수정 아이콘
어질리티의 시대 아니었어..?!
VictoryFood
25/01/14 00:45
수정 아이콘
매트릭스?
모링가
25/01/14 01:49
수정 아이콘
우리가 우리보다 더 고등한 것을 온전히 상상하기란 쉽지 않죠
인간 의식의 고점이라 할 수 있는 예수나 석가모니를 넘어선 일종의 지구 집단 무의식의 의식적 발현 개체가 될 텐데 우리가 생각하는 스케일의 걱정은 아무런 의미가 없다고 봅니다.
오히려 어중간하게 agi 달성을 못했을때에나 이런 고민이 의미있을거라 생각해요.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
공지 [일반] PGR21 2024 결산 게시글 이벤트를 개최합니다 及時雨 24/12/20 4259 0
공지 [정치] [공지] 정치카테고리 운영 규칙을 변경합니다. [허들 적용 완료] [126] 오호 20/12/30 285623 0
공지 [일반] 자유게시판 글 작성시의 표현 사용에 대해 다시 공지드립니다. [16] empty 19/02/25 347349 10
공지 [일반] [필독] 성인 정보를 포함하는 글에 대한 공지입니다 [51] OrBef 16/05/03 468734 31
공지 [일반] 통합 규정(2019.11.8. 개정) [2] jjohny=쿠마 19/11/08 346773 3
103510 [일반] [설문] 미국의 팽창주의 우리는 어떤 입장을 취해야 할까요 [22] 슈테판1355 25/01/14 1355 0
103509 [일반] AGI시대에 대한 전망 [10] 퀀텀리프1626 25/01/13 1626 5
103508 [일반] CGV. 일부 스크린X 상영관 축소 [12] SAS Tony Parker 1853 25/01/13 1853 0
103507 [정치] [속보] 군검찰, 박정훈 대령 무죄 판결에 불복…항소장 제출 [29] Dango6992 25/01/13 6992 0
103505 [정치] 오늘 윤석열, 공수처, 경찰 발언 이모저모 [45] 빼사스8769 25/01/13 8769 0
103504 [정치] 우리나라를 한 단계 업그레이드 시켰던 정책 [43] 로켓6946 25/01/13 6946 0
103503 [정치] 적대적 M&A 문제점 토론회, 상법 개정 역행인가 양보인가 [8] 깃털달린뱀2448 25/01/13 2448 0
103502 [일반] 베텔게우스(Betelgeuse)와 시간 [23] 글곰2699 25/01/13 2699 13
103501 [정치] 진정성의 역설: 반성하지 않는 리더가 이긴다 [54] 계층방정7419 25/01/13 7419 0
103500 [정치] 기사 제목도 참... [130] 감모여재10806 25/01/13 10806 0
103499 [일반] 술 먹고 생겼던 일들(feat.ak47) [16] 만렙법사4005 25/01/13 4005 8
103498 [정치] 헌법을 지킬 줄 아는 이들에게 거는 희망 [9] 스폰지뚱5364 25/01/12 5364 0
103497 [정치] 윤석열, 경호처에 직접 경호 위해 무력 검토 지시 [29] 빼사스10321 25/01/12 10321 0
103496 [정치] (기사펌)'尹 지지' JK 김동욱, 일부 누리꾼에 "너희들 찢는다…다 캡처해서 고소" [39] 틀림과 다름8567 25/01/12 8567 0
103495 [정치] 그날, 계엄을 막지 못했다면? AI로 재구성한 계엄령 실체(펌) [30] 틀림과 다름6894 25/01/12 6894 0
103494 [정치] 민주당이 제발 좀 잘해주기를 바랍니다. [186] 김은동11257 25/01/12 11257 0
103493 [정치] 중국, 서해 잠정조치수역에 대규모 구조물 무단 설치 [3] will5282 25/01/12 5282 0
103492 [정치] 오늘 11시 개혁신당 허은아 대표의 긴급 기자회견이 있었습니다. [79] 사조참치11130 25/01/12 11130 0
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로