샘 알트먼 - GPT-4를 선보인 OPEN AI CEO,

요약:

- GPT-4를 만들때는 그 전보다 인공지능에 대해 더 많은 이해를 하면서 만들었음.

- 추론의 정의에 따라 조금씩 의견이 다르겠지만 GPT-4는 약간의 추론을 하기 시작했다고 생각함

- 우리가 최대한 빨리 인공지능 제품을 내놓는 이유가 대중들에게 빨리 평가받고 해선하기 위해서임. 정치적 편견성 (bias)도 개선될 분야중 하나임.

- 작년 여름에 GPT-4 개발 끝났고 그 후로는 계속 안전 검사에 시간을 쏟았다. 다음 모델 빨리 내놓으라는 사람들 심리는 알겠는데 이런 방식에 후회는 없음.

- GPT가 더 안전하고 Align 되게 만드는 노력이 결국 성능 향상에도 긍정적인 영향을 미친다는 걸 대중들은 잘 모르는듯 하다.

- 대화 형식으로 GPT를 창의적인 업무를 위한 툴로 사용하는것은 엄청나게 큰 변화를 일으킬 것

- LLM (대규모 언어 모델)은 AGI를 만들기 위해 필요한 일부일 것임. 우리는 무언가 다른 엄청나게 중요한 것이 필요함.

- AGI가 굳이 실제 세계를 탐구할 하드웨어가 필요할 것이라고 생각하지는 않지만 내 생각이 틀릴 수도 바뀔 수도 있음.

- GPT를 확장하는 방식으로 AGI가 충분히 나올 수 있을거라고 생각함. ( 대규모 언어모델이 아닌 다른 아키텍쳐로의 확장 )

- 나는 AI가 인간 의지의 보조 도구로 사용될 미래를 꿈꾼다. AI는 우리의 능력을 증폭시킬 것임. 그리고 GPT-4는 이미 그렇게 사용되기 시작함.



- 잘하는 개발자일 수록 GPT의 발전을 반기는 사람 많은듯. 오히려 생산성 높아졌다고 좋아함.

- 인공지능이 모든 인간들의 요구를 채워줘도 인간 특성상 인간들은 계속 새로운 것들을 원하고 더 높은 곳으로 올라가기 위해 돈과 상관없이 일하는 사람들 많을것

- 사람들은 항상 스스로가 쓸모있다고 여겨지길 바라고 창의성을 발현하고 싶어하기 때문에 먹고 살기 위해서가 아니어도 노동은 계속 하고 싶어 할 것임.

- 물론 초지능이 오면 인간이 망할 가능성도 있긴 함. 하지만 우리는 더욱 더 노력해서 계속 인공지능을 align 할 것임.

- 갑자기 인공지능이 며칠만에 재귀발전 해서 컨트롤 할 수 없어질 수도 있음. 근데 개인적으로는 그럴 가능성보단 좀 더 천천히 초지능으로 발전할 것이라고 생각함.

- AGI는 얼마 안남았지만 특이점은 좀 더 오래 걸릴것이라고 생각하는 편임. 근데 특이점 (fast take off) 너무 빨리오면 안됨.

- AGI가 나온다고 해도 사람들이 곧장 알 수는 없을 것.

- 나는 GPT-4가 AGI는 아직 아니라고 생각함. 만약 공상과학소설을 보는데 GPT-4가 AGI라고 했으면 난 실망했을듯.

- 인공지능에게 자아 의식과는 전혀 상관없는 데이터를 줬는데 인공지능이 자아 의식에 대해 공감을 하는 순간 자아 의식이 있다고 봐야 할 수도 있음



- 초지능이 오지 않는 시점에도 AI의 위협은 엄청나게 많음. 우리는 약인공지능이 가져다 줄 부작용들도 미리 고려해야 함.

- 우리는 완전히 영리단체로 돌아 선것이 아님. 회사의 특정 부분만 영리 조직이고 큰 의사결정을 하는 조직은 여전히 비영리 조직임.

- 일부 조직을 영리 조직으로 바꾼 이유는 결국 어느정도의 자본 없이는 아예 불가능한 일들이 많았었음.

- 우리가 GPT-4를 오픈소스화 하지는 않았지만 API를 공개한 것이 사람들에게 충분히 많은 액세스를 줬다고 생각함. 오픈소스화는 악용의 위험이 큼.

- 일론머스크가 요즘 나를 디스하고 있다. 예전에 일론 머스크 인터뷰 중에 스페이스 엑스를 창업할 때 본인의 영웅들이 자기를 디스를 한다면서 눈물을 붉혔다. 일론은 나의 영웅이었다.

- 일론머스크도 디스하기 보다는 우리가 얼마나 노력하고 있는지 좀 더 살펴봤으면 좋겠다.

- 일론은 세상에 많은 기여들을 했다. 나는 그것에 항상 감사하고 있다.

- GPT가 특정 견해에 선입견이 있다는 지적을 수용하기 위해서 모든 사람이 각 사람의 입맛에 맞게 수정 가능한 AI를 만드려고 한다.

- 나는 CEO로서 완벽하지는 않지만 여러가지 압박 ( 정치적 압박 포함 ) 견디는 거 아주 잘 함.

- 대중들은 더 일하고 싶은지 일하고 싶지 않은지 많이 헷갈려 하는 것 같음. 모두가 자신이 하는 일을 즐거워 하는 사회가 더 멋진 사회일 것.

- (UBI) 기본 소득제는 해결책 중 하나일 뿐 모든 것을 해결하지는 않는다. 그것은 사람들이 먹고 살게 해주는 요구를 채워줄 뿐 노동의 욕구도 분명히 존재한다.

- 기본 소득제는 최종의 목표가 아니라 과도기에 소외될 수 있는 사람들을 위한 하나의 쿠션 역할일 뿐이다.

- 올해 안에 월드 코인 및 기본 소득제 관련한 연구 결과를 발표할 것

- 초인공지능 하나가 중앙집권 하는 미래가 있을 수도 있지만 여러 초인공지능들이 민주적으로 정치하는 시나리오가 더 나을수도 있음.

- 마이크로소프트는 아주 훌륭한 파트너. 사티야 (마소 CEO)는 우리와 의견이 잘 합치해서 좋음.

- 나중에 AI가 모든것의 이론을 알려줬으면 좋겠음 ( 양자역학과 상대성이론 통합 )

- AGI가 직접 외계인을 찾을 수는 없어도 찾기 아주 좋은 방법을 제시해 줄 수도 있음

- 사람들에게 하고 싶은 조언은 조언 듣지 말라는 것임.