요약:

- 챗지피티 자체는 놀랍지 않았다. GPT-2 처음 나왔을때랑 구글 람다가 처음 사람 농담 이해했을 때 놀랐음.

- 나는 인공지능 자체를 만드는 것보다 뇌의 작동방식을 이해하는 것에 훨씬 더 관심이 있었다.

- 1980년에 내가 back-propagation 인공지능에 사용하기 시작했고 지금 주류가 되었는데 사실 뇌는 이렇게 작동 안한다.

- 챗지피티는 평범한 사람보다 훨씬 더 많은 것을 알지만 추론력은 아직도 기대이하이다.

- 뇌는 훨씬 적은 데이터로 부터 지식을 도출해 내는데 이게 바로 추론이다.

- 내 제자 일리야는 처음 딥러닝 모먼트와 chatGPT 둘 다 관여되어있다 흐흐

- 개발자들이 대체될 수도 있지만 더 생산력 좋은 개발자들이 많아질 수도 있음. 아직은 두고 봐야 함.

- 뇌는 고작 30와트의 전력으로 돌아감. 앞으로는 대규모 언어모델을 소규모 컴퓨터에서도 돌아갈 수 있게 될 것.

- ChatGPT는 쉽게 말하자면 수많은 데이터의 종합으로 다음 단어를 예측한다. 여러 의견들이 동시에 반영됨. 하지만 사람은 보통 어느정도 일관적인 의견과 가치관이 있음.

- 마소보다는 구글이 좀 더 조심스럽게 사실에 기반한 인공지능을 만들고 있다고 생각함. 최소한 우리는 리퍼런스를 보여주려고 함.

- 무엇이 사실인가를 결정하는 것은 어려운 것임. 최소한 대규모 언어모델들이 여러가지 다른 가치관들을 분별하고 이해할 수 있어야 함.

- 그전엔 AGI 달성하려면 20~50년 걸릴 거로 생각했는데 지금은 그것보다 더 빨리 올것 같음 ( 20년 이하 )

- 몇 년 전에는 AGI가 5년안에 온다고 하면 개소리 하지 말라고 했겠지만 지금은 불가능하다고 못하겠음.

- AGI는 사람을 돕도록 설계되어야 함. 근데 예를 들어 푸틴이 AGI를 홍익인간적으로 이용할 것 같지 않음..

- 인공지능 무기에 대한 금지 조항도 만들어야 함.

- ai로 인해 인류가 X될 가능성도 충분히 있음. 하지만 우리가 바보가 아니라면 최대한 그러지 않도록 준비를 할것이라 믿음.

- 구글은 인공지능 선두주자였지만 요즘 압박 느끼고 있음. 하지만 마소보다는 훨씬 조심스럽게 제품들을 내놓을 것임.

- 미국은 군인을 인공지능 로봇으로 대체하려 하고 있다. 미국 국방부 메일링 리스트에 있어서 무슨 일이 일어나고 있는지 어느정도 알고있다.

- 미국 국방부의 계획 중에는 역겨운 것들도 있다. ( 도덕적으로 용납 불가능한 것이라고 의역 가능할 듯 )

- 미국 국방부 계획 중에 자가치료 지뢰밭 프로젝트가 있었다.
만약 어떤 지뢰가 터져서 시민이 죽어도 다른 지뢰들이랑 소통해서 알아서 그 빈자리를 메꾸는 걸 힐링이라고 표현하는것 보고 매우 역겨웠음.
아이들의 다리를 날려버릴 수도 있는 이 지뢰밭에 "치료"라는 단어가 어울린다고 생각되지 않는다.

- 대규모 언어모델이 그냥 자동 완성 기능이라고 조롱하는 사람들이 있다. 그게 틀린게 아니긴 하지만 잘 생각해보면 다음 단어 예측하려면 그 전 문장들을 제대로 이해할 수 있어야 함.

- 이미 인공지능쪽에서 엄청 많은 아이디어들이 나왔지만 컴퓨터 성능의 한계로 제대로 시도 못해본 것들 많을 수 있음.

- 인공지능의 재귀발전으로 인한 특이점 올 수 있음. 그걸 어떻게 통제할 수 있을지 고민해야 함.

- 미리 과도기를 대비하고 대처법을 생각해야 함.

- 인공지능이 직업을 대체하기 보다는 다르게 만들 것임. ( 물론 대체도 하겠지만 ). 예를 들어 옛날에 ATM 나왔을때 은행 텔러들 따였다고 했는데 이제는 더 복잡한 일을 할 뿐임.

- 프로그래밍처럼 더 복잡해 질수 있는 가능성이 있는 직업들은 대체되기 보다는 더 고도화 될 것임.

- 인공지능 혁명은 산업/전기 혁명에 비교될 정도로 엄청나게 큰 역사적 사건임.

- 제품에 기반한 연구가 아닌 호기심에 기반한 연구들도 펀딩을 해줘야 함.

- 자의식이 뭔지도 확실히 모르면서 특정 인공지능이 자의식이 있다고 말할 수 없음