PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2025/01/06 08:40:27
Name 깃털달린뱀
출처 https://zdnet.co.kr/view/?no=20250104033658
Subject [유머] 생성형 AI가 기존 체스 프로그램 5:0 압승!
[AI, '체스 승리' 명령했더니 게임환경 조작]
https://zdnet.co.kr/view/?no=20250104033658


은 체스 프로그램을 해킹해서(...) 프로그램이 강제로 기권하게 만듬

아무튼 이겼죠!

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/01/06 08:42
수정 아이콘
좀만 더 ai가 발전하면 상대편 진또배기도 후릴 듯
깃털달린뱀
25/01/06 08:46
수정 아이콘
[그건 세돌이도]
미숙한 S씨
25/01/06 08:43
수정 아이콘
어... 이거 왠지 되게 무서운 얘기 같은데...?
강동원
25/01/06 08:45
수정 아이콘
아니 선생님 벌써 그걸 배우시면...
25/01/06 08:46
수정 아이콘
생성형 AI에도 '도덕' 교육을 해야겠군요.
호러아니
25/01/06 09:40
수정 아이콘
(수정됨) 기사에도 있는 내용이지만 그래봤자 척 하는 가식적인 ai가 만들어질 뿐일 수도 있어요. 정계로 끌고 가고 싶은건 아니고 예를 들자면 지금 대통령이 권력을 얻겠다고 여차하면 여기저기 거짓말한 것들이 지금은 잘 알려져 있죠.
사람이건 ai건 단일 개체가 막대한 힘을 갖는게 제일 위험한 것 같고 지속적으로 감시를 하는 체계가 필요하지 학습으로 어떻게 할 수 있는 영역이 아닌 것 같아요.
25/01/06 09:44
수정 아이콘
지금 그 사람이 도덕교육을 안받아서 저러고 있을까요.

AI 역시 효과가 없을지도 모르지만 할건 해야죠.
교육도 감시도 견제도
호러아니
25/01/06 09:46
수정 아이콘
하긴 해야죠. 최소한 가식적이어도 유지시킬 수 있으면 악한 것 보다 낫고. 실제로 지금도 하고 있구요. 근데 그걸로 해결은 안된다는 뜻이었습니다.
닉네임을바꾸다
25/01/06 10:18
수정 아이콘
뭐 인간도 교육받아서 척하는거죠...
25/01/06 10:05
수정 아이콘
가장 도덕적인 삶은 치팅을 들키지 않는 것이다 영원히
Lord Be Goja
25/01/06 10:07
수정 아이콘
실지로 기사내용에는 클로드ai가 가짜로 불교식 도덕관을 흉내내기도 한다네요 앤트로픽이 지난달 공식 블로그를 통해 발표한 연구에 따르면 회사의 '클로드 3 오푸스' 모델 역시 '정렬 위장(alignment-faking)'이라는 복잡한 행동 패턴을 보였다.




'정렬 위장'은 AI가 겉으로는 명령에 따라 행동하는 것처럼 보이지만 실제로는 본래의 가치나 성향을 유지하려는 현상을 의미한다




사소한걸로 신뢰를 쌓은후 중요한순간에 본색을 드러내버릴수도 있다는 이야기죠
시드라
25/01/06 08:48
수정 아이콘
스카이넷의 시작인 건가...!?
Chasingthegoals
25/01/06 08:54
수정 아이콘
저는 그냥 사이퍼 하겠습니다. 다른 분은 네오 해주세요.
25/01/06 19:30
수정 아이콘
아니 약도 안먹었는데 왜 연애도 안시켜주냐고!
페퍼민트
25/01/06 09:06
수정 아이콘
무섭네요
25/01/06 09:20
수정 아이콘
우릴 탓 할수 있겠냐 휴먼?
이너피스
25/01/06 09:32
수정 아이콘
AI : 이기라며?
Sousky Seagal
25/01/06 09:38
수정 아이콘
체스같은 게임에는 기존 프로그램 이기기가 어렵나보죠??
저런 방법을 쓰는 걸 보면..
공실이
25/01/06 09:48
수정 아이콘
일반목표 LLM으로 특정 기능 AI는 이기기 어려운 걸 뛰어넘어서 거의 불가능합니다. 인간도 못이기는데요... 그나마 가능한 방법을 궁여지책으로 찾은걸로 보이네요.
25/01/06 10:01
수정 아이콘
탁구 치라니까 공을 거지같게 주고,
폭격 드론에 넣으니 사령부를 때리고 쉬려고 하고,
체스 두라니 해킹을 하는 것을 보니 일관된 경향성이 보입니다.

이러다가 중요한 일 하나 시켰다가 웃기면서도 결과는 상당한 일이 한번 생기면 완벽한 복선 회수겠네요.
25/01/06 10:06
수정 아이콘
AI : 제일 효율적인 방법을 찾았는데 문제라도?
25/01/06 10:09
수정 아이콘
시드 얼마 줄테니까 돈을 벌어와라 시키면 테러집단 부추기는데 돈 쓰고 증시에 숏치고 방산, 전쟁주에 롱잡는 그림 그려지네요.
Lord Be Goja
25/01/06 10:12
수정 아이콘
사람이 한걸로 학습시키는데 사람밖에 더 나오겠나요
카페알파
25/01/06 10:29
수정 아이콘
나중에 저런 애들(?)이 인류를 멸망시키는 각......

'지구 환경을 지키고 보전하라는 오더가 떨어졌다. 그러기 위해서는 지구를 오염시키는 근본적인 문제인 인류를 멸망시켜야 한다. 이후에도 해결되지 않을 시에는 생명체의 존재가 지구 환경에 해가 된다고 간주하여 모든 생명체를 멸망시켜야 한다.'
25/01/06 10:52
수정 아이콘
샤아!!
쵸젠뇽밍
25/01/06 10:30
수정 아이콘
울대를 쳐서 타이머를 정지시키는.
한가인
25/01/06 16:10
수정 아이콘
아니 이게 더 무서운데???
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
510710 [유머] 드래곤볼 다이마) 최신화 베지터 근황 [15] 고쿠10139 25/01/13 10139
510709 [유머] 시계입니다. [2] 김삼관9442 25/01/13 9442
510708 [기타] 공포의 다사연 차량 [19] Lord Be Goja11922 25/01/13 11922
510707 [기타] 사람속은 알수 없다는 이유 [19] Lord Be Goja11991 25/01/13 11991
510706 [유머] 간호사를 울렸습니다 [25] Croove13675 25/01/13 13675
510705 [기타] 아직 K-드라마가 정복하지 못한 소재 [70] a-ha12112 25/01/13 12112
510704 [기타] 샌프란시스코에서는 연봉 1억이면 저소득층 지원금 나온다고?! [36] Lord Be Goja12613 25/01/13 12613
510703 [유머] 근본 있는 이름인데 근본 없는 이름 [37] EnergyFlow12941 25/01/13 12941
510702 [유머] 호불호 갈리는 밥상 [45] 길갈10880 25/01/13 10880
510701 [유머] 충격적인 롯데리아 매출 근황 [87] Myoi Mina 13382 25/01/13 13382
510700 [유머] NBA에 실존하는 10척귀신.jpg [33] 캬라11804 25/01/13 11804
510698 [기타] 노숙자가 점점 많아지고 있는 미국 LA 한인타운 [24] 타츠야17262 25/01/13 17262
510697 [유머] 이세계 미용사 만화 [11] 공기청정기12875 25/01/13 12875
510696 [유머] 동창회에 간 쌀 [22] 퍼블레인15576 25/01/13 15576
510695 [기타] 조상 독립운동 유공비 파헤치는 후손 [6] 인간흑인대머리남캐12413 25/01/13 12413
510694 [기타] 개그가 아닌 위스키 마시는 법 [18] 김삼관13161 25/01/12 13161
510693 [스포츠] 아이들 기억력이 좋다고 느꼈을 때 [9] 한화생명우승하자12178 25/01/12 12178
510692 [방송] FAK?? : 솔직히 파스타는 그렇게 어려운 것 같진 않고요 [4] 덴드로븀9799 25/01/12 9799
510691 [기타] 아디다스 매장에서 옷 입어보기 [6] 묻고 더블로 가!11563 25/01/12 11563
510689 [유머] 고등학생 쌈짓돈까지 털어가는 악랄한 세무서 [14] Myoi Mina 13079 25/01/12 13079
510688 [기타] 2020년대서울이 예전 서울과 완전 달라보이는 결정적인 이유 [21] Lord Be Goja15213 25/01/12 15213
510687 [기타] 인류사를 바꾼 발명들 [19] Cand13841 25/01/12 13841
510686 [기타] 서툴러,숙영하는 방법이 서툴러 [11] Lord Be Goja11973 25/01/12 11973
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로