PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2025/01/06 08:40:27
Name 깃털달린뱀
출처 https://zdnet.co.kr/view/?no=20250104033658
Subject [유머] 생성형 AI가 기존 체스 프로그램 5:0 압승!
[AI, '체스 승리' 명령했더니 게임환경 조작]
https://zdnet.co.kr/view/?no=20250104033658


은 체스 프로그램을 해킹해서(...) 프로그램이 강제로 기권하게 만듬

아무튼 이겼죠!

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/01/06 08:42
수정 아이콘
좀만 더 ai가 발전하면 상대편 진또배기도 후릴 듯
깃털달린뱀
25/01/06 08:46
수정 아이콘
[그건 세돌이도]
미숙한 S씨
25/01/06 08:43
수정 아이콘
어... 이거 왠지 되게 무서운 얘기 같은데...?
강동원
25/01/06 08:45
수정 아이콘
아니 선생님 벌써 그걸 배우시면...
25/01/06 08:46
수정 아이콘
생성형 AI에도 '도덕' 교육을 해야겠군요.
호러아니
25/01/06 09:40
수정 아이콘
(수정됨) 기사에도 있는 내용이지만 그래봤자 척 하는 가식적인 ai가 만들어질 뿐일 수도 있어요. 정계로 끌고 가고 싶은건 아니고 예를 들자면 지금 대통령이 권력을 얻겠다고 여차하면 여기저기 거짓말한 것들이 지금은 잘 알려져 있죠.
사람이건 ai건 단일 개체가 막대한 힘을 갖는게 제일 위험한 것 같고 지속적으로 감시를 하는 체계가 필요하지 학습으로 어떻게 할 수 있는 영역이 아닌 것 같아요.
25/01/06 09:44
수정 아이콘
지금 그 사람이 도덕교육을 안받아서 저러고 있을까요.

AI 역시 효과가 없을지도 모르지만 할건 해야죠.
교육도 감시도 견제도
호러아니
25/01/06 09:46
수정 아이콘
하긴 해야죠. 최소한 가식적이어도 유지시킬 수 있으면 악한 것 보다 낫고. 실제로 지금도 하고 있구요. 근데 그걸로 해결은 안된다는 뜻이었습니다.
닉네임을바꾸다
25/01/06 10:18
수정 아이콘
뭐 인간도 교육받아서 척하는거죠...
25/01/06 10:05
수정 아이콘
가장 도덕적인 삶은 치팅을 들키지 않는 것이다 영원히
Lord Be Goja
25/01/06 10:07
수정 아이콘
실지로 기사내용에는 클로드ai가 가짜로 불교식 도덕관을 흉내내기도 한다네요 앤트로픽이 지난달 공식 블로그를 통해 발표한 연구에 따르면 회사의 '클로드 3 오푸스' 모델 역시 '정렬 위장(alignment-faking)'이라는 복잡한 행동 패턴을 보였다.




'정렬 위장'은 AI가 겉으로는 명령에 따라 행동하는 것처럼 보이지만 실제로는 본래의 가치나 성향을 유지하려는 현상을 의미한다




사소한걸로 신뢰를 쌓은후 중요한순간에 본색을 드러내버릴수도 있다는 이야기죠
시드라
25/01/06 08:48
수정 아이콘
스카이넷의 시작인 건가...!?
Chasingthegoals
25/01/06 08:54
수정 아이콘
저는 그냥 사이퍼 하겠습니다. 다른 분은 네오 해주세요.
25/01/06 19:30
수정 아이콘
아니 약도 안먹었는데 왜 연애도 안시켜주냐고!
페퍼민트
25/01/06 09:06
수정 아이콘
무섭네요
25/01/06 09:20
수정 아이콘
우릴 탓 할수 있겠냐 휴먼?
이너피스
25/01/06 09:32
수정 아이콘
AI : 이기라며?
Sousky Seagal
25/01/06 09:38
수정 아이콘
체스같은 게임에는 기존 프로그램 이기기가 어렵나보죠??
저런 방법을 쓰는 걸 보면..
공실이
25/01/06 09:48
수정 아이콘
일반목표 LLM으로 특정 기능 AI는 이기기 어려운 걸 뛰어넘어서 거의 불가능합니다. 인간도 못이기는데요... 그나마 가능한 방법을 궁여지책으로 찾은걸로 보이네요.
25/01/06 10:01
수정 아이콘
탁구 치라니까 공을 거지같게 주고,
폭격 드론에 넣으니 사령부를 때리고 쉬려고 하고,
체스 두라니 해킹을 하는 것을 보니 일관된 경향성이 보입니다.

이러다가 중요한 일 하나 시켰다가 웃기면서도 결과는 상당한 일이 한번 생기면 완벽한 복선 회수겠네요.
25/01/06 10:06
수정 아이콘
AI : 제일 효율적인 방법을 찾았는데 문제라도?
25/01/06 10:09
수정 아이콘
시드 얼마 줄테니까 돈을 벌어와라 시키면 테러집단 부추기는데 돈 쓰고 증시에 숏치고 방산, 전쟁주에 롱잡는 그림 그려지네요.
Lord Be Goja
25/01/06 10:12
수정 아이콘
사람이 한걸로 학습시키는데 사람밖에 더 나오겠나요
카페알파
25/01/06 10:29
수정 아이콘
나중에 저런 애들(?)이 인류를 멸망시키는 각......

'지구 환경을 지키고 보전하라는 오더가 떨어졌다. 그러기 위해서는 지구를 오염시키는 근본적인 문제인 인류를 멸망시켜야 한다. 이후에도 해결되지 않을 시에는 생명체의 존재가 지구 환경에 해가 된다고 간주하여 모든 생명체를 멸망시켜야 한다.'
25/01/06 10:52
수정 아이콘
샤아!!
쵸젠뇽밍
25/01/06 10:30
수정 아이콘
울대를 쳐서 타이머를 정지시키는.
한가인
25/01/06 16:10
수정 아이콘
아니 이게 더 무서운데???
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
510668 [LOL] ??? : 미드님 저 탑 못함, 스왑좀 [18] INTJ11210 25/01/12 11210
510667 [기타] 과학상자 영업종료 [25] Myoi Mina 12997 25/01/12 12997
510666 [기타] 역대 중국 왕조들의 수도와 현재 모습[초스압주의] [35] 삭제됨12522 25/01/12 12522
510665 [기타] 전세계가 단 하나의 신생국을 돕기위해 집결한 유일한 전쟁 [25] 탈리스만13295 25/01/11 13295
510664 [게임] 굉장히 흥행 중인 철권8 아빠킹 치지직 크래쉬 [24] 손금불산입10998 25/01/11 10998
510663 [유머] 백종원이 말하는 짜장 짬뽕 차이 [47] 두드리짱15542 25/01/11 15542
510662 [기타] "여자 몸매 보고 싶어" 돌봄 로봇과 성적 대화 즐기는 노인들 [73] 실제상황입니다14808 25/01/11 14808
510661 [기타] 한국보다 더 추운 북한은 난방을 어떻게 할까? [1] 시나브로11153 25/01/11 11153
510660 [스타1] 스타1 하는 어윤수 프로 (vs김윤중) [9] 시나브로9616 25/01/11 9616
510659 [기타] '유튜버들은 이 사람 없었으면 어쩔 뻔 했냐 진짜..............' [48] Myoi Mina 17217 25/01/11 17217
510658 [기타] 대한한공이 구매한 A350-900 근황 [22] a-ha12912 25/01/11 12912
510657 [기타] 2010년 이후 연도별 유행음식 [38] 손금불산입10375 25/01/11 10375
510656 [기타] 실시간 세계인구 카운트(유튜브) [11] Croove10611 25/01/11 10611
510655 [유머] 여스트리머 신상 피규어 [14] DogSound-_-*12221 25/01/11 12221
510654 [유머] 꼰대 'MZ','잘파' 시대는 가라 [20] 길갈11866 25/01/11 11866
510653 [동물&귀욤] 처음 하늘을 본 침팬치 반응 [4] Myoi Mina 8724 25/01/11 8724
510652 [유머] 서양의 노빠꾸 코미디언들 [6] 가만히 손을 잡으10906 25/01/11 10906
510649 [기타] LG가 세계 1위라는 분야... [34] a-ha15669 25/01/11 15669
510647 [유머] 서울관광와서 실망한 사람 [21] 유머16474 25/01/11 16474
510646 [유머] CES 2025에서 AMD 임원이 밝힌 9800X3D 물량부족의 원인 [11] EnergyFlow10753 25/01/11 10753
510645 [유머] ??? : 저는 독재자가 되지 않을 것 입니다 [51] EnergyFlow14072 25/01/11 14072
510644 [기타] 피지알러 여러분 아침에 커피 한잔씩 드셨나요? [44] a-ha12219 25/01/11 12219
510643 [유머] 일본인들 국뽕 채워주는 방송 [44] 동굴곰14976 25/01/11 14976
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로