:: 게시판
:: 이전 게시판
|
- PGR21 관련된 질문 및 건의는 [건의 게시판]을 이용바랍니다.
- (2013년 3월 이전) 오래된 질문글은 [이전 질문 게시판]에 있습니다. 통합 규정을 준수해 주십시오. (2015.12.25.)
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/06/05 17:30
일단 외국 서버에서 돌아가는 것은 확실합니다. 웹페이지야 바로바로 떠야되니까 한국 서버에 놓지만 말씀하신대로 ai처럼 응답 시간이 중요하지 않은 경우는 굳이 한국 서버에 놓을 필요가 없습니다
25/06/05 17:33
굳이 KT망은 아닐수 있고 (그럴 가능성이 높지만) 마이크로소프트 Azure 서비스의 데이터센터의 NVIDIA GPU 서버에서 돌겠죠.
ChatGPT같은 서비스의 서버를 한국에 두어야 하는 이유는 저도 잘 모르겠습니다. 지금 OpenAI 한국지사도 영업조직일겁니다. 그리고, KT-MS 협력은 또 궤가 다릅니다. GPT-K 뭐 이런 말이 나오는데 한국에 GPU 서버를 두고 돌아갈지 의문이네요.
25/06/05 17:44
현재 서버는 대부분 외국에 있고, 데이터 처리도 다 외국에서 되죠. OpenAI가 한국에 서버를 설치하면 뭐 latency 개선 이외에 딱히 큰 효과는 없겠죠. 다만 국내 기업이 LLM을 국내에 있는 서버로 서비스를 한다면 보안 면에서 국내 기업들이 해당 서비스를 이용할 확률이 크다고 봅니다. 예를 들어 한국 지도 데이터는 국외 반출이 법적으로 제한됩니다. 한국 서버에서 돌아가는 LLM이 생기면 해당 지도 데이터를 통해서 뭔가 서비스를 만들 수 있겠죠.
25/06/05 19:55
https://platform.openai.com/docs/guides/your-data
여기 참고하면 될 것 같습니다. 연산 서버는 미국, 유럽에 있고 데이터는 더 넓은 지역에 있습니다. 한국에도 있긴한데 특정 기업들의 데이터 보호용으로 알고있어서 그 외의 사람들도 한국 내 데이터센터를 쓰는지는 확인이 필요할 것 같습니다.
25/06/05 20:24
https://openai.com/index/introducing-data-residency-in-asia/
여기에도 관련 내용이 더 있습니다. 카카오가 언급되어있고 비지니스 제품, 조건이 되는 API 플랫폼이 지역의 데이터 센터를 이용한다고 되어있네요.
25/06/05 22:40
azure 한국 리전이 있긴합니다만 극히 일부 서비스들만 한국리전을 이용할거고, chatgpt 포함 대부분 해외서버에서 돌아갈겁니다
25/06/06 02:16
해외에 있지 않을까 싶습니다. 정확히 ChatGPT 이야기는 아니긴 합니다만... AWS가 제공하는 Bedrock 같은 서비스들 보면 Claude Sonnet 3.5까지는 AWS 서울 리전으로 한정해서 호출할 수 있었는데, Sonnet 3.7 이상부터는 서울 리전만으로는 제공되지 않고 (굳이 아시아권에서 쓰고 싶다면) 아시아-태평양 통합으로만 호출해서 쓸 수 있습니다.
|