Netflix (2) 썸네일형 리스트형 Netflix가 AI 시대에 시스템 사고자를 더 찾는 이유 Netflix가 AI 시대에 시스템 사고자를 더 찾는 이유AI 뉴스 썸네일생성형 AI는 제품 관리자와 디자이너가 프로토타입을 만들고, 데이터 과학자가 코드를 작성하는 범위를 넓혔어요. Netflix는 직무명을 다시 나누는 대신 여러 팀이 안전하게 움직일 공통 기반을 설계할 사람을 더 찾고 있어요. 빠른 제작만큼 신뢰할 데이터, 보안, 테스트, 품질 기준을 함께 다루는 역량이 중요해졌기 때문이에요. 1 2핵심 요약구분핵심왜 볼 만한가요직무 변화제품·디자인·데이터 직군이 AI로 초기 구현까지 맡게 됐어요협업의 시작점과 책임 범위가 달라지고 있어요채용 기준Netflix는 여러 조직이 재사용할 기반을 설계하는 시스템 사고 역량을 더 찾고 있어요개인의 속도보다 조직 전체의 확장성과 품질을 좌우해요전문성엔지니어링·.. 넷플릭스는 vLLM을 어떻게 프로덕션에 올렸을까요 넷플릭스는 vLLM을 어떻게 프로덕션에 올렸을까요AI 뉴스 썸네일넷플릭스가 사내 LLM 서빙 플랫폼의 구조와 운영 경험을 공개했어요. vLLM을 고르는 데서 끝나지 않고, 기존 ML 인프라와 연결한 방식부터 무중단 배포, 메트릭 통합, 제약 디코딩 병목까지 구체적으로 다뤘어요. 1핵심 요약구분핵심왜 볼 만한가요서빙 구조기존 JVM 서빙 계층과 Triton 위에 vLLM을 연결했어요LLM만을 위한 별도 운영 체계를 만들지 않고 기존 배포·상태 확인·자동 확장 기능을 재사용했어요엔진 선택TensorRT-LLM에서 vLLM을 기본 경로로 바꿨어요최고 처리량 하나보다 사용자 정의 모델, 디버깅, 확장 훅, 연구 환경과의 연결 비용을 함께 봤어요APIgRPC와 OpenAI 호환 HTTP API를 함께 열었어요기존.. 이전 1 다음
