인사이트

총 4,173개

오늘

NAVER D2
개발
노트북을 닫아도 개발은 계속된다: 자율 그래프 주도 개발네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. ​ ​ 발표 내용 '자율 그래프 주도 개발(Autonomous Graph-Driven Development)'에서는 사람의 직접적인 지시 없이 그래프가 프로젝트 진행을 주도합니다. 스펙 문서와 코드는 AI Agent 루프가 작성하고, 결정론적 코드가 이를 기계적으로 검사하며, 결함은 피드백 루프를 통해 자동으로 바로잡습니다. 사람이 AI를 호출하던 주도권이 역전되어 이제는 AI가 필요할 때만 사람을 호출합니다. ​ ​ 발표 대상 자율 그래프 주도 개발 방법론에 관심있는 개발자나 기획자 ​ 목차 1. AI가 다 해 주는데, 뭐가 문제지? (배경 및 문제 정의) 여전히 사람이 주도한다 요구사항은 항상 변한다 AI 협업에 남은 빈자리, 자율 진행 ​ 2. 어떻게 스스로 굴러가게 할까? (접근 방법 및 실행 과정) Autonomous Graph-Driven Development (용어 정의) Don't call us, we'll call you 그래프의 핵심 원칙 그래프 구조 노드 1 Upstream — 기획서 변경을 요구사항으로 옮긴다 노드 2 Spec-drive — 스펙을 확정한다 노드 3 Dev — 확정된 스펙을 구현한다 노드 3 Dev 사례 — 복잡한 AI 대화 구현, 토큰 비용 $199.61 노드 4 Verify — 배포된 코드를 E2E 테스트로 검증한다 노드 5 Audit — 스펙의 논리적 결함을 찾는다 진행 현황 대시보드 — 어디까지 왔고, 왜 멈춰 있는가? ​ 3. 처음부터 잘 굴러갔을까? (어려움 및 극복 과정) 그래프 자체가 또 하나의 제품이었다 어려움 1 루프 안정화 — 루프는 눈치채지 못했다 어려움 2 AI와 협업 — 그래프는 쉬지 않는다 어려움 3 기획과 협업 — 애매한 문장은 AI도, 사람도 오해한다 ​ 4. 그래서, 무엇이 달라졌나? (성과 및 임팩트) 사람은 도구를 만들고, 루프는 제품을 만든다 성과 1 리드타임 — 사람의 결정만 남는다 성과 2 인력 — 백엔드 개발 공수 86% 절감 성과 3 토큰 비용 — 루프는 프런티어 모델이 아니어도 충분하다 성과 4 전체 비용 — 사람 + AI를 합쳐도 71% 절감 임팩트 1 일하는 방식의 변화 — Human-in-the-loop 임팩트 2 확장 가능성 — 그래프 운영 도구에는 서비스 지식이 없다 ​ 마무리 결정만 하면, 그래프가 알아서 합니다 ​ ◎ NAVER Engineering Day란? ​ NAVER에서는 사내 개발 경험과 기술 트렌드를 교류를 할 수 있는 프로그램이 많이 있습니다. 그중 이제는 매회 평균 100개 이상의 발표가 이루어지는 NAVER Engineering Day를 빼놓을 수 없는데요. 2016년부터 시작된 ENGINEERING DAY는 실무에서의 기술 개발 경험과 새로운 기술과 플랫폼 도입 시 유용하게 활용될 수 있는 팁 등을 공유하며 서로 배우고 성장하는 네이버의 대표적인 사내 개발자 행사입니다.( 관련 포스팅 보기 ) 올해 진행된 NAVER Engineering Day의 일부 세션을 공개합니다. ​ [동영상 제공 채널 안내] 네이버 TV 서비스 종료로 인해 기존 네이버 TV 채널을 클립( @devrel_d2 )으로 이동하였습니다. 앞으로도 많은 관심과 팔로우 부탁드리겠습니다.
NAVER D2
개발
Image AI 서빙 최적화: CPU와 GPU의 빈 시간을 줄여 H100 67장을 절감하기까지네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. ​ ​ 발표 내용 SNOW의 16개 Image AI 서비스에서 응답 속도와 안정성을 높이면서, H100 환산 약 67장의 GPU 자원을 절감한 경험을 공유합니다. LitServe 전환과 함께 불필요한 연산과 CPU·GPU의 대기 시간을 줄이고, 실제 트래픽에 맞게 설정을 조정하며, 여러 서비스가 GPU를 공유하도록 만든 과정을 소개합니다. ( English Version : ​ https://naver.me/xQJbNeuF ) ​ 발표 대상 Image AI 모델을 서비스로 운영하며 응답 속도와 GPU 자원 효율을 개선하고 싶은 엔지니어 ​ 목차 1. SNOW Image AI 서비스와 기존 서빙 구조의 문제 ​ 2. LitServe 전환 - 반복되는 이미지 인코딩·디코딩 제거 - CPU 전처리와 GPU 계산의 대기 시간 줄이기 ​ 3. 실제 트래픽에 맞춘 파라미터 조정 - 워커 수, 스레드 수, CPU 한도와 코어 고정 - Autoscaling 로직 개선 - 에이전트 실험과 검토를 통한 반복 최적화 ​ 4. 작업 분리와 GPU 공유 - 가벼운 작업을 CPU로 분리 - 여러 서비스를 하나의 GPU에 함께 배치 - 불필요한 연산과 요청 대기 비용 제거 ​ 5. 총 절감 기여량과 누적 개선 - H100 환산 67.37장 절감 - 응답 속도, 처리량, 첫 요청 예열, 오류율, 취소율, GPU 활용도 개선 ​ 6. 향후 과제 - Image Harness - 트래픽에 맞춘 자동 최적화 ​ ◎ NAVER Engineering Day란? ​ NAVER에서는 사내 개발 경험과 기술 트렌드를 교류를 할 수 있는 프로그램이 많이 있습니다. 그중 이제는 매회 평균 100개 이상의 발표가 이루어지는 NAVER Engineering Day를 빼놓을 수 없는데요. 2016년부터 시작된 ENGINEERING DAY는 실무에서의 기술 개발 경험과 새로운 기술과 플랫폼 도입 시 유용하게 활용될 수 있는 팁 등을 공유하며 서로 배우고 성장하는 네이버의 대표적인 사내 개발자 행사입니다.( 관련 포스팅 보기 ) 올해 진행된 NAVER Engineering Day의 일부 세션을 공개합니다. ​ [동영상 제공 채널 안내] 네이버 TV 서비스 종료로 인해 기존 네이버 TV 채널을 클립( @devrel_d2 )으로 이동하였습니다. 앞으로도 많은 관심과 팔로우 부탁드리겠습니다.
NAVER D2
개발
흩어진 행동을 연결하다: 네이버 전 지면의 사용자 행동을 학습하는 추천 모델 개발기네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. ​ 발표 내용 네이버의 검색·피드·광고 등 다양한 도메인의 데이터와 추천 기술을 연결하는 버티컬 추천 모델의 개발 및 서비스 적용 경험을 소개하고, 서빙·최적화와 지식 증류를 통한 도메인 간 지식 전이 방향을 공유합니다. ​ 발표 대상 여러 서비스 및 도메인의 사용자 행동 데이터를 활용한 크로스 도메인 추천에 관심 있는 분 시퀀스 기반 추천, 생성형 추천 등 다양한 추천 모델의 개발 및 서비스 적용에 관심 있는 분 대규모 추천 모델의 실시간 추론 및 GPU 서빙 최적화에 관심 있는 분 Foundation Model의 지식을 경량 모델로 전이하는 Knowledge Distillation 기술에 관심 있는 분 ​ 목차 Part 1. 개발 배경과 목표 Part 2. VMs 시스템 구조 Part 3. VMs: 리트리버와 통합 랭커 Part 4. 지면별 적용 현황과 성과 Part 5. VMs 서빙과 최적화 Part 6. FM 지식 전이 Part 7. 향후 계획 ​ ​ ◎ NAVER Engineering Day란? ​ NAVER에서는 사내 개발 경험과 기술 트렌드를 교류를 할 수 있는 프로그램이 많이 있습니다. 그중 이제는 매회 평균 100개 이상의 발표가 이루어지는 NAVER Engineering Day를 빼놓을 수 없는데요. 2016년부터 시작된 ENGINEERING DAY는 실무에서의 기술 개발 경험과 새로운 기술과 플랫폼 도입 시 유용하게 활용될 수 있는 팁 등을 공유하며 서로 배우고 성장하는 네이버의 대표적인 사내 개발자 행사입니다.( 관련 포스팅 보기 ) 올해 진행된 NAVER Engineering Day의 일부 세션을 공개합니다. ​ [동영상 제공 채널 안내] 네이버 TV 서비스 종료로 인해 기존 네이버 TV 채널을 클립( @devrel_d2 )으로 이동하였습니다. 앞으로도 많은 관심과 팔로우 부탁드리겠습니다.
NAVER D2
개발
카페 관리도구 개편기: 문서는 낡았고, 사람은 떠났고, 코드만 남았다.네이버 사내 기술 교류 행사인 NAVER Engineering Day 10th 에서 발표되었던 세션을 공개합니다. ​ ​ 발표 내용 코드만 남아 있던 14년 된 카페 관리도구를 AI와 함께 분석하고, Storybook과 MSW로 화면과 동작을 재현하며 새로운 카페 스튜디오를 개발했습니다. 이 과정에서 기획, 디자인, BE와의 협업 방식이 어떻게 달라졌는지 공유합니다. ​ 발표 대상 레거시 시스템 개편을 준비하는 개발자 AI를 실무에 활용하려는 엔지니어 화면과 정책을 함께 검증하며 협업하고 싶은 기획자·디자이너 ​ 목차 프로젝트 개요 구 카페 관리도구 분석 신규 스튜디오 개발 일하는 방식 마무리 ​ ​ ◎ NAVER Engineering Day란? ​ NAVER에서는 사내 개발 경험과 기술 트렌드를 교류를 할 수 있는 프로그램이 많이 있습니다. 그중 이제는 매회 평균 100개 이상의 발표가 이루어지는 NAVER Engineering Day를 빼놓을 수 없는데요. 2016년부터 시작된 ENGINEERING DAY는 실무에서의 기술 개발 경험과 새로운 기술과 플랫폼 도입 시 유용하게 활용될 수 있는 팁 등을 공유하며 서로 배우고 성장하는 네이버의 대표적인 사내 개발자 행사입니다.( 관련 포스팅 보기 ) 올해 진행된 NAVER Engineering Day의 일부 세션을 공개합니다. ​ [동영상 제공 채널 안내] 네이버 TV 서비스 종료로 인해 기존 네이버 TV 채널을 클립( @devrel_d2 )으로 이동하였습니다. 앞으로도 많은 관심과 팔로우 부탁드리겠습니다.