# 스캐터랩 블로그

> 슼랩인들의 고군분투 스토리.zip

## Categories

- [Backend](https://blog.scatterlab.co.kr/category/backend)
- [Business](https://blog.scatterlab.co.kr/category/business)
- [Frontend](https://blog.scatterlab.co.kr/category/frontend)
- [Interview](https://blog.scatterlab.co.kr/category/interview)
- [ML Engineering](https://blog.scatterlab.co.kr/category/ml-engineering)
- [ML Research](https://blog.scatterlab.co.kr/category/ml-research)
- [People](https://blog.scatterlab.co.kr/category/people)
- [Product](https://blog.scatterlab.co.kr/category/product)

## Posts in Product

- [zeta labs 개발기 - AI와 함께라면 누구나 만들 수 있다](https://blog.scatterlab.co.kr/zeta-labs-개발기-238416): 어느 날 대표님이 이제 개발자는 필요 없다고 말했다
- [zeta: 엔터테인먼트의 새로운 패러다임](https://blog.scatterlab.co.kr/zeta-intro-2506): 일주일에 12시간을 사용하는 AI 엔터테인먼트 서비스를 소개합니다.
- [사람처럼 말 잘하는 AI 캐릭터 쉽고 빠르게 만들기](https://blog.scatterlab.co.kr/making-ai-character): 3개월만에 원하는 AI 캐릭터를 만들 수 있는 스캐터랩만의 방법론
- [사람들은 AI와 대화를 얼마나 잘할까?](https://blog.scatterlab.co.kr/luda-beta-test): '이루다'의 베타 테스트 분석 결과를 공개합니다.
- [과연 GPT-3는 얼마나 똑똑한 걸까?](https://blog.scatterlab.co.kr/gpt3-evaluation): 여러 분야의 문제를 통해 GPT-3의 '지능'을 평가하는 방법에 대해서 알아봅니다.
- [슈퍼휴먼 AI를 꿈꾸는 루다의 대화 구성](https://blog.scatterlab.co.kr/luda-conversation): 더 이상 외로운 사람은 없다
- [GPT-3의 다섯 가지 한계](https://blog.scatterlab.co.kr/gpt3-limit): GPT-3가 대단한 모델이기는 하지만 완벽하지는 않습니다. 이번 글에서는 GPT-3의 5가지 한계에 대해 알아봅니다.
- [GPT-3, 인류 역사상 가장 뛰어난 언어 AI](https://blog.scatterlab.co.kr/gpt3-review): Open AI에서 발표한 GPT-3에 대해서 같이 이야기합니다
- [친근하고 귀여운 챗봇 디자인 2편 - 대화 디자인 편](https://blog.scatterlab.co.kr/design-chatbot-conversation): 친근한 관계를 맺는 대화는 어떻게 디자인할까요?

## Posts in Backend

- [zeta labs 개발기 - AI와 함께라면 누구나 만들 수 있다](https://blog.scatterlab.co.kr/zeta-labs-개발기-238416): 어느 날 대표님이 이제 개발자는 필요 없다고 말했다
- [ChatGPT보다 오래 사용하는 AI 서비스, 그 뒤의 백엔드 팀 이야기](https://blog.scatterlab.co.kr/156669)
- [루다 서버에서 루다의 개인화 메시지를 처리하는 방법](https://blog.scatterlab.co.kr/personal-message-with-annotation): "루다 서버에서 루다의 개인화 메시지를 처리하는 방법과, 그 과정에서 주의가 필요했던 점들에 대한 글입니다."
- [루다 선톡을 대비하는법](https://blog.scatterlab.co.kr/prescaler): 트래픽이 갑자기 증가할 때 어떻게 대응할까요?"
- [Karpenter와 Spot으로 저렴하고 유연하게 노드 프로비저닝하기](https://blog.scatterlab.co.kr/spot-karpenter): Spot을 이용한 서버 비용 절감기
- [이루다 서버의 모니터링 스택을 소개합니다](https://blog.scatterlab.co.kr/spring-boot-monitoring-with-prometheus): Spring Boot 서버 모니터링하기. 근데 이제 Prometheus를 곁들인
- [Custom Metric(ex. RPS)으로 HPA 설정하기](https://blog.scatterlab.co.kr/kubernetes-hpa-custom-metric): 쿠버네티스 환경에서 Custom Metric으로 오토스케일링 하는 과정을 설명합니다
- [쿠버네티스에서 노드가 추가될 때마다 슬랙 알람 쏘기](https://blog.scatterlab.co.kr/kubernetes-event-alarm): 나만의 Kubernetes event watcher 만들기
- [개발자를 위한 AWS 클라우드 보안 (3) - 인프라 보안과 사고 대응](https://blog.scatterlab.co.kr/aws-cloud-security-for-devs-3): 이것만 알아도 클라우드 보안 마스터
- [개발자를 위한 AWS 클라우드 보안 (2) - 로깅 및 모니터링과 데이터 보호](https://blog.scatterlab.co.kr/aws-cloud-security-for-devs-2): 이것만 알아도 클라우드 보안 마스터
- [개발자를 위한 AWS 클라우드 보안 (1) - 클라우드 설계 원칙과 IAM](https://blog.scatterlab.co.kr/aws-cloud-security-for-devs-1): 이것만 알아도 클라우드 보안 마스터
- [쿠버네티스(Kubernetes)를 활용한 안정적이고 효율적인 운영 환경 구성하기](https://blog.scatterlab.co.kr/kubernetes-in-pingpong): 배포? 더이상 두렵지 않아요

## Posts in Frontend

- [zeta labs 개발기 - AI와 함께라면 누구나 만들 수 있다](https://blog.scatterlab.co.kr/zeta-labs-개발기-238416): 어느 날 대표님이 이제 개발자는 필요 없다고 말했다
- [React Native 앱의 배포 트랙 관리하기](https://blog.scatterlab.co.kr/react-native-deployment-track): CodePush와 adhoc으로 React Native 앱 '너티'의 배포 트랙 관리하기
- [GitHub Actions로 App 자동으로 배포하기](https://blog.scatterlab.co.kr/nutty-app-deployment): 루다와 함께 사용하는 메신저 'Nutty' 자동으로 배포하기

## Posts in ML Research

- [유저와 함께 만드는 LLM 2편 — 제타에 Online Learning 도입하기](https://blog.scatterlab.co.kr/유저와-함께-만드는-llm-2편-제타에-online-learning-도입하기-196476)
- [유저와 함께 만드는 LLM — 제타에 Preference Optimization 도입하기](https://blog.scatterlab.co.kr/유저와-함께-만드는-llm-제타에-preference-optimization-도입하기-172134)
- [스캐터랩이 가장 재밌는 LLM을 찾는 방법](https://blog.scatterlab.co.kr/104253): 실제 제품에서 유저 반응으로 LLM 평가하기: A/B 테스트·MAB·리더보드
- [RLHF 외에 LLM이 피드백을 학습할 수 있는 방법은 무엇이 있을까?](https://blog.scatterlab.co.kr/alt-rlhf): "RLHF 외에 Human feedback을 학습할 수 있는 방법론들에 대해서 소개하고 핑퐁팀에서 실험한 경험을 공유합니다."
- [멀티턴 이미지 대화: 조규성 vs 안정환, 루다야 누가 더 잘생겼어?](https://blog.scatterlab.co.kr/multiturn-image-dialogue): 포토챗 베타보다 개선된 궁극의 이미지 대화 모델을 만드는 과정을 다룹니다.
- [더 나은 생성모델을 위해 RLHF로 피드백 학습시키기](https://blog.scatterlab.co.kr/luda-rlhf): Human feedback을 학습할 수 있는 RLHF 방법론에 대해서 소개하고 루다에 적용한 사례한 경험을 공유합니다.
- [ACL 2023 Review](https://blog.scatterlab.co.kr/acl2023-review): 핑퐁팀과 함께하는 ACL 2023 Review
- [읽씹할 결심 - 생성 모델에게 답변 시간 가르치기](https://blog.scatterlab.co.kr/delayed-reply): 루다, 다온에게 지연 답변 기능을 구현한 과정을 설명합니다.
- [Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 모델을 챗봇으로 빚어내기](https://blog.scatterlab.co.kr/luda-gen-2): 생성 모델 Luda Gen 1을 어떻게 챗봇 모델로 학습했는지를 구체적으로 다룹니다.
- [EMNLP 2022 Review](https://blog.scatterlab.co.kr/emnlp2022-review): 핑퐁팀과 함께하는 EMNLP 2022 Review
- [Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 1편 - 생성 기반 챗봇](https://blog.scatterlab.co.kr/luda-gen-1): 생성 모델 Luda Gen 1을 출시하기까지의 과정을 소개합니다
- [루다, 눈을 뜨다! 포토챗 베타의 멀티모달 기술 소개](https://blog.scatterlab.co.kr/photochat-beta): 포토챗 베타 서비스를 출시하기까지의 연구 과정을 소개합니다.
- [VPT: 다이아몬드 곡괭이를 만들기 위한 여정](https://blog.scatterlab.co.kr/video-pretraining-review): OpenAI에서 어떻게 다이아몬드 곡괭이를 만들었는지 알아봅니다. (VPT)
- [Continual Learning: 꾸준히 성장하는 모델을 만들기 위한 기술](https://blog.scatterlab.co.kr/continual-learning): 주제별로 알아보는 continual learning
- [ACL 2022 Review](https://blog.scatterlab.co.kr/acl2022-review): 핑퐁팀과 함께하는 ACL 2022 Review
- [EMNLP 2020 프리뷰](https://blog.scatterlab.co.kr/emnlp2020-preview): 알아두면 쓸데있는 신비한 EMNLP 2020! 저희가 준비해보았습니다.
- [핑퐁팀 ML 세미나, 그 여섯 번째](https://blog.scatterlab.co.kr/ml-seminar-season-6): 핑퐁 ML 리서치 사이언티스트들의 시즌 6 세미나 자료
- [핑퐁팀 ML 세미나, 그 다섯 번째](https://blog.scatterlab.co.kr/ml-seminar-season-5): 핑퐁 ML 리서치 사이언티스트들과 엔지니어들의 시즌 5 세미나 자료
- [핑퐁팀과 함께하는 ACL 2020 리뷰](https://blog.scatterlab.co.kr/acl2020-review): ACL 2020에 발표되었던 논문들을 추려서 리뷰해보았습니다.
- [꼼꼼하고 이해하기 쉬운 ELECTRA 논문 리뷰](https://blog.scatterlab.co.kr/electra-review): Review of ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators
- [꼼꼼하고 이해하기 쉬운 Reformer 리뷰](https://blog.scatterlab.co.kr/reformer-review): Review of Reformer: The Efficient Transformer
- [TensorFlow TPU 학습 101](https://blog.scatterlab.co.kr/tpu-with-tf2-and-gcp): Google ML 서비스의 심장으로 학습하기
- [핑퐁팀 ML 세미나, 그 네번째](https://blog.scatterlab.co.kr/ml-seminar-season-4): 핑퐁 ML 리서치 사이언티스트들의 시즌 4 세미나 자료
- [Transformer - Harder, Better, Faster, Stronger](https://blog.scatterlab.co.kr/transformer-review): Transformer 구조체와 이 구조를 향상시키기 위한 기법들을 같이 알아봅시다.
- [EMNLP 2019 Review - 핑퐁팀이 보고, 듣고, 느낀 점](https://blog.scatterlab.co.kr/emnlp2019-review): 핑퐁팀이 EMNLP 2019에 가서 보았던 인상 깊었던 논문들을 리뷰해 보았습니다. 
- [EMNLP-IJCNLP 2019 프리뷰](https://blog.scatterlab.co.kr/emnlp2019-preview): EMNLP-IJCNLP 2019 in Hong Kong (Nov 3-7, 2019) 미리 한번 살펴보자!
- [핑퐁팀 ML 세미나, 그 세번째](https://blog.scatterlab.co.kr/ml-seminar-season-3): 핑퐁 ML 리서치 사이언티스트들의 시즌 3 세미나 자료
- [핑퐁팀 ML 세미나, 그 두 번째](https://blog.scatterlab.co.kr/ml-seminar-season-2): 핑퐁 ML 리서치 사이언티스트들의 시즌 2 (Question Answering) 세미나 자료
- [꼼꼼하고 이해하기 쉬운 XLNet 논문 리뷰](https://blog.scatterlab.co.kr/xlnet-review): Review of XLNet: Generalized Autoregressive Pretraining for Language Understanding
- [핑퐁팀 ML 세미나, 그 시작](https://blog.scatterlab.co.kr/ml-seminar-season-1): 핑퐁 ML 리서치 사이언티스트들의 시즌 1 (Dialog System) 세미나 자료

## Posts in ML Engineering

- [유저와 함께 만드는 LLM 2편 — 제타에 Online Learning 도입하기](https://blog.scatterlab.co.kr/유저와-함께-만드는-llm-2편-제타에-online-learning-도입하기-196476)
- [월 150만 유저가 사용하는 LLM Inference 인프라 안정적으로 운영하기](https://blog.scatterlab.co.kr/월-150만-유저가-사용하는-llm-inference-인프라-안정적으로-운영하기-122607)
- [최대 24배 빠른 vLLM의 비밀 파헤치기](https://blog.scatterlab.co.kr/vllm-implementation-details): "최대 24배의 성능을 보인 vLLM, 코드 레벨까지 분석해보자!"
- [새로운 루다를 지탱하는 모델 서빙 아키텍처 — 3편: 안정적인 LLM 서비스를 위한 서빙 최적화 기법](https://blog.scatterlab.co.kr/serving-architecture-3): LLM 서빙을 위한 다양한 최적화 기법과 그 효과를 검증하기 위한 부하 테스트 방법론
- [Deduplication - 학습 데이터에서 중복 제거하기](https://blog.scatterlab.co.kr/deduplication): Luda Gen 1.5 모델을 학습할 때 데이터셋에서 중복을 제거한 방법에 대해 이야기합니다.
- [새로운 루다를 지탱하는 모델 서빙 아키텍처 — 2편: ArgoCD와 모델 서빙](https://blog.scatterlab.co.kr/serving-architecture-2): A/B 테스트까지 가능한 안정적인 모델 서빙 인프라 구조 설계 방법
- [새로운 루다를 지탱하는 모델 서빙 아키텍처 — 1편: A/B 테스트를 위한 구조 설계](https://blog.scatterlab.co.kr/serving-architecture-1): '모델 추론 구조 자체'를 A/B 테스트하는 방법
- [Apache Beam으로 머신러닝 데이터 파이프라인 구축하기 3편 - RunInference로 모델 추론하기](https://blog.scatterlab.co.kr/apache-beam-3): Apache Beam Native API, RunInference로 대규모 데이터 모델 추론하기
- [TFX 머신러닝 파이프라인 사용하기](https://blog.scatterlab.co.kr/use-tfx-pipeline-with-customization): 팀에서 필요한 학습 파이프라인 구축하기
- [AWS Inferentia를 이용한 모델 서빙 비용 최적화: 모델 서버 비용 2배 줄이기 2탄](https://blog.scatterlab.co.kr/aws-inferentia-2): 우당탕탕 Inferentia 배포하기
- [AWS Inferentia 를 이용한 모델 서빙 비용 최적화: 모델 서버 비용 2배 줄이기 1탄](https://blog.scatterlab.co.kr/aws-inferentia): AWS 고객감사 특별 할인... 모델 서빙 비용 최대 80% 초특가 할인전
- [Apache Beam으로 머신러닝 데이터 파이프라인 구축하기 2편 - 개발 및 최적화](https://blog.scatterlab.co.kr/apache-beam-2): 대규모 머신러닝 데이터 파이프라인 개발하고 최적화하기
- [TensorFlow Custom Op으로 데이터 변환 최적화하기](https://blog.scatterlab.co.kr/custom-op-in-data-processing): 4.697ms → 17.147μs
- [하나의 조직에서 TensorFlow와 PyTorch 동시 활용하기](https://blog.scatterlab.co.kr/torch-to-tf-tf-to-torch): 불타는 텐서 흐름!
- [딥러닝 모델 서비스 A-Z 2편 - Knowledge Distillation](https://blog.scatterlab.co.kr/ml-model-optimize-2): 난 선생이고 넌 학생이야
- [딥러닝 모델 서비스 A-Z 1편 - 연산 최적화 및 모델 경량화](https://blog.scatterlab.co.kr/ml-model-optimize): 딥러닝 모델 서비스 A-Z 1편

## Posts in Interview

- [ChatGPT보다 오래 사용하는 AI 서비스, 그 뒤의 백엔드 팀 이야기](https://blog.scatterlab.co.kr/156669)
- [제타의 매력을 세상에 전파하는 팀](https://blog.scatterlab.co.kr/제타의-매력을-세상에-전파하는-팀-131253)
- [AI 엔터테인먼트 제품은 어떻게 만들까?](https://blog.scatterlab.co.kr/interview-zeta-po): 제타의 해자(Moat)를 만들어 나가는 이야기 - 제품팀 리드 정지수님
- [매주 새로운 LLM 모델을 배포하는 제타의 AI 팀 이야기](https://blog.scatterlab.co.kr/interview-mlresearch): 유저들이 일주일에 12시간 사용하는 AI 모델은 어떻게 만들어질까요?
- [2022 개인정보 가명·익명처리 기술 경진대회 참여 후기](https://blog.scatterlab.co.kr/pidicon): '성동구소재회사근무중인20대남성개발자4명'팀의 대상 비법
- [알라꿍달라꿍의 대화요약 이모저모](https://blog.scatterlab.co.kr/alaggung-dlaggung-dialog-summary): 2021 한국어 인공지능 자연어 경진대회 대화요약 수상기
- [핑퐁 팀이 '팀워크'를 발휘할 팀원을 찾는 법](https://blog.scatterlab.co.kr/recruit-process): 팀워크 역량 = 업무 역량 X 커뮤니케이션 역량 X 컬처 핏
- [슈퍼휴먼 AI를 만드는 핑퐁팀의 10가지 컬처 코드](https://blog.scatterlab.co.kr/culture-code): 핑퐁팀은 어떻게 일하나요?

## Posts in Business

- [zeta: 엔터테인먼트의 새로운 패러다임](https://blog.scatterlab.co.kr/zeta-intro-2506): 일주일에 12시간을 사용하는 AI 엔터테인먼트 서비스를 소개합니다.
- [감성 AI 시장, 얼마나 커질까?](https://blog.scatterlab.co.kr/감성-ai-시장-얼마나-커질까-56895): "해외에서 인기 있는 감성 AI 서비스들은 무엇이고 왜 잘될까? 국내 서비스 중에는 어디에 감성 AI를 접목시킬 수 있을까?"
- [샘 알트만과 따로 만나 1시간 동안 나눈 이야기](https://blog.scatterlab.co.kr/round-table-talks-with-openai): Private Session으로 진행된 Round Table Talks with OpenAI in Seoul 주요 내용을 공유합니다.