[DevOps] DevOps 엔지니어
Summary
DevOps Engineer at Coxwave (an AI products company in Seoul) who builds and operates shared cloud infrastructure across multiple AI products, designing CI/CD pipelines, GitOps-based deployment, observability, and secure, cost-efficient AWS (ECS/EKS) environments for both SaaS and on-premise customer deployments.
About
[DevOps Team]
• DevOps Team은 콕스웨이브의 여러 제품이 고객에게 안정적으로 전달되고, 제품과 고객이 늘어나도 팀이 계속 빠르게 움직일 수 있도록 공통 기반을 만드는 팀이에요.
• 콕스웨이브는 하나의 제품만 만드는 회사가 아니에요. AI 서비스를 분석하는 제품부터 기업의 AI 전환, AI Agent, 교육 AI까지 서로 다른 문제를 해결하는 여러 제품과 프로젝트가 동시에 움직이고 있어요. 콕스웨이브는 AI가 실제 사람과 기업의 문제를 해결하고, 더 중요한 일을 맡을 수 있도록 만드는 다양한 제품과 서비스를 만들고 있어요. 제품마다 해결하는 문제는 다르지만, AI를 실제 환경에서 더 잘 활용하고 더 믿고 사용할 수 있게 만든다는 공통된 방향을 가지고 있어요.
• 제품마다 고객과 운영되는 환경도 달라요. 누구나 바로 사용할 수 있는 서비스가 있는 반면, 보안이나 데이터 정책 때문에 고객사 내부 환경에 직접 제공해야 하는 제품도 있어요. 제품이 늘어날 때마다 배포와 운영 방식을 새로 만들기 시작하면 복잡성도 함께 커져요.
• DevOps Team은 여러 제품 팀이 반복해서 겪는 문제를 찾아 공통된 방식으로 해결해요. 배포와 운영을 더 쉽고 안전하게 만들고, 문제가 생겼을 때 빠르게 파악하고 대응할 수 있는 환경을 만들어요. 반복되는 일은 자동화해서 제품 팀이 운영 자체보다 제품과 고객의 문제에 더 집중할 수 있도록 해요.
• 한 팀이 해결한 문제를 다음 팀이 다시 겪지 않게 만드는 것. 그게 DevOps Team이 중요하게 생각하는 일이에요. DevOps Team은 이 서로 다른 제품들이 빠르게 만들어지고 고객에게 안정적으로 전달될 수 있도록 전사 서비스 조직의 공통 기반을 만들어가요.
[콕스웨이브가 걸어온 길]
AI를 평가하는 데서, 실행을 통제하는 데까지.
AI가 내린 판단과 업무 수행 과정을 검증하는 일은 콕스웨이브가 2021년부터 풀어온 문제예요.
• AI Agent 성능 평가 솔루션을 운영하며 300개 이상의 글로벌 고객사에 품질 평가와 분석 기능을 제공했어요.
• 금융 고객사의 실제 업무 데이터를 월 수십만 건 규모로 분석하고 평가하고 있어요.
• 독자 파운데이션 모델의 지시 이행 성능을 평가하는 기준을 만들고, 평가 데이터의 품질을 검증했어요.
• 2025년부터 AI의 이상 행동을 탐지하는 기술을 개발하고 있어요.
• AI 실행 통제 관련 국가 표준화 작업에 참여하고 있어요.
• 행정안전부, 국가인공지능위원회 등 여러 기관에 AI Agent 통제 기술을 자문했어요.
연구를 넘어, 제품과 시장에서 증명해 왔어요.
우리는 기술을 연구하는 데서 멈추지 않고, 실제 제품과 고객의 성과로 연결해 왔어요.
• 국내 최초의 생성형 AI 서비스 매각 사례를 만들었어요.
• 2023년부터 Microsoft의 Agent Orchestration 오픈소스 프로젝트에 코어 컨트리뷰터로 참여하고 있어요.
• Meta, PwC 등 글로벌 기업의 AX 프로젝트를 수행하고, 현대차를 비롯한 여러 기업에 AI Agent 연구와 개발을 자문했어요.
• NVIDIA, Anthropic, OpenAI 등 글로벌 기술 기업과 협업하고 파트너십을 구축했어요.
• Anthropic, OpenAI와 서밋과 해커톤을 공동 개최하며 국내 AI 생태계의 성장을 함께 만들어 왔어요.
[지금 DevOps Team에 합류한다는 것]
지금 콕스웨이브는 여러 제품이 이미 고객에게 제공되고 있고 새로운 제품과 프로젝트도 빠르게 늘어나고 있어요. 이제는 각각의 서비스를 잘 운영하는 것을 넘어, 회사가 더 많은 제품과 고객을 감당할 수 있는 공통 기반을 제대로 만들어야 하는 시점이에요.
• 하나의 제품이 아니라 전사 서비스를 함께 봐요
-- 특정 제품 하나만 담당하지 않아요. 여러 제품 팀과 함께 일하면서 반복되는 문제를 찾고, 한 번의 해결을 회사 전체가 활용할 수 있는 방식으로 발전시켜요.
• 제품 팀 바로 옆에서 일해요
-- 요청받은 작업만 처리하는 팀이 아니에요. 새로운 기능과 서비스가 만들어지는 단계부터 함께 보고, 어떻게 고객에게 더 빠르고 안전하게 전달할 수 있을지 같이 고민해요.
-- DevOps Team에게는 외부 고객만큼 제품을 만드는 동료도 중요한 고객이에요.
• 서로 다른 고객 환경을 함께 다뤄요.
-- 우리가 직접 운영하는 환경뿐 아니라 고객사 내부에서 운영되는 서비스도 있어요.
-- 환경이 달라질 때마다 새로운 운영 방식을 만드는 대신, 가능한 한 같은 기준과 방식으로 관리할 수 있도록 만들어가요.
• 아직 정해지지 않은 기준을 직접 만들 수 있어요.
-- 어떤 문제를 먼저 발견해야 하는지, 어디까지 자동화할지, 문제가 발생했을 때 어떻게 대응할지, 비용과 안정성을 어떤 기준으로 관리할지 아직 만들어야 할 것이 많아요.
-- 지금 합류하는 동료가 만든 기준과 방식이 앞으로 콕스웨이브 여러 제품의 운영 표준으로 남게 돼요.
• AI 제품에 맞는 운영 방식을 만들어가요.
-- AI 서비스는 일반적인 웹 서비스와 조금 다르게 움직여요.
-- 서비스가 완전히 멈추지 않아도 결과가 느려지거나 품질이 나빠질 수 있고, 예상보다 많은 비용이 발생할 수도 있어요. 기존의 기준만 따르기보다 우리 제품에서 무엇이 정상이고 무엇이 이상인지 직접 정의하고 개선해가요.
• AI를 제품뿐 아니라 일하는 방식에도 활용해요.
-- 반복되는 운영과 점검은 가능한 한 자동화하고 AI와 Agent도 적극적으로 활용해요.
-- 사람은 같은 작업을 반복하는 데 시간을 쓰기보다 무엇을 개선해야 하는지 판단하고 더 좋은 구조를 만드는 데 집중하는 것을 지향해요.
• 운영을 유지가 아니라 개선으로 봐요.
-- 서비스가 단순히 멈추지 않는 것만으로 운영이 잘되고 있다고 생각하지 않아요.
-- 배포를 더 빠르고 안전하게 만들고, 문제를 더 일찍 발견하고, 문제가 생겼을 때 더 빠르게 복구할 수 있도록 계속 개선해요.
[우리가 일하는 방식]
• 고객의 성공을 가장 중요한 결과로 봐요 : 무엇을 만들었는지보다 고객의 문제가 실제로 해결됐는지를 봐요. 고객이 만족하고 계속 사용하는지가 가장 중요한 기준이에요. DevOps Team에게는 외부 고객뿐 아니라 우리가 만든 환경 위에서 제품을 만드는 동료도 고객이에요.
• 먼저 움직이고 끝까지 책임져요 : 완벽한 정보나 정해진 답을 기다리지 않아요. 지금 할 수 있는 작은 변화부터 만들고 빠르게 확인해요. 막히거나 위험이 보이면 혼자 안고 가지 않고 필요한 동료와 함께 해결해요.
• 근거로 결정하고 솔직하게 말해요 : 직급이나 목소리의 크기보다 고객의 반응, 데이터와 실행 결과를 중요하게 봐요. 잘 모르는 부분과 좋지 않은 소식도 숨기지 않고 일찍 공유해요.
• 현장에서 얻은 해법을 팀의 자산으로 만들어요 : 한 제품이나 한 고객의 문제를 깊이 해결하되, 그 문제만을 위한 결과로 끝내지 않아요. 같은 문제를 다음에는 더 빠르고 안정적으로 해결할 수 있도록 코드와 자동화, 문서와 공통된 방식으로 남겨요.
• 내 파트가 끝나도 끝난 게 아니에요 : 개발과 운영을 서로 다른 일로 나눠 넘기지 않아요. 무엇을 만들지, 어떻게 고객에게 전달할지, 운영하면서 어떤 문제가 생길 수 있을지까지 제품 팀과 함께 고민해요. 내 작업이 끝났는지가 아니라 실제로 잘 동작하는지를 함께 봐요.
[이런 분과 함께하고 싶어요]
모든 걸 혼자 해내는 사람을 찾지 않아요. 자기 강점이 분명하고, 부족한 부분은 동료와 함께 채우면서 결과까지 가져가는 사람을 찾아요.
• 근본 원인까지 파고드는 분 : 문제가 생겼을 때 당장의 현상만 해결하고 넘어가기보다 왜 그런 일이 발생했는지 이해하려고 해요. 익숙하지 않은 영역이라도 직접 살펴보고 문제의 구조와 원인을 찾아가요.
• 고객과 제품을 함께 보는 분 : 눈앞의 문제를 해결하는 것과 앞으로 더 많은 제품과 고객이 사용할 수 있는 구조를 함께 생각해요. 빠른 실행과 안정성, 당장의 해결과 장기적인 방향 사이에서 합리적인 선택을 할 수 있는 분을 기대해요.
• 스스로 방향을 만들고 실행하는 분 : 모든 조건이 갖춰지거나 누군가 답을 정해주길 기다리지 않아요. 지금 가장 중요한 일을 판단해 먼저 제안하고 시도해요. 필요할 때는 동료의 도움을 구하고 결과가 나올 때까지 책임져요.
• 반복되는 문제를 그냥 두지 않는 분 : 같은 문제와 작업이 반복되면 더 나은 방법을 고민해요. 한 번 해결한 문제를 자동화하거나 다른 동료도 쉽게 사용할 수 있는 방식으로 만드는 데 재미를 느껴요.
• 명확하고 솔직하게 소통하는 분 : 복잡한 내용을 상대가 이해할 수 있는 언어로 설명해요. 자신의 생각과 근거를 분명하게 말하고, 위험하거나 잘 모르는 부분도 숨기지 않아요. 의견이 다를 때도 더 나은 결론을 함께 찾아가요.
Responsibilities
• ECS/EKS 환경에서 서비스를 운영하고, 안정적인 배포를 위한 CI/CD 파이프라인을 구축하고 개선해요.
• AWS 환경에서 안정성과 비용 효율을 고려한 클라우드 인프라를 설계하고 운영해요.
• ArgoCD 등 GitOps 기반의 배포 환경을 구축하고 운영해요.
• AWS/EKS 환경의 접근 제어와 Secret 관리부터 CI/CD 파이프라인의 이미지·의존성 검증까지, 서비스 배포 전반의 보안을 고려해 인프라를 설계하고 운영해요.
• Terraform 등 IaC 도구를 활용해 인프라를 코드로 관리하고, 반복적인 인프라 운영 업무를 자동화해요.
Metrics, Logs, Traces를 기반으로 서비스와 인프라를 관측할 수 있는 Observability 환경을 구축하고 개선해요.
• SaaS뿐 아니라 Enterprise On-premise / Self-hosted 환경에서도 서비스를 안정적으로 배포하고 운영할 수 있는 환경과 가이드를 만들어요.
Requirements
• 3년 이상의 클라우드 인프라, SRE, DevOps 등의 관련 경력을 보유하고 있어요.
• 문제의 구조를 이해하고 근본 원인을 파고들어 해결한 경험이 있어요.
• AI 도구와 에이전트를 활용해 인프라 운영을 자동화하거나 업무 생산성을 높인 경험이 있어요.
• IAM, Secret 관리, Container Image Scanning 등 클라우드 및 CI/CD 환경의 기본적인 보안 요소를 이해하고 실제 서비스에 적용해 본 경험이 있어요.
• AWS 기반의 프로덕션 인프라를 구성하고 운영해 본 경험이 있어요.
• 모니터링 및 로깅 환경을 구성하고 운영하며, 서비스와 인프라의 이상 징후를 파악하고 대응해 본 경험이 있어요.
• ECS 또는 EKS 환경에서 서비스를 운영하고 클러스터를 관리해 본 경험이 있어요.
• Terraform, Pulumi 등 IaC를 활용해 인프라 리소스를 구성하고 변경·관리해 본 경험이 있어요.
• ArgoCD, FluxCD 등을 활용한 GitOps 기반 배포 환경을 구성하고 운영해 본 경험이 있어요.
Preferred
• MLOps 또는 AI 엔지니어링 환경(Model serving, Data Pipeline 등)을 운영해 본 경험이 있어요.
• LGTM Stack, Signoz, Datadog, OpenTelemetry 등 모니터링, 로깅 도구를 구축, 연동, 운영한 경험이 있어요
• DevSecOps 분야에 대해 고민하고, 실제로 적용해 본 적이 있어요.
• Service Mesh 혹은 Gateway API 를 이해하고 관련하여 설계, 운영해본 경험이 있어요
• Compliance 인증 (SOC2, GDPR Ready, ISO 27001 등) 취득 경험이 있어요.
• On-premise 인프라(VM, k8s on bare metal 등)을 설계하고 운영해 본 경험이 있어요.
• 비용 구조를 가시화하고, 효율적인 인프라 운영을 위한 FinOps를 고도화해 본 경험이 있어요.
Benefits
• 자율 출근제(오전 8시~11시) 및 재택 근무(주1회) 제도 운영
• 최신 업무 장비 제공
• 간식 및 음료 제공
• 월간 팀 회식비 지원
• 경조사 지원 및 근속 연차별 포상 제도 운영
• Claude 등 AI 도구 구독 지원
• 업무 관련 도서 지원
• 업무 유관 컨퍼런스 참가비 지원