DevOps : codecommit, codedeploy, codepipeline

https://www.youtube.com/watch?v=t6tTyDTpGoY&feature=youtu.be

1. 1. 아마존의 데브 옵스 개발 배포 경험을 기반한 AWS 코드 서비스 활용하기 윤석찬 @channyun AWS Korea 테크에반젤리스트
2. 2. 목차 • 아마존닷컴의 DevOps 이야기 • DevOps를 위한 AWS 코드 서비스 ü Code Commit ü Code Pipeline ü Code Deploy • 미래의 DevOps ü ChatOps ü Voice Ops
3. 3. Cloud_ Microservices_ DevOps_ 요즘 이런 용어들이 유행입니다!
4. 4. "미래는 이미 와 있다. 단지 널리 퍼져있지 않을 뿐이다.” "The future is already here — it's just not very evenly distributed.” 윌리엄 깁슨
5. 5. Microservices DevOps
6. 6. DevOps란 무엇일까요? DevOps = 소프트웨어 개발 사이클 속도를 높이는 것 developers customers releasetestbuild plan monitor 배포 파이프라인 피드백 메카니즘 소프트웨어 개발 사이클
7. 7. Origin of DevOps? 아마존닷컴의 사례
8. 8. “아마존닷컴은 10년전 (1995년) 웹 서버와 데이터베이스 백엔드를 가지는 모놀리식(Monolithic) 애플리케이션이었습니다.” A Conversation with Werner Vogels , 2006 http://queue.acm.org/detail.cfm?id=1142065
9. 9. 모놀로식 개발 사이클 developers releasetestbuild delivery pipelineapp
10. 10. “5년전(2001년) 아마존은 주요한 아키텍쳐 변화가 있었는데 2 티어(tier)기반에서 서로 다른 애플리케이션 기능을 제공하는 분산 서비스 플랫폼으로 변화하였습니다… 여러분이 지금 Amazon.com의 첫화면에 들어온다면, 그 페이지를 생성하기 위해 100여개가 넘는 서비스를 호출하여 만들고 있습니다.” A Conversation with Werner Vogels , 2006
11. 11. Amazon.com - 서비스 지향 아키텍쳐 (SOA) Primitives Single-purpose API Interfaced Highly decoupled “Microservices”
12. 12. 애플리케이션을 완성하기 위한 원료 혹은 재료로서 이를 빌딩 블록으로 조립하여, 원하는 서비스를 만들 수 있는 구성 요소를 말한다. 마치 레고블럭을 조립하여 우리가 원하는 모양의 레고를 만들 수 있는 것과 같은 원리 primitives
13. 13. AWS 역시 다양한 재료 서비스를 조합 원하는 클라우드 아키텍쳐 구성
14. 14. “넷플릭스는 수백개의 마이크로서비스를 AWS 클라우드 기반으로 운영하고 있는 것으로 유명하다. 또한, 인터널 API를 기반으로 가벼운 REST 프로토콜을 활용하여 서비스 통신을 하고 있으며, Netflix Internal Web Service Framework(NIWS) 그리고 이러한 다양한 서비스를 발견하기 위한 목록 관리를 위한 Eureka, 서비스간 유연한 소통을 위한 Ribbon 등 클라우드 내 서비스 운영을 위한 수십개의 오픈 소스 프로젝트를 http://netflix.github.io/ 에 공개하고 있다.” http://techblog.netflix.com/2013/01/announcing-ribbon-tying-netflix-mid.html
15. 15. © Adrian Crockford, DockerCon 2014 마이크로 서비스 구조의 전형적 특징 – Death Star 아키텍쳐
16. 16. How to DevTeam? “제품 개발팀을 작게 유지하라 이렇게 하면 프로젝트를 실제로 실행가능하고 측정가능한 단위로 쪼개야만 하게 된다. 아마존의 대부분의 새로운 기능들과 서비스는 두 판의 라지 사이즈 피자로 먹일 수 있는 팀에 의하여 개발되었다.” 제프베조스의 2006년 11월 Business Week 인터뷰
17. 17. 각 팀이 분산된 민첩하면서, 독립적인, 신뢰하고, 오너쉽을 가진 서비스 팀 “DevOps” 피자 두판의 팀이란?
18. 18. 작은 팀과 서비스에게 필요한 개발 도구? developers delivery pipelineservices ???
19. 19. • 셀프 서비스 지향 • 기술 독립적 • 베스트 프랙티스 장려 • 단일 목적의 서비스 DevOps 도구의 특징
20. 20. Amazon 내부 시스템 아폴로- 배포 서비스 파이프라인 – 출시 자동화 • Deployment service • No downtime deployments • Health tracking • Versioned artifacts and rollbacks • Continuous delivery • Automated release process • Faster and more reliable releases • >90% of teams
21. 21. 단지 기다리고 있음 WaitWrite Code WaitBuild Code WaitDeploy to Test Deploy to Prod
22. 22. 단지 기다리고 있음 WaitWrite Code WaitBuild Code WaitDeploy to Test Deploy to Prod Mins Days Mins Days Mins Days Mins
23. 23. 단지 기다리고 있음 WaitWrite Code WaitBuild Code WaitDeploy to Test Deploy to Prod Weeks Mins Days Mins Days Mins Days Mins
24. 24. 단지 기다리고 있음 WaitWrite Code WaitBuild Code WaitDeploy to Test Deploy to Prod Weeks Mins Days Mins Days Mins Days Mins
25. 25. 마이크로서비스 개발 사이클 developers delivery pipelinesservices releasetestbuild releasetestbuild releasetestbuild releasetestbuild releasetestbuild releasetestbuild
26. 26. Amazon 내부 시스템 “수천명의 아마존 개발자들은 매일 Apollo를 사용하여, Java, Python, Ruby 앱을 웹 서비스로 네이티브 코드 서비스로 배포하고 있습니다. 지난 12개월 동안 Apollo는 5천만번이 넘는 개발, 테스트 및 정식 서버로 배포가 진행되었습니다. 이는 초당 한번 평균 한번 이상의 배포횟수입니다. “ Werner Vogels, The Story of Apollo - Amazon’s Deployment Engine, 2014 http://www.allthingsdistributed.com/2014/11/apollo-amazon-deployment-engine.html
27. 27. DevOps에 대한 고객의 소리
28. 28. DevOps LifeCycle 모니터링구축배포테스트빌드코딩 AWS Elastic Beanstalk AWS OpsWorks AWS CloudWatch AWS CloudFormation AWS CodePipeline AWS CodeCommit AWS CodeDeploy AWS DevOps Tools
29. 29. AWS Code 서비스로 배포하기 Testing Staging Production deploy deploy deploy Source Build release AWS CodeDeploy AWS CodePipeline AWS CodeCommit
30. 30. AWS CodeDeploy – 서울 리전 사용 가능 • 손쉽고 믿을 수 있는 배포 방법 • 다양한 배포 옵션 제공 • AWS 외부 서버 배포도 가능 Test CodeDeployv1, v2, v3 Production Dev application revisions deployment groups
31. 31. 단계 1. 애플리케이션 패키지 (appspec.yaml) version: 0.0 os: linux files: - source: chef/ destination: /etc/chef/codedeploy - source: target/hello.war destination: /var/lib/tomcat6/webapps hooks: ApplicationStop: - location: deploy_hooks/stop-tomcat.sh BeforeInstall: - location: deploy_hooks/install-chef.sh AfterInstall: - location: deploy_hooks/librarian-install.sh ApplicationStart: - location: deploy_hooks/chef-solo.sh ValidateService: - location: deploy_hooks/verify_service.sh
32. 32. 단계 1. 애플리케이션 패키지 (appspec.yaml) version: 0.0 os: linux files: - source: chef/ destination: /etc/chef/codedeploy - source: target/hello.war destination: /var/lib/tomcat6/webapps hooks: ApplicationStop: - location: deploy_hooks/stop-tomcat.sh BeforeInstall: - location: deploy_hooks/install-chef.sh AfterInstall: - location: deploy_hooks/librarian-install.sh ApplicationStart: - location: deploy_hooks/chef-solo.sh ValidateService: - location: deploy_hooks/verify_service.sh
33. 33. version: 0.0 os: linux files: - source: chef/ destination: /etc/chef/codedeploy - source: target/hello.war destination: /var/lib/tomcat6/webapps hooks: ApplicationStop: - location: deploy_hooks/stop-tomcat.sh BeforeInstall: - location: deploy_hooks/install-chef.sh AfterInstall: - location: deploy_hooks/librarian-install.sh ApplicationStart: - location: deploy_hooks/chef-solo.sh ValidateService: - location: deploy_hooks/verify_service.sh 단계 1. 애플리케이션 패키지 (appspec.yaml) version: 0.0 os: linux files: - source: chef/ destination: /etc/chef/codedeploy - source: target/hello.war destination: /var/lib/tomcat6/webapps hooks: ApplicationStop: - location: deploy_hooks/stop-tomcat.sh BeforeInstall: - location: deploy_hooks/install-chef.sh AfterInstall: - location: deploy_hooks/librarian-install.sh ApplicationStart: - location: deploy_hooks/chef-solo.sh ValidateService: - location: deploy_hooks/verify_service.sh
34. 34. 단계 2. 배포 인스턴스 선택 Agent Agent Agent Staging Agent Agent Agent Agent Agent Agent Production Deployment groupDeployment group 인스턴스 모음: • Auto Scaling group • Amazon EC2 tag • On-premises tag
35. 35. 단계 3. 배포 하기 aws deploy create-deployment --application-name MyApp --deployment-group-name TargetGroup --s3-location bucket=MyBucket,key=MyApp.zip AWS CLI & SDKs AWS Console CI / CD Partners GitHub
36. 36. 배포 설정 방법 v2 v2 v2 v2 v2 v2 v2 v2All-at-once Min. healthy hosts = 0 v2 v2 v2 v2 v1 v1 v1 v1Half-at-a-time Min. healthy hosts = 50% v2 v2 v1 v1 v1 v1 v1 v1[Custom] Min. healthy hosts = 75% v2 v1 v1 v1 v1 v1 v1 v1One-at-a-time Min. healthy hosts = 99%
37. 37. 다운타임 없는 롤링 업데이트(Rolling Update) v1v1 v1 Load Balancer
38. 38. 다운타임 없는 롤링 업데이트(Rolling Update) v1v2 v1 Load Balancer
39. 39. 다운타임 없는 롤링 업데이트(Rolling Update) v2v2 v1 Load Balancer
40. 40. 다운타임 없는 롤링 업데이트(Rolling Update) v2v2v2 Load Balancer
41. 41. 다운타임 없는 롤링 업데이트(Rolling Update) v2v2 v2 Load Balancer
42. 42. 서비스 배포 문제 발생 시 – 헬스 트래킹 v2v2 v2 Load Balancer
43. 43. 서비스 배포 문제 발생 시 – 헬스 트래킹 v3 v2 v2Stop Load Balancer
44. 44. 서비스 배포 문제 발생 시 – 헬스 트래킹 v2v2 v2 Load Balancer Rollback
45. 45. 서비스 배포 문제 발생 시 – 헬스 트래킹 v2v2 v2 Load Balancer
46. 46. AWS CodeDeploly 기반 배포 https://youtu.be/Bd02bs-i2ME
47. 47. AWS CodePipeline • 각자의 배포 단계에 맞게 파이프라인 시각적 구성 가능 • 빠르고 신뢰성 있는 배포 및 제품 테스트 시간 감소 • 코드 변경에 민감하게 자동 파이프라인 실행 • 서드 파티 도구와 연계 가능 Build 1) Build 2) Unit test 1) Deploy 2) UI test Source Beta Production 1) Deploy 2) Perf test Gamma 1) Deploy canary 2) Deploy region 1 3) Deploy region 2 1) Pull
48. 48. Source Source GitHub Build JenkinsOnEC2 Jenkins Deploy JavaApp Elastic Beanstalk Pipeline Stage Action Transition MyApplication AWS CodePipeline
49. 49. Source Source GitHub Build JenkinsOnEC2 Jenkins Deploy JavaApp Elastic Beanstalk NotifyDevelopers Lambda MyApplication Parallel actions AWS CodePipeline
50. 50. Source Source GitHub Build JenkinsOnEC2 Jenkins Deploy JavaApp Elastic Beanstalk NotifyDevelopers Lambda TestAPI Runscope MyApplication Sequential actions AWS CodePipeline
51. 51. 8. Retrieve build artifact EC2 instance Source Source GitHub Build JenkinsOnEC2 Jenkins Deploy JavaApp Elastic Beanstalk Source Artifact S3 Build Artifact S3 5. Get source artifact 1. Get Changes 6. Store build artifact 3. Poll for Job 4. Acknowledge Job 7. Put Success 9. Deploy build artifact Elastic Beanstalk Web container Java App MyApplication AWS CodePipeline
52. 52. 서드 파티 도구와의 연계 가능 Source Build Test Deploy
53. 53. AWS CodeCommit • Git 코드 저장소 제공 • Amazon S3의 확장성, 가용성 및 내구성 제공 • 고객의 요구에 맞는 암호화 기능 제공 git pull/push CodeCommit Git objects in Amazon S3 Git index in Amazon DynamoDB Encryption key in AWS KMS SSH or HTTPS
54. 54. AWS 코드 서비스 기반 DevOps 프로세스 1. Github에서 EC2 인스턴스로 코드 배포하기 2. CodeCommit에서 ElasticBeanstalk으로 코드 배포하기 3. 서드 파티 Test 단계 추가 및 파이프라인 변경하기 https://youtu.be/v-o3UafL1hU
55. 55. Amazon S3 Prod-subnet Web server App server Amazon RDS ELB Production Dev-subnet Auto Scaling group Web server Auto Scaling group App server Amazon RDS ELB Development Test-subnet Web server App server Amazon RDS ELB Test CodePipleline CodeDeployCodeCommit Services - Highly available CloudWatch alarm CloudTrail CloudFormation Elastic Beanstalk AWS 개발 및 배포 서비스를 통한 DevOps 아키텍처
56. 56. Future of DevOps? ChatOps VoiceOps
57. 57. ChatOps란? • “Putting tools right in the middle of the conversation” • Jesse Newland, GitHub • Source: https://speakerdeck.com/jnewland/chatops-at-github • “ChatOps is a collaboration model that connects people, tools, process, and automation into a transparent workflow.” • Sean Regan, Atlassian • Source: http://blogs.atlassian.com/2016/01/what-is-chatops-adoption-guide/ • “To move fast and maintain stability it’s important to have a culture of automation, measurement and sharing.” • Jason Hand, Victorops Author of ChatOps For Dummies • Source: http://www.slideshare.net/VictorOps/chatops
58. 58. Why ChatOps? 개발자의 행복! 서버에 접속할 필요가 없음 .
59. 59. Why ChatOps? 운영자의 행복! 봇에게 시키면 됨
60. 60. Why ChatOps? 서로의 행복! 채팅을 통한 빠른 소통 및 해결
61. 61. Hubot By GitHub Written in Coffeescript + Nodejs Lita Written in Ruby Err Written in Python ChatOps 플랫폼
62. 62. Slack의 WebHook 기능 활용
63. 63. AWS CodeDeploy와 Hubot & Slack 연동 https://www.youtube.com/watch?v=8MB9lPbQb9s
64. 64. AWS Lambda와 Slack을 이용한 Chat 구현 https://aws.amazon.com/ko/blogs/korea/slack-devops-with-aws-lambda-and-eb/
65. 65. What’s AWS Lambda? 높은 확장성 및 빠른 서비스 연동 서버 필요 없이 코드만 배포 함수 실행 시 100ms 단위 과금 서버 없는, 이벤트 처리 방식의 컴퓨팅 서비스 AWS Lambda = 클라우드 함수 기반 마이크로서비스
66. 66. AWS Lambda : 동작 원리 Bring your own code • Node.js, Java, Python • Java = Scala Clojure 등의 어떠한 JVM기반 언어. • Bring your own libraries 유연한 호출 경로 • Event 기반 호출 옵션 (여러 AWS 서비스들과 통합) • REST API 호출 가능 (Amazon API Gateway와 연동) 단순한 자원 모델 • 128MB부터 1.5GB까지 64MB 단위로 메모리 설정 • 할당된 메모리에 비례하여 CPU 및 네트웍 자원 할당 • 실제 사용량 내역 보고 효과적인 권한 통제 • AWS IAM (Identity and Access Management) Role을 사용한 실행 권한 설정 • AWS 이벤트 소스에 대한 자원 정책
67. 67. AWS Lambda 예제: 이미지 썸네일 만들기
68. 68. Alexa Skills Kit과 AWS Lambda를 이용한 VoiceOps https://youtu.be/azKYe4IWTxA AWSKRUG 발표 영상 https://www.youtube.com/watch?v=cz-2JL9XAy4
69. 69. http://developers.amazon.com
70. 70. https://echosim.io/