본문 바로가기

Cloud Composer2

Airflow 환경 이전 베하~ 반갑습니다!! 인사통의 BTC_김회장, 최총무입니다!! 오늘은 Airflow 환경을 이전한다고 가정하고 환경 이전을 해보겠습니다!! 실무에서 꽤 사용하는 내용이니 기억해주세요~ 1. 수정 권한 확인 각자 User마다 가진 권한에 따라 Airflow Webserver상 확인 할 수 있는 카테고리가 다릅니다. 아마 데이터 엔지니어 역할을 하고 있다면 Admin 권한이 있어 Security나 Admin 등 중요한 항목까지 보이게 될텐데요! 다음과 같이 Security와 Admin이 보이는지 확인해주세요~ 확인이 안된다면 Airflow CLI를 통해 아래 명령어로 권한을 추가할 수 있습니다!! airflow users add-role -e {USER NAME} -r Admin 이제 모든 항목이 보인다면 .. 2023. 12. 24.
Cloud Composer의 내부DB 접근 베하~ 반갑습니다!! 인사통의 BTC_김회장, 최총무입니다!! 오늘은 Cloud Composer의 Worker를 통해 내부 DB에 접근해보도록 하겠습니다!! 함께 시작해 보시죠!! 개요 Composer GKE 연결하기 Composer Worker 접속하기 내부 DB 연결하기 1. Composer GKE 연결하기 먼저 Composer의 Worker에 접근하기 위해서는 먼저 Composer 와 함께 생성된 GKE와의 연결이 필요합니다! 먼저 접근할 GKE의 상단 CONNECT를 통해 접근하기 위한 연결 명령어를 확인하실 수 있습니다. 연결이 되면 kubectl 명령어 등을 통해 kubernetes환경 내 명령어 사용이 가능합니다. 수행 명령어 예시 $ gcloud container clusters get-c.. 2023. 9. 14.