본문 바로가기

Categories1752

Snowflake Basic 안녕하세요 1-Tier 팀입니다!!이번에 진행한 Snowflake 핸즈온 행사에 참여 후 간단한 Web UI와 기본 개념들을 정리해봤습니다.Snowflake에 대한 이해도가 조금씩 생겨나며 흥미도 생겼는데요!이후 세션들도 참가하여 학습을 통해 역량을 더욱 키우고 싶어졌습니다~Main Page 둘러보기Upload local files : csv, json 등 로컬에 저장되어 있는 파일을 드래그 앤 드롭으로 간편하게 업로드 할 수 있다Load data from cloud storage : 클라우드 스토리지의 데이터를 가져올 수 있다.Query data : SQL 쿼리를 수행할 수 있는 Worksheets를 생성한다.Create User : 신규 유저 생성이 가능하다 Snowflake는 On-prem, 고객이.. 2024. 7. 2.
(전액무료)”클라우드 데이터 엔지니어 양성과정” 안녕하세요~좋은 교육이 있어 강력 추천 하러 나타났습니다!!🔥베스핀 글로벌 클라우드 데이터 엔지니어 양성과정!!!🔥서울에 사는 클라우드&데이터 엔지니어를 꿈꾸는 분들 많이 많이 참석 해주세요:) (서울 거주자 확인은 입과일(8/26(월)에 실시합니다)   ↓ ↓ 자세한 내용은 아래를 확인하세요↓ ↓ ✨클라우드 인프라는 기본! 데이터 엔지니어로 취업 엣지 장착!✨“클라우드 데이터 엔지니어”가 되기 위한 소수 정예 엘리트 코스의 첫 번째 교육생을 모집합니다! 신청 및 자세한 안내👉🏻 https://url.kr/HxywHa 📌 우수 교육수료생, 베스핀글로벌 인턴 경험 제공!📌 베스핀글로벌 테크리더 총출동! 현직자의 실전 강의와 멘토링!📌 IT기업 재직자와의 기술 모의 면접 기회!📌 과정 중 10.. 2024. 7. 1.
AWS - Database Data 이관/전송하기 (DMS) AWS Database Migration Service (이하 DMS) 는 AWS 에서 제공하는 데이터베이스를 안전하게 마이그레이션 할 수 있는 솔루션입니다. 특징1. 마이그레이션에 필요한 설정 및 작업이 간단하다사용법1. 인스턴스가 생성 될 서브넷 그룹을 생성한다. (동일 VPC간 이전일 경우 Source 와 Target을 모두 접근할 수 있는 영역으로 선택하면 된다. 2. 데이터를 복제할 인스턴스 생성 후 Source 와 Target 을 연결하는 엔드포인트를 생성   2-1 인스턴스 생성Instance class : 이관 작업을 진행할 인스턴스의 스펙입니다. 고스펙으로 빠르게 진행하는 것을 권장 합니다.High Availability : 일회성 DB 통합 작업에는 Single-AZ 를 사용해도 무관합.. 2024. 6. 28.
[AWS] Lambda Connection Handler 베하! 1-tier팀의 One입니다.그간 바쁜 업무로 인해 포스팅을 많이 하지 못했는데요 오늘 그간 밀려 있던 포스팅을 열심히 해보려고 합니다. 업무 중에 새로 습득한 지식을 마구 마구 방출 할 예정인데요 😊😊모두 모두 집중 해주세요 👀 4월에 아주 좋은 기회로 AWS workshop에 참석하게 되었는데요!그때 알게된 서비스에 대해 설명해보려고 합니다. Lambda Connection HandlerAWS상에서 네트워크 리소스에 접근 할때, 보안을 위해 VPN을 많이 사용하는데요,원격 근무자가 AWS 환경에 연결된 네트워크에 안전하게 접속하기 위해 Client VPN을 사용합니다. 만약 원격 접속하려는 근무자가 많을 경우, 관리자가 이를 다 관리하기 힘들텐데요이때 Lambda Connection Ha.. 2024. 6. 17.
[LLM] 프롬프트 엔지니어링 베하~1 Tier 팀의 One입니다! 요새 굉장히 핫한 AI 다들 주목하고 계실텐데요!대규모 언어 모델 다루기의 시작! 프롬프트 엔지니어링에 대해서 알아 보고자 합니다 프롬프트란?프롬프트는 특정 작업을 수행하도록 생성형 AI에 요청하는 자연어 텍스트인데요,생성형 AI 시스템이 정확하고 연관성 있는 응답을 생성하기 위해, 프롬프트 엔지니어링이 나왔습니다 프롬프트를 체계적으로 설계하면, 보다 의미있고 유영한 결과물을 얻을 수 있기 때문에프롬프트 엔지니어링에서는 AI 시스템에서 원하는 결과를 얻을 떄 까지 프롬프트를 지속적으로 조정합니다 💡 프롬프트 엔지니어링의 핵심 - 사용자의 요청을 정확하게 파악하고 그에 맞는 질문을 AI 모델에 적용한다.- 사용자는 모델을 활용하여 사용자의 요청을 최적화된 프롬프트로 .. 2024. 6. 17.
CodeBuild - empty git-upload-pack given for primary source and source version refs/heads/develop 갑자기 개발 팀에서 갑자기 배포가 안된다는 내용을 전달 받고 확인해보니 CodeBuild에서  에러를 자꾸 뱉고 있는 걸 확인했다. 잘 돌아가던 CodeBuild에서 특별히 설정한 것도 없는데, 문제가 생겨 모든 환경의 애플리케이션 배포가 실패하고 있단다. 문제를 해결하려면 로그부터 확인해보자 아래와 같은 메세지가 나오면서 배포가 되지 않고 있었다.# 로그 발생 메세지[Container] YYYY/MM/DD HH:mm Running on CodeBuild On-demand[Container] ...502885 Waiting for agent ping[Container] ..804890 Waiting for DOWNLOAD_SOURCEempty git-upload-pack given for primary .. 2024. 6. 13.
AWS EC2 Splunk 구축 방법 베하~! BTC_녹차공원 팀의 하동녹차 입니다.이번주는 AWS EC2 Splunk 구축 방법에 대해 알아 보겠습니다.AWS EC2 Splunk 구축Splunk 를 설치하기 위해 공식 홈페이지에 접속 해야 합니다.URL : https://www.splunk.com/ko_kr/download.html Splunk는 유료 서비스 이며, 60일 동안만 사용 가능 한 무료 평가판을 제공 합니다. 내 무료 평가판 받기를 선택하게 되면 아래와 같이 다운로드를 시작하기 위한 회원가입 화면이 나오게 되는데요, 회원 가입 진행 후에 다운로드가 가능 합니다.  회원 가입을 완료하면 아래와 같이 다운로드할 Splunk의 버전을 선택할 수 있는데요,저는 Splunk Enterprise 버전으로 선택하겠습니다.여기서 파일로 다운.. 2024. 5. 28.
S3 취약점 - 허용되지 않은 요청에 S3 요금 부과되는 현상 어느 사용자가 AWS S3 테스트 버킷을 eu-west-1 지역에 만들고 일부 파일을 업로드했는데, 며칠 후 AWS 청구 페이지에서 예상치 못한 비용을 발견하였는데, 하루 동안 약 1억 건의 S3 PUT 요청이 발생하는 것을 확인하였다.엥 이게 뭐지? 싶었겠지 그래서 확인해보니 AWS 기본 설정으로는 S3 버킷에 대한 요청이 기록되지 않지만, CloudTrail 로그를 통해 외부 계정에서 대량의 쓰기 요청이 들어오고 있음을 발견하였음.그런데 왜?유명한 오픈소스 라이브러리 중 하나가 기본 설정으로 S3에 백업을 저장하는 기능이 있는데, 하필 오픈 소스 샘플 코드에 하필 해당 사용자와 같은 버킷 이름을 사용하고 있었음. 아무도 안쓰는 줄 알았겠지. S3 bucket name은 global unique  bu.. 2024. 5. 21.