본문 바로가기

Database82

GA4 (Google Analytics 4) 베하 ~ 문땅훈과 루피입니다. 오늘은 'GA4의 정의 및 핵심 기능과 장점'을 요약하여 소개하겠습니다. GA4란? 웹사이트와 앱에서 트래픽 및 참여도를 측정할 수 있는 분석 서비스 Google Analytics 4 (GA4)은 웹 분석 및 추적 도구로서의 업데이트된 버전으로, 기존의 Universal Analytics (UA)와는 다른 접근 방식을 채택하여 사용자 경험을 개선하고 비즈니스 인텔리전스를 향상시키기 위해 개발되었습니다. 특징 (1) APP & Web 데이터 통합해서 수집 및 분석 가능 앱과 웹을 하나의 속성에서 데이터스트림으로 추가해주어 같이 운영이 가능합니다. (2) 향상된 측정 기능 지원 GA4는 기본 기능만 사용하더라도 내 사이트를 사용하는 사람들의 특성이 어떠한지(인구통계/관심사 등).. 2023. 9. 27.
MyBatis 성능 개선포인트 베하! 안녕하세요. 추석이 다가 왔습니다! 오늘 알아볼 내용은 MyBatis 사용 시 성능 개선 포인트에 대해서 알려드릴까 합니다. 개선 포인트에 대해 알려드리기 전 먼저 제가 경험했던 부분에 대해 국한된 부분이라 각 환경에 따라 다를 수 있다는 점, 대용량 데이터 배치 처리 환경에서 MySQL을 사용했고 대용량 데이터는 정확히 100만개의 row, 40개 컬럼을 기준으로 메모리 안정화를 주 목적으로 한 작업에서 개선 포인트를 알려드리니 참고 부탁드리겠습니다 ^^ 또한, 저는 대부분의 설정 및 성능 포인트를 setting보다는 java 코드로 구현했습니다. MyBatis란? 먼저 MyBatis 성능 개선 포인트를 알기전 MyBatis에 대해 간략하게 알아볼까요? MyBatis는 자바 어플리케이션과 관계형.. 2023. 9. 27.
트랜잭션의 이해(ACID) 베하! 안녕하세요. 9월이 왔고 확실히 8월 보다는 날씨가 시원해지고 있어 기분이 좋습니다. 때론 춥기도 하네요. 오늘 알아볼 내용은 트랜잭션입니다. 트랜잭션은 모든 it 서비스에서 가장 중요한 역할을 담당하고 있어 반드시 알고 있어야 하는 내용 중 하나입니다. 트랜잭션(Transaction) 트랜잭션이란 여러 개의 작업을 하나로 묶은 실행 유닛이라고 말합니다. 이는 데이터 베이스의 상태(데이터)를 변화시키기 위해 수행하는 **작업의 모음을 하나의 단위를 뜻하게 됩니다.** 결국 트랜잭션은 데이터베이스에서 원자적인(atomic) 작업의 모음이겠죠. ‘원자’는 쪼갤 수 없는 가장 작은 단위를 말하는데 이 원자들(작업 혹은 쿼리)의 모음이 되는 것을 생각해보면 이해가 쉬울 수 있습니다. 데이터 베이스는 DM.. 2023. 9. 15.
Cloud Composer의 내부DB 접근 베하~ 반갑습니다!! 인사통의 BTC_김회장, 최총무입니다!! 오늘은 Cloud Composer의 Worker를 통해 내부 DB에 접근해보도록 하겠습니다!! 함께 시작해 보시죠!! 개요 Composer GKE 연결하기 Composer Worker 접속하기 내부 DB 연결하기 1. Composer GKE 연결하기 먼저 Composer의 Worker에 접근하기 위해서는 먼저 Composer 와 함께 생성된 GKE와의 연결이 필요합니다! 먼저 접근할 GKE의 상단 CONNECT를 통해 접근하기 위한 연결 명령어를 확인하실 수 있습니다. 연결이 되면 kubectl 명령어 등을 통해 kubernetes환경 내 명령어 사용이 가능합니다. 수행 명령어 예시 $ gcloud container clusters get-c.. 2023. 9. 14.
문서 검색 챗봇 만들기 베하 ~ 😉 오늘은 저번 시간에 다뤘던 Langchain 패키지를 사용해서 간단한 실습 진행하겠습니다. 소설 PDF파일을 벡터DB에 임베딩하여 질문하면 답변할 수 있는 ‘문서 검색 챗봇’을 만들어보겠습니다. * 이때, PDF파일은 꼭 소설이 아니더라도 하고 싶으신 파일을 사용해주시면 됩니다. 저는 데미안 소설로 진행하였습니다~ * 해당 실습 자료는 유튜브 참고하여 진행하였습니다~ 1. Setting (1) Langchain 패키지 설치 !pip install -q grobid-client langchain openai faiss-cpu PyPDF2 tiktoken (2) OpenAI - Secret key 입력 OpenAI를 사용하기 위하여 Secret key를 발급받아 입력해주셔야 합니다. import.. 2023. 9. 13.
[Airflow] Celery Executer 안녕하세요 BTC 1-tier 팀의 One입니다! 점점 선선해지는게 가을이 오고있다는 것이 느껴지네요ㅎㅎ 오늘은 Airflow의 Celery Executer에 대해서 알아봅시다. CeleryExecutor? 자 한대의 Master서버가 있고 여러개의 DAG가 있다고 생각해봅시다. 데이터 처리량이 많은 여러개의 DAG를 한대의 서버에서 돌리면 어떻게 될까요? Master서버는 자신의 일을 제대로 하지 못하겠죠 ....😥 그렇기 위해서 우리는 여러개의 Worker로 Task를 분산하여 동작을 시켜야합니다. 그 역할을 해주는 Executor가 바로 Celery Executor입니다. Celery Executor는 Task 메시지를 브로커에 전달하고, Celery Worker가 Task를 가져가서 실행합니다. .. 2023. 9. 4.
LangChain이란? 베하 ~! 문땅훈과 루피입니다. 오늘은 'Langchain'에 대해 알아보도록 하겠습니다. 1. LangChain 언어모델을 기반으로 한 애플리케이션을 개발하기 위한 프레임워크 API를 통해 언어 모델을 호출하는 것 뿐만 아니라, 외부 데이터를 인식하거나 타 시스템과의 상호 작용하는 애플리케이션을 개발하고자 하는 요구 사항에서 시작된 오픈소스 데이터 인식 : 언어 모델을 다른 데이터 소스에 연결 에이전트화(Be agentic) : 언어 모델이 환경과 상호 작용하도록 허용 2. 특징 (1) 언어 모델 호출 API 제공 LangChain은 언어 모델을 호출하는 API를 제공하여 더욱 강력하고 다양한 애플리케이션을 구현할 수 있도록 함 또한, 데이터 인식 및 에이전트화와 같은 기능도 제공하여 언어 모델과 다른.. 2023. 9. 4.
SQL과 NoSQL 데이터베이스 베하! 안녕하세요~ BTC_수신자표시제한 입니다 😊 데이터베이스 관리 영역에서 데이터의 양, 구조, 사용 패턴 등 다양한 요인을 고려하여 적절한 데이터베이스 솔루션을 선택하는 것이 중요합니다. 디지털 환경이 빠르게 발전함에 따라 적합한 데이터베이스 선택을 위해 이러한 옵션에 대한 포괄적인 이해가 중요해졌습니다. 따라서, 오늘은 SQL과 NoSQL의 특성, 사용 사례 및 잠재적 이점에 대해 설명해보고자 합니다. SQL과 NoSQL 데이터베이스 특징 SQL 데이터베이스 SQL 데이터베이스는 구조화된 데이터 관리를 구현합니다. 강력한 스키마를 기반으로 하며 ACID 트랜잭션 속성(원자성, 일관성, 격리 및 내구성)을 준수합니다. 이러한 준수는 데이터 무결성을 보장하므로 복잡한 트랜잭션 및 관계가 필요한 시나리.. 2023. 8. 18.