본문 바로가기

728x90

dbt

(2)
데이터 도구를 이름 대신 흐름으로 이해하는 법 데이터 도구를 이름 대신 흐름으로 이해하는 법AI 뉴스 썸네일데이터 프로젝트에 처음 들어가면 제품 이름부터 쏟아져요. dbt, Spark, Kafka, Airflow가 한 문장에 섞이면 각 도구가 같은 일을 하는지조차 헷갈리기 쉬워요. 최근 공개된 데이터 도구 지형 가이드는 도구 목록 대신 데이터가 이동하는 순서로 이 생태계를 설명해요. 1핵심 요약구분맡는 일대표 선택지수집원천 시스템의 데이터를 목적지로 옮겨요Airbyte, dlt, Fivetran, Debezium저장분석용 데이터를 비용과 성능 조건에 맞춰 보관해요Snowflake, BigQuery, S3, Iceberg, Delta Lake처리데이터를 정제하고 집계하거나 실시간으로 계산해요dbt, DuckDB, Spark, Flink실행 관리작업 순..
Rocky는 데이터 파이프라인 오류를 실행하기 전에 잡으려 해요 Rocky는 데이터 파이프라인 오류를 실행하기 전에 잡으려 해요AI 뉴스 썸네일데이터 파이프라인에서 무서운 오류는 대개 조용히 들어와요. 상류 테이블의 컬럼 이름이 바뀌거나 타입이 달라져도, 문제를 발견하는 시점은 대시보드 숫자가 틀어진 뒤일 때가 많아요. Rocky는 이런 변경을 SQL 실행 전에 검사하려는 오픈소스 SQL 변환 엔진이에요.핵심 요약구분핵심왜 볼만한가요데이터 파이프라인Rocky는 전체 SQL 변환 흐름을 타입 검사해 깨지는 변경을 미리 잡아요운영 테이블에 잘못된 결과가 쓰이기 전에 실패를 확인할 수 있어요데이터 계약필수 컬럼 누락, 보호 컬럼 제거, 위험한 타입 변경을 에러로 막아요데이터 품질 문제를 리뷰와 배포 단계에서 더 빨리 볼 수 있어요개발자 도구VS Code 확장, 컬럼 리니지..

728x90