Python의 Yaml 구성 기반 ETL 흐름 프레임워크
비활성화된 메신저 계정은 어떻게 생겼나요
Python의 Yaml 구성을 기반으로 하는 ETL 흐름 프레임워크
데이터 스트림 생성을 위한 가벼운 프레임워크입니다. Yaml 파일의 구성을 통해 스트림을 설정합니다. 일정, 작업 풀, 동시성 제한이 있습니다. 빠르게 작동하고 많은 리소스가 필요하지 않습니다. Windows 및 Linux에서 실행됩니다. 스레딩 라이브러리를 통해 병렬로 흐름이 실행됩니다. 내부적으로 SQLite 데이터베이스.
현재 소스에 대한 커넥터가 있습니다.
- CSV 파일
- SQLite 데이터베이스
- Yandex Metrika 관리 API
- Yandex 메트릭 통계 API
- Yandex Metrika 로그 API
- 얀덱스 다이렉트 API
- Yandex 직접 보고서 API
창고
- csv 파일에 저장
- 클릭하우스
선적 서류 비치
요구 사항
- 파이썬 >=3.9
- 가상 환경
설정
가상 환경에 설치하는 것이 좋습니다.
Flowmaster는 집이 필요합니다. '{HOME}/FlowMaster'가 기본값입니다.
그러나 원하는 경우 다른 곳에 기초를 놓을 수 있습니다.
(선택 과목)
윈도우용
setx FLOWMASTER_HOME '{YOUR_PATH}'
리눅스용
docker-compose mysql 볼륨
export FLOWMASTER_HOME={YOUR_PATH}
설치 중
pip install flowmaster==0.4.0
운영
flowmaster run
인수
flowmaster run --help
변경 로그
지원하다
작가
파벨 막시모프
행운을 빕니다 친구! 별표를 붙이십시오.)
다운로드 세부 정보:
작가: 파벨막시모프
데모/문서: 데모/문서 보기
다운로드 링크: 소스 코드 다운로드
공식 웹 사이트: https://github.com/pavelmaksimov/FlowMaster
특허: GPL-3.0
#파이썬 #yaml