Python의 Yaml 구성 기반 ETL 흐름 프레임워크

문제를 제거하기 위해 도구를 사용해보십시오

Python의 Yaml 구성 기반 ETL 흐름 프레임워크

심벌 마크



비활성화된 메신저 계정은 어떻게 생겼나요

Python의 Yaml 구성을 기반으로 하는 ETL 흐름 프레임워크

데이터 스트림 생성을 위한 가벼운 프레임워크입니다. Yaml 파일의 구성을 통해 스트림을 설정합니다. 일정, 작업 풀, 동시성 제한이 있습니다. 빠르게 작동하고 많은 리소스가 필요하지 않습니다. Windows 및 Linux에서 실행됩니다. 스레딩 라이브러리를 통해 병렬로 흐름이 실행됩니다. 내부적으로 SQLite 데이터베이스.






현재 소스에 대한 커넥터가 있습니다.



  • CSV 파일
  • SQLite 데이터베이스
  • Yandex Metrika 관리 API
  • Yandex 메트릭 통계 API
  • Yandex Metrika 로그 API
  • 얀덱스 다이렉트 API
  • Yandex 직접 보고서 API

창고



  • csv 파일에 저장
  • 클릭하우스

선적 서류 비치

요구 사항

  • 파이썬 >=3.9
  • 가상 환경

설정

가상 환경에 설치하는 것이 좋습니다.






Flowmaster는 집이 필요합니다. '{HOME}/FlowMaster'가 기본값입니다.
그러나 원하는 경우 다른 곳에 기초를 놓을 수 있습니다.
(선택 과목)

윈도우용

setx FLOWMASTER_HOME '{YOUR_PATH}'

리눅스용

docker-compose mysql 볼륨
export FLOWMASTER_HOME={YOUR_PATH}

설치 중

pip install flowmaster==0.4.0

운영

flowmaster run

인수

flowmaster run --help

변경 로그

지원하다

전보 지원 채팅

작가

파벨 막시모프

내 연락처 전보 , 페이스북

행운을 빕니다 친구! 별표를 붙이십시오.)

다운로드 세부 정보:

작가: 파벨막시모프
데모/문서: 데모/문서 보기
다운로드 링크: 소스 코드 다운로드
공식 웹 사이트: https://github.com/pavelmaksimov/FlowMaster
특허: GPL-3.0

#파이썬 #yaml