728x90
Airflow를 구축하는데 성공했다.
https://hyul-code.tistory.com/114
[Airflow] naver 리뷰 airflow 하기(버전만)
Final Project 때 했던 크롤링을 바탕으로 Airflow를 입혀 Data 축적을 자동화 해보는걸 목표로 한다. Ubuntu 환경과 Window 환경을 왔다갔다 할 예정이다. // Ubuntu // mysql 상태를 확인한다 sudo systemctl status my
hyul-code.tistory.com
이제 배포를 할 수 있게 도커를 설치하고자 한다.
sudo apt update
docker run -it -p 8080:8080 -v /home/hyul/airflow:/opt/airflow/dags/ --entrypoint=/bin/bash --name airflow2 apache/airflow:2.0.0-python3.11
# Dockerfile
FROM apache/airflow:2.8.4
# 필요한 패키지 설치
COPY requirements.txt /requirements.txt
RUN pip install --no-cache-dir -r /requirements.txt
# 데이터베이스 초기화 및 사용자 추가는 Airflow 시작 시 수행될 수 있도록 환경 변수 설정
ENV AIRFLOW__CORE__SQL_ALCHEMY_CONN="mysql+pymysql://hyul:ektmftkfkd231210@mysql_db/mydata"
ENV AIRFLOW__CORE__EXECUTOR="LocalExecutor"
ENV _AIRFLOW_DB_UPGRADE="true"
ENV _AIRFLOW_WWW_USER_CREATE="true"
ENV _AIRFLOW_WWW_USER_USERNAME="hyul2"
ENV _AIRFLOW_WWW_USER_PASSWORD="hyul2"
ENV _AIRFLOW_WWW_USER_ROLE="Admin"
ENV _AIRFLOW_WWW_USER_FIRSTNAME="Admin"
ENV _AIRFLOW_WWW_USER_LASTNAME="User"
ENV _AIRFLOW_WWW_USER_EMAIL="hyul@example.com"
# DAG 파일 추가
COPY Airflow_naver.py ./dags/
728x90
'Bootcamp > Docker' 카테고리의 다른 글
[Docker] Dockerfile 다루기 & docker-compose (0) | 2024.01.31 |
---|---|
[Docker] 이미지 생성 후 저장까지 (1) | 2024.01.31 |
[Docker] Image 생성 (1) | 2024.01.31 |
[Airflow] with docker (0) | 2024.01.30 |
[Docker] Docker image (0) | 2024.01.30 |