Bootcamp/Docker

[Docker] Airflow 감싸기 (진행중)

K_Hyul 2024. 3. 29. 20:24
728x90

Airflow를 구축하는데 성공했다.

https://hyul-code.tistory.com/114

 

[Airflow] naver 리뷰 airflow 하기(버전만)

Final Project 때 했던 크롤링을 바탕으로 Airflow를 입혀 Data 축적을 자동화 해보는걸 목표로 한다. Ubuntu 환경과 Window 환경을 왔다갔다 할 예정이다. // Ubuntu // mysql 상태를 확인한다 sudo systemctl status my

hyul-code.tistory.com

 

이제 배포를 할 수 있게 도커를 설치하고자 한다.

 

sudo apt update

docker run -it -p 8080:8080 -v /home/hyul/airflow:/opt/airflow/dags/ --entrypoint=/bin/bash --name airflow2 apache/airflow:2.0.0-python3.11

 

# Dockerfile
FROM apache/airflow:2.8.4

# 필요한 패키지 설치
COPY requirements.txt /requirements.txt
RUN pip install --no-cache-dir -r /requirements.txt

# 데이터베이스 초기화 및 사용자 추가는 Airflow 시작 시 수행될 수 있도록 환경 변수 설정
ENV AIRFLOW__CORE__SQL_ALCHEMY_CONN="mysql+pymysql://hyul:ektmftkfkd231210@mysql_db/mydata"
ENV AIRFLOW__CORE__EXECUTOR="LocalExecutor"
ENV _AIRFLOW_DB_UPGRADE="true"
ENV _AIRFLOW_WWW_USER_CREATE="true"
ENV _AIRFLOW_WWW_USER_USERNAME="hyul2"
ENV _AIRFLOW_WWW_USER_PASSWORD="hyul2"
ENV _AIRFLOW_WWW_USER_ROLE="Admin"
ENV _AIRFLOW_WWW_USER_FIRSTNAME="Admin"
ENV _AIRFLOW_WWW_USER_LASTNAME="User"
ENV _AIRFLOW_WWW_USER_EMAIL="hyul@example.com"

# DAG 파일 추가
COPY Airflow_naver.py ./dags/
728x90

'Bootcamp > Docker' 카테고리의 다른 글

[Docker] Dockerfile 다루기 & docker-compose  (0) 2024.01.31
[Docker] 이미지 생성 후 저장까지  (1) 2024.01.31
[Docker] Image 생성  (1) 2024.01.31
[Airflow] with docker  (0) 2024.01.30
[Docker] Docker image  (0) 2024.01.30