최근 포스트

Airflow 구축 및 변천사 - 모니터링

6 분 소요

 안녕하세요 마개입니다. Airflow를 처음 도입하게 된 배경부터 구축을 넘어 마지막으로는 모니터링 부분에 대해 정리하고자 합니다.

Airflow 구축 및 변천사 - 개선

7 분 소요

 안녕하세요 마개입니다. 이전 글에서는 Airflow를 구축하고 기본적인 설정을 하는 과정을 정리하였습니다. 이번에는 기본적인 환경에서 겪은 불편함과 이를 해결하면서 개선하는 과정에 대해 정리하겠습니다.

Airflow 구축 및 변천사 - 구축

5 분 소요

 안녕하세요 마개입니다. 이전 글에서는 Airflow를 도입하게 된 배경과 선정 이유에 대해 정리하였습니다. 이번에는 구축하는 과정에 대해 내용을 정리해 보겠습니다.

Airflow 구축 및 변천사 - 도입 배경 및 선정

2 분 소요

 안녕하세요 마개입니다. 현재의 회사에서 Airflow를 1년 정도 넘게 사용 중인데 처음 Airflow를 도입하게 된 배경과 그동안의 변천사, 그 과정에서 생긴 고민들에 대한 내용을 정리하고자 합니다.

TensorFlow GPU 세팅하기

3 분 소요

 안녕하세요 마개입니다. ​이번에는 NVIDIA 그래픽카드가 달린 PC에 TensorFlow GPU를 세팅해서 사용해 보겠습니다. 업데이트 : 2023.10.09

[DevOps] CI/CD 툴 비교

1 분 소요

 안녕하세요 마개입니다. DevOps 분야에서 필요한 CI/CD 툴들에 대해 간단하게 정리를 하였습니다.

Apache Kafka란

2 분 소요

 안녕하세요 마개입니다. 이번 글에서는 데이터 파이프라인에 많이 이용하는 Apache Kafka에 대해 대략적으로 알아보도록 하겠습니다.

[Athena] AccessDeniedException 에러

1 분 소요

 안녕하세요 마개입니다. Python에서 AWS의 Athena를 이용할 때 발생한 에러를 다뤄보고자 합니다.

국내외 IT기업 기술 블로그

최대 1 분 소요

안녕하세요 마개입니다. 국내외 IT회사들의 기술 블로그 주소를 나열하였습니다. 참고용으로 봐주시길 바랍니다. (업데이트 날짜 : 2023.07.30)

[Data 포지션] Data Engineer

4 분 소요

 Data Engineer는 Data 분석 또는 경영진의 의사 결정을 위해 각기에 흩어져있는 데이터를 한곳으로 수집하여 저장하고 보여줄 수 있는 Data Pipeline을 구축하는 것이 주 업무입니다. Data가 굉장히 중요해진 만큼 Data 분석은 필수사항이 되었고 이를 효과적으...