[ECS 운영 트러블슈팅 #2] Fargate 전환 후 발생한 Multi-AZ 통신 장애 해결기
·
Projects
지난 글에서는 ECS on EC2에서 Blue/Green 배포가 용량 데드락에 빠지는 문제를 Fargate 전환으로 해결했습니다. 그러나 전환 후에 Blue/Green 배포가 계속해서 성공적으로 이루어졌지만, 간헐적으로 웹 서버에 접속 시 특정 API 요청에 대한 응답을 불러오지 못하는 오류가 발생하였습니다. 태스크가 더 이상 하나의 가용영역이 아니라 여러 AZ에 흩어져 배치되기 시작한 것입니다. 이번 글에서는 Fargate 전환 이후 태스크가 멀티 AZ에 배치되면서, 단일 AZ에 고정된 ML/Redis 서버와의 통신이 NACL에서 막혀버린 문제와 그 해결 과정을 정리해보겠습니다. 목차1. Fargate 전환 이후 바뀐 구성2. 간헐적으로 '분석할 데이터가 없음'이 뜨는 문제 발생3. 멀티 AZ 배치와..
[ECS 운영 트러블슈팅 #1] EC2에서 Fargate로! 무중단 Blue/Green 배포의 용량 데드락 해결기
·
Projects
ECS(Elastic Container Service)는 AWS에서 제공하는 관리형 컨테이너 오케스트레이션 서비스로, 컨테이너를 어디서 실행할지에 따라 크게 두 가지 모드를 제공합니다. 하나는 EC2 인스턴스를 직접 띄워 그 위에서 컨테이너를 굴리는 ECS on EC2, 다른 하나는 호스트 관리를 AWS에 위임하는 서버리스 방식인 Fargate입니다. 두 방식은 비용 구조와 운영 부담, 그리고 용량을 다루는 방식 자체가 다르기 때문에, 어떤 워크로드에 무엇을 쓰느냐가 아키텍처의 안정성과 비용을 크게 좌우합니다. 이번 글에서는 실제 서비스를 ECS on EC2로 운영하던 중 무중단 배포(Blue/Green)를 도입했다가 마주친 용량 데드락 문제를 다뤄보려 합니다. 컴퓨팅 레이어를 Fargate로 전환하면서..
적응형 언샤프 마스킹 기반 이미지 보정 프로젝트
·
Projects
어댑티브 언샤프 마스크 기반 이미지 샤프닝 프로젝트프로젝트 개요본 프로젝트는 전통적인 언샤프 마스크(Unsharp Mask, USM) 기법을 확장하여, 이미지의 패치 단위 특성(밝기 평균, 표준편차, 주파수 비율)을 입력으로 활용해 최적의 k(샤프닝 강도) 를 학습, 예측하는 Adaptive Sharpening System을 구축하는 것을 목표로 합니다.특히, 단순 고정 k값이 아니라 Grid Search + 머신러닝 회귀 모델(XGBoost) 을 통해 PSNR, SSIM 기반 최적 k-map을 생성하고, 선명도를 극대화하는 데 중점을 두었습니다.프로젝트의 주요 모듈은 다음과 같이 구성되어 있습니다:preprocessing.ipynb : 데이터셋 생성, 패치별 피처 추출 및 그리드 서치 기반 타겟 k 생..
수질 예측 회귀 모델 비교
·
Projects
#1 프로젝트 개요본 프로젝트는 실제 수질 데이터를 활용하여 pH 수치를 예측하기 위한 머신러닝 회귀 모델을 구축하는 것을 목표로 합니다. 특히, 선형 모델인 ElasticNet 회귀와 비선형 앙상블 모델인 Random Forest 회귀의 성능을 비교 분석하고, 과적합 문제와 각 모델의 특성 기여도를 해석하는 데 중점을 두었습니다.이를 통해 각 모델의 장단점을 파악하고, 주어진 데이터에 더 적합하고 신뢰성 있는 모델이 무엇인지 평가했습니다.출처서울시공공데이터#2 프로젝트 워크플로우 및 성능 분석 ElasticNet 회귀 (다항 특성 + 표준화)MAE0.16900.1141RMSE0.20850.1709ElasticNet 모델은 일반화 성능이 우수하다고 판단됩니다. 훈련 세트와 테스트 세트의 오차율이 비슷하..
서울시 대기질 예측을 위한 로지스틱 회귀 프로젝트
·
Projects
#1 프로젝트 개요본 프로젝트는 서울시의 대기오염 및 기상 데이터를 활용하여 다음 날의 초미세먼지(PM2.5) 및 미세먼지(PM10) 농도를 '좋음' 또는 '나쁨'으로 예측하는 머신러닝 모델을 개발하고 성능을 다양한 지표를 활용하여 분석하는 것을 목표로 합니다.특히, 공중 보건에 치명적인 '나쁨' 단계를 '좋음'으로 잘못 예측하는 경우(False Negative)를 최소화하는 데 중점을 두었습니다. 이를 위해 데이터 전처리, 특성 공학, 클래스 불균형 문제 해결, 모델 성능 평가에 이르는 전 과정을 체계적으로 수행했습니다.프로젝트 관련 상세 설명은 아래 세 개의 주피터 노트북으로 구성되어 있습니다:preprocessing.ipynb : 대기오염 및 기상 데이터를 정제하고 병합합니다.training.ipy..