손재명 | 로켓 같은 백엔드 개발자
/
주요 프로젝트 포트폴리오
/
[CREVERSE] Gen AI Service DevOps(작성중)
Search
Share
[CREVERSE] Gen AI Service DevOps(작성중)
문제
마이크로소프트와 함께 진행하는 프로젝트에서
Azure OpenAI의 TPM, RPM Issue로 인해 추가적인 인프라 구성이 필요한 상황
각 리전별로 할당된 300K