FastComments 자동 라우팅 전송 시스템

소개

FastComments 자동 라우팅 전송 시스템(FARTS)은 우리의 전송 및 서비스 계층입니다. FART는 혼잡을 완화하고, 사용자 위치 및 향후 부하에 따라 트래픽을 라우팅하는 데 도움을 줍니다. 이 시스템은 여러 개의 다양한 시스템으로 구성되며, 지리 인지 DNS 계층, DB 프록시, DB 복제, SSL 인증서 관리, 리버스 프록시 및 엣지에서 자산을 캐시하기 위해 디스크 기반 LRU 캐시를 사용하는 CDN을 포함합니다. 이 시스템은 조용한 및 소리 있는 페일오버 모드를 모두 지원합니다. 생산 환경에서는 조용한 모드가 선호됩니다.

Active-Active

FART의 최신 버전은 데이터베이스를 위한 내장 프록시 및 복제 계층을 포함합니다. 이는 FastComments가 전세계 쓰기 가능성을 갖춘 Active-Active로 운영될 수 있게 하며, 이를 통해 우리의 FARTS가 최종적으로 일관성을 유지할 수 있습니다. 자세한 내용은 여기에서.

우리가 초기에 실제로 시도한 접근 방식 중 하나는 MongoDB의 포크를 만들 수 있는지를 알아보는 것이었습니다. 우리의 엔지니어 중 한 명(Sloperators)은 Opus 4.6을 사용하여 이를 실제로 수행할 수 있었으나, 우리는 이를 수행하는 리스크가 자체 격리 시스템을 구축하는 것보다 더 높다고 결정했습니다.

FART 같은 것을 사용할 때 바라는 마지막 것은 그것이 도착했다는 것을 알고 있지만, 출처를 추적할 수 없는 것입니다. 우리는 세밀한 수준에서 Active-Active 복제를 모니터링하기 위한 모니터링 및 진단을 추가했습니다.

대규모 Rust

FART를 만드는 동기 중 일부는 자바로 작성된 기존 서비스를 대체하는 것이었습니다. 한동안 이를 고민한 끝에, 우리는 실행 시간 오버헤드를 줄이기 위해 이러한 서비스를 하나의 Rust 서비스로 통합하기로 결정했습니다. 이는 우리가 FART를 자주 배포하지 않기 때문에 수용 가능한 거래였습니다. FART는 LTO와 함께 컴파일되므로 성능을 최대한 발휘할 수 있습니다.

우리는 오래된 자바 시스템을 다양한 GC 등으로 조정하는 데 많은 시간을 보냈으며, 결국 async Rust + Mimalloc이 동일한 하드웨어에서 훨씬 낮은 메모리 요구 사항으로 더 나은 성능을 내므로 전환하는 것은 명백한 선택이었습니다.

FART 마스터

각 배포에는 자체 FART 마스터가 포함됩니다. 마스터는 크론, 웹후크 등을 조율하는 역할을 합니다.

고객 영향

FART 시스템은 현재 약 1년 동안 운영되어 왔습니다. 최근에야 Active-Active 배포로 마이그레이션을 완료했습니다. 새로운 시스템은 시스템 전체의 지연 시간에 대한 가시성을 높이고 유지 관리 부담을 줄여 기능에 더 많은 시간을 할애할 수 있게 해줍니다.

FART는 배경에서 조용히 작동하지만, 그 존재감은 항상 느껴집니다. 우리는 귀하의 사용 사례(주로 데이터 변경을 초래하는 사용자 작업)가 일부 지역에서 더 빠르게 이루어지길 바랍니다.

배포

배포는 우리가 서비스를 배포하는 데 사용하는 글로벌 오케스트레이션 시스템을 사용합니다. FARTS 문서에서는 sloperators가 배포를 절대 신뢰하지 않고, 릴리스하기 전에 항상 페이로드를 확인해야 한다고 권장합니다.

배포 후 FART 알림은 에스컬레이션 정책을 따르며: 먼저 방, 다음 층, 다음 건물입니다.

결론

모든 주요 릴리스와 마찬가지로, 우리는 이 변화를 최적화하고, 테스트하며, 적절하게 릴리스할 수 있는 시간을 가질 수 있어 기쁩니다. 앞으로 다가올 일들에 대해 기대하고 있습니다. FastComments는 이 작업으로 인해 더 나은 확장성과 가동 시간을 가지게 될 것입니다. FART 매뉴얼에서는 이렇게 말합니다: "냄새가 나는 무언가가 있다면, 말하세요." 발견한 문제가 있다면 아래에 알려주세요.