채팅 API: 서버를 늘리면 용량이 그대로 늘어나는 채팅 엔진

서버는 Go 프로그램 하나입니다. 저장은 PostgreSQL이 맡고, 여러 서버에 메시지를 나눠 보내는 일은 Redis가 맡습니다. 방마다 메시지에 빈틈없는 순번을 붙여서, 클라이언트가 빠진 번호를 알아채고 스스로 채웁니다.

클라이언트 SDK는 다른 라이브러리에 의존하지 않는 TypeScript 하나입니다. 서비스마다 앱을 따로 두는 구조라 서버 한 대를 여럿이 나눠 씁니다. 같은 메시지가 두 번 전달돼도 한 번만 저장되고, 저장 전에 서비스가 내용을 검사해 막을 수도 있습니다.

서버를 1대, 2대, 3대로 늘리며 같은 시험을 했습니다. 메시지를 이용자에게 내려보내는 처리량이 정확히 1배, 2배, 3배로 늘어, 서버를 한 대 더하면 같은 용량이 그대로 더해졌습니다.

반대로 메시지를 저장하는 쪽은 데이터베이스 하나를 거치므로 그쪽이 먼저 한계가 됩니다. 이 한계와 아직 재지 못한 것까지 공개 문서에 적었습니다. 쓰던 데이터를 통째로 내려받는 내보내기 기능도 있어서 서비스에 묶이지 않습니다.

연결 두 개가 겹치는 순간에만 생기는 버그는 가짜 환경으로는 재현되지 않았습니다. 그래서 진짜 데이터베이스와 서버를 띄워 테스트합니다. 숫자를 공개할 때는 얼마나 나오는지보다 어떤 조건에서 쟀는지가 더 중요했습니다. 또 이미 배포된 SDK는 회수할 수 없어서, 통신 규칙은 추가만 하고 지우지 않습니다.