空谷 Arvin Xu(@arvin17x)의 스레드

[1/7] LobeChat Cloud(htlobechat.com 3개월 넘게 공개 베타 버전을 운영해 왔고, 드디어 두 번째 🏁 매출 이정표를 달성했습니다~ 🥳 (불안감을 조장하는 것처럼 들리지 않도록 구체적인 수치x.com/arvin17x/statu…3개월 동안의 실제 경험에 대해 이야기해 볼까요! 시작해 볼까요~ 🚀

[2/7] 먼저 제품에 대해 이야기해 보겠습니다. 지난 3개월 동안 저는 더 많은 새로운 기능을 개발해야 한다는 강한 확신을 가지고 있었습니다! 각 주요 기능은 새로운 사용자 그룹을 유입할 수 있었습니다. 8월에 출시된 새로운 지식 베이스와 9월에 출시된 아티팩트는 모두 많은 신규 사용자를 확보했습니다. 하지만 10월에는 새로운 기능이 없었고, 구독 관련 최적화만 진행했으며, 홍보도 상대적으로 부족했기 때문에 성장률이 크게 둔화되었습니다. 따라서 모든 사람이 제품의 진행 상황을 직관적으로 느낄 수 있도록 매달 하나의 주요 기능으로 반복 주기를 늘리도록 노력할 것입니다. 이번 달의 기능은 많은 분들이 기대하고 계신 "브랜치 대화"입니다. (저는 오랫동안 원해왔습니다 😆)

[3/7] 이 기간 동안 저희가 이룬 가장 큰 성과 중 하나는 API 게이트웨이 기능을 전반적으로 강화한 것이라고 생각합니다. 최고 수준의 오픈소스 프로젝트인 LiteLLM을 활용하여 AI API의 안정성을 크게 향상시켰습니다. LiteLLM은 다중 채널 로드 밸런싱과 트래픽 전환에 대한 온디맨드 제어를 지원할 뿐만 아니라, 실패 시 재시도 및 폴백을 원활하게 지원합니다. 👍 예를 들어, Claude 3.5 sonnet을 사용하여 현재 로드 밸런싱을 위해 두 개의 Tier 4 공식 직접 API 키를 사용하고 있습니다. 로드가 부족하면 공식 AiHubMix 채널로 자동 폴백됩니다. 현재 Claude 공식 API가 다운되지 않는 한 Claude 모델 채널의 안정성을 100%까지 확보할 수 있습니다😎 (공식 API가 다운될 수 있는 문제를 해결하기 위해 최근 GCP 담당자에게 연락하여 계정을 개설했으며, 향후 Anthropic 공식 API의 백업 채널 역할을 할 수 있도록 준비했습니다😏) 동시에 지난달에는 전체 AI 모델 모니터링 기능을 갖춘 Kuma를 구축하고 각 모델에 대한 실제 요청에 대한 하트비트 모니터링을 수행했습니다. 대부분의 채널이 공식 API에 직접 연결되어 있기 때문에 하트비트 테스트를 통해 평균 요청 지연 시간이 약 1초로 매우 낮다는 것을 확인할 수 있습니다⚡️. 최종 사용자의 대화 경험이 효과적으로 보장됩니다😆

[4/7] 다음으로, 제품 비용에 대해 이야기해 보겠습니다. 많은 인터넷 기업가들과 달리 저희는 비용에 상당히 민감합니다. 소규모 팀이었기에 투자할 금액이 많지 않았기 때문에 초기부터 비용 구조를 많이 계산했습니다. 10만 명의 신규 사용자를 추가했다고 가정해 보겠습니다. 트래픽, 컴퓨팅 비용, 인증 비용, 스토리지 비용은 얼마나 소모될까요? Vercel, Neon, Clerk, Cloudflare와 같은 플랫폼에서는 이 비용이 얼마나 발생할까요? 이 비용을 얼마나 곱해야 이익 마진을 창출하고 궁극적으로 판매 가격을 형성할 수 있을까요? 이렇게 하면 제품 트래픽이 갑자기 10배로 급증하더라도 기존 인프라가 해당 트래픽을 감당하고 수익을 10배로 늘릴 수 있다는 확신을 가질 수 있습니다.

[5/7] Clerk를 예로 들어보겠습니다. 클라우드에서 Clerk를 실행해 본 결과, Clerk는 해외 배포용 SaaS 인증의 모범 사례이며, 많은 사람들이 생각하는 것만큼 과하지 않다는 것을 알게 되었습니다. 많은 사람들이 Clerk의 MAU(월간 활성 사용자)가 0.02달러라는 사실이 터무니없이 비싸다고 생각합니다. MAU가 2만 명이라면 월 100달러를 내야 하고, 10만 명이라면 월 2,000달러를 내야 합니다. 그렇다면 사실상 Clerk를 위해 일하는 셈인가요? 하지만 전혀 그렇지 않습니다. Clerk의 실제 청구 가능 MAU는 "두 번째 로그인"을 기준으로 계산됩니다. 대부분의 사용자는 제품을 처음 방문한 후 떠나 다시는 돌아오지 않을 수 있습니다. 이러한 사용자에게는 Clerk에서 요금이 청구되지 않습니다. 실제로 활동하는 사용자만 MAU로 계산됩니다. 예를 들어, 클라우드에는 현재 24,000명의 등록 사용자가 있지만, Clerk는 약 3,000명의 MAU에 대해서만 요금을 청구합니다. 즉, Clerk의 목표인 10,000명의 MAU를 달성하려면 전체 사용자 수가 80,000명에 도달해야 합니다. 현재 유료 요금제를 기준으로 사용자 수를 세 배로 늘리면 안정적이고 수익성 있는 현금 흐름을 창출하기에 충분합니다. 또한, Clerk의 비용 모델을 사용하면 사용자 행동 퍼널(가입 -> 활성 -> 유료)의 주요 데이터 포인트를 자연스럽게 포착할 수 있습니다. 이 퍼널 데이터에 자체 구축된 인증을 사용하면 추가 비용이 발생할 가능성이 높습니다. Neon, Vercel 등 다른 기본 서비스의 비용 분석은 추후 별도의 게시글을 통해 논의할 예정이니 기대해 주세요!

[6/7] 마지막으로 결제에 대해 이야기해 보겠습니다. 8월에 첫 번째 위험 관리 문제가 발생했습니다. 두 건의 결제 명령에 이의가 제기되었고, 이후 누군가 신용카드를 도난당했다는 사실을 알게 되었습니다. 지금까지 세 건의 사례가 발생했습니다. 해외 결제 환경은 중국만큼 안전하지 않습니다. 신용카드 도난 관련 세 건의 분쟁으로 거의 100달러 이상의 손실이 발생했습니다. 🥲 따라서 Stripe의 레이더를 켜 두시기를 강력히 권장합니다. 그렇지 않으면 결제 도난 및 분쟁과 같은 문제가 발생할 가능성이 높습니다. Stripe에서 특정 결제 명령을 검토해야 한다는 메시지가 표시되면 가능한 한 빨리 해당 계정으로 이메일 문의를 보내시는 것이 좋습니다. 일정 기간 내에 답변이 없으면 바로 환불을 요청하고 사기로 표시하세요. 이렇게 하면 후속 분쟁 가능성을 크게 줄일 수 있습니다. 또한, 세금 문제도 주의해야 할 문제로 대두되었습니다. 현재 영국, EU 등 각 국가별로 등록하고 있으며, 충분한 경험을 바탕으로 모든 분들께 공유해 드리겠습니다.

[7/7] 자, 지난 3개월 동안 얻은 새로운 통찰력과 배움은 여기까지입니다. 이 여정이 저희가 바랐던 만큼 순탄하지는 않았지만, 다행히 무사히 헤쳐나왔습니다. 마지lobechat.com이든(https://t.co/z4k5TITVKc) LobeChat을 사용해 보시는 모든 분들을 환영합니다. 비판과 제안을 환영하며 더욱 발전된 서비스를 만들기 위해 최선을 다하겠습니다. 💪 다음 목표 ⛳️에 도달하면 새로운 통찰력을 여러분과 공유하겠습니다.