Geek(@geekbb)의 스레드

주요 개발 사항: OpenRouter는 대규모 언어 모델(LLM)이 실제 세계에서 어떻게 사용되는지에 대한 심층적인 경험적 분석을 실시했습니다. OpenRouter에서 100조 개가 넘는 토큰의 실제 통화 데이터를 기반으로 한 이 실증적 연구는 2024~2025년의 글로벌 LLM 사용량을 조사하며, "누가 모델을 사용하고, 무엇에 사용되며, 어떻게 사용되는가"라는 질문에 답하는 데 중점을 둡니다. 핵심 사항: - 벤처 캐피털 회사 a16z와 AI 추론 서비스 제공업체 OpenRouter가 공동으로 실시한 이 연구에서는 100조 개가 넘는 토큰의 실제 LLM 상호 작용 데이터를 분석했습니다. - 이 데이터는 전 세계 사용자를 포괄하는 60개 이상의 공급업체에서 제공하는 300개 이상의 모델을 연결하는 OpenRouter 플랫폼에서 제공되며, 그 중 50% 이상이 미국 외 지역에서 발생합니다. - 개인 정보를 보호하기 위해 사용자 프롬프트나 모델에서 생성된 콘텐츠의 특정 텍스트를 포함하지 않고 익명의 메타데이터를 기반으로 분석이 진행됩니다. 주요 결과: - 오픈 소스 대 폐쇄 소스: 오픈 소스 모델의 시장 점유율은 꾸준히 증가하고 있으며, 2025년 말까지 토큰 사용량의 약 3분의 1을 차지할 것입니다. 특히 중국의 오픈 소스 모델(예: Qwen 및 DeepSeek)이 빠르게 성장하여 글로벌 LLM의 경쟁 환경을 재편하고 있습니다. 보고서의 절반은 오픈소스 모델을 어떻게 활용하고 가장 많은 롤플레잉을 하는지에 대한 내용입니다. 오픈소스 모델을 아는 사람들은 오픈소스 모델이 제약이 많지 않다는 것을 알고 있습니다. - 그들은 또한 "신데렐라 유리신발 효과"라는 새로운 기술을 개발했습니다. 이는 새로운 모델이 출시되면 소수의 사람들의 성적 욕구를 자극하여 "본질적인 욕구"를 해결해 주고, 그 사람들을 그 모델에 푹 빠지게 만들어 무슨 일이 있어도 쫓아낼 수 없게 만든다는 의미입니다. 미래는 "AI 중첩 인형"의 시대입니다. 보고서는 또한 점점 더 많은 사람들이 더 이상 AI와 채팅하는 대신, AI가 여러 도구를 호출하여 스스로 작업을 수행하도록 하고 있다고 지적합니다. 이를 "프록시 추론" 워크플로라고 합니다. https://t.co/j9wpZNRs6X