요즘 "XX 가이드" 자주 보시나요? 마동석도 불평을 참을 수 없었죠. 저도 마찬가지입니다. "XX 가이드" 관련 트윗을 보면 제일 먼저 머스크가 알고리즘을 또 바꿨다고 비난하고 싶어집니다. 라이종이 웨이보 타임라인을 "팔로우한 사람 시간순"에서 알고리즘 추천으로 바꿨을 때 엄청난 비난을 받았던 것과 마찬가지입니다. 모든 것이 알고리즘의 잘못인 듯합니다. 알고리즘이 선호도를 조작하고 어둠 속에서 갈등을 만들어내며, 우리를 정보의 고치 속에 가두어 둡니다. 하지만 이 모든 것이 우리의 환상일 뿐이라면 어떨까요? 알고리즘 없이도 세상이 여전히 산산이 조각나고 고치로 가득 차 있다면 어떨까요? 가장 "순수한" 소셜 플랫폼이라도 오늘날 우리가 싫어하는 모든 것을 "자동으로" 진화시킬 수 있을 겁니다! 반박하기 전에, 방금 나온 매우 흥미로운 실험을 살펴보겠습니다. 네덜란드 암스테르담 대학교의 "소셜 미디어를 개선할 수 있을까? 생성적 소셜 시뮬레이션을 통한 다양한 '설득적' 개입 테스트"라는 제목의 논문은 AI를 사용하여 시뮬레이션 실험을 수행했습니다. 그들은 알고리즘 추천 없이, 초기 트위터나 웨이보처럼 게시, 리포스트, 팔로잉 기능만 갖춘 미니멀리스트 버전의 소셜 플랫폼을 만들었습니다. 하지만 실제 사람을 사용하는 대신, LLM(대규모 언어 모델)을 사용하여 서로 다른 성격을 가진 500명의 가상 사용자를 시뮬레이션했습니다. 이 AI 가상 사용자들은 서로 다른 정치적 입장, 관심사, 그리고 배경을 가지고 있었습니다. (그런데, 그들의 영감은 스탠포드가 GPT-4를 사용하여 만든 스몰빌이라는 가상 도시에서 얻은 것 같습니다. 25명의 AI 가상 인간이 그 마을에 살았습니다. 그들은 직업을 가지고, 수다를 떨고, 사교 모임을 조직하고, 새로운 친구를 사귀고, 심지어 발렌타인데이 파티까지 열었습니다. 마을의 각 주민은 독특한 성격과 배경 이야기를 가지고 있었습니다.) 결과가 어떻게 될지 추측해 보세요. 약 50,000건의 상호 작용을 통해 세 가지 전형적인 소셜 미디어 문제가 빠르게 드러났습니다. 1. "에코 챔버" 형성: AI 가상 인간들은 알고리즘적인 "피딩" 없이도 빠르게 "편을 든다". 비슷한 입장을 가진 사람들은 서로를 따라가며 곧 여러 개의 작은 원을 형성하는데, 원들 간의 상호작용은 거의 없다. 2. 인플루언서는 트래픽을 독점합니다. 상위 사용자의 10%가 팔로워의 75~80%를 보유하고 있습니다. 3. 극단적인 목소리가 증폭됩니다. 더 명확하고 극단적인 입장을 담은 견해는 더 많은 리포스트와 관심을 받습니다. 그런 다음 문헌에서 선정된 여섯 가지 플랫폼 수준 개입을 시험한 결과, 개선 효과가 극히 제한적이라는 것을 발견했습니다. 어떤 개입도 이러한 증상을 유발하는 근본적인 메커니즘을 완전히 파괴하지 못했으며, 일부는 문제를 악화시키기까지 했습니다. 여섯 가지 개입 방안을 평가했습니다. 몇몇은 어느 정도 긍정적인 효과를 보였지만, 핵심 문제를 완전히 해결한 방안은 없었습니다. 더욱이, 한 차원의 개선은 다른 차원의 악화를 초래하는 경우가 많았습니다. (예를 들어, "시간별 분류"는 불평등을 완화했지만 "프리즘 효과"는 악화시켰습니다. "브리징 알고리즘"은 "프리즘 효과"를 완화했지만 불평등을 악화시켰습니다.) 소셜 미디어를 괴롭히는 세 가지 주요 문제, 즉 정보의 누에고치, 집중된 영향력, 그리고 극단적인 목소리의 증폭은 인간의 온라인 사회적 행동 자체에 뿌리를 두고 있으며, 우리가 생각하는 것만큼 알고리즘 추천과는 큰 관련이 없을 수도 있습니다. "에코 챔버"를 적극적으로 찾는 것은 바로 우리 자신이고, 극단적인 견해를 가진 사람들을 "인플루언서"로 격상시키는 것도 바로 우리 자신입니다. 이는 또한 "감시 목록 법"의 존재를 설명합니다. @HeSenbao: 몇 년 전 웨이보에서 "팔로잉 리스트 법칙"이라는 말이 유행했는데, 기본적으로 누군가가 뻔뻔스럽게 어리석은 말을 하면 팔로잉 리스트에 몇 개의 계정이 꼭 생긴다는 뜻입니다. @FantasyManLiu: 사회학자들은 이미 이 문제를 연구하고 있습니다. 정보화 이전 시대에는 개인이 정보를 수동적으로 수용했고, 정보 전파는 주로 일방적이었습니다. 양방향 시대에는 정보원이 수용자를 걸러내고, 수용자는 정보원을 능동적으로 걸러냅니다. 따라서 수용자가 정보원을 선택하는 선호도는 그들의 인지 수준, 이해 수준, 그리고 관련 입장을 반영할 수 있습니다. 소셜 미디어를 분열시키는 것은 알고리즘이 아닙니다. 세상이 원래 그런 것일 뿐입니다. 우리가 분열을 느끼는 이유는 단순히 알고리즘이 우리가 평소에는 보지 못했던 세상을 보게 만들기 때문일 수도 있습니다. 소셜 미디어 이전 시대에는 우리 주변에 우리와 비슷한 사람들이 많았고, 우리가 시청하는 신문과 텔레비전은 편집자들이 걸러낸 조화로운 현실을 보여주었습니다. 이제 알고리즘은 이전에는 존재하지만 억압되었던 모든 목소리를 발굴해 냈습니다. 툼키퍼는 고전적인 "수수료 인상 및 속도 감소" 이론을 가지고 있는데, 이는 유사한 관점입니다. 요점은 2017년 이후 "속도 증가 및 수수료 감소" 정책으로 인해 인터넷 사용자 수가 급증하여 온갖 종류의 사람들이 유입되었고, 극단적인 의견이 증가했다는 것입니다. 당신이 느끼는 분열의 감정은 알고리즘이 갈등을 만들어내기 때문이 아니라, 알고리즘이 당신에게 현실적이고 다양하며 때로는 충격적일 정도로 복잡한 세상을 보여주기 때문입니다. 저는 소셜 미디어 플랫폼이 정보의 틀을 깨뜨릴 유인이 있다고 생각합니다. 이유는 간단합니다. 알고리즘이 당신이 좋아하는 것만 보여주면 금방 지루해질 테니까요. 당신을 플랫폼에 더 오래 머물게 하려면, 알고리즘은 끊임없이 당신을 놀라게 해야 합니다. 당신이 흥미를 느낄 만한 새로운 콘텐츠를 추천해야 하지만, 아직 본 적은 없습니다. 따라서 저는 라오마와 라이종이 알고리즘을 최적화할 것이라고 믿습니다. 아직 여러 가지 문제가 있지만 결국에는 긍정적인 방향으로 발전할 것입니다. 잭 마와 라이의 알고리즘을 자주 비판하지만, 플랫폼 푸시 알림에도 크게 의존하는 이유도 바로 이겁니다. 네티즌들이 제 정보를 어디서 얻느냐고 자주 묻는데, 저는 이미 여러 번 말씀드렸습니다. 제 주요 출처는 X의 푸시 알림과 해커 뉴스입니다. 저는 시간과 팔로잉 순으로 정렬된 "팔로잉" 기능보다는 X의 "For You" 기능만 거의 독점적으로 사용합니다. 알고리즘 덕분에 이전에는 팔로우하지 않았던 가치 있는 콘텐츠를 발견할 수 있기 때문입니다. "소셜 미디어를 개선할 수 있을까?"라는 제목의 논문은 매우 통찰력 있는 진술로 결론을 맺습니다. 이러한 문제가 이처럼 단순한 플랫폼에서 "발생"할 수 있다는 사실은 문제가 알고리즘의 구현 세부 사항에 있는 것이 아니라 더 깊은 구조적 메커니즘에 있을 수 있음을 시사합니다. 즉, 이는 "콘텐츠 상호작용"과 "네트워크 형성" 간의 복잡한 역학에서 비롯됩니다. > "리트윗"은 단순히 콘텐츠를 확산하는 것이 아니라, 소셜 네트워크를 "구축"하는 것입니다. 사용자는 이미 팔로우하는 계정의 리트윗을 통해 다른 사람들에게 노출됩니다. > 이는 핵심 메커니즘을 의미합니다. 즉, 리포스팅의 "감정적, 반응적, 당파적" 특성이 누가 보이고 누가 팔로워를 얻는지를 직접적으로 결정한다는 것입니다. > 이는 악순환을 만들어내고, 이는 스스로를 더욱 강화합니다. 감정적 상호작용은 소셜 네트워크의 성장을 촉진하고, 성장하는 네트워크는 다시 미래의 정보 노출을 형성합니다. 이러한 악순환은 이념적 동질성, 관심의 불평등, 그리고 극단적인 목소리의 과대 표현을 끊임없이 강화합니다. > 우리의 연구 결과는 "소셜 미디어 기능 장애는 주로 알고리즘 큐레이션에 의해 발생한다"는 통념에 이의를 제기합니다. 오히려 이러한 문제는 소셜 미디어의 근본적인 구조, 즉 "감정적이고 반응적인 공유"를 통해 성장하는 소셜 네트워크에 뿌리를 두고 있을 수 있습니다. > 그렇다면 온라인 담론 환경을 개선하는 일은 단순히 기술적인 "패치와 수정"만으로는 달성될 수 없습니다. 이러한 환경을 정의하는 가장 기본적인 상호작용과 가시성 역학을 다시 생각해야 합니다. 문제는 결국 원점으로 돌아갔습니다. 문제의 근원은 알고리즘이 아니라 "감정적이고 반응적인 공유"에 있기 때문에, 단순히 플랫폼의 기술을 패치하는 것만으로는 충분하지 않습니다. 이 논문은 해결책을 제시하지는 않았지만, 적어도 사용자인 우리가 스스로 변화를 만들 수 있다는 점을 일깨워 주었습니다. 서두에 언급했던 "XX 가이드"처럼, 왜 자꾸 보게 되는 걸까요? 사실 잘 생각해 보면 화면에 쭉 떠 있는 건 아니에요. 다른 트윗은 읽고 나면 잊어버리는 것뿐인데, 이런 콘텐츠는 감정, 공감, 댓글을 가장 쉽게 불러일으키고, 계속해서 다시금 생각하게 만드는 것 같아요. 이 시점에서 마동석의 접근 방식은 매우 영리했습니다. 그는 이를 간략하게 언급했지만 "Low B Guide"라고 지칭했고 전달하거나 인용하지 않았습니다. 이는 "감정주의의 악순환"에 빠지지 않으려는 노력입니다. "반응형 공유를 통한 성장"이라는 플랫폼의 기본 아키텍처를 바꿀 수 없다면, 적어도 우리 자신의 반응형 공유 및 전달 패턴은 바꿀 수 있습니다.
논문 링크arxiv.org/abs/2508.03385Yr
