인기 없는 의견: 가짜 논문과 가짜 리뷰에 심각한 처벌을 내려야 합니다. #일요일하랑게(금요일 버전) 우리는 두 논문(예: AAAI 실험에서 컨퍼런스에 제출된 동일한 논문의 여러 LLM 생성 버전을 발굴한 사례!)과 리뷰(예: @iclr_conf에서 전체 또는 부분적으로 LLM으로 생성된 리뷰에 대한 트윗, 리뷰어가 LLM 사용의 흔적을 제거하려고 하지도 않음)에 대한 터무니없는 이야기를 계속 듣고 있습니다. AI/ML 컨퍼런스에서 이런 안타까운 상황이 벌어지는 이유 중 하나는 숫자로 표현된 익명성의 안전성 때문이라고 생각합니다. 단 하나의 가짜 리뷰나, 신이 금하신 대로 가짜 논문을 쓰는 것만으로도 해당 연구에 참여한 사람들의 연구 경력이 끝나는 것을 의미했던 시절이 있었습니다. 하지만 이제는 더 이상 그런 일이 일어나지 않습니다. 저자의 개인정보 보호/이중 익명성 규칙과 심사자 간 익명성 덕분에 가능해졌습니다. 이러한 것들의 순 효과는 기본적으로 나쁜 행동에 대한 "손목을 가볍게 두드리는" 수준의 처벌이 없다는 것입니다.("윤리 검토" 등에 많은 노력을 기울인 것을 감안하면 역설적입니다). 비윤리적인 행동에는 심각한 대중적 결과가 따릅니다. 인센티브 시스템이 바뀌지 않는 한, 현재 상황이 바뀔 것이라고 믿을 이유는 거의 없습니다. 관련된 아이디어 중 하나는 *심사자 간 익명성*을 없애는 것입니다. 이것이 사람들이 어리석은 LLM 리뷰를 게시하는 것을 마다하지 않는 큰 이유입니다.
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.