Arvind Narayanan(@random_walker)의 스레드

📢📢 제가 쓴 새로운 논문에서 "알고리즘을 공정하게 만들 수 있을까?"라는 질문은 범주 오류라고 주장합니다: https://t.co/IWod5em6mz 몇 년 전 저는 알고리즘 공정성 연구cs.princeton.edu/~arvindn/publi…단했습니다. 그러던 중 큰 성공을 거둔 "현대 철학 논쟁" 시리즈의 일부인 "인공지능 윤리에 관한 현대 논쟁"에 에세이를 기고해 달라는 요청을 받았을 때, 과거를 되돌아보고 성찰할 수 있는 좋은 기회가 되었습니다. 핵심 논지는 다음과 같습니다. "알고리즘을 공정하게 만드는 방법에 대한 연구가 쏟아져 나왔고, 이러한 아이디어를 현실로 구현하려는 강력한 움직임이 있었습니다. 그렇다면 결과는 어떠했을까요? 저는 이러한 움직임이 자동화된 의사결정 시스템으로 인한 피해를 예방하는 데 최소한의 효과만 거두었다고 주장할 것입니다. 그 이유를 분석해 보면, 근본적인 아이디어에 두 가지 중요한 한계가 있음을 알 수 있습니다. 첫째, 정의의 대리 개념으로서의 공정성은 너무 좁은 범위의 문제에만 초점을 맞춥니다. 둘째, 공정성은 탈정치화된 관점을 적용하여 학문적 논의에서는 도덕적 명확성을 제공하는 것처럼 보이지만, 실제 구현 과정에서는 난관에 부딪힙니다. 이러한 특성들은 우연의 일치가 아니며 쉽게 고칠 수도 없습니다. 오히려 이러한 특성들이 공정성이라는 틀이 매력적으로 느껴지는 근본적인 이유입니다." 논문의 두 번째 부분은 건설적인 내용을 담고 있습니다. "저는 알고리즘 기반 의사결정에서 공정성과 정의에 대한 보다 야심찬 연구를 제안합니다. 이러한 연구에서는 기술적 하위 시스템뿐만 아니라 사회기술 시스템 전체를 모델링해야 합니다. 핵심 질문은 '알고리즘 기반 관료제를 어떻게 설계해야 하는가?'입니다. 이를 위해서는 깔끔하고 수학적으로 정확한 공정성 정의에서 벗어나 경험적 사회과학적 방법론을 수용하는 등 많은 변화가 필요합니다. 하지만 이러한 변화를 통해 얻을 수 있는 이점은 엄청납니다. 이익과 손해를 모델링하는 능력이 향상되고 개혁을 위한 설계 공간이 크게 확장될 것이기 때문입니다." 이 책에 실린 다른 에세이들도 매우 흥미로워 보여서 ​​읽어보고 싶습니다. https://t.co/vTOK0vG2jQ 1. 인공지능이란 무엇이며, 행위 주체성이라는 관점에서 정의해야 할까요? 스벤 니홀름 2. 새로운 형태의 행위 주체로서의 인공지능 루치아노 플로리디 3. 인공지능 윤리는 의료 윤리, 생명 윤리, 동물 윤리에서 무엇을 배울 수 있을까? 폴라 보딩턴 4. 인공지능 윤리는 생명윤리와 어떤 점에서 차별화되는가? 토마스 그로테 5. 알고리즘을 공정하게 만들 수 있을까요? 마거릿 미첼 6. 알고리즘적 공정성이 범주 오류라면 어떻게 될까? 아르빈드 나라야난 7. 인공지능의 결정에 대한 설명은 도덕적으로 필수적인가? 에밀리 설리번 8. 설명 가능한 AI 없이 진행하기 데이비드 댄크스 사생활에 관한 9가지 철학적 질문 레온하르트 멩게스 10. 인공지능 시대의 집단 사생활 보호 권리 아누지 푸리 11. 집단 권리: 회의적인 관점 존 제릴리 12. 인공지능과의 얽힘: 적극적 책임과 책임감 있는 행위의 함양 파비오 톨론과 섀넌 발러 13. 생성형 인공지능, 언어, 그리고 저작권: 논쟁을 해체하고 앞으로 나아가게 하기 마크 코켈버그, 데이비드 건켈 14. "인공지능이 창의적일 수 있을까?"에서 "창의적 과정에 인공지능을 통합하는 것의 가치는 무엇일까?"까지 카테리나 모루치 15. 미래의 직장은 어떤 모습일까요? 다니엘 서스킨트 16. 인공지능과 미래의 일자리: 평등주의적 비전 케이트 브레덴버그 17. 인간과 개미가 공존한다면 어떤 모습일까요? 빈센트 코니처 18. 초지능 인공지능을 제어할 수 있을까? 로만 V. 얌폴스키 19. AI 정렬의 다양한 측면 아투사 카시르자데 20. 인공지능 윤리와 인공지능 안전 사이의 불안정한 관계에 대하여 올레 해그스트롬 21. 단기적 또는 장기적 AI 윤리? 윤리적 특이점에서만 나타나는 딜레마 빈센트 C. 뮐러 22. 우리는 지각 능력이 없는 인공지능의 도덕적 지위에 대해 걱정해야 할까요? 파리사 무사비 23. 인공지능 개체와 로봇의 도덕적 지위에 관하여: 사회적 관계 접근법에 대한 비판과 속성 기반 접근법의 옹호 존-스튜어트 고든 탄소 집약적 활동, 지속가능할까? 24. 줄이기, 재사용하기, 재활용하기, 거부하기: 친환경 데이터 거부와 지속가능한 AI 크리스티나 리치 25. 계산적 행위 주체성의 생성과 관리 란짓 싱 26. 딥페이크와 민주주의 클레어 벤 27. 온라인 플랫폼은 공공 소유 및 통제되어야 하는가? 션 도나휴 28. 인공지능 거버넌스의 비극 사이먼 체스터먼 29. 인공지능은 통제될 수 있을까? 질리언 K. 해드필드