[Interview] 롭 라이히 > 공지사항

[Interview] 롭 라이히 스탠퍼드대 정치학 교수롭 라이히 스탠퍼드대 정치학 교수 - 현 스탠퍼드대 인간중심AI연구소 선임 연구원, 전 미국 AI안전연구소 수석 고문, '시스템 에러: 빅테크 시대의 윤리학' 저자 /사진 롭 라이히 “만약 기술이 민주적 감독과 거버넌스를 받지 않는다면, 우리는 기업이 무책임하게 기술을 운용하는 방식과 중국식 권위주의적 기술 통제 모델 중 하나를 선택해야 하는 상황에 놓이게 될 것이다.”과학기술 윤리 분야 세계적 석학인 롭 라이히(Rob Reich) 스탠퍼드대 교수는 최근 인터뷰에서 알고리즘의 올바른 개발 방향 필요성을 강조하며 이렇게 말했다. 그에 따르면, 알고리즘 자체는 선하지도 악하지도 않지만, 어떻게 사용되느냐에 따라 보이지 않는 새로운 권력이 될 수 있다. 소셜미디어(SNS)가 대표적이다. SNS 속 알고리즘은 사용자 참여를 극대화하는 방식으로 설계돼 있어, 그 결과 자극적이며 감정을 극도로 부추기는 콘텐츠를 증폭할 가능성이 크다. 라이히 교수는 “알고리즘이 민주적 감독 없이 방치될 경우 사회·정치적 권력이 소수에게 집중될 위험이 있다”면서 “정부와 기업이 함께 알고리즘에 영향을 주는 인공지능(AI) 기술을 인간 중심적이고 민주주의적 가치를 지지하는 방향으로 발전시켜야 한다”고 강조했다.라이히 교수는 스탠퍼드대에서 과학 및 기술의 사회 윤리를 연구하는 맥그리거-지랑드 석좌교수로, 2024년 미국 AI안전연구소의 수석 고문을 지냈고, 현재 스탠퍼드대 인간중심AI연구소(HAI) 선임 연구원을 맡고 있다. 2022년 한국에 번역 출간된 ‘시스템 에러: 빅테크 시대의 윤리학’ 공동 저자이기도 하다. 다음은 일문일답.알고리즘이 우리 사회에 점점 더 많은 영향을 미치고 있다.“실제로 지금 우리는 알고리즘이 매개하는 세계에서 살고 있다. 알고리즘은 인간 사이 관계뿐 아니라 우리가 속한 경제·사회·정치적 제도와 관계에서도 핵심적인 역할을 한다. 채용, 형사·사법, 의료, 교육 등 중요한 분야에서도 알고리즘이 이미 변화를 주도하고 있다. 우리가 정보를 얻고 엔터테인먼트를 소비하는 SNS 플랫폼 역시 알고리즘이 움직인다. 문제는 AI 시대가 도래하면서 알고리즘의 영향력이 더 커지고 있지만, 동시에 그 작동 방식은 점점 불투명해지고 있다는 사실이다. 개발자조차도 이해하기 어려운 수준에 이르고 있다.”그렇다면 알고리즘은 인간 사회에 본질적으로 위협이 되는가. 아니면 그 이점이 위험을 넘어선다고 보는가.“알고리즘은 사회에 엄청난 기회를 제공하는 동시에 심각한 위험을 초래할 수 있다. 따라서 이 문제는 단순한 선택의 문제가 아니라 균형의 문제로 접[Interview] 롭 라이히 스탠퍼드대 정치학 교수롭 라이히 스탠퍼드대 정치학 교수 - 현 스탠퍼드대 인간중심AI연구소 선임 연구원, 전 미국 AI안전연구소 수석 고문, '시스템 에러: 빅테크 시대의 윤리학' 저자 /사진 롭 라이히 “만약 기술이 민주적 감독과 거버넌스를 받지 않는다면, 우리는 기업이 무책임하게 기술을 운용하는 방식과 중국식 권위주의적 기술 통제 모델 중 하나를 선택해야 하는 상황에 놓이게 될 것이다.”과학기술 윤리 분야 세계적 석학인 롭 라이히(Rob Reich) 스탠퍼드대 교수는 최근 인터뷰에서 알고리즘의 올바른 개발 방향 필요성을 강조하며 이렇게 말했다. 그에 따르면, 알고리즘 자체는 선하지도 악하지도 않지만, 어떻게 사용되느냐에 따라 보이지 않는 새로운 권력이 될 수 있다. 소셜미디어(SNS)가 대표적이다. SNS 속 알고리즘은 사용자 참여를 극대화하는 방식으로 설계돼 있어, 그 결과 자극적이며 감정을 극도로 부추기는 콘텐츠를 증폭할 가능성이 크다. 라이히 교수는 “알고리즘이 민주적 감독 없이 방치될 경우 사회·정치적 권력이 소수에게 집중될 위험이 있다”면서 “정부와 기업이 함께 알고리즘에 영향을 주는 인공지능(AI) 기술을 인간 중심적이고 민주주의적 가치를 지지하는 방향으로 발전시켜야 한다”고 강조했다.라이히 교수는 스탠퍼드대에서 과학 및 기술의 사회 윤리를 연구하는 맥그리거-지랑드 석좌교수로, 2024년 미국 AI안전연구소의 수석 고문을 지냈고, 현재 스탠퍼드대 인간중심AI연구소(HAI) 선임 연구원을 맡고 있다. 2022년 한국에 번역 출간된 ‘시스템 에러: 빅테크 시대의 윤리학’ 공동 저자이기도 하다. 다음은 일문일답.알고리즘이 우리 사회에 점점 더 많은 영향을 미치고 있다.“실제로 지금 우리는 알고리즘이 매개하는 세계에서 살고 있다. 알고리즘은 인간 사이 관계뿐 아니라 우리가 속한 경제·사회·정치적 제도와 관계에서도 핵심적인 역할을 한다. 채용, 형사·사법, 의료, 교육 등 중요한 분야에서도 알고리즘이 이미 변화를 주도하고 있다. 우리가 정보를 얻고 엔터테인먼트를 소비하는 SNS 플랫폼 역시 알고리즘이 움직인다. 문제는 AI 시대가 도래하면서 알고리즘의 영향력이 더 커지고 있지만, 동시에 그 작동 방식은 점점 불투명해지고 있다는 사실이다. 개발자조차도 이해하기 어려운 수준에 이르고 있다.”그렇다면 알고리즘은 인간 사회에 본질적으로 위협이 되는가. 아니면 그 이점이 위험을 넘어선다고 보는가.“알고리즘은 사회에 엄청난 기회를 제공하는 동시에 심각한 위험을 초래할 수 있다. 따라서 이 문제는 단순한 선택의 문제가 아니라 균형