5일 전

글로벌 칼럼 | 제품 디자인은 윤리적이어야 할까?

Andrew C. Oliver | InfoWorld
반복되는 스캔들과 EU의 GDPR(General Data Protection Regulation), 넷플릭스의 다큐멘터리 ‘소셜 딜레마(The Social Dilemma)’ 덕분에 대중은 점점 AI와 기술, 그리고 데이터 사용과 관련된 윤리 문제를 인식하고 있다. 사회적 활동을 하며 기업에 비즈니스 관행을 재고할 것을 촉구하는 개발자, 디자이너, 기술자의 움직임이 증가하고 있다. 즉 이런 사람들은 기업이 보다 윤리적이기를 원한다.

최근 필자는 베이스캠프(Basecamp)의 디자이너이자 헬로웨더(HelloWeather)의 공동 제작자인 요나스 다우니와 대화할 기회가 있었다. 베이스켐프는 ‘헤이(Hey)’라는 새로운 이메일 서비스를 제공하고 있는데, 구글의 지메일과 달리 개인정보보호와 윤리적 디자인 개념을 포함한 서비스다.

다우니는 “고수준의 기술 회사는 수익을 위해 해로운 일을 하도록 유도하는 근본적으로 비윤리적인 비즈니스 모델을 가지고 있다”라고 지적했다. 예를 들어, 페이스북은 광고에서 수익을 창출하는데, 광고 조회수를 늘리기 위해 사용자가 가능한 오래, 자주 화면을 보도록 한다. 이런 비즈니스 모델로 인해 기업은 광고 조회수 증가에 도움이 되는 잘못된 정보 또는 혐오 표현(hate speech)가 퍼지는 것을 막지 않게 된다.

다른 한편으로는 의도하지 않은 효과가 나타날 수도 있다. 다우니는 트위터가 영향력있는 도구가 될 것이라고 생각하지 않았다는 점을 지적했다. 결과적으로 트위터는 잘못된 정보와 때로는 노골적인 혐오 발언의 도구가 됐다.

결정적으로 기술 산업은 빠르게 성장했고 무엇이 옳은지 그른지를 통제하기 위한 통합된 윤리적 이론이 없었다. 기업과 개발자는 수익성을 기준으로 의심스러운 부분이 있는 많은 결정을 내려왔으며, 이제는 그것이 표준 관행으로 자리 잡았다.

다우니는 “소셜 미디어 회사가 되기 위한 ‘히포크라테스 선서’는 없다”라고 지적했다. 의사가 의료 윤리를 위반해 환자에게 해로운 일을 하면 벌금이 부과되거나 면허를 잃을 수도 있다. 하지만 제품 디자이너가 잘못된 정보를 바탕으로 다른 나라의 정부를 무너뜨릴 수 있는 제품을 만들어도 디자이너가 딱히 책임을 지지는 않는다.
 

윤리적 디자인의 비용과 혜택

다우니는 “비즈니스 성장을 위해 부당한 전술을 사용하는 사람과 경쟁하면 처음부터 불리할 수 있다”고 말했다. 지메일이 18억 명의 사용자를 보유하고 있지만, 베이스캠프에겐 10만 명만 해도 엄청난 성공이다(연 99달러, 월 12달러이면 상당한 수익이기도 하다). 다우니는 “우리는 성공의 의미를 바꿔야 한다. 주식 시장의 유니콘 사고방식인 성장만을 생각하는 것은 올바른 길이 아니다. 분명 더 겸손하지만, 더 존경스럽고 윤리적인 다른 길이 있다”고 말했다.

윤리 중심, 사람 중심의 접근 방식에는 혜택도 있다. 베이스캠프가 윤리적 디자인을 하지 않았다면 개발하지 않았을 기능들이 있다. 헤이에는 이메일 수신을 위한 ‘옵트-인(opt-in)’ 시스템이 있다. 다우니는 이 기능이 사용자가 이메일을 관리하는 시간을 줄이기 때문에 광고 매출이 감소할 수 있어 지메일은 유사한 기능을 개발하지 않을 것으로 생각한다. 또한, 모든 구독을 개별 메시지가 아닌 피드로 보고, 받은 편지함을 애초의 목적대로 사용할 수 있는 트위터와 유사한 기능도 유사한 사례로 설명했다.

이러한 윤리 중심의 디자인은 베이스캠프의 설립자 제이슨 프라이드가 숙고해서 세운 계획이며, 벤처 자금의 지원을 받는 대부분의 스타트업에겐 불가능한 일이다. 베이스캠프는 회사의 통제력을 유지하기 위해 많은 자금을 포기했다. 

창업자가 통제력을 갖는 자유는 낮은 리스크를 의미하기도 한다. 벤처 케피탈은 스타트업이 안정적인 수익을 낼 때까지 회사를 밀어붙이는 경향이 있다는 점을 기억하자. 베이스캠프는 한동안 작고 수익성 있는 회사로 남아있다. 이들이 더 높은 수익을 올릴 수 있는 기회를 놓친 것일까? 그럴 수도 있다. 하지만 모든 빛나는 성공에는 관리 가능한 규모였다면 성공했겠지만, 투자를 받아 실패한 많은 회사가 있다. 퀴비(Quibi)를 기억하는가? 
 

개발자와 디자이너는 윤리에 어떤 영향을 끼칠 수 있을까?

다우니의 관점에서 경영진과 전략가가 개발자와 디자이너에게 무엇을 해야 하는지 알려주고, 개발자는 그 비전을 구현하기만 하면 된다는 생각은 ‘사기’다. 다우니는 최근 기술직원이 회사에 대항한 사례를 들어 설명했다. 시스 바고는 자신이 작성한 코드가 윤리적으로 동의하지 않는 ICE(US Immigration and Customs Enforcement)가 사용한다는 것을 알고, 코드를 깃허브(GitHub)에서 내려 결국 엔터프라이즈 소프트웨어 개발사인 셰프(Chef)가 ICE와의 계약을 재평가하게 만들었다. 바고는 현재 구글에서 일하고 있는데, 구글의 직원들은 회사가 ICE와의 계약을 철회할 것을 요구한 것으로 잘 알려져 있다.

다우니는 직원이 비윤리적인 제품이나 기능을 구현하는 것을 거부하고, 회사가 이 부분에 대해 악평을 받는다면, 인재를 고용하는 데 어려움을 겪고, 결국에는 고객 평판이 나빠질 것이라고 설명했다. 한편, 디자이너에게 책임을 묻기에는 충분하지 않다. 임원과 회사가 책임을 져야 하며 규제가 필요할 수도 있다.
 

미션 vs. 윤리

한편, 코인베이스(Coinbase)의 창업자 브라이언 암스트롱에서 시작된 윤리 중심의 기업과 상충되는 ‘미션 중심 기업’은 와이 콤비네이터(Y Combinator) 프레임으로 잘 알려진 벤처 캐피탈리스트 폴 그레이엄을 매우 흥분시켰다. 암스트롱은 자신의 아이디어를 다른 회사에도 전파하려고 노력 중이다.

암스트롱의 아이디어의 요지는 그의 선언문 중 두 가지 요점에서 드러난다.
 
  • 우리는 문제가 핵심 미션과 관련이 없으면 관여하지 않는다. 
  • 사명고 관련이 없는 특정 조직이나 후보를 지지하지 않는다. 미션에 대한 집중도를 떨어뜨리기 때문이다. 우리가 모두 어떤 문제가 있다는 것에 동의하더라도, 해결책에 모두 동의하지 않을 수 있다.

짧게 말해 코인베이스는 암호화 규정이 나오면 관여하거나 로비할 수 있지만, 경찰이 유색인 직원 중 한 명을 현관에서 목을 졸라도, “너무 정치적이다”라고 판단한다는 것이다.

아마도 암스트롱의 이런 대응은 흑인 인권 운동과 관련해 게시물을 올리라는 직원의 요청에 대해 약간의 분노를 표한 것일 수도 있다. 암스트롱이 보복에 대한 두려움없이 업무 환경에 대한 권리를 주장할 수 있는 ‘노동 관계법(National Labor Relations Act)’을 위배하는지는 두고 봐야 할 것이다. 

코인베이스는 2019년 시리즈 E 펀딩을 받는 등 총투자금 5억 4,700만 달러에 80억 달러 이상의 기업 가치를 인정받고 있어 베이스캠프와 완전히 상반된 위치에 있다.

결론은 개발자와 디자이너가 많은 힘을 가지고 있다는 것이다. 물론 무한한 것은 아니며, 투자자와 경영진은 자비를 베풀지 않지만, 사람을 우선시하고 윤리를 생각하는 것엔 분명한 장점이 있다. 우수한 제품이 장점일 수도 있고, 작지만 수익성이 높고, 창업자가 회사의 운명을 강하게 통제하고 밤에 잘 수 있는 기업이 될 수 있다. 어쩌면 더 행복한 직원과 더 헌신적인 고객이 될 수도 있다. editor@itworld.co.kr


5일 전

글로벌 칼럼 | 제품 디자인은 윤리적이어야 할까?

Andrew C. Oliver | InfoWorld
반복되는 스캔들과 EU의 GDPR(General Data Protection Regulation), 넷플릭스의 다큐멘터리 ‘소셜 딜레마(The Social Dilemma)’ 덕분에 대중은 점점 AI와 기술, 그리고 데이터 사용과 관련된 윤리 문제를 인식하고 있다. 사회적 활동을 하며 기업에 비즈니스 관행을 재고할 것을 촉구하는 개발자, 디자이너, 기술자의 움직임이 증가하고 있다. 즉 이런 사람들은 기업이 보다 윤리적이기를 원한다.

최근 필자는 베이스캠프(Basecamp)의 디자이너이자 헬로웨더(HelloWeather)의 공동 제작자인 요나스 다우니와 대화할 기회가 있었다. 베이스켐프는 ‘헤이(Hey)’라는 새로운 이메일 서비스를 제공하고 있는데, 구글의 지메일과 달리 개인정보보호와 윤리적 디자인 개념을 포함한 서비스다.

다우니는 “고수준의 기술 회사는 수익을 위해 해로운 일을 하도록 유도하는 근본적으로 비윤리적인 비즈니스 모델을 가지고 있다”라고 지적했다. 예를 들어, 페이스북은 광고에서 수익을 창출하는데, 광고 조회수를 늘리기 위해 사용자가 가능한 오래, 자주 화면을 보도록 한다. 이런 비즈니스 모델로 인해 기업은 광고 조회수 증가에 도움이 되는 잘못된 정보 또는 혐오 표현(hate speech)가 퍼지는 것을 막지 않게 된다.

다른 한편으로는 의도하지 않은 효과가 나타날 수도 있다. 다우니는 트위터가 영향력있는 도구가 될 것이라고 생각하지 않았다는 점을 지적했다. 결과적으로 트위터는 잘못된 정보와 때로는 노골적인 혐오 발언의 도구가 됐다.

결정적으로 기술 산업은 빠르게 성장했고 무엇이 옳은지 그른지를 통제하기 위한 통합된 윤리적 이론이 없었다. 기업과 개발자는 수익성을 기준으로 의심스러운 부분이 있는 많은 결정을 내려왔으며, 이제는 그것이 표준 관행으로 자리 잡았다.

다우니는 “소셜 미디어 회사가 되기 위한 ‘히포크라테스 선서’는 없다”라고 지적했다. 의사가 의료 윤리를 위반해 환자에게 해로운 일을 하면 벌금이 부과되거나 면허를 잃을 수도 있다. 하지만 제품 디자이너가 잘못된 정보를 바탕으로 다른 나라의 정부를 무너뜨릴 수 있는 제품을 만들어도 디자이너가 딱히 책임을 지지는 않는다.
 

윤리적 디자인의 비용과 혜택

다우니는 “비즈니스 성장을 위해 부당한 전술을 사용하는 사람과 경쟁하면 처음부터 불리할 수 있다”고 말했다. 지메일이 18억 명의 사용자를 보유하고 있지만, 베이스캠프에겐 10만 명만 해도 엄청난 성공이다(연 99달러, 월 12달러이면 상당한 수익이기도 하다). 다우니는 “우리는 성공의 의미를 바꿔야 한다. 주식 시장의 유니콘 사고방식인 성장만을 생각하는 것은 올바른 길이 아니다. 분명 더 겸손하지만, 더 존경스럽고 윤리적인 다른 길이 있다”고 말했다.

윤리 중심, 사람 중심의 접근 방식에는 혜택도 있다. 베이스캠프가 윤리적 디자인을 하지 않았다면 개발하지 않았을 기능들이 있다. 헤이에는 이메일 수신을 위한 ‘옵트-인(opt-in)’ 시스템이 있다. 다우니는 이 기능이 사용자가 이메일을 관리하는 시간을 줄이기 때문에 광고 매출이 감소할 수 있어 지메일은 유사한 기능을 개발하지 않을 것으로 생각한다. 또한, 모든 구독을 개별 메시지가 아닌 피드로 보고, 받은 편지함을 애초의 목적대로 사용할 수 있는 트위터와 유사한 기능도 유사한 사례로 설명했다.

이러한 윤리 중심의 디자인은 베이스캠프의 설립자 제이슨 프라이드가 숙고해서 세운 계획이며, 벤처 자금의 지원을 받는 대부분의 스타트업에겐 불가능한 일이다. 베이스캠프는 회사의 통제력을 유지하기 위해 많은 자금을 포기했다. 

창업자가 통제력을 갖는 자유는 낮은 리스크를 의미하기도 한다. 벤처 케피탈은 스타트업이 안정적인 수익을 낼 때까지 회사를 밀어붙이는 경향이 있다는 점을 기억하자. 베이스캠프는 한동안 작고 수익성 있는 회사로 남아있다. 이들이 더 높은 수익을 올릴 수 있는 기회를 놓친 것일까? 그럴 수도 있다. 하지만 모든 빛나는 성공에는 관리 가능한 규모였다면 성공했겠지만, 투자를 받아 실패한 많은 회사가 있다. 퀴비(Quibi)를 기억하는가? 
 

개발자와 디자이너는 윤리에 어떤 영향을 끼칠 수 있을까?

다우니의 관점에서 경영진과 전략가가 개발자와 디자이너에게 무엇을 해야 하는지 알려주고, 개발자는 그 비전을 구현하기만 하면 된다는 생각은 ‘사기’다. 다우니는 최근 기술직원이 회사에 대항한 사례를 들어 설명했다. 시스 바고는 자신이 작성한 코드가 윤리적으로 동의하지 않는 ICE(US Immigration and Customs Enforcement)가 사용한다는 것을 알고, 코드를 깃허브(GitHub)에서 내려 결국 엔터프라이즈 소프트웨어 개발사인 셰프(Chef)가 ICE와의 계약을 재평가하게 만들었다. 바고는 현재 구글에서 일하고 있는데, 구글의 직원들은 회사가 ICE와의 계약을 철회할 것을 요구한 것으로 잘 알려져 있다.

다우니는 직원이 비윤리적인 제품이나 기능을 구현하는 것을 거부하고, 회사가 이 부분에 대해 악평을 받는다면, 인재를 고용하는 데 어려움을 겪고, 결국에는 고객 평판이 나빠질 것이라고 설명했다. 한편, 디자이너에게 책임을 묻기에는 충분하지 않다. 임원과 회사가 책임을 져야 하며 규제가 필요할 수도 있다.
 

미션 vs. 윤리

한편, 코인베이스(Coinbase)의 창업자 브라이언 암스트롱에서 시작된 윤리 중심의 기업과 상충되는 ‘미션 중심 기업’은 와이 콤비네이터(Y Combinator) 프레임으로 잘 알려진 벤처 캐피탈리스트 폴 그레이엄을 매우 흥분시켰다. 암스트롱은 자신의 아이디어를 다른 회사에도 전파하려고 노력 중이다.

암스트롱의 아이디어의 요지는 그의 선언문 중 두 가지 요점에서 드러난다.
 
  • 우리는 문제가 핵심 미션과 관련이 없으면 관여하지 않는다. 
  • 사명고 관련이 없는 특정 조직이나 후보를 지지하지 않는다. 미션에 대한 집중도를 떨어뜨리기 때문이다. 우리가 모두 어떤 문제가 있다는 것에 동의하더라도, 해결책에 모두 동의하지 않을 수 있다.

짧게 말해 코인베이스는 암호화 규정이 나오면 관여하거나 로비할 수 있지만, 경찰이 유색인 직원 중 한 명을 현관에서 목을 졸라도, “너무 정치적이다”라고 판단한다는 것이다.

아마도 암스트롱의 이런 대응은 흑인 인권 운동과 관련해 게시물을 올리라는 직원의 요청에 대해 약간의 분노를 표한 것일 수도 있다. 암스트롱이 보복에 대한 두려움없이 업무 환경에 대한 권리를 주장할 수 있는 ‘노동 관계법(National Labor Relations Act)’을 위배하는지는 두고 봐야 할 것이다. 

코인베이스는 2019년 시리즈 E 펀딩을 받는 등 총투자금 5억 4,700만 달러에 80억 달러 이상의 기업 가치를 인정받고 있어 베이스캠프와 완전히 상반된 위치에 있다.

결론은 개발자와 디자이너가 많은 힘을 가지고 있다는 것이다. 물론 무한한 것은 아니며, 투자자와 경영진은 자비를 베풀지 않지만, 사람을 우선시하고 윤리를 생각하는 것엔 분명한 장점이 있다. 우수한 제품이 장점일 수도 있고, 작지만 수익성이 높고, 창업자가 회사의 운명을 강하게 통제하고 밤에 잘 수 있는 기업이 될 수 있다. 어쩌면 더 행복한 직원과 더 헌신적인 고객이 될 수도 있다. editor@itworld.co.kr


X