기업윤리
브리프스
2019년
01월호
최근 IT업계에서는 인공지능 윤리에 대한 논의가 한창이다. 기술 개발이 가져오는 부작용을 예방하기 위해서다. IBM, 마이크로소프트 등 관련 기업들은 공정한, 편향되지 않은, 설명 가능한 인공지능을 개발하기 위해 노력하고 있다. 우리나라의 카카오 역시 이러한 흐름에 적극 동참하고 있다. 카카오는 국내 최초로 인공지능 윤리헌장을 제정했으며 지난 11월에는 유네스코 주최 인공지능 정책 포럼에서 ‘AI 기업 윤리’에 대해 발표하기도 했다. 이번 인사이트 플러스에서는 인공지능의 윤리적 딜레마는 무엇이었고, 이를 극복하기 위해 카카오는 어떠한 노력을 하고 있는지 살펴보고자 한다.
인간을 위협하는 인공지능의 출연은 더 이상 영화 속 상상이 아니다. 현실에서 벌어지고 있는 일이다. 탐사보도 전문매체 프로퍼블리카는 범죄 전과자의 얼굴 이미지를 기반으로 재범률을 예측하는 인공지능 알고리즘을 테스트했다. 결과적으로 인공지능은 흑인의 재범률을 백인에 비해 실제보다 훨씬 더 높게 추론했다. 인공지능이 판사를 대체할 경우, 인간은 기계에 의해 인종차별을 당할 수 있는 것이다.
미국 스탠포드 대학이 2017년 발표한 연구도 주목할 만하다. 인공지능에 온라인 데이트 사이트에 공개된 남녀 프로필 사진으로 성적 지향성을 추론하게 한 결과, 인공지능은 사람보다 더 정확한 판단을 내렸다. 성소수자가 감당해야 하는 사회적 불이익을 감안하면, 인공지능이 내놓은 값의 신뢰성을 따지기 전에 이러한 연구 자체도 비윤리적일 수 있다. 인공지능의 학습 알고리즘은 방대한 데이터를 기초로 하는 일종의 통계적 추론이다. 여성, 장애인, 유색인종 등 소수 집단의 데이터는 수집이 어렵기 때문에, 알고리즘이 학습하는 데이터에도 편향성이 생길 수 있다. 기업 인사팀이 수많은 구직자들의 이력서를 1차적으로 필터링하기 위해 인공지능을 도입한다면, 구직자들은 인공지능에 의한 차별을 당하게 되는 것이다.
이러한 인공지능의 폐해를 막기 위해서는 기업의 윤리의식이 선행되어야 한다. 인공지능의 판단은 알고리즘에 기반하며, 알고리즘은 기업에 속한 인간 개발자가 설계하기 때문이다. 이를 위해서는 윤리규정과 이를 준수하려는 조직의 의지가 필수다. 지난 1월 카카오는 인공지능 기술 기업으로서의 사회적 책임을 다하기 위해 윤리규범을 제정·발표했다. 개발자들이 알고리즘 논리 설계 시 준수해야 할 사항을 명문화한 것이다. 이는 인공지능의 위험성을 해소하지 못할 경우, 소비자의 신뢰를 받기 어렵다는 면에서 합리적인 의사결정이기도 하다.
현재의 인공지능은 구매 기록을 근거로 하는 상품 추천 등 인간의 능력 일부를 재생하는 수준이지만, 앞으로 소비자들이 기대하는 인공지능은 단순 노동을 대체하는 기계가 아니라 추론하고 계획하며 신뢰할 수 있는 답을 주는 비서이자 전문가이기 때문이다. 인간보다 부적절한 답을 내놓는 인공지능은 소비자의 선택을 받을 수 없다. 기업 또한 인공지능의 결함을 발견하지 못하고 시장에 출시한다면 엄청난 법적, 재무적 리스크에 직면한다. 윤리강령의 제정과 준수는 기업 경영 차원에서도 필수적인 조치인 것이다.
여기서 집중할 부분은 그렇다면 인공지능의 어떠한 부분이 윤리적 측면에서 논의되어야 하냐는 것이다.
첫째, 의도적 차별성이다. 알고리즘 개발자가 의도적으로 차별적인 결과를 도출하도록 개입할 가능성이다. 설계자의 편향성이 알고리즘에 이식될 수 있다. 둘째, 데이터 수집 및 관리 측면에서의 윤리성 부재다. 알고리즘의 성능에 직결된 요소 중 하나가 학습용 데이터다. 그런데 이러한 데이터를 수집, 관리하는 과정에서 개인의 사적인 기록까지 들어가 사생활을 침해할 수 있다. 셋째, 통제 불가능성이다. 악의적인 의도로 만들어진 알고리즘이 통제 불가능 상태가 되면 인류에 해를 끼칠 수 있다. 공상과학 소설에 주된 소재이기도 하다. 넷째, 불투명성이다. 알고리즘의 원리와 작동 방식에 대한 정보를 투명하게 공개하지 않을 경우, 인공지능에 의해 부당한 결과가 도출되어도 신속한 발견 및 정정이 어려울 수 있다. 카카오의 윤리 헌장은 위와 같은 이슈를 중심으로 수립됐다.
다음은 카카오의 윤리헌장 전문이다.
카카오는 인공지능이 적용된 서비스를 선보이며 상용화에 나서고 있다. 지금까지 인공지능 플랫폼 구축에 공을 들였다면 앞으로는 다른 기업들과의 제휴를 통해 인공지능 기술을 생활가전 및 주거환경에 접목시킬 계획이다. 카카오톡 메시지로 공기청정기를 제어한다던가, 엘리베이터, 난방, 조명 등의 주거설비를 통제할 수도 있다. 이와 같은 인공지능 서비스는 부작용보다는 효용이 더 커 보인다. 그러나 채용과 같이 직관의 영역까지 인공지능이 적용되기 시작하면, 카카오의 윤리헌장은 더 주목받을 것이다.
자동차를 운전하고 있다고 가정해 보자. 전방에 어린이가 뛰어나오면 어떻게 대처할 것인가? 어린이를 칠 수도 있지만 자동차의 파손과 부상을 각오하고 차를 돌려 피함으로써 어린이를 살릴 수도 있다. 이것은 직관의 영역이며 본능에 가까운 판단이다. 그러나 자율주행 자동차라면 어떨까? 인공지능은 어린이와 운전자 중 어느 쪽의 생명이 더 중요하다고 여길까? 바로 여기에 인공지능 알고리즘 개발에 윤리의식이 필요한 근본적인 이유가 있다. 산업혁명 이후 신기술은 언제나 효용과 위협을 동시에 가져왔다. 그리고 인간은 효용을 극대화하고 위협을 최소화하는 사회적 합의를 이루어왔다. 인공지능 역시 같은 시험대에 올라있다. 인공지능 개발의 최전선에 서 있는 기업들이 윤리의식을 가지고 이를 실현하기 위해 노력한다면 지금까지의 신기술이 그랬듯, 인공지능 또한 더 많은 효용과 풍요를 가져다 줄 것이다.
조선왕조는 신왕조를 개창한 이후 개성 주민들을 한양으로 강제 이주시켰다. 새 왕조에 반대했던 고려 지식인들과 고려 왕족 후계자들은 이 정책에 따르지 않았다. 조선왕조는 개성에 잔류한 세력에 토지를 제공하지 않았고, 이들은 생계를 위해 상업에 뛰어들 수밖에 없었다. 왕실 출신 지식인들이 주류였던 개성상인들은 장사에 ‘품위’와 ‘신용’이라는 철학을 심었다. 그리고 이를 지킬 수 있는 인품을 가진 인물만 계원으로 선발했다. 지금으로 치면 엄격한 심사를 거쳐야만 가입할 수 있는 멤버십 클럽인 셈이다. 나아가 이들은 공정한 상거래를 위한 독특한 기록 방식을 개발해 상용화했다. 서양보다 2세기나 앞선 복식부기, 송도사개치부법(松都四介置簿法)이다. 상거래에서 발생하는 자산, 부채, 자본의 움직임을 기록해 재무제표를 작성했던 것이다. 이는 합리적인 경영을 위한 의사결정에 도움을 주었을 것이다. 품위와 신용을 바탕으로 한 철학에서 비롯된 성과다.
합리적이고 투명한 거래를 위해 개발한 복식부기, 상단에 소속된 계원 전체의 상생을 꾀했던 행상. 둘 다 혼자가 아니라 공동체 전체의 생존과 발전을 도모한 결과다. 개성상인이 국가, 사회적으로 불리한 환경을 극복할 수 있었던 원천은 바로 여기에 있다. 다 함께 가는 것은 불이익을 감수하는 것이 아니라 더 나은 발전을 위한 길이다.
