이번 호에서는 연세대학교 부설 바른ICT연구소 객원교수 조신 교수님과의 인터뷰를 통해 AI 윤리와 규제 동향 및 기업의 거버넌스에 대한 고견을 들어보고자 한다.

Q1. AI 윤리에 대한 규제가 논의 및 마련되고 있습니다. 그 이유는 무엇이며, 거버넌스 측면에서 기업들이 주의해야할 점 또는 시사점이 있다면 무엇이 있을까요?

인공지능(AI, Artificial Intelligence)은 이미 경제·사회 전반에 큰 변화를 가져오고 있으며 앞으로의 발전 가능성은 가늠하기조차 어렵다. 하지만 AI는 이런 가능성 못지않게 많은 리스크를 안고 있기도 하다.

먼저 현존하는 데이터가 인종, 성, 종교 등에 대해 편향성을 가지고 있기 때문에 이 데이터로 학습한 AI가 편향적인 결과를 내놓는 경우가 있다. 그리고 데이터나 알고리즘의 문제로 AI가 잘못된 결과를 내놓을 가능성이 항상 존재하는데, 그 오류가 자율주행 자동차처럼 위험도가 큰 경우에는 더욱 심각하다. 또한 AI가 결과를 내놓는 과정이 블랙박스와 같아서 AI가 왜 이런 결과를 내놓는지 설명할 수 없다는 점이 투명성과 공정성 관점에서 볼 때 문제다. 마지막으로, AI를 활용하여 가짜 뉴스를 만든다거나 보이스 피싱 등 범죄에 활용하는 등 AI를 악용할 여지도 크다.

ESG 경영 관점에서 볼 때, 이 같은 AI 리스크들은 곧 기업의 사회적 책임에 해당하는 “소셜(Social)” 이슈들이다. 인종 차별, 정보 오류에 따른 소비자 피해, AI의 블랙박스 특성으로 말미암아 소비자 불만에 투명하고 공정하게 대처하지 못해서 발생하는 문제, 고객 정보를 잘못 관리함으로써 발생하는 프라이버시 문제 등 기업이 대응해야 할 이슈 리스트는 끝이 없다.

이러한 이슈들에 제대로 대응하지 못했을 때 발생할 비용, 명성 및 규제 리스크가 매우 심각할 수 있다는 점을 감안하면, AI 이슈는 “거버넌스(Governance)” 관점에서 적극적으로 관리해야 할 문제다. 특히 기업 지배구조의 정점에 있는 이사회가 AI 거버넌스 정비에 관여할 필요가 있다.

Q2. 앞으로 기업의 AI 기술 도입 및 활용은 어떤 방향으로 이루어져야 할까요? 또는 기업 거버넌스 측면에서 AI 기술의 윤리적 사용을 위해 무엇을 할 수 있을까요?

그러나 기업들은 AI 기술이 야기하는 윤리, 공정성, 투명성 문제 등에 제대로 대처할 준비가 되어 있지 않다. 예컨대 딜로이트가 미국 기업들을 대상으로 AI 거버넌스 실태에 대해 조사한 바에 따르면, AI 정책∙행동규범 등을 갖춘 기업은 13%에 불과하고, AI 이슈 대응을 위해 프라이버시, 리스크 관리, 기록 보관 등 기업 방침을 바꾼 기업도 9%뿐이다. 또한 이사회에서 주기적으로 AI 관련 주제를 다루고 있는 기업은 15%에 지나지 않았다.

AI의 잠재적 리스크가 큰 데도 불구하고 이처럼 기업들의 준비가 부족하다는 것은 최고경영진의 관심이 미흡한 데서 비롯된 측면도 있다. 따라서 문제 개선을 위해서 이사회의 관여가 필요하다. 먼저 이사회는 경영진에게 AI 관련 보고를 요구하고 이를 이사회에서 심도 있게 토의할 필요가 있다. 다음 단계로, 이사회는 (1) 이사회에서 AI 이슈를 주기적으로 논의하기로 함으로써 AI가 이사회의 아젠다임을 공식화하고, (2) AI 문제를 담당할 임원 및 조직을 갖추도록 하며, (3) AI 관련 사고나 조사 결과를 주기적으로 이사회에 보고하도록 할 필요가 있다.

그리고 이사회의 지휘 하에, 다음 네 가지 측면에서 AI 거버넌스를 체계적으로 설계∙실행해야 한다. 첫째, 먼저 기업의 AI 윤리 원칙을 정립하고 여기에 맞춰 업무 규정 및 지침을 수립한다. 둘째, AI 전략 및 통제를 전담할 조직을 신설하고, 전담 조직, AI 기술 조직, 현업 조직 간의 역할을 정립한다. 셋째, AI 거버넌스 구축을 위해, 기획 및 설계, 개발, 평가·검증, 운영 단계별로 거버넌스 프로세스를 상세 설계하고 역할을 지정한다. 넷째, AI 모델에 대한 검증은 성능, 편향성, 설명 가능성 기준으로, 데이터에 대한 검증은 적합성 및 정확성 관점에서 검증한다.

새로운 기술의 안착 여부는 기술의 완성도보다 기업 문화나 인센티브 등 제도적 요인에 달려있다는 것은 널리 알려진 사실이다. 이런 관점에서 AI 시대의 성공적 정착에는 좋은 AI 거버넌스 정립이 필수적이다.