전 산업 분야에 걸쳐 다양한 AI기술이 적용됨에 따라 동시에 최근 AI윤리 문제가 논란이 되고 있다. AI윤리 문제로는 편향성, 인격권 침해, 사생활 침해, 신뢰성과 투명성 상실, 책임 문제, 검증되지 않은 정보제공, 거짓 정보 등이 있다. AI기술의 안전성과 신뢰성을 높이기 위해 정부와 기업은 AI윤리 원칙 또는 법·제도 제정을 위한 연구 등으로 활발하게 대응 방안을 모색하고 있다.

특히 일부 기업들은 기업의 사회적 책임 차원에서 AI기술과 관련된 자체적인 원칙 수립, AI거버넌스 정책을 운영하고 있다. 이러한 사례를 통해 AI윤리의 중요성을 일깨우고 관련 윤리 의식의 제고에 도움이 되고자 한다.

IBM

IBM은 하이브리드 클라우드 및 AI, 비즈니스 서비스를 제공하는 기업으로, 자사가 개발하는 AI기술은 ‘인간의 지능을 대체하는 것이 아닌 인간의 능력과 잠재력을 강화하고 확장하는 것이 목적’이라고 밝히고 있다.

IBM은 AI의 장점을 보다 극대화하여 AI를 효율적으로 활용할 수 있도록 지원한다. IBM은 개인과 조직이 책임감 있게 AI를 사용하도록 장려하고 있으며, AI를 사용하는 과정에서 윤리 원칙을 도입해야만 신뢰를 바탕으로 시스템을 구축할 수 있다고 말한다.

IBM은 AI가 모두의 업무 능력을 향상시켜야 하며, AI 시대의 이점이 소수 엘리트가 아닌 많은 사람에게 영향을 미쳐야 한다는 보편성을 추구한다. 이를 위해서 자체적인 ‘AI윤리 원칙’을 제정하였으며, 이 원칙은 IBM이 AI윤리를 보다 투명하고 공정하게 지킬 수 있도록 중심을 잡아준다. 그 내용은 다음과 같다.

<IBM의 AI윤리 원칙>

[출처 : IBM 공식 홈페이지]

또한 IBM은 책임감 있고 신뢰할 수 있는 AI윤리 문화를 조성하기 위해 AI윤리 위원회를 두고 있다. AI윤리 위원회는 IBM의 내부 직원들로 구성이 되어 있으며, IBM의 윤리 정책, 커뮤니케이션, 연구, 제품 및 서비스를 위해 의사 결정 프로세스를 지원하는 역할을 한다.

세일즈포스(Salesforce)

세일즈포스는 미국의 서비스용 소프트웨어 기업으로, AI기술을 통해 의사결정을 가속화하고 생산성을 향상함으로써 기업이 비용을 절감하는데 도움을 주고, 신뢰할 수 있는 서비스를 제공하는데 활용하고자 한다. 또한 세일즈포스는 AI가 사람들이 생활하고 일하는 방식을 변화시킬 수 있는 만큼 AI기술을 올바르게 사용하기 위해서는 책임감이 우선시되어야 하며, AI기술의 이점이 모든 사람에게 제공되어야 한다고 강조한다. 이러한 책임감 하에, 세일즈포스는 직원, 고객 및 파트너가 AI를 안전하고 윤리적으로 개발하고 사용하도록 장려하고 있다. 세일즈포스는 ‘생성형 AI’ 기술을 통해서 고객 데이터를 관리하는 프로그램을 출시하였으며, AI 기술이 접목된 이 프로그램을 운영하는데 있어서 다음의 ‘생성형 AI 관련 다섯 가지 원칙’을 제시하였다. 이 원칙에서는 데이터 수집과 사용에 있어서 편향되지 않고, 유해한 결과를 만들지 않도록 하는 기본적인 윤리 기준 등을 다루고 있다.

<세일즈포스의 생성형AI 관련 원칙>

[출처 : 세일즈포스 공식 홈페이지]

세일즈포스는 AI가 인간의 능력과 결합되어 사람들이 더 나은 결정을 내릴 수 있도록 할 때 가장 잘 활용되며, AI를 통해 다양성과 평등을 촉진할 수 있는 만큼 모든 사람들이 해당 원칙과 윤리를 지키는 것이 중요함을 강조한다.

• 조직의 전략을 점검, 보완하기 위하여 조직 내 취약점을 발견, 공격하는 역할을 부여받은 하위 조직