3. 공정성
1. 인공지능 분석 결과로 차별이 발생할 수 있을까?
공정성은 인공지능 기술이 가능한 많은 사람들에게 차별 없이 도움을 줄 수 있는지, 인공지능 기술에 의해 창출된 경제적 번영이 모든 인류의 혜택을 위해 광범위하게 공유될 수 있는지에 관한 문제입니다. 최근 인공지능이 사회적으로 차별을 하는 윤리적 문제 사례들이 발생하고 있습니다. 인공지능이 성적 편견이나 인종적 차별성이 존재하는 데이터를 학습하게 되어 물의를 일으킨 사건도 있습니다. 그런데 이처럼 입력 데이터가 원인인 경우가 아니라 알고리즘 자체가 원인이 되어 편견과 편향을 가진 인공지능 서비스가 벌어진다면 더 심각한 일이 발생할 것입니다. 인공지능의 공정성과 관련된 사례를 살펴봅시다.
2. 우리 지방의 방언을 못 알아듣는 AI 음성인식 스피커?
3. 인공지능이 은행 대출 심사에서 차별적 판단을 내린다면?
4. 자율주행 자동차가 사람을 차별한다면?
5. 공정성 문제는 어떻게 해결해나갈까?
인공지능 공급자는 공공의 이익에 부합하는 제품을 공급해야 합니다. 상업적 이익과 공공적 기여 사이에서 조화와 균형을 이루도록 노력해야 합니다.
인공지능 사용자는 개발된 인공지능을 활용할 때 차별하지 않고 공평하게 사용하는 비차별성 태도를 지녀야 합니다. 이용자는 인공지능 기술 및 서비스를 악의적인 목적으로 이용하지 않아야 하고, 공공의 이익을 위한 제품 개선에 참여해야 하며, 소비자 행동 원칙 준수를 일상화 해야 합니다.
Think Good AI
2014년 미국의 한 대기업에서 인력 채용을 위해 인공지능 모델을 개발, 사용하였으나 특정 성별을 차별하는 결과를 보여 폐기되는 일이 있었다. 이렇게 인공지능이 차별적, 편향적인 결과를 내놓는다면 그것이 공정한 결과인지를 판단하는 것은 누가 하면 좋을까? 그러한 일이 발생하지 않도록 어떻게 제어 및 대응할 수 있을까?
6. 윤리적 인공지능 - 공정성 OX 퀴즈
인공지능은 성적 편견이나 인종적 차별성이 존재하는 데이터를 학습하게 되어도 차별 없는 결과를 내보낸다.
인공지능이 성적 편견이나 인종적 차별성이 존재하는 데이터를 학습하게 되면 물의를 일으킨 사건도 있습니다.
은행에서는 대출 심사, 상담, 채용 등 다양한 영역에서 인공지능을 활용하고 있습니다.
은행에서는 대출 심사, 상담, 채용 등 다양한 영역에서 인공지능을 활용하고 있습니다.
인공지능 개발자는 기술 개발 시 사회적 차별 요소를 배제하는 비편향성 태도를 지녀야 합니다.
인공지능 개발자는 기술 개발 시 사회적 차별 요소를 배제하는 비편향성 태도를 지녀야 합니다.
<출처>
미래신호 탐지 기법으로 본 인공지능 윤리 이슈 – 글로벌 동향과 전망(2017, 한국정보화진흥원)
인공지능 윤리의 필요성과 국내외 동향(2017, 한국통신학회)
모럴머신 홈페이지 (www.moralmachine.net)
인천인공지능교육 표준안 및 가이드라인 연구(2020, 인천광역시교육청, 한국인공지능교육학회)