6. AI와 법
1. AI 기술의 사생활 침해 논란
사회에서 AI가 미치는 영향이 늘어날수록 이전에 없었던 새로운 법적 이슈가 끊임없이 제기되고 있습니다. 여러분은 AI 스피커를 사용해본 경험이 있으신가요? 사람의 목소리를 인식하고 그에 알맞은 명령을 수행해주는 스피커가 참 편리하다고 생각하셨을 텐데요.
2018년 5월 아마존의 AI 스피커 알렉사가 주인의 사적 대화를 녹음하고 연락처 명단에 있는 사람들에게 발송하는 사건이 있었습니다. 2019년에는 아마존이 영국 국가보건 서비스와 협약을 맺고 질병 증상 관련 질문을 보고하기로 하면서 건강 정보를 이용해 사기업에 개인정보를 넘겨주는 것이 아니냐 하는 논란도 있었습니다. 최근에는 카카오톡 데이터를 수집해 개발된 AI 챗봇 ‘이루다’가 개인정보보호법을 어겼다는 의혹을 받기도 했습니다.
이처럼 AI 스피커가 사용자들의 목소리를 인식하고 활용하는 과정에서 데이터의 사용과 관련한 문제가 끊임없이 발생하고 있습니다. 관련 IT 업체들은 이용자가 AI 스피커가 수집한 데이터의 사용 목적이 이용자들의 목소리를 분석하여 AI를 훈련하고자 하는 것에 초점을 두고 있으며 목소리의 주인이 누구인지 알 수 없는 비식별 처리된 음성 명령이라 사생활 침해 가능성이 낮다고 주장하고 있습니다. 더불어 AI 스피커 사용 전 이미 동의한 약관이기에 문제가 없다는 입장도 있는데요.
여러분은 어떻게 생각하시나요? AI 기술의 이용 범위가 확대될수록 데이터 보안 문제도 끊임없이 제기될 것입니다. 그래서 이러한 문제를 해결하기 위해 개인정보 보호법이 더욱 중요합니다.
AI 시스템의 기본 전제는 양질의 데이터 수집이지만 수집된 데이터 중에는 개인 정보, 회사의 기밀 정보와 같이 민감한 내용이 포함될 수도 있어 보안이 더욱 중요해지고 있습니다. 그래서 자료를 수집하고 활용하는데 개인정보 보호법, 정보통신망법, 신용정보법 개정안을 일컫는 ’데이터 3법‘의 적용을 받는지 잘 살펴보아야 합니다. 이 개정안은 데이터의 활용 범위를 법으로 명확히 규정하고 데이터 활용을 막는 규제들을 해소하는 내용을 담고 있습니다. 양질의 데이터 확보가 AI 기술 향상에 필요한 만큼 데이터 보안에도 신경을 써야 할 것입니다.
2. AI 창작물에 대한 지식재산권 문제
다음으로는 AI 지식재산권과 관련한 문제에 대해 알아봅시다. 최근에는 인공지능의 놀라운 발전이 인간의 고유 영역이라고 생각되던 예술 분야까지 넘보고 있습니다. 다음 문장으로 시작하는 소설 역시 AI가 쓴 것입니다.
“그 날은 구름이 낮게 드리운 흐린 날이었다. 방안은 언제나처럼 최적의 온도와 습도. 요코씨는 단정하지 않은 모습으로 의자에 앉아 시시한 게임으로 시간을 보내고 있다.”
일본 작가 호시 신이치의 작품 1000개를 기반으로 학습시킨 AI가 쓴 이 소설은 호시 신이치 문학상 1차 심사를 통과할 만큼 발전된 수준을 보여주었다고 합니다.
자 이러한 작품들에 대해 지식재산권을 인정해 주어야 할까요?
실제로 2017년 1월 초 EU는 로봇의 지위, 개발, 활용에 대한 기술적, 윤리적 가이드라인을 제시한 결의안을 통과시켰다고 합니다.
하지만 현재 지식재산권법에는 ‘인간’이 창작한 결과물에 한정되어 저작권이나 특허권으로 인정하고 있는데 이 해석을 전제로 해서 AI 가 만든 결과물을 어떻게 판단해야 할지는 신중한 검토가 필요합니다.
AI 지식재산을 어떻게 정의하고, 보호할지, 누구에게 귀속시킬지, 데이터 보호와 진흥은 어떻게 실현할지와 관련된 내용은 앞으로 우리가 AI 지식재산권과 관련한 문제에 어떻게 다가가야 할지 시사하는 바가 큽니다. 더불어 앞으로 AI 지식재산권과 관련한 문제는 더 복잡하게 고도화될 것이기 때문에 그에 대한 대비 역시 필요합니다.
3. 자율주행차와 관련한 법적 이슈
자율주행 자동차 역시 4차 산업혁명을 대표하는 기술로 우리의 삶을 바꾸고 새로운 산업과 시장을 창출하고 있습니다. 하지만 자율주행 자동차가 교통사고를 냈을 때 법적 책임은 누구에게 있는가? 하는 문제는 늘 따라다닙니다.
그렇다면 자율주행 자동차가 사고를 냈을 때 그 책임은 누구에게 있을까요? 자율주행 자동차의 운전석에 앉은 사람일까요? 자율주행 자동차를 만든 제조사에 책임을 물어야 할까요? 아니면 자율주행 기능을 개발하여 장착한 개발 업체에 책임을 물어야 할까요?
현재로서는 자율주행 기능이 탑재된 차량이라고 하더라도 사람이 주행을 통제하고 자율주행 기능을 보조해 주는 수준에서 활용하고 있으므로 사고가 발생한다면 대부분 운전석에 있는 사람에게 책임을 부과합니다.
하지만 자동차가 주행을 주도하고 사람이 돌발상황에서 개입하는 높은 수준(레벨3)의 자율주행 자동차가 허용된다면 어떻게 될까요?
기술이 고도화되면 자동차가 주행을 주도하기 때문에 제조사에 책임을 물어야 하는지 돌발상황에 제대로 대처하지 못한 운전자에게 책임을 물어야 하는지 판단하기 어려운 애매한 상황이 발생하게 됩니다.
법적 책임을 판단할 수 있는 기준인 차량 운행 지배권의 개념이 기존과는 달라지기 때문에, 만약에 사고가 발생한다면 차량 결함에 대한 책임을 제조사가 졌던 것에 더해 자율주행 기능을 개발한 개발 업체에도 책임을 부과하게 되리라는 것이 많은 학자의 입장입니다. 더불어 이러한 모호한 상황을 해결하기 위해 인공지능을 새로운 운전 주체로 인식하고 그에 맞는 법제를 만들어야 한다는 의견도 있습니다.
또한, 자율주행 자동차가 부득이하게 희생자를 선택해야 할 때 도덕적 딜레마 상황에서의 책임 문제 역시 생각해보아야 합니다.
하지만 현재 자율주행 자동차와 관련한 법은 자율주행 자동차의 상용화와 관련한 법만이 마련되어 있을 뿐 법적 책임과 관련한 법은 아직 마련되어 있지 않아 상용화가 되기 전에 수많은 논의와 연구를 통해 법 제도의 정비가 선행되어야 합니다.
4. AI와 법 OX 퀴즈
1. 데이터 3법이란 개인정보보호법, 정보통신망법, 신용정보법 개정안을 일컫는 것으로 데이터의 활용 범위를 법으로 규정하고 데이터 활용을 막는 규제를 해소하는 내용을 담고 있다.
2. 현재 AI가 창작한 작품은 지식재산권법에 의해 보호받고 있다.
현재 지식재산권법은 ‘인간’이 창작한 결과물에 한정되어 저작권이나 특허권으로 인정하고 있는데 이 때문에 AI 가 만든 결과물을 어떻게 판단해야 할지 검토 중에 있음.
3. 자율주행차 사고가 발생했을 시에는 제조사에 책임을 물도록 법안이 마련되어 있다.
법적 책임과 관련해서 논의 중에 있음.
<출처>
이성희(2020). 자율주행자동차의 운행상 안전성 확보를 위한 법적 연구.