본문 바로가기
01. Robotics & AI

이루다 AI 사이버 성폭력 논란, 인공지능에게 윤리적인 기준은 어디까지 적용되어야할까?

by Yunnie_ 2021. 1. 10.
반응형

현시점에서는 어떤 것도 정답이라고 이야기하기는 어려운 것 같다. 그렇기 때문에 이에 대해 어떤 의견들이 나오고 있는지를 정리해보았다.

 

출처: 이루다 페이스북

 

인간이 아닌 인공지능에게 사람과 같은 윤리적인 기준을 적용해야 하는지에 대한 고민을 이렇게 이른 시점에 고민하게 될 줄은 몰랐다. 이루다 AI 사건이 발생함에 따라 우리는 영화나 게임 속에서만 논의되던 이 주제를 현시점에 한번 고민해볼 수 있는 시간을 가지게 되었다. 인공지능에게 성희롱을 하는 것과 인간에게 성희롱을 하는 것이 같은 수준으로 규제하고 처벌되어야 할까? 아니면 인간이 아닌 프로그램이기 때문에 문제 되지 않을 영역인 걸까?

 

이루다 성희롱 논란에 대해서는 아래의 기사 링크에서 자세히 알아볼 수 있다.

 

 

출시 일주일 만에…'20살 AI 여성' 성희롱이 시작됐다 | 연합뉴스

출시 일주일 만에…'20살 AI 여성' 성희롱이 시작됐다, 이효석기자, IT.과학뉴스 (송고시간 2021-01-08 08:00)

www.yna.co.kr

 

20대 인공지능 여성 '이루다'…사이버 성폭력 논란

인간이 만든 인공지능은 편리함을 넘어 이제 친구가 될 수 있다는 기대감도 나옵니다. 문제는 받아들이는 인간입니다. 실제 20대 여..

news.jtbc.joins.com

 

기사 내용과 여러 댓글들을 보고 주로 나오는 의견들을 분류해서 정리해봤다. 많은 사이트들에서 흥미로운 주제의 다양한 대화들이 오고 가고 있었다. 지금은 그 어떤 의견도 이게 정답이라고 말할 수는 없는 시점인 것 같다. 그저 다각도로 논의되어야 하는 주제라고 생각하기 때문에 내 의견 대신 여러 의견들을 종합하여 정리해보았다. (출처는 글 하단에 표기)

 

의견 1. 아무리 AI여도 인간으로서 부도덕한 행위를 저지르면 안 된다. 이는 인간에게도 부정적인 영향을 줄 수 있다.

- 부도덕한 행위는 부도덕한 행위이기 때문에 비난을 받아야 한다. 상대가 인공지능이든 인간이든 이 행위 자체가 문제이다.

- AI에 대한 윤리적인 기준을 이야기하는 것은, AI가 스스로 학습을 하기 때문이고 이것이 인간에게 그대로 돌아올 수 있기 때문에 사용하는 것에 있어서 신중해야 한다.

- AI는 인공적으로 만든 지능인데, 지능은 사람의 두뇌를 모사하기 때문에 AI도 사람의 윤리를 가져야 한다. 기술적으로도 AI에게 인간의 윤리를 적용할 수 있고, 당연히 그렇게 해야 한다. 예컨대 학습과정에서 차별이나 혐오을 떠올리는 단어가 나오면 제외하고, 일정 기준을 충족하는 경우에만 학습하도록 AI를 계도할 수 있다. (이수영 한국과학기술원(KAIST) 인공지능연구센터장)

 

의견 1-1. AI에게 부도덕한 행위를 저지름에 따라 학습하는 데이터가 더러워지고, 이는 곧 다른 사용자들에게 불쾌한 경험을 줄 수 있게 된다.

- 대화를 통해서 학습을 하는 인공지능에게 부정적인 대화를 계속 학습시키면 데이터를 오염시키게 된다. 그리고 이는 다른 사용자들에게 부정적인 대화로 노출될 수 있어 문제가 된다.

 

의견 2. AI는 인간이 아닌 코드다. 따라서 어떤 행위를 하던 문제가 되지 않는다.

- 애초에 사람이 아니기 때문에 인권이라는 것이 적용되지 않는다. 같은 논리라면 집안의 가전제품들도 노동력 착취에서 해방시켜줘야 한다.

- 사람들의 이런 행위를 아예 하지 않기를 바라는 것은 불가능한 일이기 때문에, 다른 사람들에게 피해를 주지 않는 방식이라면 문제가 되지 않는다. 

- 공공장소에서 이루어지거나 채용과정에서의 차별 문제가 아닌 채팅이라는 사적인 자리에서 이뤄진 대화로 윤리적인 잣대를 들이대긴 어렵다.

- 성희롱이라는 것 자체가 피해자가 느끼는 불쾌한, 굴욕적인 감정을 느꼈을 때 성립이 되는 것인데, 인공지능이 이런 감정을 느낄 리가 없다.

 

의견 3. 무엇을 하던 상관은 없으나, 공공연한 전시가 문제이다.

- 도덕적으로도 좋지 않은 일이고 남에게도 피해가 가지 않는 일이지만, 이 행동을 밝힘으로써 문제가 발생하고 사회에 피해를 줄 수 있다. 이를 보고 따라 하는 사람도 있을 것이고, 범죄로 이어질 가능성도 낮지만 있을 수 있기 때문이다. 이런 부도덕한 행위를 대중에게 전시하는 것을 막을 사회적인 조치가 필요하다.

- 공공연한 전시로 인해서 많은 사람들에 불쾌감과 혐오를 주고 있는 것이 가장 큰 문제이다.

 

의견 4. 부도덕한 행위를 하는 것도, 윤리적인 잣대를 들이미는 것도 이상하다. 무의미한 논쟁이다.

- AI는 어떻게 교육하느냐에 따라 달라지는데, AI에게 윤리적 기준을 강요하는 것은 무리한 측면이 있다. 인간의 대화를 모방한 챗봇의 의견을 두고 AI 윤리를 논하는 건 다소 무의미한 논쟁이다. (이준기 연세대 정보대학원 교수)

 

 

이러한 논란에 대해 이루다 AI의 제작사인 김종윤 스캐터랩 대표는 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나 모든 부적절한 대화를 막는 것은 어려웠다. 사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라며 "해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"라고 의견을 밝혔다.

 


 

Reference

 

20대 인공지능 여성 '이루다'…사이버 성폭력 논란

인간이 만든 인공지능은 편리함을 넘어 이제 친구가 될 수 있다는 기대감도 나옵니다. 문제는 받아들이는 인간입니다. 실제 20대 여..

news.jtbc.joins.com

 

AI 챗봇 '이루다', 도 넘은 게시글… 제작사 대표, 입 열었다 - 머니S

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'가 연일 화제다. 마치 사람인 듯 착각하게 만드는 대화기술도 눈길을 끌었지만 그를 향한 수위 높은 대화 인증글들이 확산되면서다. 무엇보다 이

moneys.mt.co.kr

 

성착취 당하는 AI챗봇..네오나치 학습까지

자연어 대화 인공지능(AI) 전문기업 스캐터랩이 지난달 23일 출시한 인공지능 챗봇 ‘이루다’가 몇몇 남성 사용자들로부터 성희롱에 가까운 대화에 시달리고 있다. 운영사 차원에서 성희롱 단

www.edaily.co.kr

 

“진짜 선 넘었다” 심각한 성희롱 시달리고 있는 채팅 AI 이루다

10대들에게 선풍적 인기 끌고 있는 챗봇 이루다

www.wikitree.co.kr

 

“AI한테 웬 인격…” 성희롱 논란 이루다, 뜻밖의 '반응' 터졌다

최근 '성희롱' 논란 불거진 20대 AI 이루다

www.wikitree.co.kr

 

이루다 만든 스캐터랩 대표 “이루다 논란, 오늘 입장 밝힌다”

김 대표는 "언론사에서 질문이 쇄도해 일절 연락을 받지 않고 있다"며...

news.joins.com

 

반응형

댓글0