인공지능, 편리하지만 해결해야 할 난제 많아
2020년 말 공개된 인공지능 챗봇 서비스 ‘이루다’는 각종 혐오 발언과 개인정보 유출 등으로 서비스가 중단됐다. 사진 출처 이루다 인스타그램
2020년 말 ‘이루다’라는 인공지능(AI) 챗봇 서비스가 국내에 소개됐다. 20대가 실제로 쓰는 말을 자유로이 구사하면서 순식간에 폭발적인 인기를 끌었다. 하지만 얼마 되지 않아 큰 논란에 휩싸이며 서비스는 중단된다. 성소수자와 장애 등에 대한 심한 혐오 발언이 ‘이루다’에게서 나왔다. 특정인의 계좌번호와 주소 같은 개인정보도 유출됐다. 서비스의 인공지능이 방대한 양의 데이터를 학습했는데, 여기에 문제가 있었다. 무엇보다도 ‘이루다’를 만든 회사가 제공하던 다른 서비스의 데이터를 사용자 동의 없이 인공지능 학습에 사용했다.
과거에는 데이터를 수집하고 처리하는 데 한계가 있었지만 기술 발전으로 본격적인 빅데이터 시대가 열린 지 오래됐다. 2018년 유럽연합은 개인정보 보호를 위한 규제를 도입했다. 무분별한 정보 수집과 활용을 막자는 취지다. 물론 단지 정보 보호에만 머무는 규제는 아니다. 유럽 전체를 하나의 통일된 규제와 표준화된 플랫폼으로 만들었다. 규정을 지키며 수집된 데이터를 보다 자유로이 활용할 수 있게 해 관련 산업 발전도 이끈다.
데이터를 올바르게 수집하거나 개인정보 보호에 신경 썼더라도 인공지능의 특성상 데이터를 학습시키는 과정이 잘못될 수 있다. 편향에서 출발한 결과는 공정하지 못하다. 글로벌 기업 아마존은 10여 년간의 자료를 바탕으로 지원자들의 이력서를 검토하는 인공지능 채용시스템을 개발했다. 시스템을 도입하고 1년 정도 지나 성과를 보니 그리 공정한 평가가 이루어지지 않았다. 시스템은 여성보다 남성을 추천했는데, 이미 채용되어 있는 기술 개발 직종에 남성이 많은 편향 탓이었다. 결국 이 시스템은 몇 년 지나지 않은 2018년 폐기된다. 비단 아마존뿐 아니라 미국 정부도 비슷한 경험을 했다. 2017년 미국 법원과 경찰의 인공지능은 흑인의 재범 확률이 백인보다 두 배 높다고 판단했다. 애초에 흑인 범죄 정보가 훨씬 많이 포함된 데이터를 인공지능에게 학습시킨 탓이다.
범죄가 일어나기 전 미리 예측해서 예비범죄자를 처벌하는 시스템. 이제 도시에서 범죄는 완전히 사라졌다. 그러던 중 강력범죄가 발생하고, 그 덕에 시스템이 완벽하지 않음을 발견한다. 그동안 잘못된 예측으로 예비범죄자가 아님에도 처벌받은 희생자가 얼마나 있을지 모른다. 특히 사형 형벌은 나중에 잘못을 발견해도 회복 불가능이다. 이런 내용의 영화 ‘마이너리티 리포트’가 개봉된 것이 벌써 20년 전이다. 그때에도 인공지능과 데이터를 지나치게 믿거나 편향되었을 때의 위험성이 화제였다.
우리나라에서도 인공지능을 개발하고 활용할 때의 ‘AI 윤리기준’을 만들고 학교에서도 ‘AI 윤리’ 교육을 한다. 유럽 규정과 마찬가지로 산업 발전을 위한 ‘데이터 기본법’도 곧 시행된다. 다만 기술 발전의 속도가 굉장해서 제도와 사회가 쫓아가기 힘겨운 면이 있다. 인공지능 활용이 늘면서 만들어야 할 기준과 고려해야 할 대상이 더욱 빠르게 증가한다. 대표적 연구대학인 포스텍에서는 인공지능이 작곡한 국악 연주회가 여러 차례 있었다. KAIST 역시 인공지능 피아노와 소프라노 조수미의 협연을 열었다. 과연 이 음악의 저작권은 누가 가질까? 현재 저작권법은 저작물을 창작한 사람이 권리를 가진다. 인공지능의 기술과 산업을 발전시켜야 한다는 측과 인간 창작의 영역을 지켜야 한다는 생각이 충돌한다. 비단 창작의 영역만이 아니다.
인공지능이 주행한 차가 일으킨 사고의 책임이 운전석에 앉은 사람에게 있는지, 아니면 인공지능을 만든 차량 제작자인지 명확하지 않다. 메타버스에서 아바타를 대상으로 살인이나 성희롱 범죄가 일어나면 어떤 죄로 처벌해야 할까? 메타버스의 범죄는 가해자와 피해자 모두 사람이 아니다. 게임에서 캐릭터나 아이템은 사고파는 재산으로 생각한다. 이를 빼앗는 건 절도 행위로 볼 수 있다. 그럼 메타버스의 아바타도 재산으로 봐야 할까? 아니면 현실세계의 사람과 동일한 존재인지, 이도 아니라면 그 중간 어딘가에 있는 것일까?
결국 사람의 범위를 어디까지로 볼 것인지 고민해야 한다. 인간의 권능은 자연이 부여한 것이다. 간혹 사람이 아닌 회사나 조직이 법적 행위를 해야 한다. 그래서 법에서는 자연이 만들어낸 인간과 법이 권한을 부여한 인간, 즉 자연‘인’과 법‘인’을 규정한다. 인공지능과 메타버스 등 새로운 기술 영역에서는 새로운 제3의 ‘인’을 추가해야 할까? 기술적 논의보다는 사회적 합의의 영역이다. 특히 사회마다 문화와 기준이 다르다. 인공지능 자동차가 일으키는 다양한 사고 상황에서의 책임 소재에 대한 판단이 국가마다 다르다는 연구 결과는 이미 여러 차례 발표되었다. ‘이루다’는 그간의 문제를 개선하고 곧 새로운 서비스를 시작한다. 우리 사회에 인공지능과 데이터 서비스의 문제를 제기했던 만큼 그간의 제도 개선과 사회적 합의의 진행을 담고 있기 바란다.
과학적으로 옳다고 반드시 사회가 이를 실행해야 하는 건 아니다. 기술적으로 진보한 제품이 항상 시장을 석권하지도 않는다. 과학과 사회는 서로 동떨어져 있지 않다. 첨단기술과 새로운 산업이 만들어지면 사회가 이를 수용하고 변화하는 과정이 필요하다. 기술은 사회를 이해하고 사회도 기술을 수용한다. 결국 하나의 바퀴만으로 세상이 굴러갈 수는 없다. 외발자전거로 위험한 곡예를 하는 건 서커스만으로 충분하다. 한두 가지만 가르치는 교육, 소통하지 않는 과학기술, 다양성을 잃은 사회는 기술이 발전할수록 더욱 위험한 곳이 된다.
<참고문헌>
1. 정우성, "인공지능, 화려함 뒤에 쌓이는 난제들", 동아일보, 2022.1.10일자. A32면.
