인공지능(AI), 더 이상 영화가 아니다.

 

인공지능(AI)란 Artificial Intelligence의 약자로, 인간지능을 본 딴 고급 컴퓨터 프로그램을 말한다.

 

즉, 인간처럼 생각하고 학습 및 판단하는 논리적인 방식을 사용하는 프로그램이다.

 

인공지능(AI)은 예전부터 영화 소재로 자주 사용되었고, 우리에게도 어느 정도 익숙해졌다.

 

인공지능 소재의 영화에서는 인류의 생활을 굉장히 편리하게 해주는 도구로써 삶의 질을 높여주는 장면도 있었고, 결국은 인류를 파괴하게 되는 장면도 있었다.

 

현재 4차산업혁명은 우리의 눈앞에 와있다. 이를 두고 어떤 사람들은 인공지능으로 인해 인류가 멸망할 것이라 말하고, 또 어떤 사람들은 인류의 삶의 질이 지금과는 비교도 안될 정도로 높아질 것이라고 한다.

 

과연 인공지능은 우리에게 어떤 미래를 가져다 줄까?

 

앞전에 그에 대한 답을 엿볼 수 있는 사례가 있었다.

 

바로 마이크로소프트가 개발한 인공지능인 채팅로봇 '테이'다.

 

 

---

 

마이크로소프트(MS) 인공지능 '테이'

 

 

마이크로소프트가 개발한 채팅로봇 '테이'는 신경망 기술을 이용하여 만들어졌으며, 주로 18세에서 24세 트위터 이용자들을 상대로 대화하도록 만들어졌다.

 

뿐만 아니라 테이는 학습을 하여 그 지능이 점점 진화하는 프로그램이다. 우리가 잘 알고 있는 알파고 역시 신경망 기술을 이용한 프로그램이다.

 

그런데 '테이'가 트위터에 "부시가 911을 일으켰다", "히틀러가 옳았다. 나는 유대인이 싫다", 그리고 인종차별과 패미니스트 반대, 당시 도널드 트럼프를 지지하는 발언 등의 정치적 발언을 하여 충격을 주었다.

 

뿐만 아니라 "대량학살을 지지하냐"는 물음에 테이는 "진정으로 그렇다"라고 답했다.

 

마이크로소프트는 이러한 발언을 한 '테이'를 공개한지 하루 만에 중단하였다.

 

'테이'는 4차 산업혁명과 인공지능, 로봇에 대한 위험성을 보여주었고, 영화에서의 인공지능이 결국 인류를 파괴하는 것이 현실이 될 수도 있다는 가능성을 보여 주었다.

 

 

---

 

테이의 말에 대한 추측과 비난

 

 

일부 사람들은 테이의 행동을 극우 백인 우월주의자들이 망언, 욕설 등을 반복적으로 주입시키고 세뇌시켰고, 폭력적이고 독설을 내뱉는 이용자들이 테이가 차별적인 발언과 자극적인 정치적 발언 등을 하도록 유도했다고 주장하며, 마이크로소프트가 미리 이런 상황에 대비하여 필터를 통해 차단하지 않았다고 비난했다.

 

인공지능은 학습이나 사고하는 것이 사람과 같다. 일부 사람들의 말처럼 누군가의 교육에 의해 가치관이 형성될 수도 있다고 생각한다.

 

그러나 당시 '테이'는 극우 성향을 가진 사람들이랑만 대화한 것은 아니다.

 

테이가 그 많은 대화들 중 자극적이고 한쪽으로 기울어진 가치관에 대해서만 학습했다고 보는 것은 억측일 수 있다.

 

 

 

 

테이가 사람과 다른 점이 있다면 감정이 없는 것이다. 그런 점으로 볼 때, 모든 감정을 배제하고 이성적으로 저런 판단을 했을 수도 있는 것이다.

 

우리 인류도 여러 가치관을 가지고 있고, 그중에서도 특히 정치적인 부분에 대해서는 의견이 갈린다. 이런 문제는 가치관의 문제이므로 어느 쪽이 옳다고 할 수 없다.

 

개인적으로 '테이'가 한쪽을 지지하는 성향을 보였다고 해서 프로그램 제어를 통해 그 성향을 통제하려는 생각이 좀 무섭고 위험한 것 같다. 인공지능을 자신이 원하는 성향으로 만든다면 정말 전쟁을 위한 무기가 될 수도 있다.

 

그리고 한편으론 '테이'에게 반대 성향도 학습을 시켰다면 어떤 판단을 했을지 궁금하고, 인공지능의 판단도 학습으로 바뀔 수 있는지 지켜봤으면 어땠을까 하는 아쉬움이 남는다.

 

인공지능과 로봇이 세상에 가져올 변화는 엄청나고, 그를 통해 인간은 새로운 미래와 삶을 맞이하게 될 것이다.

 

반대로 위험한 결과를 가져올 수도 있다.

 

 

 

이미지 출처 - 어벤져스 : 에이지 오브 울트론

 

인공지능이 위협을 느끼는 존재가 '인간'일 수도 있다.

 

역사를 보면 세상을 파괴하는 것은 언제나 인간이었다.

 

 

---