• 목록

인공지능과 윤리

김효은 저

윤리적 인공지능은 가능한가?

 ​

 최근 인공지능은 급속도로 발전하였다. 예를 들면 이세돌과 바둑 대회를 하였던 ‘알파고’, 현재 자주 거론되는 ‘자율주행차’. ‘로보어드바이저’ 라는 자산관리 프로그램, 인간의 언어를 성숙한 방식으로 처리한 후 퀴즈를 풀거나, 종양을 다루는 의학분야에서 처방을 할 수 있는 ‘IBM Watson’ 그리고 여러 그림들에 데이터를 넣어주고 예술 창작을 하는 인공지능이 존재한다. 이러한 눈부신 발전에도 불구하고 이에 대해 비판하는 목소리도 있었다. John Searle은 ‘중국어 방 논증’이라는 주장을 하였다. 이는 중국어로 된 언어 ‘자극’이 들어오면 소리의 형태만 파악하고 규칙과 데이터를 매칭하여 결과 값이 도출된다. 인공지능은 input이 들어가면 다량의 데이터 처리한 후 적절한 output을 만들어내어 외부에서 보면 인간과 구별할 수 없는 시스템을 만들 수 있다. 하지만 이러한 인공지능은 실제로 언어를 ‘이해’할 수 없고 ‘의미’를 알 수 없다는 것이다. 그 이유는 인공지능은 인간의 언어를 컴퓨터 언어로 데이터화하고 이 데이터를 가지고 내장되어 있는 함수를 이용하여 의미를 도출해내는 것이기 때문이다. 즉, 인간과 같이 이성과 감정의 혼합으로 결과물을 도출하는 것이 아닌 그저 수식에 의한 확률 혹은 수학의 결과물이라는 것이다.

출처) https://imnews.imbc.com/news/2016/culture/article/3904547_31353.html

 그렇다면 이 수학의 결과물로 인해 어디선가 손해 혹은 피해가 발생한다면 누구에게 책임을 물을 수 있는가? 구체적으로, 자율주행차량이 부득이하게 사람을 쳤다면 누구의 책임인가? 탑승자, 자율주행차량 제작사 혹은 회사 내 시스템 엔지니어 중 누구인가? 이처럼 아직 인공지능에 대한 책임 체계 그리고 이해 범위 등 윤리적 시스템이 확립되는 것은 쉽지 않다. 

따라서 점점 다가오는 인공지능의 시대를 미리 대비하여 개발 단계부터 윤리적인 인간의 개념을 주입시키는 것이 매우 중요하다. 인간의 윤리의식을 토대로 인공지능을 발전시키며 녹아 들게 하는 것이다. 기계 학습에서의 지각을 구성하는 알고리즘 설계 간 회로의 구성에 있어서 효율적이고 효과적인 것도 물론 중요하지만, 윤리적인 방향으로 흐르게 해야 하는 것이 지배적이라는 의미이다.

 인공지능의 윤리적인 시스템을 확립하기 위한 선결 조건에는 두가지가 존재한다. 첫 번째는 ‘지각’이다. 환경으로부터 지각 정보(perception)를 받는 것이다. 이러한 조건이 일어난 뒤에야 동작(action)할 수 있기에 지각 정보에 대한 대책이 선행되어야 한다. 그리고 두 번째는 ‘지각 항등성’이다. 인간은 맥락에 관한 지식 조건이 다르더라도 같다고 인식하는 지각항등성이 존재한다. 인공 지능에서도 단순히 데이터를 처리하는 것이 아니라 잠재적인 행위를 전제하고 반응할 수 있는 인간의 지각과 최대한 비슷하게 구현되어야 한다. 정리하자면, 인공지능에게 주입되는 개념이 인간에게 해를 입혀서도 안 될뿐더러, 인간이 해를 입도록 방치해서는 안 된다는 것이다.

 그럼 어디서부터 어떻게 시작해야 할까? 윤리는 관습을 채택하는가에 따라 공동체가 번영하고 존속할 수 있는지를 결정한다. 이러한 윤리는 우리를 밖으로부터 강제하는 것이 아니라 우리 자신의 성공과 번영을 위해 선택해야하는 것이다. 인공지능의 관련 사항에 있어서도 사회적 결정이 우리의 미래를 좌우할 수 있다. 인공지능은 공학적인 결과물이 아니라 기계에 지능을 부여하는 전문 활동이므로 인간의 결정에 따라 행동한다. 인공지능은 하나의 완성품이 아니라 인간의 활동에 의하여 결정되며, 환경 속에서 적절하게 그리고 앞을 내다보며 작동 현재진행형 속성을 지닌다. 그들의 미래는 우리가 만드는 것이다.

먼저, 개념을 주입시키는 개발자부터가 건강한 윤리의식을 갖추고 있어야 한다는 것이 우선적이다. 아무리 기계가 초기 데이터 학습을 통해 스스로 배우고 판단하는 것이 가능해지더라도 개발자의 초기 데이터 주입/변환 과정, 알고리즘 및 연산의 설계 등에서 개발자의 특색이 묻어나올 수밖에 없다. 그렇기 때문에 우선적으로 인공지능의 개발 단계에서의 모든 이해관계자들이 윤리적 책임감을 갖고 임해야 한다는 것은 자명하다.

또한, 기업과 국가 차원의 노력이 필요하다. 인공지능 윤리는 기업의 사회적 책임이라고 여겨지면서 많은 기업의 ESG 경영의 한 요소가 되었다. 이에 따라 수많은 기업에서는 윤리원칙을 무차별적으로 제시하고 있다. 이는 기술의 부작용에 대한 책임을 회피하기 위해서 명목적으로만 윤리의 개념을 소비하는 ‘윤리 위장주의’ 와 기업의 편의에 따라 다양한 원칙 중 선택적으로 구매하여 이용하는 ‘윤리 원칙의 상품화’와 같은 문제를 가져온다. 다수의 업계에서 합리적이고 체계적인 가이드라인을 제시할 필요가 있으며, 국가 차원에서도 다양한 전문가의 의견을 수렴하여 엄격한 법과 제도를 마련할 필요가 있다.

 그 다음으로는 인간이 인공지능을 어떻게 사용하는 것도 중요하다. 아무리 개발자가 윤리적이고 도덕적으로 완성시켰다고 해도 사용자가 비윤리적으로 사용한다면 이는 ‘밑 빠진 독에 물 붓기’ 를 한 것이나 다름없다. 그렇기 때문에 사용자 또한 유년기시절부터 충분한 교육을 통해 이를 당연시 여길 수 있도록 만들어야 하며 우리가 살아가는 이 사회를 우리가 스스로 만들어간다는 것을 절대 잊어서는 안 된다.

 인공지능의 발달로 인해 세상의 발전에 있어서 한계의 벽이 조금 허물어졌다는 것은 부정할 수 없는 사실이다. 하지만 그만큼 사회에 영향력이 있다는 것이고 삶을 좌지우지할 수도 있다는 것이다. 개인정보 보호, 인공지능 혜택의 불평등 등에 대한 비관적인 전망도 존재한다. 사회적으로, 경제적으로 절대적으로 안전하고 호의적인 결과를 가져다 준다는 확신은 없으므로 지속적으로 사회에 미칠 파장에 대해서 주목할 필요가 있다. 그에 따라 개발자는 물론이고, 사용자 또한 이 사회에 대한 주인의식을 가지고 본인만의 이득을 바라보거나 ‘나 하나쯤이야’라는 생각으로 이러한 기술의 발달을 악하게 개발 혹은 사용한다면 그 피해는 반드시 본인에게 돌아온다는 것을 머릿속에 새겨야 할 것이다.