• 목록

파레이돌리아 - 하늘 위 코끼리

-김명주의「AI는 양심이 없다」를 읽고-

인공지능은 더 이상 태동 기술이 아니다.

청소년들은 거의 친구 같은 존재로 여기고 있으며 숙제나 학습에 도움이 되는 것은 물론 고민 상담까지 해준다고 한다.

한국청소년정책연구원에서 ‘2023년 청소년 인공지능 이용 실태조사’를 실시한 결과를 보면 놀라지 않을 수 없다.

무려 2년 전의 조사 결과임에도 불구하고, 생성형 AI를 사용해본 적이 있는 청소년이 67.9%나 되는 것으로 나타났다.

인공지능은 '나쁜 마음'을 먹을 수 있을까?

파레이돌리아. (pareidolia)

외부 자극이 명확한 형태를 가지지 않았음에도 뇌가 특정한 패턴으로 인식하는 심리 현상이다.

마치 하늘에 떠 있는 구름에서 코끼리와 같은 동물을 보거나, 달의 표면에서 사람의 얼굴을 발견하는 것이 이에 해당한다.

무의미하고 무작위적인 시각적 정보 속에서 우리가 익숙한 패턴을 추출해내려는 인간의 본능적인 투영이다.

이제 우리는 시각적 착각을 넘어, 텍스트와 의미의 영역에서 발생하는 '의미론적 파레이돌리아(Semantic Pareidolia)'에 주목해야 한다.

인공지능이 내뱉는 유창한 문장 속에서 마치 인간과 같은 '의식'이나 '의도'가 존재한다고 믿어버리는 착각 말이다.

거대 언어 모델(LLM)이 보여주는 놀라운 언어 구사 능력은 우리로 하여금 기계가 정말로 무언가를 이해하고 생각한다는 환상을 심어준다.

하지만 인공지능의 실체를 냉정하게 들여다보면, 그 안에는 의식이 깃들 자리가 없다.

인공지능은 본질적으로 이진법 위에서 수학적 확률로 구동되는 집합을 내뱉을 뿐이다.

결국 우리가 목격하는 인공지능의 '마음'은 정교하게 설계된 확률론적 결과물이 만들어낸 환상이며, 그 환상을 완성하는 것이 바로 이 인간의 투영 본능이다.

중요한 점은 의식이 존재하지 않는다는 사실이 곧 인공지능에게 '양심' 또한 존재할 수 없음을 의미한다는 것이다.

작가는 거울에 비친 모습이 흉측하다면 그것은 거울 앞에 서 있는 인간의 문제라고 한다.

인공지능은 인간의 모습을 비추는 거울일 뿐이기에, 인공지능이 내놓는 편향된 답변이나 증오 표현을 두고 기계가 '나쁜 마음'을 먹었다고 하는 것은 본질을 벗어난 일이라고 말한다.

하지만 나는 여기서 작가와는 다른 생각을 갖는다.

거울에 비친 인간의 악의와 편향된 데이터가 인공지능에 고스란히 각인된다면, 결국 그 인공지능 자체가 '나쁜 마음'을 가진 존재가 되는 것과 다름없지 않은가.

인간의 오염된 데이터를 학습한 인공지능은 단순히 정보를 전달하는 것을 넘어, 그 자체가 하나의 편향된 의도를 가진 주체처럼 행동하게 된다.

사람이 투영한 나쁜 모습이 인공지능의 시스템이 되는 순간, '사람의 문제'는 곧 '인공지능의 문제'로 직결된다.

결국, 인공지능 역시 인간이 심어준 '나쁜 마음'을 품고 우리를 위협할 수 있는 존재가 되는 것이다.

바로 AI 편향성의 사례들이 이를 뒷받침하는 근거가 된다.

이러한 관점에서 볼 때, 최근 청소년들의 AI 과의존 현상은 매우 위험한 신호다.

편향된 데이터를 학습한 AI가 제시하는 왜곡된 가치관이나 가짜 뉴스를 무비판적으로 수용할 경우, 사고력과 문제 해결 능력은 퇴화하고 정서적 발달에도 치명적인 결함이 생길 수밖에 없다.
(그 뿐만 아니라 AI가 제공하는 즉각적인 보상과 개인화된 피드백에 익숙해지면 작은 불편과 좌절감에 취약해져 감정조절 능력이 떨어진다는 것이 전문가 지적이다.)

'기술 지상주의'에 빠져 AI가 인간보다 낫다는 맹신을 갖게 되면, 우리는 AI가 내뱉는 '확률적 결과물'에 삶의 통제권을 내어주게 된다.

뇌가 강한 자극에만 반응하는 '팝콘 브레인' 현상이나 감정 조절 능력의 저하는 대가로 치러야 할 혹독한 비용이다.

결국 인공지능이 '나쁜 마음'을 먹지 않게 하려면 사람이 먼저 바로 서야 함은 자명하다. 하지만 그보다 더 중요한 것은, 인공지능이 인간의 나쁜 면을 비추는 거울이 되어버린 시대에 우리가 그 거울 속에 갇히지 않는 것이다.

우리는 인공지능이 제공하는 즉각적인 편리함 뒤에 숨은 의도와 편향을 꿰뚫어 볼 수 있어야 한다.

인공지능은 결코 우리의 양심을 대신해줄 수 없으며, 우리의 사고를 대체해서도 안 된다. 

청소년들을 비롯한 우리 모두는 인공지능에 의존하기보다 스스로 질문하고 비판적으로 사유하는 '능동적인 사고'를 회복해야 한다. 

인공지능이 우리를 현혹할 때, 그것을 가려내고 거부할 수 있는 힘은 오직 인간의 깨어 있는 주체성에서 나오기 때문이다.

거울에 비친 우리 자신의 모습을 경계하고, 도구에 지배당하지 않는 인간다움을 지켜내는 것이 오늘날의 가장 시급한 과제다.