03 AI 리터러시, AI는 생각하지 않는다, 행동할 뿐이다

인간은 만물의 영장인가?

어려서 자주 듣던 말 중에 "인간은 만물의 영장이다"라는 표현이 있다. 이때 영장은 만물 가운데 으뜸이라는 뜻이다. 위 말의 원문은 “man is the lord of all creation”. 즉, 인간이 모든 피조물의 주인이라는 뜻이다. 다른 동물이 가지고 있지 않은 지적인 능력을 바탕으로 세상을 다스릴 권리를 받았다는 종교적인 의미가 담겨 있다.

이처럼 인류는 지능을 인간만의 것으로 여겨왔다. 도구를 만들고, 추상적으로 사고하고, 새로운 것을 창조하는 힘은 사람에게만 있다고 믿었다. 그러나 20세기에 들어 이 믿음이 흔들리기 시작했다. 균열은 1960년 아프리카 탄자니아 곰베에서 시작되었다. 침팬지를 관찰하던 제인 구달이 한 침팬지가 나뭇가지를 골라 잔가지를 다듬은 뒤 흰개미집에 밀어 넣어 흰개미를 낚아 먹는 광경을 목격한 것이다. 재료를 목적에 맞게 다듬어 도구를 만들고 활용하는 현장이었다. 당시 도구를 만들어 사용한다는 것은 인간을 동물과 구별해주는 중요한 특징이었다. 구달을 곰베로 보낸 인류학자 루이스 리키는 이 사건에 대해 이렇게 말했다.

"이제 우리는 도구를 재정의하거나, 인간을 재정의하거나, 침팬지를 인간으로 받아들여야 한다."

당시의 사람들은 침팬지를 비롯한 영장류에게 '도구를 사용할 줄 아는 동물'의 지위를 부여했다. 도구를 인간의 전유물에서 내려놓으면서도, 도구를 사용한다는 사실에는 특별함이 담겨 있었다.

그런데 2002년 더 놀라운 사실이 관찰됐다. 옥스퍼드 연구팀이 뉴칼레도니아의 까마귀, 베티를 관찰했다. 베티는 곧은 철사를 스스로 구부려 갈고리를 만들더니 통 속 먹이를 꺼내 먹었다. 사람이 준 도구를 사용한 것이 아니라 스스로 새로운 도구를 창안한 것이다. 도구의 사용 능력과 더불어 창의성을 인간의 전유물이 아니라고 인정할 수밖에 없었다. 후속 연구에서 이 까마귀들은 미래에 어떤 도구를 쓸지 미리 계획하고, 눈에 보이지 않는 도구의 위치를 기억하며, 여러 단계를 거치는 문제까지 풀어냈다.

인간보다 하등하다고 여겨온 생물들로부터 인간의 존엄성을 지켜주는 지능의 장벽이 생각보다 높지 않다는 것이 드러나고 있었지만 그래도 커다란 보루가 남아 있었다. 바로 체스, 바둑, 그림, 수학처럼 추상적 이해와 논리적 추론이 필요한 영역이다. 1997년 체스 챔피언 카스파로프가 딥블루라는 인공지능에게 자리를 내주었을 때만 하더라도 모든 경우를 다 계산해서 최적의 답을 내는 일종의 부정행위라는 인식이 있었다. 모든 경우의 수를 시뮬레이션하는 전수 탐색exhaustive search 방식은 아니었지만 여전히 대규모 후보를 계산하는 방식을 기반으로 했기 때문에, 인간의 창의성은 절대 못 따라온다는 해석이 있었다. 경우의 수가 유한한 체스와 달리 경우의 수가 천문학적인 수치인 바둑에서는 절대로 컴퓨터가 인간을 이길 수 없다 여겨졌다.

모두가 알다시피 2016년, 그런 믿음은 깨졌다. 이세돌 9단은 알파고에게 1:4로 무릎을 꿇었다. 이제 AI는 막힘없이 답하며 창의력이 필요한 소설까지 그럴듯하게 쓴다. 미술, 음악, 심지어 수십 년간 해결되지 않던 수학 난제들까지, 인간의 성역이 잇따라 AI에게 무너졌다.

AI를 개발한 과학자들은 무심하게 기술을 설명했지만 인문학계에서는 "인간은 무엇인가", "창의성은 무엇인가"라는 질문을 제기한다. 이세돌은 "이세돌이 진 것이지 인간이 진 것은 아니다"라는 말을 남겼지만 그의 1승은 AI에게 거둔 인류의 마지막 승리가 되었다. 10년 뒤 신진서 9단이 바둑 AI 카타고를 상대로 2승 1패를 기록했다. 오랜만의 승리에 언론은 환호했지만 신진서 9단은 '두 점이라는 핸디캡 덕분에 버틸 수 있었다'며 승리라는 표현을 자제했다. 다시 생각해보자. 인간의 사고력과 창의력은 인간의 전유물이 아니게 된 것일까? 적어도 이제는 연산 능력과 창의력 역시 하나의 기술에 불과하다는 인식이 퍼지고 있다.

AI는 생각하지 않는다. 행동할 뿐이다

많은 이들이 AI를 지식의 보고 내지 지성을 초월한 존재로 여기고 있지만, 적어도 현재 인류가 만들고 발전시키려는 AI는 생각하지 않는다. 다만 행동할 뿐이다. 이 소식에 실망을 할 이들도 있겠지만 오히려 안심해도 된다는 소식이다. AI가 생각하지 않는다는 것은 생각이 여전히 우리 몫이라는 뜻이기 때문이다. 만약 AI가 정말로 생각할 수 있는 존재라면 스스로 목표를 세울 수 있어야 한다. 최근 AI들은 논리 추론 능력이 발달해서 인간이 부여한 목표를 달성할 수 있도록 여러 단계의 작은 목표로 나누기도 하고, 명시적으로 제시되지 않았지만 문제 해결에 필요한 중간 단계, 검증 단계를 스스로 설정하기도 한다. 그렇지만 아무것도 없는 백지상태에서 문제를 정의하는 것은 아직 쉽지 않다. 문제투성이인 이 세상에서 문제 하나를 특정하려면 다른 일보다 이 문제가 시급하다는 결정이 필요하고, 결정은 편향된 가치관에서 온다.

편향은 정당의 모습에서 쉽게 확인할 수 있다. 정당은 저마다 다른 관점에서 제한된 예산을 다른 곳에 사용해야 한다고 주장한다. 예를 들어 대도시 주변의 녹지를 유지하자는 쪽과 아파트를 지어 주택을 공급하자는 쪽이 있다면, 그들이 생각하는 우선순위가 다른 것이고 이것이 바로 편향된 가치관이다. 편향이라 표현하니 나쁜 것처럼 들린다면 시대정신이라는 말을 사용할 수도 있다. 시대별로 우선 해결할 문제가 있다는 의미다. 그러나 앞서 살펴보았듯 AI는 생각하지 않는다. 생각할 수 없기에 의지가 없고, 의지가 없기에 스스로 목표를 세우지 않는다. 조종석이 비어 있는 복잡한 기계 장치와 같으며 그 빈자리를 채우는 것이 사람이다. AI라는 강력한 엔진의 운전대는 생각하는 인류가 여전히 쥐고 있다.

이 시점에서 생성 AI의 대명사와도 같은 챗GPT를 다시 돌이켜보자. 챗GPT는 챗봇이 아니다. 채팅창은 사람과 말로 소통하기 위한 껍데기일 뿐이고, 그 안에 들어 있는 것은 머리 좋은 친구가 아니라 무지막지한 실행 능력을 갖춘 요원이다. 채팅만으로는 그 힘을 느끼기 쉽지 않지만 팔다리가 달리면 제대로 느낄 수 있다. 언어 모델에 인터넷이 붙으면 실시간으로 정보를 검색해서 활용할 수 있고, 여기에 권한이 붙으면 사용자의 파일을 열어 읽고 쓸 수 있으며, 동료 AI들이 모여서 인간처럼 조직을 만들 수 있다. 기계로 된 몸뚱이가 붙으면 로봇이 된다. 대다수의 사람이 AI를 챗봇이라는 이름으로 부르며 감정을 풀어놓는 똑똑한 말상대로 여기는 동안 일각에서는 AI들의 손발을 만들고 있다.

일상에서 매일 겪는 일로 옮겨보면 더 와닿을 것 같다. AI에게 맛집을 물어보면, 일차적으로 학습된 데이터에 기반해 답을 한다. 거듭 강조하지만 데이터를 찾아 답을 하는 것이 아니라 확률적으로 문장을 지어내는 것이라 환각이 끼어들 확률이 적지 않다. 여기에 웹 검색 기능까지 붙이면 정보를 실시간으로 검색해 맛집을 찾고, 내 일정표에 접근할 권한을 주면 빈 시간을 확인하여 예약을 하고 신규 일정을 기입할 수 있다. AI가 자율주행차에 탑재되어 있다면 내 일정에 맞추어 데리러 와서 약속 장소로 데려다줄 수도 있다.

이렇게 단계별로 AI가 강해지는 것은 지능이 높아지기 때문이라고 생각하기 쉽다. 다시 말하지만 AI는 생각하지 않는다, 행동할 뿐이다. 따라서 지능이 없다. 지능이 아니라 실행 능력이 증대된 것이다. 인간의 지능에 대응되는 추론 능력이 좋아져도 AI의 역량은 강해지지만, 정보를 수집하는 기능과 행동을 실행하는 기능까지 발전하지 않으면 체감하는 바는 적다. 최근 어떤 AI든 플러그인, 커넥터, MCP, A2A를 통해 눈과 귀, 팔다리를 함께 늘려가고 있는 이유가 바로 여기에 있다.

일각에서는 오늘날의 AI가 의식을 가지고 있으며, 우리가 이들을 인공생명체로 대해야 한다는 주장이 나온다. 흥미로운 주장이지만 우리는 의식이 무엇인지조차 아직 명확하게 정의하지 못하고 있다. 뇌세포가 302개뿐인 예쁜꼬마선충이라는 작은 벌레가 있다. 과학자들은 예쁜꼬마선충 뇌세포의 모든 연결을 파악했다. 그리고 이 연결을 통째로 복사해 로봇에 옮겼다. 그랬더니 무슨 일이 벌어졌을까? 아무도 명령하지 않았는데 스스로 장애물을 피하고 자극에 반응했다. 뇌세포 사이의 연결만 베껴 무생물인 로봇에 넣었을 뿐인데 마치 살아 있는 생물처럼 행동하는 것이다. 최근에는 AI의 도움으로 훨씬 복잡한 초파리의 뇌세포 연결을 파악할 수 있었다. 가상공간에서 이 구조를 재현했더니 실세계의 초파리와 똑같이 날고 앉았다. 여기에 의식이 있다고 할 수 있을까? 그렇다면, 또는 그렇지 않다면 의식은 대체 언제 어디에서 어떨 때 생길까? 뇌세포가 많으면 되는 걸까? 또는 특정 방식으로 연결되면 되는 걸까? 이것조차 아직 답이 없는 마당에 AI에게 의식이 있다 없다 단정하는 것은 너무 이르다.

확실한 건 하나다. AI가 안에서 무엇을 하든, 그 결과의 방향과 의미를 판단하는 일은 사람의 몫이다. AI의 정체는 의식도 인격도 아니다. 이해 없이 결과를 만드는 실행 능력이다.