AI 리터러시, 지능이란 무엇인가? 튜닝 테스트

여기서 불편함이 생긴다. 이해도 못 하는데 무슨 지능인가? 제아무리 논리적인 답변을 내놓고 복잡한 퍼즐을 풀어도 지능이라는 말을 붙이자니 선뜻 동의가 되지 않는다. 앞에서 이야기한 제인 구달과 침팬지 이야기를 떠올려보자. 인간만 도구를 쓰는 줄 알았던 시절 침팬지가 도구를 쓰는 모습을 본 당대의 석학은 인간의 정의가 바뀌거나 침팬지를 인간에 포함시켜야 한다고 생각했다. '인간에 침팬지를 끼워줘야 한다니!' 절망적으로 들릴 수도 있지만, 과학자는 알던 것과 다른 사실이 발견되면 자연스럽게 지식을 업데이트한다. 지능이라는 단어가 우리가 알고 있던 것과 다르다는 사실에 직면한 과학자들도 마찬가지였다. 지능은 이해력과는 다른 무엇인가가 되어야만 했다. 1990년대 컴퓨터 공학자들이 이미 이에 대한 답을 내놓았다.

우리는 흔히 지능을 원리를 이해하는 능력으로 생각하지만, 실질적으로는 결과를 만들어내는지 여부로 재단하고 있다. 공부는 열심히 하는데 성적은 바닥인 학생, 열심히 고객을 만나고 다니지만 판매 실적은 좋지 않은 영업사원이 똑똑하다는 말을 듣기 쉽지 않다. 한편으로 같은 결과를 내더라도 노력을 적게 들이는 이들에게 영리하다는 말을 한다. 축구 경기를 떠올려보자. 동료가 거친 수비를 뚫고 힘들게 밀어준 공을 문전에 서 있던 선수가 손쉽게 밀어 넣는다. 소위 '주워 먹는' 플레이다. 그런데 사람들은 이를 비난하지 않고 오히려 축구 지능이 높다고 칭찬한다.

과정이 어떻든 결과만 맞으면 지능적 행동이다. 어려운 수학 문제를 이해해서 풀든 모든 경우를 계산해서 풀든 결과만 맞으면 그만이다. AI가 이렇게 작동한다. 우리는 이미 이해하지 못해도 일을 해내는 기계에 둘러싸여 있다. 계산기는 곱셈이 무엇인지 이해하지 못해도 정답을 내고, 세탁기는 빨래의 원리를 모르지만 옷을 깨끗하게 한다. 기존의 도구들에 비해 AI가 새삼 낯선 것은 이번에는 기계가 글을 쓰고 말을 하기 때문이다. 그러나 본질은 같다. 이해를 전제하고 있느냐가 아니라 결과를 내느냐다.

사실 이런 관점은 우리의 전통, 직관과 정면으로 부딪힌다. 유교의 경전 《중용》은 널리 배우고 자세히 묻고 신중히 생각한 뒤에 행하라고 가르쳤다. 지행합일이라는 말도 알기만 하고 아는 대로 행동하지 않는 것을 지적한다. 언제나 행동보다 이해가 먼저이고, 알면서도 행동을 하지 않는 것을 문제시하지 행동을 하면서도 알지 못하는 것은 상상력의 범위 밖에 있었다. 그런데 AI의 지능은 알지 못한 채 행동한다.

앨런 튜링은 알지 못하지만 행동하는 길을 먼저 걸어간 선구자다. 제2차 세계대전 당시 독일군은 에니그마라는 암호기를 사용해 군사 통신 내용을 숨겼다. 에니그마는 키를 누를 때마다 내부의 회전자가 움직여 같은 글자도 매번 다른 글자로 바꾸었고, 그래서 암호의 규칙은 계속 달라졌다. 튜링은 동료들과 함께 이 복잡한 규칙을 추적하기 위해 봄브Bombe라는 장치를 설계했다. 봄브는 수많은 에니그마 설정 후보를 빠르게 탐색해 그날의 설정된 암호를 찾아냈다. 하지만 봄브는 자신이 찾은 문장이 무엇을 뜻하는지, 그 정보가 전쟁에서 어떤 결과를 낳을지는 전혀 알지 못했다. 정해진 절차에 따라 전기 회로와 기계 장치를 작동시켜, 가능한 설정 가운데 맞지 않는 것을 걸러냈을 뿐이다. 결과를 낸 것은 대상에 대한 이해가 아니라 규칙의 실행이었고, 그 결과가 전쟁의 방향을 바꿨다.

1990년대 인공지능을 연구하던 러셀과 노빅도 같은 결론에 이르렀다. AI를 만드는 길은 다양하다. 사람의 뇌를 똑같이 흉내 내는 길, 빈틈이 없는 논리를 세우는 길, 그리고 튜링이 제시한 사람과 구별되지 않을 만큼 사람과 비슷하게 행동하는 길. 그러나 당시 기술로는 사람 뇌 속에서 생각이 어떻게 만들어지고 진행되는지 알 수 없었고, 논리만으로는 복잡한 현실의 문제를 풀 수 없었다. 사람처럼 보이게 하는 길은 영리한 한스가 덧셈 문제를 푸는 것을 보며 감탄하듯 AI의 진짜 능력이 아니라 사람이 얼마나 잘 속아 넘어가는지를 측정할 뿐이었다. 인간이 얼마나 속임수에 취약한지는 일라이자의 사례에서 너무도 선명하게 증명됐다. 그래서 그들은 가장 단순한 정의를 골랐다.

"내부에서 어떤 일이 일어나든 관계가 없으니, 목표를 달성하는지로 정의하자."

뜨거운 난로에 손이 닿은 아이는 자기도 모르게 화들짝 손을 뗀다. 깊은 고민 없이 일어난 반사이지만 생존이라는 목표에 맞는 행동이니 지능이라 부를 수 있다. 흰개미의 건축도, 침팬지의 나뭇가지도, 까마귀의 철사도 같은 기준에서 지능이다. 인류가 새의 날갯짓을 흉내 내는 대신 공기역학을 연구해 하늘을 날았듯, AI도 인간의 사고를 흉내 내는 대신 문제 해결에 집중해 얻은 결과물이다. 비행기는 새처럼 퍼덕이지 않지만 하늘을 난다. AI는 인간처럼 생각하지 않지만 문제를 푼다. 그러니 AI를 볼 때 던질 질문은 얼마나 이해하느냐가 아니라 무엇을 해결할 수 있느냐다. 내 마음 따위는 당연히 모른다.

여기서 불편함이 하나 남는다. 결과만 맞으면 지능이라면서, 1부에서는 왜 AI의 답변이 통계로 지어낸 문장일 뿐이라고 했나? 이직 상담을 해도 AI는 그럴듯한 답을 내놓지 않나? 그렇다면 그렇게 폄하할 일은 아니지 않은가 하는 생각을 할 수 있다. 이 두 입장은 모순처럼 보이지만 그렇지 않다. 단, 생략한 조건을 하나 짚어야 한다. 결과를 낸다는 말이 성립하려면 좋은 결과가 무엇인지 미리 정의되어 있어야 한다. 점수판이 있어야 한다는 뜻이다. 바둑에는 승패가 있다. 단백질 구조 예측에는 실험으로 확인할 수 있는 정답이 있다. 코드는 돌려보면 올바른지 알 수 있다. 점수판이 분명한 영역에서 AI는 의심할 여지 없이 지능적이다. 문제를 이해하지 않고도 점수를 올리는 능력, 그것이 러셀과 노빅이 말한 지능의 실체다.

이제 1부의 질문을 다시 보자. "지금 직장을 옮기는 게 나을까?" 이 질문에는 점수판이 없다. 이직을 했을 때의 삶과 이직하지 않았을 때의 삶을 나란히 놓고 어떤 생이 더 나은지 채점할 방법이 없기 때문이다. 평가를 할 수 없는 곳에서는 결과라는 말 자체가 성립하지 않는다. 여기서 발현되는 지능은 사람처럼 그럴싸하게 말을 하는 것이지, 이직을 해라 마라 하고 권유하는 것이 아니다. 자연스러운 문장을 만든다는 측면에서는 훌륭한 지능을 발휘하고 있다고 인정할 수 있지만 그 내용까지 지능으로 받아들이면 곤란하다는 뜻이다.

여기에서 우리는 한 단계 더 나아갈 수 있다. 세워진 점수판에서 점수를 올리는 것이 지능이라면, 무엇을 점수로 칠지 정하는 일은 무엇일까? 무엇을 좋은 결과로 볼지 정하는 일, 우리는 이것을 가치 판단이라고 부른다.