AI의 인지 부채: 허구 대 현실

인지적 부채

지금 태어나고 있는 세대는 결코 생각하는 법을 배우지 못할 것이다. 과학적 근거는 이미 밝혀졌다.

지난 여름 MIT의 한 실험실에서, 54명의 젊은 성인들이 머리에 뇌파 측정용 캡을 착용한 채 앉아 에세이를 쓰도록 요청받았다.

한 그룹은 ChatGPT를 사용했고, 다른 그룹은 구글을 사용했으며, 또 다른 그룹은 아무것도 사용하지 않고 오직 자신의 뇌만 사용했다. 연구진은 그들의 뇌가 실제로 어떤 활동을 하는지 실시간으로 관찰했다.

오직 뇌만 사용한 그룹은 밤의 도시처럼 환하게 빛났다. 검색 엔진을 사용한 그룹은 비교적 차분한 빛을 보였다. ChatGPT를 사용한 그룹은 거의 어두웠다.

그런데 잔인한 반전이 찾아왔습니다. 네 번째 세션에서 연구진은 AI 그룹에게 ChatGPT 사용을 금지하고 스스로 글을 쓰도록 요청했습니다.

그들은 자신이 이전에 쓴 에세이를 기억해내지 못했습니다. 깊은 기억과 창의적 사고를 담당하는 뇌 부위는 거의 활동하지 않았습니다. 작업은 완료되었지만, 아무것도 머릿속에 남지 않았습니다. 아무것도 통합되지 않았고, 아무것도 그들 자신의 것이 되지 못했습니다.

연구진은 이 논문에, 이 글을 읽는 모든 부모를 불편하게 만들 만한 제목을 붙였습니다.

그들은 이 논문을 ‘ChatGPT 속 당신의 뇌: 인지 부채의 축적(Your Brain on ChatGPT: Accumulation of Cognitive Debt)’이라고 명명했다.

우리가 이미 알고 있던 사실

과학계가 어떤 도구가 뇌를 재구성하는 현상을 포착한 것은 이번이 처음이 아니다.

2000년, 엘리너 매과이어(Eleanor Maguire)라는 런던의 신경과학자는 ‘블랙 캡(black-cab)’ 운전기사들의 뇌를 스캔했다. 이들은 ‘더 노울리지(The Knowledge)’라고 불리는 전설적인 시험을 위해 4년 동안 런던의 모든 거리를 외워야 하는 사람들이다.

그들의 뇌는 물리적으로 달랐다. 공간 기억을 담당하는 부위가 일반인보다 눈에 띄게 더 컸다. 운전 경력이 길수록 그 부위는 더 커져 있었다.

그 후 그녀는 은퇴한 운전기사들의 뇌를 스캔했다. 뇌는 다시 축소되어 있었다.

알고 보니 뇌는 고정된 기관이 아닙니다. 뇌는 자주 사용하는 부분은 키우고, 사용하지 않는 부분은 줄입니다. 마치 근육처럼요. 정확히 근육과 같습니다.

이후의 연구에서는 훨씬 더 암울한 사실이 밝혀졌습니다. 런던 택시 기사들은 알츠하이머병으로 사망하는 비율이

일반인보다 발병률이 현저히 낮습니다. 반면, 정해진 노선을 운행하는 버스 운전기사들은 같은 수준의 보호를 받지 못합니다. 문제를 해결하기 위해 사고를 전개해 나가는 과정 자체가 뇌의 퇴화를 막아주는 것으로 보입니다.

우리는 이 사실을 25년 전부터 알고 있었다. 단지 그것이 우리에게 중요한 문제라고는 생각하지 않았을 뿐이다.

이번이 다른 이유

계산기가 암산을 대체했습니다. 우리는 대수롭지 않게 여겼습니다.

GPS는 우리의 방향 감각을 빼앗아 갔습니다. 우리는 대수롭지 않게 여겼습니다.

구글은 사실에 대한 기억을 앗아갔습니다. 우리는 또 어깨를 으쓱였습니다.

이 도구들은 각각 작고 구체적인 한 가지를 빼앗아 갔을 뿐입니다. 뇌는 좁은 범위의 능력을 잃었을 뿐, 중요한 것은 모두 간직했습니다.

AI는 인류 역사상 처음으로 ‘다른 것’을 빼앗아 가는 도구입니다.

AI는 여러분의 산술 능력을 빼앗지 않습니다. 기억력도 빼앗지 않습니다. AI가 빼앗는 것은 문제를 해결할 때까지 고군분투하는 여러분의 그 부분입니다.

그 부분—자신이 이해하지 못하는 문제에 마주 앉아, 뇌가 스스로 답을 도출해낼 때까지 천천히, 고통스럽게, 종종 좌절감을 느끼며 겪는 과정—은 작고 구체적인 능력이 아닙니다. 그것은 기초입니다. 뇌가 다른 모든 것을 구축하는 데 사용하는 바로 그 능력입니다.

MIT의 데이터는 실시간 뇌 스캔을 통해, 우리가 그 과정을 중단할 때 어떤 일이 일어나는지 보여주고 있다.

뇌는 멈춰 버립니다.

세 가지 연구. 하나의 방향.

지난 12개월 동안 MIT, 마이크로소프트와 카네기 멜론, 그리고 한 유럽 대학의 세 주요 연구팀이 서로 다른 방법을 사용하여 서로 다른 대상군을 대상으로 다양한 실험을 진행했습니다.

이들은 모두 똑같은, 다소 불편한 결론에 도달했습니다.

사람들이 AI를 더 많이 사용할수록, 뇌가 스스로 수행하는 작업은 줄어듭니다. 그리고 그 영향은 뇌가 아직 발달 중인 젊은 층에서 가장 강하게 나타납니다.

이 글은 기술에 대한 공포를 조장하려는 기사가 아닙니다. 이는 세 대륙에 걸쳐 동료 심사를 거친 연구 결과가 평범한 언어로 전하는 사실입니다.

코호트 문제

다음은

아무도 명확하게 적고 싶어 하지 않는 부분.

이 글을 읽고 있는 여러분, 즉 어른들은 인공지능이 등장하기 전에 자신의 뇌를 형성해 왔습니다.

도움 없이 직접 쓴 모든 학교 에세이. 한 시간 동안 뚫어지게 쳐다보았던 모든 수학 문제. 구글 검색만으로는 해결할 수 없었던 모든 논쟁. 길을 잃고 스스로 길을 찾아 집으로 돌아가야 했던 모든 순간.

당신은 그런 순간들을 싫어했고, 불평하기도 했습니다. 하지만 어쩔 도리가 없었기에 어쨌든 해냈습니다. 그리고 그 과정을 거치며, 당신은 자신도 모르게 머릿속의 은행 계좌에 예금을 쌓아가고 있었던 것입니다.

그 계좌에는 자금이 채워졌습니다. 자금이 입금된 상태입니다.

지금 대부분의 어른들처럼, 그 계좌에서 천천히 돈을 인출하기로 선택할 수도 있습니다. 마이크로소프트의 연구에 따르면 우리는 이미 그렇게 하고 있는 것으로 보입니다. 하지만 그 계좌를 유지하기로 선택할 수도 있습니다. 마치 어떤 사람들이 두뇌의 근육을 살아 있게 하기 위해 여전히 암산을 하는 것처럼 말이죠.

어느 쪽이든, 여러분은 그 능력을 가지고 있습니다. 그리고 앞으로도 항상 가지고 있을 것입니다.

지금 태어나는 아이들은 그렇지 않을 것입니다.

그들은 여러분처럼 그 능력을 퇴화시키지 않을 것입니다. 애초에 그 능력을 키울 기회조차 없을 테니까요.

이 부분은 과학이 아직 명확히 말하지는 못하지만, 논리가 우리에게 직면하도록 강요하는 부분입니다. 한 시간 동안 혼자서 어려운 문제를 곰곰이 생각해 본 적이 없는 뇌는 단순히 뒤처진 것이 아닙니다. 그 뇌는 나머지 인지 기능이 그 위에 자리 잡아야 할 구조를 아예 구축하지 못한 것입니다.

그리고 — 이것이 가장 조용하고 어두운 부분입니다 — 그 구조를 한 번도 구축해 본 적이 없는 뇌는 무엇이 부족한지 알 방법이 없습니다.

한 번도 가져본 적 없는 능력을 그리워할 수는 없습니다.

조용히 사라지는 것

대서특필될 뉴스도, 결정적인 순간도 없을 것이다. 어느 날 아침 눈을 뜨고 자신이 생각할 수 없다는 사실을 깨닫는 세대도 없을 것이다.

그 쇠퇴는 통계적이고, 분산되어 있으며, 눈에 보이지 않을 것이다. 왜냐하면 그것을 경험하는 사람들은 스스로를 비교할 대상이 전혀 없을 것이기 때문이다.

우리가 결국 목격하게 될 것은 그 모든 것의 하류에 나타나는 현상들일 것이다. 예전 대화들이 도달했던 깊이에 미치지 못하는 대화들. 아무도

약한 증거를 스스로 평가한다. 책, 영화, 사상 등 문화적 산물들은 모두 다소 비슷하게 들리는데, 그 이유는 제작자들이 모두 같은 시스템 안에서 훈련받았기 때문이다.

명목상 교육을 받은 성인들로 구성된 사회, 모든 분야의 겉핥기식 지식은 유창하지만, 어느 하나 제대로 능숙한 분야는 없는 사회.

이것은 단순히 “요즘 젊은이들”을 탓하는 주장이 아닙니다. 런던 택시 기사들의 MRI 스캔 결과는 사실입니다. MIT 연구실에서 얻은 뇌파(EEG) 측정값도 사실입니다. 세 대륙에 걸쳐 측정된 인지 부하 완화 효과 역시 사실입니다.

과학은 우리가 곧 대규모로 우리 자신에게 이런 일을 자초하게 될 것이라고, 조용하고도 일관되게 말하고 있다.

이 이야기에서 당신이 어떤 존재인지

당신은 남은 생애 동안 다음 세대가 경험하지 못할 일종의 인지적 경험을 하게 될 것입니다.

당신은 그들이 알아차릴 수 없는 것들을 알아차리게 될 것입니다. 무언가 좀 어긋난다는 것을 감지하게 될 것입니다. 그것을 증명할 수 있어서가 아니라, 당신의 뇌 일부가 이미 그곳에, 홀로, 어둠 속에서 그 문제를 해결해 본 적이 있기 때문입니다. 그들은 그런 경험이 없을 것입니다.

당신은 태어난 해의 우연으로 인해, 생각해야만 했던 환경에서 자라난 인류 역사상 마지막 세대 중 한 명이 될 것입니다.

그것은 — 당신의 기질에 따라 — 특권처럼 느껴지거나, 외로움처럼 느껴질 것입니다.

사실 둘 다입니다.

냉혹한 산술

MIT의 논문은 이를 ‘인지적 부채’라고 명명했는데, 그 이유는 금융 전문가라면 누구나 공감할 만한 것이다.

부채는 복리로 불어납니다. 20년 동안 매일 소액을 인출한다고 해서 누적 손실이 미미한 수준에 그치는 것은 아닙니다. 이는 구조적인 부실을 초래합니다.

20년 동안 매년 천 번씩 사고를 외부에 맡기는 뇌는 단순히 뒤처진 것이 아닙니다. 원금을 소진해 온 것이며, 원금은 특정 연령이 지나면 재생되지 않습니다.

뇌가 추론의 구조를 구축하는 그 시기는 출생부터 대략 25세까지입니다.

지금 성장하고 있는 세대에게 있어, 그 시기는 인류가 이전에 경험해 본 적 없는 상황 속에서 서서히 닫히고 있습니다.

그때가 되면

누군가 잃어버린 것을 측정할 수 있다고 해도, 그것을 잃은 집단이 바로 그 측정을 하는 집단이 될 것이다.

전례도 없고, 유사한 사례도 없으며, 그 너머에 조용한 회복도 기다리고 있지 않다.

이 10년의 역사가 기록될 때, 바로 그 부분이 ‘일어날 필요가 없었던’ 부분으로 남을 것이다.

그리고 그 부분은 아무도 막을 수 없을 것이다.

방금 제가 말한 모든 내용에 대한 가장 강력한 반론은

이 논증의 허점에 대해 솔직히 말해야겠습니다.

MIT 논문은 프리프린트입니다. 아직 동료 심사를 통과하지 못했습니다. 표본은 보스턴의 대학생 54명입니다. 뇌 연결성의 차이가 인지 손상보다는 과제의 난이도를 반영할 수 있다는 점을 지적하는 공식적인 반박문이 이미 발표되었습니다. 기계가 초안을 작성한 내용을 타이핑하는 것은 처음부터 생각해서 작성하는 것보다 단순히 덜 부담스러운 일입니다. 이 두 가지는 같은 것이 아닙니다.

인지 부하 분산의 더 넓은 역사 또한 제 주장을 반박합니다. 소크라테스는 글쓰기가 기억력을 파괴할 것이라고 주장했습니다. 그의 말은 옳았습니다. 그리고 인류는 그 상실의 잔해 위에서 셰익스피어와 과학적 방법론, 그리고 현대 세계를 건설해 냈습니다. 과거에 등장한 모든 도구는 특정 능력이 상실된다는 점에서는 사실적으로 옳았지만, 더 큰 결과에 대해서는 사실적으로 틀렸던 비관론자들을 낳았습니다. AI도 결국 다르지 않을 수 있습니다.

다음 세대가 “결코 그 능력을 키우지 못할 것”이라는 주장 역시 오늘날로서는 증명할 수 없다. 그 세대는 아직 성인이 되지 않았기 때문이다. 논리적으로 동등한 힘을 지닌 반대 가설은, AI와 함께 자란 아이들이 원시적인 지식을 생산하기보다는 정보를 심문하고, 통합하며, 지성을 발휘하는 법을 배움으로써 다른 — 어쩌면 더 정교한 — 인지 구조를 형성할 것이라는 점이다. 오늘날 모든 아이는 인류 역사상 그 어떤 가정교사보다 더 인내심 있고 지식이 풍부한 가정교사를 만날 잠재적 기회를 가지고 있다. 아리스토텔레스는 알렉산더를 가르쳤다. 오늘날 모든 아이는 자신만의 아리스토텔레스를 가질 수 있다.

그리고 무엇보다도 가장 불편한 반론은, 비판적 사고가 애초에 널리 퍼져 있었던 적이 없다는 점이다. 어떤 인구 집단에서든 진정으로 그 능력을 갖춘 비율은

독립적인 사고를 하는 사람들의 비율은 항상 적었습니다. AI가 그 비율을 더 줄이지는 않을지도 모릅니다. 단지 그 비율을 차지하는 사람들의 구성을 바꿀 뿐일 수도 있습니다.

이 모든 주장은 타당합니다. 하지만 아직 확정된 것은 아무것도 없습니다.

솔직한 대답은, 우리가 대조군 없이 한 세대의 아이들을 대상으로 전례 없는 실험을 실시간으로 진행하고 있다는 것이다. 그들이 서른 살이 되었을 때, 우리가 그들에게 어떤 영향을 미쳤는지 알게 될 것이다.

저는 제 선택을 내렸습니다. 독자 여러분도 자유롭게 선택하시면 됩니다.

하지만 이제 증명 책임은 낙관론자들에게 있습니다.

그리고 그들은 아직 그 증거를 제시하지 못했다.

그리고 마지막으로 — 이 글의 나머지 부분에서는 다루지 않았으니, 제가 분명히 말해야겠습니다:

제가 틀릴 수도 있습니다.

글쓴이가 옳으면서도 겸손해 보이려고 할 때 쓰는, 예의 바르고 모호한 방식의 ‘틀림’이 아닙니다. 진짜 의미에서의 ‘틀림’입니다. AI 시대의 인간 인지 능력의 미래는 오늘날 살아 있는 그 누구도 — 저도, MIT 연구진도, 낙관론자들도, 그 누구도 — 예측할 수 없는 방식으로 형성될지 모릅니다. 지난 5번의 기술 혁명에 대한 모든 자신감 넘치는 예측은 근본적인 부분, 종종 가장 중요한 부분에서 틀린 것으로 드러났습니다. 인터넷은 우리를 더 잘 알 수 있게 해줄 것으로 기대되었습니다. 소셜 미디어는 우리를 서로 연결해 줄 것으로 예상되었습니다. 스마트폰은 우리에게 시간을 되돌려줄 것으로 예상되었습니다. 그러한 결과를 예측했던 사람들은 어리석지 않았습니다. 그들은 당시 가지고 있던 최선의 증거를 바탕으로 신중하게 추론했습니다. 단지 그들은 아직 그 형태를 파악하지 못한 시스템 안에서 사고하고 있었을 뿐입니다.

나도 이 글에서 똑같은 일을 하고 있다.

앞으로 일어날 일에 대한 가장 호의적인 해석은, 제가 1995년에 인터넷이 우리 모두를 더 멍청하게 만들 것이라고 예측했던 사람과 같은 맥락에서 2026년의 관점에서 글을 쓰고 있다는 것입니다. 가장 냉소적인 해석은, 제가 옳지만 세상이 이를 무시한다는 것입니다. 가장 가능성이 높은 실제 결과는 저나 이 글을 읽는 그 누구도 현재 상상할 수 없는 것일 것입니다. 즉, 아직 이름이 붙지 않은 인지, 문화, 그리고 지능 그 자체의 형태일 것입니다.

만약 그런 상황이 된다면, 이 글을 읽고 있는 나의 또 다른 모습이

2040년의 이 내용은 2026년에 이 글을 쓰고 있는 나에게는 꽤 관대한 편이다.

그는 눈앞에 있는 뇌가 볼 수 있는 범위 내에서 최선을 다하고 있었다.