데이비드 도이치는 AGI를 MS 워드처럼 복사하는 프로그램이 아니라 하나하나가 사람이라고 말합니다 | DAKER 커뮤니티

AGI는 MS 워드처럼 복사해서 늘리는 프로그램이 아니라 하나하나가 사람이며, LLM 같은 AI 도구가 좋아지는 길과 AGI로 가는 길은 다르다는 것이 영상 속 데이비드 도이치의 요지입니다. 유튜브 채널 사이언스 아담(Science Adam)이 10월 25일 공개한 영상 「AGI는, 하나하나가 사람입니다」는 옥스퍼드대 물리학자 데이비드 도이치가 AGI와 창의성을 말하는 대담을 한국어로 더빙하고 해설을 덧붙인 46분 9초짜리 콘텐츠입니다. 이 글은 영상에서 확인한 내용만 정리했습니다. 오늘 바로 해 볼 행동은 하나입니다. 지금 진행 중인 AI 프로젝트의 작업 목록을 「이미 있는 지식을 쓰는 일」과 「새 지식을 만드는 일」로 나눠 적어 보는 것입니다.

영상 썸네일 원본(사이언스 아담): 「AI를 쓸수록 멀어지는 AGI」 문구, 「양자컴퓨터의 아버지」 라벨이 붙은 인물, 「4K 공식한글더빙」 배지
영상 썸네일(출처: 유튜브 사이언스 아담 Science Adam 채널)

영상은 무엇이고 어떻게 구성됩니까

영상 설명란에 따르면 이 콘텐츠는 원 발언의 단순 직역이 아니라 대담과 논문, 인터뷰 자료를 바탕으로 개념과 사고 흐름을 의역해 해설한 것이며, 원본 대담 전체가 아니라 핵심 구간을 골라 다룹니다. 설명란은 원본으로 스웨덴 AI 기업 사나의 팟캐스트 Strange Loop 영상 「David Deutsch | AGI, the origins of quantum computing, and the future of humanity」를 밝혔고, AI 이미지와 영상 창작물을 부분적으로 사용했다고도 적었습니다. 그래서 이 글의 인용은 한국어 더빙 자막 기준이며, 원문 문장과 다를 수 있습니다.

영상 설명란의 타임라인은 다음과 같습니다.

창의성은 새것을 만들려고 생긴 능력입니까

영상 속 도이치의 답은 정설과 다릅니다. 창의성은 새로운 무언가를 만들어 내라고 진화한 것이 아니라 문화적 지식, 곧 밈을 받아들이기 위해 진화했다는 주장입니다. 어른이 나뭇가지를 엇갈려 쌓는 것을 보고 불을 잘 보려는 것인지 짐작해 똑같이 따라 하는 데 쓰인 능력이라는 설명입니다. 새로운 생각에 창의성이 쓰인 일은 아주 드물었기 때문에 그 긴 세월 동안 기술은 아주 서서히 발전했다고 그는 말합니다.

사담 A는 이 주장을 실험으로 풀어 줍니다. 영상이 소개하는 실험에서 연구진은 두 구멍 중 막힌 쪽을 먼저 막대로 쑤셔 보고 뚫린 쪽으로 보상을 꺼내는 시범을 보입니다. 어린 침팬지는 막힌 쪽을 건너뛰고 곧장 뚫린 쪽으로 갔고, 어린아이는 막힌 쪽부터 쑤셔 본 뒤에 뚫린 쪽을 열었습니다. 영상은 침팬지는 먹이를 봤고 아이는 사람을 봤다고 정리합니다. 호모 에렉투스의 주먹도끼 모양이 100만 년 넘게 유지된 것도 같은 맥락의 예로 나옵니다.

도이치는 지식이 옮겨 가는 일은 처음부터 끝까지 받는 사람이 해낸다고도 말합니다. 지식을 남의 머릿속에 부어 넣을 수 있다는 생각을 영상은 칼 포퍼가 마음의 양동이 이론이라고 불렀다고 소개하고, 지식은 결코 밖에서 부어 넣을 수 없다고 말합니다.

LLM은 AGI로 가는 길입니까

영상 속 도이치는 LLM이 틀린 방향으로 간다고 보는 것이 아니라고 먼저 선을 긋습니다. 자신의 글 쓰는 속도가 LLM 이전보다 두 배쯤 빨라진 것 같다고 말하고, LLM은 아주 좋은 방향으로 가고 있고 더 멀리 갈 것이지만 AGI로 가는 방향은 아니며 AGI와 거의 정반대 쪽이라고 말합니다. 그는 AI를 인쇄술, 컴퓨터, 인터넷, 월드와이드웹과 같은 종류의 발전으로 봅니다. 이런 도구는 정보를 퍼뜨릴 뿐이므로 진짜 지식이 늘어나는 속도를 AGI가 확 높인다는 데에는 오해가 있다는 입장입니다.

컴퓨터와 뇌에 대한 설명도 나옵니다. 하드웨어로는 뇌와 컴퓨터가 같은 범용 계산 기계이고, 차이는 그 위에서 돌아가는 프로그램이라고 도이치는 말합니다. 같은 스마트폰이라도 어떤 앱을 깔았느냐에 따라 하는 일이 달라지는 것과 같다는 비유입니다. 그는 AGI의 신호는 기계 안이 아니라 이론에 있을 것이며, 범용 지능이 무엇인지 설명하는 이론이 나올 때 알 수 있을 것이라고 말합니다.

튜링 테스트에 대한 답도 있습니다. 도이치는 앨런 튜링의 이미테이션 게임이 AGI 테스트로 만든 것이 아니라, AGI가 불가능하다고 여기는 사람들을 설득하려는 논증의 일부였다고 말합니다. 사담 A 해설은 여기에 더해, 기계가 이 게임에서 처음 받은 역할은 속이는 쪽이었다고 짚습니다.

AGI를 복사하면 어떻게 됩니까

영상의 제목이 된 대목입니다. 도이치는 AGI를 돌리는 컴퓨터는 하드웨어일 뿐이고 AGI는 프로그램이라고 말합니다. 그리고 MS 워드는 하나만 있으면 10억 개를 다운로드할 수 있지만 AGI는 다르다고 말합니다. 자막은 이렇게 옮깁니다. 「AGI는 하나하나가 사람입니다.」 사람이라면 자기 재산을 소유하므로 자신이 깔린 컴퓨터가 먼저 자기 재산이고, 다른 컴퓨터로 복제하려면 그 컴퓨터 주인의 허락이 필요하니 복제는 드물게 일어날 것이라는 설명입니다.

스포티파이 공동 CEO와 사나 창업자가 질문자로 나오는 대담에서, 도이치급 지성이 10억 명 있으면 인류에게 큰 이점 아니냐는 질문이 나옵니다. 도이치의 답은 이렇게 옮겨져 있습니다. 「둘쯤 있으면, 이점이 될지도 모르죠.」 그는 비교 우위 원리를 듭니다. 서로 다른 사람끼리 과업을 나누면 둘 다 이득을 보지만, 나와 똑같은 복제본은 같은 일자리를 놓고 경쟁하게 되어 경제적 가치가 나 한 명일 때와 거의 차이가 없다는 것입니다. 사담 A는 오타니 쇼헤이가 아홉 명이면 모두 마운드에 서려 하고 포수 마스크는 아무도 쓰지 않을 것이라는 예로 이 논리를 풀면서, 한 명에게 마스크를 씌우면 몇 년 뒤 그가 포수가 되어 있을 것이라며 해설자는 도이치와 생각이 다르다고 밝힙니다.

속도에 대한 질문에도 구체적인 답이 나옵니다. 하드웨어가 빨라져도 빨라지지 않는 일이 있다는 것입니다. 위성을 쏘아 올린 뒤 데이터가 모이기까지 3년을 기다려야 하는 연구라면 하드웨어가 빠르다고 3일 만에 끝나지 않으며, 반면 순수 수학자는 열 배 빨리 생각하면 열 배를 생각하게 된다고 그는 말합니다. 빠른 컴퓨터는 사람도 가질 수 있으므로 이 경우에도 AGI와 인간 사이의 차이는 없고 둘 다 사람이라는 결론입니다.

사람과 기계가 베끼는 방식은 어떻게 다릅니까

사담 A는 여러 연구를 이어 붙입니다. 영상 설명란은 참고한 레퍼런스로 2019년 바퀴 실험, 2005년 침팬지와 아이의 모방 실험, 2023년 아이와 대규모 언어 모델 비교 연구 등을 올렸습니다. 영상이 소개하는 수치와 사례는 다음과 같습니다.

이 대목의 해설은 영상 제작자의 해석이며, 도이치의 발언과 구분해서 보아야 합니다.

사담 B는 무엇을 지적합니까

두 번째 해설은 마크 앤드리슨의 「테크노 옵티미스트 선언문」을 다룹니다. 영상에 따르면 이 선언문은 「우리는 믿는다」로 시작하는 문장이 107개이고, 각주 대신 수호성인 56명의 이름을 적었으며 도이치는 그 명단의 13번째에 있습니다. 영상은 모든 고등학교에 필독서는 한 권도 없어야 한다던 도이치가 56명짜리 필독 명단에 올라 있다는 점을 짚습니다.

영상은 그 명단에 칼 포퍼가 없다는 점도 지적합니다. 선언문이 도이치의 말이라고 적은 낙관의 의무 문장이 실제로는 포퍼가 아흔이 넘어 낸 『프레임워크의 신화』 서문에 있다는 것이 영상의 설명입니다. 포퍼가 깨부수려 한 신화는 기본 전제가 같은 사람끼리만 제대로 된 토론을 할 수 있다는 명제이며, 생각이 비슷한 사람끼리의 토론은 즐겁지만 열매가 없고 전제가 매우 다른 사람끼리의 토론은 괴롭지만 지극히 생산적이라고 영상은 정리합니다. 이어 아이작 아시모프의 1957년 단편 「직업」을 불러내 지식을 머리에 꽂아 넣는 세계의 이야기를 소개합니다.

도이치는 무엇을 즐겁다고 말합니까

마지막 섹터에서 도이치는 가장 기뻤던 순간을 묻는 질문에 사실 전부 재밌었다고 답하며, 자신이 쫓는 것은 결과가 아니라 재미라고 말합니다. 가장 놀랐던 순간으로는 양자 컴퓨터 계산법이 단순한 문제 하나를 기존 계산법보다 더 잘 풀 수 있다는 것을 깨달았을 때를 꼽고, 두 가지 계산을 한 번에 해내는 것은 튜링 기계로도 못 하던 일이었다고 설명합니다. 그는 어떤 일이 할 만한 일이냐는 성공 여부가 아니라 자기 삶에서 따져야 한다고도 말합니다.

오늘 해 볼 행동 한 가지

영상에서 도이치는 암산처럼 정답이 정해진 일과, 정원사가 정원이 어때야 할지 추측해 가며 일하는 것처럼 정해진 답이 없는 일을 구분합니다. 이 구분을 빌려, AI 프로젝트를 하는 참가자라면 작업 목록을 두 줄로 나누어 보시기 바랍니다. 한 줄에는 이미 있는 지식을 불러다 쓰는 일, 다른 한 줄에는 새 설명을 만들어야 하는 일을 적습니다. 이 활용법은 영상이 제시한 것이 아니라 영상의 구분을 이 글이 응용한 제안이며, 그 효과는 영상에서 수치로 검증된 바 없으므로 직접 확인해 보시기 바랍니다.

출처