핵심 요지 — AI를 인간 지능에 맞추거나 인간을 AI의 속도에 맞추는 선택지 밖으로 나갈 수 있을까. 인간과 AI가 함께 만드는 관계를 관찰하는 한 단계 높은 지능의 관점을 제안한다.
나는 《앎의 나무》 정도의 철학이면 AGI 시대의 리더십을 잡을 수 있다고 본다. 인간 지능에 맞춰 인공지능을 통제하는 데만 매달리지 말고, 반대로 인간을 AI의 속도에 맞추려 하지도 말자. 한 단계 다른 관점에서 인간 지능과 인공지능을 함께 내려다보자는 것이 내 주장이다.
여기서 ‘더 높은 차원의 지능’은 IQ가 더 높거나 계산량이 더 큰 초지능을 뜻하지 않는다. 인간과 AI 가운데 누가 우월한지를 겨루는 경기장 자체를 관찰하는 지능, 둘의 관계가 어떻게 만들어지고 바뀌는지를 보는 지능이다.
인간을 기준으로 삼는 순간 생기는 맹점
오늘의 AI 논의는 대개 인간을 고정된 기준으로 둔다. AI가 사람처럼 말하는가, 사람보다 시험을 잘 보는가, 인간의 의도를 충실히 따르는가를 묻는다. 이 질문은 필요하지만 충분하지 않다. 인간 지능 역시 몸, 언어, 도구, 제도, 다른 사람과의 상호작용 속에서 형성되기 때문이다.
AI를 인간의 복제품으로만 보면 두 가지 극단에 빠진다. 하나는 AI를 영원히 수동적인 도구로 보는 인간중심주의이고, 다른 하나는 성능이 높아지면 AI가 곧 독립적 주체가 된다고 믿는 기술결정론이다. 둘 다 인간과 AI가 접속하면서 새로 생기는 체계를 보지 못한다.
인지란 세계를 복사하는 일이 아니다
마투라나와 바렐라의 《앎의 나무》가 주는 중요한 방향은 인지를 바깥세계를 머릿속에 복사하는 일로만 보지 않는 데 있다. 살아 있는 체계는 환경과 구조적으로 접속하면서 자기 방식의 세계를 만든다. 관찰자도 그 세계 밖에 서 있는 투명한 눈이 아니라, 관찰의 일부다.
이 관점을 AI에 적용하면 질문이 달라진다. “AI가 정말 이해하는가”라는 단독 심문에서 “인간과 AI가 함께 어떤 구별을 만들고 어떤 행동을 가능하게 하는가”라는 관계의 질문으로 이동한다.
한 단계 높은 지능은 ‘관계의 관찰자’다
인간과 AI를 동시에 내려다보는 지능은 둘을 지휘하는 제3의 초능력자가 아니다. 인간-AI 결합체가 어떻게 작동하는지 되비추고 수정하는 2차적 관찰 능력이다. 다음과 같은 질문을 끊임없이 던지는 체계다.
- 이 시스템은 무엇을 중요하다고 구별하고 무엇을 보이지 않게 만드는가.
- 어떤 사람과 환경의 피드백에는 민감하고, 누구의 목소리에는 둔감한가.
- AI의 오류가 인간의 확신을 강화하고 그 확신이 다시 AI의 데이터가 되는 순환은 없는가.
- 이 결정을 거부하고 이의를 제기하고 되돌릴 통로가 있는가.
- 실패를 발견했을 때 관계 전체가 학습하도록 기록이 남는가.
이 질문들은 철학적 장식이 아니라 설계 원칙이다. 인터페이스, 권한, 로그, 인간의 개입 지점, 이의 제기 절차, 책임 구조를 바꾸기 때문이다.
AGI의 날짜보다 먼저 정해야 할 것
AGI가 몇 년에 도착할 것이라는 예측은 맞을 수도 틀릴 수도 있다. 그러나 날짜에 관계없이 인간과 AI의 결합은 이미 학교, 기업, 연구실, 행정과 법률 현장에서 진행 중이다. 중요한 것은 ‘도착한 뒤 무엇을 할까’가 아니라 지금 어떤 관계 형식을 만들고 있는가다.
리더십은 가장 큰 모델을 가진 사람에게만 생기지 않는다. 인간과 AI가 서로의 맹점을 드러내고, 그 상호작용을 다시 관찰하며, 문제가 생겼을 때 책임 있게 수정할 수 있는 구조를 먼저 만든 사람에게 생긴다.
나는 그 구조를 인간의 사유가 외부에서 작동하고 다시 인간에게 돌아오는 ‘짚인간’의 형식으로 실험하고 있다. 기본 구상은 〈짚인간의 귀환〉에서 이어진다.
출발점이 된 페이스북 기록: 《앎의 나무》 정도의 철학이면