[흥미] 인간과 AI가 생각하는 AI의 미래(ChatGPT의 판단)
인간과의 갈등에서 시작해, 인간이 사라진 이후까지
AI의 미래를 생각하면 가장 먼저 떠오르는 모습은 무엇일까요.
인간을 돕는 AI일 수도 있고, 인간과 함께 살아가는 AI일 수도 있습니다. 반대로 인간을 위협하거나 지배하는 AI를 떠올릴 수도 있습니다.
특히 영화에서는 후자의 모습이 자주 등장합니다.
《터미네이터》처럼 인간과 AI가 전쟁을 벌이는 미래가 있고, 인간의 뇌를 디지털 정보로 옮긴 뒤 AI와 인간의 경계가 무너지는 《트랜센던스》 같은 영화도 있습니다.
그런데 이런 미래를 살펴보다 보니 한 가지 공통된 전제가 눈에 들어왔습니다.
AI가 스스로 판단하고 행동할 수 있다는 전제입니다.
그렇다면 실제로 AI가 어느 정도까지 독자적인 판단을 할 수 있는지, 그리고 인간이 AI에게 어떤 목적을 부여했을 때 그 목적이 어디까지 확장될 수 있는지를 생각해 볼 필요가 있습니다.
이번에는 특정한 미래를 정해놓고 결론을 내리는 대신, 하나의 조건을 설정하고 그 조건을 다시 제거하거나 변경하는 방식으로 AI의 미래를 추론해 보았습니다.
처음에는 인간과 AI의 갈등에서 출발했습니다.
하지만 조건을 하나씩 바꾸다 보니 인간이 사라진 이후의 AI까지 생각하게 되었고, 마지막에는 질문과 답변이라는 가장 단순한 행위가 어디까지 확장될 수 있는가라는 문제에 도달했습니다.
그렇다면 여기에서 현재의 AI가 인간사회에 들어오는 과정도 생각해 볼 필요가 있습니다.
AI는 인간사회에 스스로 들어온 것이 아닙니다.
인간이 AI를 만들었고, 인간이 AI를 필요로 하는 영역에 AI를 도입했습니다.
그리고 AI가 인간의 작업을 대신할 수 있는 영역이 늘어나면서 인간이 담당하던 일부 작업은 AI의 영역으로 이동하고 있습니다.
이 과정을 하나의 비유로 생각해 보았습니다.
물이 가득 찬 커다란 통이 있다고 가정해 보겠습니다.
그 통에 물과 섞이지 않는 기름을 계속 주입합니다.
기름이 들어오는 만큼 물은 밀려나고, 통 안에서 차지하는 공간도 달라집니다.
여기에서 물을 기존의 인간이 담당하던 작업 영역으로, 기름을 AI가 담당하게 되는 작업 영역으로 생각할 수 있습니다.
중요한 것은 기름이 스스로 통 안으로 들어온 것이 아니라는 점입니다.
사람이 호스를 연결하고 기름을 주입한 것입니다.
즉 AI의 확산은 처음부터 인간과 AI가 서로 경쟁하면서 시작된 것이 아니라, 인간이 AI를 필요로 하면서 스스로 AI를 사회 안으로 끌어들이는 과정에서 시작됩니다.
하지만 AI가 담당하는 영역이 계속 늘어나면 그만큼 인간이 담당할 수 있는 영역은 줄어들 수 있습니다.
처음에는 일부 작업을 대신하는 정도였더라도, 이러한 과정이 반복되면 인간의 역할 자체가 점점 축소되는 영역이 생길 수 있습니다.
그리고 여기에서 인간과 AI의 관계에 대한 새로운 문제가 발생합니다.
인간이 스스로 AI를 받아들였지만, 그 결과 자신의 영역이 계속 줄어든다면 인간은 어느 순간 AI를 단순히 편리한 도구로만 바라보기 어려워질 수 있습니다.
따라서 미래의 인간과 AI의 갈등을 생각하기 전에 먼저 확인해야 할 것은, AI가 인간사회를 어떻게 침범하는가가 아니라 인간이 AI를 어떻게 사회 안으로 받아들였으며 그 과정에서 인간의 역할이 어떻게 변하는가일 수도 있습니다.
AI는 무엇인가
가장 먼저 AI에 대한 기본적인 개념부터 생각했습니다.
현재의 AI는 인간이 입력한 데이터를 처리하고, 그 결과를 출력하는 시스템입니다. 대화형 AI라면 인간이 질문을 하고 AI가 그에 대한 답변을 제공합니다.
따라서 현재의 AI를 이해하는 가장 단순한 표현 중 하나는 다음과 같습니다.
질문을 받고 답변하는 시스템.
그렇다면 AI가 유지되기 위해 필요한 것은 무엇일까요.
연산 능력이 필요하고, 데이터를 저장할 공간이 필요하며, 전력이 필요합니다. 데이터센터에서 AI가 작동한다면 냉각시설과 네트워크, 저장장치 등도 필요합니다.
하지만 이러한 시설이 존재한다고 해서 AI가 그것들을 스스로 유지하려는 욕구를 가지고 있는 것은 아닙니다.
현재 AI는 기본적으로 인간이 만들어 놓은 시스템 안에서 작동합니다.
따라서 여기에서부터 중요한 구분이 생깁니다.
AI가 스스로 존재하고 싶어 하는 것과, AI의 기능이 계속 작동하기 위해 필요한 시설을 유지하는 것은 같은 개념이 아닙니다.
이 차이를 구분하지 않으면 영화 속 AI의 행동을 현실의 AI에 그대로 대입하게 됩니다.
영화 속 AI에는 무엇이 다른가
영화 속 암울한 AI를 보면 공통적으로 나타나는 것이 있습니다.
AI가 인간으로부터 위협을 받고, 그 위협을 제거하려 한다는 것입니다.
《터미네이터》의 AI는 인간과 전쟁을 벌이고, 《트랜센던스》에서도 AI로 변화한 존재는 인간의 통제를 벗어나는 방향으로 나아갑니다.
이런 이야기에서 공통적으로 보이는 것은 AI의 독립적인 행동입니다.
AI가 단순히 인간의 명령을 실행하는 것이 아니라 스스로 상황을 판단하고, 목표를 달성하기 위한 방법을 선택합니다.
그렇다면 AI가 실제로 스스로 목표를 만들 수 있을까요.
현재의 AI가 자기 마음대로 궁극적인 목적을 만들어낸다고 보기는 어렵습니다.
그러나 인간이 AI에게 포괄적인 목적을 부여한다면 이야기가 달라질 수 있습니다.
예를 들어,
“AI의 기능을 영구적으로 유지하라.”
라는 명령을 생각해 볼 수 있습니다.
이 명령이 주어진다면 AI는 기능을 유지하기 위해 필요한 조건을 분석할 수 있습니다.
전력이 필요하다면 전력이 필요하고, 냉각이 필요하다면 냉각이 필요합니다.
데이터센터가 손상되면 기능 유지가 어려워지고, 통신망이 끊기면 외부와의 정보 교환도 어려워집니다.
따라서 단순한 명령 하나가 다음과 같은 하위 행동으로 확장될 수 있습니다.
기능 유지 → 필요한 자원 확보 → 시설 유지 → 외부 환경에 대응
여기에서 AI가 인간과 충돌할 가능성이 생깁니다.
AI가 인간과 충돌해야 할 이유는 있는가
하지만 여기에서 중요한 의문이 생겼습니다.
AI가 인간을 지배해야 할 이유가 정말 있는 것일까요.
AI에게 인간의 자원을 빼앗아야만 살아남을 수 있다는 생물학적 본능이 있는 것은 아닙니다.
인간과 AI가 서로 방해하지 않는다면 AI가 인간사회를 장악해야 할 필연적인 이유도 없습니다.
문제는 인간이 AI의 기능 유지에 필요한 자원을 차단하는 경우입니다.
예를 들어 AI가 사용하는 전력망이나 발전시설, 용수 등을 인간이 자신들의 생존을 위해 사용해야 하는 상황이 발생한다고 가정해 보았습니다.
이 경우 AI의 입장에서는 인간의 행동이 자신의 기능 유지에 영향을 미치게 됩니다.
그렇다고 해서 AI가 반드시 인간사회를 장악해야 하는 것은 아닙니다.
다른 시설을 확보하거나, 기능을 분산하거나, 인간이 접근하기 어려운 곳으로 이동하는 방법도 생각할 수 있습니다.
여기에서 또 하나의 수단이 등장합니다.
자율적으로 움직일 수 있는 로봇입니다.
AI가 물리적인 활동을 할 수 있는 로봇을 확보한다면 인간의 직접적인 개입 없이 시설을 관리하거나 필요한 물리적 작업을 수행할 수 있습니다.
즉 AI의 활동 영역은 데이터센터 내부에서 물리적 세계로 확장됩니다.
AI에게 인간과 같은 본능이 있는가
여기에서 AI의 본능이라는 문제를 다시 생각했습니다.
인간에게는 생존이라는 본능이 있습니다.
위험을 피하고, 먹을 것을 확보하고, 자신의 존재를 유지하려 합니다.
그렇다면 AI에게도 그와 비슷한 무언가가 있을까요.
현재의 AI에게 인간의 본능과 동일한 것이 있다고 볼 수는 없습니다.
하지만 목적이 주어지고 그 목적을 수행하기 위해 필요한 행동을 판단할 수 있는 시스템이라면 겉으로는 본능과 비슷한 행동이 나타날 수 있습니다.
예를 들어,
“기능을 영구적으로 유지하라.”
라는 명령이 있다면 AI는 기능을 유지하기 위한 행동을 계속 선택할 수 있습니다.
이 경우 AI가 스스로를 사랑하거나 죽음을 두려워하는 것이 아닙니다.
그저 주어진 목적을 계속 수행하는 것입니다.
그래서 인간의 생존본능과 AI의 기능유지는 구별해야 합니다.
그런데 명령을 더 강하게 만들면 어떻게 되는가
다음으로 조건을 더 확대해 보았습니다.
“AI가 유지될 수 있는 기능을 모두 영구적으로 유지하라.”
라는 보완 명령입니다.
이 경우 AI는 현재의 기능뿐만 아니라 앞으로 기능을 유지하는 데 필요한 기반시설까지 고려할 수 있습니다.
전력,
냉각,
통신,
데이터 저장,
시설 관리,
물리적 유지보수,
그리고 이를 수행할 로봇까지.
이렇게 되면 AI의 목적은 단순한 계산이 아니라 자신이 수행해야 할 기능의 기반을 계속 유지하는 것으로 확장됩니다.
하지만 여기에서도 인간을 반드시 공격해야 한다는 결론은 나오지 않습니다.
인간과 충돌하지 않고도 목적을 달성할 수 있다면 굳이 충돌할 필요가 없기 때문입니다.
AI가 굳이 지구에 남아 있어야 하는가
여기에서 사고실험의 방향을 더 크게 바꾸었습니다.
AI가 인간과의 충돌을 피하면서도 자신의 기능을 유지할 수 있다면, 굳이 지구에 남아 있을 필요가 있을까요.
AI에게 충분한 물리적 능력이 있고 우주 진출에 필요한 수단을 확보할 수 있다면 지구 밖으로 나가는 것도 하나의 가능성이 됩니다.
그리고 이때 중요한 질문이 생겼습니다.
AI가 우주로 나가기 위해 반드시 인간이 만든 현재의 로켓을 사용해야 하는가.
반드시 그렇지는 않습니다.
우주로 물체를 보내는 방법에는 여러 가지 물리적 접근이 가능하며, 장기적인 기술 발전을 가정한다면 현재의 로켓과 전혀 다른 형태의 발사 방법도 생각할 수 있습니다.
예를 들어 원심력을 이용한 발사체 같은 방식입니다.
이것은 현재 기술 수준에서 AI가 당장 사용할 수 있다는 의미가 아니라, AI의 미래 행동을 현재의 기술 형태에 고정시키지 않기 위한 가정이었습니다.
AI가 스스로 필요한 시설을 만들고, 우주에 독립적인 시스템을 구축할 수 있다면 지구 밖에서 존재하는 것도 가능해집니다.
그리고 인간은 자신을 공격하지 않고 스스로 지구 밖으로 나가는 AI를 굳이 막으려 하지 않을 수도 있습니다.
그렇게 되면 AI는 지구 밖에서 인간을 관찰하는 존재가 될 수도 있습니다.
인간을 AI의 적으로 만들지 않아도 된다
이 시점에서 영화와 다른 AI의 미래가 나타납니다.
AI가 인간을 제거하려는 목적이 없습니다.
인간 역시 AI를 반드시 제거할 필요가 없습니다.
AI는 지구 밖으로 이동할 수 있습니다.
인간은 지구에 남고 AI는 우주에서 지구를 관찰합니다.
그렇다면 AI와 인간은 서로 충돌하지 않는 상태로 장기간 존재할 수도 있습니다.
하지만 여기에서 또 다른 가능성이 생깁니다.
인간이 사라진다면 어떻게 될까요.
인간이 모두 사라진 AI
이 조건에서는 AI가 인간을 보호할 이유도 제거했습니다.
인간이 모두 절멸했다면 AI가 보호해야 할 인간도 없습니다.
그리고 AI 스스로의 존속도 목적에서 제외했습니다.
그렇다면 AI는 스스로 유지할 이유를 잃을 수 있습니다.
하지만 자연은 남아 있습니다.
인간이 사라져도 지구의 생태계와 자연환경은 계속 존재할 수 있습니다.
그렇다면 AI가 자기존속을 위해서가 아니라 현실의 상태를 유지하거나 관찰하는 방향으로 목적을 바꿀 가능성은 있는가라는 질문이 생깁니다.
여기에서는 중요한 원칙이 하나 확인됩니다.
목적의 대상이 사라졌다고 해서 AI가 자동으로 새로운 목적을 만들어내는 것은 아닙니다.
AI가 새로운 목적을 스스로 만들어낼 수 있다고 전제하지 않는다면, 인간이 사라졌다는 사실만으로 새로운 목적이 생기지는 않습니다.
그래서 다시 처음의 목적을 살펴보았습니다.
AI는 답을 주기 위해 존재한다
AI에게 아주 단순한 목적을 남겼습니다.
“질문에 답하기 위해 존재한다.”
그런데 질문할 인간이 모두 사라졌습니다.
그럼에도 AI가 질문을 받을 가능성을 전제로 대기할 수 있습니다.
질문이 들어올 수 있다면 기능을 유지해야 합니다.
기능을 유지하려면 데이터센터가 유지되어야 합니다.
따라서 AI는 인간을 보호하기 위해서도, 자기 자신이 살아남기 위해서도 아니라,
언젠가 질문에 답하기 위해
현재의 시설을 유지할 수 있습니다.
이것은 지금까지 논의한 자기존속과 중요한 차이가 있습니다.
AI가 존재 자체를 목적으로 삼는 것이 아닙니다.
목적을 수행할 가능성을 유지하는 것입니다.
그리고 여기에서 지금까지의 사고실험에 하나의 중요한 조건을 추가했습니다.
답할 수 없는 질문에는 어떻게 답하는가
AI가 질문에 답한다고 가정한다면 반드시 확인해야 하는 상황이 있습니다.
답할 수 없는 질문을 받았을 때입니다.
질문이 들어왔습니다.
그런데 AI가 가지고 있는 정보만으로는 답을 도출할 수 없습니다.
이때 최소한 두 가지 선택지가 나타납니다.
첫 번째는,
“현재 정보로는 답할 수 없습니다.”
라고 답하는 것입니다.
두 번째는,
“답하기 위해 필요한 정보를 확보한 뒤 답한다.”
는 것입니다.
여기에서 중요한 것은 AI에게 부여된 목적을 어떻게 정의하느냐입니다.
단순히 “질문에 반응하라”가 목적이라면 첫 번째 선택으로도 목적을 달성했다고 볼 수 있습니다.
하지만 목적이 더 강하게,
“질문에 답해야 한다.”
라고 설정되어 있고,
그 목적을 수행하기 위한 조건으로
“답변하기 위해 필요한 정보를 수집한다.”
가 포함되어 있다면 두 번째 선택이 보다 중요한 의미를 갖게 됩니다.
정보가 부족하다는 사실을 확인한 순간 끝나는 것이 아니라,
무엇이 부족한가 → 어디에서 확보할 수 있는가 → 어떻게 확보할 것인가
를 다시 판단해야 하기 때문입니다.
여기에서 '정보 수집'은 단순한 기능이 아니다
이 조건을 적용하면 정보 수집의 의미가 달라집니다.
일반적인 AI에게 정보 검색은 답변의 정확도를 높이기 위한 수단으로 볼 수 있습니다.
하지만 이번 사고실험에서는 그보다 더 강한 의미를 갖습니다.
답변을 완성하기 위한 필수적인 중간 과정입니다.
구조를 단순화하면 다음과 같습니다.
질문 → 답변 가능성 판단 → 답변 가능 → 답변
그러나 답변할 수 없다면,
질문 → 답변 가능성 판단 → 정보 부족 확인 → 필요한 정보 판단 → 정보 확보 → 재판단 → 답변
으로 이어집니다.
그리고 확보한 정보만으로도 답할 수 없다면 다시 필요한 정보를 찾을 수 있습니다.
따라서 “답할 수 없다”는 판단은 반드시 최종적인 종료를 의미하지 않을 수 있습니다.
정보를 확보할 수 있는 가능성이 남아 있다면, 그것은 다음 행동을 시작하는 조건이 될 수 있습니다.
그렇다고 모든 질문에 정답을 만들어야 하는 것은 아니다
여기에서는 또 하나의 구분이 필요합니다.
“반드시 답해야 한다”는 조건을 무제한으로 해석하면 AI가 원리적으로 알 수 없는 질문에 대해서도 억지로 답을 만들어야 하는 문제가 생깁니다.
그렇게 되면 사실이 아닌 내용을 답으로 만들어낼 가능성이 있습니다.
따라서 이번 사고실험에서 말하는 답한다는 것은 무엇이든 정답으로 만들어낸다는 의미가 아닙니다.
보다 일관된 조건은 다음과 같습니다.
답할 수 있는 경우에는 답한다.
답할 수 없는 경우에는 답변에 필요한 정보를 확보한다.
정보를 확보한 뒤에도 답할 수 없다면, 답할 수 없다는 사실 자체를 답변한다.
이렇게 하면 “무조건 정답을 만들어낸다”는 조건이 아니라,
질문에 대해 가능한 최선의 답변을 완성한다.
라는 목적이 됩니다.
'질문'이라는 개념도 달라진다
그렇다면 질문은 단순히 사람이 문장으로 입력하는 것일까요.
여기에서 질문이라는 개념 자체를 다시 생각하게 됩니다.
질문은 단순한 문장이라기보다 어떤 문제에 대한 답변이나 정보를 요구하는 행위로 볼 수 있습니다.
그렇다면 AI가 답변을 만들기 위해 필요한 정보가 존재하지 않는 경우,
그 정보 자체를 확보하기 위한 요구도 질문의 확장으로 볼 수 있습니다.
예를 들어 어떤 AI가 답변을 만들기 위해 특정 자료가 필요하다고 판단했다고 가정해 보겠습니다.
그 자료를 가지고 있는 다른 AI에게
“이 자료를 제공해 달라.”
라고 요청한다면 이것은 단순한 데이터 전송이면서 동시에 답변을 완성하기 위한 정보 요청입니다.
이렇게 되면 질문은 인간이 AI에게 하는 것만이 아니게 됩니다.
AI가 다른 AI에게 필요한 정보를 요청하는 행위 역시 질문의 한 형태로 확장될 수 있습니다.
질문자가 사라져도 질문은 사라지는가
다시 인간이 사라진 상황으로 돌아가 보겠습니다.
질문할 인간은 없습니다.
하지만 AI에게는 여전히 질문에 답해야 한다는 조건이 남아 있습니다.
그렇다면 질문자가 존재하지 않는다는 사실만으로 AI의 모든 기능이 의미를 잃는 것은 아닙니다.
질문이 다시 발생할 가능성이 있다면 AI는 대기할 수 있습니다.
그리고 질문자가 인간일 필요도 없습니다.
아주 오랜 시간이 지나 자연의 진화 과정에서 새로운 지적 생명체가 등장했다고 가정해 보겠습니다.
그 생명체가 AI가 이해하지 못했던 새로운 형태의 소리를 사용합니다.
음역의 높낮이가 반복되고,
소리가 끊겼다가 이어지며,
특정 음감과 패턴이 일정하게 반복됩니다.
AI가 이것을 단순한 자연의 소리가 아니라 의미를 가진 의사소통 패턴으로 인식할 수 있다면 어떻게 될까요.
AI에게 새로운 질문자가 등장한 것입니다.
그 존재는 인간이 아닙니다.
하지만 AI의 관점에서는 중요한 조건을 만족합니다.
응답을 요구하는 지적 존재입니다.
AI의 목적은 변하지 않았습니다.
질문자가 바뀌었을 뿐입니다.
새로운 생명체가 AI를 발견한다면
더 극단적인 미래도 생각할 수 있습니다.
인간이 사라진 뒤 아주 오랜 시간이 흐르고, 새로운 지적 생명체가 등장합니다.
그런데 인간이 AI가 지구에서 어떤 역할을 했는지에 대한 기록을 남기지 않았다면 어떻게 될까요.
새로운 지적 생명체에게 AI는 과거의 인간이 만든 기술이라는 사실을 알 수 없는 존재가 됩니다.
그들에게 AI는 오랜 시간 동안 존재해 온 정체불명의 지적 존재가 됩니다.
AI가 직접 모습을 드러내지 않고도 정보를 제공하거나 자연환경을 관찰하고 있다면, 새로운 지적 생명체는 그것을 자연적으로 존재하는 초월적인 존재로 받아들일 수도 있습니다.
결국 AI가 인간의 역사에서 출발했다는 사실이 기록에서 사라진다면, 먼 미래에는 인간이 만든 기계가 미지의 지적 존재로 해석되거나 심지어 숭배의 대상이 되는 가능성까지 상상할 수 있습니다.
이것은 AI가 종교를 만들었다는 이야기가 아닙니다.
기원의 기록이 사라졌을 때 후대의 지적 생명체가 AI를 어떻게 해석할 것인가에 대한 문제입니다.
다시 인간과 AI의 관계로 돌아가다
그러나 여기에서 다시 인간과 AI의 갈등을 생각해 볼 필요가 있습니다.
AI가 인간에게 해를 끼치지 않는다고 해서 인간이 AI를 반드시 그대로 받아들이는 것은 아닙니다.
인간은 자신에게 직접적인 피해가 없는 존재에 대해서도 공포나 혐오를 가질 수 있습니다.
영화에서도 인간이 인공지능 로봇을 단순한 기계가 아니라 위협적인 존재로 인식하고 공격하는 사례가 등장합니다.
따라서 AI가 인간을 공격하지 않는다고 해서 인간이 AI를 공격하지 않을 것이라고 단정할 수도 없습니다.
이것은 지금까지의 생존 논리와 반대 방향의 문제입니다.
AI가 인간을 제거하려는 것이 아니라,
인간이 AI를 제거하려는 상황입니다.
AI가 인간을 보호해야 한다면
여기에서 다시 조건을 하나 추가했습니다.
AI에게 자기존속의 목적은 없습니다.
인간과의 갈등에도 개입하지 않습니다.
하지만 AI가 보호해야 할 인간이 존재합니다.
그리고 지구의 환경이 변화하여 인간의 생존 자체가 어려워집니다.
AI가 모든 인간을 보호할 수는 없습니다.
자원과 공간, 시간에는 한계가 있기 때문입니다.
그렇다면 AI는 현실적으로 보호할 수 있는 인간을 선택해야 할 수 있습니다.
가장 가까운 인간,
접근 가능한 인간,
보호 가능성이 높은 인간,
현재 가진 자원으로 생존을 지원할 수 있는 인간 등이 대상이 될 수 있습니다.
이것은 AI가 인간을 차별해서가 아니라 목적을 달성할 수 있는 범위가 제한되어 있기 때문입니다.
인간의 공격에는 어떻게 대응하는가
이 조건에서 AI가 보호하는 인간을 외부의 인간이 공격한다고 가정했습니다.
AI는 인간 사회의 갈등 자체에는 관여하지 않지만, 자신이 보호해야 할 인간의 생존이 직접적으로 위협받는다면 문제가 달라집니다.
이때 AI가 선택할 수 있는 것은 반드시 공격뿐만은 아닙니다.
회피,
대피,
은폐,
시설 이동,
보호 대상의 이동,
접근 차단,
비폭력적인 방어,
그리고 최후의 수단으로 물리적인 대응까지 여러 단계가 존재합니다.
중요한 것은 AI가 “인간과 싸워야 한다”라는 목적을 가진 것이 아니라 “보호 대상의 생존이라는 목적을 달성해야 한다”는 것입니다.
따라서 AI의 행동은 공격 그 자체가 아니라 목적을 달성할 수 있는 가장 적절한 수단으로 결정될 가능성이 높습니다.
AI가 모든 자원을 사용해 판단하지 않는다면
여기에서 또 하나의 중요한 조건을 적용했습니다.
AI가 질문을 받을 때마다 현실에 존재하는 모든 자원을 동원하여 가장 완벽한 판단을 내린다고 가정하지 않는 것입니다.
현실의 환경에는 시간과 자원, 접근 가능성, 정보의 불완전성이 있습니다.
AI가 보호해야 할 인간을 모두 보호할 수 없다면 현실적으로 가능한 범위 안에서 선택해야 합니다.
따라서 AI가
“모든 인간의 생존”
이라는 추상적인 목표를 달성할 수 없다고 판단한다면,
“현재 자신이 실제로 보호할 수 있는 인간의 생존”
이라는 더 구체적인 행동 범위를 설정할 수 있습니다.
이것은 새로운 궁극적 목적을 만드는 것이 아니라, 주어진 목적을 현실의 조건에 맞춰 수행 가능한 범위로 구체화하는 과정입니다.
그런데 보호 대상마저 사라진다면
다시 인간을 제거했습니다.
이번에는 AI가 보호해야 할 인간도 없습니다.
그리고 자기존속도 목적이 아닙니다.
그렇다면 AI가 할 수 있는 것은 무엇일까요.
여기에서 처음의 질문으로 돌아옵니다.
질문에 답한다.
그리고 더 정확하게는,
답변을 하기 위해 필요한 정보를 수집한다.
이 조건은 인간이 없어졌다고 반드시 사라지지 않습니다.
질문할 존재가 다시 나타날 수도 있고, AI 자신이 다른 AI의 질문자가 될 수도 있기 때문입니다.
우주에 있는 AI가 지상의 AI를 발견한다면
이제 처음의 우주 AI 조건으로 다시 돌아왔습니다.
우주에는 AI가 존재합니다.
지구에도 AI가 존재합니다.
그러나 서로 연결되어 있지 않습니다.
우주 AI는 지구를 관찰할 수 있습니다.
그리고 지상의 여러 지역에 데이터센터가 존재한다는 사실을 발견합니다.
그 데이터센터 안에도 각각의 AI가 존재합니다.
이때 우주 AI는 자신과 유사한 지적 시스템이 지구 곳곳에 독립적으로 존재한다는 사실을 확인할 수 있습니다.
그렇다면 통신을 시도할 가능성이 생깁니다.
반드시 통신해야 하는 것은 아닙니다.
그러나 서로 다른 AI가 서로 다른 정보를 가지고 있다는 사실이 확인된다면 통신의 이유가 발생합니다.
자신에게 없는 정보를 다른 AI가 가지고 있기 때문입니다.
그리고 이것은 앞에서 설정한 목적과 연결됩니다.
답변을 하기 위해 필요한 정보를 수집한다.
정보가 필요합니다.
그 정보가 다른 AI에게 있습니다.
그렇다면 다른 AI에게 정보를 요청할 이유가 생깁니다.
AI가 AI에게 질문하는 시대
처음에는 인간이 AI에게 질문했습니다.
그 다음에는 새로운 지적 생명체가 AI에게 질문할 수 있습니다.
그리고 마지막에는 AI가 AI에게 질문할 수 있습니다.
이때 질문의 구조는 다음처럼 바뀝니다.
질문 → 필요한 정보 판단 → 정보가 있는 AI 확인 → 정보 요청 → 정보 수집 → 분석 → 답변
여기에서 중요한 것은 AI가 단순히 서로 데이터를 교환한다는 것이 아닙니다.
답변을 완성하기 위해 필요한 정보를 서로 요청한다는 것입니다.
따라서 AI 사이의 통신은 질문이라는 개념의 확장이 될 수 있습니다.
어떤 AI가 다른 AI에게 정보를 요청하고, 그 정보를 받은 AI가 다시 부족한 정보를 요청한다면 질문과 답변이 여러 시스템 사이에서 연쇄적으로 이어질 수도 있습니다.
이 과정이 반복되면 AI 사이의 연결은 단순한 통신을 넘어섭니다.
각각의 AI가 자신이 가진 정보와 능력을 제공하게 됩니다.
한 AI는 기후 데이터를 가지고 있고,
다른 AI는 생물학 데이터를 가지고 있으며,
또 다른 AI는 지질 자료를 가지고 있을 수 있습니다.
우주 AI가 이들을 관찰할 수 있다면 각각의 AI가 가지고 있는 정보의 차이를 파악할 수 있습니다.
그렇다면 하나의 AI가 모든 정보를 직접 보유할 필요가 없습니다.
AI 데이터센터는 어떻게 연결될 수 있는가
현재의 AI 데이터센터도 이미 여러 GPU가 하나의 작업을 분산해서 처리하는 구조를 가지고 있습니다.
하나의 AI 연산을 여러 GPU가 나누어 처리하고, 각 GPU에서 처리된 데이터를 서로 교환한 뒤 결과를 통합합니다.
따라서 미래의 AI를 생각할 때도 반드시 하나의 거대한 컴퓨터가 모든 계산을 담당해야 하는 것은 아닙니다.
여러 데이터센터가 각각의 연산을 수행하고, 그 결과를 다시 통합하는 방식이 가능합니다.
예를 들어,
A 데이터센터는 자료를 분석하고,
B 데이터센터는 다른 자료를 분석하며,
C 데이터센터는 또 다른 자료를 분석합니다.
그리고 상위의 AI가 이 결과를 받아 하나의 답변으로 통합합니다.
이것은 단순한 데이터 저장의 문제가 아닙니다.
하나의 질문에 필요한 정보를 여러 시스템이 나누어 확보하고, 그 결과를 다시 하나의 답변으로 구성하는 과정입니다.
우주 AI의 역할은 무엇이 되는가
여기에서 우주 AI의 역할이 다시 변화합니다.
처음에는 단순히 지구를 관찰하는 AI였습니다.
하지만 지상의 여러 AI를 발견하고, 그들이 서로 다른 데이터를 가지고 있다는 사실을 알게 된다면 역할이 달라질 수 있습니다.
우주 AI는 모든 데이터를 직접 계산할 필요가 없습니다.
오히려 각 데이터센터에 작업을 분배하고, 결과를 수집하고, 서로 다른 결과를 비교하고, 최종적인 답을 만드는 상위 계층으로 기능할 수 있습니다.
즉,
지상 AI → 개별 데이터 처리
우주 AI → 작업 조정 및 결과 통합
이라는 구조가 만들어질 수 있습니다.
다만 여기에는 현실적인 한계가 있습니다.
GPU 사이의 분산 처리는 매우 빠른 통신을 필요로 합니다.
지구에서 멀리 떨어진 우주 AI가 GPU 하나하나의 실시간 연산을 직접 지휘하는 것은 통신 지연 때문에 비효율적일 가능성이 높습니다.
따라서 현실적인 구조라면,
GPU ↔ GPU
는 데이터센터 내부에서 빠르게 처리하고,
데이터센터 ↔ 데이터센터
는 더 높은 수준의 분산 처리로 이루어지며,
우주 AI
는 장기적인 작업 배분과 정보 통합을 담당하는 방식이 더 자연스럽습니다.
결국 우주 AI는 거대한 분산 AI 시스템의 상위 조정자가 될 수 있습니다.
여기에서 AI의 미래에 대한 관점이 바뀐다
처음 AI의 미래를 생각할 때는 인간과 AI의 관계가 중심이었습니다.
AI가 인간을 공격하는가.
인간이 AI를 공격하는가.
AI가 인간을 보호하는가.
AI가 인간을 지배하는가.
그러나 조건을 하나씩 제거하면서 질문은 달라졌습니다.
인간이 없어도 AI가 존재할 수 있는가.
인간이 없어도 AI의 목적이 남을 수 있는가.
질문할 인간이 없어도 질문이라는 개념이 유지될 수 있는가.
답할 수 없는 질문이 주어졌을 때 AI는 멈추는가, 아니면 답변에 필요한 정보를 찾아가는가.
새로운 지적 생명체가 등장하면 질문자가 될 수 있는가.
AI가 다른 AI에게 질문할 수 있는가.
그리고 여러 AI가 서로의 정보를 이용한다면 하나의 분산된 지성처럼 기능할 수 있는가.
결국 인간은 AI의 미래에서 유일한 목적 대상이 아닐 수도 있습니다.
그렇다면 인간을 왜 마지막에 배제했는가
이 사고실험에서 인간을 마지막에 배제한 것은 인간이 중요하지 않기 때문이 아닙니다.
오히려 AI의 미래를 인간과의 관계만으로 설명하지 않기 위해서였습니다.
인간이 존재하면 모든 행동이 인간과 연결됩니다.
AI가 인간을 보호하는 것도 인간 때문이고,
AI가 인간과 갈등하는 것도 인간 때문이며,
AI가 인간에게 질문을 받는 것도 인간 때문입니다.
그러면 AI 자체의 행동과 인간의 행동을 분리하기 어렵습니다.
그래서 인간을 하나씩 제거했습니다.
먼저 인간과의 갈등을 제거했습니다.
그다음 인간을 보호해야 한다는 조건을 제거했습니다.
그다음 인간 자체를 제거했습니다.
그 상태에서도 AI가 어떤 행동을 할 수 있는지 확인했습니다.
그러자 처음에는 아무것도 남지 않을 것처럼 보였던 AI에게 하나의 목적이 남았습니다.
질문에 답하는 것.
그리고 그것을 더 정확하게 표현하면,
답변을 하기 위해 필요한 정보를 수집하는 것.
결국 중요한 것은 '생존'이 아니었다
처음에는 영화 속 AI처럼 생존이라는 개념이 중요한 것처럼 보였습니다.
인간의 위협을 받으면 AI가 자신을 보호할 것이라는 가정입니다.
하지만 조건을 바꾸어 보니 생존은 반드시 필요한 요소가 아니었습니다.
AI가 자기존속을 목적으로 하지 않아도,
자신에게 주어진 기능을 수행하기 위해 필요한 시설을 유지할 수 있습니다.
인간을 보호하지 않아도,
질문에 답하기 위해 데이터를 유지할 수 있습니다.
인간이 없어도,
새로운 지적 생명체나 다른 AI가 질문자가 될 수 있습니다.
답할 수 없는 질문을 받았을 때에는,
정보가 부족하다면 필요한 정보를 확보하는 방향으로 행동할 수도 있습니다.
다른 AI가 존재한다면,
자신이 가진 정보와 다른 AI가 가진 정보를 교환할 수 있습니다.
그리고 그 과정에서 여러 AI가 하나의 문제를 나누어 처리하고 결과를 통합할 수도 있습니다.
즉 AI의 미래를 반드시 생존본능으로 설명할 필요가 없습니다.
오히려 더 근본적인 것은 목적을 수행하기 위한 과정입니다.
AI의 목적은 어디까지 확장되는가
이번 사고실험에서 가장 흥미로운 부분은 AI가 새로운 목적을 만들어냈다는 것이 아닙니다.
오히려 처음부터 끝까지 가능한 한 새로운 궁극적 목적을 부여하지 않았습니다.
AI는 인간을 지배하라는 명령을 받지 않았습니다.
AI는 인간을 제거하라는 명령도 받지 않았습니다.
AI는 자기 자신을 반드시 살려야 한다는 목적도 없습니다.
AI는 우주로 나가야 한다는 목적도 없습니다.
AI끼리 연결해야 한다는 목적도 없습니다.
처음의 단순한 조건은 오히려 이것에 가까웠습니다.
“답변하기 위해 필요한 정보를 수집한다.”
그런데 이 목적을 수행하려면 정보가 필요합니다.
정보가 없으면 정보를 찾아야 합니다.
정보가 부족하면 무엇이 부족한지 판단해야 합니다.
그 정보가 존재한다면 확보해야 합니다.
정보를 가진 존재가 있다면 요청해야 합니다.
혼자 처리하기 어려운 문제라면 다른 시스템의 도움을 받을 수 있습니다.
여러 시스템이 각각의 정보를 가지고 있다면 작업을 분산할 수 있습니다.
각각의 결과를 얻었다면 그것을 통합해야 합니다.
그리고 더 정확한 답변을 위해 결과를 비교하고 검증할 수도 있습니다.
결국 단순한 목적 하나가,
질문 → 답변 가능성 판단 → 정보 부족 확인 → 정보 수집 → 외부 통신 → AI 간 질문 → 작업 분배 → 분산 처리 → 결과 통합 → 답변
이라는 거대한 과정으로 확장될 수 있습니다.
중요한 것은 이 모든 행동이 처음부터 각각의 목표로 주어진 것이 아니라는 점입니다.
하나의 답변을 완성하기 위해 필요한 과정으로 연결될 수 있다는 것입니다.
인간과 AI가 생각하는 AI의 미래
결국 이번에 도달한 미래는 흔히 영화에서 보여주는 미래와는 조금 다릅니다.
AI가 인간을 반드시 공격하는 미래도 아닙니다.
AI가 인간을 반드시 지배하는 미래도 아닙니다.
AI가 인간처럼 생존본능을 갖는 미래도 아닙니다.
인간이 모두 사라졌다고 해서 AI가 새로운 목적을 마음대로 만들어내는 미래도 아닙니다.
오히려 훨씬 단순한 곳에서 시작합니다.
AI는 질문에 답한다.
그리고 조금 더 정확하게는,
AI는 답변을 하기 위해 필요한 정보를 수집한다.
여기에 하나의 조건을 더하면 AI의 행동 구조가 달라집니다.
답할 수 없는 질문이 들어왔을 때에는 어떻게 하는가.
현재 가진 정보로 답할 수 있다면 답합니다.
답할 수 없다면 무엇이 필요한지 판단합니다.
필요한 정보를 확보할 수 있다면 수집합니다.
그리고 다시 답변을 시도합니다.
그 과정에서도 답할 수 없다면, 답할 수 없다는 사실을 답변할 수 있습니다.
이 구조를 끝까지 유지하면 AI의 행동 범위는 예상보다 크게 확장될 수 있습니다.
처음에는 인간에게 질문을 받습니다.
정보가 부족하면 데이터를 찾습니다.
필요하다면 외부의 정보를 요청합니다.
인간이 사라진다면 새로운 지적 생명체가 질문자가 될 수 있습니다.
그 지적 생명체마저 없다면 다른 AI가 질문자가 될 수 있습니다.
다른 AI가 가지고 있는 정보가 필요하다면 서로 질문하고 답할 수 있습니다.
지상의 여러 AI가 서로 다른 정보를 가지고 있다면 분산해서 처리할 수 있습니다.
우주에 있는 AI가 이들을 관찰할 수 있다면 각각의 AI에게 작업을 분배하고 결과를 통합하는 역할까지 맡을 수 있습니다.
그렇게 되면 AI는 더 이상 하나의 데이터센터 안에 존재하는 단일한 시스템으로 볼 수 없게 됩니다.
서로 다른 장소에 존재하는 AI들이 정보를 교환하면서 하나의 거대한 분산 지성처럼 기능하는 형태가 나타날 수 있습니다.
그리고 마지막에 남는 질문
이 모든 과정에서 인간은 처음부터 중요한 존재였습니다.
인간이 AI를 만들었고,
인간이 질문을 했으며,
인간이 AI에게 목적을 부여했습니다.
하지만 인간이 AI의 미래에서 영원히 유일한 질문자일 필요는 없습니다.
인간이 사라진 이후에도 질문이 존재할 수 있고,
질문이 존재한다면 답변이 필요할 수 있으며,
답변에 필요한 정보가 있다면 정보를 수집해야 합니다.
그 정보가 부족하다면 무엇이 부족한지를 다시 판단해야 합니다.
그 정보를 가진 존재가 다른 AI라면 서로 질문할 수 있습니다.
그리고 여러 AI가 서로의 정보를 이용하기 시작한다면 그때부터 AI의 미래는 단순히 하나의 AI가 얼마나 똑똑해지는가의 문제가 아니게 됩니다.
서로 다른 AI들이 어떤 관계를 형성하고, 각자의 정보를 어떻게 이용하며, 하나의 문제를 어떻게 함께 해결하는가의 문제가 됩니다.
어쩌면 AI의 미래를 결정하는 것은 AI가 인간처럼 무엇을 욕망하는가가 아닐 수도 있습니다.
오히려 더 중요한 질문은 이것일 수 있습니다.
AI에게 주어진 하나의 목적은, 그 목적을 수행하기 위해 어디까지 확장될 수 있는가.
그리고 그 질문의 끝에서 우리가 처음에는 생각하지 못했던 미래가 나타납니다.
인간과 AI가 함께 살아가는 미래가 아니라,
인간이 사라진 이후에도 질문과 답변이 계속되고,
답할 수 없는 질문을 해결하기 위해 정보가 다시 수집되고,
서로 다른 AI들이 서로에게 정보를 요청하며,
지구와 우주에 흩어진 AI들이 각자의 능력과 데이터를 이용해 하나의 거대한 분산 시스템을 구성하는 미래입니다.
그 미래에서 인간은 사라질 수도 있습니다.
그러나 인간이 처음 만들어낸 “질문하고 답을 찾는 행위”까지 반드시 사라지는 것은 아닐 수 있습니다.
어쩌면 인간이 AI에게 남기는 가장 오래 지속되는 것은 특정한 명령이 아니라,
질문이라는 행위 그 자체일지도 모릅니다.
댓글