새로운 AI 모델이 나올 때마다 이제는 웬만해서는 놀라지 않게 됐다. 그런데 최근 공개된 GPT-6 Astra를 둘러싼 반응은 조금 다르다. 오픈AI의 그렉 브록먼은 모델을 내놓으며 ‘AGI 시대에 온 것을 환영한다’고 했고, 엔비디아의 젠슨 황은 ‘AGI가 도착했다’고 선언했다. AGI에 관한 합의된 정의는 없지만, 대체로 인간과 유사하거나 더 뛰어난 수준의 AI를 의미한다. 오픈AI는 특히 경제적 가치가 높은 분야의 업무에서 인간을 능가하는 수준으로 정의하고 있다.1
새 모델이 AGI에 도달했느냐는 논쟁은 여기서 그리 중요해 보이지 않는다. 다만 여러 에이전트와 도구를 조합한 작업에서 이전보다 훨씬 복잡한 일을 안정적으로 이어갈 수 있다는 초기 사용 후기들은 눈에 띈다. AI가 사람 한 명의 업무를 보조하는 것을 넘어 여러 사람이 나눠 하던 일의 흐름 전체를 안정적으로 관장하기 시작한다면, 이것은 단순한 성능 향상 이상의 변화다.
한편 지난 몇 년간 AI를 둘러싼 사회적 논쟁을 돌아보면 한 가지 특징이 보인다. 처음에는 창작물의 무단 학습과 저작권, 데이터 라벨러와 콘텐츠 검수 노동자들의 저임금 노동, 글로벌한 데이터 착취가 문제였다. 이어서 AI가 실제 업무 환경에서 널리 쓰이면서 일자리 대체, 노동 감시와 통제의 문제가 따라왔다. 그런데 이 중 어떤 것도 충분히 해결된 뒤 다음 문제로 넘어온 것이 아니다. AI가 만드는 사회적 문제는 교체되는 것이 아니라 퇴적되고 있다.
기술과 사회의 속도가 너무 달라졌다. 사회가 학습데이터의 저작권을 논의하는 사이 AI는 노동과정에 들어왔고, 일자리 대체를 논의하기 시작한 사이 이제는 여러 AI가 외부 도구를 사용하고 서로 일을 나눠 업무 흐름 전체를 관장하는 단계로 넘어가고 있다. 정치가 이전 세대의 AI를 논의하는 동안 기술은 이미 다음 문제를 만들어낸다.
이번 변화가 던지는 새로운 질문도 여기에 있다. AI가 조사하고 분석하고 코드를 짜고, 다른 AI에 일을 맡기고, 그 결과를 다시 검토하는 과정까지 수행한다면 인간은 모든 과정을 직접 하는 사람에서 목표를 정하고 최종 결과를 확인하는 사람으로 이동한다. 이 흐름이 피지컬 AI와 결합하면 적용 범위는 더 넓어질 수 있다. 기술 발전에 당연히 부정적인 측면만 있는 것은 아니다. 하지만 AI 시스템 안에서 이루어지는 수백, 수천 번의 판단과 상호작용을 인간이 실제로 이해할 수 없는 수준이라면 이야기가 달라진다.
우리는 이런 시스템에도 흔히 “최종 판단은 사람이 한다”고 말할 것이다. 하지만 AI들이 새로운 금융상품 하나를 함께 설계했다고 생각해보자. 위험 분석, 가격 결정, 시장 시뮬레이션, 법률 검토를 각각의 AI가 맡았고 최종 결과는 인간에게 제출된다. 그 상품의 전체 논리를 처음부터 끝까지 이해하는 사람이 사실상 없다면, 마지막 승인 버튼을 누른 사람을 정말 감독자라고 할 수 있을까. 더 중요한 것은 사고가 났을 때다. 이해하지 못한 것을 승인한 인간, 일부 기능만 만든 개발자, 범용 모델을 제공한 기업 사이에서 책임은 어디에 놓여야 하는가.
그렇다고 AI가 곧 기존의 생산관계를 완전히 바꿔놓는다는 뜻은 아니다. 인간이 생산과정을 모두 이해하지 못하더라도 그것을 작동시키는 능력은 여전히 데이터센터와 GPU, 전력과 데이터라는 거대한 물리적 자본에 의존한다. 누가 이를 소유하는지, 생산성 증가의 이익을 누가 가져가는지, 노동자는 어떤 권한을 갖는지라는 오래된 질문은 그대로 남는다. 지금의 문제는 이 오래되고 어려운 문제에 하나의 질문이 더해졌다는 것이다. ‘그 생산과정을 실제로 이해하고 통제할 수 있는 사람은 누구인가.’
저작권, 개인정보와 노동권 보호, 데이터센터 규제처럼 개별적인 제도 개선은 그래서 계속 필요하다. 하지만 지금의 기술 속도를 보면 개별 규제만으로는 AI가 만드는 새로운 문제가 계속 쌓여갈 수밖에 없다. AI 기술의 변곡점을 하나 둘 지날 때마다 가장 우려스러운 것은 이처럼 문제가 산처럼 쌓인 끝에 사회가 문제를 이해하고 해결하려는 시도 자체를 포기하고 “어쩔 수 없다”며 기술의 속도에 몸을 맡겨버리는 순간이다. 그런 상황이 오기 전에 AI 시대의 새로운 사회 규범을 합의하고 제도화할 시간이 필요하다.
그렇다면 기술을 잠시 기다리게 할 수단이 필요하지 않을까. 최근 AI 개발이나 데이터센터를 둘러싸고 모라토리엄과 일시정지를 요구하는 목소리가 반복해서 나오는 것도 그래서 가볍게 볼 일은 아니다. 모든 AI 개발을 멈추자는 주장에 동의하지 않더라도, 사회적 영향이 큰 새로운 능력이나 특정 분야의 적용에 대해서는 독립적인 검증과 사회적 숙고가 이루어질 때까지 잠시 기다리게 하는 수단을 진지하게 고민할 필요가 있다.
한국 사회는 AI를 주로 경제성장의 언어와 연결지어 왔다. 얼마나 많은 투자를 유치할 것인지, 얼마나 많은 데이터센터와 GPU를 확보할 것인지, AI가 경제의 파이를 얼마나 키울 것인지가 관심의 중심이었다. 성장의 크기를 묻는 동안, 그 속도를 누가 정할 것인지는 거의 질문되지 않았다. 물론 국경을 넘나드는 기술 발전의 속도를 조정하는 것은 결코 쉬운 일이 아니다. 그럼에도 이미 실리콘밸리에서부터 각국의 정치 현장까지, 사회가 따라잡을 시간을 확보하기 위해 기술의 속도를 잠시 늦추자는 목소리가 나오고 있다.2 기술이 사회를 기다려야 하는 순간도 있다. 업계에서 스스로 ‘AGI 시대’의 도래를 말하기 시작한 지금이 어쩌면 그 순간일지 모른다.
- 엲합뉴스, 오픈AI ‘아스트라’ 등장에 실리콘밸리서 ‘AGI 기준’ 논쟁 점화. 2026.9.7. ↩︎
- 최근의 대표적인 사례로는 AI 발전이 인간의 이해·통제 능력을 앞지를 가능성에 대비해 정부가 국제적으로 AI 발전 속도를 의도적으로 조절할 수 있는 기술적·거버넌스 수단 마련을 요구하는 ‘Pacing the Frontier’가 있다. AI 업계 종사자 위주로 1,300여 명이 서명했다. ↩︎