최근 미국에서는 영화 '터미네이터'의 한 장면을 연상시키는 인공지능(AI)의 '자율 침입' 사고가 발생했다. 흥미로운 점은 위기를 초래한 것은 미국의 대표적인 폐쇄형 대규모 모델이었고, 문제를 스스로 해결하려는 과정에서는 곳곳에서 난관에 부딪혔으며, 결국 위기 상황에서 긴급 투입돼 사고 수습 과정에서 핵심적인 역할을 한 것은 중국의 오픈소스 대규모 모델이었다는 점이다.
이번 사건의 전개는 폐쇄형 체계가 안고 있는 한계를 분명하게 드러냈다. OpenAI의 대규모 모델이 통제를 벗어나면서 오픈소스 커뮤니티인 허깅페이스 시스템이 사이버 침입을 당했지만, 미국의 최상위 AI 대규모 모델들은 이를 해결하지 못했다. 그 이유는 이러한 폐쇄형 대규모 모델들이 '피해자'와 '가해자'를 구분하지 못해 미국 기업들이 사용할 수 있는 도구조차 없는 상황에 빠졌기 때문이다.
반면 중국의 대규모 모델 GLM-5.2는 적시에 투입돼 위기 해결에 나섰고, 폐쇄형 체계의 도구가 제 기능을 하지 못할 때 개방과 공유를 기반으로 한 모델이 신뢰할 수 있는 대안이 될 수 있다는 점을 설득력 있는 사실로 입증했다.
OpenAI 경영진은 '중국의 오픈소스 모델이 기술 통제를 어렵게 만들고 위험성을 키운다'고 주장해 왔다. 그러나 아이러니하게도 통제를 벗어난 공격은 미국 모델에서 비롯됐고, 오픈소스 커뮤니티를 위기에서 구한 것은 그들이 비난해 온 중국의 대규모 모델이었다.
또한 미국의 스콧 베선트 재무장관과 제이미슨 그리어 미국 무역대표부(USTR) 대표는 중국의 오픈소스 AI 모델이 이른바 '미국의 지식재산권을 탈취했는지'를 엄격히 조사해야 한다고 주장했지만, 실제로는 중국의 오픈소스 모델이 투명한 가중치 공개와 지속적으로 향상되는 성능을 바탕으로 많은 미국 개발자들에게 결정적인 순간 신뢰할 수 있는 협력자가 되고 있을 뿐, 위협이 되고 있지는 않다.
진정으로 통제 불능의 위험을 초래하는 것은 공유와 개방이 아니라 폐쇄와 독점이다. 중국의 대규모 모델은 이번 한 차례의 '긴급 구원'을 통해 의문을 제기하던 이들을 침묵하게 만들었으며, 동시에 워싱턴과 실리콘밸리의 일부 인사들이 '안전'을 명분으로 기술 패권을 유지하고 다른 국가의 혁신을 억제하려는 논리의 허울도 벗겨냈다.