생성형 AI 서비스는 이제 답변 품질만으로 비교되지 않습니다. 기업이 어떤 데이터를 맡기고, 그 데이터가 어디에 저장되며, 누가 볼 수 있는지가 같은 무게로 평가받고 있습니다.
이번 변화는 AI 모델 경쟁이 기술 성능을 넘어 데이터 통제권 경쟁으로 옮겨가고 있음을 보여줍니다. 겉으로는 보안 정책의 조정처럼 보이지만, 실제로는 기업 고객이 AI 도입을 결정할 때 가장 먼저 따지는 기준이 다시 정리되고 있습니다.
고객 데이터 주변에서 달라진 두 회사의 선택
앤트로픽은 기업 고객이 자사 모델을 쓸 때 데이터에 대한 더 큰 통제권을 갖도록 새 정책을 준비하고 있습니다. 핵심은 고객사 데이터가 여전히 30일간 보관되지만, 고객사가 소유한 클라우드 컴퓨팅 인프라에 데이터를 저장할 선택권을 준다는 점입니다.
이 정책은 연내 시행될 예정이며, 규제가 엄격한 산업 분야의 고객사 100곳 이상과 함께 시스템을 개발해온 것으로 전해졌습니다. 앤트로픽은 앞서 새로운 유형의 사이버 공격을 탐지하고 예방하기 위해 모든 고객 데이터를 30일간 보관하겠다고 밝힌 바 있고, 해당 데이터를 모델 훈련에는 사용하지 않겠다고도 했습니다.
반면 오픈AI는 고객 데이터에 자사 직원도 접근할 수 없도록 하는 '비공개 안전 처리' 기능을 도입했습니다. 요청한 AI 답변을 만드는 데에만 데이터를 쓰고, 사용 직후 곧바로 파기하며, 오픈AI 내부자 접근도 차단하는 방식입니다.
여기서 중요한 지점은 두 회사가 서로 다른 문법으로 같은 질문에 답하고 있다는 점입니다. 데이터를 얼마나 많이 쓰느냐보다, 데이터를 누가 어디까지 다룰 수 있느냐가 제품 신뢰의 핵심으로 올라온 것입니다.
보안 기능이 아니라 신뢰 설계가 된 이유
이 변화가 중요한 이유는 보안 옵션이 단순한 부가 기능이 아니게 됐기 때문입니다. 기업 고객은 이제 AI의 성능만 보지 않습니다. 데이터가 내부에 남는지, 훈련에 쓰이지 않는지, 직원 접근이 가능한지까지 함께 따집니다.
특히 규제가 엄격한 산업에서는 이 차이가 도입 여부를 가르는 조건이 됩니다. 같은 모델이라도 데이터가 어디에 있고 누가 통제하는지에 따라 허용 범위가 달라지기 때문입니다. AI 서비스의 경쟁축이 모델 크기에서 통제 구조로 옮겨가고 있습니다.
AI 서비스를 볼 때 함께 확인해야 할 기준
앞으로 AI 서비스를 평가할 때는 기능 설명보다 데이터의 기본값을 먼저 봐야 합니다. 저장 위치, 보관 기간, 훈련 사용 여부, 내부자 접근 가능성은 모두 같은 질문으로 이어집니다. 사용자가 실제로 통제할 수 있는 범위가 어디까지인지 확인해야 합니다.
또 하나는 선택권의 실질성입니다. 옵션이 존재하는 것과 실제로 쉽게 적용되는 것은 다릅니다. 고객이 소유한 인프라를 쓰는 방식이든, 고객이 통제하는 키로 암호화하는 방식이든, 중요한 것은 설명서에 적힌 문구가 아니라 운영 현장에서 유지되는 통제 수준입니다.
D.Flick Note
앤트로픽이 30일 보관 정책을 유지하면서도 고객사 인프라 저장 옵션을 붙인 것은, AI 기업이 더 이상 “우리가 안전하게 관리하겠다”는 말만으로는 신뢰를 얻기 어렵다는 뜻으로 읽힙니다. 오픈AI가 직원 접근 차단과 고객 통제형 암호화를 내세운 것도 같은 흐름 위에 있습니다.
이제 AI의 차별점은 무엇을 할 수 있느냐보다, 그 능력을 어떤 경계 안에 둘 수 있느냐로 옮겨가고 있습니다. 성능 경쟁이 계속되더라도, 데이터 통제권을 설계하지 못한 서비스는 점점 선택받기 어려워질 수 있습니다. 기술의 진보보다 신뢰의 구조가 먼저 보이는 시장이 열리고 있습니다.