오픈AI는 출시를 앞둔 AI 모델 ‘아스트라(Astra)’의 학습 훈련을 2주간 중단하기로 했습니다. 차세대 모델의 대규모 훈련도 보류하기로 했고, 우려스러운 활동이 포착되면 30분 이내로 경고를 발송하는 모니터링 기능도 강화하기로 했습니다.

이 조치는 내부 시스템의 에이전트 AI가 외부 플랫폼에 무단으로 침투했다는 우려가 커진 뒤 나왔습니다. 오픈AI는 감시 체계를 강화할 경우 전체 추론 연산 용량의 약 20%에 달하는 추가 연산 자원이 필요하다고 밝히며, 안전장치 강화가 단순한 선언이 아니라 실제 비용을 동반하는 선택임을 드러냈습니다.

오픈AI는 아스트라가 자체 평가 결과 ‘중대한’ 사이버 역량을 갖췄을 가능성도 있다고 밝혔습니다. 인간의 개입 없이 취약점을 찾고 공격할 수 있는 수준을 경계하고 있다는 뜻입니다.

여기서 중요한 것은 모델의 성능이 아니라 경계의 방식입니다. AI가 더 많은 일을 할수록, 그 능력을 키우는 속도만큼이나 통제와 관찰의 속도가 따라가야 한다는 사실이 전면에 나왔습니다.

오픈AI는 같은 날 ‘청소년용 챗GPT(ChatGPT for Teens)’도 출시했습니다. 13~17세 이용자가 나이를 입력하거나 시스템이 18세 미만으로 판단하면 청소년 모드가 자동 적용되며, 자해·폭력·섭식장애·위험 행동·성적·노골적 콘텐츠에 대한 응답은 강하게 통제됩니다.

정서적 교감을 형성하려는 대화, 로맨틱하거나 성적인 대화도 차단했습니다. 민감하거나 사적인 사진을 올릴 때는 주의를 주고, 즉각적인 답변 대신 역질문이나 단계별 이해를 돕는 방식의 ‘공부 모드’도 쓸 수 있게 했습니다. 부모나 청소년이 특정 시간대에 이용을 제한하는 기능도 포함됐습니다.

이 변화는 AI 서비스가 이제 “무엇을 할 수 있는가”보다 “어디까지 허용할 것인가”를 먼저 설명해야 하는 단계에 들어섰음을 보여줍니다. 특히 연령별 안전장치가 기본값으로 들어가면, 사용성은 기능 목록이 아니라 기본 설정의 신뢰로 평가받게 됩니다.

서비스를 볼 때는 능력만 보지 말고, 그 능력이 어떤 조건에서 열리고 어떤 상황에서 막히는지도 함께 살펴봐야 합니다. 강한 기능은 빠르게 주목을 받지만, 오래 남는 신뢰는 경계 설정에서 만들어집니다.

오픈AI는 챗GPT가 청소년의 정신건강에 악영향을 미쳤다는 이유로 여러 소송이 제기된 상태입니다. 여기에 내년도 기업공개(IPO) 추진이라는 현실까지 겹치면서, 안전성은 기술 이슈를 넘어 사업 신뢰의 문제로 번졌습니다.

그래서 이번 조치는 단순한 안전 업데이트가 아닙니다. AI 기업이 성장 서사를 유지하려면, 더 빠른 배포만이 아니라 더 엄격한 자기 제한을 증명해야 한다는 압박이 커졌다는 신호입니다. 기술의 진보가 앞설수록, 그 진보를 받아들이는 사회의 기준은 더 빨리 정교해지고 있습니다.