에이전트는 단순 조회, 초안 작성, 외부 시스템 변경처럼 서로 다른 위험도의 행동을 수행할 수 있습니다. 이 행동을 모두 같은 자동화 수준으로 두면, 사용자는 편리함과 함께 원치 않는 결과의 가능성도 떠안게 됩니다.

좋은 설계는 권한을 한 번에 넓히지 않습니다. 어떤 행동은 자동으로 허용하고, 어떤 행동은 실행 직전에 확인을 받으며, 어떤 행동은 아예 사람이 직접 수행하도록 구분해야 합니다.

권한은 단순 조회와 초안 작성, 외부 시스템 변경처럼 위험도가 다른 행동에 맞춰 단계적으로 부여해야 합니다. 이렇게 구분해야 사용자는 안전한 작업까지 불필요하게 막지 않으면서, 영향이 큰 실행에는 충분히 개입할 수 있습니다.

사고가 생긴 뒤에 기술 로그를 꺼내는 것만으로는 충분하지 않습니다. 사용자는 에이전트가 어떤 정보를 바탕으로 어떤 도구를 썼고 어디에서 멈췄는지를 일상적인 언어로 확인할 수 있어야 합니다.

이 기록은 감사를 위한 문서이면서 동시에 사용자 경험의 일부입니다. 작업이 길어질수록 진행 상태를 보여주고, 외부 실행 전에는 되돌릴 수 있는 선택지를 제공해야 합니다.

관찰 가능성은 관리자만을 위한 감사 기능이 아닙니다. 일반 사용자도 에이전트가 참조한 정보와 사용한 도구, 현재 진행 상태를 이해할 수 있을 때 자동 실행을 신뢰하고 필요한 순간에 멈출 수 있습니다.

자율성이 높은 에이전트일수록 중단 버튼은 더 깊은 곳에 있으면 안 됩니다. 사용자는 불안할 때 즉시 멈출 수 있어야 하고, 이미 수행된 변경을 이해하고 복구할 수 있어야 합니다.

통제 기능은 관리자만을 위한 복잡한 설정으로 남겨서는 안 됩니다. 관리자는 조직 전체의 정책과 기록을 보고, 사용자는 자신의 작업에 대한 즉각적인 선택권을 갖는 식으로 역할을 나눌 때 자동화의 속도와 책임을 함께 지킬 수 있습니다.

중단과 복구는 사고가 난 뒤에만 쓰는 예외 기능이 아닙니다. 사용자가 제안을 비교하고 일부만 적용하며 실행한 변경을 되짚을 수 있게 할 때, 자동화는 사람의 판단을 대체하기보다 보완하는 도구가 됩니다.

기업은 에이전트별 중단 권한과 담당자를 미리 정하고, 작업 실패 시 어느 시점으로 되돌릴지도 설정해야 합니다.

에이전트가 더 많은 일을 맡을수록 사용자는 자신의 작업이 어디까지 자동으로 진행됐는지와 다음에 무엇을 결정해야 하는지를 빠르게 파악할 수 있어야 합니다.