AI 모델이 모든 일에 같은 크기일 필요는 없습니다. 고객 문의를 담당 부서별로 나누는 일과 복잡한 연구 계획을 세우는 일은 필요한 판단의 깊이가 다릅니다. 하이쿠는 클로드 제품군에서 상대적으로 작고 빠른 모델로, 이런 일상적인 처리에 쓰이는 선택지입니다.

앤트로픽은 하이쿠 5.5의 활용처로 요약, 분류, 데이터베이스 질의, 실시간 고객 응대 등을 제시했습니다. 데이터베이스 질의는 쌓여 있는 자료에서 조건에 맞는 정보를 찾는 작업입니다. 복잡한 이름과 달리 ‘지난달 주문 중 배송이 지연된 건을 찾아줘’처럼 필요한 기록을 골라내는 장면을 떠올리면 됩니다.

또 하나의 용도는 긴 대화의 맥락을 압축하는 일입니다. 대화가 길어지면 앞선 내용을 전부 다시 읽는 데 시간과 비용이 들 수 있습니다. 중요한 정보를 짧게 정리해 다음 단계로 넘기면, 더 큰 모델이 핵심 판단에 집중하기 쉬워집니다. 하이쿠는 이렇게 뒤에서 보조하는 역할로도 소개됐습니다.

새 모델에는 얼마나 깊게 생각할지 조절하는 설정도 들어갔습니다. 빠른 처리가 중요한 요청과 조금 더 검토해야 하는 요청에 서로 다른 수준을 적용할 수 있습니다. 같은 모델이라도 속도·비용·답변 품질 사이에서 작업에 맞는 균형을 고르는 방식입니다.

개발자가 AI를 서비스에 연결할 때는 API를 사용합니다. API는 다른 프로그램이 AI에 요청을 보내고 결과를 받는 연결 통로입니다. 사용료는 주로 읽어들인 내용과 만들어낸 답변의 양에 따라 계산됩니다. 이 양을 세는 작은 단위가 ‘토큰’입니다.

하이쿠 5.5의 공개 요금은 한 요청에 넣는 내용의 길이에 따라 나뉩니다. 아래 금액은 모두 100만 토큰당 달러 기준입니다.

• 입력이 10만 토큰 이하: 입력 0.10달러, 출력 0.50달러
• 입력이 10만 토큰 초과: 입력 0.50달러, 출력 2.50달러

여기서 10만 토큰은 어느 가격 구간을 적용할지 가르는 기준이고, 100만 토큰은 단가를 표시하는 단위입니다. 짧은 문의를 여러 번 처리하는 경우와 아주 긴 자료를 한 번에 읽히는 경우의 단가를 구분해 봐야 합니다.

앤트로픽은 이전 하이쿠에 들어온 요청의 약 90%가 10만 토큰 이하였다며, 이 구간의 가격 경쟁력을 강조했습니다. 같은 자료를 재사용할 때 적용되는 별도 요금도 공개했습니다. 다만 실제 청구액은 답변 길이, 반복 횟수, 설정에 따라 달라지므로 표의 단가와 작업 한 건의 총비용은 함께 계산해야 합니다.

하이쿠 5.5는 공개일부터 클로드 플랫폼과 AWS, 구글 클라우드, 마이크로소프트 애저에서 제공됩니다. 여러 클라우드에서 쓸 수 있다는 점은 이미 해당 서비스를 이용하는 기업이 기존 환경 안에서 모델을 검토할 수 있다는 의미입니다.

공식 발표에 실린 아사나의 초기 평가에서는 작업 지연 시간이 약 30% 줄었다고 소개됐습니다. 이런 수치는 해당 기업의 시험 조건에서 나온 결과로 읽어야 합니다. 문서 종류와 요청 방식이 바뀌면 체감 속도도 달라질 수 있습니다. 누구나 똑같은 속도 향상을 얻는다는 약속보다는, 실제 서비스에 적용해본 사례에 가깝습니다.

더 흥미로운 부분은 큰 모델과 작은 모델의 역할 분담입니다. 복잡한 요청을 큰 모델이 나눠 맡기고, 하이쿠가 자료 정리나 정보 추출을 처리한 뒤 결과를 돌려주는 식입니다. AI 하나가 처음부터 끝까지 모든 일을 맡는 구성이 유일한 선택지는 아니라는 이야기입니다.

사용자는 이런 내부 구성을 직접 볼 일이 적습니다. 대신 고객센터의 답변이 빨리 오거나, 문서 정리를 기다리는 시간이 줄어드는 형태로 변화를 접할 수 있습니다. 하이쿠 5.5의 발표는 AI 경쟁이 최고 성능 점수뿐 아니라 서비스 안에서 반복해서 쓰기 좋은 비용과 속도로도 이어지고 있음을 보여줍니다.