Amazon empezará a cobrar por uso a la IA que transcribe voz en directo

Amazon permitirá que los proveedores cobren según lo que sus modelos de voz en tiempo real procesan durante una llamada. Deepgram es el primer socio, y la medida afecta a quien contrata estos servicios desde AWS Marketplace.

Amazon empezará a cobrar por uso a la IA que transcribe voz en directo

Amazon ha anunciado un sistema de cobro por uso para las inteligencias artificiales que procesan voz en directo, como las que transcriben una conversación mientras se produce. Hasta ahora, el cobro no encajaba bien con este tipo de servicio: el cliente pagaba por tener el modelo disponible, lo usara o no. Con la novedad, el proveedor del modelo puede cobrar según lo que se consume durante la sesión, a través de AWS Marketplace, la tienda de software de Amazon.

La primera pieza del lanzamiento es Deepgram, una empresa de reconocimiento y síntesis de voz en tiempo real. Deepgram ofrecerá en AWS Marketplace facturación por uso tanto para pasar voz a texto (STT) como para convertir texto en voz (TTS). La novedad se suma a mejoras anteriores de ambas compañías, como una autenticación más sencilla para empresas y métricas de seguimiento más completas.

Por qué el streaming rompía el modelo de cobro

Cuando un modelo responde a una petición puntual, el proveedor puede indicar en la cabecera de la respuesta cuántas unidades se han consumido, y Amazon usa esa cifra para cobrar. Funciona porque la cantidad facturable se conoce en el momento de responder.

El streaming bidireccional no funciona así. El cliente envía audio y recibe transcripciones por una conexión abierta que puede durar 30 segundos o 30 minutos. El consumo se acumula mientras la sesión está activa y el total no se conoce hasta que termina. Una sola cabecera de respuesta no basta para informar del uso durante la llamada.

El cobro por hora tampoco encaja del todo, porque cobra también los silencios y no lo que realmente se procesa. Con el nuevo sistema, la tarifa de software de AWS Marketplace se ajusta al uso informado. La infraestructura del servidor donde está alojado el modelo sigue cobrándose aparte mientras esté activa.

Una segunda conexión solo para contar el consumo

La solución añade una segunda conexión permanente junto a la que transporta el audio y el texto. Cuando empieza una sesión, SageMaker AI abre dos conexiones con el servidor del modelo: una de datos, con la petición y la respuesta, y otra de metadatos, dedicada únicamente a la medición.

El servidor del modelo debe aceptarla activando una cabecera específica en la respuesta de conexión. Después, SageMaker AI abre la conexión de metadatos en una ruta concreta, que el proveedor puede cambiar si lo necesita. Ambas conexiones llevan el mismo identificador de solicitud, que sirve para vincular cada medición con la sesión correspondiente.

Las mediciones viajan como mensajes de texto en formato JSON, uno por registro. Amazon recomienda enviarlas a medida que se consume el uso, en lugar de esperar al final. Así, si una sesión se corta de forma inesperada, queda menos consumo sin informar. Cada conexión admite una vez por segundo como máximo y mensajes de 512 bytes como tamaño máximo.

Cómo se calcula lo que se cobra

Cada medición usa la dimensión inference.count, y el campo ConsumedUnits indica la cantidad. El nombre no significa una unidad por petición. Si el producto cobra por segundo de audio, un registro de 12 minutos enviará ConsumedUnits: 720. Es el proveedor quien define qué audio cuenta como uso medido, y la oferta de AWS Marketplace asigna un precio a cada unidad.

Para evitar duplicados, cada mensaje puede llevar un identificador propio: si llega repetido en la misma conexión, SageMaker AI lo descarta sin avisar. La conexión de metadatos funciona sobre TCP, un protocolo que garantiza la entrega ordenada de los datos. Aun así, Amazon aclara que la entrega no demuestra que el uso se haya facturado, por lo que los proveedores deben cruzar las unidades informadas con los informes de AWS Marketplace y con los cargos a los compradores.

Si la conexión de metadatos falla o se cae a mitad de sesión, la inferencia sigue por defecto. Activar la opción contraria obliga a detener el modelo cuando no hay medición, lo que garantiza el cobro a costa de la disponibilidad. Amazon presenta esta decisión como una elección entre seguir atendiendo al cliente y asegurar que el uso se mide.

Qué cambia para empresas y proveedores

Para quien despliega modelos de voz en centros de llamadas, asistentes de voz o subtitulado, el cambio afecta a la forma en que se calcula el cargo de software. Según Amazon, ese uso se incluye en la factura de AWS del propio cliente, con facturación consolidada y sin una relación de cobro aparte con el proveedor. Los proveedores pueden además pactar tarifas por unidad o contratos de precio cerrado mediante ofertas privadas, y Amazon recomienda hablar con el representante de la cuenta o con el socio.

Los proveedores tienen más trabajo. Deben definir qué representa una unidad, informarla durante la sesión y probar el sistema también en sesiones interrumpidas. Amazon ofrece una guía de incorporación con plantillas que ya incluyen compatibilidad con metadatos, aunque advierte de que ese código debe revisarse y reforzarse antes de salir a producción.

El resultado es que el cobro de la voz en tiempo real se parece más a lo que realmente consume el cliente. La pregunta es si otros proveedores de servicios de voz adoptarán un sistema similar o si cada plataforma seguirá con su propio modelo de precios.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.