Descubre las nuevas funciones empresariales para clientes de la API

Trabajamos con muchas empresas como Klarna⁠, Morgan Stanley⁠, Oscar⁠, Salesforce⁠ y Wix⁠ creando de cero soluciones basadas en IA e implementándolas de forma segura en sus organizaciones y productos. Vamos a afianzar nuestro soporte para empresas con funciones novedosas y útiles, tanto para las grandes corporaciones como para los programadores que quieran usar nuestra plataforma para crecer a toda marcha.

Incorporamos vínculos privados, una nueva forma de interacción que les permite a los clientes entablar una comunicación directa entre Azure y OpenAI, con una exposición mínima a la red abierta de internet. Además, implementamos un método nativo de autenticación multifactorial⁠(se abre en una nueva ventana) (MFA) que garantiza el cumplimiento de las normas gracias a requisitos de acceso más estrictos. Entre las características que agregamos al conjunto actual de funciones de seguridad empresarial⁠(se abre en una nueva ventana), se destacan la acreditación SOC 2 Tipo II, el inicio de sesión único (SSO), el cifrado tanto de los datos en reposo usando AES-256 como de los datos en tránsito usando TLS 1.2, además de controles de acceso basados en funciones. Asimismo, ofrecemos acuerdos de asociación comercial⁠(se abre en una nueva ventana) a las empresas de servicios de salud que deben cumplir con las normas HIPAA y una política de retención de datos cero a los clientes de la API con determinados casos de uso.

Con la nueva función Projects⁠(se abre en una nueva ventana), las empresas tendrán un control más detallado de los diferentes proyectos creados en OpenAI y podrán supervisarlos de cerca. Por ejemplo, podrán delimitar el alcance de las funciones y las claves de API a determinados proyectos, restringir o habilitar el acceso a ciertos modelos y establecer límites de uso o frecuencia para otorgar permisos y evitar excedentes inesperados. Además, los propietarios de proyectos podrán crear claves de API para cuentas de servicio, lo que otorga acceso a proyectos, pero no a usuarios en particular.

Hicimos varias actualizaciones a Assistants API para que los datos recuperados sean más precisos, los modelos y herramientas que se usan para ocuparse de ciertas tareas tengan un comportamiento más flexible y se ofrezca un mayor control sobre los costos. Entre estas funciones destacan:

• Mejor capacidad de recuperación de datos con el argumento “file_search”, que permite procesar hasta 10 000 archivos por asistente, un límite 500 veces mayor que el anterior de 20 archivos. La herramienta es más rápida, admite consultas paralelas por medio de búsquedas multiproceso, reordena mejor los resultados y reescribe las consultas con más claridad.
• Compatibilidad con streaming, lo que genera respuestas por voz en tiempo real, uno de los principales intereses tanto de los desarrolladores como de las empresas.
  El nuevo argumento “vector_store” agrega objetos en la API, de modo que los archivos se añaden en un almacén de vectores, se analizan, fragmentan y se integran como preparativo para facilitar la búsqueda de archivos. Los almacenes de vectores pueden usarse en diversos asistentes y procesos, lo que simplifica la gestión de archivos y la facturación.
• Mayor control sobre la cantidad máxima de tokens que pueden usarse por consulta, además de límites a los mensajes anteriores y recientes consultados en cada solicitud, lo que permite optimizar los costos de uso de tokens.
  Nuevo parámetro “tool_choice” para seleccionar una herramienta específica (como “file_search”, “code_interpreter” o “function”) en una solicitud determinada.
• Compatibilidad con los modelos GPT‑3.5 Turbo optimizados en la API (para empezar, admitiremos la personalización de “gpt-3.5-turbo-0125”).

Para que las empresas puedan usar la inteligencia artificial de forma flexible sin pasarse de presupuesto, agregamos dos métodos para abaratar costos con cargas de trabajo sistemáticas y asincrónicas:

• Descuento por uso con volumen acordado: Los clientes que usan una cantidad elevada de tokens por minuto (TPM) de manera sostenida en los modelos GPT‑4 o GPT‑4 Turbo pueden acceder al procesamiento de un volumen acordado previamente y obtener descuentos del 10 al 50 % según la magnitud del volumen acordado.
• Menos costos con cargas de trabajo asincrónicas: Los clientes ahora pueden usar la nueva Batch API⁠(se abre en una nueva ventana) para ejecutar cargas de trabajo asincrónicas que no son urgentes. Las solicitudes enviadas a la API en lote tienen un descuento del 50 % con respecto a las convencionales, lo que ofrece límites mucho más altos y respuestas en un plazo de 24 horas. Este modelo es ideal para quienes necesitan evaluar modelos, clasificar datos sin conexión, hacer resúmenes y generar datos sintéticos.
  

Tenemos planes de seguir agregando nuevas funciones centradas en la seguridad empresarial, los controles administrativos y la optimización de costos. Para obtener más información sobre estas novedades, consulta la documentación sobre la API⁠(se abre en una nueva ventana) o ponte en contacto con nuestro equipo⁠ para conocer nuestras soluciones a la medida de tu empresa.