OpenAI anuncia una API para ChatGPT

API para ChatGPT

La compañía OpenAI ha anunciado que ahora permite que los desarrolladores externos integren ChatGPT en sus aplicaciones y servicios a través de una API, y que hacerlo va a ser mucho más económico que usar sus modelos de lenguajes existentes. La compañía está haciendo que Whisper, su modelo de voz a texto impulsado por IA, esté disponible para su uso a través de una API y está realizando algunos cambios importantes en sus términos de servicio para desarrolladores.

OpenAI explica que su API ChatGPT se puede usar para algo más que crear una interfaz de chat impulsada por una IA, aunque también destaca varias compañías que la han estado usando para ese propósito, incluida su función My AI de Snap, que se anunció recientemente. La compañía dice que su nueva familia de modelos, llamada gpt-3.5-turbo, es el «mejor modelo para muchos casos de uso que no son de chat».

Vale la pena señalar que es probable que el modelo no sea el mismo que está usando Bing, que Microsoft ha llamado un «nuevo modelo de lenguaje grande OpenAI de próxima generación» que es «aún más rápido, más preciso y más capaz» que ChatGPT y GPT- 3.5. Sin embargo, dada la cantidad de dinero que la empresa ha invertido en OpenAI, no sorprende que tenga acceso a tecnología que no está disponible para el desarrollador promedio. Microsoft también está usando una buena dosis de su propia tecnología para Bing.

OpenAI ofrece 1000 tokens por $0,002 y dice que es «10 veces más barato que nuestros modelos GPT-3.5 existentes», gracias en parte a «una serie de optimizaciones en todo el sistema». Si bien 1,000 parece mucho, vale la pena señalar que enviar un fragmento de texto para que responda la API podría costar varios tokens. («Tokens» son los bloques de texto en los que el sistema divide oraciones y palabras para predecir qué texto debe generar a continuación).

Otra API para Whisper

Aunque es probable que ChatGPT atraiga casi toda la antención, OpenAI también ha anunciado otra nueva API para Whisper, concretamente para su modelo de voz a texto. La compañía dice que puede usarlo para transcribir o traducir audio a un costo de $0.006 por minuto.

Técnicamente, el modelo Whisper es de código abierto, por lo que puedes ejecutarlo en tu propio hardware sin pagar nada . Sin embargo, es probable que OpenAI tenga acceso a hardware más potente, por lo que si está buscando un cambio rápido o necesita hacer una transcripción en dispositivos de menor potencia como teléfonos, usar la API puede ser el camino a seguir.

OpenAI también está anunciando algunos cambios de política que, según dice, se basan en los comentarios de los desarrolladores. Uno grande dice que ya no usará los datos enviados a través de la API para entrenar sus modelos a menos que los clientes aprueben explícitamente ese uso.

En otras palabras, se está pasando de un sistema de opt-out a uno de opt-in. Este cambio podría ayudar a aliviar algunas preocupaciones sobre poner información patentada en el bot, ya que algunas empresas han prohibido a los empleados usar la tecnología por completo. Si está aprendiendo de la entrada del usuario, sería una mala idea ingresar secretos comerciales, ya que siempre existe la posibilidad de que pueda escupir esos datos a otra persona.