Las declaraciones del CEO de OpenAI y mas información sobre GPT-4

Desde la explosión de Chat GPT-4, se ha hablado mucho de la inteligencia artificial y sus posibles usos. La reciente declaración del CEO de OpenAI, Sam Altman, ha causado gran revuelo en la comunidad de inteligencia artificial. Altman advirtió que la estrategia de investigación que condujo a la creación del chatbot ChatGPT y su predecesor, GPT-4, había ido demasiado lejos y que no estaba claro de dónde vendrán los avances futuros en el campo de la IA basada en lenguaje.

Esta declaración sugiere un cambio en la dirección de la compañía y ha llevado a muchos a cuestionar la viabilidad de las estrategias actuales en la investigación de IA. A pesar de que OpenAI ha logrado avances impresionantes en el campo de la IA basada en lenguaje en los últimos años, incluyendo la creación de modelos de chatbots cada vez más avanzados, la afirmación de Altman indica que la compañía está buscando nuevas formas de innovar en lugar de simplemente escalar modelos gigantes.

El progreso de OpenAI

OpenAI, desde sus inicios en 2015,  ha logrado avances impresionantes en el campo de la IA basada en lenguaje, tomando algoritmos de aprendizaje automático existentes y escalándolos a un ritmo sin precedentes. GPT-4, el último de estos proyectos, probablemente se entrenó utilizando billones de palabras de texto y miles de potentes chips de computadora. El proceso costó más de 100 millones de dólares.

Pero el CEO de la compañía, Altman, declaró que no recibirían más progreso si se hicieran los modelos más grandes. «Creo que estamos al final de la época, en el que, como modelos gigantes, gigantes», dijo la audiencia en la fiesta del MIT el fin de semana pasado. «Vamos a mejorarlos de una manera diferente».

ChatGPT-4

El anuncio de Altman representa un giro inesperado en la carrera por desarrollar e implementar nuevos algoritmos de IA. Desde que OpenAI lanzó ChatGPT en noviembre, Microsoft ha utilizado esta tecnología subyacente para agregar un chatbot a su motor de búsqueda Bing, y Google ha lanzado un chatbot rival llamado Bard. Muchas personas se apresuran a experimentar con el uso de chatbots de última generación para resolver problemas profesionales o personales. Mientras tanto, se desarrollaron muchos pozos, incluidos Anprópico, AI21, Cohere e íntimo.

La versión original del TATGPT basada en la versión GPT-3 está un poco mejorada, pero ahora los usuarios también pueden acceder a la versión controlada por el GPT-4 más talentoso. La declaración de Altman sugiere que GPT-4 podría ser el último avance en la estrategia de OpenAI para hacer modelos más grandes y alimentarlos con más datos. No dijo que ninguna estrategia o método de investigación pudiera reemplazarlos. En un artículo detallado sobre GPT-4, OpenAI dice que sus estimaciones muestran que los rendimientos disminuyen a medida que aumenta el tamaño del modelo. También hay límites físicos para la cantidad de centros de datos que una empresa puede construir y la velocidad a la que se pueden construir, dijo Altman.

Por ultimo

Nick Frosst, cofundador de Cohere que anteriormente trabajó en IA en Google, dice que el sentimiento de Altman de que ir más grande no funcionará indefinidamente suena cierto.

Él también cree que el progreso en los transformadores, el tipo de modelo de aprendizaje automático en el corazón d y sus rivales, está más allá de la escala. “Hay muchas maneras de hacer que los transformadores sean mejores y más útiles, y muchos de ellos no requieren que se agreguen parámetros adicionales al modelo”, dijo. Fross dice que los nuevos diseños o arquitecturas para los modelos de IA y la capacidad de personalizarlos aún más en función de los comentarios de las personas son vías prometedoras que muchos investigadores están explorando.

Cada versión de la influyente familia de algoritmos lingüísticos de OpenAI incluye una red neuronal artificial, un software inspirado en la forma en que las neuronas trabajan juntas entrenadas para predecir qué palabras seguirán a cierta cadena de texto.

En resumen, la declaración del CEO de OpenAI ha generado incertidumbre y ha llevado a muchas reflexiones sobre el futuro de la inteligencia artificial y la dirección que tomará la compañía en los próximos años.