Esta semana, OpenAI presentó una versión más ligera de su modelo de lenguaje más avanzado (LLM), GPT-4o. Llamado GPT-4o mini, reemplazará a GPT-3.5 Turbo como el modelo predeterminado en la versión gratuita de ChatGPT. Para los desarrolladores, está pensado como una opción más económica en comparación con GPT-4o, lanzado hace unos meses. Pero, ¿qué tan diferentes son estos dos modelos y cuál deberías usar? Esto es lo que necesitas saber.
Un modelo más pequeño con algunas limitaciones, al menos por ahora
El mayor compromiso de GPT-4o mini es que aún no admite procesamiento de video y audio al lanzarse, aunque sí funciona con imágenes. OpenAI planea integrar estas funciones más adelante, pero por ahora, tendrás que usar GPT-4o normal para ellas.
Por lo demás, el modelo debería darte un rendimiento similar al de GPT-4o, según las gráficas proporcionadas por OpenAI. Sin embargo, como la forma de realizar pruebas puede variar entre empresas, algunos desarrolladores prefieren esperar y ver antes de medir el rendimiento.
Precios
Como GPT-4o mini está diseñado para funcionar de manera similar a GPT-4o, la mayor diferencia a largo plazo entre estos dos modelos será el precio, lo que afecta principalmente a los desarrolladores y no tanto a los usuarios individuales. GPT-4o actualmente cuesta $5 por cada millón de tokens de entrada y $15 por cada millón de tokens de salida. GPT-4o mini, por otro lado, costará 15 centavos por cada millón de tokens de entrada y 60 centavos por cada millón de tokens de salida, haciéndolo mucho más asequible, especialmente para proyectos más largos. OpenAI dice que el millón de tokens de salida mencionado en los precios equivale aproximadamente a unas 2,500 páginas de un libro con formato estándar.
Los usuarios individuales que solo usen la aplicación GPT seguirán teniendo acceso gratuito limitado al GPT-4o estándar, pero 4o-mini reemplazará a 3.5 Turbo una vez que se agoten sus límites de uso en el modelo más grande.
Las mismas características de seguridad
Un área en la que OpenAI no ha cambiado entre GPT-4o y GPT-4o mini es la seguridad. El nuevo modelo más pequeño tiene las mismas medidas de seguridad que OpenAI ha incorporado en GPT-4o, lo que incluye pruebas realizadas por más de 70 expertos externos para ayudar a identificar posibles riesgos que el modelo podría representar para sus usuarios.
Además, GPT-4o mini es el primero de los modelos de OpenAI en incorporar un nuevo modelo de “jerarquía”, que según la empresa ayudará a mejorar la capacidad del modelo para evitar inyecciones de instrucciones, intentos de evasión de restricciones y otros usos malintencionados como la extracción de instrucciones del sistema.
GPT-4o mini ya está disponible en la aplicación ChatGPT, el sitio web y la API.
