Llama 3.1 70B Instruct

Metameta-llama/llama-3.1-70b-instructProveedores: 2
Entradai0,40 US$por millón de tokens
Salidai0,40 US$por millón de tokens
Contextoi128K131.072 tokens
Lanzamiento23 jul 2024Salida máxima: 16K

Dónde se sitúa

La calidad en pruebas independientes frente al precio, junto a otros 135 modelos. Más arriba significa más capaz; más a la izquierda, más barato.

100110120130140150160170$0.01$0.03$0.1$0.3$1$3$10$30$100Índice generalPrecio por millón de tokens, escala logarítmica (3 partes de entrada por 1 de salida)↖ Más barato y más capazLlama 3.1 70B Instruct
Puntuaciones: Epoch AI (CC BY 4.0). Precios: OpenRouter. Ver como tabla

Sobre este modelo

Llama 3.1 70B Instruct es un modelo de IA de Meta, disponible a través de la API desde el 23 de julio de 2024. Puede leer hasta 131.072 tokens en una sola petición, unas 246 páginas de texto, y escribir hasta 16.384 tokens en una sola respuesta.

A través de la API cuesta 0,40 US$ por millón de tokens de entrada y 0,40 US$ por millón de tokens de salida. Su precio lo sitúa entre los modelos más asequibles que seguimos, lo que lo convierte en una buena opción para tareas de gran volumen.

Puede llamar a herramientas y funciones, así que los desarrolladores pueden conectarlo a buscadores, bases de datos u otros programas. Sus pesos están publicados abiertamente (meta-llama/Meta-Llama-3.1-70B-Instruct), así que también se puede descargar y ejecutar en tu propio hardware.

Puntuaciones de calidad

Rankings →
125.9Índice general · N.º 122 de 136
  • GPQA DiamondPreguntas de opción múltiple muy difíciles de biología, física y química, escritas por expertos con doctorado. Responder al azar da un 25 %.44.2%N.º 103 de 116
  • Matemáticas AIMEProblemas de matemáticas de nivel de competición, al estilo del American Invitational Mathematics Examination. Porcentaje resuelto.3.6%N.º 105 de 112

Datos de benchmarks: Epoch AI, con licencia CC BY 4.0

Dónde usarlo

Empresas que ofrecen este modelo por API: 2. Precios por millón de tokens, del más barato al más caro.

ProveedorEntradaiSalidaiContextoiDisponibilidad (24 h)i
DeepInfraEl más baratofp8
0,40 US$0,40 US$128K99.6%
Amazon Bedrock
0,72 US$0,72 US$128K100.0%

La disponibilidad y los precios provienen de la API pública de OpenRouter y se actualizan a diario. La disponibilidad es el porcentaje de solicitudes correctas en las últimas 24 horas. Algunos proveedores ejecutan una versión comprimida de los modelos abiertos (fp8, int4), que es más barata pero puede ser algo menos precisa.

Úsalo en tu código

Llama a Llama 3.1 70B Instruct a través de la API de OpenRouter, compatible con la de OpenAI: crea una clave en openrouter.ai y ejecuta uno de estos ejemplos.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "¡Hola! ¿Qué sabes hacer?"}]}'

El mismo código funciona con todos los modelos de este sitio: solo cambia el ID del modelo. Muchos laboratorios ofrecen también su propia API y su SDK.

Lo que cuesta en la práctica

  • 1000 respuestas de chat
    ≈ 500 tokens de entrada y 300 de salida cada una
    0,32 US$
  • Resumir un documento de 100 páginas
    ≈ 50.000 tokens de entrada y 1000 de salida
    0,02 US$
  • Una app con 10.000 peticiones al día durante un mes
    ≈ 1000 tokens de entrada y 400 de salida cada una
    168 US$

Calculadora de costos →

Alternativas de precio similar

ModeloEntradaiSalidaiContextoi
Devstral 2 2512Mistral AI
0,40 US$2 US$256KComparar con ⇄
0,40 US$4 US$128KComparar con ⇄
MiniMax M1MiniMax
0,40 US$2,20 US$1MComparar con ⇄
0,40 US$1,60 US$1MComparar con ⇄
0,42 US$1,25 US$123KComparar con ⇄
GLM 4.6Z.ai (Zhipu)
0,43 US$1,75 US$200KComparar con ⇄

Noticias sobre Meta

Ver todo →

Preguntas frecuentes

¿Cuánto cuesta Llama 3.1 70B Instruct?
A través de la API, Llama 3.1 70B Instruct cuesta 0,40 US$ por millón de tokens de entrada y 0,40 US$ por millón de tokens de salida. Por ejemplo, 1000 respuestas de chat de unos 500 tokens de entrada y 300 de salida cuestan alrededor de 0,32 US$.
¿Cuál es la ventana de contexto de Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct puede leer hasta 131.072 tokens en una sola petición, unas 246 páginas de texto. Puede escribir hasta 16.384 tokens en una sola respuesta.
¿Llama 3.1 70B Instruct es de código abierto?
Sí. Sus pesos están publicados (meta-llama/Meta-Llama-3.1-70B-Instruct), así que puedes descargarlo y ejecutarlo en tu propio hardware, o usarlo a través de uno de sus 2 proveedores de API.
¿Quién ha creado Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct lo desarrolla Meta. Está disponible a través de la API desde el 23 de julio de 2024.
¿Qué tan bueno es Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct tiene un índice general de 125,9 en las pruebas independientes de Epoch AI, el puesto n.º 122 de 136 modelos que seguimos.
¿Llama 3.1 70B Instruct puede leer imágenes?
No. Llama 3.1 70B Instruct solo acepta texto como entrada.
¿Qué alternativas hay a Llama 3.1 70B Instruct?
Entre los modelos de otras empresas con un precio parecido están Devstral 2 2512, Qwen3 VL 235B A22B Thinking y MiniMax M1. Puedes compararlos lado a lado en esta página.