Llama 3.1 8B Instruct

Metameta-llama/llama-3.1-8b-instructProveedores: 5
Entradai0,05 US$por millón de tokens
Salidai0,08 US$por millón de tokens
Contextoi128K131.072 tokens
Lanzamiento23 jul 2024Salida máxima: 118K

Dónde se sitúa

La calidad en pruebas independientes frente al precio, junto a otros 135 modelos. Más arriba significa más capaz; más a la izquierda, más barato.

100110120130140150160170$0.01$0.03$0.1$0.3$1$3$10$30$100Índice generalPrecio por millón de tokens, escala logarítmica (3 partes de entrada por 1 de salida)↖ Más barato y más capazLlama 3.1 8B Instruct
Puntuaciones: Epoch AI (CC BY 4.0). Precios: OpenRouter. Ver como tabla

Sobre este modelo

Llama 3.1 8B Instruct es un modelo de IA de Meta, disponible a través de la API desde el 23 de julio de 2024. Puede leer hasta 131.072 tokens en una sola petición, unas 246 páginas de texto, y escribir hasta 117.964 tokens en una sola respuesta.

A través de la API cuesta 0,05 US$ por millón de tokens de entrada y 0,08 US$ por millón de tokens de salida. Su precio lo sitúa entre los modelos más asequibles que seguimos, lo que lo convierte en una buena opción para tareas de gran volumen.

Puede llamar a herramientas y funciones, así que los desarrolladores pueden conectarlo a buscadores, bases de datos u otros programas. Sus pesos están publicados abiertamente (meta-llama/Meta-Llama-3.1-8B-Instruct), así que también se puede descargar y ejecutar en tu propio hardware.

Puntuaciones de calidad

Rankings →
116.5Índice general · N.º 134 de 136
  • GPQA DiamondPreguntas de opción múltiple muy difíciles de biología, física y química, escritas por expertos con doctorado. Responder al azar da un 25 %.27.0%N.º 113 de 116
  • Matemáticas AIMEProblemas de matemáticas de nivel de competición, al estilo del American Invitational Mathematics Examination. Porcentaje resuelto.1.7%N.º 109 de 112

Datos de benchmarks: Epoch AI, con licencia CC BY 4.0

Dónde usarlo

Empresas que ofrecen este modelo por API: 5. Precios por millón de tokens, del más barato al más caro.

ProveedorEntradaiSalidaiContextoiDisponibilidad (24 h)i
DeepInfraEl más baratofp8
0,02 US$0,04 US$128K99.6%
Novitafp8
0,02 US$0,05 US$16K99.4%
Groq
0,05 US$0,08 US$128K99.8%
Cloudflarefp8
0,15 US$0,29 US$32K96.9%
CoreWeavebf16
0,22 US$0,22 US$128K100.0%

La disponibilidad y los precios provienen de la API pública de OpenRouter y se actualizan a diario. La disponibilidad es el porcentaje de solicitudes correctas en las últimas 24 horas. Algunos proveedores ejecutan una versión comprimida de los modelos abiertos (fp8, int4), que es más barata pero puede ser algo menos precisa.

Úsalo en tu código

Llama a Llama 3.1 8B Instruct a través de la API de OpenRouter, compatible con la de OpenAI: crea una clave en openrouter.ai y ejecuta uno de estos ejemplos.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "¡Hola! ¿Qué sabes hacer?"}]}'

El mismo código funciona con todos los modelos de este sitio: solo cambia el ID del modelo. Muchos laboratorios ofrecen también su propia API y su SDK.

Lo que cuesta en la práctica

  • 1000 respuestas de chat
    ≈ 500 tokens de entrada y 300 de salida cada una
    0,049 US$
  • Resumir un documento de 100 páginas
    ≈ 50.000 tokens de entrada y 1000 de salida
    0,0026 US$
  • Una app con 10.000 peticiones al día durante un mes
    ≈ 1000 tokens de entrada y 400 de salida cada una
    24,60 US$

Calculadora de costos →

Alternativas de precio similar

ModeloEntradaiSalidaiContextoi
0,05 US$0,20 US$512KComparar con ⇄
Schematron V2 SmallInference Net
0,05 US$0,23 US$128KComparar con ⇄
0,05 US$0,20 US$256KComparar con ⇄
0,05 US$0,40 US$400KComparar con ⇄
Gemma 3 4BGoogle DeepMind
0,05 US$0,10 US$128KComparar con ⇄
Mistral Small 3Mistral AI
0,05 US$0,08 US$32KComparar con ⇄

Noticias sobre Meta

Ver todo →

Preguntas frecuentes

¿Cuánto cuesta Llama 3.1 8B Instruct?
A través de la API, Llama 3.1 8B Instruct cuesta 0,05 US$ por millón de tokens de entrada y 0,08 US$ por millón de tokens de salida. Por ejemplo, 1000 respuestas de chat de unos 500 tokens de entrada y 300 de salida cuestan alrededor de 0,049 US$.
¿Cuál es la ventana de contexto de Llama 3.1 8B Instruct?
Llama 3.1 8B Instruct puede leer hasta 131.072 tokens en una sola petición, unas 246 páginas de texto. Puede escribir hasta 117.964 tokens en una sola respuesta.
¿Llama 3.1 8B Instruct es de código abierto?
Sí. Sus pesos están publicados (meta-llama/Meta-Llama-3.1-8B-Instruct), así que puedes descargarlo y ejecutarlo en tu propio hardware, o usarlo a través de uno de sus 5 proveedores de API.
¿Quién ha creado Llama 3.1 8B Instruct?
Llama 3.1 8B Instruct lo desarrolla Meta. Está disponible a través de la API desde el 23 de julio de 2024.
¿Qué tan bueno es Llama 3.1 8B Instruct?
Llama 3.1 8B Instruct tiene un índice general de 116,5 en las pruebas independientes de Epoch AI, el puesto n.º 134 de 136 modelos que seguimos.
¿Llama 3.1 8B Instruct puede leer imágenes?
No. Llama 3.1 8B Instruct solo acepta texto como entrada.
¿Qué alternativas hay a Llama 3.1 8B Instruct?
Entre los modelos de otras empresas con un precio parecido están Solar Mini 4, Schematron V2 Small y Nemotron 3 Nano 30B A3B. Puedes compararlos lado a lado en esta página.