Dela via

Underhållsprincip för generativa AI-modeller

I den här artikeln beskrivs modellunderhållsprincipen för API:erna för Foundation Model betala per token, API:er för Foundation-modelletablerade dataflöden och erbjudanden för finjustering av foundation-modell .

För att kunna fortsätta att stödja de mest toppmoderna modellerna kan Databricks uppdatera modeller som stöds eller dra tillbaka äldre modeller för dessa erbjudanden.

Modellpensionspolicy

I följande avsnitt sammanfattas pensionspolicyn för de angivna funktionserbjudandena. Se Äldre modeller för en lista över för närvarande tillbakadragna modeller och planerade pensionsdatum.

Viktig

De pensionsprinciper som gäller för FOUNDATION Model-API:erna pay-per-token och Foundation Model Fine-tuning-erbjudanden påverkar endast chatt- och slutförandemodeller som stöds.

Foundation Model-API:er betalar per token

I följande tabell sammanfattas pensionsprincipen för Foundation Model-API:er med betalning per token.

Avisering om pensionering Övergång till pension På pensionsdatumet
Databricks vidtar följande steg för att meddela kunderna om en modell som har angetts för pensionering:
  • På sidan Servering på databricks-arbetsytan visas ett varningsmeddelande på modellkortet som anger att modellen är planerad att dras tillbaka.
  • Den tillämpliga dokumentationen innehåller ett meddelande som anger att modellen är planerad att tas bort och att startdatumet inte längre stöds.
 Databricks drar tillbaka modellen om tre månader. Under den här tremånadersperioden kan kunderna antingen:
  • Välj att migrera till en Foundation Model-API:er som etablerats dataflödesslutpunkt för att fortsätta använda modellen efter dess slutdatum.
  • Migrera befintliga arbetsflöden för att använda rekommenderade ersättningsmodeller.
 Modellen är inte längre tillgänglig för användning och tas bort från produkten. Tillämplig dokumentation uppdateras för att rekommendera användning av en ersättningsmodell.

Foundation Model API:er med tilldelat dataflöde

I följande tabell sammanfattas pensionsprincipen för Foundation Model-API:er som etablerats genom dataflöde.

Avisering om pensionering Övergång till pension På pensionsdatumet
Databricks vidtar följande steg för att meddela kunderna om en modell som har angetts för pensionering:
  • För slutpunkter som fungerar som inaktuella modeller visas ett varningsmeddelande på sidan med information om slutpunkten på databricks-arbetsytan. Det här meddelandet anger att modellen planeras för pensionering och tillämpligt pensionsdatum.
  • Ett knappbeskrivningsmeddelande innehåller rekommenderade alternativa modeller för migrering av arbetsbelastningar.
  • Den tillämpliga dokumentationen innehåller ett meddelande som anger att modellen är planerad att tas bort och att startdatumet inte längre stöds.
 Databricks drar tillbaka modellen om sex månader. Under denna sexmånadersperiod:
  • Kunder kan fortsätta att köra befintliga etablerade dataflödesslutpunkter med hjälp av den inaktuella modellen fram till slutdatumet.
  • Kunder som inte aktivt använder en inaktuell modell kan inte skapa nya etablerade slutpunkter för dataflöde eller starta om stoppade slutpunkter för en inaktuell modell.
 Modellen är inte längre tillgänglig för användning och tas bort från produkten.
  • Alla slutpunkter som använder den tillbakadragna modellen övergår till ett misslyckat tillstånd med ett beskrivande meddelande. Alla begäranden till dessa slutpunkter misslyckas.
  • Kunden kan ta bort slutpunkter som använder den tillbakadragna modellen, men som inte kan starta om dem.
  • Tillämplig dokumentation uppdateras för att rekommendera användning av en ersättningsmodell.

Finjustering av grundmodell

I följande tabell sammanfattas pensionspolicyn för finjustering av grundmodell.

Avisering om pensionering Övergång till pension På pensionsdatumet
Databricks vidtar följande steg för att meddela kunderna om en modell som har angetts för pensionering:
  • På fliken Experiment visas ett varningsmeddelande i den nedrullningsbara menyn för Finjustering av foundation-modell som anger att modellen är planerad att tas bort.
  • Den tillämpliga dokumentationen innehåller ett meddelande som anger att modellen är planerad att tas bort och att startdatumet inte längre stöds.
 Databricks drar tillbaka modellen om tre månader. Under den här tremånadersperioden kan kunder migrera befintliga arbetsflöden för att använda rekommenderade ersättningsmodeller. Modellen är inte längre tillgänglig för användning och tas bort från produkten. Tillämplig dokumentation uppdateras för att rekommendera användning av en ersättningsmodell.

Modelluppdateringar

Databricks kan leverera inkrementella uppdateringar av betala per token-modeller för att leverera optimeringar. När en modell uppdateras förblir slutpunkts-URL:en densamma, men modell-ID:t i svarsobjektet ändras för att återspegla datumet för uppdateringen. Om en uppdatering till exempel levereras till meta-llama/Meta-Llama-3.3-70B den 3/4/2024 uppdateras modellnamnet i svarsobjektet till meta-llama/Meta-Llama-3.3-70B-030424. Databricks har en versionshistorik över de uppdateringar som du kan referera till.

tillbakadragna modeller

I följande avsnitt sammanfattas aktuella och kommande modellavgångar för grundmodellens finjustering, FOUNDATION Model API:er betala per token och API:er för Foundation Model etablerade dataflödeserbjudanden.

Foundation Model-API:er betalar per token-pensionering

Följande tabell visar modellavgångar, deras pensionsdatum och rekommenderade ersättningsmodeller som ska användas för FOUNDATION Model API:er som betalar per token och betjänar arbetsbelastningar. Databricks rekommenderar att du migrerar dina program för att använda ersättningsmodeller före angivet slutdatum.

Viktig

Den 11 december 2024 ersatte Meta-Llama-3.3-70B-Instruct stöd för Meta-Llama-3.1-70B-Instruct i Foundation Model API:er med taxa per token-slutpunkter.

Modell Pensionsdatum Rekommenderad ersättningsmodell
DBRX-instruktioner den 30 april 2025 Meta-Llama-4-Maverick
Mixtral-8x7B Instruct den 30 april 2025 Meta-Llama-4-Maverick
Meta-Llama-3.1-70B-Instruct den 11 december 2024 Meta-Llama-4-Maverick
Meta-Llama-3-70B-Instruct den 23 juli 2024 Meta-Llama-4-Maverick
Meta-Llama-2-70B-Chat den 30 oktober 2024 Meta-Llama-4-Maverick
MPT 7B Instruktioner den 30 augusti 2024 Meta-Llama-4-Maverick
Instruktion för MPT 30B den 30 augusti 2024 Meta-Llama-4-Maverick

Om du behöver långsiktigt stöd för en viss modellversion rekommenderar Databricks att du använder Foundation Model-API:er provisionerat dataflöde för dina serving-arbetsbelastningar.

API:er för grundmodell etablerade dataflödesavgångar

I följande tabell visas modellfamiljens pensionering, deras pensionsdatum och rekommenderade ersättningsmodeller som ska användas för Foundation Model-API:er som etablerats med dataflöde som betjänar arbetsbelastningar. Databricks rekommenderar att du migrerar dina program för att använda ersättningsmodeller före angivet slutdatum.

Modellfamilj Pensionsdatum Rekommenderad ersättningsmodell
Meta Llama 3 70B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Meta Llama 3 8B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Meta Llama 2 70B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Meta Llama 2 13B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Meta Llama 2 7B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
DBRX den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Mistral 8x7B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
Mixtral 7B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
MPT 30B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.
MPT 7B den 15 februari 2026 Jämförbar modell på samma erbjudande, som Llama 3.2, 3.3 eller 4 modell av liknande storlek.

Finjustering av grundmodell

I följande tabell visas pensionerade modellfamiljer, deras pensionsdatum och rekommenderade ersättningsmodellfamiljer för arbetsbelastningar som involverar finjustering av grundmodeller. Databricks rekommenderar att du migrerar dina program för att använda ersättningsmodeller före angivet slutdatum.

Modellfamilj Pensionsdatum Rekommenderad ersättningsmodellfamilj
DBRX den 30 april 2025 Llama-3.1-70B
Mixtral den 30 april 2025 Llama-3.1-70B
Mistralen den 30 april 2025 Llama-3.1-8B
Meta-Llama-3.1-405B den 30 januari 2025 Llama-3.1-70B
Meta-Llama-3 den 7 januari 2025 Meta-Llama-3.1
Meta-Llama-2 den 7 januari 2025 Meta-Llama-3.1
Kod-llama den 7 januari 2025 Meta-Llama-3.1