Wartungsrichtlinie für generative KI-Modelle

Dieser Artikel beschreibt die Databricks-Modellwartungsrichtlinie für die Pay-Per-Token- und die Mosaic KI Model Trainingsangebote der Foundation Model-API.

Damit weiterhin die modernsten Modelle unterstützt werden, wird Databricks möglicherweise die unterstützten Modelle aktualisieren oder ältere Modelle für die Foundation Model-APIs (Pay-per-Token) und das Mosaic-KI-Modell-Training ausmustern.

Modelldeaktivierungsrichtlinie

Die folgende Ruhestandsregelung gilt nur für unterstützte Chat- und Abschlussmodelle in den Foundation Model APIs Pay-per-Token und Mosaic KI-Modell Training Angeboten.

Wenn ein Modells ausgemustert wird, werden von Databricks die folgenden Schritte ausgeführt, um die Kunden zu benachrichtigen:

• Auf der Modellkarte auf der Seite Bereitstellung des Databricks-Arbeitsbereichs wird eine Warnmeldung angezeigt, die angibt, dass die Ausmusterung des Modells geplant ist.
• Eine Warnmeldung wird im Dropdownmenü für Mosaic KI Model Training auf der Registerkarte „Experimente“ angezeigt, die angibt, dass die Ausmusterung für das Modell geplant ist.
• Die entsprechende Dokumentation enthält einen Hinweis, dass die Ausmusterung für das Modell geplant ist. Außerdem ist das Startdatum angegeben, ab dem das Modell nicht mehr unterstützt wird.

Nachdem Kunden über die bevorstehende Ausmusterung des Modells informiert wurden, wird das Modell nach drei Monaten von Databricks außer Betrieb genommen. Während dieses Zeitraums können Kunden entscheiden, ob sie zu einem Endpunkt für bereitgestellten Durchsatz migrieren möchten, um das Modell auch nach Ende des Lebenszyklus weiterhin nutzen zu können.

Eine Liste der derzeit eingestellten Modelle und die geplanten Deaktivierungstermine finden Sie unter eingestellte Modelle.

Modellupdates

Möglicherweise werden von Databricks inkrementelle Updates für Modelle mit tokenbasierter Bezahlung bereitgestellt, um Optimierungsmöglichkeiten zu bieten. Wenn ein Modell upgedatet wird, bleibt die Endpunkt-URL gleich, aber die Modell-ID im Antwortobjekt ändert sich, um das Datum der Aktualisierung widerzuspiegeln. Wenn ein Update für meta-llama/Meta-Llama-3.1-405B am 04.03.2024 bereitgestellt wird, wird der Modellname im Antwortobjekt auf meta-llama/Meta-Llama-3.1-405B-030424 aktualisiert. Databricks verwaltet einen Versionsverlauf der Updates, den Sie einsehen können.

Eingestellte Modelle

Die folgenden Abschnitte fassen die aktuellen und bevorstehenden Modellabkündigungen für die Foundation Model APIs Pay-per-Token- und Mosaic KI-Modell Training-Angebote zusammen.

Mosaic KI-Modell Training Ausfälle

Die folgende Tabelle enthält die Modellfamilien, ihre Ausmusterungsdaten und die empfohlenen Ersatzmodellfamilien für die Mosaic KI-Modell Training Workloads. Databricks empfiehlt, Ihre Anwendungen vor dem angegebenen Einstellungsdatum zu migrieren, um Ersatzmodelle zu verwenden.

Foundation Model-APIs Stilllegungen auf der Basis von Token

Die folgende Tabelle zeigt Modelleinstellungen sowie ihre Einstellungstermine und die empfohlenen Ersatzmodelle für die Verwendung mit Foundation Model-APIs für Pay-per-Token-Workloads. Databricks empfiehlt, Ihre Anwendungen vor dem angegebenen Einstellungsdatum zu migrieren, um Ersatzmodelle zu verwenden.

Wenn Sie langfristige Unterstützung für eine bestimmte Modellversion benötigen, empfiehlt Databricks die Verwendung des bereitgestellten Durchsatzes von Foundation Model-APIs für Ihre Bereitstellungsworkloads.