Einführung in das KI-Cookbook für Databricks
Das Databricks-KI-Cookbook und sein Beispielcode führen Sie von einem POC (Proof-of-Concept) zu einer qualitativ hochwertigen produktionsbereiten Anwendung. Dabei kommen die Bewertung von Mosaic AI Agent und Mosaic AI Agent Framework auf der Databricks-Plattform zum Einsatz.
Das Databricks-Cookbook für generative KI ist eine präzise Schrittanleitung zur Erstellung qualitativ hochwertiger generativer KI-Anwendungen. Qualitativ hochwertige Anwendungen sind:
- Präzise: Sie liefern korrekte Antworten.
- Sicher: Sie liefern keine schädlichen oder unsicheren Antworten.
- Geregelt: Sie berücksichtigen Datenberechtigungen und Zugriffskontrollen und verfolgen die Datenherkunft nach.
Dieses Cookbook wurde in Zusammenarbeit mit dem Forschungsteam von Mosaic AI entwickelt und erläutert einen Best-Practice-Entwicklungsworkflow über Databricks für die Erstellung qualitativ hochwertiger RAG-Apps: auswertungsgesteuerte Entwicklung. Es beschreibt die wichtigsten Möglichkeiten zur Steigerung der Qualität von RAG-Anwendungen und bietet ein umfassendes Repository von Beispielcode, der diese Techniken implementiert.
Tipp
Es gibt einige Möglichkeiten, wie Sie eine RAG-App mit diesem Cookbook erstellen können:
- Sie haben nur ein paar Minuten und möchten eine Demo zu Framework und Bewertung von Mosaik AI Agent sehen.
- Sie möchten direkt Code verwenden und einen RAG-POC mithilfe Ihrer Daten bereitstellen.
- Sie haben keine Daten, möchten aber eine RAG-Beispielanwendung bereitstellen.
Das Qualitätskonzept von Databricks
Databricks verfolgt den folgenden Ansatz zur KI-Qualität:
- Schnelle Code-First-Entwicklerschleife zur schnellen Qualitätsverbesserung
- Einfaches Sammeln von menschlichem Feedback
- Framework für eine schnelle und zuverlässige Messung der App-Qualität
Dieses Cookbook ist für die Verwendung mit der Databricks-Plattform vorgesehen. Speziell:
- Mosaik AI Agent Framework für einen schnellen Entwicklerworkflow mit LLMops und Governance auf Unternehmensniveau
- Bewertung von Mosaic AI Agent Evaluation für eine zuverlässige Qualitätsmessung mithilfe proprietärer KI-gestützter LLM-Beurteilungen zur Messung von Qualitätsmetriken, die durch menschliches Feedback unterstützt werden, das über eine intuitive webbasierte Chatoberfläche gesammelt wird
Codebasierte Workflows
Wählen Sie unten den Workflow aus, der Ihren Anforderungen am meisten entspricht:
| Erforderliche Zeit | Erstelltes Element | Verknüpfung |
|---|---|---|
| 10 Minuten | Beispiel-RAG-App, die in einer webbasierten Chat-App bereitgestellt wird, die Feedback sammelt | RAG-Demo |
| 2 Stunden | POC-RAG-App mit Ihren Daten, die auf einer Chat-Benutzeroberfläche bereitgestellt wird, die Feedback von Beteiligten im Unternehmen sammeln kann | Erstellen und Bereitstellen eines POC |
| 1 Stunde | Umfassende Qualitäts-, Kosten- und Wartezeitbewertung Ihrer POC-App | - Bewerten des POC - Identifizieren der Grundursache von Qualitätsproblemen |