Eine KI-Funktion braucht eine klar beschriebene Aufgabe. „Ein Chatbot auf der Website“ ist dafür zu ungenau. Soll das System Fragen aus freigegebenen Dokumenten beantworten, eingehende Texte sortieren oder einen Entwurf vorbereiten? Diese Aufgaben benötigen unterschiedliche Daten, Prüfungen und Freigaben.
Eine überprüfbare Aufgabe auswählen
Geeignete Ausgangspunkte für eine Prüfung sind:
- Klassifikation: Einen Text einer vorgegebenen Kategorie zuordnen, mit einem definierten Weg für unklare Fälle.
- Extraktion: Benannte Angaben aus einem Dokument in eine prüfbare Struktur übernehmen.
- Recherche in freigegebenen Inhalten: Passende Textstellen finden und eine Antwort mit nachvollziehbaren Quellen formulieren.
- Textentwurf: Einen Vorschlag erstellen, den ein Mensch vor der Veröffentlichung fachlich prüft.
Ob ein Modell für eine Aufgabe taugt, wird an repräsentativen Beispielen bewertet. Dazu gehören unvollständige Eingaben, widersprüchliche Quellen und Fälle, in denen keine belastbare Antwort möglich ist. Sprachlich überzeugende Antworten können sachlich falsch sein.
Den Datenfluss vor der Anbindung festlegen
Dokumentieren Sie, welche Daten vom Browser zum eigenen Server und von dort zu welchem Anbieter gelangen. API-Schlüssel bleiben auf dem Server. Übergeben werden nur die für die Aufgabe benötigten Inhalte. Zugriffsrechte müssen bereits bei der Auswahl von Dokumenten gelten; ein späterer Hinweis im Prompt ersetzt keine Berechtigungsprüfung.
Datenregion, Speicherung, Verarbeitung, Protokollierung und Vertragsbedingungen müssen für den konkreten Anbieter und Zugangsweg geprüft werden. Die direkte Claude API und eine Anbindung über eine andere Plattform sind beispielsweise nicht dasselbe Angebot. Aus dem Namen eines Modells lässt sich keine EU-Datenhaltung ableiten. Auch eine vereinbarte Datenregion allein beantwortet nicht alle Datenschutzfragen.
Generierte Ausgaben nicht ungeprüft ausführen
Eine Modellausgabe ist zunächst untrusted input. Erwartete Felder, Datentypen und zulässige Werte werden im Anwendungscode geprüft. Inhalte aus Dokumenten können manipulierte Anweisungen enthalten. Sie dürfen daher keine Berechtigungen ändern oder eigenständig Aktionen außerhalb des vorgesehenen Umfangs auslösen.
Für Funktionen mit Aktionen ausdrücklich festlegen:
- Welche Werkzeuge das System aufrufen darf und mit welchen eingeschränkten Rechten.
- Welche Schritte eine menschliche Freigabe benötigen, etwa eine Veröffentlichung oder ein Versand.
- Wie Zeitüberschreitungen, Dienstfehler und unvollständige Antworten behandelt werden.
- Welche technischen Fehlerdaten protokolliert werden und welche Eingaben vertraulich bleiben.
Quellenzugriff und Antwort getrennt bewerten
Bei einer Suche in eigenen Inhalten werden zunächst passende Dokumentstellen ausgewählt und erst danach dem Modell übergeben. Eine Vektorsuche kann dabei helfen, verwandte Formulierungen zu finden. Sie löst aber weder das Problem veralteter Dokumente noch die Frage, ob eine Quelle für einen Benutzer freigegeben ist. In unserem Angebot nutzen wir dafür unter anderem PostgreSQL mit pgvector; eine gesonderte Vektordatenbank ist keine automatische Voraussetzung.
Mit begrenztem Umfang beginnen
Für eine erste Umsetzung werden ein konkreter Arbeitsablauf, erlaubte Daten und Bewertungskriterien festgelegt. Erst wenn die Ergebnisse überprüfbar sind, lohnt sich eine Erweiterung. Wir binden KI-Dienste passend zur Aufgabe an, unter anderem OpenAI, Claude, Mistral und Kimi. Welche Konfiguration infrage kommt, hängt von den Anforderungen und den jeweils geprüften Anbieterbedingungen ab.
Passende Technologien
Themen
- KI
- OpenAI
- Claude
- Anthropic
- LLM
- Chatbot
- RAG
- Web-Entwicklung