← Zur Übersicht aller Beiträge
KI-Assistenten werden teuer, wenn niemand steuert, was sie sehen
Microsoft zeigt, dass die Auswahl des Modellkontexts einen großen Teil der Agentenkosten und Antwortqualität beeinflussen kann. Unternehmen sollten Quellen, effektive Berechtigungen und Kosten pro Ergebnis gezielt steuern.
KI-Assistenten werden teuer, wenn niemand steuert, was sie sehen
Microsoft zeigt, dass die Auswahl des Modellkontexts einen großen Teil der Agentenkosten und Antwortqualität beeinflussen kann. Unternehmen sollten Quellen, effektive Berechtigungen und Kosten pro Ergebnis gezielt steuern.
Ein KI-Agent sieht bei jeder Aufgabe nur den Kontext, der ihm bereitgestellt wird. Microsoft weist in seinem Azure-Blog darauf hin, dass diese Auswahl in vielen Produktivsystemen schon beim Prototyp festgelegt und später kaum optimiert wird – obwohl sie einen großen Anteil der Betriebskosten treiben und zu enttäuschenden Antworten beitragen kann.
Der praktische Punkt ist deshalb nicht „je mehr Kontext, desto besser“. Zu viel, veralteter oder unpassender Kontext kostet Rechenleistung und kann die Aufgabe erschweren.
Was Unternehmen steuern sollten
Quellen: Welche Dokumente, Daten und Systeme sind für die konkrete Aufgabe wirklich nötig?
Effektive Rechte: Mit welcher Identität greift der Agent zu? Bei delegiertem Nutzerzugriff sollten seine Rechte nicht über die des Nutzers hinausgehen; Service-Konten brauchen eigene, eng begrenzte Berechtigungen.
Kosten pro Ergebnis: Nicht nur Token- oder Modellpreise vergleichen, sondern die Kosten eines korrekt erledigten Vorgangs.
Die konkrete Rechtewirkung hängt also vom Authentifizierungsmodell ab. Ein Agent „erbt“ nicht automatisch in jeder Architektur dieselben Rechte wie die Person, die ihn nutzt.
So wird Kontextsteuerung zu einer Betriebsfrage: Welche Informationen braucht der Agent für diese Aufgabe – und welche ausdrücklich nicht?
Bei Agenten ist nicht nur das Modell entscheidend. Microsoft weist darauf hin, dass die Auswahl des Kontexts Kosten und Antwortqualität stark beeinflussen kann. Stellen Sie nur benötigte Quellen bereit und prüfen Sie die tatsächlich wirksamen Rechte. Diese hängen vom Authentifizierungsmodell ab; ein Agent erbt nicht automatisch immer die Rechte des Nutzers. Gemessen wird am korrekt erledigten Vorgang.
Ein KI-Agent sieht bei jeder Aufgabe nur den Kontext, der ihm bereitgestellt wird. Microsoft weist in seinem Azure-Blog darauf hin, dass diese Auswahl in vielen Produktivsystemen schon beim Prototyp festgelegt und später kaum optimiert wird – obwohl sie einen großen Anteil der Betriebskosten treiben und zu enttäuschenden Antworten beitragen kann.
Der praktische Punkt ist deshalb nicht „je mehr Kontext, desto besser“. Zu viel, veralteter oder unpassender Kontext kostet Rechenleistung und kann die Aufgabe erschweren.
Was Unternehmen steuern sollten
Quellen: Welche Dokumente, Daten und Systeme sind für die konkrete Aufgabe wirklich nötig?
Effektive Rechte: Mit welcher Identität greift der Agent zu? Bei delegiertem Nutzerzugriff sollten seine Rechte nicht über die des Nutzers hinausgehen; Service-Konten brauchen eigene, eng begrenzte Berechtigungen.
Kosten pro Ergebnis: Nicht nur Token- oder Modellpreise vergleichen, sondern die Kosten eines korrekt erledigten Vorgangs.
Die konkrete Rechtewirkung hängt also vom Authentifizierungsmodell ab. Ein Agent „erbt“ nicht automatisch in jeder Architektur dieselben Rechte wie die Person, die ihn nutzt.
So wird Kontextsteuerung zu einer Betriebsfrage: Welche Informationen braucht der Agent für diese Aufgabe – und welche ausdrücklich nicht?
Quellen
Transparenz: Konzept, Auswahlkriterien und inhaltliche Vorgaben stammen von Christian Hohlfeld. Recherche und Formulierung wurden nach diesen Vorgaben mit KI-Werkzeugen unterstützt. Redaktionell geprüft und verantwortlich: Christian Hohlfeld.