Wie ein LLM arbeitet
Ein LLM hat beim Training gelernt, wie Sprache aufgebaut ist. Bekommt es eine Eingabe (den Prompt), berechnet es Stück für Stück die wahrscheinlich passendste Fortsetzung. So entstehen Antworten, Zusammenfassungen oder ganze Texte.
Wichtig: Ein LLM „weiß“ nichts im menschlichen Sinn. Es kann überzeugend klingende, aber falsche Aussagen erzeugen. Deshalb gehören Prüfung und Freigabe durch einen Menschen dazu.
Cloud-Dienst oder eigenes Modell
Viele nutzen LLMs über Cloud-Dienste großer Anbieter. Dann verlassen die Eingaben das eigene Unternehmen. Alternativ lassen sich Modelle auf einem eigenen Server betreiben. Die Daten bleiben dann im eigenen Einflussbereich. Die OMA Agency arbeitet so: Die Verarbeitung läuft ausschließlich auf dem eigenen KI-Server in der EU.
Typische Einsätze im Betrieb
- E-Mails, Angebote und Texte entwerfen
- Dokumente zusammenfassen und durchsuchen
- Kundenanfragen einordnen
- als Kern von KI-Agenten