KI in Ihrer Anwendung — was Sie wissen sollten.
Fünf Sätze, die Sie nie sagen wollen
Niemand stoppt ein KI-Projekt, weil die Technologie unerprobt wäre. Gestoppt wird wegen dieser fünf Sätze — und weil niemand benennen konnte, was sie verhindert. Jeder hat ein konkretes Gegenstück, das in der Anwendung eingebaut wird.
«Es hat gelesen, was es nicht durfte.»
Die Anwendung hat die Rechte einer Person geerbt und sah Löhne, Verträge, Dossiers anderer Kunden. **Was sie hält:** ein eigenes Konto mit einem eigenen, kleineren Ausschnitt — nie Ihres.
«Es ist einfach durchgelaufen.»
Ein Schritt, der vorbereitet und geprüft werden sollte, lief bis zum Ende, ohne anzuhalten. **Was sie hält:** feste, versionierte Schritte. Was nicht auf der Liste steht, hält an und wartet.
«Es hat das getan, ohne zu fragen.»
Geld floss, eine Nachricht verliess das Haus, ein Datensatz änderte sich — ohne Mensch dazwischen. **Was sie hält:** Jede unumkehrbare Aktion hat eine namentliche Freigabe und eine Ansicht davor.
«Jemand hat es ihm gesagt — und es hat gehorcht.»
Eine Anweisung, versteckt in einer E-Mail, einem PDF oder einer Webseite, wurde befolgt wie Ihr Auftrag. **Was sie hält:** Alles, was die Anwendung liest, gilt als Inhalt. Aufträge kommen nur von Ihnen.
«Es hat etwas gesagt, was nie freigegeben war.»
Interne Margen, ein Richtlinien-Entwurf, der Name eines anderen Kunden tauchten in einer Antwort auf. **Was sie hält:** eine Freigabeliste. Was nicht darauf steht, geht nicht raus — auch wenn das Modell es wüsste.
Verlässlich ist nicht das Modell — verlässlich ist die Anwendung darum herum
Solange KI ein Werkzeug war, das ein Mensch bedient, war Sicherheit eine Frage der Bedienung. Heute sitzt sie im Ablauf — und damit wird ihre Unsicherheit zur Eigenschaft Ihrer Anwendung.
Das Bauteil ist nicht garantiert
Es liegt meistens richtig — nicht immer, und niemand kann vorher sagen, wann nicht. Genau darauf muss die Anwendung ausgelegt sein.
Der zehnte Fall entscheidet
Ein Bauteil, das in neun von zehn Fällen richtig liegt, trägt eine Anwendung, auf die Sie sich verlassen — wenn der zehnte Fall aufgefangen wird, bevor er wirkt. Dasselbe Bauteil ruiniert sie, wenn dieser Fall ungebremst in eine Zahlung, eine Kundenmail oder einen Vertrag läuft.
Der Unterschied liegt nie im Bauteil
Er liegt in dem, was darum herum gebaut ist. Sie kaufen kein zuverlässiges Modell. Sie lassen eine zuverlässige Anwendung um ein unzuverlässiges Teil herum bauen.
Ein neuer Mitarbeiter, der schnell ist und manchmal überzeugt danebenliegt
Kein Unternehmen ist verlässlich, weil jeder Mitarbeiter unfehlbar wäre. Es ist verlässlich, weil Kontrollen die Fehler abfangen, bevor sie teuer werden. Für KI im System gilt exakt dasselbe — und es sind dieselben Mechanismen, die Sie längst haben.
Unterschriftenregelung
Ab einem bestimmten Betrag unterschreibt nicht mehr, wer bestellt. Für die KI heisst das: ab einer Schwelle handelt sie nicht mehr allein.
Zugriffsberechtigungen
Nicht jeder sieht jedes Dossier. Die KI bekommt kein Generalabo, sondern ein eigenes Konto mit einem kleinen Ausschnitt.
Vier-Augen-Prinzip
Heikles schaut ein Zweiter an. Bei der KI ist der Zweite zuerst eine Regel — und bei Unumkehrbarem ein Mensch.
Revisionssicherheit
Was getan wurde, bleibt nachvollziehbar. Für die KI: jeder Fall nachspielbar, auch ein halbes Jahr später.
Wie stark lernt das System — und ab wann hört Nachspielen auf?
Diese Stufe wird beim Einkauf fast nie gefragt. Sie ist die einzige, die eine Zusage von heute morgen wertlos machen kann.
L0 — Eingefroren
Das Verhalten ändert sich nur, wenn jemand bewusst eine neue Version ausliefert. **Folge:** Der Test von gestern gilt. Prüfen vor jedem Release reicht.
L1 — Wissen wächst
Das Modell bleibt gleich, greift aber auf Dokumente zu, die jemand pflegt. Ändert sich ein Dokument, ändert sich die Antwort. **Folge:** Die Dokumentenpflege wird Teil der Qualitätssicherung. Wer pflegt, entscheidet mit.
L2 — Geplant erneuert
Das Modell wird periodisch nachtrainiert, ein geplanter Wechsel mit Datum. **Folge:** Jeder Wechsel ist ein Release: vorher prüfen, Ergebnis vergleichen, erst dann umschalten.
L3 — Sammelt Erfahrung
Die Anwendung merkt sich Fälle und Rückmeldungen und verhält sich nach tausend Fällen anders als am ersten Tag. **Folge:** Der Wissensstand muss mitversioniert werden wie Software — sonst gibt es auf «wie konnte das passieren» nur noch eine Vermutung.
L4 — Lernt im Betrieb
Das System verändert sich laufend, während es arbeitet. **Folge:** Für ein KMU fast nie die richtige Antwort. Wenn doch: nur mit Schattenbetrieb, engen Grenzen und ständiger Überwachung.
Was Entscheidende uns dazu fragen
Welcher KI-Ansatz passt zu Ihrem Fall?
Diese Seite sagt, was eingebaut sein muss. Welche Art KI Ihr Fall überhaupt braucht — Regeln, Vorhersage, Sprache oder ein Agent — klärt die Technologie-Seite, samt kostenlosem Berater.
Bereit für den nächsten Schritt?
Michael — Nutzen Sie unsere Enterprise Portal Software für die Realisierung von innovativen digitalen Produkten. Michael berät Sie gerne.