Stand 2026
KI-Risiken: Chancen, Restrisiken und der Weg zu sicherer Anwendung
Vom Experiment zur produktiven Anwendung
Der Einsatz von KI – insbesondere von generativer KI – entwickelt sich rasant vom Experiment zur produktiven Anwendung in vielen Funktionen (Kundenservice, Marketing, Softwareentwicklung, Risiko-/Betrugserkennung, HR-Prozesse, Wissensmanagement). Damit steigen Effizienz- und Innovationspotenziale, gleichzeitig entstehen neue Risikoarten, die klassische IT- oder Compliance-Kontrollen nur teilweise abdecken. Ein zentrales Merkmal aktueller KI-Systeme ist, dass Ergebnisse probabilistisch sind: Modelle können plausible, aber falsche Inhalte erzeugen („Halluzinationen"), Quellen erfinden oder verzerrte Entscheidungen treffen, wenn Trainingsdaten nicht repräsentativ sind. Zudem sind viele Modelle schwer erklärbar; die Nachvollziehbarkeit von Entscheidungen kann begrenzt sein – insbesondere bei automatisierten Prozessen.
Shadow AI und neue Bedrohungslandschaft
Ein weiterer aktueller Risikotreiber ist die Geschwindigkeit der Einführung („Shadow AI"): Mitarbeitende nutzen KI-Tools ausserhalb freigegebener Umgebungen, laden sensible Informationen hoch oder integrieren KI in Arbeitsabläufe, ohne dass Datenschutz, Geheimhaltung, Urheberrecht oder Sicherheitsanforderungen ausreichend geklärt sind. Gleichzeitig verändert KI die Bedrohungslandschaft: Sie kann für Social Engineering, Deepfakes oder automatisierte Angriffsvorbereitung missbraucht werden, was Identitäts- und Betrugsrisiken erhöht. Regulatorisch ist das Umfeld dynamisch; Anforderungen an Transparenz, Datenherkunft, Risikoklassierung und Governance nehmen zu. Unternehmen müssen daher nicht nur technische Risiken (Modellqualität, Robustheit, Security), sondern auch rechtliche und reputationsbezogene Risiken (Datenschutz, IP, Diskriminierung, Irreführung) steuern.
KI als Querschnittsthema mit strategischer Bedeutung
Für Unternehmen ist KI damit ein Querschnittsthema mit strategischer Bedeutung: Der Nutzen entsteht dort, wo KI sicher, kontrolliert und mit klaren Verantwortlichkeiten eingesetzt wird. Das Restrisiko steigt dort, wo KI unkontrolliert in kritische Entscheidungen eingebettet wird oder wo Daten-/Modellrisiken nicht transparent sind. Entscheidend sind eine klare KI-Governance (Wer darf was und wofür), geeignete Kontrollmechanismen (Validierung, Monitoring, Human-in-the-Loop) und eine pragmatische Balance zwischen Innovationsfähigkeit und Risikoappetit. Ziel ist nicht, KI zu vermeiden, sondern sie so einzusetzen, dass Qualität, Compliance und Vertrauen gesichert bleiben.
Entwicklung des Risikos
In der Zeitreihe wird die Dynamik des Risikos über die Jahre hinweg aufgezeigt. Die Punkte zeigen die jeweilige Bewertung des Risikos im jährlich publizierten Funk Global Risk Consensus.
Methode info
Ursachen
- Mangelnde Governance: Unkontrollierte Tool-Nutzung (Shadow AI), fehlende Richtlinien und Freigabeprozesse
- Datenmanagement: Unklare Datenherkunft und -qualität, sensibler Datenabfluss, unzureichende Anonymisierung
- Modellrisiken: Halluzinationen, Bias, mangelnde Erklärbarkeit, fehlende Robustheit
- Sicherheitsrisiken: Prompt-Injection, Datenexfiltration, unsichere Integrationen und APIs
- Markt- und Complianceanforderungen: Dynamische Regulierung und steigende Kunden- und Partneranforderungen
Auswirkungen
- Fehlentscheidungen: falsche Empfehlungen, fehlerhafte Automatisierung, Qualitätsmängel
- Recht & Compliance: Datenschutzverstösse, IP- und Urheberrechtsrisiken, Diskriminierungs- oder Transparenzpflichten
- Reputation: Vertrauensverlust durch falsche oder irreführende KI-Outputs, ethische Kritik
- Security & Fraud: Deepfakes, Identitätsmissbrauch, Social Engineering
- Abhängigkeiten: Vendor Lock-in, Preis- und Verfügbarkeitsrisiken, unklare Haftungsketten
- Betrieb: Kostenvolatilität (Token/Compute), Leistungs- und Latenzprobleme, Monitoring- und Governance-Aufwände
Bewältigungsmassnahmen
- KI-Governance: Policy, Risikoklassierung (kritische vs. nichtkritische Use Cases), Verantwortlichkeiten, GL-Oversight
- Sichere Plattform: freigegebene Tools und Modelle, Datenraumkonzepte, Zugriffskontrollen, Protokollierung
- Qualitätskontrollen: Validierung, Red-Teaming, Bias-Tests, fachliche Freigabe, Human-in-the-Loop bei kritischen Entscheidungen
- Datenschutz & IP: klare Regeln zu Dateninput, Vertragsklauseln mit Anbietern, Datenminimierung und Anonymisierung
- Security by Design: sichere Integrationen, Prompt-Injection-Schutz, Secret-Handling, Monitoring von Missbrauch
- Befähigung: Schulungen für Mitarbeitende und Management, definierte Do's & Don'ts, Meldewege für Vorfälle
- Kontinuierliches Monitoring: Modell-Drift, Output-Qualität, Kosten, regulatorische Entwicklungen
Ihr Risikospezialist
Max Keller
Lead Funk RiskLab, MAS Digital Business
Telefon +41 58 311 05 51
max.keller@funk-gruppe.ch