Künstliche Intelligenz ist längst fixer Bestandteil vieler Geschäftsprozesse. Doch eine neue Studie offenbart: Trotz der weiten Verbreitung automatisierter KI-Systeme fehlt es in vielen Unternehmen an ausgereiften Kontrollstrukturen.
Für die Erhebung befragte das Marktforschungsunternehmen Censuswide im Auftrag von Red Hat 500 IT-Entscheidungsträger aus Deutschland, Frankreich, Großbritannien, Italien und den Niederlanden.
Die Ergebnisse zeigen ein widersprüchliches Bild, wie computerwoche.de berichtet: Zwar geben beeindruckende 97 Prozent der deutschen Befragten an, genau zu wissen, wo ihre Daten gespeichert und verarbeitet werden - ein Spitzenwert im europäischen Vergleich. Doch bei der Handlungsfähigkeit hapert es gewaltig.
Nur etwas mehr als die Hälfte der deutschen Unternehmen (57 Prozent) verfügt über eine definierte Exit-Strategie, falls der KI-Anbieter den Zugang einschränkt oder die Bedingungen ändert. Für mehr als ein Drittel (37 Prozent) hätte ein plötzlicher Wechsel moderate bis erhebliche Auswirkungen auf das Geschäft.
Experten sprechen von einer "Illusion der Kontrolle": Wer zwar sieht, was passiert, aber im Ernstfall nicht eingreifen kann, ist nicht wirklich souverän.
Besonders bei sogenannten autonomen KI-Agenten hinkt die Kontrolle hinterher. Nur 30 Prozent der deutschen Unternehmen haben dafür eine ausgereifte Governance. Fast ein Drittel agiert mit kaum vorhandenen oder gar keinen Richtlinien - ein Sicherheitsrisiko.
Der Ruf nach Unterstützung wird laut: 72 Prozent der Befragten fordern, dass Open-Source-Prinzipien gesetzlich verankert werden, um die digitale Souveränität zu sichern. 69 Prozent sehen Open Source als entscheidenden Hebel, um die Kontrolle über die eigene technologische Zukunft zurückzugewinnen.
"KI-Souveränität entsteht nicht durch den Einsatz einzelner Technologien, sondern durch die Fähigkeit, sie kontrolliert zu orchestrieren", sagt Gregor von Jagow, Deutschland-Chef von Red Hat.
