Octa, öffentliche Shadow AI Echtzeit-Tracking-Technologie…… Umfassende Verstärkung der Sicherheitskontrolle

Im Kontext der unkontrollierten Nutzung von Künstlicher Intelligenz, die sich zunehmend zu einer Sicherheitsbedrohung entwickelt, reagiert das Identitäts- und Zugriffsmanagement-Unternehmen Okta, indem es die Erkennung nicht autorisierter KI-Vertreter (sogenannter “Shadow AI”) verstärkt. Am 12. (Ortszeit) kündigte Okta an, auf seiner Plattform für Identitätssicherheitslageverwaltung eine Funktion hinzugefügt zu haben, die Shadow AI erkennen sowie deren Berechtigungen verfolgen und verwalten kann.

Die neu eingeführte Funktion “Agenten-Erkennung” ermöglicht es, systematisch die Berechtigungen und den Datenzugriffsbereich der KI-Vertreter innerhalb der Organisation zu erfassen und so den sicheren Betrieb der KI innerhalb der Sicherheitskontrollen zu gewährleisten. Diese Funktion kann insbesondere AI-Vertreter erkennen, die auf nicht autorisierten Plattformen generiert wurden, und in Echtzeit Verhaltensweisen verfolgen, bei denen Daten im Rahmen des OAuth-Autorisierungsprozesses an externe Unternehmen übertragen werden.

Harish Peri, Leiter der Abteilung für KI-Sicherheit bei Okta, betonte: “KI-Vertreter operieren auf Anwendungsebene und nicht auf Netzwerk- oder Geräteebene und üben durch nicht-menschliche Identitäten kontinuierlich und umfassend Berechtigungen aus.” Er fügte hinzu: “Diese neue Funktion zielt darauf ab, unautorisierte KI-Nutzung zu erkennen und entsprechende Gegenmaßnahmen zu entwickeln.”

Die Bedenken hinsichtlich Shadow AI wurden kürzlich auch in einem Bericht von Gartner bestätigt. Demnach verfolgen 69 % der Unternehmen die Nutzung nicht autorisierter generativer KI-Tools durch Mitarbeiter, und bis 2030 wird erwartet, dass mehr als 40 % der Unternehmen Sicherheits- oder Compliance-Verstöße aufgrund von Shadow AI erleben werden. Okta ist der Ansicht, dass dieses Sicherheits-“Fehlen an Sichtbarkeit” auf die schnelle Verbreitung von KI-Vertreter-Generierungstools sowie die zunehmende Nutzung unzureichend geprüfter KI-Builder zurückzuführen ist.

Mit diesem Update bietet Okta eine einheitliche Sicherheitsansicht über Cloud-Infrastrukturen und SaaS-Ökosysteme von Oracle, Google, Microsoft, Salesforce und anderen, um das Management nicht-menschlicher Identitäten zu integrieren. Dadurch können Administratoren die Eigentümer, Berechtigungsbereiche und potenziellen Sicherheitsrisiken aller Arten von KI-Vertretern (unabhängig von ihrer Genehmigung) erkennen.

Darüber hinaus plant Okta, die Erkennungsfähigkeit bis zum ersten Quartal des Geschäftsjahres 2027 auf wichtige KI-Plattformen wie Microsoft Copilot Studio, Salesforce Agentforce und andere auszuweiten. Ziel ist es, die Verfolgung der Berechtigungen und Risikofaktoren, die diesen KI-Vertretern zugewiesen werden, zu verstärken.

Jenna Cline, Senior Vice President für Business Technology, sagte: “Okta verfolgt bei KI-Anwendungen eine Strategie, die Governance vor Funktionsausbau stellt,” und betonte die kontinuierliche Kontrolle als grundlegenden Ansatz.

Shadow AI kann sich in Unternehmen, die agil KI einführen, leicht zu unkontrollierbaren Technologien entwickeln. Daher wird die erweiterte ISPM-Funktion von Okta als eine Maßnahme gesehen, die die Weiterentwicklung der Sicherheitsstrategie des Unternehmens widerspiegelt: Während Innovationen im Bereich KI begrüßt werden, bleibt die Sicherheit und Kontrolle gewahrt.