Google & Co: CoSai – Koalition für sichere KI gegründet

Google und diverse andere Unternehmen sind der Auffassung, dass künstliche Intelligenz (KI) einen Sicherheitsrahmen sowie angewandte Standards benötigt. Das hat man im vergangenen Jahr bereits im Rahmen des Secure AI Framework (SAIF) vorgestellt. Mit diversen Branchenkollegen hat man sich jetzt zur Coalition for Secure AI (CoSAI) zusammengetan, und Sicherheitsmaßnahmen zur Bewältigung von Risiken, die mit KI einhergehen, erarbeitet.

Zu den Gründungsmitgliedern von CoSAI gehören Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal und Wiz. CoSAI wird unter dem Dach von OASIS Open untergebracht, dem internationalen Konsortium für Standards und Open Source.

Schwerpunktbereiche der Zusammenarbeit sind derzeit unter anderem die Sicherheit der Software-Lieferkette bei künstlicher Intelligenz. So will man sicherstellen, zu erkennen, wann KI-Software sicher ist. Man bereitet sich zudem auf die Verteidigung der sich verändernden Cybersicherheitslandschaft vor. Bei der Arbeit mit KI gibt es aufgrund der Komplexität keinen einfachen Weg in Sicherheitsbelangen. Zudem geht es um die Steuerung von KI-Sicherheitsfragen und dem Festlegen einer Taxonomie der Risiken und Kontrollen.

Mit der Koalition will man sicherstellen, dass es trotz Fortschritten im Bereich der künstlichen Intelligenz wirksame Strategien zum Risikomanagement gibt. Und man will letztlich ein Rahmenwerk für KI-Sicherheit schaffen, um die Chancen von KI vollständig nutzen zu können.

Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf ge­lan­gt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir ei­ne kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.