Der KI-Chiphersteller Nvidia hat gemeinsam mit 40 weiteren Technologieunternehmen die «Open Secure AI Alliance» gegründet. Gemeinsam sollen Sicherheitsstandards für KI-Systeme und KI-Agenten entwickelt werden.
Die Ankündigung erfolgte wenige Tage, nachdem der ChatGPT-Betreiber OpenAI bekannt gemacht hatte, dass zwei seiner KI-Modelle durchgebrannt waren und in eine digitale KI-Bibliothek eingedrungen sind.
Dies habe erneut die Debatte darüber «entfacht, ob die Technologie frei zugänglich sein oder von einer kleinen Gruppe von Experten streng kontrolliert werden sollte», schrieb die «New Youk Times» bereits am Montag dazu.
Zu den Gründungsmitgliedern gehören unter anderem Microsoft, IBM, SAP, Dell, Palantir und SpaceXAI. Google, OpenAI und Anthropic machen bei der Allianz nicht mit.
Die neue Allianz will auf offene Technologien setzen, um Sicherheitswerkzeuge und Schutzmechanismen für KI breiter verfügbar zu machen.
Geplant sind unter anderem gemeinsame Standards für besonders geschützte Testumgebungen, sogenannte «Sandboxes». Aber auch Protokolle, die die Entscheidungen und Handlungen von KI-Agenten aufzeichnen, sodass sie rekonstruiert werden können.
Die beteiligten Unternehmen argumentieren gegen eine strengere Regulierung offener KI-Modelle. Sie warnen vor einer immer stärkeren Abhängigkeit von ein paar wenigen Anbietern geschlossener Systeme.
