Alibaba sperrt Claude Code wegen angeblicher Sicherheitsbedenken durch Hintertüren

Laut einer mit der Entscheidung vertrauten Person hat Alibaba seinen Mitarbeitern ab dem 10.07. die Nutzung von Anthropic's Claude Code in Arbeitsumgebungen wegen angeblicher Sicherheitsbedenken im Zusammenhang mit eingebetteten Hintertüren untersagt.

Laut einer mit der Angelegenheit vertrauten Quelle wird die Einschränkung in allen internen Arbeitsumgebungen von Alibaba gelten und tritt am 10.07. in Kraft. Die Person sagte, das Unternehmen habe die Entscheidung wegen angeblicher Sicherheitsrisiken im Zusammenhang mit eingebetteten Hintertüren im Coding-Assistenten getroffen.

Zum Zeitpunkt der Veröffentlichung hat Alibaba keine offizielle Stellungnahme abgegeben, und es wurden keine weiteren Details zu den angeblichen Sicherheitsbedenken oder dem Umfang der Einschränkung bekannt gegeben.

Claude erleidet einen weiteren Rückschlag bei Unternehmen

Die neueste Entwicklung erfolgt nur Wochen nachdem Anthropic's Claude-Modelle den Zugriff auf eine weitere große Unternehmenskundengruppe in Hongkong verloren hatten. Im Juni berichtete die Financial Times, dass JPMorgan Mitarbeitern in Hongkong untersagt habe, Claude-Modelle aus der genehmigten Liste der Large Language Models der Bank auszuwählen, aufgrund von Anthropic's Lizenzbedingungen, die regeln, wo die Modelle verwendet werden dürfen.

Dem Bericht zufolge hatte Goldman Sachs zuvor eine ähnliche Einschränkung eingeführt, nachdem festgestellt wurde, dass Anthropic's Nutzungsbedingungen die Nutzung in ganz Großchina, einschließlich Hongkong, ausschließen. Anthropic teilte der Financial Times später mit, dass Claude in Hongkong nie offiziell unterstützt worden sei, während JPMorgan einen Kommentar ablehnte.

Laut der Financial Times verstärkten diese Einschränkungen die Bedenken einiger Finanzinstitute in Hongkong, da fortschrittliche KI-Tools immer tiefer in die Workflows der Softwareentwicklung, Forschung und Finanzdienstleistungen integriert werden.

Anthropic hat kürzlich seine neuesten Modelle wiederhergestellt

Die Entscheidung von Alibaba folgt auch auf einige turbulente Wochen für Anthropic's neueste KI-Systeme. Am 01.07. stellte das Unternehmen den öffentlichen Zugriff auf seine Modelle Claude Fable 5 und Mythos 5 wieder her, nachdem die US-Behörden die Exportbeschränkungen aufgehoben hatten, die Anthropic im Juni zur Aussetzung gezwungen hatten.

Anthropic gab an, die Bereitstellung nach eigenen Angaben produktiven Gesprächen mit US-Beamten wieder aufgenommen und neue Klassifizierer hinzugefügt zu haben, die entwickelt wurden, um mehr cybersicherheitsrelevante Aufgaben zu erkennen und zu sperren. Das Unternehmen erklärte, dass die zusätzlichen Sicherheitsmaßnahmen die Bedenken der Regierung bezüglich möglichen Missbrauchs durch Jailbreak-Techniken adressierten.

Während Anthropic seine Technologie verteidigte, argumentierte das Unternehmen, dass der berichtete Jailbreak eine begrenzte Methode und keine universelle Umgehung der Sicherheitsvorkehrungen der Modelle beinhaltete. Das Unternehmen kündigte zudem eine erweiterte Zusammenarbeit mit der US-Regierung bei Modelltests, Sicherheitsbewertungen, Missbrauchsverfolgung und dem Informationsaustausch im Zusammenhang mit Jailbreak-Risiken an.