Anthropic führt Claude-KI-Agenten für Chrome ein

Anthropic hat kürzlich eine Vorschau seines browserbasierten KI-Agenten "Claude für Chrome" vorgestellt. Dieser Agent basiert auf den fortschrittlichen KI-Modellen des Unternehmens und wird zunächst 1.000 Abonnenten des Anthropic Max-Tarifs zur Verfügung gestellt. Dieser kostet monatlich zwischen 100 und 200 USD. Interessierte Nutzer können sich auf eine Warteliste setzen lassen.

Durch eine Chrome-Erweiterung können ausgewählte Nutzer in einem Seitenfenster mit Claude chatten. Das Besondere daran: Der Agent behält den Kontext aller Aktionen im Browser bei. Zusätzlich können Nutzer dem Agenten die Erlaubnis geben, Aufgaben und Aktionen im Browser selbstständig auszuführen.

Der Wettlauf um den KI-Browser

Der Browser entwickelt sich schnell zum nächsten zentralen Schauplatz für KI-Unternehmen. Sie nutzen die Browserintegration, um eine nahtlosere Verbindung zwischen ihren KI-Systemen und den Nutzern zu schaffen.

• Perplexity hat bereits seinen eigenen Browser Comet mit einem integrierten KI-Agenten auf den Markt gebracht, der Nutzern Aufgaben abnehmen kann.
• OpenAI steht Berichten zufolge ebenfalls kurz vor der Veröffentlichung eines eigenen, KI-gestützten Browsers.
• Google hat in den letzten Monaten bereits Gemini-Integrationen für seinen Chrome-Browser eingeführt.

Dieser Wettlauf gewinnt an Dringlichkeit, insbesondere vor dem Hintergrund eines drohenden Kartellverfahrens gegen Google. Ein Bundesrichter deutete an, dass Google zum Verkauf von Chrome gezwungen werden könnte. Perplexity hat bereits ein Gebot von 34,5 Mrd. USD für Chrome abgegeben, und auch OpenAI-CEO Sam Altman hat Interesse bekundet.

Sicherheitsrisiken und Lösungsansätze

In einem Blogbeitrag wies Anthropic darauf hin, dass die zunehmende Verbreitung von KI-Agenten mit Browserzugriff neue Sicherheitsrisiken birgt. So hatte das Sicherheitsteam von Brave kürzlich eine Schwachstelle im Browser-Agenten von Comet entdeckt. Dabei handelt es sich um indirekte Prompt-Injection-Angriffe, bei denen verborgener Code auf einer Website den Agenten dazu verleiten könnte, schädliche Anweisungen auszuführen. Jesse Dwyer, Kommunikationsleiter von Perplexity, teilte TechCrunch in einer E-Mail mit, dass die von Brave gemeldete Sicherheitslücke behoben wurde.

Anthropic hofft, durch die Forschungsvorschau neue Sicherheitsrisiken zu identifizieren und zu beheben. Das Unternehmen hat jedoch bereits mehrere Schutzmaßnahmen gegen Prompt-Injection-Angriffe eingeführt. Laut Anthropic konnten diese Maßnahmen die Erfolgsquote solcher Angriffe von 23,6 % auf 11,2 % senken. Beispielsweise können Nutzer den Zugriff von Claudes Browser-Agenten auf bestimmte Websites in den App-Einstellungen einschränken. Zudem hat das Unternehmen standardmäßig den Zugriff auf Webseiten für Finanzdienstleistungen, Erwachseneninhalte und Raubkopien blockiert. Vor der Durchführung riskanter Aktionen wie dem Veröffentlichen, Kaufen oder Teilen von persönlichen Daten fragt der Agent stets nach der Erlaubnis des Nutzers.

Fortschritte in der agentischen KI

Dies ist nicht Anthropics erster Versuch, KI-Modelle zur Steuerung des Computerbildschirms zu entwickeln. Bereits im Oktober 2024 brachte das Unternehmen einen KI-Agenten auf den Markt, der PCs steuern konnte. Damalige Tests zeigten jedoch, dass das Modell recht langsam und unzuverlässig war. Die Fähigkeiten agentischer KI-Modelle haben sich seitdem deutlich verbessert. Moderne browserbasierte Agenten wie Comet und ChatGPT sind heute in der Lage, einfache Aufgaben für Nutzer zuverlässig zu erledigen. Bei komplexeren Problemen kämpfen viele dieser Systeme jedoch weiterhin mit Herausforderungen.