Google führt verbesserte Sicherheitsvorkehrungen in den Agentic-Funktionen von Chrome ein.

Erweiterte Sicherheitsfunktionen für Agentic Browsing in Chrome

Google hat kürzlich die umfassenden Sicherheitsmaßnahmen vorgestellt, die zum Schutz der agentenbasierten Funktionen in Chrome implementiert wurden – ein wichtiger Schritt zur Verbesserung der Nutzersicherheit beim Surfen im Internet. Das Gemini-Framework ist darauf ausgelegt, sowohl Google selbst als auch die Nutzer vor neuen Online-Bedrohungen zu schützen.

Die Bedrohungslandschaft verstehen

Eine der größten Sicherheitsherausforderungen, die Google identifiziert hat, ist die indirekte Manipulation von Eingabeaufforderungen. Bei dieser Angriffsart werden Eingabeaufforderungen abgefangen, um KI-Algorithmen in die Irre zu führen und potenziell unautorisierte Aktionen auszulösen. Solche Schwachstellen können durch Interaktionen mit schädlichen Websites oder durch in iFrames eingebettete Inhalte von Drittanbietern entstehen. Darüber hinaus können fehlerhafte Nutzerbewertungen diese schädlichen Eingabeaufforderungen ebenfalls verbreiten und so Risiken wie unautorisierte Finanztransaktionen und die unbeabsichtigte Offenlegung sensibler Daten bergen.

Eine mehrschichtige Verteidigungsstrategie

Um diesen Bedrohungen zu begegnen, setzt Google eine vielschichtige Verteidigungsstrategie ein, die sowohl deterministische als auch probabilistische Elemente umfasst. Dieser Ansatz erschwert nicht nur Angriffe für Angreifer, sondern erhöht auch die damit verbundenen Kosten für potenzielle Bedrohungen.

Kritiker der Nutzerausrichtung: Eine Schlüsselkomponente

Kernstück dieser Verteidigung ist der User Alignment Critic (UAC), ein Modell, das unabhängig vom Gemini-Hauptframework arbeitet. Die Aufgabe des UAC besteht darin, nach der Planungsphase gründliche Bewertungen durchzuführen, um sicherzustellen, dass die vorgeschlagenen Maßnahmen mit den Nutzerzielen übereinstimmen. Wird eine Abweichung festgestellt, greift der UAC ein, um die Maßnahme zu blockieren und so die Nutzerinteressen zu schützen. Weitere Details zu diesem Prozess finden Sie im beigefügten Flussdiagramm.

Erweiterte Sicherheitsprotokolle für Standorte

Google betont die Bedeutung der Chrome- Site-Isolation und der Same-Origin-Policy, die das Rückgrat der agentenbasierten Sicherheitsarchitektur bilden. Obwohl agentenbasierte Funktionen den seitenübergreifenden Zugriff ermöglichen, könnten uneingeschränkte Berechtigungen zu schwerwiegenden Datenschutzverletzungen führen. Um diese Risiken zu minimieren, hält sich die Gemini AI an strenge Agent Origin Sets und beschränkt den Datenzugriff auf diejenigen Ursprünge, die für die jeweilige Aufgabe oder das Nutzer-Sharing-Szenario relevant sind.

Berechtigungen und Benutzerbestätigung

Die KI ist so programmiert, dass sie vor dem Aufruf sensibler Bereiche, wie beispielsweise Bank- und medizinischer Webseiten, die Zustimmung des Nutzers einholt. Um die Sicherheit zu gewährleisten, wird eine systematische Überprüfung anhand einer Liste sensibler URLs durchgeführt. Bevor beispielsweise der Google Passwort-Manager zum Anmelden auf einer Webseite verwendet wird, muss die KI die Zustimmung des Nutzers einholen und so unbefugten Zugriff verhindern. Auch für kritische Aktionen wie den Abschluss von Käufen oder das Versenden von Nachrichten ist die Zustimmung des Nutzers erforderlich.

Kontinuierliche Bedrohungsüberwachung

Über diese Schutzmaßnahmen hinaus setzt Google verschiedene Methoden ein, um potenzielle Bedrohungen aktiv zu erkennen und zu neutralisieren. Innovationen wie der Echtzeit-Scan von Chrome mit Safe Browsing spielen zusammen mit geräteinternen KI-Algorithmen eine entscheidende Rolle im Kampf gegen herkömmliche Betrugsmaschen. Darüber hinaus arbeitet ein paralleler Klassifikator zur Erkennung unerwünschter Aktionen mit dem Planungsmodell zusammen und blockiert proaktiv schädliche Aktionen, die von den beabsichtigten Zielen des Nutzers abweichen.

Blick in die Zukunft

Eine detaillierte Beschreibung dieser Sicherheitsverbesserungen finden Sie in der ausführlichen Ankündigung im Google-Blog. Angesichts der Weiterentwicklung des agentenbasierten Browser-Designs ist Google Chrome bestens gerüstet, um mit neuen Technologien wie Perplexity Comet und ChatGPT Atlas zu konkurrieren.