O Google introduz proteções de segurança aprimoradas nos recursos de agentes do Chrome.

Recursos de segurança aprimorados para navegação ativa no Chrome

O Google revelou recentemente as robustas medidas de segurança que implementou para proteger os recursos de agentes no Chrome, um passo crucial para aumentar a segurança do usuário ao navegar na web. A estrutura Gemini foi projetada para proteger tanto a si mesma quanto os usuários contra ameaças online emergentes.

Entendendo o cenário de ameaças

Um dos principais desafios de segurança identificados pelo Google é a injeção indireta de prompts. Esse tipo de ataque envolve prompts sequestrados que induzem algoritmos de IA ao erro, podendo desencadear ações não autorizadas. Essas vulnerabilidades podem surgir por meio de interações com sites maliciosos ou por meio de conteúdo de terceiros incorporado em iframes. Além disso, avaliações imprecisas geradas por usuários também podem propagar esses prompts maliciosos, levando a riscos como transações financeiras não autorizadas e a exposição inadvertida de dados sensíveis.

Uma estratégia de defesa em camadas

Para combater essas ameaças, o Google está implementando uma estratégia de defesa multifacetada que incorpora camadas determinísticas e probabilísticas. Essa abordagem não apenas complica o processo de ataque para entidades maliciosas, como também aumenta os custos associados para potenciais ameaças.

Análise crítica do alinhamento do usuário: um componente essencial

No cerne dessa defesa está o Analista de Alinhamento do Usuário (UAC, na sigla em inglês), um modelo projetado para operar independentemente da estrutura principal do Gemini. O papel do UAC é realizar avaliações minuciosas após o planejamento para garantir que as ações propostas estejam alinhadas aos objetivos do usuário. Se qualquer desalinhamento for detectado, o UAC intervém para bloquear a ação, salvaguardando os interesses do usuário. Para mais detalhes sobre esse processo, consulte o fluxograma em anexo.

Protocolos de segurança aprimorados para o site

O Google enfatiza a importância do Isolamento de Sites do Chrome e da política de mesma origem, que formam a espinha dorsal da arquitetura de segurança baseada em agentes. Embora os recursos de agentes permitam o acesso entre sites, permissões irrestritas podem levar a graves violações de dados. Para mitigar esses riscos, a IA Gemini adere a Conjuntos de Origens de Agentes rigorosos, limitando o acesso aos dados apenas às origens pertinentes à tarefa atual ou aos cenários de compartilhamento de usuários.

Conjuntos de origem de IA agentiva do Chrome

Permissões e Confirmação do Usuário

A IA é programada para solicitar a permissão do usuário antes de navegar para áreas sensíveis, incluindo sites de bancos e de saúde. Uma verificação determinística é realizada em uma lista selecionada de URLs sensíveis para garantir a segurança. Por exemplo, antes de usar o Gerenciador de Senhas do Google para fazer login em um site, a IA precisa confirmar com o usuário, mantendo uma barreira de proteção contra acesso não autorizado. Além disso, o consentimento do usuário é necessário para ações críticas, como finalizar compras ou enviar mensagens.

Registro do agente de IA do Google Chrome

Monitoramento contínuo de ameaças

Além dessas medidas de proteção, o Google emprega diversas metodologias para detectar e neutralizar ativamente ameaças potenciais. Inovações como a verificação em tempo real do Chrome com a Navegação Segura, juntamente com algoritmos de IA integrados ao dispositivo, desempenham um papel vital no combate a golpes tradicionais. Além disso, um classificador de injeção de avisos simultâneo opera em conjunto com a inferência do modelo de planejamento, bloqueando proativamente ações prejudiciais que se desviam dos objetivos pretendidos pelo usuário.

Olhando para o futuro

Para uma análise detalhada desses avanços em segurança, consulte o anúncio completo no blog do Google.À medida que o cenário da navegação interativa se desenvolve, o Google Chrome está preparado para competir com tecnologias emergentes como Perplexity Comet e ChatGPT Atlas.