Anthropic prueba una extensión de Claude para Google Chrome que permite ejecutar acciones mediante IA de forma segura

Anthropic ha comenzado a probar un nuevo agente de inteligencia artificial (IA) de Claude en formato de extensión para Google Chrome, de manera que los usuarios puedan utilizar las capacidades de IA del asistente directamente en el navegador, manteniendo barreras de seguridad.

La compañía ha compartido la importancia que está adquiriendo el uso de la IA en la experiencia de navegación como algo "inevitable". Sin embargo, también ha subrayado que esta práctica plantea ciertos desafíos de seguridad que "requieren medidas de protección más sólidas".

En este marco, Anthropic ha desarrollado un agente en forma de extensión en Chrome, que se ha lanzado como una prueba para permitir el uso de las capacidades de IA de Claude directamente en el navegador de Google, de forma controlada y segura.

Esta extensión servirá para resolver los desafíos de seguridad que plantea la IA en los navegadores, de cara a "evitar comportamientos indeseables", proteger mejor a los usuarios de Claude y compartir los conocimientos de la prueba con aquellos que desarrollen próximamente un agente que utilice navegadores en la API de la compañía.

En concreto, con la extensión de Claude en Chrome, los usuarios podrán conversar a través de un chat que aparecerá en una venta lateral y el asistente tendrá conocimiento de lo que se muestra en la pantalla del navegador para resolver mejor sus solicitudes.

Igualmente, también podrá completar algunas tareas en nombre de los usuarios. Por ejemplo, puede rellenar datos en formularios de compra de forma autónoma. La extensión también puede administrar calendarios, programar reuniones, redactar respuestas por correo electrónico, manejar informes de gastos o probar nuevas funciones de sitios web.

Tal y como ha detallado la compañía en un comunicado en su blog, esta prueba se ha comenzado a llevar a cabo para un grupo de 1.000 suscriptores del plan Max de Anthropic, aunque también se ha abierto una lista de espera para otros usuarios interesados.

SEGURIDAD PARA NAVEGAR CON IA

Anthropic ha adelantado igualmente que ampliará el acceso gradualmente a medida que desarrollen medidas de seguridad "más sólidas", dado que aún quedan "algunas vulnerabilidades por corregir" antes de que se ofrezca Claude para Chrome a nivel general.

Según ha explicado, estas vulnerabilidades se basan en problemas a los que también se enfrentan los usuarios en la navegación del día a día, como intentos de 'phishing' en la bandeja de entrada del correo.

Sin embargo, también se basan en ataques de inyección rápida, en los que los actores maliciosos ocultan instrucciones en sitios web, correos electrónicos o documentos para engañar a la IA y hacer que realice acciones dañinas sin el consentimiento de los usuarios.

Todo ello puede provocar la eliminación de archivos, el robo de datos o la realización de transacciones financieras, tal y como han comprobado desde Anthropic en sus pruebas.

Para evitar este tipo de consecuencias maliciosas, la extensión de Claude incluye mitigaciones de permisos a nivel de sitio, con los que los usuarios pueden aceptar o denegar el acceso de Claude a ciertos sitios web desde la configuración.

Igualmente, también se han incluido confirmaciones de acciones, con las que el asistente pregunta al usuario antes de realizar acciones de alto riesgo, como publicar, comprar o compartir datos personales.