Funciones de seguridad de los agentes personalizados

Los agentes personalizados operan con permisos propios e independientes, distintos de los permisos individuales de los usuarios. Esto significa que cualquier usuario que pueda usar un agente podría acceder a información a la que de otra manera no podría acceder de forma directa. Las funciones de seguridad de los agentes personalizados te permiten controlar este acceso para mantener tus datos protegidos.

Para conocer las prácticas generales de seguridad de la IA de Notion, consulta las Prácticas de seguridad y privacidad de la IA de Notion y Cómo Notion 3.0 te protege frente a los riesgos de inyección de indicaciones.

Los agentes personalizados incluyen múltiples capas de protección para ayudarte a evitar que se comparta información sensible.

Los administradores del espacio de trabajo pueden gestionar los agentes personalizados en toda la organización mediante un directorio de agentes, controles de creación, búsqueda de contenido, registros de auditoría, estadísticas de IA y herramientas de transferencia de propiedad, para garantizar la visibilidad y el control sobre todos los agentes del espacio de trabajo.

Se mostrará una clara advertencia en la que se explicará a qué recursos sensibles puede acceder el agente y en la que se te solicitará que confirmes que quieres compartirlos. Esto incluye advertencias para:

• Páginas privadas de Notion

• Datos de correo electrónico o de calendario

• Integraciones de terceros

• Acceso a todas las páginas compartidas con todo el espacio de trabajo

Para evitar compartir datos a través de Slack y otras apps de terceros conectadas de forma involuntaria:

• En cada agente personalizado, solo la persona que conectó una integración puede agregar más canales de Slack u otorgar un nivel de acceso mayor (por ejemplo, de Solo lectura a Leer y responder).

• Los usuarios con acceso de edición pueden eliminar conexiones de terceros, pero no pueden ampliar lo que la conexión puede ver.

Para modificar la configuración de una conexión de terceros que no haya configurado un editor, deberán eliminar la integración y volver a conectarla.

Los agentes personalizados incluyen verificaciones de seguridad automáticas para evitar que sigan accediendo a los datos si los editores no cuentan con los permisos adecuados:

• Cada recurso conectado debe tener al menos un editor de agente con acceso a dicho recurso

• Si todos los editores pierden acceso a un recurso, el agente dejará de ejecutarse.

Los agentes personalizados aparecen en el menú Compartir de cualquier página o base de datos a la que tengan acceso, al igual que las personas.

• Puedes ver qué agentes tienen acceso a una página o base de datos específica.

• Puedes identificar claramente qué agentes pueden ver o editar tu contenido.

• Te permite auditar el acceso de un vistazo.

Para comprobarlo, abre una página o base de datos, haz clic en Compartir y busca los agentes personalizados en la lista. Si tienes acceso completo a la página o base de datos, podrás ver su nivel de permiso y eliminarlos si es necesario.

Cualquier usuario con permiso Puede ver e interactuar podrá acceder a la página completa de configuración del agente en modo de solo lectura.

Qué pueden ver los usuarios:

• Instrucciones del agente.

• A qué páginas y bases de datos tiene acceso el agente.

• Herramientas y activadores conectados.

• Todos los detalles de la configuración.

Los administradores del espacio de trabajo pueden gestionar los agentes personalizados en toda la organización mediante un directorio de agentes, controles de creación, búsqueda de contenido, registros de auditoría, estadísticas de IA y herramientas de transferencia de propiedad, para garantizar la visibilidad y el control sobre todos los agentes del espacio de trabajo.

Los agentes personalizados solicitan confirmación antes de acceder a enlaces externos inesperados:

• Si un agente genera una URL que no estaba en la indicación original, se pausará y te pedirá confirmación.

• Recibirás una notificación para revisar y aprobar la URL antes de que el agente continúe.

Al trabajar con la IA de Notion, puedes utilizar el selector de modelos para elegir con qué modelo trabajar. Si pasas el cursor sobre el modelo, verás detalles como la velocidad, la inteligencia y el costo. Los modelos más pequeños suelen ser más rápidos y económicos, pero incluyen una advertencia de que “pueden ser más vulnerables a la infiltración de indicaciones”.

Aunque Notion implementa controles de seguridad para ayudar a proteger frente a la infiltración de indicaciones, la elección del modelo también influye. Los modelos de IA varían en tamaño según la cantidad de parámetros (los valores numéricos internos y entrenables que determinan su funcionamiento). Cuantos más parámetros tiene un modelo, mejor suele rendir en tareas complejas, como distinguir entre instrucciones legítimas o maliciosas. Los modelos más pequeños tienden a ser más susceptibles a seguir instrucciones maliciosas, lo que aumenta el riesgo de ejecutar acciones no deseadas al procesar contenido externo.

Para flujos de trabajo que impliquen datos confidenciales o contenido procedente de fuentes externas o poco confiables,como archivos subidos, documentos compartidos o contenido web, considera seleccionar un modelo más grande. Independientemente del modelo que uses, gestionar con cuidado el contenido no confiable es una de las medidas más efectivas que puedes adoptar para proteger tus datos.