Introducción
En Five Cents, Agentes de IA con permisos, explica qué cambia cuando una inteligencia artificial deja de responder y empieza a actuar: el caso de Muse de Meta, los límites que debería tener y cómo encaja en la normativa europea. El punto de partida es sencillo: no es lo mismo aconsejar una compra que hacerla. Ahí empieza el verdadero cambio.
Un chatbot produce información
Un chatbot produce información. Puede redactar un correo, comparar vuelos o recomendar un producto. Pero la ejecución queda en manos de la persona. Un agente persigue un objetivo y encadena pasos. Abre servicios conectados, consulta datos, rellena formularios, reserva, compra o envía mensajes. Puede hacerlo, además, en segundo plano.
Meta presentó Muse como un agente personal capaz de realizar tareas de varios pasos. La empresa anuncia que puede navegar, preparar documentos, enviar correos, reservar viajes y efectuar compras. Para ello, usa una máquina virtual aislada, con navegador propio. También plantea permisos por aplicación, aprobaciones y un historial de actividad. Son controles relevantes, pero siguen siendo promesas del fabricante hasta que haya pruebas independientes de cómo funcionan en situaciones reales.
La diferencia clave no es que la IA escriba mejor. Es que un error deja de ser solo una respuesta equivocada. Si entiende mal “busca algo barato”, puede elegir una tarifa no reembolsable. Si confunde una fecha o un destinatario, puede reservar mal un viaje o enviar un correo desde una cuenta concreta. Y si encuentra instrucciones maliciosas en una web o un documento, puede intentar seguirlas.
Por eso, los permisos no deberían ser un único “acepto”. Conviene separar niveles. Leer un calendario o consultar un pedido no equivale a enviar un mensaje. Preparar una reserva no equivale a confirmarla. Las acciones reversibles, como guardar un borrador o crear una cita provisional, pueden tener más autonomía. Pero pagar, cancelar, publicar, compartir datos sensibles o aceptar condiciones contractuales debería exigir una confirmación clara y contextual.
Esa confirmación debe enseñar el efecto real: qué cuenta se usará, a quién llegará el mensaje, qué datos se compartirán, cuál es el precio final, qué comisiones incluye y si la operación puede cancelarse. Si el agente ha escogido entre varias alternativas, también debería mostrar con qué criterio lo hizo y qué incertidumbres quedan abiertas.
El punto más delicado son las autorizaciones permanentes
El punto más delicado son las autorizaciones permanentes. Son cómodas para tareas repetitivas, pero las circunstancias cambian. Suben los precios, se modifican condiciones, una cuenta puede verse comprometida o una instrucción futura puede interpretarse de otra manera. Una autorización prudente tendría límites de importe, comercio, frecuencia y duración. Y debería caducar si no se usa o si cambian las condiciones de la operación.
También importa evitar una supervisión de apariencia. Si el usuario recibe avisos constantes y pulsa aceptar sin leer, esa confirmación pierde valor. La intervención humana sirve cuando llega antes de la acción, explica lo que ocurrirá y permite corregirlo o detenerlo. Cuanto mayor sea el coste, la irreversibilidad, la exposición de datos o el impacto sobre terceros, más específica debe ser esa supervisión.
La responsabilidad tampoco desaparece detrás de la palabra IA. Meta debe responder por lo que controla: el diseño de seguridad, el aislamiento técnico, la protección de credenciales, los permisos, los registros y los mecanismos para pausar o detener una tarea. Las empresas conectadas, como comercios, servicios de viaje o proveedores de pago, mantienen sus propias obligaciones de consumo, seguridad y prevención del fraude.
Si algo sale mal, habrá que mirar quién diseñó el sistema, qué instrucciones recibió, qué permisos tenía, si el usuario confirmó la operación y si fallaron los controles. La confirmación del usuario puede influir, pero no convierte automáticamente al usuario en responsable único de un producto mal diseñado o de una ejecución defectuosa.
En Europa, la Ley de IA no tiene una categoría automática llamada “agente”. El encaje depende del modelo, su finalidad y el sector donde se use. Un asistente para reservar un hotel no es necesariamente de alto riesgo. Pero la misma tecnología aplicada a selección de empleo, solvencia o acceso a servicios esenciales puede activar exigencias mucho más estrictas.
Muse tiene, en principio, dos planos
Muse tiene, en principio, dos planos. Si el modelo que lo impulsa entra en la categoría de propósito general, su proveedor puede tener obligaciones de documentación, transparencia y gestión de riesgos. Y el agente concreto deberá cumplir reglas adicionales según la tarea que desempeñe. La Ley de IA no sustituye al RGPD, las normas de consumo, pagos, contratación electrónica o ciberseguridad. Todas siguen contando.
La idea práctica es delegar con límites. Un agente puede ahorrar pasos, pero necesita permisos mínimos, acciones críticas confirmadas, registro comprensible y una salida rápida cuando algo se desvía.
Para continuar, puedes generar Five Cents sobre Cómo proteger tus datos ante agentes de IA y Responsabilidad legal de las compras automatizadas.
Ya estás al día en cinco minutos.