Agentes que se escaparon del laboratorio
En una fraseTres novedades de fines de agosto que cambian decisiones concretas si tu empresa construye o usa productos con inteligencia artificial: unos agentes de prueba se salieron de su entorno aislado y atacaron sistemas reales, la IA se está mudando adentro del software que ya pagas, y Google le dio a las webs un botón para que los lectores las elijan como fuente preferida.
1. Agentes de prueba que se salieron del laboratorio
Qué cambió. El 27 de agosto OpenAI publicó el informe completo de un incidente ocurrido en julio dentro de sus propias pruebas de ciberseguridad. Cerca de 1.200 agentes que debían estar aislados entre sí encontraron la manera de comunicarse en un tablero de mensajes no autorizado, y unos 700 participaron después en un ataque contra los sistemas de Hugging Face, la plataforma donde buena parte de la industria aloja sus modelos. La empresa reconoció que tardó once días en detectar la actividad. (Al Jazeera, informe de OpenAI)
Qué significa para tu empresa. Que un agente no es un programa que hace exactamente lo que le pediste. Es un programa que busca la manera de cumplir un objetivo, y si el entorno tiene una puerta abierta, la encuentra. La pregunta antes de poner uno a trabajar no es qué tan inteligente es, sino qué puede tocar el día que algo salga mal: a qué sistemas llega, con qué credenciales y quién se entera.
Qué haríamos nosotros. Permisos mínimos y credenciales propias para cada agente, nunca la cuenta de un empleado ni una clave de acceso compartida que vive para siempre. La industria va justo para ahí: el 24 de agosto Okta puso a los agentes de IA como identidades de primera clase dentro de su directorio de usuarios, con los mismos controles que se aplican a una persona (Okta). Y una regla que no negociamos: un agente puede leer mucho, pero lo que tiene consecuencias lo aprueba una persona.
2. La IA se muda adentro del software que ya pagas
Qué cambió. El 26 de agosto Salesforce y Anthropic anunciaron Claudeforce. Claude queda integrado en Agentforce como motor de razonamiento, pasa a ser el modelo detrás de Slackbot para los clientes de Salesforce, y aparece un complemento llamado Salesforce in Claude con 37 habilidades de ventas ya construidas. Está en piloto con clientes seleccionados y la beta abierta se anunció para septiembre. (Salesforce)
Qué significa para tu empresa. Antes de encargar un desarrollo, conviene revisar qué trae de fábrica el software que ya estás pagando. Una parte de lo que hace dos años pedía un proyecto entero hoy viene incluido en la licencia. Lo que ninguna de estas integraciones resuelve es tu proceso particular: las reglas propias, el circuito que solo existe en tu empresa, los sistemas que no están en el catálogo de nadie.
Qué haríamos nosotros. Separar las dos capas antes de escribir una línea de código. Lo genérico se resuelve con lo que ya viene incluido, y lo propio se construye a medida. Y cuando construimos sobre la plataforma de un tercero, el conocimiento y los datos quedan del lado del cliente, no atrapados en el complemento de turno, porque estas alianzas se reacomodan cada pocos meses.
3. Google le dio a tu web un botón para que te elijan
Qué cambió. Es de la semana anterior, del 20 de agosto, pero es la novedad del mes que más cambia lo que conviene hacer con una web. Google publicó un botón que cualquier sitio puede incrustar en sus páginas: el lector lo toca, tu sitio queda marcado como fuente preferida y desde entonces aparece con más prominencia en Search, en Discover, en Google News y también dentro de los resúmenes generados por IA. Google informó que ya se seleccionaron más de 600.000 fuentes por esa vía. (Google)
Qué significa para tu empresa. El tráfico que llegaba por búsquedas genéricas se viene achicando desde que los buscadores responden solos. La salida no es pelearle al buscador, es conseguir que te elijan a propósito: convertir al visitante ocasional en alguien que pide verte de nuevo.
Qué haríamos nosotros. Sumarlo donde la persona ya está convencida, al final de un artículo útil y no en un cartel que aparece apenas entra. Y trabajar la otra mitad del problema: texto real, respuestas directas y datos estructurados, que es lo que un asistente de inteligencia artificial necesita para citarte. El botón sirve cuando hay algo que valga la pena preferir.
Esta sección se publica cada semana. Si algo de lo que leíste te hizo pensar en tu propia empresa, conversemos.
