Cloudflare sumó una Web Search API nativa a su AI Gateway, construida en alianza con los proveedores de búsqueda Ceramic.ai, Exa y Linkup. La función permite a los desarrolladores incorporar resultados web en vivo a la ventana de contexto de un modelo durante la inferencia, resolviendo el problema de que los modelos quedan congelados en una fecha de corte de entrenamiento y no pueden referirse a eventos recientes ni a documentación que cambió.
Hay tres vías de acceso disponibles: directamente a través de AI Gateway, mediante un endpoint REST estándar (pasando un token de autenticación de AI Gateway y el nombre de un proveedor en el payload de la solicitud), o a través de un binding de Workers que, según Cloudflare, requiere una sola línea de código para invocarse. Las solicitudes aparecen en los mismos registros de observabilidad de AI Gateway que las llamadas de inferencia de modelos, y el consumo se descuenta del saldo de crédito existente de AI Gateway. Cloudflare afirma que ofrece la búsqueda al precio de lista de la API de cada socio, sin margen adicional, y admite esquemas Bring-Your-Own-Key para organizaciones que ya tienen cuentas propias con esos proveedores. La empresa también señala que indicará qué socios admiten Zero Data Retention, para que los usuarios sepan si sus consultas se almacenan o no.
El rastreo detrás de los resultados de búsqueda está sujeto a la política de bots de Cloudflare: los rastreadores de los socios deben cumplir con los requisitos publicados de "Verified bots", y cada respuesta de búsqueda web debe enlazar de vuelta a la fuente del contenido rastreado.
Cloudflare también adelantó las futuras "Server Tools" integradas directamente en AI Gateway, que eliminarían la necesidad de que los desarrolladores definan ellos mismos la lógica de invocación de herramientas; la búsqueda web figura entre las primeras herramientas previstas. Mientras tanto, Cloudflare publicó un ejemplo de código en Workers que muestra cómo conectar la búsqueda web manualmente dentro de un bucle de invocación de herramientas.