Manual de bots de chat con IA para gobiernos
Cómo crear, proteger y administrar asistentes con IA
Cuando me reúno con líderes tecnológicos de organismos gubernamentales, a menudo me comentan que la primera herramienta de IA generativa que han implementado es un bot de chat de IA. De hecho, en enero de 2025, el 80 % de todos los casos de uso documentados de IA generativa en el gobierno federal involucraban bots de chat y asistentes virtuales basados en IA. La mayoría de los organismos han comenzado con programas de chat internos para empleados con el fin de asegurarse de que se sienten cómodos con la tecnología y satisfechos con los resultados antes de crear otros externos para clientes.
Los organismos gubernamentales estatales y locales ahora están igualmente interesados en implementar sus primeros bots de chat con IA. Mientras tanto, los organismos federales que han completado implementaciones internas están planeando el uso de bots de chat externos.
Estos bots de chat de IA son diferentes de los bots de chat tradicionales que se han utilizado durante años. Los bots de chat tradicionales (basados en reglas) siguen guiones fijos y son excelentes para tareas sencillas, pero fallan con preguntas "fuera de guion". Los bots de chat de IA (conversacionales) utilizan el procesamiento del lenguaje natural, el aprendizaje automático y los modelos de lenguaje de gran tamaño para comprender la intención, gestionar el contexto, aprender, mejorar e integrar datos para obtener respuestas integrales a consultas complejas.
Los bots de chat de IA pueden ofrecer respuestas rápidas, coherentes y conformes con las normas, sin necesidad de intervención humana. Sin embargo, su desarrollo, seguridad y gestión pueden resultar complicadas. Para crear un bot de chat, primero deben encontrar un caso de uso que ofrezca resultados rápidos y la experiencia necesaria. Luego, deben optimizar el diseño, elegir el LLM adecuado e integrar con éxito ese modelo con fuentes de datos debidamente seleccionadas.
También deben proteger el bot de chat contra ataques y comportamientos maliciosos. Al mismo tiempo, deben establecer una gobernanza eficaz, que garantice que el modelo no ofrece respuestas inexactas o inadecuadas, lo que a su vez puede conducir a decisiones erróneas, facilitar el fraude, poner en peligro la conformidad normativa y, en última instancia, minar la confianza de los usuarios.
A pesar de los desafíos, no hay duda de que los organismos gubernamentales federales, estatales y locales están avanzando con las implementaciones de bots de chat de IA. Seguir estas cuatro prácticas recomendadas puede ayudar a tu organización a maximizar el valor de estos servicios basados en IA y minimizar los riesgos potencialmente graves.
1. Encuentra el caso de uso adecuado
La creación de bots de chat de IA comienza siguiendo los mismos principios que otras aplicaciones: comprender el problema, diseñar para los usuarios y repetir el proceso basándose en los comentarios recibidos. Para tu primera implementación de un bot de chat de IA, concéntrate en resolver un problema específico, claramente definido y que requiera un gran volumen de trabajo, como responder a preguntas frecuentes. Cuando planifiques ese primer proyecto, examina tanto los usos externos como los internos. Y considera la posibilidad de utilizar un bot de chat para la clasificación, una primera línea de interacción con el usuario que determina la mejor manera de resolver un problema.
Con el tiempo, puedes incorporar capacidades adicionales para abordar problemas más complejos. Por ejemplo, podrías integrar funciones de traducción, admitir voz y texto, y conectarte a varios sistemas.
Casos de uso externos
Los bots de chat externos orientados al cliente o al ciudadano pueden abarcar una amplia gama de funciones. Estos son solo algunos ejemplos:
El Servicio de Ciudadanía e Inmigración de los Estados Unidos implementó "EMMA", un bot de chat que ayuda con las solicitudes públicas relacionadas con los servicios de inmigración, tarjetas de residencia, pasaportes, y mucho más.
La ciudad de Atlanta mejoró los servicios del 311 mediante el acceso las 24 horas del día a asistencia para casos que no son emergencias. Los ciudadanos pueden informar sobre la existencia de socavones o preguntar por los horarios de recogida de residuos en cualquier momento.
El estado de Carolina del Sur va a lanzar un nuevo "asistente residente" basado en IA, apodado "Bradley", que permitirá a los usuarios encontrar respuestas a preguntas frecuentes y obtener ayuda para pagar impuestos, gestionar facturas de agua y mucho más.
Los bots de chat externos se pueden diseñar para admitir consultas anónimas o proporcionar información personalizada. El bot de chat del sitio web de una ciudad podría proporcionar información general sobre permisos de construcción de viviendas o sobre los próximos eventos de forma anónima. Sin embargo, el sitio web de una agencia laboral, tributaria o de vehículos de motor podría proporcionar respuestas personalizadas con información sobre reclamaciones específicas, declaraciones de impuestos o vehículos de una persona.
Casos de uso internos
La mayoría de los líderes informáticos del sector público con los que hablo se están centrando en bots de chat internos para empleados. Los bots de chat internos utilizan la generación aumentada por recuperación (RAG) para aprovechar los datos internos. Pueden ayudar a los empleados a encontrar información y a explorar procesos potencialmente complejos rápidamente, sin depender de sus compañeros de trabajo.
Al igual que los bots de chat externos, estas herramientas internas se pueden diseñar para proporcionar respuestas personalizadas o información más genérica. Por ejemplo:
Un bot de chat de RR. HH. podría guiar a los empleados durante el proceso de incorporación, como el Slackbot "Mrs. Landingham" lanzado en 2015 por la Administración de Servicios Generales (GSA). Un bot de chat de RR. HH. también podría proporcionar información sobre las prestaciones, la compensación y los días libres adaptada a cada persona.
Un bot de chat de TI podría proporcionar soporte técnico y ayudar a los empleados a resolver incidencias de soporte comunes, como las solicitudes de restablecimiento de contraseña o la instalación de nuevo software.
Un bot de chat de gestión de expedientes podría ayudar a los trabajadores sociales y a los evaluadores de prestaciones a consultar rápidamente las normas, resumir los historiales de los casos y extraer información específica de los sistemas internos.
Los bots de chat son expertos en la clasificación: gestionan las preguntas frecuentes y determinan si los problemas deben derivarse a personas. Si están bien diseñados, pueden aumentar la productividad de cualquier centro de atención al cliente y reducir considerablemente los tiempos de respuesta para los usuarios, lo cual es especialmente importante si el bot de chat presta asistencia a un servicio de soporte técnico informático u otra función crítica. Los agentes humanos pueden concentrarse entonces en cuestiones más complejas, sutiles y no rutinarias.
2. Combina tecnologías fundamentales
Tanto si su organización planea crear un bot de chat externo o interno, necesitará los mismos elementos fundamentales: un modelo, un conjunto de datos y un medio para recuperar datos.
LLM
La mayoría de las organizaciones del sector público optan por un LLM que ya existe en lugar de pasar por el proceso caro y lento de crear un modelo por sí mismas. Puedes seleccionar un LLM comercial, como ChatGPT de OpenAI, o un LLM de código abierto, como Llama de Meta.
Cuando evalúes diferentes modelos, considera la funcionalidad, la seguridad y el coste. Por ejemplo, es posible que necesites un bot de chat que pueda manejar entradas y salidas multimodales (como texto, imágenes y audio) en lugar de solo texto. Podrías seleccionar un modelo de código abierto para alojarlo en tu propio entorno controlado y así maximizar la seguridad. Un modelo de código abierto también te permite evitar las tarifas de suscripción y los precios por token potencialmente elevados de los proveedores comerciales.
Conjunto de datos
Si intentas basar el bot de chat en un conocimiento específico, necesitas un conjunto de datos del que el LLM pueda extraer información. Dependiendo del caso de uso, esos datos podrían incluir información sobre la matriculación de vehículos de todos los habitantes del estado, las políticas de recursos humanos de tu agencia o un archivo documental que contenga los registros civiles de un condado. Para dar soporte a un bot de chat, los datos deben almacenarse en una base de datos vectorial, que está estructurada para permitir que los LLM recuerden las entradas anteriores.
RAG
Finalmente, necesitas una forma de integrar el LLM con esa fuente de datos para que tu bot de chat pueda proporcionar información relevante a los usuarios. RAG mejora las instrucciones del usuario con información de esa fuente de datos y, a continuación, consulta el LLM. Después, el LLM sintetiza una respuesta utilizando el nuevo contexto, en lugar de basarse en tus datos de entrenamiento generales.
3. No te apresures con el diseño
Diseñar cuidadosamente la interfaz del bot de chat, la compatibilidad de la plataforma y su relación con otros contenidos será fundamental para garantizar su adopción satisfactoria. Empieza por investigar a los usuarios y, a continuación, define un ámbito limitado para el bot de chat, como los temas específicos que abarcará o un determinado tipo de modelo de preguntas y respuestas. Recopila datos y comentarios para mejorar continuamente el rendimiento y la base de conocimientos del bot.
Para maximizar la utilidad y la inclusividad, considera la posibilidad de implementar bots de chat en diversos canales, como tu sitio web, tu aplicación móvil y una plataforma de texto. Admite varios idiomas (el inglés y el español son prioridades comunes) para aumentar la accesibilidad.
Recuerda también que el contenido del bot de chat debe funcionar junto con otro contenido del sitio web o las preguntas frecuentes. El bot de chat es una herramienta para proporcionar información de una manera que simula las interacciones humanas. No reemplaza la presentación de información por otros medios.
4. Aumenta la seguridad y mejora la gobernanza
Diseñar y construir un bot de chat son solo partes del recorrido. También necesitas formas eficaces de protegerlo y gestionarlo — y eso implicará controlar los datos que entran y salen del bot de chat.
Controla la entrada
Es importante establecer protecciones en las instrucciones del usuario para evitar la manipulación del sistema de IA. En concreto, los equipos deben proteger el modelo y supervisar las instrucciones para detectar amenazas clave, tales como:
La inyección de instrucciones y el jailbreaking: los usuarios podrían intentar invalidar las reglas del bot de chat o engañar al modelo para que ignore la configuración de seguridad introduciendo código malicioso.
Instrucciones inapropiadas: algunos usuarios podrían introducir intencionalmente discursos de odio o contenido explícito, intentando que el modelo interactúe con material inapropiado. Hacerlo supone un desperdicio de recursos informáticos y, en última instancia, podría dañar la reputación de la organización si el bot de chat responde con contenido igualmente inapropiado.
Supervisa el resultado
También debes prepararte para resultados problemáticos, incluidas respuestas inexactas. Por ejemplo, al bot de chat MyCity de la ciudad de Nueva York, destinado a propietarios de pequeñas empresas, se le preguntó si estaba bien que un restaurante sirviera queso mordisqueado por un roedor. La respuesta —obviamente incorrecta— fue que un restaurante podía seguir sirviendo el queso, siempre y cuando evaluara el alcance de los daños causados por el roedor e informara a los clientes.—
Los bots de chat también pueden ofrecer respuestas inapropiadas y sesgadas que perjudican la reputación de los organismos y disminuyen la confianza del público. En un ejemplo muy publicitado de 2025, Grok de xAI publicó retórica antisemita.
Un firewall de IA puede ayudar a proteger las entradas y salidas mediante el bloqueo de la inyección de instrucciones, el envenenamiento de modelos, el uso excesivo y otras amenazas que las soluciones de seguridad tradicionales no pueden abordar. Situado en el perímetro de la red, entre el usuario y el modelo, el firewall puede impedir que las entradas maliciosas lleguen al modelo y que las salidas inadecuadas o no conformes lleguen al usuario. Los organismos gubernamentales pueden controlar totalmente el firewall, utilizando políticas establecidas por ellos mismos.
Empieza a crear, proteger y gobernar
Cloudflare ofrece varias herramientas que pueden ayudar a optimizar el proceso de implementación de bots de chat de IA, todo desde una única plataforma unificada. Por ejemplo, Cloudflare permite a tus equipos crear el backend para bots de chat con una base de datos vectorial, almacenamiento global de objetos sin costes de salida y un servicio para habilitar patrones RAG sin tener que gestionar la infraestructura.
A continuación, puedes crear e implementar bots de chat con tecnología de IA en la red global de Cloudflare. Los servicios de AI Gateway permiten a los desarrolladores incorporar varios LLM en sus bots de chat, al tiempo que obtienen un único punto de control y observabilidad para el tráfico de aplicaciones de IA. La implementación de un firewall para servicios de IA en línea, integrado en la red global de Cloudflare, puede ayudar a proteger tanto las instrucciones como los resultados.
No cabe duda de que los bots de chat pueden ayudar a satisfacer las expectativas de los usuarios de un servicio inmediato, al tiempo que se respeta la creciente tendencia actual hacia la eficiencia gubernamental. Aun así, dedicar tiempo a diseñar cuidadosamente tu bot de chat e implementar la seguridad y la gobernanza suficientes será fundamental para lograr tus objetivos.
Este artículo forma parte de un conjunto de publicaciones sobre las últimas tendencias y temas que afectan a los responsables de la toma de decisiones sobre tecnología en la actualidad.
Autor
Dan Kent — @danielkent1
Director técnico — Sector público, Cloudflare
CONCLUSIONES CLAVE
Después de leer este artículo podrás entender:
Cómo identificar los mejores casos de uso de bots de chat para tu organización
Qué tecnologías clave necesitas seleccionar e integrar
Estrategias para reforzar la seguridad y controlar los bots de chat
Recursos relacionados
Más información sobre este tema
Más información sobre cómo facilitar la implementación de servicios de IA, como los bots conversacionales, sin descuidar la seguridad en "Aprende a garantizar prácticas seguras de IA: Guía del CISO sobre cómo crear una estrategia de IA escalable".