Citi, Ford y Experian comparten sus estrategias para escalar agentes de IA

"Para poder confiar, necesitas poder ver lo que está pasando." Esta máxima aparentemente simple está en el corazón de los despliegues de IA actuales en el panorama empresarial, según Laura Heisman, la directora de marketing de Dynatrace.

"Probablemente esa es la conversación más importante que todos están teniendo en todos los sectores. Lo escuchamos de nuestros clientes todos los días", dijo Heisman recientemente en un panel en la conferencia Brainstorm Tech de Fortune. "La gran pregunta es: ¿puedes confiar en ella? ¿Es correcta? Y si está equivocada, ¿puedes detenerla?"

A medida que las empresas contemplan permitir que los agentes de IA encadenen secuencias de tareas, cada una basada en el resultado de los modelos de IA, la confianza es más importante que nunca. Y la única manera de construir esa confianza, según Heisman y otros líderes empresariales en el panel, es incorporar visibilidad y control en los sistemas. 

"Para nosotros, la visibilidad y la trazabilidad no son opcionales, son fundamentales. Así es como analizamos cada decisión", dijo Nikhil Joshi, director de información de la división de mercados de Citi, el gigante financiero que mueve billones de dólares cada día en más de 100 países.

Citi pasó gran parte de 2024 construyendo una base tecnológica centralizada para todas sus aplicaciones y agentes, dijo Joshi. Esa base ha hecho que la empresa se sienta mucho más cómoda incorporando agentes a producción. 

"Solo hay una única forma de desplegar un agente en Citi, y es a través de este marco central", dijo Joshi. "Eso significa que cada agente está registrado a través de este proceso, cada agente es monitoreado, cada agente es auditado, cada agente está gobernado." 

En un momento en que todos los demás parecen avanzar a toda velocidad hacia la IA, el sistema tecnológico deliberativo y centralizado de Citi podría parecer demasiado conservador para algunos. Pero, dijo Joshi, en realidad ayuda a moverse más rápido a largo plazo. "Ser conservador en IA no es una mala frase", afirmó.

Kathleen Peters, directora de innovación de Experian, coincidió y explicó cómo la empresa de informes de crédito al consumidor ha creado un sistema para gestionar los distintos agentes que se despliegan, rastreando la procedencia de cada agente, el empleado humano que creó el agente y los permisos específicos para acceder a datos o llevar a cabo tareas que tiene cada agente.

"Cuando todos en el ecosistema pueden entender esas piezas, se genera la confianza que permite escalar y avanzar rápido", dijo Peters.

En la industria del automóvil, donde el tiempo promedio para introducir un nuevo vehículo desde el diseño hasta la producción puede tardar años, Ford está utilizando IA para acelerar ciertas partes del proceso y para "fallar rápido", dijo Sammy Omari, Director Ejecutivo de Sistemas Avanzados de Asistencia al Conductor e Infotainment a Bordo de Ford Motor Company. 

La clave, dijo Omari, es contar con las barreras de seguridad adecuadas.

A modo de ejemplo, Omari señaló que empleados no ingenieros, como los diseñadores, ahora pueden aportar código informático para nuevas funciones del automóvil desarrolladas mediante herramientas de "vibecoding" impulsadas por IA. Esto acelera el tiempo que se tarda en ver cómo queda la nueva función en una versión de prueba del coche, y permite descartar rápidamente la idea y seguir adelante si no funciona. Si la idea resulta ser ganadora, los ingenieros entonces escriben el código desde cero, y ese código es el que va en el coche que llega a los consumidores. El vibecoding del diseñador sirvió únicamente como prueba de concepto inicial. 

"Así que la velocidad real de comercialización va a acelerarse", dijo Omari, "pero el proceso de control de calidad al final, antes de que realmente enviemos algo al cliente, no ha cambiado necesariamente."

Esta historia fue publicada originalmente en Fortune.com