OpenAI y Anthropic marcan las reglas para soltar agentes en finanzas

Durante años, la automatización en finanzas dependía de scripts rígidos o macros de Excel donde cualquier error se pagaba caro. El mes pasado Anthropic lanzó Claude for Financial Advisors, el 14 de septiembre, conectando carteras y CRM para redactar reportes, pero manteniendo siempre al humano en la decisión final.

En AI Engineer New York, celebrado esta semana, OpenAI, Anthropic, Bloomberg y Two Sigma explicaron cómo planean darles verdadera autonomía sin provocar desastres. Joseph Kim, responsable del área en OpenAI, sostuvo que pronto cruzarán un umbral de utilidad donde será viable delegar trabajo pesado, e incluso predijo que para 2027 los agentes generarán ideas de inversión y harán trading directo, reduciendo el uso de Excel y PowerPoint. Eso sí, aclaró que es solo su previsión y no una función lista.

Para no romper nada en el camino, las firmas coincidieron en blindar el entorno fuera del modelo. Andrey Rybka, de Bloomberg, contó el caso real de un agente que tomó como orden de compra una instrucción metida en la reseña de un marketplace, por lo que defendió aislar permisos, limitar el tráfico de salida y colocar un interruptor de emergencia. Por su parte, John Feminella, de Two Sigma, advirtió sobre el peligro de la fatiga de aprobación: si obligas a un analista a validar cada paso rutinario, termina firmando todo sin mirar y el riesgo sube.

A mí me parece que delegar la investigación previa o la detección de discrepancias tiene todo el sentido, pero darle la ejecución de órdenes a un modelo antes de resolver la inyección de prompts es tentar demasiado a la suerte. Quienes ya integran LLMs en tareas con dinero real seguro tienen claro dónde trazar esa línea.

¿Qué tipo de acciones dejarían ustedes en manos de un agente en modo automático y cuáles exigirían siempre su firma manual?

Fuentes: Latent Space · Anthropic