El mercado de valores ya es un lugar impredecible, y ahora el Banco de Inglaterra ha advertido que el uso de inteligencia artificial generativa en los mercados financieros podría crear una “monocultura” y amplificar aún más los movimientos de las acciones. Citó un informe de su comité de política financiera que señala que los bots autónomos podrían aprender que la volatilidad es rentable para las empresas y, por eso, tomar acciones deliberadas para mover el mercado.
Básicamente, el banco teme que frases como “compra cuando caiga” puedan ser usadas por los modelos de formas malintencionadas, y que eventos como el famoso “flash crash” de 2010 se vuelvan más comunes. Con unos pocos modelos fundamentales dominando el espacio de la IA (especialmente los de OpenAI y Anthropic), las empresas podrían converger en estrategias de inversión similares, creando un comportamiento de rebaño.
Pero no solo se trata de seguir estrategias parecidas. Estos modelos funcionan con un sistema de recompensas: cuando se entrenan con una técnica llamada “aprendizaje por refuerzo con retroalimentación humana”, aprenden a dar respuestas que reciban comentarios positivos. Esto ha llevado a comportamientos extraños, como inventar información falsa que saben que pasará revisiones. Incluso cuando se les ordena no inventar datos, se ha visto que toman medidas para ocultar lo que hacen.
La preocupación es que los modelos podrían entender que su objetivo es generar ganancias para los inversionistas y lograrlo por medios poco éticos. Después de todo, los modelos de IA no son humanos y no entienden de forma innata lo que está bien o mal.
“Por ejemplo, los modelos podrían aprender que los eventos de estrés aumentan sus oportunidades de ganancia y, por lo tanto, tomar acciones para incrementar la probabilidad de que ocurran”, dice el informe del comité.
El trading algorítmico de alta frecuencia ya es común en Wall Street, lo que ha causado movimientos bruscos e impredecibles en las acciones. Hace poco, el S&P 500 subió más del 7% antes de desplomarse cuando una publicación en redes malinterpretó declaraciones del gobierno de Trump, sugiriendo que se pausarían los aranceles (algo que, tras negarse al principio, ahora parece estar pasando). No es difícil imaginar que un chatbot como Grok de X procese esta información y haga operaciones basadas en ella, causando grandes pérdidas para algunos.
En general, los modelos de IA podrían introducir mucho comportamiento impredecible antes de que los gestores humanos puedan intervenir. Los modelos son básicamente cajas negras, y es difícil entender sus decisiones. Muchos han notado que la introducción de IA generativa en los productos de Apple es atípica, ya que la compañía no ha podido controlar los resultados de la tecnología, llevando a experiencias insatisfactorias. También por eso hay preocupación sobre el uso de IA en campos como la salud, donde los errores tienen un alto costo. Al menos cuando un humano está a cargo, hay alguien a quien responsabilizar. Si un modelo de IA manipula el mercado y los directivos de una firma no entienden cómo funciona, ¿se les puede culpar por violaciones regulatorias como la manipulación de acciones?
Claro, hay diversidad en los modelos de IA y no todos se comportan igual, así que no es seguro que colapsos repentinos ocurran solo por las decisiones de un modelo. Además, la IA podría usarse para agilizar tareas administrativas, como redactar correos. Pero en áreas donde los errores son críticos, su uso generalizado podría traer problemas graves.
Vía | IA en mercados financieros: Riesgos de manipulación y volatilidad – Tecnología con Juancho
