Cómo lograr el equlibrio riesgo/beneficio de la IA generativa en la interacción con el cliente

Un enfoque múltiple permitirá el necesario equilibro entre el riesgo de utilizar la IA generativa en la interacción con el cliente y los beneficios de la tecnología.

La IA generativa está adquiriendo un papel protagonista cuando se trata de atraer a los clientes, sobre todo, en el departamento de ventas y marketing: Un 73% de los responsables de marketing de EE.UU. ya utiliza la IA generativa. Hay una buena razón para hacerlo. En la encuesta que realizamos en septiembre de 2023 entre los responsables sénior de la toma de decisiones de tecnología y de negocio en EE.UU. y Reino Unido, los participantes coincidían en que la IA generativa podrá crear campañas de marketing y contenido personalizados.

Es más, cuando se trata del servicio al cliente, casi tres cuartas partes de líderes sénior entrevistados dijeron que ya utilizan la IA generativa para una variedad de tareas, desde tomar datos de las conversaciones de los clientes para dar respuesta a sus necesidades hasta clasificar las peticiones entrantes.

Pero la IA generativa también presenta desafíos. Es necesario tener presente que los programas de IA generativa pueden generar distorsiones o malinterpretaciones. En algunos casos, esto podría no ser un gran problema, pero cuando se trata de interacciones con los clientes, las respuestas falsas, sesgadas o inapropiadas pueden empañar la imagen de una marca, lo que puede desembocar en una pérdida de la confianza por parte el cliente y en posibles repercusiones financieras.

En muchas de las conversaciones que mantengo con los clientes interesados en las soluciones de la IA generativa, sé que esto les quita el sueño: “¿Esta tecnología asustará más a la gente que ayudarla?” En nuestra encuesta, el 88% de los ejecutivos estaba preocupado por los resultados impredecibles de la IA generativa en la organización y cuatro de cada cinco sobre la fiabilidad factual de los resultados de la IA generativa.

Una herramienta no es suficiente

Las organizaciones responsables han empezado a crear salvaguardas que incrementan la confianza en sus sistemas basados en la IA generativa. Esto incluye la comprobación de los sesgos no deseados y las respuestas éticas problemáticas que emanan de las herramientas que tratan con el cliente. Hasta ahora, estos esfuerzos han dependido en gran medida de mantener a los humanos en el bucle, lo que puede resultar en un coste insostenible.

Y mientras la supervisión humana a menudo garantiza que los resultados de IA están alineados con los valores de la marca y las expectativas de los usuarios, tener personas supervisando cada interacción no es factible a escala. En vez de eso, lo que se necesita es un enfoque múltiple.

Un enfoque múltiple incluiría una serie de herramientas: agentes de IA generativa, modelos de aprendizaje predictivo subrogados, modelos de decisión informados, supervisión humana e intervención e, incluso, herramientas que todavía no se han inventado. Éstas permitirán trabajar juntos para garantizar que el sistema de IA generativa proporciona respuestas imparciales, respetuosas con la marca y éticamente responsables.

Modelando la incertidumbre

Como parte de este enfoque, recomendamos a las empresas que se apoyen mucho en el área poco explorada del “modelado de incertidumbre”. La modelización de la incertidumbre ayuda a las organizaciones a equilibrar los beneficios de la IA generativa frente a los riesgos que supone. Es decir, deben considerar casos en los que la entrada o la salida de sus modelos predictivos es desconocida y basándose en eso, evaluar el grado de incertidumbre de dichos modelos.  

Si el sistema de toma de decisiones fue entrenado o puesto a punto con muestras que ya no son precisas u operativas, el modelo de incertidumbre debe emitir un aviso. También se debe alertar si el modelo sugiere decisiones que rara vez, o nunca, ha sugerido antes.

El modelado estadístico y de probabilidad que usa modelos matemáticos, como los programas gaussianos, pueden utilizarse para decidir el grado de incertidumbre de la predicción del sistema sobre las consecuencias de la decisión sugerida.

Cuando el sistema no está seguro sobre qué responder, debería solicitar la intervención humana. Esto garantiza que las respuestas potencialmente problemáticas se intervienen y corrigen antes de ofrecérsela al cliente.

La flexibilidad es la clave

“El diablo está en los detalles” es un proverbio cierto y la pregunta del millón de dólares es la siguiente: ¿Qué es lo que debería desencadenar la intervención humana? Cada compañía necesita responder a esta pregunta en sus propios términos, teniendo en cuenta múltiples variables:

• Confianza en la capacidad del programa para abordar de forma correcta una pregunta o situación concreta.
• El nivel de riesgo para la marca si la IA generativa comete un error.
• Preocupaciones regulatorias, incluida las consideraciones de confidencialidad de los datos.
• La competencia ¿qué fuerza tienen las soluciones de la IA generativa de los competidores?

En otras palabras, la clave es la gobernanza. Cada organización debe ajustar su enfoque a su relación riesgo/recompensa, manteniendo su flexibilidad y adaptabilidad. Por ejemplo, una aerolínea puede decidir que, si bien las cotizaciones de tarifas son muy precisas y, por tanto, solo requieren una doble comprobación automatizada, las solicitudes de cambio de vuelo de última hora requieren la intervención de un agente humano. Las industrias sanitaria y financiera, debido a la normativa y a la sensibilidad de los resultados, probablemente exigirán más intervención humana que otros sectores.

Cómo controlarla

La IA generativa está cambiando rápidamente la forma en que automatizamos nuestra toma de decisiones, por lo que puede ser difícil seguirle el ritmo. Pero en la situación actual, las empresas están gastando mucho dinero al depender en exceso de la intervención humana o arriesgando su reputación al confiar demasiado en la tecnología.

Al adoptar los controles y equilibrios que he comentado, los líderes pueden encontrar el equilibrio entre la confianza y su posicionamiento para obtener una ventaja competitiva seria.