Por qué los CEOs deberían pensarlo dos veces antes de usar IA para redactar mensajes

Si tiene que hacerlo, sea transparente al respecto.

Dada la eficacia con la que la IA puede imitar la escritura humana, no debería sorprender que los CEOs estén experimentando con su uso para redactar mensajes personales. Según un estudio de la Harvard Business School realizado en 2018, el 24% de la jornada laboral de un ejecutivo promedio se destina a la comunicación electrónica. Pero ¿qué pasaría si los CEOs comenzaran a redactar las comunicaciones dirigidas a los empleados utilizando IA generativa?

El año pasado, un grupo de investigadores estudió esta cuestión en Zapier, una empresa estadounidense de software con más de 700 empleados. El profesor Prithwiraj Choudhury, de la Harvard Business School, junto con sus colegas Bart Vanneste (University College London), Xi Kang (Vanderbilt) y Amirhossein Zohrehvand (Leiden University), querían determinar si los empleados podían distinguir entre mensajes escritos por IA y aquellos redactados por el CEO de Zapier, Wade Foster. Utilizando un LLM desarrollado por empleados de la compañía, Choudhury y sus colegas entrenaron un chatbot con mensajes de Slack y correos electrónicos de Foster, declaraciones públicas y otras comunicaciones. El "Wade Bot", como comenzaron a llamarlo los investigadores, fue diseñado específicamente para escribir como Foster.

"La IA y la automatización están teniendo un gran impacto en cómo y dónde trabajamos", afirma Choudhury. "Pero cuando pensamos en la próxima frontera de la IA generativa, una de las posibilidades es que los bots personales se comuniquen, asistan a reuniones, escuchen conversaciones y hablen en nuestro nombre. Queríamos determinar hasta qué punto esto podría ser posible hoy en día".

Los investigadores recopilaron preguntas de 105 empleados para que Foster las respondiera. Tanto el CEO como el Wade Bot dieron sus respuestas, y luego los empleados intentaron identificar cuáles pertenecían a cada uno. Lograron identificar correctamente las respuestas escritas por IA el 59% de las veces.

Hubo otro hallazgo sorprendente. Cuando se pidió a los empleados que evaluaran si las respuestas eran útiles, aquellas que creían que habían sido generadas por IA recibieron calificaciones más bajas, incluso cuando en realidad las había escrito Foster.

Posteriormente, los investigadores realizaron un segundo estudio para determinar si los resultados serían diferentes cuando los evaluadores no tuvieran familiaridad con quien escribía. Reclutaron a 218 personas en Estados Unidos y les pidieron leer respuestas que los participantes creían que habían dado los CEOs durante las conferencias sobre resultados financieros de sus empresas. Mientras que algunas respuestas provenían de conferencias reales, otras fueron generadas por una herramienta de IA que imitaba el estilo de esos CEOs. El estudio encontró que, cuando las personas pensaban que una respuesta había sido creada por IA, la calificaban como menos útil, incluso si provenía de un ser humano. Por el contrario, cuando creían que la respuesta había sido dada por un CEO, la consideraban más útil, incluso si había sido generada por una IA.

En pocas palabras, las personas confían más y valoran más las declaraciones que creen que provienen de un ser humano que en aquellas que atribuyen a la tecnología. Esto sugiere que, aunque la IA puede producir información útil, la percepción de las personas desempeña un papel muy importante en cómo se recibe dicha información.

Aun así, la mayoría de los líderes utilizarán IA generativa de una forma u otra. Según una encuesta de Deloitte realizada en 2024, el 50% de los CEOs en Estados Unidos afirma que sus empresas ya han automatizado la creación de contenido mediante esta tecnología. El 75% dice haber utilizado o estar utilizando personalmente la IA generativa. Si decide hacer lo mismo, Choudhury recomienda seguir tres lineamientos:

1. Sea transparente.

Si sus empleados descubren que ha delegado sus comunicaciones a una herramienta sin informarles, podrían comenzar a creer que cada mensaje que envía ha sido redactado por un bot. La transparencia es fundamental para generar confianza y reducir la aversión que muchas personas sienten hacia la IA generativa. Comunique con claridad cuál es la función de la herramienta y cuáles son sus ventajas. Explique a los empleados qué considera un uso aceptable de esta tecnología, cuáles son sus directrices para utilizar el texto y los datos que generan sus respuestas, y qué tipos de datos utiliza o evita al crear instrucciones y entrenar a los bots.

Su empresa debería contar con reglas que definan hasta qué punto se permite (e incluso se espera) que los empleados utilicen la IA. Evidentemente, usted mismo debe seguir esas reglas, pero también debe informar a los demás sobre cómo está utilizando la tecnología dentro de esos parámetros. Esto ayudará a fomentar un uso constructivo y a responder las dudas que otros puedan tener al respecto.

2. Utilice la IA para mensajes impersonales.

Según la investigación de Choudhury, esta tecnología es más eficaz para comunicaciones formales, como cartas a accionistas o memorandos estratégicos. Evite utilizarla para comunicaciones personales, especialmente con personas que lo conocen bien.

En el experimento de Zapier, los empleados con más antigüedad tuvieron una mayor probabilidad de detectar las respuestas generadas por IA. Por ejemplo, quienes llevaban tres años o más en la empresa tuvieron una tasa de acierto más alta en sus identificaciones (62%) que los empleados más nuevos (58%). Choudhury cree que la familiaridad de estos trabajadores con el estilo de comunicación de Foster limitó la capacidad del bot para imitarlo con éxito. Sin embargo, el estilo personal de un CEO es mucho menos perceptible en una comunicación formal que en un correo electrónico dirigido a un colaborador o en una publicación de LinkedIn.

"Actualmente, el uso previsto debería centrarse realmente en comunicarse con desconocidos o automatizar las partes más rutinarias y tediosas de la escritura", señala Choudhury. "Podría utilizar IA para responder preguntas sobre su estrategia de precios o sobre lo que espera que ocurra con las tasas de interés durante el próximo año. Pero yo no la utilizaría para redactar un correo electrónico dirigido a un miembro de la junta directiva sobre sus últimas vacaciones".

3. Revise su trabajo tres veces.

No confíe en la IA generativa para producir respuestas de manera autónoma. La tecnología se equivoca con frecuencia y tiende a depender en exceso de jerga y palabras de moda. Estos desafíos representan riesgos importantes para los CEOs, cuyos mensajes pueden tener un impacto significativo en empleados, accionistas y clientes. En lugar de limitarse a copiar y pegar las respuestas generadas por la IA en un documento, revise y verifique cada palabra, especialmente cuando se trate de mensajes importantes o delicados. También debería pedir a un editor que revise las comunicaciones generadas con ayuda de la tecnología (o, en realidad, cualquier comunicación) para asegurarse de que su significado, tono y personalidad coincidan con lo que usted pretende transmitir.

"Nunca presione 'enviar' sin leer y verificar la información del mensaje", afirma Choudhury. "La IA generativa es una herramienta extraordinaria que ahorrará mucho tiempo a los CEOs, pero no creo que pueda dejar que funcione por completo de forma autónoma. Incluso si responde incorrectamente una sola pregunta, podría enfrentarse a enormes consecuencias no deseadas".