En la era de la inteligencia artificial generativa (GenIA), herramientas como ChatGPT, Claude, Copilot, DeepSeek y Gemini, entre otras, se han convertido en aliados estratégicos de las organizaciones.
Según datos de Global Market Insights, el mercado mundial de IA generativa empresarial fue valorado en 4.1 mil millones de dólares en 2024, siendo los principales impulsores de su adopción la nube, la automatización, la creación de contenidos, el servicio al cliente y el uso de chatbots / asistentes virtuales / agentes de IA.
Por otra parte, el estudio “Reinventing Enterprise Operations with Gen AI” de Accenture, reveló su rápida maduración en el entorno corporativo.
Tres de cada cuatro organizaciones (74%) han visto que las inversiones en IA generativa y automatización cumplen o superan sus expectativas, mientras que el 63% planea aumentar sus esfuerzos y fortalecer aún más estas capacidades para 2026.
Sin embargo, esta velocidad de adopción de IA viene acompañada de dos riesgos crecientes: las alucinaciones y los sesgos.
Las alucinaciones —respuestas incorrectas o ficticias que parecen verídicas— ocurren cuando la IA produce datos erróneos, citas inexistentes, estudios inventados o afirmaciones imprecisas con un tono de absoluta seguridad, lo que puede provocar desinformación y errores reputacionales.
Por otro lado, los sesgos reflejan las limitaciones y desequilibrios presentes en la información con la que fueron entrenados estos modelos de GenAI, reproduciendo estereotipos culturales, sociales, políticos o de género que pueden afectar la objetividad y la inclusión en la comunicación corporativa.
Sin duda, el problema es que ambos riesgos suelen pasar desapercibidos debido a la naturalidad y sofisticación con la que la IA redacta sus respuestas. Por ejemplo, el Modelo de Evaluación de Alucinaciones (HHEM) de Vectara, muestran que incluso los modelos de lenguaje de gran tamaño (LLM) más avanzados pueden presentar tasas de error de entre 2.5% y 15%, dependiendo del contexto y la complejidad. Además, en evaluaciones más amplias, hasta el 45% de las respuestas generadas por IA contienen errores significativos, y el 81% presenta problemas de precisión o atribución.
En especial, para las áreas de marketing y comunicación, estos datos no son técnicos, son reputacionales.
A continuación, te comparto seis consejos para reducir las alucinaciones y los sesgos al adoptar la IA en tu compañía:
1. Entender que la IA no “sabe”, predice. La inteligencia artificial generativa es un sistema probabilístico que predice la siguiente palabra. Como señalan expertos, está diseñada para generar respuestas creíbles o razonables, no necesariamente correctas.
Este principio explica por qué la IA puede responder con gran seguridad, incluso cuando está equivocada.
2. Verificación cruzada: la nueva disciplina editorial. En un entorno donde más de mil millones de usuarios utilizan herramientas de GenAI, el riesgo de amplificación de errores es exponencial. Por ello, el fact-checking o verificación de hechos deja de ser opcional:
- Validar cifras en fuentes oficiales.
- Confirmar estudios y reportes.
- Corroborar citas y atribuciones.
La regla es clara: si un dato no puede verificarse, no debe publicarse.
3. El problema invisible: referencias inventadas. Uno de los mayores riesgos es la “fabricación creíble”. La IA puede generar estudios, autores o instituciones inexistentes con total coherencia narrativa.
Esto no es un defecto o fallo menor. Por ejemplo, en el ámbito legal, Damien Charlotin, abogado y científico francés, documentó más de 590 casos en los que se presentaron demandas con citas jurídicas falsas creadas por algoritmos y herramientas de IA.
En el mundo del marketing y la comunicación corporativa, una fuente falsa puede destruir la credibilidad y reputación de una marca.
4. Sesgos: el riesgo reputacional silencioso. Más allá del error concreto, los sesgos representan un desafío ético, ya que el contenido puede ser técnicamente correcto, pero socialmente problemático.
Esto impacta directamente en narrativas de marca, inclusión y diversidad, así como en la opinión pública.
Para evitarlo, en lugar de pedir una única visión, utiliza prompts como:
- Muestra diferentes perspectivas sobre este tema.
- Incluye enfoques diversos y neutrales.
- Evita estereotipos y generalizaciones.
Esto obliga al modelo a ampliar el contexto y disminuir respuestas sesgadas.
5. Diseñar prompts más rigurosos. La IA no es autónoma y la calidad del contenido depende del nivel de precisión que se le exige, por lo que, para reducir significativamente los errores, es imprescindible solicitar links y fuentes verificables, así como fechas específicas.
6. Integrar el criterio humano como ventaja competitiva. Las alucinaciones no desaparecerán por completo ei Incluso modelos avanzados seguirán presentando errores porque priorizan la coherencia sobre la veracidad.
Ante este escenario, el rol humano no desaparece, se vuelve más estratégico y se establece como guardián de la credibilidad, siendo necesario integrar a la organización profesionales como curador de información, editores, periodistas y perfiles de fact-checking de contenido, además de especialistas en diversidad, equidad e inclusión (DEI), equipos legales y de compliance, psicólogos y especialistas en comportamiento humano.
7. Construir una cultura de uso responsable de la IA. La adopción de la inteligencia artificial sin gobernanza es el mayor riesgo, por lo que es necesario que las empresas establezcan:
- Protocolos de verificación.
- Políticas de uso de IA.
- Capacitación en pensamiento crítico.
Rapidez sin rigor, el nuevo riesgo reputacional
En los últimos tiempos, la GenAI ha redefinido la creación de contenidos, tanto escritos como multimedia, pero también eleva el estándar de responsabilidad, por lo que en un entorno donde una respuesta puede ser incorrecta hasta en casi la mitad de los casos, la diferencia no la marca la herramienta, sino el criterio, experiencia y rigor con el que se utiliza.
Sin duda, la creatividad escala con la IA, pero la credibilidad, la confianza y la reputación sigue siendo humana.
________________
Mario A. Esparza es PR mentor, content hacker e storyteller con más de 19 años de experiencia en estrategias de comunicación, relaciones públicas, contenidos y marketing digital B2B/B2C/H2H para cuentas de tecnología, negocios, healthcare, turismo y consumo, entre otras.
