En la era digital actual, las inteligencias artificiales (IAs) se han convertido en herramientas fundamentales para crear contenido. Sin embargo, todos estos avances vienen acompañados de una creciente preocupación: ¿qué tan verídica es la información que proporciona una IA?

¿Las IA’s generan información falsa?

Un ejemplo muy claro y reciente de los falsos datos que arrojan las IAs es tras el lanzamiento del nuevo trailer de “Megalopolis”, película del famoso director Francis Ford Coppola. Donde aparece una serie de críticas negativas sobre los trabajos anteriores del director; sin embargo, todas esas críticas nunca existieron.

Parece que el equipo encargado de incluir esas citas prefirieron ahorrar tiempo e ir directamente a una IA y pedir que enlistaran citas negativas del trabajo de Coppola. El resultado fue una serie de comentarios inventados por el algoritmo, que nunca fueron escritos ni publicados por críticos reales.

Como era de esperar, todo el mundo se dio cuenta que estas críticas eran falsas. Provocando una lluvia de comentarios en redes sociales contra Ligostate, por permitir el uso engañoso de la tecnología. Por su parte, el equipo de edición ya se disculpó con el público por su error.

Este incidente subraya la importancia de recordar que, aunque la tecnología sea muy útil, también puede ser utilizada para difundir información falsa. A medida que el algoritmo de las IAs continúan evolucionando, es fundamental que seamos conscientes de estos riesgos y trabajemos para garantizar que la información que consumimos sea precisa y fiable.

¿Cómo influye la inteligencia artificial en la desinformación?

Las IAs, especialmente las diseñadas para generar texto (como Chat GPT) pueden producir contenido que parece veraz y convincente. Los algoritmos de aprendizaje automático, que son la base de estas tecnologías, están entrenados con enormes volúmenes de datos. Estos modelos aprenden a predecir el próximo fragmento de texto basado en patrones encontrados en los datos con los que se han entrenado.

El problema es que, cuando estos algoritmos están desactualizados o no cuentan con los datos necesarios para generar el contenido que buscas, la IA puede producir textos llenos de información falsa e incluso inventar datos.

Además, las IAs tienen la capacidad de generar texto de manera coherente y persuasiva, lo que hace más difícil identificar la información falsa o errónea. Esto plantea un desafío importante, pues la información falsa producida por estas herramientas puede ser compartida y difundida rápidamente, ampliando su impacto y contribuyendo a la propagación de noticias falsas.