Morelo: "Tenemos que formarnos para no caer en información falsa. Debemos conocer las herramientas"

Experto en diseño digital habla sobre necesidad de tener una educación para no caer en la información falsa creada por la IA generativa.

Por: Sahira Vargas

05 de septiembre 2024

Tomada del Seminario web: ¿Cuál es el cuento con la IA?: El uso de la inteligencia artificial en la comunicación digital.

La Fundación Gabo y el Ministerio TIC desarrollaron un seminario web donde se exploraron los retos y las oportunidades que ofrece la inteligencia artificial generativa. Más de 150 personas estuvieron conectadas a la transmisión. Se contó con la participación de Jorge Daniel Morelo, diseñador digital; Daniel Suárez, periodista y Renata Cabrales, periodista experta en comunicación digital.

A lo largo del seminario se abordaron temas fundamentales de la IA, donde se evidenció que es una herramienta potencial y de gran ayuda. Aunque sea capaz de entender y sugerir ideas a quien la use, es un sistema que no ha logrado tomar decisiones por sí solo, ya que detrás siempre está la interacción de un ser humano.

Jorge Morelo experto en diseño digital, afirma que la IA generativa “es una herramienta que nos permite generar imágenes, videos, textos, no hay límites para la creación de contenidos, no se necesita ser habilidoso para generar un contenido en estos formatos”. Sin embargo, aclara la importancia de ser correctos cuando sean usadas estas tecnologías.

La animación Jerónimo el bocachico Véase también: aquí fue un trabajo que desarrolló con Ginna Morelo, periodista y actual profesora de la Universidad Javeriana. Este video fue desarrollado con IA y la finalidad era contar una historia en un formato que no es usual, utilizando diversas inteligencias artificiales. Una para generar las imágenes, Metavoice para modificar la voz, Runway para animar las escenas, entre otras.

Aquí el experto evidenció algunos retos y sesgos que se presentan con la IA. Un ejemplo son los sesgos raciales, dado que consideran en EE. UU. únicamente hay blancos, muy pocos de raza de color. De igual manera, se pueden presentar problemas al imitar la voz que hay en una región. Advierte la necesidad de una regulación por parte de los creadores OpenIA, Meta, Microsoft, entre otros, para no continuar estimulando estos sesgos.

De igual manera, Morelo hace un llamado para regular y definir lo que se puede y no hacer con esta tecnología. Además, resalta la importancia de “formarnos. Hay que saber utilizar las herramientas, hay que reconocer qué son capaces de hacer para que la formación nos lleve a dudar y a identificar la información que es generativa”. Según él, si no se analiza algún contenido falso, el algoritmo puede seguir arrojando cosas falsas que se seguirán reproduciendo.