El despliegue y evolución de la inteligencia artificial generativa trajo consigo numerosos encantos. Además, tal como repasamos anteriormente en TN Tecno, el empleo de esas tecnologías y su exponencial divulgación implican riesgos que deben ser atendidos. Uno, entre los tantos, es la dificultad para distinguir los contenidos reales de aquello que no son auténticos, es decir, aquellos que fueron creados con esas herramientas cada vez más poderosas y convincentes. Fake news, difamación y acoso a través de falsificaciones son algunas de las problemáticas que emergen.
En ese marco, las compañías y organizaciones que participan en el campo de la IA —o que tienen vínculos con ese ámbito— evalúan posibles soluciones. Una de ellas es Snapchat, que esta semana dio a conocer parte de su plan para combatir los inconvenientes relacionados con el contenido sintético. ¿Qué tiene entre manos la aplicación del fantasmita?
Snapchat usará marcas de agua para buchonear a las imágenes generadas con IA
El problema no es trivial: conforme los generadores de imágenes con inteligencia artificial mejoran y expanden sus capacidades, se torna más complejo saber si el contenido es real o sintético. Pensemos en lo siguiente: mientras que las ediciones más artesanales, por ejemplo con Photoshop, exhiben signos evidentes de retoque; en sistemas avanzados como DALL-E o Midjourney es cada vez más difícil la identificación.
/cloudfront-us-east-1.images.arcpublishing.com/artear/RQCEDIK6URBFNEGQ5FWBU4KLS4.jpg)
El plan de Snapchat es concreto: usarán marcas de agua en las imágenes generadas con IA. Siguiendo el repaso del sitio ZDNet, la identificación en aquella aplicación es un pequeño fantasma, igual al logotipo de la red social. Tal como vemos en la foto sobre este párrafo, se añade un pequeño destello con forma de estrellas.
En ese ejemplo, no hay grandes inconvenientes: sabemos que el perrito no es real. El asunto es cuando las imágenes muestran escenas que no son caricaturescas, o dibujos, por ejemplo con personas reales.
Las marcas de agua para identificar las creaciones con IA serán moneda corriente
La propuesta de Snap —la compañía que desarrolla Snapchat— se encuadra con los planes de otros integrantes de la escena digital.
Uno de los referentes del sector, OpenAI, recientemente presentó en sociedad a Sora, una herramienta de IA capaz de crear videos con pocas indicaciones de texto. Es una suerte de ChatGPT con capacidades audiovisuales. Tal como detallamos en TN Tecno, el sistema aún no se lanzó públicamente, ya que la organización que dirige Sam Altman debe pulir algunos detalles de su funcionamiento y, especialmente, atender a los riesgos que implica el despliegue de una tecnología con potencial para desinformar y engañar.
En ese marco, en la previa del esperado lanzamiento, informaron una medida análoga a la de Snapchat: los videos tendrán una marca de agua indeleble, un indicador que delatará la artificialidad de los videos que, sin embargo, pueden ser muy parecidos a una escena del mundo real.
