Atención, artistas: Midjourney lanza nueva herramienta de edición de imágenes con IA

Midjourney, la popular plataforma de arte generada por IA, tiene previsto lanzar una herramienta web mejorada que permitirá editar cualquier imagen cargada desde la web utilizando la IA generativa de Midjourney. La herramienta actualizada, que según el CEO de Midjourney, David Holtz, se lanzará "a principios de la semana que viene", también permitirá a los usuarios retejer objetos en las imágenes para "repintar" sus colores y detalles según los pies de foto.

Edición de imágenes con IA: Un campo en auge

La edición de imágenes existentes con IA se ha convertido en un tema candente últimamente. Plataformas como Meta han lidiado con la forma de etiquetar las imágenes editadas con herramientas de IA frente a las generadas desde cero con un modelo de IA, mientras que empresas como Google han lanzado potentes funciones de IA que no dan ninguna indicación visual de que las imágenes han sido modificadas por IA.

El compromiso de Midjourney con la transparencia

El año pasado, Midjourney se comprometió a utilizar la propiedad Digital Source Type del IPTC, un estándar técnico que incrusta metadatos en las imágenes indicando que han sido generadas por IA. Sin embargo, la empresa es una de las pocas plataformas principales de IA que no ha adoptado C2PA, una tecnología de metadatos que rastrea la procedencia completa de una imagen, incluido el equipo y el software utilizados para crearla.

Preocupaciones éticas y riesgos de abuso

Honestamente, no estamos seguros de cómo restringir con precisión el despliegue de esta función.

David Holtz, CEO de Midjourney

En una publicación en el servidor oficial de Discord de Midjourney, Holz dijo que la herramienta de imagen mejorada se restringirá a un "subconjunto de la comunidad actual" para comenzar, con una mayor moderación humana, así como "moderadores de IA nuevos y más avanzados" para intentar evitar abusos.

Existen riesgos al liberar este tipo de herramientas de edición sin las garantías adecuadas. Podrían facilitar la infracción de derechos de autor a escala masiva o promover la difusión de deepfakes engañosos.

El problema de los deepfakes

Los deepfakes se están extendiendo como la pólvora en las redes sociales, lo que dificulta distinguir la verdad de la desinformación. Más recientemente, imágenes generadas por IA falsas de destrucción y sufrimiento humano inundaron la web tras el huracán Helene.

Según datos de Clarity, una empresa de detección de deepfakes, se han creado y publicado un 900% más de deepfakes este año en comparación con el mismo período del año pasado. Esto está causando alarma, comprensiblemente.

Medidas legislativas y responsabilidad

A falta de una ley que criminalice los deepfakes a nivel federal en los EE. UU., más de 10 estados han promulgado estatutos contra la suplantación de identidad asistida por IA. La ley de California, actualmente estancada, sería la primera en otorgar poder a los jueces para ordenar a los carteles de deepfakes que los eliminen o potencialmente enfrenten sanciones monetarias.

Midjourney no ha sido precisamente un ejemplo brillante de implementación responsable de IA. (Está siendo demandado por su supuesto uso de contenido protegido por derechos de autor para entrenar sus modelos de IA generativa, por ejemplo). Pero en los últimos meses, la plataforma ha tomado medidas para limitar la propagación de deepfakes, incluidos filtros para figuras políticas antes de las elecciones presidenciales de EE. UU.

Fuente: https://finance.yahoo.com/news/midjourney-plans-let-anyone-edit-170733819.html