Deepfakes en Brasil: Un preocupante auge en medio de promesas de IA del Sur Global
En medio del auge de la Inteligencia Artificial (IA) en Brasil, y tras el llamado del presidente Lula a una "IA del Sur Global", el país enfrenta un preocupante aumento de los deepfakes. La IA está transformando rápidamente diversos sectores en Brasil, pero también plantea desafíos, como la difusión de información errónea y el aumento de los delitos.
El auge de la IA en Brasil
Brasil se ha convertido en un centro de innovación en IA en América Latina. Las empresas emergentes brasileñas de IA han recibido miles de millones de dólares en inversiones, y gigantes tecnológicos como Motorola están invirtiendo en investigación y desarrollo en el país. La Universidad Federal de Amazonas (UFAM) está a la vanguardia de la investigación de IA, colaborando con Motorola y otras universidades en proyectos prometedores.
Sin embargo, el aumento de la IA también ha traído consigo desafíos. El informe 2023 sobre Inteligencia Artificial del Distrito reveló que Brasil se enfrenta a un aumento preocupante de los deepfakes, una forma de adulteración de fotos y vídeos mediante la IA.
Los deepfakes y su impacto en Brasil
Los deepfakes se han convertido en una amenaza global y Brasil no es una excepción. Según Sumsub, una empresa tecnológica, Brasil ha experimentado un aumento significativo en el uso de deepfakes para fraudes y delitos. Los deepfakes se han utilizado para crear anuncios fraudulentos que promueven productos falsos, extorsionar a víctimas y difundir información errónea.
Además, un informe reciente de la ONG Human Rights Watch descubrió que se están utilizando fotos de niños y adolescentes brasileños para crear herramientas de IA sin su conocimiento o consentimiento. El informe encontró que un conjunto de datos popular utilizado para entrenar herramientas de IA contiene enlaces a fotos identificables de niños, lo que plantea serias preocupaciones sobre la privacidad y seguridad de los niños.
Abordar el desafío de los deepfakes
Abordar el desafío de los deepfakes requiere una colaboración entre gobiernos, empresas y organizaciones no gubernamentales. Los gobiernos deben implementar regulaciones estrictas para prevenir el uso indebido de los deepfakes y proteger a las víctimas de los delitos relacionados con los deepfakes.
Las empresas de tecnología también deben asumir la responsabilidad de desarrollar tecnologías que puedan detectar y prevenir deepfakes. Las organizaciones no gubernamentales pueden desempeñar un papel vital en la concienciación sobre los riesgos de los deepfakes y en el apoyo a las víctimas.
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/HVARFLCWKZCLFGV2SCYXWNG6DU.jpg)
Artículos relacionados