• Los deepfakes son técnicas de inteligencia artificial que crean o manipulan imágenes, videos y audios para producir contenido falso pero muy realista.

• Se basan principalmente en técnicas de aprendizaje automático, como las redes generativas adversariales (GANs), que permiten la creación de contenido sintético al aprender patrones de datos existentes.

• Pueden ser utilizados para difundir noticias falsas o manipular opiniones públicas al presentar contenido engañosamente real.

En tiempos donde la inteligencia artificial se ha vuelto una herramienta accesible para millones, también surgen nuevas formas de engaño. Así lo demostró un creador de contenido al revelar lo fácil que puede ser cometer una estafa utilizando IA, específicamente mediante la clonación de voz.

En su video, el hombre enseña paso a paso cómo emplea un programa para modificar su voz masculina y transformarla en la de una mujer con tono dulce y convincente. Luego, utiliza esta identidad falsa para interactuar en redes sociales, donde pide regalos y favores a desconocidos. Lo más sorprendente es que muchas personas responden positivamente, enviando obsequios sin cuestionar la autenticidad de la persona detrás de la pantalla.

La intención del creador no es estafar realmente, sino generar conciencia. A través de este experimento, busca alertar sobre la facilidad con la que cualquiera podría crear perfiles falsos y manipular conversaciones gracias a herramientas de IA, muchas de las cuales están disponibles gratuitamente en internet.

@lgerardo_rdz Los perfiles de modelos IA’s en instagram cada vez son más comunes y si no lo haces tú, alguien más lo hará. #tutorial #ia #ahitelodejo #luisgerardo #inteligenciaartificial ♬ Ojitos Mentirosos – A Mover La Colita Cumbias

El video ha generado una oleada de reacciones en redes sociales. Mientras algunos usuarios lo consideran una advertencia útil y oportuna, otros expresan preocupación por el creciente uso de tecnologías avanzadas con fines maliciosos. Incluso expertos en ciberseguridad han advertido que este tipo de fraudes podrían multiplicarse en los próximos años si no se regula el uso ético de la inteligencia artificial.

Este caso pone sobre la mesa la urgencia de fortalecer la educación digital, verificar identidades en línea y, sobre todo, no creer ciegamente en lo que vemos o escuchamos a través de una pantalla. Porque hoy más que nunca, no todo es lo que parece.

Las estafas con inteligencia artificial en México están creciendo de forma alarmante y cada vez son más sofisticadas según datos de la empresa de ciberseguridad Kaspersky los intentos de fraude con mensajes falsos o phishing aumentaron un doscientos veinte por ciento entre julio de dos mil veintitrés y julio de dos mil veinticuatro además se ha detectado un incremento en el uso de dominios de IA creados para engañar a usuarios mexicanos a través de sitios web maliciosos

Por otro lado la Asociación de Bancos de México reportó que los fraudes bancarios relacionados con la suplantación de voz han aumentado en un veinticinco por ciento en el último año lo que refleja el uso de herramientas de clonación de voz para cometer estafas financieras

La Secretaría de Seguridad y Protección Ciudadana indicó que una de cada diez personas ha recibido al menos un mensaje de voz clonado con inteligencia artificial y de ese grupo el setenta y siete por ciento resultó víctima de algún tipo de fraude lo cual demuestra la vulnerabilidad de los usuarios ante estos métodos

Además según un estudio de la firma Avast el sesenta y nueve por ciento de los usuarios en redes sociales en México afirma haber visto audios o videos alterados y entre el diez y el quince por ciento de ellos admitió haber caído en la trampa después de interactuar con ese contenido

México también figura entre los países con más intentos de fraude bloqueados en América Latina con más de seiscientos noventa y siete millones de ataques según el informe de amenazas digitales en la región publicado por Kaspersky lo que confirma que el país es uno de los principales objetivos para estafadores que utilizan ingeniería social potenciada por inteligencia artificial

Este panorama deja en evidencia que las estafas con IA no son una amenaza futura sino una realidad presente en México donde la falta de regulación y la alta disponibilidad de herramientas tecnológicas hacen urgente la educación digital el pensamiento crítico y el uso de medidas de seguridad más estrictas

Ahora lee: 

Piden a usuarios dejar de usar CapCut por estas razones

Vendedora en live pierde la paciencia y corre a todos

Depilan a Chimuelo de “Cómo entrenar a tu dragón” para promocionar marca de belleza