No deja de asombrarme el avance frenético de la IA en estos últimos meses. Hace un año apenas y era un experimento ver las cosas que generaba ChatGPT, y pensar "oh! de verdad que puede ser útil, parece un buscador re-potenciado", pero en la actualidad con toda esta presión por hacer más y más software que permite copiar voz, copiar caras en tiempo real, y cada vez con mejor calidad y precisión de verdad que nos estamos lanzando de cabeza por un barranco de desinformación que no tiene limites.

Feeds sociales

Sin ir muy lejos, mientras miraba mi feed de Instagram, sale poema de motivación con la voz de Alan Watts pero el texto de otro autor. La pronunciación era perfecta, no pude darme cuenta de nada que me indicara que había sido generado.

Al menos con las imágenes, aún hay un largo trecho, especialmente cuando buscan ser realistas, aún hay fallos, pero evidentemente están trabajando arduamente en crear una herramienta que sea tan cercana a la realidad que nadie pueda darse cuenta de que es generada por computadora. Si al caso vamos, la cantidad de modelos ficticias que aparecieron en OnlyFans donde se puede dudar seriamente sí lo que estamos viendo es real o alguien generado por computadora.

Libros Generados

Otra muestra es los anuncios que salen en la pantalla de reposo de mi Kindle. Usualmente era simplemente publicidad de algún libro, ofertas de temporada, nuevos lanzamientos, pero recientemente empecé a ver continuamente distintos libros de 21 páginas aproximadamente (siempre el mismo número) donde decía "historia para niños y adultos" sobre "el fantasma de la feria", "la sociedad de los meteoritos", entre otros títulos, y solo por curiosidad entré.

Resulta que eran libros super económicos donde todo era generado por IA, desde el nombre de un autor aleatorio, la imagen de portada del libro, y el texto. Algunas personas lo dejaban en los comentarios, pero en otros casos simplemente reciben una calificación baja y listo, pero no deja de ser simplemente alguien que pidió generar un libro para publicarlo y venderlo sin más.

En fin

No dejo de pensar si en realidad es tan necesario que estas herramientas puedan producir cosas que no podamos distinguir entre real o generado por computadora. Evidentemente están haciéndolo porque hay un enorme mercado y potencial de ganancias económicas en ello, pero, ¿es de verdad esta la dirección que debería estar tomando? ¿Alguien se piensa detener un momento y decir que quizás deberíamos considerar no invertir más en el mundo de las falsa noticias, mentiras y realidades alteradas?.

Cuando comencé mi carrera en en el desarrollo de software hace ya 20 años, me parecía maravilloso el campo de la IA y las redes neuronales, era increíble ver cómo los modelos podían aprender, y me sigue pareciendo maravilloso, pero ver que están insistiendo en este camino realmente me hace pensar si estamos realmente listos para este desarrollo tecnológico tan acelerado.

Acerca del Autor

Alex Barrios

Cuenta con más de 15 años de experiencia en distintos campos de las tecnologías de información, ejerciendo principalmente como desarrollador fullstack, administrador de sistemas y asesor de seguridad informática certificado (OSCP, OSCE, OSWP, Hardware Security, Software Security, Usable Security).