ML/Ai Recommendation systems y la Alegoría de la caverna
Hoy en día múltiples plataformas invierten cantidades no despreciables de dinero en sistemas de recomendación, los cuales día a día se perfeccionan sobre cada usuario para crear un nivel de individualización que te encierra en tu propia caverna.
En el post de hoy quiero tratar sobre la echo chamber creada por las big tech , rrss y una que otra empresa, para así ver y entender su real implicancia (o falta de ésta) en el mundo que nos rodea.
Empezando
No debiera ser misterio que la información que ven 2 personas similares verán en sus rrss, serán ligeramente distintas ya sean publicaciones o recomendaciones, y más profundo que esto, en general uno no sabe lo que realmente ven sus hijos, esto dado a que cada día los algoritmos de recomendación van especializándose más y más en la persona ( individualización ) y la metadata que entrega esta para crear una recomendacion tremendamente personalizada enfocada casi íntegramente en uno.
Técnica de Clustering, pueden observar la imagen de lo que sería un cluster. Este nos permite ver y agrupar personas (para el caso del post) de ciertos credos, razas, características, edades, etc…
Inicialmente las recomendaciones se generaban con técnicas de clustering, dado que no existían las capacidades tecnológicas, manejo de grandes cantidades de data y el foco no era la persona, sino más bien el producto (recordar la frase de ford Un cliente puede tener su automóvil del color que desee, siempre y cuando desee que sea negro), realmente no exista una personalización en el contenido entregado por ejemplo en la televisión, todo se basaba en rating o popularidad de algún artista. En la actualidad vemos un paradigma totalmente distinto, el cual se trata de personalizar todo cuanto podamos (productos, servicios, ropas, contenidos) para así ampliar los márgenes de ganancias, diversificar clientes o crear exclusividad personalizada ( por ejemplo mezclas únicas de colores en tus zapatillas en nike ).
A dónde quiero llegar
Te haz topado todo el dia con contenido similar una y otra vez en youtube, netflix o instagram y te aburres de verlo?
Si la respuesta es sí, entonces estás viviendo un Echo Chamber el cual es manejado por sistemas de recomendación de tu rrss favorita.
No te ha pasado que un tu grupo de amigos, siempre hay pensamientos similares? en tu vecindario todos visten de manera parecida? el valor de los autos en tu residencia tienden a ser similares?, estos y mas ejemplos son explicados de la misma forma hoy en día con el concepto de echo chamber ( en un sentido más amplio ).
Entonces el problema cual es?
Que hoy en día el sesgo es lo que te mantiene en un estado constante de no novedad en tus rrss, el cual genera un tedio continuo el cual es sólo sustentado por la dopamina que libera tu cerebro al esperar y lograr ver algo nuevo, divertido, novedoso o disruptivo en tu rrss de preferencia, manteniendo a una persona adicta al mismo contenido y desde ese punto generar la oportunidad de un up selling de productos nicho.
Upselling de productos nicho
Que quiero decir con esto, por ejemplo si te gusta apple, estarás siempre en el círculo vicioso de las nuevas características del nuevo equipo que saldrá pronto, por lo tanto tus rrss generan el efecto de necesidad para que lo adquieras, esto sustentado en los mismos sistemas de recomendación que limitan tu salida del tópico en cuestión.
Siendo más claro con un ejemplo, no se trata de decir por ejemplo “quiero salir del círculo vicioso del nuevo iphone xxx, por lo tanto veré reviews de equipos samsung”, el asunto de fondo es que ambos equipos tienen valores similares, incluso características similares, por lo tanto es normal que salgan reviews de samsung vs apple ( uno de los grandes trending en búsquedas ), finalmente lo que busca la publicidad es venderte esos equipos de alta gama, indiferente a cualquiera de los 2, esto sustentado en las recomendaciones y sus sesgos introducidos de manera forzada en el entrenamiento de sus redes neuronales.
Ahora que podemos hacer?
Realmente el cambio no le pertenece a las personas y es totalmente lamentable, son las responsabilidades de la ética de cada empresa y desarrollar de manera clara y transparente posiciones estratégicas de Interpretable AI el cual es un rol que ha empezado a surgir en algunas organizaciones.
Podemos limitar el uso de las rrss, engañar las rrss o por último realmente hacer el esfuerzo de estudiar respecto a estos tópicos, dado que deciden dia a dia lo que ver, consumes y añoras.
Comentarios finales.
La única forma que he logrado engañar a estos sistemas de recomendación últimamente, han sido las siguientes.
- Un familiar genere algunas busquedas en Youtube.
- Un amigo haga búsquedas con mi sesion en Google.
- Pedirle a alguien que me recomiende playlist o ponga música desde mi Spotify.
- Hablar con otras personas y curiosear de sus hobbys, así poder buscar sobre esto y ampliar mis interes al menos para engañar estos sistemas
Próximamente se vendrán algunos post mucho más técnicos sobre algoritmos de recomendación, los cuales también estudiarán el nivel de sesgo que debiera tener un sistema imperfecto ( dado que no quiero crearte otra echo chamber ) , que integre nuevos intereses de manera activa.
Los invito a visitar mi web https://feedingthemachine.store/ o https://www.feedingthemachine.ai/ y mi linkedin
Proximamente en https://www.youtube.com/playlist?list=PLEPrRvB1uAOBSxuq6jWLt2HONrB0U4SbG mas contenido practico :)
