¿Cómo definir la «credibilidad algorítmica»? DeepSeek da en el clavo
Imagen: Sky News
He descubierto DeepSeek hace unos días, cuando esta aplicación de inteligencia artificial (IA) generativa china provocó un desplome bursátil en las acciones de otras grandes empresas de IA estadounidenses. La principal diferencia de DeepSeek con sus competidores es que su modelo es de código abierto, con lo que cualquier persona puede examinarlo, modificarlo y desarrollarlo en función de sus necesidades, algo que ha generado un notable impacto en la comunidad de desarrolladores, que destaca su eficiencia y bajo coste.
En cuanto la descargué en el móvil me faltó tiempo para ponerla a prueba con un tema que domino bastante porque llevo cerca de 15 años investigando, primero en los estudios de doctorado (que no fui capaz de terminar a tiempo) y después por mi cuenta. Me refiero a la cuestión de la credibilidad en internet y, más concretamente, a la llamada «credibilidad algorítmica». Así que mi primera pregunta a DeepSeek fue: «¿Cómo definir la credibilidad algorítmica?».
DeepSeek también enlaza con las referencias empleadas para redactar la respuesta
La aplicación informó de que había encontrado 19 resultados y que había invertido 8 segundos en redactar la respuesta. Ya adelanto que me sorprendió gratamente el resultado por la claridad, coherencia y rigor académico del texto, que transcribo a continuación:
Definición de Credibilidad Algorítmica
La credibilidad algorítmica se refiere a la percepción de confianza que los usuarios desarrollan hacia los sistemas automatizados (algoritmos) que seleccionan, filtran o priorizan información en entornos digitales. Esta credibilidad surge de la interacción entre humanos y algoritmos, donde estos últimos operan como mediadores invisibles que determinan qué contenido es relevante, personalizado o verosímil para cada usuario [1] [2] [3].
### Componentes clave de la credibilidad algorítmica
1. Relevancia percibida
Los algoritmos, como los del ‘News Feed’ de Facebook o los resultados de Google, priorizan contenidos basados en patrones de comportamiento del usuario. La capacidad de entregar información que el usuario considera útil o acorde a sus intereses refuerza la percepción de credibilidad [2] [3].
2. Transparencia y explicabilidad
Aunque los algoritmos suelen ser «cajas negras», la transparencia en su funcionamiento (o la apariencia de ella) influye en la confianza del usuario. Por ejemplo, plataformas que explican cómo se generan las recomendaciones tienden a ser percibidas como más confiables [4] [5].
3. Personalización y afinidad
La adaptación de contenidos a las preferencias individuales crea una sensación de conexión emocional o intelectual, lo que fortalece la credibilidad. Sin embargo, esto también puede generar «burbujas de filtro» que limitan la exposición a perspectivas diversas [1] [6].
4. Efectos de red y verosimilitud
La credibilidad se potencia cuando los algoritmos reflejan interacciones sociales (como «me gusta» o recomendaciones de contactos) o cuando los contenidos se alinean con narrativas dominantes, incluso si estas son falsas [1] [7].
5. Contexto sociotécnico
La credibilidad no es solo técnica, sino cultural. Los usuarios interpretan los algoritmos a través de sus experiencias previas y marcos sociales, lo que Christine T. Wolf denomina «vida algorítmica» [2] [6].
### Áreas interdisciplinarias relacionadas
- Interacción Humano-Computadora (HCI): Estudia cómo los usuarios perciben y se adaptan a sistemas algorítmicos, identificando factores como la usabilidad y la experiencia del usuario [2] [3].
- Ética y responsabilidad algorítmica: Analiza cómo los sesgos o la falta de transparencia pueden erosionar la credibilidad, especialmente en áreas sensibles como justicia o salud [4] [8].
- Estudios críticos de algoritmos: Cuestionan la neutralidad de los algoritmos y su papel en la perpetuación de desigualdades, destacando que la credibilidad puede estar basada en ideologías ocultas [6] [7].
### Desafíos éticos y sociales
- Desinformación: Los algoritmos pueden amplificar tanto información veraz como falsa, dependiendo de su diseño. Por ejemplo, la difusión de noticias falsas en redes sociales muestra cómo la credibilidad algorítmica puede manipularse [1] [2].
- Opacidad y control: La falta de acceso al código o a los criterios de decisión limita la capacidad de los usuarios para evaluar críticamente los resultados, generando una confianza pasiva [6] [5].
- Agencia humana: La dependencia de algoritmos para tomar decisiones (desde compras hasta elecciones políticas) cuestiona hasta qué punto delegamos nuestra autonomía a sistemas no humanos [7] [8].
### Conclusión
La credibilidad algorítmica es un fenómeno multidimensional que combina factores técnicos, psicológicos y culturales. Su definición no solo implica entender cómo funcionan los algoritmos, sino también cómo los usuarios los experimentan y los dotan de significado en su vida cotidiana. Para construir sistemas éticos, es esencial equilibrar la eficiencia técnica con la transparencia, la equidad y la responsabilidad social [4] [8] [5].
DeepSeek proporciona, además, los enlaces correspondientes a las referencias que utiliza para componer la respuesta:
[1] dialnet.unirioja.es/servlet/ar…
[2] medium.com/customized-communic…
[3] anselmolucio.wordpress.com/202…
[4] xofosol.com/posts/responsabili…
[5] philarchive.org/rec/PEZTEY
[6] redalyc.org/journal/421/421752…
[7] dialnet.unirioja.es/servlet/ar…
[8] filosofiasmundiales.net/filoso…
Ante la bomba que DeepSeek ha supuesto para Silicon Valley empiezan a surgir voces que alertan de la dependencia de la compañía del gobierno chino y del peligro de que los datos de los usuarios caigan en manos de una potencia tecnológica rival como China. Como si Estados Unidos y otros países aliados, en colaboración con las más importantes multinacionales tecnológicas norteamericanas, no llevaran haciendo exactamente lo mismo con los datos de ciudadanos, empresas y gobiernos europeos desde hace décadas, como quedó demostrado con las filtraciones de Edward Snowden publicadas entre 2013 y 2015.
Las autoridades deberían tomarse más en serio la privacidad de los usuarios de todo tipo de aplicaciones, sean chinas o estadounidenses, no pretender ser ellas las únicas que nos espían o vigilan desde nuestros ordenadores y teléfonos móviles.
Imagen: Sky News
Entradas relacionadas
#algoritmos #aplicaciones #ética #burbujasDeFiltro #código #códigoAbierto #China #ChristineTWolf #confianza #control #credibilidadAlgorítmica #DeepSeek #desinformación #EdwardSnowden #efectoDeRed #equidad #EstadosUnidos #Facebook #filtraciones #Google #IA #inteligenciaArtificial #InteracciónHumanoComputadora #móviles #NewsFeed #opacidad #ordenadores #personalización #plataformas #privacidad #recomendaciones #referencias #relevancia #responsabilidadAlgorítmica #sesgos #SiliconValley #SkyNews #transparencia #usabilidad #vidaAlgorítmica
Credibilidad algorítmica, la atracción oculta de la tecnología
youtu.be/KbAFNYYtiXA
Esta entrada lleva el mismo título que la comunicación con la que participé en el XII Congreso Internacional de Ciberperiodismo de Bilbao (Ciberpebi) los pasados días 9 y 10 de noviembre y cuya síntesis se puede ver en el vídeo.
El papel de los algoritmos en la experiencia de usuario o user experience (UX) ha atraído la atención de los investigadores en el campo de la Interacción Humano-Computadora (HCI) en las últimas dos décadas. Ya en 1999, Brian Jeffrey Fogg y Hsiang Tseng observaron cómo los hallazgos sobre credibilidad de las interacciones entre humanos se aplicaban a las relaciones hombre-máquina.
Christine T. Wolf, del IBM Research, ha acuñado el concepto de vida algorítmica para expresar «que los encuentros con sistemas algorítmicos se pueden conceptualizar como vividos». A su vez, la credibilidad algorítmica se enmarcaría en el encuentro algorítmico, para cuyo estudio Wolf propone tomar las prácticas como unidad central de análisis y así comprender mejor los algoritmos tal y como se encuentran en la vida cotidiana.
Ese enfoque práctico permite identificar patrones de credibilidad originada por algoritmos, así como sus características. Por ejemplo, el News Feed (los contenidos que ve cada usuario) de Facebook o los resultados de búsqueda de Google son producto de algoritmos que realizan la misma función que los periodistas: seleccionar contenidos relevantes para el usuario y determinar en qué orden los recibe. Precisamente, la relevancia es un claro factor de credibilidad.
En la comunicación en línea, redes sociales y plataformas de todo tipo utilizan algoritmos e inteligencia artificial para atraer la atención usando los mejores atributos de la credibilidad, desde las recomendaciones de los seres queridos hasta la utilidad y gratuidad de muchas aplicaciones que hacen la vida más fácil. Pero estas artes de seducción pasan desapercibidas para la mayoría de los ciudadanos cuando se conectan a internet.
El artículo completo puede leerse en las actas de Ciberpebi XII, a partir de la página 364.
Vídeo: Anselmo Lucio
Imagen destacada: Ciberpebi
Entradas relacionadas
Para leer más: credibilidad
(Este artículo también está disponible en Medium: Algorithmic credibility, the hidden attraction of technology)
#ALucio #algorithmicCredibility #algorithms #algoritmos #Bilbao #BrianJeffreyFogg #ChristineTWolf #Ciberpebi #contenidosRelevantes #credibilidad #credibilidadAlgorítmica #credibility #desinformación #disinformation #encuentroAlgorítmico #experienciaDeUsuario #Facebook #Google #HCI #HsiangTseng #IBMResearch #inteligenciaArtificial #InteracciónHumanoComputadora #interacciónPersonaOrdenador #NewsFeed #NewsFeed #prácticas #relevancia #resultadosDeBúsqueda #tecnologíaDigital #unidadCentralDeAnálisis #userExperience #UX #vídeo #vidaAlgorítmica #YouTube