La neutralidad como ideología: crítica de la cultura algorítmica

• Domingo García Marzá ^[1]
  1. [1] Universitat Jaume I

     Universitat Jaume I

     Castellón, España

     
• Localización: Marketing y comunicación en ética empresarial. XXIX edición del Congreso EBEN España: libro de actas / coord. por Abel Monfort, Susana Fernández Lores, 2022, ISBN 978-84-18944-79-6
• Idioma: español
• Texto completo no disponible (Saber más ...)
• Resumen

  • La fuerza de impregnación de la actual colonización algorítmica, tanto del estado como de la sociedad civil, requiere de una actitud y un estado de ánimo, de una confianza y de una credibilidad, que no se explican sin una cultura previa que ha sabido definir y allanar el camino a seguir. El objetivo de esta participación es analizar las bases socio-culturales que han posibilitado la rápida extensión de la IA en todos los ámbitos, lo que se dado en denominar la revolución algorítmica. Tanto la reflexión científica como su aplicación tecnológica a los diferentes ámbitos del estado y la sociedad civil, requieren y presuponen siempre unos criterios valorativos de legitimidad, por decirlo más fácil, un crédito de validez con el que poder funcionar.

    La acelerada colonización algorítmica actual no se puede entender, y menos explicar, si no hacemos referencia a un cultivo previo, a un terreno abonado desde el cientificismo o el objetivismo, como queramos llamarlo, que ya lleva años reduciendo el desarrollo humano al desarrollo tecnológico.

    Si no somos capaces de revelar que ambos desarrollos siguen lógicas diferentes que deben integrarse desde la racionalidad práctica, desde el acuerdo de todos los posibles afectados, las tecnologías que componen la IA no proporcionarán un desarrollo centrado en las personas, se convertirán más bien en la puntilla que acabe con la autonomía y, por tanto, con nuestra capacidad de decidir nuestra vida individual y colectiva. Nuestra dignidad se ve amenazada por el reduccionismo de toda dataficación que entienda la economía, la política y, en general, la construcción del orden social desde el control y la comercialización de nuestras vidas. Se corre el peligro de acabar reduciendo el orden social, e incluso, los criterios de justicia, a simples datos.

    Un proceso sustentado en la falsa creencia de que de la IA y de sus algoritmos, depende el futuro de la humanidad.

    Para mostrar esta resbaladiza confusión, bien operativa y fecunda en nuestros días, la presente comunicación dará los siguientes pasos. En primer lugar, desde una perspectiva crítica, mostraremos que la confianza en que los algoritmos basados en la matematización de la realidad tomarán mejores decisiones que los humanos no es una apuesta por la neutralidad y la objetividad, sino más bien una ideología determinada apoyada en unos valores concretos y en un interés de dominio cuya palanca son ahora los algoritmos y los datos que los alimentan.

    En segundo lugar, resumiremos las características más importantes de la cultura algorítmica encargada de convertir esta ideología en un suelo firme sobre el que construir todo el contexto socio-digital actual. Entraremos en el núcleo de esta cultura, hoy hegemónica, que solo nos permite ver la realidad desde sus marcos digitales, incluso presentarnos como solución una realidad alternativa desde coordenadas digitales.

    A continuación, y como principal combustible para que esta cultura alcance la hegemonía, nos centraremos en el concepto de poder y en las consecuencias del neuropoder cuyo ensamblaje con las pretensiones de la deriva algorítmica nos permitirá entender la actual presión y la rapidez de su encarnación en todos los ámbitos de la vida cotidiana y en nuestra propia identidad.

    El resultado es, en cuarto lugar, el tecnopulismo, la integración de la mal llamada posverdad y las nuevas tecnologías digitales. El punto final muestra de forma breve aquello que hemos ido desarrollando a lo largo de nuestro proyecto de investigación: la cultura algorítmica es incompatible con la cultura democrática, sencillamente porque todo ethos democrático presupone la autonomía y, con ella, la capacidad de deliberar, decidir y actuar conjuntamente.